32------模型可解释性

阳光穿透心脏的1/2处 2023-09-27 19:56 101阅读 0赞

基于神经/变形金刚的方法最近取得了惊人的进步。但是很难理解模型是如何做出决策的。这在使用模型来推动关键决策的敏感领域尤为重要。

本文将介绍如何获得对复杂自然语言模型输出的一定程度的理解。

安装依赖  
安装txtai和所有依赖项。  
pip install txtai\[pipeline\] shap  
语义搜索  
我们将介绍的第一个示例是语义搜索。语义搜索应用程序了解自然语言并识别具有相同含义的结果，不一定是相同的关键字。虽然这会产生更高质量的结果，但关键字搜索的一个优势是很容易理解为什么选择一个结果。关键字在那里。

让我们看看是否可以更好地理解语义搜索输出。  
from txtai.embeddings import Embeddings

data = \[“US tops 5 million confirmed virus cases”,  
“Canada’s last fully intact ice shelf has suddenly collapsed, forming a Manhattan-sized iceberg”,  
“Beijing mobilises invasion craft along coast as Taiwan tensions escalate”,  
“The National Park Service warns against sacrificing slower friends in a bear attack”,  
“Maine man wins $1M from $25 lottery ticket”,  
“Make huge profits without work, earn up to $100,000 a day”\]

## Create embeddings index with content enabled. The default behavior is to only store indexed vectors. ##

embeddings = Embeddings(\{“path”: “sentence-transformers/nli-mpnet-base-v2”, “content”: True\})

## Create an index for the list of text ##

embeddings.index(\[(uid, text, None) for uid, text in enumerate(data)\])

## Run a search ##

embeddings.explain(“feel good story”, limit=1)  
\[\{‘id’: ‘4’,  
‘score’: 0.08329004049301147,  
‘text’: ‘Maine man wins $1M from $25 lottery ticket’,  
‘tokens’: \[(‘Maine’, 0.003297939896583557),  
(‘man’, -0.03039500117301941),  
(‘wins’, 0.03406312316656113),  
(‘$1M’, -0.03121592104434967),  
(‘from’, -0.02270638197660446),  
(‘$25’, 0.012891143560409546),  
(‘lottery’, -0.