王昊奋知识图谱学习笔记--第三讲知识抽取与知识挖掘（上）

我不是女神ヾ 2022-12-15 14:03 318阅读 0赞

本文是基于王昊奋老师的知识图谱入门教程第三讲内容的学习笔记。总体来说，这节课介绍了知识图谱三种数据源，以及针对每种数据源实现的知识抽取方法，最后介绍了一个关于佛学知识图谱的实现案例，并留了两道基于正则表达式实现知识抽取的作业。

因为视频内容过于丰富，我个人有针对性的学习了第一部分，即针对非结构化的知识抽取，也就是关于文本的处理。而对于结构化的数据，和半结构化的数据，仅作为了解，笔记总结的内容不够详细。最后的案例我觉得是很好的，而且有在线的网址效果和对应的论文，有很好的学习和借鉴价值。

# 前言 知识图谱数据来源和知识抽取方式 #

知识图谱的数据源分为三种类型：结构化、半结构化和非结构化。

*  结构化数据：链接数据、数据库。
    
     *  针对数据库的知识抽取方法主要是**D2R**，难点是嵌套表等**复杂表数据的处理**
     *  针对链接数据的知识抽取方法主要是**图映射**，难点是**数据对齐**。从开放知识图谱中希望做一个领域知识图谱，一种方便的做法是图映射，基于自己领域知识图谱中定义的schema, 就需要有开放知识图谱与自己领域知识图谱的数据对齐。
 *  半结构化数据：网页中的表格、列表、百科中的信息。
    
     *  针对半结构化数据的知识抽取是使用包装器，难点是**包装器的定义方法**、**包装器的自动生成、更新和维护**
 *  非结构化数据：纯文本数据、多媒体数据
    
     *  针对非结构化数据的知识抽取方法是**信息抽取**，难点是结果的准确率与覆盖率

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center]

# 第一部分 面向非结构化的知识抽取任务 #

## 1.1 实体抽取 ##

**实体抽取**

实体抽取，又称为命名实体识别。  
它要做的是首先从文本中识别和定位文本，然后将识别到的实体分类到预定义的类别中去。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 1]

在这个例子中，“背景” 和 “10月25日” 分别为地点和时间类型的实体。而“骑士”和“公牛” 为组织类型的实体。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 2]

**实体抽取的方法**

*  基于规则的方法：首先构建大量的实体抽取规则，然后将规则与文本字符串进行匹配。适用于小规模数据集。
 *  基于统计模型的方法：基于统计模型的方法主要涉及到训练语料标注、特征定义和模型训练三个步骤。主要使用的模型有隐马尔可夫模型HMM和条件随机场模型CRF；**其中斯坦福大学的NER 是一个基于CRF实现的命名实体识别工具，具有较高的准确率。**
 *  基于深度学习的方法：主要是将深度学习和统计模型结合使用，通过深度学习得到每个词的新向量表示，然后使用CRF模型输出对每个词的标注结果。主要有**LSTM+CRF 、LSTM-CNNs-CRF（该模型在CoNLL-2013命令实体识别数据集上获得了91.2%的F1值。）**

**相关开源系统**

这一部分涉及的内容太多，理解的不好。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 3]

## 1.2 关系抽取 ##

**关系抽取**  
从文本抽取两个或多个实体之间的关系。  
关系抽取和实体抽取关系密切，一般是在识别出文本中的实体后，再抽取实体之间的关系。  
也即是说实体抽取完成后，在知识图谱中的呈现只有点，没有边。当关系抽取完成后（关系抽取出来的叫抽取元组，还需要再做清理、融合、以及人工审核），我们就有了边。这样一个知识图谱就基本完成了。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 4]

**关系抽取分类**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 5]

**基于触发词的Pattern**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 6]  
**基于依存句法分析的Pattern**

**这是哈工大LTP工具实现的效果，后续可以深入学习LTP的使用。**  
这种依存句法分析，可以理解为更泛化的正则表达式。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 7]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 8]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 9]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 10]

**基于监督学习的关系抽取方法**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 11]  
基于深度学习的方法主要包括两大类：

*  流水线方法。将实体抽取和关系抽取作为两个独立的部分，因此关系抽取的结果依赖于实体抽取的结果，会存在错误累积的问题。
 *  联合抽取方法。将实体抽取和关系抽取相结合，在统一的模型中共同优化。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 12]  
**半监督学习-远程监督**

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 13]

## 1.3 事件抽取 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 14]

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 15]

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 16]

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 17]

# 第二部分 面向结构化的知识抽取任务 #

垂直领域的知识往往来源于企业业务系统的关系数据库。因此，从数据库这种结构化数据中抽取知识也是一类重要的知识抽取方法。在该领域，已经有一些标准和工具支持将数据库转化为RDF数据、OWL本体等。

W3C的RDB2RDF工作组于2012年发布了两个推荐的RDB2RD映射语言。

*  直接映射DM。
 *  R2RML。  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 18]  
    **相关工具**
 *  D2RQ
 *  Mastro
 *  Ultrawrap
 *  Morph-RDB
 *  Ontop  
    老师推荐使用**Ontop**去了解映射的过程

# 第三部分 面向半结构化的知识抽取任务 #

目前，百科类数据、网页数据是可被用于知识获取的重要半结构化数据。

# 第四部分 实践 #

这里作者初略介绍了一个在线百科知识抽取技术的具体应用，即构建佛学知识图谱的一个例子。下面是实现的网址和对应的论文，感兴趣的朋友可以深入学习，很有借鉴价值。  
**这是实现的网址**：[http://www.kg-buddhism.com][http_www.kg-buddhism.com]  
**这是论文名称：** KG-Buddhism: The Chinese Knowledge Graph on Buddhism

下面介绍以下这个实践的基本思路：

## 4.1 抽取框架 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 19]

## 4.2 知识连接 ##

这一步骤的工作是抽取类别和实例：

*  先找到与佛学相关的分类，抽取佛教人物分类下所有文章对应的实体。
 *  维基百科“佛教头衔”分类下的所有实体
 *  已抽取的实体名中高频的公共字符串

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 20]

## 4.3 知识融合 ##

这一个过程是做主语的融合：

*  实体的别名属性和重定向作为实体的别名集合
 *  不同来源的实体，存在一个完全匹配的别名，则认为是相同实体
 *  人工检查相同实体数多于三个的映射

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 21]  
主语融合中存在的问题：

*  同名，不同实体
 *  同实体，不同名 （这种情况属于同义词）  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 22]  
    解决方案：
 *  多个相同别名，来判断是否是同一实体
 *  实体的“地址”、“建筑时间”属性来判断是否冲突

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 23]  
以上是介绍的主语的融合。除此之外，也会做谓语和宾语的融合。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 24]

## 4.4 知识补全 ##

这里介绍基于正则化的知识补全。\*\*作者推荐正则化是最早应该学习的，\*\*这种方法因为编写规则需要领域经验，很难对文本中的关系通过规则做到全面的覆盖，但它的好处是一旦基于文本提取了规则，准确率挺高。  
按照评价指标来评价这种方法，属于精确率高、召回率低的方法。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 25]

## 实现效果 ##

**实现的网址**：[http://www.kg-buddhism.com][http_www.kg-buddhism.com]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 26]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/ab4ac2cea9ad4ce8a152ce0ee42c50b7.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/5d12ce29e20f4b20a467f4d60da385a0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221123/ba332ccf0be0481db0262d84589fb1db.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221123/4e25cdd8c5674e40b86bb9490a9d6121.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20221123/5068a86522494413bdcbfa7fa8ae42a3.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20221123/a20a7b4ebf8d447baa7fff47c8d08ed4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20221123/ba19cdf7d06a431fbfa9d63879ca684e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 7]: /images/20221123/60f4ee3ee96e4ab0965383d762ed230a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 8]: /images/20221123/0447b02c5df84479b9cf4e9a29d021aa.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 9]: /images/20221123/4fbb20d2436344029b9a1ef08235cfae.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 10]: /images/20221123/61629ff7700d4838a9f44db8f89d4f70.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 11]: /images/20221123/1d4ceee19b054b77b89fad6907500660.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 12]: /images/20221123/7a00c2c8c0d24bb7a52bb269c6a0afa8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 13]: /images/20221123/3fbe5209f2de48029b35c22f81ed8152.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 14]: /images/20221123/e75e3e47a16445d3a5b427dfd2294bb3.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 15]: /images/20221123/f3d0cc60356a4b4ea78e0dcb55d72412.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 16]: /images/20221123/8cc81ab41cfc4705be0dc400e6657bc1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 17]: /images/20221123/fa7d32a0c01a4588ace3035ad7fe1037.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 18]: /images/20221123/1b5f27e8fc894b38b4026f862ede1450.png
[http_www.kg-buddhism.com]: http://www.kg-buddhism.com
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 19]: /images/20221123/a9f7fd979aa44bdc932958f581b501e8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 20]: /images/20221123/f2ac2fdfa76049b3896e068345710d81.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 21]: /images/20221123/c80f1eca36cd46d8a79c1a068ed31139.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 22]: /images/20221123/b018622400d5420ea21d5235baf528c3.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 23]: /images/20221123/a7609224fd99457191cabdad5c8b0c99.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 24]: /images/20221123/128262261d1c46e792bbb0aba80f7d39.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 25]: /images/20221123/b2eee72842b945dc88cc876788dda87a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTA0MTQ1ODk_size_16_color_FFFFFF_t_70_pic_center 26]: /images/20221123/8428a364c94741f59bc174af9d73568c.png