推荐系统与知识图谱(1)

喜欢ヅ旅行 2023-01-02 03:25 177阅读 0赞

**Reference: **[推荐算法不够精准？让知识图谱来解决][Link 1]

**个性化推荐系统作为一种信息过滤的重要手段，是当前解决信息超载问题的最有效的方法之一，是面向用户的互联网产品的核心技术。**

## **推荐系统的任务和难点** ##

按照预测对象的不同，推荐系统一般可以分成两类：一类是**评分预测**（rating prediction），例如在电影类应用中，系统需要预测用户对电影的评分，并以此为根据推送其可能喜欢的电影。这种场景下的用户反馈信息表达了用户的喜好程度，因此这种信息也叫**显式反馈**（explicit feedback）；另一类是**点击率预测**（click-through rateprediction），例如在新闻类应用中，系统需要预测用户点击某新闻的概率来优化推荐方案。这种场景下的用户反馈信息只能表达用户的行为特征（点击/未点击），而不能反映用户的喜爱程度，因此这种信息也叫**隐式反馈**（implicit feedback）。

![02778a7da454894ff9b7a076a772cfad.png][]

传统的推荐系统只使用用户和物品的历史交互信息（显式或隐式反馈）作为输入，这会带来两个问题：一，在实际场景中，**用户和物品的交互信息往往是非常稀疏（sparse）**的。例如，一个电影类APP可能包含了上万部电影，然而一个用户打过分的电影可能平均只有几十部。使用如此少量的已观测数据来预测大量的未知信息，会极大地增加算法的**过拟合**（overfitting）风险；二，**对于新加入的用户或者物品，由于系统没有其历史交互信息**，因此无法进行准确地建模和推荐，这种情况也叫做**冷启动问题**（cold start problem）。

解决稀疏性和冷启动问题的一个常见思路是在推荐算法中**额外引入一些辅助信息（side information）作为输入**。辅助信息可以丰富对用户和物品的描述、增强推荐算法的挖掘能力，从而有效地弥补交互信息的稀疏或缺失。常见的辅助信息包括：

*  **社交网络**（social networks）：一个用户对某个物品感兴趣，他的朋友可能也会对该物品感兴趣；

*  **用户/****物品属性**（attributes）：拥有同种属性的用户可能会对同一类物品感兴趣；

*  **图像/****视频/****音频/****文本等多媒体信息**（multimedia）：例如商品图片、电影预告片、音乐、新闻标题等；

*  **上下文**（context）：用户-物品交互的时间、地点、当前会话信息等。

*  ……

![62f86d030ef6680e6b61cd7b225b61c5.png][]

如何根据具体推荐场景的特点将各种辅助信息有效地融入推荐算法一直是**推荐系统研究领域**的热点和难点，如何从各种辅助信息中提取有效的特征也是**推荐系统工程领域**的核心问题。

## **知识图谱** ##

**![3ee98c714880eff2a3b7079fd43c422e.png][]**

在各种辅助信息中，知识图谱作为一种新兴类型的辅助信息近几年逐渐引起了研究人员的关注。**知识图谱（knowledge graph）是一种语义网络**，其**结点**（node）代表**实体**（entity）或者**概念**（concept），**边**（edge）代表实体/概念之间的各种**语义关系**（relation）。一个知识图谱由若干个三元组（h、r、t）组成，其中h和t代表一条关系的头结点和尾节点，r代表关系。

![657110b681753630cd7a6e2cc6dcb064.png][]

上图展示的三元组表达了“陈凯歌导演了霸王别姬”这样一条事实，其中h=陈凯歌、t=霸王别姬、r=导演。

知识图谱包含了实体之间丰富的语义关联，为推荐系统提供了潜在的辅助信息来源。知识图谱在诸多推荐场景中都有应用的潜力，例如电影、新闻、景点、餐馆、购物等。和其它种类的辅助信息相比，**知识图谱的引入可以让推荐结果更加具有以下特征**：

*  **精确性**（precision）。知识图谱为物品引入了更多的语义关系，可以深层次地发现用户兴趣；

![6d042358b77ec421ba3e0efa6bc1f92c.png][]

*  **多样性**（diversity）。知识图谱提供了不同的关系连接种类，有利于推荐结果的发散，避免推荐结果局限于单一类型；

![fa8759361a57a5198b46dee4a8a0c091.png][]

*  **可解释性**（explainability）。知识图谱可以连接用户的历史记录和推荐结果，从而提高用户对推荐结果的满意度和接受度，增强用户对推荐系统的信任。

![e13d6895a6be18eb867213e56a65a19c.png][]

这里值得一提的是**知识图谱和物品属性的区别**。**物品属性**可以看成是在知识图谱中和某物品直接相连的一跳（1-hop）的节点，**即一个弱化版本的知识图谱**。事实上，一个完整的知识图谱可以提供物品之间更深层次和更长范围内的关联，例如，“《霸王别姬》-张国荣-香港-梁朝伟-《无间道》”。正因为知识图谱的维度更高，语义关系更丰富，它的处理也因此比物品属性要更加复杂和困难。

一般来说，现有的可以将知识图谱引入推荐系统的工作分为两类：

*  以LibFM\[1\]为代表的**通用的基于特征的推荐方法**（generic feature-based methods）。这类方法统一地把用户和物品的属性作为推荐算法的输入。例如，LibFM将某个用户和某个物品的所有属性记为**x**，然后令该用户和物品之间的交互强度y(**x**)依赖于属性中所有的一次项和二次项：

![73435081784f19d03916c5d5e3670404.png][]

基于该类方法的通用性，我们可以将知识图谱弱化为物品属性，然后应用该类方法即可。当然，这种做法的缺点也显而易见：**它并非专门针对知识图谱设计，因此无法高效地利用知识图谱的全部信息**。例如，该类方法难以利用多跳的知识，也难以引入关系（relation）的信息。

*  以PER \[2\]、MetaGraph\[3\]为代表的**基于路径的推荐方法**（path-based methods）。该类方法将知识图谱视为一个**异构信息网络**（heterogeneous information network），然后构造物品之间的基于meta-path或meta-graph的特征。简单地说，meta-path是连接两个实体的一条特定的路径，比如“演员->电影->导演->电影->演员”这条meta-path可以连接两个演员，因此可以视为一种挖掘演员之间的潜在关系的方式。这类方法的优点是**充分且直观地利用了知识图谱的网络结构**，缺点**是需要手动设计****meta-path****或meta-graph**，这在实践中难以到达最优；同时，该类方法**无法在实体不属于同一个领域的场景（例如新闻推荐）中应用**，因为我们无法为这样的场景预定义meta-path或meta-graph。

![8f935c0b29fdbb0fcaa7f30c4765873d.png][]

## **知识图谱特征学习** ##

**知识图谱特征学习（Knowledge Graph Embedding）为知识图谱中的每个实体和关系学习得到一个低维向量，同时保持图中原有的结构或语义信息。**事实上，知识图谱特征学习是**网络特征学习**（network embedding）的一个子领域，因为知识图谱包含特有的语义信息，所以知识图谱特征学习比通用的网络特征学习需要更细心和针对性的模型设计。一般而言，知识图谱特征学习的模型分类两类：

*  **基于距离的翻译模型**（distance-based translational models）。这类模型使用基于距离的评分函数评估三元组的概率，将尾节点视为头结点和关系翻译得到的结果。这类方法的代表有TransE、TransH、TransR等；![94746ecbec705ea9ce0d756470d52213.png][]
 *  基于语义的匹配模型（semantic-based matching models）。这类模型使用基于相似度的评分函数评估三元组的概率，将实体和关系映射到隐语义空间中进行相似度度量。这类方法的代表有SME、NTN、MLP、NAM等。![307325271eee857538a591a0accfd128.png][]

由于知识图谱特征学习为每个实体和特征学习得到了一个低维向量，而且在向量中保持了原图的结构和语义信息，所以一组好的实体向量可以充分且完全地表示实体之间的相互关系，因为绝大部分机器学习算法都可以很方便地处理低维向量输入。因此，**利用知识图谱特征学习，我们可以很方便地将知识图谱引入各种推荐系统算法中**。概括地说，知识图谱特征学习可以：

*  降低知识图谱的高维性和异构性；
 *  增强知识图谱应用的灵活性；
 *  减轻特征工程的工作量；
 *  减少由于引入知识图谱带来的额外计算负担。

在本篇中，我们分别介绍了推荐系统、知识图谱、以及知识图谱在推荐系统中的应用价值。作为推荐算法的辅助信息，知识图谱的引入可以极大地提高推荐系统的精准性、多样性和可解释性。在下周的文章中，我们将详述将知识图谱引入推荐系统的各种思路与实现，敬请期待！

**参考文献**

\[1\] Factorization machines with libfm

\[2\] Personalized entity recommendation: A heterogeneous information network approach

\[3\] Meta-graph based recommendation fusion over heterogeneous information networks

\[4\] Knowledge graph embedding: A survey of approaches and applications

[Link 1]: https://mp.weixin.qq.com/s?__biz=MzAwMTA3MzM4Nw==&mid=2649443768&idx=1&sn=da65685eab015ef5aa9697b60f895c35&chksm=82c0a43cb5b72d2a018bb054f077972651a646f8658c80c8a3929377a428c60ee21baa447846&scene=21#wechat_redirect
[02778a7da454894ff9b7a076a772cfad.png]: /images/20221120/b5759b12b31d49459f200d4756c4bed7.png
[62f86d030ef6680e6b61cd7b225b61c5.png]: /images/20221120/68a22768cb174a5396cd4f46c24ca2f6.png
[3ee98c714880eff2a3b7079fd43c422e.png]: /images/20221120/2d5248428bff4b7ba350966af4477be1.png
[657110b681753630cd7a6e2cc6dcb064.png]: /images/20221120/db6171e745474ca9a4ea238774c808f2.png
[6d042358b77ec421ba3e0efa6bc1f92c.png]: /images/20221120/487a8bcdceba496b92290aed4ee091a3.png
[fa8759361a57a5198b46dee4a8a0c091.png]: /images/20221120/c9569f96460d47a28deaa0d10b5f6881.png
[e13d6895a6be18eb867213e56a65a19c.png]: /images/20221120/99cf69cce7cb41bdae8f1cd931eb7514.png
[73435081784f19d03916c5d5e3670404.png]: /images/20221120/0277ce45ad96458d99c38db3d4ea0f4b.png
[8f935c0b29fdbb0fcaa7f30c4765873d.png]: /images/20221120/ca54757f57434e38948726f7598fc41a.png
[94746ecbec705ea9ce0d756470d52213.png]: /images/20221120/38e5e2987e274fe3a51d4e554df24b6e.png
[307325271eee857538a591a0accfd128.png]: /images/20221120/462eca4300be4225bddc6545b14592b8.png