Knowledge Graph Attention Network for Recommendation

你。 提交于 2019-11-28 00:51:02

简单翻译总结一下最近读到的这篇论文~

Abstract

factorization machine(FM)方法:转换为有监督的学习问题,假设每个交互都是一个独立的实例,并对辅助信息进行编码。忽略了实例或项目之间的关系(例如,电影的导演也是另一部电影的演员),不足以从用户的集体行为中提取协作信号。
knowledge graph(KG): 通过将项目与其属性链接来打破独立交互假设。
KG和user-item graph的这种混合结构中,高阶关系(将两个item与一个或多个链接属性连接起来)是成功推荐的关键因素。->提出 Knowledge Graph Attention Network (KGAT)

KGAT以端到端的方式显式地对KG中的高阶连接进行建模。它递归地从节点的邻居(可以是user、item或attr)传播嵌入,以细化节点的嵌入,并使用注意机制来区分邻居的重要性。

Introduction

现在许多研究工作都致力于collaborative filtering(CF),尽管CF方法具有有效性和通用性,但它无法对诸如项属性、用户配置文件和上下文之类的辅助信息进行建模。在用户和项很少交互的稀疏情况下性能很差。为了集成这些信息,一个常见的范例是将它们与用户id和项的id一起转换为一个通用的特征向量,并将它们输入到一个监督学习(sL)模型中以预测得分。这种推荐的SL范型已经在工业界广泛应用,一些有代表性的模型包括因子分解机(FM)、NFM(神经FM)、广度和深度和xdeepFM等。它们将每个交互建模为一个独立的数据实例,而不考虑它们之间的关系。这使得它们不足以从用户的集体行为中提取基于属性的协作信号。
CF方法关注同样观看了i1,i.e,即u4 and u5的相似用户的历史;而SL方法强调与e1,i.e,i2属性相似的项目
例如:黄圈内观看同一个人e1导演的其他电影的用户,或灰圈内与e1有其他共同关系的项目。
0
为了解决基于特征的SL模型的局限性,提出了collaborative knowledge graph (CKG),如图所示,成功推荐的关键是充分利用CKG中的高阶关系。
在这里插入图片描述
尽管如此,要利用这样的高阶信息,挑战是不可忽视的:1)与目标用户具有高阶关系的节点随着阶数的增加而急剧增加,这给模型带来了计算过载2)高阶关系对预测的贡献是不平等的。大概分为两种类型来解决:path-based,regularization-based

  • path-based:提取携带高阶信息的路径,将其输入预测模型。为了处理两个节点之间的大量路径,它们要么应用路径选择算法来选择突出的路径,要么定义元路径模式来约束路径。路径选择的第一阶段对最终性能有很大的影响。
  • regularization-based:设计额外的损失项,捕捉KG结构,以正则化推荐者模型学习。例如,KTUP和CFKG通过共享项嵌入共同训练推荐和KG完成这两个任务。这些方法没有直接将高阶关系插入到为推荐而优化的模型中,而是以隐式方式对它们进行编码。由于缺乏显式的建模,既不能保证捕捉到长程关联,也不能解释高阶建模的结果。

KGAT的两种解决挑战的方式:

  • 递归嵌入传播:基于邻域的嵌入更新节点的嵌入,并递归地执行这种嵌入。在线性时间复杂度下捕获高阶连接的运算。
  • 基于注意的聚合,利用神经注意机制来学习传播过程中每个邻居的权重,这样级联传播的注意权重可以揭示高阶连接的重要性。
    与基于路径的方法相比,KGAT避免了路径物化的繁琐过程,使用起来更加方便快捷;
    与基于正则化的方法相比,KGAT直接将高阶关系分解到预测模型中,从而得到了所有相关的预测模型。所有相关参数是为优化推荐目标而定制的。

Task 制定

User-Item Bipartite Graph(用户二分图):G1
在这里插入图片描述
u: user i: item U: user集合 I: item集合
u与i之间有交互(购买,点击等),yui = 1, 否则yui = 0
Knowledge Graph(知识图): G2

项目的附加信息(项目属性,外部知识等)
在这里插入图片描述
h: 头实体 t: 尾实体 r:关系
例:(hugh jackman,actor of,logan)陈述了休jackman是电影logan的演员的事实。

项目实体对应的集合A
在这里插入图片描述
在KG(G2)中i与e可以对齐。

Collaborative Knowledge Graph(协作知识图): G
每个用户的行为:(u, Interact, i) yui=1表示u与i之间的附加关系Interact
G = { (h,r,t) | h,t ∈ E′,r ∈ R′ }, E′ =E∪U , R′ =R∪{Interact},E′ =E∪U ,R′ =R∪{Interact}

任务描述

  • 输入:G:包括用户项二部图G1和知识图G2。
  • 输出:预测用户u采用项目i的概率y^ui的预测函数。
标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!