文章目录
-
- Abstract
- Model
-
- 问题定义
- 模型探究（TEKGR）
- 总结
Abstract
概述
引用论文中的一句话，新闻推荐系统的目标是处理大量的新闻以及给用户提供个性化的新闻推荐。
动机
新闻的标题中蕴含着丰富的实体信息以及话题信息，但是现有的模型通常忽略了实体信息与话题信息之间的关联，所以本篇paper提出了一个新的模型TEKGR（引入了知识图谱）
模型简介
TEKGR从两个方面处理Title：
（1）只从Title的单词中提取新闻的语义信息
（2）通过知识图谱（考虑话题、实体以及文本信息的关联）来对新闻的语义信息进行又一次提取
实验证明该模型优于现有的模型：baseline+NPA
Model
问题定义
首先是问题定义，不同于Wu的几篇论文，由于该篇论文引入了KnowledgeGraph的概念，所以问题的形式化描述与之前的问题描述有些许不同，但是不同仅仅在于输入的信息更多了，主体来看问题其实一直都是如何对user以及news进行精确建模才能使user与news进行精确的匹配？
NewsRecommendation的形式化定义可以参考这篇博客NewsRecommendation
在引入KR后问题的形式化描述如下：
对于一个NR系统，
Input： CandidateNews 与 ClickNews（通过用户点击过的新闻来对用户建模）
Output： 输出一个 Probability
主要记录一下知识图谱 G 形式化的表示，G 中包含的元素为三元组（h, r, t）分别为head，relation， tail表示两个实体的关系。
模型探究（TEKGR）
同所有的介绍一下，首先贴张模型的整体框架图，TEKGR总共包括三个Layer：
（1）KG-Based News Modeling Layer（2）Attention Layer
(3) Scoring Layer
第一层是NewsEncoder（通过word，topic，KG）（引入GNN）来对一篇新闻进行建模
第二层是Attention Layer（在新闻建好模型的基础上）通过Attention机制对user进行建模（套路感觉没有变过）
第三层是Scot层计算分数（这一层套路感觉也没变过）
AttentionLayer和ScotLayer就不在此多说，可以参考之前NewsRecommendation那篇博客的总结。
所以需要重点分析的就是KG-Based News Modeling Layer这一层
KG-Based News Modeling Layer
该层的总体架构如上图所示，总体来看这一层分为三个Encoder
（1）Word-level News Encoder
该层单纯地使用新闻的文本信息来对News进行建模
总的来看很简单，老套路
输入一串单词序列，经过Embedding层变成词矩阵，再经过Bi-GRU来对句子建模，使用Attention进行pooling操作将News转换为单个向量。
（2）KnowledgeEncoder
这一层同样使用了三个部分来学习news的topic信息，
首先是概念抽取（怎么抽取论文中没有细讲），接着是Embedding，最后是一个Attention
（3）KG-Level News Encoder
这一层先对实体进行连接，构建子图通过GNN来得到包含图谱级别信息的vector最后做一个utilize操作
经过以上三层就得到一个news的vector
然后就是Attention和Scot层
得到最后的分数然后计算得到概率
总结
目前笔者能够理解的就这么多，论文中还有许多概念是笔者没弄明白的，如果之后有更深的理解会来更新该篇笔记