目录

GAME[1]

摘要

创新点

模型

表示学习

交互学习

训练目标

实验


GAME[1]

SIGIR 2020 A会

摘要

群组推荐的目标是为一群用户推荐喜欢的项目。很多现有群组推荐方法直接学习群组/用户内在的兴趣、项目内在的特征,即独立地对群组/用户/项目的表示进行建模。然而当为临时群组(一群人临时组成的群组,这些人的历史行为通常交集很少)进行推荐时,这样独立的视角会面临严重的冷启动问题。事实上,群组、用户和项目并不是独立的,他们彼此之间有着交互。这种依赖关系组成了一张交互图,提供了多个视角来学习实体的表示,能够提升针对临时群组的推荐效果。我们提出了GAME(Graphical and Attentive Multi-view Embeddings)模型来从多个视角学习三种实体的embedding表示,包括其自身视角以及交互图中各个交互对应的视角。每个实体的表示是从多个交互视角、使用注意力机制聚合而来,能够自适应地调整不同视角的权重。例如,一个用户的表示可能由他交互过的群组或者项目聚合而来。此外,GAME还使用了神经协同过滤来研究多个视角下群组(或用户)与项目的交互。最后,我们在两个真实数据集上进行了大量实验,结果表明GAME能够胜过SOTA模型,在冷启动群组(例如临时群组)或冷启动项目上效果更好。

 

创新点

  • 提出了GAME来为临时群组进行推荐,从多个视角对用户/项目/群组进行建模,充分利用交互图来学习其综合的表示。
  • 某个实体的表示是通过与其有过交互的实体(在各个视角上)聚合而来,基于注意力机制动态地调整不同视角的权重,提升推荐效果。
  • 我们在两个真实数据集上进行了大量实验,结果表明GAME能够胜过SOTA模型,在冷启动群组(例如临时群组)或冷启动项目上效果更好。

 

模型

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

分为表示学习神经交互学习两部分。

表示学习

用户表示建模

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

一个用户的表示由三部分构成:

1.       用户自身的embedding

2.       item视角:与该用户交互过的项目聚合而来(使用注意力机制聚合)的embedding:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

attention的输入为用户和项目,输出为每个项目的权重:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

3.       group视角:该用户参与过的群组聚合而来(使用注意力机制聚合)的embedding:

       论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

       每个群组的权重计算与公式(2)类似,输入改为用户和群组。

这三部分通过拼接、MLP来得到最终用户的表示:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

 

项目表示建模

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

一个项目的表示由三部分构成:

1.       项目自身的embedding

2.       user视角:与该项目交互过的用户聚合而来的embedding:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

       每个用户的权重计算与公式(2)类似,输入改为项目和用户。

3.       group视角:与该项目交互过的群组聚合而来的embedding:

        论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

       每个群组的权重计算与公式(2)类似,输入改为项目和群组。

这三部分通过拼接、MLP来得到最终项目的表示:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

群组表示建模

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

群组表示由群组中用户的表示加权聚合得到:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

用户的权重是基于当前项目计算的,并通过softmax进行了归一化:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

 

交互学习

首先将群组(或用户)的表示与项目的表示逐点相乘:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

再通过MLP和sigmoid来得到最终的预测分数:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

 

训练目标

隐式反馈数据上的topk推荐问题,使用pairwise learning;

损失函数:

用户-项目交互:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

群组-项目交互:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

 

使用Adam优化器最小化该损失函数,扩大正负样本之间的评分差距。

 

 

实验

数据集:Meetup-NYC, Meetup-CA (Meetup数据集中的两个城市:纽约和加利福尼亚)

基准算法

  • 个性化推荐算法+偏好融合策略:NCF-AVG, NCF-LM, NCF-MS, FM-AVG
  • 群组推荐算法:MoSAN, AGREE, GRADI

评价指标

[email protected] and [email protected]

训练集、测试集划分比例为8:2

由于对所有项目排序过于耗时,所以对每个群组挑选100个负样本,和测试集中那一个ground truth item混在一起排序,计算指标。

整体对比结果

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

  • AVG的融合策略比LM/MS效果更好,因为LM/MS仅考虑了少数群组成员;   
  • 基于NCF的方法效果比基于FM的效果更好,因为NCF结合了矩阵分解的线性和MLP的非线性,而FM在建模交互对平等地对待群组中的成员。
  • 群组推荐算法 比 个性化推荐算法+偏好融合策略 效果更好,因为考虑了群组中不同成员独特的影响(而不是使用固定的融合策略);
  • GAME的效果在各种情况下都是最好的,并且K约大,优势越明显。

 

群组规模的影响:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

  • 在各种规模上的群组上,GAME都取得了显著的效果提升;
  • 当群组规模小的时候,GAME的提升更大,说明了我们模型的优越性:GAME在对小规模群组建模时,通过多种视角考虑了更多的交互信息。

 

冷启动项目上的效果:

论文笔记 GAME:Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation

GAME在冷启动项目上的优势最为明显,因为是从多个视角学习item的表示。

 

 

 

 

参考文献:

[1]  He Z, Chow C Y, Zhang J D. GAME: Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation[C]//Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. 2020: 649-658.

 

 

 

相关文章: