Sequential Recommendation with User Memory Networks

Abstract

存在的推荐系统算法总是将用户历史记录embed成一个单一隐式表示,这可能会失去一些特征或物品的关联性。因此作者提出记忆增强的神经网络与协同过滤的思想进行整合从而作出推荐。通过借助外部的记忆矩阵,作者可以存储并更新用户的历史记录,这有效的提高了模型的表达能力。

Introduction

作者指出传统的基于RNN的序列推荐有两个不理想的结果:

  1. 会削弱高度相关的item之间的信号
  2. 传递的信号很难使产生的序列推荐能被理解与说明

因此作者提出额外的用户记忆网络来做推荐。当作推荐的时候,内存矩阵将以注意力机制的形式来生成用户表示的embdedding。

General Framework

memory enhanced user embedding

将从memory matrix中得到的memory embedding 和用户固有的embedding进行合并,但使用加权的向量加法进行计算。

Sequential Recommendation with User Memory Networks简介

Prediction function

Sequential Recommendation with User Memory Networks简介

pup_u为user embedding,qiq_i为item embedding。

Loss function

Sequential Recommendation with User Memory Networks简介

Item-level RUM

Sequential Recommendation with User Memory Networks简介

通过计算需要query的item embeddding和记忆矩阵中的item embedding的相似度,利用不同相似度得到对应的权重。

Sequential Recommendation with User Memory Networks简介

用户的memory embedding就是由权重与item embedding相乘后的和所得:

Sequential Recommendation with User Memory Networks简介

相关文章: