論文閱讀—Enhancing session-based social recommendation through item graph embedding……

《Enhancing session-based social recommendation through item graph embedding and contextual friendship modeling》

《通過項目圖形嵌入和上下文友誼模組化增強基于會話的社會推薦》

摘要

推薦系統旨在幫助使用者在網絡平台上從大量的候選人中找到比對的物品。在許多線上平台，如Yelp和Epinions，使用者的行為會随着時間的推移不斷被記錄下來，使用者也可以與他人建立聯系，分享自己的興趣。以往的推薦方法要麼模拟動态的興趣，要麼模拟動态的社會影響。一些研究集中在這兩個因素的模組化上，

但它們仍然有一些局限性:

1)他們不考慮複雜的物品轉換在所有會話序列,它可以用來作為一個當地的因素來提高性能的推薦方法,

2)他們忽視使用者和他們的朋友在某些會話中僅共享相同的會話，這是通過在時間t保持所有目标使用者的朋友向量不變,

3)他們沒有考慮到使用者的長期偏好可能變化與利益的進化。

為了克服上述問題，本文提出了一種将項目圖嵌入和上下文友誼模組化結合到推薦任務中的方法。具體地說,1)我們建構直接項目圖基于所有曆史會話序列和利用圖神經網絡捕獲豐富的局部項目之間的依賴關系,和2)一個會話級的注意機制根據目标使用者的目前興趣獲得每個朋友表示,和3)應用max-pooling到目标使用者的曆史會話興趣上，學習他/她的動态長期偏好。在兩個真實世界的資料集上的大量實驗表明，我們提出的模型在各種評估名額上一緻地優于最先進的方法

引言

随着線上服務的出現和普及，推薦系統已經成為幫助使用者從電子商務、流媒體網站、搜尋引擎等平台上積累的大量候選人中找到比對項目的基礎。大多數傳統的方法，包括基于内容和協作過濾方法[12,15,16]，都是通過模組化靜态的使用者-項目互動來捕獲使用者的一般偏好。在實踐中，大多數網絡平台上的使用者簡介和活動都是不斷被記錄下來的，其順序行為反映了使用者偏好随時間的演變。是以，近年來，序列感覺推薦系統受到了越來越多的關注，如基于會話的推薦。在這裡，會話是在給定時間内發生的一組互動。許多電子商務推薦系統和大多數新聞和媒體網站通常不會跟蹤使用者數量，在某些領域，使用者經常顯示時變的偏好和基于會話的特征[31]。是以，同一個使用者的後續會話應該被獨立處理。此外，許多線上服務，如Yelp和depinions，使使用者可以與其他人建立聯系，并分享他們的興趣和經驗。為了解決資料稀疏問題并進一步提高推薦性能，人們提出了許多社會意識的方法來考慮社會影響[19,13,27]。雖然上述方法取得了令人滿意的結果，但它們既模拟了使用者的動态興趣，也模拟了社會影響。然而，使用者的動态興趣和社會影響可以是互補的，聯合模組化可以提高推薦系統的性能。最近，[31]提出了一種方法來對使用者基于會話的興趣以及動态的社會影響進行模組化。他們将基于問題評估的社交推薦命名為:給定使用者目前的行為會話、過去的行為會話和社會關系，預測他/她在會話中接下來将與之互動的物品(如購買、通路)。雖然取得了有希望的結果，這項研究仍然有一些局限性。首先，它沒有考慮到所有會話序列之間複雜的項轉換，這可以作為一個局部因素來提高基于會話的推薦方法的性能[34,36]。第二，雖然考慮了好友級的動态社交影響，但在面對不同的目标使用者時，好友向量保持不變。然而，目标使用者和他們的朋友隻在特定的會話中有相同的偏好。

如圖所示。1、使用者C是使用者a和使用者B的朋友，但共同會話的偏好并不完全相同。使用者A和使用者c共享食物和運動;使用者B和使用者C共享體育和音樂。在會話中，使用者A最關注使用者C的會話t-2，而使用者B最關注使用者C的會話t-1。是以，更合理的做法是表示朋友到動态性與目标使用者目前興趣相對應的。第三，它為每個使用者學習一個靜态的長期偏好表示，但我們認為使用者的長期偏好可能會随着興趣的進化而改變，例如，一個使用者可能對他從未參加過的新運動感興趣。除了短期的興趣和動态的社會影響之外，它還有助于提高推薦

為了克服上述局限性，本文提出了一種通過項目圖嵌入和上下文友誼模組化來解決基于會話的社會推薦問題的方法。首先，我們基于所有時間之前的曆史會話序列構造一個有向項圖，并利用[9]捕獲項的複雜轉換，以學習所有節點(項)的潛在向量。這一層将項目id映射為稠密的潛在向量。這也可以在一定程度上緩解推薦系統的冷啟動問題。其次，我們利用LSTM (Long - Short Term Memory network，簡稱[11])對使用者目前會話的短期興趣進行模組化，并以LSTM的最後一個隐藏狀态作為會話興趣的表示。然後對他/她的近期曆史會話利益進行max-pooling操作，以代表長期利益，進而捕捉他/她的長期偏好動态。第三，為了更好地從社交層面刻畫使用者的偏好，我們首先采用會話級的關注機制，根據目标使用者目前的興趣得到每個朋友的表征，然後使用GraphSAGE聚集資訊豐富的朋友，捕捉動态的社會影響。也就是說，我們計算目标使用者目前興趣和每個朋友的最近K個會話興趣之間的相似度，并将每個朋友表示為具有相似度的kinterests的權重和。會話級的關注機制由目标使用者的目前興趣和每個朋友的曆史興趣控制，使動态朋友的表示對應于目标使用者和每個朋友之間的共同興趣。然後，我們使用GraphSAGE自動選擇資訊豐富的朋友。最後，我們将基于會話的短期利益、長期利益和動态社會影響通過一個完全連接配接的層進行使用者偏好模組化。總的來說，這項工作的主要貢獻如下:我們通過建構一個基于所有曆史會話序列的條目圖來捕獲條目之間豐富的轉換。我們引入了會話級關注機制，在每個步驟中根據不同的目标使用者目前的興趣擷取朋友的不同表示。我們基于使用者的短期興趣、長期興趣和動态的社會影響共同模組化，來推斷使用者的偏好。我們在豆瓣電影和Delicious兩個真實資料集上進行了大量的性能評估實驗。實驗結果證明了該模型的有效性和優越性。

本文的其餘部分組織如下。2、我們讨論相關的工作。在第3節中，我們将詳細介紹所提出的模型。在第4節中，我們介紹了實驗設定和實驗結果的分析。第五部分是本文的總結。

模型介紹

在本節中，我們将首先介紹本文中使用的定義和注釋，然後概述所提議的架構，即通過itemGraph嵌入和上下文友誼模組化(EGFRec)增強基于會話的社會推薦。然後對模型的各個組成部分進行了詳細的描述，最後進行了模型優化。

在網絡平台中，使用者的行為被不斷地記錄下來，使用者的偏好也在迅速地演變。捕獲使用者時變興趣的常見方法是将使用者的行為分割成連續的會話，并在會話級别[10]上推薦。在此，我們給出了一個基于會議的社會推薦問題如下。

推薦的方法如圖2所示。提出的EGFRec模型包含四個關鍵元件。第一部分是基于圖卷積網絡的項目嵌入，學習項目的潛在因素。其次，我們利用遞歸神經網絡(RNN)對目标使用者目前會話中所消費的物品序列進行模組化，該模型能夠捕捉使用者的動态興趣，并随時間變化。同時，我們認為每個使用者的長期偏好會随着時間的推移而不斷變化，但相對于短期利益來說是相對穩定的。我們使用最大池層來聚合最近的會話向量來模拟使用者的長期利益。再次，利用關注網絡對好友的興趣進行模組化，關注網絡依賴于比對目标使用者的目前會話和好友的曆史行為。第四，将使用者目前會話和好友的表現形式輸入到使用者-使用者社交網絡中，了解其社會影響。在最後一步，該模型通過連接配接使用者的短期、長期偏好和社會影響來生成推薦。

項目嵌入項目圖為了考慮到遙遠項目之間的複雜轉換，我們從所有會話中構造一個項目圖。給定一個會我們将每個item視為一個圖節點，（vi;vj）作為一個傳入的邊，這意味着使用者點選itemvj在點選 itemvi之後。節點可能反複出現，這意味着vj更有可能跟随vi。是以，我們将vj的每個vi與出現的頻率配置設定。為了捕獲從一項到另一項的直接轉換，我們在生成節點特性時僅利用每個節點的節點内鄰居。在這種情況下，訓練過程相當于無向圖。是以，我們使用GraphSAGE[9]來獲得準确的項目嵌入，利用批量訓練算法來節省記憶體。

然後，我們介紹了如何通過GraphSAGE在我們的模型中訓練項目潛在向量。首先将每個item嵌入到統一的低維潛在空間中，節點向量xj表示itemvj的維潛在向量。然後，我們将項目潛在向量輸入GraphSAGE[9]，它通過從節點的内節點鄰居中采樣和聚合特征來更新項目嵌入。抽樣政策定義了B(j)是節點vj的鄰居，并按出現頻率遞減排序。對于vj在圖中的聚合更新函數如下所示：

聚合器架構AGGREGATEk采用max-pooling方法，定義如下

在這個池方法中，max表示一個元素級的最大化操作，它有效地捕獲了第八個屬性的不同方面。由于采用了抽樣和聚集方案，GraphSAGE不進行全批訓練，更适合于大型圖。此外，GraphSAGE可以有效地自然地生成不可見節點的表示。

基于RNN的使用者興趣表示将會話序列送入圖卷積網絡，得到項目的潛在向量。然後，采用一種新的神經網絡（RNN）對目标會話進行模組化使用者.RNN是模組化的标準方法序列。到捕獲使用者的短期興趣，LSTM用于為目标使用者ui模組化目前會話。使用者ui的短期表示是的嵌入向量z，其定義如下：

其中q是從GraphShage得到的項目的潛在矩陣，Q（:,si）表示出現在i中的所有項目潛在向量。當使用者不小心點選了錯誤的項目時，僅僅依靠使用者目前的連續行為是不可靠的。是以，我們考慮使用者的短期偏好和長期偏好。使用者的曆史會話之間的間隔可能很大，是以其中的順序模式可能是忽略了。我們忽略曆史會話中的時間屬性，并采用一種将使用者ui最近的曆史會話轉換為固定大小的潛在表示形式的池化操作：

常見的池操作包括最大池和平均池。在實踐中，我們發現最大池和平均池沒有顯著的差別，是以我們在下面的實驗中重點讨論了最大池。

基于注意的朋友興趣表征在網絡社交社群中，使用者的興趣具有時變性和多樣性，目标使用者和他們的朋友在某些會話中隻有相同的偏好。現有的方法假設不同的目标使用者的最近興趣向量相同[38,29,31]，這與實際情況不符。具體來說，DGRec[31]使用最新的會話來表示朋友的偏好。在這裡，我們提出了一種不同的方法來根據目标使用者有效地生成朋友向量。對于不同的聽衆，我們将重點放在朋友的曆史會話中。這個子產品的輸入是一個使用者-朋友對，輸出是向量f(i,l)，它表示ui和u(i,l)之間的關系。使用者的朋友向量f(i,l)是通過神經注意機制生成的。注意機制已經成功地應用于許多領域，如計算機視覺、機器翻譯和社會推薦[31]。在這裡，會話級注意力的目标是配置設定對好友曆史會話的權重是不均勻的，當好友與不同的目标使用者互動時，權重是不同的。對于目标使用者的目前會話ti，是他/她的朋友最近的會話是

社交聚合

在社交平台上，使用者的偏好通常與他/她直接聯系的朋友相似。社交聚合的目的是将朋友的興趣結合起來，進一步模拟使用者的潛在因素。首先，我們将友誼網絡編碼為一個圖，其中節點表示使用者，邊表示友誼。對于目标使用者，節點通過表示短期興趣來初始化。同時，鄰居節點采用基于注意層的朋友興趣表示。其次，我們使用消息傳遞算法graphsage，從社交圖中聚集相鄰使用者的潛在因素。使用者ui的社會空間潛在因素是聚集使用者ui的鄰居。

其中我是目标使用者界面，我是使用者界面的第四個朋友。我們假設使用者的偏好隻受他們直接聯系的朋友的影響，那麼kis設定為1。聚合最大池操作

我們也嘗試了上下文感覺圖神經網絡的注意機制，如[31]，但它沒有顯示增加表演。因為在第3.2.3節中，我們通過注意機制對朋友表示進行模組化。通過參數化，我們可以将注意力集中在與目标使用者相比，朋友興趣中更相關的部分。此外，參數可以模拟使用者和他/她的朋友之間的聯系強度。通常情況下，使用者更喜歡分享更相似的口味與強關系，而不是弱關系。是以，注意力-圖神經網絡在這裡是無效的。

通過對目标使用者的短期嵌入、長期嵌入和社會影響的嵌入，利用完全連通層将它們結合起來，得到最終的使用者表示。

然後，我們計算每個候選項的得分vjb乘以其嵌入qj，然後應用softmax函數獲得輸出

實驗

豆瓣電影。它是一個線上社交網絡，允許網際網路使用者分享他們對手機的評論和觀點。這個資料集包含了友誼網絡和豐富的使用者評論行為。我們的任務是預測使用者下次看電影的行為好吃。

真好吃。這是一個社會書簽網站，使用者可以儲存，管理和共享網頁書簽。使用者還可以為網站配置設定各種語義标簽，并根據社交網絡中的使用者共享的内容發現新的連結。資料集包含配置設定給書簽URL的标記和使用者之間的聯系人關系。任務是為書簽推薦标簽。