基于超圖和分層頻譜濾波器的序列推薦模型

中圖分類號(hào)：TP391.3 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1001-3695（2025）07-013-2018-07

doi： 10.19734/j. issn.1001-3695.2024. 12.0488

Abstract：Toaddress thedata sparsity problem prevalent insequence recommendationandthe noise isue caused byunexpected interactions between users and items，this paper proposed asequence recommendation model basedon hypergraph and hierarchical spectralflters（HYFTRec）：HYFTRec introducedthe hypergraph structure intosequence recommendation， captured thecomplex higher-orderrelationshipsbetween usersanditems through thehypergraphembedding module，and atthe sametimeutilizedthehierarchicalspectralfilterforeffctivedenoisinginthefrequencydomainforefectivedenoising，which improved theaccuracyandrobustnessofrecommendation.Inaddition，themodel incorporatedacomparative learning framework tooptimize the characterizationabilityof userbehaviorsequences.Through multipleexperimentalvalidationsonthree public datasets，HYFTRecdemonstratesadvantages intermsof keymetricshitrate（HR）and normalizeddiscountcumulative gain（NDCG），which significantlyoutperformsexisting sequencerecommendation models.Compared with the benchmark modelFMLP，HYFTRec improves 10.7% ， 10.8% ，and 7.6% in HR@ 10 metrics and 12.5% ， 13.7% ，and 7.3% in NDCG@10 metrics，respectively.These results verify the validity and superiority of the proposed model.

Key words：hypergraph；hierarchical spectral filter；contrast learning；sequence recommendation

0 引言

近年來，隨著推薦系統(tǒng)的廣泛應(yīng)用，序列推薦逐漸成為研究的熱點(diǎn)領(lǐng)域[1＼～4]。序列推薦的目標(biāo)是根據(jù)用戶的歷史行為序列，預(yù)測(cè)用戶接下來可能會(huì)交互的物品，為個(gè)性化推薦提供支持[5]。然而，在實(shí)際應(yīng)用中，序列推薦面臨兩大核心挑戰(zhàn)：一方面用戶行為數(shù)據(jù)通常高度稀疏，特別是在冷啟動(dòng)場(chǎng)景下，新用戶和新物品的交互信息非常有限，這極大地限制了模型對(duì)用戶偏好的學(xué)習(xí)能力；另一方面，在用戶行為序列中，可能存在大量意外交互或非興趣驅(qū)動(dòng)的行為，這些噪聲數(shù)據(jù)會(huì)干擾模型的學(xué)習(xí)過程，降低推薦性能。

為了應(yīng)對(duì)這些挑戰(zhàn)，現(xiàn)有研究主要依賴于深度學(xué)習(xí)方法和圖神經(jīng)網(wǎng)絡(luò)，通過捕捉用戶行為序列中的轉(zhuǎn)移模式或物品間的二元關(guān)系來提高推薦效果。盡管如此，這些方法仍有其局限性：它們通常只關(guān)注物品之間的直接聯(lián)系，難以捕捉更復(fù)雜的高階交互信息。此外，現(xiàn)有方法在處理行為序列時(shí)往往缺乏有效的去噪機(jī)制，沒有充分利用頻域分析來過濾噪聲，這導(dǎo)致模型對(duì)用戶的真實(shí)偏好捕捉不夠準(zhǔn)確。

為了解決上述問題，本文提出了一種基于超圖和分層頻譜濾波器的序列推薦模型（HYFTRec）。物品序列中的每個(gè)項(xiàng)目在嵌入層生成初始嵌入向量并添加位置編碼，再經(jīng)層歸一化和dropout處理得到初始的序列表示。然后構(gòu)建可學(xué)習(xí)的物品超圖依賴矩陣，將物品節(jié)點(diǎn)嵌入到超邊嵌入空間，通過轉(zhuǎn)置矩陣傳播超邊信息聚合高階交互信息，利用多層超圖消息傳遞機(jī)制捕獲更深層次關(guān)系。接著對(duì)項(xiàng)目特征進(jìn)行快速傅里葉變換轉(zhuǎn)換到頻率維度，根據(jù)不同策略調(diào)整濾波器頻率區(qū)間去噪，再經(jīng)逆快速傅里葉變換轉(zhuǎn)換回時(shí)域，還結(jié)合跳躍連接等操作提升網(wǎng)絡(luò)穩(wěn)定性。前饋網(wǎng)絡(luò)對(duì)處理后的特征進(jìn)行非線性變換增強(qiáng)模型能力。最后，通過聯(lián)合交叉熵?fù)p失和NT-Xent對(duì)比損失進(jìn)行優(yōu)化，前者優(yōu)化推薦性能，后者增強(qiáng)序列表征。本文的主要貢獻(xiàn)包括：

a）將超圖引入序列推薦任務(wù)，設(shè)計(jì)了一個(gè)超圖嵌入模塊，從高階關(guān)系的角度改進(jìn)了序列推薦的建模能力。

b）提出分層頻譜濾波模塊，利用傅里葉變換和可學(xué)習(xí)的頻譜濾波器，顯著緩解了用戶行為序列中的噪聲問題。

c）結(jié)合對(duì)比學(xué)習(xí)，通過融合損失優(yōu)化序列表示，提高了推薦的精確性和魯棒性。

1相關(guān)工作

1.1序列推薦

序列推薦的早期研究集中在馬爾可夫鏈模型，通過刻畫物品間的轉(zhuǎn)移關(guān)聯(lián)來推斷用戶的下一個(gè)可能點(diǎn)擊目標(biāo)。Fossil模型[8是這一領(lǐng)域的典型代表，該模型通過更高階的序列模式挖掘，提高了推薦系統(tǒng)的性能。這些方法為后續(xù)基于深度學(xué)習(xí)的序列推薦研究奠定了基礎(chǔ)。

隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，Caser模型[9將嵌入矩陣視為圖像，并采用卷積操作提取局部序列模式，GRU4Rec模型1°將GRU應(yīng)用于會(huì)話推薦，通過捕捉用戶的短期興趣來提高推薦的準(zhǔn)確性。SR-GNN模型[1將序列建模為圖結(jié)構(gòu)數(shù)據(jù)，以捕捉物品之間的轉(zhuǎn)換關(guān)系。SASRec模型[1]將注意力機(jī)制應(yīng)用于序列推薦，展示了自注意力機(jī)制在下一個(gè)物品推薦任務(wù)中的有效性。此外，Yang等人[13]依據(jù)項(xiàng)目的不同權(quán)重，采取了多樣化的數(shù)據(jù)增強(qiáng)技術(shù)來創(chuàng)建對(duì)比視圖。SoftCSR模型[14]通過在用戶行為序列的連續(xù)表示上添加擾動(dòng)向量，生成更多的對(duì)比樣本。這些模型在序列推薦任務(wù)中表現(xiàn)出了卓越的效果，但忽視了用戶行為序列中可能存在的噪聲問題。同時(shí)，雖然圖神經(jīng)網(wǎng)絡(luò)的引入在一定程度上提高了序列推薦的性能，但其主要還是局限于捕捉二元關(guān)系和局部結(jié)構(gòu)關(guān)系。

本研究提出的模型區(qū)別于傳統(tǒng)的序列推薦圖神經(jīng)網(wǎng)絡(luò)方法，通過引入超圖框架，能夠更全面地捕獲用戶行為背后的復(fù)雜高階關(guān)聯(lián)。同時(shí)，該方法還從頻域角度出發(fā)，有效減輕了實(shí)際應(yīng)用中由于用戶非預(yù)期交互引入的噪聲干擾。除此之外，筆者還開發(fā)了一套分層濾波策略，針對(duì)不同的頻率區(qū)域進(jìn)一步降低噪聲，從而提升了模型的準(zhǔn)確性。

1.2 超圖

超圖是圖論中的一個(gè)概念，它允許一個(gè)邊（超邊）與多個(gè)頂點(diǎn)相連接。如圖1所示，超邊連接了多個(gè)頂點(diǎn)。超圖模型最初在信息檢索和聚類任務(wù)中得到應(yīng)用，體現(xiàn)出了在處理高階關(guān)系數(shù)據(jù)方面的優(yōu)勢(shì)。近年來，隨著深度學(xué)習(xí)技術(shù)的發(fā)展，超圖神經(jīng)網(wǎng)絡(luò)（HGNN）開始涌現(xiàn)，用于對(duì)超圖數(shù)據(jù)的嵌人學(xué)習(xí)。Feng等人[15]首次提出了HGNN，將超圖卷積操作引人深度學(xué)習(xí)框架，成功實(shí)現(xiàn)了高階關(guān)系的有效建模。在推薦系統(tǒng)中，超圖被用來建模用戶與物品之間的復(fù)雜交互關(guān)系。Li等人[]通過構(gòu)建超圖來捕捉興趣轉(zhuǎn)換，并從微觀和宏觀層面解耦用戶意圖，從而有效處理動(dòng)態(tài)耦合的用戶興趣和會(huì)話中的噪聲信號(hào)，最終生成特定意圖的表示以進(jìn)行精準(zhǔn)推薦。Zhao等人[1在多輪對(duì)話推薦領(lǐng)域進(jìn)行了研究，通過在有限的交互輪次中詢問用戶的偏好特征和推薦商品，構(gòu)建了動(dòng)態(tài)超圖以模擬用戶的動(dòng)態(tài)偏好，并利用強(qiáng)化學(xué)習(xí)技術(shù)來捕捉高階交互關(guān)系，從而實(shí)現(xiàn)了有效的會(huì)話推薦。本文首次將超圖引人序列推薦任務(wù)，設(shè)計(jì)了一個(gè)基于超圖的序列推薦框架，結(jié)合頻域分析對(duì)高階關(guān)系進(jìn)行建模。

1.3 傅里葉變換

傅里葉變換是一種廣泛應(yīng)用于信號(hào)處理領(lǐng)域的數(shù)學(xué)工具，能夠?qū)㈦x散的時(shí)域信號(hào)分解為正弦波，并用于合成周期信號(hào)。

通過離散傅里葉變換（discreteFouriertransform，DFT），可以將時(shí)間域中的采樣信號(hào)轉(zhuǎn)換為頻域。給定序列 {x₁，x₂，… ，使用式（1）將其轉(zhuǎn)換成頻域：

同樣，頻域表示可以通過逆DFT重新轉(zhuǎn)換回時(shí)間域信號(hào)：

在深度學(xué)習(xí)中，傅里葉變換同樣獲得了大量應(yīng)用[18]。最近，傅里葉變換在序列推薦任務(wù)中的應(yīng)用開始受到關(guān)注。一些研究通過頻域分析進(jìn)一步挖掘用戶行為序列中的隱藏模式，例如噪聲過濾和周期性偏好建模。Zhou等人[19]開發(fā)了一個(gè)名為FMLP-Rec的多層感知器（MLP）增強(qiáng)型序列推薦模型。這個(gè)模型采用可訓(xùn)練的全局濾波器處理不同頻率成分，在頻域中有效去除序列數(shù)據(jù)噪聲，同時(shí)捕捉用戶的頻率模式。

1.4 對(duì)比學(xué)習(xí)

對(duì)比學(xué)習(xí)是一種自監(jiān)督學(xué)習(xí)方法，通過構(gòu)建樣本對(duì)，最大化正樣本對(duì)的相似性并最小化負(fù)樣本對(duì)的相似性，從而學(xué)習(xí)數(shù)據(jù)的判別特征。CL4SRec模型[2]結(jié)合了傳統(tǒng)下一個(gè)項(xiàng)目預(yù)測(cè)任務(wù)和對(duì)比學(xué)習(xí)框架的多任務(wù)模型，通過從用戶行為序列中提取自我監(jiān)督信號(hào)并采用三種數(shù)據(jù)增強(qiáng)方法，有效解決了數(shù)據(jù)稀疏性問題。CoSeRec模型[21]提出一種基于對(duì)比學(xué)習(xí)的序列推薦方法，利用數(shù)據(jù)增強(qiáng)生成不同視圖，并通過對(duì)比損失提升了用戶興趣建模的效果。RCL模型[22通過選擇相同目標(biāo)序列作為強(qiáng)正樣本和相似序列作為弱正樣本，增強(qiáng)了序列推薦模型的訓(xùn)練效果。

2本文方法

2.1 問題陳述

給定用戶和項(xiàng)目集合，分別用 U 和 I 表示。其中， u 屬于U ，表示一個(gè)用戶。 i 屬于1，表示一個(gè)項(xiàng)目。用戶總數(shù)和項(xiàng)目總數(shù)分別用 1U1 和 表示。每個(gè)用戶 u 的行為序列用 c 表示，C={i₁，…，i_n}_on 表示交互的數(shù)量。 i_k 表示用戶 u 交互的第 k 個(gè)項(xiàng)目。序列推薦的任務(wù)是預(yù)測(cè)用戶 u 在第 步可能交互的下一個(gè)項(xiàng)目。

2.2 模型結(jié)構(gòu)

本文提出的HYFTRec模型主要由嵌入層、超圖嵌人模塊、分層頻譜濾波器、基于交叉熵與NT-Xent損失的聯(lián)合對(duì)比學(xué)習(xí)這四部分組成：a）嵌入層：基于用戶過往的交互記錄，為序列中的每個(gè)項(xiàng)目生成初始的嵌人向量，并輔以位置編碼以賦予序列中每個(gè)位置獨(dú)一無二的標(biāo)識(shí)，進(jìn)而把握序列的時(shí)間順序特性;b）超圖嵌入模塊：基于超圖結(jié)構(gòu)建模用戶行為序列中物品之間的高階關(guān)系，采用多層超圖消息傳遞機(jī)制逐步提取超邊和物品節(jié)點(diǎn)的全局信息，從而捕獲復(fù)雜的高階交互特性；c）分層頻譜濾波器：利用快速傅里葉變換（fastFouriertransform，F(xiàn)FT）將交互序列從時(shí)間域映射到頻率域，然后通過分層的頻譜濾波器對(duì)不同頻率段的信號(hào)進(jìn)行處理，以濾除噪聲。處理完畢后，然后使用逆快速傅里葉變換（inversefastFouriertransform，IFFT）將頻域數(shù)據(jù)重新轉(zhuǎn)換為時(shí)間域，從而得到凈化后的特征；（d）預(yù)測(cè)與聯(lián)合對(duì)比學(xué)習(xí)：通過聯(lián)合交叉熵?fù)p失和NT-Xent對(duì)比損失進(jìn)行優(yōu)化，生成最終的用戶表示，提升推薦的精確性與魯棒性，同時(shí)通過對(duì)比學(xué)習(xí)增強(qiáng)序列數(shù)據(jù)的判別能力并緩解數(shù)據(jù)稀疏問題。

HYFTRec的模型框架如圖2所示。

2.3 嵌入層

在嵌入層中，構(gòu)建了一個(gè)物品嵌入矩陣 V∈R^|I|×d ，用于將物品的高維獨(dú)特表示映射到低維的稠密向量空間。對(duì)于長(zhǎng)度為 n 的物品序列，可以通過查找操作從嵌人矩陣 ν 中提取相應(yīng)的向量，得到輸入嵌入矩陣 X∈R^n×d 。與此同時(shí)，引入了一個(gè)可學(xué)習(xí)的位置編碼矩陣 $＼ b { ＼mathscr { Q } } ＼in ＼mathbb { R } ^ { n ＼times d }$ ，用于給序列中的每個(gè)位置提供獨(dú)特的位置信息。為了增強(qiáng)序列表示，將物品嵌入矩陣 X 和位置編碼矩陣 逐元素相加，得到初步的序列表示 Z∈ （204號(hào) R^n×d 。層歸一化[23]和 dropout^[24] 被用于確保訓(xùn)練過程的穩(wěn)定性。最終，序列表示的生成公式為

Z=dropout（LayerNorm（X+Q））

2.4超圖嵌入模塊

在嵌入層的基礎(chǔ)上，通過超圖嵌人模塊進(jìn)一步增強(qiáng)了物品序列的嵌人表示。引人超圖結(jié)構(gòu)來捕獲物品之間的高階關(guān)系。超圖嵌入模塊通過構(gòu)建超圖結(jié)構(gòu)，捕獲物品之間的高階關(guān)系，并利用多層超圖消息傳遞層，逐步提取超邊與節(jié)點(diǎn)之間的全局信息。

構(gòu)建一個(gè)可學(xué)習(xí)的物品超圖依賴矩陣 H∈R^d×h ，用于表示物品與超邊的連接關(guān)系。將物品節(jié)點(diǎn)嵌人映射到超邊嵌入空間，從而捕獲高階交互關(guān)系。物品嵌入矩陣 Z∈R^n×d 被映射到超邊嵌入空間，通過以下矩陣乘法計(jì)算得到物品到超邊的關(guān)系用式（4）表示：

E_h=Z?H

其中： E_h∈R^n×h 表示將物品節(jié)點(diǎn)投影到超邊空間的符號(hào)表達(dá)。

超邊信息通過轉(zhuǎn)置的超圖依賴矩陣 H^T∈R^h×d 傳播回物品節(jié)點(diǎn)，實(shí)現(xiàn)高階交互信息的聚合，用式（5）表示。

M=E_h?H^T

其中： M∈R^n×d 表示經(jīng)過超圖消息傳遞后物品節(jié)點(diǎn)的嵌入表示。

為了捕獲更深層次的關(guān)系，設(shè)計(jì)了多層超圖消息傳遞機(jī)制。每一層都通過線性變換、激活函數(shù)和殘差連接實(shí)現(xiàn)，用式（6）表示：

其中： M_（l） 表示第 ξ_l 層的物品嵌人表示； W_l∈R^d×d 是第 ξ_l 層的可學(xué)習(xí)權(quán)重;LeakyReLU （?） 是激活函數(shù)； M_（l+1） 是第 l+1 層經(jīng)過超圖消息傳遞后的物品嵌人表示。

2.5分層頻譜濾波器塊

為了在頻域中對(duì)嵌入矩陣進(jìn)行去噪，堆疊多個(gè)分層頻譜濾波塊。分層頻譜濾波器塊由濾波器和前饋網(wǎng)絡(luò)兩部分組成。

2.5.1 濾波器

對(duì)項(xiàng)目特征實(shí)施快速傅里葉變換，從而將嵌入表示從時(shí)間維度轉(zhuǎn)換到頻率維度。設(shè)定第 l 層的輸人表示為 S_l∈R^n×d ，通過一維FFT變換，其頻域用式（7）表示：

O_l=f（S_l），O_l∈C^n×d

其中 ?f（?） 用于執(zhí)行一維快速傅里葉變換，而 O_ι 則代表了信號(hào)S_l 的頻譜。鑒于頻率域的對(duì)稱性，僅需其中的一半頻率成分就能充分代表原始時(shí)間域信號(hào)的所有特征。轉(zhuǎn)換后，頻域表示的長(zhǎng)度 T 為輸人長(zhǎng)度 n 的一半，用式（8）表示：

T=?n/2?+1

在得到頻域表示后，通過分層濾波器實(shí)現(xiàn)對(duì)信號(hào)的去噪。在各個(gè)層級(jí)中，濾波器專門針對(duì)頻譜中的某些特定頻率范圍進(jìn)行調(diào)整，以實(shí)現(xiàn)逐層提取頻率域的特征。對(duì)于第 ξ_l 層，其濾波過程的計(jì)算采用式（9）表示：

其中： ? 表示元素間的乘法操作； 代表經(jīng)過調(diào)整之后的頻譜，Y_l∈R^m×d 是一個(gè)可學(xué)習(xí)的濾波器，主要作用是自動(dòng)提取序列中的頻率特征。濾波器的頻率范圍由截?cái)啾群彤?dāng)前層次 l 決定。

m=α?T

通過調(diào)整過濾器在頻域中的區(qū)間范圍來保留不同頻率成分，第 ξ_l 層中， O_l^ij 的計(jì)算公式表示為

O_l^ij=O_l[：，i;j，：]

其中： [i，j] 為當(dāng)前層次的頻率區(qū)間。在頻域處理中，位于指定區(qū)間之外的頻率成分將被消除，即它們的值被設(shè)為0，而處于該區(qū)間內(nèi)的頻率信號(hào)則被保留下來，不被修改。

為了更好地匹配用戶的不同行為模式，本文開發(fā)了兩種不同的頻率區(qū)間調(diào)整策略來動(dòng)態(tài)確定區(qū)間上下界 i 和 _j，L 表示分層頻譜濾波器的層數(shù)，具體公式表示如下：

低頻到高頻移動(dòng)（

高頻到低頻移動(dòng)（

這些調(diào)整策略旨在迎合具有各種周期性特點(diǎn)的用戶行為模式，目的是在消除數(shù)據(jù)中的噪聲的同時(shí)，集中識(shí)別用戶的真正偏好。

經(jīng)過過濾工序的頻譜信號(hào)，隨后會(huì)通過逆快速傅里葉變換（IFFT）轉(zhuǎn)換至其在時(shí)域中的原始表現(xiàn)形式，公式表示如下：

其中 ?f^-1（?） 表示一維IFFT運(yùn)算； 為過濾后的時(shí)域特征。

為了進(jìn)一步提升網(wǎng)絡(luò)的穩(wěn)定性并緩解梯度消失問題，結(jié)合了跳躍連接、層歸一化以及dropout操作，用公式表示如下：

2.5.2 前饋網(wǎng)絡(luò)

前饋網(wǎng)絡(luò)對(duì)經(jīng)過超圖嵌入模塊和分層頻譜濾波器處理后的特征進(jìn)行進(jìn)一步的非線性變換，以增強(qiáng)模型的表達(dá)能力和泛化能力。具體公式如下：

其中： K₁、b₁、K₂、b₂ 是可訓(xùn)練的參數(shù)。結(jié)合殘差連接和層歸一化確保訓(xùn)練過程的穩(wěn)定性，如下所示：

2.6基于交叉熵與NT-Xent損失的聯(lián)合對(duì)比學(xué)習(xí)

在HYFTRec中，為了優(yōu)化用戶行為序列的表征能力，本文設(shè)計(jì)了一種基于交叉熵?fù)p失和NT-Xent對(duì)比損失的聯(lián)合優(yōu)化框架，旨在同時(shí)提升序列推薦的精確性和魯棒性。

交叉熵?fù)p失作為模型的主要監(jiān)督目標(biāo)，用于優(yōu)化用戶對(duì)下一物品的預(yù)測(cè)概率。對(duì)于給定的用戶行為序列 S_t ，假設(shè)目標(biāo)物品為 i_t+1 ，負(fù)樣本為 i_t+1^- ，預(yù)測(cè)分?jǐn)?shù)分別為 （204號(hào) （S_t，i_t+1） 和 i_t+1^- ），則交叉熵?fù)p失定義用公式表示：

其中： σ（x） 表示sigmoid函數(shù)，用于將分?jǐn)?shù)差映射到概率空間；

i_t+1^- 是從用戶未交互過的物品中隨機(jī)采樣的負(fù)樣本。

為了進(jìn)一步增強(qiáng)用戶行為序列表征的判別能力，引入NT-Xent對(duì)比損失。該損失的目標(biāo)是通過構(gòu)建正樣本對(duì)和負(fù)樣本對(duì)，優(yōu)化序列增強(qiáng)視圖之間的相似性。

對(duì)于用戶行為序列 S_t ，通過隨機(jī)掩碼或擾動(dòng)生成兩個(gè)增強(qiáng)視圖 和 。模型通過編碼器 f（?） 提取其表示 z₁ 和 z₂ ，對(duì)比損失定義用公式表示：

其中： sin（z_i，z_j） 表示余弦相似度； τ 表示溫度系數(shù)，用于控制對(duì)比學(xué)習(xí)的敏感度； 2N 表示包括增強(qiáng)視圖在內(nèi)的所有樣本對(duì)數(shù)目。

最終聯(lián)合優(yōu)化目標(biāo)：

其中： L_CE 表示交叉熵?fù)p失，用于優(yōu)化推薦性能； L_NT 表示NTXent對(duì)比損失，用于增強(qiáng)序列表征； 表示L2正則化項(xiàng)，用于防止模型過擬合； λ 表示控制對(duì)比損失的權(quán)重； β 表示控制正則化強(qiáng)度。

3 實(shí)驗(yàn)與結(jié)果分析

3.1 數(shù)據(jù)集

在進(jìn)行實(shí)驗(yàn)時(shí)，研究團(tuán)隊(duì)選擇了業(yè)界普遍采用的Amazon數(shù)據(jù)集[25]。從中特別挑選了三個(gè)不同的子類別來進(jìn)行分析，這三個(gè)子類別分別是beauty、sportsandoutdoors以及toysandgames。在處理所有數(shù)據(jù)集時(shí)，首先，本文依據(jù)用戶的互動(dòng)行為對(duì)數(shù)據(jù)集進(jìn)行了劃分，并且保證了所有的互動(dòng)記錄均依照時(shí)間順序進(jìn)行了排序。本文對(duì)數(shù)據(jù)進(jìn)行了篩選，排除了那些交互次數(shù)較少、不太受歡迎的商品以及那些交互記錄不足五次、參與度較低的用戶。表1給出預(yù)處理后的數(shù)據(jù)集相關(guān)信息。

3.2 評(píng)價(jià)指標(biāo)

為了評(píng)估模型的性能，論文采用了幾種廣泛認(rèn)可的指標(biāo)，包括前 N 位的命中率（ HR@N） 前 N 位的歸一化折扣累積增益 NDCG@N）^[26 。這些評(píng)估標(biāo)準(zhǔn)在相關(guān)領(lǐng)域的先前研究中已被頻繁采用[19，27]。在HR 和 NDCG中，選取 N=5，10 進(jìn)行實(shí)驗(yàn)。在評(píng)估過程中，本文遵循了業(yè)界的常規(guī)做法[19.28]，將每個(gè)真實(shí)感興趣的項(xiàng)目與99個(gè)通過隨機(jī)抽樣得到的不感興趣項(xiàng)目進(jìn)行配對(duì)比較。這種方法有助于更準(zhǔn)確地模擬用戶的實(shí)際偏好，并評(píng)估模型在推薦系統(tǒng)中的區(qū)分能力。通過這種方式，能夠確保評(píng)估結(jié)果的可靠性和模型推薦質(zhì)量的準(zhǔn)確性。

3.3 實(shí)驗(yàn)對(duì)比

為了證明方法的有效性，HYFTRec與以下模型進(jìn)行了對(duì)比：

a）SASRec[12]：首次將注意力機(jī)制引入序列推薦的模型。

b） GRU4Rec^[10] ：提出了一種新型的基于RNN的會(huì)話推薦系統(tǒng)，該系統(tǒng)通過優(yōu)化標(biāo)準(zhǔn)門控單元（GRU）來實(shí)現(xiàn)。它包括了對(duì)會(huì)話并行處理的能力、在小批量基礎(chǔ)上執(zhí)行輸出抽樣，以及應(yīng)用排序損失函數(shù)來提升性能。

c）Caser[9]：一種基于CNN的順序推薦方法，利用水平和垂直卷積來捕捉序列特征。

d） IOCRec^[29] ：首次在多意圖導(dǎo)向的對(duì)比學(xué)習(xí)框架下解決順序推薦中的去噪問題的模型。

e） HCCF^[30] ：通過超圖增強(qiáng)的跨視圖對(duì)比學(xué)習(xí)架構(gòu)，同時(shí)捕捉局部和全局的協(xié)作關(guān)系，以增強(qiáng)基于GNN的協(xié)同過濾范式的區(qū)分能力。

f）SoftCSR[14]：通過引入對(duì)抗性對(duì)比損失和連續(xù)擾動(dòng)向量，擴(kuò)展了傳統(tǒng)的點(diǎn)級(jí)對(duì)比到區(qū)域級(jí)比較。

g）FMLP[19]：一個(gè)全MLP模型，借助可學(xué)習(xí)的濾波器進(jìn)行強(qiáng)化，適用于順序推薦任務(wù)，能有效自適應(yīng)減少頻域內(nèi)的噪聲信息。

3.4實(shí)驗(yàn)設(shè)置

HYFTRec模型是基于PyTorch框架實(shí)現(xiàn)的，并使用了NVIDIA4090GPU作為硬件支撐來實(shí)施模型的訓(xùn)練過程。HYFTRec模型使用Adam優(yōu)化器訓(xùn)練300個(gè)epoch，并采用了早期停止策略。批量大小設(shè)置為512。模型的隱藏層大小設(shè)置為64，最大序列長(zhǎng)度 n 設(shè)置為50。學(xué)習(xí)率設(shè)定為0.0001。

3.5 實(shí)驗(yàn)結(jié)果與分析

本節(jié)展示了HYFTRec與其他實(shí)驗(yàn)?zāi)Ｐ偷膶?duì)比實(shí)驗(yàn)結(jié)果，其在三組數(shù)據(jù)集上的詳細(xì)性能評(píng)估列于表2＼～4。將最優(yōu)結(jié)果加粗突出表示，次優(yōu)結(jié)果用下畫線突出表示。

表中數(shù)據(jù)顯示，HYFTRec模型在所有評(píng)估維度上均表現(xiàn)出色，在三個(gè)數(shù)據(jù)集上的性能均優(yōu)于其他對(duì)比模型。傳統(tǒng)方法如GRU4Rec和Caser在捕捉序列信息時(shí)的表現(xiàn)較為有限，原因在于它們無法有效建模高階關(guān)系。而基于超圖和頻譜分析的HYFTRec在捕獲復(fù)雜交互關(guān)系和去噪方面表現(xiàn)突出，這為推薦性能的提升提供了重要支持。

與傳統(tǒng)的基于序列建模的方法相比，HYFTRec展現(xiàn)出強(qiáng)大的優(yōu)勢(shì)。例如，與SASRec相比，HYFTRec在beauty數(shù)據(jù)集上的 HR@5 提高了 24.95% ，在sports和toys數(shù)據(jù)集上分別提高了 29.51% 和 30.11% ;而在 NDCG@5 上的提升則分別達(dá)到29.25% （202 ，36.69% 和 40.09% 。這一結(jié)果表明，HYFTRec引入的超圖結(jié)構(gòu)成功捕捉了用戶行為中復(fù)雜的高階關(guān)系，相比SASRec更全面地挖掘了用戶偏好模式。

對(duì)于基于對(duì)比學(xué)習(xí)的方法，例如SoftCSR和HCCF，盡管它們?cè)谠鰪?qiáng)用戶嵌入表示方面展現(xiàn)了不錯(cuò)的效果，但在處理行為序列中的噪聲問題時(shí)仍然存在一定的不足。相比之下，HYFTRec在推薦性能上表現(xiàn)出了顯著的優(yōu)勢(shì)。通過超圖嵌入模塊，HYFTRec能夠更加全面地捕獲用戶行為中的全局信息，而分層頻譜濾波器則有效地過濾了行為序列中的噪聲。這種結(jié)合使得HYFTRec在推薦的準(zhǔn)確性和魯棒性上均取得了顯著提升，特別是在處理復(fù)雜數(shù)據(jù)場(chǎng)景時(shí)表現(xiàn)尤為突出。超圖結(jié)構(gòu)的引入和頻譜分析的應(yīng)用，為捕獲用戶真實(shí)行為模式提供了強(qiáng)有力的支持，使得模型在推薦效果上遠(yuǎn)超傳統(tǒng)對(duì)比學(xué)習(xí)方法。

相比基于MLP的方法（如FMLP），HYFTRec的分層頻譜濾波模塊對(duì)噪聲的精細(xì)化處理使其在各數(shù)據(jù)集上均表現(xiàn)出色。例如，在beauty數(shù)據(jù)集上，HYFTRec的 HR@10 和 NDCG@10 分別比FMLP提高了 10.7% 和 12.5% ，這一顯著的性能提升來源于超圖捕獲高階交互關(guān)系的能力，以及頻域?yàn)V波對(duì)用戶真實(shí)偏好的高效建模。

綜上所述，HYFTRec在beauty、sports和toys數(shù)據(jù)集上均展現(xiàn)了卓越的推薦性能，充分證明了其在序列推薦任務(wù)中的優(yōu)勢(shì)。通過結(jié)合超圖結(jié)構(gòu)、分層頻譜濾波器和對(duì)比學(xué)習(xí)優(yōu)化，HYFTRec有效解決了數(shù)據(jù)稀疏和噪聲問題，實(shí)現(xiàn)了在推薦準(zhǔn)確性和魯棒性上的雙重提升。

3.6 推薦應(yīng)用實(shí)例

如圖3所示，為HYFTRec在美容類產(chǎn)品背景下的推薦實(shí)例。用戶可視為購(gòu)買者，物品可視為美容類的產(chǎn)品。用戶的交互序列為{20，21，22，23，4，24。其中數(shù)字表示物品的ID。然后交互序列，經(jīng)過嵌入層，超圖模塊提取交互序列物品之間的高階性，分層頻譜濾波器進(jìn)行去噪，以及對(duì)比學(xué)習(xí)，有效建模，實(shí)現(xiàn)對(duì)用戶的個(gè)性化物品推薦。HYFTRec模型輸出該用戶下一個(gè)可能交互的物品ID是12。HYFTRec 模型，對(duì)物品高階捕捉，該用戶交互的物品與物品12有著一定的關(guān)聯(lián)。相比基準(zhǔn)模型FMLP，HYFTRec模型的評(píng)估指標(biāo)更高，進(jìn)一步驗(yàn)證了HYFTRec模型在序列推薦任務(wù)中的有效性。

3.7超參數(shù)對(duì)模型效果的影響

本節(jié)內(nèi)容聚焦于分析HYFTRec中三個(gè)核心超參數(shù)如何影響模型性能，分別是分層頻譜濾波器的層數(shù) L₂ 、超圖超邊數(shù)num_hyperedges、學(xué)習(xí)率 lr ，同時(shí)在實(shí)驗(yàn)中保持其他超參數(shù)最優(yōu)。

3.7.1分層頻譜濾波器層數(shù) L₂ 的影響

超參數(shù) L₂ 不僅決定了分層頻譜濾波器的層數(shù)，同時(shí)也影響了濾波器的移動(dòng)方式及其過濾范圍的確定。實(shí)驗(yàn)結(jié)果如圖4所示。

在實(shí)驗(yàn)中， NDCG@5 被用作評(píng)估指標(biāo)，其他指標(biāo)顯示出了和 NDCG@5 一致的趨勢(shì)。從圖4可觀察到，在beauty數(shù)據(jù)集上，當(dāng) L₂ 為2時(shí)，模型性能最佳;而在sports和toys數(shù)據(jù)集中，當(dāng) L₂ 為3時(shí)，模型性能達(dá)到最優(yōu)。這說明不同數(shù)據(jù)集的最佳層級(jí)數(shù) L₂ 存在明顯差異。這種現(xiàn)象可能源于不同數(shù)據(jù)集中的用戶行為模式存在差異，導(dǎo)致模型在捕獲有效時(shí)序信息時(shí)的最佳頻率范圍有所不同。因此，模型需要根據(jù)具體數(shù)據(jù)集的特點(diǎn)，動(dòng)態(tài)調(diào)整分層頻譜濾波器的邊界范圍和移動(dòng)方式，以更精準(zhǔn)地提取用戶行為的特定周期特征，從而提升推薦性能。

3.7.2超圖超邊數(shù) num_hyperedges的影響

實(shí)驗(yàn)結(jié)果如圖5所示。

圖5展示了在不同num_hyperedges設(shè)置下，HYFTRec在三個(gè)數(shù)據(jù)集上的性能對(duì)比結(jié)果。在實(shí)驗(yàn)中， NDCG@5 被用作評(píng)估指標(biāo)，其他指標(biāo)顯示出了和NDCG @ 5一致的趨勢(shì)。從圖5可以看到，這三個(gè)數(shù)據(jù)集，當(dāng)num_hyperedges設(shè)置為32時(shí)模型性能最佳;隨著num_hyperedges的增加，模型性能在初期得到顯著提升，但當(dāng)num_hyperedges超過一定值后，性能趨于平穩(wěn)甚至略有下降。具體而言，對(duì)于beauty數(shù)據(jù)集，性能在較低的num_hyperedges設(shè)置下迅速增長(zhǎng)，隨后趨于飽和;而在sports和toys數(shù)據(jù)集上，性能在適中的num_hyperedges值時(shí)達(dá)到最佳。

這種現(xiàn)象表明，適量的超邊數(shù)有助于捕捉用戶行為中的高階關(guān)系，但過多的超邊可能引人冗余信息，導(dǎo)致模型的表征能力下降。因此，對(duì)于不同的數(shù)據(jù)集，需根據(jù)用戶行為的復(fù)雜程度和數(shù)據(jù)稀疏性選擇適當(dāng)?shù)膎um_hyperedges值，以平衡模型的復(fù)雜度和性能。

3.7.3學(xué)習(xí)率 lr 的影響

實(shí)驗(yàn)結(jié)果如圖6所示。

圖6展示了在不同學(xué)習(xí)率 （lr） 設(shè)置下，HYFTRec在不同數(shù)據(jù)集中的性能表現(xiàn)。在實(shí)驗(yàn)中， NDCG@5 被用作評(píng)估指標(biāo)，其他指標(biāo)顯示出了和 NDCG@5 一致的趨勢(shì)。從圖中可以看到，模型的性能對(duì)學(xué)習(xí)率的變化較為敏感，模型在三個(gè)數(shù)據(jù)集上均在學(xué)習(xí)率設(shè)置為0.0001時(shí)取得了最佳性能。

3.8 消融實(shí)驗(yàn)

為驗(yàn)證HYFTRec模型的設(shè)計(jì)合理性，本文開展了消融實(shí)驗(yàn)，對(duì)各個(gè)模塊的有效性進(jìn)行了獨(dú)立評(píng)估。當(dāng)從HYFTRec中分別移除超圖、分層頻譜濾波器和對(duì)比學(xué)習(xí)時(shí)，得到的變體模型分別包括HYFTRec-h、HYFTRec-f、HYFTRec-c，而完整模型為HYFTRec。消融實(shí)驗(yàn)在三個(gè)數(shù)據(jù)集上進(jìn)行，其結(jié)果如表5所示。

從表5中可以看出，完整的HYFTRec模型在所有數(shù)據(jù)集和指標(biāo)上均取得了最佳性能，而去除任一模塊后，模型性能均出現(xiàn)不同程度的下降。其中，去除分層頻譜濾波器模塊（HYFTRec-f）對(duì)性能的影響最為顯著，表明分層頻譜濾波器在去噪和捕捉用戶行為中的頻率特征方面起到了關(guān)鍵作用。

另一方面，去除超圖模塊（HYFTRec-h）對(duì)性能的影響相對(duì)較小，但仍然顯著。超圖模塊的作用在于捕捉用戶與物品之間的高階關(guān)系，這對(duì)于復(fù)雜交互模式的數(shù)據(jù)集尤為重要。在去除對(duì)比學(xué)習(xí)模塊（HYFTRec-c）后，模型的性能也略有下降，表明對(duì)比學(xué)習(xí)在增強(qiáng)用戶行為序列表征的區(qū)分能力方面起到了輔助作用。

綜上所述，消融實(shí)驗(yàn)結(jié)果表明，HYFTRec的各個(gè)模塊相互協(xié)作，共同提升了模型的推薦性能。其中，分層頻譜濾波器對(duì)性能的貢獻(xiàn)最大，而超圖模塊和對(duì)比學(xué)習(xí)模塊則分別從高階關(guān)系建模和序列表征增強(qiáng)的角度進(jìn)一步提高了模型的推薦質(zhì)量。

4結(jié)束語

本文提出了一種新的序列推薦模型HYFTRec，通過引入超圖結(jié)構(gòu)和分層頻譜濾波器來提升推薦性能。模型創(chuàng)新性地結(jié)合了超圖建模和基于分層頻譜的可學(xué)習(xí)濾波器，對(duì)用戶行為序列中的高階關(guān)系和噪聲數(shù)據(jù)進(jìn)行了有效捕捉與抑制。同時(shí)，通過對(duì)比學(xué)習(xí)增強(qiáng)用戶行為的表示能力，有效緩解了數(shù)據(jù)稀疏和噪聲問題。相比傳統(tǒng)方法，HYFTRec在多個(gè)數(shù)據(jù)集上均表現(xiàn)出顯著的性能提升。

參考文獻(xiàn)：

[1]Bontempelli T，ChapusB，Rigaud F，et al.Flow moods：recommendingmusic bymoodsonDeezer[C]//Procof the16th ACM ConferenceonRecommender Systems. New York：ACMPress，2022：452- 455.

[2]Gong Xudong，F(xiàn)eng Qinlin，Zhang Yuan，et al.Real-time short video recommendation on mobile devices[C]//Proc of the 31st ACM International Conference on Information amp; Knowledge Management. NewYork：ACMPress，2022：3103-3112.

[3].Rao Xuan，Chen Lisi，Liu Yong，et al.Graph-flashback network for nextlocation recommendation[C]//Proc of the28th ACM SIGKDD Conference on Knowledge Discovery and Data Mining.New York： ACMPress，2022：1463-1471.

[4]錢忠勝，趙暢，俞情媛，等．結(jié)合注意力CNN與GNN的信息融 合推薦方法[J].軟件學(xué)報(bào)，2023，34（5）：2317-2336.（Qian Zhongsheng，Zhao Chang，YuQingyuan，etal.Informationfusion recommendation approach combining attention CNN and GNN[J]. Journal of Software，2023，34（5）：2317-2336.）

[5]劉超，任夢(mèng)瑤，馮祿華．基于輔助信息與長(zhǎng)短期偏好的序列推薦 [J]．計(jì)算機(jī)應(yīng)用研究，2024，41（9）：2628-2634．（LiuChao， RenMengyao，F(xiàn)engLuhua.Sequencerecommendationbased on side information and long-short term preferences[J].Application ResearchofComputers，2024，41（9）：2628-2634.）

[6]Chen Zefeng，Gan Wensheng，Wu Jiayang，etal.Data scarcity in recommendationsystems：a survey[J].ACMTranson RecommenderSystems，2025，3（3）：1-31.

[7]楊新新，劉真，盧思博，等．基于因果推斷的推薦系統(tǒng)去偏研究 綜述［J].計(jì)算機(jī)學(xué)報(bào)，2024，47（10）：2307-2332.（Yang Xinxin，Liu Zhen，Lu Sibo，et al．A survey on debiasing recommendation based on causal inference [J]. Chinese Journal of Computers， 2024，47（10）：2307-2332.）

[8]HeRuining，McAuley J.Fusing similarity models with Markov chains for sparse sequential recommendation [C]//Proc of the 16th IEEE International Conference on Data Mining. Piscataway，NJ：IEEE Press，2016：191-200.

[9]Tang Jiaxi，Wang Ke.Personalized top- ?N sequential recommendation via convolutional sequence embedding[C]//Proc of the 11th ACM International Conference on Web Search and Data Mining.New York： ACM Press，2018：565-573.

[10]Hidasi B，Karatzoglou A，BaltrunasL，et al.Session-based recommendations with recurrent neural networks[C]//Proc of International Conference on Learning Representations.2O16：1-14.

[11]Wu Shu，Tang Yuyuan，Zhu Yanqiao，et al． Session-based recommendation with graph neural networks [C]// Proc of AAAI Conference on Artificial Intelligence.Palo Alto，CA：AAAI Press，2019： 346-353.

[12]Kang Wangcheng，McAuley J. Self-attentive sequential recommendation[C]//Proc of IEEE International Conference on Data Mining. Piscataway，NJ：IEEE Press，2018：197-206.

[13]Yang Xingyao，Xu Feng，Yu Jiong，et al.Graph neural networkguided contrastive learning for sequential recommendation [J]. Sensors，2023，23（12）： 5572.

[14]Zhang Yabin，Wang Zhenlei，Yu Wenhui，et al.Soft contrastive sequential recommendation [J].ACM Trans on Information Systems，2024，42（6）：1-28.

[15]Feng Yifan，You Haoxuan，Zhang Zizhao，et al.Hypergraph neural networks[C]//Proc of AAAI Conferenceon Artificial Intelligence. Palo Alto，CA：AAAI Press，2019：3558-3565.

[16]Li Yinfeng，Gao Chen，Luo Hengliang，et al.Enhancing hypergraph neural networks with intent disentanglement for session-based recommendation[C]//Procofthe45thInternational ACMSIGIR Conference on Research and Development in Information Retrieval.New York：ACM Press，2022：1997-2002.

[17] Zhao Sen，Wei Wei，Liu Yifan，et al. Towards hierarchical policy learning for conversational recommendation with hypergraph-based reinforcementlearning[C]//Proc of the 32nd International Joint Conference on Artificial Intelligence.San Francisco，CA：Morgan Kaufmann Publishers，2023：2459-2467.

[18]Zhang Yichi，Yin Guisheng，Dong Yuxin.Contrastive learning with frequency-domain interest trendsfor sequential recommendation [C]//Proc of the 17th ACM Conference on Recommender Systems. New York：ACM Press，2023：141-150.

[19」Zhou Kun，Yu Hui，Zhao Waynexin，et al.Filter-enhanced MLP is all you need for sequential recommendation[C]//Proc ofACMWeb Conference. New York： ACM Press，2022： 2388-2399.

[20]Xie Xu，Sun Fei，Liu Zhaoyang，et al. Contrastive learning for sequential recommendation[C]//Proc of the 38th IEEE International Conference on Data Engineering.Piscataway，NJ：IEEE Press， 2022：1259-1273.

[21]Liu Zhiwei，Chen Yongjun，Li Jia，et al.Contrastive self-supervised sequential recommendation with robust augmentation [EB/OL]. （2021-08-14）. https：//arxiv. org/abs/2108. 06479.

[22]Wang Zhikai， Shen Yanyan， Zhang Zexi，et al. Relative contrastive learning for sequential recommendation with similarity-based positive sample selection[C]//Proc ofthe33rd ACM International Conferenceon Informationand KnowledgeManagement.NewYork：ACM Press，2024：2493-2502.

[23]Lei Ba J，Kiros JR，Hinton G E.Layer normalization[EB/OL]. （2016-07-22）. https：//arxiv.org/abs/1607.06450.

[24]Srivastava N，Hinton G，Krizhevsky A，et al. Dropout： a simple way to prevent neural networks from overfitting[J]. Journal of Machine LearningResearch，2014，15：1929-1958.

[25]McAuley J，Target C，Shi Qinfeng，et al.Image-based recommendationsonstylesand substitutes[C]//Proc ofthe38th International ACM SIGIR Conference on Research and Development in Information Retrieval.New York：ACMPress，2015：43-52.

[26] Zhao W X，Chen Junhua，Wang Pengfei，et al.Revisiting alternative experimental settings for evaluating top-N item recommendation algorithms[C]//Proc of the 29th ACM International Conference on Informationamp;Knowledge Management.New York：ACMPress，2020： 2329-2332.

[27]Cao Jiangxia，Cong Xin，Sheng Jiawei，et al.Contrastive crossdomain sequential recommendation[C]//Proc of the 31st ACM International Conference on Information amp; Knowledge Management. New York：ACM Press，2022：138-147.

[28]Zhou Kun，Wang Hui，Zhao WX，etal．S3-rec：self-supervised learning for sequential recommendation with mutual information maximization[C]//Proc of the29th ACM International Conference on Information amp; Knowledge Management. New York：ACM Press，2020： 1893-1902.

[29]Li Xuewei，Sun Aitong，Zhao Mankun，et al.Multi-intention oriented contrastive learning for sequential recommendation[C]//Proc of thel6th ACM International Conference on Web Search and Data Mining. New York：ACM Press，2023：411-419.

[30] Xia Lianghao，Huang Chao，Xu Yong，et al. Hypergraph contrastive collaborative filtering[C]//Proc ofthe45th International ACM SIGIR Conference on Research and Development in Information Retrieval.New York：ACMPress，2022：70-79.