深度學(xué)習(xí)在基于序列的蛋白質(zhì)互作預(yù)測中的應(yīng)用進(jìn)展

朱景勇，李鈞翔，李旭輝，張瑾，毋文靜

（1 浙江理工大學(xué)生命科學(xué)與醫(yī)藥學(xué)院，浙江 杭州 310018； 2 嘉興學(xué)院生物與化學(xué)工程學(xué)院，浙江 嘉興 314000；3 浙江清華長三角研究院，衰老科學(xué)創(chuàng)新研發(fā)中心，浙江 嘉興 341001； 4 禾美生物科技（浙江）有限公司，浙江嘉興 341001； 5 浙江清華長三角研究院，浙江省應(yīng)用酶學(xué)重點實驗室，浙江 嘉興 314006）

蛋白質(zhì)作為細(xì)胞中最常見的生物大分子，在細(xì)胞內(nèi)的生物過程中發(fā)揮著至關(guān)重要的作用。從信號轉(zhuǎn)導(dǎo)、基因的復(fù)制、轉(zhuǎn)錄與翻譯，到細(xì)胞能量代謝，都需要蛋白質(zhì)的參與。很多蛋白質(zhì)通過與其他蛋白質(zhì)相互作用來發(fā)揮功能［1］，因此深入研究蛋白質(zhì)相互作用（protein protein interactions， PPI）對于了解生命機制、發(fā)現(xiàn)藥物靶點具有重要意義。目前PPI鑒定方法一般分為傳統(tǒng)實驗方法和計算方法兩種，常見的實驗方法有酵母雙雜交［2］、串聯(lián)親和純化［3］、蛋白質(zhì)芯片［4］等。盡管這些方法已經(jīng)取得了重要成果，但存在成本高、耗時長、假陽性率高等問題［5］，而計算方法作為傳統(tǒng)實驗方法的重要補充，可以提高PPI鑒定的準(zhǔn)確性和效率。

PPI預(yù)測的傳統(tǒng)計算方法一般包括基于基因組信息的方法［6］、基于進(jìn)化信息的方法［7］、基于蛋白質(zhì)互作網(wǎng)絡(luò)的方法［8］以及基于物理模型的分子對接方法［9］等?；诨蚪M信息的方法通過蛋白質(zhì)編碼基因的同源性、共表達(dá)模式和共定位信息推斷可能的互作關(guān)系，需要大量關(guān)于基因的先驗知識；基于進(jìn)化信息的方法通過分析蛋白質(zhì)序列在多物種中的共進(jìn)化信號來預(yù)測它們之間的相互作用，高度依賴可用進(jìn)化數(shù)據(jù)的數(shù)量和質(zhì)量，且這種方法建立在保守進(jìn)化的基礎(chǔ)上，這在某些情況下并不成立；基于蛋白質(zhì)互作網(wǎng)絡(luò)的方法根據(jù)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和模塊化特性，從已知互作網(wǎng)絡(luò)關(guān)系中推測新的相互作用。近年來常利用圖神經(jīng)網(wǎng)絡(luò)［10］做這方面的研究，但這種方法完全依賴于已知的互作網(wǎng)絡(luò)，可能會由于現(xiàn)有蛋白質(zhì)互作網(wǎng)絡(luò)并不全面而出現(xiàn)遺漏和假陽性；最后，基于分子對接的方法在分子級別上模擬蛋白質(zhì)與潛在合作伙伴之間的結(jié)合，這類方法具有明確的生物物理基礎(chǔ)，通過結(jié)合自由能來判斷結(jié)合狀況。但分子對接通常需要蛋白質(zhì)三維結(jié)構(gòu)信息，且計算復(fù)合物的構(gòu)象伴隨著復(fù)雜的計算過程，需要巨額的算力和時間。

隨著大數(shù)據(jù)和計算能力的發(fā)展，利用蛋白質(zhì)信息進(jìn)行訓(xùn)練和預(yù)測的機器學(xué)習(xí)（machine learning）方法已在PPI預(yù)測領(lǐng)域取得快速進(jìn)步。高通量技術(shù)的發(fā)展產(chǎn)生了大量PPI數(shù)據(jù)［11］，這為機器學(xué)習(xí)在PPI預(yù)測上的應(yīng)用奠定了堅實的數(shù)據(jù)基礎(chǔ)。目前常見的基于機器學(xué)習(xí)的PPI預(yù)測方法可以分為基于結(jié)構(gòu)信息的預(yù)測和基于序列信息的預(yù)測。基于結(jié)構(gòu)信息的計算方法通常依賴蛋白質(zhì)結(jié)構(gòu)數(shù)據(jù)進(jìn)行PPI預(yù)測，如Inpred［12］和Struct2Graph［13］等，但這類方法僅適用于有確定三維結(jié)構(gòu)信息的蛋白質(zhì)。然而傳統(tǒng)測定蛋白質(zhì)三維結(jié)構(gòu)依賴X射線晶體學(xué)和核磁共振等方法，這類方法通常耗時且昂貴［14］。相較于蛋白質(zhì)的三維結(jié)構(gòu)，高通量技術(shù)帶來了大量蛋白質(zhì)的序列信息，盡管科研人員一直致力于測定序列的三維結(jié)構(gòu)，但已知結(jié)構(gòu)的序列和未測定結(jié)構(gòu)的序列在數(shù)量上存在顯著差距［15］，這種數(shù)量差異也是基于序列的方法成為研究熱點的重要原因。最早在2007年，Shen等［16］首次提出了僅基于序列的PPI預(yù)測模型，使用支持向量機作為分類器，最終達(dá)到了83.9%的準(zhǔn)確率，展示了機器學(xué)習(xí)算法在基于序列信息預(yù)測PPI領(lǐng)域的潛力。隨著技術(shù)的發(fā)展，基于決策樹［17］、樸素貝葉斯［18］、隨機森林［19］等算法的預(yù)測模型都取得了進(jìn)展。

然而，傳統(tǒng)機器學(xué)習(xí)方法預(yù)測PPI需要研究者根據(jù)專業(yè)知識給每條蛋白質(zhì)序列手動生成特征［20］，可能會遺漏蛋白質(zhì)信息中難以捕捉的深層特征，這限制了其在預(yù)測蛋白質(zhì)互作時的準(zhǔn)確性和泛化能力。而深度學(xué)習(xí)（deep learning）方法已經(jīng)在這方面展現(xiàn)了巨大的潛力，作為機器學(xué)習(xí)的分支，深度學(xué)習(xí)已經(jīng)在計算機視覺［21］和自然語言處理［22］等領(lǐng)域成功應(yīng)用。通過利用多層非線性處理單元進(jìn)行特征提取和轉(zhuǎn)換，深度學(xué)習(xí)模型可以從龐大而復(fù)雜的數(shù)據(jù)集中學(xué)習(xí)分層表征，這一特點在計算生物學(xué)中非常有用［23］。近年來學(xué)者將其應(yīng)用于PPI預(yù)測，依靠強大的學(xué)習(xí)能力，深度學(xué)習(xí)實現(xiàn)了從蛋白質(zhì)信息中抽取深層特征，提高PPI預(yù)測的準(zhǔn)確性和效率。利用深度學(xué)習(xí)進(jìn)行PPI預(yù)測一般流程包括數(shù)據(jù)準(zhǔn)備、序列編碼、算法學(xué)習(xí)和預(yù)測輸出（圖1）。

圖1 利用深度學(xué)習(xí)基于序列預(yù)測蛋白質(zhì)相互作用的一般流程Fig. 1 General workflow for predicting protein-protein interactions by sequence-based deep learning

隨著時間推移，深度學(xué)習(xí)在基于序列預(yù)測PPI的應(yīng)用上快速發(fā)展，總體可分為三個方向：預(yù)測蛋白質(zhì)之間是否互作；預(yù)測蛋白質(zhì)序列上的結(jié)合位點；預(yù)測蛋白質(zhì)間形成的復(fù)合物結(jié)構(gòu)。本文旨在綜述深度學(xué)習(xí)在基于序列的蛋白質(zhì)互作預(yù)測領(lǐng)域的應(yīng)用，主要聚焦于預(yù)測蛋白質(zhì)之間互作可能性的模型，提到了部分預(yù)測蛋白質(zhì)序列上結(jié)合位點的模型。本文涵蓋計算模型中數(shù)據(jù)集的構(gòu)建方法、常用蛋白質(zhì)編碼方法、常用的算法框架以及模型評估指標(biāo)等方面。同時，我們還將分析目前所面臨的挑戰(zhàn)和未來發(fā)展趨勢，以期為該領(lǐng)域的研究提供參考。

1 PPI預(yù)測模型中的數(shù)據(jù)處理

1.1 數(shù)據(jù)集的構(gòu)建

深度學(xué)習(xí)方法是數(shù)據(jù)驅(qū)動的，高質(zhì)量的數(shù)據(jù)對于深度學(xué)習(xí)模型至關(guān)重要。數(shù)據(jù)集越大越全面，訓(xùn)練好的模型就越能適應(yīng)可能出現(xiàn)的新數(shù)據(jù)，有利于提高預(yù)測的準(zhǔn)確性。對于基于序列的PPI預(yù)測，數(shù)據(jù)集主要由相互作用的蛋白質(zhì)對（陽性數(shù)據(jù)）和非相互作用的蛋白質(zhì)對（陰性數(shù)據(jù)）組成。研究人員們通常從已公開發(fā)表的數(shù)據(jù)庫提取數(shù)據(jù)，本節(jié)將介紹常用的相關(guān)數(shù)據(jù)庫，以便研究人員在進(jìn)行相關(guān)研究時能夠更好地選擇和使用。

蛋白質(zhì)序列一般從UniProt［24］中提取，這是一個包含蛋白質(zhì)序列和相關(guān)注釋信息的綜合性數(shù)據(jù)庫，其中大部分信息通過高通量測序技術(shù)獲得。這些蛋白質(zhì)來自人類、動物、植物、微生物等不同物種，涵蓋了廣泛的研究領(lǐng)域。除了序列信息外，UniProt還包含了各種類型的蛋白質(zhì)注釋信息，包括功能、結(jié)構(gòu)、組織特異性、代謝途徑、互作信息等。

相互作用對的數(shù)據(jù)一般通過公開發(fā)表的互作數(shù)據(jù)庫獲取，BioGrid［25］是一個蛋白質(zhì)相互作用數(shù)據(jù)庫，目前包含了來自7萬多份已發(fā)表文獻(xiàn)的17萬多份互作信息，涵蓋包括酵母、蠕蟲、蒼蠅、老鼠和人類在內(nèi)的多種物種。HPRD［26］是一個以人類蛋白質(zhì)為核心的蛋白質(zhì)相互作用信息數(shù)據(jù)庫，涵蓋了超過30 000個人類蛋白質(zhì)。DIP［27］包含了各種物種的蛋白質(zhì)互作信息，其中人類蛋白質(zhì)互作信息達(dá)9000多對。

除了相互作用數(shù)據(jù)外，非相互作用數(shù)據(jù)對于模型訓(xùn)練同樣重要，常見的生成方式為打亂互作蛋白質(zhì)對，并將其隨意組合。已經(jīng)有研究證明［28］，這種方式得到的蛋白質(zhì)對的互作可能性可以忽略。另外，部分研究者們通過Negatome［29］數(shù)據(jù)庫獲取非互作對數(shù)據(jù)，Negatome通過篩選文獻(xiàn)和分析已知三維結(jié)構(gòu)的蛋白質(zhì)復(fù)合物，并從中排除高通量方法檢測到的相互作用來收集非相互作用蛋白質(zhì)對。一些常見的互作數(shù)據(jù)庫及基本信息如表1所示。

表1 常用的數(shù)據(jù)庫以及基本信息Table 1 Public databases and basic information

1.2 蛋白質(zhì)序列的編碼

盡管深度學(xué)習(xí)具有自動提取特征的能力［34］，但在基于深度學(xué)習(xí)的PPI預(yù)測方法中，將蛋白質(zhì)序列編碼為矩陣或者向量仍有必要。一般而言，天然蛋白質(zhì)是由20種標(biāo)準(zhǔn)氨基酸組成的長度不等的序列，而計算模型只能接受數(shù)字向量作為輸入［35］，所以在深度學(xué)習(xí)方法中，需要將這些離散的氨基酸符號轉(zhuǎn)換為連續(xù)的數(shù)值表示，并進(jìn)一步表示為固定的矩陣或者向量，使其更容易被深度學(xué)習(xí)模型處理。高效的編碼方式可以幫助模型關(guān)注PPI中更有意義的信息，或使計算模型更全面地掌握蛋白質(zhì)信息以及互作信息，從而更好地學(xué)習(xí)到互作“規(guī)律”，提高模型的預(yù)測性能。本節(jié)將介紹現(xiàn)有基于序列的計算模型中常用的蛋白質(zhì)序列編碼方法，主要分為基于序列成分、基于自相關(guān)和基于進(jìn)化信息的編碼方法。一些常見的蛋白質(zhì)編碼方法如表2所示。

表2 基于序列的PPI預(yù)測模型中常見的蛋白質(zhì)編碼方法Table 2 Protein encoding methods in sequence-based PPI prediction models

1.2.1 基于序列成分的編碼方法

基于序列成分的編碼方法通過計算序列中氨基酸或連續(xù)氨基酸對的出現(xiàn)頻率來表示一條蛋白質(zhì)序列。最早，研究人員通過獨熱編碼（one-hot）［50］來表示一條序列，將20個標(biāo)準(zhǔn)氨基酸按一定順序固定，對于序列中第i位氨基酸用20個二進(jìn)制位表示，第i位設(shè)為“1”，其余為“0”，對于一條長度為N的序列，最后能得到N×20的矩陣（見圖2）。這種方法雖然能將氨基酸序列轉(zhuǎn)換為矩陣，但數(shù)據(jù)過于稀疏，且長序列的獨熱編碼存在維度過高的缺點，容易導(dǎo)致計算效率低下。在獨熱編碼思想的基礎(chǔ)上通過計算蛋白質(zhì)序列內(nèi)20個標(biāo)準(zhǔn)氨基酸的出現(xiàn)頻率得到氨基酸組成（amino acid composition， AAC），最終對于每一條蛋白質(zhì)序列都可以得到一個20維的向量。聯(lián)合三元組將連續(xù)三個氨基酸看成一個三元組，通過計算三元組的頻率表征序列信息，這種方法可以關(guān)注相鄰氨基酸之間的相互影響。偽氨基酸組成（pseudo-amino acid composition， Pse-AAC）在AAC的基礎(chǔ)上結(jié)合了氨基酸的疏水性、親水性和側(cè)鏈質(zhì)量，并考慮了序列順序信息，使編碼后的向量包含更豐富的信息。

圖2 利用one-hot將氨基酸序列轉(zhuǎn)化為向量矩陣Fig.2 Converting amino acid sequences into vector matrices using the one-hot strategy

除序列的基本信息外，蛋白質(zhì)的內(nèi)在無序區(qū)域也與PPI密切相關(guān)。蛋白質(zhì)的內(nèi)在無序性描述的是蛋白質(zhì)序列中某些區(qū)域在沒有與其他分子或蛋白質(zhì)相互作用的情況下，不傾向于形成固定的三維結(jié)構(gòu)［51］。這些無序的區(qū)域在許多生物學(xué)過程中起著關(guān)鍵作用，特別是在蛋白質(zhì)互作中［52］。已有研究表明，蛋白質(zhì)的無序區(qū)域通過短線性基序和無序區(qū)域的誘導(dǎo)折疊介導(dǎo)PPI［53］。具體地說，一個蛋白質(zhì)的短線性基序經(jīng)常位于其序列的無序區(qū)域，并通過與伴侶蛋白質(zhì)的結(jié)構(gòu)域進(jìn)行互作來實現(xiàn)PPI［54］。某些無序區(qū)域還會通過誘導(dǎo)折疊與另一個蛋白質(zhì)的結(jié)構(gòu)域或無序區(qū)域結(jié)合［55］。另外，由于這些無序區(qū)域沒有固定的結(jié)構(gòu)，它們常常作為蛋白質(zhì)互作網(wǎng)絡(luò)中的樞紐，扮演核心的調(diào)節(jié)角色［56］。因此，已經(jīng)有研究人員利用工具預(yù)測蛋白質(zhì)中每個殘基的無序傾向，并將這些無序傾向作為特征向量引入到PPI預(yù)測模型的訓(xùn)練中［57］。通過計算方法預(yù)測蛋白質(zhì)的無序區(qū)域是近年來的熱門研究方向，常用的預(yù)測工具包括IUPred2［58］、DEPICTER［59］以及在CAID（Critical Assessment of protein Intrinsic Disorder prediction）［60］競賽中取得第一名的SPOTDisorder2［61］等。CAID競賽是評估和促進(jìn)蛋白質(zhì)無序傾向預(yù)測方法發(fā)展的重要平臺，對推動蛋白質(zhì)無序傾向預(yù)測方法的進(jìn)步具有重要意義。SPOT-Disorder2由Zhou等人提出，通過結(jié)合深度擠壓和激勵剩余開始（Squeeze-and-Excitation residual inception）神經(jīng)網(wǎng)絡(luò)［62］與長短時記憶（long short-term memory， LSTM）［63］神經(jīng)網(wǎng)絡(luò)，綜合利用進(jìn)化信息和序列屬性，顯著提高了預(yù)測精度。對于輸入序列的每一個殘基，SPOT-disorder2都會給出一個0到1的值代表該殘基傾向無序的概率，這些數(shù)值可以被編碼為特征向量送入PPI模型中訓(xùn)練。類似的編碼如IUPred2，提供一條長度為L的蛋白質(zhì)序列即可獲得一個L×3的矩陣，包含了這條蛋白質(zhì)的氨基酸組成和IUPred2預(yù)測每位殘基傾向無序的概率。

1.2.2 基于自相關(guān)信息的編碼方法

基于序列成分的編碼方法重在關(guān)注序列中氨基酸的種類和頻率，且最多只考慮相鄰氨基酸之間的相互影響，但PPI可能發(fā)生在不連續(xù)的氨基酸片段，所以不相鄰氨基酸之間的相關(guān)性至關(guān)重要。基于這一點，Guo等［39］最早提出了自協(xié)方差（auto covariance， AC）用來計算序列中各個位置氨基酸的相關(guān)性，首先根據(jù)氨基酸的七種理化性質(zhì)值將蛋白質(zhì)序列轉(zhuǎn)換為數(shù)值序列，然后通過自相關(guān)公式計算得到各個位置氨基酸之間的自相關(guān)性作為特征向量進(jìn)行下一步的預(yù)測。物理化學(xué)距離變換（physicochemical distance transformation， PDT）［44］選擇了531種理化性質(zhì)值將氨基酸轉(zhuǎn)換為數(shù)值表示，再計算不同距離的氨基酸之間的相關(guān)性來表示氨基酸序列。這類方法還包括交叉協(xié)方差（cross covariance， CC）［40］以及自交叉協(xié)方差（auto-cross covariance， ACC）［41］等，其中氨基酸的理化性質(zhì)可以通過AAindex［64］獲取。這類方法通過計算序列中氨基酸的自相關(guān)性來捕捉序列中不同位置氨基酸之間的相互影響，以幫助揭示序列中潛在的相互作用，比基于序列成分的編碼方法更全面。

1.2.3 基于進(jìn)化信息的編碼方法

基于進(jìn)化信息的編碼方法旨在通過蛋白質(zhì)的進(jìn)化信息進(jìn)一步掌握序列中蘊藏的潛在特征。位置特異性得分矩陣（position specific scoring matrices，PSSM）［45］是其中最常見的方法，將蛋白質(zhì)序列通過PSI-BLAST［65］在蛋白質(zhì)數(shù)據(jù)庫中檢索比對，最終生成一個N×20的矩陣，其中N為蛋白質(zhì)序列的長度，以每個位置的氨基酸概率分布的形式揭示蛋白質(zhì)序列的進(jìn)化信息。除PSSM外，基于進(jìn)化信息的編碼方法還包括BLOSUM62［66］、ACC-PSSM［46］、Pseudo-PSSM［67］等，這些方法在以預(yù)測蛋白質(zhì)互作為核心的研究中起到了重要作用。

2 深度學(xué)習(xí)在基于序列預(yù)測蛋白質(zhì)互作中的應(yīng)用

2017年，Sun等［68］首次將深度學(xué)習(xí)技術(shù)成功地應(yīng)用于蛋白質(zhì)互作預(yù)測研究中，他們采用了堆疊自動編碼器（stacked autoencoder， SAE）對基于序列信息的蛋白質(zhì)互作進(jìn)行預(yù)測，在多個外部測試集上的預(yù)測準(zhǔn)確率達(dá)到了87.99%～99.21%，充分展示了深度學(xué)習(xí)方法在該領(lǐng)域的巨大潛力。如今，深度學(xué)習(xí)方法在基于序列信息預(yù)測蛋白質(zhì)互作研究中發(fā)揮著關(guān)鍵作用。從算法層面看，這些方法可劃分為基于深度神經(jīng)網(wǎng)絡(luò)（deep neural network， DNN）［69］的方法、基于卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network， CNN）［70］的方法、基于循環(huán)神經(jīng)網(wǎng)絡(luò)（recurrent neural network，RNN）［71］的方法、基于注意力機制和Transformer［72］的方法以及基于混合神經(jīng)網(wǎng)絡(luò)的方法。本節(jié)將分別介紹這些算法架構(gòu)及其在基于序列的蛋白質(zhì)互作預(yù)測中的代表性應(yīng)用，表3總結(jié)了近5年的相關(guān)計算模型，并按照算法框架及發(fā)表時間做了分類和排序。

表3 近5年相關(guān)的計算模型Table 3 Computational models developed within the past 5 years

2.1 基于深度神經(jīng)網(wǎng)絡(luò)的方法

深度神經(jīng)網(wǎng)絡(luò)是一種基于多層感知器（multilayer perceptron， MLP）的前饋神經(jīng)網(wǎng)絡(luò)，包括輸入層、多個隱藏層和輸出層［圖3（a）］。DNN通過多個隱藏層對輸入層的數(shù)據(jù)進(jìn)行層層計算，最后通過輸出層進(jìn)行決策，如通過softmax等激活函數(shù)進(jìn)行二元分類。在蛋白質(zhì)互作研究中，DNN可以通過多層網(wǎng)絡(luò)提取氨基酸序列信息中的深層特征，學(xué)習(xí)蛋白質(zhì)互作的復(fù)雜模式，從而更精準(zhǔn)地預(yù)測蛋白質(zhì)之間的相互作用。

圖3 DNN、RNN、CNN的基本網(wǎng)絡(luò)結(jié)構(gòu)Fig. 3 Basic network structure of DNN, RNN, and CNN

2017年Du等［118］基于DNN構(gòu)建了一個名為DeepPPI的計算模型，他們從蛋白質(zhì)序列中提取包括氨基酸組成在內(nèi)的五種描述符，通過兩個獨立的深度神經(jīng)網(wǎng)絡(luò)分別處理一對樣本中的每條序列，最后對PPI進(jìn)行預(yù)測，在測試集上取得了92.5%的準(zhǔn)確率。2019年Yao等［77］提出DeepFEPPI模型，通過Res2vec方法表示蛋白質(zhì)序列，同樣使用兩個獨立的深度神經(jīng)網(wǎng)絡(luò)分別提取每個蛋白質(zhì)的深層特征，最后通過softmax函數(shù)對PPI進(jìn)行分類，在測試集上取得了98.71%的準(zhǔn)確率。2021年Mahapatra等［81］提出了名為DNN-XGB的計算模型，通過氨基酸組成、聯(lián)合三元組、局部描述符［119］表示序列，使用深度神經(jīng)網(wǎng)絡(luò)提取特征最后利用極端梯度提升進(jìn)行PPI的分類，在測試集中最高達(dá)到了99.74%的準(zhǔn)確率。

基于深度神經(jīng)網(wǎng)絡(luò)的計算模型在蛋白質(zhì)相互作用預(yù)測方面取得了顯著的成果。DNN模型強大的特征提取能力使其能夠捕捉蛋白質(zhì)序列中的復(fù)雜特征。然而，DNN在捕捉蛋白質(zhì)序列中的局部特征仍有局限性，且多層數(shù)提高特征提取能力的同時存在著計算量過大的問題，部分研究人員開始探索基于卷積神經(jīng)網(wǎng)絡(luò)的計算模型。

2.2 基于卷積神經(jīng)網(wǎng)絡(luò)的方法

卷積神經(jīng)網(wǎng)絡(luò)作為深度學(xué)習(xí)算法的一個分支，通過卷積層、池化層和全連接層的組合以實現(xiàn)對輸入特征的自動提取和分類，可以自動提取局部特征，然后經(jīng)過池化層實現(xiàn)特征降維，使網(wǎng)絡(luò)具有更強的表達(dá)能力和泛化能力，其基本結(jié)構(gòu)見圖3（c）。相較于DNN，CNN減少了全連接層的數(shù)量，從而減少了參數(shù)數(shù)量，大大降低了計算復(fù)雜度。在PPI預(yù)測的應(yīng)用中，CNN可以高效地捕捉蛋白質(zhì)序列中的局部依賴關(guān)系，從中學(xué)習(xí)到與互作相關(guān)的特征，做到更精準(zhǔn)預(yù)測。

2018年Hashemifar等［86］提出了一個名為DPPI的框架，通過包括卷積、隨機投影、預(yù)測在內(nèi)的三個模塊僅根據(jù)序列信息對PPI進(jìn)行預(yù)測，在釀酒酵母數(shù)據(jù)集上最高達(dá)到了96.68%的準(zhǔn)確率，且在同一測試集下的查全曲線下面積優(yōu)于其他算法。2020年Li等［91］提出了EnAmDNN方法，通過局部描述符、自協(xié)方差、聯(lián)合三元組、偽氨基酸組合來編碼蛋白質(zhì)序列，利用多層卷積神經(jīng)網(wǎng)絡(luò)自動提取蛋白質(zhì)特征，并結(jié)合自注意力機制來分析蛋白質(zhì)之間的深層關(guān)系，最終在5個獨立數(shù)據(jù)集上最高達(dá)到了94.67%的準(zhǔn)確率。2021年Lei等［57］提出了CAMP方法用于蛋白質(zhì)-多肽的相互作用預(yù)測，通過長度限制來區(qū)分蛋白質(zhì)和多肽，模型規(guī)定蛋白質(zhì)的長度≤800個氨基酸，而肽的長度≤20個氨基酸。該方法利用卷積神經(jīng)網(wǎng)絡(luò)結(jié)合自注意力機制分別提取給定多肽和蛋白質(zhì)信息中的特征進(jìn)行互作預(yù)測，同時識別多肽序列上的結(jié)合位點。2022年，Hu等［97］提出了DeepTrio方法，使用一個基于掩模多個并行CNN提取蛋白質(zhì)序列的多尺度上下文信息進(jìn)行PPI預(yù)測，在多個測試集上取得優(yōu)秀效果。2023年Gao等［98］開發(fā)了EResCNN方法，首先通過PseAAC、AC、Pse-PSSM、EBGW、MMI、CT方法提取每對樣本中每條蛋白質(zhì)序列特征，然后利用三層卷積層和三層池化層逐層學(xué)習(xí)潛在特征，最后結(jié)合XGBoost、RF、LightGBM和極度隨機樹對PPI進(jìn)行預(yù)測分類，在測試集中達(dá)到了最高98.61%的準(zhǔn)確率，展示了深度學(xué)習(xí)和傳統(tǒng)機器學(xué)習(xí)結(jié)合的潛力。

基于卷積神經(jīng)網(wǎng)絡(luò)的計算模型在蛋白質(zhì)相互作用預(yù)測中取得了顯著的成績，但在捕捉長距離依賴關(guān)系方面仍然面臨挑戰(zhàn)，而循環(huán)神經(jīng)網(wǎng)絡(luò)模型及其變體在這方面具有一定優(yōu)勢，并取得了一些成果。

2.3 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的方法

循環(huán)神經(jīng)網(wǎng)絡(luò)是一類具有內(nèi)部狀態(tài)短期記憶能力的網(wǎng)絡(luò)結(jié)構(gòu)，通過循環(huán)連接使網(wǎng)絡(luò)可以在處理序列后部分?jǐn)?shù)據(jù)時保留之前的信息，能夠捕捉輸入序列中的長程依賴關(guān)系，在處理序列數(shù)據(jù)方面具有顯著優(yōu)勢，其基本結(jié)構(gòu)見圖3（b）。蛋白質(zhì)序列中的氨基酸之間通常具有相互依賴關(guān)系，所以RNN在基于序列的蛋白質(zhì)互作預(yù)測中已有部分研究。然而傳統(tǒng)的RNN容易出現(xiàn)梯度消失或梯度爆炸問題，這限制了它們在處理長序列時的性能，為了克服這些問題，研究人員提出了一些RNN的變體，如長短時記憶網(wǎng)絡(luò)［63］和門控循環(huán)單元（gated recurrent unit， GRU）［120］。這些變體通過引入門控機制來調(diào)控信息在網(wǎng)絡(luò)中的傳遞，從而改善了網(wǎng)絡(luò)在處理長序列時的性能。RNN及其變體可以捕捉蛋白質(zhì)序列中的局部和全局依賴關(guān)系，從而有助于揭示潛在的互作模式。因此，在接下來的部分中，我們將重點介紹基于RNN及其變體的模型在基于序列的蛋白質(zhì)互作預(yù)測中的應(yīng)用。

2018年Gonzalez-Lopez等［100］提出了一種基于RNN和嵌入技術(shù)的方法，不依賴手動特征工程，直接對原始氨基酸序列進(jìn)行處理，最終在測試集中最高達(dá)到了92.59%的準(zhǔn)確率，體現(xiàn)了RNN在該方面研究的潛力。2019年，Zhang等［101］提出了一個名為DLPred的方法，該方法基于一個簡化的長短時記憶網(wǎng)絡(luò)，利用PSSM、理化性質(zhì)、親水性指數(shù)等特征對蛋白質(zhì)互作位點進(jìn)行預(yù)測。Alakus等［102］提出了一個基于LSTM的方法，首先通過蛋白質(zhì)標(biāo)記和ProtVec方法將蛋白質(zhì)序列轉(zhuǎn)化為數(shù)字，隨后通過LSTM對PPI進(jìn)行預(yù)測，最高達(dá)到了92%的準(zhǔn)確率。2023年Mewara等［106］提出了一個基于雙向長短時記憶網(wǎng)絡(luò)（bidirectional LSTM，BLSTM）的方法，直接從原始氨基酸序列中提取特征并進(jìn)行PPI預(yù)測，最終在幽門螺桿菌數(shù)據(jù)集上達(dá)到了99.54%的準(zhǔn)確率。

盡管RNN在捕捉長距離依賴關(guān)系方面做出了重要貢獻(xiàn)，且LSTM和GRU等RNN變體有效地解決了傳統(tǒng)RNN的梯度消失問題，但在處理長序列和捕捉復(fù)雜的互動模式方面，以循環(huán)神經(jīng)網(wǎng)絡(luò)為主體的框架仍然存在計算效率的挑戰(zhàn)。

2.4 基于注意力機制和Transformer的方法

為了更高效地處理長序列并深入解析蛋白質(zhì)間的復(fù)雜相互作用模式，研究者們轉(zhuǎn)向了注意力機制和Transformer。注意力機制的基本思想見圖4（a），當(dāng)模型進(jìn)行預(yù)測時，它可以“聚焦”于輸入信息中的某些部分，而忽略其他不相關(guān)或不重要的部分。這種“聚焦”是基于輸入數(shù)據(jù)的內(nèi)容和當(dāng)前的任務(wù)來決定的，從而允許模型在處理長序列時更有選擇性地分配其計算資源。這一特性使其在長序列任務(wù)中表現(xiàn)出色。Transformer則是一種基于注意力機制的網(wǎng)絡(luò)架構(gòu)［圖4（b）］，能夠并行處理輸入序列中的所有元素，而不是像RNN那樣逐個處理。這種并行處理的能力不僅加速了訓(xùn)練，還使模型能夠捕獲序列中的長距離依賴關(guān)系。Transformer的設(shè)計避免了傳統(tǒng)的循環(huán)或卷積操作，通過引入位置編碼來有效地保留和利用序列的位置信息，顯著提升了計算效率。

圖4 注意力機制和Transformer的基本結(jié)構(gòu)Fig. 4 Basic structure of the basic structure of Attention mechanism and Transformer

近年來，基于注意力機制和Transformer的蛋白質(zhì)相互作用預(yù)測方法取得了顯著進(jìn)展。2022年，Asim等［109］提出了一種名為ADH-PPI的深度混合模型，該模型融合了長短期記憶層、卷積層和自我注意層，其在兩個不同物種數(shù)據(jù)集上的預(yù)測準(zhǔn)確率均比其他現(xiàn)有方法提高了4%。同年，Li等［110］提出了SDNN-PPI模型，該模型采用氨基酸組成、聯(lián)合三元組和自協(xié)方差對蛋白質(zhì)序列信息進(jìn)行編碼，并且結(jié)合自注意力機制進(jìn)一步增強了其深度神經(jīng)網(wǎng)絡(luò)的特征提取能力，展現(xiàn)出了很好的預(yù)測效果。2023年，Nambiar等［121］基于Transformer設(shè)計了一個新穎的神經(jīng)網(wǎng)絡(luò)架構(gòu)，稱為PRoBERTa。這一架構(gòu)受到了BERT和RoBERTa訓(xùn)練流程的啟發(fā)，通過減少Transformer的層數(shù)，引入了LAMB優(yōu)化器來進(jìn)行模型的優(yōu)化。在經(jīng)過微調(diào)后，該模型針對PPI預(yù)測任務(wù)在來自HIPPIE數(shù)據(jù)庫的三個不同數(shù)據(jù)集上都表現(xiàn)出了超越其他方法的性能，為此類預(yù)測任務(wù)提供了一個非常有前景的新框架。

2.5 基于混合神經(jīng)網(wǎng)絡(luò)的方法

在前面的章節(jié)中，我們分別討論了基于DNN、CNN、RNN及其變體與基于注意力機制和Transformer的深度學(xué)習(xí)模型在基于序列信息預(yù)測蛋白質(zhì)相互作用方面的應(yīng)用。盡管這些模型各自具有顯著的優(yōu)勢，如DNN的強大表示能力、CNN的局部特征提取能力、RNN的序列依賴性捕捉能力和Transformer的長序列高效處理能力，然而單一類型的網(wǎng)絡(luò)結(jié)構(gòu)難以充分利用這些優(yōu)點。為了進(jìn)一步提高預(yù)測性能，研究人員開始探索將不同類型的深度學(xué)習(xí)模型相互結(jié)合，形成所謂的混合模型，以融合多種網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)勢，更好地捕捉蛋白質(zhì)序列的多尺度特征。

2018年Li等［112］提出了DNN-PPI，將兩種相互作用的蛋白質(zhì)序列經(jīng)過編碼和嵌入處理后，依次通過CNN和LSTM神經(jīng)網(wǎng)絡(luò)層提取特征，最后將兩個輸出向量串聯(lián)起來作為全連接神經(jīng)網(wǎng)絡(luò)的輸入來預(yù)測蛋白質(zhì)互作，在6個外部數(shù)據(jù)集上達(dá)到了92.80%～97.89%的預(yù)測精度。2019年Chen等［113］提出了PIPR方法，PIPR是一種端到端的框架，采用詞典嵌入方法對每個蛋白質(zhì)序列進(jìn)行編碼，然后使用循環(huán)卷積神經(jīng)網(wǎng)絡(luò)來捕捉編碼后的蛋白質(zhì)序列的特征，最后通過一個多層感知器進(jìn)行PPI的分類，在基于5倍交叉驗證的酵母數(shù)據(jù)集中達(dá)到了97.09%的準(zhǔn)確率。2019年Guo等［114］提出了IPPI方法，從AAindex中獲取氨基酸屬性對蛋白質(zhì)序列進(jìn)行編碼，通過LSTM和DNN架構(gòu)對PPI進(jìn)行預(yù)測。綜上所述，基于混合神經(jīng)網(wǎng)絡(luò)的模型在基于序列信息預(yù)測蛋白質(zhì)相互作用方面取得了顯著的進(jìn)展。通過整合DNN、CNN和RNN等不同類型的深度學(xué)習(xí)結(jié)構(gòu)，這些混合網(wǎng)絡(luò)模型成功地充分利用了各自的優(yōu)勢，如強大的表示能力、局部特征提取和序列依賴性捕捉等。這使得混合網(wǎng)絡(luò)模型在捕獲蛋白質(zhì)序列的多尺度特征和特性方面具有更高的靈活性，從而提高了預(yù)測性能。

3 評估指標(biāo)

深度學(xué)習(xí)已經(jīng)在蛋白質(zhì)互作預(yù)測領(lǐng)域取得顯著成果，這種技術(shù)的成功在很大程度上依賴于我們?nèi)绾魏饬磕Ｐ偷男阅??？煽康脑u估指標(biāo)可以讓研究者客觀地了解模型效果從而去調(diào)節(jié)、優(yōu)化模型，這就是評估指標(biāo)的關(guān)鍵性所在。通常，深度學(xué)習(xí)方法的預(yù)測結(jié)果可以分為四類，分別是真陽性、真陰性、假陽性和假陰性，它們的具體含義可以參見表4。

表4 四種基本預(yù)測結(jié)果及其具體含義Table 4 Four basic prediction results and their specific meanings

基于這4種基本預(yù)測結(jié)果衍生出多種常見的評估指標(biāo)，其中最常用的有6個，分別是：準(zhǔn)確率（accuracy）、精準(zhǔn)率（precision）、敏感性（sensitivity）、特異性（specificity）、F1值（F1 score）和馬修斯相關(guān)系數(shù)（Matthews correlation coefficient，MCC），它們的具體計算方法見表5。準(zhǔn)確率描述了模型在總體上的預(yù)測準(zhǔn)確性。精準(zhǔn)率反映了預(yù)測為陽性的樣本中實際為陽性的比例，描述模型預(yù)測陽性的準(zhǔn)確程度。敏感性，又稱為召回率（recall），代表實際為陽性的樣本中被正確預(yù)測為陽性的比例，體現(xiàn)了模型對陽性的識別能力。特異性代表實際為陰性的樣本中被正確預(yù)測為陰性的比例，體現(xiàn)模型對陰性的識別能力。F1值為上述精準(zhǔn)率和敏感性的調(diào)和平均值，為這兩個指標(biāo)提供了一個平衡的度量。馬修斯相關(guān)系數(shù)結(jié)合了真陽性、假陽性、真陰性和假陰性四個指標(biāo)進(jìn)行評估，值介于-1和1之間，其中：1表示完美預(yù)測，0表示預(yù)測結(jié)果與隨機預(yù)測一致，-1表示預(yù)測結(jié)果完全不符合實際。

表5 六種評估指標(biāo)及其計算公式Table 5 Six evaluation metrics and their calculation formulas

在深入研究基于序列的蛋白質(zhì)互作預(yù)測時，許多模型在測試集上的準(zhǔn)確率高達(dá)90%或95%以上。如此卓越的準(zhǔn)確率表面上似乎表明蛋白質(zhì)互作預(yù)測的難題已經(jīng)接近解決，然而實際上，僅憑準(zhǔn)確率或者其他某單一指標(biāo)，我們可能會忽視其中的一些細(xì)微但關(guān)鍵的問題。首先，數(shù)據(jù)集的來源、預(yù)處理方式及實驗設(shè)計均可能對某一指標(biāo)產(chǎn)生顯著影響。某些模型可能經(jīng)過針對特定數(shù)據(jù)集的微調(diào)優(yōu)化，因此在該數(shù)據(jù)集上表現(xiàn)出色，但在其他數(shù)據(jù)或?qū)嶋H應(yīng)用環(huán)境中不能維持相同的表現(xiàn)。其次，在實際應(yīng)用中蛋白質(zhì)互作的鑒定并不是一個簡單的二分類問題，兩個蛋白質(zhì)互作的強度、種類及其在細(xì)胞中的具體位置等都是至關(guān)重要的。這意味著盡管模型在分類任務(wù)上達(dá)到了高準(zhǔn)確率，但仍可能在實驗驗證中被證實為假陽性。雖然評估指標(biāo)有以上的局限性，但是對于模型本身來說仍然是重要且有益的，我們可以根據(jù)這些評估指標(biāo)再盡可能地優(yōu)化模型，從而更好地輔助PPI鑒定。

綜上所述，評估指標(biāo)是優(yōu)化模型的關(guān)鍵，理解并正確地看待各項指標(biāo)能夠幫助我們在理論方面明晰優(yōu)化方向，開發(fā)出更高效、準(zhǔn)確的預(yù)測模型，最終推動我們在蛋白質(zhì)互作研究中的進(jìn)步。

4 總結(jié)與展望

PPI的鑒定對于許多生物過程的理解至關(guān)重要。在本綜述中，我們詳細(xì)討論了深度學(xué)習(xí)在基于序列的PPI預(yù)測中的應(yīng)用，介紹了數(shù)據(jù)集的構(gòu)建與蛋白質(zhì)序列的編碼方法，重點介紹了基于深度神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)及其變體和基于混合網(wǎng)絡(luò)的計算模型，最后介紹了深度學(xué)習(xí)中常用的評估指標(biāo)及其計算公式。

深度學(xué)習(xí)方法已經(jīng)在PPI預(yù)測中取得了顯著成果，展示出深度學(xué)習(xí)技術(shù)在該領(lǐng)域的巨大潛力。然而，盡管當(dāng)前的研究已經(jīng)取得了一定的進(jìn)展，但仍然有很多問題有待解決。首先，大多數(shù)計算模型都遵循監(jiān)督學(xué)習(xí)范式，對訓(xùn)練數(shù)據(jù)的依賴程度高［122］，而當(dāng)前蛋白質(zhì)互作數(shù)據(jù)集存在以下弊端：①主要由實驗方法獲得，存在假陽性和假陰性，影響了預(yù)測的準(zhǔn)確性；②數(shù)據(jù)集覆蓋的物種范圍較窄，通常來自于酵母或人類，這限制了模型的泛化能力［123］。泛化能力描述的是模型在訓(xùn)練集外的數(shù)據(jù)上的性能表現(xiàn)，一個具有良好泛化能力的模型能夠很好地捕捉到訓(xùn)練數(shù)據(jù)背后的真實分布，從而在新的數(shù)據(jù)上也能夠做出準(zhǔn)確的預(yù)測。相反，泛化能力差的模型很可能在遇到新類型數(shù)據(jù)時表現(xiàn)不佳。因此，模型的泛化能力直接決定了其在實際應(yīng)用場景中的價值與效果。由于目前用來訓(xùn)練PPI預(yù)測模型的數(shù)據(jù)通常來源于酵母或者人類，這一局限性可能導(dǎo)致模型在處理其他物種時出現(xiàn)預(yù)測偏差。因此，建立更大、更廣泛、更高質(zhì)量的蛋白質(zhì)互作數(shù)據(jù)集是有必要的。

另外，現(xiàn)有常用的蛋白質(zhì)序列編碼方法仍有局限性，例如本文1.2節(jié)提到的方法都是通過簡單的線性關(guān)系表示蛋白質(zhì)序列，無法全面地捕捉到蛋白質(zhì)序列中的內(nèi)在復(fù)雜性。因此，探索更有效的序列表示方法有助于更準(zhǔn)確地揭示蛋白質(zhì)序列的豐富信息和潛在特征。參考當(dāng)前語言類模型取得了突破性進(jìn)展［124］，基于自然語言處理的方法顯示出了巨大的潛力，盡管這些技術(shù)最初是為文本和語言設(shè)計的，但它們在處理蛋白質(zhì)序列時也表現(xiàn)出了驚人的能力。詞嵌入技術(shù)（如Word2Vec和FastText）［125］以及基于Transformer的模型（如ProtBERT）［126］已經(jīng)成功地利用自然語言處理思想來編碼蛋白質(zhì)序列。這些方法為蛋白質(zhì)序列提供了一種動態(tài)的、上下文相關(guān)的表示，與傳統(tǒng)的編碼方法相比，它們能夠捕捉更多的序列模式和特性。

除了數(shù)據(jù)集的物種來源和蛋白質(zhì)的序列編碼，數(shù)據(jù)多樣性也是值得探索的方向。雖然僅基于序列的模型已經(jīng)被證明是可行的［68］，但考慮到生物系統(tǒng)的復(fù)雜性和多樣性，序列數(shù)據(jù)、結(jié)構(gòu)數(shù)據(jù)、基因表達(dá)數(shù)據(jù)以及其他分子生物學(xué)數(shù)據(jù)都蘊藏著豐富的PPI相關(guān)信息。未來可以嘗試將多種信息融合進(jìn)行特征提取進(jìn)而預(yù)測PPI，該策略旨在綜合各類數(shù)據(jù)的優(yōu)點，為蛋白質(zhì)之間的復(fù)雜互作關(guān)系提供一個更全面的視角。通過融合不同數(shù)據(jù)類型的特性和信息，我們可以構(gòu)建更為準(zhǔn)確和穩(wěn)健的PPI預(yù)測模型。

在本綜述的引言部分，我們提到了基于結(jié)構(gòu)的模型由于蛋白質(zhì)結(jié)構(gòu)的獲取成本較高，已測定的蛋白質(zhì)結(jié)構(gòu)數(shù)量不充足，受到發(fā)展限制。然而隨著AlphaFold2［127］的出現(xiàn)，蛋白質(zhì)結(jié)構(gòu)預(yù)測的準(zhǔn)確性顯著提高，幫助研究者在沒有實驗結(jié)構(gòu)數(shù)據(jù)的情況下獲得高質(zhì)量的蛋白質(zhì)預(yù)測結(jié)構(gòu)。這一技術(shù)有助于輔助PPI預(yù)測，為基于結(jié)構(gòu)的PPI預(yù)測方法開辟了新的道路，值得深入研究。展望未來，隨著生物大數(shù)據(jù)的增長和新型生物信息學(xué)技術(shù)的出現(xiàn)，多種數(shù)據(jù)類型的融合預(yù)計將成為PPI預(yù)測和其他生物信息學(xué)任務(wù)的核心策略，為該領(lǐng)域帶來深刻的變革。

除了上述數(shù)據(jù)和輸入層面的問題，隨著深度學(xué)習(xí)的不斷發(fā)展，通過設(shè)計算法或選擇合適的新算法來增強現(xiàn)有深度學(xué)習(xí)模型的PPI預(yù)測能力值得探索。另外也可以考慮結(jié)合其他計算方法進(jìn)行更詳實的預(yù)測，如將深度學(xué)習(xí)模型和傳統(tǒng)機器學(xué)習(xí)相結(jié)合已經(jīng)被證明具有潛力。

隨著技術(shù)的不斷發(fā)展和計算能力的顯著提升，我們有充分的理由相信深度學(xué)習(xí)將在基于序列預(yù)測蛋白質(zhì)相互作用領(lǐng)域扮演更加核心的角色，有望顯著提升PPI預(yù)測的準(zhǔn)確性和泛化能力，并且能為基于PPI的靶點研究、藥物研發(fā)和疾病機制探索等相關(guān)研究提供有力幫助。同時我們也應(yīng)注重深度學(xué)習(xí)技術(shù)與生物實驗研究的緊密結(jié)合，以確保算法開發(fā)的科學(xué)性和實用性，努力向可解釋深度學(xué)習(xí)方向發(fā)展。總之，深度學(xué)習(xí)在基于序列預(yù)測PPI領(lǐng)域的應(yīng)用，將提升蛋白質(zhì)相互作用網(wǎng)絡(luò)的解析效率，推動人類對生命過程本質(zhì)的認(rèn)識。