前 言

在當前的科技發(fā)展背景下，人工智能（artificial intelligence, AI）已廣泛滲透到我們的日常生活和工作中. 然而，當AI遭遇開放環(huán)境，其復雜和不確定的特性使得決策的偏見、算法的透明度、系統(tǒng)的安全性等問題變得更加凸顯，深度挑戰(zhàn)了AI的可信度. 因此，研究和開發(fā)面向開放環(huán)境的可信AI已成為一個緊迫且至關(guān)重要的任務. 面向開放環(huán)境的可信AI的研究動力，主要來源于幾個方面：首先，公平性的考量. 為了避免決策偏見，需要研究如何在復雜的開放環(huán)境中保證算法的公平性；其次，透明度的追求. 以便用戶可以理解和預測AI系統(tǒng)的行為，需要提升算法的透明度；最后，安全性的強化. AI系統(tǒng)需要在開放環(huán)境中，能夠?qū)Ω鞣N可能的威脅進行有效應對，以保證系統(tǒng)的安全性. 構(gòu)建可信AI不僅需要在技術(shù)層面提供解決方案，同時也需要在社會層面建立信任. 通過研發(fā)面向開放環(huán)境的可信AI，我們不僅可以構(gòu)建更為公平、透明、安全的AI系統(tǒng)，而且可以提高公眾對于AI在開放環(huán)境中應用的信任感，對于推動AI的廣泛接受和應用，以及推動信息社會的全面發(fā)展具有深遠的意義.

為了及時反映國內(nèi)同行在面向開放場景的可信人工智能前沿領(lǐng)域的最新研究成果，加速我國可信人工智能方面研究的突破，《計算機研究與發(fā)展》組織策劃了“面向開放場景的可信人工智能前沿進展”專題. 本專題通過公開征文共收到60篇投稿，論文從不同角度闡述了可信人工智能的算法設計、關(guān)鍵技術(shù)和熱點應用，反映了該領(lǐng)域多個方面的最新研究成果. 本專題的審稿嚴格按照期刊的審稿要求，特邀編委邀請了相關(guān)領(lǐng)域的專家，歷經(jīng)初評、盲審、復審、終審等階段，最終共精選出11篇高質(zhì)量論文入選本專題，內(nèi)容涵蓋了開放場景域適應、可解釋性和魯棒性、可信人工智能的熱點應用等方面，在一定程度上反映了當前國內(nèi)可信人工智能領(lǐng)域的最新研究成果.

1 .開放場景域適應

針對域自適應中如何準確度量源域和目標域的概率分布距離的問題，孫昊等作者的“基于反向偽標簽最優(yōu)化傳輸?shù)臒o監(jiān)督域自適應”提出反向偽標簽最優(yōu)化傳輸方法，從最優(yōu)化特征-拓撲傳輸?shù)慕嵌雀鼫蚀_地計算了分布之間的差異，并且設計了反向驗證偽標簽的模塊來更有效地利用偽標簽；針對傳統(tǒng)領(lǐng)域自適應方法在開放集領(lǐng)域自適應場景中導致負遷移的問題，劉星宏等作者的“基于自步學習的開放集領(lǐng)域自適應”提出了一種基于自步學習的新穎框架并設計了一個跨領(lǐng)域混合方法，為目標域樣本生成偽標簽最大程度地減小了偽標簽的噪聲；針對域?qū)箤R方法中對齊網(wǎng)絡和分類網(wǎng)絡彼此獨立使得對齊任務無法直接服務于分類任務，封筠等作者的“二次解耦與活體特征漸進式對齊的域自適應人臉反欺詐”提出了一種二次解耦與活體特征課程學習漸進式對抗的域自適應方法，通過課程學習的方式對目標域特征與活體相關(guān)、無關(guān)特征的組合進行漸進式對抗對齊. 開放環(huán)境中數(shù)據(jù)往往是以流的方式呈現(xiàn)的，針對數(shù)據(jù)的特征可能隨時間而演變、數(shù)據(jù)標記可能存在噪聲等問題，張震宇等作者的“面向特征演變環(huán)境的標記噪聲魯棒學習算法”提出了一種在特征演變環(huán)境中針對標記帶噪數(shù)據(jù)的差異度量方法，該差異度量啟發(fā)了泛化誤差分析，并根據(jù)泛化誤差的理論分析設計了一種基于深度神經(jīng)網(wǎng)絡實現(xiàn)的學習算法.

2 .可解釋性和魯棒性

針對深度卷積網(wǎng)絡現(xiàn)有解釋結(jié)果依賴獨立于原始模型的額外的分類器而出現(xiàn)的解釋結(jié)果不符合原始模型邏輯的問題，趙小陽等作者的“ADIC：一種面向可解釋圖像識別的自適應解糾纏CNN分類器”提出了潛在空間自適應解糾纏的可解釋 CNN 分類器，其中設計了一種類內(nèi)概念圖編碼器學習類內(nèi)基礎(chǔ)概念及其潛在交互和實現(xiàn)不同依賴關(guān)系的基礎(chǔ)概念不同程度解糾纏的正則化項；針對情境感知的自然語言推理的現(xiàn)有工作忽略了情境信息以及輸入句子之間存在的虛假關(guān)聯(lián)，張大操等作者的“針對情境感知的自然語言的因果去偏推理方法”提出一種全新的因果去偏推理方法，緩解了模型在充分考慮情境信息的條件下推理過程受到的有偏信息的影響. 蒙特卡洛樹搜索已經(jīng)成為開放環(huán)境下眾多領(lǐng)域智能系統(tǒng)的關(guān)鍵通用方法，針對蒙特卡洛樹搜索樹由于計算資源匱乏或者計算成本昂貴等原因難以完全充分地對樹結(jié)構(gòu)進行搜索的問題，以及針對現(xiàn)有算法缺少識別誤差和影響因素的分析使得算法的可信性和可解釋性較差的問題，劉郭慶等作者的“給定預算下基于相對熵置信區(qū)間的蒙特卡洛樹搜索最優(yōu)動作識別算法”提出了固定預算設定下 MCTS 抽象模型的最優(yōu)行動識別算法，推導了DLU 算法的識別誤差上界，并分析了算法性能的影響因素.

3 .可信人工智能的熱點應用

針對重購產(chǎn)品推薦忽略了對多層次信息融合建模方法的研究和忽略了重購推薦結(jié)果的可解釋性需求的問題，耿杰等作者的“基于用戶重購行為的產(chǎn)品推薦方法”構(gòu)建了具有雙層注意力機制的可解釋用戶重復消費推薦方法，通過多層次提取學習用戶重購偏好，基于信息處理理論構(gòu)建S型用戶重購動態(tài)偏好函數(shù)，融合產(chǎn)品流行度信息進行重購產(chǎn)品和新穎產(chǎn)品的混合推薦，提高了模型可解釋性和準確性；針對半監(jiān)督學習范式的動態(tài)異質(zhì)圖表示學習方法存在監(jiān)督信息昂貴和泛化性較差等問題，焦鵬飛等作者的“基于對比學習的全局增強動態(tài)異質(zhì)圖神經(jīng)網(wǎng)絡”提出了一種基于對比學習的全局增強動態(tài)異質(zhì)圖神經(jīng)網(wǎng)絡，通過對比學習來最大化局部節(jié)點表示和全局圖表示的互信息來豐富節(jié)點表示中的全局語義信息；針對知識追蹤方法的預測結(jié)果與學生知識畫像存在時序、預測粒度不一致導致學生知識畫像不可信的問題，王士進等作者的“可信的端到端深度學生知識畫像建模方法”提出了一種深度知識畫像模型，通過知識粒度上表征學習交互表征、學生知識狀態(tài)變化建模、學生掌握度預測的設計，提升學生畫像的可信性. 針對現(xiàn)有工作大多只在單一層次提取知識而忽略多層次信息交互而導致的特征提取不魯棒的問題，余鷹等作者的“多層次知識自蒸餾聯(lián)合多步驟訓練的細粒度圖像識別”提出了層次知識自蒸餾聯(lián)合多步驟訓練的細粒度圖像識別模型，提取了更魯棒的特征從而提高了整個模型的性能.

我們感激各位作者、審稿專家以及編輯部對本專題無私的貢獻和全力支持，有賴于他們的努力，本專題得以順利出版. 對此，我們致以誠摯的感謝. 可信人工智能是一個發(fā)展迅速且活躍的領(lǐng)域，學科前沿的瞬息萬變對特邀編委和審稿人的審稿、選稿工作構(gòu)成了巨大挑戰(zhàn). 受限于投稿數(shù)量眾多、主題廣泛，時間安排緊湊以及專題容量有限，本專題僅挑選了部分具有代表性的研究工作進行發(fā)表，遺憾無法全面反映該領(lǐng)域所有的最新研究成果. 因此，一些優(yōu)秀的稿件未能入選本專題，對此我們感到抱歉，并敬請諒解.

我們特別感謝《計算機研究與發(fā)展》的編委會和編輯部的付出，從專題的設立、征稿公告的發(fā)布，到評審專家的邀請、評審意見的整合，以及最后的定稿、修改和出版工作，都體現(xiàn)了他們的勤勉和專業(yè). 我們期望本專題的出版能夠?qū)ο嚓P(guān)領(lǐng)域的研究人員提供有益的啟示和幫助. 在審稿過程中，若有任何失誤或不足之處，我們懇請各位作者和讀者的理解和寬容，并熱烈歡迎同行的批評和建議. 最后，我們再次向所有參與本專題工作的作者、審稿專家、特邀編委以及編輯部表達最深的感謝，他們的辛勤工作對本專題的出版起到了決定性的作用.