重視大模型風(fēng)險(xiǎn)，發(fā)展負(fù)責(zé)任AI

周 明

（北京瀾舟科技有限公司 北京 100081）

人工智能（AI）的發(fā)展經(jīng)歷了符號(hào)系統(tǒng)、基于統(tǒng)計(jì)的機(jī)器學(xué)習(xí)之后，進(jìn)入了深度學(xué)習(xí)階段.在2017 年Transformer 出現(xiàn)之后進(jìn)入了快速發(fā)展期，先后出現(xiàn)了GPT、BERT、T5 等基于自監(jiān)督學(xué)習(xí)的預(yù)訓(xùn)練模型，并興起了預(yù)訓(xùn)練模型基礎(chǔ)上的微調(diào)范式.隨后以ChatGPT 為標(biāo)志，在預(yù)訓(xùn)練模型中加入了有監(jiān)督的微調(diào)和基于人類反饋的強(qiáng)化學(xué)習(xí)，AI 進(jìn)入了大模型時(shí)代.AI 模型和系統(tǒng)在參數(shù)量、任務(wù)性能、應(yīng)用場(chǎng)景等方面都實(shí)現(xiàn)了飛躍式的突破.在海量數(shù)據(jù)上訓(xùn)練的百億、千億乃至萬(wàn)億參數(shù)規(guī)模的大模型，具備了少樣本學(xué)習(xí)、推理解釋和對(duì)話式交互的能力，在多任務(wù)上展現(xiàn)了接近甚至超過(guò)人類水平的通用能力，向著通用AI 邁出了第一步.

技術(shù)的發(fā)展總是具有雙面性，劃時(shí)代的突破也帶來(lái)了對(duì)少數(shù)群體的歧視、隱私泄露、版權(quán)侵害、誤導(dǎo)性信息、惡意濫用等問(wèn)題，并可能對(duì)用戶乃至整個(gè)社會(huì)造成偏見、不平等等深遠(yuǎn)的負(fù)面影響.在大模型的快速發(fā)展過(guò)程中，我們不僅要不斷推動(dòng)基礎(chǔ)技術(shù)的進(jìn)步，而且必須考慮到對(duì)社會(huì)可能帶來(lái)的風(fēng)險(xiǎn)和潛在的負(fù)面影響，引導(dǎo)AI 的發(fā)展遵循負(fù)責(zé)任和守道德的準(zhǔn)則，使得AI 技術(shù)真正成為人類社會(huì)可持續(xù)發(fā)展的助力.

基于大模型的能力和風(fēng)險(xiǎn)，有必要重新梳理和審視這些模型，尤其是與大模型結(jié)合的對(duì)齊技術(shù)如何能夠?qū)崿F(xiàn)負(fù)責(zé)任的發(fā)展.當(dāng)下國(guó)內(nèi)針對(duì)大模型的研究還處于基礎(chǔ)技術(shù)快速發(fā)展和追趕的階段，對(duì)大模型的風(fēng)險(xiǎn)和道德問(wèn)題重視不夠.難能可貴的是，微軟亞洲研究院謝幸團(tuán)隊(duì)注意到了大模型潛在的道德問(wèn)題，并向大模型的道德價(jià)值觀對(duì)齊的研究邁出了重要一步.該團(tuán)隊(duì)撰寫的文章“大模型道德價(jià)值觀對(duì)齊問(wèn)題剖析”作為一篇綜述性和展望性的文章，介紹了目前大模型，尤其是大語(yǔ)言模型發(fā)展過(guò)程中面臨的道德風(fēng)險(xiǎn)與挑戰(zhàn)，梳理了當(dāng)下大模型對(duì)齊方法的特點(diǎn)與不足，并提出了一種新的針對(duì)道德對(duì)齊的概念性框架.該文的貢獻(xiàn)與亮點(diǎn)主要有以下4 點(diǎn)：

1.大模型的特點(diǎn)與風(fēng)險(xiǎn)梳理.文章全面概述了大模型的特點(diǎn)，強(qiáng)調(diào)了伴隨尺度定律和能力涌現(xiàn)而來(lái)的反尺度現(xiàn)象和風(fēng)險(xiǎn)涌現(xiàn)，這將會(huì)放大模型帶來(lái)的安全和道德問(wèn)題.隨后文章詳細(xì)梳理了模型面臨的風(fēng)險(xiǎn)挑戰(zhàn)，有助于理解和分析大模型可能對(duì)社會(huì)產(chǎn)生的潛在影響和后果.

2.AI 倫理準(zhǔn)則調(diào)研和評(píng)估.文章調(diào)研了現(xiàn)有的AI 倫理準(zhǔn)則，批判性地評(píng)估了它們解決大模型倫理影響方面的適用性.通過(guò)審視現(xiàn)有的規(guī)范準(zhǔn)則，文章基于康德的規(guī)范倫理學(xué)理論，提出了“AI 絕對(duì)命令”框架用以重新評(píng)估各項(xiàng)準(zhǔn)則，并強(qiáng)調(diào)了學(xué)術(shù)界合作建立統(tǒng)一普適的AI 倫理框架方面的重要性.

3.大模型道德傾向分析及對(duì)齊方法綜述.文章運(yùn)用道德基礎(chǔ)理論測(cè)試了主流大語(yǔ)言模型的道德傾向，提供了關(guān)于模型中編碼的道德觀的洞察，突顯了潛在的偏見與不足.隨后，文章系統(tǒng)性地介紹了現(xiàn)有大模型對(duì)齊算法，總結(jié)了道德價(jià)值觀對(duì)齊所面臨的獨(dú)特問(wèn)題.

4.倫理對(duì)齊的新范式.文章基于道德學(xué)理論引入了一個(gè)新穎的概念性范式，用于對(duì)齊大模型的道德觀.從大模型對(duì)齊的維度、對(duì)齊的評(píng)測(cè)以及對(duì)齊的方法等3 個(gè)方面為解決道德對(duì)齊所帶來(lái)的挑戰(zhàn)提供了新的方法，為進(jìn)一步的跨學(xué)科研究開辟了道路.

我認(rèn)為這篇展望性文章不僅體現(xiàn)了對(duì)AI 大模型研究前沿全面的了解和深入的思考，而且具備了很強(qiáng)的交叉學(xué)科特征.該文詳細(xì)介紹并充分借鑒了社會(huì)科學(xué)和道德學(xué)等領(lǐng)域的理論基礎(chǔ)，彌補(bǔ)了計(jì)算機(jī)領(lǐng)域?qū)W者在這方面的不足，為大模型的道德對(duì)齊打開了一個(gè)全新的視角.相信這篇文章既能為AI 領(lǐng)域的研究者，又能為交叉學(xué)科領(lǐng)域的學(xué)者乃至政策制定者提供有益的參考.希望有關(guān)方面更多地關(guān)注這一重要的問(wèn)題，重視大模型的倫理和道德風(fēng)險(xiǎn)并與技術(shù)發(fā)展相匹配.

亮點(diǎn)論文

矣曉沅，謝幸.大模型道德價(jià)值觀對(duì)齊問(wèn)題剖析 [J].計(jì)算機(jī)研究與發(fā)展，2023,60（9）:1926-1945.DOI:10.7544/issn1000-1239.202330553