做“負(fù)責(zé)任”的AI

李佳師

人們常說，一個(gè)孩子的能力培養(yǎng)很重要，而品德秉性教育同樣重要，因?yàn)槿绻似酚袉栴}可能在未采會(huì)做出危害社會(huì)的事，而且往往能力越大危害也越大。所以基于這個(gè)道理，我們就能很好理解為什么發(fā)展新一代人工智能（AI）產(chǎn)業(yè)，需要關(guān)注“負(fù)責(zé)任”這個(gè)維度。當(dāng)我們推動(dòng)AI，希望機(jī)器具備人一樣的能力時(shí)，不可以忽略責(zé)任、忽略治理，不可以向社會(huì)輸出一系列的“害群之馬”。

6月17日，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡稱《治理原則》）?！吨卫碓瓌t》提出了人工智能治理的框架和行動(dòng)指南，突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包客共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。中國是推動(dòng)全球人工智能產(chǎn)業(yè)發(fā)展的重要力量，《治理原則》為中國人工智能發(fā)展提供了“行為準(zhǔn)別”，也為全球發(fā)展AI提出了負(fù)責(zé)任的倡議和合作建議。

“技術(shù)不會(huì)改變我們是誰，而會(huì)放大我們是誰，我們的善和惡都會(huì)被放大。人們制造問題的潛能也是無限的，如果我們對(duì)于生活中的信息和隱私被泄露、收集整合并且販賣這件事習(xí)以為常，那么我們失去的將不僅僅是數(shù)據(jù)，而是作為人的自由。如果你建立了一家混亂的工廠，那么你就無法逃避對(duì)混亂的責(zé)任?！碧O果公司CEO庫克在斯坦福大學(xué)2019屆畢業(yè)生畢業(yè)典禮上的一番話頗有道理。事實(shí)上，責(zé)任越大，我們?cè)接锌赡軇?chuàng)造出能夠給人類社會(huì)、經(jīng)濟(jì)發(fā)展帶來巨大益處的技術(shù)和產(chǎn)品。

《治理原則》強(qiáng)調(diào)推動(dòng)和發(fā)展公平公正的AI?；蛟S很多人并不理解為什么要強(qiáng)調(diào)“公平公正的AI”，難道一個(gè)技術(shù)也會(huì)有公平與不公平？微軟全球資深副總裁、微軟亞洲研究院院長洪小文在接受《中國電子報(bào)》記者采訪時(shí)曾說，我們推動(dòng)數(shù)字技術(shù)發(fā)展希望消除數(shù)字鴻溝，希望更多人能夠享受到技術(shù)帶來的便利，但如果我們不能夠從出發(fā)點(diǎn)上基于公平公正的原則，我們就有可能造成新的鴻溝和新的不平等。我們都知道AI的算法模型想要成熟，是需要經(jīng)過大量的數(shù)據(jù)進(jìn)行訓(xùn)練的，如果我們收集的數(shù)據(jù)本身存在偏見，那么我們訓(xùn)練出來的算法模型就有可能是有偏見的算法。

微軟的“小冰”就是一個(gè)例子。小冰是微軟公司打造的聊天機(jī)器人，現(xiàn)在這個(gè)機(jī)器人已經(jīng)可以寫詩、做畫，并且出版了詩集《陽光失了玻璃窗》。微軟全球執(zhí)行副總裁、微軟人工智能事業(yè)部負(fù)責(zé)人沈向洋曾經(jīng)透露過一個(gè)信息：現(xiàn)在小冰寫出的詩歌都有一點(diǎn)憂郁的調(diào)子，原因是在研發(fā)和訓(xùn)練小冰的時(shí)候，挑選出來的大部分近代詩人的詩歌，調(diào)子普遍是憂郁的，比如徐志摩等詩人寫的詩詞?；谶@個(gè)道理我們就很容易理解，為什么小冰的詩歌模型、詩歌大腦是憂郁的。同理，如果我們訓(xùn)練其他算法，訓(xùn)練數(shù)據(jù)本身是存在偏見的數(shù)據(jù)，結(jié)果必然導(dǎo)致算法存在偏見。

現(xiàn)在全球的AI巨頭都希望在消除AI偏見上有更多突破。最近，IBM科學(xué)家在”消除偏見的斗爭“方面有了一種新方法，可以將訓(xùn)練數(shù)據(jù)在其中轉(zhuǎn)換以實(shí)現(xiàn)最小化偏差，使得后來從中學(xué)習(xí)的任何AI算法都盡可能減少不公平。在將此方法應(yīng)用于兩個(gè)大型公共數(shù)據(jù)集時(shí)，就能夠大幅減少不必要的群體歧視，不會(huì)顯著降低系統(tǒng)的準(zhǔn)確性。這說明一個(gè)道理，確定研究的題目、確定研究的調(diào)性很重要，若我們確立了一個(gè)正確的目標(biāo)，動(dòng)用全球科技界的力量，我們可以創(chuàng)造出更好的技術(shù)來修正和校正AI可能出現(xiàn)的問題。中科院自動(dòng)化研究所研究員曾毅表示，我國是一個(gè)發(fā)展中國家，發(fā)展AI，更應(yīng)正視產(chǎn)業(yè)發(fā)展中的一些新情況、新問題，AI應(yīng)積極促進(jìn)綠色發(fā)展，符合環(huán)境友好、資源節(jié)約的要求，同時(shí)在發(fā)展中縮小地域差距，提升弱勢群體的適應(yīng)性，努力消除數(shù)字鴻溝，這符合我國AI發(fā)展的現(xiàn)實(shí)需求。

《治理原則》在很多方面提出的原則和概念是在全球首次出現(xiàn)并且是領(lǐng)先的。比如在數(shù)據(jù)隱私、安全治理方面，“《治理原則》提出了‘個(gè)人數(shù)據(jù)授權(quán)撤銷機(jī)制，這在全球來看也是一個(gè)非常領(lǐng)先的概念?！痹惚硎?，這說明，我們是以非常負(fù)責(zé)任的態(tài)度來推進(jìn)的。

《治理原則》涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用，不位僅是基于中國的視角，也基于全球的視角。曾毅表示，《治理原則》有些準(zhǔn)則、原則的提出主要是以本國、本組織的視角為核心，同時(shí)，此次我國發(fā)布的《治理原則》特別強(qiáng)調(diào)國際協(xié)作，共護(hù)人工智能的未來，強(qiáng)調(diào)共建人類命運(yùn)共同體，這是中國人工智能發(fā)展對(duì)世界做出的倡議和承諾。

事實(shí)上，夸天的人類面臨著前所未有的諸多挑戰(zhàn)，我們需要更高的智慧、更強(qiáng)大的智能來助力人類解決這些現(xiàn)實(shí)問題、長遠(yuǎn)問題。就像未來學(xué)家所言，如果我們不能夠很好地解決這些問題，人類就有可能在不久的未來陷入舉步維艱的狀態(tài)。所以全球的科技界應(yīng)該攜起手來，共同推動(dòng)共同維護(hù)AI未來，共同打造負(fù)責(zé)任的AI，共同破解人類難題。

本報(bào)訊近日，全國工業(yè)和信息化系統(tǒng)科技工作座談會(huì)在湖北省武漢市召開。工業(yè)和信息化部副部長王志軍出席會(huì)議并講話。

王志軍指出，發(fā)展實(shí)體經(jīng)濟(jì)，重點(diǎn)在制造業(yè)，難點(diǎn)也在制造業(yè)。當(dāng)前，全球新一輪科技和產(chǎn)業(yè)革命呈現(xiàn)出多點(diǎn)進(jìn)發(fā)、相互滲透、交叉融合的特征，技術(shù)填進(jìn)、產(chǎn)業(yè)交替速度明顯加快，產(chǎn)業(yè)科技工作的地位和作用日益凸顯。與此同時(shí)，我國經(jīng)濟(jì)發(fā)展的內(nèi)外部環(huán)境正在發(fā)生深刻變化，制造業(yè)領(lǐng)域無論是創(chuàng)新環(huán)境、創(chuàng)新模式、創(chuàng)新內(nèi)容都在發(fā)生深刻變化，我們既面臨著一系列重大發(fā)展機(jī)遇，也需要應(yīng)對(duì)諸多挑戰(zhàn)。面對(duì)機(jī)遇和挑戰(zhàn)，工業(yè)和信息化系統(tǒng)要積極探索產(chǎn)業(yè)科技工作的新思路、新舉措，加快構(gòu)建以激發(fā)企業(yè)創(chuàng)新活力與內(nèi)生動(dòng)力為核心的新型技術(shù)創(chuàng)新體系。

王志軍指出，工業(yè)和信息化系統(tǒng)在工作層面要重點(diǎn)抓好五項(xiàng)任務(wù)：一是集中資源，加快突破核心關(guān)鍵技術(shù)。二是大膽創(chuàng)新，營造良好的產(chǎn)業(yè)科技創(chuàng)新生態(tài)環(huán)境。三是強(qiáng)化應(yīng)用，搶占科技創(chuàng)新和未來發(fā)展制高點(diǎn)。四是擴(kuò)大開放，營造更具吸引力的創(chuàng)新環(huán)境。五是夯實(shí)基礎(chǔ)，提升產(chǎn)業(yè)技術(shù)創(chuàng)新基礎(chǔ)服務(wù)效能。

會(huì)上，還進(jìn)行了國家技術(shù)創(chuàng)新示范企業(yè)和產(chǎn)業(yè)技術(shù)基礎(chǔ)公共服務(wù)平臺(tái)授牌儀式。天津市工信局、上海市經(jīng)信委、湖南省工信廳、湖北省經(jīng)信廳等單位代表作了經(jīng)驗(yàn)交流。