薛瀾：建立多元共治的人工智能治理體系

陳淑蓮

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，它推動(dòng)人類(lèi)社會(huì)迎來(lái)人機(jī)協(xié)同、跨界融合、共創(chuàng)分享的智能時(shí)代，對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、國(guó)際政治經(jīng)濟(jì)格局等產(chǎn)生了重大而深遠(yuǎn)的影響，被認(rèn)為是科技創(chuàng)新的下一個(gè)“超級(jí)風(fēng)口”。然而隨著技術(shù)的發(fā)展和普及，人工智能在引發(fā)社會(huì)巨大變革的同時(shí)，治理方面和倫理方面的問(wèn)題不斷涌現(xiàn)，引起了社會(huì)上的廣泛關(guān)注，為此本刊專(zhuān)訪了清華大學(xué)蘇世民書(shū)院院長(zhǎng)、新一代人工智能治理專(zhuān)業(yè)委員會(huì)主任薛瀾，就人工智能如何健康發(fā)展等問(wèn)題展開(kāi)探討。

人工智能的倫理挑戰(zhàn)與應(yīng)對(duì)

如同蒸汽時(shí)代的蒸汽機(jī)、電氣時(shí)代的發(fā)電機(jī)、信息時(shí)代的計(jì)算機(jī)和互聯(lián)網(wǎng)，人工智能正成為推動(dòng)人類(lèi)進(jìn)入智能時(shí)代的決定性力量。在薛瀾看來(lái)，雖然人工智能已經(jīng)在各個(gè)領(lǐng)域嶄露頭角，但實(shí)際上發(fā)展并不完善。在第四次工業(yè)革命的背景下，中國(guó)和世界上所有的國(guó)家一樣，都處于人工智能發(fā)展初期，還有許多問(wèn)題需要解決。慶幸的是，中國(guó)在人工智能的應(yīng)用領(lǐng)域已經(jīng)躋身世界第一梯隊(duì)，在人工智能的研發(fā)力量、市場(chǎng)規(guī)模、應(yīng)用場(chǎng)景的豐富以及推廣的力度等方面有著其他國(guó)家難以比擬的優(yōu)勢(shì)。

科學(xué)技術(shù)的進(jìn)步正如世界上的任何事物一樣，具有兩重性。無(wú)數(shù)事實(shí)表明，現(xiàn)代科技革命所帶來(lái)的科技進(jìn)步就像一把“雙面刃”，對(duì)人類(lèi)的利弊得失共有之。人工智能浪潮方興未艾，在很多領(lǐng)域展示出巨大應(yīng)用前景，它不僅意味著前沿科技和高端產(chǎn)業(yè)，未來(lái)也可以廣泛用于解決人類(lèi)社會(huì)面臨的長(zhǎng)期性挑戰(zhàn)。從消除貧困到改善教育，從提供醫(yī)療到促進(jìn)可持續(xù)發(fā)展，人工智能都大有用武之地。然而，隨著技術(shù)的不斷發(fā)展，由此引發(fā)的倫理爭(zhēng)議也不斷出現(xiàn)。

“人工智能的發(fā)展是一條漫長(zhǎng)探索之路，存在很多不確定性，我們應(yīng)該從歷史的眼光去看待它的發(fā)展。技術(shù)是否向善也取決于我們?nèi)绾稳ナ褂?，不同時(shí)代、不同場(chǎng)景、不同人群或許存在不同的判斷?！毖懸愿哞F站為例，提到自“人臉識(shí)別”技術(shù)進(jìn)入高鐵應(yīng)用后，旅客通過(guò)“刷臉”就能快速進(jìn)站候車(chē)，明顯提高了旅客進(jìn)站候車(chē)的速度，杜絕了人工驗(yàn)證的失誤。但其背后隱藏的道德倫理問(wèn)題同樣值得關(guān)注，“人臉可以說(shuō)是非常重要的生物特征，這種信息被采集之后，如果沒(méi)有得到很好的保護(hù)，可能會(huì)產(chǎn)生嚴(yán)重的問(wèn)題，尤其在人們不知情的情況下對(duì)人臉進(jìn)行遠(yuǎn)程識(shí)別或分類(lèi)的技術(shù)從根本上是危險(xiǎn)的?！毖懻J(rèn)為使用這項(xiàng)技術(shù)的主體需要非常嚴(yán)格的按照國(guó)家的相關(guān)的法律法規(guī)去收集、使用個(gè)人信息，個(gè)人信息處理者要采取必要的安全保護(hù)措施，保護(hù)信息安全。

為進(jìn)一步加強(qiáng)對(duì)個(gè)人信息保護(hù)，促進(jìn)人工智能發(fā)展，即將于2021年11月1日起正式施行的《個(gè)人信息保護(hù)法》進(jìn)一步細(xì)化、完善了個(gè)人信息保護(hù)應(yīng)遵循的原則和個(gè)人信息處理規(guī)則，明確個(gè)人信息處理活動(dòng)中的權(quán)利義務(wù)邊界，在個(gè)人信息保護(hù)方面形成了更加完備的制度，提供了更加有力的法律保障?！敖⑷斯ぶ悄芊煞ㄒ?guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力，可以為智能社會(huì)定出法律底線和倫理道德的邊界，讓人工智能更好服務(wù)人類(lèi)社會(huì)。”薛瀾說(shuō)道。

從回應(yīng)式治理邁向敏捷治理

關(guān)于中國(guó)人工智能治理模式的發(fā)展，薛瀾曾在很多場(chǎng)合分享過(guò)他的看法，他認(rèn)為從2017年至2020年，我國(guó)處于回應(yīng)式治理階段。由于這個(gè)時(shí)期人工智能處于快速發(fā)展時(shí)期，整體大環(huán)境非常有利于創(chuàng)新發(fā)展理念的實(shí)施，“讓子彈飛一會(huì)兒”以促進(jìn)人工智能產(chǎn)業(yè)蓬勃發(fā)展。因此對(duì)于發(fā)展中出現(xiàn)的問(wèn)題，監(jiān)管部門(mén)采取了比較寬容的態(tài)度。當(dāng)然，這個(gè)階段也出臺(tái)了一些軟性規(guī)則去推動(dòng)人工智能技術(shù)發(fā)展。如為促進(jìn)新一代人工智能健康發(fā)展，加強(qiáng)人工智能法律、倫理、社會(huì)問(wèn)題研究，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)于2019年發(fā)布了《新一代人工智能治理原則》，提出了人工智能治理的框架和行動(dòng)指南。此外，為加強(qiáng)人工智能領(lǐng)域標(biāo)準(zhǔn)化頂層設(shè)計(jì)，推動(dòng)人工智能產(chǎn)業(yè)技術(shù)研發(fā)和標(biāo)準(zhǔn)制定，促進(jìn)產(chǎn)業(yè)健康可持續(xù)發(fā)展，國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)、中央網(wǎng)信辦、國(guó)家發(fā)展改革委、科技部、工業(yè)和信息化部等五部門(mén)于2020年聯(lián)合印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》。可以說(shuō)這些引導(dǎo)性、規(guī)范性的措施營(yíng)造出了有利于人工智能發(fā)展的創(chuàng)新大環(huán)境。

由于回應(yīng)式治理階段出現(xiàn)的一些問(wèn)題存在應(yīng)對(duì)不及時(shí)，解決不規(guī)范、不完備等問(wèn)題，從2020年開(kāi)始，我國(guó)進(jìn)入到了集中治理階段。相關(guān)監(jiān)管部門(mén)采取了措施進(jìn)行整治，如市場(chǎng)監(jiān)管總局對(duì)互聯(lián)網(wǎng)經(jīng)營(yíng)者的違規(guī)處罰等都是集中治理的體現(xiàn)。在此期間，國(guó)家相繼出臺(tái)了相關(guān)法律法規(guī)，中國(guó)第一部有關(guān)數(shù)據(jù)安全的法律《數(shù)據(jù)安全法》已于2021年9月1日正式實(shí)行，它將與《網(wǎng)絡(luò)安全法》及即將實(shí)施的《個(gè)人信息保護(hù)法》一起，全面構(gòu)筑中國(guó)信息安全領(lǐng)域的法律框架。集中治理模式明確了國(guó)家加強(qiáng)行業(yè)監(jiān)管，促進(jìn)制度落地的決心。

未來(lái)中國(guó)應(yīng)該步入敏捷治理階段。薛瀾提到傳統(tǒng)的治理模式下，法律法規(guī)需要經(jīng)過(guò)諸多政策制定程序，相對(duì)比較緩慢，往往很難趕上人工智能發(fā)展的速度。因此，我們需要進(jìn)入敏捷治理模式，在不是那樣完整的政策制定條件下及時(shí)出臺(tái)政策，引導(dǎo)技術(shù)發(fā)展，推動(dòng)治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。同時(shí)，對(duì)未來(lái)更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開(kāi)展研究和預(yù)判，確保人工智能始終朝著有利于社會(huì)的方向發(fā)展。

薛瀾提到當(dāng)前我國(guó)人工智能面臨的最大挑戰(zhàn)是沒(méi)有一套較為成熟的體系來(lái)規(guī)制其潛在的風(fēng)險(xiǎn)。與此同時(shí)，主要發(fā)達(dá)國(guó)家同樣在發(fā)展中前進(jìn)，沒(méi)有現(xiàn)成的規(guī)制體系可借鑒，這也促使我們?cè)诎l(fā)展科技的同時(shí)，要走出一條具有中國(guó)特色的人工智能治理體系。

構(gòu)建人工智能治理體系

2019年時(shí)，為進(jìn)一步加強(qiáng)人工智能相關(guān)法律、倫理、標(biāo)準(zhǔn)和社會(huì)問(wèn)題研究，深入?yún)⑴c人工智能相關(guān)治理的國(guó)際交流合作，科技部決定在新一代人工智能戰(zhàn)略咨詢委員會(huì)基礎(chǔ)上成立新一代人工智能治理專(zhuān)業(yè)委員會(huì)，委員會(huì)由來(lái)自高校、科研院所和企業(yè)的相關(guān)專(zhuān)家組成，薛瀾任委員會(huì)主任。

談到委員會(huì)這些年開(kāi)展的工作，薛瀾介紹為促進(jìn)新一代人工智能健康發(fā)展，更好協(xié)調(diào)發(fā)展與治理的關(guān)系，委員會(huì)廣泛聽(tīng)取各方面意見(jiàn)，在廣泛凝聚了學(xué)界、業(yè)界和社會(huì)的共識(shí)后，起草發(fā)布了《新一代人工智能治理原則》，“發(fā)展負(fù)責(zé)任的人工智能”成為治理原則的主題。在薛瀾看來(lái)，“負(fù)責(zé)任”涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用層，應(yīng)成為貫穿人工智能發(fā)展的一條主線。

“委員會(huì)持續(xù)參與了各部門(mén)關(guān)于人工智能政策、標(biāo)準(zhǔn)、準(zhǔn)則的起草工作，也一直堅(jiān)持對(duì)人工智能的應(yīng)用做深入調(diào)研?！鼻岸螘r(shí)間，委員會(huì)對(duì)長(zhǎng)三角一帶的人工智能發(fā)展做了深度調(diào)研，他們希望這些工作能形成推動(dòng)人工智能健康發(fā)展的合力。

薛瀾認(rèn)為人工智能具有黑箱特征，其算法機(jī)理還有無(wú)法解釋的內(nèi)容，社會(huì)影響或可能產(chǎn)生的風(fēng)險(xiǎn)存在不確定性，因此我國(guó)還需要加強(qiáng)基礎(chǔ)研究，降低技術(shù)風(fēng)險(xiǎn)，建立多元共治的人工智能治理體系。同時(shí)，應(yīng)明確把數(shù)據(jù)和算法作為當(dāng)前重點(diǎn)治理對(duì)象，結(jié)合具體應(yīng)用場(chǎng)景規(guī)范人工智能倫理，利用技術(shù)和規(guī)范并行推動(dòng)提高治理能力?！拔覀円ㄟ^(guò)敏捷治理等新的人工智能治理理念，來(lái)適應(yīng)新時(shí)代的需求，進(jìn)一步完善人工智能治理體系。”

關(guān)于如何在全球治理環(huán)境下形成具有競(jìng)爭(zhēng)力的人工智能治理體系，薛瀾認(rèn)為一定要把握好治理理念、治理主體、治理對(duì)象和治理工具四大核心要素?！拔覀兪紫纫鞔_發(fā)展人工智能技術(shù)時(shí)要堅(jiān)持的價(jià)值導(dǎo)向和治理理念;其次，在明確政府作為治理主體同時(shí)，要吸納包括科技界、學(xué)術(shù)界、企業(yè)界等社會(huì)各方意見(jiàn);同時(shí)，我們要考慮治理對(duì)象的識(shí)別，治理主體是多元的，治理對(duì)象也并不單一，應(yīng)自下而上分層治理，數(shù)據(jù)算法、應(yīng)用場(chǎng)景、企業(yè)和平臺(tái)，都要作為治理對(duì)象被考慮在內(nèi);最后，作為治理工具的法律法規(guī)以及各類(lèi)技術(shù)標(biāo)準(zhǔn)、行為準(zhǔn)則、倫理原則等等都需要發(fā)揮作用，要?jiǎng)側(cè)岵?jì)，靈活運(yùn)用。”薛瀾說(shuō)道。