薛瀾：建立多元共治的人工智能治理體系

陳淑蓮

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，它推動人類社會迎來人機協(xié)同、跨界融合、共創(chuàng)分享的智能時代，對經(jīng)濟發(fā)展、社會進步、國際政治經(jīng)濟格局等產(chǎn)生了重大而深遠的影響，被認為是科技創(chuàng)新的下一個“超級風(fēng)口”。然而隨著技術(shù)的發(fā)展和普及，人工智能在引發(fā)社會巨大變革的同時，治理方面和倫理方面的問題不斷涌現(xiàn)，引起了社會上的廣泛關(guān)注，為此本刊專訪了清華大學(xué)蘇世民書院院長、新一代人工智能治理專業(yè)委員會主任薛瀾，就人工智能如何健康發(fā)展等問題展開探討。

人工智能的倫理挑戰(zhàn)與應(yīng)對

如同蒸汽時代的蒸汽機、電氣時代的發(fā)電機、信息時代的計算機和互聯(lián)網(wǎng)，人工智能正成為推動人類進入智能時代的決定性力量。在薛瀾看來，雖然人工智能已經(jīng)在各個領(lǐng)域嶄露頭角，但實際上發(fā)展并不完善。在第四次工業(yè)革命的背景下，中國和世界上所有的國家一樣，都處于人工智能發(fā)展初期，還有許多問題需要解決。慶幸的是，中國在人工智能的應(yīng)用領(lǐng)域已經(jīng)躋身世界第一梯隊，在人工智能的研發(fā)力量、市場規(guī)模、應(yīng)用場景的豐富以及推廣的力度等方面有著其他國家難以比擬的優(yōu)勢。

科學(xué)技術(shù)的進步正如世界上的任何事物一樣，具有兩重性。無數(shù)事實表明，現(xiàn)代科技革命所帶來的科技進步就像一把“雙面刃”，對人類的利弊得失共有之。人工智能浪潮方興未艾，在很多領(lǐng)域展示出巨大應(yīng)用前景，它不僅意味著前沿科技和高端產(chǎn)業(yè)，未來也可以廣泛用于解決人類社會面臨的長期性挑戰(zhàn)。從消除貧困到改善教育，從提供醫(yī)療到促進可持續(xù)發(fā)展，人工智能都大有用武之地。然而，隨著技術(shù)的不斷發(fā)展，由此引發(fā)的倫理爭議也不斷出現(xiàn)。

“人工智能的發(fā)展是一條漫長探索之路，存在很多不確定性，我們應(yīng)該從歷史的眼光去看待它的發(fā)展。技術(shù)是否向善也取決于我們?nèi)绾稳ナ褂?，不同時代、不同場景、不同人群或許存在不同的判斷。”薛瀾以高鐵站為例，提到自“人臉識別”技術(shù)進入高鐵應(yīng)用后，旅客通過“刷臉”就能快速進站候車，明顯提高了旅客進站候車的速度，杜絕了人工驗證的失誤。但其背后隱藏的道德倫理問題同樣值得關(guān)注，“人臉可以說是非常重要的生物特征，這種信息被采集之后，如果沒有得到很好的保護，可能會產(chǎn)生嚴重的問題，尤其在人們不知情的情況下對人臉進行遠程識別或分類的技術(shù)從根本上是危險的。”薛瀾認為使用這項技術(shù)的主體需要非常嚴格的按照國家的相關(guān)的法律法規(guī)去收集、使用個人信息，個人信息處理者要采取必要的安全保護措施，保護信息安全。

為進一步加強對個人信息保護，促進人工智能發(fā)展，即將于2021年11月1日起正式施行的《個人信息保護法》進一步細化、完善了個人信息保護應(yīng)遵循的原則和個人信息處理規(guī)則，明確個人信息處理活動中的權(quán)利義務(wù)邊界，在個人信息保護方面形成了更加完備的制度，提供了更加有力的法律保障?！敖⑷斯ぶ悄芊煞ㄒ?guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力，可以為智能社會定出法律底線和倫理道德的邊界，讓人工智能更好服務(wù)人類社會。”薛瀾說道。

從回應(yīng)式治理邁向敏捷治理

關(guān)于中國人工智能治理模式的發(fā)展，薛瀾曾在很多場合分享過他的看法，他認為從2017年至2020年，我國處于回應(yīng)式治理階段。由于這個時期人工智能處于快速發(fā)展時期，整體大環(huán)境非常有利于創(chuàng)新發(fā)展理念的實施，“讓子彈飛一會兒”以促進人工智能產(chǎn)業(yè)蓬勃發(fā)展。因此對于發(fā)展中出現(xiàn)的問題，監(jiān)管部門采取了比較寬容的態(tài)度。當然，這個階段也出臺了一些軟性規(guī)則去推動人工智能技術(shù)發(fā)展。如為促進新一代人工智能健康發(fā)展，加強人工智能法律、倫理、社會問題研究，國家新一代人工智能治理專業(yè)委員會于2019年發(fā)布了《新一代人工智能治理原則》，提出了人工智能治理的框架和行動指南。此外，為加強人工智能領(lǐng)域標準化頂層設(shè)計，推動人工智能產(chǎn)業(yè)技術(shù)研發(fā)和標準制定，促進產(chǎn)業(yè)健康可持續(xù)發(fā)展，國家標準化管理委員會、中央網(wǎng)信辦、國家發(fā)展改革委、科技部、工業(yè)和信息化部等五部門于2020年聯(lián)合印發(fā)《國家新一代人工智能標準體系建設(shè)指南》?？梢哉f這些引導(dǎo)性、規(guī)范性的措施營造出了有利于人工智能發(fā)展的創(chuàng)新大環(huán)境。

由于回應(yīng)式治理階段出現(xiàn)的一些問題存在應(yīng)對不及時，解決不規(guī)范、不完備等問題，從2020年開始，我國進入到了集中治理階段。相關(guān)監(jiān)管部門采取了措施進行整治，如市場監(jiān)管總局對互聯(lián)網(wǎng)經(jīng)營者的違規(guī)處罰等都是集中治理的體現(xiàn)。在此期間，國家相繼出臺了相關(guān)法律法規(guī)，中國第一部有關(guān)數(shù)據(jù)安全的法律《數(shù)據(jù)安全法》已于2021年9月1日正式實行，它將與《網(wǎng)絡(luò)安全法》及即將實施的《個人信息保護法》一起，全面構(gòu)筑中國信息安全領(lǐng)域的法律框架。集中治理模式明確了國家加強行業(yè)監(jiān)管，促進制度落地的決心。

未來中國應(yīng)該步入敏捷治理階段。薛瀾提到傳統(tǒng)的治理模式下，法律法規(guī)需要經(jīng)過諸多政策制定程序，相對比較緩慢，往往很難趕上人工智能發(fā)展的速度。因此，我們需要進入敏捷治理模式，在不是那樣完整的政策制定條件下及時出臺政策，引導(dǎo)技術(shù)發(fā)展，推動治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。同時，對未來更高級人工智能的潛在風(fēng)險持續(xù)開展研究和預(yù)判，確保人工智能始終朝著有利于社會的方向發(fā)展。

薛瀾提到當前我國人工智能面臨的最大挑戰(zhàn)是沒有一套較為成熟的體系來規(guī)制其潛在的風(fēng)險。與此同時，主要發(fā)達國家同樣在發(fā)展中前進，沒有現(xiàn)成的規(guī)制體系可借鑒，這也促使我們在發(fā)展科技的同時，要走出一條具有中國特色的人工智能治理體系。

構(gòu)建人工智能治理體系

2019年時，為進一步加強人工智能相關(guān)法律、倫理、標準和社會問題研究，深入?yún)⑴c人工智能相關(guān)治理的國際交流合作，科技部決定在新一代人工智能戰(zhàn)略咨詢委員會基礎(chǔ)上成立新一代人工智能治理專業(yè)委員會，委員會由來自高校、科研院所和企業(yè)的相關(guān)專家組成，薛瀾任委員會主任。

談到委員會這些年開展的工作，薛瀾介紹為促進新一代人工智能健康發(fā)展，更好協(xié)調(diào)發(fā)展與治理的關(guān)系，委員會廣泛聽取各方面意見，在廣泛凝聚了學(xué)界、業(yè)界和社會的共識后，起草發(fā)布了《新一代人工智能治理原則》，“發(fā)展負責(zé)任的人工智能”成為治理原則的主題。在薛瀾看來，“負責(zé)任”涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用層，應(yīng)成為貫穿人工智能發(fā)展的一條主線。

“委員會持續(xù)參與了各部門關(guān)于人工智能政策、標準、準則的起草工作，也一直堅持對人工智能的應(yīng)用做深入調(diào)研?！鼻岸螘r間，委員會對長三角一帶的人工智能發(fā)展做了深度調(diào)研，他們希望這些工作能形成推動人工智能健康發(fā)展的合力。

薛瀾認為人工智能具有黑箱特征，其算法機理還有無法解釋的內(nèi)容，社會影響或可能產(chǎn)生的風(fēng)險存在不確定性，因此我國還需要加強基礎(chǔ)研究，降低技術(shù)風(fēng)險，建立多元共治的人工智能治理體系。同時，應(yīng)明確把數(shù)據(jù)和算法作為當前重點治理對象，結(jié)合具體應(yīng)用場景規(guī)范人工智能倫理，利用技術(shù)和規(guī)范并行推動提高治理能力。“我們要通過敏捷治理等新的人工智能治理理念，來適應(yīng)新時代的需求，進一步完善人工智能治理體系?！?/p>

關(guān)于如何在全球治理環(huán)境下形成具有競爭力的人工智能治理體系，薛瀾認為一定要把握好治理理念、治理主體、治理對象和治理工具四大核心要素?！拔覀兪紫纫鞔_發(fā)展人工智能技術(shù)時要堅持的價值導(dǎo)向和治理理念;其次，在明確政府作為治理主體同時，要吸納包括科技界、學(xué)術(shù)界、企業(yè)界等社會各方意見;同時，我們要考慮治理對象的識別，治理主體是多元的，治理對象也并不單一，應(yīng)自下而上分層治理，數(shù)據(jù)算法、應(yīng)用場景、企業(yè)和平臺，都要作為治理對象被考慮在內(nèi);最后，作為治理工具的法律法規(guī)以及各類技術(shù)標準、行為準則、倫理原則等等都需要發(fā)揮作用，要剛?cè)岵?，靈活運用?！毖懻f道。