陳淑蓮
人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,它推動人類社會迎來人機協(xié)同、跨界融合、共創(chuàng)分享的智能時代,對經(jīng)濟發(fā)展、社會進步、國際政治經(jīng)濟格局等產(chǎn)生了重大而深遠(yuǎn)的影響,被認(rèn)為是科技創(chuàng)新的下一個“超級風(fēng)口”。然而隨著技術(shù)的發(fā)展和普及,人工智能在引發(fā)社會巨大變革的同時,治理方面和倫理方面的問題不斷涌現(xiàn),引起了社會上的廣泛關(guān)注,為此本刊專訪了清華大學(xué)蘇世民書院院長、新一代人工智能治理專業(yè)委員會主任薛瀾,就人工智能如何健康發(fā)展等問題展開探討。
人工智能的倫理挑戰(zhàn)與應(yīng)對
如同蒸汽時代的蒸汽機、電氣時代的發(fā)電機、信息時代的計算機和互聯(lián)網(wǎng),人工智能正成為推動人類進入智能時代的決定性力量。在薛瀾看來,雖然人工智能已經(jīng)在各個領(lǐng)域嶄露頭角,但實際上發(fā)展并不完善。在第四次工業(yè)革命的背景下,中國和世界上所有的國家一樣,都處于人工智能發(fā)展初期,還有許多問題需要解決。慶幸的是,中國在人工智能的應(yīng)用領(lǐng)域已經(jīng)躋身世界第一梯隊,在人工智能的研發(fā)力量、市場規(guī)模、應(yīng)用場景的豐富以及推廣的力度等方面有著其他國家難以比擬的優(yōu)勢。
科學(xué)技術(shù)的進步正如世界上的任何事物一樣,具有兩重性。無數(shù)事實表明,現(xiàn)代科技革命所帶來的科技進步就像一把“雙面刃”,對人類的利弊得失共有之。人工智能浪潮方興未艾,在很多領(lǐng)域展示出巨大應(yīng)用前景,它不僅意味著前沿科技和高端產(chǎn)業(yè),未來也可以廣泛用于解決人類社會面臨的長期性挑戰(zhàn)。從消除貧困到改善教育,從提供醫(yī)療到促進可持續(xù)發(fā)展,人工智能都大有用武之地。然而,隨著技術(shù)的不斷發(fā)展,由此引發(fā)的倫理爭議也不斷出現(xiàn)。
“人工智能的發(fā)展是一條漫長探索之路,存在很多不確定性,我們應(yīng)該從歷史的眼光去看待它的發(fā)展。技術(shù)是否向善也取決于我們?nèi)绾稳ナ褂茫煌瑫r代、不同場景、不同人群或許存在不同的判斷?!毖懸愿哞F站為例,提到自“人臉識別”技術(shù)進入高鐵應(yīng)用后,旅客通過“刷臉”就能快速進站候車,明顯提高了旅客進站候車的速度,杜絕了人工驗證的失誤。但其背后隱藏的道德倫理問題同樣值得關(guān)注,“人臉可以說是非常重要的生物特征,這種信息被采集之后,如果沒有得到很好的保護,可能會產(chǎn)生嚴(yán)重的問題,尤其在人們不知情的情況下對人臉進行遠(yuǎn)程識別或分類的技術(shù)從根本上是危險的?!毖懻J(rèn)為使用這項技術(shù)的主體需要非常嚴(yán)格的按照國家的相關(guān)的法律法規(guī)去收集、使用個人信息,個人信息處理者要采取必要的安全保護措施,保護信息安全。
為進一步加強對個人信息保護,促進人工智能發(fā)展,即將于2021年11月1日起正式施行的《個人信息保護法》進一步細(xì)化、完善了個人信息保護應(yīng)遵循的原則和個人信息處理規(guī)則,明確個人信息處理活動中的權(quán)利義務(wù)邊界,在個人信息保護方面形成了更加完備的制度,提供了更加有力的法律保障?!敖⑷斯ぶ悄芊煞ㄒ?guī)、倫理規(guī)范和政策體系,形成人工智能安全評估和管控能力,可以為智能社會定出法律底線和倫理道德的邊界,讓人工智能更好服務(wù)人類社會?!毖懻f道。
從回應(yīng)式治理邁向敏捷治理
關(guān)于中國人工智能治理模式的發(fā)展,薛瀾曾在很多場合分享過他的看法,他認(rèn)為從2017年至2020年,我國處于回應(yīng)式治理階段。由于這個時期人工智能處于快速發(fā)展時期,整體大環(huán)境非常有利于創(chuàng)新發(fā)展理念的實施,“讓子彈飛一會兒”以促進人工智能產(chǎn)業(yè)蓬勃發(fā)展。因此對于發(fā)展中出現(xiàn)的問題,監(jiān)管部門采取了比較寬容的態(tài)度。當(dāng)然,這個階段也出臺了一些軟性規(guī)則去推動人工智能技術(shù)發(fā)展。如為促進新一代人工智能健康發(fā)展,加強人工智能法律、倫理、社會問題研究,國家新一代人工智能治理專業(yè)委員會于2019年發(fā)布了《新一代人工智能治理原則》,提出了人工智能治理的框架和行動指南。此外,為加強人工智能領(lǐng)域標(biāo)準(zhǔn)化頂層設(shè)計,推動人工智能產(chǎn)業(yè)技術(shù)研發(fā)和標(biāo)準(zhǔn)制定,促進產(chǎn)業(yè)健康可持續(xù)發(fā)展,國家標(biāo)準(zhǔn)化管理委員會、中央網(wǎng)信辦、國家發(fā)展改革委、科技部、工業(yè)和信息化部等五部門于2020年聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》??梢哉f這些引導(dǎo)性、規(guī)范性的措施營造出了有利于人工智能發(fā)展的創(chuàng)新大環(huán)境。
由于回應(yīng)式治理階段出現(xiàn)的一些問題存在應(yīng)對不及時,解決不規(guī)范、不完備等問題,從2020年開始,我國進入到了集中治理階段。相關(guān)監(jiān)管部門采取了措施進行整治,如市場監(jiān)管總局對互聯(lián)網(wǎng)經(jīng)營者的違規(guī)處罰等都是集中治理的體現(xiàn)。在此期間,國家相繼出臺了相關(guān)法律法規(guī),中國第一部有關(guān)數(shù)據(jù)安全的法律《數(shù)據(jù)安全法》已于2021年9月1日正式實行,它將與《網(wǎng)絡(luò)安全法》及即將實施的《個人信息保護法》一起,全面構(gòu)筑中國信息安全領(lǐng)域的法律框架。集中治理模式明確了國家加強行業(yè)監(jiān)管,促進制度落地的決心。
未來中國應(yīng)該步入敏捷治理階段。薛瀾提到傳統(tǒng)的治理模式下,法律法規(guī)需要經(jīng)過諸多政策制定程序,相對比較緩慢,往往很難趕上人工智能發(fā)展的速度。因此,我們需要進入敏捷治理模式,在不是那樣完整的政策制定條件下及時出臺政策,引導(dǎo)技術(shù)發(fā)展,推動治理原則貫穿人工智能產(chǎn)品和服務(wù)的全生命周期。同時,對未來更高級人工智能的潛在風(fēng)險持續(xù)開展研究和預(yù)判,確保人工智能始終朝著有利于社會的方向發(fā)展。
薛瀾提到當(dāng)前我國人工智能面臨的最大挑戰(zhàn)是沒有一套較為成熟的體系來規(guī)制其潛在的風(fēng)險。與此同時,主要發(fā)達(dá)國家同樣在發(fā)展中前進,沒有現(xiàn)成的規(guī)制體系可借鑒,這也促使我們在發(fā)展科技的同時,要走出一條具有中國特色的人工智能治理體系。
構(gòu)建人工智能治理體系
2019年時,為進一步加強人工智能相關(guān)法律、倫理、標(biāo)準(zhǔn)和社會問題研究,深入?yún)⑴c人工智能相關(guān)治理的國際交流合作,科技部決定在新一代人工智能戰(zhàn)略咨詢委員會基礎(chǔ)上成立新一代人工智能治理專業(yè)委員會,委員會由來自高校、科研院所和企業(yè)的相關(guān)專家組成,薛瀾任委員會主任。
談到委員會這些年開展的工作,薛瀾介紹為促進新一代人工智能健康發(fā)展,更好協(xié)調(diào)發(fā)展與治理的關(guān)系,委員會廣泛聽取各方面意見,在廣泛凝聚了學(xué)界、業(yè)界和社會的共識后,起草發(fā)布了《新一代人工智能治理原則》,“發(fā)展負(fù)責(zé)任的人工智能”成為治理原則的主題。在薛瀾看來,“負(fù)責(zé)任”涵蓋了人工智能的基礎(chǔ)研發(fā)層到應(yīng)用層,應(yīng)成為貫穿人工智能發(fā)展的一條主線。
“委員會持續(xù)參與了各部門關(guān)于人工智能政策、標(biāo)準(zhǔn)、準(zhǔn)則的起草工作,也一直堅持對人工智能的應(yīng)用做深入調(diào)研?!鼻岸螘r間,委員會對長三角一帶的人工智能發(fā)展做了深度調(diào)研,他們希望這些工作能形成推動人工智能健康發(fā)展的合力。
薛瀾認(rèn)為人工智能具有黑箱特征,其算法機理還有無法解釋的內(nèi)容,社會影響或可能產(chǎn)生的風(fēng)險存在不確定性,因此我國還需要加強基礎(chǔ)研究,降低技術(shù)風(fēng)險,建立多元共治的人工智能治理體系。同時,應(yīng)明確把數(shù)據(jù)和算法作為當(dāng)前重點治理對象,結(jié)合具體應(yīng)用場景規(guī)范人工智能倫理,利用技術(shù)和規(guī)范并行推動提高治理能力?!拔覀円ㄟ^敏捷治理等新的人工智能治理理念,來適應(yīng)新時代的需求,進一步完善人工智能治理體系?!?/p>
關(guān)于如何在全球治理環(huán)境下形成具有競爭力的人工智能治理體系,薛瀾認(rèn)為一定要把握好治理理念、治理主體、治理對象和治理工具四大核心要素?!拔覀兪紫纫鞔_發(fā)展人工智能技術(shù)時要堅持的價值導(dǎo)向和治理理念;其次,在明確政府作為治理主體同時,要吸納包括科技界、學(xué)術(shù)界、企業(yè)界等社會各方意見;同時,我們要考慮治理對象的識別,治理主體是多元的,治理對象也并不單一,應(yīng)自下而上分層治理,數(shù)據(jù)算法、應(yīng)用場景、企業(yè)和平臺,都要作為治理對象被考慮在內(nèi);最后,作為治理工具的法律法規(guī)以及各類技術(shù)標(biāo)準(zhǔn)、行為準(zhǔn)則、倫理原則等等都需要發(fā)揮作用,要剛?cè)岵?,靈活運用?!毖懻f道。