人工智能技術(shù)的風險問題與應(yīng)對

摘要：人工智能技術(shù)的研究與應(yīng)用已經(jīng)成為當前科技領(lǐng)域的熱點，但隨著人工智能技術(shù)的發(fā)展，暴露出的各種風險問題也需要引起重視，與人工智能相關(guān)的AI換臉技術(shù)已經(jīng)引起了爭議。要對人工智能技術(shù)進行有效的規(guī)范，需要從治理理論視角出發(fā)，從國家、市場和社會三個方面進行有效的監(jiān)督和規(guī)制，防止人工智能技術(shù)帶來各種嚴重的社會問題。

關(guān)鍵詞：人工智能;AI換臉;風險;治理

中圖分類號：TP391.4 文獻標識碼：A 文章編號：1004-9436（2021）03-00-03

0 引言

人工智能相關(guān)話題近年逐漸成為熱點。2018年，人工智能成為國民熱詞。在百度發(fā)布的2019年科技領(lǐng)域的十大熱詞中，AI即人工智能占據(jù)榜首，成為網(wǎng)友最關(guān)注的熱詞，此外，AI尋人也位列前十[1]。這反映出人工智能不僅是科技領(lǐng)域的一個熱點，其相關(guān)的應(yīng)用也深入日常生活。

但正如貝克和吉登斯所說，技術(shù)和風險是相互關(guān)聯(lián)的，一個充滿風險的社會是人類無法逃逸的，承受人類自身活動所制造的各種“風險”是當代人類的宿命[2]。這反映了當前社會中的一些風險其實是人類自己制造出來的。比如AI換臉技術(shù)就是在人工智能技術(shù)的基礎(chǔ)上產(chǎn)生的，但在使用中卻存在一些問題，而該技術(shù)帶來的問題也是人工智能發(fā)展會帶來的問題。對AI換臉技術(shù)帶來的風險問題進行防范，有利于解決未來人工智能帶來的更多問題。

1 我國人工智能的現(xiàn)狀

人工智能的發(fā)展不斷改變著人類的世界。為了抓住人工智能發(fā)展的重大戰(zhàn)略機遇，2017年國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》（下文簡稱《規(guī)劃》）的通知[3]?！兑?guī)劃》對我國的人工智能發(fā)展提出了三步走的大戰(zhàn)略。第一步，到2020年人工智能總體技術(shù)和應(yīng)用與世界先進水平同步;第二步，到2025年人工智能基礎(chǔ)理論實現(xiàn)重大突破;第三步，到2030年，人工智能理論、技術(shù)與應(yīng)用總體達到世界領(lǐng)先水平。

2018年，中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行了第九次集體學習。習近平總書記在主持學習時強調(diào)，人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題。

中國科學技術(shù)發(fā)展戰(zhàn)略研究院、科技部新一代人工智能發(fā)展研究中心聯(lián)合國內(nèi)外十余家機構(gòu)編寫了《中國新一代人工智能發(fā)展報告2020》。該報告反映了《規(guī)劃》的實施情況，同時揭示了未來發(fā)展的新挑戰(zhàn)和新趨勢。

十九大報告明確了要推動人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)和實體經(jīng)濟深度融合;十九屆四中全會也兩度提到人工智能。在十四五規(guī)劃中，為了強化國家戰(zhàn)略科技力量，發(fā)展戰(zhàn)略新興產(chǎn)業(yè)，也對人工智能的發(fā)展提出了要求。

國家領(lǐng)導人的講話以及一系列的規(guī)劃，深刻反映了人工智能技術(shù)的重要地位。但正如風險社會理論所展示的：現(xiàn)代化以來，處于支配地位的風險正逐漸由自然風險轉(zhuǎn)為人造風險，制度失范致使人類無節(jié)制地利用技術(shù)在探索未知世界的過程中，不斷地制造出各種可能危及人類文明的技術(shù)風險，加劇了人類社會秩序與倫理道德現(xiàn)實危機[4]。而人工智能技術(shù)的應(yīng)用確實帶來了一些風險，比如AI換臉技術(shù)。

2 AI換臉技術(shù)的現(xiàn)狀與問題

AI換臉技術(shù)是人工智能部分功能的深層應(yīng)用，此技術(shù)最開始與電影制作有關(guān)。好萊塢在制作一些特效電影的時候，就使用過類似的技術(shù)，如CGI技術(shù)。在拍攝電影《速度與激情7》時，因為主演沃克突然逝世，電影制作方不得不運用CGI技術(shù)加替身演員的方式制作沃克剩余部分的戲。但是，這項技術(shù)比較花費成本和精力。

2017年12月，國外一個名為Deepfakes的用戶發(fā)布了通過機器學習更換視頻人臉的AI算法，后來這個算法被稱為Deepfakes。不過彼時該技術(shù)要求比較高，需要進行代碼編譯。幾個月后，隨著Deepfakes技術(shù)的簡版AI換臉工具FakeApp的出現(xiàn)，普通用戶也能夠順利操作。由此，AI換臉帶來了一系列的問題。

《神奇女俠》《哈利·波特》《這個殺手不太冷》的女主們以及斯嘉麗·約翰遜等不少明星都被人使用AI換臉技術(shù)惡搞過。扎克伯格也曾受到AI換臉的影響，2019年一段關(guān)于他的偽造視頻以負面論調(diào)討論Facebook的影響力。實際上，這段視頻是一家以色列科技公司基于2017年扎克伯格的采訪視頻，采用AI換臉技術(shù)制作而成的。2019年5月，美國眾議院民主黨領(lǐng)袖佩洛西也被AI換臉假造了一條視頻，在這段視頻里，佩洛西說起話來像是喝醉了酒[5]。

除了在國外產(chǎn)生了不良影響，AI換臉技術(shù)在國內(nèi)也引發(fā)了一些問題。

在國內(nèi)，一款名叫“ZAO”的軟件利用AI換臉技術(shù)，使該技術(shù)進入大眾視野。該軟件僅需一張照片就可以替換各種視頻作品中的人物，使用戶成為視頻作品中的主角。這款軟件最引人爭議的是用戶協(xié)議中的部分內(nèi)容，如第六條第一款規(guī)定，“在您上傳及/或發(fā)布用戶內(nèi)容以前，您同意或者確保實際權(quán)利人同意授予ZAO及其關(guān)聯(lián)公司以及ZAO用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯……以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”。這些規(guī)定使該APP能過度攫取用戶數(shù)據(jù)，并在無形之中將用戶的肖像直接轉(zhuǎn)讓給他人，讓其他人隨意使用。協(xié)議第七條第七款規(guī)定，“若您侵害他人名譽權(quán)、肖像權(quán)、知識產(chǎn)權(quán)等合法權(quán)利……ZAO可以訴諸行政執(zhí)法機構(gòu)或司法機關(guān)，追究相應(yīng)法律責任。若因您違反本協(xié)議或ZAO平臺的其他規(guī)則導致任何第三方損害的，您應(yīng)當獨立承擔法律責任并承擔損害賠償責任;ZAO及其關(guān)聯(lián)公司遭受損失的，您也應(yīng)當一并賠償”。這一條款使APP公司能轉(zhuǎn)嫁責任，法律責任幾乎都由用戶承擔。

使用AI換臉技術(shù)帶來的各種風險問題在國內(nèi)外都引起了各種爭議，總結(jié)起來主要有四個方面的問題。

2.1 道德和法律方面的問題

使用AI換臉技術(shù)，將一些名人放進視頻，甚至色情電影中，這種做法侵犯了當事人的肖像權(quán)和名譽權(quán)，嚴重時可能涉及侮辱罪。如電視劇《都挺好》播出后，網(wǎng)友利用AI換臉技術(shù)將劇中人物蘇大強換成演員吳某某在網(wǎng)絡(luò)上進行傳播，使部分網(wǎng)友對蘇大強的扮演者進行了大肆侮辱和謾罵，這對演員本人名譽造成了損害[6]。這種“捏造損害他人名譽的事實，在信息網(wǎng)絡(luò)上散布”達到一定程度時就會造成侮辱罪。此外，將演員的臉換到色情電影中進行傳播，當達到一定傳播次數(shù)后可能涉嫌傳播淫穢物品罪。

2.2 有損信息真實性的問題

AI換臉技術(shù)的使用，使視頻也逐漸變得不真實起來。網(wǎng)絡(luò)時代，本來就有大量虛假信息，視頻相對于各種虛假的言論和圖片更加可靠。但是這種技術(shù)的出現(xiàn)，使原本可靠的信息也逐漸不可靠，有時需要靠視頻來鎖定真相，但這種情況下也需要核實視頻是否是偽造的。這些情況都有損信息的真實性。

2.3 個人信息安全問題

2017年，信息安全標委會公布了《信息安全技術(shù)個人信息安全規(guī)范》，這份規(guī)范確定了個人生物識別信息比如臉等屬于個人敏感信息。AI換臉技術(shù)收集的人臉肖像信息屬于生物識別信息。當這種信息被企業(yè)所掌控的時候，就會出現(xiàn)各種風險問題，個人信息的濫用就是其中之一。如一些公司可以想辦法使這些個人信息成為企業(yè)的私有財產(chǎn)，而企業(yè)得到這些信息后，可能會出現(xiàn)個人信息被買賣或者用于互聯(lián)網(wǎng)企業(yè)共享的情況，但這往往并非用戶自愿。在收集了個人信息之后，還可能存在受到黑客攻擊或數(shù)據(jù)庫出現(xiàn)故障等各種情況導致信息泄露，一旦信息泄露后果就很嚴重。如2019年深圳一家與人工智能相關(guān)的公司就被曝出發(fā)生大規(guī)模數(shù)據(jù)泄露事件，其中包含超過256萬人的個人信息，相關(guān)記錄大約有668萬條，據(jù)稱該公司的有關(guān)數(shù)據(jù)從2018年7月起就可以被任何人隨意訪問[7]。

此外，人臉作為生物識別信息，很多時候是個人資產(chǎn)密碼。但是AI換臉技術(shù)的出現(xiàn)，可能會對刷臉生物技術(shù)帶來挑戰(zhàn)，從而給刷臉支付帶來一定的風險。

2.4 其他各種風險

AI換臉技術(shù)也會給社會帶來一些不安定的因素，甚至對國家政治產(chǎn)生影響。AI換臉可以偽造一些有社會影響力的人的視頻，進而散播一些對國家和社會不利的言論，從而引起社會的不安和政治的不穩(wěn)。

在新理論和新技術(shù)的驅(qū)動下，包括AI換臉技術(shù)在內(nèi)的各種人工智能技術(shù)不斷更新和發(fā)展。技術(shù)的提升會帶來風險的聚集，導致各種事故頻發(fā)。貝克認為風險的創(chuàng)造伴隨著人類現(xiàn)代生活的創(chuàng)造?，F(xiàn)代生活不斷擴張，風險也會不斷顯現(xiàn)出來，現(xiàn)代工業(yè)和技術(shù)的蓬勃發(fā)展，構(gòu)成了復雜的城市空間和社會系統(tǒng)，一旦技術(shù)風險引發(fā)事故，將給人類帶來巨大災(zāi)難[8]。這就需要對人工智能技術(shù)可能帶來的風險問題做好預防措施，以防造成嚴重后果。

3 優(yōu)化建議

由于人工智能技術(shù)的潛力巨大，國家提出了發(fā)展人工智能的要求，市場中有很多科技公司在不斷研發(fā)人工智能技術(shù)，而社會中的每一個人都是人工智能技術(shù)的使用者以及人工智能風險的承擔者，因此人工智能帶來的巨大風險涉及社會中的每個人。為了減少人工智能技術(shù)帶來的各種風險，需要從治理理論的視角出發(fā)，從多元主體入手，對人工智能技術(shù)進行監(jiān)管。

3.1 政府層面

政府需要做好兩手準備，既要引導人工智能技術(shù)的發(fā)展，同時也要做好監(jiān)管工作。政府要對人工智能技術(shù)的開發(fā)和使用情況進行監(jiān)管，一旦有越界的行為需要及時制止。政府要配合做好引導立法的工作，同時政府自身也需要設(shè)立有效的行政法規(guī)，明確人工智能技術(shù)不能突破的底線、禁區(qū)，建立人工智能技術(shù)的準入制度。

3.2 市場層面

對于正在研發(fā)和已經(jīng)使用人工智能技術(shù)的公司，需要提升公司整體素養(yǎng)，對用戶的信息進行嚴格保護。研發(fā)人工智能技術(shù)不能違反倫理法律，要牢記人工智能是給國家和社會帶來益處的，而不僅是追求利益的。同時，在行業(yè)內(nèi)部要構(gòu)建業(yè)內(nèi)的監(jiān)管規(guī)則，讓行業(yè)內(nèi)部能有效進行監(jiān)管。對已出現(xiàn)問題的人工智能技術(shù)，如AI換臉，公司需要進行自我反思與檢討，同時要找到相應(yīng)的對策，如開發(fā)破解AI換臉的技術(shù)。此外，要在行業(yè)內(nèi)形成一股“科技向善”的風氣，技術(shù)無好壞，應(yīng)引導向善，用技術(shù)為人類帶來福祉，只有在此基礎(chǔ)上，AI融入企業(yè)、生活，才能帶來可期的未來[9]。

3.3 社會層面

人工智能的部分技術(shù)會在社會中應(yīng)用，這就要求社會中的個人在使用相關(guān)技術(shù)時保持謹慎。在使用前要考慮這些技術(shù)有沒有可能侵犯個人隱私，會不會產(chǎn)生各種道德法律問題。同時，對于技術(shù)供應(yīng)商在用戶協(xié)議中的一些條款要倍加留意，當發(fā)現(xiàn)使用某些AI技術(shù)會帶來風險時，一定要及時反饋給監(jiān)管部門，同監(jiān)管部門構(gòu)筑起一道完整的監(jiān)督防線。

此外，媒體組織具有巨大的影響力，也有能力對人工智能技術(shù)的應(yīng)用進行監(jiān)督。媒體要守住行業(yè)底線，如實反饋人工智能技術(shù)在應(yīng)用中出現(xiàn)的各種風險問題，對于已暴露出來的問題，一定要及時發(fā)布消息告知公眾。同時，媒體也需要做好輿論引導工作，既要讓公眾認識到人工智能發(fā)展對社會的益處，不讓公眾過分恐懼人工智能，也要讓公眾對人工智能的發(fā)展不過分樂觀，明確科技和風險是相伴相生的。

4 結(jié)語

人工智能技術(shù)的發(fā)展會使人民的生活變得更好，但它是把雙刃劍，其背后潛藏的風險也是不容忽視的。繼AI換臉之后，據(jù)報道，有些企業(yè)已研發(fā)出擬真度相當高的AI變聲應(yīng)用，并利用AI變聲應(yīng)用，成功詐騙了數(shù)萬歐元。此外還有人開發(fā)了類似Deepfakes的技術(shù)叫Deepnude，這項技術(shù)可以自動將上傳圖片中的人的衣服除去，使其全裸出鏡，該作者以此營利。雖然這項技術(shù)很快就因違反了GitHub平臺的規(guī)定而被下令封禁，但這也反映了人工智能的發(fā)展所帶來的風險是非常多的。因此，要預防人工智能帶來的各種風險問題，需從治理理論的視角出發(fā)，從國家、市場和社會三個方面入手進行引導和規(guī)制，同時還要緊跟人工智能技術(shù)的發(fā)展，不斷對風險預防的方式和手段進行優(yōu)化，這樣才能有效防范人工智能帶來的各種風險問題。

參考文獻：

[1] 2019年終大盤點：十大科技熱詞發(fā)布，AI占據(jù)榜首[EB/OL].搜狐網(wǎng)，https：//www.sohu.com/a/366516471_305564，2020-01-13.

[2] 肖瑛.從“理性vs非（反）理性”到“反思vs自反”社會理論中現(xiàn)代性診斷范式的流變[J].社會，2005（02）：1-24.

[3] 國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知（國發(fā)〔2017〕35號）[EB/OL].政府信息公開專欄，http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm，2017-07-08.

[4] 鄭容坤.人工智能風險的意蘊生成與治理路徑[J].黨政研究，2020（02）：108-118.

[5] 木爾.扎克伯格慘遭AI“換臉”視頻惡搞發(fā)言人：不會刪除[EB/OL].新浪財經(jīng)，http：//finance.sina.com.cn/stock/relnews/us/2019-06-12/doc-ihvhiqay5160929.shtml，2019-06-12.

[6] 袁佳音.人工智能時代我國刑法面臨的挑戰(zhàn)及應(yīng)對[J].洛陽理工學院學報（社會科學版），2020，35（01）：60-64.

[7] 人臉識別公司深網(wǎng)視界被指數(shù)據(jù)泄露，含256萬人的個人信息[EB/OL].環(huán)球網(wǎng)，https：//baijiahao.baidu.com/s？id=1625541790459846029&wfr=spider&for=pc，2019-02-15.

[8] 滕五曉.新時代國家應(yīng)急管理體制：機遇、挑戰(zhàn)與創(chuàng)新[J].人民論壇·學術(shù)前沿，2019（05）：36-43.

[9] 李映.人工智能，用向善科技引領(lǐng)變革[J].軟件和集成電路，2020（01）：16-17.

作者簡介：唐圣倬（1994—），男，重慶合川人，碩士在讀，研究方向：公共管理、風險治理。