人工智能的法律規(guī)制

【摘 要】 人工智能的發(fā)展是第四次工業(yè)革命的重要分支，理論上對人工智能的發(fā)展分為弱、類、強、超幾個階段，以超級人工智能的出現(xiàn)為分界線，此前人工智能通常是用普通計算機程序的手段實現(xiàn)的類人智能技術，此后的人工智能擁有幾乎在所有領域遠遠超過人類的認知能力，這意味該技術將為人類社會帶來巨大風險。本文擬在理解人工智能發(fā)展路徑的基礎上，根據(jù)其階段性特點，探討法律規(guī)制的必要性，進一步設計規(guī)制框架，發(fā)揮立法的能動作用，以期達到既促進發(fā)展，又規(guī)制風險的目的。

【關鍵詞】 人工智能 超級人工智能 法律規(guī)制

一、人工智能的發(fā)展路徑

當前人工智能在許多領域取得了令人矚目的成果，使人們對該項技術的前景充滿期待。機器智能一路發(fā)展，必定會逐漸接近并達到人類智能的水平，最終很可能會大大超越人類智能，從而帶來控制問題的隱憂。這樣的擔憂由來已久，早在1956年的達特茅斯學院夏季項目中，研究人員就提出了要“嘗試發(fā)現(xiàn)機器是如何使用語言、形成抽象思維與概念、解決人類所面臨的問題以及學會自我改良的?！逼淠康木驮谟趧?chuàng)造出具有人類智能甚至超越人類智能的機器。六十多年過去了，人工智能的發(fā)展起起落落，近年來在很多領域取得了超越人類的成就，如曾經(jīng)被認為人類不可能被機器超越的圍棋領域，谷歌研發(fā)的AlphaGo系統(tǒng)連勝人類頂尖棋手，給世人帶來震撼。但是目前為止的人工智能仍沒有全面達到人類認知能力的水平，更不用說超過人類。這與機器終有一天會獲得超級智能并不矛盾，科學界歸納出的可能實現(xiàn)路徑有以下幾種：

1、學習模式，阿蘭·圖靈首先提出了“兒童思維機器”的概念，即通過模擬兒童習得知識的過程編寫程序，使之在不斷學習中達到成人的智能水平。該理論激發(fā)了“種子人工智能”的靈感，“兒童思維機器”只能通過積累內(nèi)容來發(fā)展內(nèi)在潛力，“種子人工智能“則可以改良自己的結構。谷歌公司AlphaGo系統(tǒng)使用的神經(jīng)網(wǎng)絡就是一種機器學習的方法，神經(jīng)網(wǎng)絡能夠從經(jīng)驗中學習，也可以從樣本中找到最自然的概括路徑以及所輸入數(shù)據(jù)隱含的統(tǒng)計規(guī)律。但是進一步提升機器的學習能力還需要理論上的進步，如構造人工智能系統(tǒng)的獲知能力及處理不確定性和概率信息的能力，這些還需要研究信息傳遞的過程以及人腦內(nèi)部的構造。

2、模擬進化，該路徑是為了獲得成熟的“兒童思維機器”。通過人為模擬進化過程，提高正向選擇的效率，比如在足夠快的計算機上運行遺傳算法以得到類似生物進化的結果。但是該路徑要求制造出運算能力足以處理龐大的生物進化數(shù)據(jù)的超強計算機。

3、全腦仿真，以人類大腦作為機器智能的模板 。實現(xiàn)全腦仿真需要完成以下步驟：第一，精細掃描人類大腦;第二，將掃描過的原始數(shù)據(jù)輸入計算機，由自動圖像處理重建在原先大腦中負責認知的三維神經(jīng)網(wǎng)絡;第三，在一個運算能力足夠強大的計算機上輸出神經(jīng)計算結構。 如果完全成功，將生成具有記憶和完整人格的初始智能，仿真得到的人類思維便作為軟件存在于一臺計算機中了。要成功進行全腦仿真并不需要概念或理論上的突破，但需要一些非常先進的技術，如需要有足夠高的分辨率和相關檢測性能的高通量顯微鏡，才能進行自動圖像分析，將原始掃描數(shù)據(jù)翻譯成對一種神經(jīng)計算元素相關的三維模型的闡釋，然后模擬出得到的計算結構的強大硬件。[1]

4、借助高級智能，該路徑是通過提高作為機器智能研究主體的人類的智能來間接達到實現(xiàn)機器智能的目的。通過優(yōu)生計劃、生物醫(yī)藥、基因操縱等方式可以實現(xiàn)，但是該路徑面臨著巨大的政治和道德風險。

二、人工智能帶來的風險

從人工智能發(fā)展的階段性特征來看，關于機器智能的前景有技術“奇點”和“智能爆發(fā)”等術語，表述的是機器智能在發(fā)展到一定程度后轉化的生產(chǎn)力使得世界GDP飛速發(fā)展，以至于工業(yè)革命以后快速發(fā)展的歷史較之也遜色不少。但要想達到“奇點”和“智能爆發(fā)”后的超級智能的程度，必須攻克上述理論上和技術條件上的難題，可以說，該過程需要相當長的時間。在超級人工智能到來之前，相對低水平的、專注于某個領域的人工智能方法正逐漸獲得廣泛應用。這些已經(jīng)在應用中的人工智能技術，對于超級智能的進一步研究過程中將出現(xiàn)的新技術，以及將來會出現(xiàn)的超級智能本身，都會對人類生活產(chǎn)生顛覆性的、持續(xù)性的影響。

其影響是矛盾的，在降低一些風險的同時會增加另一些。就已經(jīng)或者即將獲得廣泛應用的人工智能技術來說，它們在提高人類生活水平的同時，對現(xiàn)有的人類社會秩序也帶來了沖擊。包括：（1）倫理風險，如機器人在行動中如何維持人類基本倫理秩序，人與機器人的關系倫理，智能機器人對以人為中心的世界觀的沖擊，以及人工智能的廣泛應用可能帶來的“數(shù)字鴻溝”，貧富差距進一步加大等。（2）法律風險：如人工智能更體現(xiàn)“技術黑箱”，在民事侵權中判定相關主體責任，對機器人主體資格的認定，人工智能創(chuàng)造出的產(chǎn)品知識產(chǎn)權問題，在更加依賴大數(shù)據(jù)的人工智能時代隱私權的界定和保護，以及人工智能應用造成的勞動力就業(yè)市場萎縮等[2]。

就相對遙遠的超級智能來說，它會降低很多既存風險，如由自然帶來的威脅，但也會帶來巨大的存在性風險[3]。如果一個機器智能項目在競爭中遠遠領先，很可能獲得決定性戰(zhàn)略優(yōu)勢[4]，從而沒有其他機器智能能夠與之抗衡。發(fā)展到這一步的人工智能，人類如果不小心把握其動機與能力都可能造成存在性風險。相比于人類動機，人工智能往往只擁有簡單的目標，但因為工具性目標[5]的存在，如追求自我保護、認知提升、技術完善、資源獲取，人工智能很可能將能實現(xiàn)最終目標之外的多余智能用來不斷追求工具性目標，然后用違背人類常理的方式毀滅人類。

三、法律規(guī)制的目的

人工智能的發(fā)展屬于當前正在進行中的第四次技術革命的一支，將與其他技術革新一起，在速度、深度、廣度上對社會造成前所未有的影響，甚至改變?nèi)祟愇拿餍螒B(tài)。這樣的變革對于發(fā)達國家或欠發(fā)達國家而言都是必須牢牢把握的時代機遇，前者可以借此鞏固技術優(yōu)勢，后者則可能實現(xiàn)“彎道超車”。盡管對于發(fā)展人工智能可能帶來的短期和長期風險，有識之士早已提出警告，但是停止發(fā)展甚至限制發(fā)展都是不可能的，即使超級人工智能的到來真的有可能是人類自掘墳墓，各個國家也都希望掘墓人是自己而不是其他人，更何況現(xiàn)階段看來風險是概率事件，收益卻是實際存在的。目前各個國家都逐步開始了對相關技術的規(guī)制，如德國《聯(lián)邦數(shù)據(jù)保護法》，加拿大《個人信息保護法案》，法國《數(shù)字共和國》，英國《2017年數(shù)據(jù)保護法案（草案）》，歐盟《通用數(shù)據(jù)保護條例》等等。我國也已頒布了《網(wǎng)絡安全法》，并先后發(fā)布了《國家信息化發(fā)展戰(zhàn)略綱要》《新一代人工智能發(fā)展規(guī)劃》《智能制造發(fā)展規(guī)劃（2016-2020年）》《高等學校人工智能創(chuàng)新行動計劃》等等戰(zhàn)略規(guī)劃，相關立法勢在

必行。

因此，人工智能的發(fā)展是一件已經(jīng)在進行并且會持續(xù)發(fā)生的事情，法律所能做的就是提供合理的規(guī)制手段，達到以下目的：在目前處于弱、類人工智能的水平上，促進技術和理論發(fā)展;盡量保證發(fā)展過程的可控，以免小部分研究人員和投資者掌控具有決定性戰(zhàn)略優(yōu)勢的超級智能并由此獲利，全體社會成員只能被動承擔風險。

四、法律規(guī)制的方法

（一）促進發(fā)展

國務院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中已經(jīng)為鼓勵發(fā)展技術確定了大的戰(zhàn)略布局，立法應當對此作出反應。

企業(yè)、高校、科研機構是具體人工智能項目的主要研究者和控制者，政府在這個過程中擔任調控者和監(jiān)督者的角色。前者享有獲取政府資金和政策支持的權利，負有合理利用政府提供的資源進行研究，將研究成果按法律規(guī)定進行轉化，配合政府制定相關規(guī)范等義務。后者負有為人工智能發(fā)展提供財政支持、創(chuàng)造條件的義務，享有對人工智能研究、生產(chǎn)活動進行調整、監(jiān)控、處罰等權利。

立法需將相關主體的權利及義務落實成法律規(guī)范，明確企業(yè)、高校、科研團隊等能夠申請國家的財政投資，建議政府完善保障措施，要求提高網(wǎng)絡基礎設施、大數(shù)據(jù)基礎設施、高效能計算機基礎設施的建設水平，企業(yè)在符合條件的情況下享受稅收等政策優(yōu)惠。在建立人工智能標準的問題上，明確上述主體配合政府就必要的準入、安全問題參與討論，為國家層面制定研究和生產(chǎn)標準提供智力資源，使得研究、生產(chǎn)規(guī)范化，并積極參與國際標準制定，在新一輪科技革命中掌握主動權。

在具體實施過程中，政府需要為上述主體權利的實現(xiàn)提供必要基礎設施，以及配套政策保證立法目的實現(xiàn)。包括以立法的形式明確主要責任部門及其職權職責，必要時設立一個專門機構負責人工智能的發(fā)展規(guī)劃、財政劃撥、風險監(jiān)控、國際合作等事宜，當前我國負責科學技術發(fā)展的科技部可以通過成立專門辦事處、委員會的方式來開展工作。此外，擴大和維持人才隊伍，將資金投向企業(yè)不愿意進入的領域，解決私營企業(yè)不從事的重要社會問題、高度加強對其他國家人工智能發(fā)展的關注等，也是政府應當承擔的義務。

在促進與監(jiān)管之后，立法需要從知識產(chǎn)權保護的角度出發(fā)，激勵創(chuàng)新，結合人工智能相關技術的特點設置權利保護、權利交易、權利限制等制度，保障權利主體合法有序地獲得資金支持，加快智力成果轉化，促進新興產(chǎn)業(yè)發(fā)展。

（二）規(guī)制風險

人工智能的發(fā)展可能帶來許多新風險，規(guī)制風險要與現(xiàn)有法律做好立法銜接工作，在人工智能的專門立法出臺之前，解決好新技術對原有法律制度造成的沖擊，填補法律漏洞。

對即將到來的新立法，要在宏觀層面樹立風險社會的法律理念。享受技術革新帶來的紅利時，不忘風險如影隨形，如此前工業(yè)革命帶來的環(huán)境污染、基因技術、超級細菌等等。擁抱人工智能技術，要確立風險社會的立法理念，追求效益價值的同時，保障安全價值的實現(xiàn)。實現(xiàn)效益價值要求激發(fā)人工智能技術的創(chuàng)新活力，促進新技術的轉化適用，也就是前述的以立法促進發(fā)展。而實現(xiàn)安全價值，要在風險社會理論指引下，從事先預防出發(fā)，在整個研發(fā)和應用的過程中落實責任制度，保障技術信息適度公開。

做到事先預防必須完善人工智能研究和生產(chǎn)的準入機制和風險評估制度，立法需要對相關主體資格做出限制，對具體項目內(nèi)容進行審批。有可能造成重大風險的人工智能技術，在著手研究或生產(chǎn)之前，組織相關領域專家詳盡論證可行性，必要情況下引入公眾意見。對于無法預防或突然發(fā)生的風險，要及時反應，這就要求建立人工智能監(jiān)測制度。對于企業(yè)、高校、科研團隊等，可以財政投資為條件，要求其定期匯報研究進展。對人工智能研究成果的商品化、產(chǎn)業(yè)化附以備案登記的程序。對投入使用的人工智能產(chǎn)品，由地方各級政府部門在發(fā)現(xiàn)其造成威脅或實害時向責任部門上報。由來自政府、企業(yè)、高校、科研團隊以及社會公眾聘請的專家組成風險評估小組，對于特定項目進行評估，并向社會公布。責任制度的落實，可能因為人工智能技術的復雜性及其相當程度上的智能性更加困難（如無人駕駛汽車侵權究竟是由設計者、生產(chǎn)者還是所有者、使用者承擔責任？）侵權法必須對這樣的新型法律關系作出回應。

五、結語

人工智能技術有著誘人的發(fā)展前景，人類認識世界改造世界的過程是一個主體和客體互動的過程，主體從客體獲取信息，對信息進行加工處理，做出判斷以及策略，再施加于客體，以達到主觀目的。在這個過程中，人工智能相關技術不斷逼近向全領域、全方位發(fā)揮作用。相關科學家預測，人工智能超越人類智能之后，能夠以不同于人類的方式高效完成這一認識世界、改造世界的過程。許多人類目前受制于物理上的限制或精神上的限制無法解決的問題，例如對于人本身的認識，對于人類所追求的價值的探究，都將以超越人類智慧的方式得到解決。

當前國際間的競爭態(tài)勢使任何一個謀求人民幸福與國際尊重的國家在把握這一時代機遇的時候都不甘落于人后。盡管許多專業(yè)人士未雨綢繆地敲響警鐘，依然無法阻擋人們對技術革新的渴望，畢竟歷史演進的過程說明，新技術是“雙刃劍”，且往往利遠遠大于弊。盡管本文在抽象意義上討論了法律如何應對這樣的挑戰(zhàn)，但在具體的制度設計以及配套政策制定上還有很多問題留待解決。

注釋

[1] 尼克·波斯特洛姆：《超級智能——路線圖、危險性與應對策略》，中信出版社，2015年2月第1版，第38頁。

[2] 吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《社會科學文摘》，2017年第12期。

[3] 指威脅到人類生存的風險，在無法控制超級智能的情況下會出現(xiàn)。

[4] 指在技術方面和其他方面獲得足夠的優(yōu)勢，使其能夠取得全球統(tǒng)治地位。

[5] 指那些任何超級智能體都會去追求的，對于所有最終目標都是有用的中間目標。

【參考文獻】

[1] 尼克·波斯特洛姆：《超級智能——路線圖、危險性與應對策略》，中信出版社，2015年2月第1版。

[2] 克勞斯·施瓦布：《第四次工業(yè)革命——轉型的力量》，中信出版社，2016年6月第1版。

[3] Matthew U.Scherer： Regulating Artificial Intelligence Systems： Risks， Challenges， Competencies， And Strategies， Harvard Journal of Law&technologu， Volume 29，Number 2 Spring 2016.

[4] 何哲：《通向人工智能時代——兼論美國人工智能戰(zhàn)略方向及對中國人工智能戰(zhàn)略的借鑒》，《電子政務》，2016年12期。

[5] 鐘義信：《人工智能：概念·方法·機遇》，《科學通報》，2017年22期。

[6] 吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《社會科學文摘》，2017年第12期。

[7] 馬長山：《人工智能的社會風險及其法律規(guī)制》，《法律科學（西北政法大學學報）》，2018年第6期。

作者簡介：郭曄（1994-），女，碩士在讀，中南財經(jīng)政法大學，430000，研究方向：法理學。