加強我國人工智能安全風險法律治理

王鶄峰 欒群

大數(shù)據(jù)、云計算等技術(shù)的進步促進了人工智能產(chǎn)業(yè)發(fā)展，成為未來經(jīng)濟社會發(fā)展的重要方向和支柱。人工智能開始在各個領(lǐng)域廣泛應(yīng)用，帶給人類便捷與高效的同時衍生出一系列安全問題，如數(shù)據(jù)與個人隱私的保護、算法透明度與可解釋性的缺失、系統(tǒng)安全風險等。安全問題也成為阻礙行業(yè)發(fā)展的一個主要障礙。解決這一問題需要靠技術(shù)，與此同時，還要加強法律治理，確保人工智能安全、可靠、可控發(fā)展。

目前人工智能安全方面存在的主要風險

數(shù)據(jù)與個人隱私保護防范難度增加。人工智能的發(fā)展需要海量數(shù)據(jù)的收集、應(yīng)用和共享，但是，數(shù)據(jù)收集、深度處理和全球化傳遞中都可能危及數(shù)據(jù)和隱私安全。主要表現(xiàn)在三方面：一是智能設(shè)備和算法對于個人隱私的發(fā)掘分析能力遠超以往技術(shù)，隱私所有權(quán)防范難度大大增加；二是用于身份識別驗證的生物信息具有較強的穩(wěn)定性，一旦發(fā)生泄露無法找回或重置，生物信息的價值大大減損，且與個人生物信息綁定的相關(guān)安全驗證都將面臨很高的安全風險，目前對生物信息安全問題關(guān)注遠遠不夠；三是個人行為數(shù)據(jù)被智能設(shè)備和定位系統(tǒng)記錄、存儲和分析后會全面呈現(xiàn)個人的行為偏好、習慣和生活狀態(tài)，目前只規(guī)制“出售或提供行蹤軌跡信息，被他人用于犯罪的”情形，其它領(lǐng)域行為數(shù)據(jù)如何保護尚缺少相應(yīng)規(guī)定。

算法透明度與可解釋性缺失。一是人工智能算法的學習與決策存在海量數(shù)據(jù)本身的不確定性，使得算法的決策過程和決策規(guī)則難以被人洞悉，造成人工智能算法的透明度與可解釋性缺失；二是人工智能算法的設(shè)計是編程人員的主觀選擇和價值判斷，也可能在機器深度學習過程中自主演變和進化，不能保障算法決策的公平性和透明度，難以認定產(chǎn)生法律責任的主體；三是人工智能的判斷規(guī)則可能存在潛在歧視，一旦作為重大決策的參照物，會帶來不可想象的后果。

系統(tǒng)安全風險。系統(tǒng)安全風險主要表現(xiàn)在人工智能硬件應(yīng)用中，智能硬件的系統(tǒng)漏洞、基礎(chǔ)安全技術(shù)缺失以及復雜的供應(yīng)鏈條帶來的歸責困境。一是智能硬件缺失加密技術(shù)，采用默認密碼技術(shù)措施不足，使大量的用戶信息處于極度危險狀態(tài)；二是復雜的系統(tǒng)構(gòu)成導致高密度關(guān)聯(lián)風險增加。以智能網(wǎng)聯(lián)汽車為例，如因軟件漏洞導致系統(tǒng)被入侵后造成的安全事故責任，難以確定應(yīng)該由整車廠或是軟件系統(tǒng)服務(wù)提供商承擔責任。

國外安全監(jiān)管方面可借鑒的經(jīng)驗做法

頒布保護數(shù)據(jù)和個人隱私指令。在數(shù)據(jù)保護和個人隱私方面，美國于1974 年頒布的《聯(lián)邦隱私權(quán)法》為隱私權(quán)保護的基本法，隨后頒布了《聯(lián)邦電子通信隱私法案》《公民網(wǎng)絡(luò)隱私權(quán)保護暫行條例》《個人隱私與國家信息基礎(chǔ)設(shè)施》等法律。歐盟對此已經(jīng)頒布多項個人數(shù)據(jù)保護指令，例如《關(guān)于涉及個人數(shù)據(jù)處理的個人保護以及此類數(shù)據(jù)自由流動的指令》等，構(gòu)建了個人數(shù)據(jù)保護體系。2016年，歐盟頒布《個人數(shù)據(jù)保護通用條例》，禁止一切未經(jīng)同意而非法使用公民個人數(shù)據(jù)的行為。在個人數(shù)據(jù)隨時可被搜集的時代，任何情況下都必須堅持保護隱私和個人數(shù)據(jù)的原則。歐盟法律事務(wù)委員會建議，針對人工智能領(lǐng)域進行政策制定時，應(yīng)當進一步完善通過設(shè)計保護隱私、默認保護隱私、知情同意、加密等概念的標準。

提高智能算法透明化程度和可責性。2017年1月12日，美國計算機協(xié)會下屬美國公共政策委員會發(fā)布文件，闡述了關(guān)于人工智能算法透明化和可責性七條原則，旨在通過算法透明化及可追溯性，盡量減少潛在的風險及危害。2017年2月，歐盟議會通過《機器人民事法律規(guī)則》，強調(diào)算法透明原則，即對某個人或更多人的生活可能產(chǎn)生實質(zhì)性的影響，借助于人工智能所做出的決策，必須在任何情況下都可以提供其決策背后的算法設(shè)計規(guī)則。

2017年12月11日，紐約市議會通過《政府部門自動決策系統(tǒng)法案》，這是美國針對人工智能算法進行立法監(jiān)管的首個法案，其目的在于促進政府自動決策算法的公開、公平，提高政府決策智能算法的公信力。

采取系列措施保障系統(tǒng)安全。2016年，美國發(fā)布《美國國家人工智能研發(fā)戰(zhàn)略計劃》，為確保人工智能系統(tǒng)的安全，提出通過采取一系列措施，比如增強人工智能的可解釋性和透明度、構(gòu)建信任體系、增強可驗證與可確認性，以保護人工智能系統(tǒng)免受攻擊，從而實現(xiàn)長期的人工智能安全和優(yōu)化。

對策與建議

一是加快構(gòu)建隱私權(quán)保護的法律。針對人工智能技術(shù)應(yīng)用的不同領(lǐng)域，收集個人信息的來源，構(gòu)架出一套自下而上、逐層具體、全面完善的隱私權(quán)保護的法律。一是對于個人敏感信息，明確列舉哪些信息屬于個人敏感信息，需要采取特殊的保護手段和使用限制予以保護；二是對于需要采集和存儲個人信息和數(shù)據(jù)隱私的單位和個人，在采集和存儲前應(yīng)當明確告知信息主體，特定范圍的信息需要取得信息主體的明示同意；三是明確規(guī)定可能會給信息主體造成一定風險的個人信息和數(shù)據(jù)的獲取的正當性和必要性條件，規(guī)范信息獲取行為，降低信息和數(shù)據(jù)被非法獲取和使用的風險。

二是法律明確人工智能算法透明化和可責性要求。一是算法設(shè)計者應(yīng)該對訓練數(shù)據(jù)的來源及可靠性加以說明；二是算法設(shè)計機構(gòu)應(yīng)記錄模型、算法、數(shù)據(jù)和具體決策，以便在解決出現(xiàn)的問題或依法監(jiān)管時有據(jù)可查；三是算法應(yīng)用機構(gòu)應(yīng)采取可靠的技術(shù)手段對其算法的程序進行驗證，以提高基于此算法所自動做出的決策的可信度；四是定時評估系統(tǒng)的規(guī)范性，對錯誤決策可以進行調(diào)查并予以糾正。

三是通過立法強化人工智能系統(tǒng)安全義務(wù)。可靠的人工智能系統(tǒng)應(yīng)具有強大的安全性能，能夠有效應(yīng)對各類惡意攻擊，法律可以考慮通過安全標準、安全評估義務(wù)等規(guī)范達到強化系統(tǒng)安全的目的。一是提高人工智能產(chǎn)品研發(fā)的安全標準，從技術(shù)上增強智能系統(tǒng)的安全性和強健性；二是推行智能系統(tǒng)安全認證制度，對人工智能技術(shù)和產(chǎn)品進行嚴格測試，增強社會公眾信任；三是強化安全評估義務(wù)主體責任，針對人工智能應(yīng)用場景和應(yīng)用重要程度的不同，有針對性地制定技術(shù)標準和評估方案，滿足不同系統(tǒng)安全風險與保障的差異化需求。