人工智能數(shù)據(jù)安全方面法律治理的現(xiàn)狀、問題與建議

趙文婷

青海民族大學(xué)政治與公共管理學(xué)院，青海 西寧 810000

目前我國雖然已經(jīng)開始重視人工智能數(shù)據(jù)安全的法律治理，但是由于缺乏一定的安全管理模式和機制，很難確保數(shù)據(jù)安全性的有效管理和維護(hù)。因此在人工智能時代發(fā)展的過程中應(yīng)重點關(guān)注數(shù)據(jù)安全法律的健全性和完善性，增強法律治理效果，從而確保數(shù)據(jù)安全的有效維護(hù)和保障。

一、人工智能數(shù)據(jù)安全分析

人工智能和數(shù)據(jù)之間具有相輔相成、相互促進(jìn)的關(guān)系，其數(shù)據(jù)信息與傳統(tǒng)的網(wǎng)絡(luò)數(shù)據(jù)信息有所不同，人工智能具有自主智能技術(shù)特點、群智開放性的特點、人機協(xié)同的特點、跨界融合的特點，會導(dǎo)致數(shù)據(jù)所面臨的安全風(fēng)險更為嚴(yán)重。其一，人工智能對于海量數(shù)據(jù)信息的高維度運算具備一定的依賴性，輸入和輸出相互之間的關(guān)系很難解釋，大規(guī)模數(shù)據(jù)自動化處理的控制難度高，所涉及的數(shù)據(jù)信息類型很廣，采集主體、存儲主體和流動主體具有多元化的特點，導(dǎo)致人工智能數(shù)據(jù)的復(fù)雜程度過高［1］；其二，人工智能技術(shù)具有一定的蝴蝶效應(yīng)，如果不能確保前期的合理設(shè)計很容易導(dǎo)致后續(xù)應(yīng)用的過程中對社會造成嚴(yán)重的影響，并且人工智能在應(yīng)用期間會持續(xù)性生成數(shù)據(jù)，有著自身性的特點，同時人工智能屬于負(fù)能技術(shù)，研究開發(fā)和應(yīng)用的場景性很強，融合了很多場景的特殊數(shù)據(jù)安全需求［2］。

當(dāng)前人工智能數(shù)據(jù)安全風(fēng)險問題頻繁出現(xiàn)，經(jīng)常會出現(xiàn)數(shù)據(jù)泄露的問題、造假的問題等，而人工智能發(fā)生數(shù)據(jù)安全風(fēng)險的原因，主要就是技術(shù)本身存在數(shù)據(jù)安全風(fēng)險和治理方面的挑戰(zhàn)，例如：訓(xùn)練數(shù)據(jù)污染的問題、數(shù)據(jù)出現(xiàn)逆向還原的現(xiàn)象、開源框架有一定的風(fēng)險性；再如：技術(shù)應(yīng)用的過程中出現(xiàn)數(shù)據(jù)過度采集的現(xiàn)象、資源濫用的現(xiàn)象、數(shù)據(jù)盜取的現(xiàn)象等；也可能會出現(xiàn)數(shù)據(jù)權(quán)屬的問題、違規(guī)跨境的問題等，嚴(yán)重影響人工智能技術(shù)發(fā)展過程中數(shù)據(jù)的安全性。

二、人工智能數(shù)據(jù)安全法律治理現(xiàn)狀

（一）法律出臺的現(xiàn)狀

雖然當(dāng)前我國還沒有出臺關(guān)于人工智能數(shù)據(jù)的專項法律法規(guī)，但是近年來已經(jīng)開始采用數(shù)據(jù)法律治理的措施，為了確保數(shù)據(jù)的安全性、促使人工智能技術(shù)的健康穩(wěn)定進(jìn)步，我國的網(wǎng)信辦部門、工信部門、公安部門等已經(jīng)開始陸續(xù)出臺和網(wǎng)絡(luò)安全數(shù)據(jù)保護(hù)相互配套的法規(guī)，在2021年出臺了首部數(shù)據(jù)安全基礎(chǔ)性法律，也就是《數(shù)據(jù)安全法》，在其中提出了基礎(chǔ)性的數(shù)據(jù)安全規(guī)定要求，并且還出臺了關(guān)于網(wǎng)絡(luò)安全維護(hù)方面的法律規(guī)定、關(guān)鍵信息基礎(chǔ)設(shè)施安全保障的法律規(guī)定，2020年出臺了個人信息保護(hù)的法律，提出有效處理和解決敏感個人信息問題、隱私信息跨境流通問題、過度收集隱私信息問題和大數(shù)據(jù)“殺熟”問題的規(guī)定。在此過程中，各地方也開始制定公共數(shù)據(jù)管理的規(guī)章制度，尤其是上海市、貴州省、浙江省、深圳市等地區(qū)提出了維護(hù)地方數(shù)據(jù)信息安全的法律條例，在人工智能、數(shù)據(jù)安全治理原則和重要措施手段的應(yīng)用層面也提出了很多規(guī)定，能夠為人工智能數(shù)據(jù)安全的管理和維護(hù)提供基礎(chǔ)保障［3］。

（二）法律治理的特點

目前我國在人工智能數(shù)據(jù)安全治理過程中具有以下幾種特點：其一，治理的方法具有協(xié)同性特點，能夠以數(shù)據(jù)安全問題的應(yīng)對為目的協(xié)同性使用多種治理措施，各個主體之間相互協(xié)同，共同研究實施效果較高的治理方式。從國際領(lǐng)域而言，全世界很多國家已經(jīng)提出了人工智能數(shù)據(jù)安全的基礎(chǔ)法律規(guī)定、行政法律規(guī)定、部門規(guī)章制度、司法解釋要求、規(guī)范性和政策性的文件與國家標(biāo)準(zhǔn)等，還針對地方性法規(guī)制度進(jìn)行了更新、修訂和內(nèi)容的補充。我國在人工智能數(shù)據(jù)安全治理的領(lǐng)域中也開始制定數(shù)據(jù)安全一般法律規(guī)定、地方法律規(guī)定，能夠和原本的法律解釋之間多種模式相互協(xié)同，構(gòu)建成為規(guī)范性的體系。其二，具有場景化的特點。目前，國內(nèi)外在人工智能、數(shù)據(jù)安全立法方面已經(jīng)開始重點研究數(shù)據(jù)應(yīng)用場景的典型問題，主要原因就是數(shù)據(jù)在各種場景內(nèi)顯示屬性與治理問題存在差異性，因此結(jié)合數(shù)據(jù)應(yīng)用場景，制定數(shù)據(jù)安全治理的法律是未來主要的發(fā)展趨勢，也是立法層面必須考慮的事項。

（三）管理體制存在問題

人工智能數(shù)據(jù)安全治理過程中管理體制屬于重要的基礎(chǔ)保障，也是法律規(guī)定中需要明確的主要內(nèi)容，目前我國在人工智能數(shù)據(jù)安全管理體制方面具備統(tǒng)一性領(lǐng)導(dǎo)與各方主體相互協(xié)調(diào)的特征，能夠持續(xù)性解決數(shù)據(jù)復(fù)雜性問題和不確定性的問題，但是在人工智能數(shù)據(jù)治理期間還存在一些不足之處：其一，管理體制具有多頭管理的特點，難以準(zhǔn)確徹底性落實數(shù)據(jù)安全治理的工作。當(dāng)前我國的人工智能數(shù)據(jù)治理主要是政府部門承擔(dān)重要職責(zé)，而在職責(zé)分工期間很難和人工智能多種場景相互適應(yīng)，無法充分彰顯出行政主管部門的主體作用，缺乏一定的針對性［4］。其二，缺少關(guān)于技術(shù)的支撐和保障。目前國際領(lǐng)域中人工智能數(shù)據(jù)安全治理，已經(jīng)開始重視數(shù)據(jù)復(fù)雜性特點和不確定性特點的分析，研究此類特點所引發(fā)的安全問題，而目前我國的人工智能數(shù)據(jù)治理管理體制中還沒有創(chuàng)建較為完善的數(shù)據(jù)安全治理的技術(shù)機制和模式，缺乏現(xiàn)代化的治理技術(shù)，難以有效維護(hù)數(shù)據(jù)的安全性。其三，數(shù)據(jù)安全治理的法律法規(guī)缺乏一定的場景適應(yīng)性。雖然我國在數(shù)據(jù)安全法律、個人信息保護(hù)法律、關(guān)鍵性信息基礎(chǔ)設(shè)施安全保護(hù)的法律中已經(jīng)明確定義了個人數(shù)據(jù)、基礎(chǔ)設(shè)施關(guān)鍵數(shù)據(jù)，但是還沒有細(xì)致性提出各類數(shù)據(jù)應(yīng)用場景的安全規(guī)定，尤其是醫(yī)療領(lǐng)域、自動駕駛領(lǐng)域的人工智能數(shù)據(jù)具有一定的特殊性，不能和其他人工智能數(shù)據(jù)采用相同的安全治理方案，如果不能按照數(shù)據(jù)應(yīng)用的各個特殊領(lǐng)域特點與情況編制完善的安全治理計劃和規(guī)定，將會導(dǎo)致安全治理效果無法提升。另外，數(shù)據(jù)安全管理體制中缺乏完善的激勵體系，各個部門的數(shù)據(jù)安全管理工作側(cè)重點存在差異性，不能將人工智能數(shù)據(jù)開放性、共享性的安全治理作為主要職責(zé)，缺少維護(hù)數(shù)據(jù)安全的積極性［5］。

三、人工智能數(shù)據(jù)安全法律治理的對策

（一）明確法律的細(xì)則要求

人工智能技術(shù)快速發(fā)展的進(jìn)程中，要想確保數(shù)據(jù)安全法律治理效果，就應(yīng)明確法律層面的細(xì)則要求。其一，明確個人信息的權(quán)利規(guī)定。考慮到個人信息和個人存在直接聯(lián)系，性質(zhì)與內(nèi)容都和個人隱私權(quán)、人格尊嚴(yán)等存在緊密關(guān)聯(lián)，也會涉及財產(chǎn)權(quán)益，具備綜合性的司法屬性，一旦個人信息受到威脅出現(xiàn)數(shù)據(jù)安全風(fēng)險問題，將會導(dǎo)致人工大數(shù)據(jù)用戶的個人權(quán)利受到損害。因此在數(shù)據(jù)安全法律治理的過程中必須要明確個人信息權(quán)利的規(guī)定要求，按照我國目前已經(jīng)出臺的個人信息安全保護(hù)的法律規(guī)定，明確界定個人信息的知情權(quán)、更改和刪除的權(quán)利，提出人工智能領(lǐng)域中個人信息收集和應(yīng)用的界限，這樣才能有效維護(hù)個人信息和數(shù)據(jù)的安全。其二，重點提出關(guān)于人工智能數(shù)據(jù)的收集標(biāo)準(zhǔn)、使用標(biāo)準(zhǔn)，為數(shù)據(jù)安全的維護(hù)提供保障。目前我國在網(wǎng)絡(luò)安全法律規(guī)定中已經(jīng)提出了在個人信息收集和使用期間必須遵守合法性、正當(dāng)性、必要性的基本原則，明確數(shù)據(jù)收集目的、使用目的、使用的范圍和途徑，征得被收集者的同意之后才能使用數(shù)據(jù)，能夠有效維護(hù)個人數(shù)據(jù)安全。人工智能數(shù)據(jù)安全法律治理方面也可以借鑒網(wǎng)絡(luò)安全法律中的規(guī)定，要求安全規(guī)范在用戶同意之后進(jìn)行人工智能數(shù)據(jù)的收集和使用，以此維護(hù)數(shù)據(jù)的安全。其三，根據(jù)人工智能數(shù)據(jù)安全管理和治理的需求制定專項法律法規(guī)，設(shè)定人工智能技術(shù)領(lǐng)域中各類語境環(huán)境的數(shù)據(jù)安全保障方式、侵權(quán)以后的救濟(jì)方式?？紤]到由于人工智能數(shù)據(jù)具有海量、龐大的特點，一旦出現(xiàn)數(shù)據(jù)侵權(quán)的問題，將會導(dǎo)致很多的數(shù)據(jù)被侵權(quán)，和普通網(wǎng)絡(luò)信息侵權(quán)事件相比具有一定的特殊性，因此，除了要完善基礎(chǔ)法律規(guī)定，還需提出關(guān)于人工智能的數(shù)據(jù)安全管理、安全保護(hù)專項的法律規(guī)定，明確具體的數(shù)據(jù)安全保護(hù)措施和保護(hù)方式。同時，我國在原《民法總則》《刑法》中已經(jīng)提出了禁止個人數(shù)據(jù)被非法收集和使用的要求、個人數(shù)據(jù)受到侵害以后的懲罰要求，在此期間可以結(jié)合人工智能技術(shù)領(lǐng)域的特點，制定針對性的數(shù)據(jù)安全保護(hù)、系統(tǒng)化數(shù)據(jù)安全治理的法律。其四，由于人工智能技術(shù)的發(fā)展空間、發(fā)展前景非常廣闊，技術(shù)的發(fā)展需要獲得一定鼓勵，因此在維護(hù)數(shù)據(jù)安全的過程中，應(yīng)保證個人隱私和權(quán)益不會受到侵犯，不能對人工智能技術(shù)的發(fā)展造成限制性影響，全面分析目前人工智能數(shù)據(jù)安全問題和風(fēng)險問題，有效解決數(shù)據(jù)收集、使用、分享的安全隱患，提出數(shù)據(jù)的應(yīng)用和處理范圍、界定要求，明確侵權(quán)責(zé)任的認(rèn)定標(biāo)準(zhǔn)、救濟(jì)的措施，平衡數(shù)據(jù)保護(hù)和技術(shù)發(fā)展之間的關(guān)系。

（二）提升數(shù)據(jù)安全法律治理的適用性

由于目前在人工智能數(shù)據(jù)安全法律治理的過程中存在法律適用性的問題，因此在新時代的環(huán)境下應(yīng)結(jié)合人工智能技術(shù)應(yīng)用的各類場景，針對性完善相應(yīng)的法律制度和管理機制，有效保護(hù)數(shù)據(jù)安全、嚴(yán)格落實數(shù)據(jù)安全維護(hù)的職責(zé)。首先，分析人工智能技術(shù)應(yīng)用場景的特點和情況，評估分析數(shù)據(jù)安全法律治理效果，動態(tài)性跟蹤監(jiān)控數(shù)據(jù)安全的新情況和新問題，及時進(jìn)行風(fēng)險預(yù)警的發(fā)布。其次，目前國際領(lǐng)域中歐盟已經(jīng)出臺了全世界首部通用性人工智能領(lǐng)域立法提案，明確了人工智能應(yīng)用場景的風(fēng)險分級與分類規(guī)定，并且很多國家已經(jīng)開始結(jié)合人工智能技術(shù)在自動駕駛領(lǐng)域和人臉識別領(lǐng)域等特殊場景的情況制定數(shù)據(jù)安全法律規(guī)定，我國也可以積極借鑒其他國家的立法經(jīng)驗，根據(jù)人工智能技術(shù)多種應(yīng)用場景的差異性特點，逐漸完善各個技術(shù)場景的數(shù)據(jù)安全治理法律規(guī)定和文件，提升不同場景中人工智能技術(shù)應(yīng)用的數(shù)據(jù)安全水平［6］。

（三）完善數(shù)據(jù)安全法律治理機制

1.考慮到人工智能技術(shù)具有明顯的場景性特點，建議在數(shù)據(jù)安全法律治理機制中結(jié)合不同的技術(shù)場景創(chuàng)建“橫縱網(wǎng)格”治理模式，彰顯主管部門的主體作用，全面落實數(shù)據(jù)安全管理職責(zé)。在橫向?qū)用嬷校鱾€地區(qū)的政府部門應(yīng)明確做好行政區(qū)域范圍之內(nèi)人工智能數(shù)據(jù)安全治理的指導(dǎo)工作、協(xié)調(diào)工作和推進(jìn)工作。在縱向?qū)用嬷行袠I(yè)公安部門、交通部門等主管部門，應(yīng)結(jié)合法律規(guī)定創(chuàng)建專門的專家委員會組織機構(gòu)，編制完善的工作規(guī)則和計劃，對行業(yè)內(nèi)部的人工智能數(shù)據(jù)的安全應(yīng)用和安全發(fā)展提供指導(dǎo)、監(jiān)督。2.打造關(guān)于數(shù)據(jù)安全治理的技術(shù)、制度工作機制?？紤]到我國目前的人工智能數(shù)據(jù)安全風(fēng)險技術(shù)正在初期發(fā)展的階段，所使用的安全風(fēng)險防御技術(shù)無法抵御所有類型的攻擊，缺少成熟性與完善性的技術(shù)治理工具，因此應(yīng)加大技術(shù)研究開發(fā)的投入力度，積極研發(fā)現(xiàn)代化的數(shù)據(jù)安全檢測技術(shù)和評估技術(shù)，提高人工智能技術(shù)數(shù)據(jù)安全的保護(hù)效果和監(jiān)督管理效果。在此期間應(yīng)構(gòu)建完善的技術(shù)架構(gòu)，做好安全技術(shù)與安全治理方法的認(rèn)證工作和推動應(yīng)用工作，在制度和技術(shù)的驅(qū)動下增強數(shù)據(jù)的安全性，例如：著重研究開發(fā)數(shù)據(jù)安全維護(hù)和治理技術(shù)，創(chuàng)建完善的人工智能數(shù)據(jù)安全評估機制，做好科技倫理方面的研究工作，組織各個領(lǐng)域的專家與技術(shù)人員積極開發(fā)制定完善的數(shù)據(jù)安全監(jiān)測方案，研究出數(shù)據(jù)安全評估的方法和認(rèn)證的工具，積極建設(shè)技術(shù)評估平臺和算法訓(xùn)練數(shù)據(jù)集，完善數(shù)據(jù)安全管理制度和技術(shù)體系，為維護(hù)數(shù)據(jù)安全提供保障［7］。

四、結(jié)語

目前我國已經(jīng)開始出臺人工智能數(shù)據(jù)安全法律法規(guī)，但是由于人工智能數(shù)據(jù)的應(yīng)用場景非常豐富，各類應(yīng)用場景中所產(chǎn)生的數(shù)據(jù)安全風(fēng)險問題不同，導(dǎo)致數(shù)據(jù)安全法律缺乏一定的適用性，難以確保安全治理工作的有效開展，因此，在新時代的環(huán)境下應(yīng)結(jié)合人工智能數(shù)據(jù)安全法律治理的需求，明確法律細(xì)則要求，提升法律治理的適用性，完善治理工作機制體系，達(dá)到預(yù)期的安全治理目的。