人工智能對(duì)個(gè)人信息保護(hù)的挑戰(zhàn)及其應(yīng)對(duì)

【關(guān)鍵詞】人工智能 個(gè)人信息保護(hù) 數(shù)據(jù)安全 【中圖分類號(hào)】G122 【文獻(xiàn)標(biāo)識(shí)碼】A

習(xí)近平總書記指出：“沒有網(wǎng)絡(luò)安全就沒有國家安全，就沒有經(jīng)濟(jì)社會(huì)穩(wěn)定運(yùn)行，廣大人民群眾利益也難以得到保障?！比斯ぶ悄芗夹g(shù)推動(dòng)經(jīng)濟(jì)社會(huì)各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍遷的同時(shí)，也加劇了個(gè)人信息被侵害的風(fēng)險(xiǎn)。如何兼顧技術(shù)革新與個(gè)人信息安全，已經(jīng)成為人工智能時(shí)代的重要議題。

人工智能呈現(xiàn)出的新特征

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放和自主操控的新特征。深度學(xué)習(xí)是人工智能的核心方法，通過多層神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)復(fù)雜數(shù)據(jù)模式的識(shí)別。這種算法能從大量的非結(jié)構(gòu)化數(shù)據(jù)中學(xué)習(xí)模式和特征，是現(xiàn)代人工智能的基石。它拓寬了智能技術(shù)的應(yīng)用場景，實(shí)現(xiàn)自我優(yōu)化和智能化決策，顯著提升了人工智能的實(shí)用性?？缃缛诤蟿t是通過人工智能技術(shù)與物聯(lián)網(wǎng)、大數(shù)據(jù)和云計(jì)算的深度融合，助力產(chǎn)業(yè)結(jié)構(gòu)升級(jí)和智能化轉(zhuǎn)型。它不僅改善傳統(tǒng)行業(yè)的工作效率和服務(wù)質(zhì)量，還催生出新產(chǎn)業(yè)、新模式、新動(dòng)能。以智慧城市為例，人工智能技術(shù)通過實(shí)時(shí)分析交通數(shù)據(jù)，優(yōu)化交通信號(hào)控制，減少擁堵發(fā)生。智能監(jiān)控?cái)z像頭能實(shí)時(shí)識(shí)別和預(yù)警異常行為，提高公共安全管理水平。同時(shí)，人工智能還可以賦能醫(yī)療健康、金融服務(wù)、智能制造、電子商務(wù)、環(huán)境保護(hù)等多個(gè)領(lǐng)域，通過海量數(shù)據(jù)的供給分析持續(xù)優(yōu)化并改善各類應(yīng)用場景。

人工智能不僅是技術(shù)工具，還將成為發(fā)展新質(zhì)生產(chǎn)力的重要引擎。人機(jī)協(xié)同是將人類的認(rèn)知力、創(chuàng)造力與機(jī)器的智能化相結(jié)合，通過智能算法與人腦智慧的協(xié)同交互，實(shí)現(xiàn)生產(chǎn)力整體躍升。在制造業(yè)中，機(jī)器人可以幫助工人完成高重復(fù)性的裝配和檢測任務(wù)。在醫(yī)療領(lǐng)域，智能技術(shù)不僅能分析患者的基因數(shù)據(jù)、病歷和生活習(xí)慣，還可以輔助醫(yī)生提供個(gè)性化診療方案。同時(shí)，開放的人工智能生態(tài)系統(tǒng)還通過共享數(shù)據(jù)和算法穩(wěn)步推動(dòng)技術(shù)革新。以阿里巴巴達(dá)摩院和騰訊優(yōu)圖實(shí)驗(yàn)室為代表的人工智能研究機(jī)構(gòu)，積極通過開源平臺(tái)發(fā)布研究成果和數(shù)據(jù)集。群智開放不僅推動(dòng)了全球人工智能協(xié)同共治，還成為科技跨越發(fā)展的助推器。

人工智能的自主學(xué)習(xí)和決策能力能夠在復(fù)雜環(huán)境中實(shí)現(xiàn)自我調(diào)整和優(yōu)化。2023年11月，工業(yè)和信息化部等四部委聯(lián)合發(fā)布了《關(guān)于開展智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點(diǎn)工作的通知》，要求智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)和使用主體加強(qiáng)能力建設(shè)，促進(jìn)產(chǎn)品功能、性能提升和產(chǎn)業(yè)生態(tài)的迭代優(yōu)化。2024年7月，無人駕駛計(jì)程車“蘿卜快跑”在武漢和廣州相繼運(yùn)營。這種自主駕駛技術(shù)通過傳感器和深度學(xué)習(xí)算法，在實(shí)時(shí)變化的交通環(huán)境中確?！叭?、車、路、云”多要素的融合交互。

總體上看，這些新特征都是以大數(shù)據(jù)為基礎(chǔ)，依托海量個(gè)人信息、圖像數(shù)據(jù)、文本數(shù)據(jù)和傳感器數(shù)據(jù)的持續(xù)供給，賦能經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展。隨著應(yīng)用場景的進(jìn)一步拓展，個(gè)人信息保護(hù)的重要性也愈發(fā)凸顯。如何增強(qiáng)數(shù)字技術(shù)的透明度和可解釋性，確保智能系統(tǒng)可信可控，確保個(gè)人信息在人工智能時(shí)代的合法、正當(dāng)和必要使用，顯得尤為重要。

人工智能給個(gè)人信息保護(hù)帶來新挑戰(zhàn)

人工智能是一把“雙刃劍”，它在引領(lǐng)產(chǎn)業(yè)變革，發(fā)揮“頭雁”效應(yīng)的同時(shí)，也不10hJYbVreyXv/tX44oyNfQ==可避免地帶來科技倫理風(fēng)險(xiǎn)。2021年，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布的《人工智能倫理安全風(fēng)險(xiǎn)防范指引》明確指出，人工智能技術(shù)會(huì)對(duì)個(gè)人的人身權(quán)、隱私權(quán)引發(fā)侵權(quán)風(fēng)險(xiǎn)。這是因?yàn)槿斯ぶ悄芗夹g(shù)不僅加劇個(gè)人信息暴露的風(fēng)險(xiǎn)，還拓展了個(gè)人信息的傳播途徑和生命周期。

一方面，新技術(shù)極大地增強(qiáng)了數(shù)據(jù)分析和挖掘能力，威脅著個(gè)人信息安全。機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和自然語言處理等人工智能技術(shù)突破了非自動(dòng)化數(shù)據(jù)處理系統(tǒng)的碎片化局限，能在海量零散數(shù)據(jù)中精準(zhǔn)描繪用戶畫像，甚至挖掘出數(shù)據(jù)主體自己都未曾意識(shí)到的行為偏好和潛在需求?；谶@些技術(shù)，廣告服務(wù)商可以分析用戶的瀏覽記錄和購買歷史，預(yù)測消費(fèi)偏好，精準(zhǔn)投放廣告。搜索引擎和社交平臺(tái)通過用戶的搜索記錄、點(diǎn)贊和分享行為，推斷用戶偏好和生活習(xí)慣，并提供個(gè)性化服務(wù)。在這個(gè)迭代反饋的循環(huán)中，人工智能技術(shù)會(huì)根據(jù)用戶的行為信息自主優(yōu)化算法，進(jìn)而持續(xù)預(yù)測、挖掘更多的個(gè)人信息。更嚴(yán)峻的是，由于透明度和可解釋性亟待提升，以深度學(xué)習(xí)為代表的部分智能算法形成了“黑箱模型”，普通用戶甚至是開發(fā)者都難以理解并預(yù)見其工作原理和決策過程。這些新技術(shù)破壞了數(shù)據(jù)主體對(duì)個(gè)人信息的控制，增加數(shù)據(jù)濫用和隱私泄露的擔(dān)憂。

另一方面，人工智能技術(shù)顯著增強(qiáng)信息的共享能力，拓展了個(gè)人信息的傳播半徑和生命周期。用戶在社交平臺(tái)上的每一次互動(dòng)分享都會(huì)被系統(tǒng)自動(dòng)識(shí)別分類；智能手機(jī)、智能家居設(shè)備、可穿戴設(shè)備時(shí)刻處理著用戶數(shù)據(jù)，個(gè)人的身份信息、健康信息、行程軌跡、行為偏好整合在一起，用戶畫像一覽無余。依托群智開放特征，這些智能終端之間互通互聯(lián)，個(gè)人信息在不同平臺(tái)和設(shè)備之間得以共享。再經(jīng)過人工智能算法的處理、訓(xùn)練、生成，最終成為網(wǎng)絡(luò)社會(huì)個(gè)人難以磨滅的“數(shù)字標(biāo)簽”。這其中不僅記錄著數(shù)據(jù)主體的行為偏好，還可能囊括個(gè)人信用、健康、生物識(shí)別、宗教信仰、政治觀點(diǎn)等敏感數(shù)據(jù)。一旦被泄露或?yàn)E用，不僅會(huì)對(duì)個(gè)人隱私造成嚴(yán)重侵害，還會(huì)引發(fā)身份盜竊、財(cái)務(wù)欺詐、網(wǎng)絡(luò)騷擾等問題，直接威脅數(shù)據(jù)主體的人格利益和生活安全。如果“數(shù)字標(biāo)簽”包含了個(gè)人的不良記錄，這種關(guān)聯(lián)性還會(huì)被在線存儲(chǔ)，導(dǎo)致數(shù)據(jù)主體的人格利益長期遭受貶損，甚至引發(fā)歧視性風(fēng)險(xiǎn)。《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，截至2023年12月，我國網(wǎng)民規(guī)模高達(dá)10.92億人，互聯(lián)網(wǎng)普及率77.5%。如此龐大的主體數(shù)量無疑凸顯出網(wǎng)絡(luò)社會(huì)保障個(gè)人人格利益的重要性和緊迫性。因此，我們?cè)谙硎苤悄芑?wù)的同時(shí)，必須高度重視數(shù)據(jù)保護(hù)和隱私安全問題。

人工智能時(shí)代個(gè)人信息保護(hù)的路徑研究

一是完善國家數(shù)據(jù)法治建設(shè)。為應(yīng)對(duì)新興數(shù)字技術(shù)引發(fā)的時(shí)代浪潮，我國秉持積極的立法態(tài)度，致力于建立健全數(shù)據(jù)保護(hù)法律體系。2016年11月，第十二屆全國人大常委會(huì)審議通過《中華人民共和國網(wǎng)絡(luò)安全法》，這是我國第一部網(wǎng)絡(luò)安全領(lǐng)域的專門立法，建構(gòu)了個(gè)人信息保護(hù)的主要原則和基本規(guī)則。2017年，《中華人民共和國民法總則》第111條新增“個(gè)人信息受法律保護(hù)”的規(guī)定，明確了個(gè)人信息權(quán)的法律屬性問題。2019年，全國人大常委會(huì)將《中華人民共和國個(gè)人信息保護(hù)法》納入立法規(guī)劃，開啟統(tǒng)一數(shù)據(jù)立法模式的新征程。2021年1月1日《中華人民共和國民法典》施行，人格權(quán)編專章規(guī)定個(gè)人信息保護(hù)的一般規(guī)則，要求個(gè)人信息處理遵循合法、正當(dāng)、必要的原則，并規(guī)定自然人享有查閱復(fù)制、異議更正、刪除的數(shù)據(jù)權(quán)利。2021年11月1日，《中華人民共和國個(gè)人信息保護(hù)法》生效，作為網(wǎng)絡(luò)時(shí)代的標(biāo)志性立法成果，它既注重保障個(gè)人信息權(quán)益，規(guī)范個(gè)人信息處理活動(dòng)，也充分體現(xiàn)數(shù)據(jù)發(fā)展理念，集中展示了數(shù)據(jù)法治的中國方案。同年，《中華人民共和國數(shù)據(jù)安全法》實(shí)施，該法從國家安全高度出發(fā)，對(duì)數(shù)據(jù)安全管理提出系統(tǒng)要求，明確了各類數(shù)據(jù)處理活動(dòng)的安全管理責(zé)任，為我國數(shù)據(jù)安全法律體系的建立和完善搭建基礎(chǔ)框架。2023年，國家網(wǎng)信辦等七部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，這是全球首個(gè)全面監(jiān)管生成式人工智能的規(guī)范文件，以“知情同意”為核心強(qiáng)化了個(gè)人信息的安全保障。2024年5月，國務(wù)院印發(fā)《國務(wù)院2024年度立法工作計(jì)劃》，再次將《人工智能法草案》列入預(yù)備審議項(xiàng)目。這些立法工作不僅體現(xiàn)了我國對(duì)個(gè)人信息保護(hù)問題的高度重視，也為數(shù)據(jù)經(jīng)濟(jì)發(fā)展提供規(guī)范和指引，為應(yīng)對(duì)人工智能時(shí)代的新挑戰(zhàn)提供強(qiáng)有力的法律保障。

二是強(qiáng)化個(gè)人數(shù)據(jù)控制。人工智能技術(shù)的普及加劇了個(gè)人信息被侵害的風(fēng)險(xiǎn)，提升個(gè)人對(duì)信息的控制已經(jīng)成為數(shù)據(jù)治理的重要途徑?！爸橥狻笔菙?shù)據(jù)控制的核心理念，要求個(gè)人信息處理必須獲得數(shù)據(jù)主體同意授權(quán)或符合法律規(guī)定。當(dāng)前，傳統(tǒng)的“一次性同意”模式已經(jīng)不能滿足人工智能的發(fā)展趨勢，應(yīng)當(dāng)向持續(xù)的信息披露和動(dòng)態(tài)同意機(jī)制轉(zhuǎn)變。為此，《個(gè)人信息保護(hù)法》更新了“知情同意”規(guī)則，數(shù)據(jù)主體可以撤回同意授權(quán)，并要求個(gè)人信息處理者刪除已公開的個(gè)人信息。強(qiáng)化數(shù)據(jù)控制的另一個(gè)途徑是增強(qiáng)個(gè)人信息權(quán)利?！秱€(gè)人信息保護(hù)法》第四章規(guī)定個(gè)人針對(duì)信息處理活動(dòng)享有知情權(quán)、決定權(quán)等基礎(chǔ)性權(quán)能，以及查閱權(quán)、復(fù)制權(quán)、可攜帶權(quán)、補(bǔ)充權(quán)、更正權(quán)、刪除權(quán)和解釋說明權(quán)等工具性權(quán)能。在這個(gè)方面，歐盟數(shù)據(jù)改革還提出建構(gòu)網(wǎng)絡(luò)社會(huì)被遺忘權(quán)的設(shè)想，這項(xiàng)權(quán)利與《個(gè)人信息保護(hù)法》第47條規(guī)定的刪除權(quán)頗為相似，都承載著強(qiáng)化個(gè)人信息控制的權(quán)能。

三是提升公眾數(shù)據(jù)安全意識(shí)。增強(qiáng)公眾數(shù)據(jù)安全意識(shí)是個(gè)人信息保護(hù)的關(guān)鍵一環(huán)，公眾對(duì)數(shù)據(jù)安全和隱私保護(hù)的認(rèn)知和素養(yǎng)直接影響著個(gè)人信息保護(hù)的整體水平。數(shù)據(jù)安全人人有責(zé)，需要全民共同參與。

首先，政府應(yīng)當(dāng)加強(qiáng)數(shù)據(jù)安全教育?！稊?shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》的實(shí)施有效提升了全社會(huì)的網(wǎng)絡(luò)法治意識(shí)和素養(yǎng)。然而，數(shù)據(jù)安全問題正以更加隱蔽和復(fù)雜的方式影響著大眾生活，極易被忽視。在人工智能時(shí)代，需引導(dǎo)公眾樹立牢固的總體國家安全觀，增強(qiáng)數(shù)據(jù)安全意識(shí)，構(gòu)筑數(shù)據(jù)安全防線。為此，政府可以通過多種形式加強(qiáng)數(shù)據(jù)安全教育。例如，在義務(wù)教育階段設(shè)置數(shù)據(jù)安全課程，從小樹立數(shù)據(jù)安全意識(shí)；在農(nóng)村地區(qū)和基層社區(qū)開展義務(wù)講座或宣傳活動(dòng)，幫助居民掌握基本網(wǎng)絡(luò)安全防護(hù)技能；利用媒體宣傳數(shù)據(jù)安全知識(shí)，樹立安全典型，推廣優(yōu)秀案例。多措并舉，全面提升公眾的數(shù)據(jù)安hGEBBbSPy8OkbSM2eDJqfw==全意識(shí)。

其次，企業(yè)應(yīng)當(dāng)落實(shí)數(shù)據(jù)安全管理責(zé)任。企4cEY/Mpn3u1Ozr0ASgpa9w==業(yè)應(yīng)明確數(shù)據(jù)安全責(zé)任人，建立健全管理體系和工作機(jī)制，制定數(shù)據(jù)泄露應(yīng)急預(yù)案，定期進(jìn)行數(shù)據(jù)安全審查和風(fēng)險(xiǎn)評(píng)估。企業(yè)需將數(shù)據(jù)安全管理要求融入發(fā)展戰(zhàn)略和考核機(jī)制，同步推進(jìn)業(yè)務(wù)發(fā)展和數(shù)據(jù)安全工作。將數(shù)據(jù)安全視為核心任務(wù)，確保規(guī)范化、制度化，真正落實(shí)到日常運(yùn)營和管理之中。

最后，提升數(shù)據(jù)安全意識(shí)還需要全社會(huì)共同努力。不同群體對(duì)隱私和信息安全的關(guān)注度和承受能力各異，弱勢群體往往更容易受到信息泄露和濫用的侵害。要倡導(dǎo)全民參與數(shù)據(jù)安全保護(hù)，鼓勵(lì)公眾積極舉報(bào)數(shù)據(jù)泄露和濫用行為，形成全社會(huì)共同維護(hù)數(shù)據(jù)安全的良好氛圍。發(fā)揮人民群眾的群防群治功能，打造人人參與的數(shù)據(jù)安全防線，進(jìn)而構(gòu)建安全、可信賴的數(shù)字社會(huì)。

通過加強(qiáng)數(shù)據(jù)法治建設(shè)，提高公眾信息保護(hù)意識(shí)，采取行之有效的技術(shù)保障措施，可以更好地平衡信息自由和隱私保護(hù)的關(guān)系。確保個(gè)人信息安全不僅是法律和倫理的要求，更是技術(shù)發(fā)展的基石。只有在個(gè)人信息得到有效保護(hù)的前提下，人工智能才能在各個(gè)領(lǐng)域穩(wěn)步推進(jìn)，真正為社會(huì)進(jìn)步和人類福祉作出貢獻(xiàn)。

（作者為天津大學(xué)法學(xué)院講師）

【注：本文系國家社科基金青年項(xiàng)目“網(wǎng)絡(luò)社會(huì)被遺忘權(quán)建構(gòu)研究”（項(xiàng)目編號(hào)：19CFX007）階段性成果】

【參考文獻(xiàn)】

①王利明：《數(shù)據(jù)保護(hù)的價(jià)值演變——從意思自治到人格尊嚴(yán)的發(fā)展》，《北京日?qǐng)?bào)》，2024年3月4日。

②程嘯：《論個(gè)人信息權(quán)益》，《華東政法大學(xué)學(xué)報(bào)》，2023年第1期。

責(zé)編/孫垚 美編/陳媛媛