信息泄露、算法歧視、數(shù)字資產(chǎn)風(fēng)險(xiǎn)……數(shù)字信任如何建立？

陳冰

“給你看條我前兩天剛收到的彩信，用我的身份證照片合成了一張勒索照片，讓我趕緊跟他聯(lián)系，不然后果自負(fù)！”上海市數(shù)字證書認(rèn)證中心有限公司總經(jīng)理崔久強(qiáng)回憶遭遇時(shí)不禁感慨，所謂眼見為實(shí)、耳聽為虛，而今已經(jīng)做不到了。“人臉識(shí)別是人工智能技術(shù)應(yīng)用最先取得商業(yè)化成功的領(lǐng)域，但AI如果開始做壞事，比如各種偽造攻擊等，后果很嚴(yán)重?！?/p>

作為數(shù)字安全專家，也免不了被詐騙分子盯上，這樣的“黑色故事”幾乎每天都在我們身邊上演。除了電信詐騙，平臺(tái)壟斷、算法歧視、假冒偽劣商品、刷單炒信……我們每個(gè)人每天都在通過數(shù)字身份與網(wǎng)絡(luò)設(shè)備連接，在數(shù)字空間中主動(dòng)或被動(dòng)留下通信、社交、交易、搜索、娛樂、身份驗(yàn)證等各種活動(dòng)伴生的大量數(shù)據(jù)，由此不可避免地帶來了關(guān)于數(shù)據(jù)、隱私、安全等風(fēng)險(xiǎn)問題。

9月1日，正值我國(guó)《數(shù)據(jù)安全法》施行兩周年之際，2023“浦江護(hù)航”數(shù)據(jù)安全上海論壇在上海舉辦，來自數(shù)字信任和網(wǎng)絡(luò)安全領(lǐng)域的重量級(jí)專家學(xué)者、行業(yè)精英現(xiàn)場(chǎng)論道，圍繞AIGC（生成式人工智能）大模型時(shí)代的數(shù)據(jù)安全、零信任下企業(yè)安全邊界的構(gòu)建，上海數(shù)字信任的創(chuàng)新實(shí)踐以及數(shù)據(jù)資產(chǎn)的治理、后量子時(shí)代的密碼技術(shù)進(jìn)行深度探討。

這些前沿而重大的議題不僅僅關(guān)乎技術(shù)層面的挑戰(zhàn)，更關(guān)乎在宏觀層面構(gòu)建和諧、透明、安全的數(shù)字社會(huì)。只有通過政府、企業(yè)、研究機(jī)構(gòu)和社會(huì)組織等各方共同努力，才能建立更高效、可靠、透明的數(shù)字信任體系。

為什么數(shù)字信任很重要？

無論是小農(nóng)經(jīng)濟(jì)還是市場(chǎng)經(jīng)濟(jì)，“信任”都是人類文明進(jìn)步和經(jīng)濟(jì)發(fā)展的基礎(chǔ)，在社會(huì)財(cái)富創(chuàng)造和經(jīng)濟(jì)穩(wěn)健增長(zhǎng)中發(fā)揮著重要作用。隨著經(jīng)濟(jì)生產(chǎn)、社會(huì)治理、城市生活等各領(lǐng)域的數(shù)字化轉(zhuǎn)型全面啟動(dòng)，萬物智聯(lián)世界加速形成，“信任”也在人際關(guān)系、制度契約的基礎(chǔ)上，被注入新的數(shù)字文明內(nèi)涵。

然而，隨著數(shù)據(jù)開放流動(dòng)，網(wǎng)絡(luò)邊界日趨模糊，云計(jì)算、AI等新技術(shù)給數(shù)據(jù)安全帶來嚴(yán)峻挑戰(zhàn)。數(shù)據(jù)泄露、網(wǎng)絡(luò)安全事故、數(shù)據(jù)篡改、大數(shù)據(jù)殺熟、惡意軟件、個(gè)人信息倒賣等亂象頻發(fā)，對(duì)人類社會(huì)的外溢影響不斷加深，嚴(yán)重削弱社會(huì)主體的安全感，進(jìn)而抑制科技創(chuàng)新與數(shù)字化轉(zhuǎn)型的步伐。因此，構(gòu)建新型數(shù)字信任關(guān)系，夯實(shí)數(shù)字社會(huì)和數(shù)字經(jīng)濟(jì)發(fā)展基本面成為擺在各國(guó)面前的一項(xiàng)迫切任務(wù)。正如諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者保羅·羅默在《全球數(shù)字經(jīng)濟(jì)發(fā)展洞察》中所言，“在數(shù)字平臺(tái)的發(fā)展中，信任和規(guī)則的建立同樣重要”。

《中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展研究報(bào)告（2023年）》顯示，2022年我國(guó)數(shù)字經(jīng)濟(jì)規(guī)模達(dá)到50.2萬億元，同比增長(zhǎng)10.3%，GDP占比提升到41.5%。數(shù)字經(jīng)濟(jì)快速發(fā)展下，數(shù)字化發(fā)展成為國(guó)家戰(zhàn)略，推動(dòng)數(shù)實(shí)深度融合，加速企業(yè)與組織的數(shù)字化轉(zhuǎn)型，被視為是我國(guó)新一輪產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級(jí)和經(jīng)濟(jì)高質(zhì)量發(fā)展的必由之路。

其中，數(shù)字信任體系的構(gòu)建又是數(shù)字化轉(zhuǎn)型的一塊重要基石。業(yè)內(nèi)專家表示，10%的信任提升帶來 36%的經(jīng)濟(jì)效益提升。

出席2023“浦江護(hù)航”數(shù)據(jù)安全上海論壇的崔久強(qiáng)在接受記者專訪時(shí)指出，數(shù)字信任是一個(gè)很新的概念，在2020年被他們首次提出。它以可信數(shù)字身份、可信數(shù)據(jù)流通為兩大核心，通過制度、管理、技術(shù)等一系列組合手段減少一切映射到數(shù)字空間的網(wǎng)絡(luò)實(shí)體進(jìn)行數(shù)據(jù)交互的安全風(fēng)險(xiǎn)，并形成數(shù)字社會(huì)安全交互、高效運(yùn)行的機(jī)制。

“從數(shù)字治理的角度講，它聚焦網(wǎng)絡(luò)安全底座，能夠防止城市數(shù)據(jù)泄露，還能夠?qū)⒊鞘卸嘣磾?shù)據(jù)打通，實(shí)現(xiàn)城市公共數(shù)據(jù)的共享開放；從數(shù)字經(jīng)濟(jì)的角度講，它能夠降低數(shù)字經(jīng)濟(jì)交易成本，支撐數(shù)據(jù)市場(chǎng)要素建設(shè)，減少黑色產(chǎn)業(yè)與不正當(dāng)競(jìng)爭(zhēng)，推動(dòng)數(shù)字市場(chǎng)經(jīng)濟(jì)發(fā)展；從數(shù)字生活的角度看，它能夠確保數(shù)字應(yīng)用來源可靠，支撐多樣場(chǎng)景全程線上化，防止個(gè)人隱私泄露，賦能城市生活透明化?！?p>

以電信和互聯(lián)網(wǎng)企業(yè)為例，他們承載著大量用戶個(gè)人信息和業(yè)務(wù)數(shù)據(jù)，占全國(guó)行業(yè)機(jī)構(gòu)產(chǎn)生數(shù)據(jù)的總量超過四分之一，具有極高價(jià)值，但也成為網(wǎng)絡(luò)攻擊的主要目標(biāo)，勒索病毒、數(shù)據(jù)泄露等安全事件時(shí)有發(fā)生，總體形勢(shì)依然嚴(yán)峻。其中，上海承擔(dān)著護(hù)衛(wèi)數(shù)據(jù)安全的重要角色。上海市政府辦公廳副主任張宇祥在論壇上透露，上海建設(shè)了上海數(shù)據(jù)交易所，組建上海數(shù)據(jù)集團(tuán)，積極發(fā)展數(shù)據(jù)要素市場(chǎng)。截至去年底，上海數(shù)字經(jīng)濟(jì)核心企業(yè)已突破1200家，核心產(chǎn)業(yè)規(guī)模近3400億元。與此同時(shí)，上海還出臺(tái)了《上海數(shù)據(jù)條例》完善數(shù)據(jù)治理體系，加強(qiáng)安全技術(shù)運(yùn)用，實(shí)現(xiàn)互聯(lián)網(wǎng)安全攻擊態(tài)勢(shì)的智能分析、全天候安全監(jiān)控。

建立數(shù)字信任有多難？

相信很多人都有這樣的體會(huì)，剛剛和家人說了談?wù)摿四臣轮?，再次登錄某些平臺(tái)的時(shí)候就會(huì)收到相同主題的商品或服務(wù)推薦。雖然科技巨頭們對(duì)于監(jiān)聽一事早就多次予以否認(rèn)，但并沒有打消人們的疑慮。與此同時(shí)，許多民眾對(duì)人工智能算法下的定向廣告推送持負(fù)面看法。最經(jīng)典的一個(gè)案例是，十年前一位網(wǎng)友因好奇心作祟在某購(gòu)物軟件上搜索“棺材”，沒想到被“骨灰盒”的廣告騷擾了一個(gè)月?，F(xiàn)在的精準(zhǔn)推送，比十年前有過之而無不及。

自2016年“劍橋分析公司”丑聞曝光以來，公眾對(duì)社交媒體平臺(tái)的質(zhì)疑和擔(dān)憂與日俱增。但是，在另一方面，絕大部分的人如今又都無法避免使用社交媒體，日常溝通聯(lián)絡(luò)、工作學(xué)習(xí)、購(gòu)物娛樂和資訊傳播等幾乎都與這些平臺(tái)相關(guān)?！凹炔幌嘈牛譄o法擺脫”的困境正日益侵蝕著數(shù)字時(shí)代的廣泛信任基礎(chǔ)，進(jìn)而衍生出更多社會(huì)問題。

數(shù)字時(shí)代，新興技術(shù)的應(yīng)用導(dǎo)致“個(gè)人數(shù)據(jù)”的邊界日益模糊。大量涉及個(gè)人信息的數(shù)據(jù)正不斷被抽取、拆分、匯合成支撐社會(huì)持續(xù)運(yùn)轉(zhuǎn)的龐大信息流，導(dǎo)致按照傳統(tǒng)原則劃分個(gè)人數(shù)據(jù)權(quán)利邊界的難度明顯增加。“一個(gè)最簡(jiǎn)單的例子，現(xiàn)在大家都覺得刷臉進(jìn)小區(qū)非常方便，可是這些涉及你絕對(duì)隱私的信息就保存在小區(qū)物業(yè)的機(jī)器上，就是一般的人都可以輕易盜取，別說高級(jí)黑客了。這些信息到底該怎么保存怎么使用，大家還缺少共識(shí)?！贝蘧脧?qiáng)說。

去年11月以來，以ChatGPT為代表的生成式人工智能等新技術(shù)、新業(yè)務(wù)的發(fā)布，引發(fā)行業(yè)變革，但也為數(shù)據(jù)安全保護(hù)和監(jiān)管帶來新挑戰(zhàn)。崔久強(qiáng)指出，除了用AIGC（生成式人工智能）偽造圖像之外，大模型中隱含著許多敏感數(shù)據(jù)。不久前韓國(guó)三星一技術(shù)人員因?qū)懘a受困，求助于ChatGPT，將企業(yè)生產(chǎn)的核心代碼也上傳了，使個(gè)人、企業(yè)及國(guó)家敏感數(shù)據(jù)不斷處于風(fēng)險(xiǎn)之下。因此，如何做好數(shù)據(jù)的防泄密以及統(tǒng)一的數(shù)據(jù)管控，非常關(guān)鍵。

我們都知道區(qū)塊鏈技術(shù)是一種分布式、去中心化的信任機(jī)制建立，借助于區(qū)塊鏈技術(shù)可以實(shí)現(xiàn)數(shù)據(jù)和信息的不可篡改和可追溯性，從而確保數(shù)字信息的真實(shí)性和可靠性，為數(shù)字信任的技術(shù)實(shí)現(xiàn)提供了可行性的路徑。這一特性使得區(qū)塊鏈技術(shù)在數(shù)字信任領(lǐng)域具有廣泛的應(yīng)用前景，包括身份認(rèn)證、數(shù)據(jù)管理、供應(yīng)鏈管理和金融交易等領(lǐng)域。

“利用區(qū)塊鏈的特性，有人做奢侈品、鉆石珠寶的溯源。本來這是一個(gè)讓買家覺得更加安全可信的交易方式，但是如果上鏈的數(shù)據(jù)就是假的，這不是更助長(zhǎng)了奢侈品的造假嗎？”崔久強(qiáng)指出，這就對(duì)監(jiān)管提出了更高的要求。更別說如果是被假數(shù)據(jù)訓(xùn)練出來的大模型，那得出的結(jié)論得錯(cuò)得多離譜？

中國(guó)科學(xué)技術(shù)大學(xué)教授左曉棟分享了一個(gè)關(guān)于數(shù)據(jù)泄密的案例，更加凸顯了數(shù)據(jù)問題的復(fù)雜性。在去年國(guó)家安全日之前，《焦點(diǎn)訪談》節(jié)目披露了一個(gè)案件，境外機(jī)構(gòu)和境內(nèi)機(jī)構(gòu)相勾結(jié)，由境內(nèi)機(jī)構(gòu)在高鐵沿線放置信號(hào)采集設(shè)備，竊取高鐵運(yùn)行數(shù)據(jù)，后來案子破獲。此案被譽(yù)為《數(shù)據(jù)安全法》實(shí)施以來，首例涉案數(shù)據(jù)被鑒定為情報(bào)的事例，同時(shí)涉案人員被定罪為為境外提供非法情報(bào)罪。

當(dāng)時(shí)有人疑問，高鐵運(yùn)行信號(hào)為什么要被稱為情報(bào)，原因是什么？或者說背后的邏輯是什么？實(shí)際上這也是無奈之舉。我們翻遍刑法，沒有適用于這個(gè)案例的罪名?！缎谭ā酚嘘P(guān)于竊取國(guó)家相關(guān)秘密的罪名，但是高鐵數(shù)據(jù)不是國(guó)家秘密，《刑法》后來為了保護(hù)個(gè)人信息有侵害公民信息罪，但是高鐵數(shù)據(jù)顯然也不是個(gè)人信息，怎么辦？但是它危害國(guó)家安全了，最近的罪名就是“情報(bào)”?！斑@說明在我們現(xiàn)有的制度設(shè)計(jì)，包括法律法規(guī)中我們對(duì)于數(shù)據(jù)安全保護(hù)的重點(diǎn)還不夠。再確切一點(diǎn)說，我們以前認(rèn)為這個(gè)數(shù)據(jù)影響了國(guó)家安全，毫無疑問那就是國(guó)家秘密。問題是，非國(guó)家秘密中是不是有影響國(guó)家安全的數(shù)據(jù)？是不是應(yīng)當(dāng)加以保護(hù)？這個(gè)問題自然就產(chǎn)生了?！?/p>

事實(shí)上，在當(dāng)前千行百業(yè)的數(shù)字化轉(zhuǎn)型中，無論是數(shù)據(jù)的復(fù)雜度，還是信任主體的類型與數(shù)量，抑或是各種新老場(chǎng)景對(duì)于數(shù)字信任的需求，均遠(yuǎn)勝過往。這意味著過去的數(shù)字信任建設(shè)模式、單獨(dú)一個(gè)產(chǎn)品或者一個(gè)基礎(chǔ)設(shè)施，很難匹配上數(shù)字化轉(zhuǎn)型的長(zhǎng)期需求。

如何建立數(shù)字信任？

無論是政府企業(yè)，還是普通市民，都需要一個(gè)信任的數(shù)字空間，如果沒有數(shù)字信任，我們必然會(huì)面臨著各種挑戰(zhàn)和風(fēng)險(xiǎn)。

“以上海市數(shù)字證書認(rèn)證中心有限公司為例，我們是中國(guó)第一家專業(yè)的電子認(rèn)證服務(wù)機(jī)構(gòu)，給全市乃至全國(guó)的幾百萬企業(yè)，大概上億人口提供基于數(shù)字身份的信任服務(wù)。我們?nèi)绾谓⒁粋€(gè)可靠的數(shù)字身份體系？通過AI、區(qū)塊鏈、5G、隱私計(jì)算等技術(shù)的銜接來形成新的數(shù)字信任底座?！?/p>

崔久強(qiáng)說，大家一直苦惱自己的購(gòu)物信息、興趣愛好、社交特性似乎都被大數(shù)據(jù)拿捏得死死的，如果有一種方式既不泄露個(gè)人的敏感信息，但是又能提供你想要的結(jié)果，這就是現(xiàn)在非常前沿的隱私計(jì)算技術(shù)。實(shí)際上，經(jīng)過處理的數(shù)據(jù)，可以只顯示某些特征，卻不暴露個(gè)人的重要隱私，從而讓數(shù)據(jù)能夠流動(dòng)起來，實(shí)現(xiàn)開放共享。

“比如，孩子留學(xué)，需要提供各種房產(chǎn)證明、存款證明給留學(xué)中介，如果提供了自己在黃浦江畔有一套500平方米的房子的證明，但是不提及具體的住房地址，是不是就能有效保護(hù)自己的隱私？同樣，針對(duì)刷臉進(jìn)出小區(qū)的新需求，其實(shí)可以在前端采集的時(shí)候通過個(gè)體特征去比對(duì)，眼距、顴骨高度、人中長(zhǎng)短之類的，這樣就不用存儲(chǔ)個(gè)人的照片信息在物業(yè)了。再比如，我們?nèi)タ床‘a(chǎn)生了大量的診療數(shù)據(jù)，醫(yī)藥廠商或者醫(yī)生拿到這些數(shù)據(jù)，可以研究更好的治療方法，研發(fā)更有針對(duì)性的藥物，如果沒有隱私計(jì)算，就會(huì)泄露病人的很多隱私，但是現(xiàn)在我們搭建了一個(gè)新型的信任計(jì)算平臺(tái)，既可以保證信息是真實(shí)的，可以放心使用，但是又可以防止敏感信息被泄露?！?/p>

崔久強(qiáng)介紹，在推出個(gè)人、法人和公務(wù)人員身份認(rèn)證的服務(wù)之后，眼下他們正在上海推廣居委會(huì)的投票系統(tǒng)。之前，投票都需要居委會(huì)或者物業(yè)人員上門搜集投票結(jié)果，現(xiàn)在通過小程序投票，結(jié)合隱私保護(hù)和密碼技術(shù)，既能夠保證一家只有一名業(yè)主投票的身份真實(shí)性，又能夠保證投票的匿名性，“讓投票變得輕松又高效”。

2022年12月19日，中共中央、國(guó)務(wù)院發(fā)布《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》，針對(duì)數(shù)據(jù)基礎(chǔ)制度建設(shè)，《意見》從數(shù)據(jù)產(chǎn)權(quán)、流通交易、收益分配、安全治理等方面，提出二十條政策舉措意見。今年兩會(huì)期間，全國(guó)政協(xié)委員、致公黨上海市委會(huì)專職副主委邵志清提交了《加快建設(shè)國(guó)家數(shù)字信任平臺(tái)》的提案，他在提案中指出，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》和《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》《數(shù)據(jù)出境安全評(píng)估辦法》等初步建立了數(shù)據(jù)要素流通的法律保障體系。在大數(shù)據(jù)、可信計(jì)算、區(qū)塊鏈等技術(shù)加持下，數(shù)字信任能力顯著提升。但對(duì)于區(qū)塊鏈技術(shù)、AI應(yīng)用倫理和算法的安全性等，缺乏全國(guó)性規(guī)則和一致性監(jiān)管方案，尚未建立數(shù)據(jù)要素可信流通體系。

為此，他建議統(tǒng)籌規(guī)劃數(shù)字信任制度體系和技術(shù)體系，建立數(shù)據(jù)安全、權(quán)利保護(hù)、跨境傳輸管理、交易流通、開放、共享、安全認(rèn)證等基礎(chǔ)制度和標(biāo)準(zhǔn)規(guī)范，建立統(tǒng)一、規(guī)范的數(shù)字身份和數(shù)據(jù)安全合規(guī)監(jiān)管體系。自主突破區(qū)塊鏈、AI、隱私計(jì)算、量子密碼等技術(shù)關(guān)鍵點(diǎn)，加強(qiáng)對(duì)區(qū)塊鏈、AI等技術(shù)的安全合規(guī)體系建設(shè)，建立自主可控、安全可靠的數(shù)字信任創(chuàng)新技術(shù)體系。

（摘自《新民周刊》2023年第34期。作者為該刊記者）