為人工智能發(fā)展系好“安全帶”

王伊

在人工智能發(fā)展過程中，要堅(jiān)持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護(hù)墻，應(yīng)對(duì)人工智能帶來的安全風(fēng)險(xiǎn)亟須未雨綢繆，從而真正擁抱人工智能發(fā)展帶來的機(jī)遇。

馬駒橋，北京重要的物流基地；天津港，京津冀的海上門戶。每天，不計(jì)其數(shù)的貨物在二者之間往來，繁忙的G2京滬高速（原京津塘高速）上車流如梭。

最近，這條高速公路上出現(xiàn)了特殊的貨車。這些貨車看上去與普通的貨運(yùn)重卡車并無太多差別，但車內(nèi)方向盤在沒有人工操作的情況下就能動(dòng)起來。

貨運(yùn)往往需要跨越大江南北，司機(jī)更容易疲勞駕駛，危險(xiǎn)系數(shù)更高。自動(dòng)駕駛恰恰可以解決這一問題。于是，此前還是多應(yīng)用于封閉園區(qū)內(nèi)的無人駕駛重卡在協(xié)同發(fā)展背景下，進(jìn)入了北京和天津攜手開啟的全國首個(gè)跨省市高速公路自動(dòng)駕駛貨運(yùn)測試項(xiàng)目。伴隨著這一項(xiàng)目的逐漸推進(jìn)，高速公路自動(dòng)駕駛貨運(yùn)的場景逐漸清晰。

過去幾年，自動(dòng)駕駛汽車逐漸駛上街頭，但大多都跑在城市道路上，應(yīng)用場景主要是無人駕駛出租車、無人配送車、無人駕駛小巴、無人清掃車等。而高速公路的試點(diǎn)開放，也讓自動(dòng)駕駛貨運(yùn)成為可能。

從輔助科研到藝術(shù)創(chuàng)作，從金融分析到自動(dòng)駕駛，飛快進(jìn)步的人工智能（AI）有效提升工作生活的效率和質(zhì)量，助推多個(gè)行業(yè)形成新質(zhì)生產(chǎn)力。

同時(shí)，隨著演進(jìn)速度加快、賦能范圍變廣和影響程度加深，人工智能的負(fù)面影響和潛在風(fēng)險(xiǎn)也警示要推動(dòng)這種前沿技術(shù)安全有序發(fā)展。如何應(yīng)對(duì)人工智能可能帶來的安全問題成為各界關(guān)注點(diǎn)，也成為網(wǎng)絡(luò)安全工作的下一個(gè)著力點(diǎn)。

人工智能產(chǎn)業(yè)蓬勃發(fā)展

近年來，我國積極順應(yīng)新一代人工智能的發(fā)展潮流，政策及時(shí)精準(zhǔn)發(fā)力，研發(fā)能力大幅提升，產(chǎn)業(yè)生態(tài)蓬勃發(fā)展，技術(shù)賦能效應(yīng)凸顯，在人工智能這一科技新賽道，我國處在世界第一梯隊(duì)。

美國斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報(bào)告》顯示，我國人工智能領(lǐng)域發(fā)表論文數(shù)量居首位，在發(fā)表論文總量世界前十的機(jī)構(gòu)中，我國共占9席。高水平論文被引用量與美國的差距進(jìn)一步縮小，騰訊、阿里巴巴和華為等公司已經(jīng)成為人工智能研究領(lǐng)域排名進(jìn)入世界前十的公司。

2023年，我國智能芯片、開發(fā)框架、通用大模型等創(chuàng)新成果不斷涌現(xiàn)：華為、寒武紀(jì)、景嘉微、壁仞科技、摩爾線程、燧原科技等芯片公司推出了不同設(shè)計(jì)架構(gòu)、不同應(yīng)用場景的AI推理和訓(xùn)練任務(wù)的芯片加速卡；昇思MindSpore、飛槳Paddle-Paddle等國產(chǎn)人工智能開發(fā)框架逐步成長，昇思開源社區(qū)下載量已突破474萬，飛槳開發(fā)者已超過800萬；百度文心一言、阿里云通義千問、華為盤古、科大訊飛星火等人工智能大模型持續(xù)迭代升級(jí)，充分發(fā)揮溢出帶動(dòng)性強(qiáng)的“頭雁效應(yīng)”。

我國人工智能已具備深入賦能的能力。2023年，人工智能核心產(chǎn)業(yè)規(guī)模接近5800億元，核心企業(yè)數(shù)量4482家，企業(yè)平均增速約為22%，這一增速遠(yuǎn)超許多傳統(tǒng)產(chǎn)業(yè)，顯現(xiàn)出人工智能產(chǎn)業(yè)的強(qiáng)勁增長勢頭，同時(shí)產(chǎn)業(yè)鏈覆蓋芯片、算法、數(shù)據(jù)、平臺(tái)、應(yīng)用等上下游關(guān)鍵環(huán)節(jié)，細(xì)分領(lǐng)域不斷突破。

隨著人工智能技術(shù)的廣泛應(yīng)用，“人工智能+”成為推動(dòng)新質(zhì)生產(chǎn)力發(fā)展的重要引擎。

隨著技術(shù)的不斷進(jìn)步和創(chuàng)新，人工智能正逐漸滲透到各個(gè)領(lǐng)域，產(chǎn)業(yè)規(guī)模不斷增長。中商產(chǎn)業(yè)研究院發(fā)布的《2022-2027年中國人工智能產(chǎn)業(yè)發(fā)展趨勢分析及投資風(fēng)險(xiǎn)預(yù)測報(bào)告》顯示，2022年產(chǎn)業(yè)規(guī)模達(dá)到5080億元，同比增長18%。中商產(chǎn)業(yè)研究院分析師預(yù)測，2024年產(chǎn)業(yè)規(guī)模將增長至6530億元。

未來在“人工智能+”的推動(dòng)下，新一代信息、生物、能源、材料等領(lǐng)域顛覆性技術(shù)不斷涌現(xiàn)，呈現(xiàn)深度交叉融合、高度復(fù)雜和多點(diǎn)突破發(fā)展態(tài)勢。支撐社會(huì)發(fā)展的基礎(chǔ)設(shè)施也在新技術(shù)的作用下進(jìn)一步升級(jí)，形成數(shù)字化智能化的新型基礎(chǔ)設(shè)施。數(shù)據(jù)要素因其獨(dú)有的低邊際成本、強(qiáng)滲透性和融合性等特點(diǎn)，可推動(dòng)生產(chǎn)工具和設(shè)備、生產(chǎn)方式、資源配置方式不斷優(yōu)化升級(jí)。

潛藏安全風(fēng)險(xiǎn)引擔(dān)憂

技術(shù)是一把雙刃劍。人工智能日益滲入日常生活、賦能各行各業(yè)的同時(shí)，也存在一些隱憂。

來自內(nèi)蒙古鄂爾多斯的李女士某天突然在微信上收到了老同學(xué)“賈某”的好友申請(qǐng)。其后雙方在聊天過程中，“賈某”發(fā)來視頻通話邀請(qǐng)，盡管李女士發(fā)現(xiàn)視頻中的畫面很模糊，聲音也很卡頓，但確實(shí)看到了“老同學(xué)”的樣貌，最終將40萬元轉(zhuǎn)到了對(duì)方提供的銀行賬號(hào)上。所幸李女士發(fā)現(xiàn)事有蹊蹺后報(bào)警，警方啟動(dòng)了緊急止付機(jī)制，及時(shí)將被騙的錢款攔截。

李女士遭遇的人工智能制造“老同學(xué)”詐騙案并非個(gè)例。近年來，隨著人工智能技術(shù)的發(fā)展和應(yīng)用，網(wǎng)絡(luò)詐騙也升級(jí)了新手法，不法分子頻頻利用深度偽造等技術(shù)通過人工智能換臉、人工智能變聲實(shí)施“精準(zhǔn)”詐騙。

“AI換臉”是指通過使用AI技術(shù)合成虛假的視頻或圖像，從而讓人們誤認(rèn)為某個(gè)事件實(shí)際上發(fā)生了。近年來，“AI換臉”技術(shù)已經(jīng)進(jìn)化到了一個(gè)令人驚訝的程度，它可以瞞過我們?nèi)庋郏垓_我們的大腦，模仿任何人的面容，產(chǎn)生完美的人工影像，這讓人感到厭惡和不安。詐騙分子可以利用這種技術(shù)來欺騙受害者，比如“AI換臉”破解了實(shí)體面試的驗(yàn)證機(jī)制，影響受害者的面試結(jié)果。

類似的還有“AI語音合成詐騙”。這種詐騙手法是通過模擬受害者的真實(shí)聲音和語音特征，進(jìn)行欺詐，實(shí)施詐騙。詐騙分子通過利用AI技術(shù)生成人工語音，瞞過了受害者，取得了他們的信任，并以此盜取了他們的財(cái)產(chǎn)、身份信息等。

中國社會(huì)科學(xué)院大學(xué)數(shù)字中國研究院發(fā)布的《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》將AI安全風(fēng)險(xiǎn)分為3類：第一類是人工智能系統(tǒng)內(nèi)部所產(chǎn)生的“內(nèi)生安全問題”，如“數(shù)據(jù)有毒”“價(jià)值對(duì)齊”“決策黑盒”等問題；第二類是“衍生安全問題”，比如生成假新聞、深度合成偽造進(jìn)行詐騙或釣魚攻擊，涉及隱私保護(hù)、國家安全、倫理道德等與社會(huì)治理有關(guān)的挑戰(zhàn)性問題；第三類是“外生安全問題”，即面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對(duì)抗。

在中國工程院院士吳世忠看來，人工智能的安全問題，既有近憂也有遠(yuǎn)慮。

“從‘近憂看，AI大模型落地應(yīng)用主要面臨的安全風(fēng)險(xiǎn)有生成不當(dāng)內(nèi)容、產(chǎn)生隱私問題、引發(fā)技術(shù)攻擊等?！痹凇斑h(yuǎn)慮”方面，技術(shù)發(fā)展失速、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔(dān)憂。

總體而言，人工智能發(fā)展帶來的網(wǎng)絡(luò)安全新挑戰(zhàn)不容忽視，既有技術(shù)層面的攻防對(duì)抗，也有系統(tǒng)自身的脆弱性，更有深層次的倫理困境。

如何筑牢人工智能安全防線，維護(hù)人工智能健康發(fā)展，事關(guān)國家安全、經(jīng)濟(jì)運(yùn)行和社會(huì)穩(wěn)定大局。

完善人工智能領(lǐng)域法律建設(shè)

針對(duì)人工智能技術(shù)發(fā)展可能出現(xiàn)的問題，制定規(guī)則以防患于未然。這是我國促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展的必要之舉，也是維護(hù)國家網(wǎng)絡(luò)安全的具體體現(xiàn)。

我國對(duì)人工智能安全高度重視，逐步完善相關(guān)政策法規(guī)。近年來，關(guān)于網(wǎng)絡(luò)安全的法律法規(guī)、標(biāo)準(zhǔn)規(guī)范，包括各種團(tuán)體標(biāo)準(zhǔn)、地方政策不斷出臺(tái)。

2017年6月1日，《中華人民共和國網(wǎng)絡(luò)安全法》（簡稱“網(wǎng)絡(luò)安全法”）正式實(shí)施。作為我國互聯(lián)網(wǎng)領(lǐng)域第一部專門法律，網(wǎng)絡(luò)安全法是我國網(wǎng)絡(luò)空間法制建設(shè)的重要里程碑。以此為框架，數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等一系列法律法規(guī)相繼出臺(tái)。

隨著時(shí)代生產(chǎn)要素的演進(jìn)，當(dāng)前人工智能時(shí)代的本質(zhì)在于算法和數(shù)據(jù)。算法帶來飛速便利的同時(shí)也帶來了諸如大數(shù)據(jù)殺熟、算法黑箱、信息繭房、算法操縱等新的社會(huì)風(fēng)險(xiǎn)問題。如果算法是一匹“脫韁的野馬”該怎么辦？

繼數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律法規(guī)概括性地對(duì)數(shù)據(jù)新技術(shù)的開發(fā)應(yīng)用、自動(dòng)化決策等的公平公正性進(jìn)行總體性規(guī)范后，2022年3月1日，國家網(wǎng)信辦等4部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（簡稱《規(guī)定》）正式施行。《規(guī)定》明確，算法推薦服務(wù)提供者不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型；不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

相比于此前法律法規(guī)層面對(duì)于算法監(jiān)管的總體、概括性要求，《規(guī)定》以互聯(lián)網(wǎng)信息服務(wù)為基礎(chǔ)，從算法的公平公正及信息內(nèi)容角度對(duì)算法推薦服務(wù)提出了各項(xiàng)具體細(xì)化的要求，反映了有關(guān)部門對(duì)于數(shù)字產(chǎn)業(yè)監(jiān)管愈發(fā)深入，已從對(duì)于算法問題所凸顯的法律價(jià)值層面的監(jiān)管滲透到對(duì)于算法應(yīng)用過程的技術(shù)性監(jiān)管。

2023年以來，與生成式人工智能相關(guān)的各種新技術(shù)不斷迭代，相關(guān)場景應(yīng)用不斷豐富。如何不斷提升生成式人工智能技術(shù)的安全性、可靠性、可控性、公平性需要倍加關(guān)注。

一些專家判斷，生成式人工智能將引發(fā)新一輪人工智能革命，人類與機(jī)器、技術(shù)與產(chǎn)業(yè)、虛擬與現(xiàn)實(shí)之間的關(guān)系正在發(fā)生廣泛而深刻的變化，技術(shù)創(chuàng)新也給人類社會(huì)文明秩序帶來了挑戰(zhàn)。

對(duì)此，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣播電視總局公布的《生成式人工智能服務(wù)管理暫行辦法》（簡稱《辦法》）于2023年8月15日起正式實(shí)施。這是我國首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策?！掇k法》明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

業(yè)界人士認(rèn)為，在人工智能發(fā)展過程中，要堅(jiān)持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護(hù)墻，應(yīng)對(duì)人工智能帶來的安全風(fēng)險(xiǎn)亟須未雨綢繆，從而真正擁抱人工智能發(fā)展帶來的機(jī)遇。

用AI解決AI帶來的安全問題

人工智能研究具有高度技術(shù)性和專業(yè)性的特點(diǎn)，各分支領(lǐng)域各不相通，因而涉及范圍極廣。要打敗人工智能帶來的不安全因素，就要“魔高一尺、道高一丈”。

中國工程院院士鄔賀銓認(rèn)為，以人工智能為代表的數(shù)字技術(shù)將重塑數(shù)字內(nèi)容生產(chǎn)方式和消費(fèi)模式，通用人工智能將實(shí)現(xiàn)知識(shí)與數(shù)據(jù)雙輪驅(qū)動(dòng)，把智腦加進(jìn)去，未來單個(gè)模型有望通過遷移學(xué)習(xí)支持多種業(yè)務(wù)，并能精準(zhǔn)選擇節(jié)點(diǎn)，有效降低功耗和成本。數(shù)字化將逐漸走向智能化高峰，開啟人工智能時(shí)代。同時(shí)，數(shù)字安全也在不斷發(fā)展演進(jìn)，傳統(tǒng)安全防護(hù)的手段亟待升級(jí)。

對(duì)于人工智能的模型、算法、數(shù)據(jù)、隱私及應(yīng)用等存在的風(fēng)險(xiǎn)和安全威脅，強(qiáng)化基礎(chǔ)理論研究和先進(jìn)安全技術(shù)研究，推動(dòng)關(guān)鍵技術(shù)的應(yīng)用，形成人工智能安全管理的技術(shù)體系，是有效控制人工智能風(fēng)險(xiǎn)的必要措施。

IEEE標(biāo)準(zhǔn)協(xié)會(huì)新標(biāo)準(zhǔn)立項(xiàng)委員會(huì)副主席兼IEEE數(shù)字金融與經(jīng)濟(jì)標(biāo)準(zhǔn)委員會(huì)主席林道莊曾表示，雖然AI時(shí)代，企業(yè)面臨著更大的網(wǎng)絡(luò)安全和數(shù)據(jù)安全的挑戰(zhàn)，但是在這個(gè)過程中，企業(yè)也可以充分應(yīng)用AI的能力進(jìn)行預(yù)警、防御?！巴ㄟ^AI自動(dòng)學(xué)習(xí)識(shí)別，預(yù)測一些潛在的風(fēng)險(xiǎn)，并將這些風(fēng)險(xiǎn)自動(dòng)隔離起來?！绷值狼f如是說，“通過AI的賦能，讓企業(yè)級(jí)防火墻具備更強(qiáng)的應(yīng)變能力?！?/p>

2024年全國兩會(huì)期間，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長齊向東建議，大力探索“AI+安全”創(chuàng)新應(yīng)用，搶占國家安全的人工智能戰(zhàn)略制高點(diǎn)，提高我國應(yīng)對(duì)網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)與不確定性的能力，護(hù)航中國式現(xiàn)代化行穩(wěn)致遠(yuǎn)。

在齊向東看來，解決AI帶來的安全問題，只能用AI來解決。為此，他建議抓住“三個(gè)關(guān)鍵”：從供給側(cè)看，開展聯(lián)合創(chuàng)新，圍繞攻防實(shí)戰(zhàn)和應(yīng)用場景實(shí)現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破；從需求側(cè)看，強(qiáng)化政策牽引，推動(dòng)“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用，建議像支持新能源汽車的發(fā)展一樣，支持“AI+安全”發(fā)展，設(shè)置專項(xiàng)基金，對(duì)研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)，給予政府基金、貼息貸款或科研項(xiàng)目等支持；從人才側(cè)看，壯大“AI+安全”領(lǐng)域的實(shí)戰(zhàn)型、復(fù)合型人才隊(duì)伍。

事實(shí)上，隨著大語言模型的快速發(fā)展，一些市場機(jī)構(gòu)近年來已經(jīng)開始將大模型與網(wǎng)絡(luò)安全相結(jié)合，提升網(wǎng)絡(luò)威脅、系統(tǒng)漏洞等方面防護(hù)的效率，降低人工成本。

2023年9月，360智腦大模型面向公眾開放。據(jù)了解，該模型是全國首個(gè)原生安全大模型。360集團(tuán)首席科學(xué)家兼360數(shù)字安全集團(tuán)CTO潘劍鋒介紹，360安全大模型正是基于通用大模型360智腦，通過蒸餾、繼續(xù)預(yù)訓(xùn)練、有監(jiān)督精調(diào)等技術(shù)手段訓(xùn)練而產(chǎn)出，將作為“安全副手”走進(jìn)企業(yè)真實(shí)安全運(yùn)營場景。

中國電信翼支付系統(tǒng)為了應(yīng)對(duì)新興的“AI換臉”欺詐方式，自主研發(fā)出金融級(jí)KYC證件識(shí)別產(chǎn)品“偵圖”平臺(tái)，助力支付平臺(tái)健全AI換臉欺詐風(fēng)險(xiǎn)偵測體系，有力保障了用戶支付安全，并受到了金融領(lǐng)域的廣泛關(guān)注。

雖然人工智能的發(fā)展背景下蘊(yùn)含著各種挑戰(zhàn)，但同時(shí)也孕育著巨大的機(jī)遇。通過積極保護(hù)數(shù)據(jù)隱私，靈活適應(yīng)變革，我們可以更加充分地發(fā)揮人工智能的優(yōu)勢，以更加積極的態(tài)度來迎接未來發(fā)展所帶來的機(jī)遇。