全國政協(xié)委員、奇安信集團(tuán)董事長齊向東：AI帶來的安全問題，要靠AI來解決

郭霽瑤

《中國經(jīng)濟(jì)周刊》記者 馬銘悅I攝

新一輪科技革命和產(chǎn)業(yè)變革方興未艾，信息化、數(shù)字化正在重新繪制世界圖譜，這也讓網(wǎng)絡(luò)安全成為大國博弈的重要領(lǐng)域。

在這一輪科技革命的浪潮中，人工智能正迅速重塑人類經(jīng)濟(jì)社會(huì)生活的方方面面，同時(shí)也帶來了AI武器化、數(shù)據(jù)泄露、“深偽”詐騙等安全問題。與此同時(shí)，人工智能也在賦能網(wǎng)絡(luò)安全行業(yè)，越來越多的國家和機(jī)構(gòu)正加速布局網(wǎng)絡(luò)安全與AI技術(shù)融合。

“我們有責(zé)任、有使命大力發(fā)展安全技術(shù)?！比珖f(xié)委員、奇安信集團(tuán)董事長齊向東在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)說。今年全國兩會(huì)期間，齊向東將目光聚焦“AI+安全”領(lǐng)域，并提出相關(guān)建議。

2024年將是“安全底線大年”

當(dāng)下，以“求財(cái)”為目的的勒索攻擊愈演愈烈，境外國家網(wǎng)絡(luò)軍隊(duì)和情報(bào)機(jī)構(gòu)成為重點(diǎn)防范對象，漏洞后門事故頻發(fā)，AI武器化趨勢愈演愈烈。

齊向東判斷，在多重因素影響下，2024年將是“安全底線大年”。

“我們將主要面臨三大網(wǎng)絡(luò)安全新挑戰(zhàn)?！饼R向東表示，這三大挑戰(zhàn)主要包括：一是攻擊者假冒身份的挑戰(zhàn)。數(shù)智時(shí)代，數(shù)據(jù)流轉(zhuǎn)過程復(fù)雜，安全邊界模糊，導(dǎo)致訪問者的身份難以辨認(rèn)、行為難以管控。黑客能披著合法外衣做壞事，竊取重要的隱私信息。

二是軟件后門和漏洞層出不窮的挑戰(zhàn)。齊向東透露，奇安信代碼安全實(shí)驗(yàn)室曾對1589個(gè)軟件項(xiàng)目的源代碼進(jìn)行分析，結(jié)果顯示，程序員每敲1000行原始代碼，會(huì)出現(xiàn)大約11個(gè)缺陷，其中包括0.85個(gè)高危缺陷。

“這些年，我們感覺漏洞是越補(bǔ)越多，而且是成倍增長。因?yàn)檠a(bǔ)漏洞也是用代碼補(bǔ)，這種用于補(bǔ)漏洞的代碼本身又會(huì)被扒出漏洞。”齊向東坦言，“而且現(xiàn)在AI武器化趨勢非常明顯，其中一種方式就是用AI挖漏洞。這使得利用漏洞和后門進(jìn)行網(wǎng)絡(luò)攻擊的成本越來越低。2024年我認(rèn)為這種情況將泛化?！?/p>

三是“內(nèi)鬼”猖獗的挑戰(zhàn)。齊向東解釋，內(nèi)鬼主要是“三員”，包括管理員、技術(shù)員和操作員。他們有較高的數(shù)據(jù)訪問權(quán)限，很容易獲取企業(yè)內(nèi)部資料和財(cái)產(chǎn)。

“但新的機(jī)遇現(xiàn)在也非常明晰?！饼R向東特別提到。他認(rèn)為，我國在加快建設(shè)網(wǎng)絡(luò)強(qiáng)國、數(shù)字中國的進(jìn)程中，網(wǎng)絡(luò)安全產(chǎn)業(yè)迎來了兩大機(jī)遇。一是網(wǎng)絡(luò)安全系統(tǒng)的信創(chuàng)化（指信息技術(shù)自主可控，規(guī)避外部技術(shù)制裁和風(fēng)險(xiǎn)）。如果以網(wǎng)絡(luò)安全投資占比5%～10%的比例測算，萬億級的信創(chuàng)風(fēng)口將帶來上千億的網(wǎng)絡(luò)安全市場。二是數(shù)據(jù)安全駛?cè)氚l(fā)展快車道。建設(shè)數(shù)字中國，數(shù)據(jù)安全是重要保障，我國數(shù)據(jù)安全市場將持續(xù)高速增長。

“像支持新能源汽車一樣，支持‘AI+安全”

從ChatGpt的橫空出世到Sora的顛覆式創(chuàng)新，圍繞人工智能的討論熱度從去年兩會(huì)一直延續(xù)到今年?！叭斯ぶ悄?”也成為幾乎每一個(gè)網(wǎng)絡(luò)科技從業(yè)者在接受媒體采訪時(shí)繞不開的話題，齊向東也不例外。

“不法分子利用AI技術(shù)犯罪已經(jīng)進(jìn)入一個(gè)普及期。”齊向東直言，當(dāng)下人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻，不懂代碼、不懂技術(shù)的普通人也能成為黑客，這增加了網(wǎng)絡(luò)攻擊數(shù)量。同時(shí)，專業(yè)的黑客組織可以利用人工智能對網(wǎng)絡(luò)攻擊進(jìn)行改造升級，安全威脅進(jìn)一步加劇。

“未來可能會(huì)出現(xiàn)利用人工智能加劇網(wǎng)絡(luò)犯罪的熱潮。”齊向東說。

更令人擔(dān)憂的是，AI還加劇了軍事威脅，AI武器化趨勢顯現(xiàn)。齊向東表示，一方面，人工智能可以被用在“機(jī)器人殺手”等致命性自主武器（LAW）上，通過自主識(shí)別攻擊目標(biāo)、遠(yuǎn)程自動(dòng)化操作等，隱藏攻擊者來源、建立對抗優(yōu)勢；另一方面，人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接，讓軍事行動(dòng)針對性更強(qiáng)、目標(biāo)更明確、打擊范圍更廣，越來越多的國家開始探索AI在軍事領(lǐng)域的應(yīng)用。

面對如此艱巨的挑戰(zhàn)，我們又該如何應(yīng)對？

“AI帶來的安全問題，只能用AI來解決?！饼R向東認(rèn)為，AI一方面讓安全問題凸顯，同時(shí)也在賦能網(wǎng)絡(luò)安全行業(yè)，在促進(jìn)攻防技術(shù)升級上有大作用，這將推動(dòng)攻防雙方在AI利用方面展開競賽。

“人工智能不會(huì)取代網(wǎng)絡(luò)安全專家，但是它會(huì)讓網(wǎng)絡(luò)安全專家更有能力應(yīng)對危險(xiǎn)，所以人工智能應(yīng)該是在網(wǎng)絡(luò)安全領(lǐng)域掀起一場技術(shù)革命，讓網(wǎng)絡(luò)安全行業(yè)變得更好?！饼R向東說。

他建議，應(yīng)大力探索“AI+安全”創(chuàng)新應(yīng)用，搶占國家安全的人工智能戰(zhàn)略制高點(diǎn)。具體來說，齊向東認(rèn)為要抓住三個(gè)關(guān)鍵。

從供給側(cè)看，開展聯(lián)合創(chuàng)新，圍繞攻防實(shí)戰(zhàn)和應(yīng)用場景實(shí)現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破。建議鼓勵(lì)各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體，在關(guān)鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新，共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測、漏洞挖掘、指揮研判等方面的應(yīng)用，在實(shí)戰(zhàn)中推動(dòng)“AI+安全”進(jìn)入越用越強(qiáng)的良性循環(huán)。

從需求側(cè)看，強(qiáng)化政策牽引，推動(dòng)“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用。積極的政策引導(dǎo)是推動(dòng)新事物落地應(yīng)用、成長壯大的催化劑。建議像支持新能源汽車發(fā)展一樣，支持“AI+安全”發(fā)展，設(shè)置專項(xiàng)基金，對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè)，給予政府基金、貼息貸款或科研項(xiàng)目等支持；對率先取得技術(shù)突破，實(shí)現(xiàn)成果轉(zhuǎn)化的科研機(jī)構(gòu)和企業(yè)給予獎(jiǎng)勵(lì)；對積極使用相關(guān)技術(shù)、產(chǎn)品和服務(wù)的企業(yè)給予相應(yīng)補(bǔ)貼，推動(dòng)“AI+安全”相關(guān)產(chǎn)業(yè)取得更多科技創(chuàng)新成果。

從人才側(cè)看，壯大“AI+安全”領(lǐng)域的實(shí)戰(zhàn)型、復(fù)合型人才隊(duì)伍。隨著AI技術(shù)普及和應(yīng)用領(lǐng)域不斷擴(kuò)展，齊向東認(rèn)為，我國AI人才嚴(yán)重短缺。建議充分發(fā)揮民營企業(yè)在人才培養(yǎng)上的優(yōu)勢，鼓勵(lì)成立校企共同體，在實(shí)踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才，為我國搶抓人工智能機(jī)遇貢獻(xiàn)力量。

編輯：孫曉萌sunxiaomeng@ceweekly.cn

美編：孟凡婷