人工智能與安全涉及的方面非常廣泛,包括人工智能技術(shù)本身的安全問題,相關的算法的完善性問題,以及人工智能應用中的倫理問題等等。
中國科學院院士鄭建華從人工智能應用角度出發(fā),闡述了網(wǎng)絡安全的基本要求、人工智能應用中的網(wǎng)絡安全,以及網(wǎng)絡安全中的人工智能三方面內(nèi)容。
首先,網(wǎng)絡安全的基本要求是什么?其實之前我們講信息安全,現(xiàn)在談網(wǎng)絡安全,二者還是有很大差別的。信息安全的很多落腳點在信息本身,圍繞其保密性、完整性、可用性等基本屬性,對信息的使用和處理均經(jīng)過所有權(quán)人的授權(quán)、嚴格按所有權(quán)人要求、真實地順暢地合理地進行,結(jié)果可追溯可認證。而網(wǎng)絡安全的目標可以概括為網(wǎng)絡中每一個可更新邏輯的節(jié)點都嚴格按照預定的邏輯準確運行。
中國科學院院士 鄭建華
而人工智能應用和網(wǎng)絡的關系是非常密切的,因為人工智能應用的信息技術(shù)體系中包括感知層、傳輸層、數(shù)據(jù)層和應用層,不管是城市級的智能系統(tǒng)也好,還是小規(guī)模的應用也好,都包含這幾個層面。而這些層面都對網(wǎng)絡安全提出了具體要求。
人工智能應用的安全需求包括身份識別認證(人、設備);數(shù)據(jù)保護(傳輸、存儲);服務控制安全;數(shù)據(jù)使用安全(云計算、大數(shù)據(jù)安全)。這其中很多方面也都是傳統(tǒng)網(wǎng)絡安全研究的內(nèi)容,二者是相互影響的,例如,在大數(shù)據(jù)的使用安全問題上,如果智能交通建設的數(shù)據(jù)無法做到真正有效融合,對人工智能應用的深度是有影響的。
因此,鄭建華表示,在人工智能應用的安全建設方面,需要在法律法規(guī)與制度建設方面有一些相應舉措,在政府層面進行頂層設計,提出安全要求,加強安全制度建設;從企業(yè)層面完善相應的安全技術(shù),建立安全標準;建立保障機制,做到人工智能應用與網(wǎng)絡安全建設同步發(fā)展。
此外,在移動安全技術(shù)、系統(tǒng)脆弱性、生物特征識別、大數(shù)據(jù)安全等方面,也是人工智能應用需要關注的網(wǎng)絡安全問題。
對于網(wǎng)絡安全中的人工智能來說,人工智能也在網(wǎng)絡安全領域得到越來越多的應用,現(xiàn)在也有了很多嘗試,并且未來將在網(wǎng)絡安全防御、主動性網(wǎng)絡策略方面發(fā)揮越來越大作用。例如在利用基于神經(jīng)網(wǎng)絡來識別垃圾郵件,發(fā)現(xiàn)蠕蟲病毒等,基于專家系統(tǒng)來提高安全運行中心效率及量化風險評估、威脅情報等方面,人工智能發(fā)揮了有效作用。
鄭建華最后做出總結(jié),人工智能技術(shù)的蓬勃發(fā)展必將為網(wǎng)絡空間安全帶來重大機遇和挑戰(zhàn),而網(wǎng)絡安全也將更好地促進人工智能的健康發(fā)展,二者是相輔相成的。