面向人工智能的網(wǎng)絡(luò)空間安全課程體系建設(shè)

朱艷萍，張?jiān)拼海?英，姚紹文

（云南大學(xué) 軟件學(xué)院，云南 昆明 650095）

0 引言

計(jì)算機(jī)網(wǎng)絡(luò)深入滲透到了社會(huì)、經(jīng)濟(jì)、政治、文化生活的各個(gè)領(lǐng)域，并發(fā)揮著日益重要的支撐作用。伴隨著計(jì)算機(jī)網(wǎng)絡(luò)而生的還有安全問(wèn)題，網(wǎng)絡(luò)安全涉及企業(yè)安全制度、數(shù)據(jù)安全、傳輸安全、服務(wù)器安全、防火墻安全和防病毒安全等多個(gè)層面。網(wǎng)絡(luò)安全事件層出不窮，其造成的危害日益嚴(yán)重，對(duì)具備網(wǎng)絡(luò)安全專業(yè)技能的綜合性人才的需求劇增。然而，在現(xiàn)有的高等教育體系內(nèi)，與網(wǎng)絡(luò)安全相關(guān)的學(xué)科和專業(yè)體系不健全，學(xué)科專業(yè)人才培養(yǎng)機(jī)制不完善，從而造成了社會(huì)需求與專業(yè)人才培養(yǎng)之間的巨大鴻溝。

網(wǎng)絡(luò)攻擊的日益猖獗和攻擊危害的持續(xù)升級(jí)，使得網(wǎng)絡(luò)安全逐漸從單純的技術(shù)層面，逐步上升到關(guān)系國(guó)家安全和主權(quán)、社會(huì)穩(wěn)定、民族文化繼承和發(fā)揚(yáng)的重要問(wèn)題，從而提出了“網(wǎng)絡(luò)空間安全”概念。網(wǎng)絡(luò)空間安全與傳統(tǒng)的網(wǎng)絡(luò)工程和信息安全工程具有一定的聯(lián)系，但同時(shí)存在顯著區(qū)別。網(wǎng)絡(luò)空間由4種要素構(gòu)成：載體、資源、主體和操作[1]，以計(jì)算機(jī)網(wǎng)絡(luò)為基礎(chǔ)，結(jié)合網(wǎng)絡(luò)安全各要素，但又涵蓋近年來(lái)新興的技術(shù)領(lǐng)域，包括移動(dòng)互聯(lián)網(wǎng)安全、電網(wǎng)安全、云計(jì)算安全、大數(shù)據(jù)安全、物聯(lián)網(wǎng)安全等。對(duì)網(wǎng)絡(luò)工程、信息安全和網(wǎng)絡(luò)空間安全三者之間的聯(lián)系和區(qū)別的清晰認(rèn)識(shí)，有利于學(xué)科建設(shè)和專業(yè)人才培養(yǎng)。

與信息學(xué)科傳統(tǒng)專業(yè)的建設(shè)和發(fā)展相比，網(wǎng)絡(luò)空間安全專業(yè)起步較晚、師資力量薄弱、教學(xué)體系不健全[2]、教學(xué)方式老化[3]。根據(jù)現(xiàn)有的理論研究和教學(xué)實(shí)踐發(fā)現(xiàn)，當(dāng)前網(wǎng)絡(luò)空間安全專業(yè)的教學(xué)融合了軟件工程、網(wǎng)絡(luò)工程、信息安全、數(shù)學(xué)、管理學(xué)等多種學(xué)科的特點(diǎn)，從而造成了師資力量懸殊、課程體系繁雜、培養(yǎng)目標(biāo)不明確等多種問(wèn)題的出現(xiàn)，進(jìn)而影響了專業(yè)人才培養(yǎng)[4,5]。因此，針對(duì)網(wǎng)絡(luò)空間安全學(xué)科建設(shè)中存在的諸多不足，迫切需要順應(yīng)新形勢(shì)的要求，對(duì)人才培養(yǎng)目標(biāo)、課程體系、師資力量等進(jìn)行優(yōu)化，從而培養(yǎng)滿足國(guó)家和社會(huì)實(shí)際需要的、合格的一流網(wǎng)絡(luò)空間安全專業(yè)人才。

1 信息安全、人工智能與網(wǎng)絡(luò)空間安全

網(wǎng)絡(luò)空間安全是在新形勢(shì)、新技術(shù)背景下的必然產(chǎn)物，其提出的時(shí)間比信息安全專業(yè)較晚，且同時(shí)受到了人工智能技術(shù)的極大推動(dòng)，尤其是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法的成熟及大規(guī)模應(yīng)用。因此，如果單純突出網(wǎng)絡(luò)空間安全專業(yè)與信息安全專業(yè)的區(qū)別，而忽略了人工智能技術(shù)在網(wǎng)絡(luò)空間安全中的重要作用，將無(wú)法培養(yǎng)適應(yīng)當(dāng)代社會(huì)需要的一流網(wǎng)絡(luò)空間安全專業(yè)人才。

1.1 信息安全專業(yè)建設(shè)

自2002年后信息安全學(xué)科體系和人才培養(yǎng)體系取得快速建設(shè)和發(fā)展，在全國(guó)20多所院校設(shè)立了信息安全本科專業(yè)[6]。經(jīng)過(guò)10多年的建設(shè)和發(fā)展，目前國(guó)內(nèi)多所院校形成覆蓋本科、碩士和博士的信息安全學(xué)位點(diǎn)。網(wǎng)絡(luò)空間安全專業(yè)的設(shè)立晚于信息安全專業(yè)，但又脫胎于該專業(yè)。因此，對(duì)信息安全學(xué)科內(nèi)涵及信息安全專業(yè)培養(yǎng)目標(biāo)的認(rèn)識(shí)有助于網(wǎng)絡(luò)空間安全專業(yè)的建設(shè)。

信息安全學(xué)科的內(nèi)涵是建設(shè)信息安全專業(yè)的基礎(chǔ)，其內(nèi)涵對(duì)于專業(yè)課程的設(shè)置、課程體系構(gòu)建、人才培養(yǎng)目標(biāo)確立具有指導(dǎo)性作用。對(duì)信息安全學(xué)科的內(nèi)涵定義雖然存在差異，但其核心一致，即信息安全學(xué)科是研究信息獲取、存儲(chǔ)、傳輸和應(yīng)用領(lǐng)域安全保障的一門學(xué)科，其理論基礎(chǔ)包括數(shù)學(xué)、信息論、系統(tǒng)論、控制論和計(jì)算機(jī)理論[7]?；谠搶W(xué)科內(nèi)涵，對(duì)專業(yè)培養(yǎng)目標(biāo)、培養(yǎng)要求和核心主干課程進(jìn)行定義。以云南大學(xué)軟件學(xué)院為例，該院信息安全專業(yè)學(xué)生培養(yǎng)目標(biāo)為培養(yǎng)具有良好的科學(xué)技術(shù)與工程素養(yǎng)，系統(tǒng)地掌握信息安全的基本理論、專業(yè)知識(shí)、基本方法與基本技能，受到嚴(yán)格的工程訓(xùn)練和思維訓(xùn)練，具有另外一門專業(yè)背景，能從事安全網(wǎng)絡(luò)系統(tǒng)設(shè)計(jì)、安全產(chǎn)品開(kāi)發(fā)、產(chǎn)品集成、信息系統(tǒng)安全保衛(wèi)的高素質(zhì)專門人才。本專業(yè)培養(yǎng)要求為：學(xué)習(xí)信息安全的基本理論與技術(shù)，受到嚴(yán)格的工程訓(xùn)練和思維訓(xùn)練，具有安全系統(tǒng)設(shè)計(jì)、安全產(chǎn)品開(kāi)發(fā)、安全產(chǎn)品集成、信息系統(tǒng)安全保衛(wèi)的基本能力。信息安全專業(yè)主干課程包括：離散數(shù)學(xué)、計(jì)算機(jī)組成原理與匯編語(yǔ)言、信息安全學(xué)、密碼學(xué)原理與技術(shù)、信息安全工程、信息安全技術(shù)、信息安全數(shù)學(xué)基礎(chǔ)等。

1.2 人工智能專業(yè)建設(shè)

近年來(lái)，人工智能已在諸多領(lǐng)域取得關(guān)鍵性技術(shù)突破，并進(jìn)入了一個(gè)快速發(fā)展的新階段，推動(dòng)著社會(huì)經(jīng)濟(jì)的發(fā)展。因此，人工智能的學(xué)科建設(shè)和專業(yè)發(fā)展是順應(yīng)經(jīng)濟(jì)社會(huì)發(fā)展的必然產(chǎn)物[8]，以Google、百度、阿里和騰訊為主的互聯(lián)網(wǎng)公司在人工智能領(lǐng)域取得了諸多關(guān)鍵技術(shù)突破，促進(jìn)高校設(shè)置人工智能專業(yè)的發(fā)展。截止2017年，全國(guó)共有71所高校設(shè)置了人工智能專業(yè)或?qū)W科[9]。

人工智能學(xué)科是一門融合了計(jì)算機(jī)、傳感、通信、控制等多門學(xué)科的跨學(xué)科專業(yè)。該專業(yè)培養(yǎng)目標(biāo)為培養(yǎng)具有獨(dú)立的學(xué)習(xí)能力、廣闊的國(guó)際視野、良好的科學(xué)技術(shù)與工程素養(yǎng)、扎實(shí)的專業(yè)基礎(chǔ)知識(shí)與熟練的實(shí)踐能力相結(jié)合的綜合性高素質(zhì)技術(shù)人才，系統(tǒng)地掌握人工智能的基本理論、專業(yè)知識(shí)、基本方法與基本技能，受到嚴(yán)格的工程訓(xùn)練和思維訓(xùn)練，能從事人工智能系統(tǒng)設(shè)計(jì)、產(chǎn)品開(kāi)發(fā)、產(chǎn)品集成和應(yīng)用開(kāi)發(fā)等工作。本專業(yè)培養(yǎng)要求為：具備信息科學(xué)、數(shù)學(xué)、數(shù)據(jù)科學(xué)、大數(shù)據(jù)、軟件工程、計(jì)算機(jī)硬件、通信網(wǎng)絡(luò)等多門專業(yè)知識(shí)和實(shí)踐技能，熟練掌握數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)等專業(yè)技能，能夠從事智能機(jī)器人、自然語(yǔ)言處理、圖像處理等多種產(chǎn)品的設(shè)計(jì)與開(kāi)發(fā)，勝任政府和企事業(yè)單位多種行業(yè)中數(shù)據(jù)采集、學(xué)習(xí)和應(yīng)用等工作。人工智能專業(yè)主干課程以數(shù)學(xué)基礎(chǔ)、專業(yè)核心課程和程序開(kāi)發(fā)平臺(tái)課程三大塊為主。其中，數(shù)學(xué)基礎(chǔ)課包括高等數(shù)學(xué)、線性代數(shù)、概率論與數(shù)理統(tǒng)計(jì)、數(shù)值分析等；專業(yè)核心課程包括人工智能、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、數(shù)據(jù)挖掘、大數(shù)據(jù)理論與技術(shù)、自然語(yǔ)言處理、模式識(shí)別等；程序開(kāi)發(fā)平臺(tái)課程包括軟件工程、Python、C/C++、操作系統(tǒng)、數(shù)據(jù)結(jié)構(gòu)、算法分析等。人工智能知識(shí)體系現(xiàn)有的課程分類依據(jù)5個(gè)知識(shí)單元開(kāi)展，包括問(wèn)題求解、知識(shí)與推理、學(xué)習(xí)與發(fā)現(xiàn)、感知與理解、系統(tǒng)與建造[10]。

1.3 網(wǎng)絡(luò)空間安全專業(yè)建設(shè)與發(fā)展

自2015年6月，國(guó)務(wù)院學(xué)位委員會(huì)，教育部批準(zhǔn)增設(shè)“網(wǎng)絡(luò)空間安全”一級(jí)學(xué)科，國(guó)內(nèi)諸多高校便設(shè)立該專業(yè)，制定培養(yǎng)目標(biāo)和構(gòu)建課程體系。然而，網(wǎng)絡(luò)空間安全覆蓋面較廣、知識(shí)體系繁雜，傳統(tǒng)信息安全專業(yè)和網(wǎng)絡(luò)工程專業(yè)的課程培養(yǎng)體系不能直接照搬到網(wǎng)絡(luò)空間安全專業(yè)的教學(xué)實(shí)踐。以培養(yǎng)國(guó)際一流的軟件人才為目標(biāo)，結(jié)合信息安全專業(yè)多年來(lái)豐富的教學(xué)實(shí)踐，致力于構(gòu)建網(wǎng)絡(luò)安全和人工智能學(xué)科交叉的教學(xué)課程體系，是新時(shí)代的要求和新形勢(shì)下的必然趨勢(shì)。

為培養(yǎng)適應(yīng)未來(lái)社會(huì)發(fā)展需要和國(guó)家需要的一流網(wǎng)絡(luò)空間安全專業(yè)人才，離不開(kāi)人工智能技術(shù)，其必要性主要表現(xiàn)在以下幾個(gè)方面：

（1）網(wǎng)絡(luò)安全大數(shù)據(jù)加劇了對(duì)人工智能技術(shù)應(yīng)用的需求。網(wǎng)絡(luò)安全領(lǐng)域的傳統(tǒng)問(wèn)題，如密碼、網(wǎng)絡(luò)流量監(jiān)控、異常檢測(cè)、入侵檢測(cè)、訪問(wèn)控制等，是人工智能技術(shù)的主要應(yīng)用領(lǐng)域。隨著網(wǎng)絡(luò)安全大數(shù)據(jù)的爆發(fā)式增長(zhǎng)、深度學(xué)習(xí)算法的優(yōu)化改進(jìn)、計(jì)算能力的大幅提升，勢(shì)必會(huì)讓人工智能技術(shù)成為網(wǎng)絡(luò)安全解決方案的核心。同時(shí)，網(wǎng)絡(luò)空間安全所關(guān)注的移動(dòng)互聯(lián)網(wǎng)、智能電網(wǎng)、云計(jì)算、大數(shù)據(jù)和物聯(lián)網(wǎng)等領(lǐng)域，也產(chǎn)生海量數(shù)據(jù)分析，迫切需要人工智能技術(shù)的運(yùn)用。

（2）人工智能技術(shù)與網(wǎng)絡(luò)空間安全的核心應(yīng)用問(wèn)題在本質(zhì)上相同，人工智能技術(shù)是解決網(wǎng)絡(luò)空間安全問(wèn)題的必然趨勢(shì)。網(wǎng)絡(luò)空間安全的核心問(wèn)題，其本質(zhì)在于“正?！毙袨榕c“異?！毙袨榈膮^(qū)別。其兩種實(shí)現(xiàn)方式，一種基于“正常”行為所提取的規(guī)則，來(lái)界定與之有別的異常行為，進(jìn)而識(shí)別攻擊者或異常行為，又稱為基于異常的機(jī)制；另一種基于“異?！毙袨樘崛∫?guī)則，稱為基于簽名的機(jī)制。不管是“正?！被颉爱惓！币?guī)則，大多基于公開(kāi)的基準(zhǔn)數(shù)據(jù)集進(jìn)行抽取，如實(shí)現(xiàn)網(wǎng)絡(luò)異常行為監(jiān)測(cè)的數(shù)據(jù)集包括NSLKDD，DARPA 1999等；實(shí)現(xiàn)垃圾郵件檢測(cè)的TREC 2007；惡意軟件檢測(cè)的Microsoft Malware Classification、Contigo、Virusshare和Virustotal網(wǎng)站的樣本等?；诨鶞?zhǔn)數(shù)據(jù)集進(jìn)行特征提取，進(jìn)而使用人工智能算法構(gòu)建學(xué)習(xí)模型。因此，人工智能技術(shù)對(duì)于網(wǎng)絡(luò)空間安全核心應(yīng)用問(wèn)題的解決具有重要作用，兩者緊密關(guān)聯(lián)。

（3）人工智能專業(yè)與網(wǎng)絡(luò)空間安全專業(yè)的發(fā)展相輔相成、互相促進(jìn)。網(wǎng)絡(luò)空間安全領(lǐng)域中安全管理員和攻擊者之間構(gòu)成永久的博弈關(guān)系，不斷推進(jìn)攻防雙方技術(shù)的發(fā)展。人工智能算法很快成為攻擊者的攻擊目標(biāo)，對(duì)抗干擾攻擊技術(shù)快速發(fā)展，推進(jìn)了對(duì)抗機(jī)器學(xué)習(xí)（adversarial machine learning）技術(shù)的發(fā)展。防御方則進(jìn)一步提出安全機(jī)器學(xué)習(xí)（secure machine learning）的概念，以提升學(xué)習(xí)算法的健壯性為主要目標(biāo)，提出了包括對(duì)抗訓(xùn)練、集成學(xué)習(xí)、防御蒸餾（defensive distillation）在內(nèi)的多種健壯性學(xué)習(xí)算法。因此，人工智能專業(yè)與網(wǎng)絡(luò)空間安全專業(yè)兩者的發(fā)展是相輔相成，互相促進(jìn)的。

2 基于人工智能的網(wǎng)絡(luò)空間安全課程體系建設(shè)

2.1 網(wǎng)絡(luò)空間安全學(xué)科與相關(guān)學(xué)科的差異

多數(shù)高等院校設(shè)置了信息安全專業(yè)，網(wǎng)絡(luò)空間安全專業(yè)的建設(shè)多半從信息安全專業(yè)派生或演化而來(lái)。兩者有一定相似性，但又存在顯著的區(qū)別，以云南大學(xué)軟件學(xué)院為例，兩個(gè)專業(yè)在培養(yǎng)目標(biāo)和專業(yè)主干課方面均存在一定差異，但兩者在核心基礎(chǔ)課程方面存在一定程度的重合。

在培養(yǎng)目標(biāo)上，網(wǎng)絡(luò)空間安全專業(yè)的培養(yǎng)目標(biāo)相對(duì)集中，突出多學(xué)科的交叉及科學(xué)技術(shù)理論和工程實(shí)踐能力的雙重培養(yǎng)。在專業(yè)主干課程設(shè)置方面，信息安全專業(yè)強(qiáng)調(diào)數(shù)學(xué)基礎(chǔ)的同時(shí)，偏重傳統(tǒng)編程語(yǔ)言課程的設(shè)置，強(qiáng)調(diào)Python、Hadoop、TensorFlow、Pytorch等學(xué)習(xí)框架和工具的掌握。專業(yè)核心課程側(cè)重于對(duì)密碼學(xué)、滲透測(cè)試、網(wǎng)絡(luò)攻擊原理與防御、異常檢測(cè)、入侵檢測(cè)等理論和實(shí)踐技術(shù)的培養(yǎng)。同時(shí)，重點(diǎn)融入了以人工智能為代表的數(shù)據(jù)分析技術(shù)，包括人工智能、大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、數(shù)據(jù)倉(cāng)庫(kù)等課程。

2.2 網(wǎng)絡(luò)空間安全核心課程設(shè)置及體系構(gòu)建

基于上文中對(duì)網(wǎng)絡(luò)空間安全與人工智能二者之間的關(guān)系分析，我們強(qiáng)調(diào)在網(wǎng)絡(luò)空間安全學(xué)科內(nèi)構(gòu)建面向人工智能的網(wǎng)絡(luò)空間安全課程體系。依據(jù)課程難易程度和課程間的依賴關(guān)系，如圖1所示，可將該體系內(nèi)的多門課程劃分為3層次：①基礎(chǔ)理論課程；②網(wǎng)絡(luò)空間安全核心課，包括專業(yè)核心基礎(chǔ)、人工智能技術(shù)專題課程以及網(wǎng)絡(luò)安全核心課程3個(gè)方面的課程；③應(yīng)用實(shí)踐課程，包括綜合技能實(shí)踐、專業(yè)實(shí)訓(xùn)、創(chuàng)新設(shè)計(jì)、工程實(shí)訓(xùn)和畢業(yè)設(shè)計(jì)。

在網(wǎng)絡(luò)安全和人工智能交叉學(xué)科構(gòu)建的教學(xué)課程體系中，3個(gè)層次的課程相互聯(lián)系和促進(jìn)，在時(shí)間維度和內(nèi)容維度上不斷遞進(jìn)。第1層次課程是第2第3層次課程的數(shù)學(xué)和學(xué)科基礎(chǔ)，也是從戰(zhàn)略角度維護(hù)網(wǎng)絡(luò)安全要掌握的基礎(chǔ)知識(shí)。第2層次的核心課程針對(duì)網(wǎng)絡(luò)空間安全研究的內(nèi)容安排學(xué)科專業(yè)的重要核心課程，同時(shí)，針對(duì)人工智能技術(shù)及大數(shù)據(jù)環(huán)境下的應(yīng)用，設(shè)置人工智能、數(shù)據(jù)挖掘與分析等課程。第3個(gè)層次課程強(qiáng)調(diào)應(yīng)用實(shí)踐，以最新的科學(xué)問(wèn)題和工程應(yīng)用前沿難題為導(dǎo)向，重點(diǎn)探索網(wǎng)絡(luò)空間安全領(lǐng)域內(nèi)的應(yīng)用問(wèn)題，結(jié)合人工智能技術(shù)實(shí)踐應(yīng)用問(wèn)題的解決方法。核心的網(wǎng)絡(luò)空間安全應(yīng)用問(wèn)題包括惡意軟件檢測(cè)與分類、垃圾郵件檢測(cè)、隱私保護(hù)、網(wǎng)絡(luò)行為異常檢測(cè)等，依托此類應(yīng)用問(wèn)題的研究和建設(shè)，培養(yǎng)學(xué)生在專業(yè)領(lǐng)域的動(dòng)手和實(shí)踐能力。

圖1 基于人工智能的網(wǎng)絡(luò)空間安全課程體系

2.3 面向惡意軟件的機(jī)器學(xué)習(xí)及對(duì)抗防御課程構(gòu)建

在圖1所示的課程體系中，可根據(jù)網(wǎng)絡(luò)空間安全領(lǐng)域的核心問(wèn)題，進(jìn)行獨(dú)立課程體系的構(gòu)建，從而針對(duì)給定的主題進(jìn)行專業(yè)人才培養(yǎng)。以面向惡意軟件的機(jī)器學(xué)習(xí)及對(duì)抗防御為例，相關(guān)知識(shí)點(diǎn)及對(duì)應(yīng)課程如圖2所示。

圖2所示課程設(shè)計(jì)以攻防博弈為背景框架，將機(jī)器學(xué)習(xí)和人工智能技術(shù)有機(jī)融入惡意軟件檢測(cè)和對(duì)抗攻擊。通過(guò)攻防雙方4個(gè)階段的持續(xù)對(duì)抗，開(kāi)展多門課程的建設(shè)，從而培養(yǎng)學(xué)生能理論結(jié)合實(shí)際應(yīng)用綜合分析問(wèn)題、對(duì)前沿技術(shù)的探索、攻防博弈思想的理解及綜合構(gòu)建知識(shí)體系的能力。

3 結(jié)語(yǔ)

網(wǎng)絡(luò)空間安全專業(yè)建設(shè)雖然起步較晚，但是借鑒網(wǎng)絡(luò)工程、信息安全和人工智能專業(yè)建設(shè)的豐富經(jīng)驗(yàn)，其發(fā)展相對(duì)較快。對(duì)于網(wǎng)絡(luò)空間安全專業(yè)的建設(shè)，一方面要充分認(rèn)識(shí)其專業(yè)特色，形成獨(dú)特的人才培養(yǎng)機(jī)制，實(shí)現(xiàn)人才培養(yǎng)的目標(biāo)；另一方面，應(yīng)充分重視人工智能技術(shù)在網(wǎng)絡(luò)空間安全專業(yè)建設(shè)中的作用，鼓勵(lì)交叉學(xué)科建設(shè)，培養(yǎng)全能的網(wǎng)絡(luò)空間安全技術(shù)人才。

圖2 面向惡意軟件的機(jī)器學(xué)習(xí)及對(duì)抗防御課程構(gòu)建