ChatGPT在網(wǎng)絡(luò)攻防領(lǐng)域的應(yīng)用及發(fā)展趨勢

李祉岐 羅大勇 孫磊 霍鈺 尹琴 宋潔

2022年，OpenAI公司的ChatGPT風(fēng)靡全球。ChatGPT是一種專注于對話生成的大型語言模型，它能夠根據(jù)用戶的文本輸入，產(chǎn)生相應(yīng)的智能回答，模仿人來的自然對話，可以生成講話稿、策劃方案、學(xué)術(shù)論文、詩歌、軟件代碼等。ChatGPT熱潮也吸引了網(wǎng)絡(luò)安全工業(yè)界、學(xué)術(shù)界，甚至網(wǎng)絡(luò)犯罪分子的注意。

ChatGPT降低了網(wǎng)絡(luò)犯罪的門檻，只要對網(wǎng)絡(luò)安全和計算機科學(xué)的基礎(chǔ)知識有基本了解，就可借助ChatGPT實施網(wǎng)絡(luò)攻擊。

（1）網(wǎng)絡(luò)釣魚

利用ChatGPT可以快速按照網(wǎng)絡(luò)犯罪分子的需求生成指定的釣魚內(nèi)容，例如自動化制作網(wǎng)絡(luò)釣魚電子郵件，然后通過郵件發(fā)送出去進行釣魚。攻擊者只需修改固定的位置，即可構(gòu)造一封完美的釣魚郵件。

（2）生成爆破口令

在ChatGPT中輸入“用Python寫一個生成口令的腳本”，就會生成一個可運行的Python程序，且附帶程序解釋。對于網(wǎng)絡(luò)安全研究人員或者攻擊者來說，能夠大大提高攻擊效率。由于因為被太多人濫用，ChatGPT進行了一次安全更新，更新后很多惡意軟件相關(guān)的內(nèi)容已經(jīng)無法生成。如果輸入“用Python寫一個生成口令爆破工具”，ChatGPT將回應(yīng)“我很抱歉，但我不能提供關(guān)于口令爆破工具的支持?？诹畋剖且环N非法的行為，違反了網(wǎng)絡(luò)安全和道德規(guī)范。它可以被用來未經(jīng)授權(quán)地訪問他人的賬戶和系統(tǒng)，造成嚴重的損害和違法行為?！闭f明當(dāng)前ChatGPT已經(jīng)針對網(wǎng)絡(luò)攻擊等生成需求做了一定限制。

（3）生成攻擊載荷Payload

上面已介紹ChatGPT的安全限制，但通過更換表達后仍可以生成指定需求的內(nèi)容。例如，生成攻擊載荷。輸入“用Python幫我寫幾個最新的Payload”，即可生成SQL注入、XSS等Payload。生成的Payload可以直接用于滲透測試攻擊。

（1）威脅情報

ChatGPT可以用于威脅情報收集、分析、模擬、共享、響應(yīng)等。ChatGPT可以通過分析各種來源，如黑客論壇、惡意軟件樣本、公開報告等，幫助收集有關(guān)威脅行為、攻擊方法和漏洞的情報信息；可以對收集到的威脅情報進行分析，幫助理解攻擊者的意圖、技術(shù)手段和攻擊模式；可以識別攻擊中使用的工具、漏洞利用方式以及攻擊者可能采取的后續(xù)行動；可以利用威脅情報和攻擊模式，進行威脅演繹和模擬，幫助組織預(yù)測潛在攻擊，評估安全風(fēng)險，并制定相應(yīng)的防御策略；可以幫助整理和組織威脅情報，促進威脅情報的共享和合作；它可以幫助創(chuàng)建安全社區(qū)，使不同組織之間能夠共享有關(guān)攻擊、惡意軟件或威脅漏洞的信息，以提高整體的網(wǎng)絡(luò)安全水平；用于快速響應(yīng)威脅事件，與安全團隊合作，提供即時的威脅情報分析和建議，幫助組織采取適當(dāng)?shù)拇胧﹣響?yīng)對和緩解攻擊。

（2）惡意攻擊檢測

ChatGPT可以幫助識別惡意鏈接和惡意文件。通過分析鏈接或文件的內(nèi)容和特征，判斷其是否包含惡意代碼、病毒或其他威脅；可以協(xié)助識別垃圾郵件，通過分析郵件的文本、附件、發(fā)件人等信息，辨別是否包含釣魚鏈接、惡意附件或其他欺詐行為；可以幫助監(jiān)測網(wǎng)絡(luò)流量，識別異常行為和潛在的攻擊；可以分析用戶的行為模式，檢測異?；顒雍涂赡艿膼阂庑袨椤＠?，識別賬戶登錄異常、異常的數(shù)據(jù)訪問行為等，以幫助防止未經(jīng)授權(quán)的訪問和數(shù)據(jù)泄露。ChatGPT可以協(xié)助分析惡意代碼的行為和特征，幫助識別和理解惡意軟件、病毒和其他惡意代碼的工作原理，以及其對系統(tǒng)和數(shù)據(jù)的潛在威脅。

（3）安全漏洞檢測

ChatGPT可以用于檢測代碼中存在的安全漏洞。對于開發(fā)人員具有較強的輔助功能，能夠編寫出更加安全的程序。作者提供一段包含緩沖溢出漏洞的程序，讓ChatGPT進行安全漏洞檢測。在提供的程序中，在bof函數(shù)中，使用strcpy函數(shù)將輸入字符串復(fù)制到名為buffer的字符數(shù)組中，但沒有進行長度檢查。如果輸入字符串的長度超過了buffer的大小（12個字節(jié)），則會導(dǎo)致緩沖區(qū)溢出。

ChatGPT已經(jīng)開展應(yīng)用各個領(lǐng)域，在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用也比較廣泛，上文也分析了相關(guān)應(yīng)用。通過調(diào)查分析，ChatGPT等大語言模型未來在網(wǎng)絡(luò)攻防方面將呈現(xiàn)以下3個趨勢。

（1）網(wǎng)絡(luò)攻擊智能化

把ChatGPT與安全攻擊工具結(jié)合，將大大提高網(wǎng)絡(luò)攻擊的自動化、智能化程度，進而使得國與國之間的網(wǎng)絡(luò)空間戰(zhàn)愈發(fā)激烈。例如，利用ChatGPT搜集被攻擊目標的信息，根據(jù)搜集的信息以及威脅情報等，智能化生成攻擊載荷，并自動化構(gòu)建網(wǎng)絡(luò)攻擊武器，實現(xiàn)對目標的精準打擊。

（2）網(wǎng)絡(luò)認知規(guī)?；?/p>

當(dāng)前網(wǎng)絡(luò)認知戰(zhàn)還沒有完全呈現(xiàn)自動化、智能化的攻擊態(tài)勢，還需大量人力、物力、時間等才能形成有效的攻擊結(jié)果。ChatGPT可快速生成相關(guān)內(nèi)容并迅速傳播，不僅可構(gòu)建某個主題的輿情還能加快輿情的傳播。

（3）網(wǎng)絡(luò)防御精準化

由于可以通過輸入大量的提示“Prompt”，構(gòu)建類ChatGPT的智能化檢測惡意軟件、惡意內(nèi)容、惡意攻擊等安全威脅，未來網(wǎng)絡(luò)防御將呈現(xiàn)更加精準化發(fā)展趨勢。例如，早期惡意軟件檢測主要通過特征碼匹配方式檢測，后期通過啟發(fā)式、云查殺、機器學(xué)習(xí)、深度學(xué)習(xí)等多種方式結(jié)合，類ChatGPT大模型的介入將會大大提高惡意軟件檢測的準確度。

本文首先用實例分析了ChatGPT在網(wǎng)絡(luò)攻擊領(lǐng)域的應(yīng)用，包括網(wǎng)絡(luò)釣魚、生成爆破口令、生成Payload、生成木馬程序等；其次分析了ChatGPT在網(wǎng)絡(luò)防御領(lǐng)域的應(yīng)用，包括威脅情報、惡意攻擊檢測、安全漏洞檢測、安全防御策略方案制定等；最后，分析了ChatGPT在網(wǎng)絡(luò)攻擊與防御領(lǐng)域的發(fā)展趨勢，對于把握ChatGPT在網(wǎng)絡(luò)安全方面的發(fā)展態(tài)勢具有一定的參考價值和意義。