人工智能與信息安全

馮志新

廣西通信規(guī)劃設(shè)計(jì)咨詢有限公司 廣西 南寧 530004

1 人工智能安全問(wèn)題的重要意義

從人工智能的出現(xiàn)到現(xiàn)在，存在著許多問(wèn)題，其中人工智能的安全性是最重要的問(wèn)題之一。首先，人工智能是否一直被人類使用，也就是人們經(jīng)常擔(dān)心的人工智能是否會(huì)超越人類在這個(gè)社會(huì)中的主導(dǎo)地位。人工智能應(yīng)用的出發(fā)點(diǎn)是要被人類應(yīng)用。使用人工智能的過(guò)程必須由人類來(lái)控制，它自身的野蠻發(fā)展必須被阻止，更不用說(shuō)被別有用心的人利用。這是確保人工智能安全的一個(gè)重要方面。其次，如果人工智能的安全問(wèn)題處理不當(dāng)，人工智能可能會(huì)對(duì)人類或領(lǐng)域造成危害，影響人類及相關(guān)領(lǐng)域的發(fā)展。最后，人工智能的安全問(wèn)題也影響著人工智能本身的發(fā)展[1]。

2 人工智能時(shí)代影響計(jì)算機(jī)網(wǎng)絡(luò)信息安全的因素

當(dāng)今的網(wǎng)絡(luò)正處在一個(gè)信息爆炸的時(shí)代，數(shù)據(jù)服務(wù)作為主導(dǎo)業(yè)務(wù)類型，要求并推動(dòng)著網(wǎng)絡(luò)安全結(jié)構(gòu)的根本變革。對(duì)網(wǎng)絡(luò)本身的威脅包括對(duì)網(wǎng)絡(luò)設(shè)備和網(wǎng)絡(luò)軟件系統(tǒng)平臺(tái)的威脅。除了對(duì)網(wǎng)絡(luò)中信息的威脅外，計(jì)算機(jī)網(wǎng)絡(luò)也包括對(duì)處理這些數(shù)據(jù)系統(tǒng)的應(yīng)用軟件的威脅。影響計(jì)算機(jī)網(wǎng)絡(luò)安全的因素有很多，對(duì)網(wǎng)絡(luò)安全的威脅主要來(lái)自三個(gè)方面：即人為的無(wú)意失誤、黑客的惡意攻擊、網(wǎng)絡(luò)軟件系統(tǒng)的漏洞和后門(mén)。

2.1 人類的無(wú)意失誤

在計(jì)算機(jī)的網(wǎng)絡(luò)信息中，如果人類無(wú)意中在輸入的數(shù)據(jù)中出現(xiàn)了不符合語(yǔ)義的數(shù)據(jù)，或者犯了技術(shù)錯(cuò)誤，這將會(huì)影響數(shù)據(jù)庫(kù)的完整性，嚴(yán)重的甚至?xí)斐绍浖到y(tǒng)的癱瘓。這種數(shù)據(jù)的脆弱性還表現(xiàn)在數(shù)據(jù)在傳輸過(guò)程中很容易被破解或竊取，也會(huì)導(dǎo)致數(shù)據(jù)泄露和丟失。同時(shí)，由于自然環(huán)境造成的一些硬件設(shè)施容易被損壞，一些數(shù)據(jù)會(huì)被破壞或丟失。

2.2 黑客的惡意攻擊及網(wǎng)絡(luò)病毒

在GeekPwn2017國(guó)際安全極客大賽上，白帽黑客與現(xiàn)代技術(shù)的對(duì)抗達(dá)到了頂峰，攻擊目標(biāo)包括最熱門(mén)的人臉識(shí)別、聲紋識(shí)別、銀行卡在智能POS機(jī)消費(fèi)等場(chǎng)景。令人驚嘆的項(xiàng)目破解秀揭示了網(wǎng)絡(luò)空間的安全問(wèn)題。隨著信息網(wǎng)絡(luò)的廣泛應(yīng)用，計(jì)算機(jī)用戶經(jīng)常受到黑客的攻擊，有些人利用惡意軟件入侵設(shè)備，有些人利用用戶貪便宜的心理向用戶發(fā)布含有虛假網(wǎng)站鏈接的誘惑性短信。一旦有用戶上當(dāng)受騙點(diǎn)擊了鏈接，在網(wǎng)站上留下個(gè)人信息就會(huì)導(dǎo)致信息泄露。

2.3 計(jì)算機(jī)本身存在的漏洞

簡(jiǎn)單地說(shuō)，計(jì)算機(jī)漏洞是設(shè)備硬件或軟件上的設(shè)計(jì)缺陷，這也為黑客提供了入侵的機(jī)會(huì)。此外，這些漏洞很常見(jiàn)，用戶很難防范。有些漏洞是隱藏的，如果不及時(shí)發(fā)現(xiàn)就會(huì)產(chǎn)生嚴(yán)重的安全后果[2]。

3 解決人工智能安全問(wèn)題的措施

人工智能還處于快速發(fā)展時(shí)期，各方面還沒(méi)有完全成熟。人工智能的安全性已成為發(fā)展道路上的絆腳石。解決人工智能的安全問(wèn)題對(duì)人工智能的發(fā)展起著重要的作用，我們可以采取一定的措施來(lái)防止人工智能安全問(wèn)題的發(fā)生。解決好人工智能安全問(wèn)題不僅可以消除人工智能應(yīng)用面臨的安全隱患，而且可以對(duì)人工智能的運(yùn)行進(jìn)行管理和有效監(jiān)控。

3.1 解決好網(wǎng)絡(luò)安全的問(wèn)題

為了解決網(wǎng)絡(luò)安全問(wèn)題，人工智能的研發(fā)工作和實(shí)驗(yàn)工作可以在安全穩(wěn)定的網(wǎng)絡(luò)環(huán)境中進(jìn)行。網(wǎng)絡(luò)安全防護(hù)強(qiáng)調(diào)人、物、策略三位一體。不僅要保護(hù)物理網(wǎng)絡(luò)的安全，而且要加強(qiáng)對(duì)網(wǎng)絡(luò)管理和維護(hù)人員的管理，持續(xù)優(yōu)化網(wǎng)絡(luò)管理策略。定期調(diào)查網(wǎng)絡(luò)安全隱患，修補(bǔ)網(wǎng)絡(luò)安全漏洞，加強(qiáng)網(wǎng)絡(luò)安全日常管理，完善網(wǎng)絡(luò)安全體系和人工智能網(wǎng)絡(luò)安全體系。善于使用各種技術(shù)手段加強(qiáng)網(wǎng)絡(luò)安全，對(duì)硬件防火墻、IPS、 IDS等網(wǎng)絡(luò)安全設(shè)備加強(qiáng)系統(tǒng)補(bǔ)丁和漏洞管理，通過(guò)各種網(wǎng)絡(luò)管理和功能軟件，定期對(duì)端口策略、底層防御策略進(jìn)行調(diào)整，并不斷優(yōu)化網(wǎng)絡(luò)安全閉環(huán)管理的方式。

3.2 加強(qiáng)人工智能應(yīng)用領(lǐng)域監(jiān)管

人工智能的應(yīng)用和發(fā)展必須遵循社會(huì)發(fā)展規(guī)律，以維護(hù)社會(huì)公共安全穩(wěn)定為前提，避免產(chǎn)生不良影響。每個(gè)專業(yè)領(lǐng)域都有權(quán)利去研究和應(yīng)用人工智能技術(shù)，但是，當(dāng)相關(guān)領(lǐng)域人員想要研究并應(yīng)用人工智能時(shí)，必須向政府相關(guān)監(jiān)管部門(mén)報(bào)備和定期報(bào)告，取得必要的授權(quán)和許可，以確保人工智能技術(shù)的應(yīng)用不會(huì)對(duì)社會(huì)甚至人類產(chǎn)生致命威脅，然后才能進(jìn)行相應(yīng)的研究和應(yīng)用工作。由于人工智能在計(jì)算速度、計(jì)算能力和標(biāo)準(zhǔn)化方面優(yōu)于人類，因此，在體育競(jìng)賽領(lǐng)域，它可以實(shí)現(xiàn)超越人類的思考能力，例如下棋等。人工智能技術(shù)還可以幫助提升人類的運(yùn)動(dòng)潛能，但與此同時(shí)，在競(jìng)技體育過(guò)程中應(yīng)避免過(guò)度被使用，因?yàn)椋@阻礙了游戲的公平性和正義性。

3.3 加強(qiáng)人工智能安全評(píng)估與管理

近年來(lái)，人工智能的發(fā)展突飛猛進(jìn)，加強(qiáng)人工智能的安全性評(píng)估也是對(duì)未來(lái)可能產(chǎn)生的危害以及危害程度的一種必要工作。相關(guān)研究和監(jiān)管機(jī)構(gòu)應(yīng)不斷加強(qiáng)評(píng)價(jià)技術(shù)手段，嚴(yán)格完成評(píng)價(jià)工作。特別是要加強(qiáng)對(duì)人工智能算法和程序的測(cè)試，確保它們?cè)趹?yīng)用過(guò)程中不會(huì)影響人類自身安全。根據(jù)安全試驗(yàn)數(shù)據(jù)，構(gòu)建人工智能產(chǎn)品的評(píng)價(jià)模型和仿真機(jī)制，通過(guò)概率統(tǒng)計(jì)預(yù)測(cè)可能發(fā)生的危險(xiǎn)行為，并在相關(guān)危險(xiǎn)發(fā)生時(shí)制定應(yīng)急預(yù)案。同時(shí)，應(yīng)加快人工智能培訓(xùn)師和維護(hù)人員隊(duì)伍建設(shè)，從源頭和使用過(guò)程對(duì)人工智能安全進(jìn)行管理和監(jiān)督，最大限度地減少危險(xiǎn)事故的發(fā)生。對(duì)于人工智能公共安全領(lǐng)域的事故，要做到零容忍，對(duì)信息處理和智能應(yīng)用的全過(guò)程進(jìn)行有效監(jiān)督。人工智能行業(yè)協(xié)會(huì)應(yīng)發(fā)揮積極作用，需要建立政府和企業(yè)之間的溝通機(jī)制，制定統(tǒng)一的人工智能安全行業(yè)標(biāo)準(zhǔn)，讓全行業(yè)有標(biāo)準(zhǔn)規(guī)劃可遵循并按照標(biāo)準(zhǔn)規(guī)劃開(kāi)展工作[3]。

4 結(jié)束語(yǔ)

近年來(lái)，人工智能技術(shù)有了質(zhì)的飛躍，取得了突破性進(jìn)展。當(dāng)前，人工智能技術(shù)仍將不斷發(fā)展，隨著人工智能的出現(xiàn)和發(fā)展，應(yīng)用人工智能的行業(yè)也越來(lái)越多，如軍工、服務(wù)業(yè)、驅(qū)動(dòng)產(chǎn)業(yè)等。隨著人工智能在這些行業(yè)的應(yīng)用，各種安全問(wèn)題不斷出現(xiàn)和增加。同樣，隨著人工智能算法和應(yīng)用場(chǎng)景的不斷改進(jìn)，人工智能訓(xùn)練水平的提高，讓人們享受到了帶來(lái)的各種便利，減少了重復(fù)性工作。