人工智能安全發(fā)展問(wèn)題研究

摘?要：機(jī)遇往往伴隨著挑戰(zhàn)，人工智能技術(shù)發(fā)展的同時(shí)也帶來(lái)了人工智能安全問(wèn)題，在這場(chǎng)全球技術(shù)革新的競(jìng)爭(zhēng)中，能否掌握話語(yǔ)權(quán)和主導(dǎo)權(quán)，更取決于了解、認(rèn)識(shí)和應(yīng)對(duì)“人工智能安全”問(wèn)題的程度和水平。

關(guān)鍵詞：人工智能;安全發(fā)展;應(yīng)對(duì)挑戰(zhàn)

人類歷史上任何一場(chǎng)科技革命，都不同程度影響著人們生產(chǎn)生活方式的改變，尤其是科學(xué)技術(shù)在戰(zhàn)爭(zhēng)領(lǐng)域的應(yīng)用，更是推動(dòng)了世界格局的重塑。人工智能（AI）技術(shù)的發(fā)展，同樣昭示人類下一場(chǎng)科技革命即將到來(lái)。

一、人工智能安全發(fā)展現(xiàn)狀

（一）人工智能發(fā)展與安全在高速前進(jìn)中相生相滅

在整個(gè)人工智能發(fā)展過(guò)程中，人工智能安全就是人工智能賴以行駛的軌道。目前人工智能整體處在競(jìng)爭(zhēng)上升期，發(fā)展長(zhǎng)遠(yuǎn)規(guī)劃、應(yīng)用規(guī)模層次上缺少確切規(guī)范約束控制。

人類腦科學(xué)研究沒(méi)有破解之前，人工智能控制權(quán)掌握在電腦系統(tǒng)手里。一些由于認(rèn)識(shí)水平和制造能力帶來(lái)的安全問(wèn)題和薄弱環(huán)節(jié)，就很容易降低安全防御能力引發(fā)嚴(yán)重后果。

比如，人工智能傳感器可能被干擾;系統(tǒng)可能被劫持，數(shù)據(jù)的泄露、篡改“污染”可能“教壞”智能機(jī)器人的學(xué)習(xí)認(rèn)知;人工智能軟件漏洞可能被黑客利用。

（二）廣泛的應(yīng)用導(dǎo)致安全影響更深遠(yuǎn)

未來(lái)人工智能技術(shù)在國(guó)防和社會(huì)基礎(chǔ)設(shè)施等關(guān)系國(guó)家安全發(fā)展的關(guān)鍵領(lǐng)域上的運(yùn)用值得關(guān)注。

1.人類倫理道德日益面臨來(lái)自人機(jī)交互的挑戰(zhàn)

人工智能高速發(fā)展越發(fā)強(qiáng)大，已不能停留在機(jī)器三定律認(rèn)識(shí)水平上，人工智能如何負(fù)面影響人的具體細(xì)節(jié)的內(nèi)容并沒(méi)有細(xì)化，而它潛在對(duì)人大腦思維學(xué)習(xí)進(jìn)化和倫理道德帶來(lái)巨大挑戰(zhàn)威脅日益劇增。

2.法律發(fā)展滯后難以對(duì)智能安全風(fēng)險(xiǎn)

雖然在短期內(nèi)人工智能存在的安全風(fēng)險(xiǎn)還處于可控范圍，隨著應(yīng)用領(lǐng)域范圍日益擴(kuò)展，具有高度自主性的無(wú)人智能沖擊傳統(tǒng)行業(yè)原則和法律框架，尤其是責(zé)任的認(rèn)定更加困惑，以往法律條款需要重新商榷和完善。

二、如何看待人工智能安全問(wèn)題

（1）以犧牲長(zhǎng)遠(yuǎn)利益來(lái)盲目追逐人工智能技術(shù)的發(fā)展和經(jīng)濟(jì)效益，這種觀點(diǎn)，具體的做法表現(xiàn)為把人工智能技術(shù)價(jià)值局限于商品，不遵循事物本身成長(zhǎng)規(guī)律不計(jì)資源代價(jià)失衡的去開(kāi)發(fā)，去創(chuàng)造更高利益，涸澤而漁，不注重人工智能自身健康，忽視安全問(wèn)題和其他事物之間的共生可持續(xù)發(fā)展。

（2）“人工智能威脅論”。人工智能的快速發(fā)展終會(huì)替代人類，即使有益于人類、替代以往反復(fù)低效能的應(yīng)用也被認(rèn)為不可。這種觀點(diǎn)主要是對(duì)人工智能缺乏全面認(rèn)識(shí)。問(wèn)題的關(guān)鍵在于人工智能能否具備智力和能力，為人類服務(wù)，并健康存在。

我認(rèn)為，智能安全風(fēng)險(xiǎn)伴隨人工智能客觀存在。有限的分層次合理的開(kāi)發(fā)，平衡人工智能發(fā)展和安全的矛盾，就可以防控在危害人類生存利益最低范圍之內(nèi)。

三、人工智能安全的發(fā)展趨勢(shì)

國(guó)家安全方面，“對(duì)國(guó)家安全帶來(lái)深刻改變的顛覆性技術(shù)”，人工智能賦能，突破常規(guī)管控極難，濫用門檻進(jìn)一步降低，容易落入極端組織和犯罪團(tuán)伙之手。近年在政治選舉中出現(xiàn)的利用大數(shù)據(jù)和社交平臺(tái)部署“機(jī)器水軍”達(dá)成“選舉”的行為，彰顯出新的政治安全風(fēng)險(xiǎn)。

軍事安全方面，一方面，越來(lái)越多的國(guó)家試圖研發(fā)“智能化致命性武器”，越來(lái)越容易獲得這種超時(shí)距的“遠(yuǎn)程精確打擊能力”機(jī)器人事件可能不再停留在科幻。另一方面，個(gè)別國(guó)家或非國(guó)家實(shí)體可能和商業(yè)公司共同開(kāi)發(fā)工業(yè)機(jī)器人轉(zhuǎn)化用于實(shí)戰(zhàn)。

社會(huì)安全方面，人工智能技術(shù)的創(chuàng)新使用不斷突破現(xiàn)有法律規(guī)范和道德倫理的限制，帶來(lái)多維安全挑戰(zhàn)。一是智能機(jī)器對(duì)傳統(tǒng)人工的替代，直接給本來(lái)就存在就業(yè)壓力的發(fā)達(dá)國(guó)家?guī)?lái)社會(huì)風(fēng)險(xiǎn)。二是物聯(lián)網(wǎng)技術(shù)讓大量個(gè)人隱私直接暴露給智能設(shè)備。三是人為編寫(xiě)的軟件與算法，智能產(chǎn)品成為安全攻擊新的突破口。

四、應(yīng)對(duì)人工智能安全挑戰(zhàn)應(yīng)解決的幾個(gè)問(wèn)題

（一）技術(shù)儲(chǔ)備

一是在中央控制系統(tǒng)加大安全防御部分，軟件架構(gòu)上加強(qiáng)系統(tǒng)安全性和保密性、開(kāi)發(fā)設(shè)計(jì)算法安全，加快建立新一代人工智能關(guān)鍵共性技術(shù)體系，增強(qiáng)人工智能科技創(chuàng)新，確保關(guān)鍵核心技術(shù)牢牢掌握在自己手里。建議通過(guò)產(chǎn)業(yè)政策和組織管理措施，引導(dǎo)研究人工智能產(chǎn)品和應(yīng)用的安全評(píng)估評(píng)測(cè)技術(shù)，建立人工智能安全實(shí)驗(yàn)室、積累智能安全數(shù)據(jù)，全壽命檢測(cè)評(píng)估。

二是在一些直接影響國(guó)民安全的關(guān)鍵領(lǐng)域中，例如醫(yī)療、金融、交通和教育等，在這些領(lǐng)域內(nèi)，建議建立人工智能應(yīng)用的準(zhǔn)入審查機(jī)制，劃分出安全防護(hù)等級(jí)，加強(qiáng)人工智能算法及應(yīng)用的安全性、可控性和透明性的審查。加速安全標(biāo)準(zhǔn)由人工智能專用領(lǐng)域向通用領(lǐng)域統(tǒng)一。

（二）創(chuàng)建新人機(jī)安全環(huán)境

當(dāng)前一方面鼓勵(lì)人工智能產(chǎn)業(yè)的發(fā)展，一方面防范智能安全風(fēng)險(xiǎn)，必須時(shí)刻注意平衡，避免造成過(guò)度限制人工智能或者降低人工智能安全關(guān)注。

一是專業(yè)組織管理、開(kāi)設(shè)課程專業(yè)衍生或者細(xì)化組織分工或者部門履行職能（例如IAAIL國(guó)際人工智能和法律協(xié)會(huì)）。建議建立人工智能主干學(xué)科及其二級(jí)學(xué)科，加快研究具體安全規(guī)范機(jī)制，包括研究出臺(tái)相關(guān)法律法規(guī)，界定人工智能應(yīng)用。

二是用好交流平臺(tái)，化解技術(shù)壁壘，應(yīng)對(duì)新情況、新矛盾。開(kāi)展人工智能倫理道德探討，約束人工智能研究與實(shí)際應(yīng)用的原則、范圍和界限。禁止用于危害人類安全的應(yīng)用作為國(guó)際公約原則并防止智能壟斷。

三是推動(dòng)互利共贏責(zé)任擔(dān)當(dāng)?shù)娜蛑卫怼Ｄ壳翱?，發(fā)達(dá)國(guó)家通過(guò)率先起步的人工智能技術(shù)創(chuàng)新控制了產(chǎn)業(yè)鏈優(yōu)質(zhì)資源，同時(shí)嚴(yán)格的技術(shù)封鎖和產(chǎn)業(yè)壁壘使得進(jìn)一步拉大“南北差距”。在發(fā)展中國(guó)家陣營(yíng)中，我國(guó)最有希望望領(lǐng)跑全球人工智能競(jìng)賽，未來(lái)應(yīng)當(dāng)布局建立更加聯(lián)合開(kāi)放、低成本高收益、普及全球的人工智能技術(shù)開(kāi)發(fā)和操作系統(tǒng)，積極配合習(xí)主席倡導(dǎo)的“一帶一路”建設(shè)，讓“人工智能鴻利”助力共同構(gòu)建人文和諧和現(xiàn)代化文明環(huán)繞的人類命運(yùn)共同體。

參考文獻(xiàn)：

[1][美]尼古拉.尼葛洛龐帝.胡泳，范海燕，譯.數(shù)字化生存[M].電子工業(yè)出版社，2017.

[2]吳世忠.對(duì)新一代人工智能發(fā)展與安全問(wèn)題的思考[J].中國(guó)信息安全，2018（06）：62-64.

[3]譚鐵牛.人工智能的歷史、現(xiàn)狀和未來(lái)[J].奮斗，2019（05）.

[4]人工智能與未來(lái)法治構(gòu)建.上海倡議，2018.9.

[5]嚴(yán)望佳.關(guān)于規(guī)范人工智能安全健康發(fā)展的提案[C]?2019.3.

作者簡(jiǎn)介：蔡永哲（1989-），男，河南漯河人，2018級(jí)軍事碩士研究生，研究方向：軍事后勤。