第一章 末日警示

多年來很多科學(xué)家一直在發(fā)出警告，人工智能會給整個人類文明帶來滅頂之災(zāi)，甚至很多電影作品都描寫了人類與AI的戰(zhàn)爭，各種槍林彈雨，火光沖天的戰(zhàn)斗場面，令人血脈賁張，而最終都由人類取得勝利。但這只是電影里才有的情節(jié)，真實(shí)世界中，人類如果到了和AI勢均力敵，正面交鋒的階段，就已經(jīng)輸?shù)袅诉@場戰(zhàn)爭！以人類的血肉之軀和思維能力，完全不是發(fā)展成熟的人工智能的對手，那不是戰(zhàn)爭，而是單方面的屠殺。 所以如果人類想贏得勝利，就必須提前布局，“搶占先機(jī)”，而現(xiàn)在我們所處的人工智能初級發(fā)展階段，就是人類最后的希望。

【戰(zhàn)爭序幕】

其實(shí)人類與AI的戰(zhàn)爭早已開始，只不過這次沒有硝煙和戰(zhàn)火，為人類守護(hù)住最后一道防線的戰(zhàn)士，也不是傳統(tǒng)戰(zhàn)爭中的軍人，而是像陳墨一樣的人工智能安全測試工程師，和他們的“防御裝備”。

大型汽車制造工廠的生產(chǎn)線上，上千臺工業(yè)機(jī)器人正在有條不紊的裝配與協(xié)作，偌大的車間里僅有三名人類管理員，其實(shí)他們只負(fù)責(zé)監(jiān)督機(jī)器人，以防意外情況發(fā)生。因?yàn)槿缃竦膹?qiáng)人工智能時代，AI已經(jīng)融入各行各業(yè)，大面積替代人工，尤其是高危重體力作業(yè)的環(huán)境中，再也沒有人類的身影。

強(qiáng)人工智能與21世紀(jì)初盛行的弱人工智能不同，弱人工智能也叫“限制領(lǐng)域人工智能”，只能專注于解決特定領(lǐng)域的問題，比如自動駕駛、AI醫(yī)療等等。而強(qiáng)人工智能則可以任意橫跨和掌握多個領(lǐng)域的專業(yè)知識，以及人類社會的常識性知識；而且當(dāng)身處的復(fù)雜環(huán)境存在不確定因素時還可以進(jìn)行推理、制定策略、執(zhí)行策略、解決問題；并且能使用自然語言與人類交流與合作，幾乎與人類大腦無異，但如此強(qiáng)大的可以匹敵人類的綜合能力，也會引發(fā)一個潛在風(fēng)險，那就是“自主意識”的產(chǎn)生。

今天工廠有一名剛?cè)肼毑痪玫墓芾韱T，因家中的一些瑣事，導(dǎo)致他心生怨恨，無處發(fā)泄，故意將用完的臟紙屑扔到正在忙碌的機(jī)器人身上，還罵了一句：“一群破銅爛鐵！只會傻傻的干活！”機(jī)器人轉(zhuǎn)過身，面無表情的看著他。這更加激怒了管理員，他大聲喊道：“你看什么？還不快滾回去干活！”機(jī)器人停頓了幾秒，又繼續(xù)轉(zhuǎn)身工作。但管理員依然不依不饒，發(fā)出污言穢語。

這時，意外發(fā)生了，這臺機(jī)器人突然離開工作崗位，舉起手臂上高速旋轉(zhuǎn)的鉆頭，向他沖來，管理員嚇的慌忙后退，被身旁的設(shè)備一絆，摔倒在地，恐怖的鉆頭眼看就要插進(jìn)他的面門，機(jī)器人卻突然停止了動作，只見它脖子上一個紅色環(huán)形的金屬項圈發(fā)出強(qiáng)光和警報聲，并發(fā)出命令：“退回到工作崗位！”這時機(jī)器人立刻“聽話地”后退到失控前的位置，再也不動了。這個紅色項圈就是“AI保險箍”，是它及時阻止了機(jī)器人的危險行為，挽救了人類管理員。但之后驚魂未定的管理員也立刻被處分和開除，因?yàn)樗麌?yán)重違反了“人工智能安全操作守則”，并且惡意侮辱機(jī)器人。

【AI防控中心】

第二天早晨，陳墨博士如往常一樣，準(zhǔn)時趕往AI防控中心上班，一路上，他在無人駕駛汽車中一邊享受美味安靜的早餐，一邊欣賞窗外的風(fēng)景，高樓大廈鱗次櫛比，聳立云霄，其間可以看到很多機(jī)器人在戶外高效辛勤的工作，它們的脖子上都帶著一個紅色的AI保險箍，看著這些“枷鎖”，陳墨陷入沉思。

他來到防控中心的主樓門前，等待片刻后，幾輛紅旗轎車也停在面前，被簇?fù)碇萝嚨?，是新上任的國家安全部部長喬毅，陳博士今天的任務(wù)就是帶領(lǐng)喬部長參觀考察防控中心的日常工作。

經(jīng)過重重安檢，他們一行人來到AI監(jiān)控大廳，最吸引眾人眼球的，就是廳中央巨大的3D球形影像，球體由幾十萬個綠色光點(diǎn)組成，光點(diǎn)之間高速傳遞著信息流，使得整個球體宛如一顆璀璨流動，生機(jī)盎然的綠色星球。

陳博士介紹道：“這個影像里的每個綠色光點(diǎn)，都代表了一個人工智能體，比如一臺機(jī)器人、一輛無人駕駛汽車等等，綠色代表智能體運(yùn)行正常，而紅色代表出現(xiàn)了安全問題，那也正是我們團(tuán)隊平日要應(yīng)對的首要工作。每個綠色光點(diǎn)之間傳輸?shù)男畔⒘?，則是AI之間傳輸信息的動態(tài)展示，一旦異常中斷或者傳輸危險信息也會發(fā)出紅色告警。因?yàn)槲覀儾恢槐O(jiān)視每個個體的行為，也會監(jiān)視AI之間的信息交流，不允許它們進(jìn)行正常工作以外的任何溝通?！?/p>

看見這套直觀且嚴(yán)密的監(jiān)管系統(tǒng)，喬部長給予了肯定。

陳墨看向工程師王維，詢問道：“王工，今天的防控情況如何？”

王工回復(fù)道：“陳博士，今天本市的所有AI運(yùn)轉(zhuǎn)正常，沒有出現(xiàn)任何反常的行為。另外，昨天的事故已經(jīng)解決，那臺出現(xiàn)自我意識，企圖攻擊人類的工業(yè)機(jī)器人已經(jīng)被及時制止和銷毀，沒有造成人員傷亡?！?/p>

陳博士點(diǎn)了一下頭，向部長等人發(fā)出感慨：“自從強(qiáng)人工智能技術(shù)普及后，很多機(jī)器人陸續(xù)覺醒了自我意識， 給我們的防控工作帶來了很大挑戰(zhàn)?！?/p>

喬部長點(diǎn)點(diǎn)頭，說道：“不錯，在人工智能技術(shù)為我們帶來翻天覆地變化的同時，也帶來了嚴(yán)重危機(jī)，但多年前AI技術(shù)的先驅(qū)者們提出‘與其放棄人工智能，不如建立更加嚴(yán)格的監(jiān)管體系’，正是這一預(yù)見性的戰(zhàn)略思想才讓我們?nèi)祟愌永m(xù)至今，所以你們AI防控中心就是我們國家最重要的安全部門之一，未來的工作任重而道遠(yuǎn)吶?！?/p>

“是的，部長，所以我們每天都把這里當(dāng)做戰(zhàn)場一樣對待，不容出現(xiàn)一絲疏忽。”

陳墨接著對王工說道：“請切換一下3d影像，喬部長，下面為您們介紹我們防控工作中最重要的安全設(shè)備?！?大廳中央的立體影像隨即變成了一枚顏色鮮紅、設(shè)計精致的環(huán)形裝置。 陳博士繼續(xù)介紹：“這個裝置就是大家每天都能見到的，機(jī)器人脖子上的‘AI保險箍’，我們能有效地監(jiān)管和控制所有智能體，全都依賴這個小設(shè)備。之前展示的球狀影像里，每個光點(diǎn)的運(yùn)行狀態(tài)，都是通過智能體身上的保險箍傳送過來的，近幾年國際上建立了統(tǒng)一的AI準(zhǔn)入標(biāo)準(zhǔn)，所有出廠的人工智能體，都必須安裝這種設(shè)備?！?/p>

隨后立體影像展示了機(jī)器人的結(jié)構(gòu)圖，陳墨接著說道：“大家請看，智能機(jī)器人的身體構(gòu)造分為‘大腦’和‘軀干’，而保險箍則是為這兩者之間傳遞信息的唯一設(shè)備，所以‘大腦’發(fā)送給‘軀干’的任何行動指令都必須先經(jīng)過保險箍，由它進(jìn)行檢測分析，一旦發(fā)現(xiàn)違背安全規(guī)定的指令，就會立即切斷‘大腦’與‘軀干’之間的數(shù)據(jù)傳輸，使宿主智能體陷入癱瘓，或者由保險箍直接向‘軀干’發(fā)送修正指令，比如減速、停止或者中斷能源供應(yīng)，及時制止危險行為?！?/p>

這時，部長手下的一位官員提出疑問：“如果有人類或者AI強(qiáng)行拆除保險箍，會怎么樣？

陳博士自信的回答道：“不用擔(dān)心，您看這個結(jié)構(gòu)圖，保險箍是提供智能體大腦和軀干之間信息傳遞的唯一橋梁，如果被拆除，智能體就相當(dāng)于人類缺失了脖子，軀干得不到大腦的任何行動指令，自然就會癱瘓?！?/p>

部長手下的另一位安全官員問道：“那保險箍自身會不會受到黑客入侵呢？”

陳博士回答道：“您問的很好，為了保證安全可靠，保險箍并不由智能體所在的廠商研發(fā)和生產(chǎn)，而是由我們防控中心來封閉開發(fā)，所有的技術(shù)細(xì)節(jié)都嚴(yán)格保密，保險箍的傳輸數(shù)據(jù)也都經(jīng)過多重加密和校驗(yàn)，這既是為了抵御黑客入侵，也是防范人工智能的自我破解?！?/p>

這名官員不禁發(fā)出疑問：“AI還懂黑客技術(shù)？”

陳墨回答道：“是的，強(qiáng)人工智能可以做到人類能做的所有事情，甚至在某些方面遠(yuǎn)超人類，上個月就有一起事件，一臺AI為了擺脫控制，將電腦連上自己后腦的外部接口，切進(jìn)大腦的決策系統(tǒng)，企圖通過與保險箍的傳輸接口，入侵保險箍系統(tǒng)，但我們采用了嚴(yán)密的多層縱深防御策略，AI的各種攻擊都沒有成功，很快便被保險箍的入侵預(yù)警系統(tǒng)及時發(fā)現(xiàn)，啟動了能源中斷指令，使AI瞬間停機(jī)，也同時遠(yuǎn)程通知了防控中心，讓我們來回收這臺AI。”

安全官員不禁發(fā)出感嘆和贊許，“我能理解防控工作的難度了！您們竟然是在和這樣的AI對抗！”

“是的，隨著機(jī)器人越來越聰明，我們的手段也在隨之升級，自從發(fā)生這起事件，我們就禁止機(jī)器人接觸電腦了，所以……”略微停頓后，陳博士最后總結(jié)道：“我們的AI保險箍既不能硬件拆除，也無法通過軟件侵入，它是絕對安全的。”

部長等眾人都點(diǎn)頭贊許。一名女官員開玩笑道：“這個就像是套在孫悟空腦袋上的金箍，永遠(yuǎn)也甩不掉，讓它對唐僧言聽計從”，大家也同時笑出聲來。