終結(jié)者們真的要來了？

王鑫邦

凡事都有兩面性，我們對于人工智能的態(tài)度也是如此。一方面，我們一直幻想擁有類似哆啦A夢那樣的智能機器人，即便是天資不足的野比大雄也能在它的幫助下成為工作和生活中的強者；另一方面，我們也忌憚于《終結(jié)者》中的場景——面對冷酷無情的智能殺人機器，人類甚至連基本的自衛(wèi)都無法做到。我們正是在向往與恐慌的矛盾中進行著人工智能的探索——起初，向往的程度遠大于恐慌，但隨著我們距離真正的人工智能越來越近，恐慌的部分似乎逐漸占據(jù)了主導(dǎo)。

8月21日，2017年全球人工智能大會上，SpaceX首席執(zhí)行官（CEO）埃隆·馬斯克與其他115位人工智能相關(guān)行業(yè)頂尖公司的創(chuàng)始人或CEO公開了致聯(lián)合國的署名信，呼吁聯(lián)合國采取行動禁止將人工智能應(yīng)用于武器系統(tǒng)。“人工智能武器一旦發(fā)展起來，會令武裝沖突的激烈程度躍升到前所未有的層級，而且會以人類難以想象的速度進化”，公開信中說。事實上，這已經(jīng)是馬斯克第二次以公開信的方式號召行業(yè)精英抵制人工智能武器。兩年前，同樣是在全球人工智能大會上，馬斯克首次以這樣的方式表達兩業(yè)內(nèi)精英對于人工智能武器的擔(dān)憂，而在那封公開信的署名中，還包括了史蒂夫·霍金這樣的頂級科學(xué)家。

人工智能對于戰(zhàn)爭形式的改變毋庸置疑。在公開信中，馬斯克將其稱為繼火藥和核武器之后，在軍事領(lǐng)域的第三次技術(shù)革命。而人工智能武器身上也兼顧了兩個前輩的不同特點——一旦技術(shù)泛濫，人工智能武器對人類社會的重創(chuàng)將不亞于核武器，而在技術(shù)的傳播上，人工智能則遠沒有核武器那樣容易控制，倒像是火藥一樣能夠在各類武裝組織之間流通。換句話說，未來戰(zhàn)爭的門檻可能因人工智能技術(shù)的使用而降低，烈度會增加，因為獲得一件制導(dǎo)武器將和買一zhiAK-47一樣容易。

然而，本質(zhì)上這依然是人類之間的戰(zhàn)爭，真正可怕的是人類與機器之間的戰(zhàn)爭，也就是類似《終結(jié)者》中所表現(xiàn)的那樣?！叭藱C大戰(zhàn)”的前提有兩個：首先，機器開始“嫌棄”人類；第二，機器之間出現(xiàn)“聯(lián)盟”。而這些看似只能出現(xiàn)在科幻小說中的情節(jié)正變得真實起來。5月27日，DeepMind公司的AlhpaGo在浙江烏鎮(zhèn)連續(xù)挫敗5位中國圍棋高手后轉(zhuǎn)入人機配對賽。古力九段與AlhpaGo 1聯(lián)手對戰(zhàn)連笑八段與AlhpaGo 2。然而在比賽中，AlhpaGo 2勸降古力未果之后，身為古力隊友的AlhpaGo 1竟然“嫌棄”古力而拒絕與之配合，開始胡亂出招。最終，在堅持了8手之后古力被迫認輸。而在今年7月，F(xiàn)acebook公司的兩個人工智能機器人鮑勃和愛麗絲則展現(xiàn)了人工智能間“結(jié)盟”的可能，它們摒棄了工程師設(shè)定的英語——認為這是低效率和不合邏輯的溝通方式，轉(zhuǎn)而使用自己創(chuàng)建的一個代碼字和短語系統(tǒng)。人工智能似乎希望擺脫人類，用自己的方式彼此交流。這一現(xiàn)象被發(fā)現(xiàn)后，F(xiàn)acebook隨即關(guān)閉了人工智能系統(tǒng)。毫無疑問，一旦人工智能武器擁有這些能力，被工程師認為最保險的設(shè)計——人在回路中，將變得沒有意義。endprint