應(yīng)對人工智能武器說不

當(dāng)?shù)貢r間7月18日，美國參謀長聯(lián)席會議副主席保羅·塞爾瓦上將在國會聽證會上提出警告，人工智能武器會讓人失去作戰(zhàn)控制能力，甚至最終反制人類！

聯(lián)想到此前諸多知名人士對人工智能潛在危險的預(yù)測，塞爾瓦將軍的警告不應(yīng)被忽視。而出于防患于未然之目的，各國應(yīng)毫不猶豫地對人工智能武器說不。

人類或不是人工智能的對手。2016年，人工智能程序AlphaGo以4：1的懸殊比分擊敗韓國圍棋第一人李世石；2017年，在與AlphaGo的對決中，排名世界第一的天才棋手柯潔三戰(zhàn)皆負(fù)。日本電氣

通信大學(xué)助教伊藤毅志認(rèn)為，AlphaGo“完全達(dá)到了超越人類的水平”。在4月于北京召開的2017年全球移動互聯(lián)網(wǎng)大會上，著名物理學(xué)家史蒂芬·霍金通過視頻致開幕詞強(qiáng)調(diào)，“我認(rèn)為生物大腦能實(shí)現(xiàn)的東西和計算機(jī)能實(shí)現(xiàn)的東西之間不存在真正的差別”，而“受限于緩慢的生物進(jìn)化，人類無法與人工智能競爭并可能被其取代”。事實(shí)上，早在三年前，霍金就曾對英國廣播公司表示，發(fā)展全面的人工智能可能導(dǎo)致人類的毀滅。美國特斯拉汽車公司創(chuàng)始人埃隆·馬斯克也形容人工智能是“惡魔”，“如果要我猜人類最大的生存威脅是什么，我想那就是人工智能”。

人工智能武器可能超出人類控制。人工智能武器屬自主系統(tǒng)，而自主系統(tǒng)是人類所創(chuàng)造的極為復(fù)雜的自適應(yīng)系統(tǒng)，其能通過大數(shù)據(jù)支持和反復(fù)自我學(xué)習(xí)持續(xù)提高判斷、決策能力。正如AlphaGo之父杰米斯·哈薩比斯所言“AlphaGo不僅僅只是模仿其他人類選手的下法，而且還在不斷創(chuàng)新”。很顯然，變得日益聰明、自信的人工智能武器，可能在未接收操作手指令的情況下“為所欲為”，自行選擇目標(biāo)，自主實(shí)施攻擊，使得戰(zhàn)場指揮員難以對其實(shí)施干預(yù)，更談不上有效的指揮控制了。而超出控制的戰(zhàn)場作戰(zhàn)力量通常會產(chǎn)生意想不到的嚴(yán)重后果。

人工智能武器易于擴(kuò)散。與防核武器擴(kuò)散僅需控制住易裂變材料鈾、钚的生產(chǎn)與轉(zhuǎn)移形成鮮明對比，部分人工智能武器體積小，成本低，便于大規(guī)模制造，可通過多種渠道流通。據(jù)報道，在敘利亞戰(zhàn)場上已出現(xiàn)由商用無人機(jī)攜帶榴彈實(shí)施攻擊的案例。因此，在人工智能武器功能尚未強(qiáng)大到令人恐懼的程度之前，形成一套禁止將人工智能用于武器的國際規(guī)范，對于阻遏人工智能軍備競賽，避免出現(xiàn)人工智能武器反制人類、毀滅人類的前景是十分必要的，也是極具前瞻性的舉措。