谷歌員工抗議谷歌卷入戰(zhàn)爭(zhēng)

編譯 西岸

數(shù)千名谷歌員工簽署了一封致首席執(zhí)行官桑達(dá)爾·皮查伊的信函，以抗議谷歌參與一個(gè)美國(guó)國(guó)防部旨在提高無(wú)人機(jī)打擊能力的項(xiàng)目。

數(shù)千名谷歌員工聯(lián)名簽署了一份信函，以抗議谷歌參與美國(guó)國(guó)防部的Maven項(xiàng)目（該項(xiàng)目于2017年開(kāi)始，旨在找到加速軍方應(yīng)用最新AI技術(shù)的方式。預(yù)計(jì)該項(xiàng)目第一年花費(fèi)不到7 000萬(wàn)美元），因該項(xiàng)目旨在利用人工智能解讀視頻圖像，提高無(wú)人機(jī)打擊的精準(zhǔn)度。該信函在谷歌內(nèi)部迅速流傳開(kāi)來(lái)，已有超過(guò)3 100人簽名。

聯(lián)名員工要求谷歌撤出五角大樓的試點(diǎn)項(xiàng)目——Maven，并承諾永遠(yuǎn)不會(huì)發(fā)展戰(zhàn)爭(zhēng)技術(shù)。當(dāng)然，這種理想主義的想法并不是所有谷歌員工都認(rèn)同的。同時(shí)，這樣的聲音顯然也不是國(guó)防部希望聽(tīng)到的?，F(xiàn)任美國(guó)國(guó)防部長(zhǎng)詹姆斯·馬蒂斯（James Mattis）就經(jīng)常說(shuō)：“國(guó)防部發(fā)展的重要目標(biāo)之一就是提高美國(guó)軍隊(duì)的殺傷力?！?/p>

谷歌的辯詞

從創(chuàng)業(yè)早期開(kāi)始，谷歌便鼓勵(lì)員工針對(duì)公司的相關(guān)問(wèn)題自由發(fā)表意見(jiàn)。該公司提供了內(nèi)部論壇等平臺(tái)，員工可以在這些平臺(tái)上就公司的產(chǎn)品和政策向管理層或同事提出意見(jiàn)。

針對(duì)這次事件，谷歌云基礎(chǔ)設(shè)施業(yè)務(wù)主管黛安妮·格林為 Maven 項(xiàng)目辯護(hù)，并試圖安撫相關(guān)員工。盡管五角大樓的視頻分析通常被用于反暴動(dòng)和反恐行動(dòng)，谷歌仍然將Maven項(xiàng)目描述為“非攻擊性”任務(wù)。此外，谷歌和國(guó)防部都表示，谷歌不會(huì)創(chuàng)造出無(wú)需人類(lèi)操作就能開(kāi)火的自主武器系統(tǒng)。而針對(duì)無(wú)人機(jī)視頻進(jìn)一步的分析，只是為了挑選出目標(biāo)并針對(duì)性實(shí)施襲擊。也就是說(shuō)，這將有助于更好地分辨出平民，以減少無(wú)辜者被意外殺害的風(fēng)險(xiǎn)。

此外，谷歌稱(chēng)國(guó)防部使用的是對(duì)任何谷歌云客戶(hù)都開(kāi)放的開(kāi)源目標(biāo)識(shí)別軟件，并且基于未分類(lèi)數(shù)據(jù)。這項(xiàng)技術(shù)用于標(biāo)記圖像，以協(xié)助人工審查，旨在把人力從高度重復(fù)的工作中解放出來(lái)。

谷歌針對(duì)此事發(fā)布了聲明：“機(jī)器學(xué)習(xí)應(yīng)用于軍事導(dǎo)致人們擔(dān)憂(yōu)是很自然的。公司內(nèi)部正積極推進(jìn)，以對(duì)該重要議題進(jìn)行充分討論?！痹撀暶鞣Q(chēng)谷歌在Maven項(xiàng)目中所參與的部分“僅限于非攻擊性”任務(wù)，但官方拒絕提供相關(guān)的合同內(nèi)容。同時(shí)，美國(guó)國(guó)防部稱(chēng)由于谷歌是主承包商ECS Federal在Maven項(xiàng)目的分包商，它不能提供谷歌合同或合同內(nèi)容。ECS Federal尚未回應(yīng)該事件。

谷歌部分高管和國(guó)防部有密切聯(lián)系。該公司前執(zhí)行董事長(zhǎng)埃里克·施密特（Eric Schmidt，目前仍是谷歌母公司Alphabet的執(zhí)行董事會(huì)成員）為國(guó)防部顧問(wèn)團(tuán)——國(guó)防創(chuàng)新委員會(huì)（Defence Innovation Board）的成員，谷歌副總裁米羅·麥?。∕ilo Medin）也是該顧問(wèn)團(tuán)成員。

在2017年11月的一個(gè)采訪中，埃里克·施密特承認(rèn)：“內(nèi)部員工普遍擔(dān)心軍工行業(yè)會(huì)使用他們的成果去傷害人類(lèi)?！彼f(shuō)他將在董事會(huì)中溝通這件事，并且建議軍方“僅使用這些技術(shù)來(lái)幫助保護(hù)國(guó)家安全”。

谷歌這一小部分對(duì)軍事合同感到不安的員工也許并不能對(duì)公司的發(fā)展造成大的障礙。但在人工智能研究領(lǐng)域，谷歌正忙于和其他技術(shù)公司激烈爭(zhēng)奪人才，如果某些候選者不滿(mǎn)谷歌的說(shuō)辭，那將會(huì)對(duì)谷歌的招賢納士一事造就麻煩。

多家公司積極爭(zhēng)取為美國(guó)國(guó)防部服務(wù)

谷歌在為此事辯護(hù)的同時(shí)，它的競(jìng)爭(zhēng)對(duì)手也毫不掩飾地宣傳自己的國(guó)防項(xiàng)目。亞馬遜向國(guó)防部大力宣傳其圖像識(shí)別研究成果，而微軟則表示他們就云技術(shù)已經(jīng)與美國(guó)政府簽訂合同，為軍事和國(guó)防機(jī)構(gòu)處理機(jī)密信息。

外界普遍認(rèn)為，目前谷歌正與其他科技巨頭（如亞馬遜和微軟）競(jìng)爭(zhēng)一份為期多年、價(jià)值數(shù)十億美元的國(guó)防部云服務(wù)工作。國(guó)防部首席管理官約翰·吉布森（John Gibson）在2018年3月的一次講話(huà)中曾提到，“聯(lián)合企業(yè)構(gòu)建國(guó)防基礎(chǔ)云設(shè)施”采購(gòu)計(jì)劃的部分目的是“提升殺傷力，并做好準(zhǔn)備”，這其實(shí)凸顯了將軟件、云服務(wù)等相關(guān)服務(wù)與實(shí)際戰(zhàn)爭(zhēng)分開(kāi)的難度。

人工智能應(yīng)用軍事在所難免

考慮到谷歌的歷史和美國(guó)國(guó)防部目前在軍事方面對(duì)AI的強(qiáng)烈需求，前國(guó)防部的官員和《無(wú)人之師》（Army of None）這本書(shū)的作者保羅·沙爾（Paul Scharre）表示，目前的沖突在谷歌內(nèi)部是不可避免的。

華盛頓新美國(guó)安全中心智囊團(tuán)研究員保羅·沙爾說(shuō)：“技術(shù)開(kāi)發(fā)者追求強(qiáng)烈的自由主義精神，對(duì)政府使用相關(guān)技術(shù)的態(tài)度很謹(jǐn)慎。目前，人工智能突然從實(shí)驗(yàn)室走出來(lái)，邁進(jìn)現(xiàn)實(shí)生活，這加劇了人們對(duì)它的擔(dān)憂(yōu)?！?/p>

這一事件反映了硅谷與聯(lián)邦政府之間的文化沖突。隨著人工智能技術(shù)越來(lái)越多地運(yùn)用在軍事領(lǐng)域，這種沖突可能會(huì)愈演愈烈。

資料來(lái)源 New York Times

谷歌員工給桑達(dá)爾的信

親愛(ài)的桑達(dá)爾先生：

我們認(rèn)為谷歌不應(yīng)卷入戰(zhàn)爭(zhēng)。因此，我們請(qǐng)求公司撤銷(xiāo)Maven項(xiàng)目，同時(shí)起草、公布并執(zhí)行一項(xiàng)明確的規(guī)定：谷歌及其合約商永不發(fā)展戰(zhàn)爭(zhēng)科技。

谷歌目前正在實(shí)施Maven項(xiàng)目，這是一個(gè)定制的AI監(jiān)控引擎，它使用美國(guó)政府獲取的廣域運(yùn)動(dòng)圖像來(lái)檢測(cè)汽車(chē)和其他物體并追蹤其運(yùn)動(dòng)，并將檢測(cè)和追蹤結(jié)果提交給美國(guó)國(guó)防部。

最近，谷歌員工在公司內(nèi)部表示了對(duì)Maven項(xiàng)目的擔(dān)憂(yōu)。黛安妮·格林（Diane Greene）在回應(yīng)中保證該技術(shù)不會(huì)在無(wú)人機(jī)上運(yùn)行，也不會(huì)用于武器開(kāi)發(fā)。雖然這否定了直接應(yīng)用，但該技術(shù)還是為軍事用途而開(kāi)發(fā)，一旦交付，就會(huì)發(fā)揮輔助作用。

這一計(jì)劃將對(duì)谷歌的品牌及吸引人才造成不可挽回的損害。隨著對(duì)AI偏見(jiàn)化和武器化的恐懼日益加劇，谷歌爭(zhēng)取用戶(hù)信任的道路已經(jīng)越來(lái)越難走了。而簽署這份協(xié)議，谷歌將加入帕蘭提爾、雷神、通用動(dòng)力等公司的行列。雖然其他大型科技公司如微軟和亞馬遜也參與了這一項(xiàng)目，但這并不會(huì)讓谷歌承擔(dān)的風(fēng)險(xiǎn)變小。谷歌擁有獨(dú)特的歷史，它的座右銘是“不為虎作倀”（Don’t Be Evil），畢竟谷歌直接連接著數(shù)十億用戶(hù)的生活，它肩負(fù)著不一樣的使命。

我們不能把技術(shù)的道德責(zé)任外包給第三方。谷歌宣揚(yáng)的價(jià)值觀清晰地表明：每一位用戶(hù)都賦予了我們信任，請(qǐng)永遠(yuǎn)不要辜負(fù)這一點(diǎn)。這個(gè)合同玷污了谷歌的名譽(yù)，而且與我們的核心價(jià)值觀相違背。發(fā)展一項(xiàng)協(xié)助美國(guó)政府進(jìn)行軍事監(jiān)控的技術(shù)，而該技術(shù)可能造成致命結(jié)果，這是不可接受的。

考慮到谷歌的道德倫理規(guī)范，以及這對(duì)谷歌名譽(yù)的潛在危害，我們請(qǐng)求：

1. 立即取消這一項(xiàng)目。

2. 起草、公布并執(zhí)行一項(xiàng)明確的規(guī)定，聲明谷歌及其合約商永遠(yuǎn)不會(huì)染指軍事技術(shù)。