科學(xué)家談人工智能

方宇寧/編譯

科學(xué)家談人工智能

方宇寧/編譯

英國(guó)BAE系統(tǒng)公司開發(fā)的自動(dòng)化程度極高的無人機(jī)“塔拉尼斯”，但仍然需要人類來為它制定作戰(zhàn)決策

●對(duì)未來機(jī)器人可能存在的風(fēng)險(xiǎn)和擔(dān)憂，四位機(jī)器人學(xué)領(lǐng)域的專家談及了他們的觀點(diǎn)和解決之道。他們分別是伯克利加州大學(xué)計(jì)算機(jī)科學(xué)教授斯圖爾特·拉塞爾（Stuart Russell），英國(guó)布里斯托爾大學(xué)機(jī)器人學(xué)講師薩賓·赫爾特（Sabine Hauert），斯坦福大學(xué)生物醫(yī)學(xué)和計(jì)算機(jī)科學(xué)教授拉斯·奧爾特曼（Russ Altman）和卡內(nèi)基-梅隆大學(xué)計(jì)算機(jī)科學(xué)教授曼努拉·維羅索（Manuela Veloso）。

對(duì)人工智能武器要表明立場(chǎng)

人工智能（AI）和機(jī)器人領(lǐng)域面臨一個(gè)重要的倫理抉擇：對(duì)于致命性自主式武器系統(tǒng)（LAWS），我們應(yīng)該持支持還是反對(duì)態(tài)度？

要不了幾十年，或在未來幾年里，人工智能和機(jī)器人技術(shù)的發(fā)展，將導(dǎo)致LAWS在技術(shù)上的完全可行性——自主式武器系統(tǒng)被稱為自火藥和核武器發(fā)明以來的第三次戰(zhàn)爭(zhēng)革命。

斯圖爾特·拉塞爾

自動(dòng)化武器系統(tǒng)在搜索和瞄準(zhǔn)目標(biāo)時(shí)無需人工干預(yù)，當(dāng)針對(duì)的目標(biāo)包括人類在內(nèi)時(shí)，其殺傷力是致命的。例如，配備了多軸飛行器的LAWS可以自行尋找并攻擊敵方戰(zhàn)斗人員。但巡航導(dǎo)彈和無人機(jī)除外，這類武器還是要由人類來操控的。

現(xiàn)有的人工智能和機(jī)器人組件還可以為諸多功能提供物理平臺(tái)，如感知、運(yùn)動(dòng)控制、導(dǎo)航、測(cè)繪、戰(zhàn)術(shù)決策和規(guī)劃等，LAWS只是集合了這些功能。例如，自動(dòng)駕駛汽車技術(shù)就是一個(gè)很好的證明，包括用于執(zhí)行城市搜索任務(wù)的模擬人類戰(zhàn)術(shù)控制的DeepMind DQN學(xué)習(xí)系統(tǒng)。

美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）的兩個(gè)LAWS項(xiàng)目已在計(jì)劃之中。這兩個(gè)項(xiàng)目分別為“快速輕型自動(dòng)化系統(tǒng)”（FLA）和“孤立環(huán)境下的聯(lián)合作戰(zhàn)系統(tǒng)”（CODE）。前者對(duì)微型旋翼飛行器編程后，可在城市環(huán)境或建筑物內(nèi)部執(zhí)行高速無人飛行任務(wù)；后者是正在開發(fā)的一種空中無人飛行器，可在敵人的信號(hào)干擾或人工通信無法正常進(jìn)行的情況下，完成包括搜索、鎖定、跟蹤、攻擊、評(píng)估反饋等一系列任務(wù)。其他國(guó)家可能也在進(jìn)行一些相類似目標(biāo)的秘密計(jì)劃。

而“國(guó)際人道主義法”——控制人類戰(zhàn)爭(zhēng)時(shí)期攻擊行為的國(guó)際法——并沒有對(duì)此類技術(shù)有任何具體規(guī)定（可能仍然是適用的）。根據(jù)1949年簽訂的日內(nèi)瓦公約規(guī)定，戰(zhàn)爭(zhēng)中任何的人類攻擊性行為必須要滿足以下3個(gè)條件：軍事上的必需性；戰(zhàn)斗人員與非戰(zhàn)斗人員的差別對(duì)待；軍事目標(biāo)與潛在附帶傷害之間價(jià)值的平衡。1977年補(bǔ)充的馬爾頓斯條款，其相關(guān)規(guī)定禁止使用“違反人性和公共良知原則”的武器，一些主觀判斷是當(dāng)前自主式武器很難或無法做出的。

根據(jù)日內(nèi)瓦《特定常規(guī)武器公約》的精神，聯(lián)合國(guó)舉行了一系列關(guān)于LAWS的會(huì)議，未來幾年內(nèi)，可能導(dǎo)致產(chǎn)生一項(xiàng)限制或禁止自主式武器的國(guó)際條約，如1995年禁止激光致盲武器的使用，否則LAWS的發(fā)展有可能因失控而導(dǎo)致軍備競(jìng)賽的不可避免。

在4月份舉行的《特定常規(guī)武器公約》第三次會(huì)議上，我被邀向?qū)＜姨峁┳C詞，并傾聽了一些國(guó)家和非政府組織的發(fā)言，德國(guó)稱將“生與死的決定完全由自主系統(tǒng)決定”是完全無法接受的，日本稱“沒有開發(fā)將人類排除在外機(jī)器人的打算，完全自主的機(jī)器人有可能犯下謀殺罪行。”而美國(guó)、英國(guó)和以色列認(rèn)為沒有必要制定這樣一個(gè)條約，因?yàn)樗麄儸F(xiàn)有的內(nèi)部武器審核流程，足以確保不會(huì)違反相關(guān)的國(guó)際法。

但幾乎所有加入《特定常規(guī)武器公約》的國(guó)家都提出了對(duì)機(jī)器人武器鎖定和攻擊目標(biāo)的決策進(jìn)行“有意義人工控制”的必要性。遺憾的是，“有意義”的定義仍有待確定。

爭(zhēng)議包括多個(gè)方面。一些人認(rèn)為，自主武器擁有效率和選擇性方面的優(yōu)勢(shì)，通過自動(dòng)選擇只針對(duì)戰(zhàn)斗人員，可最大限度減少平民傷亡。其他一些人堅(jiān)持認(rèn)為，LAWS會(huì)降低開戰(zhàn)門檻，在沒有直接面臨危險(xiǎn)的情況下發(fā)起攻擊。另外，LAWS如果掌握在恐怖分子和其他非政府武裝分子手里，可能會(huì)對(duì)平民造成災(zāi)難性的傷亡。

LAWS通過讓機(jī)器來選擇攻擊和殺滅的對(duì)象，有可能違反保持人類尊嚴(yán)的基本原則，例如，它們有可能被指派執(zhí)行這樣的任務(wù)：消滅有“威脅行為”的任何人。

按照LAWS技術(shù)的發(fā)展軌跡，其最終有可能超出人類控制，凌駕于人類之上。這可能是人們最大的擔(dān)心。自主式武器的能力，更多受適用范圍、速度、載荷等物理定律的限制，而非受人工智能缺陷的限制。例如，隨著飛行機(jī)器人體積變得更小，其機(jī)動(dòng)能力的增強(qiáng)具備攜帶致命有效載荷的能力，也許攜帶填裝有1克炸藥的錐形物就能夠刺穿人的頭蓋骨。盡管有限制，自主式武器的靈活性和殺傷力仍然會(huì)將人類置于死地，這樣的未來不是我們想要的。

因此，從事人工智能和機(jī)器人領(lǐng)域的科學(xué)家有責(zé)任表明立場(chǎng)，正如當(dāng)年物理學(xué)家對(duì)于核武器，或生物學(xué)家對(duì)于在戰(zhàn)爭(zhēng)中使用病原體表明立場(chǎng)一樣。應(yīng)當(dāng)召開專門的學(xué)術(shù)會(huì)議進(jìn)行討論，倫理委員會(huì)也應(yīng)對(duì)此展開討論，并在一些專業(yè)出版物上發(fā)表表明立場(chǎng)的論文。如果什么都不做，就等于表示支持LAWS的繼續(xù)開發(fā)和使用。

——斯圖爾特·拉塞爾，伯克利加州大學(xué)計(jì)算機(jī)科學(xué)教授。

致力于社區(qū)互動(dòng)平臺(tái)的建設(shè)

薩賓·赫爾特

媒體的一些炒作性的新聞標(biāo)題，激起了公眾對(duì)機(jī)器人和人工智能的過度恐懼或過度期盼兩種極端反應(yīng)，而一些研究人員則完全中止與媒體和公眾在這方面的溝通。

這些問題是我們無法規(guī)避的。廣大公眾，包括決策者、投資者和直接受益于機(jī)器人領(lǐng)域發(fā)展的利益相關(guān)者，他們聽到的大多是片面的討論，或者擔(dān)心機(jī)器人會(huì)搶了他們的飯碗而失去工作，或者擔(dān)心人工智能有可能帶來潛在的威脅，考慮是否應(yīng)該通過制定法律來“掌控”這些目前仍處于假設(shè)中的技術(shù)。

我和我的同事努力利用一些場(chǎng)合向人們解釋，我們不是在做什么邪惡的事情，我們多年來致力于開發(fā)的自動(dòng)化系統(tǒng)，可以更好地幫助老年人，改善公共衛(wèi)生保健現(xiàn)狀，讓人們的工作環(huán)境變得更加安全、更有效率，還能夠促進(jìn)人類對(duì)太空和海洋的探索。

從事這一領(lǐng)域研究的科學(xué)家有責(zé)任成為一名信息傳播者，應(yīng)該充分利用媒體這一公共平臺(tái)引導(dǎo)展開相關(guān)討論，我們可以探討機(jī)器人學(xué)和人工智能的最新進(jìn)展以及限制因素，描繪人工智能發(fā)展的圖景，揭開人工智能技術(shù)的神秘面紗。我曾經(jīng)有過通過社交媒體“眾包”設(shè)計(jì)治療癌癥的納米機(jī)器人的經(jīng)歷，我的第一個(gè)博士生就是通過其納米藥物博客發(fā)現(xiàn)的。

人工智能和機(jī)器人領(lǐng)域需要有與著名評(píng)論家溝通的思想領(lǐng)袖——如物理學(xué)家斯蒂芬·霍金（Stephen Hawking）和企業(yè)家兼發(fā)明家埃隆·馬斯克（Elon Musk）——參與到諸如瑞士達(dá)沃斯等世界經(jīng)濟(jì)論壇。另外，公眾的參與也有助于資金的籌集，如麻省理工學(xué)院（MIT）的辛迪·布雷西亞（Cynthia Breazeal）在開發(fā)家用機(jī)器人JIBO時(shí)眾包集資，募集到了220多萬美元資金。

當(dāng)然，這種交流也存在不少障礙，包括許多研究人員沒有推特和博客，以及時(shí)間限制等。盡管如此，開展機(jī)器人和人工智能方面的培訓(xùn)、支持和鼓勵(lì)是必不可少的——由我合作創(chuàng)辦和主持的Robohub.org網(wǎng)站可以提供上述幫助。Robohub建立于2012年，是一個(gè)致力于機(jī)器人社區(qū)與公眾溝通的平臺(tái)，提供諸如機(jī)器人和人工智方面的速成課程。我們邀請(qǐng)專業(yè)的科學(xué)傳播者協(xié)助相關(guān)研究人員推介后者的研究工作，將他們的發(fā)言壓縮在5分鐘之內(nèi)，同時(shí)把現(xiàn)場(chǎng)拍攝內(nèi)容上傳到Y(jié)ouTube。

迄今，我們已經(jīng)建立了一個(gè)匯集大量博客和微博的門戶網(wǎng)站，旨在讓更多的機(jī)器人和人工智能愛好者接觸到相關(guān)信息和知識(shí)。通過這類社交媒體，使研究人員擁有一個(gè)能夠展開平等和諧討論的公共平臺(tái)。

科學(xué)傳播的好處可以列出許多，但這種激勵(lì)必須是來自于資助機(jī)構(gòu)或研究機(jī)構(gòu)。麻省理工學(xué)院機(jī)器人研究員羅德尼·布魯克斯（Rodney Brooks）1986年提出的“包容式體系結(jié)構(gòu)”，是一種可以對(duì)環(huán)境做出反應(yīng)的仿生機(jī)器人程序。在之后的近30年時(shí)間里，他的文章被引用了近10 000次。包括由布魯克斯創(chuàng)辦的再思考機(jī)器人公司開發(fā)的一段機(jī)器人視頻，在一個(gè)月時(shí)間里就產(chǎn)生了60 000多條評(píng)論。這對(duì)如今的公共論壇在體現(xiàn)研究成果的影響力方面有助益。

政府、研究開發(fā)機(jī)構(gòu)和行業(yè)協(xié)會(huì)都?xì)g迎這類互動(dòng)，但是每個(gè)具體開發(fā)項(xiàng)目與公眾的溝通卻是極少，公眾也很少能接觸到。以我看來，全球的人工智能和機(jī)器人技術(shù)利益相關(guān)者，應(yīng)該拿出預(yù)算中的一小部分（比如0.1%）用于與公眾的互動(dòng)，讓更多的人對(duì)該領(lǐng)域的發(fā)展有更多的了解。目前很少有促進(jìn)公共領(lǐng)域內(nèi)機(jī)器人學(xué)和人工智能知識(shí)普及的努力，這種平衡是急需的。

一個(gè)致力于機(jī)器人社區(qū)與公眾互動(dòng)的平臺(tái)，將吸引公眾介入與他們有切身關(guān)系的新一代機(jī)器人的討論。同時(shí)，我們要防止媒體炒作帶來的對(duì)機(jī)器人技術(shù)和人工智能等相關(guān)政策的誤解，這一點(diǎn)是至關(guān)重要的。

——薩賓·赫爾特，英國(guó)布里斯托爾大學(xué)機(jī)器人學(xué)講師。

美國(guó)宇航局的Robonaut 2機(jī)器人可用于醫(yī)學(xué)、工業(yè)領(lǐng)域以及空間站的建設(shè)

人工智能福利應(yīng)公平分配

拉斯·奧爾特曼

在生物醫(yī)學(xué)領(lǐng)域，人工智能不僅有助于科學(xué)新發(fā)現(xiàn)，還對(duì)改變衛(wèi)生保健現(xiàn)狀具有驚人的潛力。如用于數(shù)據(jù)分析的人工智能系統(tǒng)在對(duì)基因組學(xué)、蛋白質(zhì)組學(xué)和代謝組學(xué)數(shù)據(jù)，電子病歷以及監(jiān)測(cè)健康狀態(tài)的數(shù)字式傳感器數(shù)據(jù)等進(jìn)行分類的基礎(chǔ)上重新進(jìn)行定義。

其中，群分析可以用來定義新的疾病癥狀，將某種疾病從被認(rèn)為是相同的疾病中分離出來，或找到與其他疾病相類似的潛在缺陷，而模式識(shí)別技術(shù)能將疾病與最佳治療方法相匹配。例如，我和同事們正在進(jìn)行的患者群體對(duì)調(diào)節(jié)免疫系統(tǒng)藥物反應(yīng)的識(shí)別項(xiàng)目。

在給病人看病時(shí)，醫(yī)生可以從虛擬群體數(shù)據(jù)中尋找與身邊病人相類似的“患者”，用以權(quán)衡診斷治療方案。通過這樣的一個(gè)系統(tǒng)互動(dòng)，或結(jié)合患者診斷數(shù)據(jù)和虛擬患者群體中類似病例的數(shù)據(jù)，醫(yī)生可以做出診斷和治療決定。

在具體的運(yùn)作過程中，我有以下兩點(diǎn)擔(dān)憂。首先，人工智能技術(shù)可能會(huì)凸顯現(xiàn)有醫(yī)療體系存在的差距，而要改變這種狀況，則需要?jiǎng)?chuàng)建某種能夠讓所有病人受益的醫(yī)療體系。以美國(guó)為例，人們享受的是兩種不同層次的醫(yī)療護(hù)理，在這樣一個(gè)兩級(jí)醫(yī)療體系中，只有特殊群體或那些支付得起費(fèi)用的人，才能從先進(jìn)技術(shù)和新的醫(yī)療體系中獲益。窮人是完全與之無緣的。這既不公正也不公平。而確保人工智能技術(shù)帶來益處的公平分配原則，是政府以及技術(shù)開發(fā)者和支持者共同的責(zé)任。

其次，是醫(yī)生對(duì)高性能人工智能系統(tǒng)輸出數(shù)據(jù)的理解和解釋能力。對(duì)輸出的數(shù)據(jù)結(jié)果，如果不能知其然并知其所以然，大多數(shù)醫(yī)生是很難接受醫(yī)療決策輔助系統(tǒng)得出的某個(gè)復(fù)雜治療建議的。

遺憾的是，人工智能系統(tǒng)越先進(jìn)，往往也越難于理解和解釋，如通過貝葉斯分析法直觀顯示基于概率的評(píng)估結(jié)果。因此，創(chuàng)建人工智能系統(tǒng)的研究人員需要讓醫(yī)生、護(hù)士和其他相關(guān)人員了解并合理使用這些系統(tǒng)。

——拉斯·奧爾特曼，斯坦福大學(xué)生物醫(yī)學(xué)和計(jì)算機(jī)科學(xué)教授。

擁抱機(jī)器人

曼努拉·維羅索

人類是集感知、認(rèn)知與行動(dòng)為一體來認(rèn)知世界的，即人類是通過身體這一天然傳感器來評(píng)估周圍世界的狀態(tài)：首先用大腦思考，然后制定行動(dòng)計(jì)劃，最后通過四肢來實(shí)現(xiàn)目標(biāo)。我的研究團(tuán)隊(duì)正在嘗試構(gòu)建能與人類做同樣事情的自主機(jī)器人，這樣的機(jī)器人由人工傳感器（包括攝像頭、麥克風(fēng)和掃描器等）、算法和執(zhí)行控制機(jī)構(gòu)組成。

但是，在能力上自主機(jī)器人與人類有著很大的不同。機(jī)器人也許可以有知覺能力、認(rèn)知能力和有限的行為能力，但它們可能無法完全理解某個(gè)場(chǎng)景，不能完全識(shí)別或操縱所有的物體，也不能理解所有的口頭或書面語言，或順利通過復(fù)雜地形。我認(rèn)為，機(jī)器人應(yīng)該成為人類的助手，而不是取代人類。

為更多地了解機(jī)器人和人類是如何協(xié)同工作的，在過去3年里，我們與自己研制出來的四個(gè)輔助機(jī)器人CoBots一起共享實(shí)驗(yàn)室和工作間。這幾個(gè)機(jī)器人有點(diǎn)像機(jī)械講臺(tái)，它們有避開障礙物的輪子，可以向不同方向移動(dòng)；有深度視覺的相機(jī)和激光雷達(dá)系統(tǒng)；有處理信息的計(jì)算機(jī)系統(tǒng)和人機(jī)交流屏幕；還有可攜帶物件的籃筐。

早前，我們就意識(shí)到現(xiàn)實(shí)世界環(huán)境對(duì)機(jī)器人的挑戰(zhàn)，CoBots不可能識(shí)別出遇到的所有物體，沒有用來開門、拿東西的手和手臂，雖然它們可以通過語音與人類交流，但可能并不能真正識(shí)別或理解話的意思。

為此，我們引入了“共生自主”的概念，讓機(jī)器人能夠從人類或互聯(lián)網(wǎng)上尋求幫助?，F(xiàn)今，在我們的實(shí)驗(yàn)室大樓里，CoBots機(jī)器人與人類互相幫助，克服了彼此的局限：CoBots可陪同來訪者參觀大樓，或在兩地之間搬運(yùn)物體，并在這個(gè)過程中收集有用的信息。例如，生成精確的空間圖，顯示溫度、濕度、噪音和光線水平，或WiFi信號(hào)的強(qiáng)度等。我們需要做的就是幫助機(jī)器人開門，按下電梯按鈕和拿取物體等。

但是，機(jī)器人與人類的安全共生共存仍需克服一些障礙。我的團(tuán)隊(duì)正在研究如何通過語言和動(dòng)作使得機(jī)器人與人類更容易交流，以及在物體識(shí)別、任務(wù)執(zhí)行和目標(biāo)達(dá)成的過程中，機(jī)器人與人類如何更好配合等問題。

我們還在研究如何改善機(jī)器人的外觀來強(qiáng)化與外界的互動(dòng)，特別是通過指示燈的顯示來更多揭示機(jī)器人的內(nèi)在狀態(tài)。例如，指示燈為黃色，表示機(jī)器人正在忙碌；指示燈為綠色，表示機(jī)器人處于空閑狀態(tài)中。

盡管未來的路還很長(zhǎng)，但我相信，如果人類與機(jī)器人能夠互助與互補(bǔ)，那么人工智能與機(jī)器人將會(huì)有一個(gè)光明的未來。

——曼努拉·維羅索，卡內(nèi)基-梅隆大學(xué)計(jì)算機(jī)科學(xué)教授。

[資料來源：Nature][責(zé)任編輯：則鳴]