機(jī)器人想搶占地球？OpenAI說不行

殷桐

1968年上映的電影《2001太空漫游》，是由導(dǎo)演斯坦利·庫(kù)布里克花費(fèi)四年時(shí)間制作的史詩(shī)式科幻巨作，在距今50年前仿佛已經(jīng)對(duì)人類眼前面臨的困境做了神秘預(yù)言。

在茫茫浩渺太空中，宇宙飛船里與宇航員相伴的是一臺(tái)名叫“HAL9000”的電腦，用當(dāng)下的概念來描述，它就是一部具備高度人工智能（AI）的電腦。電影中最經(jīng)典也最令人感到不寒而栗的情節(jié)就是：當(dāng)HAL9000認(rèn)為宇航員有可能會(huì)關(guān)掉電腦電源而威脅到它的“存在”時(shí)，它便對(duì)人類動(dòng)了殺機(jī)，HAL9000利用電腦對(duì)宇宙飛船的全面控制，在影片的結(jié)尾處輕而易舉地就讓兩位人類宇航員“消失”在自己眼前。

如今電影的預(yù)言仿佛正在逐步變成現(xiàn)實(shí)。當(dāng)AlphaGo成功擊敗柯潔，人類在贊嘆人工智能技術(shù)飛速發(fā)展的同時(shí)，也開始覺得隱隱的焦慮：擔(dān)心自己的工作被機(jī)器人所取代；擔(dān)心人工智能技術(shù)被別有用心的壞人使用而對(duì)世界帶來毀滅性的災(zāi)難；但最深層的焦慮可能就是，某天像HAL9000那樣的電腦（機(jī)器人）開始和人類爭(zhēng)奪地球的生存空間，而我們卻對(duì)其毫無招架之力。

2015年12月，特斯拉創(chuàng)始人埃隆·馬斯克（Elon Musk）和創(chuàng)業(yè)孵化器Y Combinator總裁山姆·奧特曼（Sam Altman）找來世界上最聰明的一撥人，花費(fèi)10億美元?jiǎng)?chuàng)建了人工智能公司OpenAI。這家公司同時(shí)獲得不少硅谷重要領(lǐng)袖的支持，其中包括PayPal聯(lián)合創(chuàng)始人彼得·泰爾（Peter Thiel），Netflix創(chuàng)始人里德·哈斯廷斯（Reed Hastings）。

引導(dǎo)人工智能“向善”

馬斯克這一舉動(dòng)有點(diǎn)令人迷惑，畢竟他曾公開反對(duì)人工智能。在他眼里：“研究人工智能就像召喚惡魔一樣。就像所有神話中畫著魔法陣捧著圣水的巫師一樣，每個(gè)巫師都聲稱自己可以控制惡魔，但沒有一個(gè)是最終成功的?！辈贿^，正是這種對(duì)人工智能清醒的警惕，才造就出OpenAI這樣的公司，因?yàn)樗噲D要做的，正是引導(dǎo)人工智能“向善”，監(jiān)督人工智能的使用，解決人類在面對(duì)人工智能時(shí)的焦慮和困境。

當(dāng)人工智能被廣泛地應(yīng)用時(shí)，一方面能為社會(huì)帶來想象不到的福祉，而另一方面也可能帶來無盡的危害。當(dāng)微軟發(fā)布聊天機(jī)器人Tay之后，Twitter上的流氓用戶馬上就教會(huì)她發(fā)布類似“毒死猶太人”、“開打種族戰(zhàn)爭(zhēng)”之類的言論。馬斯克也說過，“現(xiàn)在沒有看到機(jī)器人殺手上街并不意味著我們就不該提防著?！?/p>

“雖然目前人工智能系統(tǒng)讓人印象深刻，但能做的卻很少?！監(jiān)penAI的創(chuàng)始團(tuán)隊(duì)說，“在可以預(yù)見的未來，我們將不斷地解除人工智能的限制。在最極端的情況下，人工智能將會(huì)達(dá)到與人類相當(dāng)?shù)乃?。我們很難衡量它們能多大程度地造福人類社會(huì)，同時(shí)也很難想象如果它們被錯(cuò)誤地使用，將會(huì)對(duì)整個(gè)社會(huì)產(chǎn)生多大危害。”

馬斯克和奧特曼認(rèn)為，迎戰(zhàn)惡意人工智能的最佳方式，不是限制它，而是擴(kuò)展它。OpenAI要做的不僅僅是推動(dòng)人工智能的發(fā)展，還要讓人工智能在造福人類的軌道上發(fā)展。所以它是一家非盈利的公司，也是一家開源的公司——愿意將研究成果分享給研究人工智能的每一個(gè)人。

OpenAI創(chuàng)始團(tuán)隊(duì)在一篇宣布10億美元計(jì)劃的文章中聲明，“既然我們的科研不受經(jīng)濟(jì)上的束縛，我們能更好地專注在對(duì)人類有利的方面。我們認(rèn)為人工智能是人類意志的延伸，本著自由主義的精神，它應(yīng)該盡可能廣泛地被運(yùn)用起來?！?/p>

對(duì)于OpenAI的誕生，《連線》雜志認(rèn)為，它的成立將人工智能研究推向高潮，同時(shí)也轉(zhuǎn)變了目前由谷歌、Facebook等巨頭引領(lǐng)的人工智能領(lǐng)域競(jìng)爭(zhēng)格局。未來，OpenAI有望成為這一領(lǐng)域的監(jiān)管者，并將其引導(dǎo)到對(duì)人類更為安全的發(fā)展軌跡上來。

OpenAI都做了些什么？

2016年4月27日，OpenAI發(fā)布其第一批人工智能軟件，一個(gè)用“強(qiáng)化學(xué)習(xí)”技術(shù)打造的人工智能系統(tǒng)工具包OpenAI Gym。“強(qiáng)化學(xué)習(xí)”技術(shù)（reinforcement learning），就是打敗人類棋王的AlphaGo的核心驅(qū)動(dòng)技術(shù)之一。

正如Gym這一英文單詞所指的意思（健身房）一樣，在這個(gè)平臺(tái)上，開發(fā)者們可以將自己開發(fā)的人工智能算法拿出來訓(xùn)練和展示，獲得專家和其他愛好者的點(diǎn)評(píng)，并進(jìn)行共同探討和研究。在OpenAI Gym中，可以看到人工智能的開放化步伐正在漸漸加快。

2016年12月，OpenAI推出了開源平臺(tái)Universe，基于這個(gè)平臺(tái)，用戶可以使用游戲、網(wǎng)絡(luò)瀏覽器和各種軟件來訓(xùn)練人工智能，通過各種方法，人工智能系統(tǒng)將會(huì)變得更加智能。在Universe中，人工智能可以像人類一樣看視頻、瀏覽網(wǎng)頁(yè)、玩游戲……可以說這是一個(gè)人工智能的系統(tǒng)訓(xùn)練集中營(yíng)。

OpenAI認(rèn)為，雖然現(xiàn)在的人工智能技術(shù)已經(jīng)能做到在圍棋中擊敗人類，但還是只能限定在一個(gè)特定領(lǐng)域超越人類，但在別的領(lǐng)域基本能力為零。就像AlphaGo可以很輕松地在圍棋上擊敗人類，但在別的棋類游戲上則完全沒有這種能力。Universe就是為了解決這個(gè)問題而生的，OpenAI的聯(lián)合創(chuàng)始人伊利亞·蘇特斯科夫（IlyaSutskever）就說過：“一個(gè)真正的人工智能，應(yīng)該能解決你交給它的所有問題?！?/p>

目前，OpenAI已經(jīng)得到了EA、Microsoft Studios、Valve、Wolfram等公司的授權(quán)支持，也就是說，人工智能已經(jīng)能夠在Universe上玩《命令與征服》、《俠盜飛車》等游戲。

近日，OpenAI又向外界發(fā)布了具有里程碑意義的一項(xiàng)研究——單次模仿學(xué)習(xí)算法（one-shot imitation learning）。據(jù)悉，這種算法的絕妙之處在于，允許人們使用虛擬現(xiàn)實(shí)（VR）工具來向人工智能傳達(dá)任務(wù)指令，操作者只要進(jìn)行一次動(dòng)作演示，之后人工智能就可以參照人類的動(dòng)作進(jìn)行模仿學(xué)習(xí)。另外，還有用于機(jī)器人仿真的開源軟件Roboschool，它基于OpenAI Gym開發(fā)，提供了十幾個(gè)新的操作環(huán)境，讓用戶可以在模擬環(huán)境中訓(xùn)練一個(gè)或多個(gè)機(jī)器人。

從經(jīng)濟(jì)學(xué)角度看，一個(gè)不以盈利為目的的公司最終將會(huì)被市場(chǎng)競(jìng)爭(zhēng)淘汰，而OpenAI的存在則要向傳統(tǒng)資本商業(yè)規(guī)律叫板。這家企業(yè)的未來將會(huì)如何？它是否會(huì)不敵強(qiáng)大的資本主義規(guī)律而消失？

《未來簡(jiǎn)史》一書中有這樣的觀點(diǎn)：人類之所以能向前不斷發(fā)展，其中最重要的因素就是依賴共同認(rèn)可的價(jià)值觀。假如，未來全球人類一致認(rèn)同OpenAI的存在決定著自己在人工智能時(shí)代的生死存亡，那么這家企業(yè)就算不賺錢也不盈利，恐怕也是不會(huì)倒掉的。endprint