馬斯克做Open AI的野心和私心

劉泓君++謝麗容

一直號稱人工智能比朝鮮核武器更危險的馬斯克，可能也是那個把世界推入險境的人

當全世界都在關(guān)注美國總統(tǒng)特朗普與朝鮮的互慫上，特斯拉創(chuàng)始人伊隆·馬斯克（Elon Musk）發(fā)Twitter稱“如果你不關(guān)注人工智能的安全，你應(yīng)該擔心，它比朝鮮問題更危險”。

這已經(jīng)不是他第一次發(fā)表對人工智能安全問題的擔憂。8月中，他與來自26個國家的人工智能領(lǐng)袖聯(lián)合向聯(lián)合國呼吁嚴格限制自動化殺人武器，如坦克、無人機自動槍械等，禁止這些武器在國際間使用。

兩年以前，馬斯克聯(lián)合硅谷大佬投資10億美元成立了一家非營利組織Open AI，號稱要防止人工智能滅世。

這個組織幾乎匯聚了硅谷最有權(quán)勢與名望的人，除馬斯克以外，它包括了很多熟悉的名字：著名孵化器Y Combinator創(chuàng)始人山姆·奧特曼（Sam Altman）以及合伙人Jessica Livingston、前Stripe的CTO格雷格·布勞克曼（Greg Brockman），被稱為“硅谷人脈王”的Linkedin聯(lián)合創(chuàng)始人Reid Hoffman，以及Paypal共同創(chuàng)建者及著名投資人Peter Thiel。

盡管人工智能滅世的言論一直富有爭議，馬斯克的警告可能并不是危言聳聽，但他的Open AI真的有能力有意愿防止人工智能毀滅世界嗎？馬斯克的真實動機也一直在被質(zhì)疑。

Open AI的神秘面紗

如果用最通俗易懂的話來解釋Open AI正在做的事，就是做一個“會做飯的機器人”。想象一個機器人能夠像人一樣去行動去思考，這是Open AI的終極使命——建立安全的通用機器人。

做飯是一個非常復雜的任務(wù)。盡管現(xiàn)在亞馬遜的倉庫、特斯拉的工廠中都用上了機器人，但這些機器人只做簡單重復性的工作，在車間流水線上組裝零件。對靈活的任務(wù)，機器人做的并不好。馬斯克希望能夠通過機器人研究，推進家務(wù)機器人的前沿研究。

施天麟是Open AI的早期成員，也是斯坦福人工智能方向的在讀博士。2015年12月，他參加一個關(guān)于機器人的行業(yè)會議，并在這個會議上機緣巧合地認識了格雷格。當時，格雷格開始興致勃勃地跟施天麟講未來想要做的事情，并告訴他一些大牛即將加入。在蒙特利爾的一個會議進入尾聲時，馬斯克與山姆宣布成立新的人工智能非營利公司Open AI。

盡管有著眾多的行業(yè)大佬背書，實際操作人也起著關(guān)鍵作用。第一個加入Open AI的人是格雷格，相傳他與馬斯克私交甚篤。他是增強學習很有名的研究者，導師是伯克利做機器人研究的教授。

格雷格創(chuàng)業(yè)之后主要負責Stripe底層平臺，因此在學術(shù)研究社區(qū)知名度并不是很高，他主要搭建負責Open AI的基礎(chǔ)架構(gòu)。

真正主管研究的人是Ilya Stuskever，他在谷歌大腦有著三年的研究經(jīng)驗，在此之前，他是斯坦福深度學習實驗室吳恩達（Andrew Ng）團隊的博士后，曾與多倫多大學教授Geoffrey Hinton一起工作，是其最得意的學生之一。谷歌曾經(jīng)為了搶奪Geoffrey與他的兩個學生，特意發(fā)起對DNNResearch的收購，這家公司隸屬多倫多大學計算機科學院，只有三個人—— Geoffrey Hinton以及他的研究生學生Alex Krizhevsky和Ilya Sutskever，而且該公司沒有任何實際產(chǎn)品與服務(wù)。

Open AI成立以后，馬斯克每周會來辦公室半天。他并不會在會議上滔滔不絕，大多數(shù)時候只是聽大家說，然后給出一些方向性的建議，在場的成員能明顯感覺到他對機器人的濃厚興趣。

除了給出方向建議，馬斯克還會幫Open AI找融資，在現(xiàn)有的10億美元融資中，有相當一部分來自于他自掏腰包。

山姆則負責Open AI所有的對外合作部分，比如近期跟Dota合作的人機大賽，需要游戲開發(fā)者獲取他們的API接口以及一些開放數(shù)據(jù)。

如果要對人工智能研究進行成本分析，成本來自于服務(wù)器提供的計算資源、數(shù)據(jù)獲取以及人才工資成本。服務(wù)器成本是所有人工智能公司成本中最大的一塊，山姆也牽頭促成了Open AI與微軟云Azure合作，以幫助Open AI尋找可用的服務(wù)器。

Open AI目前僅60多人，辦公室坐落在Stripe舊金山的辦公區(qū)。在該組織成立早期，主要依靠內(nèi)部成員的相互推薦?，F(xiàn)在有一套固定的招聘流程招聘研究人員，而基礎(chǔ)架構(gòu)的工程師方向則與Facebook、谷歌的招聘流程類似，招聘工資也直接對標這兩家公司。

目前，在Open AI的平臺上有三個大的開源平臺—— Gym、Universe和Robot。主要研究方向是機器人的遷移學習與增強學習。Gym是指研究在每個細分研究領(lǐng)域建立自己的算法以后，把算法放在不同的環(huán)境中測試;Universe目標是讓AI智能像人一樣使用計算機，目前已有1000種訓練環(huán)境;而Robot則是訓練機器人。

對抗巨頭？

馬斯克在成立時就宣稱Open AI要對抗Facebook、谷歌等巨頭壟斷，以開源的方式來驅(qū)動研究。

就在Open AI宣布成立的一個月以前，互聯(lián)網(wǎng)巨頭把人工智能的發(fā)展推向高潮。當時，谷歌宣布將部分開源人工智能引擎，F(xiàn)acebook也在不久后宣布開源深度學習計算機服務(wù)器設(shè)計。Open AI自成立就開始宣布自己要開放它所有的研究成果。

與巨頭開放這些人工智能平臺不同，Open AI的開源是算法而非平臺，它也會與巨頭的開源平臺合作，其Gym平臺就與谷歌的TensorFlow合作。

回顧人工智能最近幾年的發(fā)展趨勢，無論是算法還是平臺，開源已經(jīng)是人工智能競爭的一大核心策略。

得人才者得人工智能。在硅谷，做深度學習的人工智能博士生，已經(jīng)成為幾大互聯(lián)網(wǎng)巨頭瘋搶的對象。各大機構(gòu)競相追逐學術(shù)研究者并開出高價，這在歷史上從沒有發(fā)生過。一位研究者稱：“在Open AI成立之后，谷歌與Facebook給頂級研究人員的Offer高了兩倍。”endprint

對學術(shù)研究者來說，他們更愿意分享自己的研究成果，并以此建立影響力。開源可以幫助這些AI機構(gòu)吸引更多的人才。同時，對巨頭來說，開源也意味著更多的開發(fā)者會利用平臺搭建算法，可以幫助平臺自我完善，也會加快整個產(chǎn)業(yè)的發(fā)展進程。

如果要在業(yè)內(nèi)給Open AI找一個對標者，最相似的莫過于與李世石圍棋大戰(zhàn)的DeepMind。兩者都不是平臺，而是對人工智能的算法研究。施天麟在他的研究中發(fā)現(xiàn)，Open AI更偏向于機器人的研究，會使用更多專門為機器人打造的虛擬環(huán)境，而DeepMind更偏向于用游戲做虛擬環(huán)境進行訓練。

“DeepMind認為在游戲規(guī)則下能夠獲勝的AI有一定智能，但這個離真實的機器人還比較遠。你能控制一個游戲機的飛船，并不意味著你真正能夠控制一架飛機。”施天麟對《財經(jīng)》記者說。

他正在為Open AI開發(fā)“World of bits”的訓練平臺，是Open AI Universe的前身，希望機器人能夠像人一樣在網(wǎng)上訂機票、酒店、外賣。但其關(guān)注點不是最后機器人如何訂到機票，而是通過觀察人怎么訂機票，讓機器去學習人的這種在不同環(huán)境下都可以應(yīng)對自如的“遷移學習”能力。

施天麟認為，盡管DeepMind號稱開源，但只開放了幾個“迷宮”這類的小游戲，真正核心的算法依然沒有開源。

AI競爭，數(shù)據(jù)為王。無論是Facebook還是谷歌，都有強大的平臺資源和數(shù)據(jù)寶庫。外界對Open AI最大的質(zhì)疑是，沒有數(shù)據(jù)資源如何突破人工智能研究？

吳恩達曾說過：“為什么做AI需要去大公司，因為大公司有海量的數(shù)據(jù)和強大的計算平臺?！?/p>

施天麟的項目需要征集人怎么用計算機訂票的演示，于是他在亞馬遜上發(fā)起了眾籌項目以征集數(shù)據(jù)，每小時價格10美元左右，目前已經(jīng)花了幾萬美元。但這相對于大公司的數(shù)據(jù)，依然九牛一毛。

山姆曾在Open AI成立的時候稱，Y Combinator將會與Open AI共享數(shù)據(jù)服務(wù)。Y Combinator已經(jīng)在硅谷投資了大量的獨角獸企業(yè)，旗下的平臺有Airbnb、Dropbox、Stripe。同時，特斯拉也稱將開放數(shù)據(jù)給Open AI，微軟與亞馬遜也正在變成Open AI的合作伙伴。

如此看來，Open AI可能會通過各種間接渠道獲取機器訓練數(shù)據(jù)，但美國對數(shù)據(jù)監(jiān)管政策嚴厲，Open AI目前可以獲取一些數(shù)據(jù)，但這樣的來源是不穩(wěn)定且充滿風險的。

馬斯克飽受質(zhì)疑，外界認為00en Al成為其招攬人才的后花園。

不過也有做房產(chǎn)分享的創(chuàng)業(yè)者認為，Open AI的房源數(shù)據(jù)就可以多過谷歌，因此它在一些細分領(lǐng)域并不處于劣勢狀態(tài)，也可能成為對抗巨頭的一方勢力。

馬斯克的私心？

即使對億萬富豪來說，10億美元的投資也并非一筆小數(shù)字。盡管他曾經(jīng)多次表示出對人工智能心存恐懼，但這一動機仍被質(zhì)疑。

馬斯克曾經(jīng)投資著名的人工智能研究公司DeepMind，后來這家公司被谷歌收購，這也讓他了解了人工智能的發(fā)展前沿。接近馬斯克的人認為，在創(chuàng)建特斯拉與Space X時，他對工程類技術(shù)非常了解，但他并不了解最前沿的深度學習技術(shù)，依然處于學習階段。

眼下，馬斯克旗下的特斯拉正在研究無人駕駛，他還將在今年10月推出無人駕駛卡車。在無人駕駛的競爭中，特斯拉每一輛在路上跑的車都可以看成是一次數(shù)據(jù)收集。然而，無人駕駛涉及到圖形圖像識別、分析等多個深度學習研究領(lǐng)域，擁有了數(shù)據(jù)這塊寶藏之后，他旗下的公司對AI人才有著迫切的需求。

著名研究員Andrej Kapathy從Open AI跳槽加盟特斯拉無人駕駛團隊，直接向馬斯克匯報。Kapathy的跳槽讓馬斯克飽受質(zhì)疑，外界認為Open AI成為其招攬人才的后花園。

Open AI一個研究項目是機器人如何抓取物體。比如人讓機器人去冰箱拿啤酒，啤酒瓶從哪幾個點抓起來既穩(wěn)又不會碎，這個方向不需要大量的數(shù)據(jù)，只用建立各種模擬場景模擬即可。一個容易聯(lián)想的事實是，馬斯克建立了自己的特斯拉工廠，他的工廠中已經(jīng)引入很多自動化的機器人生產(chǎn)。

盡管Open AI號稱對所有人開放，但這家非營利機構(gòu)也的確彌補了他商業(yè)上的短板，成為這家組織的實際受益者。

在Open AI這種非營利組織架構(gòu)中，管理較為扁平，以項目為單位劃分。Ilya曾經(jīng)在Open AI的私人聚會上透露，評價標準之一就是發(fā)論文。組織成員認為，這種組織形式與大學的實驗室比較像，每個人都有自主權(quán)去選擇要做些什么項目，而科研項目的周期往往比普通項目要長。因此如果實驗中，發(fā)現(xiàn)想法是不可行的，也可以中途放棄。

不過，這種模式也令外界質(zhì)疑，類似于學術(shù)研究的算法對工業(yè)界究竟產(chǎn)生多少影響力有待懷疑。

通常企業(yè)開發(fā)研究中，不同人會在一個社區(qū)中貢獻大量的代碼，這個代碼庫由很多程序員來維護。而在學術(shù)研究中，只有幾個人做一個課題組，很多時候一個人就可以寫一個算法。加上學術(shù)研究的樣本庫較小，在大規(guī)模的檢測后可能并不能應(yīng)用于其他場景。

除了一些計算機領(lǐng)域的大神，學術(shù)研究最終大概只有1%的算法能夠適應(yīng)不同的環(huán)境最后留下來。但如果底層研究有突破性進展，將會催生一個產(chǎn)業(yè)的誕生。

吳恩達在谷歌大腦時，曾經(jīng)使用1000臺機器去學習Youtube上關(guān)于貓的視頻，使用深度學習神經(jīng)網(wǎng)絡(luò)最后可以在很多圖片中識別貓。當時沒有人會嘗試用1000臺機器的大量計算能力去學習。但這次突破印證了當你有足夠多的計算資源足夠多的數(shù)據(jù)時，算法的突破會有很大潛力。此后，計算機視覺進入到一個快速發(fā)展的時期，人臉識別、圖像識別、自動駕駛等基于計算機視覺的公司如雨后春筍般出現(xiàn)。

Open AI的野心是希望能夠在機器人領(lǐng)域做出類似的大突破?！叭绻馨褭C器人做出來，發(fā)明一種新算法讓機器在環(huán)境中快速學習，極可能催生一個嶄新的機器人產(chǎn)業(yè)。” 施天麟說道。

不過，機器人通用算法在未來十年里都不會有大突破，因為這需要大量的數(shù)據(jù)訓練、計算能力和高昂的成本投入。

“實現(xiàn)這件事的算法還不成熟，控制人工智能不做危險的事更是無稽之談?！庇胁辉妇呙姆治鋈耸肯颉敦斀?jīng)》記者稱，“但是馬斯克發(fā)表機器人的這些言論是有根據(jù)的，如果機器人算法有重大突破，類似于當年識別貓的圖片那樣，那機器人就是一件很危險的事情。”

不妨這么說，如果馬斯克的目標真是通用的人工智能機器人的重大技術(shù)突破，那他極可能成為把世界置于危險境地的人。盡管馬斯克已經(jīng)在做盡可能多的增強學習等安全方向的研究，但不排除如果居心叵測之人使用Open AI的研究成果開發(fā)武器。

盡管不排除馬斯克成立Open AI確實存在一些私心——在未來的技術(shù)競爭中占據(jù)制高點，并且廣泛網(wǎng)羅人才。但他的擔憂也不無道理，也可能確實有出于無私的角度在推進行業(yè)的發(fā)展。畢竟，機器人是個大趨勢，巨頭與創(chuàng)業(yè)公司已經(jīng)開始搶占市場，非營利組織存在的必要性也毋庸置疑。endprint