奧特曼：AI 執(zhí)劍人與野心家
2024-01-20 06:32:39王小豪
看世界 2023年26期
關(guān)鍵詞：奧特曼
王小豪
2023年5月26日，奧特曼在巴黎的一個會議上發(fā)表講話
很少有技術(shù)得到了“通用人工智能（AGI）”這般的待遇，還未真正被發(fā)明，但質(zhì)疑、憂慮的聲音已經(jīng)鋪天蓋地。更少見的是，當中聲量最大的，還包括這項技術(shù)最積極的推動者。
在去年底親自釋放了ChatGPT這頭“猛獸”、將整個世界朝著“AI時代”大幅推進之后，OpenAI的CEO山姆·奧特曼不斷警告那些依賴ChatGPT的用戶們：“現(xiàn)在依靠它做任何重要事情都是錯誤的?！?/p>
不僅如此，他還在國會聽證會和訪問各國的環(huán)球旅行中，反復強調(diào)AGI的危險性，聲稱其可能造成“核戰(zhàn)爭”級別的危機，并呼吁建立全球協(xié)作的監(jiān)管機制。
稍微了解OpenAI創(chuàng)辦宗旨的人，不難理解奧特曼看似矛盾的舉動，畢竟這是一家以服務“全人類利益”為目標的人工智能研究機構(gòu)，其CEO發(fā)表審慎、理性的觀點也是理所應當。但再了解得多一些，就可能生出不少疑慮。
在奧特曼的帶領(lǐng)下，OpenAI正從一家開放、透明的非營利組織，逐漸變得封閉、商業(yè)化，不僅拒絕公布GPT-4的開源信息、成立營利子公司，還摒棄了最初的中立立場，倒向了微軟一方。
每當OpenAI朝著商業(yè)化的方向邁進一步，奧特曼都能為此提供一套基于技術(shù)和人類福祉考量的說辭，但這種關(guān)聯(lián)的模糊性在于，人們難以分辨商業(yè)化是OpenAI秘而不宣的初衷還是不得已而為之的舉措、奧特曼有關(guān)AI的審慎言論是肺腑之言還是緩兵之計。
不久前鬧得沸沸揚揚的“罷免風波”，最終是被視為激進主義和商業(yè)主義的陣營獲得了勝利。董事會重組之后的OpenAI，越來越像一家典型的硅谷獨角獸，無數(shù)的投資者和合作伙伴等著從它身上榨取利益。
被董事會“驅(qū)逐”之后，蜂擁而至的支持力量顯示了奧特曼擁有的巨大聲望，很快重回CEO寶座的他，權(quán)力似乎比以前更為牢固。如今的問題是，在AI時代只差臨門一腳的關(guān)鍵時刻，執(zhí)掌權(quán)柄的奧特曼究竟是真摯的執(zhí)劍人，還是未顯的野心家？
他內(nèi)心的真實想法，成為事關(guān)我們每一個人的重要問題。
（左起）OpenAI首席技術(shù)官米拉·穆拉蒂、CEO山姆·奧特曼、總裁格雷格·布羅克曼、首席科學家伊利亞·蘇茨克維
改變世界的意志
和比爾·蓋茨、喬布斯、扎克伯格等科技界的傳奇人物一樣，奧特曼也是“輟學俱樂部”的一員。
在斯坦福大學了讀兩年計算機專業(yè)后，奧特曼輟學與當時的男友尼克·西沃創(chuàng)辦了一家科技公司Loopt，為孩子提供社交網(wǎng)絡(luò)服務。這家公司后來成為首批加入Y Combinator孵化器的8家企業(yè)之一，并最終以4300萬美元的價格，出售給了銀行公司Green Dot。
事后來看，這次不太成功的創(chuàng)業(yè)經(jīng)歷的最大價值，是讓Y Combinator的聯(lián)合創(chuàng)始人保羅·格雷厄姆相中了奧特曼的才華，并把總裁職位交棒于他。
2015年10月，馬斯克與奧特曼在《名利場》峰會上
格雷厄姆對時年23歲的奧特曼評價甚高，稱他像年輕時的比爾·蓋茨那樣果敢、自信，是硅谷最耀眼的5名初創(chuàng)公司創(chuàng)始人之一，“你可以把他降落到一個滿是食人者的島上，五年后回來，他就會成為國王”，他用這樣的言辭形容奧特曼的領(lǐng)袖天賦。
和所有扎根硅谷的人一樣，奧特曼也有著改變世界的偉大夢想。區(qū)別在于，激勵他的可能是人類終將毀滅的恐懼。
商業(yè)化的舉措為OpenAI惹來了巨大的非議。
奧特曼是一名末日生存愛好者，總是擔憂著重大災難事件的發(fā)生。為了在可能的災難中生存下去，他在家里準備了大量食品、藥物、黃金和槍支，甚至在大蘇爾買了一塊地，以應對可能的致命病毒、AI攻擊或核戰(zhàn)爭威脅。
擔任Y Combinator總裁時，奧特曼年僅28歲，但他已獲得了足夠的權(quán)力，來施展長久以來的改變世界的抱負。
作為一名信奉“有效的利他主義”哲學的年輕CEO—在硅谷，這一哲學的具體含義是：不擇手段地賺錢，并相信只有自己知道怎么花錢最值當，他認為自己對增進人類福祉有著不可推卸的責任。
他對身邊人說：我們做的事情“不是關(guān)于創(chuàng)業(yè)，我們關(guān)注的是創(chuàng)新，因為這是我們認為的如何使未來變得偉大的方法”。
他將自己的精力投放在那些能夠增進人類總體福祉的事情上，先后投資了研究核聚變的Helion，希望將人類整體壽命提升10年的Retro Biosciences等科技公司。日漸成熟的AI技術(shù)自然也成為他關(guān)注的重點。
奧特曼不是那種只關(guān)心技術(shù)的極客，他對技術(shù)的理解總是包含著政治和社會的視角。他很早便意識到，AI將帶來一場技術(shù)和社會的雙重革命，至于它帶來的會是福祉還是災難，完全取決于人類如何認識并利用這項技術(shù)。
2016年6月，時任Y Combinator總裁的奧特曼
在經(jīng)歷了蒸汽機、電力、計算機、互聯(lián)網(wǎng)等數(shù)次技術(shù)革命之后，關(guān)于技術(shù)的歷史已經(jīng)足夠豐富，當中包括好的經(jīng)驗和壞的教訓。這讓一些人相信，對尚未實現(xiàn)的技術(shù)進行預測、管控是可能且必須的，奧特曼就屬于這類人中的一員。
2014年，硅谷討論AI的氛圍已經(jīng)相當濃厚，當年谷歌收購了DeepMind、微軟開發(fā)了智能助理Cortana，一大批與AI有關(guān)的初創(chuàng)公司如雨后春筍般冒了出來。
改變世界的雄心和“有效的利他主義”觀念的結(jié)合，令奧特曼相信，與其把人工智能的命運交給他人，不如由自己來主導整個過程。
他很快找到了志同道合的伙伴—朋友、導師和未來的敵人，埃隆·馬斯克。馬斯克在與谷歌創(chuàng)始人拉里·佩奇交流時發(fā)現(xiàn)，谷歌將AGI的最終實現(xiàn)放在了優(yōu)先位置，而不顧它可能帶來的風險問題，這讓他萌生了與之抗衡的想法。
得知馬斯克的意圖后，兩人經(jīng)常在一起討論AI有關(guān)的話題，尤其是如何實現(xiàn)“人工智能對齊”的目標，也就是讓人工智能系統(tǒng)和人類的價值觀和利益保持一致。磋商的最終結(jié)果，便是成立OpenAI。
如果細究OpenAI創(chuàng)立時的初衷，多少會感到一絲奇怪。一群資本家湊在一起，聲稱OpenAI的創(chuàng)立是為了防止AGI這項技術(shù)最終落入大資本（主要是谷歌）之手，使其發(fā)展能夠符合全體人類利益。這樣偉光正的宣稱有多少可信度？
但至少，這一宣稱能夠幫助奧特曼說服伊利亞·蘇茨克維（他在今年策動了對奧特曼的罷免行動）的加入，后者是當今世上最好的人工智能專家之一，同時也是一名技術(shù)保守主義者，對AI的安全性和人類的命運感到深深的擔憂。沒有他的加入，OpenAI的一切設(shè)想都只是空談。
2015年，奧特曼開始與蘇茨克維接觸，在一次晚宴上，兩人進行了深入交流。除了分享彼此對AGI技術(shù)的看法外，蘇茨克維顯然認同奧特曼確保AGI安全性的想法，兩人著重探討了谷歌的DeepMInd是否已經(jīng)無人能敵、能否創(chuàng)建一個機構(gòu)與其抗衡等問題。最終，他接受了奧特曼的邀請，脫離谷歌，加入并領(lǐng)導OpenAI的AGI研究項目。
在2019年之前，OpenAI對于奧特曼來說還只是一項副業(yè)，期間他沒有停止在Y Combinator的工作，甚至還考慮競選加州州長的公職。這段時間，OpenAI保持了其創(chuàng)立時的理想主義氣質(zhì)，開放、透明，恪盡職守地“為全人類”而工作。
發(fā)生于2018年的奧特曼與馬斯克之間的決裂，改變了這一切?；蛟S是嫌OpenAI的進展太慢，或是出于對安全性的擔憂，馬斯克想要將OpenAI納入自己的事業(yè)版圖之中，但奧特曼和蘇茨克維拒絕了這一要求。
2023年11月1日，奧特曼在英國劍橋演講
在謀求公司控制權(quán)失敗后，馬斯克帶著他承諾的10億美元捐贈脫離了OpenAI。OpenAI頓時陷入了資金困境，奧特曼開始四處尋找投資，甚至還詢問了美國政府的意愿，但沒有人愿意資助這樣一家愿景飄渺的非營利組織。
這讓奧特曼意識到，如果OpenAI不能實現(xiàn)盈利，連存活都成問題，遑論實現(xiàn)AGI。這一結(jié)論很快成為內(nèi)部的共識，成為OpenAI邁向商業(yè)化的起點。
為了解決資金問題，他在OpenAI之下設(shè)立了一個營利性組織，吸引外部資本加入，并為投資者設(shè)立了100倍的利潤上限，超出的部分將歸OpenAI所有。這看起來是一個兩全其美的方法，既能保證OpenAI的存活，又保留了其性質(zhì)上的非營利性。
“開源GPT-2將變得十分危險，可能會被用來做壞事?！?/blockquote>
很快，奧特曼就為OpenAI找來了10億美元的投資，OpenAI也首次有了估值：300億美元。
正在這時，奧特曼辭去了Y Combinator的工作，專職擔任OpenAI的CEO。這一舉動發(fā)生在一個十分曖昧的時間點，留下了極大的解讀空間。
人們可以說，奧特曼專職擔任CEO是為了幫助OpenAI更好地實現(xiàn)愿景，但經(jīng)由架構(gòu)變更，OpenAI已經(jīng)開拓出了盈利的空間，不再是一家單純的非營利機構(gòu)。此外，OpenAI在技術(shù)層面剛剛找到了大型語言模型這條真正可行的技術(shù)路線，開發(fā)出了GPT-2，AGI不再是遙不可及的科幻概念。人們也可以說，奧特曼將自己押注在了AGI這個“只此一次”的機遇上，這可以令他變得“真正偉大”。
他的決定究竟有多少是基于“全人類利益”的考量？類似的模糊性，還將在奧特曼身上反復出現(xiàn)。
商業(yè)化的舉措為OpenAI惹來了巨大的非議，批評來自評論家、內(nèi)部員工和競爭對手。
不少評論家質(zhì)疑所謂的100倍利潤上限只是一個幌子，因為它指向的是萬億級的收益前景—一個難以達到的限制和沒有限制是一回事。一些內(nèi)部高管和員工無法忍受OpenAI的商業(yè)化轉(zhuǎn)型，離開并創(chuàng)辦了Anthropic，與OpenAI進行直接競爭。
反對聲量最大的當屬馬斯克，他在推特上對OpenAI發(fā)起攻擊：“我仍然很困惑，一個我捐贈了1億美元的非營利組織是如何變成一個市值300億美元的營利性組織的。如果這是合法的，為什么不是每個人都這么做呢？”
雖然奧特曼回復稱這一切都是合規(guī)的，但OpenAI呈現(xiàn)給外界的形象還是出現(xiàn)了裂痕：如果一家非營利組織能夠如此絲滑且合規(guī)地完成從非營利到營利的轉(zhuǎn)型，誰能擔保OpenAI不會進一步變質(zhì)？
從奧特曼和OpenAI后續(xù)的行動來看，他并沒有很好地回答人們心頭的疑問。
2023年11月2日，英國米爾頓凱恩斯，奧特曼出席人工智能安全峰會
OpenAI，難言使命
ChatGPT3.5震撼了世界，緊接著，能力指數(shù)級增長的ChatGPT4登場，目不暇接的突破性進展令世界眩暈了。奧特曼也成為了“搖滾明星”，在政府、高校、論壇和網(wǎng)絡(luò)節(jié)目之間進行“巡回演講”，總統(tǒng)、教授、極客和學生都是他的聽眾。
他的“萬物摩爾定律”開始受到重視，這一理論預測宇宙中的智能體數(shù)量將在每18個月后翻一番。
以此為基礎(chǔ)，奧特曼開始暢想AGI實現(xiàn)之后的社會圖景，“這場革命將創(chuàng)造驚人的財富，以至于每個成年美國人，從現(xiàn)在開始的10年之內(nèi)，每年都能從其意外之財中獲得1.35萬美元的報酬”。
他同時也提醒道，技術(shù)飛躍也預示著更多權(quán)力將從勞動力轉(zhuǎn)移到資本，如果公共政策不能及時調(diào)整，那么大多數(shù)人的生活將變得更糟。為此，他提出了基于AI的“全民基本收入”設(shè)想：由于AI公司將會成為未來生產(chǎn)力的主要來源，因此通過稅收的方式將這些財富分配給民眾，將有效地增進整體福祉。
此外，他不斷重申AGI可能帶來的危險，包括但不限于信息作假、操縱選舉、經(jīng)濟崩潰等，并呼吁建立全球協(xié)作的監(jiān)管機制。
對于OpenAI這樣一家強調(diào)“使命”的組織，不斷地對外界拋出對AI的思考，讓奧特曼看起來是一名審慎、負責任的技術(shù)推動者。
然而，隨著OpenAI的影響力擴大、經(jīng)營策略發(fā)生轉(zhuǎn)變，他的形象開始變得矛盾且復雜。
與商業(yè)化轉(zhuǎn)型并行的，是OpenAI在技術(shù)和產(chǎn)品層面的保守轉(zhuǎn)向。在開發(fā)出GPT-1時，OpenAI面對的局面還很簡單，只要繼續(xù)透明、開源，維持其純粹性即可。但是當GPT-2研發(fā)出來后，一些內(nèi)部人員發(fā)現(xiàn)，局面正在變得復雜。
2023年5月23日，法國總統(tǒng)馬克龍在愛麗舍宮與奧特曼討論人工智能
他在道德上純潔無瑕的形象，很快受到了來自O(shè)penAI內(nèi)部的挑戰(zhàn)。
GPT-2有超過10億個參數(shù)，它能做的事情比GPT-1多了很多，至少能夠做出一些令人擔憂的事情，例如制造假新聞、四處傳播垃圾郵件。首席技術(shù)官米拉·穆拉蒂表示，當時整個團隊已經(jīng)意識到開源GPT-2將變得十分危險，可能會被用來做壞事。
最終OpenAI選擇先發(fā)布一個較弱的版本，等情況穩(wěn)定之后再發(fā)布完整版。從這時起，“確保AGI的安全性”，從OpenAI的遠景變成了真切需要考慮的事情。
到了GPT-3.5和GPT-4的時候，ChatGPT已經(jīng)表現(xiàn)出“令人恐懼”的能力。此時，奧特曼決定將其逐步開放給公眾使用，這被稱為“迭代部署”。
奧特曼相信，秘密構(gòu)建一個超級強大的AI系統(tǒng)，然后一次性將它投放到世界上，并不會有好結(jié)果。他希望通過迭代部署的策略，讓人們在ChatGPT還很不完善的時候體驗、感受它，讓整個世界適應AI帶來的影響，并弄清楚如何才能讓它變得更安全、更好。
他希望通過這種方式，減輕技術(shù)革命帶來的陣痛，諸如失業(yè)、貧困甚至戰(zhàn)爭，這在歷史上反復發(fā)生。
與此同時，OpenAI徹底放棄了最開始的開源做法，在公布的關(guān)于ChatGPT-4的論文中，沒有提到任何具體的模型數(shù)據(jù)、能源成本和硬件、方法等信息。理由很簡單，為了全人類的安全著想。
但是，ChatGPT3.5的發(fā)布還是給世界帶來的不小的混亂和困擾，互聯(lián)網(wǎng)上開始充斥著粗制濫造的假新聞、假論文，優(yōu)美、靈動的語言開始被GPT同質(zhì)化、了無生氣的文字代替，真實和虛擬的邊界開始變得模糊。
這在奧特曼看來是“必要的代價”，他一面安撫公眾的情緒，警告人們ChatGPT仍然很不完善，不要過分依賴它；一面極力推動ChatGPT的發(fā)展。
任何試圖阻止AI繼續(xù)推進的舉措都會引來他的抗議，他拒絕在呼吁暫停六個月發(fā)展AI系統(tǒng)的聯(lián)名信上簽名；面對歐盟的監(jiān)管意圖，他回應以將OpenAI的服務從歐洲撤出的威脅。不過，這些表態(tài)不妨礙他仍然高度認同AI可能會引發(fā)人類滅絕的風險，并希望提前部署防范措施。
2023年6月12日，奧特曼在日本慶應義塾大學發(fā)表演講
在從微軟那里籌集了10億美元的資金后，雙方不斷擴大合作范圍，最終，微軟下了更大的賭注：100億美元的追加投資換取OpenAI技術(shù)的獨家使用權(quán)。這在事實上將OpenAI從一家非營利機構(gòu)變成了服務于微軟的科技公司。
在雙方的合作條款中，有這樣一條舉措：當OpenAI真正實現(xiàn)AGI時，將收回一切使用權(quán)。至于何時才算實現(xiàn)了AGI，則由OpenAI董事會說了算。以一種任意且模糊的方式對OpenAI的“崇高使命”進行呼應。
拿著這些錢，OpenAI開始擴展其業(yè)務范圍，打磨ChatGPT、與微軟的產(chǎn)品進行協(xié)同、打造開發(fā)者生態(tài)系統(tǒng)和應用商店，甚至還開始開展投資活動，為利用OpenAI技術(shù)的初創(chuàng)公司提供資金支持。這些業(yè)務和OpenAI的初心，AGI研究，擺在了同等重要的位置上。
OpenAI開始大舉擴張，人員規(guī)模較之前擴大了一倍，這些后來者到底是受到了使命的召喚還是利益的驅(qū)使，沒有人能說得清。
但至少，員工開始將股權(quán)作為其薪酬方案的標準組成部分，與從前更關(guān)注AGI的安全性和可靠性的員工相比，現(xiàn)在的員工們，更關(guān)心如何提出一個10億美元級別的業(yè)務設(shè)想。
奧特曼和OpenAI用來解釋這一切的理由是，當AGI真正實現(xiàn)的時候，整個世界將發(fā)生翻天覆地的變化，在那個新世界里，傳統(tǒng)的金錢觀念、財務安排將不再發(fā)揮作用。
言下之意，這些商業(yè)上的安排，不過是實現(xiàn)AGI之前的權(quán)宜之計。沒人知道，奧特曼本人是否真的信奉這一套說辭。
一面是搖旗吶喊的“AI時代的奧本海默”，為AI之于人類的風險奔走相告。一面又是AI商業(yè)化的激進推動者。奧特曼的面目，至此變得越來越復雜、模糊。
面目模糊的CEO
38歲的奧特曼，至今有著一副呆萌溫馴、人畜無害的面孔，談話時語調(diào)溫和，透著謙遜。但熟悉他的人都知道，和他表現(xiàn)出來的老好人形象不同，這是一位擁有不可撼動的權(quán)力意志的狠角色。
他的伯樂格雷厄姆更是直接指出他身為權(quán)力動物的一面：相比于錢，奧特曼更渴望的是權(quán)力。這或許是他不要任何股份投身OpenAI的主要動機。
少年時代，奧特曼便已展現(xiàn)出了非同凡響的好勝心與自決能力。他出生于美國圣路易斯的一個猶太中產(chǎn)家庭，是四兄妹中的老大。每天晚上，家人都會圍在一起吃飯，期間進行一些娛樂活動，諸如乒乓球、臺球、字謎游戲等。
他的弟弟回憶道，每當這時，自己的哥哥總會表現(xiàn)出“我必須贏，一切都由我說了算”的熱烈情緒，力求贏得比賽。
十幾歲時，奧特曼發(fā)現(xiàn)了自己的同性戀取向，對生活在風氣保守的中西部小伙子來說，這通常意味著背負了一樁“沉重的秘密”，但奧特曼很快就想辦法營造出了一個能讓自己透透氣的環(huán)境。
他向父母坦白了自己的性向，爭取他們的理解，并在自己的高中組織了一場支持同性戀行為的集會。這一舉動遭到了當?shù)乇Ｊ貓F體的批評，于是他憤而在學校公開出柜，并把道德壓力拋給了學校：想成為一個壓制個體的環(huán)境，還是個對不同思想開放的地方？有人回憶稱，他的舉動“改變了這所學?！薄?p>
2023年11月16日，美國舊金山，APEC峰會期間，奧特曼與嘉賓合影
奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人。
今年5月，奧特曼主動接受了美國國會的質(zhì)詢。他再度施展了自己的魅力，成功迷倒了國會議員們。
聽證會現(xiàn)場的氣氛融洽，絲毫沒有以前比爾·蓋茨、扎克伯格坐在這里時的劍拔弩張。小組委員會主席理查德·布魯門撒爾甚至用聲音克隆軟件復制了自己的音色，讓ChatGPT以自己的口吻發(fā)表開場白。
最終，這場聽證會成為了奧特曼的秀場。除了侃侃而談他對AI發(fā)展的看法、迎合議員們對AGI的監(jiān)管意愿，一句“我沒有OpenAI的股份，我憑著熱愛從事這份工作”，讓他站在了道德制高點—還有誰比利益無涉的他更有資格掌舵AGI的發(fā)展方向呢？
然而，他在道德上純潔無瑕的形象，很快受到了來自O(shè)penAI內(nèi)部的挑戰(zhàn)。
2023年11月17日，OpenAI官網(wǎng)發(fā)出聲明稱，奧特曼在與董事會的溝通中并不一貫坦誠，阻礙了董事會履行職責的能力，這讓董事會對其繼續(xù)領(lǐng)導OpenAI的能力不再有信心，故而解除奧特曼的CEO職務。
這場罷免由蘇茨克維聯(lián)合其他3名董事會成員發(fā)起，與奧特曼相比，蘇茨克維是一個更為審慎、純粹的研究者，他的行動暴露了OpenAI內(nèi)部在AGI安全、商業(yè)化和發(fā)展速度等議題上存在的廣泛分歧。
后來故事廣為人知，這場歷時僅5天的“政變”以蘇茨克維的徹底失敗告終，他沒能獲得新聞界、投資者乃至內(nèi)部員工的支持，奧特曼重回OpenAI，并重組了董事會。
不過，疑問還是留了下來，如果罷免聲明不僅僅是一個借口，那么蘇茨克維們提到的不坦誠究竟是什么？
事后，一份OpenAI內(nèi)部的訂購意向書曝光，奧特曼任CEO期間，OpenAI承諾從一家名叫Rain AI的初創(chuàng)公司訂購芯片，金額高達5100萬美元。重要的是，這是一家奧特曼本人參與投資的企業(yè)。
2023年5月16日，美國華盛頓特區(qū)，奧特曼接受美國國會的質(zhì)詢
和奧特曼共事的人站出來說，奧特曼是一個狡猾的人，有時候還會為了達成自己的目的故意誤導和欺騙人。
一個廣為流傳的例子是，前董事會成員Helen Toner發(fā)表了一篇論文，認為OpenAI發(fā)布的ChatGPT引發(fā)了科技界的軍備競賽。奧特曼對此感到不滿，他的做法是向其他董事私下表達了董事會成員Tasha McCauley希望Toner離開的意愿，事實上，McCauley沒有說過這樣的話。
此外，還有員工表示，奧特曼存在對員工“心理虐待”的行為，除了引發(fā)員工間的敵意和不正常競爭外，當有員工對奧特曼提出批評意見時，他會報之以公開詆毀，使其難堪。
這些舉動放在一個普通的公司里，或許都是被忽視的。但是對于一家以“全人類利益”為使命的機構(gòu)來說，掌舵者的道德性是十分重要的考量因素。
如果奧特曼不能做到坦率和正直，那么當AGI即將實現(xiàn)的時候，如何保證他能做出符合“全人類利益”的正確選擇？
在青年時期的一篇博客里，奧特曼分享了自己窺見的秘密：“你可以在很大程度上讓世界順從你的意愿—大多數(shù)人甚至連試都沒試過。”從被罷免之后得到的山呼海嘯般的支持來看，他顯然深諳其中的竅門。
種種跡象表明，奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人，他在不同的場合將自己與奧本海默放在一起比較，援引后者的名言：技術(shù)之所以發(fā)生，是因為它是可能的。至于怎樣才算正確使用和發(fā)展AGI，須由他和OpenAI來定義。
矛盾之處在于，他在各種場合不斷強調(diào)，要確保AGI掌握在全人類手中，同時卻讓公眾遠離ChatGPT真正的秘密；他呼吁對AI可能造成的危險遠景進行防范，卻放過正在發(fā)生的混亂。
他的一切言論，都可以從商業(yè)和理想的角度進行解讀，進而得出截然不同的結(jié)論。
他呈現(xiàn)出的復雜性，究竟是因為AI技術(shù)本身的沉重，還是源于他尚未被窺探到的人性。人們該將他的表現(xiàn)看作先知的格局還是騙子的障眼法？
或許只能等到AGI實現(xiàn)的那一刻，人們才會得知，自己追捧的究竟是一名執(zhí)劍人還是野心家。
責任編輯何承波 hcb@nfcmag.com
猜你喜歡奧特曼”不靈了 幼兒教育·教育教學版(2023年9期)2023-11-06 06:18:46下期話題“奧特曼”不靈了 幼兒教育·教育教學版(2023年5期)2023-05-26 19:33:34“奧特曼”不靈了 幼兒教育·教育科學版(2023年5期)2023-05-24 13:06:12想做聯(lián)名爆款?超級飛俠、熊出沒、奧特曼等“高光”IP等你來聊 玩具世界(2021年5期)2021-03-08 08:42:02奧特曼大揭秘 小哥白尼(神奇星球)(2020年11期)2021-01-18 05:25:50真假奧特曼 紅領(lǐng)巾·探索(2018年9期)2018-10-24 06:08:48百萬奧特曼 環(huán)球時報(2017-01-26)2017-01-26 06:48:56時空點基——奧特曼 小小藝術(shù)家(2016年3期)2016-05-16 02:57:21“奧特曼”變“土豪金” 紅領(lǐng)巾·探索(2014年2期)2015-02-09 16:35:50科學小衛(wèi)士（三） 紅蜻蜓·低年級(2014年3期)2014-07-09 02:28:18
