阿法狗啟示錄

黃世杰（Aia Huang）從盛著光亮的黑色棋子的木碗中取出—枚棋子夾在中指和食指間，透過金屬絲鏡架的眼鏡凝視了片刻，目光鎖定在了棋盤上一塊幾乎是空的區(qū)域，將黑色棋子落在一枚單個白子的左下方。在圍棋術(shù)語中管這種做法叫“肩侵”，從側(cè)面入手，遠離棋局的主要形勢。

桌子的另一端，是過去十年最厲害的圍棋選手李世石，他停住了。看著棋盤上散布著的37枚棋子，隨后站起來離開。

在50英尺之外的評論席上，邁克爾雷蒙德正在通過閉路電視觀局。雷蒙德是世界上唯一一位達到圍棋九段的西方圍棋選手，這種情形讓他陷入兩難。他和李世石同樣感到震驚，“我真的無法說清這一步是好還是壞?！崩酌傻聦υ诰€關(guān)注棋局的兩百萬觀眾說。

“我認為這是錯誤的。”另一位英語評論員、美國圍棋協(xié)會的傳媒副主席克里斯·加洛克（Chris Garlock）說道。

幾分鐘后，李世石走回比賽房間。他坐了下來，沒有觸碰碗中的白色棋子?！昼娺^去了，又一分鐘——15分鐘過去了，這對錦標賽中選手所能利用的兩小時來說是個重大的停頓。最終，李世石拿起一枚棋子落在了黃世杰剛剛走的那步黑棋的上方。

黃世杰的那步棋才剛剛是棋局的第37步，卻讓李世石再沒能從這重擊的一步中緩過來。在4小時20分鐘后，他放棄了，輸?shù)袅吮荣悺?/p>

但黃世杰并不是這場圍棋比賽真正的勝者。他只是聽從由他左邊的平板顯示器發(fā)出的指令，顯示器連接到附近首爾四季酒店的一間控制室里，接入了遍布世界各地的谷歌數(shù)據(jù)中心的上百臺電腦。只是借黃世杰之手，這場比賽背后真正參與博弈的“大腦”是一個叫作AlphaGo的人工智能機器，在這場可能是人類設(shè)計出的最復(fù)雜的棋局中打敗了當今世上最優(yōu)秀的棋手。

在同一間屋內(nèi)，另一位圍棋專家樊麾（法國國家圍棋隊總教練）也在觀戰(zhàn)，他曾三次獲得歐洲冠軍。起初他也對第37步困惑不已。但他曾和AlphaGo交戰(zhàn)過，與其他人不同的是，他是AlphaGo的練習(xí)對手。在5個月內(nèi)，樊麾和這臺機器對弈了上百次，幫助AlphaGo的創(chuàng)造者研究它的運行方式。樊麾屢次敗退，但他開始漸漸理解AlphaGo了——他也是唯——個。樊麾認為這步肩侵并非人類行為。沉思了10秒鐘后，他似乎燃大悟，“太美了?！彼f。

在這場五局三勝的比賽中，AlphaGo目前領(lǐng)先李世石——或者說機器領(lǐng)先人類——2比0。第37步顯示了AlphaGo并非單單機械重復(fù)經(jīng)年累月編入的程序或是執(zhí)行強硬的預(yù)測運算法則。這一刻AlphaGo證明了它“理解”了，或是至少讓人分辨不出是真的理解還是模仿。在李世石看來，AlphaGo展示出了圍棋手稱作直覺的東西，—種以人類達不到的方式打出美妙比賽的能力。

但不必為李世石或是人類的失敗而過度惋惜。李世石并不是個犧牲者，第37步棋也并不是第一個機器開始壓倒人類思維的時刻。恰恰相反：第37步棋代表著機器和人類終于開始共同進化了。

當大衛(wèi)·西爾韋（DavidSilver）還是名來自英國東海岸Suffolk的15歲國際象棋錦標賽選手時，戴密斯·哈薩比斯（Demis Hassabis）已是戰(zhàn)無不勝的國際象棋神童。哈薩比斯是個真正的奇才，出生于倫敦，有著中國新加坡背景的母親和希臘塞浦路斯背景的父親，一度成為全世界排名第二高的14歲以下國際象棋手。他參加地方錦標賽作為練習(xí)并且想著多贏點兒也無妨?！拔以缇椭拦_比斯了，那時他還不知道我，”西爾韋說。西爾韋作為研究員，領(lǐng)導(dǎo)創(chuàng)造出了AlphaGo?！拔铱此霈F(xiàn)在我的城市，贏得比賽之后離開?！?/p>

兩人相識于劍橋的計算神經(jīng)科學(xué)本科，這是一門研究如何理解人類思維以及未來機器如何變得智能的學(xué)科。但真正讓他們走到一起的是游戲，不論是棋盤上的還是電腦的。

那時是1998年，哈薩比斯和西爾韋畢業(yè)后自然而然地共同創(chuàng)立了一家電子游戲公司。哈薩比斯常常和同事下圍棋，受他的影響，西爾韋也開始自學(xué)?！澳苴A哈薩比斯幾乎是—種榮譽象征，”西爾韋說。“我知道他才剛開始對這游戲感興趣?！?/p>

他們加入了當?shù)氐膰H圍棋俱樂部，和二段、三段的棋哥：對弈，這相當于空手道中的黑帶級別。另一方面，他們?nèi)滩蛔∷伎紘迨窃趺闯蔀椤N機器從沒能破解的高智能競技。在1995年一個叫Chinook的計算機程序戰(zhàn)勝了世界上最頂尖的西洋棋手。兩多后，IBM公司的一臺名為“深藍”的超型計算機戰(zhàn)勝了國際象棋世界冠軍卡斯帕羅夫。之后的幾年，機器不斷在Scrabble棋、黑白棋，甚至電視智力競答上屢獲勝利。根據(jù)博弈論，圍棋同國際象棋、西洋棋一樣，是完全信息博弈，沒有機會的成分，沒有隱藏的信息。通常這些容易被計算機掌握，但圍棋偏偏不能。

可問題是，圍棋看起來十分簡單。3000多年前發(fā)明于中國。圍棋中兩個棋手在一個橫豎各19格的方格棋盤上對弈。棋手輪流在交叉點上落下黑棋子或白棋子，盡可能圍堵或隔離對手的領(lǐng)地。人們說下棋像是戰(zhàn)爭的隱喻，但其實更像一場單獨的戰(zhàn)役。圍棋像全球戰(zhàn)場，或是地緣分政治。棋盤上一個角落的棋子能牽一發(fā)而動全身，此消彼長。在一局國際象棋中，按照給定的順序一個棋手通常有大約35種可能的走法，而在圍棋中有大概200種。在整場對弈中，那是完全另一個水平的復(fù)雜程度。圍棋盤上可能的形勢超出了宇宙中原子的數(shù)量。

不同于國際象棋，圍棋棋手不論是人類還是機器都無法預(yù)計每個可能的走法所導(dǎo)致的終極結(jié)果。最頂尖的棋手憑借直覺下棋，而非粗略的算計?！耙槐P好棋看起來就很美，”哈薩比斯說，“看上去就像遵循某種美學(xué)。這就是圍棋為什么千百年來仍如此引人入勝?！?/p>

2005年，哈薩比斯和西爾韋的游戲公司倒閉了，兩個人分道揚鑣。西爾韋在阿爾伯塔大學(xué)（Alberta）研究人工智能的初期形式，叫作增強學(xué)習(xí)，一種通過讓機器自己一遍一遍完成任務(wù)并追蹤帶來最多回報的決策的學(xué)習(xí)方式。哈薩比斯則在UCL獲得研究認知神經(jīng)科學(xué)博士學(xué)位。

2010年他們又找到對方。哈薩比斯在倫敦合伙成立了一個叫DeepMind的人工智能公司；西爾韋加入了他的團隊。他們的野心不?。簞?chuàng)造出綜合的人工智能，真正能思考的人工智能。但他們總得先著手做點兒什么。

這個起始點自然是游戲競技。這對人工智能其實是個很好的測試。游戲是受到制約的，不像真實生活，游戲是個被圍困起來的小宇宙，你可以客觀地判定輸和贏，成功或失敗。DeepMind結(jié)合了增強學(xué)習(xí)和深度學(xué)習(xí)。深度學(xué)習(xí)是—種新銳的方法，在海量的數(shù)據(jù)集合中摸索出模式。為了證明這是否行得通，研究員們教給他們的人工智能雛形玩太空侵略者和Breakout（一種打磚頭的游戲）。

結(jié)果證明Breakout奏效了，基本上像乒乓球，不過并不是和對手將一個像素球彈過來彈過去，而是碰到—個彩色磚墻反彈回來。碰到的那塊磚就會消失；如果沒接到彈回來的球，或是沒碰到墻撲空了，就算輸。在玩了500多次后，DeepMind的系統(tǒng)自動學(xué)會了以某種角度發(fā)送球以保證它能停在那兒，來回彈，將磚墻一塊一塊擊掉。這是Breakout經(jīng)典的模式，但DeepMind計算機每次都能準確無誤，并且以人類反應(yīng)能力遠遠達不到的速度。

尋找投資人時，在一次晚宴上，哈薩比斯攔住彼得·蒂爾，蒂爾是著名的PayPal的創(chuàng)始人，F(xiàn)acebook的投資人。哈薩比斯只有幾分鐘時間和他交談。得知蒂爾很熱衷國際象棋，哈薩比斯進一步對他發(fā)動攻勢，說這競技游戲存活如此之久是因為騎士和主教的技能和弱點之間的創(chuàng)造性的張力。蒂爾讓哈薩比斯第二天來講講他的想法。一旦某位硅谷巨頭對你產(chǎn)生興趣，好事便會傳千里，引起所有人的興趣。通過蒂爾，哈薩比斯認識了埃隆·馬斯克（Elon Musk），馬斯克和谷歌的CEO拉里佩奇（LarryPage）講了DeepMind。谷歌很快便以6億5千萬美元收購了這家公司。

加入搜索引擎巨頭之后，哈薩比斯在一次谷歌的聯(lián)合創(chuàng)始人謝爾蓋·布林（SergeyBrin）也在的會議上演示了Atari，兩個人發(fā)現(xiàn)他們有著共同的熱情。還在斯坦福的研究生院時，布林太沉迷于玩圍棋以至于拉里·佩奇都擔(dān)心Google還能不能誕生出來。

就這樣，當布林遇見哈薩比斯，他們聊到圍棋?！澳阒?，DeepMind在幾年內(nèi)可能打敗世界圍棋冠軍，”哈薩比斯對他說，“如果我們真的花心思研究的話?！?/p>

“我覺得那不可能?！辈剂终f。

哈薩比斯聽到他的回答，就這樣，開始了游戲。

在第二局定出勝負時，西爾韋進入為AlphaGo搭建的控制室，就在比賽另一邊的大廳里。它的大腦分布在世界各處。在這些顯示器前，西爾韋可以看到一點兒AlphaGo的思維，監(jiān)控它的健康狀況，追蹤它對每次游戲結(jié)果的預(yù)測如何運行。

點幾個按鍵，西爾韋就可以收集到AlphaGo在游戲過程中的決策記錄。他聚焦在第37步之前發(fā)生了什么。

在DeepMind和AlphaGo之前，人工智能研究員用機器系統(tǒng)地預(yù)測每一步的結(jié)果，以此破解圍棋局，通過計算機“暴力法”，這很像1997年IBM的Deep Blue如何在國際象棋比賽中打敗卡斯帕羅夫。我當時還是個新人記者，在PC雜志中報道了這場比賽。而李世石對戰(zhàn)AlphaGo，人們認為這是人工智能的重要時刻。奇怪的是，如同李世石在這場比賽中的第二局，Deep Blue也在對卡斯帕羅夫的第二輪時走出了人類走不出來的一步棋?？ㄋ古亮_夫像李世石—樣遭遇落敗，但卡斯帕羅夫沒有像李世石一樣戰(zhàn)斗，他幾乎立即放棄了——在壓力下屈服了。

但單憑暴力法從來不足以贏得圍棋局。這個游戲有著太多的選擇，可能導(dǎo)致太多的結(jié)果，即使是對于計算機來說。西爾韋的團隊另辟蹊徑，建造了一臺可以學(xué)習(xí)如何合理地下棋而不是比賽的機器。

在DeepMind近倫敦國王十字站的辦公室內(nèi)，團隊將3000萬人類圍棋走法灌輸進深度神經(jīng)網(wǎng)絡(luò)，這個網(wǎng)絡(luò)由硬件軟件組成，松散地仿效人腦內(nèi)的神經(jīng)元的網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)實際上很常見：Facebook使用它們?yōu)檎掌械哪樚砑訕撕?；谷歌使用它們辨識安卓智能手機指令。如果你將足夠多的你媽媽的照片輸入神經(jīng)網(wǎng)絡(luò)，它就會能夠認出她。給它輸入足夠多的演講，它就能學(xué)會識別出你說了什么。給它輸入3000萬步圍棋走法，它就能學(xué)會下圍棋。

但僅知道規(guī)則并不能成為能手。第37步并不在那3000萬步之中。那么AlphaGo是怎么走出這—步棋的呢？

AlphaGo知道這步風(fēng)險很大——某種程度上它可以“懂得”任何事。“它知道這步是專業(yè)棋手不會走的，當它探查得越來越深，它就能壓倒最初的指引?！蔽鳡栱f說道。某種程度上，alphaGo已經(jīng)開始獨立思考了。它的決策并非基于它的創(chuàng)造者編入它的數(shù)碼DNA中的規(guī)則，而是基于它自己領(lǐng)悟出的運算法則?！八娴氖峭ㄟ^它自己的操作和分析過程認知到的?！?/p>

事實上，機器已經(jīng)算出人類專家棋手也走同樣的這步棋的可能性是萬分之一，所以AlphaGo就走了這步。

在它學(xué)會根據(jù)人類可能的行動下棋時，西爾韋使機器自己與自己博弈。它一局接一局地和一個同它自己神經(jīng)網(wǎng)絡(luò)輕微不同的版本對弈。當它行動時，它追蹤哪一步能導(dǎo)致最大的回報，占領(lǐng)棋盤上最大的領(lǐng)地——西爾韋在研究生學(xué)院研究的增強學(xué)習(xí)技巧。AlphaGo開始形成自己的機械套路。

但這只是一小部分把戲。西爾韋的團隊之后將百萬的非人類的行動輸入第二個神經(jīng)網(wǎng)絡(luò)，教它像卡斯帕羅夫（或DeepBlue）觀察接下來的國際象棋局的方式一樣來預(yù)計結(jié)果。它沒法像國際象棋局一樣計算所有可能的行動——這仍然不可能。但在集合了它自己下了這么多局之后收集的所有知識之后，AlphaGo能夠開始預(yù)計一局圍棋大概會如何進行了。

能從你沒見過的初始條件揣測結(jié)果？那就是所謂的“直覺”。AlphaGo在第二局憑直覺走出的就是那第37步，—種超乎最厲害的人類棋手能達到的洞察力。連它的創(chuàng)造者也預(yù)見不到。“當我觀看這些棋局，你不知道那有多緊張，”西爾韋從控制室回來之后對我說。“我真的不清楚將會出現(xiàn)什么情況?！?/p>

你付給一家公司六億五千萬美元不是讓它來造一個會玩棋盤游戲的電腦的。深層學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)是谷歌很多服務(wù)項目的基礎(chǔ)，包括它強大的搜索引擎。增強學(xué)習(xí)，AlphaGo的另一個不算秘密的武器，已經(jīng)在教這家公司的實驗室機器人挑揀和移動各種物品了。你能想象這場比賽對谷歌的人有多重要。埃里克·施密特——主席和前CEO——在第一局之前乘飛機趕到現(xiàn)場。Jeff Dean，谷歌最著名的工程師，也來看第一局。謝爾蓋·布林來看第三、四局，帶著他自己的木棋盤。

比起工作這更是令人緊張的成敗關(guān)頭。在比賽時，我和哈薩比斯散步經(jīng)過鐘路區(qū)，這是有600年歷史的首爾的文化政治中心。我們聊天時—個年輕女人睜大了眼睛認出了哈薩比斯，他的臉出現(xiàn)在整個韓國的電視和報紙上。女人見到他像見到了泰勒·斯威夫特或是賈斯汀·比伯一樣激動得要昏倒。

“你看見了嗎？”我說。

“是的，”哈薩比斯面無表情地回答，“總是這樣?！?/p>

他沒在開玩笑。計算機工程師通常沒有粉絲，但韓國有800萬人下圍棋，李世石是民族英雄般的人物。在中國，有超過兩億八千萬觀眾在看這場對弈的直播。

所以在李世石輸?shù)舻谝痪钟州數(shù)舻诙謺r，粉絲們原本眩暈的興奮感被削減并變得陰沉也很正常。當?shù)诙纸Y(jié)束時，一位名為周先生的中國記者在評論室攔住我，很樂意和對AlphaGo抱著技術(shù)突破的看法而非只是圍棋殺手的人聊上幾句。

但之后我問他怎樣看李世石的敗局。周先生指向自己的胸口說：“這令我感到悲哀?！?/p>

我也感到那種悲哀，從前獨屬于人類的東西現(xiàn)在不是了。這場圍棋對弈揭示出的事實使我們意識到機器已經(jīng)跨過了—個門檻，他們已經(jīng)超越人類的能力范圍。當然機器仍不能進行真正的對話，它們無法自己想出一個好的笑話，它們不能玩看手勢猜字謎游戲，他們不能復(fù)制潛移默化的常識。但AlphaGo無可置疑的優(yōu)越性向我們顯示了機器現(xiàn)在可以模仿并且超越驅(qū)動著世界上最優(yōu)秀的圍棋棋手們的人類直覺。

李世石繼續(xù)輸?shù)袅说谌?，AlphaGo確保了五局三勝中的勝利地位。在之后的媒體發(fā)布會上，哈薩比斯坐在李世石旁邊，李世石為使人類失望而道歉?！拔覒?yīng)該展示一個更好的結(jié)果的?！彼f。

在李世石講話時，哈薩比斯產(chǎn)生—種突如其來的感覺。作為AlphaGo的創(chuàng)造者之一，他是自豪的，甚至得意的，機器達成了很多人認為它做不到的。但他也感到作為人類出自人性的不情愿，甚至開始希望李世石會贏得一局。

在第四局進入20分鐘之后，李世石又一次深陷困境，他這回比較有侵略性，在棋子到處分散的棋盤上他選擇集中火力在某一區(qū)域。但Alphago開始采用更加擴張性的風(fēng)格，采用更整體的方法衡量整個棋盤。在第37步時，AlphaGo將黑子落在一塊只有單獨一枚白子的區(qū)域，離開了主要的形勢范圍。又一次，在第四局，機器采用這種令人有些想不通的方法操控了局面。

AlphaGo已經(jīng)顯然贏了比賽。李世石再怎么玩也注定輸了，但他是在代表人性繼續(xù)下棋。77步之后，他似乎遲疑了。右手托著下巴，他前后晃了晃，在椅子上轉(zhuǎn)動又揉了揉頸椎。時間一點點兒過去。

繼續(xù)左手握著脖子，他好像要行動了。李世石用右手前兩只手指捏起一枚白色棋子，放在了棋盤非常中央的位置，直接落在兩枚黑子之間。這是第78步，這是在兩個寬闊擁擠的區(qū)域之間的“楔形移動”。這步有效地將AlphaGo的防御切斷成兩半。機器眨眼了，當然不是真的眨眼。但它的下一步很可怕。李世石看了黃世杰一眼，目光很犀利，好像黃世杰就是他的對手，而不是那無數(shù)個電路。

在AlphaGo的控制室，運行機器的人們停下手中的工作，盯著監(jiān)控。在李世石絕妙的第78步之前，AlphaGo認為它的勝算在70%。8步之后，勝算大大減少。突然之間AlphaGo似乎由Deep Blue的繼承者變成了卡斯帕羅夫的。難以置信人類能走出這一步——可能性是那熟悉的萬分之一。

像人類一樣，AlphaGo也會措手不及。到比賽的第4小時45分鐘，AlphaGo放棄了，像人類—樣，輸?shù)囊部赡苁撬?/p>

“到那一刻AlphaGo之前經(jīng)歷的所有思考都沒用了，”哈薩比斯說?！八弥匦麻_始?！?/p>

最后一局開始了，我本該和哈薩比斯及他的團隊觀戰(zhàn)。但就在我去找他們前，一個Google的人在記者招待室找到我?！拔覀兒鼙?，”她說，“團隊改變了主意，他們不希望最后一局時有記者在場?！?/p>

她離開之后，我轉(zhuǎn)向跟我一道前來拍攝的攝影師?！澳阒肋@意味著什么？”我說，“AlphaGo大概要輸了?！?/p>

沒錯，棋局開始時AlphaGo犯了—個新手錯誤。在棋盤下半部—個棋子多的區(qū)域，機器將它的白子落得離李世石的黑棋子太近，失去了整個地盤。AlphaGo的直覺使它失敗了，像人一樣，機器也有盲點。

但當這一局延長進入了第三個小時，AlphaGo挽回了自己的競爭。在三個半小時時，李世石的時間要用完了。在比賽規(guī)則下，他現(xiàn)在不得不在一分鐘內(nèi)走出每步棋，否則就會失掉機會，但在右上方有一塊很大的空地還沒有棋子。每一次他都等到最后一秒才走出下—步。

AlphaGo的時鐘也快用盡了。兩位對手開始以幾乎不可能的速度博弈。棋盤擺滿了棋子。在這幾局中，第一次感到這棋局好像要玩到盡頭了——在最后一次計分前，兩邊都不會放棄。但到了第五小時，李世石和

AlphaGo之間的差距變得太大了。李世石放棄了，AlphaGo岌岌可危但仍然占優(yōu)勢地位。

在全世界，只有另一個人能聲稱自己了解李世石的感受：樊麾，三次歐洲冠軍，AlphaGo的教練。在10月份非公開的比賽中，他以0勝輸給了機器5次，那是為在首爾更大的比賽進行的訓(xùn)練。之后，樊麾加入DeepMind作為雇傭棋手，一次次和機器對弈——一次次輸。

但就當樊麾對AlphaGo的失敗經(jīng)驗漸漸積累時，有趣的事情發(fā)生了，樊麾開始對圍棋有了全新的理解。和其他人比賽時，他開始贏得更多——包括四次連贏頂尖棋手。他的排名迅速上升，是AlphaGo訓(xùn)練了他。

因此在比賽期間我問樊麾，我們應(yīng)該如何看到李世石和機器的對弈？

“我們應(yīng)該安慰并尊重李世石。”樊麾說。

這些日子中，世界上最大的最富有的科技公司在使用與創(chuàng)造AlphaGo同樣的技術(shù)來尋求競爭優(yōu)勢。哪個應(yīng)用能更好地識別出一張照片？哪個又能更好地回應(yīng)聲音指令？很快這些相同的系統(tǒng)就會幫助機器人和它們以更加接近人類的方式與真實世界互動。

但比起非人類的AlphaGo閃爍出的人性，這些實際用途都太平庸無奇。一種基于AlphaGo產(chǎn)生的亞文化開始前所未見地涌現(xiàn)，比方說，谷歌的照片應(yīng)用。在德國杜塞爾多夫，一位游戲設(shè)計、媒體和通訊方面的教授現(xiàn)在運營一個向第37步棋致敬的推特賬戶。在讀了我對首爾棋賽的報道后，來自佛羅里達的45歲的電腦程序員給我寫郵件說她將AlphaGo的第37步棋文在了她右臂內(nèi)側(cè)，而她左臂的內(nèi)側(cè)，是李世石的第78步棋——受到上帝之手點撥的一步。

在第四局過后，李世石和哈薩比斯坐在—起，從前的游戲奇才告訴李世石說他理解這種壓力。他理解他的創(chuàng)造力和什么驅(qū)動著他?！拔乙苍且晃黄迨?，”哈薩比斯說。“如果我走了另一條路……我知道達到那種程度需要怎樣的付出和犧牲?！?/p>

李世石說和機器對弈重新燃起了他對圍棋的熱愛。就像對樊麾來說，AlphaGo開啟了他圍棋生涯新的局面和視野?！拔乙呀?jīng)有所長進了，”李世石說?！斑@給了我新的啟示。”從那之后他沒輸過棋局。

在錦標賽之前，哈薩比斯告訴全世界AlphaGo的人工智能技術(shù)能掀起新一輪科學(xué)研究，機器為人類指點下一個重大突破。那時，沒有事實證明，這些宣稱有些空洞——典型的科技界大肆渲染式的噱頭。但現(xiàn)在并非如此了，機器做出了近乎人性的舉動，甚至迢越了人類。但在這個過程中，機器激發(fā)了人類更高的水準。是的，你可以把第37步看作機器超越創(chuàng)造他們的人類的征兆?；蛘哒J為這是—粒種子，“如果沒有第37步，我們也不會有第78步。”