把思考外包給機器？

黑爪

2008年，著名的美國科技雜志《連線》主編克里斯 安德森，在當年6月23日的《連線》上宣稱，“理論終結(jié)了：數(shù)據(jù)的洪流使得科學(xué)方法變得過時”。

其時谷歌剛剛十歲，風(fēng)頭雖健，但那時我們尚相信理論。無論是從描述宇宙，還是到分析人類行為，理論就算不完美，也大致能夠解釋我們所處的世界。但安德森那時預(yù)言，在海量數(shù)據(jù)中成長起來的谷歌，將會使我們終將不再需要理論。

數(shù)據(jù)的計量單位，從字節(jié)到千字節(jié)，再到兆字節(jié)，那之后的GB、TB，普通中國人就不再熱衷于用對應(yīng)的中文名字來稱呼它們了，不光因為太大，大到難以想象，中文名字失去了任何意義，還因為這些單位很快就被更大的單位取代，剛剛習(xí)慣就已經(jīng)過時了。如今是PB年代，PB全稱是Petabyte，拍字節(jié)。

至此，仿佛完成了量變的積累：千字節(jié)時代我們用軟盤存儲，兆字節(jié)時代用硬盤，GB、TB有存儲矩陣，到了PB，一切便上到了云端……就好像從文件夾到文件柜再到檔案館的類比，終于，我們用完了可資類比的實體。

信息不再是簡單的三維或者四維空間里的歸類和序列，它變成了不可知維度的統(tǒng)計學(xué)概念。谷歌不懂廣告業(yè)，甚至從不宣稱自己懂，也不打算去懂，但它征服了廣告業(yè)，靠的僅僅是數(shù)據(jù)，以及，對數(shù)據(jù)的分析。其基本哲學(xué)便是，我們并不知道為什么這個頁面比另一個好，如果接入鏈接的統(tǒng)計數(shù)據(jù)說它好，那就夠了，任何人類行為理論都是多余的。誰知道人為什么要做某件事呢，重點是他做了，而我們又能夠以前所未聞的精確度跟蹤測量。

世界已經(jīng)由海量數(shù)據(jù)和應(yīng)用數(shù)學(xué)取代了其他一切工具，只要數(shù)據(jù)足夠大，一切不言而喻。

征服廣告當然只是谷歌以及它所代表的數(shù)據(jù)年代主宰們的牛刀小試，盡管這已經(jīng)顛覆了零售業(yè)、傳統(tǒng)媒體以及眾多行業(yè)，但這不是真正的目標，目標是要取代科學(xué)，重建自啟蒙時期樹立起來的知識和思考體系。

科學(xué)方法建立在可驗證之假設(shè)的基礎(chǔ)上。這些假設(shè)模型，大都是在科學(xué)家的頭腦中視覺化的系統(tǒng)，然后經(jīng)過測試、實驗以確定其在現(xiàn)實世界中如何工作。幾百年來科學(xué)研究就是這樣在進行。

然而在PB年代的巨量數(shù)據(jù)面前，這種假設(shè)、建模、測試的方式似乎正在逐漸失去意義。拿物理來說：牛頓模型對事實進行模仿，雖然粗略但仍然有用;到了一百年前，建立在統(tǒng)計學(xué)基礎(chǔ)上的量子力學(xué)，提供了一個更為優(yōu)秀的視圖——然而量子力學(xué)終究也只是另一個模型，不可避免地也有瑕疵。物理學(xué)因而很大程度流于理論猜想，只是現(xiàn)有實驗手段無法對其證偽。在21世紀的第一個十年間，生物學(xué)也面臨同樣的問題。

PB給出了它的答案：只需要相關(guān)性。我們不用再去關(guān)心模型、假設(shè)，需要做的就是直接去分析數(shù)據(jù)。把數(shù)字扔進最大的計算機集群里，讓統(tǒng)計算法來把科學(xué)不能找到的規(guī)律找出。

這，成為理解這個世界的全新方法，相關(guān)從此取代因果。所以安德森在那篇宣言似的文章結(jié)尾處，他說，是科學(xué)向谷歌學(xué)習(xí)的時候了。

又一個十年過去了。如今看來，他好像沒有說錯。算法和大數(shù)據(jù)在過去這十年間大顯神通，在某些領(lǐng)域比行業(yè)專家們貢獻了更多有意義的見解，以及更精確的結(jié)果。仿佛忽然之間，我們終于有能力去揭開潛藏在人、機器、商品甚至自然所留下的數(shù)據(jù)影子和信息軌跡里的秘密。

但是，我們自己，潛藏在每一個人不知不覺生活軌跡里的秘密同樣在被谷歌、臉書以及其他互聯(lián)網(wǎng)公司大數(shù)據(jù)揭開。幾乎所有的大零售商都在對銷售數(shù)據(jù)庫中的海量數(shù)據(jù)進行分析，這些數(shù)據(jù)庫通過信用卡、積分卡等與你關(guān)聯(lián)，目的是對你將來的行為做出一些看似不可思議的預(yù)測。前些年就有一個著名的例子，美國明尼阿波利斯一位憤怒的父親，一天沖進零售商塔吉特（Target）商店里，投訴他們不斷向他十幾歲的女兒寄送嬰兒用品折扣券。事實是，這位父親確實不知道女兒懷孕了，但塔吉特知道。他們通過監(jiān)測她的購物模式，并將她的數(shù)據(jù)與幾十億美金銷售的信息作比，推測出了這一看似匪夷所思的結(jié)果。

面對硅谷的成就，我們一向認為那是一些改變了現(xiàn)代生活的革新。向前回顧幾十年，有英特爾的集成電路，或者蘋果對個人電腦的重新定義。近十年更有臉書的連接一切，無所不能的谷歌搜索，浩瀚無邊的亞馬遜集市。這些令人嘆服的技術(shù)帶給我們?nèi)绱硕嗟谋憷瑫r也帶給我們沒完沒了的電子郵件，讓我們很難專注，也令我們更容易受到傷害——入侵、網(wǎng)絡(luò)攻擊、跟蹤甚至更糟。

如果我們需要付出的代價還遠不止這些，并且遠比這些意義更加重大呢？

對于巨頭為我們提供的廉價甚至免費的服務(wù)，我們從習(xí)慣已經(jīng)逐漸過渡到不可或缺。但我們很少反過來想，這些廉價和免費的背后，是通過影響我們的思考和行為，使我們不知不覺地接受擺布，那些復(fù)雜的算法，針對每一個人進行的精準個性化建議，買什么商品，看什么視頻，已經(jīng)并不真正是我們的決定，而我們得到這些建議的方法——推送到我們眼前的新聞、消費品、電影、音樂——卻一直對我們而言，神秘莫測。

《大西洋月刊》作者富蘭克林 富爾（Franklin Foer）在他2017年出版的《沒有思想的世界》（World Without Mind）一書中指出：“當我們將思考外包給機器時，我們事實上是把思考外包給了運營這些機器的組織?！?/p>

啟蒙時代所建立起來的，知識與力量之間的制衡關(guān)系，在這樣一個噸位的信息量面前被擊得粉碎。其結(jié)果，不僅僅是知識不再有力，它甚至已經(jīng)不再是知識。一度被當成人類文明史上偉大構(gòu)建的互聯(lián)網(wǎng)，我們期待著通過它，我們?nèi)巳硕伎色@得技術(shù)層面的啟蒙。但眼前的進展并非如我們最初所料：

今天的我們，發(fā)現(xiàn)自己與一個浩瀚無邊的知識庫相連，但我們沒有學(xué)會思考。算法成為巫師手里的魔杖，在知識庫翻云覆雨，而手握魔杖的數(shù)據(jù)巨頭，正在成為新時代的總仲裁，比我們自己更知道我們的需求，和我們下一步的決定。原本用來照亮世界的知識，似乎將世界變得一片漆黑。 我們舉目四顧，滿是唾手可得的過量信息，但我們越來越不知道該怎樣去理解這個世界。

就像亞馬遜倉庫里的取件員，他在貨架間遵循手執(zhí)設(shè)備給他的指令，流利地穿梭來往，但離開這個設(shè)備，他即刻茫然失措。因為貨架的設(shè)置并不以其是否便于人眼查看為標準：書可能堆在鍋的旁邊，電視可能與兒童玩具擺在一起，僅僅因為這種堆放可能便于機器定位。這是一個沒有計算機輔助便不可能理解的系統(tǒng)，在這里，人與機器之間傳統(tǒng)的相互關(guān)系被徹底顛覆。

亞馬遜的倉庫，正是我們這個世界的一個縮影。人類肉身變成算法的一部分，其用途僅僅在于，接受指令的同時，能夠移動，這使得他們更容易受雇，也更容易被炒，甚至更容易接受不公正的待遇。但我們所有人都在向這樣一個只能從機器角度來理解的世界妥協(xié)。

我們創(chuàng)造了一個徹底藐視我們，不屑于讓我們?nèi)ザ盟氖澜纭?/p>

與此同時，因為人人都能訪問到無限量的信息和知識庫，人們對知識權(quán)威、專家的信任開始崩塌。美國總統(tǒng)特朗普在挑選顧問時，偏好沒有或者很少從政經(jīng)驗的;他本人在大選中的勝利，當然更說明了選民對專業(yè)知識和經(jīng)驗的嗤之以鼻。這是近年來上升的反理性主義大浪的一部分，它最大限度地顯現(xiàn)在公共辯論中，情緒對抗推理時，越來越強的優(yōu)勢，以及真相與觀點和謊言之間界線的越來越模糊。“抵抗知識權(quán)威”與將“普通人的智慧浪漫化”聯(lián)系在一起，互聯(lián)網(wǎng)在允許更多的人比以往任何時候都能獲得更大量信息的同時，也賦予了他們擁有“知識”的幻覺。

所有這一切，結(jié)合在一起，形成了一股反理性的大漩渦，不僅僅殺死了對專業(yè)知識的尊敬，也破壞了常識，阻撓了理性討論，將錯誤信息像流行病一樣傳播。谷歌的無處不在，將信息、知識和經(jīng)驗三者混為一談。

在此之前，對現(xiàn)代歷史產(chǎn)生最大影響的技術(shù)進步應(yīng)該是15世紀的印刷技術(shù)。它使得對經(jīng)驗性的知識檢索成為可能，取代了儀式形式宣講的必要性。理性時代（Age of Reason）逐漸取代了宗教時代（Age of Religion），個體的見解和科學(xué)知識，取代了信仰作為人類認知的基本標準。信息被系統(tǒng)化地存放在越來越大的圖書館內(nèi)。

現(xiàn)代世界秩序的一切思想和行為都萌發(fā)于理性時代。

但眼下我們面臨的這種全新的，更加橫掃一切的技術(shù)革命中，這個秩序正在遭遇劇烈的震蕩，對其后果我們尚無清晰的認知。其結(jié)果，可能會像前文我描述的那樣一個依賴于機器的、荒涼冰冷的世界，我們所依賴的機器，又完全由數(shù)據(jù)、算法來驅(qū)動，不受任何倫理或哲學(xué)常理的支配。

我們已經(jīng)生活在其中的互聯(lián)網(wǎng)時代，某種程度上已經(jīng)提出了一些問題和麻煩;而正在降臨的AI，則只會將這些問題和麻煩變得更加尖銳。

啟蒙運動力求讓那之前的傳統(tǒng)真理向更加解放的、注重理性分析的人類理性讓位。而互聯(lián)網(wǎng)的目標則是，通過無限增長的數(shù)據(jù)積累和操作，來對知識賦予某種認可，人類認知的個體性不再具有意義，個體被簡化成數(shù)據(jù)，而數(shù)據(jù)統(tǒng)治一切。

互聯(lián)網(wǎng)用戶強調(diào)檢索及操作信息，而忽略信息的上下文，并對其含義進行概念化。信息因此對知識和智慧形成威脅。淹沒在社交媒體上大量的觀點和意見的海洋中，人們離自省和思考越來越遠。

互聯(lián)網(wǎng)和越來越強大的計算能力聚集并分析了海量的數(shù)據(jù)，前所未有的人類認知開始出現(xiàn)，其中最顯著的就是各種人工智能工程——看似能夠模擬人類大腦來解決復(fù)雜、抽象問題的技術(shù)。

對大多數(shù)人而言，人工智能在很長一段時間里，只是科幻小說中的虛構(gòu)，直到谷歌的阿爾法圍棋擊敗了世界頂級圍棋手李世石那一天，我們?nèi)鐗舫跣?。阿爾法圍棋的驚人之處在于，它沒有經(jīng)過預(yù)編程這個環(huán)節(jié)。打個比方，它是在不斷的實踐當中“自學(xué)成才”，只需簡單將圍棋的規(guī)則告訴它，它在與自己的對弈中，從錯誤中學(xué)習(xí)，實時改良算法。在這個過程中，它飛快地超越了它的人類教練。

這遠遠超過了我們已經(jīng)熟知的自動化。自動化所處理的僅僅是手段，它通過邏輯或機制來實現(xiàn)一些預(yù)定的目標。相反，人工智能所處理的，則是目的。它為自己建立目標。它的成就，從某種意義上說，是由它自己塑造的。它在獲取和分析新數(shù)據(jù)的過程中始終在調(diào)整和變動，從而在分析的基礎(chǔ)上尋求自身的提高。通過這樣一個過程，人工智能發(fā)育出了過去被認為由人類保留的能力。它所做出的對于未來的關(guān)鍵判斷，一部分基于編碼（例如圍棋規(guī)則），而另一部分則基于它自己采集的數(shù)據(jù)（例如下一百萬次棋）。

如果說AI此前尚一直局限于特定領(lǐng)域，如今已經(jīng)開始著眼于能夠在多領(lǐng)域執(zhí)行任務(wù)的“通用智能”AI。比例正在不斷增長的人類行為，在可見的時間范圍內(nèi)，將能夠由AI算法執(zhí)行。但這樣一些通過對觀測到的數(shù)據(jù)從數(shù)學(xué)角度進行闡釋而產(chǎn)生的算法，并不能解釋隱藏其下的現(xiàn)實世界。這也正是其諷刺所在，世界在越來越透明的同時，也越來越神秘。

是什么將這個新世界從我們熟知的那一個區(qū)分開？我們該怎樣在其中生活？縱觀整個人類歷史，不同時代的文明有其不同的方式，來對其所處的世界做出解釋——中世紀的宗教，啟蒙時代的推理，19世紀的歷史，20世紀的意識形態(tài)。而對于這個我們正在進入的世界，最困難也是最重要的一點：如果人類對世界的解釋力被AI超越，社會將不再能夠?qū)ζ渌幍氖澜缱龀鲇幸饬x的解釋，什么將成為人類的意識？在將人類行為簡化為數(shù)學(xué)數(shù)據(jù)的機器世界里，思想將怎樣被定義？

AI真正的獨到之處，卻并非迄今為止我們所認識和定義的思考，而是前所未有的記憶和計算。但決定人類之所以為人類的，恰恰在于思考。

人文領(lǐng)域的知識分子過去在很大程度上塑造了這個世界的概念秩序，這次終于顯得力不從心，他們要么欠缺AI如何運轉(zhuǎn)的基本知識，要么被它所能達到的成就驚得目瞪口呆，只剩下崇敬。另一方面，科學(xué)領(lǐng)域正一門心思地在探索它在技術(shù)方面的潛力;而技術(shù)領(lǐng)域則迷醉于它無比燦爛的商業(yè)前景。科學(xué)與技術(shù)這兩個領(lǐng)域的動力都在于進一步將發(fā)明和發(fā)現(xiàn)向極限推進，而非對它有更深的理解。 至于監(jiān)管，從目前來看，更多地著眼在處理AI應(yīng)用本身的安全和性能方面，而非探索其已經(jīng)開始的，對人類生存狀況的大改變。

啟蒙運動從根本上也始于新技術(shù)的普及，但我們的時代似乎在向相反的方向推進，它創(chuàng)造了具有潛在的統(tǒng)治一切的能力的技術(shù)。因此我們需要從倫理上、哲學(xué)上找到某種引領(lǐng)，而這些不是技術(shù)極客能夠回答的問題。從前技術(shù)總能成功，因為我們都相信“失敗是成功之母”，可以從錯誤中學(xué)習(xí)?；痖_始惹禍了，我們發(fā)明了滅火器;汽車開始傷人命了，我們開始使用安全帶……但是面對更加強大的技術(shù)，例如核武器，生物合成技術(shù)，以至超級人工智能，我們不能再從錯誤中學(xué)習(xí)。因為這學(xué)習(xí)代價太大，人類付不起。

2013年5月，谷歌在英國赫特福德郡邀請了大約200位特定的客人出席其“時代精神”年會。這一兩天的會議極度保密，僅有少量演講視頻在網(wǎng)上進行了公開發(fā)布。那些年間，這個年會的演講者一直以包括美國前總統(tǒng)、皇族、明星等高規(guī)格人物著稱，2013年出席的有數(shù)位政府首腦，歐洲諸多大企業(yè)總裁，英國軍方頭腦，以及最具影響力和煽動性的演講者。一個月后，這次年會的參與者的一部分，包括谷歌CEO埃里克 施密特在內(nèi)，再次回到那家酒店參加更為神秘的世界級年度非正式政要聚會，彼爾德伯格會議。施密特為會議以一篇技術(shù)帶來解放的頌歌開幕。他說：“我認為我們現(xiàn)在缺了某種東西……發(fā)明創(chuàng)造的本質(zhì)，在谷歌以及在全世界正在發(fā)生的事情，足以讓我們整個人類更加樂觀。”

在隨后的討論中，他用手機，尤其是帶攝影功能的手機的流行，如何降低了“系統(tǒng)性作惡”的可能來說明，技術(shù)怎樣使世界變得更好：如果盧旺達1994年有手機。施密特的，或者說谷歌的世界觀，是相信讓一切變得可見便能改變世界。事實真是這樣嗎？盧旺達的種族屠殺沒有被制止，真的是因為外界不知情嗎？2012年的審判中，控方出具了1994年5、6、7整整三個月的高清衛(wèi)星圖片，那里發(fā)生的一切，美國知道、歐盟知道、聯(lián)合國知道，災(zāi)難并沒有因為可見而被消滅。 在盧旺達缺位的不是信息，而是采取行動的意愿和決心，是良知，這不是技術(shù)或者數(shù)據(jù)能夠帶給我們的。

責(zé)任編輯 杜小燁