當(dāng)AI來臨，人類文明應(yīng)該警惕什么？

《人工智能時(shí)代與人類價(jià)值》

[美]亨利·基辛格 埃里克·施密特 克雷格·蒙迪 著

胡利平 風(fēng)君 譯

中信出版集團(tuán)

2025年3月

2025年春節(jié)前夕，中國(guó)人工智能（AI）領(lǐng)域悄然掀起一場(chǎng)革命。DeepSeek以557.6萬美元的超低訓(xùn)練成本完成V3模型迭代，僅是OpenAI GPT-4o模型訓(xùn)練成本的不到十分之一。同時(shí)，DeepSeek非常慷慨地公布開源策略，推動(dòng)人工智能行業(yè)走向更加開放、合作的嶄新時(shí)代。這場(chǎng)技術(shù)突圍恰似數(shù)字時(shí)代的“寒武紀(jì)大爆發(fā)”，不僅顛覆了“大模型必屬巨頭”的產(chǎn)業(yè)認(rèn)知，更催化了全球AI競(jìng)賽格局的重構(gòu)。

然而，自DeepSeek問世起，針對(duì)性的高強(qiáng)度網(wǎng)絡(luò)攻擊就不斷爆發(fā)，給人工智能行業(yè)敲響了堅(jiān)守安全底線的警鐘；各種質(zhì)疑和爭(zhēng)議接踵而至，如DeepSeek與OpenAI之間的“蒸餾”爭(zhēng)議，拋開行業(yè)競(jìng)爭(zhēng)和地緣因素不談，在某種程度上可以說是觸及了AI技術(shù)的本質(zhì)與“知識(shí)所有權(quán)”的倫理困境。

與此同時(shí)，OpenAI前首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）的離職及其新公司Safe Superintelligence的融資估值突破200億美元，再次將AI安全與倫理問題推上風(fēng)口浪尖。

在新書《人工智能時(shí)代與人類價(jià)值》中，作者們深入探討了這一領(lǐng)域的深層次挑戰(zhàn)。書中警告，如果技術(shù)繼續(xù)迅猛發(fā)展，而人類未能明確界定與機(jī)器的本質(zhì)區(qū)別，我們可能會(huì)將決定人類價(jià)值的任務(wù)交給機(jī)器——這是人類文明面臨的重大考驗(yàn)，值得每一個(gè)科技從業(yè)者和政策制定者深思。

消失的邊界：大公司主導(dǎo)的世界

今天，擁有和開發(fā)人工智能的公司將積聚起可碾軋一切的社會(huì)、經(jīng)濟(jì)、軍事和政治權(quán)力。各國(guó)政府則被迫成為私人公司的東道主和啦啦隊(duì)長(zhǎng)，運(yùn)用自己的軍事實(shí)力、外交資本和經(jīng)濟(jì)影響力促進(jìn)本土利益。

與此同時(shí)，各國(guó)政府還扮演著平民百姓支持者的角色，而平民百姓則對(duì)壟斷集團(tuán)的貪婪和隱秘疑慮重重。夾在私人公司東道主兼啦啦隊(duì)長(zhǎng)與平民百姓支持者角色之間的各國(guó)政府被迫煞費(fèi)苦心地左右應(yīng)付。

這對(duì)矛盾也許無法化解。人工智能的問世將使任何既有機(jī)構(gòu)的治理難上加難。與此同時(shí)，大公司或許會(huì)結(jié)成同盟，鞏固已很強(qiáng)大的自身實(shí)力。這些同盟或靠互補(bǔ)優(yōu)勢(shì)和合并而起，或因?qū)﹂_發(fā)和部署人工智能系統(tǒng)有共同理念而興。

這些公司同盟也許會(huì)承擔(dān)傳統(tǒng)民族國(guó)家的職能，不過不會(huì)去界定和開拓邊界已劃定的地盤，而是會(huì)深耕分散的數(shù)字互聯(lián)網(wǎng)，把它作為自己的領(lǐng)地。

還有一種可能。如果對(duì)源代碼的擴(kuò)散放任不管，有可能會(huì)導(dǎo)致冒出一些小團(tuán)伙或集團(tuán)。它們擁有的人工智能足以勝任在有限范圍內(nèi)的治理、供給和自衛(wèi)職能。人類中的有些團(tuán)體排斥現(xiàn)存權(quán)威機(jī)構(gòu)，贊成權(quán)力分散的金融、通信和治理。這類團(tuán)體也許最終會(huì)墜入人類之初那種原始無政府狀態(tài)，抑或這類團(tuán)體也許會(huì)摻入宗教因素。

就影響范圍而言，基督教、伊斯蘭教和印度教的影響超過了歷史上任何一國(guó)的影響，延續(xù)時(shí)間也更長(zhǎng)。在未來，宗教教派也許比國(guó)籍更能界定身份和忠誠(chéng)。

以上兩種未來無論哪一種，公司同盟主導(dǎo)也好，分散成為結(jié)構(gòu)松散的宗教團(tuán)體也罷，每個(gè)團(tuán)體爭(zhēng)取的新“地盤”將不再是以尺寸計(jì)算的土地，而是顯示個(gè)體用戶忠誠(chéng)的數(shù)字設(shè)備。人工智能將顛覆傳統(tǒng)意義上的公民概念。

對(duì)全球科學(xué)界而言，當(dāng)務(wù)之急是找到可以在每一個(gè)人工智能系統(tǒng)中加入內(nèi)在安全保障的技術(shù)手段。各國(guó)和國(guó)際組織一旦達(dá)成共識(shí)，就必須為監(jiān)督、執(zhí)行和應(yīng)對(duì)危機(jī)建立新的政治結(jié)構(gòu)。這需要解決兩個(gè)而不是一個(gè)“對(duì)齊問題”：一個(gè)是人類價(jià)值觀和意圖與人工智能行動(dòng)在技術(shù)層面的對(duì)齊，另一個(gè)是人與人之間在外交層面的對(duì)齊。

重新分配：從稀缺走向富足

在過去的兩個(gè)世紀(jì)里，資本主義民主基本上用精英領(lǐng)導(dǎo)的市場(chǎng)取代了種姓制度和俘虜制；教士們提升了高尚的職業(yè)道德所具備的社會(huì)價(jià)值，學(xué)者們則對(duì)其加以記錄；工人們也已經(jīng)掌握了談判和罷工的技巧。

但即便如此，無論我們?nèi)祟惖膭趧?dòng)是受雇于神靈，還是受雇于政府，抑或只是為了保障一份謀生工資，我們?cè)诠ぷ鞣矫娴纳硇母冻隹偟膩碚f與其說是為了我們自己，不如說是為了服務(wù)他人。

地球上相對(duì)固定的土地、勞動(dòng)力和資本供應(yīng)導(dǎo)致了稀缺性——而不是豐裕性，引導(dǎo)了斗爭(zhēng)的發(fā)生。激烈的斗爭(zhēng)是圍繞如何劃分已經(jīng)創(chuàng)造出來的東西，甚至更多的是為了如何分配所剩無幾的那點(diǎn)東西而展開的。這些摩擦既涉及社會(huì)內(nèi)部，也涉及不同社會(huì)之間。

即使在和平時(shí)期也是如此，公民們爭(zhēng)論著造成社會(huì)相對(duì)弱勢(shì)群體的根源，并呼吁重新分配，以解決普遍存在的苦難這一事實(shí)。擴(kuò)大可用于再分配的財(cái)富總量，進(jìn)而實(shí)際擴(kuò)大再分配財(cái)富的數(shù)量，將提高全世界人類的生活水平。

人工智能的出現(xiàn)提供了一個(gè)真正的機(jī)會(huì)，通過將人類的勞動(dòng)功能轉(zhuǎn)移到機(jī)器上，取代了至少一種原始的生產(chǎn)要素。此外，人工智能還將用于研究和開發(fā)日益廉價(jià)與豐富的原材料來源，作為對(duì)其自身的投入。

人工智能可以為各種商品生產(chǎn)更具可持續(xù)性的合成替代品，從而開創(chuàng)一個(gè)新的富足時(shí)代。即使考慮到目前的一些物理和物質(zhì)限制，人工智能的產(chǎn)出——盡管不是無窮無盡的——也可以達(dá)到相當(dāng)寬裕的程度，足以滿足人類所有基本需求，并實(shí)現(xiàn)我們的眾多期待。這可能會(huì)讓我們?cè)谛睦韺用娌辉倌敲词苤朴诮?jīng)濟(jì)學(xué)的稀缺范式，以及我們?yōu)樯嫠榷ぷ魉鶎?dǎo)致的悲觀情緒。

超越國(guó)界：從零和博弈到全球合作

OpenAI首席執(zhí)行官薩姆·奧爾特曼根據(jù)兩個(gè)變量對(duì)經(jīng)濟(jì)體系進(jìn)行了分析：增長(zhǎng)和包容性。許多社會(huì)至少在一個(gè)時(shí)期內(nèi)能夠?qū)崿F(xiàn)兩者中的一個(gè)，但能夠持續(xù)保持兩者的社會(huì)則少之又少。

對(duì)這種關(guān)系，奧爾特曼寫道：資本主義是經(jīng)濟(jì)增長(zhǎng)的強(qiáng)大引擎，因?yàn)樗?jiǎng)勵(lì)人們投資于能夠長(zhǎng)期產(chǎn)生價(jià)值的資產(chǎn)，這是創(chuàng)造和分配技術(shù)成果的有效激勵(lì)制度。但資本主義進(jìn)步的代價(jià)是不平等。

換句話說，人工智能及其帶來的生產(chǎn)力提高可能會(huì)自然而然地催化一種長(zhǎng)期的增長(zhǎng)。但包容性只能通過選擇來實(shí)現(xiàn)。因此，在后人工智能時(shí)代，或許解決方案會(huì)像奧爾特曼建議的那樣，對(duì)兩種“將構(gòu)成那個(gè)世界大部分價(jià)值的資產(chǎn)”征稅，即公司——尤其是那些建造、維護(hù)和使用人工智能的公司。

另一種選項(xiàng)則是從專利制度中汲取靈感：允許對(duì)人工智能發(fā)明及其利潤(rùn)擁有獨(dú)家所有權(quán)，以激勵(lì)改進(jìn)，但僅限于有限的一段時(shí)間；超過一定期限后，假定其安全性已得到證實(shí)，該模型便可以被公布（也許可以在新的地區(qū)制作副本并構(gòu)建基礎(chǔ)設(shè)施），以供共同使用、迭代和獲益。

簡(jiǎn)而言之，人工智能的先驅(qū)們可能低估了他們所引發(fā)的經(jīng)濟(jì)和政治挑戰(zhàn)所涵蓋的范圍。沒錯(cuò)，人工智能幾乎無所不能。未來的決策者必須小心謹(jǐn)慎，避免讓工業(yè)革命時(shí)期蔓延開來的各種社會(huì)和經(jīng)濟(jì)不平等現(xiàn)象再度固化。

但是，正如薩姆·奧爾特曼所說：“它是要做我想做的事，還是要做你想做的事？”

如今，先進(jìn)人工智能的絕大部分收益和幾乎獨(dú)有的控制權(quán)都掌握在極少數(shù)人手中。他們會(huì)放棄自己的優(yōu)勢(shì)嗎？如果他們這樣做了——而且當(dāng)更多的利益和更多的控制權(quán)在國(guó)家層面共享時(shí)——那么要求將兩者全球化的呼聲就會(huì)立即響起。一個(gè)國(guó)家會(huì)將其主權(quán)財(cái)富轉(zhuǎn)化為全人類的共同利益嗎？有些人可能會(huì)說，一旦這個(gè)世界不再是零和博弈，將其視為犧牲的心理障礙就會(huì)消失。但這是以一種尚未實(shí)現(xiàn)的轉(zhuǎn)變?yōu)榍疤岬?，這種轉(zhuǎn)變似乎與今天的現(xiàn)狀背道而馳。

此外，即使我們能夠成功到達(dá)一個(gè)超越稀缺的世界，也并不清楚屆時(shí)應(yīng)如何構(gòu)建全球人類的激勵(lì)機(jī)制以保持和諧融洽。即使在一個(gè)因物質(zhì)豐腴而令物品“價(jià)值”不再至關(guān)重要的世界中，依然會(huì)充斥著各種“價(jià)值觀”。

那些不以金錢為立身之本的人可能會(huì)以宗教、種族、家族血統(tǒng)、教育、道德、技能、審美、幽默感或其他類別為基礎(chǔ)進(jìn)行交流，然后重新部署社會(huì)和全球機(jī)構(gòu)。那些不為金錢而戰(zhàn)的人也可以為上帝、權(quán)力、榮耀或復(fù)仇而戰(zhàn)。

經(jīng)濟(jì)史也證明，人們很難設(shè)計(jì)出既連貫又有效的系統(tǒng)。我們必須承認(rèn)，人類在預(yù)測(cè)技術(shù)的長(zhǎng)期影響方面一直不甚擅長(zhǎng)；就人工智能而言，我們的樂觀可能毫無道理，我們的擔(dān)憂也可能是杞人憂天。

未來，人工智能將成為世界秩序中的一個(gè)關(guān)鍵因素。零恐懼、零偏袒的人工智能為客觀的戰(zhàn)略決策引入了一種新的可能。

人工智能將縮小最初意圖與終極結(jié)果之間的差距，包括動(dòng)用致命武器。無論是陸地上的無人機(jī)“蜂群”，還是海上部署的機(jī)器軍團(tuán)，或者也許是星際艦隊(duì)，機(jī)器將擁有精確的殺人能力，不會(huì)有什么意外，而且造成的后果無法估量。潛在毀滅的規(guī)模大小將完全取決于人和機(jī)器的意志與克制。

在核時(shí)代，在某種意義上我們其實(shí)已經(jīng)步入這一階段。隨著人工智能證實(shí)自己作為一種戰(zhàn)爭(zhēng)武器的價(jià)值，這一階段的動(dòng)態(tài)趨勢(shì)和意義會(huì)變得越來越清晰。

盡管如此，我們?nèi)韵嘈?，人工智能可以作為?chuàng)造人類財(cái)富和福祉的新基準(zhǔn)，而這種可能性本身就敦促我們朝著這個(gè)方向努力。

（本文摘自《人工智能時(shí)代與人類價(jià)值》；編輯：許瑤）