人工智能會給人類帶來災(zāi)難？

《十堂極簡人工智能課》

作者：[英]彼得·J.本特利

譯者：許東華

出版社：譯林出版社

出版時間：2023年5月

頁數(shù)：204

定價：49元

并非所有人都對通用人工智能的益處持樂觀態(tài)度。一些未來學(xué)家、哲學(xué)家和科幻小說家對這種技術(shù)最終可能導(dǎo)致的結(jié)果做出過可怕的預(yù)測。他們聲稱，一旦人工智能聰明到可以開始自我設(shè)計，就會出現(xiàn)失控的反饋回路。突然之間，聰明的人工智能就可以制造出比它更聰明的人工智能，如此周而復(fù)始。這一論點通常以摩爾定律為依據(jù)，該定律指出，芯片中的晶體管數(shù)量大約每兩年翻一番（其推論是，處理器的速度將每18個月翻一番）。這些人認為，隨著計算機的速度呈指數(shù)級增長，超級聰明的人工智能肯定要成為一種不可避免的現(xiàn)象。我們總有一天會達到一個“技術(shù)奇點”，當(dāng)人工智能的增長再也無法控制時，它可能會給人類帶來災(zāi)難。

這種想法在電影和科幻小說中非常令人著迷，但在現(xiàn)實世界中應(yīng)該謹慎對待。人工智能技術(shù)的發(fā)展得益于計算能力的增長，以及新近出現(xiàn)的大量數(shù)據(jù)集可以用來訓(xùn)練機器學(xué)習(xí)算法。但人工智能的進步總是源于算法的發(fā)展，而非處理器的加速。每種算法都提供了令人興奮的新可能性，但沒有一種算法可以解決所有問題。新的問題需要新的算法來解決（就像我們執(zhí)行的各種不同任務(wù)會利用大腦的不同區(qū)域一樣），創(chuàng)新的步伐受限于我們創(chuàng)造新算法的能力，以及我們理解智能本質(zhì)的能力。

如果我們有一條捷徑，能讓計算機自行完成設(shè)計，那該有多好。但是哪怕有遺傳編程等方法，我們還是很難讓計算機自行設(shè)計出更好的算法（如果沒有人指揮它們這么做，它們?yōu)槭裁匆プ瞿兀?。今天，我們有?shù)以千計的人類科學(xué)家使用最新的計算機，試圖制造新的人工智能。如果我們自己都難以創(chuàng)造出新型智能，那些遠不如我們聰明的人工智能又怎么能做得更好呢？

我們甚至不能指望指數(shù)級增長能帶來什么好處。事實證明，雖然可能存在指數(shù)級增長，但它幾乎肯定對我們不利。每當(dāng)我們試圖讓人工智能變得更聰明一丁點，其能力就會以指數(shù)級擴展，而它失敗的機會也呈指數(shù)級增長，因此我們?yōu)榇_保設(shè)計無誤而做的測試和實驗就必須比以前多得多。總而言之，到目前為止的人工智能研究的證據(jù)表明，越復(fù)雜的能力意味著越緩慢、越困難的進步。物理學(xué)告訴我們，越接近光速，我們就需要越多的能量來加速。隨著智力的提高，類似的情況似乎也會出現(xiàn)：提高智力的能力變得越來越困難。地球上很少有生物擁有像我們一樣復(fù)雜的大腦，它經(jīng)過35億年的進化測試才創(chuàng)造出如今存在于世的幾種設(shè)計，這可能并不是巧合。

我們可以放心，未來不會有奇點，也不會有失控的人工智能。我們專注而勤奮的計算機科學(xué)家和工程師將繼續(xù)他們的研究，慢慢發(fā)明新的算法，提供有用的人工智能工具，讓我們的生活更加安全和方便。我們有可能永遠實現(xiàn)不了像人腦一樣先進的人工智能。就算能做到，也可能需要假以地質(zhì)學(xué)尺度的時間。

我們所知的大多數(shù)人工智能的研究和產(chǎn)品都與超級智能或通用人工智能無關(guān)。它們都致力于為具體問題尋找專門的解決方案。新的聊天機器人會接管客服中心的普通查詢；新的無人駕駛算法會協(xié)助我們在高速公路上開車，或幫我們停車；先進的工業(yè)機器人將令枯燥的生產(chǎn)過程進一步自動化；故障檢測系統(tǒng)會確保我們的工廠生產(chǎn)出合格的產(chǎn)品；可穿戴智能設(shè)備會更早地檢測出健康狀況的異常；社交機器人會為老年人或弱勢群體提供慰藉和照顧；互聯(lián)網(wǎng)機器人能回答我們的語言提問；防詐騙檢測系統(tǒng)會監(jiān)測我們的交易，并在我們的銀行或身份信息可能被盜時提醒我們。無論哪一類人工智能，都是設(shè)計出來幫助我們的專門技術(shù)。將來還會有令人震驚的新人工智能出現(xiàn)。它們將成為我們社會的一部分，甚至通過可穿戴計算系統(tǒng)和智能假肢而成為我們的一部分。

在美劇《愛，死亡和機器人》中，人類最終死亡，而機器人存活了下來。

可惜的是，并不是每個人都喜歡這種未來前景。有些人預(yù)測可能會有數(shù)百萬個工作崗位因人工智能和機器人而流失。工廠機器人會取代工人嗎？聊天機器人會取代在客服中心工作的接線員嗎？對于這些問題和其他類似的問題，答案很可能是肯定的。但這一事態(tài)進展與人類技術(shù)史一樣古老。我們每采用一項新發(fā)明，都會改變?nèi)藗兊纳罘绞胶凸ぷ鞣绞?。舊的專門手藝會過時，同時新的專業(yè)知識會出現(xiàn)。今天鐵匠很少，但工人很多。明天可能工人會減少，但會有許多機器人管理員和維護工程師。如今的技術(shù)變化很快，所以我們的社會也在快速變化，而新的機會也同樣會飛速產(chǎn)生。無人駕駛汽車將需要一套新的道路基礎(chǔ)設(shè)施和新的銷售和維護方式。游戲行業(yè)正在蓬勃發(fā)展，需要從計算機模擬專家到作家、演員的各種人才。數(shù)據(jù)存儲和分析（事實上是所有與數(shù)據(jù)有關(guān)的業(yè)務(wù)）正在蓬勃發(fā)展，每天都能發(fā)明出新的工作崗位。社交媒體會成為新的廣告渠道，創(chuàng)造出新的工作和職業(yè)。由人工智能和可穿戴設(shè)備驅(qū)動的新式互動娛樂正在到來。每一種新技術(shù)都需要新的工作人員去創(chuàng)造它、設(shè)置它、測試它、監(jiān)管它、使用它、修復(fù)它。今天的工作已經(jīng)今非昔比了。這就是人類的進步，而不單是人工智能或機器人的進步。

歸根結(jié)底，也許是因為我們對自身的興趣，人工智能和機器人總是讓我們著迷，也會在某些情況下讓我們感到不適。在我們發(fā)明的各種技術(shù)中，人工智能的獨特之處在于，開發(fā)它的過程能教會我們關(guān)于大腦和身體如何運作的深刻道理。為了成功構(gòu)建出我們的人造子女，我們必須仔細檢視我們自身和我們的行為方式。我們將學(xué)到，人與人之間的互動如何能幫助個人成長和團結(jié)協(xié)作。我們將明白情緒和自我意識的作用，以及我們?nèi)绾巫龀鰶Q定的方方面面。我們將學(xué)到我們在現(xiàn)實世界中的行為如何影響我們自己和他人。我們將學(xué)習(xí)什么是道德，了解道德以及對生命的尊重應(yīng)該如何嵌入我們所做的一切。我們將明白我們與環(huán)境密切相關(guān)：環(huán)境會改變我們，正如我們也會改變環(huán)境一樣。人工智能是一趟持續(xù)的發(fā)現(xiàn)之旅。這條漫長而艱難的道路也許能教會我們成為更好的人。

（責(zé)編：栗月靜）