如何防止人工智能浩劫

一年多前，總部位于舊金山的OpenAI發(fā)布了聊天機(jī)器人ChatGPT，引發(fā)了人工智能淘金熱，重新激起了關(guān)于自動(dòng)化對人類福利影響的古老爭論。

對于被機(jī)器取代的恐懼，可以追溯到19世紀(jì)的工業(yè)革命，當(dāng)時(shí)一群被稱為盧德分子的英國手搖織機(jī)織工，摧毀了威脅他們生計(jì)的動(dòng)力織機(jī)。該運(yùn)動(dòng)在1811年至1817年間達(dá)到頂峰，最終被政府軍鎮(zhèn)壓，領(lǐng)導(dǎo)人被處決或流放澳大利亞。

但盧德分子的論點(diǎn)，找到了一個(gè)意想不到的擁護(hù)者—著名經(jīng)濟(jì)學(xué)家大衛(wèi)·李嘉圖。他在1817年出版的《政治經(jīng)濟(jì)學(xué)和稅收原理》中指出：“勞動(dòng)階級所秉持的觀點(diǎn)，即機(jī)器的使用往往損害他們的利益，并非建立在偏見和錯(cuò)誤的基礎(chǔ)上，而是符合政治經(jīng)濟(jì)學(xué)的正確原則?！?/p>

現(xiàn)代盧德分子強(qiáng)調(diào)自動(dòng)化的弊端，尤其是破壞生計(jì)和社區(qū)的“潛力”。他們認(rèn)為，收入和權(quán)力的平等分配，對于獲得技術(shù)進(jìn)步的長期利益至關(guān)重要。一些技術(shù)悲觀主義者認(rèn)為，像人工智能這樣的新興技術(shù)創(chuàng)造的新就業(yè)機(jī)會太少，將導(dǎo)致貧困和“技術(shù)失業(yè)”加劇。

生成式人工智能的興起和通用人工智能的到來，加劇了技術(shù)樂觀主義者和技術(shù)懷疑論者之間的爭論。例如，在醫(yī)療保健領(lǐng)域，科技噱頭層出不窮：人工智能有望改善診斷，推動(dòng)遠(yuǎn)程醫(yī)療，帶來更有效的藥物，減輕醫(yī)生和護(hù)士的行政負(fù)擔(dān)從而為患者護(hù)理留出更多時(shí)間。

這似乎反映了主流專家的普遍觀點(diǎn)，即生成式人工智能將擴(kuò)展，而不是取代人類的工作。通過自動(dòng)化日常任務(wù)，它有望解放人類，讓他們從事更具創(chuàng)造性的工作。平心而論，這種轉(zhuǎn)變將需要終身學(xué)習(xí)，繼續(xù)教育不僅成為參與就業(yè)市場的條件，還將成為獲得越來越多的在線服務(wù)的條件。

目前，人們的擔(dān)憂對象已經(jīng)從自動(dòng)化導(dǎo)致失業(yè)，轉(zhuǎn)向了超級智能流氓化的前景。谷歌前首席執(zhí)行官埃里克·施密特最近表示，目前的人工智能模型仍然“處于人類控制之下”，但存在著真正的風(fēng)險(xiǎn)，即發(fā)展出“遞歸自我改進(jìn)”的能力，獲得自主權(quán)，并開始“設(shè)定自己的目標(biāo)”。他警告說，最終，“計(jì)算機(jī)集群”可能會演變成一個(gè)能夠獨(dú)立行動(dòng)的“真正超越人的專家”。

越來越多的聲音，呼吁人工智能的發(fā)展與人類目標(biāo)和價(jià)值觀保持一致。有兩種方法可以實(shí)現(xiàn)此目的。首先是限制可能有害的人工智能產(chǎn)品的供應(yīng)和銷售。歐洲和其他地方的政策制定者，試圖通過對自動(dòng)駕駛汽車和面部識別等新興技術(shù)實(shí)施嚴(yán)格監(jiān)管，來做到這一點(diǎn)。這種方法的一個(gè)明顯問題是，在道德相對主義是常態(tài)的世界里，很難就什么構(gòu)成傷害達(dá)成共識。由于越來越不清楚誰“擁有”被認(rèn)為是有害的內(nèi)容，因此幾乎不可能追究賣家或提供者的責(zé)任。此外，規(guī)范技術(shù)使用的嘗試往往來得太晚。

第二種方法是完全限制潛在危險(xiǎn)產(chǎn)品的開發(fā)。但抑制需求比限制供應(yīng)更復(fù)雜，尤其是在現(xiàn)代社會中。

不可避免的結(jié)論是，僅僅監(jiān)管人工智能是不夠的。但是，通過將新盧德主義和再分配等概念引入公共辯論，我們可以擴(kuò)展減輕這些新興技術(shù)構(gòu)成的威脅所需的政治和知識詞匯。例如，一個(gè)新盧德分子可能會問：為什么富裕社會已經(jīng)生產(chǎn)了足以讓其公民過上舒適生活的產(chǎn)品，但仍然專注于最大化GDP增長？一個(gè)答案可能是，缺乏能夠確保生產(chǎn)力和效率提高的好處得到廣泛分享的公平的財(cái)富和收入分配機(jī)制。

另一種解釋是，在當(dāng)今政治經(jīng)濟(jì)學(xué)中，“技術(shù)創(chuàng)新”往往是一種委婉的說法，表示富人和有權(quán)勢的人能夠?qū)①Y本從工業(yè)轉(zhuǎn)移到金融領(lǐng)域，從而壟斷自動(dòng)化的好處，使其他人陷入困境。

羅伯特·斯基德爾斯基是英國上議院議員、華威大學(xué)政治經(jīng)濟(jì)學(xué)榮譽(yù)教授。本文已獲Project Syndicate授權(quán)。