拒絕“監(jiān)視資本主義時(shí)代”

投資者向人工智能相關(guān)創(chuàng)業(yè)公司豪擲數(shù)十億美元，生成式人工智能狂熱開(kāi)始看起來(lái)像一個(gè)投機(jī)泡沫，類(lèi)似于1630年代的荷蘭郁金香狂熱和18世紀(jì)初的南海公司泡沫。而且，就像那些事件一樣，人工智能繁榮似乎不可避免地要走向蕭條。它沒(méi)有創(chuàng)造新的資產(chǎn)，倒是可能留下堆積如山的債務(wù)。

今天的人工智能炒作由這樣一種信念推動(dòng)，即像OpenAI新發(fā)布的GPT-4這樣的大型語(yǔ)言模型，將能夠產(chǎn)生與人類(lèi)的產(chǎn)出幾乎沒(méi)有區(qū)別的內(nèi)容。投資者押注先進(jìn)生成式人工智能系統(tǒng)將毫不費(fèi)力地以任何想象得到的風(fēng)格創(chuàng)建文本、音樂(lè)、圖像和視頻，用戶只消給予簡(jiǎn)單的提示。

然而，隨著對(duì)生成式人工智能的熱情日益高漲，人們?cè)絹?lái)越擔(dān)心它對(duì)勞動(dòng)力市場(chǎng)的潛在影響。高盛最近關(guān)于人工智能“潛在巨大”的經(jīng)濟(jì)影響的報(bào)告估計(jì)，多達(dá)3億個(gè)工作崗位面臨被自動(dòng)化的風(fēng)險(xiǎn)，其中包括許多熟練和白領(lǐng)崗位。

“狹義”和“通用目的”人工智能系統(tǒng)，都可以比人類(lèi)更有效地執(zhí)行任務(wù)。這對(duì)尋求對(duì)人類(lèi)行為施加更大控制的政府和公司來(lái)說(shuō)，是一個(gè)絕佳的機(jī)會(huì)。

正如肖莎娜·祖博夫在她2019年出版的《監(jiān)視資本主義時(shí)代》一書(shū)中指出的那樣，數(shù)字技術(shù)的發(fā)展可能導(dǎo)致“一種新的經(jīng)濟(jì)秩序的出現(xiàn)，把人類(lèi)經(jīng)驗(yàn)當(dāng)成提取、預(yù)測(cè)和銷(xiāo)售商業(yè)實(shí)踐的隱藏商業(yè)活動(dòng)的免費(fèi)原材料”。她觀察到，政府和私營(yíng)部門(mén)監(jiān)控之間日益共生的關(guān)系，部分是由于國(guó)家安全機(jī)構(gòu)“受到9·11襲擊的刺激”，打算培育和調(diào)整新興技術(shù)，獲得對(duì)人們行為和個(gè)人生活的“全面了解”。

由億萬(wàn)富翁投資者彼得·蒂爾參與創(chuàng)立的數(shù)據(jù)分析公司Palantir，就是一個(gè)很好的例子。據(jù)報(bào)道，著名的共和黨捐助者彼得·蒂爾說(shuō)服特朗普政府授予Palantir利潤(rùn)豐厚的合同，開(kāi)發(fā)為軍事用途量身定制的人工智能系統(tǒng)。作為交換，Palantir向美國(guó)政府和世界各地的其他間諜機(jī)構(gòu)提供情報(bào)服務(wù)。

在喬納森·斯威夫特的《格列佛游記》的第三部分“拉普達(dá)之旅”中，格列佛船長(zhǎng)遇到了一個(gè)漂浮的島嶼，島上居住著科學(xué)家和哲學(xué)家，他們?cè)O(shè)計(jì)了巧妙的方法來(lái)探測(cè)陰謀。其中一種方法包括仔細(xì)檢查“所有嫌疑人的飲食”，并仔細(xì)檢查“他們的排泄物”，包括“顏色、氣味、味道、稠度、粗糙度或成熟度”。雖然現(xiàn)代國(guó)家監(jiān)控機(jī)構(gòu)注重調(diào)查電子郵件而不是身體功能，但它有一個(gè)類(lèi)似的目標(biāo)：通過(guò)深入人們的思想，揭露針對(duì)“公共秩序”或“國(guó)家安全”的陰謀和密謀。

美國(guó)依靠競(jìng)爭(zhēng)來(lái)維護(hù)消費(fèi)者利益，而歐盟的監(jiān)管方法以基本人權(quán)為中心。預(yù)計(jì)將于今年晚些時(shí)候最終確定的歐盟《人工智能法案》，明確禁止使用用戶生成的數(shù)據(jù)進(jìn)行“社會(huì)評(píng)分”。

西方“以人為本”的人工智能監(jiān)管方法，強(qiáng)調(diào)保護(hù)個(gè)人免受傷害。但在地緣政治緊張局勢(shì)加劇的時(shí)期，國(guó)家安全往往優(yōu)先于公民自由。例如，當(dāng)前版本的《人工智能法案》賦予歐盟委員會(huì)禁止預(yù)測(cè)性警務(wù)等做法的權(quán)力，但對(duì)國(guó)家安全、國(guó)防和軍事用途有各種豁免。

在爭(zhēng)奪技術(shù)霸權(quán)的激烈競(jìng)爭(zhēng)中，政府開(kāi)發(fā)和部署侵入性技術(shù)的能力，不僅對(duì)公司和政治制度構(gòu)成威脅，也對(duì)整個(gè)國(guó)家構(gòu)成威脅。這種惡意動(dòng)態(tài)與樂(lè)觀的預(yù)測(cè)形成鮮明對(duì)比，后者認(rèn)為人工智能將帶來(lái) “在全部行業(yè)和社會(huì)活動(dòng)中的廣泛的經(jīng)濟(jì)和社會(huì)效益”。

不幸的是，西方國(guó)家內(nèi)部權(quán)力制衡機(jī)制的漸遭侵蝕，以及憲法對(duì)政府行動(dòng)的限制，使得它們自身脆弱不堪。而正如喬治·奧威爾有先見(jiàn)之明地觀察到的那樣，永久戰(zhàn)爭(zhēng)的狀態(tài)，甚至是戰(zhàn)爭(zhēng)的幻覺(jué)，為技術(shù)反烏托邦的出現(xiàn)創(chuàng)造了理想的環(huán)境。

羅伯特·斯基德?tīng)査够怯?guó)上議院議員、華威大學(xué)政治經(jīng)濟(jì)學(xué)榮譽(yù)教授。本文已獲Project Syndicate授權(quán)。