人工智能之戰(zhàn)轉向權力走廊

Vivienne Walt

科技公司正在與監(jiān)管機構就如何使用和開發(fā)人工智能展開激烈爭論

到了午夜，餅干吃光了，自動售貨機里的咖啡也賣完了，晚餐點的三明治也早已入肚。盡管如此，仍然有約700 名議員躲在歐盟（EuropeanUnion）位于比利時布魯塞爾的高聳入云的議會大廈里。最后，在天寒地凍的2023 年12 月8 日太陽升起之時，他們踉踉蹌蹌地回家打盹、洗澡，然后又返回來繼續(xù)爭論了17 個小時。直到出于精疲力竭或權宜之計，他們就一系列法律達成了一致，這些法律涉及他們曾經投票表決過的最棘手的問題之一：人工智能。

就歐盟的《人工智能法案》（AI Act）展開的馬拉松式談判，是歐盟有史以來最緊張的談判之一，并為這項影響深遠、體系龐雜的新技術制定了世界上第一本規(guī)則手冊。歐盟的27 個成員國并不是唯一試圖實現這一立法壯舉的國家。2023 年10月，美國總統(tǒng)喬·拜登（JoeBiden）發(fā)布了一項行政命令，制定了保護美國人免受人工智能造成的歧視和大量失業(yè)的指導方針。該命令相當于一個占位符，但美國國會和美國商務部（Department ofCommerce）等機構則試圖把該命令轉化為硬性規(guī)定。與此同時，日本、英國、韓國和其他主要經濟體也都發(fā)布了類似的提案，從打擊虛假信息和深度偽造，到保護個人隱私和披露用于人工智能機器訓練的數據，不一而足。2023 年11月，在英國首相里?！ぬK納克（Rishi Sunak）召開的人工智能安全峰會（AI SafetySummit）上，28 個國家同意打擊該技術帶來的“嚴重甚至災難性的危害”。

規(guī)則泛濫以及有可能不斷增加，為開發(fā)和使用人工智能的公司開辟了一個新戰(zhàn)場。如何解釋和執(zhí)行這些細則將對科技行業(yè)的未來產生深遠的影響，原因是這些細則將決定企業(yè)可以打造什么類型的產品，以及如何利用客戶數據。這關系到未來數千億美元的企業(yè)營收和市場價值。國家利益亦是如此。各國正在保護其公民免受隱私侵犯、生物武器和大規(guī)模網絡攻擊等危險的損害，與成為技術領導者以便在至關重要的全球軍備競賽中促進經濟實力與軍事實力同步提升的愿望之間進行權衡。歐盟的首席人工智能談判代表德拉戈什·圖多拉凱（DragosTudorache）表示：“不僅對我們而言，而且對整個世界來說，人工智能都至關重要，而且極具變革性?！?/p>

對美國和歐洲的監(jiān)管機構而言，難題在于：監(jiān)管過松可能會帶來意想不到的危險，而監(jiān)管過嚴又會扼殺創(chuàng)新—這正是投資者和科技公司的高管在主張允許公司實現相對自由放任式的發(fā)展時提出的核心論點。

更重要的是， 隨著人工智能以迅雷不及掩耳之勢發(fā)生變化， 目前世界各地正在討論的法規(guī)可能很快就會過時。Tech Dynamics的總裁比爾·懷曼（ B i l lWhyman）說：“你試圖監(jiān)管的是一個不斷變化的目標，很少有人技術能力強到足以理解這個目標，而政府機構也很難吸引到合適的人才來進行有效監(jiān)管。當你打開監(jiān)管的潘多拉魔盒時，你不知道最終會得到什么?！盩ech Dynamics 是一家總部位于美國華盛頓特區(qū)，為科技公司提供咨詢服務的公司。

當歐盟的政客們打開潘多拉魔盒時，他們發(fā)現有兩個問題必然會在歐盟的27 個成員國之間引發(fā)激烈爭論。首先是面部識別—歐洲制定了嚴格的個人隱私保護法，許多議員認為面部識別侵犯了個人權利，強化了固有偏見。最終，歐盟的議員們同意把人工智能面部識別技術的使用限制在執(zhí)法領域，而且即便是在執(zhí)法領域，也只能用于偵破恐怖主義等嚴重犯罪。

其次是關于人工智能公司需要達到多大的規(guī)模，才會受到全部歐盟法規(guī)的約束的爭論。非政府組織歐洲企業(yè)觀察站（CorporateEurope Observatory）的活動家布拉姆·弗蘭肯（Bram?Vranken）指出：“這確實給這些公司敲響了警鐘?！痹摻M織的總部位于比利時布魯塞爾，負責監(jiān)督企業(yè)在歐洲各國首都的活動。弗蘭肯所在的組織發(fā)現，在人工智能相關法案投票表決前的數月里，谷歌（Google）、微軟（Microsoft）和其他科技巨頭花費了數百萬美元來游說歐盟議員。

歐盟的首席談判代表圖多拉凱稱，他遭到游說者和行業(yè)組織的短信和電子郵件轟炸，這些短信和電子郵件都在重復科技公司的談話要點，他說：“都是要求召開成百上千次會議?！边@對人工智能專家來說不足為怪。耶魯大學（Yale University）新成立的數字倫理中心（DigitalEthics Center）的創(chuàng)始主任盧恰諾·弗洛里迪（LucianoFloridi）指出：“這些公司的權力比以往任何時候都大。它們的財力比世界上數百個國家都雄厚?！?/p>

籠罩在布魯塞爾談判上空的陰影是，各大公司的人工智能基礎模型，比如人工智能聊天機器人ChatGPT，用途多到幾乎不勝枚舉，如果落入惡意行為者的手中是否會帶來嚴重傷害。隨著OpenAI 于2022 年推出的ChatGPT 的爆炸式流行，這種擔憂大大增加了。法國和德國極力主張保護本國的人工智能領軍企業(yè)，尤其是總部位于法國巴黎的新創(chuàng)企業(yè)Mistral AI（由Meta和谷歌的前科學家創(chuàng)立）和德國的Aleph Alpha，這兩家公司都已經籌集了數億美元的風險投資。

最終，歐盟的相關法案迫使大型科技巨頭（主要是美國公司）完全遵守規(guī)定，而歐洲的新創(chuàng)企業(yè)則可能要經過數年的發(fā)展，才會受到同樣的規(guī)則的約束。美國吉布森律師事務所（Gibson Dunn &Crutcher）駐法國巴黎和英國倫敦專攻人工智能相關法律的律師羅伯特·斯帕諾（RobertSpano）說：“我們正處于對這一全新現象進行監(jiān)管的早期階段?？赡茉谖磥硎陜龋斯ぶ悄芏紝⑹乔斑M兩步，后退一步。對于監(jiān)管的要求將會出現很多爭議?！?/p>

與歐盟的《人工智能法案》不同，美國總統(tǒng)喬·拜登政府的行政命令是一套供約50 個聯邦機構遵循的指導方針。根據該命令，企業(yè)需要為人工智能生成的內容添加水印，測試其模型是否存在潛在的安全風險，并投資于更多的人工智能工程師。但批評人士認為，該命令缺乏執(zhí)行機制，淡化了人權問題。雖然歐洲嚴格限制使用面部識別軟件，但美國將依靠其聯邦標準和技術機構來測試這些新應用程序。監(jiān)控美國和歐盟人工智能法規(guī)的非政府組織Dont SpyEU 在分析拜登的行政命令時表示：“這聽起來一點也起不到安撫人心的作用。”同樣，該組織批評歐盟允許安全部門使用面部識別軟件，稱“無法預測執(zhí)法部門實際上會如何使用這些系統(tǒng)”。

對各國政府而言，人工智能競賽對于鞏固本國在未來數年的政治影響力都至關重要。俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）早在2017 年就說過：“誰成為這一領域的領導者，誰就將統(tǒng)治世界?！蓖瑯?，中國已經宣布把人工智能技術作為一項重要的國家戰(zhàn)略。它向海外出口人工智能面部識別技術。

盡管意識形態(tài)存在沖突，甚至會出現敵對狀況，但各大企業(yè)堅持認為，全球范圍內繁雜的規(guī)則應該盡可能地實現標準化，以便于開展業(yè)務。前沿模型論壇（Frontier ModelForum）是由OpenAI、微軟、谷歌和新興人工智能巨頭Anthropic 于今年1 月成立的行業(yè)組織， 旨在推動制定有利的人工智能相關法律。

歐盟的《人工智能法案》的墨跡還未干，歐盟的高級官員瑪格麗特·維斯塔格（Margrethe Vestager）就在今年1 月初抵達美國加利福尼亞州舊金山，闡述該法案對大型科技公司的影響。維斯塔格有著不切實際的頭銜：建設適合數字時代的歐洲的執(zhí)行副主席。她也是丹麥政治家，過去十年曾經在布魯塞爾發(fā)起對谷歌和蘋果（Apple）的反壟斷訴訟。在舊金山灣區(qū)為期兩天的閃電戰(zhàn)中，維斯塔格在與蘋果首席執(zhí)行官蒂姆·庫克（Tim Cook）、谷歌首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）、英偉達（Nvidia）首席執(zhí)行官黃仁勛（Jensen Huang）和OpenAI 首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）的會面中來回奔波。

維斯塔格在上述會面中留出一小時與記者見面，她說她已經告訴所有人，人工智能法律不能再等了。她說：“當ChatGPT 推出時，突然之間，全球所有人都或多或少地意識到，這是一件非常重要的事情?！碑敵謶岩蓱B(tài)度的記者問到，為什么大型科技公司會聽從來自5，000 英里（約8，046.72 千米）外的議員的意見時，維斯塔格直言不諱地說：“如果出現不合規(guī)的現象，我們隨時準備立案調查?！彼a充道，根據《人工智能法案》，歐盟國家可以對違規(guī)企業(yè)處以最高3，000 萬美元的罰款，相當于其全球收入的2% 至6%，或者勒令其分拆實力雄厚的公司。

如果真能實現這一目標的話，也可能需要數年時間。歐洲的相關法律要到2026 年才能全面生效，而美國和英國的相關法律則落后于歐洲。然而，布魯塞爾的活動已經打響了發(fā)令槍。Tech Dynamics的懷曼說：“成功的幾率很小，但這并不意味著我們無計可施?！?/p>

財富譯者：Zhy

監(jiān)管輪盤賭

世界各國政府已經提出人工智能法規(guī)或進行相關的投票表決，形成了繁雜的規(guī)則。以下是它們如何解決一些首要問題的：

面部識別

這是最具爭議的人工智能類別之一，受到民權組織的嚴厲批評。歐盟的《人工智能法案》把面部識別技術限制在執(zhí)法部門偵破恐怖主義等嚴重犯罪時使用。但美國總統(tǒng)喬·拜登的行政命令更為靈活，指示聯邦機構在新系統(tǒng)推出時對其進行評估。

版權

另一個熱點問題是，作家和藝術家在美國法院提起了一系列訴訟，聲稱數家公司在未經他們同意的情況下使用其內容來訓練算法。歐盟將要求各大公司披露它們使用的數據，而拜登的命令則指示美國專利局（U.S. Patent O ice）研究這個問題并作報告。

深度偽造

全球監(jiān)管機構在這一問題上基本達成一致。歐盟和拜登都希望打擊人工智能生成的虛假圖像（或稱深度偽造圖像）的泛濫，并要求各大公司在虛假或合成內容上添加水印，以便用戶能夠辨別圖片的真?zhèn)巍?/p>