人工智能：與魔鬼的交易？

人工智能：與魔鬼的交易？

人工智能不會導(dǎo)致大規(guī)模失業(yè)，但會像蒸汽機(jī)、電腦一樣打亂勞動力市場的既有格局

霍金近日稱，發(fā)明人工智能“可能是人類歷史上最好的事情，也可能是最壞的事情”。如果運用不善，機(jī)器可能終結(jié)人類文明。即使不考慮這么遠(yuǎn)，人工智能對勞動力市場的影響也無法忽視。

這種古老的擔(dān)憂可上溯到兩百多年前的工業(yè)革命時代。

時值19世紀(jì)，蒸汽機(jī)和機(jī)械化盛行，機(jī)器得以執(zhí)行曾經(jīng)只能由人力完成的各種任務(wù)。人們開始為著名的“機(jī)器問題”（Machinery Question）爭論不休：機(jī)器的大規(guī)模應(yīng)用是否會讓工人大規(guī)模失業(yè)？1821年，李嘉圖首先關(guān)注了機(jī)器對不同社會階層利益的影響，他發(fā)現(xiàn)工人階級普遍認(rèn)為機(jī)器導(dǎo)致自己利益受損。1839年，卡萊爾直接提出“機(jī)器惡魔”將粉碎無數(shù)人的生計。

20世紀(jì)末，電腦進(jìn)入千家萬戶，打字、排版等工作被機(jī)器替代，信息化工業(yè)革命又一次引發(fā)失業(yè)恐慌。

如今，隨著人工智能技術(shù)的進(jìn)步，機(jī)器問題再次被熱議。律師、醫(yī)生這些之前看起來不可能自動化的知識性工作，現(xiàn)在也同樣面臨著危機(jī)。2013年，牛津大學(xué)兩位研究員稱，美國47%的工作很可能會在不久的將來“被計算機(jī)取代”，英國有35%的職業(yè)可能被取代，在日本這個比例是49%。麥肯錫全球研究院稱，人工智能所推動的社會變革程度比工業(yè)革命“快10倍，規(guī)模大300倍，影響幾乎大3000倍”。作家馬丁·福特?fù)?dān)心自動化將導(dǎo)致經(jīng)濟(jì)流動性停滯，中產(chǎn)階級的工作崗位消失，財閥們則“自我封閉于精英小區(qū)之中”。

比失業(yè)更可怕的是滅絕。一旦人工智能在智力上超越人類，不再受人類控制，不再認(rèn)同人類擬定的目標(biāo)，會是什么樣？自1818年小說《弗蘭肯斯坦》出版以來，又有無數(shù)科幻電影提出了設(shè)想，1927年電影《大都會》里的Maria，1968年《2001太空漫游》里的HAL9000，1977年《星球大戰(zhàn)》中的C3PO，1982年《銀翼殺手》中的Rachael，1987年《星際迷航：下一代》中的Data，1999年《黑客帝國》中的Smith，2013年《她》中的Samantha。

無法比擬的深度學(xué)習(xí)系統(tǒng)

人工智能（Artificial Intelligence）一詞最早出現(xiàn)于1956年達(dá)特茅斯會議上的一份研究計劃書，包括克勞德·香農(nóng)、約翰·麥卡錫在內(nèi)的幾位科學(xué)家聲稱“一個夏天，一個專家小組，足夠讓機(jī)器解決各種人類無法解決的問題”。這當(dāng)然是過度樂觀。過去幾十年中，人工智能領(lǐng)域經(jīng)歷了無數(shù)次虛幻的曙光，始終只停留于幻想。

2012年，加拿大多倫多大學(xué)的杰夫·辛頓團(tuán)隊所開發(fā)的深度學(xué)習(xí)系統(tǒng)在識別ImageNet圖片的在線比賽中實現(xiàn)了85%的準(zhǔn)確率。此前，獲勝系統(tǒng)的準(zhǔn)確率最高為72%，而人類平均有95%的準(zhǔn)確率。2015年，一個深度學(xué)習(xí)系統(tǒng)以96%的準(zhǔn)確率第一次超過了人類。

厚積多年，一朝薄發(fā)。由于“深度學(xué)習(xí)”技術(shù)，人工智能終于獲得了實質(zhì)性突破。

實際上，深度學(xué)習(xí)技術(shù)只是改進(jìn)了人工智能開發(fā)中的一個舊思路：人工神經(jīng)元網(wǎng)絡(luò)。在生物大腦中，每個神經(jīng)元都能被其他神經(jīng)元觸發(fā)，將輸出的信號饋送給另一個神經(jīng)元，而且此神經(jīng)元的輸出也能繼續(xù)觸發(fā)其他神經(jīng)元。人工神經(jīng)元網(wǎng)絡(luò)對這樣的過程進(jìn)行了模擬，通過對神經(jīng)元權(quán)重的調(diào)整來訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)。

20世紀(jì)90年代早期，這項技術(shù)已經(jīng)能夠識別手寫數(shù)字，但由于訓(xùn)練材料和計算能力所限，面對更復(fù)雜的任務(wù)則無能為力。現(xiàn)在，這兩項瓶頸都被沖破。一方面，互聯(lián)網(wǎng)的興起產(chǎn)生了數(shù)十億可用于目標(biāo)訓(xùn)練的文檔、圖片、視頻數(shù)據(jù)，這些都可以成為幫助計算機(jī)理解真實世界的資料；另一方面，2009年左右，人們意識到，可以用GPU（即圖形處理器，允許大量線程并行，數(shù)據(jù)吞吐量極大，原本多用于游戲和視頻處理）來運行深度學(xué)習(xí)算法，幾百倍地加速深度學(xué)習(xí)系統(tǒng)。

ImageNet比賽的結(jié)果讓整個科技產(chǎn)業(yè)界意識到了人工智能的潛力。投資和人才不斷涌入，科技巨頭們也在不斷收購人工智能創(chuàng)業(yè)公司。數(shù)據(jù)分析公司Quid的研究數(shù)據(jù)顯示，2015年，人工智能企業(yè)的成本創(chuàng)下85億美元的記錄，幾乎為2010年的四倍。

與過往曇花一現(xiàn)的技術(shù)不同，事實證明，深度學(xué)習(xí)技術(shù)可以應(yīng)用于諸多領(lǐng)域。只要給定足夠數(shù)據(jù)，模擬人腦的的深度神經(jīng)網(wǎng)絡(luò)便可接受訓(xùn)練、完成各種工作。谷歌正在使用深度學(xué)習(xí)技術(shù)提高搜索精準(zhǔn)率、改善翻譯服務(wù)、完成郵件自動回復(fù)，這些神經(jīng)網(wǎng)絡(luò)也同樣支持著Facebook的照片標(biāo)記服務(wù)、蘋果的語音助手、亞馬遜的購物推薦和特斯拉自動駕駛汽車的運行。

在某些方面，它們已經(jīng)表現(xiàn)得遠(yuǎn)勝人類。今年3月，由谷歌DeepMind團(tuán)隊開發(fā)的AlphaGo打敗了世界頂尖圍棋選手李世石。這個深度學(xué)習(xí)系統(tǒng)由幾個相互連通的模塊組成，包括兩個深度神經(jīng)網(wǎng)絡(luò)，其中一個通過存有三千萬步棋的數(shù)據(jù)庫來分析當(dāng)下棋局，提出一些可能的走法，另一個網(wǎng)絡(luò)則通過隨機(jī)采樣來評估這些走法。

現(xiàn)在，人工智能開發(fā)者的目標(biāo)是“通用人工智能”（AGI），一種能完成各種各樣任務(wù)的系統(tǒng)，有了它就不必再為每個特定問題都專門開發(fā)出一個系統(tǒng)了。即使以最樂觀的估計，做出人類智力水平的AGI也至少需要十年。但DeepMind首席執(zhí)行官丹米斯·哈薩比斯認(rèn)為：“我們已經(jīng)知道實現(xiàn)AGI系統(tǒng)所需的幾十種關(guān)鍵元素了?！毖韵轮?，未來不遠(yuǎn)。

失業(yè)與應(yīng)對

如果自動化機(jī)器取代人類勞力是必然趨勢，那么，隨著機(jī)器的智能程度越來越高，它們會奪走所有工作，還是終將創(chuàng)造更多工作？

技術(shù)工作者傾向于悲觀。圣路易斯聯(lián)邦儲備銀行發(fā)布的數(shù)據(jù)顯示，在美國，非常規(guī)的認(rèn)知型工作和手工型工作自1980年后逐步增長，而常規(guī)化工作則一直維持幾乎不變。常規(guī)化的工作又可以劃分為兩種：高管、建筑師一類技術(shù)含量高、薪水高的工作，以及清潔工、快餐店員等技術(shù)含量低、薪水低的工作。經(jīng)濟(jì)學(xué)家擔(dān)心自動化帶來的“職業(yè)兩極化”風(fēng)險，也就是說中層常規(guī)技術(shù)工作消失，機(jī)器不能替代的低等和高等工作擴(kuò)張。許多西方國家中層職業(yè)薪水的停滯也表明了這一趨勢。

歷史學(xué)家則傾向于樂觀。他們認(rèn)為，每一次科技進(jìn)步最終創(chuàng)造的就業(yè)崗位都將超過所消滅的，因為瑣碎工作的自動化增加了對機(jī)器無法完成的那部分工作的需求。比如，用自動取款機(jī)（ATM）取代部分銀行柜員降低了新開分行的成本，從而創(chuàng)造了更多的銷售和客服崗位。人工智能不會直接取代太多員工，而是會要求他們補(bǔ)充新技能。

事實可能介于兩者之間。人工智能不會導(dǎo)致大規(guī)模失業(yè)，但會像蒸汽機(jī)、電腦一樣打亂勞動力市場的既有格局，短期喪失的就業(yè)被長期創(chuàng)造的新就業(yè)彌補(bǔ)。從工業(yè)革命的經(jīng)驗來看，這個轉(zhuǎn)型期將艱難而痛苦：經(jīng)濟(jì)迅速起飛，幾十年后才在工資增長中得到充分反映；一個世紀(jì)后，新的教育和福利制度才跟上工業(yè)時代的節(jié)奏。

與工業(yè)革命相比，人工智能帶來的轉(zhuǎn)變可能會更加迅速，因為信息傳播、技術(shù)擴(kuò)散都比兩百年前快得多。對個體來說，終身學(xué)習(xí)將成為必須，人類特有的社交和性格技能也將更加重要。

對企業(yè)和政府來說，將面臨兩大挑戰(zhàn)：如何幫助現(xiàn)有工人學(xué)習(xí)新技術(shù)；如何讓后人做好面對充滿人工智能工作場所的準(zhǔn)備。顯然，教育和培訓(xùn)應(yīng)足夠靈活，以便迅速、有效地教授新技能。

福利制度也須與時俱進(jìn)。福利、養(yǎng)老金和醫(yī)保應(yīng)不再綁定企業(yè)，而是關(guān)注工人個體，以實現(xiàn)就業(yè)的順利過渡，并在工人學(xué)習(xí)新技能時對其提供支持。芬蘭和荷蘭等國計劃在明年開始試點“基礎(chǔ)收入”政策，即無論個人工作狀況如何，都能獲得基礎(chǔ)收入。丹麥則采用“彈性安全網(wǎng)”制度，允許企業(yè)輕松招聘和解聘，同時在失業(yè)者再培訓(xùn)和再就業(yè)時提供支持。約翰·穆勒在19世紀(jì)40年代的著作中寫道:“關(guān)心那些生活被技術(shù)破壞的人是立法者關(guān)心的最合理目標(biāo)?！边@句來自蒸汽機(jī)時代的提示，在人工智能時代仍然適用。

而對于發(fā)展中國家，人工智能的沖擊將遠(yuǎn)大于發(fā)達(dá)國家。因為發(fā)展中經(jīng)濟(jì)體的體力勞動工作占比更高，比如低工資的工人制造廉價的產(chǎn)品、在客服中心提供廉價服務(wù)。如果自動化使發(fā)達(dá)國家能在這些方面自給自足，它們對發(fā)展中國家提供的產(chǎn)品和服務(wù)的需求就越少——發(fā)展中國家將失去廉價勞動力的比較優(yōu)勢，再也無法通過“農(nóng)田到工廠”的勞動力轉(zhuǎn)移模式來推動經(jīng)濟(jì)增長了。而且，機(jī)器人和人工智能的技術(shù)基本掌握在發(fā)達(dá)國家手里。

超智能威脅？

在《失控》一書中，凱文·凱利說，世界已經(jīng)成了一個復(fù)雜的地方，我們別無選擇，只能允許生物與技術(shù)之間的通婚；沒有這兩者的結(jié)合，我們所面臨的問題困難到了我們?nèi)祟惖拇竽X解決不了的地步。開發(fā)人工智能是一種浮士德契約，是與魔鬼的交易：“虛構(gòu)的世界很快會變得像是活生生的世界：變得有自主性、適應(yīng)性和創(chuàng)造性，但結(jié)果，這個世界會脫離我們的控制。”

比凱利更悲觀的是“奇點主義者”，他們的信條有三：第一，在可預(yù)見的未來，超越人類的智能將得以實現(xiàn)。第二，超人類智能會將人類卷入滅亡的陰云之下。第三，基于以上兩點，人類務(wù)必在超智能出現(xiàn)之前做出反應(yīng)，要么讓技術(shù)奇點根本不發(fā)生，要么將它控制在對人類有益的良性發(fā)展軌道上。

“奇點”這個詞本來是個物理學(xué)概念，指宇宙大爆炸的原點，被英國數(shù)學(xué)家約翰·古德用來指代一種不可思議的存在——超人類智能的誕生。20紀(jì)60年代，他在與圖靈共事時得到啟發(fā)，把超智能機(jī)器定義為“能力可以遠(yuǎn)超越所有人類智力活動的機(jī)器”。設(shè)計機(jī)器也是眾多智力活動之一，所以超智能機(jī)器完全有能力設(shè)計出更先進(jìn)的機(jī)器；那么一場“智能爆炸”將無疑會發(fā)生，并且將把人類的智力遠(yuǎn)遠(yuǎn)甩在身后。因此，第一部超智能機(jī)器，如果足夠溫順的話，將會是人類所需要的最后一項發(fā)明，它會指引你如何控制一切。

然而，超智能機(jī)器成為現(xiàn)實的那一刻，也許正是它們不再聽命于人類意志之時。牛津大學(xué)人類未來研究院院長、哲學(xué)教授尼克·博斯特羅姆提出了著名的“回形針”設(shè)想：假設(shè)一個人工智能希望能收集盡可能多的回形針。它會想盡一切辦法來收集回形針，并且會通過自我升級來找到收集回形針的新方法，它還會反抗一切阻止它做這件事情的企圖。最后，它將“把整個地球和一部分宇宙空間都變成了一個回形針制造工廠”。這個近乎荒謬的思想實驗試圖表達(dá)的是一個非常嚴(yán)肅的觀點：人工智能不需要人類一樣的行為和心理動機(jī)，它們可能不會出現(xiàn)人類常會犯的錯誤和偏差，但是會犯別的錯誤，比如執(zhí)念于收集回形針。它們的目標(biāo)一開始可能看起來是無害的，但如果人工智能能夠自我復(fù)制并升級自己的性能，就會非常危險。它會像終結(jié)者一樣：把人類當(dāng)作低等物種一樣奴役起來、無視我們的權(quán)利，只追求它們自己想要的，完全不管對人類的后果。

樂觀的人則認(rèn)為，人類社會可以安全地研發(fā)人工智能。大到核彈，小到交通規(guī)則，這些都證明人類曾成功運用技術(shù)和法律手段去管理威力強(qiáng)大的創(chuàng)新。人工智能會帶來危機(jī)，但合理的應(yīng)對將轉(zhuǎn)危為機(jī)。

（楊月縈編譯自《經(jīng)濟(jì)學(xué)人》《萬古雜志》）