人工智能發(fā)展及其影響

王瀅波(上海社會(huì)科學(xué)院信息研究所助理研究員)

人工智能發(fā)展及其影響

王瀅波(上海社會(huì)科學(xué)院信息研究所助理研究員)

1 人工智能的發(fā)展速度可能遠(yuǎn)超我們想象

什么是人工智能？Linda Gottfredson教授把智能定義為“一種寬泛的心理能力，能夠進(jìn)行思考、計(jì)劃、解決問(wèn)題、抽象思維、理解復(fù)雜理念、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)等操作。”超級(jí)人工智能何時(shí)會(huì)到來(lái)？從弱人工智能到強(qiáng)人工智能再到超級(jí)人工智能需要多久？目前主要有四種觀點(diǎn)：

一是超級(jí)樂(lè)觀派，例如Vernor Vinge教授、科學(xué)家Ben Goertzel、SUN創(chuàng)始人Bill Joy、明家和未來(lái)學(xué)家Ray Kurzweil以及機(jī)器學(xué)習(xí)專家Jeremy Howard等都相信超級(jí)智能會(huì)發(fā)生在不久的將來(lái)。

二是一般樂(lè)觀派，例如微軟創(chuàng)始人Paul Allen、心理學(xué)家Gary Marcus、紐約大學(xué)電腦科學(xué)家Ernest Davis，以及科技創(chuàng)業(yè)者M(jìn)itch Kapor等認(rèn)為Kurzweil等思想家低估了人工智能的難度，并且認(rèn)為我們離超級(jí)人工智能還很遠(yuǎn)。

三是悲觀派，例如哲學(xué)家Hubert Dreyfus，超人工智能是不會(huì)被實(shí)現(xiàn)的。

四是不可知派，例如牛津大學(xué)的哲學(xué)家Nick Bostrom的結(jié)論就是說(shuō)不準(zhǔn)。

本文認(rèn)為人工智能的發(fā)展速度將遠(yuǎn)超我們想象，因?yàn)槿祟惞逃兴季S存在慣性，人類的理性是有限的。不確定心理學(xué)的鼻祖——卡尼曼和特沃爾斯基在早期對(duì)啟發(fā)式思維和認(rèn)知偏差的研究中發(fā)現(xiàn)了人類的錨定思維。大部分人總是基于現(xiàn)狀思考未來(lái)，無(wú)法看到變化和轉(zhuǎn)折。人類社會(huì)發(fā)展符合指數(shù)規(guī)律，回想一下最近20年的變化和最近前200年的變化，這種加速發(fā)展的趨勢(shì)非常明顯。著名未來(lái)學(xué)家凱文·凱利的連接理論認(rèn)為連接點(diǎn)越來(lái)越多技術(shù)就會(huì)呈現(xiàn)爆炸式的發(fā)展，因此隨著人類的廣泛連接，未來(lái)發(fā)展應(yīng)該會(huì)超出我們預(yù)期。以IBM Watson為例，來(lái)自美國(guó)北卡羅林那大學(xué)醫(yī)學(xué)院的人類專家讓W(xué)atson分析診斷了超過(guò)1000例癌癥病例。結(jié)果發(fā)現(xiàn)在超過(guò)99%的病例中Watson給出了和人類腫瘤科專家一樣的治療方案。不僅如此，因?yàn)槟茉跀?shù)分鐘內(nèi)就閱讀并消化數(shù)千篇文件，Watson還針對(duì)30%的病例給出了人類專家都沒(méi)想到的備選治療方案。IBM的全球副總裁陳黎明舉例說(shuō)，一位患有白血病的東京女性已經(jīng)被醫(yī)院判了死刑，但是Watson在10分鐘內(nèi)閱讀了相關(guān)的4000米厚的醫(yī)學(xué)資料，給出治療方案救活了她。此外因?yàn)槲稚軌蛉蚵?lián)網(wǎng)，所以能夠遠(yuǎn)程為邊遠(yuǎn)地區(qū)、醫(yī)療資源匱乏的地區(qū)提供高水平醫(yī)療服務(wù)，也更凸顯了它的社會(huì)意義和價(jià)值。目前，IBM正在和醫(yī)學(xué)實(shí)驗(yàn)室Quest Diagnostics合作，提供云端存儲(chǔ)的基因測(cè)序和診斷分析數(shù)據(jù)，世界各地的?？漆t(yī)師都可以獲取這些信息以提高治療水平。這種技術(shù)的發(fā)展其實(shí)已經(jīng)遠(yuǎn)遠(yuǎn)超出了我們多數(shù)人的預(yù)期，未來(lái)可能會(huì)進(jìn)一步加速。

2 人工智能會(huì)導(dǎo)致帕累托改進(jìn)但短期會(huì)引發(fā)社會(huì)問(wèn)題

人工智能的發(fā)展會(huì)帶來(lái)帕累托改進(jìn)，以更少的資源生產(chǎn)更多的產(chǎn)品，給社會(huì)提供更多的服務(wù)。雖然長(zhǎng)期來(lái)看，所有人都將從中受益，但短期一定有人承受轉(zhuǎn)型的陣痛。科技的發(fā)展會(huì)導(dǎo)致工作崗位的轉(zhuǎn)換，短期內(nèi)會(huì)導(dǎo)致大量的失業(yè)。競(jìng)爭(zhēng)和平均成本的降低會(huì)創(chuàng)造出新的工作機(jī)會(huì)，但這中間一定存在時(shí)間差和個(gè)人適應(yīng)能力的差異，并非每個(gè)人都能均等受益。例如無(wú)人駕駛短期內(nèi)一定會(huì)導(dǎo)致大量失業(yè)，但這是經(jīng)濟(jì)結(jié)構(gòu)改進(jìn)和強(qiáng)化的必要條件。市場(chǎng)經(jīng)濟(jì)一定會(huì)導(dǎo)致馬太效應(yīng)，一方面科技巨頭可以通過(guò)創(chuàng)新迅速獲得大量財(cái)富，另一方面底層勞動(dòng)力喪失大量就業(yè)機(jī)會(huì)。長(zhǎng)期來(lái)看，科技發(fā)展會(huì)解決這種問(wèn)題，但短期會(huì)造成諸多社會(huì)問(wèn)題。長(zhǎng)期來(lái)看目前我們幾乎所有的工作都可以用人工智能來(lái)代替。那我們到時(shí)候干什么？資源如何分配？埃隆·馬斯克提出了一種基本工資理論，但我們每個(gè)人仍然必須通過(guò)為社會(huì)提供服務(wù)獲得相應(yīng)收入，從而獲得相應(yīng)產(chǎn)品和服務(wù)，但由于效率足夠高，滿足生活所需的勞動(dòng)時(shí)間會(huì)變得非常短。比如說(shuō)，我們可能每月只需要工作一個(gè)小時(shí)，就可以獲得基本生活所需，對(duì)于稀缺性資源仍然需要大量勞動(dòng)才能換取，這也是技術(shù)進(jìn)步的基本意義所在，通過(guò)提高生產(chǎn)效率更好地實(shí)現(xiàn)人類的價(jià)值，為人類提供更多的選擇、自由和閑暇時(shí)光。

無(wú)人駕駛也會(huì)導(dǎo)致倫理、法律和哲學(xué)問(wèn)題。機(jī)器代替了人，以前需要人承擔(dān)的責(zé)任現(xiàn)在有誰(shuí)來(lái)承擔(dān)？那么未來(lái)是否由機(jī)器承擔(dān)。假如說(shuō)在車輛無(wú)人駕駛途中，忽然從山上掉一塊石頭，旁邊有三個(gè)行人，應(yīng)該怎么權(quán)衡？撞石頭會(huì)危及車內(nèi)乘客安全，撞三個(gè)行人會(huì)危及他人生命。無(wú)人駕駛?cè)绾卧O(shè)計(jì)這種機(jī)制，如何界定責(zé)任？什么樣的倫理才是合適的？這需要更多的哲學(xué)家、法理學(xué)家集思廣益。

3 人工智能會(huì)導(dǎo)致社會(huì)治理權(quán)力的轉(zhuǎn)移

技術(shù)進(jìn)步和經(jīng)濟(jì)發(fā)展會(huì)改變社會(huì)形態(tài)，人工智能也會(huì)改變目前的社會(huì)治理模式。社會(huì)的決定權(quán)會(huì)否會(huì)人的手中轉(zhuǎn)移到數(shù)據(jù)手中？市場(chǎng)經(jīng)濟(jì)和個(gè)人主義其實(shí)是一個(gè)一體化的系統(tǒng)。資本主義生產(chǎn)力的發(fā)展導(dǎo)致宗教改革，權(quán)力從神轉(zhuǎn)移到人，對(duì)人權(quán)的保護(hù)催生了契約式政府。但在算法面前，我們會(huì)忽然發(fā)現(xiàn)，我們的自由意志并不可靠，我們也會(huì)做出錯(cuò)誤的決策。那么算法決定是不是可以避免這種錯(cuò)誤？是不是可以幫助我們做出最佳的選擇？但是這里有一個(gè)很重要的倫理問(wèn)題：如果我們所有決策都依賴機(jī)器，人存在的價(jià)值是什么？個(gè)體化的差異如何體現(xiàn)？個(gè)人的自由意志還能得到尊重嗎？

此外，如果算法足夠強(qiáng)大，那么誰(shuí)控制這個(gè)算法誰(shuí)就能控制整個(gè)社會(huì)。諸如臉書這種公司可能會(huì)決定我們生活中的一切，本質(zhì)上對(duì)我們現(xiàn)在的社會(huì)治理體系是一種顛覆。人們可能會(huì)重回專制和計(jì)劃經(jīng)濟(jì)時(shí)代，個(gè)人選擇權(quán)怎么體現(xiàn)。我們能否選擇不信賴算法，還是被強(qiáng)制要求一定要遵守算法的結(jié)果。無(wú)差異的完美社會(huì)是否一定優(yōu)于有差異和缺陷的社會(huì)？自由意志是不是應(yīng)該得到尊重？這個(gè)是人工智能時(shí)代一個(gè)非常關(guān)鍵的問(wèn)題。如何在人工算法和自由意識(shí)間如何進(jìn)行權(quán)衡？對(duì)此，人類簡(jiǎn)史作者、歷史學(xué)家尤瓦爾·赫拉利在《未來(lái)簡(jiǎn)史》中提出了一種赫胥黎式的反烏托邦主義，他指出了三大方向：人類將失去他們的經(jīng)濟(jì)和軍事用途，經(jīng)濟(jì)系統(tǒng)將不再有價(jià)值；對(duì)系統(tǒng)來(lái)說(shuō)，人類整體將具有價(jià)值，但個(gè)體將沒(méi)有價(jià)值；然而，系統(tǒng)將在一些個(gè)體身上發(fā)現(xiàn)價(jià)值，“但他們將成為一個(gè)超人的新物種，而不是普通大眾”。赫拉利這里所說(shuō)的“系統(tǒng)”指的是生物科學(xué)和信息技術(shù)以當(dāng)前極快速度發(fā)展下去產(chǎn)生的新的社會(huì)。

超人的新物種指的是什么呢？人工智能也可以用于改造人類，也就是所謂的Cyborg（改造人），可以把人類變得更強(qiáng)大，但同時(shí)也會(huì)加速人類的分層。不是所有人都可以進(jìn)行改造，也不是所有的改造都是相同的。金錢可能成為最終的衡量標(biāo)準(zhǔn)，而且會(huì)進(jìn)一步加大階層間的分化。比如電影《鋼鐵俠》的盔甲和他的人造心臟肯定很貴，一般人負(fù)擔(dān)不起。這種改造人已經(jīng)不是正常人類，它們擁有比我們?nèi)祟愑懈鼜?qiáng)大的能力。普通人人類在它面前就成了另外一個(gè)新物種。最終可能是改造人占據(jù)統(tǒng)治地位，然后是機(jī)器人，最后是普通人。普通人可能最終走向奴役或滅亡，而改造人則會(huì)永生，他們會(huì)掌握普通人的命運(yùn)。所以馬斯克說(shuō)，人類可能淪為人工智能的寵物，也許并不是危言聳聽(tīng)。

4 對(duì)人工智能的擔(dān)憂暫不影響其發(fā)展

2016年10月13日，美國(guó)白宮科技政策辦公室（OSTP）下屬國(guó)家科學(xué)技術(shù)委員會(huì)（NSTC）發(fā)布了《為人工智能的未來(lái)做好準(zhǔn)備》（Preparing for the Future of Artificial Intelligence）和《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃》（National Artificial Intelligence Research and Development Strategic Plan）兩份重要報(bào)告。前者探討了人工智能的發(fā)展現(xiàn)狀、應(yīng)用領(lǐng)域以及潛在的公共政策問(wèn)題；后者提出了美國(guó)優(yōu)先發(fā)展的人工智能七大戰(zhàn)略方向及兩方面建議。其中第一份報(bào)告的主要觀點(diǎn)包括：

（1）對(duì)人工智能的擔(dān)憂暫不影響當(dāng)前政策；（2）政府隨時(shí)監(jiān)控技術(shù)發(fā)展；（3）呼吁美國(guó)政府加大資金支持；（4）全體公民準(zhǔn)備接受人工智能教育；（5）預(yù)防機(jī)器產(chǎn)生偏見(jiàn)；（6）致力于確保人工智能的“道德”；（7）致命性武器難以預(yù)測(cè)。霍金說(shuō)AI可能成為我們?nèi)祟悮v史上最大的錯(cuò)誤，就像潘多拉盒子一樣，一旦打開(kāi)，就再也收不回去了。但政府似乎對(duì)此并不擔(dān)憂，由于無(wú)法基于預(yù)測(cè)確定公共政策，當(dāng)前美國(guó)政府的態(tài)度還是支持人工智能發(fā)展，但會(huì)密切關(guān)注其中可能發(fā)生的風(fēng)險(xiǎn)。從政策的角度看，美國(guó)《世界政治》雜志刊登了一篇文章《Safety First: Entering the Age of Artificial Intelligence》，認(rèn)為我們可能無(wú)法避免AI帶來(lái)的災(zāi)難，原因是：首先，因?yàn)楸苊鉃?zāi)難是一種全球公共產(chǎn)品，所以市場(chǎng)在此方面投入不足。其次，短期選舉周期這種壓力確保了政治家們基本上沒(méi)有什么動(dòng)機(jī)為其主要受害者（今天的孩子們和未來(lái)幾代人）目前無(wú)法投票表決的各種事件而投資于預(yù)防性政策。第三，在一種更加明顯和更直接的挑戰(zhàn)背景下，決策者們很容易駁回該問(wèn)題，而且更容易忽視它。