何懷宏：“人工智能是一把雙刃劍”

高霈寧

什么是人工智能？

1950年，“人工智能之父”圖靈提出了一個(gè)鑒定機(jī)器是否具有智能的方法—“圖靈測(cè)試”。他認(rèn)為，讓若干測(cè)試者在與機(jī)器隔開(kāi)的情況下隨意向機(jī)器提問(wèn)，如果機(jī)器的所有回答中有30%讓測(cè)試者誤認(rèn)為它是人，那么就可以說(shuō)機(jī)器具有智能。今天，盡管偶爾有計(jì)算機(jī)程序通過(guò)了“圖靈測(cè)試”，但是以模擬人的思維為目標(biāo)的通用性人工智能仍然離我們較為遙遠(yuǎn)。2017年機(jī)器人“索菲亞”被授予沙特阿拉伯國(guó)籍，而且在接受媒體采訪時(shí)對(duì)答如流、妙語(yǔ)連珠。然而不久即曝光出“索菲亞”不過(guò)是在背誦事先設(shè)定好的臺(tái)詞而已。即使蘋果公司的智能語(yǔ)音助手Siri也不斷被全球用戶吐槽過(guò)于笨拙，像個(gè)智障。

通用型人工智能的發(fā)展不盡如人意，而美國(guó)哲學(xué)家塞爾則將矛頭直接指向了“圖靈測(cè)試”。塞爾認(rèn)為，即使機(jī)器能夠與人類進(jìn)行對(duì)話，也絲毫不能證明機(jī)器能夠理解人類語(yǔ)言的意義。他提出了一個(gè)“中文屋”的思想實(shí)驗(yàn)。假設(shè)有一個(gè)完全不懂中文的人被關(guān)在一個(gè)屋子里，屋里只有一大堆中文符號(hào)和一本說(shuō)明書(shū)。屋外的人頻頻遞進(jìn)來(lái)一些用中文書(shū)寫的問(wèn)題卡片，而屋內(nèi)的人則按照說(shuō)明書(shū)的指示將相應(yīng)的中文符號(hào)遞出去。假設(shè)說(shuō)明書(shū)記錄了所有問(wèn)題的答案，那么屋內(nèi)的人就能夠成功地騙過(guò)屋外的人，讓對(duì)方相信自己是懂中文的。塞爾的這個(gè)反駁有力地證明了，智能的存在與外在行為之間沒(méi)有必然的聯(lián)系。

不過(guò)，通用型人工智能的發(fā)展遭遇瓶頸并沒(méi)有阻礙人工智能的進(jìn)步，反而引導(dǎo)它更多地向著功能型方向發(fā)展。功能型人工智能不追求“再現(xiàn)”人的思維，而是專注于某個(gè)特殊的領(lǐng)域，如自動(dòng)駕駛、語(yǔ)音識(shí)別、人臉識(shí)別等方面。這一轉(zhuǎn)變讓人工智能脫胎換骨，不僅不再顯得“笨拙”，而且還展現(xiàn)出了遠(yuǎn)超人類的“智力水平”。例如擊敗卡斯帕羅夫的計(jì)算機(jī)“深藍(lán)”和擊敗柯潔的AlphaGo就屬于功能型人工智能。在人工智能如此強(qiáng)大的運(yùn)算和學(xué)習(xí)能力面前，人類只能望而卻步。

500年前，莎士比亞說(shuō)人是“宇宙之精華，萬(wàn)物之靈長(zhǎng)”。而如今，人類在智力上卻受到了人工智能的全面碾壓。被自己的造物所超越，這究竟是幸還是不幸？

值得慶幸的是，即使人工智能在功能性上可以完勝人類，但是在通用性上卻依然“弱智”。無(wú)法與人類進(jìn)行流暢的對(duì)話，意味著它僅僅能夠完成被指派的特定任務(wù)，卻無(wú)法進(jìn)入意義的世界。北京大學(xué)哲學(xué)系教授何懷宏在《奇點(diǎn)臨近：福音還是噩耗》一文中提出，哲學(xué)、宗教、文學(xué)、藝術(shù)這些人文領(lǐng)域可能是人類最后可以保守的家園，因?yàn)檫@是獨(dú)屬于心靈的世界。

機(jī)器人會(huì)反叛人類嗎？

南風(fēng)窗：通用性人工智能一直是很多人夢(mèng)寐以求的目標(biāo)。2017年機(jī)器人索菲亞被授予沙特阿拉伯國(guó)籍，科幻電影中還描述過(guò)未來(lái)人類撫養(yǎng)機(jī)器人小孩，或者和機(jī)器人談戀愛(ài)的場(chǎng)景。如果當(dāng)有一天，人工智能和人的行為難以區(qū)分時(shí)，我們是不是可能會(huì)以人的態(tài)度來(lái)對(duì)待它們？

何懷宏：通用型機(jī)器人在某種意義上講就是超級(jí)機(jī)器人，或者說(shuō)是很類似于人的智能，乃至超過(guò)人的智能的機(jī)器人。關(guān)于機(jī)器人索菲亞被授予沙特阿拉伯國(guó)籍這件事，我覺(jué)得這很可能只是一種宣傳，乃至說(shuō)是媒體的噱頭，因?yàn)闄C(jī)器人不可能是真實(shí)的公民，也不可能實(shí)際履行公民的權(quán)利和義務(wù)。它投票嗎？它定居在哪里？目前的機(jī)器人再智能也需要有真實(shí)的人在后面管理和操縱它，所以很難說(shuō)機(jī)器人具有自主性和主體性。那么在社會(huì)生活中，我們也就不可能把它當(dāng)作真正的人來(lái)看待。

我不否認(rèn)有些人可能會(huì)對(duì)機(jī)器人產(chǎn)生特殊感情，就像某種戀物癖。但這是單向的。如果機(jī)器人要普遍地被社會(huì)當(dāng)作人來(lái)看待，那它就必須具有主體意識(shí)，有自我。這個(gè)時(shí)候它才具備被當(dāng)作“人”的條件。但是目前，我們還看不到這種可能性。人和機(jī)器之間仍然有很大的界限。人的感情，甚至包括動(dòng)物的感情都要立足于碳基生物這個(gè)前提，但機(jī)器是硅基的，它不具有感受性。如果以后機(jī)器有一個(gè)獨(dú)立的世界，那是另一個(gè)世界。其實(shí)動(dòng)物比機(jī)器與人更接近，我們對(duì)能力上弱于我們的動(dòng)物甚至應(yīng)該負(fù)有某種“道德代理人”的責(zé)任，但它們能夠成為“公民”嗎？還是不可能。

南風(fēng)窗：一提到人工智能，很多人會(huì)聯(lián)想到機(jī)器人未來(lái)可能會(huì)“統(tǒng)治”人類。如果我們?cè)诔绦蛏蠟闄C(jī)器人事先設(shè)計(jì)一套倫理法則，是不是可以保證機(jī)器人在未來(lái)不會(huì)“反叛”呢？

何懷宏：人類可以為機(jī)器人的行為設(shè)定法則，但是使用“倫理法則”這個(gè)詞不一定合適。因?yàn)閭惱矸▌t首先涉及道德主體間的自我意識(shí)，而機(jī)器人不大可能有類似人的道德意識(shí)。我們可以給機(jī)器人的行為制定一些規(guī)則，比如說(shuō)絕不允許它使用暴力，甚至當(dāng)它有可能“造反”或者危害人類的時(shí)候，啟動(dòng)自毀程序。但這并不是要先給它建立一個(gè)倫理意識(shí)，讓它自覺(jué)地遵守規(guī)則，而是人類為了自保而不得不如此。

按照海德格爾的說(shuō)法，技術(shù)的本質(zhì)就是一個(gè)系統(tǒng)、一個(gè)架構(gòu)。人一旦被嵌入其中很難擺脫，甚至無(wú)法擺脫。

但即便有這樣的規(guī)則是否能確保機(jī)器不會(huì)“反叛”人類呢？最早的一個(gè)寫機(jī)器人的科幻小說(shuō)就描述了這種“反叛”。我的確覺(jué)得人的規(guī)則是否能夠成功是很難說(shuō)的。因?yàn)闄C(jī)器如果在智能上超過(guò)人，就可能會(huì)有破解的方法。即使我們事先給它設(shè)定了規(guī)則，它也可能慢慢發(fā)展出反制的手段。如果它比人類更聰明，那么它就能夠想出超過(guò)人的辦法。它們可能毀滅人，而且是不帶感情地毀滅，沒(méi)有愛(ài)，也沒(méi)有恨地毀滅。這個(gè)時(shí)候就真的沒(méi)有什么倫理道德可講。我們不可能跟沒(méi)有人類道德意識(shí)的機(jī)器講道德。

所以，對(duì)于一個(gè)擁有比我們?nèi)祟惛吣芰Φ拇嬖冢覀兡芊癯晒τ行У卮_立這些規(guī)則，我還是懷疑，但有總是比沒(méi)有好。

無(wú)用階層不一定生活就很糟糕

南風(fēng)窗：就目前來(lái)看，機(jī)器人的“反叛”離我們還比較遙遠(yuǎn)。但是在可預(yù)見(jiàn)的未來(lái)，你認(rèn)為人工智能的普及將給予人自由還是剝奪人的自由呢？

何懷宏：我覺(jué)得既是給予也是剝奪。人工智能可以讓少部分人獲得更大的自由，但是對(duì)于更多的人來(lái)說(shuō)，情況或許恰恰相反。很多人可能會(huì)因此失業(yè)，因?yàn)樗麄冎八鶎W(xué)的專業(yè)技能將被人工智能取代。就像工業(yè)革命時(shí)期，很多手藝人失去了他們?cè)瓉?lái)的謀生手段—那些精致的，可能需要畢生學(xué)習(xí)和傳承的手工技藝、工匠技藝，或者說(shuō)失去了保留原來(lái)職業(yè)的自由。所以人工智能的影響是雙向的，它是一把雙刃劍。

我認(rèn)為更可能的后果是，人工智能將越來(lái)越多地限制大多數(shù)人的自由空間。因?yàn)闄C(jī)器的功能越是發(fā)達(dá)，它對(duì)人的監(jiān)督和控制能力也就越強(qiáng)。也許發(fā)展到最后，極少數(shù)人通過(guò)操縱機(jī)器就能夠牢牢控制整個(gè)社會(huì)。并非完全不存在這種危險(xiǎn)，我對(duì)此不抱樂(lè)觀態(tài)度。

其實(shí)，這個(gè)問(wèn)題的背后涉及技術(shù)的本質(zhì)。技術(shù)會(huì)給人們帶來(lái)很多的便利，這個(gè)是不容否認(rèn)的，但是能不能帶來(lái)更大的自由空間，或者說(shuō)讓人有更多的閑暇，就要打個(gè)大大的問(wèn)號(hào)了。

按照海德格爾的說(shuō)法，技術(shù)的本質(zhì)就是一個(gè)系統(tǒng)、一個(gè)架構(gòu)。人一旦被嵌入其中很難擺脫，甚至無(wú)法擺脫。不只是人工智能會(huì)剝奪人的自由空間，從普遍意義上講，這就是技術(shù)給人類帶來(lái)的后果。就以汽車為例，當(dāng)汽車剛剛發(fā)明出來(lái)時(shí)，人們不會(huì)覺(jué)得步行受到影響，因?yàn)槟菚r(shí)路上的車很少。但是當(dāng)汽車變得越來(lái)越多時(shí)，人們就會(huì)發(fā)現(xiàn)不能走在路中央了，大路就不是人走的大路了，而是車走的大路了。因?yàn)榭赡軙?huì)被撞到，只能走在人行道上。

機(jī)器確實(shí)可以代替人做很多事情，但是這又會(huì)引發(fā)另外一個(gè)更重要的問(wèn)題：當(dāng)人獲得了閑暇之后會(huì)做什么？如果人把工作都交給機(jī)器人來(lái)做，那么人可能會(huì)產(chǎn)生“我活著還有什么意義”這樣一種疑問(wèn)。機(jī)器或許可以很好地養(yǎng)著人類，但是無(wú)所事事會(huì)幸福嗎？

南風(fēng)窗：當(dāng)人工智能可以全方面替代人的時(shí)候，對(duì)人自身是不是一種矮化呢？或者說(shuō)人會(huì)不會(huì)受到變相的歧視？

何懷宏：人工智能在專門的功能上肯定會(huì)超過(guò)人，甚至在一般的智能上也有可能會(huì)超過(guò)人，那么矮化是必然的。未來(lái)可能很多企業(yè)家都更愿意使用機(jī)器人來(lái)工作，因?yàn)闄C(jī)器人不會(huì)偷懶，不會(huì)罷工，也不用交社保，多方便。其實(shí)現(xiàn)在很多代工廠已經(jīng)在大規(guī)模使用機(jī)器人。所以，未來(lái)至少有相當(dāng)一部分人會(huì)變成無(wú)用階層。無(wú)用階層并不一定是無(wú)產(chǎn)階層。他們的生活可能并不糟糕，但是卻“無(wú)用”，因?yàn)楹孟裆鐣?huì)并不需要他們。這樣一種狀態(tài)是比較讓人擔(dān)心甚至是可怕的。

精神領(lǐng)域?qū)τ谌藖?lái)說(shuō)不可或缺

南風(fēng)窗：我設(shè)想，人類在未來(lái)為了避免被歧視，可能會(huì)改造自己。其實(shí)很多科幻片也描述過(guò)這種場(chǎng)景，比如《鋼鐵俠》。假如有一天，我的四肢甚至大腦都可以借助于機(jī)器變得更強(qiáng)大，但是這樣的“身體”還是我的身體嗎？

未來(lái)的趨勢(shì)不僅是機(jī)器的人化—準(zhǔn)確的說(shuō)，是類似于人，最后超過(guò)人的智能化。另一方面，現(xiàn)在的肉體人也可能也會(huì)被“機(jī)器化”，被“物化”。

何懷宏：是的，未來(lái)的趨勢(shì)不僅是機(jī)器的人化—準(zhǔn)確的說(shuō)，是類似于人，最后超過(guò)人的智能化。另一方面，現(xiàn)在的肉體人也可能也會(huì)被“機(jī)器化”，被“物化”。我們會(huì)不斷地更換我們的器官，最后可能所有的身體器官都換了一遍，甚至記憶和情感也被“外包”了出去。這時(shí)我們可能會(huì)懷疑：這還是我自己的身體嗎？這還是我的大腦嗎？我還是我嗎？人會(huì)出現(xiàn)自我認(rèn)同的危機(jī)，這在將來(lái)會(huì)是一個(gè)大問(wèn)題。

南風(fēng)窗：你曾經(jīng)提出過(guò)，當(dāng)人工智能在體力和智力上全面超越人之后，人的價(jià)值將只能局限在精神領(lǐng)域，比如文學(xué)、藝術(shù)創(chuàng)作等。但是當(dāng)人類在物理世界輸給機(jī)器之后，在精神世界的追求還有價(jià)值嗎？

何懷宏：不能因?yàn)槿说木癯删涂赡軙?huì)最終毀滅就認(rèn)為它沒(méi)有價(jià)值。哪怕沒(méi)有機(jī)器人，人類未來(lái)有一天也會(huì)毀滅，可能是由于自然災(zāi)害、某種疾病，或者其他什么原因而毀滅。但那可能是很漫長(zhǎng)的時(shí)光之后。即便這樣，也并不意味著人類前面的追求就毫無(wú)意義。在人類的文明歷程中，每一個(gè)時(shí)代的人都在欣賞和享受這些追求和創(chuàng)造的價(jià)值。即使它們注定會(huì)消逝，會(huì)毀滅，也仍然具有自身的意義。而且人也是注定要去追求意義，這樣才會(huì)覺(jué)得人生是值得過(guò)的。所以精神領(lǐng)域?qū)τ谌藖?lái)說(shuō)不可或缺，是“人禽之別”的基本標(biāo)志。

但是機(jī)器不可能理解人在精神世界的追求，也不可能理解人的創(chuàng)造。機(jī)器沒(méi)有人的心靈的欣賞能力，看不懂蒙娜麗莎，看不懂羅丹的雕塑，聽(tīng)不懂貝多芬的交響樂(lè)。對(duì)機(jī)器來(lái)說(shuō)，蒙娜麗莎可能和原始人乃至動(dòng)物的幾筆涂鴉差別不大。而藝術(shù)作品對(duì)人就很珍貴。我們不僅能夠理解其中的價(jià)值，還能享受這些作品帶給我們的愉悅。

另外，如果真的如一些人所相信的那樣世界上存在上帝，那么就還存在一種永恒的記憶，永恒的觀照。人也不會(huì)白白地追求，因?yàn)槿怂非蟮囊磺锌赡茉谏系勰抢锒家呀?jīng)獲得了永存。這更讓人覺(jué)得安慰了，但這沒(méi)辦法證實(shí)，也沒(méi)辦法證偽。

人是有價(jià)值追求的，包括追求超越的存在、追求上帝，包括藝術(shù)的創(chuàng)造、哲學(xué)的沉思，這是機(jī)器做不到的。至于它們能做到什么，它們會(huì)有什么樣的追求和創(chuàng)造，我們不知道。大概就是兩不相關(guān)。