智能社會(huì)的設(shè)想與價(jià)值沖突的反思

吳思嫻，夏雪晴，陳雪冬

1 智能社會(huì)發(fā)展方向

1965 年摩爾定律的提出，就揭示了信息技術(shù)進(jìn)步的速度之快，而計(jì)算機(jī)的每一次更新?lián)Q代也推動(dòng)了智能化的發(fā)展[1]。以信息技術(shù)為核心的智能技術(shù)，在工業(yè)、農(nóng)業(yè)、醫(yī)療、交通、國防以及航空等各個(gè)方面的應(yīng)用，已經(jīng)向我們揭示了智能社會(huì)未來發(fā)展的一些跡象。

通過人工智能的普遍應(yīng)用，我們正在建設(shè)一個(gè)高度信息化、智能化的社會(huì)——人工智能在社會(huì)生產(chǎn)、生活方式的滲透；傳統(tǒng)產(chǎn)業(yè)正在迅猛地智能化；發(fā)展智能產(chǎn)業(yè)為新的經(jīng)濟(jì)增長點(diǎn)等等。智能社會(huì)的發(fā)展不僅可以有效減少資源的閑置和浪費(fèi)，還可以提供精準(zhǔn)化智能服務(wù)。智能社會(huì)下，人類的生活會(huì)越來越便捷、舒適；社會(huì)運(yùn)行會(huì)更加安全、高效；社會(huì)治理水平也能在人工智能的幫助下得到提升。

因此，從智能社會(huì)發(fā)展方向而言，智能時(shí)代的到來絕對是人類得到“解放”和全面發(fā)展的黃金時(shí)代。是以往任何時(shí)代都無法比擬的、人類智慧高度體現(xiàn)的時(shí)代。

2 智能社會(huì)的設(shè)想與價(jià)值沖突

2.1 人與人工智能（AI）

可以大膽猜測，在技術(shù)進(jìn)步的層面來說，人工智能有一天會(huì)向人類靠近甚至超越人類。麥卡洛克和皮茨合著的《神經(jīng)活動(dòng)中思想內(nèi)在性的邏輯演算》（A Logical Calculus of Ideas Immanent in Nervous Activity），為聯(lián)結(jié)論AI 提供了來源。這種建立在統(tǒng)計(jì)分布規(guī)律之上的并行分布式非線性系統(tǒng)，包括對大腦神經(jīng)網(wǎng)絡(luò)的模擬，都對研究人工智能具有重要意義[2]。就目前為止，心理學(xué)、生物技術(shù)在AI 方面的應(yīng)用，已經(jīng)揭示出了AI 類人甚至超人的可能。就如何對人類大腦的模擬，無機(jī)體向有機(jī)體的靠近等等，這些科學(xué)上的努力都在預(yù)示著未來社會(huì)可能出現(xiàn)的方向。人工智能下的智能社會(huì)遠(yuǎn)遠(yuǎn)超過我們的想象，甚至有推翻原有的社會(huì)形態(tài)的可能。

庫茲韋爾在《靈魂時(shí)代的機(jī)器：當(dāng)計(jì)算機(jī)超過人類智能時(shí)》庫茲韋爾談到“Evolution moves towards‘greater complexity，gender elegance，greater knowledge，greater intelligence，greater beauty，greater creativity，and greater levels of subtle attributes such as love.”人工智能可以做得了很多人類做不了的事，甚至還能學(xué)會(huì)“愛”。庫茲韋爾提出的可能性，從另外一個(gè)層面揭示了未來的挑戰(zhàn)之一——未來是一場人與人工智能之間的力量的平衡。

我們可以從很多AI 題材的影視作品中，直觀地感受到很多復(fù)雜的問題。例如，2016 年翻拍和2018 年續(xù)拍的《西部世界》（源于1973 年一部同名電影）從這幾部作品對比來看，同樣的題材，可是內(nèi)容和想象根據(jù)時(shí)代遷移和科技的進(jìn)步有了質(zhì)的飛躍?？梢韵胂笤诓贿h(yuǎn)的未來，AI 一旦精通了情感和各種學(xué)習(xí)的能力，包括惡的方面，那么褪去了外表的識(shí)別性，人和人工智能將不可能和諧共存，這場較量比我們想象的要“智能”與高級得多。到底是智能社會(huì)為人類服務(wù)，還是人類社會(huì)成為了智能的犧牲品？這些猜想不僅對未來人工智能和智能社會(huì)進(jìn)行了大膽的假設(shè)，而且已經(jīng)向我們展示了潛在的危險(xiǎn)。

2.2 智能社會(huì)下倫理沖突與思考

庫茲韋爾在《奇點(diǎn)臨近》一書中寫道：“生物智能必將與我們正在創(chuàng)造的非生物智能緊密結(jié)合?！盵3]這點(diǎn)在康復(fù)醫(yī)學(xué)得到很好的體現(xiàn)，機(jī)械或者說智能機(jī)械義肢在康復(fù)醫(yī)學(xué)領(lǐng)域的應(yīng)用和發(fā)展，已經(jīng)表明人體可以和機(jī)械體共生，甚至能借助機(jī)械義肢來具有人體不具有的優(yōu)越性能。的確，人體與智能機(jī)器日益“共生”或一體化是未來人工智能的發(fā)展方向之一，甚至有朝一日，還會(huì)有智能改造大腦的出現(xiàn)或者有超越大腦的AI 存在。這些假設(shè)都是有可能的。這樣來看，人類之間的差距被人為地、智能地縮小或者擴(kuò)大，不再有統(tǒng)一公平的衡量標(biāo)準(zhǔn)，復(fù)雜的、被改造的“人”會(huì)使得以往的社會(huì)制度被智能社會(huì)的新的社會(huì)形態(tài)所瓦解，到那時(shí)，人類該如何面對人類自己將會(huì)是最大的問題。

庫茲韋爾甚至斷言：“未來的機(jī)器將會(huì)成為人類公民，即使它們不是生物有機(jī)體”不得不感嘆，庫茲維爾的假設(shè)有多么了不起的預(yù)見性——2017 年10 月26 日，沙特阿拉伯授予香港漢森機(jī)器人公司生產(chǎn)的機(jī)器人索菲亞公民身份。索菲亞作為人類歷史上首個(gè)獲得公民身份的AI 機(jī)器人，已經(jīng)向人類證明了庫茨韋爾的“預(yù)言”。那么未來的智能社會(huì)，人類公民和AI 公民的共存，也只是時(shí)間問題。當(dāng)人工智能擁有公民身份之后，與人類的這樣一種社會(huì)互動(dòng)，無論從社會(huì)競爭、婚姻、法律還是倫理道德的角度去思考，都極其復(fù)雜和具有風(fēng)險(xiǎn)。例如，職位競爭的不平等怎么解決，人類可以自由的與AI結(jié)婚會(huì)造成什么樣的后果？等等。這些問題無論從哪個(gè)角度思考，倫理和道德上的沖突和就會(huì)變得層出不窮。

2.3 “智能鴻溝”的出現(xiàn)

正如上文提到的，AI 和智能社會(huì)的發(fā)展有著多種多樣的可能性，而這些可能性是建立在智力資產(chǎn)，或者籠統(tǒng)說是一種新的經(jīng)濟(jì)實(shí)力之上的。如同“數(shù)字鴻溝”一樣，由于生產(chǎn)力和技術(shù)發(fā)展的不平衡，不同地區(qū)、不同人口之間的差異，產(chǎn)生的貧富差距和不平等的現(xiàn)象，進(jìn)而導(dǎo)致越來越多的新鴻溝產(chǎn)生。不難理解，發(fā)展人工智能的成本是十分高昂的，這也意味著即使步入智能社會(huì)，那些尖端智能產(chǎn)品的價(jià)格也是普通人無法承擔(dān)的。到那時(shí)起，由科技帶來的“智能鴻溝”會(huì)從內(nèi)向外地使得所謂的智能社會(huì)開始分層——擁有智能資產(chǎn)的人，同時(shí)也擁有了“智能遺產(chǎn)”，他們將占據(jù)金字塔的上層，而那些無法擁有智能資產(chǎn)的人，會(huì)因?yàn)楸旧碇悄艿娜狈Γ萑敫蟮牟还礁偁幹腥ァ?/p>

從智能社會(huì)的發(fā)展來看，“智能鴻溝”的出現(xiàn)是必然的。因?yàn)槿斯ぶ悄茏鳛橐豁?xiàng)智力密集型的技術(shù)，將會(huì)承載社會(huì)絕大多數(shù)的生產(chǎn)、生活的功能，這意味著社會(huì)的結(jié)構(gòu)即將面臨極大的挑戰(zhàn)。站在技術(shù)前端的人屬于社會(huì)的少數(shù)，同時(shí)擁有知能和資本的人更是少之又少，而普通百姓甚至可能還未開始“智能啟蒙”，就會(huì)因?yàn)楦簧现悄軙r(shí)代而被時(shí)代所拋棄。因此，對人工智能和智能社會(huì)帶來的“智能鴻溝”的探討具有現(xiàn)實(shí)意義，也有助于推動(dòng)人工智能和智能社會(huì)的發(fā)展。

3 反思與對策

人工智能是和智能社會(huì)帶來的挑戰(zhàn)和風(fēng)險(xiǎn)是不可準(zhǔn)確預(yù)估的，這事關(guān)人類社會(huì)的發(fā)展方向，因此，批判性的反思和建設(shè)性的意見顯得尤為重要。

基于保護(hù)人類的立場，學(xué)界提出了各種建議，其中比較經(jīng)典的是美國科幻作家阿西莫夫在《我，機(jī)器人》中提出的機(jī)器人三定律：機(jī)器人不得傷害人類個(gè)體或坐視人類個(gè)體受到傷害；在與第一定律不相沖突的情況下，機(jī)器人必須服從人類的命令；在不違背第一、第二定律的情況下，機(jī)器人有自我保護(hù)的義務(wù)。后來，阿西莫夫又補(bǔ)充了一條更基本的定律，即機(jī)器人必須保護(hù)人類的整體利益不受傷害。這些原則的提出，具有很強(qiáng)的人文的、道德倫理的色彩。除了上述研究提出的“人本原則”，筆者還想提出幾點(diǎn)補(bǔ)充：

1）建立篩查機(jī)制：分級機(jī)制、危險(xiǎn)排查等方法可以應(yīng)用在人工智能研發(fā)上，對不同能力的AI進(jìn)行分級管理、對存在危險(xiǎn)和倫理問題的產(chǎn)品進(jìn)行篩除。有選擇性的發(fā)展，可以在生產(chǎn)的源頭上減少危險(xiǎn)的可能。

2）維護(hù)公平原則：阿西莫夫提出的機(jī)器人定律中人本的思考并不夠深刻，忽視了人本身的道德缺陷，其中最突出的就是社會(huì)公正問題。未來智能社會(huì)應(yīng)該是國家“基建”的項(xiàng)目之一，國家應(yīng)該負(fù)起組織的責(zé)任，使每個(gè)人有平等接觸和使用“基礎(chǔ)智能”的權(quán)利。

3）完善法律制度和社會(huì)教育：智能社會(huì)將會(huì)帶來新的社會(huì)形態(tài)，因此，制度要走在技術(shù)前面。制定完善的法律法規(guī)，規(guī)范AI 的社會(huì)發(fā)展方向，完善國民關(guān)于智能的社會(huì)教育，形成全民智能的良好社會(huì)環(huán)境，為即將到來的智能社會(huì)做好全面的準(zhǔn)備。

最后，筆者想就“奇點(diǎn)臨近”延伸出一些思考：如果有一天人工智能超越人類智能，將身體的“不朽”與最高智慧集于一身，人又有什么資格要求AI服從于弱小的人呢？放在億萬光年里，人類不過是歷史的一粒塵埃。而人工智能的發(fā)展，既有可能是燒毀人類的一把火，也有可能是人類塵埃的延續(xù)。一切，就交給時(shí)間去驗(yàn)證吧。