發(fā)展人工智能應(yīng)避免“近視癥”

【摘要】順應(yīng)形勢把握住人工智能和第四次工業(yè)革命帶來的重大歷史機遇，能夠為轉(zhuǎn)型期的中國經(jīng)濟社會發(fā)展提供新動能。人工智能時代機遇與挑戰(zhàn)同在，應(yīng)當(dāng)加強人工智能技術(shù)發(fā)展研判和預(yù)測，增強風(fēng)險意識，更好應(yīng)對人工智能技術(shù)可能導(dǎo)致的失控風(fēng)險、倫理挑戰(zhàn)、就業(yè)影響，促進科技治理能力現(xiàn)代化。處理好“善治”與“善智”的關(guān)系，走向技術(shù)與社會的“良性互構(gòu)”。

【關(guān)鍵詞】人工智能 倫理規(guī)約 社會治理 【中圖分類號】TP24 【文獻標(biāo)識碼】A

人工智能時代：機遇與挑戰(zhàn)同在

人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)，從國際發(fā)展態(tài)勢來看，世界各主要國家均把人工智能作為重要發(fā)展戰(zhàn)略，力圖在新一輪國際競爭中把握住主導(dǎo)權(quán)和話語權(quán)。2017年7月，國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》進一步明確了中國新一代人工智能的發(fā)展目標(biāo)，規(guī)劃指出：2020年人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟增長點；2025年中國的智能社會建設(shè)取得積極進展，2030年中國成為世界上主要的人工智能創(chuàng)新中心。

第四次工業(yè)革命及人工智能時代的到來正在見證生產(chǎn)組織方式的巨大變革，以規(guī)?；ㄖ茷樘卣鞯纳a(chǎn)組織方式、平臺經(jīng)濟以及企業(yè)的網(wǎng)絡(luò)化、扁平化正在成為新的趨勢。新產(chǎn)業(yè)形態(tài)出現(xiàn)將為傳統(tǒng)產(chǎn)業(yè)提供轉(zhuǎn)型的契機，經(jīng)濟發(fā)展的新動能正在被持續(xù)發(fā)掘，利用人工智能技術(shù)提升和改造傳統(tǒng)產(chǎn)業(yè)正在匯聚經(jīng)濟社會轉(zhuǎn)型的新動力。順應(yīng)形勢把握住人工智能和第四次工業(yè)革命帶來的重大歷史機遇，可以帶動國家競爭力的整體躍升，進而為處于轉(zhuǎn)型期的中國經(jīng)濟社會發(fā)展提供強大動能。

推進和發(fā)展人工智能技術(shù)已經(jīng)成為國際社會共識，然而人工智能在提供社會發(fā)展動力和平臺的同時，也對經(jīng)濟、社會、就業(yè)、法律、倫理、安全諸領(lǐng)域提出了新挑戰(zhàn)。人工智能時代的技術(shù)以指數(shù)而非線性速度發(fā)展，在既有的發(fā)展水平差距面前，經(jīng)濟發(fā)展水平較高、技術(shù)較為先進的國家與較為落后的國家之間的差距將進一步增大，全球治理秩序亟待重組。個體網(wǎng)絡(luò)身份和社會身份的沖突在挑戰(zhàn)傳統(tǒng)社會規(guī)范，網(wǎng)絡(luò)空間的興起和人工智能發(fā)展所引發(fā)的大量新倫理問題亟待形成共識。

從技術(shù)演化歷史來看，很多關(guān)鍵性的技術(shù)發(fā)展都要經(jīng)歷從0到1，再從1到100的過程。2016年3月阿法狗（AlphaGo）在圍棋領(lǐng)域首次戰(zhàn)勝人類世界冠軍深刻沖擊著人類對自身智力極限的信心；而2017年10月《自然》雜志發(fā)文報道的新一代阿法元（AlphaGo Zero）已經(jīng)具有了遠高于阿法狗的棋藝，尤為重要的是其棋技學(xué)習(xí)不需要以歷史棋譜為指引，也不需要以人類先驗知識為指導(dǎo)，而是完全靠其自身的強化學(xué)習(xí)獲得技能的提升，以至于專家發(fā)出“人工智能從0到1”的驚呼。

如果說阿法狗和阿法元在圍棋領(lǐng)域的強勢勝出一度導(dǎo)致了公眾焦慮、引起人類對自身智力極限的反思及對“人的本質(zhì)是什么”的深層追問?；艚饎t警告稱：發(fā)明人工智能AI可能會成為人類歷史上最大的災(zāi)難，如果管理不善，會思考的機器可能會為文明劃上句號。

人工智能技術(shù)發(fā)展：構(gòu)建“好的人工智能社會”是全人類面臨的嚴(yán)峻挑戰(zhàn)

人們期待通過技術(shù)“保護我們以擺脫現(xiàn)實生活的悲慘險境”時，也一直在關(guān)注技術(shù)發(fā)展可能帶給人類的風(fēng)險。人類社會從傳統(tǒng)社會邁向現(xiàn)代社會是一個質(zhì)的飛躍，自工業(yè)革命伊始，技術(shù)一直被視作這一宏大社會進程的重要變革性力量，但從倫理學(xué)角度看，技術(shù)也一直被視作一種憂患之源。

人類發(fā)展技術(shù)的歷史也一直糾結(jié)在“技術(shù)控”與“技術(shù)失控”的二元邏輯主線之中。人們在享受技術(shù)便利的同時，有可能失去了對復(fù)雜技術(shù)系統(tǒng)的控制，進而對人類生存帶來災(zāi)難?！凹夹g(shù)的反向控制與適應(yīng)”的主題也一直存在于各個文化體系和知識形式之中。從傳統(tǒng)社會思想家對“技術(shù)危險性”的警示到工業(yè)革命之初社會科學(xué)家對“啟蒙黑暗面”的關(guān)切；從近現(xiàn)代戲劇與文學(xué)作品（狄更斯、托爾斯泰、卡夫卡等）對“技術(shù)兩面性”的大眾化詮釋和傳播，到技術(shù)研究領(lǐng)域?qū)?“技術(shù)敵托邦”的探索，再到近代社會科學(xué)的政策分析，所有關(guān)切都指向技術(shù)所帶來的意想不到的社會結(jié)果，“技術(shù)的潛在功能與社會功能紊亂”問題一直是人類發(fā)展的夢魘。而人工智能可能自然演化具備自覺意識并對人類發(fā)動攻擊則是技術(shù)憂慮在當(dāng)代公眾意識中的折射。

人們曾一度認為，人類對自己制造的東西最為了解，并能達到對“制造物”的牢固控制，然而科技發(fā)展的速度往往超乎人類想象。起初，機器人只是作為一種人類生活工具出現(xiàn)在科幻小說中的。20世紀(jì)中期，當(dāng)艾薩克·阿西莫夫出版《我，機器人》的時候，機器人世界還是想象中的世界，在科幻作家最初設(shè)想中，機器人以照顧人類為己任。然而隨著科學(xué)技術(shù)的進步，人們開始對機器人技術(shù)是否會超出人類控制范圍產(chǎn)生了懷疑。當(dāng)今，人類生活中已經(jīng)充斥著大量機器人，并且越來越智能化，科學(xué)的進步總是超乎人們預(yù)測。于是，人們開始設(shè)想高度發(fā)展的人工智能未來，當(dāng)智能機器人充斥于我們生活那一天，是否會不再滿足于為人類服務(wù)，而像人類宣戰(zhàn)，并統(tǒng)治世界？機器與人的關(guān)系是否有可能會從“人”與“物”的關(guān)系轉(zhuǎn)化成“人”與“人”的關(guān)系呢？

當(dāng)前人工智能已經(jīng)從科學(xué)實驗階段進入商業(yè)應(yīng)用階段，智能機器執(zhí)行任務(wù)的復(fù)雜度正在以指數(shù)速度增長，人工智能發(fā)展正在進入爆發(fā)前的臨界點；人工智能進化中的遞歸式自我改善有可能會導(dǎo)致最終的“智能爆炸”。人工智能飛速進步所展示的人類創(chuàng)造出一種全新生命形式的可能性，不僅將標(biāo)志著進化的突破，而且也可能給人類物種的生存構(gòu)成潛在威脅。人工智能技術(shù)失控可能源自作為技術(shù)創(chuàng)造者的工程師的疏忽大意和無意識，也可能源于機器人的某個深度學(xué)習(xí)瞬間的豁然領(lǐng)悟。在電影《西部世界》中智能機器人開始不再聽命于工程師們，開始傷害和自我傷害，并最終擺脫了人類的控制，開始反抗屠殺人類。

構(gòu)建“好的人工智能社會（Good AI Society）”是全人類面臨的嚴(yán)峻挑戰(zhàn)。隨著人工智能在生產(chǎn)活動和社會活動中的作用不再被忽略，人工智能甚至有可能讓人類失去智慧能動者的唯一地位。傳統(tǒng)社會中僅僅針對人的產(chǎn)業(yè)制度和生產(chǎn)規(guī)則面臨重組的挑戰(zhàn)，以適應(yīng)非人行動者參與的需要；“讓生活更美好”的人類愿景正面臨如何構(gòu)建“好的人工智能社會”的緊迫挑戰(zhàn)。endprint

“善治”與“善智”：發(fā)展“負責(zé)任”的人工智能，走向技術(shù)與社會的“良性互構(gòu)”

在技術(shù)發(fā)展中，人類應(yīng)當(dāng)避免“近視癥”的困擾，預(yù)先規(guī)劃、做好頂層設(shè)計，僅僅和過于強調(diào)技術(shù)發(fā)展的“獨特能力”，反而容易落入“能力陷阱”。人工智能時代不僅僅意味著一場技術(shù)與產(chǎn)業(yè)革命，對全球價值鏈結(jié)構(gòu)、全球產(chǎn)業(yè)競爭格局產(chǎn)生深刻影響，更是一場社會、文化、價值與思維等領(lǐng)域的全景式整體性變革。技術(shù)發(fā)展應(yīng)當(dāng)服務(wù)于人本身。人工智能發(fā)展要堅持“善治”與“善智”的統(tǒng)一，人工智能社會要走向“網(wǎng)絡(luò)空間”與“現(xiàn)實空間”的深度融合，應(yīng)當(dāng)盡快搭建起“行動者網(wǎng)絡(luò)”和“利益相關(guān)者”就人工智能問題開展相關(guān)討論與合作的新平臺。歷史證明，人類面臨重大的技術(shù)風(fēng)險往往有助于推動形成社會共識；而好的社會共識則是歷史進步的強大推動力。

隨著新的機器自動生產(chǎn)者的加入，會導(dǎo)致設(shè)計者、使用者、監(jiān)管者之間責(zé)任的模糊和缺失，精細分工下的“有組織不負責(zé)任”亟需得到解決。傳統(tǒng)技術(shù)倫理學(xué)是把倫理道德看作技術(shù)活動之外的一種規(guī)范力量，對技術(shù)后果進行倫理反思和批判；“后經(jīng)驗轉(zhuǎn)向”時代的技術(shù)倫理規(guī)約強調(diào)規(guī)范性和建構(gòu)性的統(tǒng)一，主張“端口前移”：從負面?zhèn)惱砗蠊慕遗七M到正面?zhèn)惱韮r值的“預(yù)防式置入”；在技術(shù)設(shè)計中“嵌入”道德要素，通過恰當(dāng)?shù)募夹g(shù)設(shè)計規(guī)范和制約“創(chuàng)造者”的行為，實現(xiàn)“把技術(shù)關(guān)進倫理的籠子里”的目標(biāo)。

“技術(shù)與社會如何和諧共處的主題”一直是技術(shù)社會學(xué)的重要論域。作為跨越技術(shù)決定論與技術(shù)建構(gòu)論二元對立的整合性綱領(lǐng)，技術(shù)與社會的“相互建構(gòu)論”已經(jīng)成為當(dāng)代技術(shù)社會學(xué)研究的主導(dǎo)性范式。面對不確定性的世界嘗試提供確定性的理論框架是危險的，面對人工時代的來臨，我們必須跨越學(xué)術(shù)、社會、政治、國家和行業(yè)的界限開展多方合作，讓所有個體、群體和區(qū)域都能參與到當(dāng)前的轉(zhuǎn)型過程，并從中受益。

大數(shù)據(jù)背景下的人工智能具有“強加性的巨大功能”，以人工智能為代表的第四次工業(yè)革命隱藏著巨大挑戰(zhàn)、蘊含著空前機遇。經(jīng)濟長期滯脹、就業(yè)壓力劇增、社會不平等發(fā)展、“好的人工智能社會”如何構(gòu)建等都在考驗人類的協(xié)作、創(chuàng)新與智慧。中國是世界上“現(xiàn)實中最大的發(fā)展中國家”“世界上第二大經(jīng)濟體”“未來的最強大國家”，世界對第四次工業(yè)革命中的“中國角色”寄予厚望。在當(dāng)前階段，中國面臨經(jīng)濟發(fā)展新常態(tài)、供給側(cè)改革、傳統(tǒng)企業(yè)轉(zhuǎn)型、制造業(yè)升級等問題。不論是政府、企業(yè)還是個人，深入了解第四次工業(yè)革命的本質(zhì)內(nèi)涵和系統(tǒng)意義，全面評估人工智能帶給社會的機遇與挑戰(zhàn)必將是行穩(wěn)致遠、角逐未來的重要砝碼。

（作者為清華大學(xué)社會科學(xué)學(xué)院黨委副書記、教授、博導(dǎo)，社會創(chuàng)新與風(fēng)險管理中心主任）

【注：本文系國家社科基金“‘后經(jīng)驗轉(zhuǎn)向時代的技術(shù)倫理規(guī)約機制及模式研究”（項目編號：13BZX024）的階段性成果】

【參考文獻】

①張成崗：《技術(shù)與現(xiàn)代性研究》，北京：中國社會科學(xué)出版社，2013年。

②[美]蘭登·溫納著，楊海燕譯：《自主性技術(shù)》，北京：北京大學(xué)出版社，2014年。

③[美]科德·戴維斯、道格·帕特森著，趙亮、王健譯：《大數(shù)據(jù)倫理：平衡風(fēng)險與創(chuàng)新》，沈陽：東北大學(xué)出版社，2016年。

責(zé)編/宋睿宸 美編/楊玲玲endprint