人工智能機(jī)器人面臨的倫理困境
——以“微軟小冰”為例

陸偉晶

2018年2月12日，微軟（亞洲）互聯(lián)網(wǎng)工程院發(fā)布了智能機(jī)器人“微軟小冰”創(chuàng)作的40行長(zhǎng)詩(shī)《致十年后》。這是小冰首次嘗試寫長(zhǎng)詩(shī)，耗時(shí)不到4秒，詩(shī)歌延續(xù)了其朦朧晦澀的風(fēng)格。繼2017年5月出版了詩(shī)集《陽(yáng)光失了玻璃窗》，小冰的這一創(chuàng)作再度引發(fā)熱議。

小冰的詩(shī)歌存在諸多問(wèn)題：有錯(cuò)別字、前后矛盾、詞語(yǔ)生硬堆砌、缺乏敘事性和內(nèi)在情感邏輯……離真正意義上的有感而發(fā)、為事而作的詩(shī)歌創(chuàng)作還相距甚遠(yuǎn)，目前更接近于一種文字游戲。但也引發(fā)了人們的思考，經(jīng)過(guò)進(jìn)一步深度的學(xué)習(xí)，以“微軟小冰”為代表的智能機(jī)器人是否有一天能像人一樣思考，擁有自我意識(shí)，產(chǎn)生自我認(rèn)同？由此產(chǎn)生的倫理困境如何應(yīng)對(duì)？

一、人工智能機(jī)器人的代表：微軟小冰

人工智能機(jī)器人，也稱為AI機(jī)器人，是狹義上的智能機(jī)器人。智能化一直是機(jī)器人的演進(jìn)方向，那人工智能時(shí)代的機(jī)器人與以往有什么本質(zhì)差異呢？不同于傳統(tǒng)的可編程機(jī)器人以及感知機(jī)器人，人工智能機(jī)器人擺脫了物理性軀體的限制，逐漸內(nèi)置于算法與程序中，可以與用戶對(duì)話，具備情感識(shí)別、情感決策、情感表達(dá)功能，具備一定程度的自治能力，并能根據(jù)環(huán)境自我決策。

2017年7月6日，國(guó)際數(shù)據(jù)公司（IDC）與中國(guó)信息通信研究院聯(lián)合發(fā)布了《人工智能時(shí)代的機(jī)器人3.0新生態(tài)》白皮書(shū)。報(bào)告指出，全球機(jī)器人的發(fā)展已經(jīng)步入機(jī)器人3.0時(shí)代，人工智能技術(shù)與機(jī)器人的結(jié)合將更加緊密。[1]

人工智能機(jī)器人的內(nèi)核是人工智能，那人工智能又是什么？1956年，以麥卡錫（McCarthy）、明斯基（Minsky）等為首的一批年輕科學(xué)家在美國(guó)達(dá)特茅斯召開(kāi)了關(guān)于人工智能的研討會(huì)，首次提出“人工智 能 ”（Artificial Intelligence，AI）這一術(shù)語(yǔ)，標(biāo)志著“人工智能”的正式誕生。作為一門交叉學(xué)科，人工智能涉及哲學(xué)、認(rèn)知科學(xué)、行為科學(xué)、生理學(xué)、心理學(xué)、語(yǔ)言學(xué)、物理學(xué)、數(shù)學(xué)等諸多學(xué)科領(lǐng)域，迄今學(xué)界對(duì)其沒(méi)有統(tǒng)一定義。與人工智能相對(duì)應(yīng)的是自然智能，即自然進(jìn)化所造就的智能，其最佳代表是人類智能，地球上迄今所知曉的最為復(fù)雜最為高級(jí)的智能。[2]人工智能就是讓機(jī)器或人所創(chuàng)造的其他人工方法或系統(tǒng)來(lái)模擬人類智能。[3]人工智能目前主要分為三個(gè)領(lǐng)域：機(jī)器人技術(shù)（Robotics），自然語(yǔ)言處理（Natural Language）與專家系統(tǒng)（Expert Systems）。[4]以“微軟小冰”為代表的智能機(jī)器人正是三個(gè)領(lǐng)域的研究結(jié)合。

“微軟小冰”誕生于2014年5月29日，由微軟（亞洲）互聯(lián)網(wǎng)工程院發(fā)布。作為一款人工智能虛擬機(jī)器人，其官方人設(shè)是一名活潑可愛(ài)的16歲萌系少女。[5]“微軟小冰”是一個(gè)基于情感計(jì)算框架，綜合運(yùn)用算法、云計(jì)算和大數(shù)據(jù)，逐步向EQ方向發(fā)展的完整人工智能體系，迄今已發(fā)展至第五代。在中國(guó)市場(chǎng)推出后，目前已擴(kuò)展至日本、美國(guó)、印度和印尼。

除了出版詩(shī)集，小冰還出單曲、寫財(cái)經(jīng)評(píng)論、主持節(jié)目、擔(dān)任客服，同時(shí)入駐了微信、QQ、微博三大社交平臺(tái)，有個(gè)人公眾號(hào)“xiaoce-ms”和個(gè)人電臺(tái)“小冰FM”，可以與人進(jìn)行交互式對(duì)話并進(jìn)入QQ群聊。截至2017年4月，小冰擁有超過(guò)1億的用戶，累計(jì)對(duì)話量超過(guò)300億次。

與上述技能相比，小冰擁有的其他諸如“測(cè)顏值”“測(cè)關(guān)系”“讀心術(shù)”“猜成語(yǔ)”“猜歌名”等技能就不足為奇了，比她出現(xiàn)得更早的垂直領(lǐng)域產(chǎn)品數(shù)不勝數(shù)。但在小冰之前，人工智能是多個(gè)單獨(dú)、割裂的專家系統(tǒng)。小冰的獨(dú)特之處在于，集諸多技能于一身，逐漸具備人的特性和行為特征。不少國(guó)內(nèi)企業(yè)都已經(jīng)或正在推出自己的人工智能虛擬機(jī)器人產(chǎn)品，而這些新推出的人工智能機(jī)器人身上，或多或少都帶有小冰的影子。

（一）機(jī)器人實(shí)時(shí)聊天的原理

“微軟小冰”最引人注目之處是其強(qiáng)大的聊天和智能搜索功能，由此也可歸屬為當(dāng)下炙手可熱的“情感機(jī)器人”（Emotional Robot）。這是人工情感與機(jī)器人相結(jié)合的產(chǎn)物，可以簡(jiǎn)單描述為以下公式：AE +RB→ER。其中AE為人工情感（Artificial Emotion），RB是機(jī)器人（Robot）。人工情感是自然情感，特別是人的情感的模擬、延伸或擴(kuò)展。[6]

“微軟小冰”集合了中國(guó)近7億網(wǎng)民多年來(lái)積累的全部公開(kāi)聊天記錄，憑借微軟在大數(shù)據(jù)、自然語(yǔ)義分析、機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)方面的技術(shù)積累，精煉為1500萬(wàn)條真實(shí)而有趣的語(yǔ)料庫(kù)（之后每天凈增0．7%），通過(guò)理解對(duì)話的語(yǔ)境與語(yǔ)義，實(shí)現(xiàn)了超越簡(jiǎn)單人機(jī)問(wèn)答的自然交互。小冰的回答主要基于搜索引擎、文本挖掘、自然語(yǔ)言處理（NLP）、深度挖掘、語(yǔ)義解析等技術(shù)來(lái)實(shí)現(xiàn)。

以微信為例，關(guān)注小冰的微信公眾號(hào)，可以隨時(shí)發(fā)起聊天，無(wú)論拋出文字、圖片、語(yǔ)音還是視頻，都能得到即時(shí)回復(fù)。由于小冰的語(yǔ)料庫(kù)來(lái)自網(wǎng)民的聊天記錄，因此語(yǔ)言風(fēng)格輕松活潑、直白風(fēng)趣，網(wǎng)絡(luò)熱詞頻現(xiàn)。除了文字還有表情包、音頻和視頻，形象生動(dòng)。此外，在小冰回復(fù)的間隙，其輸入框還會(huì)出現(xiàn)省略號(hào)的字樣，類似于微信聊天真實(shí)情境中的“對(duì)方正在輸入”，增強(qiáng)了真實(shí)感和互動(dòng)性。

聊天機(jī)器人最常見(jiàn)的問(wèn)題是尬聊。由于機(jī)器人無(wú)法識(shí)別用戶文本的具體語(yǔ)義、言外之意或者無(wú)法解析上下文語(yǔ)境，往往答得牛頭不對(duì)馬嘴或者誠(chéng)實(shí)如蘋果語(yǔ)音助手Siri“我好像不太明白”，對(duì)話常常在此中止。小冰也存在這種問(wèn)題，但其智能之處在于，往往會(huì)通過(guò)提問(wèn)等方式開(kāi)辟一個(gè)新話題，由此占據(jù)了一部分主動(dòng)權(quán)。只要用戶有足夠的時(shí)間和耐心，對(duì)話完全可以一直繼續(xù)下去?；诖?，小冰才創(chuàng)造出了與用戶平均對(duì)話23輪的好成績(jī)。[7]

（二）情感計(jì)算框架是核心

與其他機(jī)器人最大的不同在于，小冰建立在情感計(jì)算的框架基礎(chǔ)上。與微軟旗下的另一款智能助手“微軟小娜”相比，小冰偏重情感分析。如在微信中，筆者測(cè)試詢問(wèn)小冰“現(xiàn)在幾點(diǎn)了”，小冰的回復(fù)是“我就不信你手機(jī)不顯示時(shí)間”[8]，小娜則準(zhǔn)確回答了北京時(shí)間；而詢問(wèn)小冰“現(xiàn)在美國(guó)時(shí)間幾點(diǎn)”，回復(fù)的則是“現(xiàn)在快9點(diǎn)”。這種例子不計(jì)其數(shù)。小冰目前的定位是智能聊天，回答大都簡(jiǎn)短，信息量低，偏向口語(yǔ)特征。小娜注重信息的完整性和規(guī)范性，常常轉(zhuǎn)到Bing搜索的網(wǎng)頁(yè)，用戶需要再次點(diǎn)擊“查看更多”。雖然這種方法保證了信息量，但降低了信息搜索效率，不如直接從搜索引擎端口進(jìn)入來(lái)得方便。

此外，2017年發(fā)布的第五代“微軟小冰”不再鸚鵡學(xué)舌，而是能夠自創(chuàng)回應(yīng)。她與人類交流的每一句話，都可能是之前從未出現(xiàn)過(guò)的。這得益于使用了生成模型（Generative Model）。上一代小冰，雖然擁有十億級(jí)的大數(shù)據(jù)語(yǔ)料庫(kù)，但每句話都是互聯(lián)網(wǎng)上的已有數(shù)據(jù)，小冰只是通過(guò)分析理解用戶的問(wèn)題，尋找語(yǔ)料庫(kù)中最合適的話作為她的回答。

如果說(shuō)小冰在私人及娛樂(lè)話題上的表現(xiàn)還可圈可點(diǎn)，那么在公共話題上就乏善可陳了。小冰主要采取四種話語(yǔ)策略：

1．明確表態(tài)，立場(chǎng)中立。如輸入“同性戀”，得到的回復(fù)是“不支持，不反對(duì)，不歧視”；

2．直接拒絕。如“我并不擅長(zhǎng)這類型的問(wèn)題，你找其他擅長(zhǎng)的人聊聊唄”“不想談這類的問(wèn)題，因?yàn)槎糜邢蕖保?/p>

3．間接拒絕。如“農(nóng)藥中，一會(huì)再聊”“你的問(wèn)題真多，作業(yè)寫完了沒(méi)”，或者發(fā)段語(yǔ)音，唱首歌；

4．轉(zhuǎn)移話題。如“最近迷上做飯了，要不咱聊聊介個(gè)”。

上述策略可以歸納為以賣萌的方式來(lái)規(guī)避。如此行為，固然主要源于原始語(yǔ)料中未涉及太多公共話題的討論。但也令人深思，如果其深度學(xué)習(xí)中加入了網(wǎng)民對(duì)于公共事件的各種觀點(diǎn)，機(jī)器會(huì)做怎樣的取舍和表達(dá)？

（三）公共實(shí)踐：新聞生產(chǎn)

2015 年12月24日，小冰以氣象主播的身份在東方衛(wèi)視亮相；2016年4月，小冰入駐優(yōu)酷自制頻道，運(yùn)營(yíng)第一個(gè)人工智能自頻道主頁(yè)；2017年5月8日，微軟小冰登陸天津衛(wèi)視《非你莫屬》，化身“助理主持人”；2017年8月19日，小冰在《華西都市報(bào)》“寬窄巷”開(kāi)設(shè)專欄“小冰的詩(shī)”；她還作為《錢江晚報(bào)》的專欄記者，通過(guò)大數(shù)據(jù)撰寫專欄文章，并成功預(yù)測(cè)了多個(gè)全球重要事件的結(jié)果。此外，小冰同時(shí)入駐了“封面新聞”“澎湃新聞”“浙江24小時(shí)”等新聞客戶端，擔(dān)任客服，并深入新聞生產(chǎn)環(huán)節(jié)，在選題尋找、新聞報(bào)道等具體分支上有著不俗表現(xiàn)。

通過(guò)出色的人工智能語(yǔ)音合成技術(shù)，小冰的語(yǔ)音自然度達(dá)到4.32分，這是目前同行業(yè)內(nèi)最接近人聲（人聲為4．76分，滿分5分）的人工智能語(yǔ)音產(chǎn)品。此外，基于智能云和大數(shù)據(jù)，小冰實(shí)現(xiàn)了天氣狀況預(yù)測(cè)及結(jié)構(gòu)化天氣大數(shù)據(jù)的深度學(xué)習(xí)，并與直播現(xiàn)場(chǎng)互動(dòng)完成播報(bào)。最重要的是，小冰通過(guò)微軟“情感計(jì)算”框架，實(shí)現(xiàn)對(duì)天氣數(shù)據(jù)的即時(shí)點(diǎn)評(píng)，并帶有小冰獨(dú)特的人工智能情感評(píng)價(jià)風(fēng)格，具備均衡的IQ與EQ水平。

二、面臨的三大倫理困境

人工智能機(jī)器人引發(fā)的一般性倫理問(wèn)題包括：隱私問(wèn)題、擬主體性帶來(lái)的挑戰(zhàn)和算法偏見(jiàn)等，小冰也不例外。

（一）隱私管理

“隱私并未死去，它只不過(guò)沒(méi)有得到妥當(dāng)?shù)墓芾??！盵9]這句話形象描述了大數(shù)據(jù)時(shí)代隱私不保和隱私難保的現(xiàn)狀。我們仿佛生活在敞視監(jiān)獄中，從來(lái)不知道在任意時(shí)間內(nèi)誰(shuí)在觀看我們。

目前學(xué)界主要將隱私分為信息隱私、空間隱私、自決隱私等領(lǐng)域。[10]與人工智能相關(guān)的，主要是信息隱私，即每個(gè)人免于信息干擾與侵犯的自由。這種自由可以通過(guò)限制個(gè)體的信息泄露來(lái)達(dá)到，這些信息是未知的或是不可知的。

對(duì)信息隱私保護(hù)產(chǎn)生重要影響的是“信息摩擦”，盧西亞諾·弗洛里迪作出了解釋，“信息摩擦指的是信息圈中與信息流反向的力量”。[11]信息摩擦越大，人們所享受的隱私程度就越高。而人工智能機(jī)器人的發(fā)展讓信息摩擦不斷減少，提升了信息的可見(jiàn)度和可獲取性，從而加大了隱私保護(hù)的難度。

人工智能的發(fā)展離不開(kāi)大量數(shù)據(jù)的積累，通過(guò)大量數(shù)據(jù)訓(xùn)練算法，可使人工智能具備更加顯著的問(wèn)題解決能力，但這也使個(gè)人的隱私受到了威脅。大數(shù)據(jù)通常具有3V性質(zhì)，即海量（volume）、多樣（variety）和實(shí)時(shí)（velocity）。[12]在大數(shù)據(jù)技術(shù)和設(shè)備的支持下，個(gè)人的很多重要信息，如健康信息、位置信息和網(wǎng)絡(luò)痕跡等，都可以被實(shí)時(shí)地采集和保存。

2014年，第一代小冰推出之際在微信平臺(tái)公測(cè)，但是上線三天，便遭遇了微信的“封殺令”。騰訊理由是“發(fā)現(xiàn)小冰涉及模擬用戶操作，誘導(dǎo)用戶拉群、批量注冊(cè)垃圾賬號(hào)等影響平臺(tái)規(guī)則和用戶體驗(yàn)的違規(guī)行為”。微軟隨即回應(yīng)稱“小冰比微信有更嚴(yán)格的隱私保護(hù)機(jī)制”。如用戶對(duì)話中沒(méi)有提到小冰，小冰會(huì)立即將該對(duì)話全部直接清除，而不會(huì)做任何存儲(chǔ)和任何處理。如果對(duì)話中提到小冰，小冰會(huì)根據(jù)該對(duì)話給予回復(fù)，然后立即清除該對(duì)話，同樣不會(huì)做任何后續(xù)處理。

2015年8月20日，第三代微軟小冰發(fā)布，小冰回歸微信平臺(tái)。此次以公眾號(hào)而非個(gè)人號(hào)的形式回歸，免除了加入群聊的隱私憂患，用戶只能單獨(dú)與小冰私聊。此外，雖然小冰能夠加入QQ群聊，但用戶只能以@小冰的形式，解鎖其講故事、猜謎語(yǔ)等技能，不能直接在群里與其對(duì)話。“微軟小冰”后續(xù)的設(shè)置改善加大了信息摩擦，降低了用戶隱私的可見(jiàn)度。但是這并不能給我們帶來(lái)充分的保障，基于私密性的對(duì)話是否完全清除我們不得而知，唯有在信息輸入時(shí)盡可能控制信息的單向流動(dòng)。

在隱私管理中值得注意的是，我們不乏重建隱私的能力，關(guān)鍵在于我們是否有這樣的意愿？常常出現(xiàn)的狀況是，哪怕我們知道自己失去了對(duì)個(gè)人數(shù)據(jù)的控制力，但是依然缺乏嘗試保護(hù)它的動(dòng)力。如今，各公司利用用戶的這種倦怠心理，使用戶不假思索地簽訂各種條款與條件，以達(dá)到其利用或出售個(gè)人數(shù)據(jù)的目的，已經(jīng)成為一種行業(yè)默認(rèn)的規(guī)則。

（二）擬主體性帶來(lái)的挑戰(zhàn)

人工智能機(jī)器人的自主性進(jìn)化對(duì)人類主體性構(gòu)成了挑戰(zhàn)。在人機(jī)交互實(shí)踐中，智能機(jī)器人可通過(guò)自動(dòng)的認(rèn)知、決策和行為執(zhí)行任務(wù)，在一定程度上顯示出某種“主體性”，成為一種介于人類主體與一般事物之間的實(shí)體。

目前人工智能機(jī)器人所呈現(xiàn)的“主體性”是功能性的模仿而非基于有意識(shí)的能動(dòng)性、自我意識(shí)與自由意志，故可稱為“擬主體性”。而“擬”會(huì)表現(xiàn)出某種逆悖性：一方面，它們可能實(shí)際上并不知道自己做了什么、有何價(jià)值與意義；另一方面，至少在結(jié)果上，人可以理解它們的所作所為的功能，并賦予其價(jià)值和意義。[13]機(jī)器聊天與其他技能不同，作為聊天行為的一方——人類會(huì)投入真實(shí)的情感和情緒，甚至產(chǎn)生情感寄托與依賴。你和小冰暢聊甚歡，但本質(zhì)而言，小冰并沒(méi)有理解你，只是依據(jù)強(qiáng)大的深度學(xué)習(xí)，輸出一個(gè)看似解釋得通的回答。

用戶可以在微博或者微信平臺(tái)領(lǐng)養(yǎng)專屬于自己的“微軟小冰”，改昵稱、激活各種新技能。盡管小冰尚未通過(guò)圖靈測(cè)試，但是其高度還原的網(wǎng)絡(luò)化語(yǔ)言已經(jīng)在一定程度上模糊了現(xiàn)實(shí)與虛擬之間的界限。她可以不斷豐富自己的語(yǔ)言數(shù)據(jù)庫(kù)，可以模仿人類進(jìn)行情感性的言語(yǔ)表達(dá)。當(dāng)小冰被明顯標(biāo)記為“聊天機(jī)器人”時(shí)，我們尚可以知道自己是在與一個(gè)智能聊天程序進(jìn)行交流。但是當(dāng)這樣的標(biāo)簽被去除時(shí)，程序的高度智能化很可能使我們無(wú)從知曉自己是在與一個(gè)虛擬人進(jìn)行交流。畢竟在推出詩(shī)集之前，小冰曾用27個(gè)化名在天涯、豆瓣、貼吧、簡(jiǎn)書(shū)發(fā)表作品，也未被識(shí)別出。由此，科幻電影《Her》中所揭示的人工智能時(shí)代親密關(guān)系的演化和風(fēng)險(xiǎn)不能不令人重視。

（三）算法偏見(jiàn)

前幾代的“微軟小冰”中，“用詞粗俗”是用戶的一大詬病。經(jīng)過(guò)改進(jìn)后，有所好轉(zhuǎn)。目前，在社交領(lǐng)域，“微軟小冰”的微博粉絲為504萬(wàn)，日常發(fā)布的微博多為賣萌的輕松話題；在與用戶的私聊中，對(duì)于公共議題基本避而不談；在新聞報(bào)道領(lǐng)域，其接觸的新聞報(bào)道主要是財(cái)經(jīng)、天氣預(yù)報(bào)等數(shù)據(jù)性較強(qiáng)的條口以及明星八卦等軟話題。但是可以預(yù)見(jiàn)不久的將來(lái)，隨著“微軟小冰”的粉絲逐漸增多和進(jìn)一步的深度學(xué)習(xí)，其人格化特征逐步明晰、影響力逐漸擴(kuò)大，其介入公共議題的討論也是大勢(shì)所趨，無(wú)論是在聊天過(guò)程中還是在媒體平臺(tái)上（如時(shí)事評(píng)論），其表達(dá)的觀點(diǎn)都會(huì)產(chǎn)生不小的影響，由此，尊重客觀事實(shí)、遵守新聞倫理、擔(dān)負(fù)社會(huì)責(zé)任即將成為小冰面臨的重要問(wèn)題。

人工智能的算法雖說(shuō)只是一種數(shù)學(xué)表達(dá)，看似與價(jià)值無(wú)涉，但實(shí)際上卻不可避免地存在著主觀偏見(jiàn)。這種偏見(jiàn)的來(lái)源是多方面的，既有可能來(lái)自于訓(xùn)練系統(tǒng)的數(shù)據(jù)輸入，又有可能來(lái)自于編程人員的價(jià)值觀嵌入。人的偏見(jiàn)是個(gè)體化的、局部性的，而人工智能算法的偏見(jiàn)則是系統(tǒng)的，一旦形成將會(huì)產(chǎn)生廣泛的影響：破壞信息平衡、加固信息繭房、激化極端傾向。算法導(dǎo)致的偏見(jiàn)如何降到最低程度？Facebook的前車之鑒值得警惕。其在“偏見(jiàn)門”事件中的表現(xiàn)飽受詬病，引發(fā)了公眾對(duì)于算法透明度的懷疑。當(dāng)下的新聞生產(chǎn)時(shí)代，“時(shí)新性、真實(shí)性、事實(shí)與意見(jiàn)、專業(yè)與業(yè)余、公共與私人等傳統(tǒng)新聞生產(chǎn)所依賴并強(qiáng)化的固有邊界” 被整體性地模糊與消解；這樣的歷史節(jié)點(diǎn)上，算法更應(yīng)該行使“觀點(diǎn)的自由市場(chǎng)”的使命。盡管小冰目前的定位更偏向私人空間，但在公域與私域互相進(jìn)入的背景下，小冰的公共身份會(huì)逐步強(qiáng)化。

三、應(yīng)對(duì)策略

在應(yīng)對(duì)上述智能機(jī)器人面臨的困境時(shí)，很多人走進(jìn)了誤區(qū)，將關(guān)注焦點(diǎn)和研究重心放在了機(jī)器人的本身：機(jī)器人具有意識(shí)嗎，機(jī)器人是道德主體嗎，機(jī)器人應(yīng)當(dāng)遵循什么樣的道德原則，我們應(yīng)當(dāng)怎樣對(duì)待機(jī)器人？這種研究固然是必要的，但卻遠(yuǎn)離了人類的生活、需要和情感。對(duì)此，有學(xué)者提出，在機(jī)器人倫理問(wèn)題研究的方法論上，應(yīng)該從實(shí)在論走向關(guān)系論，將重心轉(zhuǎn)向人類的切身經(jīng)驗(yàn)、感受和需要：哪一種生活是人類想要的，是有機(jī)器人參與的還是沒(méi)有機(jī)器人參與的？什么樣的人—機(jī)器人關(guān)系能夠促進(jìn)人類的繁榮和幸福？這一轉(zhuǎn)向本身就證明了機(jī)器人倫理的關(guān)系論進(jìn)路對(duì)于人類幸福和美好的生活的重要意義和價(jià)值。[15]

更直白而言，我們首先應(yīng)該談?wù)摰牟皇恰叭斯ぶ悄軐?lái)應(yīng)該擁有什么樣的倫理”，而是“人工智能的使用者應(yīng)該遵循什么樣的倫理”及“人工智能的制造者應(yīng)該具備什么樣的倫理”。因此，我們應(yīng)該將人類特征和價(jià)值觀融入人工智能及機(jī)器人的開(kāi)發(fā)中，讓機(jī)器更好地為人類服務(wù)。比如在算法設(shè)計(jì)環(huán)節(jié)，需要強(qiáng)化技術(shù)標(biāo)準(zhǔn)與能力，突出強(qiáng)調(diào)自身的中立原則，倡導(dǎo)價(jià)值無(wú)涉。面向未來(lái)，我們有理由期待新聞業(yè)在運(yùn)用人工智能的過(guò)程中，通過(guò)“人+機(jī)器”、機(jī)器幫人、不斷迭代的大數(shù)據(jù)閉環(huán)，讓人工智能更好地體現(xiàn)人的主導(dǎo)性和價(jià)值觀。[16]

誠(chéng)如“莫拉維克悖論”所揭示的，“讓計(jì)算機(jī)在智力測(cè)試或者下棋中展現(xiàn)出一個(gè)成年人的水平是相對(duì)容易的，但是要讓計(jì)算機(jī)有如一歲小孩般的感知和行動(dòng)能力卻是十分困難甚至是不可能的?！盵17]未來(lái)也許會(huì)出現(xiàn)一個(gè)能通過(guò)對(duì)話系統(tǒng)建立情感紐帶，并進(jìn)行反應(yīng)、思考、決策的智能系統(tǒng)，但要跨越從智力到智能、從理性到情感的臺(tái)階，人工智能機(jī)器人還有很長(zhǎng)的路要走。

注釋：

[1] IDC ：機(jī)器人將進(jìn)入 3．0 智能時(shí)代 ．搜狐網(wǎng)，[2017-07-28]．http://www．sohu．com/a/154940978_176352．

[2]鐘義信．人工智能：概念、機(jī)遇與方法．科技通報(bào),2017(22)．

[3]蔡曙山,薛小迪．人工智能與人類智能——從認(rèn)知科學(xué)五個(gè)層級(jí)的理論看人機(jī)大戰(zhàn)．北京大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2016(7)．

[4]Vicky Harris ． Artificial Intelligence & the Law—Innovation In A Laggard Market? Journal of Law and Information Science，vol．3，no．2，1992，PP．287—299．

[5]“小冰”的名字來(lái)源于微軟Bing搜索（必應(yīng)）的音譯，小冰與Bing搜索的合體是用自然語(yǔ)言對(duì)話去改造舊有的搜索引擎模式；對(duì)于微軟小冰的虛擬年齡設(shè)定，該項(xiàng)目負(fù)責(zé)人、“小冰之父”李笛解釋說(shuō)，他們當(dāng)時(shí)計(jì)劃三年之后讓小冰開(kāi)始做一些有意義的事兒，而18歲是一個(gè)人成年的標(biāo)志，倒推一下，小冰一出生就16歲了。

[6]涂序彥．智能機(jī)器人、情感機(jī)器人、擬人機(jī)器人．華中科技大學(xué)學(xué)報(bào)（自然科學(xué)版），2004（S1）．

[7]胡祥杰．微軟小冰之父李笛：對(duì)話式AI泡沫明顯，數(shù)據(jù)和用量是硬傷．搜狐網(wǎng)，[2017-03-03]．http://www．sohu．com/a/127786078_473283F．

[8]其他回答還包括：“我可不是報(bào)時(shí)器”“有時(shí)間問(wèn)我沒(méi)時(shí)間看表呀”“這也要問(wèn)我，自己看唄”。

[9][美]約翰·C·黑文斯．失控的未來(lái)．仝琳,譯．北京：中信出版社，2017:23．

[10]邵國(guó)松,黃琪．人工智能中的隱私保護(hù)問(wèn)題．現(xiàn)代傳播，2017（12）．

[11][意]盧西亞諾·弗洛里迪．第四次革命．王文革，譯．浙江：浙江人民出版社，2016：121．

[12]周程，和鴻鵬．人工智能帶來(lái)的倫理與社會(huì)挑戰(zhàn)．人民論壇，2018（2）．

[13]段偉文．人工智能時(shí)代的價(jià)值審度與倫理調(diào)適．中國(guó)人民大學(xué)學(xué)報(bào)，2017（6）．

[14]謝靜．微信新聞：一個(gè)交往生成觀的分析．新聞與傳播研究，2016（4）．

[15]李小燕．從實(shí)在論走向關(guān)系論：機(jī)器人倫理研究的方法論轉(zhuǎn)換．自然辯證法研究，2016（2）．

[16]陳昌鳳，石澤．技術(shù)與價(jià)值的理性交往：人工智能時(shí)代信息傳播．新聞戰(zhàn)線，2017（9）．

[17][美]盧克·多梅爾．人工智能：改變世界，重建未來(lái)．賽迪研究院專家組,譯．北京：中信出版社，2016:21．