社交媒體用戶關(guān)切的人工智能技術(shù)倫理向度分析

謝亞可

摘要：人工智能技術(shù)的嵌入已然引發(fā)了諸多倫理爭議。本文以今日頭條用戶對于“2020年全球十大人工智能事件”的評論為樣本，使用共詞分析法對用戶關(guān)切的人工智能倫理向度進行實證研究。研究發(fā)現(xiàn)，“人本主義”是用戶最為關(guān)切的核心倫理向度，“算法透明”為用戶關(guān)切的倫理向度盲區(qū)，“審慎和節(jié)制”成為用戶倫理關(guān)切的新向度。社交媒體用戶對人工智能的關(guān)切向度在應(yīng)然與實然層面上存在一定偏差，我國用戶的人工智能倫理觀需要從技術(shù)、社會治理、法律、文化等多方面進行引領(lǐng)。

關(guān)鍵詞：社交媒體 用戶關(guān)切 人工智能 倫理

近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術(shù)的廣泛應(yīng)用，人工智能倫理再次被社會各界廣泛提及，并引發(fā)諸多倫理爭議。面對人工智能倫理評價呈現(xiàn)越來越復(fù)雜的局面，筆者以今日頭條為研究場景，探討用戶關(guān)注的人工智能倫理的向度問題。

筆者將從學(xué)理層面和業(yè)界訴求兩方面綜合確定討論度較高的人工智能倫理維度。從倫理學(xué)角度看，“一線倫理”是能夠讓所有人都認可的共同價值基準。某種意義上說，人權(quán)原則就是應(yīng)用倫理學(xué)下的一線倫理。盡管當(dāng)前有關(guān)人權(quán)的確立和內(nèi)涵外延上仍存在一些論爭，但在“自主、平等、公正、尊嚴、關(guān)愛”等基本人權(quán)價值上所達成的共識，則具有明確性和不可動搖性。

人工智能技術(shù)正在深刻改變著人們的生產(chǎn)生活方式，但在不同領(lǐng)域與行業(yè)中，人工智能技術(shù)大規(guī)模應(yīng)用也會帶來如算法偏見、算法黑盒等諸多問題，給人類社會帶來了巨大的困擾與不安。據(jù)2019年普華永道調(diào)查顯示，人工智能技術(shù)的安全、責(zé)任、透明、隱私問題是企業(yè)目前面臨的最大難題。為應(yīng)對這些困擾，歐盟委員會于2019年4月8日發(fā)布了《人工智能倫理準則》，該準則要求人工智能技術(shù)應(yīng)尊重基本人權(quán)且必須安全可靠。隨后，我國也提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理的人工智能治理八項原則?；诖耍P者綜合國內(nèi)外對人工智能倫理的學(xué)理分析，再圍繞近年來對新興技術(shù)治理機制的討論，將人工智能倫理理論框架確定為“自主”、“公平”、“尊嚴”、“關(guān)愛”、“安全”、“責(zé)任”、“透明”、“隱私保護”、“可持續(xù)發(fā)展”共九個維度，九個倫理維度是理論上人工智能的倫理維度，實際上也是人類基本倫理價值標準在人工智能技術(shù)中的具體呈現(xiàn)。

在研究方法上，筆者以人民智庫和曠視AI治理研究院評選出的“2020年度全球十大人工治理事件”為焦點事件進行分析。十大事件是在綜合了各領(lǐng)域的資料數(shù)據(jù)、10萬以上網(wǎng)友票選以及專家們的意見評選得出，事件樣本具有典型代表性，能真實反映出用戶的關(guān)切程度。如表1所示，筆者采用共詞分析法，首先通過事件關(guān)鍵詞在指定日期內(nèi)對事件下的用戶評論進行搜索，共獲取相關(guān)數(shù)據(jù)60040萬條；其次對獲取的數(shù)據(jù)進行預(yù)處理和分詞處理；最后對用戶評論的高頻詞進行聚類分析與統(tǒng)計分析，以此推斷出今日頭條用戶對人工智能技術(shù)倫理的關(guān)切向度。

筆者將十大事件從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全四個方面進行分類探討，通過對用戶評論高頻詞的統(tǒng)計分析，揭示同一類型事件中今日頭條用戶對人工智能倫理的關(guān)切程度。

1.涉及人工智能與公共福祉事件。第一，AI成“監(jiān)工”事件中，共有6588條用戶評論參與高頻詞提取，高頻詞關(guān)涉到的倫理向度為安全、尊嚴、關(guān)愛、責(zé)任、自主、公平六個倫理維度。通過分析發(fā)現(xiàn)，用戶對外賣員的工作和生活狀況、安全和社會保障都給予高度關(guān)注，認為企業(yè)逐利的本質(zhì)、算法的不公平使得外賣員在工作中面臨安全威脅；也有用戶認為外賣員缺少自主申訴途徑，無法明確責(zé)任主體，難以追責(zé)；還有用戶提出要關(guān)愛勞動者，算法應(yīng)更具人情味，但鮮有用戶關(guān)注到“算法透明”等相關(guān)問題。

第二，AI向善事件中，共有1977條用戶評論參與高頻詞提取，高頻詞關(guān)涉到的倫理向度為關(guān)愛、隱私保護、可持續(xù)發(fā)展、公平四個方面。通過分析發(fā)現(xiàn)，多數(shù)用戶認為“技術(shù)向善”的利民舉措能夠惠及老幼人群，充分體現(xiàn)了技術(shù)公平，可持續(xù)推廣使用；部分用戶認為應(yīng)關(guān)愛老人并積極推動智能社會的適老化；還有用戶擔(dān)憂技術(shù)使用可能產(chǎn)生個人隱私和信息泄露問題，要謹慎使用。然而極少有用戶提出對老年人技術(shù)“自主性”的要求。

2.涉及人工智能與公平正義的事件。第一，湖南岳陽警方破獲AI犯罪案事件中，共有2181條用戶評論參與高頻詞提取，高頻詞涉及的倫理向度主要為安全、隱私和責(zé)任三個方面。分析發(fā)現(xiàn)，大部分用戶擔(dān)心在享受人工智能技術(shù)帶來紅利的同時，隱私會受到侵害；部分用戶肯定了“人”在“AI犯罪”中的主導(dǎo)作用，認為技術(shù)本無善惡，人利用技術(shù)實施的犯罪行為要承擔(dān)全部責(zé)任，僅少部分用戶認為人與機器都應(yīng)該有明確的責(zé)任分擔(dān)。

第二，人工智能擁有著作權(quán)事件中，共有3112條用戶評論參與高頻詞提取，高頻詞關(guān)涉的倫理向度為尊嚴、公平、關(guān)愛三個維度。分析發(fā)現(xiàn)，大部分用戶認為人工智能生成物的真正貢獻者應(yīng)是人工智能設(shè)計者、軟件開發(fā)者或程序設(shè)定者；有用戶認為人類研發(fā)人工智能是為了更好地輔助人類，而不是制造出與人類競爭的權(quán)利主體；部分用戶認為評定人工智能生成物擁有著作權(quán)是對人類尊嚴的侵犯，有損公平正義；也有用戶擔(dān)憂人工智能可能使諸多產(chǎn)業(yè)發(fā)生革命性變革，導(dǎo)致部分人失業(yè)。

3.涉及人工智能系統(tǒng)安全性與數(shù)據(jù)隱私安全的事件。

第一，人工智能“讀懂意識”事件中，共有2079條用戶評論參與高頻詞提取，高頻詞關(guān)涉的倫理向度有安全、隱私、自主、尊嚴四個方面。通過分析發(fā)現(xiàn)，用戶爭議聲較大的是關(guān)于腦機結(jié)構(gòu)翻譯大腦想法會對人們隱私和安全構(gòu)成巨大威脅的問題；部分用戶認為“機器意識”直追人類意識，人的獨立性、尊嚴、自主性均受到一定程度的挑戰(zhàn)；對于人工智能的可持續(xù)發(fā)展問題卻鮮有用戶關(guān)注到。

第二，“無人車”權(quán)責(zé)歸屬事件中，共有1466條用戶評論參與高頻詞提取，高頻詞關(guān)涉的倫理向度有關(guān)愛、安全、責(zé)任三個方面。大部分用戶都聚焦在無人駕駛車輛安全問題上；少數(shù)用戶認為自動駕駛車輛投入可能讓大量的駕駛員失業(yè)；也有極少部分用戶認為無人駕駛是未來智能交通的發(fā)展方向；但較少有用戶關(guān)注到“無人車”可能對用戶隱私產(chǎn)生侵害等問題。

第三，人工智能技術(shù)具備“自主意識”事件中，共有905條用戶評論參與了高頻詞提取，高詞頻關(guān)涉的倫理向度有自主、尊嚴、安全三個維度。通過分析發(fā)現(xiàn)，大部分用戶認為一旦人工智能產(chǎn)生了“自主意識”，會對人類尊嚴和安全產(chǎn)生威脅；還有用戶認識到人工智能的發(fā)展是一把“雙刃劍”，要謹慎使用。對于涉及人工智能責(zé)任和法律人格尊嚴認定的問題，用戶們并未提及。

第四，在人工智能首次控制美國軍用系統(tǒng)事件中，高頻詞提取的用戶評論共計31947條，說明用戶對此事高度關(guān)注。高頻詞關(guān)涉的倫理向度主要有安全、自主和尊嚴三個維度。有關(guān)分析發(fā)現(xiàn)，智能時代的兩國爭鋒或演變成兩國算法戰(zhàn)，因此用戶們對算法的安全性深表擔(dān)憂；也有部分用戶認為人工智能模型還存在設(shè)計缺陷，無法抵御復(fù)雜多變的戰(zhàn)場環(huán)境；少部分用戶認為人工智能技術(shù)的快速發(fā)展會導(dǎo)致很多工作如飛行員、司機職位等被其取代，進而有損人類尊嚴；但事件中關(guān)于算法公平和人工智能責(zé)任的問題用戶極少談及。

4.涉及人工智能政府（企業(yè)）治理的事件。第一，在歐美、韓國相繼出臺AI治理新規(guī)事件中，高頻詞抓取的用戶評論共有7199條，高頻詞關(guān)涉的倫理向度有隱私、尊嚴、自主、安全、公平五個方面。通過分析發(fā)現(xiàn)，大多數(shù)用戶理解且贊同歐美、韓國出臺政策的做法，擔(dān)憂“人臉識別”的潛在風(fēng)險；也有用戶提出人臉信息識別有損“人格尊嚴”；還有用戶認為使用人臉信息的前提是充分知情，信息主體有對個人信息自主決定的權(quán)利；少數(shù)用戶提到人臉識別還會引發(fā)種族偏見和性別歧視等不公正問題；也有極少數(shù)用戶不贊同歐美、韓國禁止使用“人臉識別”的做法，認為不能因噎廢食，需要建設(shè)性的解決問題。

第二，在美國科技巨頭企業(yè)對人工智能技術(shù)監(jiān)管事件中，共有2606條用戶評論參加高頻詞的抓取，高頻詞關(guān)涉到的倫理向度有隱私保護、責(zé)任、可持續(xù)發(fā)展、安全四個方面。大多數(shù)用戶贊同美國科技巨頭對人工智能技術(shù)的監(jiān)管，認為人工智能技術(shù)的發(fā)展會產(chǎn)生安全、隱私和權(quán)責(zé)不明等問題，需要謹慎對待；少數(shù)部分用戶關(guān)注到人工智能準則的制定是為了更好促進人工智能的可持續(xù)發(fā)展。

筆者進一步對今日頭條用戶在十個事件中倫理關(guān)切向度出現(xiàn)頻次進行統(tǒng)計，結(jié)果如圖1所示，在十大事件中，用戶對“安全”、“尊嚴”的關(guān)注頻次相對較高，對“自主”、“隱私保護”、“關(guān)愛”、“責(zé)任”和“公平”的關(guān)注頻次次之，對“可持續(xù)發(fā)展”關(guān)切頻次較少，而“透明”向度未能被用戶所關(guān)切。由此可以看出，用戶更關(guān)心與自身生活產(chǎn)生直接相關(guān)的倫理風(fēng)險，對其倫理訴求也更加迫切。

1.“人本主義至上”：今日頭條用戶關(guān)切的核心倫理向度。筆者研究發(fā)現(xiàn)，用戶關(guān)切頻次較高的倫理向度是“尊嚴”、“安全”、“自主”、“隱私保護”、“關(guān)愛”、“責(zé)任”、“公平”方面，這些倫理向度恰恰與社會核心價值體系保持一致。人工智能的發(fā)展應(yīng)以人類價值為核心，以人類福祉獲取為目標，研發(fā)者應(yīng)以“人本主義”倫理原則為基本遵循，尊重和保護人權(quán)，重視人工智能技術(shù)的公平與正義。此外還發(fā)現(xiàn)，社交媒體用戶更關(guān)切人在技術(shù)中的主體性問題，當(dāng)人工智能產(chǎn)品可能獲得自主性或人工智能技術(shù)可能造成大面積失業(yè)時，用戶傾向認為在人工智能技術(shù)發(fā)展中必須堅持人的尊嚴，不能將人變成純粹的、操縱化的工具或手段。

2.“透明性”：今日頭條用戶關(guān)切的倫理向度盲區(qū)。當(dāng)前用戶較少對人工智能技術(shù)“透明性”倫理有所關(guān)注，這是今日頭條用戶對人工智能技術(shù)關(guān)切向度在應(yīng)然與實然層面上存在偏差的集中體現(xiàn)。“透明性”原則能應(yīng)對“算法技術(shù)黑箱”所造成的信息不對稱問題，以實現(xiàn)風(fēng)險的防控與監(jiān)管。以算法為主要代表的人工智能技術(shù)已成為“看不見的手”，盡管能清楚感受其存在，但卻無法對其內(nèi)部一窺究竟。算法在本質(zhì)上具有非透明性，其決策標準隱藏在用戶不易覺察的代碼中，特別是算法能依據(jù)不同的數(shù)據(jù)模式產(chǎn)生動態(tài)變化。由此導(dǎo)致的結(jié)果是，用戶僅關(guān)注算法所帶來的結(jié)果，不關(guān)心算法的具體操作，沒有透明性的制度設(shè)計與安排最終將導(dǎo)致算法缺乏公眾的監(jiān)管和信任。

3.“審慎與節(jié)制”：今日頭條用戶關(guān)切的倫理新向度。史蒂芬·霍金曾預(yù)言，“人工智能的出現(xiàn)可能是‘人類文明史上最糟糕的事件’，除非人類社會能找到控制方法?！彪S著人們技術(shù)素養(yǎng)的不斷提升，普通用戶對人工智能的發(fā)展也有了更深層次的認識。筆者研究發(fā)現(xiàn)，用戶對于人工智能技術(shù)不再是一味接受與享用，也開始進行深入反思，譬如在“人工智能無人駕駛”和“人工智能可實現(xiàn)自主意識”等事件中，“審慎”、“節(jié)制”、“安全”、“負責(zé)”等詞成為用戶關(guān)注的高頻詞匯，表現(xiàn)出用戶對人工智能發(fā)展的擔(dān)憂，認為對技術(shù)的革新要保持必要的謹慎，需對風(fēng)險進行評估和規(guī)避。

同一事件中用戶對人工智能倫理的認知、態(tài)度和倫理判斷存在差異性和一致性。因此，倫理觀的引領(lǐng)必定是一個多元且復(fù)雜的問題，需要從技術(shù)、社會治理、法律、文化等方面開展對我國用戶人工智能倫理觀的引領(lǐng)。

首先，人工智能設(shè)計應(yīng)遵循“以人為本”的最高原則，尊重人的尊嚴、自由及文化多樣性，正視人工智能可能產(chǎn)生的倫理問題，積極了解并回應(yīng)用戶的主要關(guān)切。在法律層面，應(yīng)完善法律法規(guī)以確保人的尊嚴和自主性；在社會治理層面，應(yīng)響應(yīng)用戶關(guān)于公平、正義、安全等與社會和諧發(fā)展緊密相關(guān)的訴求；在信息傳播層面，需要媒體充分發(fā)揮正面引領(lǐng)作用，及時為用戶提供全面、客觀的信息，與用戶展開理性的溝通與對話，并促進政府和企業(yè)的重視；在文化教育層面，應(yīng)對用戶開展因地制宜的智能技術(shù)教育，消除因技術(shù)鴻溝產(chǎn)生的知識壁壘，譬如建立智能技術(shù)倫理教育試點，借助平臺加大對人工智能的解釋和風(fēng)險告知等。

其次，以公眾關(guān)注的話題為切入點，對人工智能技術(shù)進行系統(tǒng)性與針對性的科普。從當(dāng)前社交媒體用戶較少關(guān)注“算法透明性”倫理問題可以看出，盡管人工智能技術(shù)成了社交媒體上的熱門話題，但有關(guān)人工智能技術(shù)的科學(xué)問題、相關(guān)科普類信息的內(nèi)容仍有所欠缺。媒體普遍關(guān)注人工智能政策落地和技術(shù)應(yīng)用方面，尤其更關(guān)注人工智能技術(shù)的娛樂性和商業(yè)性。因此，對用戶進行人工智能技術(shù)方面的科普不僅有助于提升公眾的人工智能認知水平，還能夠減少用戶對人工智能技術(shù)的擔(dān)憂，讓用戶以理性的態(tài)度看待人工智能技術(shù)應(yīng)用對社會的影響，為我國人工智能領(lǐng)域的健康發(fā)展?fàn)I造良好的社會氛圍。

再次，倡導(dǎo)用戶深入?yún)⑴c人工智能的研發(fā)與應(yīng)用。從當(dāng)前社交媒體用戶對人工智能技術(shù)保持審慎態(tài)度來看，用戶對其已具備了一定的風(fēng)險感知能力。然而，用戶對人工智能技術(shù)過度謹慎與節(jié)制反而會抑制其正常發(fā)展。因此，倡導(dǎo)用戶深入?yún)⑴c人工智能的研發(fā)與應(yīng)用能幫助破除技術(shù)鴻溝帶來的知識壁壘，促進理性溝通與對話。譬如采取用戶反饋、用戶控制和用戶選擇等方式，同時包括利用人工智能技術(shù)的能力促進用戶參與及公平賦能。另外，用戶參與也可以通過行使個人權(quán)利來實現(xiàn)。尊重用戶的隱私權(quán)、信息自由權(quán)與保護權(quán)、信息公平等個人權(quán)利，相關(guān)部門應(yīng)提供相應(yīng)的異議和申訴平臺，以確保用戶能及時維護權(quán)益；對于人工智能造成的損害，能為用戶提供相應(yīng)的救濟渠道并追究參與者的法律責(zé)任。

在未來用戶人工智能倫理觀研究層面，可以進一步關(guān)注不同用戶在不同事件中的認知偏向和倫理取向的共性和差異性，推動人工智能技術(shù)平臺合力打造良性的人工智能倫理觀生態(tài)體系。

作者系湖南第一師范學(xué)院文學(xué)與新聞傳播學(xué)院副教授

本文系湖南省教育廳科學(xué)研究優(yōu)秀青年項目“融媒體背景下數(shù)據(jù)新聞的生產(chǎn)與倫理研究”（項目編號：19B120）的研究成果。

參考文獻

[1]李倫.中國科技倫理研究范式回歸契機——“當(dāng)代科技倫理前沿問題學(xué)術(shù)研討會”綜述[J].倫理學(xué)研究，2005（11）.

[2]人民日報.歐盟發(fā)布人工智能倫理準則[EB/OL].（2019-04-11）[2021-12-13].http：//www.xinhuanet.com/tech/2019-04/11/ c_1124350837.htm.

[3]中國新聞網(wǎng).新一代人工智能治理原則[EB/OL].（2019-06-17）[2021-12-13].https：//www.chinanews.com/gn/2019/06-17/8866913.shtml.

[4]人民論壇網(wǎng).2020年度全球人工智能十大事件[EB/OL].（2021-01-15）[2021-12-13].http：//www.rmlt.com.cn/2021/0115/605251. shtml.

[5]Maayan Perel，Niva Elkin-Koren，Black box tinkering：beyond disclosure in algorithmic enforcement[J].Florida Law Review，2017（69）.

【編輯：朱垚穎】

3515500338217