人工智能時代的倫理挑戰(zhàn)與對策研究

沈瀟雯　夏計軍　胡家琪

摘要：人工智能的廣泛普及給人類生產(chǎn)生活帶來了極大便利，同時帶來一系列倫理問題，引起了廣泛的思考和討論。文章在闡釋當(dāng)前人工智能倫理風(fēng)險的基礎(chǔ)上，分析了國內(nèi)外對人工智能倫理設(shè)置原則、倫理治理理念、倫理治理規(guī)范的一些共識，提出優(yōu)化底層技術(shù)、培養(yǎng)公眾倫理意識、完善倫理規(guī)范和行為準則、加強倫理法律監(jiān)管和政府管理、推動國際合作等多維度對策建議，為我國人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展創(chuàng)造良好條件。

關(guān)鍵詞：人工智能；倫理挑戰(zhàn)；對策建議

中圖分類號：G253文獻標志碼：A

0 引言

人工智能是人類發(fā)展的新領(lǐng)域，帶來重大機遇，也伴隨著風(fēng)險挑戰(zhàn)。習(xí)近平主席在第三屆“一帶一路”國際合作高峰論壇提出《全球人工智能治理倡議》，為積極踐行人類命運共同體理念，落實全球發(fā)展倡議、全球安全倡議、人工智能治理提供了解決方案。厘清人工智能時代的倫理困惑并探索相應(yīng)的對策，推動人工智能以負責(zé)任的方式發(fā)展，同各國加強交流和對話，是促進全球人工智能健康有序安全發(fā)展的必由之路。

1 人工智能時代下的倫理挑戰(zhàn)

人工智能的倫理問題主要圍繞人類基本人權(quán)、數(shù)據(jù)安全與隱私保護、權(quán)力與責(zé)任認定3個方面。

1.1 人類基本人權(quán)

一是人工智能系統(tǒng)設(shè)計的缺陷可能對公民生命權(quán)和健康權(quán)的潛在威脅。Uber自動駕駛汽車致命事故即起因于Uber系統(tǒng)設(shè)計忽略了對塑料袋等其他障礙物的識別，導(dǎo)致未能及時剎車。二是人工智能算法可能因目標論證、算法歧視、數(shù)據(jù)訓(xùn)練等錯誤，擴大社會歧視范圍，侵犯公民平等權(quán)利。亞馬遜開發(fā)的人工智能簡歷篩選系統(tǒng)拒絕了所有女性申請人即反映了性別偏見。三是假新聞自動生成、信息精準推送等技術(shù)的濫用影響了公民的知情權(quán)、正當(dāng)程序權(quán)和監(jiān)督權(quán)，將會影響公眾輿論、干預(yù)市場運作和國家政策制定。英國Cambridge Analytica咨詢公司通過Facebook個人信息分析用戶政治偏好，精準定向推送信息，影響了美國大選。四是人工智能發(fā)展可能導(dǎo)致大規(guī)模的結(jié)構(gòu)性失業(yè)，富士康啟用智能化生產(chǎn)線后裁減了數(shù)萬名員工。

1.2 數(shù)據(jù)安全和信息隱私

人工智能技術(shù)的應(yīng)用使得個人信息收集的范圍及深度擴大，隱私侵犯風(fēng)險也隨之加大。中國深網(wǎng)視覺科技有限公司的人臉數(shù)據(jù)庫信息泄露事件使數(shù)百萬用戶的敏感個人隱私信息曝光，包括用戶生物識別、行為習(xí)慣等信息。“滴滴打車”曾因非法采集上億條用戶地理位置、通訊錄、通話記錄等信息而受到制裁，侵犯了個人隱私和國家安全。

1.3 權(quán)力與責(zé)任認定

責(zé)任倫理學(xué)是從倫理學(xué)的角度對人類社會責(zé)任進行整體研究。傳統(tǒng)的技術(shù)后果責(zé)任制度已經(jīng)無法應(yīng)對人工智能技術(shù)發(fā)展應(yīng)用所帶來的不確定性和負面結(jié)果［1］。人工智能系統(tǒng)投入使用后出現(xiàn)問題的責(zé)任歸屬就是一個典型的責(zé)任倫理問題。需要考慮誰應(yīng)該對人工智能系統(tǒng)的失誤負責(zé)，并對責(zé)任判斷進行深入探究，分析責(zé)任產(chǎn)生的內(nèi)外部因素：外部因素包括政策法規(guī)、技術(shù)環(huán)境等；內(nèi)部因素包括個人的道德觀念、行為準則等。

2 人工智能時代下倫理挑戰(zhàn)的成因

2.1 技術(shù)因素：人工智能技術(shù)發(fā)展局限性

機器學(xué)習(xí)作為人工智能的核心組成部分，它使計算機系統(tǒng)能夠通過數(shù)據(jù)和經(jīng)驗來不斷改進自身性能，但其本身存在漏洞，如訓(xùn)練數(shù)據(jù)真?zhèn)魏推?、AI算法黑匣子等，可能引發(fā)定向歧視。在處理環(huán)節(jié)，人工智能程序按照設(shè)定程序?qū)斎氲男畔⑦M行分析學(xué)習(xí)并輸出結(jié)果，按照結(jié)果指令進行動作，在這個過程中，算法黑匣子缺乏可解釋性可能會導(dǎo)致信任問題。在輸出環(huán)節(jié)，AI算法結(jié)果有不確定和不可控性。

2.2 人為因素：人類主體責(zé)任意識淡薄

人工智能訓(xùn)練數(shù)據(jù)集一旦存在偏見，會在現(xiàn)實中持續(xù)表現(xiàn)偏見，因此，在沒有偏見的情況下對人工智能進行訓(xùn)練和編程至關(guān)重要。實際上人類訓(xùn)練機器遵守道德規(guī)范仍未有統(tǒng)一的標準，因此，應(yīng)當(dāng)盡快制定被廣泛認可的人工智能和智能機器道德標準。

2.3 環(huán)境因素：人工智能監(jiān)管規(guī)則滯后

人工智能作為一項新興技術(shù)尚缺乏法律制度的全面約束，只能通過輿論和技術(shù)手段來制約。制定人工智能的法律法規(guī)不僅涉及數(shù)據(jù)、算法、基礎(chǔ)設(shè)施和人類，還涉及人工智能的總體治理、技術(shù)的整體管理及其他因素。迄今為止，在面對人工智能的自主智能系統(tǒng)治理、責(zé)任和問責(zé)以及隱私安全3個方面的監(jiān)管治理仍未達成共識。

自主智能系統(tǒng)的治理，強調(diào)的是對人工智能和算法的理解與控制，確保其決策與行動的合理性和有效性。設(shè)計和建立一個既兼顧全球性又擁有靈活性的人工智能治理體系，需要滿足人工智能領(lǐng)域的多元需求，還要充分考慮全球各地文化多樣性和不同國家的法律體系。

責(zé)任和問責(zé)治理指的是界定誰對人工智能的決策負責(zé)并承擔(dān)責(zé)任。一方面，由于人工智能系統(tǒng)在運行過程中進行學(xué)習(xí)并具備自主行動的能力，因此，其開發(fā)、操作人員可能無法準確控制或預(yù)測其后續(xù)行為，從而導(dǎo)致責(zé)任差距，無法承擔(dān)相應(yīng)的責(zé)任。另一方面，有學(xué)者認為人類要對所有與技術(shù)相關(guān)的后果負責(zé)。

隱私安全的治理是指在人工智能背景下保護人類隱私、保護數(shù)據(jù)和人工智能相關(guān)網(wǎng)絡(luò)資源免受安全威脅。這意味著來自個人的數(shù)據(jù)必須在征得個人同意并遵守各自法律的情況下收集和處理。一方面，人工智能系統(tǒng)需要包含復(fù)雜的網(wǎng)絡(luò)安全預(yù)防措施，以確保數(shù)據(jù)安全和隱私。另一方面，立法和政策制定需要適應(yīng)人工智能帶來的新發(fā)展，包括處理不同司法管轄區(qū)在隱私標準等方面存在的差異。

3 人工智能時代下倫理治理的全球?qū)嵺`探索

3.1 人工智能倫理設(shè)置原則

歐美地區(qū)正積極推動人工智能技術(shù)和產(chǎn)業(yè)的發(fā)展，同時高度重視人工智能技術(shù)發(fā)展的安全與健康?，F(xiàn)今廣為認可的AI倫理原則有5項：行善（Beneficence）、不傷害（Non-maleficence）、自治（Autonomy）、正義（Justice）以及算法可解釋性（Explacability）。其中，前4項由傳統(tǒng)的生物倫理原則沿用而來，最后一項則是針對人工智能算法提出的新原則。隨后又在這5項總體AI核心原則基礎(chǔ)上衍生出增進人類福祉（Well-being）、隱私（Privacy）、自主控制權(quán)（Autonomy）、不歧視與不偏見（Non-bias/Non-discrimination）、透明性（Transparency）等更多細化的分支。歐盟作為人工智能立法的先驅(qū)，2019年發(fā)布《可信AI倫理指南》，提出可信賴AI需滿足3個基本條件：合法（Lawful）、倫理（Ethical）、穩(wěn)?。≧obust）。對于AI從業(yè)者，提出了4項道德原則，確保AI從業(yè)者以值得信賴的方式開發(fā)、部署和使用人工智能系統(tǒng)：尊重人的自主性（Respect for Human Autonomy）、預(yù)防傷害（Prevention of Harm）、公平性（Fairness）、可解釋性（Explicability）。我國2019年發(fā)布的《新一代人工智能治理原則》，強調(diào)了和諧友好、公平公正、包容共享等8條原則。2023年發(fā)布的《全球人工智能治理倡議》圍繞人工智能發(fā)展、安全、治理3方面系統(tǒng)闡述了人工智能治理中國方案，提出11項倡議，包括堅持“以人為本”、堅持公平性和非歧視性等原則。

3.2 人工智能倫理治理理念

人工智能治理在學(xué)術(shù)界有兩種理論，即“對立論”和“系統(tǒng)論”［2］?！皩α⒄摗奔搓P(guān)注人工智能技術(shù)與人權(quán)、福利之間的沖突，因此，需要制定相應(yīng)的審查和監(jiān)管機制來應(yīng)對這種沖突。歐盟發(fā)布的《可信AI倫理指南》是“對立論”的體現(xiàn)，要求人工智能系統(tǒng)在其整個生命周期中必須遵循合法性、倫理規(guī)范以及穩(wěn)健性原則?！跋到y(tǒng)論”強調(diào)人工智能技術(shù)與人類、其他人工智能體、法律、非智能基礎(chǔ)設(shè)施和社會規(guī)范之間的相互協(xié)調(diào)。我國2019年發(fā)布的《新一代人工智能治理原則》，提出“支持弱勢群體適應(yīng)”“國際組織、政府機構(gòu)、研究機構(gòu)之間的協(xié)調(diào)互動”等治理原則，體現(xiàn)了“系統(tǒng)論”和多元治理理念。

3.3 人工智能倫理治理規(guī)范

據(jù)不完全統(tǒng)計，目前多個國家、地區(qū)、組織和企業(yè)已發(fā)布人工智能道德規(guī)范超過40部，已逐漸形成了一些共識。美國出臺了《國家人工智能研究與發(fā)展戰(zhàn)略計劃》《人工智能準則：美國國防部人工智能倫理使用推薦性規(guī)范》《國家人工智能研發(fā)戰(zhàn)略計劃》等規(guī)范，提出倫理治理原則及人工智能倫理戰(zhàn)略部署。歐盟出臺了《可信AI倫理指南》《人工智能、機器人和相關(guān)技術(shù)的倫理框架》《人工智能立法提案》等規(guī)范，促進可信人工智能系統(tǒng)的發(fā)展。

4 人工智能時代下倫理治理的對策思考

4.1 優(yōu)化技術(shù)降低人工智能倫理風(fēng)險

應(yīng)進一步激勵技術(shù)創(chuàng)新，加強對人工智能應(yīng)用于不同領(lǐng)域的倫理治理模型結(jié)構(gòu)的開發(fā)，著力在一些關(guān)鍵領(lǐng)域?qū)崿F(xiàn)技術(shù)性突破。探索人工智能倫理計算的定量化研究，研究降低倫理風(fēng)險的可行性技術(shù)。從產(chǎn)品設(shè)計、技術(shù)研發(fā)和技術(shù)責(zé)任體系等各階段對人工智能技術(shù)運用可能存在的倫理風(fēng)險進行內(nèi)在維度的判斷，從源頭阻斷倫理風(fēng)險。

4.2 加大教育宣傳力度培養(yǎng)公眾倫理意識

根據(jù)《人工智能北京共識》和聯(lián)合國《教育中的人工智能：可持續(xù)發(fā)展的機遇和挑戰(zhàn)》，教育對人工智能倫理風(fēng)險治理具有不可或缺的作用。要不斷完善青少年相關(guān)教育體系，為社會勞動者持續(xù)提供終身教育，加強科技工作者的倫理道德教育和職業(yè)培訓(xùn)。增強公眾對人工智能技術(shù)的了解，激發(fā)和培養(yǎng)公眾的倫理意識。

4.3 完善人工智能倫理規(guī)范和行為準則

構(gòu)建人工智能倫理規(guī)范、制定行為準則是解決倫理問題的重要基礎(chǔ)。中國電子技術(shù)標準化研究院牽頭編制的《人工智能倫理治理標準化指南》，將倫理規(guī)范與行為準則融入人工智能“政產(chǎn)學(xué)研用”全生命周期。在人工智能重點領(lǐng)域的開發(fā)設(shè)計階段形成詳細的、具體的倫理規(guī)范，設(shè)置好開發(fā)的倫理底線，減少技術(shù)異化的負面影響。規(guī)范人工智能產(chǎn)品應(yīng)用階段的行為，鼓勵制定人工智能在各領(lǐng)域的具體應(yīng)用規(guī)范，提高各類使用者對人工智能產(chǎn)品的責(zé)任感。應(yīng)鼓勵企業(yè)結(jié)合實際形成各自的標準，積極參與國際標準制定。

4.4 加強人工智能倫理法律監(jiān)管和政府管理

法律手段是規(guī)避人工智能倫理的基礎(chǔ)手段，逐步實現(xiàn)法律體系與人工智能技術(shù)的有機結(jié)合，建立全周期、全流程、全覆蓋的管理規(guī)范、研發(fā)規(guī)范、使用規(guī)范是人工智能倫理風(fēng)險治理的當(dāng)務(wù)之急。應(yīng)強化協(xié)同治理，加強場景區(qū)分，推動醫(yī)療衛(wèi)生、自動駕駛等重點領(lǐng)域監(jiān)管規(guī)則制定，并逐步在其他行業(yè)形成算法技術(shù)規(guī)范。鼓勵人工智能相關(guān)產(chǎn)業(yè)及時向政府反饋產(chǎn)業(yè)的最新技術(shù)發(fā)展動態(tài)，為監(jiān)管提供決策依據(jù)。

4.5 推動人工智能倫理治理的國際合作

人類社會已進入智能時代，人工智能倫理治理已形成國際共識。2023年，聯(lián)合國教科文組織和歐盟簽署了加快實施人工智能倫理細則的協(xié)議，希望通過立法等方式加強人工智能倫理治理；同年，我國《全球人工智能治理倡議》重申各國應(yīng)在人工智能治理中加強信息交流和技術(shù)合作，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，鼓勵各國政府、國際組織、企業(yè)、科研院校、民間機構(gòu)和公民個人等各主體秉持共商共建共享的理念，協(xié)力共同促進人工智能治理［3］。

5 結(jié)語

人工智能的發(fā)展帶來了許多機遇，也伴隨著一些挑戰(zhàn)。應(yīng)對這些挑戰(zhàn)需要進一步優(yōu)化技術(shù)降低人工智能倫理風(fēng)險，加大教育宣傳力度培養(yǎng)公眾倫理意識，完善人工智能倫理規(guī)范和行為準則，加強法律監(jiān)管和政府管理，推動倫理治理的國際合作。

參考文獻

［1］鄧若玉.人工智能發(fā)展的科技倫理反思［J］.廣西社會科學(xué)，2020（10）：93-97.

［2］張兆翔，張吉豫，譚鐵牛.人工智能倫理問題的現(xiàn)狀分析與對策［J］.中國科學(xué)院院刊，2021（11）：1270-1277.

［3］外交部.外交部發(fā)言人就《全球人工智能治理倡議》答記者問［N］.人民日報，2023-10-19（11）.

（編輯 何 琳編輯）

Research on ethical challenges and countermeasures in the era of artificial intelligence

Shen? Xiaowen， Xia? Jijun*， Hu? Jiaqi

（Wuxi S&T Innovation Service Center， Wuxi 214000， China）

Abstract： ?The widespread use of AI has brought great convenience to human life and production， and also brought a series of ethical challenges. On the basis of explaining the current ethical risks of AI， the text analyzes the current consensus on principles of AI ethical setting， ethical governance，and ethical governance norms， and provides countermeasures and suggestions such as optimizing technology， cultivating public awareness， improving ethical norms and codes of conduct， strengthening ethical legal supervision， and promoting international cooperation.These suggestions will create good conditions for the high-quality development of AI industry.

Key words： artificial intelligence; ethical challenge; countermeasure and suggestion

基金項目：無錫市法學(xué)會2023年研究課題；項目名稱：人工智能時代的倫理挑戰(zhàn)與對策研究；項目編號：WFH2023B20。江蘇省科技廳2023年創(chuàng)新支撐計劃軟科學(xué)研究；項目名稱：“一帶一路”倡議下國際科技創(chuàng)新合作模式對比研究——以江蘇和廣東為例；項目編號：BR2023022-2。

作者簡介：沈瀟雯（1983—），女，副高級工程師，碩士；研究方向：政策研究，創(chuàng)新理論。

*通信作者：夏計軍（1978— ），男，工程師，碩士；研究方向：情報分析，項目管理。