人工智能技術(shù)發(fā)展中倫理問題的思考

楊會軍 程啟華

摘要：人工智能是人類第四次工業(yè)革命進(jìn)程中的關(guān)鍵技術(shù)，將會深刻影響人類社會的發(fā)展進(jìn)程。人工智能技術(shù)的發(fā)展伴隨著一系列倫理問題，例如安全隱患、隱私泄露，以及自主選擇權(quán)的放棄等。通過對人工智能技術(shù)及其倫理問題的分析，可以得出人工智能技術(shù)和倫理之間的辯證關(guān)系，并提出應(yīng)對人工智能技術(shù)倫理問題的若干策略。堅持“以人為本”的科學(xué)發(fā)展精神，使得人工智能能夠始終走在向善、為人類福祉服務(wù)的發(fā)展道路上。

關(guān)鍵詞：人工智能，技術(shù)倫理，對策

人工智能是人類第四次工業(yè)革命進(jìn)程中的關(guān)鍵技術(shù)，通過模擬人類智能和學(xué)習(xí)能力，計算機系統(tǒng)完成類似人類智能的任務(wù)和活動。當(dāng)今社會受人工智能技術(shù)影響較深，主要表現(xiàn)在以下方面：

第一，對產(chǎn)業(yè)結(jié)構(gòu)的影響?？茖W(xué)技術(shù)是第一生產(chǎn)力，人工智能技術(shù)作為新一代科技革命的代表，將極大地推動已有產(chǎn)業(yè)結(jié)構(gòu)的變革。高附加值崗位，如以“復(fù)雜智力”為代表的職位，逐漸取代了以“簡單體力”為代表的低附加值崗位。

第二，對供需關(guān)系的影響。人工智能和人類生產(chǎn)和生活緊密結(jié)合，社會生產(chǎn)力的發(fā)展導(dǎo)致供需關(guān)系產(chǎn)生變化，從而培育出新的價值增長點。

人工智能技術(shù)一方面提高了生產(chǎn)效率，方便了人們的生活；另一方面，如果不加以引導(dǎo)，技術(shù)發(fā)展可能帶來適得其反的不良后果，并引發(fā)大量倫理問題。因此，人工智能的倫理規(guī)范至關(guān)重要。包括為智能機器人預(yù)設(shè)道德準(zhǔn)則、設(shè)定人工智能技術(shù)研發(fā)及應(yīng)用標(biāo)準(zhǔn)、建立人工智能產(chǎn)品本身的道德指引，以及規(guī)范科研人員的倫理行為[1]。本文針對人工智能技術(shù)發(fā)展過程中所伴生的倫理問題，從技術(shù)和倫理兩個角度進(jìn)行研究，分析技術(shù)倫理和人工智能之間的辯證關(guān)系，并提出解決人工智能倫理問題的若干對策。

一、人工智能技術(shù)及其倫理問題

（一）人工智能技術(shù)及其存在的問題

1956年的達(dá)特茅斯會議上首次提出了人工智能的概念，隨后相關(guān)技術(shù)取得了突破性進(jìn)展，其發(fā)展日新月異。

人工智能的本質(zhì)是對人類思維的模擬。這種模擬可以通過結(jié)構(gòu)模擬和功能模擬來實現(xiàn)[2]。采用類比的方法來仿真人腦的組織結(jié)構(gòu)，創(chuàng)造出類似人腦的機器；功能模擬對人腦進(jìn)行抽象分析，將人腦分解為若干功能模塊，在功能上模擬人類思維過程。相較于結(jié)構(gòu)模擬，功能模擬更為簡化。隨著人類對人腦研究深入，基于結(jié)構(gòu)模擬的人工智能產(chǎn)品將具備更多人類智慧，也給人類帶來更大的挑戰(zhàn)。

在人工智能發(fā)展的早期階段，人類通過簡單的程序來控制機器設(shè)備，機器設(shè)備是執(zhí)行者，按照指令完成工作，本身沒有自學(xué)習(xí)能力。但隨著以機器學(xué)習(xí)、深度學(xué)習(xí)為代表的人工智能技術(shù)的進(jìn)步，機器設(shè)備通過模擬人類的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)獲得了自學(xué)習(xí)能力。機器的智力水平和學(xué)習(xí)效果與其所接觸的樣本數(shù)量有關(guān)。再加上機器學(xué)習(xí)的速度遠(yuǎn)超人類的學(xué)習(xí)速度，可以預(yù)見，人工智能將對人類智能帶來挑戰(zhàn)。

科學(xué)技術(shù)是一把“雙刃劍”，既可以造福人類，也可能帶來災(zāi)難[3]。同樣，人工智能也存在著一些潛在的風(fēng)險和倫理問題，需要人們在其發(fā)展過程中加以重視和規(guī)范，確保其積極影響人類社會。

1.便利與危險并存

在新型冠狀病毒肆虐的疫情期間中，人工智能起到了重要作用。新型冠狀病毒傳染性極強，為了切斷傳播路徑，國家實行動態(tài)清零的抗疫政策。并利用人工智能技術(shù)分析與感染人員（區(qū)域）有交叉的相關(guān)人員的時空數(shù)據(jù)。及時通知并做好備案篩查工作，使得疫情能夠及時得到控制。同時，利用融合了人工智能技術(shù)的措施，如疫情防控健康碼和核酸檢測數(shù)據(jù)的實時更新，也起到了良好的抗疫效果。另一方面，在疫情防控期間，有些不法分子在社交平臺上有目的地散布虛假信息，制造恐慌和混亂。人工智能技術(shù)也起到了很好的作用，通過自動化的文本分析和情感識別技術(shù)，快速識別和篩查出不實信息。此外，人工智能還可以幫助監(jiān)測大數(shù)據(jù)中的信息流動，及時發(fā)現(xiàn)和追蹤病例的傳播路徑，從而更有效地進(jìn)行疫情控制。總體而言，人工智能在新冠疫情期間發(fā)揮了重要作用，為防控工作提供了有力支持。

無人駕駛技術(shù)是指在無需人類干預(yù)的情況下，實現(xiàn)車輛自主控制與操作，從而實現(xiàn)汽車駕駛自動化技術(shù)。無人駕駛可以將人類從單調(diào)乏味的駕駛過程中解放出來，讓人們專注于風(fēng)景或工作，大大提高了駕駛的舒適度。然而，機器的智能化控制是由“智能芯片+驅(qū)動模塊”組成的，代表了電子產(chǎn)品的可靠性問題。例如，程序控制中可能出現(xiàn)的“程序跑飛”現(xiàn)象。雖然這種情況發(fā)生的概率很低，但人們對將自己的生命完全交給“智能芯片+驅(qū)動模塊”需要有很大的勇氣。在2023年4月，谷歌旗下自動駕駛公司W(wǎng)aymo的無人駕駛車輛在接送乘客過程中遇到了交通管制。交警示意車輛靠邊停車，但無人駕駛車沒有立即做出反應(yīng)，而乘客也無法使汽車按照交警的手勢行駛。而在2018年3月，美國亞利桑那州一名女子不幸被一輛處于自動駕駛模式的Uber汽車撞傷，后來不幸身亡。因此，目前來看，人工智能系統(tǒng)存在系統(tǒng)漏洞和能力缺陷。

2.數(shù)據(jù)的消費者與隱私的失控

大數(shù)據(jù)被譽為“未來的新石油”，是人工智能學(xué)習(xí)和判斷的基礎(chǔ)。因此，人工智能需要不斷地從物理世界中獲取數(shù)據(jù)、分析數(shù)據(jù)、挖掘數(shù)據(jù)，從而為人們提供實時精準(zhǔn)的服務(wù)。

每個人既是數(shù)據(jù)的貢獻(xiàn)者，也是數(shù)據(jù)的消費者。這些數(shù)據(jù)既包括公共數(shù)據(jù)，也包括私有數(shù)據(jù)。如果私有數(shù)據(jù)被不法分子濫用的話，將會帶來隱私的失控，給個人帶來傷害。在萬物互聯(lián)的時代，人們享受到了高效、便捷的生活，但個人的性格特點、興趣愛好、意識形態(tài)、行蹤軌跡等都被系統(tǒng)記錄下來且無法消除。這些交織在一起的數(shù)據(jù)信息在毫無防備的情況下不受控地流向何方，人們根本無從所知。未來的人工智能依靠這些汲取的信息不斷地進(jìn)化迭代出新一代的智能體，因此很難說是人掌控著塑造出來的人工智能，還是人被人工智能所掌控？

3.被動的“多”和主動的“少”

在20世紀(jì)，人們主要通過查閱書刊和積累經(jīng)驗來獲取信息。然而，在當(dāng)今的信息時代，人們可以通過百度、谷歌等搜索工具快速獲取未知領(lǐng)域的信息。人工智能能夠根據(jù)搜索關(guān)鍵詞分析用戶的興趣點，并定期推送相關(guān)主題的信息，大大提高了信息獲取的效率。導(dǎo)航軟件如百度地圖和高德地圖可以根據(jù)實時路況信息為人們規(guī)劃不同的路徑選擇。旅游類APP如攜程和同程旅游能夠為人們提供交通、飲食、住宿、導(dǎo)游等一條龍服務(wù)。網(wǎng)上購物平臺可以根據(jù)人們的瀏覽記錄推送相關(guān)商品選擇。從用戶的角度來看，人們在被動地選擇，有時甚至不需要選擇，系統(tǒng)已經(jīng)給出了答案。這有可能造成人們自身主動性的逐漸喪失，把它交給了人工智能，讓人工智能來做選擇，這很可能會使人們陷入“信息繭房”[4]的困境。

當(dāng)人們信賴人工智能時，其實是無條件接受了人工智能背后的規(guī)則。而這些規(guī)則對人們就像一個“黑箱”，但又并不能準(zhǔn)確地分析和描述“黑箱”背后的工作流程以及“黑箱”操作背后的規(guī)則。由于個體的差異，這些規(guī)則并不能適合于每一個人。只是被動地接受人工智能提供的若干選項，將自身的主動權(quán)和決策權(quán)交給了自己并不了解的人工智能。而人工智能提供給人們的信息是根據(jù)開發(fā)者制定的規(guī)則和依據(jù)篩選出來的，因此，人們所獲得的信息是不完整的，這又嚴(yán)重局限了人們的思維，只能在有限的信息空間內(nèi)思考問題。

4.表面的“得到”與背后的“失去”

人工智能技術(shù)的應(yīng)用使得人們的生活日益便捷，享受著高科技帶來的無憂生活。通過對天氣的預(yù)測，人們可以決定是否添加衣物或外出；通過對景區(qū)人流的動態(tài)監(jiān)測，人們可以規(guī)劃自己的旅行目的地；通過對實時路況信息的獲取，人們可以提前規(guī)劃行程，避開擁堵地段，提高效率；通過美食的建議和推送，人們可以選擇享受美食的地點；全球互聯(lián)網(wǎng)技術(shù)大大降低了信息獲取的成本，人工智能基于網(wǎng)絡(luò)數(shù)據(jù)為用戶提供個性化服務(wù)，人們的衣食住行更加便捷，享受到了像保姆般的貼心服務(wù)，促進(jìn)了社會的繁榮。

在日常生活中，無論是否愿意，每個人都直接或間接成為數(shù)據(jù)的貢獻(xiàn)者。人工智能正在融入并改變著人們的生活，但人工智能所帶來的結(jié)構(gòu)性失業(yè)、算法歧視、隱私泄露等問題讓人們喪失了自主性、獨立性和創(chuàng)造性。笛卡爾曾說過“我思故我在”，人的價值體現(xiàn)在于主觀的能動性、獨立性和創(chuàng)造性。沒有了主動思考能力的人類將面臨更大的失去。如果沒有技術(shù)倫理的限制，人類終有一天會被自己的技術(shù)產(chǎn)品所取代。

（二）人工智能技術(shù)和倫理之間的關(guān)系

在萬物互聯(lián)的時代，人和物本質(zhì)上都是數(shù)據(jù)的貢獻(xiàn)者和消費者。人工智能技術(shù)通過對人的思維過程，賦予智能體學(xué)習(xí)能力，但這也帶來了復(fù)雜的倫理、法律和安全問題。人工智能技術(shù)倫理的目標(biāo)是從道德角度規(guī)范科技開發(fā)人員的活動，確?？萍蓟顒硬粫p害人類的生存條件和健康，保障人類切身利益，實現(xiàn)可持續(xù)發(fā)展[5]。

人工智能技術(shù)和其伴生的技術(shù)倫理問題之間存在著辯證關(guān)系。一方面，技術(shù)與倫理之間存在矛盾。技術(shù)追求的是改變、先進(jìn)和效率，而倫理強調(diào)的是規(guī)范和秩序。通常情況下，倫理問題滯后于技術(shù)發(fā)展，因此面對新技術(shù)的浪潮，倫理上往往會產(chǎn)生巨大的恐慌。然而，機遇與挑戰(zhàn)并存，絕對禁止這些新技術(shù)，一味地保守可能使人類和新技術(shù)的發(fā)展失去平衡。另一方面，技術(shù)與倫理之間又是統(tǒng)一的。歷史上可以看到，開放包容會帶來科技文化的巨大發(fā)展，而閉關(guān)鎖國則會導(dǎo)致科技文化走向衰落。開放包容并不意味著盲目接受，而是有選擇地進(jìn)行揚棄。技術(shù)倫理也是如此，其初衷是為了使技術(shù)獲得更好的發(fā)展，通過挖掘優(yōu)勢、舍棄劣勢，讓人工智能始終走在道德善良、造福人類的發(fā)展道路上。技術(shù)和技術(shù)倫理可以看作問題的兩個方面，可讓人們能更全面地看待新技術(shù)，在對立統(tǒng)一中實現(xiàn)人工智能技術(shù)的良性發(fā)展。

二、應(yīng)對人工智能技術(shù)倫理問題的策略

每位科技工作者都應(yīng)該承擔(dān)起時代的責(zé)任和擔(dān)當(dāng)，并主動將自己的工作融入人類時代發(fā)展的大潮之中，為社會的進(jìn)步貢獻(xiàn)自己的力量。人工智能作為一種新技術(shù)，是一個客觀的存在，技術(shù)本身并不包含社會文化和道德層面的因素，但是該技術(shù)的研究方法、研究過程、研究成果及其應(yīng)用卻具有社會文化和倫理道德的影響因素。因此，人工智能技術(shù)的發(fā)展需要受到技術(shù)倫理的道德引導(dǎo)。針對人工智能技術(shù)的倫理問題，可以從以下幾個方面入手。

第一，鼓勵公眾參與?？萍汲晒苿由a(chǎn)力的進(jìn)步，并最終影響到公眾的生活。因此，公眾應(yīng)該擁有更多的知情權(quán)。在制定決策前，廣泛且深入地討論人工智能可能存在的倫理問題，采集公眾的建議，并公之于眾，形成諸多成果。在新技術(shù)的良性發(fā)展中，公眾的態(tài)度和意見將提供重要參考，“兼聽則明，偏信則暗”。

第二，開展大學(xué)生工程倫理教育。大學(xué)生是未來人工智能技術(shù)研究的主力軍。因此，在大學(xué)工科教育階段，要及時對相關(guān)專業(yè)的大學(xué)生進(jìn)行工程倫理教育。使其在學(xué)習(xí)專業(yè)技術(shù)的同時，充分了解工程倫理的概念和內(nèi)涵，能辯證地看待技術(shù)和倫理之間的關(guān)系。牢固樹立“以人為本”的科學(xué)發(fā)展精神。目前，國內(nèi)高校都在開展工程教育認(rèn)證工作，畢業(yè)要求第六節(jié)明確要求評價“工程方案對社會、健康、安全、法律以及文化的影響，并理解應(yīng)承擔(dān)的責(zé)任”。在理工科大學(xué)教育中全面推進(jìn)工程倫理教育已成為工程界、教育界和政府相關(guān)部門的共識。

第三，提高科研人員的人文素養(yǎng)。科研人員在工作過程中，企業(yè)應(yīng)主動承擔(dān)科研人員的人文素養(yǎng)教育。在開展科技研究的過程中，要將技術(shù)能力和職業(yè)道德并舉，企業(yè)效益和社會責(zé)任兩手抓，兩手都要硬。在科技管理中，加強科研人員的職業(yè)素養(yǎng)教育，提高科研人員遵紀(jì)守法、追求真理、誠實守信、杜絕弄虛作假等職業(yè)道德，弘揚風(fēng)清氣正的科研環(huán)境。

第四，發(fā)揮政府的指導(dǎo)性作用。政府針對人工智能發(fā)展中存在的社會問題進(jìn)行研究，出臺相關(guān)行政規(guī)章制度，并設(shè)立專門的機構(gòu)進(jìn)行規(guī)范和監(jiān)督，除了禁止與人性倫理道德完全相違背的技術(shù)及其應(yīng)用外，對于大多數(shù)具有一般性倫理問題的新技術(shù)，可以引入一種倫理“軟著陸”的機制[6]。在剛性規(guī)則不成熟的情況下，政府和企業(yè)可以聯(lián)合出臺指導(dǎo)性的行業(yè)規(guī)約，對技術(shù)的研究和應(yīng)用進(jìn)行約束，并周期性評估執(zhí)行過程中的規(guī)約，實現(xiàn)倫理在科技應(yīng)用中的“軟著陸”。

第五，進(jìn)行同行評議。號召不同區(qū)域、不同單位的專家學(xué)者對人工智能技術(shù)及其倫理問題進(jìn)行評議和審核，同行具有比外行更專業(yè)的知識結(jié)構(gòu)，相互之間的評議更有說服力。此外，專家學(xué)者之間還存在知識結(jié)構(gòu)互補，同行評議方式可以對他人的研究成果進(jìn)行監(jiān)督和規(guī)范。

第六，開展跨學(xué)科專業(yè)論壇。組織召開跨學(xué)科專業(yè)論壇，參與者可以是利益相關(guān)者，擁有廣泛的視角和經(jīng)驗。包括人工智能技術(shù)專家、生物醫(yī)學(xué)家、社會學(xué)家、倫理學(xué)家、決策者、管理者、研究資助者、公共利益的擁護者、行業(yè)代表和公眾成員等。從不同的角度看待以人工智能為代表的專業(yè)技術(shù)，了解不同學(xué)科的需求和關(guān)切，收集廣泛的意見和建議，最終達(dá)成共識。

三、結(jié)束語

人工智能技術(shù)的快速發(fā)展必然帶來一系列倫理問題。在人工智能技術(shù)產(chǎn)業(yè)發(fā)展過程中，需要充分考慮人工智能技術(shù)倫理問題對產(chǎn)業(yè)發(fā)展的影響。這意味著社會在肯定人工智能推動人類社會進(jìn)步的同時，也要及時發(fā)現(xiàn)技術(shù)存在的不足之處，使人工智能的倫理研究能夠走在技術(shù)發(fā)展的前面。針對人工智能技術(shù)及其存在的問題，本文提出了應(yīng)對人工智能技術(shù)倫理問題的若干策略，以保證人工智能的發(fā)展受到道德倫理的約束。

作者單位：楊會軍 南京工程學(xué)院信息與通信工程學(xué)院

程啟華 南京工程學(xué)院工業(yè)中心

參? 考? 文? 獻(xiàn)

[1]吳漢東.人工智能時代的制度安排與法律規(guī)制[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報）， 2017， 35 （05）： 128-136.

[2]朱欣文. 5G+人工智能時代辦公室工作模式與應(yīng)對策略[J]. 秘書之友， 2020 （02）： 4-7.

[3]張全潔. 人工智能的倫理準(zhǔn)則研究[D]. 蘇州大學(xué)， 2020.

[4]王紹源， 趙君. “物倫理學(xué)”視閾下機器人的倫理設(shè)計——兼論機器人倫理學(xué)的勃興[J]. 道德與文明， 2013 （3）： 133-138.

[5]王蒲生，雷毅.技術(shù)的報復(fù)——科技倫理與科技人員的倫理責(zé)任[J]. 科學(xué)中國人， 2002（05）： 42-44.

[6]劉大椿. 在真與善之間——科技時代的倫理問題與道德抉擇[M]. 北京： 中國社會科學(xué)出版社， 2000.

基金項目：江蘇省教育廳高校哲學(xué)社會科學(xué)研究項目資助（2022SJYB0449）。

楊會軍（1979.10-），男，漢族，河南長葛，博士，高級工程師，研究方向：電磁信息數(shù)據(jù)及應(yīng)用；

程啟華（1979.07-），女，漢族，四川成都，博士，副教授，研究方向：智能測控系統(tǒng)。