人工智能倫理風(fēng)險(xiǎn)及其對策

嚴(yán)衛(wèi) 錢振江

摘要：隨著人類科技的提高，人工智能在現(xiàn)代經(jīng)濟(jì)社會中發(fā)揮著越來越重要的作用。在某種程度上來說，人工智能的發(fā)展可以大幅度提高人們的生活質(zhì)量，促進(jìn)社會發(fā)展，甚至可以推動(dòng)人類社會的變革。人工智能的不斷發(fā)展也意味著隨之而來的問題，其中在社會中引起最大爭議的就是人工智能可能帶來的倫理問題，本文列舉了人工智能發(fā)展主要面臨的八種倫理風(fēng)險(xiǎn)情形。根據(jù)研究人工智能可能出現(xiàn)的倫理風(fēng)險(xiǎn)，從而提出了人工智能倫理風(fēng)險(xiǎn)的應(yīng)對措施，以促進(jìn)人工智能技術(shù)的健康發(fā)展。

關(guān)鍵詞：人工智能;倫理;風(fēng)險(xiǎn)

中圖分類號：TP311? ? 文獻(xiàn)標(biāo)識碼：A

文章編號：1009-3044（2019）18-0221-02

1 引言

從2001年的斯皮爾伯格所制作的《人工智能》到如今的《阿麗塔》，都代表一種趨勢——人工智能受到了全世界人廣泛的關(guān)注，從電影中我們也可以窺探出人工智能技術(shù)的興起和成熟，作為一個(gè)緊隨世界潮流，全面參與全球化經(jīng)濟(jì)的國家，我國對于人工智能的研究當(dāng)然不甘落后。國務(wù)院于2016年7月在北京隆重發(fā)布《“十三五”國家社會發(fā)展科技創(chuàng)新規(guī)劃》，自此開始人工智能正式被納入國家規(guī)劃中。[1]緊接著在2017年3月，政府工作報(bào)告中首次提到人工智能技術(shù)。從種種跡象中可以看出，國家對人工智能越來越重視，也將投入更多的資源給予人工智能，因此在未來，我國的人工智能產(chǎn)業(yè)必將走入一個(gè)大的跨越式發(fā)展階段。但科技的發(fā)展總是伴隨著不確定的因素，因此我們對待人工智能技術(shù)也必須抱有理性而謹(jǐn)慎的態(tài)度去觀察與研究。政府及相關(guān)部門應(yīng)該盡快出臺一套科學(xué)的法律法規(guī)來規(guī)范人工智能倫理風(fēng)險(xiǎn)和過程監(jiān)管。人工智能這項(xiàng)新技術(shù)的出現(xiàn)必然會給我們的生活提供很多便利之處，但這也意味倫理、法律和安全問題也接踵而至，因此目前人工智能對社會發(fā)展的影響和挑戰(zhàn)已經(jīng)逐漸成為我國哲學(xué)社會科學(xué)研究不容刻緩的研究話題。

2 人工智能發(fā)展主要面臨的倫理風(fēng)險(xiǎn)

2.1 道德風(fēng)險(xiǎn)

未來，隨著人工智能道德自主性的突破，人工智能的道德觀念將從完全由人類設(shè)計(jì)轉(zhuǎn)變?yōu)橥耆蓹C(jī)器決定。如何賦予人工智能道德判斷能力是一個(gè)重要的現(xiàn)實(shí)問題。將人類道德寫入人工智能程序或許是解決問題的方法。早期，人工智能的道德判斷行為是可控的。隨著技術(shù)的進(jìn)一步發(fā)展，人工智能的道德判斷行為可以完全獨(dú)立。穆爾教授認(rèn)為，這種情況的標(biāo)準(zhǔn)是，人工智能程序具有成年人的平均道德水平。[2]在這個(gè)階段，人工智能會做出自己的行動(dòng)策略和道德選擇，它的行為不會被人類控制。這將對現(xiàn)有的社會秩序和道德規(guī)范產(chǎn)生重大影響。為了避免這種情況，人工智能的道德自主性應(yīng)該被限制在一個(gè)合理的范圍內(nèi)，使其行為能夠被人類所期待。

2.2 失業(yè)風(fēng)險(xiǎn)

當(dāng)人工智能取代一個(gè)又一個(gè)產(chǎn)業(yè)時(shí)，社會財(cái)富將逐漸集中在擁有先進(jìn)人工智能技術(shù)的發(fā)達(dá)國家或科技巨頭身上。而發(fā)展中國家的勞動(dòng)密集型產(chǎn)業(yè)往往被人工智能所取代，這些國家勞動(dòng)力成本較低的優(yōu)勢將不復(fù)存在，就業(yè)受到嚴(yán)重影響。[3]人工智能的應(yīng)用在很大程度上對這些地區(qū)的就業(yè)穩(wěn)定提出了挑戰(zhàn)。如何讓每個(gè)人都從人工智能創(chuàng)造的財(cái)富中受益，防止貧富差距擴(kuò)大，這是我們需要思考的問題。

2.3 隱私風(fēng)險(xiǎn)

隨著人工智能的發(fā)展，大數(shù)據(jù)的運(yùn)用將無處不在。通過深度學(xué)習(xí)和大數(shù)據(jù)算法，人工智能可以更有效地解決問題，但這將涉及隱私問題。許多重要的個(gè)人隱私信息，如收入，家庭狀況和健康等，可以實(shí)時(shí)收集和保存。通過數(shù)據(jù)挖掘技術(shù)，數(shù)據(jù)控制器可以從大量不完整或模糊的數(shù)據(jù)中提取有用的個(gè)人信息。這樣，人類就失去了對自己隱私的控制，甚至一些私人信息也被實(shí)時(shí)監(jiān)控了很長一段時(shí)間。因此，在人工智能發(fā)展的過程中，如何加強(qiáng)對隱私的保護(hù)成為一個(gè)必須關(guān)注的問題。

2.4 算法偏見風(fēng)險(xiǎn)

雖然人工智能的倫理判斷本質(zhì)上是算法，但在現(xiàn)實(shí)生活中可能會存在主觀偏見。這種偏見有多個(gè)方面的因素，可能是數(shù)據(jù)源的輸入也可能是程序員的世界觀和價(jià)值觀。如果算法中已經(jīng)存在偏差，經(jīng)過深度學(xué)習(xí)，可以進(jìn)一步加強(qiáng)算法中的偏差。例如，在車禍現(xiàn)場，中國人和外國人都受了重傷。人工智能機(jī)器應(yīng)該先拯救哪一個(gè)？是否存在種族、意識形態(tài)和算法上的偏見？這表明，機(jī)器處理各種類型數(shù)據(jù)時(shí)，可能會存在偏差。當(dāng)然，與人類決策相比，人工智能的決策能排除人類情感因素而做出更為客觀理性的決策。但是，我們更要注意的是一旦人工智能算法出現(xiàn)偏見問題，那么就會形成廣泛的影響。因此，在算法中去除社會共識和法律規(guī)范偏見的工作任重而道遠(yuǎn)。

2.5 人身安全風(fēng)險(xiǎn)

人工智能機(jī)器對任務(wù)的理解可能存在偏差，這將導(dǎo)致人工智能機(jī)器根據(jù)錯(cuò)誤的理解來完成任務(wù)。比如，我們設(shè)置人工智能機(jī)器的任務(wù)是讓主人微笑，其可能通過饒癢癢的方式來實(shí)現(xiàn)。當(dāng)人工智能機(jī)器將在特定環(huán)境中學(xué)習(xí)到的行動(dòng)策略應(yīng)用到新環(huán)境中時(shí)，可能會產(chǎn)生安全風(fēng)險(xiǎn)。又比如，機(jī)器人將成人牛奶給嬰兒喝等生活問題。人工智能技術(shù)還可以用來開發(fā)武器?；艚鹪?015年，就公開表示擔(dān)心人工智能技術(shù)遲早會強(qiáng)大到無意中殺死人類的地步。[4]

2.6 權(quán)利風(fēng)險(xiǎn)

從某種意義而言，人工智能擁有一定的思考能力以及學(xué)習(xí)能力，因此如果我們僅僅將人工智能看作工具或許有失偏頗。作為未來社會將與我們朝夕相伴的智能人，人工智能在一定程度上也需要獲得相關(guān)法律法規(guī)的保護(hù)，在法律上給予人工智能道德地位以及相應(yīng)的權(quán)利，并嚴(yán)格禁止隨意處置、虐待與遺棄人工智能機(jī)器人的行為存在，使人工智能在未來社會的權(quán)益受到合理的保障。[5]

2.7 媒介風(fēng)險(xiǎn)

人工智能在給新聞媒介便利的同時(shí)，媒介風(fēng)險(xiǎn)也日益突出。比如，大型商業(yè)公司以商業(yè)利益為宗旨，其研究和開發(fā)的人工智能媒介易受公司營利的自然傾向。此外，像微軟、谷歌、阿里巴巴、百度等成熟的公司都有自己獨(dú)特的價(jià)值追求和企業(yè)文化，有意識或無意識地影響著基于人工智能的媒介發(fā)展。比如，谷歌的媒介算法偏向“新聞價(jià)值”的核心地位，而臉書的媒介算法偏向“家庭和朋友”的核心關(guān)系，有著明顯的社交風(fēng)格。[6]

2.8 “奇點(diǎn)”風(fēng)險(xiǎn)

幾年前，美國未來學(xué)家?guī)炱濏f爾根據(jù)其所提出的加速回報(bào)定理提出了著名的“奇點(diǎn)理論”。也正是在這個(gè)理論中他提出了一個(gè)預(yù)測——純?nèi)祟愇拿鲗⒔K止于2045年?；蛟S我們會覺得這是無稽之談，但庫茲韋爾卻提出科技的發(fā)展迅速，甚至?xí)?dǎo)致“失控效應(yīng)”。[7]但這也意味著人類的智慧將逐漸衰退，隨著科技的發(fā)展，人類只需要在網(wǎng)上搜索就能獲得知識，從而失去了深入探索知識的能力與自主性，人類對機(jī)器的依賴程度越來越高，而人工智能奇點(diǎn)卻足以讓機(jī)器人完全獨(dú)立自主地進(jìn)行升級，因此人工智能在未來或許將擁有改變?nèi)祟愇拿鞯哪芰?。這也意味著我們必須時(shí)刻關(guān)注人工智能的發(fā)展情況，防止奇點(diǎn)的失控，從而影響人類與人工智能之間的關(guān)系混亂，斷絕人工智能奴役甚至消滅人類的可能性。綜上所述，對于在未來如何適應(yīng)和引導(dǎo)人類與人工智能共存已經(jīng)成了值得我們著重研究的問題。

3 人工智能倫理風(fēng)險(xiǎn)的應(yīng)對措施

3.1 健全規(guī)范的法律法規(guī)

之所以人工智能會引發(fā)這么多的倫理風(fēng)險(xiǎn)，一切的根源都在于目前社會與政府對人工智能的法律法規(guī)的空缺。“沒有規(guī)矩，不成方圓”，政府應(yīng)該制定相關(guān)的法律法規(guī)來規(guī)范人工智能的應(yīng)用。積極承擔(dān)人工智能倫理法律法規(guī)的責(zé)任，引導(dǎo)和推動(dòng)人工智能走上理性科學(xué)的正確軌道。文中提到的八大倫理風(fēng)險(xiǎn)造成的人工智能的負(fù)面社會影響，時(shí)刻提醒我們需要開發(fā)更完善，符合新時(shí)代的法律法規(guī)，具體到人工智能的作品界定、責(zé)任和限制使用做出更詳細(xì)明確的闡釋，同時(shí)可以根據(jù)相關(guān)法律查處違法行為。[8]

3.2 加強(qiáng)倫理制度建設(shè)

對于人工智能引發(fā)的倫理問題，倫理制度的建設(shè)是不可或缺的，將人工智能研究與倫理制度建設(shè)相結(jié)合是解決人工智能倫理問題的有效途徑。倫理制度建設(shè)至少應(yīng)包括設(shè)計(jì)倫理和應(yīng)用規(guī)范倫理。設(shè)計(jì)倫理應(yīng)確保人工智能產(chǎn)品的安全性，應(yīng)用倫理則強(qiáng)調(diào)人工智能應(yīng)用過程中的安全性[9]。當(dāng)人工智能沒有道德主體時(shí)，人工智能的使用者就是一種道德主體。因此，有必要為人工智能用戶制定合理的倫理制度規(guī)范。尤其應(yīng)該禁止人工智能被用于可能對人類和整個(gè)社會造成危害的領(lǐng)域。此外，人工智能用戶還應(yīng)注重自身倫理責(zé)任感的培養(yǎng)，將倫理制度規(guī)范內(nèi)化為自己的主體信念和責(zé)任意識。

3.3 人與人工智能的和諧發(fā)展

隨著人工智能的不斷發(fā)展，人本身與人工智能的關(guān)系已經(jīng)越發(fā)密切，已經(jīng)逐漸成了相互融合的發(fā)展模式，也正是因?yàn)檫@種模式的存在，對我們?nèi)祟愖怨乓詠硭鶊?jiān)持的倫理產(chǎn)生了巨大的挑戰(zhàn)。人工智能與人類相互融合代表著我們產(chǎn)生了新的和諧人機(jī)關(guān)系，但不論人類智能與人類融合的何其緊密，我們在對待人工智能技術(shù)時(shí)都必須始終堅(jiān)持以人為本的原則，時(shí)刻牢記人工智能只是一種工具，歸其根本還是用來推動(dòng)人自身的全面發(fā)展的工具。因此我們應(yīng)該樹立正確的科學(xué)觀和發(fā)展觀，利用合適的渠道普及人工智能知識，讓公眾正確認(rèn)識人工智能，意識到人工智能技術(shù)只是計(jì)算機(jī)科學(xué)的分支的同時(shí)也要明確在我們使用人工智能技術(shù)的時(shí)候必須把握分寸，盡管目前人工智能技術(shù)發(fā)展尚存在于模仿人類行為的階段上，但我們必須理智對待人工智能，防止自身被人工智能所束縛和控制，時(shí)刻保持我們作為人類的自主性和尊嚴(yán)。作為科研人員而言，在研究過程中應(yīng)該適當(dāng)增加倫理關(guān)懷和人文精神。作為我們普通人，我們在面對關(guān)于人工智能的危險(xiǎn)言論時(shí)，切記不要盲目跟風(fēng)，綜合考慮各類因素之后做出準(zhǔn)確的判斷。

3.4 加強(qiáng)監(jiān)管與持續(xù)性改進(jìn)

人工智能引發(fā)的一些倫理問題與該領(lǐng)域的監(jiān)管松懈或空白密切相關(guān)。人工智能的價(jià)值就是為人類服務(wù)，因此人類在使用過程中必然會意識到人工智能所存在的問題與潛在風(fēng)險(xiǎn)。通過消費(fèi)者的反饋，人工智能才能得以快速的完善與發(fā)展。同時(shí)通過科學(xué)家和倫理學(xué)家的專業(yè)知識進(jìn)行人工智能現(xiàn)存問題的分析也是人工智能發(fā)展和監(jiān)督的重要推力，以專業(yè)角度理智看待人工智能，從而推測出人工智能發(fā)展趨勢，提出有利于人工智能可持續(xù)發(fā)展的改進(jìn)措施。

4 結(jié)論

人工智能已被提升到國家戰(zhàn)略層面。人工智能的迅猛發(fā)展需要從法律法規(guī)、倫理制度、人與人工智能的關(guān)系、監(jiān)管等方面進(jìn)行規(guī)制。只有這樣，才能在可控范圍內(nèi)降低人工智能倫理的風(fēng)險(xiǎn)，才能更好地為人類服務(wù)。

參考文獻(xiàn)：

[1] 馬治國，徐濟(jì)寬.人工智能發(fā)展的潛在風(fēng)險(xiǎn)及法律防控監(jiān)管[J].北京工業(yè)大學(xué)學(xué)報(bào)（社會科學(xué)版），2018，18（06）：65-71.

[2] 周程，和鴻鵬.人工智能帶來的倫理與社會挑戰(zhàn)[J].人民論壇，2018（2）：26-28.

[3] 陳偉光，袁靜.人工智能全球治理：基于治理主體、結(jié)構(gòu)和機(jī)制的分析[J].國際觀察，2018（4）：23-37.

[4] 張立文.和合倫理道德論——中華傳統(tǒng)道德精髓與人工智能[J].社會科學(xué)戰(zhàn)線，2018（8）：34-48+281.

[5] 劉憲權(quán).人工智能時(shí)代機(jī)器人行為道德倫理與刑法規(guī)制[J].比較法研究，2018（4）：40-54.

[6] 趙瑜.人工智能時(shí)代的新聞倫理：行動(dòng)與治理[J].人民論壇·學(xué)術(shù)前沿，2018（24）：6-15.

[7] 雷·庫茲韋爾.奇點(diǎn)臨近 [M].北京：機(jī)械工業(yè)出版社，2011

[8] 劉茂錦.人工智能用于新聞業(yè)的法律、倫理問題及對策[J].青年記者，2018（6）：96-97.

[9] 王軍.人工智能的倫理問題：挑戰(zhàn)與應(yīng)對[J].倫理學(xué)研究，2018（4）：79-83.

【通聯(lián)編輯：梁書】