智媒時(shí)代算法的倫理問題研究

康寧 蘭州財(cái)經(jīng)大學(xué)

在算法技術(shù)方面，中國(guó)發(fā)展非常迅速，但相應(yīng)的道德研究沒有跟上，目前的研究比較膚淺。因此，本文收集了國(guó)內(nèi)算法的道德研究，并對(duì)國(guó)外研究人員的觀點(diǎn)進(jìn)行了分析和總結(jié)。算法是基于概念設(shè)計(jì)技術(shù)，考察的進(jìn)步，發(fā)展的希望，和發(fā)展?jié)摿Φ娘L(fēng)險(xiǎn)，找到了把道德問題，諸如算法相關(guān)的事，根據(jù)他們的道德問題，提出算法的解決方案或有能力提供服務(wù)的設(shè)施問題的理論和道德責(zé)任，給社會(huì)不公的算法提供前提理論和援助，給我們的道德問題的研究做鋪墊，推動(dòng)算法的進(jìn)步，也可以更好地為人民服務(wù)，推動(dòng)社會(huì)的進(jìn)步。

本文對(duì)算法倫理學(xué)的分析和解決措施的設(shè)想，可以促進(jìn)科技倫理學(xué)的發(fā)展，目的是從倫理學(xué)的角度全面、系統(tǒng)地分析算法產(chǎn)生的倫理問題，找出算法不公平的倫理問題產(chǎn)生的原因和特征。算法技術(shù)是新穎和獨(dú)特的，系統(tǒng)分析算法的倫理問題，能夠在解決現(xiàn)有問題的基礎(chǔ)上，充分防范新的倫理問題。人工智能、大數(shù)據(jù)、分布式和非公平的倫理問題正在產(chǎn)生影響。它們影響了人們的生活，人們對(duì)算法的興趣不僅有助于解決自身的倫理問題，而且也提高了人們對(duì)算法技術(shù)的理解，以期降低其不良影響。

一、算法概述

（一）算法的定義

目前，國(guó)內(nèi)外許多學(xué)者對(duì)算法有不同的定義。Rapaport 認(rèn)為計(jì)算機(jī)科學(xué)中經(jīng)常討論算法的定義，算法的定義具有明確性和一定的規(guī)律性，可以根據(jù)給定的數(shù)據(jù)得到相應(yīng)的結(jié)果[1]。根據(jù)Kleene 的說法，算法是一種特定的程序，其步驟有限，是為特定的目標(biāo)而設(shè)計(jì)的。馬爾可夫（馬爾可夫）算法是一系列的指令，告訴計(jì)算機(jī)做什么，且這組指令必須精確，不能模糊，因此，計(jì)算機(jī)可以執(zhí)行，他認(rèn)為人們不能理解的東西，直到他們可以使用一個(gè)算法來表達(dá)——“如果我不能創(chuàng)造一個(gè)東西，那么你不能理解它[2]”。研究人員的定義因角度和焦點(diǎn)不同而不同，但通常會(huì)根據(jù)不同的輸入進(jìn)行解釋。綜上所述，本文將算法定義為算法工程師（設(shè)計(jì)師或程序員）編寫的一種工具或路徑，它可以在算法工程師（設(shè)計(jì)師或程序員）知道自己想要實(shí)現(xiàn)什么目標(biāo)的前提下，將原始輸入轉(zhuǎn)換為目標(biāo)輸出。

（二）算法的特征

Robin K Hill 認(rèn)為，“算法是有限的、抽象的、有效的復(fù)合控制結(jié)構(gòu)”，本文對(duì)該算法的基本定義進(jìn)行了總結(jié)，總結(jié)了算法的三個(gè)基本特征：確定性、限制性和有效性。確定性是指算法從一種狀態(tài)過渡到另一種狀態(tài)，需要提供從輸入到輸出的信息，包括過程，該過程必須是不模糊的，算法的清晰度不僅僅是消除代碼的模糊，這也要求工程師們對(duì)他們?cè)O(shè)計(jì)的算法有深入的了解。限制性是指需要在有限的時(shí)間和空間范圍內(nèi)表達(dá)的算法。數(shù)不清的步驟顯然是不可能的，一般的算法是不可能實(shí)現(xiàn)的，使用算法技術(shù)的局限性就是高性能。即工程師應(yīng)該設(shè)計(jì)他們能力有限的流程。一種可能性，也稱為執(zhí)行能力，它需要算法的步驟和結(jié)果，它必須要求算法工程師了解現(xiàn)實(shí)中可能發(fā)生的情況。

二、算法產(chǎn)生的倫理問題

（一）算法歧視

1.算法歧視概述

以算法的強(qiáng)大操作功能和邏輯判斷能力為基礎(chǔ)，人們會(huì)逐漸決策任務(wù)算法（算法的決策是指為了實(shí)現(xiàn)一個(gè)目標(biāo)，大數(shù)據(jù)信息技術(shù)支持的基礎(chǔ)上，提出各種各樣的可行解，并使用專業(yè)的科學(xué)標(biāo)準(zhǔn)方案比較，最終選擇最優(yōu)解）的過程。如果員工就業(yè)、信用貸款、治安和刑事審判和有重大社會(huì)影響，如股票交易在做決定之前，是由人類——通常是由專家——現(xiàn)在支持或直接由算法決定，在這種趨勢(shì)下，人們將會(huì)慢慢認(rèn)為人類的決定弱于算法的決定，甚至開始單純迷戀“技術(shù)至上”。

2.算法歧視危害

有學(xué)者支持算法決策的發(fā)展和應(yīng)用，認(rèn)為它可以有效降低歧視的風(fēng)險(xiǎn)。首先，人類的決策方式隨著科技的發(fā)展而改變，這是社會(huì)進(jìn)步的體現(xiàn)。在沒有文字的時(shí)代，人們通過綁繩子、刻石頭等方式記錄信息來做決定。在造紙之前，來自竹子和絲綢的信息被用于決策。在電腦發(fā)明之前，人們用書籍、報(bào)紙和其他紙張來做決定。如果他們有更方便和有效的信息來源，就不會(huì)使用舊的方法了。而現(xiàn)在，隨著大數(shù)據(jù)等算法技術(shù)的發(fā)展，人們對(duì)決策信息的綜合性和可及性有了很大的提高，傳統(tǒng)的決策方法徹底可以被拋棄。其次，人類決策的客觀信息和數(shù)據(jù)的應(yīng)用也隨著時(shí)代進(jìn)步而逐漸改善，大數(shù)據(jù)是被高度重視的，可以說，大數(shù)據(jù)和世界是均勻的和傳統(tǒng)的人工決策信息，數(shù)據(jù)記錄的人類，事物在轉(zhuǎn)化成文字的過程中容易受到人的主觀因素的影響。最后，由于數(shù)據(jù)的算法決定只是冰冷的數(shù)字計(jì)算機(jī)，而算法本身也是一個(gè)機(jī)械項(xiàng)目，輸出結(jié)果是更多的權(quán)威，可以避免歧視?？傊?，從技術(shù)進(jìn)步的角度來看，從數(shù)據(jù)和算法的客觀性可以克服人類決策缺陷的角度來看，算法決策可以更好地降低歧視的風(fēng)險(xiǎn)，這一點(diǎn)應(yīng)該得到推廣。

本文認(rèn)為這種觀點(diǎn)有錯(cuò)誤。首先，算法的決策較于傳統(tǒng)決策略有優(yōu)勢(shì)；其次，本文對(duì)候選決策信息有不同的看法，不同于傳統(tǒng)決策，當(dāng)消費(fèi)者群體根據(jù)他們的行為信息進(jìn)行決策時(shí)，可以建立用戶的偏好。然而，身份的改變會(huì)讓人們的行為在不知不覺中發(fā)生。最后，算法可以繼承社會(huì)排斥和法律規(guī)避。人們?cè)O(shè)計(jì)算法是為了避免決策的模糊歧視的結(jié)果。但這個(gè)想法忽略的隱藏自己的偏見和算法的敏感性數(shù)據(jù)，人民隱瞞自己的偏見是基于社會(huì)政治、經(jīng)濟(jì)或文化等因素，這是或多或少的我們不知道的偏見。

（二）算法不公

1.算法不公概述

公平是“以正確、適當(dāng)?shù)姆绞綄?duì)待每一個(gè)人，并給予每一個(gè)人應(yīng)得的利益”。公平包括絕對(duì)公平和相對(duì)公平，當(dāng)以相同的規(guī)模分配食物時(shí)，本文更傾向于相對(duì)公平。本文定義算法不公是算法技術(shù)的一種表現(xiàn)，它使傳統(tǒng)社會(huì)失去了平衡，從而形成一種更加不公平的格局。

2.算法不公的危害

本文認(rèn)為算法技術(shù)使社會(huì)更加公平，因?yàn)樗惴夹g(shù)給人們提供了一個(gè)機(jī)會(huì)，讓人們能夠更公平地看待問題。我們認(rèn)為，弱勢(shì)和優(yōu)勢(shì)在技術(shù)優(yōu)勢(shì)的群體之間產(chǎn)生，使更好的社會(huì)觀點(diǎn)之間的差距代替不了現(xiàn)實(shí)，將在信息技術(shù)差距的影響下，信息技術(shù)將使優(yōu)勢(shì)群體進(jìn)一步加強(qiáng)。但是算法損害了社會(huì)正義。

（三）道德分析的算法公平

算法的發(fā)展越來越有利于整個(gè)人類社會(huì)的發(fā)展，并具有廣泛而深刻的意義。它在技術(shù)上帶來了另一種變化，擴(kuò)大了人類技術(shù)探索的范圍。無論是醫(yī)學(xué)成像技術(shù)、自動(dòng)駕駛汽車、區(qū)塊鏈還是面部識(shí)別，都是由算法產(chǎn)生的。但算法技術(shù)的一個(gè)特點(diǎn)是，隨著時(shí)間的推移，隨著技術(shù)的進(jìn)步和機(jī)器學(xué)習(xí)的加深，它將變得越來越不受控制。從長(zhǎng)遠(yuǎn)來看，雖然算法有不公平的道德問題，但它也在社會(huì)進(jìn)步中發(fā)揮了重要作用。我們無法準(zhǔn)確地衡量。從長(zhǎng)遠(yuǎn)來看，由于算法系統(tǒng)的指數(shù)增長(zhǎng)速度，算法將加速自己的創(chuàng)新，直到它們達(dá)到一個(gè)技術(shù)奇點(diǎn)，它們開始把人類拋在后面。雖然我們還沒有達(dá)到技術(shù)的奇點(diǎn)，但我們?nèi)匀恍枰杷惴夹g(shù)的未來發(fā)展。由于技術(shù)差距和技術(shù)異常的兩個(gè)原因，不同算法造成的社會(huì)不平等是無限的。

三、算法倫理問題的解決途徑

（一）算法蘊(yùn)含倫理價(jià)值

一些學(xué)者將簡(jiǎn)單的算法與工具進(jìn)行比較，算法實(shí)際上影響到人類自身，技術(shù)作為一種工具只是為了達(dá)到算法的目的，它本身并不具有價(jià)值，所以尋找算法的道德問題的解決方案，道德對(duì)象只要使用就不需要開始討論算法的價(jià)值。本文認(rèn)為這一觀點(diǎn)是一維的，算法的價(jià)值可以作為一種工具來表達(dá)，價(jià)值是解決算法道德問題的重要途徑之一。我不認(rèn)為算法在兩方面都沒有價(jià)值。首先，這篇文章認(rèn)為，算法價(jià)值理論沒有考慮算法的社會(huì)屬性，而是反復(fù)強(qiáng)調(diào)它的自然屬性。算法是一種擴(kuò)展人類能力的技術(shù)。沒有算法，大量的數(shù)據(jù)的收集、分析和存儲(chǔ)不能用大數(shù)據(jù)來完成。沒有算法，汽車無法自動(dòng)駕駛，智能房子不再智能，面部識(shí)別無法識(shí)別。算法的出現(xiàn)，增強(qiáng)了改變?nèi)祟愂澜绲哪芰Γ鰪?qiáng)了人類的主觀性。其次，我們的算法確定，當(dāng)人們做出選擇時(shí)，媒體可以干擾他們的行為。因此，算法不僅僅是一種工具，它本身也包含著道德價(jià)值，因?yàn)樗惴ǖ奶厥庑钥赡苁且环N冷漠的媒體，它會(huì)干擾人類社會(huì)的許多領(lǐng)域，因此算法本身帶有惡意的因素之一觀點(diǎn)更應(yīng)該被人們接受。

（二）價(jià)值嵌入的實(shí)現(xiàn)途徑

技術(shù)本身不具有價(jià)值傾向，算法技術(shù)亦技術(shù)。但是算法設(shè)計(jì)師作為獨(dú)立人是帶有價(jià)值傾向的，他們可以進(jìn)行價(jià)值嵌入。如果算法設(shè)計(jì)者按照好的標(biāo)準(zhǔn)來進(jìn)行算法設(shè)計(jì)，算法會(huì)提示人們選擇好的，反之亦然?？偠灾惴ㄔO(shè)計(jì)師在進(jìn)行算法設(shè)計(jì)時(shí)，就會(huì)有目的和標(biāo)準(zhǔn)，而通過代碼將目的和標(biāo)準(zhǔn)寫入算法，就是價(jià)值嵌入的實(shí)現(xiàn)方式。人類不會(huì)設(shè)計(jì)一個(gè)沒有目的的算法，這樣的算法是沒有靈魂的?；谒惴ǖ哪康暮蜏?zhǔn)則的重要性，我們可以認(rèn)為，價(jià)值嵌入是解決算法倫理問題的最根本途徑。

（三）解決道德問題的算法責(zé)任

1.政府加強(qiáng)法律法規(guī)和監(jiān)督執(zhí)行力度

第一，加強(qiáng)各領(lǐng)域合作，尋求合理的道德指導(dǎo)。政府應(yīng)以國(guó)家戰(zhàn)略政策為指導(dǎo)，推動(dòng)各領(lǐng)域（如社會(huì)學(xué)、法律、道德、計(jì)算機(jī)科學(xué)等）的算法合作，共同開發(fā)算法的理論基礎(chǔ)，為算法的價(jià)值提供理論基礎(chǔ)，規(guī)制算法的使用者以及設(shè)計(jì)者。

第二，成立一個(gè)算法道德委員會(huì)。委員會(huì)的主要任務(wù)是研究最高的道德標(biāo)準(zhǔn)和審查道德的規(guī)則，但它也必須考慮建立地方和省政府的下級(jí)機(jī)構(gòu)，加強(qiáng)局部算法的評(píng)估道德倫理的定位和個(gè)性化，以此來促進(jìn)算法倫理的規(guī)范。

2.算法工程師的倫理責(zé)任承擔(dān)

（1）誠(chéng)實(shí)可靠

第一是誠(chéng)實(shí)地設(shè)計(jì)算法，而不是因?yàn)楦鞣N利益來設(shè)計(jì)算法。第二是充分發(fā)揮算法對(duì)用戶的作用，讓用戶充分發(fā)揮自身的知情權(quán)。由于算法的技術(shù)水平尚未得到充分解決，算法的應(yīng)用應(yīng)該詳細(xì)的告知用戶其可能存在的風(fēng)險(xiǎn)。第三是不要侵犯用戶的隱私，在收集用戶信息的過程中，盡可能避免收集其隱私。

（2）盡職盡責(zé)

第一，進(jìn)行良性算法設(shè)計(jì)。作為工程師，每天根據(jù)用戶需求來設(shè)計(jì)算法，用戶們也是千面的，其中不乏一些人對(duì)工程師提出不合理的算法要求。第二，注意自己的產(chǎn)品。建筑工程師不能逃避豆腐渣工程事故的責(zé)任，算法產(chǎn)品也不能。算法產(chǎn)品需要依賴工程師來維護(hù)和更新，以避免不必要的變化，減少道德問題的風(fēng)險(xiǎn)。第三，當(dāng)算法工程師們發(fā)現(xiàn)異常產(chǎn)品數(shù)據(jù)時(shí)，積極督促生產(chǎn)廠家召回產(chǎn)品。算法產(chǎn)品種類居多并大量生產(chǎn)，一旦產(chǎn)品的數(shù)據(jù)不正常，壞的變化就可能從在線系統(tǒng)傳播開來，擴(kuò)散危害。

（3）算法用戶的倫理價(jià)值培養(yǎng)

第一，積極學(xué)習(xí)算法科學(xué)技術(shù)相關(guān)知識(shí)，深刻理解算法的原理和應(yīng)用，清楚地認(rèn)識(shí)算法歧視、不公平和責(zé)任的產(chǎn)生和危害，避免其負(fù)面影響。第二，我們不能盲目地接受廣告和媒體宣傳，而是從政策和新聞中獲取數(shù)字學(xué)習(xí)技術(shù)的新進(jìn)展，以理解數(shù)字學(xué)習(xí)的優(yōu)勢(shì)，以合理的方式尋找我們的基本權(quán)利和利益。第三，通過合法渠道獲取算法產(chǎn)品，而不是貪婪的小利潤(rùn)。在使用算法產(chǎn)品之前，首先要求制造商或?qū)I(yè)人士注意算法產(chǎn)品的潛伏的危險(xiǎn)，合理規(guī)避，不要利用算法產(chǎn)品的缺陷牟取個(gè)人利益。

四、結(jié)語

由于作者能力的不足，本文還存在許多問題，如算法的倫理學(xué)研究大多來源于文獻(xiàn)和信息，缺乏實(shí)地調(diào)查，因此沒有科學(xué)數(shù)據(jù)來支持它所造成的危害，缺乏說服力，除了解決方案有點(diǎn)少之外，沒有進(jìn)一步細(xì)化分類并對(duì)每一個(gè)倫理問題進(jìn)行詳細(xì)的說明，這將是今后研究的方向。算法還會(huì)繼續(xù)更新與進(jìn)步，有了算法的推動(dòng)，社會(huì)形態(tài)必然會(huì)層次更高、更有活力，以此促使人們不斷地去探索社會(huì)各個(gè)領(lǐng)域。但探索之前，我們必須謹(jǐn)慎對(duì)待算法倫理問題，與算法一同前行。