算法向善選擇背后的權(quán)衡與博弈

邱澤奇

【關(guān)鍵詞】算法 效率 社會(huì)規(guī)則 科技向善

作為數(shù)字社會(huì)的技術(shù)核心，當(dāng)下的算法為人類的生產(chǎn)、生活和治理提供了極大的便利。在生活領(lǐng)域，從出門到回家，從進(jìn)入工作場(chǎng)所到離開工作場(chǎng)所，處處都有算法的幫助。人們衣食住行的每個(gè)角落也都有算法在支撐。在生產(chǎn)領(lǐng)域，數(shù)字經(jīng)濟(jì)的發(fā)展，農(nóng)業(yè)、工業(yè)和服務(wù)業(yè)的數(shù)字化轉(zhuǎn)型，都依賴于算法的協(xié)同。在治理領(lǐng)域，從人口有效管理到公共政策的出臺(tái)和公正執(zhí)行，從城市服務(wù)優(yōu)化到鄉(xiāng)村福利分配，算法是其中不可或缺的部分。指紋識(shí)別、人臉識(shí)別、紅綠燈調(diào)節(jié)、駕駛導(dǎo)航、網(wǎng)絡(luò)搜索、在線支付、社會(huì)信用等在生產(chǎn)、生活和治理中的廣泛運(yùn)用，都是算法在助力。

2020 年9 月， 以促進(jìn)科學(xué)發(fā)展為己任的《自然》（Nature） 雜志子刊《機(jī)器智能》（MachineIntelligence）刊登了一篇文章《我們賴以生存的算法》，尖銳批評(píng)英國(guó)政府運(yùn)用算法預(yù)測(cè)學(xué)生高考（A-levelexam）成績(jī)，認(rèn)為用學(xué)生平時(shí)成績(jī)預(yù)測(cè)高考成績(jī)是對(duì)既有社會(huì)分化的固化和極化。近期，國(guó)內(nèi)外賣系統(tǒng)的算法也引起了人們廣泛熱議。人們似乎認(rèn)為，算法是人類共同面對(duì)的、前所未有的敵人，算法之惡已令社會(huì)深惡痛絕。為此，我們?nèi)绾螒?yīng)對(duì)算法的利弊，讓算法更好地服務(wù)于人類社會(huì)？值得探討。

算法的產(chǎn)生與運(yùn)用：泰勒制、老虎機(jī)與數(shù)字導(dǎo)航

當(dāng)下，人們很容易認(rèn)為算法是在大數(shù)據(jù)產(chǎn)生之后才出現(xiàn)的新生事物，其實(shí)不然。在人類面對(duì)大規(guī)模生產(chǎn)組織的時(shí)候，算法就已經(jīng)產(chǎn)生并且被運(yùn)用。

泰勒制是算法運(yùn)用于生產(chǎn)的古典案例。十九世紀(jì)末二十世紀(jì)初，伴隨著企業(yè)規(guī)模迅速擴(kuò)大和企業(yè)數(shù)量迅速增長(zhǎng)所帶來(lái)的是生產(chǎn)的混亂和效率下降。美國(guó)著名管理學(xué)家弗雷德里克·溫斯洛·泰勒（Frederick WinslowTaylor）認(rèn)為，科學(xué)管理如同節(jié)省勞動(dòng)力的機(jī)器一樣，其目的在于提高每個(gè)單位勞動(dòng)時(shí)間的產(chǎn)量。泰勒主張向管理要效率，他研究生產(chǎn)流程的每一道生產(chǎn)工序，把工序分解為最小作業(yè)單元;研究崗位勞動(dòng)者的每一個(gè)生產(chǎn)動(dòng)作，把動(dòng)作分解為耗時(shí)最短的操作;分析生產(chǎn)過(guò)程中使用的每一件生產(chǎn)工具，把工具分解為最簡(jiǎn)單的使用形態(tài)。進(jìn)一步地，他運(yùn)用算法，在工序、勞動(dòng)、工具之間進(jìn)行配置，研究出最經(jīng)濟(jì)且生產(chǎn)效率最高的“標(biāo)準(zhǔn)操作方法”，依據(jù)工序和工具制定生產(chǎn)規(guī)程及勞動(dòng)者的勞動(dòng)定額，并將定額與勞動(dòng)單位的收入掛鉤，讓勞動(dòng)者自己算出每一個(gè)操作的收入。泰勒認(rèn)為，勞動(dòng)者是理性的，也一定會(huì)向收入最大化去努力，當(dāng)每位勞動(dòng)者都實(shí)現(xiàn)收入最大化時(shí)，企業(yè)的效率自然實(shí)現(xiàn)了最大化，這就是科學(xué)管理。其中，工序、勞動(dòng)和工具之間的最佳匹配便是算法的產(chǎn)出。

老虎機(jī)是算法運(yùn)用在生活中的經(jīng)典案例。在美國(guó)西部的“淘金熱”中，一夜致富幾乎是每一個(gè)淘金人的夢(mèng)想。1895 年，查爾斯·費(fèi)（Charles Fey）發(fā)明了老虎機(jī)，運(yùn)用以小博大的淘金夢(mèng)原理：玩家投入極小的賭注，意在有機(jī)會(huì)獲得最大的賠付。許多懷揣淘金夢(mèng)的人把玩老虎機(jī)當(dāng)成了另一種淘金，一時(shí)間，玩老虎機(jī)成為一種時(shí)尚。隨著工業(yè)化的推進(jìn)，人口大量聚集到城市，城市勞動(dòng)人口的業(yè)余時(shí)間成為城市生活亟待占領(lǐng)的一個(gè)市場(chǎng)，老虎機(jī)隨之而來(lái)，不僅成為許多賭場(chǎng)的標(biāo)配，也成為人口密集區(qū)域便利店的設(shè)施。既讓人著迷，又讓人滿懷希望的老虎機(jī)，依靠算法，一方面制造贏家，另一方面讓莊家得以盈利并維系老虎機(jī)的存續(xù)與發(fā)展。數(shù)字導(dǎo)航則是算法運(yùn)用在生產(chǎn)、生活和治理領(lǐng)域的當(dāng)下案例。無(wú)論是物質(zhì)還是人，都可被稱為實(shí)體。運(yùn)輸是為現(xiàn)代市場(chǎng)傳遞實(shí)體的行業(yè)，運(yùn)輸效率對(duì)市場(chǎng)效率有著直接影響。為了提高市場(chǎng)效率，針對(duì)運(yùn)輸設(shè)施和設(shè)備進(jìn)行技術(shù)創(chuàng)新的努力從未停止。單個(gè)設(shè)施和設(shè)備的技術(shù)創(chuàng)新并不足以提高運(yùn)輸效率，設(shè)施設(shè)備之間的協(xié)同才是提高運(yùn)輸效率的關(guān)鍵。為此，人們開發(fā)了運(yùn)輸管理系統(tǒng)，運(yùn)用算法和有限數(shù)據(jù)建構(gòu)運(yùn)輸需求、運(yùn)輸設(shè)施與設(shè)備之間的銜接和匹配關(guān)系。以陸地運(yùn)輸為例，在運(yùn)輸管理系統(tǒng)中，車與路的協(xié)同始終是難題，尤其是在運(yùn)輸需求極高的城市，在運(yùn)輸需求不斷增加的情況下，如何最大限度地讓道路和車輛高效協(xié)同，是城市發(fā)展面臨的問(wèn)題。

傳統(tǒng)的解決方案是，讓人們到路口去數(shù)每個(gè)時(shí)間段的車流量，綜合計(jì)算道路與車流量之間的關(guān)系，將運(yùn)輸需求與道路承載力的關(guān)系轉(zhuǎn)化為紅綠燈的切換節(jié)律。在給定道路承載力與路網(wǎng)關(guān)系的前提下，一方面，用紅綠燈切換、車輛數(shù)量和類型約束提高運(yùn)輸行業(yè)的運(yùn)輸效率;另一方面，駕駛者運(yùn)用經(jīng)驗(yàn)規(guī)劃路徑以提高個(gè)體的運(yùn)輸效率。其中，紅綠燈切換和駕駛者路徑規(guī)劃運(yùn)用的依然是算法。

而當(dāng)下的解決方案是，匯集每一輛車的實(shí)時(shí)位置和移動(dòng)速度數(shù)據(jù)，計(jì)算具體道路的運(yùn)輸需求、車輛數(shù)量、移動(dòng)速度與道路承載力之間的關(guān)系，同時(shí)計(jì)算路網(wǎng)銜接對(duì)運(yùn)輸效率的影響，為每位駕駛者提供道路擁堵程度的數(shù)據(jù)和高效到達(dá)目的地的路徑選擇。在數(shù)字導(dǎo)航中，交通管理系統(tǒng)獲取路網(wǎng)實(shí)時(shí)數(shù)據(jù)，車輛提供實(shí)時(shí)位置和車速數(shù)據(jù)，駕駛者即時(shí)選擇駕駛路徑，道路上的每個(gè)實(shí)體都參與到了提高路網(wǎng)運(yùn)輸效率的行動(dòng)之中。支持這一解決方案的還是算法。

與當(dāng)代算法不同，古典的泰勒制、經(jīng)典的老虎機(jī)和傳統(tǒng)的運(yùn)輸管理系統(tǒng)，還在使用人力和簡(jiǎn)單計(jì)算工具進(jìn)行計(jì)算，無(wú)法對(duì)多個(gè)“關(guān)系對(duì)”進(jìn)行綜合計(jì)算，也沒(méi)有能力實(shí)現(xiàn)整體最優(yōu)。而在數(shù)字導(dǎo)航中，生產(chǎn)、生活及治理三方對(duì)效率的需求被同時(shí)納入到了一個(gè)體系中，三者合一。盡管如此，從泰勒制到數(shù)字導(dǎo)航，算法一直存在于人類的生產(chǎn)、生活和治理領(lǐng)域中。每一個(gè)例子都告訴我們，算法并沒(méi)有自己的好惡，只是提高效率的工具。

算法只是效率工具，不是自我決策系統(tǒng)，社會(huì)規(guī)則決定算法善惡

使用工具產(chǎn)生的后果，無(wú)論善惡，都不是工具的對(duì)錯(cuò)?，F(xiàn)在的我們之所以對(duì)古典、經(jīng)典和傳統(tǒng)算法沒(méi)有惡感，是因?yàn)闆](méi)有生活在當(dāng)時(shí)的社會(huì)場(chǎng)景中。事實(shí)上，泰勒制、老虎機(jī)、紅綠燈等算法也曾引發(fā)過(guò)大規(guī)模輿情、社會(huì)運(yùn)動(dòng)，甚至社會(huì)混亂。

以泰勒制為例。泰勒制是福特制生產(chǎn)流水線的理論依據(jù)。福特（Henry Ford）和他的團(tuán)隊(duì)把汽車生產(chǎn)流程分解為7882 個(gè)動(dòng)作。1913 年，第一條T 型汽車生產(chǎn)流水線誕生。1900 年，美國(guó)的汽車保有量為5000 輛;1917 年，T 型汽車的年產(chǎn)量超過(guò)兩百萬(wàn)輛。第一批T 型汽車售價(jià)八百五十美元，兩年后下降到三百五十美元。與此同時(shí)，工人日薪從三美元增加至五美元，日工作時(shí)間從十小時(shí)以上減少至八小時(shí)。福特制提高了汽車生產(chǎn)效率，也為企業(yè)、工人和社會(huì)三方帶來(lái)了更大收益。但當(dāng)時(shí)，泰勒制卻遭受到前所未有的謾罵和攻擊。一些人認(rèn)為泰勒制反人性，把工人變成了流水線上的螺絲釘，強(qiáng)迫工人做簡(jiǎn)單重復(fù)的勞動(dòng)，損害了工人的身心健康。

而當(dāng)下，由外賣騎手引發(fā)的輿情、對(duì)算法的批判，與二十世紀(jì)早期人們對(duì)泰勒制的批評(píng)相類似。譬如，當(dāng)下對(duì)算法邏輯的批判，認(rèn)為外賣行業(yè)的競(jìng)爭(zhēng)讓傳統(tǒng)勞資關(guān)系的最后一點(diǎn)溫情被剝奪，個(gè)人成為企業(yè)的一個(gè)編號(hào)等。再如，對(duì)算法邏輯帶來(lái)不平等的批判，認(rèn)為資本不會(huì)以公共安全為主要目標(biāo)，資本的天性是追逐更多的企業(yè)利益和更大的市場(chǎng)份額。訂立一個(gè)契約，卻讓完全沒(méi)有議價(jià)能力且被迫接受契約的騎手來(lái)遵守契約并且承擔(dān)后果，正是勞資之間的不平等。更有觀點(diǎn)認(rèn)為，算法難以解決的難題正是勞資之間的剝削關(guān)系，或認(rèn)為勞資矛盾正通過(guò)社會(huì)評(píng)價(jià)體系轉(zhuǎn)化為勞動(dòng)者與消費(fèi)者之間的沖突。甚至還有人將算法政治化，認(rèn)為算法政治不僅是技術(shù)議題，更是政治與道德議題等。

值得思考的是，面對(duì)泰勒制時(shí)，人們把矛頭指向資方，但當(dāng)下，人們卻聚焦于算法?？墒?，算法并不是資方。算法的發(fā)展歷程已經(jīng)表明，其既可以是資方提高效率的工具，也可以是勞方提高效率的工具。至于為誰(shuí)提高效率，不是算法自己掌控的，而是社會(huì)實(shí)體掌控的。既然如此，人們?yōu)槭裁床话衙^對(duì)準(zhǔn)資方或者勞方呢？筆者以為，這與人們對(duì)數(shù)字社會(huì)算法的誤解密切相關(guān)，人們以為數(shù)字社會(huì)的算法是一套自我決策系統(tǒng)。的確，基于大數(shù)據(jù)的算法具備了智能化特性，比如，打敗人類國(guó)際象棋冠軍和圍棋冠軍，計(jì)算道路擁堵?tīng)顟B(tài)和預(yù)測(cè)不同路徑的運(yùn)輸時(shí)間，甚至判斷人們的口味偏好或期待，預(yù)測(cè)人們可能的投票行為，等等。在泰勒制時(shí)代，這是不可想象的目標(biāo)，現(xiàn)如今，人們習(xí)以為常。算法的確參與到了人類的生產(chǎn)、生活和治理之中，提供著各類優(yōu)化選擇，節(jié)省了人類的腦力，也為人類達(dá)成特定目標(biāo)帶來(lái)多種選擇?？墒撬惴ㄖ皇切使ぞ撸皇亲晕覜Q策系統(tǒng)。

也許是數(shù)字社會(huì)的算法與社會(huì)互動(dòng)特征的差異，給人們帶來(lái)了誤解。古典的、經(jīng)典的乃至傳統(tǒng)的算法參與到人類生產(chǎn)、生活和治理領(lǐng)域中是通過(guò)組織體系或物質(zhì)化形態(tài)實(shí)現(xiàn)的。福特制是一種組織體系，老虎機(jī)是一種物質(zhì)形式，二者都是算法的產(chǎn)物，社會(huì)無(wú)法看見(jiàn)算法。但是數(shù)字社會(huì)不同，算法跳出了傳統(tǒng)組織體系和物質(zhì)形態(tài)，直接暴露于社會(huì)中，與社會(huì)實(shí)體進(jìn)行直接互動(dòng)。在數(shù)字導(dǎo)航中，駕駛者選擇不同路徑，算法就會(huì)告訴駕駛者不同的運(yùn)輸時(shí)間;外賣騎手選擇接單，算法就會(huì)把騎手的位置動(dòng)態(tài)直接呈現(xiàn)在賣方、平臺(tái)和買方面前。面對(duì)數(shù)字社會(huì)的算法，每個(gè)社會(huì)實(shí)體就像面對(duì)著另一個(gè)社會(huì)實(shí)體。問(wèn)題是，算法并沒(méi)有因其呈現(xiàn)與社會(huì)互動(dòng)的方式而改變其本質(zhì)。古典算法是一套計(jì)算公式，數(shù)字社會(huì)的算法還是一套計(jì)算公式。不同的是，古典算法是工程師寫在紙上的公式，數(shù)字社會(huì)的算法是程序員寫在數(shù)據(jù)挖掘或機(jī)器學(xué)習(xí)模塊的一段代碼。古典算法也具有互動(dòng)性，只是互動(dòng)周期長(zhǎng)一些，讓人們忽視了互動(dòng)的存在;數(shù)字社會(huì)算法的互動(dòng)周期短或極短，凸顯了互動(dòng)的“刺激—反應(yīng)”特征?？蓺w根結(jié)底，算法不是實(shí)體。

數(shù)字社會(huì)的算法與社會(huì)的強(qiáng)互動(dòng)形成算法對(duì)生產(chǎn)、生活和治理的實(shí)時(shí)參與，直接落入了德國(guó)社會(huì)學(xué)家馬克斯·韋伯（Max Weber）的權(quán)力分析框架。在數(shù)字社會(huì)的算法呈現(xiàn)其社會(huì)影響力時(shí)，計(jì)算社會(huì)學(xué)權(quán)威拉澤爾（David Lazer）呼吁人們關(guān)注算法的影響，并提出“ 社會(huì)算法”（social algorithm），指出計(jì)算程序有能力掌握、評(píng)估我們的期待并提供個(gè)性化的體驗(yàn)。其實(shí)這是一種誤導(dǎo)，把算法提供的建議當(dāng)成強(qiáng)制，以為算法掌握了某種社會(huì)權(quán)力，甚至是霸權(quán)。以閱讀為例，當(dāng)算法為讀者提供個(gè)性化內(nèi)容時(shí)，讀者依然有選擇權(quán)，可學(xué)者們無(wú)論是出于有意還是無(wú)意，卻忽略了用戶（人）的選擇權(quán)。這樣的忽略，無(wú)疑是誤導(dǎo)。

現(xiàn)在，我們分析外賣騎手面對(duì)的算法。想象一個(gè)場(chǎng)景：在道路上，飛奔的外賣騎手，他面對(duì)著四方對(duì)效率的追求：買家、賣家、平臺(tái)、騎手;以及一項(xiàng)阻礙效率的約束條件：路況與運(yùn)輸工具。那么，把每單四十分鐘縮短為三十分鐘，騎手受損了么？事實(shí)是：買家減少十分鐘等待，收益為正;賣家提早十分鐘回籠貨款或許還可多賣出幾單，收益為正;平臺(tái)提早十分鐘收取服務(wù)費(fèi)或因此擴(kuò)大市場(chǎng)覆蓋面，收益為正;騎手提早十分鐘獲得提成或可以多送幾單，收益也為正。在每一方都有收益的系統(tǒng)里，利益相關(guān)方之間的互動(dòng)一定會(huì)產(chǎn)生正反饋（positive feedback）效應(yīng)，每一方對(duì)效率的追求都會(huì)為其他三方帶來(lái)收益，也因此獲得其他三方的支持，進(jìn)一步形成事實(shí)上的“沉默的螺旋”。

面對(duì)“沉默的螺旋”和系統(tǒng)崩潰，社會(huì)選擇的基準(zhǔn)是經(jīng)濟(jì)效率的社會(huì)限度

如果我們把外賣騎手的工作場(chǎng)景放在歷史長(zhǎng)河中，便會(huì)發(fā)現(xiàn)它只是一段歷史在數(shù)字社會(huì)的重現(xiàn)而已。回想一下福特制，外賣騎手的四方互動(dòng)與福特制的多方互動(dòng)一致，外賣騎手面對(duì)的算法與當(dāng)年泰勒制算法并沒(méi)有本質(zhì)區(qū)別，都在提高社會(huì)整體的效率。而問(wèn)題是，如果沒(méi)有對(duì)“沉默的螺旋”的約束，正反饋的后果只有一個(gè)：系統(tǒng)崩潰。相對(duì)于古典、經(jīng)典和傳統(tǒng)算法，數(shù)字社會(huì)的算法會(huì)更快地推動(dòng)系統(tǒng)崩潰。在正反饋體系中，外賣系統(tǒng)的四方，沒(méi)有一方愿意通過(guò)犧牲自己的收益來(lái)挽救系統(tǒng)。

能夠阻止系統(tǒng)崩潰的不是技術(shù)。人們以為在算法中引入對(duì)參數(shù)和模型的不確定性考量，讓算法具有穩(wěn)健性能解決問(wèn)題，或者以為擴(kuò)大算法指針的寬容度，增加算法變量的開放度能解決問(wèn)題。其實(shí)，問(wèn)題不在技術(shù)，算法的穩(wěn)健性、寬容度、開放度都是算法的技術(shù)指標(biāo)，可以改進(jìn)算法的準(zhǔn)確度和精確度，提升系統(tǒng)的效率，卻阻止不了四方之中的任何一方對(duì)更大收益的追逐。

能夠阻止系統(tǒng)崩潰的也不是管理。有觀點(diǎn)認(rèn)為，外賣騎手受平臺(tái)企業(yè)規(guī)則約束，騎手與消費(fèi)者都通過(guò)平臺(tái)建立服務(wù)關(guān)系，因此，只要平臺(tái)改善管理就能阻止系統(tǒng)崩潰，如改善算法、系統(tǒng)、騎手KPI、派單、導(dǎo)航等。一些有社會(huì)影響力的人士甚至還指出，比起將消費(fèi)者置于“多等五分鐘”的道德選擇中，平臺(tái)更需要改變。其實(shí)，問(wèn)題也不在管理。作為營(yíng)利性企業(yè)，平臺(tái)追求效率無(wú)可厚非，既符合實(shí)體角色，也是市場(chǎng)應(yīng)有之義。問(wèn)題是，平臺(tái)改善管理可以在一方內(nèi)部進(jìn)行，卻無(wú)法約束其他三方，更無(wú)力約束整個(gè)市場(chǎng)，何況市場(chǎng)上不止一家外賣平臺(tái)。

一些觀點(diǎn)認(rèn)為，系統(tǒng)崩潰不可避免。理由是，外賣系統(tǒng)的各方幾乎都在承受最大成本。任何一方想要改進(jìn)，只能以其他三方的損失為代價(jià)，并且難以收獲實(shí)效。還有觀點(diǎn)認(rèn)為，一方面，只要資本邏輯沒(méi)有改變，企業(yè)管理的調(diào)整就不可能觸及核心，而只是權(quán)宜之計(jì);另一方面，強(qiáng)制性的外部監(jiān)管又會(huì)給企業(yè)和騎手帶來(lái)成本和收入壓力。其實(shí)，問(wèn)題不是外賣系統(tǒng)內(nèi)誰(shuí)承擔(dān)成本，而是系統(tǒng)之外，面對(duì)“沉默的螺旋”和系統(tǒng)崩潰，社會(huì)如何選擇？歷史事實(shí)告訴我們，選擇的基準(zhǔn)是經(jīng)濟(jì)效率的社會(huì)限度。我們的社會(huì)到底需要怎樣的效率？是讓每一方都安全和有效的社會(huì)效率，還是不顧一切的經(jīng)濟(jì)效率？如果選擇不顧一切的經(jīng)濟(jì)效率，算法無(wú)法阻止系統(tǒng)崩潰，只會(huì)加速系統(tǒng)崩潰。如果選擇每一方都安全和有效的社會(huì)效率，算法也可以支持一個(gè)給定的經(jīng)濟(jì)效率，并且更加公平地分配收益，讓社會(huì)整體最優(yōu)。

對(duì)“沉默的螺旋”的破解需要借助外部規(guī)則。一個(gè)容易理解的例子是道路限速，個(gè)別國(guó)家在特定路段不限制駕駛速度，但是為了公共安全，道路限速依然是世界各國(guó)的普遍實(shí)踐。平臺(tái)企業(yè)自我約束可以達(dá)成某種目標(biāo)，應(yīng)對(duì)市場(chǎng)的利益競(jìng)逐，就像道路限速，社會(huì)作為一個(gè)整體，對(duì)行業(yè)的約束依然是社會(huì)成本最低和實(shí)現(xiàn)社會(huì)整體最優(yōu)的選擇。針對(duì)行業(yè)制定有效的監(jiān)管制度，是可為的治理之策。

對(duì)正反饋的破解則需要數(shù)字社會(huì)的“精益生產(chǎn)”。在泰勒制時(shí)代，社會(huì)通過(guò)對(duì)效率的頻道切換改變了福特制帶來(lái)的正反饋效應(yīng)，把人們對(duì)生產(chǎn)數(shù)量的追求帶到了對(duì)生產(chǎn)質(zhì)量和精益追求的軌道，有效地破解了系統(tǒng)邁向崩潰的迷局。在社會(huì)制定規(guī)則、約束行業(yè)時(shí)，行業(yè)自身也可以考慮轉(zhuǎn)換經(jīng)濟(jì)效率的頻道，以外賣平臺(tái)為例，可以把對(duì)單量的追逐轉(zhuǎn)向?qū)Ψ?wù)質(zhì)量和每單附加值的強(qiáng)調(diào)。