算法經(jīng)濟(jì)與算法監(jiān)管

近年來，隨著云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術(shù)的發(fā)展與應(yīng)用，數(shù)據(jù)作為生產(chǎn)要素的價(jià)值日益體現(xiàn)，算法在經(jīng)濟(jì)活動(dòng)中的重要性日趨凸顯。本文著重探討了算法在經(jīng)濟(jì)領(lǐng)域的影響，并定義了一種以智能算法為核心的新型經(jīng)濟(jì)模式：算法經(jīng)濟(jì)。不過，算法隱含風(fēng)險(xiǎn)，因此要以監(jiān)管科技應(yīng)對(duì)新型科技，加強(qiáng)算法監(jiān)管，這既是順應(yīng)之策，又是必然之舉。

wangyj@pbcsf.tsinghua.edu.cn

欄目編輯

王曄君

算法是指一系列解決問題的清晰計(jì)算機(jī)指令。在當(dāng)今信息時(shí)代，算法已滲透到社會(huì)各個(gè)領(lǐng)域。克里斯托弗·斯坦納在其名著《算法帝國》里對(duì)算法推崇備至，認(rèn)為構(gòu)建算法模仿，超越并最終取代人類，是21世紀(jì)最重要的能力，未來屬于算法和其創(chuàng)造者。

算法經(jīng)濟(jì)

商品經(jīng)濟(jì)的根本是買與賣、供與需的匹配。由于信息不對(duì)稱，市場主體需要搜尋合適的對(duì)手方進(jìn)行交易，這將耗費(fèi)大量成本。某種意義上，搜尋技術(shù)決定了交易空間。在沒有互聯(lián)網(wǎng)之前，人們依靠廣播、電視等媒體廣告搜尋交易對(duì)手。到了互聯(lián)網(wǎng)時(shí)代，人與人之間的物理隔絕與時(shí)空限制得到大幅解放，出現(xiàn)了電子商務(wù)這一全新的經(jīng)濟(jì)模式?！熬W(wǎng)絡(luò)購物，只有想不到，沒有買不到”。網(wǎng)購已深入人們生活的方方面面，供與需的匹配得到極大改善。

應(yīng)該說在互聯(lián)網(wǎng)經(jīng)濟(jì)的初期，以連接產(chǎn)生網(wǎng)絡(luò)效應(yīng)為主，數(shù)據(jù)價(jià)值尚未顯現(xiàn)，算法還只是輔助，電商活動(dòng)高度依賴平臺(tái)公司的組織與管理。近年來，隨著云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術(shù)的發(fā)展與應(yīng)用，數(shù)據(jù)作為生產(chǎn)要素的價(jià)值日益體現(xiàn)，算法在經(jīng)濟(jì)活動(dòng)中的重要性日趨凸顯。

一是算法拓展了互聯(lián)網(wǎng)經(jīng)濟(jì)的深度與廣度。比如，基于平臺(tái)上的交易數(shù)據(jù)、用戶自身提供的數(shù)據(jù)以及其他另類數(shù)據(jù)，開展大數(shù)據(jù)分析，對(duì)用戶進(jìn)行“千人千面”畫像，深入分析每個(gè)消費(fèi)者個(gè)體的行為模式和特點(diǎn)，形成獨(dú)特的客戶洞察，開展精準(zhǔn)營銷、服務(wù)和風(fēng)控;基于算法的智能調(diào)度，使得云計(jì)算很好地解決了實(shí)時(shí)海量交易和數(shù)據(jù)處理的性能要求;智能客服提升客戶服務(wù)的響應(yīng)速度，降低成本，提高效率。

二是出現(xiàn)了以算法為核心的新型經(jīng)濟(jì)模式，也可稱之為算法經(jīng)濟(jì)。算法經(jīng)濟(jì)是指人們將生產(chǎn)經(jīng)驗(yàn)、邏輯和規(guī)則總結(jié)提煉后“固化”在代碼上，使生產(chǎn)經(jīng)營、交易融資等活動(dòng)無須人工干預(yù)，自動(dòng)執(zhí)行的智能化經(jīng)濟(jì)模式。

算法經(jīng)濟(jì)的典型代表是算法金融?；ヂ?lián)網(wǎng)平臺(tái)企業(yè)依靠用戶生態(tài)，以數(shù)據(jù)為核心，以算法為驅(qū)動(dòng)，以計(jì)算資源為保障，在互聯(lián)網(wǎng)平臺(tái)上開展和提供支付、貸款、財(cái)富管理、保險(xiǎn)等各類金融服務(wù)。依靠強(qiáng)大的數(shù)據(jù)分析能力，開展智能營銷、智能風(fēng)控、智能投顧、智能理賠，為客戶提供量身定制的金融服務(wù)和產(chǎn)品，并將專家分析決策經(jīng)驗(yàn)與人工智能技術(shù)融合，通過風(fēng)控模型的自學(xué)習(xí)、自進(jìn)化分析過程，實(shí)現(xiàn)基于海量數(shù)據(jù)機(jī)器學(xué)習(xí)的實(shí)時(shí)復(fù)雜風(fēng)控，幫助合作金融機(jī)構(gòu)更好地量化風(fēng)險(xiǎn)，更好地應(yīng)對(duì)了解你的客戶（Know your customer，簡稱KYC）、反欺詐、反洗錢、信用風(fēng)險(xiǎn)等關(guān)鍵業(yè)務(wù)風(fēng)險(xiǎn)。

算法經(jīng)濟(jì)的典型代表還有共享經(jīng)濟(jì)，如類似優(yōu)步（Uber）、滴滴打車的共享平臺(tái)。在這些平臺(tái)上，生產(chǎn)者與消費(fèi)者直接進(jìn)行動(dòng)態(tài)、多變、復(fù)雜的網(wǎng)狀連接和點(diǎn)對(duì)點(diǎn)交易，而有效支撐這些網(wǎng)狀連接和點(diǎn)對(duì)點(diǎn)交易的則是平臺(tái)企業(yè)所設(shè)計(jì)、維護(hù)和運(yùn)營的強(qiáng)大算法。并且隨著環(huán)境和市場的變化，算法不斷調(diào)整和優(yōu)化。雖然共享平臺(tái)的算法機(jī)制背后仍沒有脫離傳統(tǒng)企業(yè)的組織形態(tài)，平臺(tái)規(guī)則和算法由企業(yè)設(shè)計(jì)、維護(hù)和運(yùn)營，但算法已在很大程度上取代了企業(yè)的組織、管理與協(xié)調(diào)功能，日益成為關(guān)鍵核心。某種意義上，共享平臺(tái)的算法機(jī)制或可看作企業(yè)所提供的SaaS服務(wù)（Software as a Service，應(yīng)用即服務(wù)）。

如果說共享平臺(tái)的算法機(jī)制還“殘余”著企業(yè)的影響，去中介化、去組織化的加密經(jīng)濟(jì)則干凈利落“抹除”了企業(yè)的“痕跡”，完全依靠算法開展經(jīng)濟(jì)活動(dòng)。這是一種“無組織形態(tài)的組織力量”。加密經(jīng)濟(jì)以密碼學(xué)技術(shù)為基礎(chǔ)，通過分布式共識(shí)機(jī)制，“完整、準(zhǔn)確、難以篡改”地記錄價(jià)值轉(zhuǎn)移（交易）的全過程，構(gòu)建了多中心化的應(yīng)用或商業(yè)邏輯，并且通過智能合約，保證業(yè)務(wù)邏輯的自動(dòng)強(qiáng)制執(zhí)行，整個(gè)流程無需管理人員介入，自動(dòng)完成數(shù)字化經(jīng)濟(jì)活動(dòng)。加密經(jīng)濟(jì)不僅有技術(shù)邏輯層上的支撐，又有經(jīng)濟(jì)邏輯層上的保障，再加上區(qū)塊鏈、第五代移動(dòng)通信技術(shù)（5G）、物聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能（Artificial Intelligence，簡稱AI）等技術(shù)的賦能，有望成為具有巨大潛力的新興經(jīng)濟(jì)模式。截至目前，基于“區(qū)塊鏈+5G+物聯(lián)網(wǎng)”的加密經(jīng)濟(jì)模式已在倉單物流、農(nóng)業(yè)溯源、資產(chǎn)數(shù)字化、數(shù)字金融等領(lǐng)域落地應(yīng)用。

與算法經(jīng)濟(jì)相伴隨的是算法貨幣。作為交易的一般等價(jià)物，貨幣理應(yīng)是大家一致同意的社會(huì)共識(shí)，否則無法廣泛流通。在許多時(shí)候，共識(shí)通過制度予以確立，比如法定貨幣。比特幣雖然難以成為真正的貨幣，但它創(chuàng)造了一種完全基于算法的貨幣型態(tài)：經(jīng)共識(shí)驗(yàn)證的難以篡改的可追溯的“未花費(fèi)過的交易輸出”（UTXO），一定程度上啟發(fā)了法定貨幣的數(shù)字化或曰代幣化（Tokenize）。在價(jià)值上，法定數(shù)字貨幣是信用貨幣，在實(shí)現(xiàn)上則很可能是算法貨幣。

算法隱含風(fēng)險(xiǎn)

算法經(jīng)濟(jì)大幅改善市場經(jīng)濟(jì)的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔(dān)心被智能算法替代，導(dǎo)致個(gè)人價(jià)值喪失。不僅如此，隨著算法經(jīng)濟(jì)的快速發(fā)展，算法的滲透力和影響力越趨強(qiáng)大，其背后隱含的風(fēng)險(xiǎn)以及作惡的可能引起了關(guān)注。

首先是算法濫用。算法規(guī)則的背后是商業(yè)利益。為了追求利益最大化，算法有可能違背社會(huì)公平、道德和人性，比如大數(shù)據(jù)殺熟，同樣的商品或服務(wù)，老客戶的價(jià)格反而比新客戶要貴。只推薦給人們能潛在帶來商業(yè)利益的東西，而不是最適合、最恰當(dāng)?shù)臇|西?？赡転E用人性弱點(diǎn)，過度激發(fā)、勸服、誘導(dǎo)客戶，使人習(xí)慣于被喂養(yǎng)，不自覺地對(duì)算法投放的產(chǎn)品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數(shù)據(jù)、商品和工具。算法的具體原理和參數(shù)只有運(yùn)營企業(yè)的少部分人才能知道，有可能產(chǎn)生利益侵占問題，曾經(jīng)某共享打車的動(dòng)態(tài)調(diào)價(jià)算法就被質(zhì)疑過企業(yè)是否在利用算法來謀取私利。甚至，企業(yè)可能利用算法作惡，比如為了擴(kuò)大流量，推送聳人聽聞的虛假信息;推薦虛假產(chǎn)品。

其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結(jié)果必然導(dǎo)致某種偏見。算法的設(shè)計(jì)者是人，算法設(shè)計(jì)師乃至企業(yè)管理者、價(jià)值觀的偏見可能被嵌入算法。算法的“技術(shù)光環(huán)”容易讓人盲從所謂的“科學(xué)”，但實(shí)質(zhì)上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機(jī)器學(xué)習(xí)算法;機(jī)器學(xué)習(xí)算法側(cè)重于相關(guān)性分析，而不是因果分析，可能產(chǎn)生錯(cuò)誤的勾連與判斷;基于歷史數(shù)據(jù)的機(jī)器學(xué)習(xí)算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標(biāo)簽每個(gè)人，某種程度上也是一種偏見。

“算法鴻溝”也值得重視。算法通常是隱秘的，或是專利，或是商業(yè)秘密。即便公開，因技術(shù)門檻，也不是每個(gè)人都能看懂。這就形成新的“數(shù)字鴻溝”。不懂算法的人群在利益受損時(shí)有可能并不知情，即便知情，也可能無力舉證和對(duì)抗。

在特定領(lǐng)域，算法還可能引致特定風(fēng)險(xiǎn)。比如在金融領(lǐng)域，智能算法給出的資產(chǎn)配置建議有可能是推薦了與金融機(jī)構(gòu)自身利益高度攸關(guān)的產(chǎn)品，涉嫌利益侵占;智能算法形成“信息繭房”，強(qiáng)化投資者偏見，容易掩蓋金融風(fēng)險(xiǎn)復(fù)雜性，引誘過度消費(fèi)和負(fù)債，甚至誤導(dǎo)投資者;智能算法若存在歧視，則損害投資者公平性;智能算法趨同導(dǎo)致“羊群效應(yīng)”，加大金融順周期風(fēng)險(xiǎn)等。

算法監(jiān)管建議

各國監(jiān)管部門高度關(guān)注算法隱含的風(fēng)險(xiǎn)。歐盟《一般數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡稱GDPR）第22條對(duì)自動(dòng)化決策加以限制，如果某種包括數(shù)據(jù)分析在內(nèi)的自動(dòng)化決策會(huì)對(duì)數(shù)據(jù)主體產(chǎn)生法律效力或?qū)ζ湓斐深愃频闹卮笥绊?，?shù)據(jù)主體有權(quán)不受上述決策的限制。針對(duì)智能算法在投資顧問中的應(yīng)用，美國證券交易委員會(huì)（SEC）、美國金融業(yè)監(jiān)管局（FINRA）、澳大利亞證券和投資委員會(huì)（ASIC）出臺(tái)了具體的智能投顧監(jiān)管指引。2018年我國資管新規(guī)《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》提出要避免智能算法的順周期性風(fēng)險(xiǎn)，要求金融機(jī)構(gòu)應(yīng)當(dāng)根據(jù)不同產(chǎn)品投資策略研發(fā)對(duì)應(yīng)的人工智能算法或者程序化交易，避免算法同質(zhì)化加劇投資行為的順周期性，并針對(duì)由此可能引發(fā)的市場波動(dòng)風(fēng)險(xiǎn)制訂應(yīng)對(duì)預(yù)案。因算法同質(zhì)化、編程設(shè)計(jì)錯(cuò)誤、對(duì)數(shù)據(jù)利用深度不夠等人工智能算法模型缺陷或者系統(tǒng)異常，導(dǎo)致“羊群效應(yīng)”、影響金融市場穩(wěn)定運(yùn)行的，金融機(jī)構(gòu)應(yīng)當(dāng)及時(shí)采取人工干預(yù)措施，強(qiáng)制調(diào)整或者終止人工智能業(yè)務(wù)。2020年9月，國際證監(jiān)會(huì)組織（International Organization of Securities Commissions，簡稱IOSCO）市場中介機(jī)構(gòu)委員會(huì)發(fā)布中介機(jī)構(gòu)如何應(yīng)用人工智能和機(jī)器學(xué)習(xí)的咨詢報(bào)告，提出具體指導(dǎo)方針，以協(xié)助IOSCO成員建立適當(dāng)?shù)谋O(jiān)管框架，監(jiān)督市場中間商和資產(chǎn)管理人應(yīng)用人工智能和機(jī)器學(xué)習(xí)。即將出臺(tái)的歐盟《數(shù)字服務(wù)法案》（Digital Services Act，簡稱DSA）擬授權(quán)“數(shù)字服務(wù)協(xié)調(diào)員”（Digital Services Coordinators）監(jiān)管大科技公司的合規(guī)情況，其中包括用于定向或精準(zhǔn)廣告的算法是否合法，并要求平臺(tái)企業(yè)公布其算法如何自動(dòng)向在線客戶推送內(nèi)容或商品的細(xì)節(jié)。2020年12月中共中央印發(fā)《法治社會(huì)建設(shè)實(shí)施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法，要加強(qiáng)對(duì)大數(shù)據(jù)、云計(jì)算和人工智能等新技術(shù)研發(fā)應(yīng)用的規(guī)范引導(dǎo)。

總的來說，智能算法已在科技大公司（Bigtech）大量采用，考慮到其生態(tài)規(guī)模巨大、潛在風(fēng)險(xiǎn)和社會(huì)影響不容忽視。而我國算法監(jiān)管制度正逐步完善和健全，但具體內(nèi)容有待細(xì)化完善。

從機(jī)理看，算法監(jiān)管的具體內(nèi)容至少包括六方面：一是信息披露，即作為算法的設(shè)計(jì)者和控制方，科技大公司及其他利益相關(guān)者應(yīng)該披露算法設(shè)計(jì)、執(zhí)行、使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來源以及可能對(duì)個(gè)人和社會(huì)造成的潛在危害。二是解釋，即作為采用算法自動(dòng)化決策的機(jī)構(gòu)，科技大公司及其他利益相關(guān)者有義務(wù)解釋算法運(yùn)行原理以及算法具體決策結(jié)果。三是留痕與可審計(jì)，即算法系統(tǒng)的設(shè)計(jì)、測試、運(yùn)行表現(xiàn)及變動(dòng)留有記錄，全程監(jiān)測，并可審計(jì)。四是質(zhì)詢和申訴，即確保受到算法決策負(fù)面影響的個(gè)人或組織享有對(duì)算法進(jìn)行質(zhì)疑并申訴的權(quán)力。五是內(nèi)部治理。科技大公司應(yīng)建立清晰、有效的內(nèi)部治理框架、內(nèi)部控制機(jī)制和責(zé)任體系，防止算法濫用，防范算法風(fēng)險(xiǎn)，并提高算法對(duì)抗性，避免算法攻擊。六是加強(qiáng)行業(yè)自律。通過行業(yè)自律機(jī)制，加強(qiáng)算法道德和算法倫理建設(shè)。

結(jié)語

不可否認(rèn)，算法催生了新的經(jīng)濟(jì)模式，帶來社會(huì)整體效率提升，有其獨(dú)特優(yōu)勢。但近年來，算法濫用、算法作惡、算法道德、算法倫理等問題卻引起廣泛關(guān)注。卓別林電影《摩登時(shí)代》對(duì)機(jī)器操控產(chǎn)業(yè)工人的諷刺，以及馬克思著作《1844年經(jīng)濟(jì)學(xué)哲學(xué)手稿》對(duì)機(jī)器工業(yè)化時(shí)代人類“異化”的警示提醒我們，就像機(jī)器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風(fēng)險(xiǎn)值得我們關(guān)注與警惕。為此，加強(qiáng)算法監(jiān)管，以監(jiān)管科技應(yīng)對(duì)新型科技，既是順應(yīng)之策，又是必然之舉。

（姚前為中國證監(jiān)會(huì)科技監(jiān)管局局長。本文僅代表作者個(gè)人學(xué)術(shù)觀點(diǎn)，不代表所在機(jī)構(gòu)意見。本文編輯/謝松燕）