算法的權(quán)力：應(yīng)用與規(guī)制

□陳鵬

內(nèi)容提要 大數(shù)據(jù)時代的到來和深度學(xué)習(xí)算法的重大突破，推動著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的不斷提升，國家和社會對于算法的依賴不斷加深，作為人工智能基石之一的算法也呈現(xiàn)出一定的權(quán)力特征。算法權(quán)力表象上是技術(shù)權(quán)力，在公眾意見及時感知、治理需求有效回應(yīng)、政策議程精準(zhǔn)設(shè)定、政府績效準(zhǔn)確評估等方面具有顯著的功效，為社會規(guī)制國家機器的運行提供了以權(quán)力制約權(quán)力的可能。同時，算法權(quán)力的背后也潛藏著資本的權(quán)力，資本利用其在數(shù)據(jù)和算法上的技術(shù)優(yōu)勢，有應(yīng)用算法進(jìn)行獨裁和推動數(shù)據(jù)霸權(quán)的可能，國家主權(quán)面臨資本深刻的挑戰(zhàn)，全球治理格局也面臨深刻變革。對于算法權(quán)力的規(guī)制，既需要各國在保障數(shù)據(jù)安全和降低對資本的算法技術(shù)依賴等方面付出努力，也需要各國積極開展合作，構(gòu)建全球?qū)用娴乃惴ㄖ卫眢w系并不斷完善全球算法治理機制。

算法和數(shù)據(jù)是人工智能的兩大基石。深度學(xué)習(xí)算法的重大突破和大數(shù)據(jù)時代的到來，推動著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的逐步加深，智能時代正加速到來。在智能時代，國家治理這一傳統(tǒng)上利用科層體制來維系的治理場域，也開始重視引入人工智能技術(shù)來加快推進(jìn)治理體系和治理能力現(xiàn)代化的步伐。伴隨人工智能技術(shù)在國家治理中應(yīng)用程度的不斷加深，國家治理的形態(tài)也經(jīng)歷了不斷的變遷，智能治理作為一種新型的治理模式正悄然來臨。算法作為智能治理的核心，其在智能時代廣泛而深入的應(yīng)用不斷地賦予權(quán)力以更多的屬性，算法權(quán)力正成為一種新型的權(quán)力形態(tài)。權(quán)力的技術(shù)特征和資本特性在算法權(quán)力上得到了較為緊密的結(jié)合。技術(shù)視角下的算法權(quán)力，為社會找到了一個有效規(guī)制國家機器運行的手段，推動著國家與社會關(guān)系發(fā)生著深刻的變革。資本視角下的算法權(quán)力，助推著擁有算法和數(shù)據(jù)技術(shù)優(yōu)勢的資本逐步建構(gòu)起對國家的優(yōu)勢，國家治理秩序和全球治理格局面臨嚴(yán)峻挑戰(zhàn)。在智能時代，擴大算法的應(yīng)用范圍，利用算法的應(yīng)用來規(guī)制國家公權(quán)力的運行，對于推動國家治理體系的完善和國家治理能力的提升非常必要。但同時，面對算法在應(yīng)用過程中可能會給國家治理秩序和全球治理格局帶來的深刻變革，各主權(quán)國家也需要積極開展合作并采取措施，以有效應(yīng)對算法及其背后的資本給國家治理秩序和全球治理格局帶來的沖擊。

一、算法權(quán)力：一種新型的權(quán)力形態(tài)

算法作為人工智能的基石之一，是“一種有限、確定、有效并適合用計算機程序來實現(xiàn)的解決問題的方法，是計算機科學(xué)的基礎(chǔ)”①。20世紀(jì)50年代初期“圖靈測試”的提出，標(biāo)志著人工智能技術(shù)的問世。在此后的很長一段時期內(nèi)，人工智能技術(shù)始終停留在科幻小說和電影作品當(dāng)中，并未取得實質(zhì)性的突破。近年來，伴隨人工智能深度學(xué)習(xí)算法取得的重大突破和大數(shù)據(jù)時代的到來，人工智能的應(yīng)用場景不斷拓展，人工智能時代正逐漸從想象成為現(xiàn)實。借助于海量的大數(shù)據(jù)和具備強大計算能力的硬件設(shè)備，擁有深度學(xué)習(xí)算法的人工智能機器可以通過自主學(xué)習(xí)和強化訓(xùn)練來不斷提升自身的能力，解決很多人類難以有效應(yīng)對的治理難題。伴隨人工智能算法在國家和社會治理中重要性的日漸凸顯，國家和社會對于算法的依賴也逐漸加深，一種新型的權(quán)力形態(tài)——算法權(quán)力也隨之出現(xiàn)。算法權(quán)力是一種人工智能技術(shù)平臺的研發(fā)者和控制者在人工智能應(yīng)用過程中，利用自身在數(shù)據(jù)處理和深度學(xué)習(xí)算法上的技術(shù)優(yōu)勢而生成的對政府、公民、社會組織等對象擁有的影響力和控制力。算法權(quán)力從表象上看是一種技術(shù)權(quán)力，但其背后潛藏著控制算法設(shè)計和研發(fā)過程的資本的權(quán)力，而且在不遠(yuǎn)的將來，算法權(quán)力有可能會脫離人類的掌控并演化成人工智能對于人類的技術(shù)優(yōu)勢甚至是霸權(quán)。

1.算法權(quán)力表象上是一種技術(shù)權(quán)力。算法是人工智能的基石之一，算法水平的高低，在很大程度上決定了人工智能應(yīng)用的廣度和深度。人類社會自進(jìn)入國家狀態(tài)以來，國家和社會的關(guān)系應(yīng)該如何協(xié)調(diào)和平衡一直是政治學(xué)關(guān)注的重要話題，合理配置國家權(quán)力和利用一定的技術(shù)手段來有效規(guī)制國家權(quán)力的行使成為社會應(yīng)對國家權(quán)力的慣常做法。人工智能深度學(xué)習(xí)算法在國家和社會治理中的應(yīng)用，使得政府運行過程更加公開透明，民眾的治理需求能夠得到有效地識別和及時地回應(yīng)，有效地降低了國家和社會治理的成本和難度，提升了國家和社會治理的績效，算法也由此成為社會有效規(guī)制國家機器運行的強大技術(shù)支撐。隨著人工智能應(yīng)用場景的不斷拓展和應(yīng)用程度的不斷加深，依據(jù)人工智能算法分析的結(jié)果來決策、聽取人工智能算法的指令來行為在不久的將來可能會成為人類決策和行為時的常態(tài)，人類對于人工智能算法的技術(shù)依賴將會不斷增強，算法作為一種技術(shù)形態(tài)的權(quán)力開始發(fā)揮著越來越大的影響力和控制力。

2.算法權(quán)力的背后是資本權(quán)力。人工智能深度學(xué)習(xí)算法取得的重大突破，離不開在深度學(xué)習(xí)算法設(shè)計和研發(fā)上投入巨大資金和人力的資本。資本作為算法設(shè)計和研發(fā)過程的主導(dǎo)者，其在算法研發(fā)上的巨大投入在推動人工智能技術(shù)取得重大進(jìn)步的同時，也在不斷強化其自身對國家和社會的影響力和控制力。由于算法的設(shè)計和研發(fā)過程是封閉的，研發(fā)者的價值導(dǎo)向和利益意圖可以隨意地被植入到算法中去，使得算法設(shè)計和研發(fā)過程中存在黑箱操作的可能，人類利用算法來進(jìn)行決策和實施行為時將會面臨一定的風(fēng)險。資本可以非常容易地將自身的利益企圖和行為指向植入到算法中，讓看似在不受任何外界干擾下自行運行的人工智能技術(shù)平臺來幫助資本完成特定的利益訴求，實現(xiàn)利潤最大化的目標(biāo)。同時，擁有算法設(shè)計和研發(fā)優(yōu)勢的資本，通常在數(shù)據(jù)的存儲、提取、分析和處理上也擁有較為明顯的優(yōu)勢，算法技術(shù)和數(shù)據(jù)優(yōu)勢的疊加更加強化了資本對于政府、公民、社會的控制力和影響力，資本和國家的關(guān)系也由此存在重塑的可能。

3.算法權(quán)力最終可能演化成人工智能對于人類的技術(shù)優(yōu)勢甚至是霸權(quán)。近年來，伴隨人工智能技術(shù)的不斷推進(jìn)，人工智能正逐漸從弱人工智能向強人工智能轉(zhuǎn)變，超級人工智能的出現(xiàn)在很多人眼中也將不再遙遠(yuǎn)。人工智能形態(tài)的不斷變革，也給學(xué)界關(guān)于人工智能體的屬性和地位該如何明確帶來了很大的爭論。主張人工智能是機器的學(xué)者主張，人工智能的實質(zhì)是人類設(shè)計出來用于提高企業(yè)生產(chǎn)效率、降低國家和社會治理難度、滿足人類美好生活訴求的機器，人工是智能的前提。而主張人工智能應(yīng)該被賦予主體人格的學(xué)者認(rèn)為，深度學(xué)習(xí)算法的出現(xiàn)，使得人工智能具備了越來越多的自主意識和自主行為能力，應(yīng)該賦予其部分的法律人格②和財產(chǎn)權(quán)利。也有的學(xué)者認(rèn)為，“簡單地以機器‘長得是否像人’或者‘表現(xiàn)得是否像人’作為評判其能否獲得法律主體地位的標(biāo)準(zhǔn)要件，不僅容易因概念的含混不清導(dǎo)致可操作性不強，還可能會陷入法律與科學(xué)技術(shù)雙重認(rèn)識不一致的泥潭”③。未來，人工智能是人還是機器的爭論也許還將持續(xù)很久，但是在深度學(xué)習(xí)算法的推動之下，人工智能的自主學(xué)習(xí)能力正不斷增強，自主意識也在不斷形成，這樣的事實是我們無法回避的。面對強人工智能時代的到來和未來可能會出現(xiàn)的超級人工智能時代的臨近，人工智能脫離資本和人類控制的可能性也隨之大大增加，我們有必要擔(dān)心算法權(quán)力有可能正在從技術(shù)權(quán)力的表象和資本權(quán)力的實質(zhì)演化成人工智能對于人類的技術(shù)優(yōu)勢，并最終有可能轉(zhuǎn)變?yōu)槿斯ぶ悄軐τ谡麄€人類的霸權(quán)。

二、技術(shù)視角下的算法權(quán)力：國家與社會關(guān)系的變革

國家是人類社會發(fā)展到一定歷史階段的產(chǎn)物。人類社會自從進(jìn)入國家狀態(tài)后，面對強大的國家和政府，如何利用技術(shù)手段來有效規(guī)制國家機器的運轉(zhuǎn)、防止公權(quán)力被濫用、維護(hù)社會的安全，是公民和社會始終關(guān)心的問題。大數(shù)據(jù)時代的到來，使得數(shù)據(jù)化存在逐漸成為人類社會的常態(tài)，也為算法權(quán)力的擴張?zhí)峁┝藦V闊的空間。人工智能深度學(xué)習(xí)算法憑借對數(shù)據(jù)的自動提取和快速準(zhǔn)確的分析結(jié)果，在公眾意見及時感知、治理需求有效回應(yīng)、政策議程精準(zhǔn)設(shè)定、政府績效準(zhǔn)確評估等方面具有顯著的功效。伴隨算法在國家治理中應(yīng)用場景的不斷拓展，算法權(quán)力作為一種技術(shù)權(quán)力，為社會有效規(guī)制國家機器的運行提供了以權(quán)力制約權(quán)力的可能，推動著國家與社會之間的關(guān)系發(fā)生著深刻的變革。

1.公眾意見及時感知。公眾意見表達(dá)了社會民眾真實的心理認(rèn)知和強烈的行為訴求，是民意的真實流露，及時感知公眾意見是國家治理的重要任務(wù)，也是提升國家治理水平和治理質(zhì)量的重要前提。公眾意見不同于公共輿論，“沉默的大多數(shù)”現(xiàn)象的存在，使得公共輿論往往成為少數(shù)人利用媒體表達(dá)自身利益訴求的結(jié)果，并不能完全真實地反映出大部分社會民眾的心聲。因此，政府如果完全依據(jù)公共輿論導(dǎo)向來決策和行為，將存在很大的風(fēng)險。大數(shù)據(jù)時代的到來，民眾參與發(fā)表意見的渠道愈發(fā)多樣、成本不斷降低、速度也更加便捷。人工智能深度學(xué)習(xí)算法的突破，使得匯總和處理以數(shù)據(jù)形態(tài)呈現(xiàn)出來的公眾意見所需要的時間成本和技術(shù)難度大大降低，公眾意見被國家及時感知到的可能性大大提高，聽取真實的民眾意見而非營造出的公共輿論來決策和施政成為國家治理的價值使然和行為取向。

2.治理需求有效回應(yīng)。國家治理是政府、市場、公民和社會組織等多元治理主體圍繞特定的治理議題，運用一定的治理手段來實現(xiàn)特定治理目標(biāo)的行為和過程。治理作為一種理念被引入我國公共管理領(lǐng)域已經(jīng)有較長一段時期，但是治理所要求的多中心的治理體系至今尚未有效建立起來，我國治理體系的中心仍舊是各級政府。面對民眾和社會日漸多元化的治理需求，以政府為主導(dǎo)的國家治理體系如何做到有效回應(yīng)是困擾當(dāng)前我國國家治理的現(xiàn)實問題。政府在回應(yīng)民眾需求方面也存在一定的技術(shù)、時間和經(jīng)費上的障礙，使得政府對民眾的回應(yīng)不足和回應(yīng)不及時的問題并存，政府回應(yīng)力亟待提升。人工智能深度學(xué)習(xí)算法的出現(xiàn)及其廣泛應(yīng)用，使得政府可以通過人工智能技術(shù)平臺實現(xiàn)對數(shù)據(jù)的自動提取和快速分析，將民眾反映比較熱烈的重點、難題問題作為政府治理的重點，政府對民眾治理需求回應(yīng)的及時性顯著提高。同時，借助于人工智能技術(shù)平臺對大數(shù)據(jù)進(jìn)行提取和分析的結(jié)果，政府可以抓住問題的關(guān)鍵并及時加以解決，有利于改善政府治理的績效，提升群眾對于政府的滿意度。

3.政策議程精準(zhǔn)設(shè)定。公共政策是各級政府履行經(jīng)濟(jì)和社會管理職能的重要手段。公共政策議程大體包括政策問題的界定、政策方案的設(shè)計、政策的執(zhí)行、政策的監(jiān)控與反饋等環(huán)節(jié)。政策問題的界定是政策議程的起點，“由誰決定哪些社會問題成為政策問題，對于政策制定過程來說是關(guān)鍵性的。決定哪些問題成為政策問題，甚至比決定這些問題的解決辦法更為重要”。④在傳統(tǒng)的公共政策議程中，受制于決策信息供給的不充分和決策者在決策能力、價值立場和利益訴求等方面存在的障礙，政策議程難以做到精準(zhǔn)設(shè)定，政策議程的透明度也較低，“政策黑箱”問題較為嚴(yán)重。伴隨人工智能深度學(xué)習(xí)算法的突破，人工智能技術(shù)平臺通過對海量大數(shù)據(jù)的自動提取、匯總和分析，可以做到精準(zhǔn)設(shè)別政策問題并設(shè)計出一定數(shù)量的具有可行性的政策方案供決策者選擇。同時，在政策方案的選擇環(huán)節(jié)，人工智能技術(shù)平臺通過模擬政策實施的環(huán)境，可以大體測算出各種方案在實施過程中的收益大小及可能會出現(xiàn)的問題，提高政策方案選擇成功的概率。此外，在政策執(zhí)行過程中，人工智能技術(shù)平臺通過對數(shù)據(jù)的采集和分析結(jié)果，可以實現(xiàn)對政策執(zhí)行過程的全程、實時和有效的監(jiān)控，降低“黑箱”操作的可能，進(jìn)而提高政策執(zhí)行成功的概率和效果。

4.政府績效準(zhǔn)確評估。政府治理能力的高低，直接影響到政府績效的好壞，進(jìn)而影響到民眾的切身利益。評估政府行為的績效，找出影響政府績效的因素并及時準(zhǔn)確地反饋，既是社會監(jiān)督政府行為的重要手段，也是幫助政府治理能力提升的有效路徑。由于評估主體、評估時間、評估經(jīng)費和評估手段等因素的限制，現(xiàn)有的政府績效評估主要采取隨機抽樣評估的方式來進(jìn)行。隨機抽樣雖然具有一定的科學(xué)性，但因為所抽取的樣本數(shù)量是有限的，難以真實全面地反映政府績效的全貌，而且政府在績效評估樣本的選擇上存在人為操作的空間，更加降低了社會對于政府績效評估結(jié)果的信任度。大數(shù)據(jù)時代的到來，數(shù)據(jù)化存在成為物體和行為的常態(tài)，政府行為的過程也被以各種形式的數(shù)據(jù)記錄并保存下來。具有深度學(xué)習(xí)算法的人工智能技術(shù)平臺通過對行政運行過程中產(chǎn)生的數(shù)據(jù)進(jìn)行自動的記錄、存儲和分析，能夠清晰地反映出政府行政行為實施前后有關(guān)事務(wù)和人員狀態(tài)發(fā)生的變化情況，為政府績效的準(zhǔn)確評估提供了可能。同時，人工智能技術(shù)平臺通過對政府行為數(shù)據(jù)的自動提取和有效分析，也可以實現(xiàn)以較低的成本、較快的速度準(zhǔn)確完成政府績效評估的任務(wù)，從而實現(xiàn)民眾對政府機關(guān)及其工作人員進(jìn)行有效監(jiān)督的目的，切實規(guī)制國家公權(quán)力的運行空間。

三、資本視角下的算法權(quán)力：資本與國家關(guān)系的重塑

科技是一把雙刃劍，“技術(shù)上最偉大的勝利與最大的災(zāi)難幾乎并列”。⑤算法權(quán)力作為一種技術(shù)權(quán)力，在降低行政運行成本、提高行政運行效率、改善政府治理績效的同時，更為公民和社會深度參與國家治理、充分表達(dá)利益訴求和有效規(guī)制國家機器運行提供了堅強的技術(shù)保障，推動了國家與社會關(guān)系發(fā)生著積極的變革。但同時，在算法權(quán)力的技術(shù)權(quán)力表象之下還潛藏著資本的權(quán)力，“算法權(quán)力這種新興的權(quán)力并不把我們當(dāng)成‘主體’來對待，而是作為可計算、可預(yù)測、可控制的客體”⑥。資本憑借其在算法研發(fā)和數(shù)據(jù)處理等方面的技術(shù)優(yōu)勢，在與國家的不斷博弈中重塑著資本與國家的關(guān)系，對民族國家的主權(quán)會產(chǎn)生一定的沖擊，進(jìn)而對全球治理體系和治理秩序也會產(chǎn)生較為深刻的影響。

1.資本應(yīng)用算法進(jìn)行獨裁的風(fēng)險。人工智能在國家治理、社會治理和公民生活中的深度應(yīng)用，有效地降低了治理的成本和管理的難度，使得人類可以從繁重、枯燥的勞動的解放出來，去追求更加美好的生活。但同時，人工智能算法也是一把雙刃劍，其在推動國家治理、社會管理和社會生活步入智能化階段的同時，也使得國家、社會和公民逐漸產(chǎn)生了對人工智能算法的技術(shù)依賴。算法從表象上來看是一種由人類設(shè)計出來用于完成特定任務(wù)的操作指令而已，但由于算法的設(shè)計和研發(fā)過程是不透明的，算法設(shè)計者在算法的設(shè)計和研發(fā)過程中可能會將其特定的價值取向和利益訴求植入到算法設(shè)計過程中，然后通過人工智能機器的技術(shù)外表來輕松實現(xiàn)其特定的目的。從現(xiàn)有的算法設(shè)計和研發(fā)格局來看，少數(shù)掌握軟件開發(fā)技術(shù)優(yōu)勢的企業(yè)主導(dǎo)著算法的設(shè)計和研發(fā)工作，國家治理、社會治理和企業(yè)管理中使用的智能技術(shù)平臺的供給也被少數(shù)企業(yè)所壟斷。伴隨國家和社會對于算法依賴的加深，主導(dǎo)算法設(shè)計和研發(fā)過程的資本也由此建構(gòu)起對國家、社會和公民的技術(shù)優(yōu)勢。資本為了實現(xiàn)特定的目的，可能會利用算法上的優(yōu)勢來對國家治理和社會管理的過程實施嚴(yán)格的控制，算法獨裁也由此成為國家和社會在算法應(yīng)用過程中需要加以認(rèn)真防控的風(fēng)險。

2.資本利用數(shù)據(jù)推動霸權(quán)的危險。數(shù)據(jù)是算法的權(quán)力特征得以不斷凸顯的重要支撐。人工智能算法水平的提升依賴于海量大數(shù)據(jù)為其提供了強大的學(xué)習(xí)原料和訓(xùn)練素材，算法在國家治理和社會管理中功效的持續(xù)發(fā)揮也有賴于對海量大數(shù)據(jù)進(jìn)行自動提取和分析的結(jié)果?！叭说谋举|(zhì)是一切社會關(guān)系的總和，在一個由數(shù)據(jù)構(gòu)成的世界，人也是一切數(shù)據(jù)足跡的總和。人工智能時代，公民個體社會經(jīng)濟(jì)生活以數(shù)據(jù)形式留下記錄，每個個體無時無刻不是數(shù)據(jù)的生產(chǎn)者……國家的治理、政治的管理、公民的社會生活等都基于數(shù)據(jù)，對數(shù)據(jù)產(chǎn)生巨大的依賴度 ”⑦，數(shù)據(jù)也由此成為人工智能時代重要的戰(zhàn)略資源，誰掌握了數(shù)據(jù)存儲和處理的技術(shù)優(yōu)勢，誰就能在人工智能時代擁有更多的話語權(quán)。數(shù)據(jù)作為重要的戰(zhàn)略資源，它的價值需要通過互聯(lián)和共享并進(jìn)行深度的挖掘方能體現(xiàn)出來，靜態(tài)的、孤立的數(shù)據(jù)是難以體現(xiàn)出巨大價值的。從全社會現(xiàn)有的數(shù)據(jù)分配格局來看，政府掌握的數(shù)據(jù)比市場和社會掌握的數(shù)據(jù)量要多，政府在數(shù)據(jù)的數(shù)量上具有明顯的優(yōu)勢。但是，受到科層體制的束縛，政府內(nèi)部的數(shù)據(jù)存在著較為嚴(yán)重的數(shù)據(jù)壁壘和信息孤島問題，不同區(qū)域之間、不同層級之間和不同部門之間的數(shù)據(jù)在存儲系統(tǒng)的對接和數(shù)據(jù)資源的共享上存在諸多的障礙，大量的政府?dāng)?shù)據(jù)處于沉睡狀態(tài)。同時，政府在數(shù)據(jù)的存儲、分類、處理和分析等方面的技術(shù)積累和人才儲備上也面臨較多的短板。與政府在數(shù)據(jù)的共享和使用等方面存在諸多障礙不同，少數(shù)企業(yè)利用自身研發(fā)的應(yīng)用軟件和智能政務(wù)平臺，不僅掌握了海量的大數(shù)據(jù)，而且憑借其在云存儲和云計算等方面的技術(shù)優(yōu)勢能夠充分的挖掘出數(shù)據(jù)的價值并加以有效利用。目前，少數(shù)企業(yè)在數(shù)據(jù)存儲和處理上的技術(shù)優(yōu)勢正演變成為對國家和社會的權(quán)力優(yōu)勢，并有形成數(shù)據(jù)霸權(quán)的可能，對傳統(tǒng)的資本與國家的關(guān)系產(chǎn)生深刻的影響，公民的信息安全也會遭到一定程度的危險。

3.國家主權(quán)安全面臨資本深刻的挑戰(zhàn)。人工智能時代的到來和智能治理形態(tài)的出現(xiàn)，給現(xiàn)代國家治理體系的完善和治理能力的提升帶來了前所未有的機遇，人工智能體已經(jīng)開始成為現(xiàn)代國家治理體系的重要治理主體，推動著國家治理現(xiàn)代化進(jìn)程的加速。但同時，隨著由資本主導(dǎo)的人工智能技術(shù)在國家治理中應(yīng)用場景的不斷拓展和應(yīng)用程度的日漸加深，國家的主權(quán)安全也正面臨著嚴(yán)峻的考驗。首先，國家治理中應(yīng)用的智能技術(shù)平臺在幫助解決國家治理難題的同時，也在不斷地收集國家治理中產(chǎn)生的重要數(shù)據(jù)，其中很多是關(guān)系到國家和公民切身利益的核心數(shù)據(jù)，主權(quán)國家正面臨著數(shù)據(jù)泄露的危險。其次，在算法研發(fā)和運行過程缺乏必要的透明機制的前提下，國家和社會在治理需求的識別、治理方案的設(shè)計和治理過程的實施等環(huán)節(jié)上對算法產(chǎn)生的高度技術(shù)依賴，使得算法背后的資本擁有了影響和主導(dǎo)國家治理秩序的能力，國家的主權(quán)安全面臨著深刻的危機。最后，資本憑借其在算法技術(shù)上的優(yōu)勢，有發(fā)動算法戰(zhàn)爭的可能。智能治理的核心是算法，資本可以輕易地通過其在算法上的技術(shù)優(yōu)勢，來發(fā)動針對特定主權(quán)國家的算法戰(zhàn)爭，以完成資本對于該國國家主權(quán)控制的目的，特別是那些在算法研制、應(yīng)用和規(guī)制等方面缺乏技術(shù)優(yōu)勢和安全意識淡漠的發(fā)展中國家受到的威脅更大?！坝捎谌狈ο鄳?yīng)技術(shù)積累，發(fā)展中國家并沒有充分有效的方式保護(hù)自己的數(shù)據(jù)安全，也沒有足夠的能力應(yīng)對算法所帶來的干涉。人工智能技術(shù)的進(jìn)步將進(jìn)一步凸顯其在政治安全領(lǐng)域的脆弱性特征，傳統(tǒng)的國家政治安全將面臨嚴(yán)峻的考驗?！雹?/p>

4.全球治理體系和治理秩序存在被資本重塑的可能。人工智能深度學(xué)習(xí)算法的出現(xiàn)和深度應(yīng)用，不僅對國家的數(shù)據(jù)安全產(chǎn)生影響，誘發(fā)數(shù)據(jù)霸權(quán)和算法獨裁問題的出現(xiàn)，進(jìn)而危及到民族國家的主權(quán)，而且也正在對全球治理秩序和治理格局產(chǎn)生重大的影響?！霸谕固胤ダ麃嗴w系所確定的國際關(guān)系的基本原則中，主權(quán)國家是國際體系的核心行為體，直到近幾十年國際組織的出現(xiàn)才在一定程度上打破了其壟斷地位，然而，在走向弱人工智能時代的過渡階段，隨著資本權(quán)力和技術(shù)權(quán)力在國家行為體內(nèi)部的擴張，新的異質(zhì)性行為體將在國際關(guān)系活動中發(fā)揮更加重要的作用，不同類型的行為體因其不同的特性將帶來不同的運行規(guī)則及行為邏輯，由內(nèi)而外地推動國際體系變革的發(fā)生?！雹峋唧w來說，一方面，少數(shù)擁有算法技術(shù)和數(shù)據(jù)優(yōu)勢的超級企業(yè)會成為新的全球治理體系的主體，推動著長期以來一直以主權(quán)國家為主導(dǎo)的全球治理體系發(fā)生重大變革。另一方面，傳統(tǒng)的全球治理秩序也面臨解構(gòu)的可能，資本對于國家的強勢會在一定程度上影響到新的全球治理秩序的構(gòu)建，“資本的權(quán)力也將在政治體系中快速擴張，對建立在傳統(tǒng)工業(yè)化生產(chǎn)基礎(chǔ)上的現(xiàn)代政治體系產(chǎn)生影響，最終在政治權(quán)力分配中獲得充分的反映”。⑩

四、算法權(quán)力的規(guī)制：國家方案和全球視野

當(dāng)前，“發(fā)展人工智能已經(jīng)成為國際社會的共識，然而人工智能在其提供社會發(fā)展動力和平臺的同時，也對經(jīng)濟(jì)、社會、就業(yè)、倫理、安全諸領(lǐng)域提出新挑戰(zhàn)”。?人工智能深度學(xué)習(xí)算法的出現(xiàn)和廣泛應(yīng)用，在讓人類看到利用技術(shù)權(quán)力來規(guī)制國家權(quán)力良機的同時，也提醒人類要警惕算法背后日漸強勢的資本權(quán)力給國家治理秩序和全球治理格局可能會帶來的巨大沖擊。智能時代，算法的應(yīng)用和發(fā)展將不可阻擋，但是算法給國家主權(quán)、公民、社會和全球治理格局帶來的沖擊并非不可避免，至少可以被積極規(guī)制。21世紀(jì)以來，以現(xiàn)實問題為導(dǎo)向的全球治理研究逐漸成為新趨勢，?對于智能時代算法權(quán)力的規(guī)制，既需要各主權(quán)國家在數(shù)據(jù)安全保障和降低在算法上對資本的技術(shù)依賴等方面付出努力，也需要各主權(quán)國家之間積極開展合作，加強全球?qū)用娴乃惴ūO(jiān)管體制和機制的建設(shè)。

（一）國家方案

1.加大對算法設(shè)計和研發(fā)的投入力度。治理手段的更新和治理技術(shù)的進(jìn)步，是推動國家和社會治理績效改善的重要動力。與傳統(tǒng)的治理技術(shù)進(jìn)步不同，人工智能深度學(xué)習(xí)算法的出現(xiàn)，不僅大幅提升了國家和社會治理的績效，而且也對國家和社會治理的秩序產(chǎn)生了顛覆性的影響，利用技術(shù)來治理正逐漸變成依賴技術(shù)來治理，治理主體與治理技術(shù)之間的關(guān)系發(fā)生了根本性的逆轉(zhuǎn)。從現(xiàn)有政府使用的智能治理系統(tǒng)的研發(fā)主體來看，表面上是不同層級的政府聯(lián)合有關(guān)企業(yè)進(jìn)行研發(fā)的，但智能治理系統(tǒng)的核心算法是由少數(shù)企業(yè)研發(fā)出來的。而且，智能治理系統(tǒng)在日常運行過程在中也離不開算法研發(fā)企業(yè)提供的技術(shù)支持。為了有效降低國家和社會對于主導(dǎo)算法設(shè)計和研發(fā)過程的資本的技術(shù)依賴，國家需要加大對算法設(shè)計和研發(fā)的投入力度，國家治理中采用的智能治理系統(tǒng)的核心算法應(yīng)該由政府來掌握，確保國家和社會在應(yīng)用人工智能算法推動傳統(tǒng)治理向智能治理轉(zhuǎn)變過程中的技術(shù)安全。為此，可以由國家的信息產(chǎn)業(yè)主管部門牽頭，組織國有的科研院所、高等院校和相關(guān)的國有企業(yè)的技術(shù)力量來負(fù)責(zé)算法的設(shè)計和研制工作，打破政府對少數(shù)企業(yè)的算法依賴，確保智能治理系統(tǒng)運行的安全。

2.強化對算法設(shè)計、研發(fā)和應(yīng)用過程中的法律監(jiān)管和道德約束。算法作為一定主體設(shè)計和研發(fā)出來用于完成特定任務(wù)的運行程序，其在實踐領(lǐng)域的應(yīng)用表面上看屬于純粹的技術(shù)問題，與設(shè)計者和研發(fā)者的價值取向和利益企圖難以形成關(guān)聯(lián)。但是，由于算法的設(shè)計和研發(fā)過程是封閉的，除了少數(shù)開源算法外，絕大多數(shù)算法是不可解釋的，這就使得算法在運行過程中存在黑箱操作的可能?！坝嬎銠C系統(tǒng)隱含的偏見和利益取向多年前就已引起廣泛關(guān)注。多項研究均顯示，軟件產(chǎn)品具有隱蔽性的特征，特定的權(quán)力結(jié)構(gòu)、價值觀和意識形態(tài)已經(jīng)事先被嵌入其中。在軟件的遮蔽下，‘有限性、許可、特權(quán)和障礙’等限制不易被人察覺。”?

對于算法黑箱的破解，除了要加大對核心算法研發(fā)的資金和技術(shù)投入力度外，還需要國家在算法設(shè)計、研發(fā)和應(yīng)用等環(huán)節(jié)加強對資本的法律監(jiān)管和道德約束。目前，我國在人工智能犯罪的主體界定和責(zé)任承擔(dān)等方面的立法較為滯后，對于人工智能算法設(shè)計和研制方面的道德規(guī)制也不完善，為不少主體利用人工智能深度學(xué)習(xí)算法來從事違法或犯罪行為提供了很大的空間。為此，國家需要在人工智能算法設(shè)計和研發(fā)的標(biāo)準(zhǔn)、規(guī)則和透明度等方面出臺必要的法律規(guī)范和道德準(zhǔn)則，確保人工智能算法在保障國家、公民和社會公共安全的前提下不斷拓展應(yīng)用場景和深化應(yīng)用程度。

3.確保公民數(shù)據(jù)和國家數(shù)據(jù)的安全。算法水平的提升和應(yīng)用場景的拓展離不開數(shù)據(jù)的支撐，國家對于算法權(quán)力的規(guī)制也需要對數(shù)據(jù)的存儲和使用等環(huán)節(jié)進(jìn)行必要的規(guī)范和約束。在人工智能時代，數(shù)據(jù)是重要的戰(zhàn)略資源，以資本為主體“大數(shù)據(jù)掌控者們借助越來越智能化的算法分析和利用著我們的數(shù)據(jù)，開發(fā)著靠數(shù)據(jù)化的人類經(jīng)驗喂養(yǎng)的人工智能產(chǎn)品，在為我們的生活提供越來越多便利的同時影響著我們的選擇和決策，并在此過程中積累起日益膨脹的財富、技術(shù)和人力資源……而我們在消費的同時也都在生產(chǎn)，生產(chǎn)著數(shù)據(jù)，但沒人為我們的數(shù)據(jù)生產(chǎn)支付報酬”?。數(shù)據(jù)生產(chǎn)者與數(shù)據(jù)掌控者分離的現(xiàn)狀和有關(guān)數(shù)據(jù)生產(chǎn)者的產(chǎn)權(quán)應(yīng)該如何保護(hù)等方面的法律和制度的缺失，不僅使得公民數(shù)據(jù)和國家數(shù)據(jù)處于不安全的狀態(tài)之中，也進(jìn)一步強化了資本對于公民和國家的強勢地位?！懊鎸Υ髷?shù)據(jù)對個人隱私潛在的威脅，我們必須重視智能革命時代隱私權(quán)的保護(hù)?！?對此，一方面，國家需要盡快出臺保護(hù)數(shù)據(jù)和數(shù)據(jù)生產(chǎn)者合法權(quán)利的法律法規(guī)，明確數(shù)據(jù)的產(chǎn)權(quán)主體，建立使用者付費制度，防止資本對于公民數(shù)據(jù)和國家數(shù)據(jù)的濫用。另一方面，要打破橫亙在不同區(qū)域、不同層級政府和不同部門之間的數(shù)據(jù)壁壘，連接起數(shù)據(jù)孤島，在統(tǒng)一數(shù)據(jù)系統(tǒng)、數(shù)據(jù)標(biāo)準(zhǔn)和數(shù)據(jù)處理流程的基礎(chǔ)上，加快構(gòu)建由政府主導(dǎo)的國家大數(shù)據(jù)系統(tǒng)，有效確保公民數(shù)據(jù)和國家數(shù)據(jù)的安全。

（二）全球視野

1.構(gòu)建全球算法治理體系。經(jīng)濟(jì)全球化的實質(zhì)是資本的全球化，深度學(xué)習(xí)算法的出現(xiàn)和應(yīng)用場景的拓展，不僅危及到主權(quán)國家的安全，也對全球治理體系和治理秩序產(chǎn)生了很大的影響?！搬槍θ斯ぶ悄芗夹g(shù)的兩大重要基礎(chǔ)——大數(shù)據(jù)和算法，很難形成以國家為界的封閉式治理，其天然涉及到一系列跨境治理議題”?。在應(yīng)對算法權(quán)力及其給國家主權(quán)和全球治理帶來的沖擊等問題方面，僅僅依靠單個國家的努力是很難完成的，構(gòu)建全球算法治理體系是解決全球算法治理難題的必由之路。為此，各主權(quán)國家之間需要摒棄以鄰為壑的思想，采取主動合作的姿態(tài)，構(gòu)建以主權(quán)國家為主體、相關(guān)國際組織參與的全球算法治理體系。這一算法治理體系，主要對算法設(shè)計、研發(fā)和應(yīng)用過程中涉及到的國家主權(quán)安全、道德倫理、法律規(guī)制、人工智能犯罪防控等問題進(jìn)行積極的協(xié)商和溝通，為相關(guān)算法治理機制的出臺提供良好的平臺和空間。

2.完善全球算法治理機制。以主權(quán)國家為主體、有關(guān)國際組織參與的全球算法治理體系的構(gòu)建，為在全球?qū)用嫔蠈λ惴?quán)力進(jìn)行監(jiān)管和規(guī)制提供了難得的治理框架。在此框架內(nèi)，首先，各主權(quán)國家和國際組織應(yīng)該本著對國家主權(quán)的尊重和對智能時代人類命運的終極關(guān)懷，加強在應(yīng)對數(shù)據(jù)霸權(quán)和防范算法獨裁等方面的技術(shù)合作力度，積極推動全球范圍內(nèi)的算法研發(fā)和運行透明機制的建立，將算法應(yīng)用過程中可能出現(xiàn)的風(fēng)險控制在人類可以預(yù)見并能有效應(yīng)對的范圍內(nèi)。其次，推動能夠為國際社會所接受的有關(guān)算法設(shè)計、研發(fā)和應(yīng)用過程的法律規(guī)則、倫理準(zhǔn)則和道德規(guī)范的制定?！八惴捌錄Q策程序是由它們的研發(fā)者塑造的，在細(xì)節(jié)上滲透著研發(fā)者的主觀特質(zhì)?！?也許算法是沒有偏見的，但是不能確保算法的設(shè)計者、研發(fā)者和使用者也是無私的，構(gòu)建為國際社會所接納并能夠讓算法設(shè)計、研發(fā)和使用者自覺遵守的法律規(guī)則、倫理準(zhǔn)則和道德規(guī)范是在全球?qū)用嬉?guī)制算法使用和防控算法獨裁的重要前提。最后，為了防止未來人工智能在深度學(xué)習(xí)算法的推動下可能會脫離人類控制問題的出現(xiàn)，全球算法治理體系有必要推動建立必要的人工智能自我終結(jié)機制，以確保整個人類的安全?！耙陨袣v史學(xué)家尤瓦爾·赫拉利在《未來簡史》中曾不無憂慮地認(rèn)為，人類的進(jìn)程其實是由算法來決定的，在未來，人類的生化算法將被外部算法超越。”?而當(dāng)人類無法控制具備強大學(xué)習(xí)功能并具有獨立自主意識的人工智能時，人工智能自我終結(jié)機制也許是保護(hù)人類安全、維系人類文明的安全閥和緩沖器。

注釋：

①Robert Sedgewick，Kevin Wayne：《算法》（第四版），謝路云譯，人民郵電出版社2012年版。

②袁曾：《人工智能有限法律人格審視》，《東方法學(xué)》2017年第5期。

③吳習(xí)彧：《論人工智能的法律主體資格》，《浙江社會科學(xué)》2018年第6期。

④托馬斯·戴伊：《理解公共政策》（第十二版），中國人民大學(xué)出版社2011年版。

⑤漢斯·昆：《世界倫理構(gòu)想》，周藝譯，生活·讀書·新知三聯(lián)書店2002年版。

⑥?鄭戈：《算法的法律與法律的算法》，《中國法律評論》2018年第2期。

⑦何哲：《人工智能時代的政府適應(yīng)與轉(zhuǎn)型》，《行政管理改革》2016年第8期。

⑧封帥、魯傳穎：《人工智能時代的國家安全:風(fēng)險與治理》，《信息安全與通信保密》2018年第10期。

⑨⑩封帥：《人工智能時代的國際關(guān)系:走向變革且不平等的世界》，《外交評論》2018年第1期。

?張成崗：《人工智能時代：技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)》，《南京社會科學(xué)》2018年第5期。

?薛瀾、俞晗之：《邁向公共管理范式的全球治理——基于“問題—主體—機制”框架的分析》，《中國社會科學(xué)》2015年第11期。

?張淑玲：《破解黑箱：智媒時代的算法權(quán)力規(guī)制與透明實現(xiàn)機制》，《中國出版》2018年第7期。

?吳漢東：《人工智能時代的制度安排與法律規(guī)制》，《法律科學(xué)》2017年第5期。

?俞晗之、王晗曄：《人工智能全球治理的現(xiàn)狀：基于主體與實踐的分析》，《電子政務(wù)》2019年第3期。

??汝緒華：《算法政治:風(fēng)險、發(fā)生邏輯與治理》，《廈門大學(xué)學(xué)報（哲學(xué)社會科學(xué)版）》2018年第6期。