人工智能對(duì)意識(shí)形態(tài)的操控風(fēng)險(xiǎn)及其化解

摘要：人工智能對(duì)意識(shí)形態(tài)的操控能力，既源于法蘭克福學(xué)派對(duì)科學(xué)技術(shù)與意識(shí)形態(tài)的關(guān)系的辨析，也緣于人工智能技術(shù)的特性。人工智能對(duì)意識(shí)形態(tài)的操控表現(xiàn)在：作為一種技術(shù)工具對(duì)意識(shí)形態(tài)的操控;資本、權(quán)力、技術(shù)的控制者利用人工智能操控意識(shí)形態(tài);機(jī)器人本身所具有的意識(shí)形態(tài)。人工智能對(duì)意識(shí)形態(tài)的操控可能會(huì)帶來(lái)透明人的法律和倫理風(fēng)險(xiǎn)、算法偏見和算法獨(dú)裁風(fēng)險(xiǎn)、不同國(guó)家意識(shí)形態(tài)沖突失控風(fēng)險(xiǎn)?；膺@些風(fēng)險(xiǎn)需要綜合運(yùn)用AI倫理、法律手段和技術(shù)力量。

關(guān)鍵詞：人工智能;意識(shí)形態(tài);風(fēng)險(xiǎn)化解

基金項(xiàng)目：教育部哲學(xué)社會(huì)科學(xué)研究重大課題攻關(guān)項(xiàng)目“人工智能的哲學(xué)思考研究”（項(xiàng)目編號(hào)：18JZD013）;陜西省教育廳專項(xiàng)科研計(jì)劃項(xiàng)目“信息時(shí)代的價(jià)值沖突與價(jià)值共識(shí)問(wèn)題研究”（項(xiàng)目編號(hào)：16JK1038）

中圖分類號(hào)：B022 ? ?文獻(xiàn)標(biāo)識(shí)碼：A ? ?文章編號(hào)：1003-854X（2020）02-0011-06

隨著以深度神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的人機(jī)交互、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、模式識(shí)別等技術(shù)的突破性進(jìn)展，人工智能迎來(lái)了發(fā)展的“第三次高潮”。與以往的技術(shù)不同，人工智能是具有人類“思維”的智能機(jī)器，是一種深刻改變世界甚至深刻改變?nèi)祟惖淖兏镄浴㈩嵏残约夹g(shù)。當(dāng)人工智能的“觸角”逐漸伸入社會(huì)的每一個(gè)角落之時(shí)，當(dāng)國(guó)家的各種活動(dòng)高度依賴于各種智能系統(tǒng)之時(shí)，當(dāng)意識(shí)形態(tài)被人工智能技術(shù)“俘獲”和“刻畫”之時(shí)，我們不禁要追問(wèn)：人工智能何以能夠?qū)σ庾R(shí)形態(tài)進(jìn)行操控？人工智能對(duì)意識(shí)形態(tài)的操控表現(xiàn)在哪些方面？這些“操控”會(huì)帶來(lái)什么風(fēng)險(xiǎn)？如何化解這些風(fēng)險(xiǎn)？

一、人工智能何以能夠?qū)σ庾R(shí)形態(tài)進(jìn)行操控？

人工智能是集眾多高精尖科技為一體的交叉復(fù)合型創(chuàng)新技術(shù)，其對(duì)意識(shí)形態(tài)的操控能力，既源于法蘭克福學(xué)派對(duì)科學(xué)技術(shù)與意識(shí)形態(tài)關(guān)系的辨析，也緣于人工智能技術(shù)的特性。

（一）法蘭克福學(xué)派對(duì)科學(xué)技術(shù)與意識(shí)形態(tài)關(guān)系的辨析

關(guān)于科學(xué)技術(shù)與意識(shí)形態(tài)關(guān)系問(wèn)題，以霍克海默、阿多諾、馬爾庫(kù)塞、哈貝馬斯為代表的法蘭克福學(xué)派曾傾注了極大的興趣探究科學(xué)技術(shù)的意識(shí)形態(tài)屬性、功能等問(wèn)題，形成了獨(dú)樹一幟的科技意識(shí)形態(tài)理論。在他們那里，科學(xué)技術(shù)的意識(shí)形態(tài)功能實(shí)際上反映了其作為一種工具操控意識(shí)形態(tài)的現(xiàn)象。這為我們探究人工智能對(duì)意識(shí)形態(tài)的操控問(wèn)題提供了學(xué)理依循。

首先，科學(xué)技術(shù)本身就是一種意識(shí)形態(tài)。阿爾都塞曾斷言，科學(xué)與意識(shí)形態(tài)之間橫著一條“鴻溝”。但霍克海默指出：“不僅形而上學(xué)，而且還有它所批評(píng)的科學(xué)，皆為意識(shí)形態(tài)的東西。”① 霍克海默與阿多諾在合著的《啟蒙辯證法》中認(rèn)為：“技術(shù)上的合理性，就是統(tǒng)治上的合理性本身。它具有自身異化的社會(huì)的強(qiáng)制性質(zhì)?！雹?如果說(shuō)霍克海默和阿多諾對(duì)技術(shù)操控意識(shí)形態(tài)的描述和哲學(xué)批判稍顯隱約，那馬爾庫(kù)塞則旗幟鮮明、一針見血地指出，當(dāng)代發(fā)達(dá)資本主義社會(huì)由于技術(shù)裝備日益自動(dòng)化，技術(shù)“中立性”的傳統(tǒng)概念被打破，技術(shù)被納入在政治統(tǒng)治的框架中，具有思想灌輸和操縱的作用，能夠?yàn)檎谓y(tǒng)治提供概念和工具，即“技術(shù)控制看來(lái)真正體現(xiàn)了有益于整個(gè)社會(huì)集團(tuán)和社會(huì)利益的理性”③。在馬爾庫(kù)塞看來(lái)，科學(xué)技術(shù)的意識(shí)形態(tài)屬性是通過(guò)科學(xué)技術(shù)對(duì)社會(huì)的控制和調(diào)節(jié)實(shí)現(xiàn)的。因?yàn)榘l(fā)達(dá)工業(yè)社會(huì)是由科學(xué)技術(shù)的進(jìn)步而形成的一個(gè)新型的極權(quán)主義社會(huì)，它窒息了人們對(duì)自由獨(dú)立思想新鮮空氣的攝取，削弱了否定性思考的力量（物理性批判力量）。哈貝馬斯也認(rèn)為，在發(fā)達(dá)工業(yè)資本主義社會(huì)中，基于發(fā)達(dá)工業(yè)社會(huì)國(guó)家干預(yù)活動(dòng)增加而導(dǎo)致的政治合法性危機(jī)和科學(xué)技術(shù)成為“第一生產(chǎn)力”的原因，科學(xué)技術(shù)在整個(gè)社會(huì)生產(chǎn)生活中變成最高評(píng)價(jià)標(biāo)準(zhǔn)，成為一種操控的手段，從而具有了意識(shí)形態(tài)的功能。

其次，科學(xué)技術(shù)對(duì)意識(shí)形態(tài)的操縱是通過(guò)生活化邏輯的隱性形式進(jìn)行的。傳統(tǒng)政治意識(shí)形態(tài)的運(yùn)行主要是依靠統(tǒng)治階級(jí)自上而下的政治宣傳教育。進(jìn)入發(fā)達(dá)工業(yè)社會(huì)，科技意識(shí)形態(tài)運(yùn)行的邏輯主要通過(guò)工業(yè)文化科技產(chǎn)品在日常生活中的廣泛應(yīng)用，使人們安于眼下的生活狀況而失去批判社會(huì)基本問(wèn)題的能力?；艨撕Ｄ赋?，資本主義文化工業(yè)產(chǎn)品諸如電影、電視、無(wú)線廣播等到處被使用，甚至在人們消遣娛樂(lè)時(shí)也會(huì)被“靈活地消費(fèi)”。這種“文化工業(yè)的每一個(gè)運(yùn)動(dòng)，都不可避免地把人們?cè)佻F(xiàn)為整個(gè)社會(huì)所需要塑造出來(lái)的那種樣子”④。馬爾庫(kù)塞認(rèn)為，發(fā)達(dá)工業(yè)社會(huì)生產(chǎn)機(jī)構(gòu)及其所生產(chǎn)的商品和服務(wù)設(shè)施起著思想灌輸和操控作用，它會(huì)引導(dǎo)人們產(chǎn)生一種“虛假的難以看出謬誤的意識(shí)”，這種意識(shí)已經(jīng)潛化為人們的一種生活方式，而且是形式上比以前更好的生活方式。哈貝馬斯指出，統(tǒng)治階級(jí)通過(guò)科技進(jìn)步成果對(duì)個(gè)人需求補(bǔ)償?shù)姆绞剑ㄌ峁┪镔|(zhì)福利）獲得民眾對(duì)政治統(tǒng)治的忠誠(chéng)和認(rèn)可，即科學(xué)技術(shù)成為政治統(tǒng)治的合法性基礎(chǔ)，表現(xiàn)為“技術(shù)統(tǒng)治的意識(shí)”。與以往舊的意識(shí)形態(tài)相比較，“技術(shù)統(tǒng)治的意識(shí)”所具有的“意識(shí)形態(tài)性較少”，而占主導(dǎo)地位的隱形意識(shí)形態(tài)“比之舊式的意識(shí)形態(tài)更加難以抗拒，范圍更為廣泛”⑤。

（二）人工智能技術(shù)的特性為其操控意識(shí)形態(tài)提供了有利條件

從人工智能技術(shù)的特性來(lái)看，由于AI技術(shù)具有強(qiáng)滲透性和廣泛應(yīng)用性等特征，一方面，借助于移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)等技術(shù)平臺(tái)，其在提高勞動(dòng)效率、推動(dòng)生產(chǎn)力發(fā)展方面冠絕以往所有的技術(shù)，從而為人工智能在人類生產(chǎn)生活的殿堂中“登堂入室”提供了合法性基礎(chǔ)。另一方面，其在交通、醫(yī)療、教育、安保、文化等日常生活方面的廣泛應(yīng)用為人們創(chuàng)造了享受“美好生活”的圖式，滿足了哈貝馬斯所說(shuō)的“對(duì)個(gè)人需求的補(bǔ)償”，具有“技術(shù)統(tǒng)治意識(shí)”的特性。更進(jìn)一步，由于人工智能是具有一定人類“思維”的智能機(jī)器，其可以輔助或代替人類完成很多以前必須要人類親力親為的腦力和體力工作，開啟了智能生活的圖式。比如，定位導(dǎo)航靠軟件、出行靠自動(dòng)駕駛、家務(wù)勞動(dòng)靠機(jī)器人、交通管理靠智能指揮系統(tǒng)、社交依靠擬人化機(jī)器人伴侶，等等。智能生活圖式既會(huì)使人們徜徉于眼下舒適生活的“溫床”中而失去思考和批判社會(huì)基本問(wèn)題的能力，也會(huì)使人類過(guò)度依賴于人工智能，產(chǎn)生“人工智能依賴癥”，其思想和觀念將在很大程度上被科技意識(shí)形態(tài)所俘獲。

隨著智能化技術(shù)和產(chǎn)品如潮水般涌入人們的生產(chǎn)生活，智能系統(tǒng)的活動(dòng)正在成為一種不可或缺的社會(huì)活動(dòng)方式，扮演著維系社會(huì)正常運(yùn)轉(zhuǎn)、保證人們生產(chǎn)生活順利進(jìn)行、提高工作學(xué)習(xí)效率的重要角色。這些智能系統(tǒng)的應(yīng)用打破了以往依靠工業(yè)文化武裝起來(lái)的一對(duì)多式的“信源→信宿”單向性、固定化傳接模式而造成的信源與信宿之間的信息分裂，利用大數(shù)據(jù)和搜索技術(shù)進(jìn)行量身定做式個(gè)人化信息的精準(zhǔn)和動(dòng)態(tài)定位、追蹤、推送，從而把意識(shí)形態(tài)的輸出化約為數(shù)據(jù)處理活動(dòng)，形成了經(jīng)濟(jì)基礎(chǔ)與大數(shù)據(jù)共同宰制意識(shí)形態(tài)變化發(fā)展的狀態(tài)，其中內(nèi)隱的意識(shí)形態(tài)操控不言而喻。

二、人工智能對(duì)意識(shí)形態(tài)操控的諸種表現(xiàn)

從人工智能的發(fā)展階段、人工智能與人類的關(guān)系、人工智能發(fā)展的社會(huì)因素角度出發(fā)，人工智能對(duì)意識(shí)形態(tài)的操控主要表現(xiàn)在以下幾個(gè)方面：

（一）作為一種技術(shù)工具對(duì)意識(shí)形態(tài)的操控

塞爾曾借用哲學(xué)認(rèn)識(shí)論的概念，對(duì)人工智能作了“強(qiáng)”和“弱”的區(qū)分。這一區(qū)分立足于現(xiàn)實(shí)和未來(lái)，既描述了人工智能的不同發(fā)展階段，也暗含了人工智能與人類的關(guān)系，為我們分析人工智能對(duì)意識(shí)形態(tài)的操控提供了一個(gè)視角。

在弱人工智能階段，人工智能僅僅作為一種工具被人類使用，人類與人工智能是主客體關(guān)系，人工智能對(duì)意識(shí)形態(tài)的操控主要表現(xiàn)為建立在機(jī)器學(xué)習(xí)基礎(chǔ)上的算法操縱。隨著海量數(shù)據(jù)的爆炸性增長(zhǎng)和計(jì)算機(jī)計(jì)算能力的快速提高，機(jī)器學(xué)習(xí)技術(shù)不僅廣泛應(yīng)用于自然科學(xué)領(lǐng)域，而且也開始應(yīng)用于人類社會(huì)，用于分析、預(yù)測(cè)人類社會(huì)現(xiàn)象。機(jī)器學(xué)習(xí)是對(duì)海量數(shù)據(jù)的處理，解決的是“知識(shí)發(fā)現(xiàn)問(wèn)題”，其本質(zhì)上是一種算法，這種算法本身存在著意識(shí)形態(tài)操控現(xiàn)象。比如，在社交媒體上，基于越來(lái)越多的用戶開始使用圖片和短視頻表達(dá)自己的想法，美國(guó)羅徹斯特大學(xué)計(jì)算機(jī)系教授Lebo Luo與Adobe Research 研究人員運(yùn)用監(jiān)督學(xué)習(xí)中的深度神經(jīng)網(wǎng)絡(luò)技術(shù)，訓(xùn)練計(jì)算機(jī)進(jìn)行文本情感分析，以便確定給定圖片可能呈現(xiàn)出的人類情感。這項(xiàng)工作可能會(huì)對(duì)預(yù)測(cè)選舉結(jié)果很有幫助，從而體現(xiàn)出“工具屬性”的意識(shí)形態(tài)操控。據(jù)統(tǒng)計(jì)：“圖片情緒分類準(zhǔn)確度已經(jīng)超出同類Twitter消息的文本情緒分類準(zhǔn)確度?！雹捱\(yùn)用監(jiān)督學(xué)習(xí)中決策樹的分類方法，可以建立判斷個(gè)人的價(jià)值取向、政治觀點(diǎn)、行為方式的很多數(shù)據(jù)觀測(cè)點(diǎn)（如年齡、學(xué)歷、履歷、政治面貌、工作單位、工作表現(xiàn)等）。利用這些數(shù)據(jù)訓(xùn)練建立與個(gè)人的價(jià)值取向、政治觀點(diǎn)、行為方式之間的關(guān)系，機(jī)器就可能較為便捷地預(yù)測(cè)和掌控個(gè)人意識(shí)形態(tài)的狀況，一定程度上破解以往個(gè)人意識(shí)形態(tài)分散、流變帶來(lái)的掌控難題。目前，人們熟悉的“今日頭條”推薦瀏覽特定新聞而進(jìn)行的意識(shí)形態(tài)滲透所運(yùn)用的算法就是“推薦算法”，這種算法也是機(jī)器學(xué)習(xí)算法的一種。

（二）資本、權(quán)力和技術(shù)的控制者利用人工智能操控意識(shí)形態(tài)

從人工智能發(fā)展的社會(huì)因素來(lái)看，AI對(duì)意識(shí)形態(tài)的操控并不僅僅是一個(gè)技術(shù)問(wèn)題，其背后往往交織著復(fù)雜的社會(huì)關(guān)系。其中，資本、權(quán)力和技術(shù)的控制者基于自己的利益激烈地爭(zhēng)奪人工智能的控制權(quán)進(jìn)而操控意識(shí)形態(tài)的種種“面相”，是人們不得不面對(duì)的一個(gè)重大現(xiàn)實(shí)問(wèn)題。

在機(jī)器大工業(yè)時(shí)代，馬克思立足于物質(zhì)生產(chǎn)實(shí)踐，從科學(xué)技術(shù)（生產(chǎn)力）與生產(chǎn)關(guān)系的關(guān)系出發(fā)，論述了資本和權(quán)力對(duì)工業(yè)機(jī)器的操控問(wèn)題。這對(duì)于我們理解智能時(shí)代資本和權(quán)力爭(zhēng)奪人工智能控制權(quán)提供了有益啟發(fā)。首先，馬克思認(rèn)為，“資本只有一種生活本能，這就是增殖自身，獲取剩余價(jià)值”⑦，而工業(yè)技術(shù)創(chuàng)新帶來(lái)的相對(duì)剩余價(jià)值生產(chǎn)正好契合了這一要求。換句話說(shuō)，資本對(duì)機(jī)器的操控表現(xiàn)在：“資本試圖通過(guò)技術(shù)變革控制剩余價(jià)值的生產(chǎn)過(guò)程和實(shí)現(xiàn)過(guò)程，以最大化無(wú)償占有工人創(chuàng)造的剩余價(jià)值”⑧。馬克思論述生產(chǎn)資本對(duì)工業(yè)機(jī)器的操控，實(shí)際上體現(xiàn)了資產(chǎn)階級(jí)剝削、壓迫工人的意識(shí)形態(tài)問(wèn)題。邁入智能時(shí)代，相比工業(yè)機(jī)器，智能化機(jī)器在資本主義社會(huì)生產(chǎn)中的應(yīng)用更能帶來(lái)“資本增值”。因此，“就實(shí)質(zhì)而言，在資本主義條件下，人工智能實(shí)際上是資本謀取剩余價(jià)值進(jìn)而維持整個(gè)資本主義制度體系存活的技術(shù)工具”⑨。其次，馬克思從資本主義生產(chǎn)方式出發(fā)分析了權(quán)力和技術(shù)的關(guān)系。他認(rèn)為，一方面，工業(yè)革命使得資產(chǎn)階級(jí)獲得了政治統(tǒng)治和經(jīng)濟(jì)統(tǒng)治上的權(quán)力，確立了資產(chǎn)階級(jí)的意識(shí)形態(tài);另一方面，工業(yè)機(jī)器也是工人的“敵對(duì)力量”，其不僅“成了鎮(zhèn)壓工人反抗資本專制的周期性暴動(dòng)和罷工等等的最強(qiáng)有力的武器”⑩，而且技術(shù)上的進(jìn)步意味著資產(chǎn)階級(jí)對(duì)工人奴役程度的加深。因此工人想擺脫這種被奴役的狀態(tài)，獲得政治上的統(tǒng)治權(quán)力，就必須徹底打破此種技術(shù)的資本主義應(yīng)用，打破資產(chǎn)階級(jí)意識(shí)形態(tài)的統(tǒng)治地位。反觀智能機(jī)器，其當(dāng)然也為資產(chǎn)階級(jí)的意識(shí)形態(tài)統(tǒng)治提供了技術(shù)支撐，但更為重要和讓人心潮澎湃的是，智能機(jī)器在生產(chǎn)生活中的廣泛應(yīng)用帶來(lái)的生產(chǎn)力高度發(fā)展、物質(zhì)產(chǎn)品極大豐富、人的自由時(shí)間的增加、信息和知識(shí)可共享性（生產(chǎn)資料的真正公有制）等現(xiàn)象“讓我們離馬克思所設(shè)想的共產(chǎn)主義社會(huì)更近了，或者說(shuō)，它正在提供實(shí)現(xiàn)共產(chǎn)主義的一些關(guān)鍵性的現(xiàn)實(shí)條件”。也可以說(shuō)，這些現(xiàn)象為無(wú)產(chǎn)階級(jí)掌握統(tǒng)治權(quán)力、獲得解放和資本主義意識(shí)形態(tài)向共產(chǎn)主義意識(shí)形態(tài)轉(zhuǎn)變創(chuàng)造了關(guān)鍵性的實(shí)現(xiàn)條件。

在工業(yè)資本主義時(shí)代技術(shù)的控制者操控技術(shù)的現(xiàn)象基本可以還原為當(dāng)代資本和權(quán)力對(duì)人工智能的操控，因?yàn)榧夹g(shù)的控制者大都服務(wù)于資本或者屈從于權(quán)力。但有一點(diǎn)需要說(shuō)明，馬克思在工業(yè)資本主義時(shí)代所面對(duì)的是作為工具的工業(yè)技術(shù)，而智能技術(shù)是一項(xiàng)能夠?qū)θ?、人類社?huì)產(chǎn)生深遠(yuǎn)影響和挑戰(zhàn)的顛覆性技術(shù)，其影響力已經(jīng)遠(yuǎn)遠(yuǎn)超出作為一種工具而使用的范圍。因此，在智能時(shí)代，智能技術(shù)控制者的作用大大增強(qiáng)。在這種情況下，他們掌控技術(shù)的目的有可能服務(wù)于資本或者屈從于權(quán)力，也有可能是為了享受突破技術(shù)難點(diǎn)帶來(lái)的快感和成就感（如“黑客”），這與意識(shí)形態(tài)的操控沒(méi)有關(guān)系。

（三）機(jī)器人本身所具有的的意識(shí)形態(tài)

在強(qiáng)人工智能階段，機(jī)器與人類智能并駕齊驅(qū)或超越人類智能的“奇點(diǎn)”將會(huì)到來(lái)。庫(kù)茲韋爾曾大膽預(yù)測(cè)，到2029年，“人類和機(jī)器之間的鴻溝不復(fù)存在”，并且“機(jī)器們聲稱自己有了主觀意識(shí)，有了和人類一樣豐富的情感和心靈體驗(yàn)”。從可知論、量變與質(zhì)變的辯證關(guān)系來(lái)看，強(qiáng)人工智能的到來(lái)具有必然性。在強(qiáng)人工智能階段，機(jī)器人與人類社會(huì)存在兩種可能性關(guān)系：和諧共存或分裂對(duì)抗。和諧共存是指機(jī)器人與人類不分高下優(yōu)劣，二者和諧共在，相得益彰。費(fèi)爾森斯丁認(rèn)為，當(dāng)機(jī)器人變得足夠復(fù)雜的時(shí)候，它們不會(huì)成為“主人”或“仆人”，而會(huì)成為“人類的伙伴”?！都~約時(shí)報(bào)》高級(jí)記者約翰·馬爾科夫認(rèn)為：“當(dāng)AI和AI圈引領(lǐng)的技術(shù)繼續(xù)重塑世界之時(shí)，未來(lái)其他的可能性就淡出了人們的視野：在那個(gè)世界中，人類和人類創(chuàng)造的機(jī)器共同存在，一起繁榮。” 在此種境遇下，機(jī)器人與人類共存于宇宙之中，并作為人類的伙伴與人類相互幫助、和諧共處，其沒(méi)有必要建立屬于自己的意識(shí)形態(tài)，即便有，也是蘊(yùn)含“與人類和平共處”價(jià)值觀的意識(shí)形態(tài)，此時(shí)的意識(shí)形態(tài)仍然是人類的意識(shí)形態(tài)。分裂對(duì)抗論認(rèn)為，強(qiáng)人工智能或超人工智能的出現(xiàn)將使其與人類分裂、對(duì)立并危害人類。如諾伯特·維納、埃隆·馬斯克、史蒂芬·霍金等科學(xué)家或企業(yè)家都表達(dá)了此類觀點(diǎn)。牛津大學(xué)人類未來(lái)研究院創(chuàng)始人尼克·波斯特羅姆（Nick Bostrom）教授則直接指出，人工智能機(jī)器一旦在智力上超過(guò)人類，它就會(huì)背叛我們。在這一階段，如果機(jī)器人在自我意識(shí)中將自己與人類社會(huì)對(duì)立起來(lái)，那其必然會(huì)建立與人類截然相反的屬于自己的意識(shí)形態(tài)。

三、人工智能對(duì)意識(shí)形態(tài)的操控可能帶來(lái)的風(fēng)險(xiǎn)

人工智能對(duì)意識(shí)形態(tài)的操控既有利于意識(shí)形態(tài)的自動(dòng)追蹤分析、提前預(yù)判、精準(zhǔn)推送，也可能會(huì)帶來(lái)一些重大風(fēng)險(xiǎn)，主要表現(xiàn)在：

（一）透明人的法律和倫理風(fēng)險(xiǎn)

所謂“透明人”，是指“通過(guò)大數(shù)據(jù)的對(duì)比和信息還原，每一個(gè)個(gè)體在一系列時(shí)間段的所有行為都可以在事后還原出來(lái)，由此每個(gè)人的生活狀態(tài)都將在很大程度上成為透明的”。目前，人工智能在圖像、語(yǔ)音和圖像識(shí)別、語(yǔ)義理解、人機(jī)交互、自動(dòng)搜索和分類等領(lǐng)域取得的突破性進(jìn)展依賴于對(duì)海量感知數(shù)據(jù)、網(wǎng)絡(luò)數(shù)據(jù)、社交數(shù)據(jù)、商業(yè)數(shù)據(jù)等數(shù)據(jù)群的機(jī)器分析，這也是人工智能操縱意識(shí)形態(tài)的重要途徑。作為知識(shí)和價(jià)值的轉(zhuǎn)換器，大數(shù)據(jù)由此也成為社會(huì)各領(lǐng)域的重要資源。隨著以網(wǎng)絡(luò)為基礎(chǔ)的各類App的紛紛出現(xiàn)和各種智能系統(tǒng)嵌入人們的生存環(huán)境中，人們的生產(chǎn)生活呈現(xiàn)出“軟件化”和“智能感知化”的特點(diǎn)。在智能化的生存環(huán)境中，移動(dòng)網(wǎng)絡(luò)、傳感器和各種信息處理設(shè)備會(huì)隨時(shí)隨地記錄個(gè)人的行為數(shù)據(jù)（購(gòu)物內(nèi)容、居住地址、出行路線、網(wǎng)絡(luò)言論、生活習(xí)慣等），并把其傳送給服務(wù)商或政府機(jī)構(gòu)，以便他們分析和掌握個(gè)人的意識(shí)形態(tài)狀況。比如，智能家居會(huì)把“窺探”的目光深入到最具隱私性的“家庭領(lǐng)地”中;“機(jī)（智能手機(jī)）不離身”為數(shù)據(jù)中心或服務(wù)后臺(tái)掌握、監(jiān)控個(gè)人的意識(shí)形態(tài)狀況開啟了便捷的大門，等等。這種現(xiàn)象將個(gè)人的信息悄然、無(wú)奈地暴露在服務(wù)商或政府機(jī)構(gòu)的“平臺(tái)曠野”中，人們的一舉一動(dòng)均可被記錄和還原。甚至于掌握這些數(shù)據(jù)的人比我們自己更了解自己，個(gè)人將變?yōu)橥该骰蜔o(wú)隱私化的人。可以預(yù)見，智能時(shí)代關(guān)于侵犯隱私和保護(hù)隱私而產(chǎn)生的法律糾紛、沖突風(fēng)險(xiǎn)以及關(guān)于隱私泄露而造成的倫理沖突風(fēng)險(xiǎn)會(huì)越來(lái)越大。

（二）算法偏見和算法獨(dú)裁風(fēng)險(xiǎn)

算法偏見也稱算法歧視，是指“在看似客觀中立、沒(méi)有惡意的程序設(shè)計(jì)中，卻帶著開發(fā)者的偏見，或者因所采用的數(shù)據(jù)存在傾向性，或者因設(shè)計(jì)技術(shù)局限，在實(shí)際應(yīng)用中導(dǎo)致了種族歧視、性別歧視、年齡歧視、階層歧視、區(qū)域歧視、仇外思想等嚴(yán)重的政治后果”。美國(guó)賓夕法尼亞大學(xué)沃頓商學(xué)院的Alex P. Miller 在《不想被偏見左右？那就用算法》一文中曾指出：“過(guò)去做決策的人非常糟糕，用算法代替他們，既提高了準(zhǔn)確性，又減少了機(jī)構(gòu)偏見?！?Miller對(duì)于算法過(guò)于推崇的觀點(diǎn)遭到了fast.ai的創(chuàng)始人Rachel Thomas的批判。后者認(rèn)為：“在所有情況下，算法都有人參與，即誰(shuí)收集數(shù)據(jù)（以及他們有什么偏見）、做出哪些設(shè)計(jì)決策、如何實(shí)施決策、如何將結(jié)果用于決策，了解各利益相關(guān)者對(duì)算法的正確使用和局限性等?！?這些人為因素都會(huì)影響算法的客觀性。算法偏見在意識(shí)形態(tài)領(lǐng)域最突出的表現(xiàn)是社會(huì)排斥。統(tǒng)治階級(jí)、控制算法技術(shù)的資本家、掌握算法程序設(shè)計(jì)的技術(shù)人員都可以利用算法故意制造算法偏見，在政治權(quán)利、經(jīng)濟(jì)利益、文化參與等領(lǐng)域形成對(duì)被統(tǒng)治階級(jí)或不同意識(shí)形態(tài)階層、人群的排斥，讓冰冷的智能系統(tǒng)無(wú)情地將他們的各種“福利”和“待遇”擋在外面，甚至終生遭受歧視而不得解脫。在資本主義社會(huì)中，算法偏見是資產(chǎn)階級(jí)排斥工人階級(jí)的一把“利劍”。比如，通過(guò)研制和訓(xùn)練特定的投票統(tǒng)計(jì)智能機(jī)器，在選舉、征求意見、爭(zhēng)取民主權(quán)利等方面排斥工人階級(jí);通過(guò)研制和訓(xùn)練特定的聊天機(jī)器人，在社交軟件上自動(dòng)散布意識(shí)形態(tài)偏見信息、自動(dòng)屏蔽與統(tǒng)治階級(jí)意見相左的意識(shí)形態(tài)信息。

算法獨(dú)裁也稱為“算法黑箱”，是指算法本身的不透明性而導(dǎo)致的由算法來(lái)決定裁判結(jié)果的現(xiàn)象。在意識(shí)形態(tài)領(lǐng)域，算法獨(dú)裁主要表現(xiàn)在：第一，對(duì)算法高度依賴導(dǎo)致的算法獨(dú)裁。算法系統(tǒng)以大數(shù)據(jù)為基礎(chǔ)，而對(duì)每一個(gè)人的意識(shí)形態(tài)數(shù)據(jù)進(jìn)行聚合和分析，乃是算法最擅長(zhǎng)做的事情。因此，人們常常為了省時(shí)省力和確保所謂的“客觀”，會(huì)將選擇權(quán)完全交給算法，從而導(dǎo)致算法獨(dú)裁。第二，受資本和權(quán)力控制的算法程序設(shè)計(jì)人員利用算法作出對(duì)自己有利的裁判結(jié)果。更進(jìn)一步，如果某領(lǐng)域的運(yùn)行規(guī)律被算法破解和代替，他們可能會(huì)基于自己的特殊利益而利用算法主宰這些規(guī)律，造成難以預(yù)料的社會(huì)風(fēng)險(xiǎn)。在強(qiáng)人工智能時(shí)代，AI算法將會(huì)破解人類思維、情感、自我意識(shí)等人類最后的“秘密領(lǐng)地”。那時(shí)，我們將真正進(jìn)入“算法統(tǒng)治的時(shí)代”，而基于人—機(jī)意識(shí)形態(tài)的不同，智能機(jī)器將可能成為“永久的獨(dú)裁者”。

（三）不同國(guó)家意識(shí)形態(tài)沖突失控風(fēng)險(xiǎn)

不同國(guó)家在社會(huì)制度、政治體制、經(jīng)濟(jì)體制、文化基因等方面存在差異，使得它們的意識(shí)形態(tài)一直處在沖突或劍拔弩張的狀態(tài)中，特別是中國(guó)和西方國(guó)家的意識(shí)形態(tài)沖突表現(xiàn)尤甚。

從意識(shí)形態(tài)的角度觀之，發(fā)展人工智能是一個(gè)國(guó)家增強(qiáng)自己意識(shí)形態(tài)吸引力、爭(zhēng)奪意識(shí)形態(tài)領(lǐng)導(dǎo)權(quán)和話語(yǔ)權(quán)的重要方式。人工智能是滲透性極強(qiáng)的“智慧”機(jī)器，其對(duì)意識(shí)形態(tài)具有更隱蔽、更便捷、更快速的操縱能力。在以往的電力和電磁革命中，西方國(guó)家一直使用相關(guān)技術(shù)成果（電視、廣播等）搶占意識(shí)形態(tài)的話語(yǔ)權(quán)，極力抹黑與其意識(shí)形態(tài)對(duì)立的國(guó)家。但這些意識(shí)形態(tài)的攻擊囿于人群聚合的物理時(shí)空限制而無(wú)法對(duì)每一個(gè)人產(chǎn)生影響。面對(duì)智能化革命潮浪，移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、物聯(lián)網(wǎng)、傳感器、智能翻譯機(jī)器等新技術(shù)的綜合應(yīng)用可以隨時(shí)隨地直面全球范圍內(nèi)分散的每一個(gè)人，并精準(zhǔn)捕獲他們的個(gè)人信息。當(dāng)前，西方國(guó)家特別是美國(guó)在經(jīng)濟(jì)實(shí)力、文化軟實(shí)力、信息科技、智能技術(shù)等方面具有的優(yōu)勢(shì)使得他們竭力在全球范圍內(nèi)搶占意識(shí)形態(tài)領(lǐng)導(dǎo)權(quán)和話語(yǔ)權(quán)。比如，美國(guó)經(jīng)常憑借大數(shù)據(jù)挖掘技術(shù)的支撐，以人工智能算法為武器，通過(guò)制造假新聞傳播虛假信息、封殺網(wǎng)站和別國(guó)民眾在社交媒體（推特、臉譜）上的賬號(hào)等手段惡意丑化、黑化、攻擊與自己意識(shí)形態(tài)對(duì)立的國(guó)家，加劇了意識(shí)形態(tài)的對(duì)立和沖突失控風(fēng)險(xiǎn)。

四、人工智能對(duì)意識(shí)形態(tài)操控可能帶來(lái)的社會(huì)風(fēng)險(xiǎn)化解策略

人工智能對(duì)意識(shí)形態(tài)操控可能會(huì)帶來(lái)的風(fēng)險(xiǎn)是AI發(fā)展過(guò)程中必然要面對(duì)的現(xiàn)實(shí)問(wèn)題?；膺@些風(fēng)險(xiǎn)需要綜合運(yùn)用AI倫理規(guī)范、法律手段和技術(shù)力量。

（一）運(yùn)用人工智能倫理準(zhǔn)則規(guī)范從業(yè)人員的思想和行為

人工智能對(duì)意識(shí)形態(tài)操控可能會(huì)帶來(lái)的風(fēng)險(xiǎn)向倫理領(lǐng)域提出了化解風(fēng)險(xiǎn)的強(qiáng)烈呼聲。這就需要建立人工智能倫理準(zhǔn)則，從而規(guī)范相關(guān)從業(yè)人員的思想和行為。倫理規(guī)范并不是情感、偏好、習(xí)慣、主觀臆斷的“代名詞”。美國(guó)學(xué)者理查德·A.斯皮內(nèi)洛指出：“道德判斷的基礎(chǔ)能夠而且應(yīng)當(dāng)是建立在合乎理性的道德原則以及健全的經(jīng)過(guò)細(xì)致推理的論據(jù)之上的。規(guī)范性主張的背后是那些通過(guò)理性話語(yǔ)展示的可以辯護(hù)的道德原則。” 人工智能倫理首先應(yīng)該確立一種道德信念、信仰、理想，即這種技術(shù)是為人類服務(wù)的，而不是傷害人類;是為大多數(shù)人或國(guó)家的利益服務(wù)的，而不是少數(shù)別有用心的人或國(guó)家用來(lái)推行“技術(shù)極權(quán)主義”和“技術(shù)沙文主義”的借口。2017年美國(guó)電氣和電子工程師協(xié)會(huì)（IEEE）宣布的三項(xiàng)新的人工智能倫理標(biāo)準(zhǔn)就是為了確保人類不受人工智能的威脅。2019年4月歐盟委員會(huì)發(fā)布的人工智能倫理準(zhǔn)則指出，“可信賴的人工智能”應(yīng)尊重基本人權(quán)、規(guī)章制度、核心原則及價(jià)值觀。其次，應(yīng)建立人工智能倫理規(guī)范內(nèi)化機(jī)制，通過(guò)宣傳教育引導(dǎo)、實(shí)踐養(yǎng)成、制度保障等途徑把AI道德信念、信仰、理想內(nèi)化為從業(yè)人員靈魂深處的價(jià)值準(zhǔn)則，確保他們有一顆維護(hù)公正的“良心”。

（二）運(yùn)用法律手段加強(qiáng)個(gè)人信息保護(hù)和算法治理

法律手段是化解人工智能對(duì)意識(shí)形態(tài)操控可能會(huì)帶來(lái)的風(fēng)險(xiǎn)的有效手段。

首先，通過(guò)立法，為保護(hù)個(gè)人信息和規(guī)范良性算法建立監(jiān)管的法律基礎(chǔ)。日本于2005年4月1日實(shí)施的《個(gè)人信息保護(hù)法》在保護(hù)個(gè)人信息、增強(qiáng)公民維權(quán)意識(shí)等方面取得了良好的效果。我國(guó)在《中華人民共和國(guó)刑法修正案（九）》（2015年）、《中華人民共和國(guó)網(wǎng)絡(luò)安全法》（2016年）、《中華人民共和國(guó)民法總則》（2017年）中，也分別從侵犯公民個(gè)人信息罪、個(gè)人信息收集和使用以及保護(hù)、自然人的個(gè)人信息受法律保護(hù)的角度對(duì)保護(hù)個(gè)人信息作了明確規(guī)定。為了在立法層面打擊違法信息與規(guī)制社交媒體，德國(guó)于2017年通過(guò)的《網(wǎng)絡(luò)執(zhí)行法》規(guī)定：“明顯違法的內(nèi)容在收到投訴24小時(shí)內(nèi)必須刪除或者屏蔽，僅在與偵查機(jī)關(guān)約定更長(zhǎng)期限的情況下存有例外;對(duì)其他違法內(nèi)容應(yīng)當(dāng)及時(shí)（一般在7天內(nèi)）予以刪除或者屏蔽?！?目前，世界各國(guó)在算法偏見和算法獨(dú)裁方面的立法工作亟待加強(qiáng)。其次，通過(guò)加強(qiáng)執(zhí)法力度，既促進(jìn)個(gè)人信息保護(hù)法律真正“落地”，也規(guī)范和調(diào)整算法治理中多元治理主體之間復(fù)雜的互動(dòng)關(guān)系，落實(shí)算法治理的法律主體責(zé)任。法律的生命力在于實(shí)施，而加強(qiáng)執(zhí)法力度是實(shí)施善法最重要的途徑。對(duì)于違反個(gè)人信息保護(hù)法、故意制造算法偏見和算法獨(dú)裁、編造和散布假新聞的行為主體，必須依法打擊和制裁。

（三）運(yùn)用技術(shù)力量矯正技術(shù)漏洞和人為缺陷

人工智能技術(shù)是一項(xiàng)正在快速發(fā)展并遠(yuǎn)未定型的革命性技術(shù)，其在發(fā)展的過(guò)程中難免會(huì)出現(xiàn)技術(shù)漏洞和人為缺陷。對(duì)此，可以運(yùn)用“技術(shù)反制技術(shù)”的思路，通過(guò)更優(yōu)技術(shù)矯正技術(shù)漏洞和人為缺陷，防范和化解人工智能對(duì)意識(shí)形態(tài)操控可能會(huì)帶來(lái)的風(fēng)險(xiǎn)。比如，面對(duì)個(gè)人信息肆意泄露而造成的“透明人”現(xiàn)象，可以通過(guò)加密技術(shù)、匿名化技術(shù)、屏蔽技術(shù)等手段防止惡意搜集信息;通過(guò)建立信息可追溯技術(shù)體系，加強(qiáng)對(duì)竊取、泄露個(gè)人隱私信息的源頭追溯，為法律制裁提供證據(jù)支撐;通過(guò)研制和安裝相關(guān)隱私保護(hù)的軟件，提醒消費(fèi)者哪些個(gè)人信息正在被搜集，由消費(fèi)者決定是否繼續(xù)瀏覽該網(wǎng)站。對(duì)于算法偏見和算法獨(dú)裁風(fēng)險(xiǎn)，可采用數(shù)據(jù)采集完整性技術(shù)降低或消除數(shù)據(jù)的不準(zhǔn)確、分布偏差等缺陷;運(yùn)用區(qū)域鏈技術(shù)保證記錄可追查與記錄不會(huì)被篡改，以便技術(shù)人員矯正技術(shù)漏洞和人為缺陷;通過(guò)偏見檢測(cè)技術(shù)，檢測(cè)并減少可能產(chǎn)生的偏見（如IBM將自己研發(fā)的偏見檢測(cè)工具AI Fairness 360工具包開源，從而為檢測(cè)偏見提供了一個(gè)平臺(tái)）;為機(jī)器學(xué)習(xí)增加手動(dòng)限制和為機(jī)器安裝一顆“良芯”，確保用戶更好地控制人工智能程序，防止算法獨(dú)裁現(xiàn)象出現(xiàn)。

總之，人工智能對(duì)意識(shí)形態(tài)的操控是AI技術(shù)及其發(fā)展與意識(shí)形態(tài)問(wèn)題交織而必然出現(xiàn)的一種現(xiàn)象。明晰人工智能何以能夠?qū)σ庾R(shí)形態(tài)進(jìn)行操控、廓清人工智能對(duì)意識(shí)形態(tài)操控的諸種表現(xiàn)、研判人工智能對(duì)意識(shí)形態(tài)的操控可能會(huì)帶來(lái)的風(fēng)險(xiǎn)及其化解策略，對(duì)于發(fā)展人工智能、防止意識(shí)形態(tài)沖突失控具有重要作用。

注釋：

① 馬克斯·霍克海默：《批判理論》，李小兵等譯，重慶出版社1989年版，第5頁(yè)。

②④ 馬克斯·霍克海默，特奧多·阿多爾諾：《啟蒙辯證法》，洪佩郁、藺月峰譯，重慶出版社1990年版，第113、118頁(yè)。

③ 赫伯特·馬爾庫(kù)塞：《單向度的人——發(fā)達(dá)工業(yè)社會(huì)意識(shí)形態(tài)研究》，劉繼譯，上海世紀(jì)出版集團(tuán)2008年版，第9頁(yè)。

⑤ 尤爾根·哈貝馬斯：《作為“意識(shí)形態(tài)”技術(shù)與科學(xué)》，李黎、郭官義譯，上海學(xué)林出版社1999年版，第69頁(yè)。

⑥ Tony Thorne MBE：《奇點(diǎn)來(lái)臨》，趙俐譯，人民郵電出版社2016年版，第101頁(yè)。

⑦⑩《馬克思恩格斯文集》第5卷，人民出版社2009年版，第269、501頁(yè)。

⑧ 蔡敏、周端明：《技術(shù)是資本控制勞動(dòng)的工具：馬克思主義技術(shù)創(chuàng)新理論》，《貴州社會(huì)科學(xué)》2012年第4期。

⑨ 蔣紅群：《無(wú)產(chǎn)階級(jí)會(huì)淪為無(wú)用階級(jí)嗎？》，《馬克思主義研究》2018年第8期。

孫偉平：《智能社會(huì)與共產(chǎn)主義社會(huì)》，《華中科技大學(xué)學(xué)報(bào)》（社會(huì)科學(xué)版）2018年第4期。

雷·庫(kù)茲韋爾：《機(jī)器之心》，胡曉嬌、張溫卓瑪、吳純潔譯，中信出版集團(tuán)2016年版，第288、290頁(yè)。

約翰·馬爾科夫：《與機(jī)器人共舞》，郭雪譯，浙江人民出版社2015年版，第165頁(yè)。

高奇琦：《人工智能：馴服賽維坦》，上海交通大學(xué)出版社2018年版，第215頁(yè)。

汝緒華：《算法政治：風(fēng)險(xiǎn)、發(fā)生邏輯與治理》，《廈門大學(xué)學(xué)報(bào)》（哲學(xué)社會(huì)科學(xué)版）2018年第6期。

Alex P. Miller， Want Less-Biased Decisions？Use Algorithms，Harvard Business Review Digital Articles， July 26， 2018.

Rachel Thomas， What HBR Gets Wrong about Algorithms and Bias， Fast.ai， Aug. 7， 2018.

鄭戈：《算法的法律與法律的算法》，《中國(guó)法律評(píng)論》2018年第2期。

理查德·A·斯皮內(nèi)洛：《世紀(jì)道德：信息技術(shù)的倫理方面》，劉鋼譯，中央編譯出版社1999 年版，第21頁(yè)。

查云飛：《德國(guó)對(duì)網(wǎng)絡(luò)平臺(tái)的行政法規(guī)制——邁向合規(guī)審查之路徑》，《德國(guó)研究》2018年第3期。

作者簡(jiǎn)介：趙寶軍，陜西科技大學(xué)馬克思主義學(xué)院副教授，陜西西安，710021。

（責(zé)任編輯 ?胡 ?靜）