在“算法”控制的社會，我們?nèi)绾紊妫?/h1>
2022-04-29 00:00:00宗祁
世界文化 2022年6期
在日本動畫作品《心理測量者》中，當(dāng)時的社會可以分析出每個人未來能從事何種職業(yè)，從而對他們“因材施教”，同時也可以分析出哪些人會成為罪犯，然后未雨綢繆，對其進(jìn)行鏟除。這樣的社會“愿景”，也許在我們的未來也能通過“算法”實現(xiàn)。如今，我們的搜索歷史、購物歷史甚至運(yùn)動和健康數(shù)據(jù)，全都被各大平臺收集、分析。針對每個人不同喜好的信息被推送到我們面前。在算法面前，我們沒有秘密，也許網(wǎng)絡(luò)和機(jī)器比我們的伴侶還要了解我們。
這也意味著，科技公司和技術(shù)精英所擁有的權(quán)力空前巨大。如果網(wǎng)絡(luò)賬號被封禁，我們現(xiàn)實中的生活也會受到很大影響；我們購買的網(wǎng)絡(luò)服務(wù)可能被隨意更改，比如增加廣告、額外付費、數(shù)據(jù)被販賣，等等?！端惴ǖ牧α浚喝祟惾绾喂餐妗返淖髡呓苊住に_斯坎德（英國學(xué)者、作家和執(zhí)業(yè)大律師）指出，過去百年，技術(shù)在爆炸式增長，但政治卻依舊“古典”，面向未來社會的規(guī)范、法律、哲學(xué)思考都顯得十分稀缺，科幻小說都要比現(xiàn)有的政治學(xué)、政治哲學(xué)對思考未來有用得多。杰米同時著眼于人文和科學(xué)，為現(xiàn)在和未來的人類提出并嘗試回答這樣的問題：在越來越被人工智能和算法“控制”的社會中，我們?nèi)绾伪ＷC實踐自由、公正的社會理念？我們要防范什么？未來的政治有哪些更多的可能性？
技術(shù)的現(xiàn)在與未來
谷歌最新開發(fā)的AI繪圖軟件Disco Diffusion的智能和精美引起了許多人的關(guān)注，有些人在暢想，也許未來簡單的商業(yè)設(shè)計、插圖需求可以直接交由AI來完成。此前，最受關(guān)注的人工智能技術(shù)可能是自動駕駛，它已經(jīng)在較大范圍內(nèi)被使用，雖然一度引發(fā)過很多爭議，但越來越多的人已經(jīng)漸漸習(xí)慣了在某些時刻“解放雙手”，將駕駛交給汽車本身。
人工智能（AI）興起于1943年，如今它是最炙手可熱也最重要的研究領(lǐng)域之一。它在語言識別、翻譯、撰寫新聞或收益報告等方面的技術(shù)已經(jīng)逐步被應(yīng)用于日常，滲透到醫(yī)療、法律、體育、金融等各個領(lǐng)域。在很多方面，AI甚至超過了人類專業(yè)人員，比如在各種棋類比賽中，人工智能已經(jīng)擊敗了最杰出的人類；牛津大學(xué)的研究者們發(fā)明了一種準(zhǔn)確率高達(dá)93%的人工智能 “讀唇語”系統(tǒng)，相比之下，專業(yè)唇語翻譯人員的正確率只有60%。雖然很多技術(shù)現(xiàn)在看起來還只是人們的暢想，如機(jī)器人替代醫(yī)生給我們做外科手術(shù)，但人工智能確實正在飛快地融入或刷新著我們的生活。
用Disco Diffusion制作的圖片 當(dāng)前人工智能最重要的子領(lǐng)域是機(jī)器學(xué)習(xí)。如果AI已經(jīng)可以超越人類，那么把“創(chuàng)造新的AI”這件事交給AI自身來做，似乎也沒什么不合理。杰米·薩斯坎德寫道：“在某個特定的時刻后，‘我們不再需要為計算機(jī)編程’，而是靠‘它們自己給自己編程’?！绷硪粋€很容易被人們忽視的技術(shù)是“算力”——計算機(jī)芯片處理數(shù)據(jù)的能力?！叭缃瘢胀ㄖ悄苁謾C(jī)都比當(dāng)年送阿姆斯特朗上月球的阿波羅導(dǎo)航計算機(jī)的算力更強(qiáng)?！?/p>
捕捉、記錄和儲存數(shù)據(jù)的技術(shù)也在增強(qiáng)。“如果把谷歌一天中處理的數(shù)據(jù)印成書，其高度要大于地球與月球間距離的一半?！薄端惴ǖ牧α俊分杏涗浀?，奧地利隱私維權(quán)人士Max Schrems要求查看Facebook存儲的有關(guān)他個人的數(shù)據(jù)，結(jié)果得到了一份有1222頁的文件，其中包括他早已在該平臺刪除的信息。
《心理測量者》海報 網(wǎng)站和設(shè)備每天都在取得和存儲著海量的信息，不僅如此，真實存在的物品也在記錄和存儲著你的信息，比如汽車傳感器，它上傳汽車的性能數(shù)據(jù)給制造商；GPS時刻追蹤記錄著我們的行蹤。人類的動作、話語、行為、關(guān)系、情感和信念將越來越多地留下永久或半永久的數(shù)字標(biāo)記。
今天，大多數(shù)人已經(jīng)接受自己的網(wǎng)絡(luò)足跡被各大購物、音樂、個性化推薦網(wǎng)站所監(jiān)控這個無法抵抗的事實，但在未來，當(dāng)我們的生活越來越與人工智能、算法結(jié)合，很可能我們會受到全方位的“監(jiān)控”。想象我們的“智能冰箱”在我們深夜開門拿蛋糕時自動上鎖，或者對我們大喊“別吃了”；“智能窗簾”自動調(diào)節(jié)室內(nèi)的光線；甚至，機(jī)器可以監(jiān)測到我們的情緒，哪種眼神蘊(yùn)含著感情，通過分析動作、音調(diào)，可以確定兩個人之間是什么關(guān)系，等等。
《仿生人會夢見電子羊嗎》 在電影《銀翼殺手》的小說原型《仿生人會夢見電子羊嗎》中，人們通過服用藥物來控制或達(dá)到不同的情緒，拒絕服藥而選擇自己調(diào)節(jié)情緒的人反倒會被看作異類。如果技術(shù)可以為我們選擇最適合我們自己的光線、食物、運(yùn)動甚至交往對象，那我們是否還需要對“自我”進(jìn)行反思和把控？我們是否還能產(chǎn)生機(jī)器分配給我們之外的需求？
掌握技術(shù)就是掌握權(quán)力
算法和技術(shù)正在飛快地融入和改變我們的生活，但卻極少有對它們的限制和管控，這是十分危險的。
首先，技術(shù)本身并不具有道德，它忠實地呈現(xiàn)社會上最大多數(shù)與其互動過的人的面貌，比如，在谷歌的搜索框輸入“同性戀”，后面會自動接上“為什么聲音總是很奇怪”。這并非因為谷歌搜索是歧視同性戀的，而是因為很多對同性戀有偏見的人搜索了這個問題，谷歌的算法自動把高頻搜索問題呈現(xiàn)給所有用戶。
在劇集《黑鏡》中，有一種設(shè)備讓孩子無法看到、聽到暴力的場面和言語，卻產(chǎn)生了負(fù)面效果。我們下一代的成長環(huán)境是已被“刪選”過的環(huán)境了嗎？ 技術(shù)不會考慮道德或教化的需要，同時，它也不會對信息進(jìn)行篩選。以往，權(quán)威的媒體和“專業(yè)從事過濾工作”的記者、作家、編輯幾乎決定著大眾會收到何種信息，越是知名、權(quán)威的平臺，其內(nèi)容往往越是優(yōu)質(zhì)、專業(yè)、保證準(zhǔn)確的。但如今，根據(jù)算法推薦呈現(xiàn)給人們的信息往往只遵循“流量”的規(guī)律：點贊最多的消息、評論最多的消息往往被更多人看到。我們已經(jīng)很熟悉通過“引戰(zhàn)”吸引流量這種方式，而這已經(jīng)影響了政治，在政治宣傳中，政客們通常不在意一些言論是否反智、是否錯誤，只要它們足夠有煽動力，就會被傳播開來。
在一些重大的自然或人為災(zāi)害事件中，雖然網(wǎng)絡(luò)允許我們接收一手信息，但我們也真切地體會到專業(yè)調(diào)查記者的篩選和可信的一手報道的重要性。
此外，算法根據(jù)我們的“喜好”進(jìn)行推送的特質(zhì)讓人們愈加封閉在相同觀點的小圈子里，用網(wǎng)絡(luò)用語來說，就是“圈地自萌”，這也導(dǎo)致與主流觀點相悖的言論越來越難以被發(fā)出。“如果你知道批評某位政客會讓你泡著的酒吧陷入可怕的沉默，或者在社交媒體上引發(fā)一場‘推特風(fēng)暴’，對你進(jìn)行人身攻擊，那么你在發(fā)表批評意見時恐怕就會三思而后行了?！弊詈?，如果利用算法對某些信息和關(guān)鍵字進(jìn)行屏蔽和封禁，其影響也將是巨大的。
算法正在用篩選信息的方式影響著我們（或下一代）認(rèn)識世界的方法，但這可能只是它初步的影響。在未來，我們可能像編程好的NPC（游戲中行動和話語都被設(shè)定好的角色）一樣，只能在一定范圍內(nèi)做出行動選擇。
如果想向朋友分享一首歌或一個電視劇，但朋友不是網(wǎng)站會員，就無法播放它；汽車在自動駕駛模式下可能被設(shè)定為無法加速行駛。美國前總統(tǒng)奧巴馬曾將25部美國經(jīng)典電影送給英國前首相戈登·布朗，但布朗回到倫敦后卻發(fā)現(xiàn)這些電影無法在英國DVD機(jī)上播放：“禁止播放的命令已由其制造商和發(fā)行商編成代碼寫到DVD中，以保護(hù)其商業(yè)利益，并實施版權(quán)法賦予的權(quán)力，這被稱為數(shù)字權(quán)限管理（DRM）”——世界上最有“權(quán)勢”的兩個人也無法突破算法設(shè)定的規(guī)則。
算法的“強(qiáng)制性”已經(jīng)初步顯現(xiàn)出來：我們無法做出在規(guī)定范圍之外的選擇。數(shù)字技術(shù)的關(guān)鍵是，它只能根據(jù)編寫它的代碼操作。它與法律不同，人們可以打破法律（雖然要承擔(dān)被懲罰的風(fēng)險），但大多數(shù)人無法打破代碼。
古代社會用重刑威懾人們，而進(jìn)入現(xiàn)代，“懲罰的‘必然性’已經(jīng)取代了懲罰的強(qiáng)度”，隨著國家執(zhí)法機(jī)關(guān)的控制力的增強(qiáng)，人們知道犯法大概率會被抓，因此都避免違法；而在未來，由代碼參與的法律“將迫使人類無法違反法律，而非簡單地事后懲罰”。
杰米·薩斯坎德 以往只有部分官方機(jī)構(gòu)才能要求我們做事，而現(xiàn)在，各種網(wǎng)絡(luò)平臺都在“強(qiáng)迫”我們：如果我們不點擊“同意服務(wù)條款”，就無法使用它；平臺可以販賣搜集到的所有個人數(shù)據(jù)；可以更改它的服務(wù)（如加入廣告或要求額外付費，甚至封禁某些賬號）。人們對此無法抗議，只能選擇被動接受或不再使用該軟件。
如今，政府可以要求一些公司提供某些用戶的資料。谷歌曾收到1萬多份政府索取資料的請求，并履行了其中的93%。在未來，當(dāng)算法更進(jìn)一步融入我們的生活，網(wǎng)站是否可以協(xié)助監(jiān)管恐怖分子、戀童癖者的活動，并主動報告？警察是否能直接取得犯罪分子的智能門鎖密碼？如果我們的朋友犯了重罪，我們是否會因為與他的聊天記錄而被“盯上”？
面向未來的政治
杰米·薩斯坎德認(rèn)為，雖然我們的社會中技術(shù)呈爆炸式增長，但人文學(xué)科尤其是政治理論的進(jìn)步卻滯后得多。那些掌握技術(shù)的精英和資本，正在掌握著前所未有的巨大權(quán)力。我們的政治組織架構(gòu)應(yīng)該如何更好地適應(yīng)技術(shù)的發(fā)展？
更切實也更緊要的是，反對大型科技公司的壟斷，保證人們對使用哪個平臺有多種選擇?！熬S護(hù)自由的最佳方式是確保人們可以根據(jù)自己喜好的代碼在不同的系統(tǒng)之間移動。”但如今的網(wǎng)絡(luò)平臺極其依靠用戶數(shù)量的支撐：如果只有少量用戶使用谷歌，那這個平臺一文不值。平臺建立初期的用戶積累非常重要和艱難，同時也不可避免地助長了壟斷的滋生。在過去20年，近四分之三的行業(yè)集中度上升……近80%的手機(jī)社交媒體流量都是在曾經(jīng)的Facebook旗下的平臺運(yùn)行，谷歌的移動軟件Android占據(jù)了智能手機(jī)逾四分之三的市場份額，Alphabet（谷歌母公司）、亞馬遜和Facebook三家公司的總價值竟與加拿大的國民生產(chǎn)總值大體相當(dāng)。
在我國，微信軟件的使用率非常高。 資本會不斷創(chuàng)造新的資本，積累自身，行業(yè)巨頭手中的資源讓他們有多種手段去鞏固自己的地位。因此，相關(guān)反壟斷法亟待面向科技公司進(jìn)行完善。
在我國，微信平臺集聊天、視頻、付款、閱讀文章、購物、訂票等各種功能于一身，而且微信可以直接作為賬號登錄許多其他網(wǎng)站，這固然方便，但如果微信賬號被封禁，也將會給生活帶來極大的不便。
算法不應(yīng)由科技公司單方面控制，應(yīng)允許更多的“個性化定制”，未來能寫代碼的人會越來越多，一些軟件應(yīng)允許任何人按照他或她認(rèn)為合適的方式修改代碼。
此外，科技公司數(shù)據(jù)交易對個人的補(bǔ)償遠(yuǎn)遠(yuǎn)低于其數(shù)據(jù)的價值，這就好像工廠主在剝削工人的勞動力——科技公司在剝削我們個人信息的價值?！癋acebook用戶已然成為歷史上最大的無薪勞動者群體?！?/p>
科技公司在剝削我們個人信息的價值。
與此同時，科技將逐漸取代人工來從事腦力或體力活動，更多的人選擇智能語音轉(zhuǎn)寫而不再雇傭速記員，選擇翻譯軟件而不是專業(yè)翻譯；未來，人工智能可能逐漸取代記者、出租車司機(jī)、財務(wù)人員等。到那時將會有很多人面臨失業(yè)?；诖朔N憂慮，“全民基本收入”（Universal Basic Income）的提議一度引起很多人的關(guān)注。在這種理念下，收入和工作兩件事并不需要聯(lián)系在一起，人類社會充滿了人們共同創(chuàng)造的東西，尤其是在算法的時代，人們貢獻(xiàn)著數(shù)據(jù)而沒有報酬。人們應(yīng)有權(quán)去享受現(xiàn)代科技帶來的繁榮，而不必低價販賣自己的勞動力，何況沒人愿意購買？也許，是時候從為了工作而勞動，到為了發(fā)揮創(chuàng)造力而勞動了。人們?yōu)榱伺d趣、社區(qū)或同輩認(rèn)同而做的事和所能迸發(fā)的創(chuàng)造力，往往要超出靠金錢購買時所提供的。然而，在操作層面，“全民基本收入”的可行性仍需論證與完善，目前也只是一種理想的生活愿景罷了。
現(xiàn)代人的悲哀是，有一份工作也許不足以支撐一份“生活”。 一些人提議要增強(qiáng)國家權(quán)力對資本的監(jiān)督，比如，要有專門人員對科技公司的算法運(yùn)行機(jī)制進(jìn)行審核；監(jiān)管算法推送中的種族主義、恐同等不公正因素，人工予以矯正。有人提議應(yīng)采用“用益權(quán)”的形式來管理科技公司，這種權(quán)力體系一般用在土地的使用上，國家擁有土地，但使用權(quán)可以賣給個人；比起完全國有化，它可以讓公司保留大部分利潤，而減少壟斷，讓小公司在創(chuàng)業(yè)初始也可以使用大公司擁有的技術(shù)。但要警惕此舉會造成國家權(quán)力的擴(kuò)張。
科技進(jìn)步帶給人類社會許多考驗，也給予了更多的可能性，能否去應(yīng)對、怎樣去應(yīng)對，這份政治答卷可能成為未來人類生存的關(guān)鍵。
在日本動畫作品《心理測量者》中，當(dāng)時的社會可以分析出每個人未來能從事何種職業(yè)，從而對他們“因材施教”，同時也可以分析出哪些人會成為罪犯，然后未雨綢繆，對其進(jìn)行鏟除。這樣的社會“愿景”，也許在我們的未來也能通過“算法”實現(xiàn)。如今，我們的搜索歷史、購物歷史甚至運(yùn)動和健康數(shù)據(jù)，全都被各大平臺收集、分析。針對每個人不同喜好的信息被推送到我們面前。在算法面前，我們沒有秘密，也許網(wǎng)絡(luò)和機(jī)器比我們的伴侶還要了解我們。
這也意味著，科技公司和技術(shù)精英所擁有的權(quán)力空前巨大。如果網(wǎng)絡(luò)賬號被封禁，我們現(xiàn)實中的生活也會受到很大影響；我們購買的網(wǎng)絡(luò)服務(wù)可能被隨意更改，比如增加廣告、額外付費、數(shù)據(jù)被販賣，等等?！端惴ǖ牧α浚喝祟惾绾喂餐妗返淖髡呓苊住に_斯坎德（英國學(xué)者、作家和執(zhí)業(yè)大律師）指出，過去百年，技術(shù)在爆炸式增長，但政治卻依舊“古典”，面向未來社會的規(guī)范、法律、哲學(xué)思考都顯得十分稀缺，科幻小說都要比現(xiàn)有的政治學(xué)、政治哲學(xué)對思考未來有用得多。杰米同時著眼于人文和科學(xué)，為現(xiàn)在和未來的人類提出并嘗試回答這樣的問題：在越來越被人工智能和算法“控制”的社會中，我們?nèi)绾伪ＷC實踐自由、公正的社會理念？我們要防范什么？未來的政治有哪些更多的可能性？
技術(shù)的現(xiàn)在與未來
谷歌最新開發(fā)的AI繪圖軟件Disco Diffusion的智能和精美引起了許多人的關(guān)注，有些人在暢想，也許未來簡單的商業(yè)設(shè)計、插圖需求可以直接交由AI來完成。此前，最受關(guān)注的人工智能技術(shù)可能是自動駕駛，它已經(jīng)在較大范圍內(nèi)被使用，雖然一度引發(fā)過很多爭議，但越來越多的人已經(jīng)漸漸習(xí)慣了在某些時刻“解放雙手”，將駕駛交給汽車本身。
人工智能（AI）興起于1943年，如今它是最炙手可熱也最重要的研究領(lǐng)域之一。它在語言識別、翻譯、撰寫新聞或收益報告等方面的技術(shù)已經(jīng)逐步被應(yīng)用于日常，滲透到醫(yī)療、法律、體育、金融等各個領(lǐng)域。在很多方面，AI甚至超過了人類專業(yè)人員，比如在各種棋類比賽中，人工智能已經(jīng)擊敗了最杰出的人類；牛津大學(xué)的研究者們發(fā)明了一種準(zhǔn)確率高達(dá)93%的人工智能 “讀唇語”系統(tǒng)，相比之下，專業(yè)唇語翻譯人員的正確率只有60%。雖然很多技術(shù)現(xiàn)在看起來還只是人們的暢想，如機(jī)器人替代醫(yī)生給我們做外科手術(shù)，但人工智能確實正在飛快地融入或刷新著我們的生活。
當(dāng)前人工智能最重要的子領(lǐng)域是機(jī)器學(xué)習(xí)。如果AI已經(jīng)可以超越人類，那么把“創(chuàng)造新的AI”這件事交給AI自身來做，似乎也沒什么不合理。杰米·薩斯坎德寫道：“在某個特定的時刻后，‘我們不再需要為計算機(jī)編程’，而是靠‘它們自己給自己編程’?！绷硪粋€很容易被人們忽視的技術(shù)是“算力”——計算機(jī)芯片處理數(shù)據(jù)的能力?！叭缃瘢胀ㄖ悄苁謾C(jī)都比當(dāng)年送阿姆斯特朗上月球的阿波羅導(dǎo)航計算機(jī)的算力更強(qiáng)?！?/p>
捕捉、記錄和儲存數(shù)據(jù)的技術(shù)也在增強(qiáng)。“如果把谷歌一天中處理的數(shù)據(jù)印成書，其高度要大于地球與月球間距離的一半?！薄端惴ǖ牧α俊分杏涗浀?，奧地利隱私維權(quán)人士Max Schrems要求查看Facebook存儲的有關(guān)他個人的數(shù)據(jù)，結(jié)果得到了一份有1222頁的文件，其中包括他早已在該平臺刪除的信息。
網(wǎng)站和設(shè)備每天都在取得和存儲著海量的信息，不僅如此，真實存在的物品也在記錄和存儲著你的信息，比如汽車傳感器，它上傳汽車的性能數(shù)據(jù)給制造商；GPS時刻追蹤記錄著我們的行蹤。人類的動作、話語、行為、關(guān)系、情感和信念將越來越多地留下永久或半永久的數(shù)字標(biāo)記。
今天，大多數(shù)人已經(jīng)接受自己的網(wǎng)絡(luò)足跡被各大購物、音樂、個性化推薦網(wǎng)站所監(jiān)控這個無法抵抗的事實，但在未來，當(dāng)我們的生活越來越與人工智能、算法結(jié)合，很可能我們會受到全方位的“監(jiān)控”。想象我們的“智能冰箱”在我們深夜開門拿蛋糕時自動上鎖，或者對我們大喊“別吃了”；“智能窗簾”自動調(diào)節(jié)室內(nèi)的光線；甚至，機(jī)器可以監(jiān)測到我們的情緒，哪種眼神蘊(yùn)含著感情，通過分析動作、音調(diào)，可以確定兩個人之間是什么關(guān)系，等等。
在電影《銀翼殺手》的小說原型《仿生人會夢見電子羊嗎》中，人們通過服用藥物來控制或達(dá)到不同的情緒，拒絕服藥而選擇自己調(diào)節(jié)情緒的人反倒會被看作異類。如果技術(shù)可以為我們選擇最適合我們自己的光線、食物、運(yùn)動甚至交往對象，那我們是否還需要對“自我”進(jìn)行反思和把控？我們是否還能產(chǎn)生機(jī)器分配給我們之外的需求？
掌握技術(shù)就是掌握權(quán)力
算法和技術(shù)正在飛快地融入和改變我們的生活，但卻極少有對它們的限制和管控，這是十分危險的。
首先，技術(shù)本身并不具有道德，它忠實地呈現(xiàn)社會上最大多數(shù)與其互動過的人的面貌，比如，在谷歌的搜索框輸入“同性戀”，后面會自動接上“為什么聲音總是很奇怪”。這并非因為谷歌搜索是歧視同性戀的，而是因為很多對同性戀有偏見的人搜索了這個問題，谷歌的算法自動把高頻搜索問題呈現(xiàn)給所有用戶。
技術(shù)不會考慮道德或教化的需要，同時，它也不會對信息進(jìn)行篩選。以往，權(quán)威的媒體和“專業(yè)從事過濾工作”的記者、作家、編輯幾乎決定著大眾會收到何種信息，越是知名、權(quán)威的平臺，其內(nèi)容往往越是優(yōu)質(zhì)、專業(yè)、保證準(zhǔn)確的。但如今，根據(jù)算法推薦呈現(xiàn)給人們的信息往往只遵循“流量”的規(guī)律：點贊最多的消息、評論最多的消息往往被更多人看到。我們已經(jīng)很熟悉通過“引戰(zhàn)”吸引流量這種方式，而這已經(jīng)影響了政治，在政治宣傳中，政客們通常不在意一些言論是否反智、是否錯誤，只要它們足夠有煽動力，就會被傳播開來。
在一些重大的自然或人為災(zāi)害事件中，雖然網(wǎng)絡(luò)允許我們接收一手信息，但我們也真切地體會到專業(yè)調(diào)查記者的篩選和可信的一手報道的重要性。
此外，算法根據(jù)我們的“喜好”進(jìn)行推送的特質(zhì)讓人們愈加封閉在相同觀點的小圈子里，用網(wǎng)絡(luò)用語來說，就是“圈地自萌”，這也導(dǎo)致與主流觀點相悖的言論越來越難以被發(fā)出。“如果你知道批評某位政客會讓你泡著的酒吧陷入可怕的沉默，或者在社交媒體上引發(fā)一場‘推特風(fēng)暴’，對你進(jìn)行人身攻擊，那么你在發(fā)表批評意見時恐怕就會三思而后行了?！弊詈?，如果利用算法對某些信息和關(guān)鍵字進(jìn)行屏蔽和封禁，其影響也將是巨大的。
算法正在用篩選信息的方式影響著我們（或下一代）認(rèn)識世界的方法，但這可能只是它初步的影響。在未來，我們可能像編程好的NPC（游戲中行動和話語都被設(shè)定好的角色）一樣，只能在一定范圍內(nèi)做出行動選擇。
如果想向朋友分享一首歌或一個電視劇，但朋友不是網(wǎng)站會員，就無法播放它；汽車在自動駕駛模式下可能被設(shè)定為無法加速行駛。美國前總統(tǒng)奧巴馬曾將25部美國經(jīng)典電影送給英國前首相戈登·布朗，但布朗回到倫敦后卻發(fā)現(xiàn)這些電影無法在英國DVD機(jī)上播放：“禁止播放的命令已由其制造商和發(fā)行商編成代碼寫到DVD中，以保護(hù)其商業(yè)利益，并實施版權(quán)法賦予的權(quán)力，這被稱為數(shù)字權(quán)限管理（DRM）”——世界上最有“權(quán)勢”的兩個人也無法突破算法設(shè)定的規(guī)則。
算法的“強(qiáng)制性”已經(jīng)初步顯現(xiàn)出來：我們無法做出在規(guī)定范圍之外的選擇。數(shù)字技術(shù)的關(guān)鍵是，它只能根據(jù)編寫它的代碼操作。它與法律不同，人們可以打破法律（雖然要承擔(dān)被懲罰的風(fēng)險），但大多數(shù)人無法打破代碼。
古代社會用重刑威懾人們，而進(jìn)入現(xiàn)代，“懲罰的‘必然性’已經(jīng)取代了懲罰的強(qiáng)度”，隨著國家執(zhí)法機(jī)關(guān)的控制力的增強(qiáng)，人們知道犯法大概率會被抓，因此都避免違法；而在未來，由代碼參與的法律“將迫使人類無法違反法律，而非簡單地事后懲罰”。
以往只有部分官方機(jī)構(gòu)才能要求我們做事，而現(xiàn)在，各種網(wǎng)絡(luò)平臺都在“強(qiáng)迫”我們：如果我們不點擊“同意服務(wù)條款”，就無法使用它；平臺可以販賣搜集到的所有個人數(shù)據(jù)；可以更改它的服務(wù)（如加入廣告或要求額外付費，甚至封禁某些賬號）。人們對此無法抗議，只能選擇被動接受或不再使用該軟件。
如今，政府可以要求一些公司提供某些用戶的資料。谷歌曾收到1萬多份政府索取資料的請求，并履行了其中的93%。在未來，當(dāng)算法更進(jìn)一步融入我們的生活，網(wǎng)站是否可以協(xié)助監(jiān)管恐怖分子、戀童癖者的活動，并主動報告？警察是否能直接取得犯罪分子的智能門鎖密碼？如果我們的朋友犯了重罪，我們是否會因為與他的聊天記錄而被“盯上”？
面向未來的政治
杰米·薩斯坎德認(rèn)為，雖然我們的社會中技術(shù)呈爆炸式增長，但人文學(xué)科尤其是政治理論的進(jìn)步卻滯后得多。那些掌握技術(shù)的精英和資本，正在掌握著前所未有的巨大權(quán)力。我們的政治組織架構(gòu)應(yīng)該如何更好地適應(yīng)技術(shù)的發(fā)展？
更切實也更緊要的是，反對大型科技公司的壟斷，保證人們對使用哪個平臺有多種選擇?！熬S護(hù)自由的最佳方式是確保人們可以根據(jù)自己喜好的代碼在不同的系統(tǒng)之間移動。”但如今的網(wǎng)絡(luò)平臺極其依靠用戶數(shù)量的支撐：如果只有少量用戶使用谷歌，那這個平臺一文不值。平臺建立初期的用戶積累非常重要和艱難，同時也不可避免地助長了壟斷的滋生。在過去20年，近四分之三的行業(yè)集中度上升……近80%的手機(jī)社交媒體流量都是在曾經(jīng)的Facebook旗下的平臺運(yùn)行，谷歌的移動軟件Android占據(jù)了智能手機(jī)逾四分之三的市場份額，Alphabet（谷歌母公司）、亞馬遜和Facebook三家公司的總價值竟與加拿大的國民生產(chǎn)總值大體相當(dāng)。
資本會不斷創(chuàng)造新的資本，積累自身，行業(yè)巨頭手中的資源讓他們有多種手段去鞏固自己的地位。因此，相關(guān)反壟斷法亟待面向科技公司進(jìn)行完善。
在我國，微信平臺集聊天、視頻、付款、閱讀文章、購物、訂票等各種功能于一身，而且微信可以直接作為賬號登錄許多其他網(wǎng)站，這固然方便，但如果微信賬號被封禁，也將會給生活帶來極大的不便。
算法不應(yīng)由科技公司單方面控制，應(yīng)允許更多的“個性化定制”，未來能寫代碼的人會越來越多，一些軟件應(yīng)允許任何人按照他或她認(rèn)為合適的方式修改代碼。
此外，科技公司數(shù)據(jù)交易對個人的補(bǔ)償遠(yuǎn)遠(yuǎn)低于其數(shù)據(jù)的價值，這就好像工廠主在剝削工人的勞動力——科技公司在剝削我們個人信息的價值?！癋acebook用戶已然成為歷史上最大的無薪勞動者群體?！?/p>
與此同時，科技將逐漸取代人工來從事腦力或體力活動，更多的人選擇智能語音轉(zhuǎn)寫而不再雇傭速記員，選擇翻譯軟件而不是專業(yè)翻譯；未來，人工智能可能逐漸取代記者、出租車司機(jī)、財務(wù)人員等。到那時將會有很多人面臨失業(yè)?；诖朔N憂慮，“全民基本收入”（Universal Basic Income）的提議一度引起很多人的關(guān)注。在這種理念下，收入和工作兩件事并不需要聯(lián)系在一起，人類社會充滿了人們共同創(chuàng)造的東西，尤其是在算法的時代，人們貢獻(xiàn)著數(shù)據(jù)而沒有報酬。人們應(yīng)有權(quán)去享受現(xiàn)代科技帶來的繁榮，而不必低價販賣自己的勞動力，何況沒人愿意購買？也許，是時候從為了工作而勞動，到為了發(fā)揮創(chuàng)造力而勞動了。人們?yōu)榱伺d趣、社區(qū)或同輩認(rèn)同而做的事和所能迸發(fā)的創(chuàng)造力，往往要超出靠金錢購買時所提供的。然而，在操作層面，“全民基本收入”的可行性仍需論證與完善，目前也只是一種理想的生活愿景罷了。
一些人提議要增強(qiáng)國家權(quán)力對資本的監(jiān)督，比如，要有專門人員對科技公司的算法運(yùn)行機(jī)制進(jìn)行審核；監(jiān)管算法推送中的種族主義、恐同等不公正因素，人工予以矯正。有人提議應(yīng)采用“用益權(quán)”的形式來管理科技公司，這種權(quán)力體系一般用在土地的使用上，國家擁有土地，但使用權(quán)可以賣給個人；比起完全國有化，它可以讓公司保留大部分利潤，而減少壟斷，讓小公司在創(chuàng)業(yè)初始也可以使用大公司擁有的技術(shù)。但要警惕此舉會造成國家權(quán)力的擴(kuò)張。
科技進(jìn)步帶給人類社會許多考驗，也給予了更多的可能性，能否去應(yīng)對、怎樣去應(yīng)對，這份政治答卷可能成為未來人類生存的關(guān)鍵。
