科技本位主義的局限性

李俠

【關(guān)鍵詞】科技本位主義? 互聯(lián)網(wǎng)中心主義? 算法? ? 【中圖分類號】C912.67? ? 【文獻(xiàn)標(biāo)識(shí)碼】A

如果回顧我們在新世紀(jì)初談?wù)摽萍急疚恢髁x的話題，那時(shí)多半還停留在觀念思辨層面上，與真實(shí)生活還有一段距離，那么20年后的今天，科技本位主義早已從觀念層面物化為一項(xiàng)項(xiàng)具體的技術(shù)，以更直接的方式充分展現(xiàn)在我們面前，并且時(shí)刻形塑著我們的生活。2020年，疫情讓原本隱而不顯的科技本位主義再次回到公眾視野：生活的方方面面借助于互聯(lián)網(wǎng)而擺脫停擺的命運(yùn)，互聯(lián)網(wǎng)中心主義以其杰出的表現(xiàn)俘獲公眾的信任;企業(yè)/平臺(tái)在算法的加持下實(shí)現(xiàn)數(shù)據(jù)煉金術(shù)的華麗轉(zhuǎn)身;對于個(gè)人而言，量化自我成為一種全新的科技本位主義表現(xiàn)形式。

互聯(lián)網(wǎng)中心主義是一種新的技術(shù)樂觀主義

2020年，各地健康碼、國家政務(wù)服務(wù)平臺(tái)“防疫健康信息碼”的推出對于疫情的全面控制起到了重要作用。眾所周知，健康碼的推行不可避免地存在隱私泄露問題。在互聯(lián)網(wǎng)時(shí)代，疫情為數(shù)據(jù)的全面收集提供了合法性，但當(dāng)危機(jī)過后我們還可以回到從前嗎？這個(gè)現(xiàn)象再次印證多數(shù)公眾頭腦中普遍擁有互聯(lián)網(wǎng)中心主義，這是一種盲目的技術(shù)樂觀主義。

自20世紀(jì)90年代以來隨著互聯(lián)網(wǎng)的崛起，經(jīng)過幾十年快速發(fā)展，互聯(lián)網(wǎng)的功能得到了充分展現(xiàn)，由此在公眾中形成了一種“共識(shí)”：互聯(lián)網(wǎng)是萬能的，這就是最樸素的互聯(lián)網(wǎng)中心主義的含義。之所以把共識(shí)用引號標(biāo)出，是因?yàn)槿藗儗τ诨ヂ?lián)網(wǎng)的意義與功能在不同的認(rèn)知框架下有不同的理解與判斷，但不論差異如何大，都共同認(rèn)為互聯(lián)網(wǎng)是這個(gè)時(shí)代的標(biāo)志。按照知名學(xué)者弗朗西斯·福山的話說：“由資本主義驅(qū)動(dòng)的自由民主仍然是城里唯一的游戲，由資本主義驅(qū)動(dòng)的互聯(lián)網(wǎng)也是如此。從邏輯上講，它是神賜予我們的寶貴禮物，人類絕不應(yīng)該拋棄它或把它搞得一團(tuán)糟。因此，盡管互聯(lián)網(wǎng)可能會(huì)顛覆一切，它自身絕不會(huì)被顛覆。它就待在這兒哪兒也不去，而我們最好惟其馬首是瞻。發(fā)現(xiàn)它的真性情，把它的特征當(dāng)做金科玉律，汲取它的經(jīng)驗(yàn)教訓(xùn)，相應(yīng)地重新翻修我們的世界?！睂τ谥腥A文化來講，經(jīng)過一百八十年（從1840年算起）的被動(dòng)現(xiàn)代化以來，從“師夷長技以制夷”到創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的實(shí)施，國民對于技術(shù)甚至科學(xué)的心態(tài)，歷來是樂觀的。從這個(gè)意義上說，中國人對于技術(shù)有著強(qiáng)烈的樂觀主義心態(tài)。2020年整個(gè)疫情期間基于互聯(lián)網(wǎng)的網(wǎng)購、直播越發(fā)火熱，各類社會(huì)熱點(diǎn)事件也經(jīng)由互聯(lián)網(wǎng)實(shí)現(xiàn)了知情與共識(shí)，科、教、文、衛(wèi)諸多社會(huì)關(guān)鍵領(lǐng)域更是借助于互聯(lián)網(wǎng)擺脫疫情危機(jī)實(shí)現(xiàn)了有效運(yùn)轉(zhuǎn)。這一切都加深了互聯(lián)網(wǎng)中心主義在中國的落地生根。

互聯(lián)網(wǎng)中心主義在如火如荼擴(kuò)張之際，也面臨一些困難與風(fēng)險(xiǎn)。首先，中國互聯(lián)網(wǎng)的樂觀主義仍然停留在表層，深層結(jié)構(gòu)與互聯(lián)網(wǎng)并不契合，導(dǎo)致這種美好理念只開花不結(jié)果。比如最近幾年一直流行的“互聯(lián)網(wǎng)+”，到目前為止，成功案例并不是很多，這也再一次提醒我們，我們的基礎(chǔ)產(chǎn)業(yè)與整個(gè)社會(huì)的知識(shí)結(jié)構(gòu)仍然無法與互聯(lián)網(wǎng)實(shí)現(xiàn)有效對接，目前的互聯(lián)網(wǎng)熱潮仍然處于表面層次。其次，互聯(lián)網(wǎng)的發(fā)展以及網(wǎng)民數(shù)量的大幅增加對于原有的社會(huì)治理模式與政治架構(gòu)形成一種緊張與沖擊。社會(huì)治理的權(quán)力結(jié)構(gòu)是垂直的，而以互聯(lián)網(wǎng)為代表的權(quán)力則是水平的，這就導(dǎo)致原有政治體系與以互聯(lián)網(wǎng)為代表的社群體系潛在地存在沖突。借助于互聯(lián)網(wǎng)倒逼治理體系的改革，這將是很痛苦的過程;加強(qiáng)對互聯(lián)網(wǎng)的監(jiān)管，但是如果監(jiān)管不得當(dāng)無疑又增加了公眾與治理體系之間的矛盾。最后，互聯(lián)網(wǎng)無法完全實(shí)現(xiàn)啟蒙的目的。網(wǎng)民群體的知識(shí)結(jié)構(gòu)普遍偏低，由于盲從效應(yīng)的普遍存在，互聯(lián)網(wǎng)的價(jià)值大打折扣，從而無法助推公眾形成理性思考的習(xí)慣。

算法神器造就企業(yè)的新煉金術(shù)

伴隨著大數(shù)據(jù)、云計(jì)算與人工智能的興起，算法崇拜已經(jīng)悄然走進(jìn)尋常百姓的日常生活，不知不覺中已成為新時(shí)代的煉金術(shù)。我們無法準(zhǔn)確說出是從哪一天開始的，人臉識(shí)別已成為生活的常態(tài)，也無從查找從哪一天起，商家和平臺(tái)利用我們的個(gè)人數(shù)據(jù)對我們實(shí)行定向推送甚至不惜采取殺熟策略。大體來說，利用數(shù)據(jù)賺錢有三個(gè)層次，最低級的是直接賣數(shù)據(jù)，這個(gè)模式在監(jiān)管逐漸加強(qiáng)的今天，違規(guī)風(fēng)險(xiǎn)加大;中級就是對收集來的數(shù)據(jù)做結(jié)構(gòu)化處理，然后賣給需要的客戶;高級的就是那些互聯(lián)網(wǎng)巨頭公司利用自有數(shù)據(jù)和技術(shù)為客戶提供特定數(shù)據(jù)服務(wù)。當(dāng)下所有企業(yè)/平臺(tái)都在瘋狂收集個(gè)人信息，這一切的背后推手皆源于最近幾年算法的突飛猛進(jìn)。算法之所以能在各領(lǐng)域暢通無阻，源于其標(biāo)榜的客觀、中立、科學(xué)特性，更有無與倫比的經(jīng)濟(jì)性，這些特性使其獲得一路綠燈的道德通行證。其實(shí)，算法是高度不透明的，沒人知道它內(nèi)部的復(fù)雜程序是如何編寫的，普通人與社會(huì)之所以接受算法，源于算法具有更高的效率以及更低的成本。筆者曾將算法與公眾之間的矛盾歸納為三類，矛盾一：算法不透明VS個(gè)體越發(fā)透明;矛盾二：個(gè)體的道德敏感性低VS忽略算法小惡的累積（大概率殺熟）;矛盾三：個(gè)體追責(zé)成本高VS算法違規(guī)成本低。

算法神器的獲勝，除了開發(fā)商的大力推動(dòng)之外，也與公眾的短視有關(guān)，輕易被算法的便捷性與經(jīng)濟(jì)性俘獲，其實(shí)，這也是新技術(shù)獲得市場認(rèn)同的標(biāo)準(zhǔn)步驟。一旦獲得市場普遍認(rèn)同，然后技術(shù)的貪婪本性開始呈現(xiàn)，到那時(shí)任何個(gè)人或商家都無力扭轉(zhuǎn)，這已經(jīng)是新技術(shù)的常規(guī)發(fā)展路徑。也許更為嚴(yán)重的是，通過對個(gè)體大數(shù)據(jù)的收集與挖掘，個(gè)人的隱私空間急劇縮小。目前算法已經(jīng)向所有生活領(lǐng)域滲透，如用算法相親、下棋、招聘人才，甚至用算法預(yù)測并防止犯罪等，這些遠(yuǎn)勝于人的表現(xiàn)，讓算法進(jìn)一步獲得社會(huì)認(rèn)同。歷史經(jīng)驗(yàn)一再告誡我們，技術(shù)的過度發(fā)展有可能帶來高昂但無形的成本，到最后處理它所帶來的成本，比其前期帶來的收益大得多。

目前算法神器正在各行各業(yè)突飛猛進(jìn)地發(fā)展，治理算法違規(guī)的微觀路徑有兩條：其一，算法的設(shè)計(jì)者要具備充分的倫理知識(shí)與公共意識(shí)。畢竟算法的最初設(shè)計(jì)者對于算法的未來后果具有初始責(zé)任，遺憾的是，目前的程序員很少有這方面的知識(shí)和意識(shí)，導(dǎo)致從設(shè)計(jì)之初就處于倫理無意識(shí)狀態(tài)，而且目前程序員被賦予了過多的決策權(quán)，不會(huì)受到嚴(yán)格審查，這就導(dǎo)致算法的惡具有先天性。其二，激活個(gè)體的道德閾限，提升個(gè)體的道德敏感性。通常道德閾限低的地方，個(gè)體的道德敏感性較高，從而通過社會(huì)力量約束算法從業(yè)者的責(zé)任倫理（對行為的后果負(fù)有責(zé)任）。中觀路徑：整個(gè)社會(huì)要有一個(gè)開放的具有批判功能的公共領(lǐng)域，所有企業(yè)都將接受輿論的監(jiān)督與審查，沒有任何企業(yè)具有豁免權(quán)。宏觀路徑：通過有針對性的政策、法規(guī)等制度安排，規(guī)范與算法相關(guān)企業(yè)的行為。

量化自我引發(fā)績效主義與加速社會(huì)的犬儒化

所謂量化自我（Quantified Self）原本是指一些技術(shù)愛好者基于數(shù)據(jù)崇拜心態(tài)，利用技術(shù)進(jìn)行自我跟蹤測量（如傳感器、穿戴設(shè)備與手機(jī)等），追求關(guān)于自我的多維數(shù)據(jù)，以此實(shí)現(xiàn)自我的量化。隨著收集數(shù)據(jù)種類的增多，其最初的含義開始發(fā)生轉(zhuǎn)向，把量化與存在狀態(tài)捆綁在一起。一些人開始把自我存在感與可量化的數(shù)據(jù)結(jié)合起來，以此彰顯個(gè)人的價(jià)值與尊嚴(yán)。這種偏好迅速在精英階層擴(kuò)散，并滲透到越來越廣闊的人群中，由此對自我的量化與激勵(lì)政策有了很好的契合點(diǎn)，激勵(lì)靶標(biāo)的設(shè)計(jì)一定要與個(gè)體對于量化的需求相匹配。在現(xiàn)實(shí)生活中所有可以量化的指標(biāo)都可以變?yōu)橐环N激勵(lì)靶標(biāo)，以此衡量個(gè)體成功與否，如有多少存款、幾套房子等，在學(xué)術(shù)界則表現(xiàn)為量化指標(biāo)：發(fā)表了幾篇頂級期刊論文、獲得什么級別的獎(jiǎng)勵(lì)或“帽子”、以及有多少科研項(xiàng)目，不一而足，所有這些把量化與存在狀態(tài)進(jìn)行捆綁的努力，都促成了績效主義的盛行。2020年9月，蘇州大膽推出“蘇城文明碼”，文明碼采用可以量化的積分制，這項(xiàng)舉措一推出，就遭到部分人的批評：道德可以量化嗎？誰有資格這么做？在這些質(zhì)疑的聲浪中，這一做法被撤回。

績效主義帶來了規(guī)訓(xùn)的革命性變化，以前的規(guī)訓(xùn)都是由外部強(qiáng)加的，而當(dāng)下的績效主義則是自我生成的?？冃е髁x不但有效，而且還能讓個(gè)體產(chǎn)生一種自由的幻覺，在量化的無數(shù)次疊加中，所有的時(shí)間都變成了工作時(shí)間。在這種為了追求績效而使工作無限疊加的過程中，我們會(huì)產(chǎn)生一種倦怠感，這種飲鴆止渴式的追求績效之旅，不可避免地造成個(gè)體對于公共事務(wù)的冷淡與麻木，因?yàn)榻钇ＡΡM的人再也沒有力氣逃脫自己給自己設(shè)定的牢籠，外在世界在快速消失，或者與我何干？這種局面注定會(huì)加劇犬儒化傾向，而互聯(lián)網(wǎng)時(shí)代的犬儒化會(huì)像病毒一樣快速擴(kuò)散開來。

所謂犬儒主義，在英國學(xué)者提摩太·貝維斯看來，“現(xiàn)代或后現(xiàn)代的犬儒主義是一種憂郁的情境，它逃避世界、理性和政治，退守內(nèi)心;它源自一種使客體文化負(fù)載過度價(jià)值的流行趨勢——崇拜當(dāng)代性，而非蔑視當(dāng)代性”。通俗地說，犬儒主義者就是一群活得相當(dāng)精明的人，他們清醒而沉默，精于算計(jì)，基于自利原則，對于公共事務(wù)退避三舍?？冃е髁x正在快速造就社會(huì)的犬儒化，一旦社會(huì)的犬儒化程度達(dá)到一個(gè)極限值，那么這個(gè)社會(huì)就徹底鎖定在退化的軌道上了，因?yàn)樗写龠M(jìn)社會(huì)進(jìn)步的批判意識(shí)與反抗精神都將被消解，這是數(shù)字化時(shí)代最為暗淡的未來。

為了消解科技本位主義可能帶來的消極影響，還是要回到人類認(rèn)知鏈條的初始點(diǎn)，畢竟最終還是由人的認(rèn)知/行為決定技術(shù)到底是向善還是向惡的方向發(fā)展。由此聯(lián)想到，這幾年全世界范圍內(nèi)興起的負(fù)責(zé)任創(chuàng)新運(yùn)動(dòng)、把倫理嵌入技術(shù)的新科技倫理觀等，都是強(qiáng)調(diào)在技術(shù)的起點(diǎn)處開始規(guī)范技術(shù)的發(fā)展走向。最近兩年國家多部委聯(lián)合發(fā)布科技界破“四唯”“五唯”的通知，其初衷也是希望借此從制度層面消解量化自我的野蠻生長。由于現(xiàn)代科技的復(fù)雜性，僅靠科技從業(yè)者自身的努力顯然已經(jīng)無法消解科學(xué)主義的野蠻擴(kuò)張，從這個(gè)意義上說，我們應(yīng)該把倫理檢視的范圍擴(kuò)大，從最初的設(shè)計(jì)者向應(yīng)用者以及公眾拓展，從而形成一種全方位約束算法神器以及企業(yè)煉金術(shù)的廣譜約束機(jī)制。

社會(huì)的進(jìn)步是所有人共同努力的結(jié)果，單靠任何一方力量都是無法遏制這種新科學(xué)主義浪潮的，而且這種努力，有助于在全社會(huì)形成一種有批判精神的公共領(lǐng)域的形成，這也是我們長期缺乏的，在算法、機(jī)器學(xué)習(xí)高歌猛進(jìn)的時(shí)代，在人工智能快速發(fā)展的當(dāng)下，這事關(guān)所有人的尊嚴(yán)與未來。

（作者為上海交通大學(xué)科學(xué)史與科學(xué)文化研究院院長、教授、博導(dǎo)）

【注：本研究得到國家社科基金“基于心理內(nèi)容表征路徑的信念修正模式研究”（編號：18BZX037）的資助】

【參考文獻(xiàn)】

①[白俄]葉夫根尼·莫羅佐夫著，張行舟、閭佳譯：《技術(shù)至死：數(shù)字化生存的陰暗面》，北京：電子工業(yè)出版社，2014年。

②[英]提摩太·貝維斯著、胡繼華譯：《犬儒主義與后現(xiàn)代性》，上海：上海世紀(jì)出版集團(tuán)，2008年。

責(zé)編/趙橙涔? ? 美編/李祥峰