警惕“通往極端的狹隘”

嚴(yán)傳紅

美國萊斯大學(xué)貝勒醫(yī)學(xué)院副教授基尼維拉·艾倫在美國科學(xué)促進(jìn)會2019年年會上發(fā)出警告：數(shù)以千計(jì)的科學(xué)家用來分析數(shù)據(jù)的機(jī)器學(xué)習(xí)技術(shù)，正在產(chǎn)生具有誤導(dǎo)性且常常是完全錯(cuò)誤的結(jié)果。這種機(jī)器學(xué)習(xí)系統(tǒng)使用量的激增正在導(dǎo)致一場“科學(xué)危機(jī)”。

機(jī)器學(xué)習(xí)已被用于研究科學(xué)和醫(yī)學(xué)數(shù)據(jù)與某些現(xiàn)象之間的關(guān)系，如基因與疾病之間的關(guān)聯(lián)性等。機(jī)器學(xué)習(xí)一旦發(fā)現(xiàn)病人基因與疾病特征之間存在特定聯(lián)系，研究人員可能就會對相應(yīng)的發(fā)現(xiàn)提供合理的科學(xué)解釋。但在艾倫看來，這并不意味著那些發(fā)現(xiàn)就是正確的。他認(rèn)為，軟件識別的是只存在于數(shù)據(jù)集中的東西，而非真實(shí)世界中的模式。

一項(xiàng)分析表明，在全世界開展的所有生物醫(yī)學(xué)研究中，有多達(dá)85%的研究都是在白費(fèi)工夫，20年來這種危機(jī)愈演愈烈。之所以會出現(xiàn)這種情況，是因?yàn)閷?shí)驗(yàn)的設(shè)計(jì)并不完善，無法確?？茖W(xué)家們不會自欺欺人——只想得到自己想要的結(jié)果。按照那位女博士的說法，機(jī)器學(xué)習(xí)系統(tǒng)和大數(shù)據(jù)集群的使用加重了這場危機(jī)，因?yàn)闄C(jī)器學(xué)習(xí)算法是專門為在數(shù)據(jù)集群中尋找“有趣”的東西而開發(fā)的，所以當(dāng)它們在大量的數(shù)據(jù)中進(jìn)行搜索時(shí)，將不可避免地找到一種模式，可這并不能代表科學(xué)的真正發(fā)現(xiàn)。

應(yīng)用一種有缺陷的人工智能技術(shù)，居然會導(dǎo)致“科學(xué)危機(jī)”？這不禁讓人感嘆：在幾乎所有的編碼知識都能夠即刻獲取，且計(jì)算機(jī)可以解決極其復(fù)雜的問題，幫助尋找最合理答案的時(shí)候，相較于教授真理、技術(shù)和答案，傳授創(chuàng)造力、判斷力和解決問題的能力要困難得多。我覺得，人們很有可能已然變成計(jì)算機(jī)控制的木偶，被機(jī)器的判斷所束縛，乃至思維模式都已被重塑而不自知。近年來，已有多位學(xué)者就此問題發(fā)出了警示。

《哈佛商業(yè)評論》原執(zhí)行主編尼古拉斯·卡爾在《淺薄：互聯(lián)網(wǎng)如何毒化了我們的大腦》一書中指出，所有的信息技術(shù)都會帶來一種智能倫理。印刷圖書讓我們進(jìn)入聚精會神的狀態(tài)，從而促進(jìn)深度思維和創(chuàng)造性思維的發(fā)展。相比之下，融多種不同類型信息于一屏的互聯(lián)網(wǎng)多媒體技術(shù)，鼓勵(lì)我們蜻蜓點(diǎn)水般地從多種信息來源中廣泛采集碎片化的信息。此時(shí)，我們很可能已經(jīng)開始失去其他的思維方式，特別是那些需要持續(xù)的注意力，需要集中精神的思維方式，以及那些需要沉思、反思和內(nèi)省的思維方式。而這種精神層面的改變在教育、創(chuàng)新、文學(xué)、藝術(shù)，甚至在精神健康方面已經(jīng)產(chǎn)生了很多實(shí)際的后果。

美國芝加哥大學(xué)教授詹姆斯·A·埃文斯發(fā)表于《科學(xué)》上的文章就提醒學(xué)者：在以往印刷刊物上的文章紛紛實(shí)現(xiàn)數(shù)字化并傳到互聯(lián)網(wǎng)上的過程中，學(xué)者們對發(fā)表日期更近的文章的引用頻率呈現(xiàn)出不斷上升的趨勢，可用信息范圍日益加寬。然而，這卻導(dǎo)致了閱讀和引用、科學(xué)和學(xué)問的日趨狹窄。為什么呢？

按照埃文斯的分析，像搜索引擎這樣的自動化信息過濾工具往往會成為文章聲望的放大器。在什么信息重要，什么信息不重要上，這種過濾工具建立起了一種輿論觀點(diǎn)，然后又持續(xù)不斷地強(qiáng)化這種觀點(diǎn)。此外，跟隨超鏈接一路前行輕松便捷，也導(dǎo)致在網(wǎng)上進(jìn)行調(diào)查研究的那些人“會跳過很多相關(guān)程度不高的文章”。所以，學(xué)者們找到由搜索器為我們“規(guī)劃”了排序的“主流觀點(diǎn)”的速度越快，他們“遵從這種觀點(diǎn)，從而導(dǎo)致在更少的篇幅中引用更多內(nèi)容”的可能性就越大。

這又意味著什么呢？按照一位中國學(xué)者的解讀，就是不知不覺地把讀者引向了主流觀點(diǎn)，加快了意見統(tǒng)一，使結(jié)論和想法變窄?！伴喿x內(nèi)容的多樣化遭遇阻礙，這對思想的獨(dú)立、開放、創(chuàng)新是不可忽視的威脅?！?/p>

韓國學(xué)者李焌楨也注意到：互聯(lián)網(wǎng)上片面的信息推送系統(tǒng)會妨礙我們進(jìn)行其他角度的思考，攔截了可能偶然遇到的多種信息，只是重復(fù)加深自己已相信的事實(shí)。漸漸地，在我們的生活里就只會出現(xiàn)那些自己期望的信息。當(dāng)所有的人都只依賴搜索引擎探索信息時(shí)，就會有越來越多的人對事物持相同的觀點(diǎn)，而且這種觀點(diǎn)會加速擴(kuò)散。最終，其他觀點(diǎn)迅速消亡，從而使人們的選擇更狹隘，思維更封閉。

如此下去，可以想見，我們的世界很有可能被數(shù)據(jù)左右，因?yàn)閷?shù)字技術(shù)的盲目依賴改變了社會變化的形態(tài)，人們的想法會越來越依賴于機(jī)器的判斷，進(jìn)而產(chǎn)生深層的社會影響，讓人們滑入一個(gè)自我封閉的陷阱里，就如英國學(xué)者彼得·斯科特-摩根所憂心的那樣——“通往極端的狹隘”。