AI需要被限制嗎？

陳冰

在史蒂文·斯皮爾伯格導(dǎo)演的電影《人工智能》中，一對因車禍痛失愛子的夫妻收養(yǎng)了人工智能“大衛(wèi)”。在被人類養(yǎng)育的過程中，大衛(wèi)漸漸產(chǎn)生了“我到底是一個機器，還是一個人”的困惑。

這背后隱含了一個深刻的哲學(xué)問題——機器能夠思考嗎？

隨著AI的快速發(fā)展，許多人類自以為機器無法觸達的領(lǐng)域正在被機器攻破，以至于國內(nèi)知名的軟件人發(fā)出了這樣的感慨——人不知疲倦地重復(fù)勞動，讓自己變成機器；而機器不斷地學(xué)習(xí)提升智能，讓自己變成人……

對于人工智能的發(fā)展，社會各界的觀點目前可大致分為樂觀論、悲觀論和泡沫論三類。支持“泡沫論”的華裔科學(xué)家、斯坦福大學(xué)教授李飛飛曾說，不要高估現(xiàn)在人工智能的發(fā)展水平，從物理學(xué)角度看人工智能，它目前還處于前伽利略階段。

不管AI目前處于何種階段，其狂飆突進的技術(shù)演進，引發(fā)了人們深深的擔(dān)憂：它催生的是一個更便捷、更快速、徹底解放勞動力的時代？還是一個信息垃圾滔天，人類注意力迅速耗竭的時代？

何為生成式人工智能？

目前，生成式人工智能還沒有統(tǒng)一的定義，一般可以理解為一種能夠根據(jù)提示生成文本、圖像或其他媒體信息的人工智能系統(tǒng)。

“這個技術(shù)不是像魔法一樣憑空出現(xiàn)的，而是有著悠久的歷史淵源。”浙江大學(xué)公共管理學(xué)院信息資源管理系研究員蔣卓人指出，在生成式人工智能90多年的發(fā)展歷程中，不乏人類智慧閃耀的時刻。

1932年，法國工程師Georges Artsrouni創(chuàng)造了裝置“mechanical brain”（機器大腦）。機器大腦通過查詢多功能詞典完成翻譯，輸入、輸出都是一條紙帶。蔣卓人認為，雖然它和今天的機器翻譯不同，但它完全符合今天對生成式人工智能的定義，即人類輸入一段內(nèi)容，機器產(chǎn)生一段新的內(nèi)容。

1956年的夏天，美國達特茅斯學(xué)院一群志同道合的學(xué)者驅(qū)車赴會，暢談如何利用剛剛問世不久的計算機來實現(xiàn)人類智能的問題。在會議籌備期間，麥卡錫建議學(xué)界以后就用“人工智能”一詞來標(biāo)識這個新興的學(xué)術(shù)領(lǐng)域，與會者則附議。

20世紀(jì)中葉，麻省理工學(xué)院創(chuàng)造了最早的生成式人工智能之一伊莉莎，計算機科學(xué)家朱迪亞·珀爾引入了貝葉斯網(wǎng)絡(luò)因果分析概念，人工智能科學(xué)家楊立昆等人展示了如何利用卷積神經(jīng)網(wǎng)絡(luò)來識別圖像……

2006年，李飛飛著手構(gòu)建數(shù)據(jù)庫ImageNet。該數(shù)據(jù)庫中有超過1400萬張手工標(biāo)注的圖片，包含超過2萬個類別。正是有了這樣一個龐大數(shù)據(jù)庫的支撐，深度學(xué)習(xí)才能得以興起。

2022年ChatGPT發(fā)布后，成為有史以來用戶增長最快的應(yīng)用。

“AI奠基人”陷入AI恐慌

在復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾看來，生成式人工智能的本質(zhì)并不困難。

生成式人工智能系統(tǒng)訓(xùn)練方式不得不把“常人”的意見加以建制化與機械化，由此使得社會意識形態(tài)的板結(jié)現(xiàn)象變得更為嚴(yán)重。換言之，從機器的視角看，一個正確的意見就是被大多數(shù)人所認可的意見，因此，少數(shù)“異類”提出的“離經(jīng)叛道”之說在技術(shù)上就會被過濾掉。

“這需要我們高度警惕。”徐英瑾強調(diào)。

從時間樣態(tài)上看，“常人”的天然時間標(biāo)簽是“過去”，而“自由”的天然標(biāo)簽則是“未來”，但任何的深度學(xué)習(xí)機制都必然帶有“過去”的時間標(biāo)簽。因為大量的數(shù)據(jù)收集、喂入與訓(xùn)練都會消耗大量的時間，并由于這種消耗所造成的時間差而必然與“當(dāng)下”失之交臂，更不用說去擁抱未來了。

作為與楊立昆、約書亞·本吉奧并稱為人工智能領(lǐng)域三位奠基人之一的杰弗里·辛頓也表達了類似的擔(dān)憂。5月1日，這位75歲的圖靈獎得主突然宣布從谷歌離職。他在社交平臺發(fā)文稱，他離開谷歌是為了可以公開地談?wù)撊斯ぶ悄艿奈ｋU。他表示，對自己的畢生工作感到非常后悔。

辛頓說：“相比大模型，人類在學(xué)習(xí)速度上并無優(yōu)勢。AI所制造的‘幻覺并不是缺陷，而是特性，編造也是人類記憶的一個特點，這些模型正在做類似于人類的事情，它們現(xiàn)在已經(jīng)非常接近人類了，將來會比我們聰明得多，我們將如何生存？”

新智能面臨新挑戰(zhàn)

面對生成式人工智能帶來的挑戰(zhàn)，世界各國都曾出現(xiàn)過“AI威脅論”。

馬斯克就是其中最為有名的一員。今年3月，一份名為《暫停大型人工智能研究》的公開信在未來生命研究所官網(wǎng)上發(fā)布。緊接著，5月初，AI領(lǐng)域知名投資人伊恩·霍加斯在外媒專欄中發(fā)表了一篇名為《我們必須放慢通往人工智能的速度》的文章，警告AI公司的研究存在“一些潛在的風(fēng)險”。

霍加斯在文中指出，目前AI研究已經(jīng)發(fā)展到“大模型時代”，若是繼續(xù)不加管控，讓AI按照預(yù)定軌跡發(fā)展下去的話可能會對地球環(huán)境、人類生存、公民身心健康等方面造成威脅。

復(fù)旦大學(xué)國家智能評價與治理實驗基地副主任、大數(shù)據(jù)研究院教授趙星指出：“科技界曾將人工智能的應(yīng)用比作煉金術(shù)，人們將數(shù)據(jù)一股腦往模型里面扔，至于能否煉出有價值的東西，煉出的是什么，卻沒有明確的預(yù)期?！焙苊黠@，在技術(shù)層面上，生成式人工智能存在內(nèi)生的不確定性。

面對生成式人工智能這個新對手，趙星認為不能沿用傳統(tǒng)治理“被動回應(yīng)外在威脅”的方法。

“我們應(yīng)當(dāng)在年輕人的成長過程中，讓他們學(xué)會如何與人工智能良好共處與規(guī)避‘信息繭房，以及如何去做一個智能社會中的‘好人。”趙星說。

內(nèi)生安全治理模型的原理，是基于群體智能將個體“未知的未知”轉(zhuǎn)化為群體“已知的未知”，從而進一步將其轉(zhuǎn)化為“已知的已知”。

“初步結(jié)果顯示，雖然現(xiàn)階段的生成式人工智能遠沒到能勝任學(xué)術(shù)評價這樣的嚴(yán)肅評價工作的程度，但生成式人工智能表現(xiàn)出的‘跨學(xué)科評價能力和‘涌現(xiàn)推斷預(yù)測潛力值得我們高度關(guān)注?！壁w星表示。

（摘自《新民周刊》）