Sora之后，我們?nèi)绾握日嫦?/h1>

2024-03-18 10:13:28李俠李雙

科學(xué)大觀園訂閱 2024年6期 收藏

關(guān)鍵詞：人工智能標(biāo)準(zhǔn)模型

李俠　李雙

2月15日，美國人工智能研究公司OpenAI發(fā)布人工智能文生視頻大模型Sora，該模型可深度模擬真實(shí)的物理世界，并生成包含多個(gè)角色及特定運(yùn)動(dòng)的復(fù)雜場景。目前，根據(jù)用戶的文本提示，Sora可以創(chuàng)建長達(dá)60秒的逼真視頻，這是近日互聯(lián)網(wǎng)上最火爆的科技新聞。兩年來，從ChatGPT3.5、GPT-4 Turbo到今日的Sora，可以說OpenAI公司正以驚人的迭代速度創(chuàng)造著人工智能的奇跡。

近幾日，筆者仔細(xì)翻看網(wǎng)絡(luò)上流傳的Sora模型制作的短視頻，高質(zhì)量的畫面與周圍環(huán)境的匹配度無比“絲滑”，即便是筆者也拍不出這個(gè)效果。坦率地說，如果讓我們?nèi)ヨb別其真假，相信大多數(shù)人和筆者一樣沒有能力區(qū)分。

需要說明的是，從工業(yè)化時(shí)代到互聯(lián)網(wǎng)時(shí)代的無數(shù)次技術(shù)變革所帶來的真假難辨現(xiàn)象，與今天的Sora短視頻在本質(zhì)上是一樣的，不同的是隨著技術(shù)的迭代與升級(jí)，鑒別真假的難度越來越高。這就引發(fā)了一個(gè)具有普遍性的、令人焦慮的問題——Sora之后，我們?nèi)绾握日嫦啵?h3>當(dāng)真與假的界限崩塌之后

毫無疑問，以Sora模型為代表的人工智能是新一輪科技革命的前奏，隨著應(yīng)用場景的漸次綻出、新的盈利模式的涌現(xiàn)以及技術(shù)迭代的加速，人工智能帶來的科技革命勢(shì)不可擋。

其廣闊的商業(yè)前景暫且不表，筆者更加關(guān)心的是其對(duì)社會(huì)觀念與群體認(rèn)知造成的直接沖擊，因?yàn)镾ora模型所構(gòu)建的視頻或?qū)⒅苯幽：媾c假的界限。再加上日益臨近的現(xiàn)實(shí)與虛擬界限的雙向滲透，這一切或?qū)?dǎo)致整個(gè)社會(huì)的認(rèn)知架構(gòu)崩塌，隨之而來的一系列急劇的連鎖反應(yīng)可能使人猝不及防?？梢哉f，技術(shù)又一次讓人類被動(dòng)地站在轉(zhuǎn)變的關(guān)口。為此，我們不妨先設(shè)想一下當(dāng)真與假的界限崩塌之后會(huì)出現(xiàn)什么情況。

假設(shè)詐騙分子掌握了這項(xiàng)技術(shù)，利用專門收集的個(gè)人信息制作短視頻，視頻中的人、地點(diǎn)、時(shí)間全部是真實(shí)的，就連聲音也可以通過技術(shù)處理，按照腳本設(shè)計(jì)。比如謊稱受害人遭遇車禍急需打款救治，此時(shí)受害者家屬如何鑒別真?zhèn)?？相比之下，以往的電話詐騙十分低級(jí)。再比如政敵/仇家利用虛假的不良短視頻陷害競爭者，公眾如何辨之真假？在這種場景下，“眼見為實(shí)”的傳統(tǒng)鑒別標(biāo)準(zhǔn)已經(jīng)失靈。這類場景還可以列出很多，所有這些潛在危害的實(shí)質(zhì)在于真假界限崩塌所帶來的真相隱遁現(xiàn)象。

如果缺乏相應(yīng)的強(qiáng)有力的監(jiān)督機(jī)制，未來每個(gè)人都有可能成為新技術(shù)的受害者，這就是技術(shù)發(fā)展的吊詭之處：很多人沒有享受到技術(shù)帶來的紅利，卻無端承受了技術(shù)濫用帶來的不便，比如各種數(shù)字技術(shù)對(duì)于老年人的不友好表現(xiàn)。而真假界限崩塌引發(fā)的更為嚴(yán)重的問題是，它會(huì)摧毀維系社會(huì)有序運(yùn)行的一系列概念與認(rèn)知框架，并以多米諾骨牌的方式將整個(gè)社會(huì)推向失范與無序狀態(tài)。

眾所周知，所有的社會(huì)秩序框架與規(guī)則的底層所依托的基本概念大抵有三：真，善，美。其中“真”是最底層的基礎(chǔ)概念，它決定了“善”與“美”的標(biāo)準(zhǔn)的變化方向。換言之，如果真相不存在就會(huì)出現(xiàn)事實(shí)的建構(gòu)主義，會(huì)導(dǎo)致認(rèn)識(shí)論上的相對(duì)主義，而這種相對(duì)主義延伸到道德領(lǐng)域就會(huì)出現(xiàn)道德相對(duì)主義，即否認(rèn)存在普遍的道德事實(shí)。在這種相對(duì)主義的主宰下，原本屬于主觀領(lǐng)域的審美就會(huì)被扭曲塑造。

具體而言，“真”在社會(huì)運(yùn)行中起著確立信任體系的作用。一個(gè)社會(huì)的真相越是得到彰顯，其信任體系的半徑就越大，整個(gè)社會(huì)的交易成本也就越低，反之亦然。此即Sora等人工智能產(chǎn)品模糊真假邊界后，人們會(huì)產(chǎn)生普遍性焦慮的深層原因所在，即當(dāng)矛盾律不再可靠之時(shí)，我們?cè)撘院畏N標(biāo)準(zhǔn)判斷世間對(duì)錯(cuò)。

真相的背后尚且有真理作支撐，其標(biāo)準(zhǔn)是恒定的，如2+2=4在什么時(shí)候都不會(huì)變，但依托真理形成的“善”與“美”的標(biāo)準(zhǔn)是可變的，這就使得一旦真相隱遁，以Sora為代表的短視頻對(duì)于后者的沖擊將更為劇烈，甚至可以完全改變特定時(shí)代人們對(duì)善與美的標(biāo)準(zhǔn)。

在古希臘哲學(xué)家亞里士多德看來，美德是一種適中，好的技藝可使人置于良好的狀態(tài)，過度和不足都會(huì)使人走上惡的道路。比如愛可以使人變得柔和，可以更好地面對(duì)生活；但過度的愛會(huì)走向占有和嫉妒，不足的愛則會(huì)走向冷漠，這些壞的性質(zhì)取決于人們對(duì)中庸的認(rèn)知，進(jìn)而影響人的行為。

人們判斷自己的行為是否失格尚且不易，機(jī)器所生成的結(jié)果更不受人控制。短視頻無數(shù)次虛假建構(gòu)某種極端的行為標(biāo)準(zhǔn)，久而久之人們便會(huì)認(rèn)為那是善的，而這種善的標(biāo)準(zhǔn)可能與我們現(xiàn)行的社會(huì)秩序是矛盾的，比如“二十四孝”在中國古代被當(dāng)作善的典范，而在今天看來這些事例幾乎都是不道德的。

道德真理/道德真相是可以被塑造的。誠如英國思想家赫克托·麥克唐納所言，強(qiáng)大的溝通者可以鼓勵(lì)整個(gè)群體接受新的道德真理。當(dāng)下，我們正處在善惡標(biāo)準(zhǔn)的變革期，如果真相以激進(jìn)的方式消失了，善惡的標(biāo)準(zhǔn)將面臨大洗牌的局面。

同理，美的標(biāo)準(zhǔn)也是會(huì)變的。假如Sora產(chǎn)出的短視頻持續(xù)推出一種奇怪的美丑標(biāo)準(zhǔn)，人們也會(huì)在潤物細(xì)無聲的背景下改變對(duì)美的認(rèn)知。如人們對(duì)于整容、鉆石、奢侈品等的非理性迷戀多是商家多年廣告營銷的結(jié)果，這樣隱蔽的推廣形式以消費(fèi)主義的姿態(tài)出現(xiàn)，更容易確立一種畸形的審美標(biāo)準(zhǔn)。

審美本應(yīng)是多元化的個(gè)體體驗(yàn)，但如今的大模型憑借其強(qiáng)大的自主學(xué)習(xí)能力，基于對(duì)個(gè)人數(shù)據(jù)的充分掌握，可以實(shí)現(xiàn)圍繞個(gè)體偏好的精準(zhǔn)定向“投喂”，從而以信息繭房的模式塑造一個(gè)時(shí)代的美丑標(biāo)準(zhǔn)。

審美本應(yīng)是多元化的個(gè)體體驗(yàn)，但如今的大模型憑借其強(qiáng)大的自主學(xué)習(xí)能力，基于對(duì)個(gè)人數(shù)據(jù)的充分掌握，可以實(shí)現(xiàn)圍繞個(gè)體偏好的精準(zhǔn)定向“投喂”，從而以信息繭房的模式塑造一個(gè)時(shí)代的美丑標(biāo)準(zhǔn)。這些標(biāo)準(zhǔn)沒有人知道對(duì)錯(cuò)，甚至無人意識(shí)到它們的存在，這就使得它們帶來的危害更難被消除。想想歷史上環(huán)肥燕瘦的審美標(biāo)準(zhǔn)的變遷，而裹小腳的陋習(xí)又戕害了多少女性的一生。

從這個(gè)意義上說，拯救真相就是拯救我們的社會(huì)秩序及認(rèn)知。

分布式真相拯救機(jī)制

哲學(xué)家波普爾在鑒別理論的真假時(shí)曾提出過一個(gè)概念——逼真度，即兩個(gè)理論相比較時(shí)逼真度高的理論就是好的理論。在拯救真相的征途上，我們可以有限地借用逼真度這個(gè)概念。逼真度之所以有限，是因?yàn)槲磥砑幢慵夹g(shù)專家去鑒別由Sora升級(jí)版制作的這些視頻，也不能保證完全可以鑒別出來，只能說他們比普通人的鑒別更可靠一些，也就是逼真度更高一些而已。

因此，從根本上解決真相的隱遁現(xiàn)象，還是要從制度上來考量。例如可以設(shè)立第三方機(jī)構(gòu)，由它們推出針對(duì)Sora短視頻的輔助鑒別模型，從而形成雙方力量的均衡，這樣從理論上就可以最大限度拯救真相。

但是引入輔助鑒別模型又會(huì)帶來兩個(gè)潛在問題。

其一，技術(shù)的軍備競賽。短視頻生產(chǎn)方會(huì)不斷加快技術(shù)迭代的速度，從而超越鑒別模型現(xiàn)有的技術(shù)水平、引發(fā)鑒別模型的升級(jí)，如此循環(huán)往復(fù)。

如果視頻生產(chǎn)方的迭代速度超過鑒別模型的迭代速度，在這個(gè)間隔期仍然會(huì)存在真相隱遁現(xiàn)象。從過往的歷史經(jīng)驗(yàn)看，資本總會(huì)跑向生產(chǎn)方以超越監(jiān)管方，利用時(shí)間差賺取超額利潤，這就是技術(shù)自身發(fā)展無法克服的逐利邏輯。對(duì)于大力出奇跡的Sora模型更是如此，不用說，資本骨子里就青睞于大數(shù)據(jù)、算法與算力這些具有盈利能力的資源。

其二，監(jiān)督的第三方會(huì)帶來無窮倒退的可能性。換言之，如何保證作為第三方的鑒別模型擁有者不會(huì)謀取私利？為了防止這種情況的發(fā)生，我們又會(huì)被迫引入第四方來監(jiān)督第三方，如果沒有一種暫停機(jī)制，這個(gè)循環(huán)會(huì)導(dǎo)致無窮倒退，現(xiàn)實(shí)生活中不乏這樣的事例。

鑒于以上種種，筆者建議，為了徹底拯救被技術(shù)吞噬的真相，可以采用分布式真相拯救機(jī)制，每一方都負(fù)起拯救真相的責(zé)任，從而全方位捍衛(wèi)真相，即短視頻生產(chǎn)方推出產(chǎn)品時(shí)必須標(biāo)注真假（可以通過立法強(qiáng)制性要求）；作為監(jiān)督方的第三方必須履行自身職責(zé)，為公眾守護(hù)真相；整個(gè)社會(huì)作為消費(fèi)者必須承擔(dān)起監(jiān)督與批評(píng)的責(zé)任（這是全方位、全天候的監(jiān)督，體現(xiàn)集體智慧），由此，一個(gè)分布式的真相拯救鏈條得以確立。

借用英國咨詢專家麥克唐納的名言，這是一個(gè)后真相的時(shí)代。但是，只要我們未雨綢繆，每一次技術(shù)變革所帶來的沖擊終將被人類所化解，所不同的只是成本與代價(jià)的大小而已。

◎ 來源|中國科學(xué)報(bào)