人機交互的互誘導性

摘要：以ChatGPT、Bard、Copy.AI為代表的人工智能的出現(xiàn)將AIGC推上了風口，帶來了人類信息傳播范式的根本性轉(zhuǎn)變，使創(chuàng)作主體由用戶轉(zhuǎn)向機器，顛覆了傳統(tǒng)的大眾傳播模式和社交媒體傳播模式，即以內(nèi)容為中心和以用戶為中心。AIGC誕生于人機交互的新時代，是一次技術(shù)革命。ChatGPT的出現(xiàn)代表人工智能技術(shù)開始從量變轉(zhuǎn)向質(zhì)變，進入人與技術(shù)交互的新階段，即人與技術(shù)互為尺度。但在欣喜于新技術(shù)取得突破的同時，新的擔憂也隨之產(chǎn)生，必須深入思考人與技術(shù)將走向什么樣的未來、人在AIGC營造的虛擬世界中能否理智生存、人與技術(shù)之間的互誘導性是否會將人類帶入更深層次的“AIGC繭房”等問題。這是人類信息傳播方式的巨變，也是治理范式的重大轉(zhuǎn)變。每一種新的應用都帶著偷懶的誘惑。當前的AI會話仍然具有不透明性、不穩(wěn)定性等缺陷，人與機器互為主體，協(xié)同生產(chǎn)，隱蔽的互誘導性極易將人類帶入更難逃脫的“AIGC繭房”。效率的提升及傻瓜式的內(nèi)容生成，場景拓展與智能交互下的智能操作，無限制的沉浸式體驗等加固了“信息繭房”。對此，文章提出治理人機交互時代的“信息繭房”，關(guān)鍵在于正視新的技術(shù)浪潮，重塑身份，理性看待技術(shù)的誘導性，秉持“技術(shù)向善”的理念；以AI對AI，允許算法多元性的存在，用競爭消弭誘導性；建構(gòu)權(quán)力分配的新范式，用社會治理共同體的身份構(gòu)建人機傳播的新生態(tài)，打破技術(shù)對人類的全景式窺視。

關(guān)鍵詞：人機交互；AIGC；互誘導性；AIGC繭房

中圖分類號：G206；TP18 文獻標識碼：A 文章編號：1004-9436（2023）10-0-04

0 引言

相較于傳統(tǒng)的UGC（用戶生成內(nèi)容）、PGC（專業(yè)生產(chǎn)內(nèi)容），AIGC（人工智能生成內(nèi)容）的創(chuàng)作主體從人變?yōu)槿斯ぶ悄?，擁有?shù)據(jù)巨量化、認知交互力、內(nèi)容創(chuàng)造力等獨特的技術(shù)特征。早期的AIGC大致分為文本生成、圖像生成、音頻生成、視頻生成等幾個領(lǐng)域，隨著AI技術(shù)的日新月異和元宇宙應用場景的出現(xiàn)，由產(chǎn)業(yè)驅(qū)動的AIGC迎來爆發(fā)式增長。

英國技術(shù)哲學家大衛(wèi)·科林格里奇曾經(jīng)指出，一項技術(shù)如果已經(jīng)成為整個社會政治、經(jīng)濟、文化的一部分，控制它就為時已晚，技術(shù)有可能走向失控，此時解決它帶來的后果會耗費大量的時間和精力，甚至難以改變［1］。因此，本文從人機交互的視角，考察AI時代互誘導性的產(chǎn)生及其帶來的“AIGC繭房”的成因與破解之道。

1 AIGC與互誘導性

AIGC成為數(shù)字基礎(chǔ)設(shè)施的同時，互誘導性隨之產(chǎn)生。人類對技術(shù)的不斷突破使AI成為可以在人類世界中自主參與社會互動的主體，形成“人+機器人”的傳播格局，人機互動成為一種可想象的社會圖景［2］。人機交互不僅帶來了社會結(jié)構(gòu)的變化，還暗含互誘導性。誘導性指媒介通過直接刺激受眾的各種感官，傳播信息、意義和情感，對受眾預期的認知、態(tài)度、觀點的改變，導致受眾使用行為的改變?；フT導性以人機交互為前提，是AIGC發(fā)展過程中人工智能通過“對話”或“技術(shù)偷懶”等方式改變?nèi)说闹黧w意識，使人對機器產(chǎn)生工具依賴；在無限制的技術(shù)使用下，人也許會誘導技術(shù)從事違法生產(chǎn)等活動。AI時代出現(xiàn)互誘導性的原因包括以下兩個方面。

1.1 人與機器互為主體

ChatGPT的爆火背后隱藏著生產(chǎn)力的巨大變革。AI從生成簡單語句到生成一定篇幅但毫無邏輯的段落，再到如今的“正常交流”，體現(xiàn)了人對智能化信息處理模式的不斷改進。從信息的生產(chǎn)、傳播到消費，用戶如今變成了媒介內(nèi)容的主動生產(chǎn)者與傳播者，但機器對人的生產(chǎn)活動的滲入程度也在不斷加深，用戶在內(nèi)容生產(chǎn)的主導模式中不斷隱身，技術(shù)的主導地位逐漸明顯，由此AIGC帶來用戶與機器互為主體下生產(chǎn)力的變革。

1.2 人與機器協(xié)同生產(chǎn)

AIGC的內(nèi)容生成主要由人來設(shè)置和輸入指令驅(qū)動，在這個過程中延伸了AI在現(xiàn)實生活中的應用場景。AIGC生成的內(nèi)容又轉(zhuǎn)變?yōu)槿祟悢?shù)據(jù)被AI學習，循環(huán)往復形成了人機協(xié)同參與的創(chuàng)作運動。內(nèi)容生產(chǎn)在人機協(xié)同中被賦予了新的內(nèi)涵，衍生出人與機器共存的新范式，即相互影響、相互嵌入、相互依存、協(xié)同共進，從人對機器的單向使用變成了人與機器的雙向依存，形成人機交互的“同構(gòu)性”。

2 互誘導性下“AIGC繭房”的成因

“信息繭房”是由美國學者桑斯坦在數(shù)字時代個性化信息逐步興起的背景下提出的概念，指人們只聽自己選擇的和能讓自己感到愉悅的東西［3］。但在人與技術(shù)同構(gòu)現(xiàn)實社會的Web3.0時代，“信息繭房”悄然發(fā)生了變化，人與技術(shù)之間互誘導性的存在強化了“繭房效應”。當前的AI會話、內(nèi)容生成仍然具有不透明性、不穩(wěn)定性，AI創(chuàng)造的高級版碎片化形成的“AIGC繭房”將比以往更加難以突破?！癆IGC繭房”的生成主要表現(xiàn)在以下三個方面。

2.1 效率：傻瓜式內(nèi)容生成必然導致“信息繭房”產(chǎn)生

人在數(shù)字空間中輕易產(chǎn)生多巴胺時，會對工具上癮。AIGC除了包含語音識別、自然語言理解等核心技術(shù)之外，還可以利用生成式對抗模型（GAN），利用神經(jīng)網(wǎng)絡(luò)算法生成內(nèi)容識別圖像內(nèi)容表征，并在特定神經(jīng)網(wǎng)絡(luò)層對圖像進行重構(gòu)，這就使AI畫作能夠模仿特定風格的藝術(shù)作品［4］。AIGC是學習型人工智能，除了在算法上實現(xiàn)了模擬加工、內(nèi)容上實現(xiàn)了流程自動化等以外，還節(jié)約了內(nèi)容的生成時間，提高了內(nèi)容生產(chǎn)效率，更重要的是延伸了人類的感官與行動能力，拓展了人的腦力與體力。

ChatGPT僅上線5天，用戶數(shù)量就突破了100萬，馬斯克稱“許多人陷入了該死的瘋狂ChatGPT循環(huán)中”。首先，技術(shù)使用門檻的降低填平了用戶之間的“能力溝”，生成效率的提升直接解放了人類的雙手，增強了用戶黏性；其次，技術(shù)的推出與推廣需要用戶支撐，為了獲取足夠多的利益，算法本身就帶有偏見；最后，AIGC的核心動力是內(nèi)容生產(chǎn)變革，ChatGPT能夠為用戶帶來媲美真人對話體驗的關(guān)鍵在于其是基于預訓練使用的偏好數(shù)據(jù)及評分算法，除了大規(guī)模的公開語料之外，還有“幾萬人工標注”的數(shù)據(jù)，這些數(shù)據(jù)均為人工偏好知識，導致用戶非理性與圈層化的“情緒繭房”的形成。人對機器的詢問以及機器選擇回答本身就意味著對某個暗含假定事實的承認，AI在幫人們作出選擇的同時，“AIGC繭房”逐漸形成。人創(chuàng)造了AI，AI反過來也在以自身的技術(shù)意向結(jié)構(gòu)“規(guī)訓”社會主體［5］。

2.2 智能：場景拓展與智能交互導致“信息繭房”擴大

人在數(shù)字空間中感到方便舒適時，會對同質(zhì)化信息、同質(zhì)化交往成癮。AIGC通過“本地+云+邊緣計算”的模式實時感知人、物、環(huán)境，并與之實時交互。例如人形機器人，通過神經(jīng)網(wǎng)絡(luò)、計算機視覺工作，實時感知和計算文本、圖片、視頻、觸覺等多模態(tài)數(shù)據(jù)，化身“工程師”“藝術(shù)家”等身份，完成具有創(chuàng)造性的工作。ChatGPT擁有多達1750億個模型技術(shù)支撐其解決實際問題，相較于分析式人工智能，AIGC能夠以細粒度更高的方式，在個體需求指令的基礎(chǔ)上展開合理想象，實現(xiàn)更加細膩和精準的連接，深度模擬人際交往方式。

AIGC的內(nèi)容生成以用戶需求為導向，突破了時間、場景、個性的限制，使人與機器之間的關(guān)系更加密切。技術(shù)的進步為人類的進化插上了想象的翅膀，智能交互下場景的拓展延伸了人的生存空間，場景時代是媒介作為“人的關(guān)系連接”在現(xiàn)實世界的最高形式［6］。人在技術(shù)進步的洪流中慢慢“技術(shù)成癮”，技術(shù)提供的智能交互與場景復刻也更具有欺騙性。AIGC在多模態(tài)情境下可以采用文本、語音、視頻等“半真半假”的形式欺騙用戶，這被稱為“騙子的紅利”［7］。例如2022年5月，有詐騙集團利用深度偽造技術(shù)冒充馬斯克生成談話視頻，欺騙受害者投資其加密貨幣交易平臺。深度偽造技術(shù)的存在，導致“AIGC繭房”擴大，憑借其“真實性”誘導用戶上當，而目的不單純的用戶也利用AIGC獲取了利益。

2.3 體驗：用戶體驗無限制沉浸導致“信息繭房”加固

人在數(shù)字世界里感到自我超越時，會對現(xiàn)實世界產(chǎn)生反感。AIGC是在擬真度和功能維度上新的里程碑，其內(nèi)容生成圍繞形態(tài)迭代與創(chuàng)意驅(qū)動這兩個維度展開，更加注重用戶體驗。利用仿真技術(shù)、計算機圖形學等人工智能手段，AIGC在視覺、聽覺、觸覺等多感官的基礎(chǔ)上為用戶帶來沉浸式、無邊界、仿生級感官體驗。

AIGC實現(xiàn)了虛擬世界中感官的全方位“連接”，但這種器官“遮蔽”導致信息的密度和含量越來越大，出現(xiàn)信息的“膠狀體”，導致信息發(fā)生折射、模糊。信息空間之間的壁壘越來越厚，“信息繭房”的存在更加明顯。此外，早期的VR、AR設(shè)備佩戴舒適度較低、使用感不佳，只是對現(xiàn)實世界的復制。與其不同的是，AIGC是對現(xiàn)實內(nèi)容的數(shù)字孿生，如Replika聊天機器人通過養(yǎng)成式設(shè)定，使用戶體驗到其具有邏輯性的情感體察和細膩化的聊天。仿真情感的背后，很容易帶來用戶無限沉浸的體驗，這種器官“遮蔽”導致公域與私域的界限模糊。AI直接嵌入人體，實現(xiàn)人機交融，現(xiàn)實身體與虛擬場景相連，實現(xiàn)身體的持續(xù)在場和想象意識的“具身化”［8］。值得注意的是，人在運用AIGC實現(xiàn)沉浸式體驗的同時，身體會被數(shù)據(jù)化，化身數(shù)字勞工為AIGC貢獻數(shù)據(jù)，同時產(chǎn)生離身感危機。

3 對“AIGC繭房”的思考

當前已不是弱人工智能時代，必須承認技術(shù)與人類的共存性，互誘導性的產(chǎn)生是必然的。需要明確的是，“AIGC繭房”出現(xiàn)的根源是人們的選擇性接觸心理，虛擬世界的誘惑就像潘多拉魔盒，表現(xiàn)為人與媒介、存在與意識的共生。桑斯坦對“信息繭房”的定義，從根本上說，是生理上驅(qū)動并不斷強化的“自反性沉迷”，這是虛擬生存癥候群的潛在邏輯［9］。如果“AIGC繭房”固化，就會形成“信息、意見—利益、社會”的“板結(jié)化”的連鎖反應，造成社會偏見下的矛盾沖突，進而引爆社會危機。因此，從這個意義上說，在討論“AIGC繭房”帶來的負面影響時，不應僅僅指責技術(shù)的消極性，更應思考如何避免人與技術(shù)的相互誘導。無論技術(shù)會帶來更好還是更壞的社會結(jié)構(gòu)，問題的根源都是掌握技術(shù)權(quán)力的人與掌握政治和社會權(quán)力的人之間的深層矛盾。

3.1 身份重塑：治理共同體祛魅偏見性的技術(shù)認知

正視技術(shù)的存在，理性看待其誘導性。需要明確的是，任何技術(shù)的社會化落地，實質(zhì)上都是技術(shù)與社會選擇“互構(gòu)”的結(jié)果［10］。媒介環(huán)境學派認為，技術(shù)會形成一種“媒介環(huán)境”，并影響受眾的認知、態(tài)度和行為，“AIGC繭房”是人與技術(shù)的互誘導性下的產(chǎn)物。首先，AIGC是基于用戶的偏好進行的預訓練模型基礎(chǔ)，從一開始就具有數(shù)據(jù)的傾向性；其次，用戶的選擇性接觸心理帶來工具依賴，在AI技術(shù)的誘導下，繼續(xù)擴大其原有的偏好信息選擇范圍。

從互聯(lián)網(wǎng)到元宇宙，技術(shù)已經(jīng)成為現(xiàn)實世界的一部分，當人類產(chǎn)生過度的工具依賴時，不應一味指責技術(shù)帶來的負面效應，而是要重塑身份，采取社會治理共同體的手段應對“AIGC繭房”。首先，要打破對AI的“技術(shù)崇拜”。ChatGPT的文本生成仍然需要用戶的指令前綴，其本質(zhì)上還是一個大型的語言模型，屬于深度學習的框架，人在面對AI技術(shù)時具有主動控制力。其次，“賦魂”智能模型，堅持控制算法模型的核心邏輯，將社會公允的價值判斷“賦魂”至算法模型中，使其始終保持技術(shù)向善的秉性，如對語料庫的選擇和訓練模型的價值邏輯建構(gòu)。最后，社交媒體、監(jiān)管部門和網(wǎng)絡(luò)平臺要積極投身于治理共同體。例如，主流媒體的功能與角色定位須轉(zhuǎn)向“To B”模式，充分利用耗散結(jié)構(gòu)下的超循環(huán)理論、突變論等原理進行新的社會傳播的“再組織”。

3.2 生態(tài)構(gòu)建：AI對AI及人力物力的良性匹配布局

允許算法多元性的存在，用競爭消弭誘導性。算法市場存在利益競爭，以AI對AI，不僅可以更加精準地解決技術(shù)問題，而且能夠使人與機器的生態(tài)環(huán)境更加平衡。

AIGC的核心任務(wù)是對人類自然語言語料數(shù)據(jù)進行模型匹配、擬合，在擬合的基礎(chǔ)上根據(jù)一定的數(shù)學邏輯甚至是非確定邏輯輸出，導致不可預測性永遠存在，進而導致互誘導性的不確定和隱蔽性。面對隱蔽的互誘導性，只能采用技術(shù)對技術(shù)的策略進行反制。應針對不同語言模型的技術(shù)特點提前調(diào)研與創(chuàng)新，不斷優(yōu)化人工智能內(nèi)容生成監(jiān)測系統(tǒng)。例如，針對AI或人工生成的文本進行內(nèi)容識別，給予用戶更多的選擇權(quán)，逃出單一的信息囚籠。此外，AIGC生成的文本有時會出現(xiàn)語義錯誤和語義不一致的情況，也會出現(xiàn)人為生成虛假信息的情況，虛假信息會擾亂社會秩序，導致媒介公信力下降，增加群體極化的風險。對此，可以從邏輯、語義語法等方面開發(fā)內(nèi)容檢測工具，通過分析語言特征和上下文信息來識別虛假信息。

AIGC主要圍繞算力、算法、算據(jù)這三個方面建構(gòu)，但算法不是萬能的，需要在這三個領(lǐng)域做好人力物力的充分布局，與AI形成良好的匹配和互補。當用戶深陷在AI所創(chuàng)造的超現(xiàn)實環(huán)境中，沉溺在“AIGC繭房”中并對技術(shù)的誘導性渾然不覺時，需要利用更警醒的技術(shù)喚醒人類，避免任何一種算法成為用戶近乎唯一的選擇。

3.3 協(xié)同分工：主動讓渡下構(gòu)建權(quán)力分配的新范式

權(quán)力運作及分配需要新的協(xié)同分工，只有這樣才能打破“AIGC繭房”。在AI時代，權(quán)力運行方式從表現(xiàn)向交流轉(zhuǎn)變，從規(guī)范性向事實性轉(zhuǎn)變，從外部的高高在上向內(nèi)在生命化轉(zhuǎn)變［11］。由AI建構(gòu)起算法無所不至的傳播權(quán)力，需要分析其背后的權(quán)力結(jié)構(gòu)。低門檻、對話式的AIGC的出現(xiàn)打破了傳統(tǒng)的“網(wǎng)絡(luò)信息—算法技術(shù)—監(jiān)管部門—一般民眾”的傳播鏈，形成了“算法技術(shù)—網(wǎng)絡(luò)信息—一般民眾”這一新的傳播鏈，作為權(quán)力驅(qū)動的監(jiān)管部門的存在不再明顯，算法技術(shù)賦能賦權(quán)，掌握權(quán)力的命脈，導致信息傳播結(jié)果的新一輪“窄化”，也帶來算法運作范式的“黑箱”。

英國文化研究專家斯科特·拉什強調(diào)，“在一個媒體和代碼無處不在的社會，權(quán)力越來越存在于算法之中”［12］，因此要建構(gòu)權(quán)力分配的新范式。第一，監(jiān)管平臺要主動承擔責任，進行自我賦權(quán)，做好對隱藏在幕后的資本力量的市場監(jiān)管工作，針對不符合社會治理規(guī)范的AI技術(shù)及時頒布禁令；第二，媒體要重視倫理和道德規(guī)范，始終保持獨立思考，對AI技術(shù)保持理性思考，及時反饋AI技術(shù)引發(fā)的倫理問題等；第三，讓渡算法公司自主權(quán)，同時考慮到用戶的合法權(quán)益，包括不被算法監(jiān)控的權(quán)力；第四，用戶要積極爭取權(quán)力的讓渡，具備參與設(shè)計自身信息接收框架的意識，避免被過度沉浸式體驗和情感誘惑固化自身的信息偏好，積極打破“AIGC繭房”帶來的誘導性，打破技術(shù)對自己的全景式窺視。

4 結(jié)語

在復雜的人類世界中，很多影響其運行的初始變量早已產(chǎn)生，AI只是在加速這一進程；“鴻溝”原本就存在，技術(shù)只是在擴大“鴻溝”；互誘導性一定存在，人的選擇性偏好心理導致“信息繭房”產(chǎn)生。當數(shù)字不平等在加速時，人的抵抗不能失速。在AIGC為人類提供的“超真實”世界中，人們與其共生，它成了人們衡量世界的尺度，但在共生的征途中，必須警惕互誘導性的存在及其帶來的“AIGC繭房”。在Web3.0時代，人仍然是衡量機器的尺度，人們要為科技的進步狂歡，同時保持人文的謙卑，對數(shù)字化生存中的人的欲望保持警醒。在未來，應該如何減少“信息繭房”的負面影響，利用AIGC創(chuàng)造出烏托邦式的世界，值得深入研究。

參考文獻：

［1］ 大衛(wèi)·科林里奇.技術(shù)的社會控制［M］.倫敦：法國出版社，1980：3-15.

［2］ 張洪忠，段澤寧，韓秀.異類還是共生：社交媒體中的社交機器人研究路徑探討［J］.新聞界，2019（2）：10-17.

［3］ 凱斯·R.桑斯坦.信息烏托邦：眾人如何生產(chǎn)知識［M］.畢競悅，譯.北京：法律出版社，2008：7-8.

［4］ 虞怡晶，柴利.基于神經(jīng)風格轉(zhuǎn)移的無覆蓋圖像隱寫術(shù)［C］//第十四屆國際數(shù)字圖像處理會議. 2022：870-878.

［5］ 劉千才，張淑華.從工具依賴到本能隱抑：智媒時代的“反向馴化”現(xiàn)象［J］.新聞愛好者，2018（4）：13-16.

［6］ 喻國明，馬慧.互聯(lián)網(wǎng)時代的新權(quán)力范式：“關(guān)系賦權(quán)”：“連接一切”場景下的社會關(guān)系的重組與權(quán)力格局的變遷［J］.國際新聞界，2016，38（10）：6-27.

［7］ 切尼斯.B.深度造假：隱私、民主和國家安全面臨挑戰(zhàn)［J］.加利福尼亞法律評論，2019（107）：1753.

［8］ 張洪忠，斗維紅，任吳炯.元宇宙：具身傳播的場景想象［J］.新聞界，2022（1）：76-84.

［9］ 杜駿飛.“未托邦”：元宇宙與Web3的思想筆記［J］.新聞大學，2022（6）：19-34，119-120.

［10］ 喻國明，蘇健威.生成式人工智能浪潮下的傳播革命與媒介生態(tài)：從ChatGPT到全面智能化時代的未來［J］.新疆師范大學學報（哲學社會科學版），2023（3）：1-10.

［11］ 斯科特·拉什，程艷.后霸權(quán)時代的權(quán)力：變化中的文化研究［J］.江西社會科學，2009（8）：248-256.

［12］ 斯科特·拉什.霸權(quán)之后的權(quán)力：突變中的文化研究？［J］.理論、文化與社會，2007，24（3）：55-78.

作者簡介：張琴（1997—），女，江蘇泰州人，碩士在讀，研究方向：網(wǎng)絡(luò)輿情。