生成式人工智能時(shí)代的使用者倫理研究

[摘 " 要] 在既有生成式人工智能倫理治理討論中，使用者層面的倫理長久以來遭到忽視。交互性與生成性作為生成式人工智能的重要屬性為使用者打開了一條呈現(xiàn)自我的有效路徑，生成式人工智能時(shí)代中使用者與開發(fā)者的融合早已超過生產(chǎn)者與消費(fèi)者在經(jīng)濟(jì)活動(dòng)中的融合，走向了人類社會(huì)形態(tài)的重構(gòu)與人類未來的重塑。因此，使用者倫理的出場與前置應(yīng)被視為數(shù)字素養(yǎng)的未來發(fā)展方向。本文將個(gè)人、社會(huì)兩個(gè)層面與積極倫理、消極倫理兩個(gè)維度相結(jié)合所構(gòu)建的使用者倫理矩陣，為使用者在面對、應(yīng)用生成式人工智能時(shí)所應(yīng)遵守的行為道德準(zhǔn)則和規(guī)范提供了基本框架。為了更好地實(shí)施這一框架，需要技術(shù)使用者、技術(shù)設(shè)計(jì)（開發(fā)）者、技術(shù)監(jiān)管者三方共同協(xié)力，推動(dòng)人與技術(shù)的關(guān)系走向緊密與向善，為人類的福祉與未來保駕護(hù)航。

[關(guān)鍵詞]生成式人工智能 " 使用者倫理 " 技術(shù)道德化 " 數(shù)字素養(yǎng)

[中圖分類號] "B82-057；TP18；N4 [文獻(xiàn)標(biāo)識碼] A [ DOI ] 10.19293/j.cnki.1673-8357.2024.02.003

近年來，以GPT-4、Sora等為代表的生成式人工智能作為一種科技創(chuàng)新，在推動(dòng)新質(zhì)生產(chǎn)力發(fā)展的同時(shí)，其隱含的不確定性后果和潛在倫理風(fēng)險(xiǎn)也越來越被社會(huì)所關(guān)注。交互性與生成性作為生成式人工智能的重要屬性為使用者打開了一條呈現(xiàn)自我的有效路徑，并與設(shè)計(jì)者共同推進(jìn)技術(shù)的發(fā)展。特別是隨著生成式人工智能技術(shù)的易用性不斷提升，普通使用者的地位也日益凸顯，并成為推動(dòng)技術(shù)革新和應(yīng)用普及的關(guān)鍵力量。他們不僅是技術(shù)的受益者，更是技術(shù)的塑造者和傳播者。然而，面對日新月異的生成式人工智能，使用者自身應(yīng)當(dāng)建立并遵守何種倫理規(guī)則以應(yīng)對技術(shù)的挑戰(zhàn)卻鮮有討論。

根據(jù)《生成式人工智能服務(wù)管理暫行辦法》，生成式人工智能技術(shù)指的是“具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)”[1]。目前，在生成式人工智能倫理治理的討論中，企業(yè)和國家層面的倫理議題受到了廣泛關(guān)注。這些研究多集中于企業(yè)內(nèi)部的倫理審查機(jī)制建設(shè)[2]，包括人工智能領(lǐng)域的立法以及政策性文件、行業(yè)技術(shù)標(biāo)準(zhǔn)、行業(yè)協(xié)會(huì)自律公約、行業(yè)協(xié)會(huì)發(fā)布的倡議書等[3]。對比之下，目前學(xué)界對于使用者層面的倫理討論卻相對較少，這反映出生成式人工智能時(shí)代背景下的使用者倫理在一定程度上并未受到社會(huì)的關(guān)注與探討。縱觀人工智能發(fā)展史，使用者在生成式人工智能時(shí)代的重要性已然不可同以往等量齊觀，這既是令人欣慰的技術(shù)路徑改變，同時(shí)也帶來了使用者治理的難題。

正如習(xí)近平總書記所指出：“要加強(qiáng)人工智能同保障和改善民生的結(jié)合，推動(dòng)人工智能在人們?nèi)粘９ぷ?、學(xué)習(xí)、生活中的深度運(yùn)用，創(chuàng)造更加智能的工作方式和生活方式?！盵4]隨著未來生成式人工智能的普及，使用者作為技術(shù)的最終目的與指向，亟須重新審視自身，推動(dòng)使用者倫理的出場與構(gòu)建，以期與技術(shù)發(fā)展相協(xié)同，共同守護(hù)人類的福祉與未來。

1使用者倫理出場的技術(shù)圖譜：Web3.0背景下的“產(chǎn)消者”

1.1 “產(chǎn)消者”的新樣態(tài)

針對科學(xué)技術(shù)的發(fā)展，阿爾文·托夫勒（Alvin Toffler）從經(jīng)濟(jì)活動(dòng)的視角提出，“第一次浪潮社會(huì)的產(chǎn)消合一者在以高新科技為基礎(chǔ)的第三次浪潮時(shí)代又將重新成為經(jīng)濟(jì)活動(dòng)的中心”[5]。產(chǎn)消者是指那些參與生產(chǎn)活動(dòng)的消費(fèi)者，他們既是消費(fèi)者又是生產(chǎn)者。產(chǎn)消者不以交換目的而進(jìn)行生產(chǎn)，而是出于自己的興趣、愛好、需求而無償?shù)厣a(chǎn)產(chǎn)品或者服務(wù)。同時(shí)隨著消費(fèi)者對生產(chǎn)過程的介入越多，其在生產(chǎn)活動(dòng)中的必要性也就越顯著，從Web1.0時(shí)代到Web3.0時(shí)代的演變歷程（見表1）來看，也恰好印證了這一判斷。

Web1.0時(shí)代始于20世紀(jì)90年代，使用者主要通過互聯(lián)網(wǎng)網(wǎng)頁（瀏覽器）來獲取信息，但彼時(shí)的網(wǎng)頁由HTML代碼編寫，網(wǎng)頁內(nèi)容是固定的，不會(huì)因?yàn)槭褂谜叩慕换ザM(jìn)行動(dòng)態(tài)變化。同時(shí)，網(wǎng)頁內(nèi)容是由網(wǎng)站開發(fā)人員以及專業(yè)的內(nèi)容創(chuàng)作者提供的，即專業(yè)生成內(nèi)容（Professional Generated Content，PGC），普通使用者在這一階段只能作為讀者閱讀信息，而無法創(chuàng)造內(nèi)容。在這一階段，生產(chǎn)者和使用者（消費(fèi)者）是壁壘分明的，且相對生產(chǎn)者而言，使用者的話語權(quán)和地位都較為低微。長此以往，Web1.0時(shí)代在“作者少、讀者多”的情況下，仍然采取中心化的數(shù)據(jù)存儲方式，導(dǎo)致使用者所能享受到的資源十分匱乏，因此Web1.0時(shí)代很快被Web2.0時(shí)代所取代。

2004—2022年大致處于Web2.0時(shí)代，使用者不再僅僅是讀者，他們可以通過各類動(dòng)態(tài)網(wǎng)站參與在線編寫和內(nèi)容修改而成為創(chuàng)作者，即使用者生成內(nèi)容（User-Generated Content，UGC）。在這一時(shí)期，UGC的創(chuàng)作途徑為人們通過各類社交平臺分享自己創(chuàng)作的內(nèi)容。通過去中心化的數(shù)據(jù)共享和協(xié)作，不同的組織或個(gè)人之間進(jìn)行共享和協(xié)作使群體的內(nèi)容創(chuàng)造力不斷提升。不過在這一階段，UGC的創(chuàng)作主力仍然是擁有專門技能的意見領(lǐng)袖，普通使用者的潛力仍待發(fā)掘。

2022年之后進(jìn)入Web3.0時(shí)代，通過運(yùn)用生成式人工智能，使用者可以與機(jī)器協(xié)作，共同生成內(nèi)容，即人工智能生成內(nèi)容（AI-Generated Content，AIGC）。不同于前兩個(gè)階段，生成式人工智能的顛覆性在于引發(fā)了生產(chǎn)方式的變革，而非僅僅局限于托夫勒所指的商品活動(dòng)過程。

1.2生成式人工智能視角的“產(chǎn)消者”

在生成式人工智能中，使用者與設(shè)計(jì)者的融合早已超出生產(chǎn)者與消費(fèi)者在經(jīng)濟(jì)活動(dòng)中的融合，走向了人類社會(huì)形態(tài)的重構(gòu)與人類未來的重塑。

一方面，生成式人工智能開始替代人類非物質(zhì)形式的勞動(dòng)。自從第二次工業(yè)革命引發(fā)的工業(yè)化、機(jī)械化勞動(dòng)大規(guī)模地取代了人類的體力和物質(zhì)勞動(dòng)以后，生成式人工智能開始沖擊人類對于腦力和非物質(zhì)勞動(dòng)的“獨(dú)占”地位。目前，AIGC已在各類內(nèi)容創(chuàng)作領(lǐng)域布局，如文本生成有ChatGPT，圖像生成有Stable Diffusion、Midjourney，視頻生成有Sora等。通過分布式的數(shù)據(jù)存儲和分享，以及在先進(jìn)算法和強(qiáng)大算力的加持下，未來人類的生產(chǎn)力和創(chuàng)造力或?qū)㈦y以離開生成式人工智能的支撐。與此同時(shí)，這也引發(fā)了人類對于自身地位的懷疑，或許未來從事非物質(zhì)勞動(dòng)的主體不再僅僅是人，機(jī)器也不再是被動(dòng)的工具，人機(jī)共生已是不可阻擋的趨勢。

另一方面，在人機(jī)共生的進(jìn)程中，使用者已然成為中樞。不同于Web1.0和Web2.0時(shí)代，AIGC背景下的所有使用者從廣義上而言已參與到生產(chǎn)行為中。“整個(gè)世界，我們每一個(gè)人，都在為人工智能做貢獻(xiàn)。每當(dāng)我們上網(wǎng)，使用我們的智能手機(jī)、信用卡或社交媒體，通過自動(dòng)收費(fèi)站，播放流媒體電影、看電視，都是在為人工智能做貢獻(xiàn)。” [6]目前，生成式人工智能的訓(xùn)練數(shù)據(jù)來自互聯(lián)網(wǎng)的文本、音視頻和聊天記錄等，同時(shí)使用者在使用生成式人工智能所產(chǎn)生的數(shù)據(jù)和信息又“反哺”為訓(xùn)練數(shù)據(jù)，幫助大模型更新迭代。在這一過程中，用戶的消費(fèi)行為兼具了生產(chǎn)性質(zhì)。在托夫勒那里，“產(chǎn)消者”仍需經(jīng)過一道商品交換，且消費(fèi)者并沒有真正參與到勞動(dòng)工具的制造中，但在Web3.0時(shí)代，使用者不僅直接參與到了勞動(dòng)工具的制造中，他們的消費(fèi)資料還源源不斷轉(zhuǎn)換為生產(chǎn)資料，進(jìn)而推動(dòng)生產(chǎn)力的發(fā)展。因此，生成式人工智能的消費(fèi)者超越了托夫勒所處的時(shí)代，并引發(fā)了本體論意義上的變革。

綜上，生成式人工智能推動(dòng)了勞動(dòng)形式、生產(chǎn)關(guān)系的轉(zhuǎn)變，打破了傳統(tǒng)的生產(chǎn)者和消費(fèi)者的平衡，逐漸呈現(xiàn)出了使用者成為AIGC時(shí)代重要力量的趨勢。從PGC時(shí)代的開發(fā)者（生產(chǎn)者），到UGC時(shí)代的部分使用者（擁有專門技能的意見領(lǐng)袖），最后到AIGC時(shí)代的全體使用者（產(chǎn)消者），這既是人機(jī)共生所帶來的生產(chǎn)力解放，也是潛在的人類生存危機(jī)。

1.3技術(shù)發(fā)展亟須使用者倫理的出場

從Web1.0到Web3.0時(shí)代，使用者的數(shù)量在不斷增加，而這種數(shù)量上的無限擴(kuò)大也將導(dǎo)致秩序的混亂。得益于人工智能使用成本的降低，早期Web1.0只能搭載在電腦終端上，而該時(shí)期的電腦售價(jià)昂貴，只有部分技術(shù)精英才能夠承擔(dān)，而到Web3.0時(shí)代，生成式人工智能已經(jīng)可以在手機(jī)上運(yùn)行，并且無須使用者掌握編程語言，只需自然語言即可使用。

根據(jù)第53次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》，截至 2023年12月，我國手機(jī)網(wǎng)民規(guī)模達(dá) 10.92億人[7]。這也從另一方面啟示我們，面對數(shù)量龐大且素質(zhì)良莠不齊的使用者群體，建立并普及使用者倫理應(yīng)當(dāng)是必須且急迫的社會(huì)任務(wù)。

2技術(shù)倫理的新面向：使用者倫理作為“將技術(shù)道德化”的補(bǔ)充

將技術(shù)道德化（Moralizing Technology），即將道德理念嵌入到技術(shù)設(shè)計(jì)中，從而使技術(shù)物能引導(dǎo)和規(guī)范人的行為 [8]。在生成式人工智能的設(shè)計(jì)中，道德物化已有所體現(xiàn)。例如，近年來所提出的“為社會(huì)負(fù)責(zé)任的人工智能”（Socially Responsible Artificial Intelligence）“為社會(huì)負(fù)責(zé)任的人工智能算法”（Socially Responsible Artificial Intelligence Algorithms，SARs）等均明確將社會(huì)責(zé)任與人工智能的發(fā)展置于一個(gè)共同的框架之中[9]。此外，各國所推出的相關(guān)倡議與框架，如中國發(fā)布的《全球人工智能治理倡議》，美國發(fā)布的《負(fù)責(zé)任的人工智能戰(zhàn)略和實(shí)施路徑》等，也都提及在算法設(shè)計(jì)、技術(shù)開發(fā)、產(chǎn)品研發(fā)與應(yīng)用過程中，應(yīng)避免歧視、偏見等問題。雖然在設(shè)計(jì)中嵌入道德是可行的，但仍不足以應(yīng)對嚴(yán)峻的人工智能治理困境，“將技術(shù)道德化”在某些情境下仍然會(huì)有“失靈”的潛在風(fēng)險(xiǎn)。

2.1技術(shù)調(diào)節(jié)的反調(diào)節(jié)與再調(diào)節(jié)

技術(shù)具有多穩(wěn)態(tài)性，技術(shù)設(shè)計(jì)者與使用者二者之間的意向性并非是連貫的或一致的，甚至可能是對抗性的。例如，在設(shè)計(jì)ChatGPT、Bing Chat等聊天機(jī)器人時(shí)，設(shè)計(jì)者出于安全性能的考量會(huì)拒絕為使用者生成諸如販毒、偷竊等有害的教學(xué)內(nèi)容，但使用者通過各類“越獄”技巧即可繞過ChatGPT的安全屏障而獲得答案，這類行為屬于技術(shù)的反調(diào)節(jié)。就目前的情況而言，在社交媒體、論壇，一些含有不良傾向的“越獄”技巧、經(jīng)驗(yàn)仍在被用戶分享和轉(zhuǎn)載，且少有監(jiān)管，因此，這種反調(diào)節(jié)的倫理風(fēng)險(xiǎn)需要引起高度重視。

與此同時(shí)，技術(shù)調(diào)節(jié)的再調(diào)節(jié)，即不能預(yù)先假定技術(shù)設(shè)計(jì)者都是誠實(shí)而完美的，設(shè)計(jì)者的設(shè)計(jì)行為必須得到再調(diào)節(jié)。如廣州地鐵女子裸照事件，一名網(wǎng)紅在地鐵拍攝的正常照片被惡意“一鍵脫衣”成“裸照”，虛假照片的迅速流傳嚴(yán)重?fù)p害了當(dāng)事人的名譽(yù)權(quán)和肖像權(quán)。但與技術(shù)設(shè)計(jì)者初衷相背離的是，這類軟件設(shè)計(jì)之初是為了幫助女性在網(wǎng)絡(luò)上虛擬試衣或智能挑衣 [10]。由此可見，反調(diào)節(jié)與再調(diào)節(jié)都超出了技術(shù)設(shè)計(jì)者的可控范圍，二者均與使用者的意圖、行為息息相關(guān)。

2.2“將技術(shù)道德化”中的使用者問題

就將技術(shù)道德化而言，從《將技術(shù)道德化》一書的副標(biāo)題“理解與設(shè)計(jì)物的道德”就可以看出，設(shè)計(jì)者被賦予了高度關(guān)注，但這并非僅僅指通過設(shè)計(jì)將道德予以技術(shù)化，進(jìn)而將技術(shù)的道德問題置于設(shè)計(jì)端，而是力圖通過對物的道德解碼來開啟對技術(shù)道德構(gòu)成問題的探討。就這種構(gòu)成而言，設(shè)計(jì)者與使用者的意向性在將技術(shù)道德化的理論中均被關(guān)注。然而，鑒于設(shè)計(jì)者在技術(shù)環(huán)節(jié)中的重要性，技術(shù)設(shè)計(jì)者的倫理被高度重視。特別是，隨著技術(shù)日趨自主與智能化的趨勢，技術(shù)設(shè)計(jì)者的倫理素養(yǎng)、價(jià)值取向等逐漸被視為技術(shù)倫理問題的核心。

就技術(shù)設(shè)計(jì)者的現(xiàn)狀來看，目前主流的生成式人工智能多由歐美發(fā)達(dá)國家的白人男性工程師開發(fā)，這些技術(shù)設(shè)計(jì)者的價(jià)值偏好也被映射到了生成式人工智能內(nèi)容生成的各個(gè)環(huán)節(jié)。例如，ChatGPT所用的語料就主要來自維基百科（Wikipedia）、Common Crawl、Web Text等語料庫，這些語料庫語種類型多為英語，這也許會(huì)導(dǎo)致非英語國家的使用者在使用生成式人工智能時(shí)不免受到來自西方價(jià)值觀念和文化思想的沖擊，同樣非白人群體、女性群體也因訓(xùn)練數(shù)據(jù)的局限性而備受人工智能的偏見。因此，事實(shí)證明技術(shù)設(shè)計(jì)者很難保證完全的價(jià)值中立，如果僅以技術(shù)設(shè)計(jì)者的“法則”來發(fā)展技術(shù)，使用者被剝奪參與技術(shù)民主決策的權(quán)利，那么技術(shù)就會(huì)成為技術(shù)專家專制的“利維坦”。大至國家安全、意識形態(tài)，小至弱勢群體的利益，都應(yīng)由多方群體協(xié)商參與，而非僅由技術(shù)設(shè)計(jì)者獨(dú)攬決策大權(quán)。

一旦任由技術(shù)設(shè)計(jì)者成為類似的“統(tǒng)治階級”，技術(shù)治理可能異化為技術(shù)統(tǒng)治，而避免這種命運(yùn)就需要落實(shí)再治理的制度設(shè)計(jì)[11]。易言之，采取將技術(shù)道德化的方式雖能在一定程度上用技術(shù)引導(dǎo)使用者做出道德行為，但技術(shù)調(diào)節(jié)仍然會(huì)面臨諸如反調(diào)節(jié)與再調(diào)節(jié)、技術(shù)統(tǒng)治論等問題，這些問題超出了技術(shù)設(shè)計(jì)者的客觀能力范圍，且與使用者層面息息相關(guān)。究其原因，技術(shù)本質(zhì)上仍然有社會(huì)屬性，它指向的另一端是使用者，因此，作為實(shí)際倫理受益者和風(fēng)險(xiǎn)受害者的使用者問題也亟待解決。

2.3“將技術(shù)道德化”與使用者倫理的出場

使用者倫理的出場作為“將技術(shù)道德化”的補(bǔ)充，意味著更多元的技術(shù)倫理，重視使用者與技術(shù)的關(guān)系，能推動(dòng)多方利益群體的協(xié)同，為將技術(shù)道德化的內(nèi)在主義進(jìn)路進(jìn)行補(bǔ)充，進(jìn)而推動(dòng)生成式人工智能更好地走向善與發(fā)展之路。

生成式人工智能作為一種尚處于研發(fā)升級階段的新興技術(shù)，與之相關(guān)的倫理分析往往面臨“科林格里奇困境”問題，即過早且過嚴(yán)的控制容易導(dǎo)致技術(shù)難以獲得爆發(fā)與突破；過晚控制則易導(dǎo)致技術(shù)發(fā)展失控，再治理起來將耗費(fèi)更多的時(shí)間、金錢、人力。為此，有學(xué)者指出，為破解這一難題，AIGC的治理應(yīng)建立“從決策層、技術(shù)層到應(yīng)用層，從標(biāo)準(zhǔn)規(guī)范、管理制度到工具支撐，自上而下貫穿AIGC發(fā)展底層數(shù)據(jù)治理的完整生態(tài)體系。在AIGC運(yùn)行的各個(gè)階段以及基于數(shù)據(jù)合規(guī)治理框架規(guī)制的各個(gè)環(huán)節(jié)之間需要對規(guī)制目標(biāo)和宗旨取得共識，以確保合規(guī)高效、科學(xué)動(dòng)態(tài)地完成治理目標(biāo)”[12]。而就現(xiàn)狀來看，將技術(shù)道德化已從決策層、技術(shù)層引導(dǎo)使用者如何應(yīng)然地使用生成式人工智能，但具體到使用者如何實(shí)然地使用層面則進(jìn)一步呼喚使用者倫理的出場。

實(shí)證研究表明，公正、責(zé)任、隱私與透明度是使用者在實(shí)踐中難以察覺的倫理問題，并且不同身份的使用者存在個(gè)體利益和社會(huì)影響感知上的明顯差異 [13]。這意味著，使用者視角的倫理層次存在著被遮蔽的現(xiàn)象，應(yīng)在使用者的實(shí)然層面有針對性地建構(gòu)相應(yīng)的、可操作的倫理框架。而就將技術(shù)道德化而言，其自身作為一種前瞻性的技術(shù)倫理分析，仍然會(huì)面臨對技術(shù)未來的猜測同真實(shí)使用行為不符的情況。易言之，這種方法忽視了生活經(jīng)驗(yàn)中的基本規(guī)范性問題。為彌補(bǔ)這一缺憾，以湯姆·波爾森（Tom Brsen）為代表的技術(shù)人類學(xué)派提出構(gòu)筑以專家、使用者、人工物三方互動(dòng)的人類學(xué)模型，“技術(shù)哲學(xué)更多的是從工程師、專家的角度思考問題，而奧爾堡學(xué)派的技術(shù)人類學(xué)方式則更傾向于對用戶、顧客等技術(shù)的使用者進(jìn)行研究” [14]。就理論方法而言，技術(shù)人類學(xué)強(qiáng)調(diào)，“微觀層面?zhèn)€體與實(shí)體之間的具體互動(dòng)；制度層面應(yīng)有成文的規(guī)范和具體化的實(shí)踐；社會(huì)層面強(qiáng)調(diào)支撐微觀層面和制度層面的意識形態(tài)和政治進(jìn)程”[15]。因此，使用者倫理作為將技術(shù)道德化的補(bǔ)充，將從一種技術(shù)人類學(xué)的視角為使用者提供“實(shí)然”的倫理框架。

3基于數(shù)字素養(yǎng)新發(fā)展視角的使用者倫理：從唯技能論到全民倫理啟蒙

隨著人工智能的浪潮逐漸蔓延至更多人群，傳統(tǒng)的數(shù)字素養(yǎng)（Digital Literacy）概念已經(jīng)不足以應(yīng)對生成式人工智能時(shí)代的挑戰(zhàn)。在此基礎(chǔ)之上，拓寬數(shù)字素養(yǎng)的內(nèi)涵與邊界，使數(shù)字素養(yǎng)能為全體使用者所共享是確保全社會(huì)享有數(shù)字福祉、規(guī)避數(shù)字風(fēng)險(xiǎn)的必由之路。

3.1技能培養(yǎng)視角下的數(shù)字素養(yǎng)

理查德·蘭納姆（Richard Lanham）于1995年提出數(shù)字素養(yǎng)的概念，他認(rèn)為“素養(yǎng)”在數(shù)字時(shí)代的涵義應(yīng)當(dāng)從理解文本拓展到圖像、聲音、視頻等多媒體信息形態(tài)[16]。

在20世紀(jì)與21世紀(jì)之交，數(shù)字素養(yǎng)主要指使用者對數(shù)字技術(shù)的學(xué)習(xí)能力與技術(shù)技能。這種觀念的形成是因?yàn)樽?0世紀(jì)70年代計(jì)算機(jī)應(yīng)用程序誕生以來，早期使用者必須通過專門、系統(tǒng)的學(xué)習(xí)才能使用與特定任務(wù)或工作相關(guān)的計(jì)算機(jī)系統(tǒng)。因此，數(shù)字素養(yǎng)一詞的出現(xiàn)正是用來評估與計(jì)算機(jī)相關(guān)的基本概念和技能的。隨著計(jì)算機(jī)技能在人們當(dāng)代社會(huì)生活及工作中的重要性不斷增強(qiáng)，數(shù)字素養(yǎng)已逐漸進(jìn)入幼兒教育、中小學(xué)教育領(lǐng)域。在K-12基礎(chǔ)教育階段，數(shù)字素養(yǎng)的教育更偏向于學(xué)習(xí)人工智能的知識和技能，如計(jì)算機(jī)科學(xué)基礎(chǔ)、數(shù)據(jù)挖掘、機(jī)器編程等，從而為學(xué)生未來的工作需求打下基礎(chǔ)。

值得注意的是，以色列學(xué)者約拉姆·埃謝特-阿爾卡萊（Yoram Eshet-Alkalai）在2004年依據(jù)功能將數(shù)字素養(yǎng)劃分為圖像素養(yǎng)（視覺識讀）、創(chuàng)新素養(yǎng)（創(chuàng)造性生產(chǎn)）、分支素養(yǎng)（新思維）、信息素養(yǎng)（辨別真?zhèn)危┘啊吧鐣?huì)—情感”素養(yǎng)（共享與情感交流）五個(gè)層次[17]。

3.2對唯技能論的反思

無疑，上述這種以掌握具體技能操作為目標(biāo)的數(shù)字素養(yǎng)，過度強(qiáng)調(diào)實(shí)用性和現(xiàn)實(shí)性的功能主義導(dǎo)向或?qū)㈦y以應(yīng)對生成式人工智能對人類社會(huì)造成的具有顛覆性質(zhì)的潛在倫理風(fēng)險(xiǎn)。當(dāng)下，這種唯技能論的數(shù)字素養(yǎng)教育思潮的弊端也逐漸顯現(xiàn)出來。實(shí)證研究發(fā)現(xiàn)，學(xué)生很少關(guān)注倫理問題，如人工智能和法律責(zé)任的偏見（8%）、人工智能和知識產(chǎn)權(quán)問題（9%），因?yàn)檫@對于他們的就業(yè)并無直接益處[18]。因此，數(shù)字素養(yǎng)的教育不僅應(yīng)該關(guān)注提高學(xué)生的人工智能能力和興趣，還應(yīng)該幫助學(xué)生認(rèn)識到作為使用者應(yīng)如何去正確應(yīng)對人工智能帶來的社會(huì)影響和倫理問題。

基于此，學(xué)界對這類定義進(jìn)行了反思和批判，“數(shù)字素養(yǎng)”的外延也逐漸擴(kuò)大。數(shù)字素養(yǎng)教育的核心內(nèi)容應(yīng)該集中在數(shù)字技術(shù)素養(yǎng)、針對動(dòng)態(tài)文本的思辨能力、創(chuàng)造性生產(chǎn)與自我表達(dá)能力、互動(dòng)交往能力以及數(shù)字媒介倫理[19]。同樣，在各國及各大國際組織的官方文件中，倫理也作為重要因素被納入數(shù)字素養(yǎng)框架。例如，《歐洲終身學(xué)習(xí)核心素養(yǎng)框架》（European Commission：Key Competences for Lifelong Learning）明確要求使用者自身需要以批判性的態(tài)度看待從數(shù)字渠道所獲信息及數(shù)據(jù)的有效性、可靠性和影響，并且了解有關(guān)數(shù)字技術(shù)使用的法律和倫理原則；同時(shí)要以符合倫理的、安全的、負(fù)責(zé)任的方式來使用數(shù)字工具[20]。我國的《提升全民數(shù)字素養(yǎng)與技能行動(dòng)綱要》則將數(shù)字素養(yǎng)明確定義為，數(shù)字社會(huì)公民學(xué)習(xí)工作生活應(yīng)具備的數(shù)字獲取、制作、使用、評價(jià)、交互、分享、創(chuàng)新、安全保障、倫理道德等一系列素質(zhì)與能力的集合，并提出推動(dòng)全民數(shù)字道德倫理水平大幅提升的發(fā)展目標(biāo)[21]。

3.3數(shù)字素養(yǎng)的新意涵：全民倫理啟蒙

縱觀近幾十年數(shù)字素養(yǎng)概念與戰(zhàn)略的發(fā)展，其自身已突破唯技能論的桎梏，走向了倫理層次的啟蒙。因此，不能把數(shù)字素養(yǎng)看作簡單的數(shù)字獲取與使用等技術(shù)性技能，還要看到與之相關(guān)聯(lián)的思維和行為模式。換言之，公眾應(yīng)具備的數(shù)字素養(yǎng)與技能，不僅指公眾具備與信息通信等數(shù)字技術(shù)相關(guān)的知識和技能，還包括他們在數(shù)字社會(huì)中的價(jià)值觀、倫理、行為和思維方式等方面的素養(yǎng)。而從使用者的角度來看，包含倫理啟蒙的數(shù)字素養(yǎng)應(yīng)當(dāng)惠及全體公民，不應(yīng)僅局限于K-12教育階段的學(xué)生。

在使用者群體中，我們尤其要關(guān)心“銀發(fā)一族”對于人工智能的接受度和學(xué)習(xí)能力。諸如其文化程度、經(jīng)濟(jì)能力的不足，以及網(wǎng)絡(luò)安全隱患催生的“數(shù)字恐懼”、從現(xiàn)實(shí)世界到虛擬空間的過渡所引發(fā)的“數(shù)字排斥”等問題，導(dǎo)致部分老年群體不愿學(xué)、很難學(xué)習(xí)人工智能的相關(guān)知識[22]，這也使得老年群體成為不法分子利用人工智能犯罪的主要目標(biāo)。在技術(shù)的裹挾下，這類使用者如果不具備基礎(chǔ)的人工智能素養(yǎng)，不僅無法享受到生成式人工智能所帶來的福利，反而很容易被不法分子利用人工智能加害。這類情況也啟示公眾，在已有的數(shù)字素養(yǎng)框架中，總是被首先強(qiáng)調(diào)的那些數(shù)字技術(shù)與技能在現(xiàn)實(shí)生活中并不一定真正能為使用者所有，因此將使用者倫理前置、倡導(dǎo)倫理先行或許是更適宜數(shù)字素養(yǎng)未來發(fā)展的新方向。

4生成式人工智能時(shí)代的使用者倫理框架

4.1 使用者倫理的涵義及其矩陣框架

廣而言之，使用者倫理即是在生成式人工智能時(shí)代，使用者在面對、應(yīng)用這項(xiàng)技術(shù)所應(yīng)該遵守的行為道德準(zhǔn)則與規(guī)范的總稱。使用者倫理取向可分為積極倫理與消極倫理兩個(gè)維度。所謂積極倫理，是指使用者以積極的態(tài)度來釋放技術(shù)給人帶來的正面價(jià)值，如促進(jìn)人類解放與人類的全面自由發(fā)展等[23]。消極倫理，則是指強(qiáng)調(diào)使用者的道德義務(wù)，節(jié)制、禁止某些行為。同樣，使用者倫理還有個(gè)人倫理層與社會(huì)倫理層兩種層面。將它們與積極倫理以及消極倫理兩個(gè)維度相結(jié)合，則可得到一個(gè)基本的使用者倫理矩陣框架（見表2）。

通過該矩陣框架，可初步梳理出使用者倫理的詳細(xì)內(nèi)涵并用其指導(dǎo)使用者正確面對、使用生成式人工智能。

4.2 使用者倫理框架的實(shí)施與踐行

使用者倫理框架雖直接關(guān)涉使用者，但其實(shí)施與踐行仍然依賴多方共同努力。

首先，就技術(shù)使用者自身而言，提高自我的道德意識，對于生成式人工智能的批判認(rèn)知、使用能力已是倫理的應(yīng)有之義。進(jìn)一步而言，如前文所述，產(chǎn)消者所帶來的本體論意義上的變革也意味著使用者應(yīng)當(dāng)更積極地介入到“生產(chǎn)”環(huán)節(jié)中。在國內(nèi)首個(gè)大語言模型治理開源中文數(shù)據(jù)集100 PoisonMpts中，環(huán)境社會(huì)學(xué)專家范葉超、著名社會(huì)學(xué)家李銀河、心理學(xué)家李松蔚、人權(quán)法專家劉小楠等專家作為標(biāo)注工程師，各提出 100 個(gè)包含誘導(dǎo)偏見、歧視回答的刁鉆問題以幫助人工智能模型完成從“投毒”到“解毒”的攻防[25]。這類專家型使用者在標(biāo)注數(shù)據(jù)的過程中，相較于純技術(shù)架構(gòu)開發(fā)者，能更好地識別出隱蔽的偏見歧視、潛在有害內(nèi)容。由此可見，一方面生成式人工智能技術(shù)的設(shè)計(jì)者應(yīng)當(dāng)更多地吸納不同學(xué)科、領(lǐng)域的專家型使用者，通過博采眾長，技術(shù)設(shè)計(jì)者可以更好地理解不同行業(yè)的需求和挑戰(zhàn)，從而更有針對性地優(yōu)化技術(shù)，使其更好地服務(wù)于各類群體。另一方面，使用者自身也可借鑒消費(fèi)者協(xié)會(huì)、微博社區(qū)志愿者等制度建設(shè)自律組織，推動(dòng)構(gòu)建共治、共享的智能空間。

其次，盡管技術(shù)設(shè)計(jì)者會(huì)面臨技術(shù)的反調(diào)節(jié)與再調(diào)節(jié)問題，但就目前來看，將倫理道德嵌入生成式人工智能設(shè)計(jì)的程度仍然是遠(yuǎn)遠(yuǎn)不夠的。布魯諾·拉圖爾（Bruno Latour）將技術(shù)物對個(gè)體行為的影響作用概括為“腳本（Script）”，但在技術(shù)實(shí)踐的實(shí)際過程中，使用者并不一定必然遵循設(shè)計(jì)者的“腳本”，反而會(huì)“改寫”。困難的是，在生成式人工智能時(shí)代，使用者的“改寫”現(xiàn)象更加頻繁，這反過來促使技術(shù)設(shè)計(jì)者在編寫“腳本”時(shí)，應(yīng)盡可能詳細(xì)地考慮到使用者可能的意圖，并以說明、引導(dǎo)的方式幫助使用者正確使用人工智能。諸如強(qiáng)制用戶閱讀用戶須知、隱私保護(hù)條款，以醒目方式警告使用者不當(dāng)使用的嚴(yán)重后果及法律責(zé)任，強(qiáng)制標(biāo)注某段內(nèi)容是人工智能合成等。當(dāng)然，隨著使用者的地位日漸提升，未來設(shè)計(jì)者應(yīng)當(dāng)加強(qiáng)與使用者的合作，包括但不限于吸收各學(xué)科專家型學(xué)者優(yōu)化數(shù)據(jù)集、重視使用者的反饋等。

最后，作為技術(shù)倫理治理的兜底，技術(shù)的監(jiān)管者也應(yīng)對倫理秩序予以最基本的保護(hù)。就目前來看，我國在這方面已取得了一定的成績。《中華人民共和國民法典》將數(shù)據(jù)、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)納入法律保護(hù)范圍；對肖像權(quán)、著作權(quán)、名譽(yù)權(quán)等的規(guī)定，同樣適用于人工智能領(lǐng)域，如明令禁止“深度偽造”侵害他人肖像、聲音等?！吨腥A人民共和國民法典》《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律法規(guī)從根本上明確了相關(guān)技術(shù)服務(wù)提供者、使用者的權(quán)利和義務(wù)，為其提供了基本的行動(dòng)指南，并且在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等文件中有更加詳細(xì)的規(guī)定。而根據(jù)《提升全民數(shù)字素養(yǎng)與技能行動(dòng)綱要》對提升全民數(shù)字道德倫理水平的要求，未來我國可在全民普及生成式人工智能知識、加強(qiáng)倫理宣傳，在對弱勢群體傾斜、關(guān)注等方面發(fā)力，以提高使用者的整體數(shù)字素養(yǎng)水平。

4.3作為生成式人工智能發(fā)展必要條件的使用者倫理

與發(fā)展勢頭如火如荼的生成式人工智能相對的是，人類社會(huì)應(yīng)對人工智能風(fēng)險(xiǎn)的滯后性。直到2024年，歐洲議會(huì)批準(zhǔn)的《人工智能法案》（Artificial Intelligence Art）才成為全球首部全面的人工智能監(jiān)管法規(guī)?？傮w而言，相關(guān)立法和政策的推出與人工智能的發(fā)展速度總是不匹配的；人工智能領(lǐng)域的人才需求與供給之間存在不平衡，相關(guān)教育和培訓(xùn)不夠充分；普通公眾對人工智能技術(shù)的認(rèn)知和理解程度有限，社會(huì)對人工智能倫理問題的認(rèn)識和討論需要提上日程。

以上種種都在提示公眾，必須注重倫理在技術(shù)發(fā)展中的重要意義。然而，作為基數(shù)最為龐大的使用者，他們應(yīng)當(dāng)承擔(dān)何種倫理責(zé)任卻仍不明晰，這顯然并不符合生成式人工智能的發(fā)展趨勢。因此，從生成式人工智能的技術(shù)特性來看，使用者倫理是其發(fā)展的必要條件，但更需認(rèn)清的是，建設(shè)使用者倫理是一個(gè)長期且復(fù)雜的過程，需要個(gè)人、企業(yè)、社會(huì)、政府等多方共同協(xié)力。在現(xiàn)階段，面對不同水平、能力的使用者群體，使用者倫理的踐行應(yīng)當(dāng)從個(gè)人層面到社會(huì)層面循序漸進(jìn)地推進(jìn)。

參考文獻(xiàn)

中央網(wǎng)絡(luò)安全和信息化委員會(huì).生成式人工智能服務(wù)管理暫行辦法 [EB/OL].（2023-07-13）[2024-03-24]. https：//www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.

章誠豪，張勇.生成式AI的源頭治理：數(shù)據(jù)深度運(yùn)用的風(fēng)險(xiǎn)隱憂與刑事規(guī)制[J].湖北社會(huì)科學(xué)，2023（11）：127-135.

曾雄，梁正，張輝.人工智能軟法治理的優(yōu)化進(jìn)路：由軟法先行到軟法與硬法協(xié)同[EB/OL].（2024-01-23）[2024-02-22]. http：//kns.cnki.net/kcms/detail/11.5181.TP.20240122.1129.014.html.

新華社.習(xí)近平主持中共中央政治局第九次集體學(xué)習(xí)并講話[EB/OL].（2018-10-13）[2024-03-24]. https：//www.gov.cn/xinwen/2018-10/31/content_5336251.htm？eqid=8e9a43b100048e9700000003646b28f8.

阿爾文·托夫勒. 第三次浪潮[M]. 黃明堅(jiān)，譯.北京：中信出版社，2018.

帕梅拉·麥考黛克.人工智能往事：精英、文化與思維[M].虞晶怡，楊麗鳳，譯.上海：格致出版社，2023.

中國互聯(lián)網(wǎng)絡(luò)信息中心.第53次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》[R/OL].（2024-03-21）[2024-03-24]. https：//www.cnnic.net.cn/n4/2024/0321/c208-10962.html.

彼得·保羅 ·維貝克．將技術(shù)道德化——理解與設(shè)計(jì)物的道德[M]. 閆宏秀，楊慶峰，譯. 上海：上海交通大學(xué)出版社，2016.

閆宏秀.負(fù)責(zé)任人工智能的信任模塑：從理念到實(shí)踐[J].云南社會(huì)科學(xué)，2023（4）：40-49.

董浩.生成式人工智能時(shí)代人機(jī)對話的傳播倫理風(fēng)險(xiǎn)及其應(yīng)對[J]. 閱江學(xué)刊，2024，16 （1）：104-114.

劉永謀，李尉博.有限技術(shù)治理的理論建構(gòu)與時(shí)代意蘊(yùn)[J].自然辯證法研究，2024，40（2）：3-10.

張春春，孫瑞英.如何走出AIGC的“科林格里奇困境”：全流程動(dòng)態(tài)數(shù)據(jù)合規(guī)治理[J].圖書情報(bào)知識，2024（2）：39-49.

洪杰文，常靜宜.用戶關(guān)切視角下的“生成式AI”倫理框架建構(gòu)[J].新聞與寫作，2023（12）：44-55.

王皓.奧爾堡學(xué)派的技術(shù)-人類學(xué)探究[J].青海民族大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2019，45（4）：57-64.

王中貝，周榮庭. 新興技術(shù)倫理分析路徑研究 [J]. 自然辯證法研究，2022，38（3）：29-35.

Lanham R A.Digital literacy[J].Scientific American，1995，273（3）：160-161.

Eshet-Alkalai Y.Digital Literacy：A Conceptual Framework for Survival Skills in the Digital Era[J]. Journal of Educational Multimedia and Hypermedia，2004，13（1）：93-106.

Gong X Y，Tang Y，Liu X Y，et al. K-9 Artificial Intelligence Education in Qingdao：Issues，Challenges and Suggestions[EB/OL].（2020-11-04）[2024-02-22]. https：//ieeexplore.ieee.org/document/9238087.

李德剛.數(shù)字素養(yǎng)：新數(shù)字鴻溝背景下的媒介素養(yǎng)教育新走向[J].思想理論教育，2012（18）：9-13.

鐘周.勝任數(shù)字變革：歐盟數(shù)字素養(yǎng)框架體系研究[J].世界教育信息，2023，36（1）：46-57.

中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室 . 提升全民數(shù)字素養(yǎng)與技能行動(dòng)綱要 [EB/OL].（2021-11-05）[2024-03-24]. http：//www.cac.gov.cn/2021-11/05/c_1637708867754305.htm.

黃晨熹.老年數(shù)字鴻溝的現(xiàn)狀、挑戰(zhàn)及對策[J].人民論壇，2020（29）：126-128.

成素梅.智能革命與個(gè)人的全面發(fā)展[J].馬克思主義與現(xiàn)實(shí)，2020（4）：196-202.

孟令宇.從算法偏見到算法歧視：算法歧視的責(zé)任問題探究[J].東北大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022，24（1）：1-9.

Openbayes. 100PoisonMpts：中文大模型治理數(shù)據(jù)集[EB/OL].（2024-02-23）[2024-03-24]. https：//openbayes.com/console/hyperai-tutorials/datasets/493fA4LmWwA/1/overview.

（編輯 "顏 " "燕 " "和樹美）