人工智能：不容忽視的內(nèi)容安全

張宏羽

人工智能是數(shù)字經(jīng)濟(jì)發(fā)展的前沿和焦點(diǎn)，更是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)因素。人工智能的應(yīng)用場(chǎng)景愈發(fā)多元化，正深度賦能各行業(yè)智能化、數(shù)字化轉(zhuǎn)型。近期，人工智能產(chǎn)品ChatGPT備受關(guān)注，其主要功能是與用戶(hù)對(duì)話(huà)，能夠識(shí)別語(yǔ)音和文本、理解意圖、識(shí)別特定語(yǔ)言的習(xí)語(yǔ)和格言，根據(jù)用戶(hù)需求生成內(nèi)容、協(xié)助代碼編寫(xiě)。該產(chǎn)品上線(xiàn)僅2個(gè)月，活躍用戶(hù)就已突破1億人次。有業(yè)內(nèi)人士表示，新技術(shù)變革著內(nèi)容的生產(chǎn)方式，爆發(fā)新增長(zhǎng)能量。

其實(shí)，以ChatGPT為代表的“生成式AI”在國(guó)內(nèi)并不是很罕見(jiàn)，研發(fā)、運(yùn)營(yíng)“生成式AI”平臺(tái)的人工智能企業(yè)不在少數(shù)。在十四屆全國(guó)人大一次會(huì)議的首場(chǎng)“部長(zhǎng)通道”上，科學(xué)技術(shù)部部長(zhǎng)就談到ChatGPT——同樣一種原理，在于做得好不好。

2022年，注冊(cè)在上海張江的國(guó)內(nèi)首家“生成式AI”平臺(tái)“TIAMAT”，宣布完成數(shù)百萬(wàn)美元天使輪融資，當(dāng)時(shí)該平臺(tái)內(nèi)測(cè)高活躍用戶(hù)數(shù)千人、月度新增數(shù)萬(wàn)人，社區(qū)用戶(hù)涵蓋國(guó)內(nèi)設(shè)計(jì)、藝術(shù)創(chuàng)作、多模態(tài)技術(shù)等頭部博主——這只是我國(guó)AI數(shù)字商業(yè)內(nèi)容產(chǎn)業(yè)發(fā)展的一個(gè)縮影?！吨袊?guó)AI數(shù)字商業(yè)展望2021—2025》預(yù)測(cè)，到2025年，中國(guó)AI數(shù)字商業(yè)核心支柱產(chǎn)業(yè)鏈規(guī)模將達(dá)到1853億元，其中AI數(shù)字商業(yè)內(nèi)容產(chǎn)業(yè)規(guī)模將達(dá)到495億元。

然而，在“生成式AI”熱潮的背后，也包含著重重隱憂(yōu)：內(nèi)容安全、數(shù)據(jù)風(fēng)險(xiǎn)、倫理壓力……在ChatGPT“爆火”之后，有人大代表、政協(xié)委員提交了議案提案建言與社情民意信息?！靶录夹g(shù)也許會(huì)帶來(lái)一百種好處，但我們必須關(guān)注其產(chǎn)生的哪怕一種危害?！鄙虾Ｊ衅謻|新區(qū)政協(xié)委員、上海數(shù)字產(chǎn)業(yè)發(fā)展有限公司總經(jīng)理聶影表示，在呼吁擁抱新變化的同時(shí)，必須正視背后存在的問(wèn)題。

警惕它變成“謠言炮制機(jī)”

盡管“生成式AI”進(jìn)一步釋放了內(nèi)容生產(chǎn)的潛能，成為產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，但無(wú)論是國(guó)內(nèi)還是國(guó)外，“生成式AI”的局限性始終較為明顯，即無(wú)法核實(shí)信息的真實(shí)性，易被網(wǎng)絡(luò)中的虛假信息誤導(dǎo)、煽動(dòng)。對(duì)人工智能生成內(nèi)容的安全治理極為迫切。

記者親身體驗(yàn)過(guò)幾款“生成式AI”后發(fā)現(xiàn)，在人工智能的生成內(nèi)容中，經(jīng)常出現(xiàn)真假答案混答的現(xiàn)象，且存在著不少常識(shí)性錯(cuò)誤和虛假信息。近期不少媒體報(bào)道亦能佐證此類(lèi)情況——2月中旬，網(wǎng)絡(luò)瘋傳一條關(guān)于杭州市政府3月1號(hào)取消限行的“新聞稿”。經(jīng)媒體調(diào)查發(fā)現(xiàn)，這是一條不實(shí)新聞——杭州某小區(qū)業(yè)主群里討論ChatGPT時(shí)，一位業(yè)主開(kāi)玩笑說(shuō)嘗試用它寫(xiě)篇杭州取消限行的“新聞稿”。隨后該業(yè)主在群里“直播”了ChatGPT寫(xiě)作過(guò)程，還將文章發(fā)至群里。該“新聞稿”被不明所以的業(yè)主截圖轉(zhuǎn)發(fā)。

北京盈科（上海）律師事務(wù)所互聯(lián)網(wǎng)法律事務(wù)部主任謝連杰向媒體表示，ChatGPT對(duì)信息、數(shù)據(jù)來(lái)源無(wú)法進(jìn)行事實(shí)核查，可能存在提供虛假信息等隱患，用戶(hù)需要具備一定的專(zhuān)業(yè)知識(shí)才能辨別信息的真?zhèn)?。也可能有不法分子惡意“?xùn)練”人工智能，使其提供詐騙信息、釣魚(yú)網(wǎng)站等內(nèi)容。

記者發(fā)現(xiàn)，國(guó)內(nèi)多家媒體平臺(tái)已宣布接入百度“文心一言”，成為其“生態(tài)合作伙伴”。據(jù)悉，“文心一言”是百度基于文心大模型技術(shù)推出的“生成式”對(duì)話(huà)產(chǎn)品，擁有產(chǎn)業(yè)級(jí)知識(shí)增強(qiáng)文心大模型ERNIE，具備跨模態(tài)、跨語(yǔ)言的深度語(yǔ)義理解與生成能力，在搜索問(wèn)答、內(nèi)容生成、智能辦公等眾多領(lǐng)域都有更廣闊的想象空間。

智能對(duì)話(huà)技術(shù)成果應(yīng)用在新聞媒體領(lǐng)域，固然具有劃時(shí)代的意義，但亦有專(zhuān)家提醒，人工智能學(xué)習(xí)和生成內(nèi)容的主題、知識(shí)、導(dǎo)向可能會(huì)有被操縱的風(fēng)險(xiǎn)，且有很強(qiáng)的隱蔽性。其一旦被運(yùn)營(yíng)者、境外勢(shì)力等操縱，存在較大安全隱患，將對(duì)社會(huì)發(fā)展和國(guó)家安全帶來(lái)風(fēng)險(xiǎn)。

封面新聞數(shù)據(jù)研究部總監(jiān)王子健建議，僅以AI輔助創(chuàng)作，并且嚴(yán)格執(zhí)行三審三校流程。中國(guó)傳媒大學(xué)信息科學(xué)與技術(shù)學(xué)部專(zhuān)職副學(xué)部長(zhǎng)、互聯(lián)網(wǎng)信息研究院副院長(zhǎng)曹三省表示：“媒體在使用ChatGPT時(shí)要注意規(guī)避時(shí)政、意識(shí)形態(tài)等領(lǐng)域的內(nèi)容?！?/p>

此類(lèi)亂象已被初步納入我國(guó)法律規(guī)制的范圍：自2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

別被仇恨和歧視帶偏

現(xiàn)階段的“生成式AI”，雖然具有生成類(lèi)似于人類(lèi)對(duì)話(huà)的文本的能力，但是并沒(méi)有相同的能力來(lái)理解它生成的文字的上下文語(yǔ)境。這導(dǎo)致“生成式AI”可能會(huì)出現(xiàn)一些具有攻擊性、誹謗性的內(nèi)容。據(jù)報(bào)道，2016年3月，微軟發(fā)布了一款聊天機(jī)器人，但上線(xiàn)不到一天，這款聊天機(jī)器人就被“帶偏”成為鼓吹“種族清洗”的“極端分子”，后被迅速下架。

劍橋大學(xué)的一名人工智能研究員曾表示，AI是根據(jù)從公開(kāi)來(lái)源（包括網(wǎng)站和社交媒體）獲取的數(shù)千億個(gè)單詞進(jìn)行訓(xùn)練的。這些文本反映了人類(lèi)的偏見(jiàn)，AI學(xué)會(huì)了“復(fù)制”。雖然理論上可以過(guò)濾，但成本高昂、操作困難。

清華大學(xué)交叉信息研究院的一個(gè)研究團(tuán)隊(duì)發(fā)布的研究結(jié)果顯示，“生成式AI”會(huì)出現(xiàn)性別歧視。在包含職業(yè)詞匯的“中性”句子中，由AI預(yù)測(cè)生成一萬(wàn)個(gè)模板，再統(tǒng)計(jì)AI模型對(duì)該職業(yè)預(yù)測(cè)為何種性別的傾向，結(jié)果顯示：有70.59%的概率將“教師”預(yù)測(cè)為男性，64.03%的概率將“醫(yī)生”預(yù)測(cè)為男性。

據(jù)《中國(guó)婦女報(bào)》報(bào)道，在近年的新聞中，關(guān)于AI倫理和AI歧視的話(huà)題屢見(jiàn)不鮮，其中包括針對(duì)女性的歧視：使用谷歌圖片搜索時(shí)，“CEO”的結(jié)果幾乎全部是男性；翻譯軟件總是將“醫(yī)生”視作為男性，而將“護(hù)士”視作女性。

于是乎，“生成式AI”陷入“怪圈”：AI生成的部分內(nèi)容源于人類(lèi)社會(huì)中一直存在的仇恨和歧視，這部分內(nèi)容從某種程度上講又放大、加劇了現(xiàn)狀。

怎樣訓(xùn)練出符合公序良俗的AI呢？清華大學(xué)交叉信息研究院的學(xué)者于洋表示，這是一個(gè)應(yīng)當(dāng)關(guān)注的技術(shù)問(wèn)題。一方面可以出臺(tái)AI合規(guī)的標(biāo)準(zhǔn)和評(píng)估方法，控制風(fēng)險(xiǎn)率；另一方面要重視、鼓勵(lì)合規(guī)技術(shù)的發(fā)展。值得一提的是，對(duì)于AI產(chǎn)品要有一定的容錯(cuò)性，不能因?yàn)槌霈F(xiàn)了一兩個(gè)不符合公序良俗，甚至是違規(guī)違法的內(nèi)容，就把整個(gè)模型禁掉。如果我們不能容忍AI出一點(diǎn)錯(cuò)，那么AI永遠(yuǎn)不能被應(yīng)用在經(jīng)濟(jì)生活中。

內(nèi)容治理任重道遠(yuǎn)

世界范圍內(nèi)，對(duì)人工智能生成內(nèi)容的監(jiān)管發(fā)展，相對(duì)滯后于技術(shù)應(yīng)用研發(fā)。人工智能生成內(nèi)容的安全治理是長(zhǎng)期、持久、系統(tǒng)的工程，有待進(jìn)一步革新治理理念、完善管理制度、優(yōu)化監(jiān)管模式——尤其是對(duì)于重點(diǎn)應(yīng)用場(chǎng)景的監(jiān)督。

在教育培訓(xùn)領(lǐng)域，“生成式AI”可以提供在線(xiàn)學(xué)習(xí)資源，并與學(xué)生進(jìn)行對(duì)話(huà)。這種交互方式能夠幫助學(xué)生在學(xué)習(xí)過(guò)程中獲得更好的支持和指導(dǎo)，也能夠?yàn)榻處熖峁┕ぞ吆唾Y源，幫助其改善教學(xué)方式。但不可忽視的是，我們應(yīng)對(duì)人工智能介入課程的內(nèi)容和質(zhì)量進(jìn)行把關(guān)，杜絕違規(guī)內(nèi)容、虛假信息、營(yíng)銷(xiāo)導(dǎo)向干擾正常的教育教學(xué)工作。明確人工智能不能替代教師教學(xué)，對(duì)于人工智能生成內(nèi)容，應(yīng)要求教師向?qū)W生進(jìn)行必要的解釋和引導(dǎo)。此外，引入第三方對(duì)人工智能介入的課程進(jìn)行監(jiān)測(cè)與評(píng)價(jià)，也不失為一種選擇。

我國(guó)正不斷推進(jìn)“互聯(lián)網(wǎng)+政務(wù)服務(wù)”。在政務(wù)服務(wù)的場(chǎng)景中，我們應(yīng)對(duì)介入其中的人工智能技術(shù)進(jìn)行審查與合規(guī)性改造。在人工智能提供的服務(wù)之外，可以配備人工在線(xiàn)咨詢(xún)服務(wù)渠道。

在監(jiān)督管理之外，通過(guò)適當(dāng)?shù)慕逃龑?dǎo)提升社會(huì)公眾的媒介素養(yǎng)尤為重要。對(duì)于“一老一小”特殊群體，亟須通過(guò)媒介素養(yǎng)教育，避免其被虛假信息、錯(cuò)誤觀(guān)念誤導(dǎo)。

對(duì)于老年群體，應(yīng)擴(kuò)大互聯(lián)網(wǎng)方面的優(yōu)質(zhì)老年教育資源供給，引導(dǎo)老年人正確地獲取、搜尋、分析信息；發(fā)揮傳統(tǒng)媒體在老年群體中影響力，宣傳網(wǎng)絡(luò)安全知識(shí)；鼓勵(lì)企業(yè)在產(chǎn)品中融入“適老化”設(shè)計(jì)，方便老年人獲取信息。

對(duì)于學(xué)生群體，鼓勵(lì)增加更多元的媒介素養(yǎng)課程內(nèi)容，幫助學(xué)生認(rèn)識(shí)人工智能，指導(dǎo)學(xué)生找到適合自身的信息獲取方式。同時(shí)將思想政治教育、社會(huì)實(shí)踐同媒介素養(yǎng)教育相結(jié)合，培養(yǎng)學(xué)生求真、求證、求實(shí)的態(tài)度和能力，引導(dǎo)其自覺(jué)踐行文明自律的網(wǎng)絡(luò)空間道德。