• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從ChatGPT火爆看智能生成內(nèi)容的風(fēng)險(xiǎn)及治理

    2023-11-19 20:00:34金雪濤周也馨
    編輯之友 2023年11期
    關(guān)鍵詞:綜合治理算法

    金雪濤 周也馨

    【摘要】人工智能技術(shù)的發(fā)展,為內(nèi)容生產(chǎn)領(lǐng)域帶來了生產(chǎn)力和生產(chǎn)關(guān)系的變革,智能生成內(nèi)容(AIGC)成為繼專業(yè)生成內(nèi)容(PGC)、用戶生成內(nèi)容(UGC)后全新的內(nèi)容生產(chǎn)模式,各類AIGC應(yīng)用在海內(nèi)外市場上廣受關(guān)注。文章從關(guān)鍵技術(shù)、生產(chǎn)主體、版權(quán)主體/確權(quán)、市場主導(dǎo)力量、虛實(shí)關(guān)系等方面入手,廓清AIGC帶來的產(chǎn)業(yè)結(jié)構(gòu)性變革,對AIGC所帶來的加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理及增大版權(quán)管理難度等問題進(jìn)行說明,進(jìn)而提出基于風(fēng)險(xiǎn)分類的動態(tài)治理、基于主體職責(zé)的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施,以期為AIGC治理提供一定的參考。

    【關(guān)鍵詞】AIGC GPT 算法 版權(quán)歸屬 技術(shù)倫理 綜合治理

    【中圖分類號】G206 【文獻(xiàn)標(biāo)識碼】A 【文章編號】1003-6687(2023)11-029-07

    【DOI】 10.13786/j.cnki.cn14-1066/g2.2023.11.004

    2023年年初,ChatGPT一躍成為AI技術(shù)應(yīng)用的頂流,學(xué)界、業(yè)界對生成式預(yù)訓(xùn)練語言模型的智能程序、生產(chǎn)內(nèi)容及各類影響進(jìn)行了激烈和廣泛的討論,話題持續(xù)升溫。ChatGPT是基于自然語言處理和深度學(xué)習(xí)的對話式人工智能模型,[1]帶來AI內(nèi)容創(chuàng)作領(lǐng)域生產(chǎn)力和生產(chǎn)關(guān)系的新變革。在深度學(xué)習(xí)的強(qiáng)大語言模型以及人類反饋強(qiáng)化學(xué)習(xí)技術(shù)加持下,ChatGPT能夠獨(dú)立進(jìn)行問答互動、文字翻譯及代碼撰寫等工作,在媒體、教育、醫(yī)療、游戲等行業(yè)具有廣泛的應(yīng)用前景。換言之,以ChatGPT為代表的智能生成內(nèi)容正在成為AI領(lǐng)域的商業(yè)新前沿。

    自ChatGPT在市場中應(yīng)用以來,內(nèi)容供給和需求方就將其視為內(nèi)容生產(chǎn)中降低成本、提升效率的重要工具,對其未來的業(yè)務(wù)模式拓展及商業(yè)模式創(chuàng)新充滿期待,但也需關(guān)注智能技術(shù)的應(yīng)用在逐漸取代人的決策和行為時所帶來的技術(shù)負(fù)外部性問題。具體到ChatGPT帶來的AIGC熱潮,其所帶來的風(fēng)險(xiǎn)既包含以往人工智能固有的問題,也具備新的特征。

    本研究基于內(nèi)容生成的演進(jìn)路徑,分析人工智能在生成文本、圖像、音頻、視頻以及多模態(tài)內(nèi)容中的不同應(yīng)用場景,探究AIGC在助力內(nèi)容孿生、內(nèi)容編輯、內(nèi)容創(chuàng)作過程中顯現(xiàn)出的加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理、增大版權(quán)管理難度等問題,進(jìn)而提出基于風(fēng)險(xiǎn)分類的動態(tài)治理、基于主體職責(zé)的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施,為AIGC的發(fā)展提供參考。

    一、內(nèi)容生成的演進(jìn)特征:從Web1.0到Web3.0

    盡管在Web1.0階段,互聯(lián)網(wǎng)也是一對多的傳播媒介,但其強(qiáng)大的多樣態(tài)內(nèi)容集成功能使其一出現(xiàn)便超越了報(bào)紙、廣播、電視等一對多傳播的傳統(tǒng)媒體。當(dāng)數(shù)字技術(shù)推動互聯(lián)網(wǎng)從多元互動的Web2.0階段演進(jìn)到智能化的Web3.0階段,互聯(lián)網(wǎng)已成為連接人與人關(guān)系的重要媒介。在互聯(lián)網(wǎng)的發(fā)展歷程中,內(nèi)容生產(chǎn)模式不斷迭代升級,從Web1.0的PGC,到Web2.0的UGC+PUGC,再到延續(xù)至今的Web3.0的AIGC主導(dǎo),內(nèi)容生產(chǎn)的關(guān)鍵技術(shù)、生產(chǎn)主體、版權(quán)主體/確權(quán)、市場主導(dǎo)力量、虛實(shí)關(guān)系等都發(fā)生了巨大變化(見表1)。

    1. Web1.0:專家生成內(nèi)容時代

    Web1.0時代,用戶通過Web瀏覽器單向獲取內(nèi)容,搜索技術(shù)、即時通信技術(shù)以腳本語言技術(shù)為重要基礎(chǔ),具有高度中心化的特征。內(nèi)容生產(chǎn)主體為具備相關(guān)知識的專業(yè)機(jī)構(gòu)或團(tuán)隊(duì),專業(yè)生產(chǎn)內(nèi)容成為主要內(nèi)容生產(chǎn)模式,互聯(lián)網(wǎng)呈現(xiàn)出多樣態(tài)內(nèi)容可讀形態(tài),非交互性明顯。在PGC模式下,版權(quán)主體多為機(jī)構(gòu),版權(quán)的確權(quán)需通過權(quán)威的第三方機(jī)構(gòu),具有中心化的特征,PGC的典型場景依托主要門戶網(wǎng)站,市場主導(dǎo)力量是網(wǎng)站等數(shù)字化平臺。從虛實(shí)間關(guān)系來看,此時的線上世界還不能即時即刻地反映現(xiàn)實(shí)世界,也較難實(shí)現(xiàn)互動操作,很多線上內(nèi)容是用戶離場的非親歷(非具身)的信息或數(shù)據(jù),也即用戶與事件在時空上不同步。

    2. Web2.0:用戶生成內(nèi)容時代

    當(dāng)技術(shù)實(shí)現(xiàn)了網(wǎng)絡(luò)上的供求交互,Web2.0走向成熟,社交媒體隨之產(chǎn)生,這也標(biāo)志著互聯(lián)網(wǎng)從一對多的傳播轉(zhuǎn)向了多對多的互動?;ヂ?lián)網(wǎng)技術(shù)的不斷進(jìn)步,打破了傳受雙方的界限,受眾在被動接受內(nèi)容的同時,開始注重自身的主動性,逐漸具備創(chuàng)作意識。

    此時,內(nèi)容的呈現(xiàn)不再單單依賴腳本語言,而是使用內(nèi)容聚合技術(shù)。用戶成為內(nèi)容的產(chǎn)消者,用戶生成內(nèi)容成為新興的網(wǎng)絡(luò)信息資源創(chuàng)作與組織模式,[2]Web2.0呈現(xiàn)出多樣態(tài)內(nèi)容可讀可寫可交互形態(tài)。從版權(quán)主體和確權(quán)過程看,UGC、PUGC的版權(quán)主體多為用戶或用戶與簽約公司共有,確權(quán)及版權(quán)保護(hù)依然依賴于權(quán)威的第三方機(jī)構(gòu)。用戶可根據(jù)所創(chuàng)作內(nèi)容自發(fā)組建不同的網(wǎng)絡(luò)社群,社群經(jīng)濟(jì)、粉絲經(jīng)濟(jì)隨之誕生。此環(huán)境下,典型場景依托移動互聯(lián)網(wǎng)和社交媒體,“數(shù)字化平臺+數(shù)字化社群”成為Web2.0時代的市場主導(dǎo)力量。從虛實(shí)間關(guān)系看,在AR、VR、全息影像等技術(shù)的加持下,用戶離場但具身感受虛擬場景(如云上博物館),或被中介化在場具身體驗(yàn)真實(shí)場景(如遠(yuǎn)程醫(yī)療手術(shù)),實(shí)現(xiàn)了用戶與事件在時間上同步但空間上不同步。Web2.0呈現(xiàn)出內(nèi)容+應(yīng)用的主要特征,但由于UGC的低門檻,導(dǎo)致互聯(lián)網(wǎng)中的內(nèi)容質(zhì)量參差不齊、內(nèi)容更新時間不固定,因此在專業(yè)機(jī)構(gòu)指導(dǎo)下的用戶內(nèi)容生成應(yīng)運(yùn)而生,成為用戶、平臺甚至社會新的需求。

    3. Web3.0與元宇宙:人工智能生成內(nèi)容時代

    如果說Web1.0是可讀的互聯(lián)網(wǎng),Web2.0是可讀、可寫的互聯(lián)網(wǎng),那么Web3.0則是可讀、可寫、可擁有的互聯(lián)網(wǎng)。隨著區(qū)塊鏈、AR、VR、MR、XR、AI等技術(shù)的發(fā)展,去中心化的網(wǎng)絡(luò)逐漸形成。伴隨2014年深度學(xué)習(xí)算法生成對抗網(wǎng)絡(luò)的推出,深度學(xué)習(xí)在人工智能機(jī)器層面的應(yīng)用加快。以數(shù)字內(nèi)容為支撐的元宇宙,需要在保證內(nèi)容質(zhì)量的基礎(chǔ)上提高內(nèi)容生產(chǎn)效率。受創(chuàng)作者水平、激勵措施等因素的影響,[3]PGC與UGC供給逐漸乏力,AIGC成為繼PGC、UGC之后以模型為主導(dǎo)的新型內(nèi)容生產(chǎn)模式。

    AIGC的內(nèi)容生產(chǎn)行為主體不再是人,而是算法與智能機(jī)器。盡管機(jī)器是否可成為版權(quán)所有者依然存在爭議,但在區(qū)塊鏈技術(shù)的加持下,去中心化的確權(quán)、信息安全及可追溯、智能合約自動執(zhí)行版權(quán)分配及保護(hù)已經(jīng)實(shí)現(xiàn)。元宇宙成為Web3.0的市場主導(dǎo)力量,“基礎(chǔ)設(shè)施+應(yīng)用”成為Web3.0顯現(xiàn)出的主要特征。從虛實(shí)關(guān)系看,AIGC所適應(yīng)的元宇宙已從增強(qiáng)現(xiàn)實(shí)技術(shù)演進(jìn)到模擬技術(shù),新興的數(shù)字技術(shù)實(shí)現(xiàn)了對現(xiàn)實(shí)世界的孿生(鏡像世界),未來將創(chuàng)造出與現(xiàn)實(shí)世界互相交融和操作的虛擬世界。在這個集體虛擬共享的空間中,用戶可通過元宇宙提供的虛擬世界引擎創(chuàng)造實(shí)景的在場具身感受,也可以離場具身或中介化具身,相互交互和探索相關(guān)聯(lián)的虛擬世界,也即用戶與事件可以在時空上同步,或時間上同步但空間上不同步。當(dāng)前,代表AIGC最新進(jìn)展的應(yīng)用就是OpenAI公司研發(fā)的ChatGPT,其完成了機(jī)器學(xué)習(xí)算法中自然語言處理技術(shù)的大幅度跨越,實(shí)現(xiàn)了人工內(nèi)容生成模式向機(jī)器內(nèi)容生成模式的轉(zhuǎn)換。雖然仍處于初級階段,但在資本的加碼和應(yīng)用場景的不斷擴(kuò)大中,AIGC發(fā)展態(tài)勢持續(xù)向好。

    二、智能生成內(nèi)容的應(yīng)用場景分析

    基于算力、預(yù)訓(xùn)練模型和多模態(tài)技術(shù)的不斷升級與發(fā)展,AIGC可生成四種基本的內(nèi)容形式,即文本、音頻、圖像、視頻,在此基礎(chǔ)上進(jìn)行跨模態(tài)生成,應(yīng)用場景豐富。目前,不同的內(nèi)容生成模式已廣泛應(yīng)用于傳媒、影視、電商、游戲等數(shù)字化程度高且需求旺盛的行業(yè)。

    1. 生成文本:降本增效

    語言模型是增強(qiáng)AIGC認(rèn)知能力的關(guān)鍵。通過AI技術(shù)智能生成文字,可降低人工和時間成本,實(shí)現(xiàn)降本增效。文本生成分為交互式與非交互式,非交互式包括輔助性寫作、結(jié)構(gòu)化寫作、非結(jié)構(gòu)化寫作。用戶輸入一段描述或要求,AI可從數(shù)據(jù)庫中自動抓取相關(guān)內(nèi)容,根據(jù)指令完成文字創(chuàng)作。當(dāng)前,作為AI交互性文本的代表性應(yīng)用,ChatGPT擁有文本理解的能力,可根據(jù)聊天語境與用戶交流,并具有論文撰寫、搜索引擎功能。此外,在電商行業(yè),AI客服可與消費(fèi)者進(jìn)行實(shí)時交流,從而提高購物轉(zhuǎn)換率。在教育領(lǐng)域,AI中文寫作智能輔導(dǎo)系統(tǒng)“小花獅”可實(shí)時批改作業(yè),提高學(xué)習(xí)效率。AI非交互性文本集中應(yīng)用于媒體行業(yè)。在新聞采編過程中,媒體可借助結(jié)構(gòu)化寫作快速生成新聞作品,提高效率。例如,在2017年四川阿壩州九寨溝地震中,機(jī)器人僅用25秒就完成540字的新聞稿件,極大地增強(qiáng)了新聞時效性。此外,字幕自動生成器、語音智能轉(zhuǎn)換文字軟件也被應(yīng)用于媒體作品制作環(huán)節(jié)。在影視行業(yè),借助AIGC的非結(jié)構(gòu)化寫作功能,可實(shí)現(xiàn)劇情續(xù)寫,如《你好,李煥英》《流浪地球》等影視作品都加入了AI創(chuàng)作內(nèi)容。

    2. 生成音頻:個性化定制

    智能音頻生成是利用深度神經(jīng)網(wǎng)絡(luò)模型對大量音頻數(shù)據(jù)進(jìn)行訓(xùn)練學(xué)習(xí),[4]使AI具備語音識別、對話生成的能力,自動生成高質(zhì)量音頻,包括音樂、語音及定制話語等。在音樂領(lǐng)域,AI借助大規(guī)模Transformer模型,可預(yù)測序列中的下一個音符,智能生成音樂。如OpenAI研發(fā)的MuseNet,可用10種不同樂器生成4分鐘的音樂作品。智能音頻生成技術(shù)可在不同場景中對生成音頻進(jìn)行定制化處理,滿足用戶需求。例如,高德地圖通過語音克隆,建立明星音頻庫,根據(jù)用戶需求模仿不同明星的聲音提供導(dǎo)航服務(wù)。如喜馬拉雅等有聲閱讀平臺借助TTS(Text-to-Speech)技術(shù)使聲音成為更智能的數(shù)字產(chǎn)品,拓展“耳朵經(jīng)濟(jì)”的商業(yè)化探索,聲音定制化成為新趨勢。[5]此外,在醫(yī)療領(lǐng)域,情緒療愈機(jī)器人Emohaa可構(gòu)建以生成對話為核心的交互式數(shù)字診療方案,及時提供針對性的情緒支持與心理疏導(dǎo),使患者保持心理健康。

    3. 生成圖像:提升品質(zhì)

    生成式對抗網(wǎng)絡(luò)是AIGC使用的關(guān)鍵算法,極大地提高了生成圖像的逼真度。生成圖像的類型包括圖像數(shù)據(jù)集的生成、圖像聯(lián)想創(chuàng)作、圖像修復(fù)等。圖像數(shù)據(jù)集主要是指AI通過提取用戶輸入圖像的特征形成新的圖像合集,如谷歌的Deep Dream Generator可上傳圖像并選擇風(fēng)格,生成新圖像。圖像聯(lián)想創(chuàng)作包括照片編輯、照片轉(zhuǎn)換卡通頭像、人體新姿勢生成、照片融合、不同年齡段圖片生成等,豐富了網(wǎng)絡(luò)用戶的娛樂生活,F(xiàn)ace、美圖秀秀、醒圖等圖像編輯軟件的美顏、換膚、換發(fā)型、加濾鏡等功能,深受用戶喜愛。在圖像修復(fù)方面,利用AI進(jìn)行畫質(zhì)增強(qiáng)修復(fù)已得到普遍應(yīng)用,如在2022百度世界大會上,通過AI完美地修復(fù)了《富春山居圖》殘卷,從視覺上提高了作品的觀賞價(jià)值。在網(wǎng)絡(luò)視頻行業(yè),優(yōu)酷、愛奇藝等綜合視頻平臺通過對部分經(jīng)典劇進(jìn)行畫質(zhì)增強(qiáng),提升影片清晰度,增強(qiáng)用戶黏性。

    4. 生成視頻:釋放創(chuàng)意潛力

    視覺模型是增強(qiáng)AIGC感知能力的關(guān)鍵。AIGC+視頻生成技術(shù)是基于多個卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、生成式對抗網(wǎng)絡(luò)、變分自動編碼器的組合。[6]生成視頻包括生成型、編輯型、定制型、數(shù)字虛擬人型。在電商行業(yè),虛擬主播帶貨、商品虛擬試戴是智能生成視頻的典型應(yīng)用。多數(shù)品牌推出在線虛擬試戴功能,用戶可了解商品與自身的適配度,提升在線購物體驗(yàn)。媒體行業(yè)也積極布局AI虛擬主播技術(shù),將其應(yīng)用于重要活動的報(bào)道或主持中,以推動傳統(tǒng)媒體的數(shù)字化發(fā)展。編輯型生成視頻主要應(yīng)用于AI換臉。在影視行業(yè),影視劇通過AI換臉替代劣跡藝人或“復(fù)活”已故藝人,從而保證影片順利播出,如《流浪星球2》利用AI“復(fù)活”已故演員吳孟達(dá)。另外,影視公司也可通過AI直接生成視頻內(nèi)容。例如,IBM Watson制作出電影Morgan的預(yù)告片,極大地提高了創(chuàng)作效率。在游戲行業(yè),AIGC的NPC邏輯自動生成技術(shù)不僅可以完成游戲內(nèi)部場景和故事的搭建,還可以在游戲中建立代表自我的數(shù)字人,獨(dú)立完成活動任務(wù)。[7]例如,《黑客帝國:覺醒》通過虛擬引擎技術(shù)實(shí)現(xiàn)游戲中車輛行人獨(dú)立于玩家操控變動。

    5. 生成多模態(tài)內(nèi)容:升級AIGC創(chuàng)作能力

    在大數(shù)據(jù)模型的不斷訓(xùn)練中,AI模型知識積累量遠(yuǎn)大于人類,逐漸由單模態(tài)向多模態(tài)方向發(fā)展。多模態(tài)大模型是AIGC原生性創(chuàng)作的關(guān)鍵,既可以尋找不同模態(tài)之間的對應(yīng)關(guān)系,也可以將不同模態(tài)的數(shù)據(jù)進(jìn)行轉(zhuǎn)化。當(dāng)前,多模態(tài)模型生成內(nèi)容已廣泛應(yīng)用于媒體、影視、互聯(lián)網(wǎng)、游戲等行業(yè)。例如,在電商行業(yè),圖片搜索引擎已得到廣泛應(yīng)用;在新媒體行業(yè),九錘配音、加音、XAudioPro、剪映等媒體公司可基于文檔自動生成解說配音。AI繪畫是不同模態(tài)相互轉(zhuǎn)化的典型應(yīng)用,為創(chuàng)意產(chǎn)業(yè)提供了新的靈感,如2022年8月,美國游戲設(shè)計(jì)師Jason Allen憑借AI繪畫作品《太空歌劇院》擊敗人類畫家作品。在3D物體生成方面,AIGC的2D圖像生成3D模型主要是GANverse3D建立在2D照片基礎(chǔ)上訓(xùn)練的生成對抗網(wǎng)絡(luò),通過合成數(shù)千個對象的多個視圖來預(yù)測3D幾何、紋理和零件分割標(biāo)簽,如英偉達(dá)的GANverse3D可利用汽車照片生成3D模型,并在NVIDIA Omnivers中行駛。

    三、存在問題及風(fēng)險(xiǎn)

    神經(jīng)網(wǎng)絡(luò)等數(shù)字技術(shù)的迭代升級助力AIGC內(nèi)容孿生、內(nèi)容編輯與內(nèi)容創(chuàng)作三大功能的綜合應(yīng)用。內(nèi)容孿生能力是將現(xiàn)實(shí)世界中物理屬性和社會屬性高效、可感知地進(jìn)行數(shù)字化;內(nèi)容編輯能力是通過高效率仿真和低成本試錯,為現(xiàn)實(shí)世界的應(yīng)用提供快速迭代能力,打通現(xiàn)實(shí)與虛擬的通道;內(nèi)容創(chuàng)作能力指通過機(jī)器深度學(xué)習(xí)和算法構(gòu)建形成自我演化支持海量內(nèi)容生產(chǎn)。這三大能力在支持全新內(nèi)容生產(chǎn)力、服務(wù)人類社會經(jīng)濟(jì)各方面的同時,帶來加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理、增大版權(quán)管理難度等問題。

    1. 加劇“信息繭房”

    AIGC的內(nèi)容孿生功能依賴于現(xiàn)實(shí)場景中的原始數(shù)據(jù)重構(gòu)逼真的數(shù)字世界,原始數(shù)據(jù)的完整度影響所孿生的數(shù)字內(nèi)容。一方面,大數(shù)據(jù)時代,算法推薦成為數(shù)字媒體平臺的基礎(chǔ)功能,用戶數(shù)據(jù)為算法推薦積累了豐富的原材料,算法通過加工原材料洞悉用戶的行為特征、心理特征,進(jìn)行有針對性的內(nèi)容生產(chǎn)。算法推薦所具有的突出性、排他性、隱蔽性,將用戶馴化為信息的奴隸,用戶成為被潛化的對象性工具,經(jīng)過篩選的原始數(shù)據(jù)所造成的“信息繭房”問題也被帶入AIGC所孿生的數(shù)字世界。另一方面,GPT的出現(xiàn)一定程度上打破了搜索時代的“信息繭房”,但又建立起基于深度學(xué)習(xí)、深度計(jì)算和深度投喂的新型信息壁壘。GPT的運(yùn)行離不開大語言模型與其背后強(qiáng)大的數(shù)據(jù)庫,算法程序的運(yùn)行逐漸切斷了用戶與原始信息的連接,GPT在一次次的迭代中掌握使用者的偏好,從而產(chǎn)生偏見,將用戶籠罩在其所建造的新的“繭房”中,形成認(rèn)知困境。

    2. 造成信息失真

    以ChatGPT為代表的對話式機(jī)器人依靠自身強(qiáng)大的互動模式,影響了現(xiàn)有搜索引擎的業(yè)務(wù)體系。但它不能像傳統(tǒng)搜索引擎一樣隨時調(diào)取互聯(lián)網(wǎng)信息,實(shí)時更新數(shù)據(jù)庫,而是基于語言模型,通過調(diào)用過去的大量文本進(jìn)行數(shù)據(jù)處理,在不需要理解對話內(nèi)容的前提下與用戶進(jìn)行擬人化溝通。公開資料顯示,ChatGPT的訓(xùn)練數(shù)據(jù)是由OpenAI團(tuán)隊(duì)訓(xùn)練和提供的,是對2021年及以前的數(shù)據(jù)內(nèi)容進(jìn)行學(xué)習(xí)、分析和再造,具有滯后性。機(jī)器所生成的內(nèi)容并不能與人類語料同步,由此導(dǎo)致內(nèi)容嚴(yán)謹(jǐn)性缺失。與此同時,算法歧視一直貫穿人工智能技術(shù)發(fā)展的整個過程。相關(guān)技術(shù)或因控制人員通過計(jì)算機(jī)禁止命令輸出帶有主觀價(jià)值的內(nèi)容,或因抓取數(shù)據(jù)時的語料限制,無法避免算法闡釋的偏見甚至出現(xiàn)歧視性言論,例如微軟機(jī)器人Tay曾出現(xiàn)過極端暴力言論,這一問題不容忽視。

    此外,深度偽造技術(shù)令機(jī)器可通過樣本學(xué)習(xí),借助神經(jīng)網(wǎng)絡(luò)技術(shù)將人類的容貌、聲音或肢體動作等合為一體,形成新的人體圖像或直接進(jìn)行AI換臉。由于所合成媒體作品的高度真實(shí)性與擬人化,其內(nèi)容在傳播中對受眾的思想、社會行為甚至企業(yè)的經(jīng)濟(jì)活動產(chǎn)生顯著影響,以至于在面臨造假風(fēng)險(xiǎn)的同時,既可能造成個人名譽(yù)受損,也存在媒體喪失公信力的風(fēng)險(xiǎn)。

    3. 產(chǎn)生技術(shù)倫理問題

    AI產(chǎn)生的倫理問題主要包括個人隱私泄露和技術(shù)成癮等。正如前文所述,AIGC的內(nèi)容編輯是在語義理解的基礎(chǔ)上,對原有內(nèi)容進(jìn)行編輯或再生成,那么數(shù)據(jù)所有者面臨主體控制權(quán)喪失,導(dǎo)致個人數(shù)據(jù)或隱私被泄露和不當(dāng)利用風(fēng)險(xiǎn);[8]當(dāng)人們過度沉浸于網(wǎng)絡(luò)世界,會產(chǎn)生對互聯(lián)網(wǎng)的依賴,長期使用電子設(shè)備會產(chǎn)生電子設(shè)備依賴,導(dǎo)致心理問題和過度疲勞綜合征;同樣,AIGC的便利也會蠶食相關(guān)領(lǐng)域工作者獨(dú)立思考的能力,使其喪失自主求知欲,特別是知識獲取的便利性和零成本會導(dǎo)致學(xué)習(xí)者陷入技術(shù)依賴和AI上癮的陷阱,[9]從而在數(shù)字世界形成虛假信息的堆積。當(dāng)前,學(xué)界和業(yè)界都在深入思考與辯論,未來機(jī)器智能是否會全面代替人類智能,從而引發(fā)社會秩序混亂的風(fēng)險(xiǎn)。

    4. 增大版權(quán)管理難度

    在知識產(chǎn)權(quán)法的規(guī)則內(nèi),著作權(quán)法保護(hù)作品一定是來源于人的創(chuàng)作。在算法與深度學(xué)習(xí)技術(shù)的助力下,AI通過模仿和概念學(xué)習(xí)實(shí)現(xiàn)內(nèi)容創(chuàng)作,不可避免地出現(xiàn)著作權(quán)(版權(quán))問題及算法風(fēng)險(xiǎn)。自人工智能出現(xiàn),學(xué)界對于智能生成內(nèi)容可否作為作品的爭論從未停止。有學(xué)者認(rèn)為,人工智能生成內(nèi)容在著作權(quán)法上可視為代表設(shè)計(jì)者或訓(xùn)練者意志的創(chuàng)作行為,[10]滿足獨(dú)創(chuàng)性要求,即具備可版權(quán)性。[11]由此,可認(rèn)為人工智能生成內(nèi)容屬于知識產(chǎn)權(quán)保護(hù)下的作品。但更多學(xué)者與知識產(chǎn)權(quán)保護(hù)部門認(rèn)為,人工智能生成內(nèi)容的著作權(quán)歸屬問題尚未解決。

    一方面,ChatGPT由GPT-3.5系列提供技術(shù)支持,參數(shù)量超過1 750億,[12]巨大的參數(shù)使其可以理解人類不同指令的含義,處理多元化的任務(wù),生成內(nèi)容使用的是由機(jī)器深度學(xué)習(xí)所進(jìn)化的算法,未曾被控制者所預(yù)見。也就是說,ChatGPT在非結(jié)構(gòu)化寫作中,開始具備創(chuàng)意,所生成內(nèi)容具有創(chuàng)新性。從此角度看,AIGC版權(quán)可歸屬AI。另一方面,以ChatGPT為代表的人工智能生成內(nèi)容雖然由機(jī)器生產(chǎn),但其背后仍包含著設(shè)計(jì)者或控制者的思維邏輯,機(jī)器只是代碼轉(zhuǎn)換的工具,并不具備自我意識,人工智能仍是服務(wù)于人類的工具。[13]即便現(xiàn)階段的人工智能通過算法優(yōu)化實(shí)現(xiàn)感知,擁有深度學(xué)習(xí)能力,但在人機(jī)交互的過程中也只能最大化地模擬人類進(jìn)行交流,無法擺脫機(jī)器屬性,因此AIGC版權(quán)應(yīng)歸屬人類。此外,雖然ChatGPT在文本生成中是對原始材料進(jìn)行合理修改,但原始材料的作者是否授權(quán)無法保證,存在侵犯著作權(quán)風(fēng)險(xiǎn)。

    四、關(guān)于智能生成內(nèi)容治理的思考

    如今,在以信息革命為主的第四次工業(yè)革命中,智能生成內(nèi)容帶來了一場巨大的生產(chǎn)力變革,越來越多的行業(yè)使用人工智能進(jìn)行內(nèi)容生產(chǎn)。AIGC在內(nèi)容生產(chǎn)的過程中產(chǎn)生了難以預(yù)測的新風(fēng)險(xiǎn),相關(guān)治理迫在眉睫。

    1. 基于風(fēng)險(xiǎn)分類的動態(tài)管理

    當(dāng)前,由于AIGC自身技術(shù)不斷升級更新,加之與外部應(yīng)用的連接端口逐漸開放,導(dǎo)致不可預(yù)測的風(fēng)險(xiǎn)頻發(fā)??紤]到技術(shù)的負(fù)外部性導(dǎo)致的風(fēng)險(xiǎn)程度有所不同,對于AIGC的治理不可一刀切,而是應(yīng)根據(jù)實(shí)際風(fēng)險(xiǎn)程度進(jìn)行差異化治理。

    2023年6月14日,歐盟通過的《人工智能法案》確立了基于風(fēng)險(xiǎn)的人工智能治理范式,將人工智能劃分為四個不同的風(fēng)險(xiǎn)類別:最小風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和不可接受風(fēng)險(xiǎn),并針對各個等級制定實(shí)施差異化監(jiān)管。[14]該法案提出,將對人工智能進(jìn)行區(qū)別管理,按照人工智能的新發(fā)展新場景新應(yīng)用劃分不同的風(fēng)險(xiǎn)類別,風(fēng)險(xiǎn)較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的管理,需要更高的透明度和準(zhǔn)確性,這在一定程度上為智能生成內(nèi)容提供了治理思路。

    需要指出的是,《人工智能法案》中對于風(fēng)險(xiǎn)的規(guī)劃可視為對于人工智能進(jìn)行風(fēng)險(xiǎn)預(yù)測,而預(yù)測風(fēng)險(xiǎn)屬于靜態(tài)過程,還需從靜態(tài)的風(fēng)險(xiǎn)劃分轉(zhuǎn)為動態(tài)的風(fēng)險(xiǎn)監(jiān)測。[15]2023年7月13日,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣播電視總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,其中規(guī)定了暫行辦法的適用范圍是“利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”,同時更多體現(xiàn)了對新技術(shù)應(yīng)用的鼓勵和審慎的監(jiān)管思路,如要求生成式人工智能提供者要對相關(guān)生成性文本、圖片、聲音、視頻等內(nèi)容進(jìn)行標(biāo)識,保護(hù)個人隱私,采取有效措施防止沉迷等。但未來還需要在風(fēng)險(xiǎn)分類的基礎(chǔ)上建立人工智能風(fēng)險(xiǎn)評測平臺,有針對性地創(chuàng)建風(fēng)險(xiǎn)監(jiān)測模型,將其納入AIGC的生成步驟中,在持續(xù)的動態(tài)過程中,針對不同風(fēng)險(xiǎn)情況制定相應(yīng)的治理措施。這種技術(shù)治理技術(shù)的方式將成為人工智能產(chǎn)業(yè)賦能各行各業(yè)持續(xù)健康發(fā)展的基礎(chǔ)保障。

    2. 基于主體職責(zé)的系統(tǒng)化管理

    基于強(qiáng)大的語言處理與深度學(xué)習(xí)能力,AIGC呈現(xiàn)出鮮明的類人化特征。面對技術(shù)效能爆發(fā)式增長的生成式人工智能,封閉、單一、傳統(tǒng)的監(jiān)管運(yùn)行機(jī)制難以從“政府—市場”這一傳統(tǒng)二元架構(gòu)下汲取足夠的監(jiān)管資源。[16]對于AIGC的治理,不能再局限在數(shù)據(jù)篩選或算法邏輯等上中游階段,而應(yīng)將治理范疇拓展至場景應(yīng)用的下游階段,重點(diǎn)關(guān)注內(nèi)容輸出主體,明確責(zé)任劃分體系,建立基于主體的體系化管理系統(tǒng)。所謂系統(tǒng)化管理,既需要技術(shù)和服務(wù)提供的經(jīng)濟(jì)主體內(nèi)部自我規(guī)制,又需要來自政府的外部規(guī)制,兩者共同發(fā)力,構(gòu)建以主體為核心的問責(zé)機(jī)制。

    AIGC內(nèi)部自我規(guī)制主體包括技術(shù)開發(fā)者和服務(wù)提供者。對于技術(shù)開發(fā)者,要明確的是,新興技術(shù)發(fā)展與人的主觀意志尤其是人的倫理道德素質(zhì)密切相關(guān),使得技術(shù)倫理風(fēng)險(xiǎn)的產(chǎn)生具有一定主觀性,[17]人工智能所輸出內(nèi)容的文化價(jià)值偏向意味著AIGC模型開發(fā)者的算法素養(yǎng)。只有主體以社會責(zé)任為導(dǎo)向進(jìn)行算法技術(shù)更新,才能同時提高內(nèi)容生產(chǎn)效率和質(zhì)量。服務(wù)提供者多是從商業(yè)角度出發(fā),為獲取經(jīng)濟(jì)利益進(jìn)行市場活動,因此,自我規(guī)制的重點(diǎn)在于所提供服務(wù)的安全性以及社會責(zé)任。如微軟、谷歌等國外一些大型數(shù)字平臺已經(jīng)通過設(shè)置內(nèi)部道德委員會來進(jìn)行自我監(jiān)管,[18]避免其在商業(yè)領(lǐng)域的濫用。此外,在各種AIGC軟件不斷開放的環(huán)境下,用戶作為重要的參與主體,由于人工智能素養(yǎng)參差不齊,所創(chuàng)作的內(nèi)容質(zhì)量、AIGC的用途各不相同,那么P-AIGC也許可以成為繼PUGC之后的一種內(nèi)容復(fù)合生成模式,通過發(fā)揮機(jī)構(gòu)的力量保障內(nèi)容的品質(zhì)及機(jī)構(gòu)應(yīng)承擔(dān)的社會責(zé)任。

    性別歧視、刻板印象、數(shù)據(jù)泄露等問題,依靠企業(yè)或行業(yè)的自律性管控還遠(yuǎn)遠(yuǎn)不夠,需要來自政府的外部規(guī)制共同施力,相關(guān)法律法規(guī)的制定與實(shí)施至關(guān)重要。2021年10月29日,國家市場監(jiān)督管理總局發(fā)布了《互聯(lián)網(wǎng)平臺落實(shí)主體責(zé)任指南(征求意見稿)》,明確提出平臺企業(yè)應(yīng)落實(shí)主體責(zé)任。2022年3月1日實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確規(guī)定了算法推薦服務(wù)提供者的算法安全主體責(zé)任。由此可看出,基于算法主體的治理是國內(nèi)人工智能治理的重要發(fā)展方向。同時,國家市場監(jiān)督管理總局公布的《互聯(lián)網(wǎng)平臺分類分級指南(征求意見稿)》將互聯(lián)網(wǎng)平臺分為三級六類。不同類型、不同等級的平臺所承擔(dān)的主體責(zé)任不同,只有將主體責(zé)任和公共治理進(jìn)行有機(jī)結(jié)合,才能實(shí)現(xiàn)協(xié)同治理。總之,在基于主體責(zé)任的體系化管理中,政府、企業(yè)、社會可以嘗試分享監(jiān)管權(quán)并建立合作,形成監(jiān)管的互動機(jī)制,促進(jìn)開放式的多元主體協(xié)同治理。

    3. 基于全球視角的協(xié)同治理

    英國哲學(xué)技術(shù)家大衛(wèi)·克林格里奇在《技術(shù)的社會控制》中提出“克林格里奇困境”,即如果過早對技術(shù)實(shí)施控制,技術(shù)難以創(chuàng)新和發(fā)展;如果控制過晚,技術(shù)容易走向失控,并帶來昂貴的治理成本,甚至難以改變??梢?,技術(shù)管控的介入時間尤為重要。就AIGC而言,一方面,其正值發(fā)展上升期;另一方面,風(fēng)險(xiǎn)與危害層出不窮,具體的法律和規(guī)則尚不明晰。若想促進(jìn)AIGC的可持續(xù)發(fā)展,應(yīng)推進(jìn)全球技術(shù)發(fā)展與治理的協(xié)同,積極尋求二者的協(xié)調(diào)與平衡。

    從微觀出發(fā),AIGC產(chǎn)業(yè)鏈包括上游的數(shù)據(jù)服務(wù)、中游的算法模型與下游的應(yīng)用拓展。當(dāng)前智能治理的關(guān)鍵在于所有與技術(shù)治理相關(guān)的事物,均被轉(zhuǎn)化為同質(zhì)的可計(jì)算數(shù)據(jù)信息。[19]如今爆火的ChatGPT,就是在大量數(shù)據(jù)驅(qū)動下的生成內(nèi)容?;谥悄苌蓛?nèi)容一直存在的版權(quán)問題,可考慮通過數(shù)據(jù)所有權(quán)進(jìn)行版權(quán)的分割。2023年3月,中共中央、國務(wù)院印發(fā)了《黨和國家機(jī)構(gòu)改革方案》,國家發(fā)展和改革委員會管理機(jī)構(gòu)組建國家數(shù)據(jù)局,負(fù)責(zé)協(xié)調(diào)推進(jìn)數(shù)據(jù)基礎(chǔ)制度建設(shè),統(tǒng)籌數(shù)據(jù)資源整合共享和開發(fā)利用,統(tǒng)籌推進(jìn)數(shù)字中國、數(shù)字經(jīng)濟(jì)、數(shù)字社會規(guī)劃和建設(shè)等。[20]以此來看,國家數(shù)據(jù)局不僅可以改善市場上數(shù)據(jù)壟斷的問題,也為AIGC的版權(quán)問題提供了新思路。

    從宏觀出發(fā),技術(shù)的管理模式應(yīng)結(jié)合不同的國情加以選擇和調(diào)適,統(tǒng)籌多種實(shí)施戰(zhàn)略。諸種戰(zhàn)略的運(yùn)行都應(yīng)具有本土化特色,既不存在某一種普適戰(zhàn)略(如計(jì)劃),也不存在某種全球通用的唯一模式。因此,應(yīng)從全球治理格局出發(fā),加強(qiáng)國際國內(nèi)交流,根據(jù)各國的法律規(guī)范、道德體系等取最大公約數(shù),制定合理的人工智能治理公約。在具體的實(shí)施中,根據(jù)各國情況進(jìn)行本地化改進(jìn),提升治理效果。面向國內(nèi),想要完善智能式內(nèi)容生成的監(jiān)管生態(tài),需加快推進(jìn)人工智能立法進(jìn)程。伴隨我國《生成式人工智能服務(wù)管理暫行辦法》的出臺,在國際交流中,我國應(yīng)積極搭建開放式參與平臺,在國際生成式人工智能治理進(jìn)程中貢獻(xiàn)中國力量。

    結(jié)語

    當(dāng)前,AIGC發(fā)展仍處于初級階段,關(guān)鍵技術(shù)尚不成熟,各種風(fēng)險(xiǎn)難以預(yù)測。為了更好地推動技術(shù)發(fā)展與治理并行,可嘗試將靜態(tài)的風(fēng)險(xiǎn)預(yù)測轉(zhuǎn)變?yōu)閯討B(tài)的風(fēng)險(xiǎn)監(jiān)測。在各類應(yīng)用場景中,根據(jù)用戶反饋及時進(jìn)行技術(shù)升級,從而提高風(fēng)險(xiǎn)識別能力與治理效率。進(jìn)一步明確界定AIGC的責(zé)任主體邊界,厘清主體責(zé)任,促進(jìn)市場主體與政府主體的協(xié)同規(guī)制,同時推廣P-AIGC模式,發(fā)揮機(jī)構(gòu)的作用,保障內(nèi)容的品質(zhì)及機(jī)構(gòu)應(yīng)承擔(dān)的社會責(zé)任。在全球AIGC技術(shù)不斷發(fā)展的背景下,不同國家的技術(shù)開發(fā)者與政策制定者應(yīng)通力合作,共同制定相應(yīng)的管控措施,政府也應(yīng)將倫理考量納入AI發(fā)展的生命周期之中,加強(qiáng)對相關(guān)利益群體的倫理教育,形成多主體共治、全球系統(tǒng)共治的局面。在技術(shù)和商業(yè)模式不斷更新迭代之下,應(yīng)在AIGC的技術(shù)創(chuàng)新與技術(shù)治理之間尋找平衡點(diǎn),使兩者更好地可持續(xù)發(fā)展。

    參考文獻(xiàn):

    [1] Chatterjee J, Dethlefs N. This new conversational AI model can be your friend, philosopher, and guide……and even your worst enemy[J]. Patterns, 2023, 4(1): 1-3.

    [2] 趙宇翔,范哲,朱慶華. 用戶生成內(nèi)容(UGC)概念解析及研究進(jìn)展[J]. 中國圖書館學(xué)報(bào),2012(5):68-81.

    [3] 陳永偉. Web 3.0:變革與應(yīng)對[J]. 東北財(cái)經(jīng)大學(xué)學(xué)報(bào),2022(6):27-39.

    [4] 路遠(yuǎn),胡峰. AIGC技術(shù)在智慧廣電與網(wǎng)絡(luò)新視聽中的應(yīng)用探析[J]. 影視制作,2023,29(3):43-47.

    [5] Sharma Ankit, Kumar Puneet, Maddukuri Vikas, et al. Fast Griffin Lim based waveform generation strategy for text-to-speech synthesis[J]. Multimedia Tools and Applications, 2020, 79(41-42): 30205-30233.

    [6] Ian Goodfellow, Jean Pouget-Abadie,Mehdi Mirza,et al.Generative Adversarial Networks[J]. Communications of the ACM, 2020, 22(10): 139-144.

    [7] Sagredo-Olivenza I,Gomez-Martin·P. P, Gomez-Martin·M. A, et al. Trained Behavior Trees: Programming by Demonstration to Support AI Game Designers[J]. IEEE Transactions on Games, 2017, 11(1): 5-14.

    [8] 金雪濤. 算法治理:體系建構(gòu)與措施進(jìn)路[J]. 人民論壇·學(xué)術(shù)前沿,2022(10):44-53.

    [9] 鄧建鵬,朱懌成. ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對之策[J]. 新疆師范大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版),2023(5):1-11.

    [10] 吳漢東. 人工智能生成作品的著作權(quán)法之問[J]. 中外法學(xué),2020,32(3):653-673.

    [11] 熊琦. 人工智能生成內(nèi)容的著作權(quán)認(rèn)定[J]. 知識產(chǎn)權(quán),2017(3):3-8.

    [12] Zhang M, Li J.A commentary of GPT-3 in MIT Technology Review 2021[J]. 自然科學(xué)基礎(chǔ)研究(英文版),2021,1(6):3.

    [13] 叢立先. 人工智能生成內(nèi)容的可版權(quán)性與版權(quán)歸屬[J]. 中國出版,2019(1):11-14.

    [14] 曾雄,梁正,張輝. 歐盟人工智能的規(guī)制路徑及其對我國的啟示——以《人工智能法案》為分析對象[J]. 電子政務(wù),2022(9):63-72.

    [15] 張璐. 通用人工智能風(fēng)險(xiǎn)治理與監(jiān)管初探——ChatGPT引發(fā)的問題與挑戰(zhàn)[J]. 電子政務(wù),2023(9):1-11.

    [16] 張欣. 生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J]. 現(xiàn)代法學(xué),2023,45(3):108-123.

    [17] 安慧影,黃朝峰,李陽.新興技術(shù)倫理風(fēng)險(xiǎn)協(xié)同治理研究[J/OL].[2023-03-25].https://kns.cnki.net/kcms2/article/abstract?v=3uoqIhG8C45S0n9fL2suRadTyEVl2pW9UrhTDCdPD65alre2xrs7D5YM7fFBga-VUamlQwPeUH8XvSCMUnFynLNTjI4GjS06&uniplatform=NZKPT.

    [18] Lewis D, Moorkens J. A Rights-Based Approach to Trustworthy AI in Social Media[J]. Social Media+Society, 2020, 6(3): 1-13.

    [19] 劉永謀. 智能治理的哲學(xué)反思[J]. 中國人民大學(xué)學(xué)報(bào),2022,36(3):46-55.

    [20] 中共中央 國務(wù)院印發(fā)《黨和國家機(jī)構(gòu)改革方案》[EB/OL].[2023-03-16].http://www.gov.cn/gongbao/content/2023/content_5748649.htm.

    基金項(xiàng)目:亞洲傳媒項(xiàng)目“中日韓文化領(lǐng)域數(shù)字藏品(NFT)的應(yīng)用與平臺架構(gòu)比較研究”(AMRC2022-2);國家社會科學(xué)基金一般項(xiàng)目“數(shù)字經(jīng)濟(jì)背景下我國體育服務(wù)業(yè)與新媒體融合效果及融合創(chuàng)新研究”(20BTY052)

    作者信息:金雪濤(1973— ),女,北京人,中國傳媒大學(xué)國際傳媒教育學(xué)院教授、博士生導(dǎo)師,主要研究方向:數(shù)字經(jīng)濟(jì)、傳媒經(jīng)濟(jì);周也馨(1997— ),女,內(nèi)蒙古呼倫貝爾人,中國傳媒大學(xué)經(jīng)濟(jì)與管理學(xué)院博士研究生,主要研究方向:傳媒經(jīng)濟(jì)學(xué)。

    猜你喜歡
    綜合治理算法
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    涉毒案件場所變化趨勢的分析
    法制博覽(2016年11期)2016-11-14 10:36:07
    試述農(nóng)村配網(wǎng)低電壓現(xiàn)象與綜合治理
    會計(jì)監(jiān)管與反腐機(jī)制建設(shè)
    小流域水土保持綜合治理問題探討
    一種改進(jìn)的整周模糊度去相關(guān)算法
    www日本黄色视频网| 国产淫片久久久久久久久 | 人妻丰满熟妇av一区二区三区| 亚洲国产精品合色在线| 亚洲真实伦在线观看| 宅男免费午夜| 国产亚洲精品久久久com| 午夜福利成人在线免费观看| 日韩国内少妇激情av| 欧美一区二区精品小视频在线| 国产私拍福利视频在线观看| 亚洲精华国产精华精| 中出人妻视频一区二区| 757午夜福利合集在线观看| 自拍偷自拍亚洲精品老妇| 欧美精品国产亚洲| 一本一本综合久久| 日日夜夜操网爽| 久久国产精品影院| 国产精品av视频在线免费观看| 午夜亚洲福利在线播放| 在线看三级毛片| 赤兔流量卡办理| av在线蜜桃| 欧美黄色片欧美黄色片| a在线观看视频网站| 免费黄网站久久成人精品 | 最后的刺客免费高清国语| 精品久久久久久成人av| 老熟妇乱子伦视频在线观看| www.色视频.com| 老鸭窝网址在线观看| 色视频www国产| 日本在线视频免费播放| 一级毛片久久久久久久久女| 丁香欧美五月| 欧美日本亚洲视频在线播放| 婷婷精品国产亚洲av| 在线观看舔阴道视频| 天堂av国产一区二区熟女人妻| 国产中年淑女户外野战色| 午夜激情福利司机影院| 岛国在线免费视频观看| 日本免费a在线| 男插女下体视频免费在线播放| 国产成人啪精品午夜网站| 亚洲国产日韩欧美精品在线观看| 欧美+亚洲+日韩+国产| 国产成人福利小说| 热99re8久久精品国产| 丁香六月欧美| 精品人妻1区二区| 丰满乱子伦码专区| 99热这里只有是精品在线观看 | 国产精品一区二区三区四区久久| 欧美xxxx性猛交bbbb| 成人一区二区视频在线观看| 波多野结衣高清无吗| 久久久久久久午夜电影| 日本撒尿小便嘘嘘汇集6| 亚洲中文日韩欧美视频| 日本与韩国留学比较| av在线天堂中文字幕| 免费在线观看亚洲国产| 亚洲国产精品合色在线| 国产成年人精品一区二区| 性色avwww在线观看| 天堂影院成人在线观看| 国产视频一区二区在线看| www.色视频.com| 午夜老司机福利剧场| 级片在线观看| 一区二区三区高清视频在线| 亚洲性夜色夜夜综合| 99久久精品国产亚洲精品| 欧美日本视频| 3wmmmm亚洲av在线观看| 最后的刺客免费高清国语| 直男gayav资源| 久久人妻av系列| 久久精品91蜜桃| 亚洲欧美日韩东京热| 最新在线观看一区二区三区| 悠悠久久av| 亚洲中文字幕日韩| 免费av不卡在线播放| .国产精品久久| 久久久久久九九精品二区国产| 国产野战对白在线观看| 国产高清激情床上av| 亚洲内射少妇av| 欧美黑人巨大hd| av黄色大香蕉| 每晚都被弄得嗷嗷叫到高潮| 欧美一区二区亚洲| 又爽又黄a免费视频| 精品国产亚洲在线| 久久久精品欧美日韩精品| 成人鲁丝片一二三区免费| 久久精品国产亚洲av涩爱 | 首页视频小说图片口味搜索| 变态另类成人亚洲欧美熟女| 亚洲激情在线av| 嫩草影院新地址| 在线观看午夜福利视频| 午夜福利在线在线| 亚洲精品亚洲一区二区| 亚洲乱码一区二区免费版| 99热只有精品国产| 最近视频中文字幕2019在线8| 毛片一级片免费看久久久久 | 日韩精品青青久久久久久| 国产三级在线视频| 精品久久久久久久久亚洲 | 午夜福利免费观看在线| 午夜福利在线观看吧| 欧美黄色淫秽网站| 精品不卡国产一区二区三区| 88av欧美| 国产美女午夜福利| 网址你懂的国产日韩在线| 91av网一区二区| 无遮挡黄片免费观看| 夜夜夜夜夜久久久久| 国内精品久久久久精免费| 国产视频一区二区在线看| 国产一级毛片七仙女欲春2| 又紧又爽又黄一区二区| 动漫黄色视频在线观看| 好男人电影高清在线观看| 欧美在线黄色| 国产精品自产拍在线观看55亚洲| 男人和女人高潮做爰伦理| 国产精品美女特级片免费视频播放器| 亚洲美女黄片视频| 亚洲自拍偷在线| 嫩草影视91久久| 久久精品国产自在天天线| 国产精品一区二区三区四区久久| 制服丝袜大香蕉在线| 国产成人影院久久av| 国产精品伦人一区二区| 精品人妻一区二区三区麻豆 | 精品无人区乱码1区二区| 天天一区二区日本电影三级| 国产免费av片在线观看野外av| 国产欧美日韩一区二区精品| 国产精品电影一区二区三区| 亚洲成av人片在线播放无| 毛片一级片免费看久久久久 | 中文字幕av成人在线电影| 男人舔奶头视频| 久久热精品热| 国产免费av片在线观看野外av| 亚洲av电影在线进入| 十八禁人妻一区二区| 真实男女啪啪啪动态图| 最好的美女福利视频网| 18禁裸乳无遮挡免费网站照片| 国产探花在线观看一区二区| 无遮挡黄片免费观看| 一边摸一边抽搐一进一小说| 9191精品国产免费久久| 久久亚洲精品不卡| 国产美女午夜福利| 久久久久国产精品人妻aⅴ院| 91麻豆精品激情在线观看国产| 99在线视频只有这里精品首页| 99久久99久久久精品蜜桃| 午夜a级毛片| 在现免费观看毛片| 久久久久国产精品人妻aⅴ院| 日韩欧美三级三区| 夜夜夜夜夜久久久久| 变态另类成人亚洲欧美熟女| 在线观看美女被高潮喷水网站 | 一级a爱片免费观看的视频| 国产精品久久视频播放| 亚洲午夜理论影院| 久久久久久久久久黄片| 欧美色欧美亚洲另类二区| 亚洲色图av天堂| 国产高清视频在线观看网站| 日本黄色片子视频| 日本黄色视频三级网站网址| 国产黄色小视频在线观看| 久久人妻av系列| 精品人妻1区二区| 18美女黄网站色大片免费观看| 成人一区二区视频在线观看| 色综合亚洲欧美另类图片| 国产成人aa在线观看| 免费看光身美女| 国产精品,欧美在线| 国产精品自产拍在线观看55亚洲| a级毛片a级免费在线| 日韩精品青青久久久久久| 国产午夜精品久久久久久一区二区三区 | 国产精品三级大全| xxxwww97欧美| 人妻夜夜爽99麻豆av| 欧美一区二区亚洲| 丁香六月欧美| 国产精品免费一区二区三区在线| 成年女人毛片免费观看观看9| 午夜两性在线视频| 国产高清有码在线观看视频| 啦啦啦观看免费观看视频高清| 欧美日本亚洲视频在线播放| 国产真实乱freesex| 又黄又爽又免费观看的视频| 最近视频中文字幕2019在线8| 午夜福利成人在线免费观看| 亚洲真实伦在线观看| 久久久久九九精品影院| 伊人久久精品亚洲午夜| 色哟哟·www| 内地一区二区视频在线| 国产乱人视频| 日本一二三区视频观看| 亚洲国产精品合色在线| 欧美性猛交╳xxx乱大交人| www.熟女人妻精品国产| 欧美又色又爽又黄视频| 欧美日韩乱码在线| 精品熟女少妇八av免费久了| 国产人妻一区二区三区在| 欧美另类亚洲清纯唯美| 国产av麻豆久久久久久久| 成年女人看的毛片在线观看| 色吧在线观看| 在线观看午夜福利视频| 日本三级黄在线观看| av天堂中文字幕网| av在线天堂中文字幕| 男女那种视频在线观看| 婷婷六月久久综合丁香| 欧美成人免费av一区二区三区| 国产精品综合久久久久久久免费| 在线观看午夜福利视频| 伦理电影大哥的女人| 国产一区二区亚洲精品在线观看| 亚洲在线观看片| 一a级毛片在线观看| 99精品久久久久人妻精品| 成年版毛片免费区| 噜噜噜噜噜久久久久久91| 91麻豆av在线| 欧美又色又爽又黄视频| 能在线免费观看的黄片| 欧美三级亚洲精品| 色精品久久人妻99蜜桃| 91九色精品人成在线观看| 高清日韩中文字幕在线| 欧洲精品卡2卡3卡4卡5卡区| 色在线成人网| 亚洲人与动物交配视频| 国产视频一区二区在线看| 性色av乱码一区二区三区2| 成人欧美大片| 亚洲av成人av| 在线播放国产精品三级| 在线观看一区二区三区| 欧美黄色淫秽网站| 国产男靠女视频免费网站| 男插女下体视频免费在线播放| 好看av亚洲va欧美ⅴa在| 久久人人爽人人爽人人片va | 此物有八面人人有两片| 日本一二三区视频观看| 天堂av国产一区二区熟女人妻| av天堂中文字幕网| 久久精品人妻少妇| a级毛片免费高清观看在线播放| 国产人妻一区二区三区在| 国产精品电影一区二区三区| 99久久久亚洲精品蜜臀av| 天堂√8在线中文| 可以在线观看的亚洲视频| 中文字幕久久专区| 色吧在线观看| 国产在视频线在精品| 免费看a级黄色片| 精品一区二区三区视频在线| 国内精品美女久久久久久| 亚洲精华国产精华精| 一个人看视频在线观看www免费| 国产一区二区亚洲精品在线观看| 日日夜夜操网爽| 色吧在线观看| 国产aⅴ精品一区二区三区波| 国产不卡一卡二| 国内精品久久久久久久电影| 亚洲成人久久性| 中国美女看黄片| 少妇熟女aⅴ在线视频| a级毛片a级免费在线| 免费观看精品视频网站| 亚州av有码| 99热这里只有精品一区| av在线观看视频网站免费| 欧美日韩福利视频一区二区| 国产精品一区二区性色av| 性色avwww在线观看| 少妇高潮的动态图| 欧美成人性av电影在线观看| 国内精品一区二区在线观看| 在线观看美女被高潮喷水网站 | 亚洲精品日韩av片在线观看| 综合色av麻豆| 久久久久九九精品影院| 观看免费一级毛片| 两个人的视频大全免费| 日本 av在线| 欧美成人性av电影在线观看| 亚洲精品乱码久久久v下载方式| 免费无遮挡裸体视频| 99在线人妻在线中文字幕| 国产综合懂色| 亚洲av美国av| 精品一区二区三区av网在线观看| 亚洲18禁久久av| 免费在线观看成人毛片| 成人亚洲精品av一区二区| 亚洲av免费高清在线观看| 成人一区二区视频在线观看| 大型黄色视频在线免费观看| 成人特级av手机在线观看| 成年免费大片在线观看| 国产免费男女视频| 国产欧美日韩一区二区三| 中国美女看黄片| 成人精品一区二区免费| av国产免费在线观看| 一本久久中文字幕| 国产亚洲精品av在线| 国产私拍福利视频在线观看| 日韩 亚洲 欧美在线| 国产精品一区二区性色av| 日本一二三区视频观看| 永久网站在线| 麻豆国产av国片精品| 欧美日韩黄片免| 18禁裸乳无遮挡免费网站照片| 黄色日韩在线| 99国产精品一区二区蜜桃av| 精品久久久久久久久久免费视频| 久久久精品大字幕| 国产又黄又爽又无遮挡在线| 在线天堂最新版资源| 色噜噜av男人的天堂激情| 久久午夜亚洲精品久久| 赤兔流量卡办理| 搡女人真爽免费视频火全软件 | 中文字幕av在线有码专区| 男女做爰动态图高潮gif福利片| 国产淫片久久久久久久久 | 夜夜爽天天搞| 又紧又爽又黄一区二区| 俄罗斯特黄特色一大片| 日本在线视频免费播放| 毛片一级片免费看久久久久 | 亚洲,欧美精品.| 欧美xxxx性猛交bbbb| 免费无遮挡裸体视频| 欧美一区二区国产精品久久精品| 色尼玛亚洲综合影院| 亚洲 国产 在线| 欧美黑人巨大hd| 99国产精品一区二区三区| 搡老妇女老女人老熟妇| 成年版毛片免费区| www.www免费av| 久久国产精品影院| 国产亚洲精品久久久com| 精品国产亚洲在线| 简卡轻食公司| 97碰自拍视频| 久久久国产成人精品二区| 精品人妻视频免费看| 中出人妻视频一区二区| 草草在线视频免费看| 在线播放国产精品三级| 国产私拍福利视频在线观看| 亚洲三级黄色毛片| 亚洲av电影在线进入| netflix在线观看网站| 极品教师在线免费播放| 搞女人的毛片| 丝袜美腿在线中文| 国产亚洲精品久久久久久毛片| 日韩高清综合在线| 999久久久精品免费观看国产| 亚洲欧美日韩高清专用| 精品人妻偷拍中文字幕| 久久99热6这里只有精品| 自拍偷自拍亚洲精品老妇| 又爽又黄无遮挡网站| 精品久久久久久久久亚洲 | 伊人久久精品亚洲午夜| 国产av不卡久久| 在线看三级毛片| 脱女人内裤的视频| 搡老岳熟女国产| 日韩 亚洲 欧美在线| 悠悠久久av| 日韩高清综合在线| 亚洲精品一卡2卡三卡4卡5卡| 在线免费观看的www视频| 性欧美人与动物交配| 伦理电影大哥的女人| 天堂动漫精品| 日韩 亚洲 欧美在线| .国产精品久久| 国产精品精品国产色婷婷| 国产aⅴ精品一区二区三区波| 亚洲精品在线观看二区| 国模一区二区三区四区视频| 亚洲一区二区三区不卡视频| 国产欧美日韩一区二区三| 国产视频内射| 三级男女做爰猛烈吃奶摸视频| 亚洲无线在线观看| 国产aⅴ精品一区二区三区波| 日韩精品青青久久久久久| 男人的好看免费观看在线视频| 9191精品国产免费久久| 亚洲国产欧洲综合997久久,| 国内久久婷婷六月综合欲色啪| 成人av一区二区三区在线看| 91久久精品国产一区二区成人| 少妇的逼水好多| 97人妻精品一区二区三区麻豆| 久久性视频一级片| 高潮久久久久久久久久久不卡| 国产精品久久久久久精品电影| 97超级碰碰碰精品色视频在线观看| 一进一出抽搐gif免费好疼| 日韩欧美免费精品| 成人亚洲精品av一区二区| 精品久久久久久,| 毛片女人毛片| 国产av一区在线观看免费| 国产男靠女视频免费网站| 99国产精品一区二区蜜桃av| 天堂av国产一区二区熟女人妻| 色综合站精品国产| 精品久久久久久久久久免费视频| 亚洲激情在线av| 亚洲精品乱码久久久v下载方式| 最好的美女福利视频网| 久久久色成人| 色哟哟哟哟哟哟| 午夜老司机福利剧场| 亚洲av五月六月丁香网| 黄色视频,在线免费观看| 丁香六月欧美| 久久精品国产亚洲av香蕉五月| 国产亚洲精品久久久com| 伊人久久精品亚洲午夜| АⅤ资源中文在线天堂| 性欧美人与动物交配| 日韩人妻高清精品专区| 成年人黄色毛片网站| 夜夜看夜夜爽夜夜摸| 午夜免费激情av| 欧美乱色亚洲激情| 九九热线精品视视频播放| 久久久久久久久大av| 欧美乱妇无乱码| 亚洲色图av天堂| 免费人成视频x8x8入口观看| 精品久久久久久久人妻蜜臀av| 午夜a级毛片| 日韩 亚洲 欧美在线| 精品国产亚洲在线| 性色avwww在线观看| 欧美乱色亚洲激情| 极品教师在线免费播放| 免费观看精品视频网站| 精品国产三级普通话版| 亚洲欧美激情综合另类| 一进一出抽搐gif免费好疼| 熟女人妻精品中文字幕| 久久精品人妻少妇| 日韩欧美精品免费久久 | 成年女人永久免费观看视频| 级片在线观看| 草草在线视频免费看| 蜜桃久久精品国产亚洲av| av欧美777| 成熟少妇高潮喷水视频| 亚洲乱码一区二区免费版| 国内精品久久久久久久电影| 成人毛片a级毛片在线播放| 嫩草影院入口| 国产精品国产高清国产av| 成人午夜高清在线视频| 亚洲欧美日韩东京热| 久久天躁狠狠躁夜夜2o2o| 日本成人三级电影网站| 国产在线男女| 久久这里只有精品中国| 一卡2卡三卡四卡精品乱码亚洲| 午夜免费成人在线视频| 非洲黑人性xxxx精品又粗又长| 99国产极品粉嫩在线观看| 性欧美人与动物交配| av中文乱码字幕在线| 欧美色欧美亚洲另类二区| 91久久精品电影网| 精品欧美国产一区二区三| 成年女人看的毛片在线观看| 成年人黄色毛片网站| 亚洲成人久久性| 美女 人体艺术 gogo| 婷婷精品国产亚洲av在线| 国产视频内射| 亚洲国产精品sss在线观看| 99久久精品国产亚洲精品| 人人妻人人澡欧美一区二区| 狂野欧美白嫩少妇大欣赏| 每晚都被弄得嗷嗷叫到高潮| 一本一本综合久久| 两个人的视频大全免费| 三级毛片av免费| av中文乱码字幕在线| 婷婷丁香在线五月| 男女做爰动态图高潮gif福利片| 亚洲男人的天堂狠狠| 亚洲国产精品999在线| 一级av片app| 亚洲美女视频黄频| 精品99又大又爽又粗少妇毛片 | 午夜福利高清视频| 99精品久久久久人妻精品| 午夜福利在线在线| 中出人妻视频一区二区| 欧美bdsm另类| 99久久成人亚洲精品观看| 黄片小视频在线播放| 国产69精品久久久久777片| 亚洲国产精品sss在线观看| 亚洲美女搞黄在线观看 | 国产精品亚洲美女久久久| 欧美激情在线99| 亚洲精品一卡2卡三卡4卡5卡| 禁无遮挡网站| 嫩草影视91久久| 精品日产1卡2卡| 高清日韩中文字幕在线| 午夜精品一区二区三区免费看| 色综合站精品国产| 少妇熟女aⅴ在线视频| 久久久久国内视频| 国产高潮美女av| 亚洲国产色片| 亚洲专区中文字幕在线| 又爽又黄无遮挡网站| 婷婷六月久久综合丁香| 99热这里只有是精品50| АⅤ资源中文在线天堂| 中文字幕av在线有码专区| 亚洲av一区综合| 在线观看舔阴道视频| 69av精品久久久久久| 中文资源天堂在线| 乱人视频在线观看| 亚洲国产精品合色在线| 久久天躁狠狠躁夜夜2o2o| 亚洲成人免费电影在线观看| 日本一二三区视频观看| 每晚都被弄得嗷嗷叫到高潮| 一级黄片播放器| 一级a爱片免费观看的视频| 欧洲精品卡2卡3卡4卡5卡区| 久久精品国产清高在天天线| 最近最新中文字幕大全电影3| 国产成年人精品一区二区| 人妻丰满熟妇av一区二区三区| 88av欧美| 男女那种视频在线观看| 美女黄网站色视频| 免费在线观看日本一区| 国产一区二区激情短视频| 国产亚洲精品综合一区在线观看| 久久久精品欧美日韩精品| 日日摸夜夜添夜夜添小说| 国产一区二区三区在线臀色熟女| 国产精品乱码一区二三区的特点| 日本 欧美在线| 麻豆久久精品国产亚洲av| 欧美乱妇无乱码| 国产爱豆传媒在线观看| 成人av在线播放网站| av中文乱码字幕在线| 又爽又黄无遮挡网站| 18禁黄网站禁片免费观看直播| 欧美另类亚洲清纯唯美| 午夜福利欧美成人| 欧美成人免费av一区二区三区| av欧美777| 日本在线视频免费播放| 亚洲av.av天堂| 亚洲天堂国产精品一区在线| 亚洲av.av天堂| 国产成人a区在线观看| 亚洲综合色惰| 久久人妻av系列| 免费高清视频大片| 成人精品一区二区免费| 搡老妇女老女人老熟妇| 国产精品一区二区三区四区免费观看 | 色精品久久人妻99蜜桃| 人妻夜夜爽99麻豆av|