• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    機(jī)遇與隱憂:AIGC驅(qū)動下的新聞生產(chǎn)力大變革

    2023-09-22 20:23:17李冬冬蘇濤
    媒體融合新觀察 2023年4期
    關(guān)鍵詞:人工智能生產(chǎn)

    李冬冬?蘇濤

    摘要

    ChatGPT的廣泛應(yīng)用引發(fā)了新聞業(yè)對于AIGC的廣泛關(guān)注。AIGC技術(shù)作為一支獨(dú)立的力量進(jìn)入新聞生產(chǎn)環(huán)節(jié),使得新聞生產(chǎn)更加智能、便捷和高效,不僅真正開啟了智能生產(chǎn)時(shí)代,帶來新聞生產(chǎn)力的普惠,還催生出問答式新聞等以用戶興趣為邏輯起點(diǎn)的新產(chǎn)品樣態(tài)。與此同時(shí),由于技術(shù)發(fā)展的不確定性,AIGC對新聞生產(chǎn)的滲透也潛藏著版權(quán)爭議、虛假新聞以及價(jià)值偏差等種種社會管理和媒介生態(tài)的隱憂。AIGC在新聞業(yè)的普遍應(yīng)用引發(fā)從業(yè)者的“主體性焦慮”,在人工智能生成技術(shù)加速驅(qū)動的智能傳播時(shí)代,創(chuàng)新能力與深度思考能力仍然是職業(yè)媒體人的價(jià)值所在。

    關(guān)鍵詞

    ChatGPT 新聞生產(chǎn) 智能媒體

    一、ChatGPT的火爆與AIGC的應(yīng)用

    2022年11月30日,由美國人工智能研究室OpenAI自主研發(fā)的聊天機(jī)器人程序ChatGPT(Chat Generative Pre-trained Transformer,聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器)對外發(fā)布。這是一款自然語言處理工具,它由人工智能技術(shù)驅(qū)動,可以學(xué)習(xí)和理解人類的語言,憑借出色的上下文聯(lián)系能力,營造類人的對話體驗(yàn),真正實(shí)現(xiàn)邏輯語言與自然語言的順暢交流。與此同時(shí),它還能夠勝任文學(xué)藝術(shù)創(chuàng)作、信息咨詢、語言翻譯、代碼編寫以及文獻(xiàn)綜述等任務(wù)。一經(jīng)公測,ChatGPT就贏得了無數(shù)擁躉。上線5天,ChatGPT用戶數(shù)達(dá)到100萬,同樣的數(shù)據(jù)Facebook用時(shí)10個(gè)月;2個(gè)月后,ChatGPT打破TikTok用時(shí)9個(gè)月實(shí)現(xiàn)用戶數(shù)破億的記錄,一躍成為有史以來用戶數(shù)增長最快的消費(fèi)級應(yīng)用程序[1]。

    ChatGPT是一個(gè)大型語言模型(Large Language Model),它依托巨量數(shù)據(jù)(GPT-3模型擁有1750億個(gè)參數(shù))、精密算法和強(qiáng)大算力,同時(shí)引入人類反饋強(qiáng)化學(xué)習(xí)(Reinforcement Learning with Human Feedback,RLHF)機(jī)制進(jìn)行無監(jiān)督學(xué)習(xí)[2],并最終生成文本。其基本原理就是通過預(yù)訓(xùn)練使得機(jī)器理解人類發(fā)布的提示指令,然后根據(jù)數(shù)據(jù)庫中已有的內(nèi)容進(jìn)行知識的拼貼與組合,繼而輸出一個(gè)答案。從本質(zhì)上來講,ChatGPT是一款生成式AI(Artificial Intelligence,人工智能)工具,它生產(chǎn)出來的文本實(shí)質(zhì)上是AIGC(Artificial Intelligence Generated Content,人工智能生成內(nèi)容)①,其“智能”的關(guān)鍵在于概率與反饋[3]。這個(gè)過程可以簡單類比為學(xué)霸的題海戰(zhàn)術(shù),ChatGPT先進(jìn)行海量刷題,再通過“錯(cuò)題集”(人類反饋強(qiáng)化學(xué)習(xí))糾錯(cuò)強(qiáng)化訓(xùn)練,提高自身性能。二者目前的不同在于,ChatGPT的輸出形式稍顯單一,主要以文本和圖像為主;而AIGC則可生成文本、音頻、圖像、視頻、3D等跨模態(tài)形式。

    對于ChatGPT的問世,不少學(xué)者、科技界人士將其視為AGI(Artificial General Intelligence,通用人工智能)到來的標(biāo)志,這是一種在各種環(huán)境下解決問題、學(xué)習(xí)、采取類似人類的有效行為的能力[4]。比爾·蓋茨(Bill Gates)甚至表示,ChatGPT誕生的重要性不亞于互聯(lián)網(wǎng)的發(fā)明,它將改變我們的世界[5],其所影響的社會領(lǐng)域就包括新聞傳媒業(yè)。路透新聞研究院在《新聞、媒體和技術(shù)趨勢及預(yù)測》報(bào)告中宣稱,2023年是人工智能及其在新聞?lì)I(lǐng)域應(yīng)用的突破之年[6]。ChatGPT的火爆引發(fā)了新聞業(yè)對于AIGC技術(shù)的廣泛關(guān)注,并被認(rèn)為有望成為2023年內(nèi)容生產(chǎn)領(lǐng)域的最大變局。具體而言,當(dāng)AIGC作為一支獨(dú)立的力量進(jìn)入新聞生產(chǎn)的核心環(huán)節(jié),新聞業(yè)將迎來哪些機(jī)遇與變革,又潛存著哪些隱憂?針對上述問題,本文將結(jié)合對ChatGPT現(xiàn)象的觀察展開分析和探討。

    二、機(jī)遇:AIGC驅(qū)動下的新聞生產(chǎn)力大變革

    人工智能技術(shù)發(fā)軔于上世紀(jì)50年代,著名的圖靈測試給出了判定機(jī)器“智能”與否的標(biāo)準(zhǔn),即機(jī)器是否能夠模仿人類的思維方式來“生成”內(nèi)容繼而與人交互[7]。而人工智能技術(shù)對新聞傳播領(lǐng)域的滲透同樣由來已久。隨著技術(shù)的不斷迭代,人工智能與新聞業(yè)的融合逐步走向深化,先后經(jīng)歷了從新聞寫作機(jī)器人到智能算法推薦再到時(shí)下的AIGC新聞等不同階段。此次ChatGPT作為人工智能生成技術(shù)發(fā)展的最新產(chǎn)物,引發(fā)了包括新聞界在內(nèi)諸多行業(yè)的廣泛關(guān)注。究其主要原因,則在于人工智能技術(shù)已作為一支獨(dú)立的力量進(jìn)入新聞生產(chǎn)的核心環(huán)節(jié),從而帶來了傳播權(quán)力的下放和信息生產(chǎn)的普惠,使得新聞生產(chǎn)流程更加智能、便捷和高效。此外,其還催生了問答式新聞這一全新的新聞樣態(tài),這將進(jìn)一步深化媒體融合發(fā)展的態(tài)勢,加速智媒時(shí)代的崛起。

    (一)AI作為生產(chǎn)主體:智能生產(chǎn)時(shí)代的真正開啟

    每當(dāng)一種新興的技術(shù)登上歷史舞臺,往往會與既存的社會結(jié)構(gòu)產(chǎn)生對抗乃至激烈沖突,此時(shí)作為生產(chǎn)力關(guān)鍵要素的技術(shù)往往具有民主與革命的力量;而當(dāng)二者結(jié)束磨合、進(jìn)入蜜月期,技術(shù)就會服從和服務(wù)于現(xiàn)有的社會結(jié)構(gòu),其革命性因素也就隨之消失。當(dāng)下的人工智能生產(chǎn)內(nèi)容還處于快速發(fā)展階段②,技術(shù)發(fā)展帶來的革命性紅利尚未充分釋放。作為通用人工智能的代表,ChatGPT是人工智能技術(shù)發(fā)展的里程碑,同時(shí)也被認(rèn)為是迄今為止AIGC領(lǐng)域最頂尖的模型。它表明人工智能技術(shù)在新聞業(yè)的應(yīng)用,已經(jīng)從智能算法推薦這一傳播的下游環(huán)節(jié)滲透到自主內(nèi)容創(chuàng)作的上游區(qū)域,這也是新聞傳播領(lǐng)域最核心、最底層的部分。ChatGPT帶來的深度智能化浪潮,深刻匹配于“分布式社會”所帶來的權(quán)力彌散與更迭[8],它使得原本作為工具存在的人工智能生成技術(shù)升格至新聞生產(chǎn)主體的地位,昭示著智能生產(chǎn)時(shí)代的真正開啟。

    新聞生產(chǎn)主體結(jié)構(gòu)經(jīng)歷了由“職業(yè)新聞生產(chǎn)主導(dǎo)”“職業(yè)與非職業(yè)新聞生產(chǎn)主體共在”“人主體與智能擬主體共在”[9]再到現(xiàn)如今的“人主體與智能主體共在”的變遷。而這一進(jìn)階變化則與人工智能生成技術(shù)本身的發(fā)展有著密切關(guān)聯(lián)。人工智能生成技術(shù)融入新聞行業(yè)的最早記錄可以追溯至2009年,美國Narrative Science公司推出新聞寫作工具StatsMonkey,它最初應(yīng)用于即時(shí)報(bào)道西北大學(xué)棒球和壘球的比賽中。我國人工智能生成技術(shù)起步相對較晚,2015年9月10日,騰訊研發(fā)的寫稿機(jī)器人Dreamwriter所發(fā)布的一則題為《8月CPI漲2%創(chuàng)12個(gè)月新高》的報(bào)道,則開創(chuàng)了我國機(jī)器新聞寫作的先河。綜觀全球新聞業(yè),不難發(fā)現(xiàn)早期人工智能技術(shù)在新聞?lì)I(lǐng)域的應(yīng)用相對有限,主要應(yīng)用于一些機(jī)械、重復(fù)、無甚創(chuàng)造力的工作;體裁以簡訊、消息等為主;題材則集中于災(zāi)難、財(cái)經(jīng)、體育、犯罪等領(lǐng)域;文本生硬,模式化程度高,可讀性不強(qiáng)。彼時(shí)的人工智能尚處于“有限智能”階段,其在新聞生產(chǎn)的應(yīng)用還處于輔助人工的從屬地位。

    以ChatGPT為代表的生成式AI實(shí)現(xiàn)了從專用人工智能向通用人工智能的進(jìn)化,它擁有人的邏輯和聯(lián)想能力,還在一定程度上顯現(xiàn)出對關(guān)系和情感因素的融合,能夠依靠自身技術(shù)完成策劃、采集、加工、制作和傳播等一整套的新聞生產(chǎn)流程,可以實(shí)現(xiàn)多種題材的非標(biāo)準(zhǔn)化新聞生產(chǎn),文稿篇幅③和文體風(fēng)格較之前亦有大幅改進(jìn)。盡管目前ChatGPT還未在新聞業(yè)實(shí)現(xiàn)大范圍應(yīng)用,但已有媒體迅速邁出了這一步:例如美國新聞網(wǎng)站BuzzFeed宣布將解雇180名員工,同時(shí)聘請ChatGPT為記者。

    技術(shù)的更迭既會有受益者,也會有受損者。通用型生成式AI以獨(dú)立主體的地位侵入新聞生產(chǎn)場域,實(shí)現(xiàn)完全自主的新聞生產(chǎn),此舉打破了自大眾媒體時(shí)代以來長期由專業(yè)新聞工作者壟斷新聞生產(chǎn)的格局,引發(fā)了記者、編輯等職業(yè)新聞人的主體性焦慮,它將會淘汰一批專業(yè)度較低的工種,同時(shí)置換以AI工程師等為代表的一批新的崗位,完成新聞生產(chǎn)主體的吐故納新和結(jié)構(gòu)優(yōu)化。盡管從短期來看,生成式AI的加入勢必會對個(gè)體從業(yè)者造成“創(chuàng)造性毀滅”④的局面,但是從長遠(yuǎn)來看,人工智能生成內(nèi)容對整個(gè)新聞行業(yè)無疑具有推動作用,因?yàn)樗谝欢ǔ潭壬咸岣吡司庉嫼陀浾叩葝徫坏膶I(yè)性,使得從業(yè)門檻變得更高。

    (二)AI作為輔助工具:新聞生產(chǎn)力的普惠

    盡管以ChatGPT為代表的通用型生成式人工智能已經(jīng)作為獨(dú)立主體進(jìn)入新聞生產(chǎn)環(huán)節(jié),但是囿于新聞產(chǎn)品的特殊屬性和人工智能技術(shù)本身的發(fā)展,新聞生產(chǎn)、新聞始終以人自身為目的,新聞生產(chǎn)的終極主體只能是人[10]。因此在未來的很長一段時(shí)間內(nèi),人工智能生成技術(shù)對于新聞業(yè)的發(fā)展更多是作為一種輔助性工具而存在,它使得新聞生產(chǎn)智能化、職業(yè)創(chuàng)作深度化、用戶內(nèi)容生產(chǎn)優(yōu)質(zhì)化,帶來了新聞生產(chǎn)力的普惠,實(shí)現(xiàn)了新聞產(chǎn)品總量的指數(shù)級增長和質(zhì)量的大幅躍升。根據(jù)高德納(Gartner)公司的預(yù)測,到2030年,九成以上的新聞稿件將由AI輔助完成[11]。

    1.新聞生產(chǎn)智能化。就產(chǎn)品形態(tài)而言,目前我國已經(jīng)形成較為多樣的AIGC產(chǎn)品,主要包括文本模態(tài)、圖像模態(tài)、音頻模態(tài)、視頻模態(tài)和虛擬人模態(tài)。生成式AI作為一個(gè)輔助工具融入新聞生產(chǎn),此舉提高了新聞生產(chǎn)的效率,降低了新聞生產(chǎn)的成本。人工智能強(qiáng)大的算法分析和數(shù)據(jù)挖掘等能力,在一定程度上減少了人為主觀因素的影響,從而提高了新聞報(bào)道的準(zhǔn)確性;多模態(tài)的AIGC產(chǎn)品可以在短時(shí)間內(nèi)生成大量不同類型的新聞稿件,豐富新聞的表現(xiàn)形式,促成更多融合新聞的誕生。從更廣泛的新聞生產(chǎn)流程來看,人工智能編輯部在新聞業(yè)的運(yùn)用將助力媒體實(shí)現(xiàn)策化、采集、制作、審核、分發(fā)、運(yùn)營和監(jiān)測反饋全鏈條業(yè)務(wù)的智能化,助推媒體轉(zhuǎn)型升級。早在2020年央視網(wǎng)就推出AIGC線上平臺,致力于發(fā)揮“內(nèi)容為王+平臺致勝+技術(shù)領(lǐng)先”的核心競爭力,推動媒體深度融合發(fā)展,實(shí)現(xiàn)智能化升級。2023年4月底,重慶日報(bào)報(bào)業(yè)集團(tuán)也與百度智能云聯(lián)合成立“上游新聞AIGC創(chuàng)作中心”,加速布局人工智能媒體賽道。

    2.新聞創(chuàng)作深度化。對于專業(yè)新聞工作者而言,人工智能生成技術(shù)促成了其工作重心由時(shí)效到深度的轉(zhuǎn)移。新聞是易碎品,大眾媒體時(shí)代的新聞生產(chǎn)以求新求快為基本準(zhǔn)則。以ChatGPT為代表的生成式AI能夠處理線索搜集、錄音整理、數(shù)據(jù)分析、圖像識別、字幕添加、新聞拆條等工作,從而將記者和編輯從簡單、重復(fù)和機(jī)械的勞動中解放出來,從事更加具有創(chuàng)造力、情感度和挑戰(zhàn)性的工作,進(jìn)行諸如預(yù)測性新聞、解釋性新聞、建設(shè)性新聞和解困式新聞等深度報(bào)道的創(chuàng)作中去。

    3.用戶內(nèi)容生產(chǎn)優(yōu)質(zhì)化。對于廣大用戶而言,多模態(tài)生成式AI工具在新聞業(yè)的廣泛應(yīng)用是對自身新聞生產(chǎn)能力的一次有益賦權(quán),它幫助用戶實(shí)現(xiàn)從“可寫”到“優(yōu)寫”的轉(zhuǎn)變。社交媒體時(shí)代,用戶擺脫了大眾傳播時(shí)代渠道資源稀缺的局面,第一次擁有了表達(dá)的權(quán)力。但是由于缺乏專業(yè)的新聞生產(chǎn)技能,其傳播權(quán)力并未能夠很好地履行。智能媒體時(shí)代,以ChatGPT為代表的生成式AI擁有簡單、易用、智能化的特點(diǎn),它有效降低了內(nèi)容創(chuàng)作的門檻,進(jìn)一步釋放了廣大用戶的創(chuàng)作潛力,助力其進(jìn)行自我表達(dá),同時(shí)與專業(yè)組織生產(chǎn)的內(nèi)容形成互文,營造更加多樣、完整的信息環(huán)境。

    (三)問答式新聞:一種以用戶興趣為邏輯起點(diǎn)的新產(chǎn)品樣態(tài)

    技術(shù)對傳媒的影響不僅表現(xiàn)在重塑新聞業(yè)的底層運(yùn)行邏輯、重構(gòu)新聞價(jià)值產(chǎn)業(yè)鏈等宏觀和中觀層面,也表現(xiàn)在催生新的新聞樣態(tài)這一微觀層面上。電報(bào)信號的不穩(wěn)定和戰(zhàn)時(shí)的特殊狀態(tài)促成了文筆簡練、不事鋪陳的倒金字塔式的新聞寫作方式并一直延用至今,互聯(lián)網(wǎng)分布式、去中心化的特點(diǎn)賦予公民以媒介近用權(quán),使得參與式新聞這一體裁成為可能。以ChatGPT為代表的生成式AI應(yīng)用于新聞生產(chǎn)將促成“問答式新聞”的誕生,這種基于個(gè)體需要和自身興趣的信息獲取活動能夠有效提升用戶的參與感,挑戰(zhàn)既定的以傳者為中心的“新聞報(bào)道論”,成為智能媒體未來的一個(gè)主要發(fā)展方向。

    大眾媒體時(shí)代解決的是信息的有無問題,它生產(chǎn)的是同質(zhì)化、大眾化的新聞;智能媒體時(shí)代旨在實(shí)現(xiàn)新聞的供需對位問題。人工智能技術(shù)對傳媒業(yè)的滲透首先發(fā)生在傳播環(huán)節(jié),主要表現(xiàn)為智能推薦機(jī)制的應(yīng)用[12],以今日頭條、一點(diǎn)資訊等為代表的新聞資訊平臺依靠算法機(jī)制對新聞進(jìn)行個(gè)性化分發(fā),它解決的是信息的高效、精準(zhǔn)的觸達(dá)問題,新聞“供給側(cè)”與新聞“需求側(cè)”之間的“供需錯(cuò)位”現(xiàn)象依然存在。2023年年初路透新聞研究院在對全球53個(gè)國家和地區(qū)的303名新聞機(jī)構(gòu)高層人員的調(diào)研中發(fā)現(xiàn),72%的受訪者對受眾主動回避新聞這一現(xiàn)象表示擔(dān)憂,而應(yīng)對的策略就包括要提供更多解釋性內(nèi)容和推出更多采用問答形式的報(bào)道[13]。

    以ChatGPT為代表的人工智能生成內(nèi)容深入新聞生產(chǎn)這一核心腹地,尤其是問答式新聞這一新興的產(chǎn)品樣態(tài)將在很大程度上扭轉(zhuǎn)傳媒行業(yè)“供需錯(cuò)位”的窘境。問答式新聞產(chǎn)生的邏輯是,用戶針對自身感興趣的問題向ChatGPT提問,ChatGPT理解提問者的意圖,在海量的數(shù)據(jù)庫搜索資料、并進(jìn)行資料的拼貼與組成,繼而生成新的用戶“欲知而未知”的新聞。問答式新聞與傳統(tǒng)的對話機(jī)器人新聞略有相似,但又有本質(zhì)上的區(qū)別。對話機(jī)器人新聞是指用戶向AI提問,機(jī)器通過智能化搜索告知事件進(jìn)展、與讀者閑聊,甚至對新聞做出帶有感情色彩的評判,它旨在營造一個(gè)虛擬的交互場景[14],這是一種在給定范圍內(nèi)的選擇,猶如帶著鐐銬跳舞,是有限的個(gè)性化、打了折扣的精準(zhǔn)化。而ChatGPT則完全不同,作為通用型人工智能生成產(chǎn)品,它在心智方面相當(dāng)于9歲的人類,大大拓寬了用戶提問的邊界,其自由度更高,內(nèi)容可以涉及方方面面,真正實(shí)現(xiàn)從“We Daily”向“Me Daily”的轉(zhuǎn)變,有效解決“信息過載”與“注意力稀缺”的普遍矛盾,最大程度上滿足用戶多樣化的新聞需求。

    三、隱憂:AIGC應(yīng)用于新聞業(yè)的潛在負(fù)面影響

    目前,社會各界對ChatGPT潛在負(fù)面影響的討論主要集中在兩個(gè)方面,其一是對于技術(shù)性失業(yè)的擔(dān)憂,其二是對ChatGPT安全性的質(zhì)疑。ChatGPT來勢洶洶,其強(qiáng)大的智能生成功能使得記者、程序員、律師、教師、插畫師、翻譯等職業(yè)者對其職業(yè)前景感到憂心忡忡。對于ChatGPT安全性的質(zhì)疑則主要來源于科技界和政府管理部門。作為通用人工智能的代表,ChatGPT的內(nèi)部構(gòu)造和運(yùn)行機(jī)制還尚未被充分掌握,由此帶來的社會管理方面的不確定性和潛在風(fēng)險(xiǎn)亦加劇了人們對它的恐懼心理。基于以上種種,2023年3月生命未來研究所發(fā)布了一封公開信,緊急呼吁所有人工智能實(shí)驗(yàn)室暫停開發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。信中明確強(qiáng)調(diào),人工智能系統(tǒng)對社會和人類構(gòu)成較大風(fēng)險(xiǎn),只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的、其風(fēng)險(xiǎn)是可控的,才能繼續(xù)開發(fā)。具體到新聞業(yè)而言,主要體現(xiàn)在版權(quán)爭議、虛假新聞以及價(jià)值偏差三個(gè)維度。

    (一)版權(quán)爭議:著作權(quán)歸屬及新聞侵權(quán)后的司法救濟(jì)

    生成式人工智能作為一個(gè)獨(dú)立的主體進(jìn)入到新聞生產(chǎn)環(huán)節(jié),這一既非自然人、法人,又非非法人組織的主體身份,將導(dǎo)致我們已經(jīng)習(xí)以為常的“原創(chuàng)作者”觀念和制度變得復(fù)雜棘手[15],同時(shí)也給現(xiàn)行的知識產(chǎn)權(quán)制度帶來了一系列挑戰(zhàn),這其中既包括媒體的知識產(chǎn)權(quán)問題,也涉及AI產(chǎn)品的版權(quán)歸屬,還牽扯到新聞侵權(quán)后的司法救濟(jì)等諸多方面。

    首先,從數(shù)據(jù)收集層面而言,ChatGPT“拼貼式”的新聞生產(chǎn)方式可能侵犯媒體的知識產(chǎn)權(quán)。眾所周知,以ChatGPT為代表的生成式AI本身并不生產(chǎn)新的內(nèi)容,其智能程度既依托于先進(jìn)的算法,又仰賴巨量數(shù)據(jù)的“喂養(yǎng)”。盡管并未透露具體的數(shù)字,但是OpenAI官方介紹顯示,GPT-4的參數(shù)量比上一代的GPT-3(1750億個(gè)參數(shù))還要更大,可以達(dá)到數(shù)萬億的級別。如此龐大的數(shù)據(jù)一部分來自于開源數(shù)據(jù)庫,另一部分則是受版權(quán)保護(hù)的內(nèi)容。而后者就包含對媒體享有著作權(quán)的新聞產(chǎn)品的調(diào)用。按照我國《著作權(quán)法》等相關(guān)法律法規(guī)的規(guī)定,除時(shí)事新聞等單純事實(shí)性消息外,包括新聞評論、新聞解讀等體裁的作品享受著作權(quán)的保護(hù)。ChatGPT抓取互聯(lián)網(wǎng)上的內(nèi)容進(jìn)行預(yù)訓(xùn)練,在沒有明確許可的前提下這一做法是否合理合規(guī)仍然有待商榷。

    其次,就著作權(quán)歸屬而言,對人工智能生成內(nèi)容的“確權(quán)”也是一個(gè)難題。人工智能生成的是一種拼貼的、非原創(chuàng)性質(zhì)的內(nèi)容,新聞生產(chǎn)主體的不確定性導(dǎo)致了著作權(quán)權(quán)利主體的模糊性,由人工智能生成的新聞作品的版權(quán)屬于原創(chuàng)作者還是新產(chǎn)品的生產(chǎn)者,抑或是人工智能本身呢?如果將該新聞作品認(rèn)定為新產(chǎn)品的生產(chǎn)者,則違背了自工業(yè)革命以來形成的知識產(chǎn)權(quán)制度;若將作品歸屬于原創(chuàng)作者,這又否認(rèn)了后繼生產(chǎn)者所付出的勞動;而若將著作權(quán)完全歸屬于AI所有,則直接與我國現(xiàn)行的《著作權(quán)法》中的“權(quán)利主體須為自然人、法人或非法人組織”這一規(guī)定相悖。事實(shí)上,不少海內(nèi)外科研機(jī)構(gòu)和學(xué)術(shù)刊物都專門就此發(fā)表聲明,明令禁止在作品中使用由ChatGPT生成的內(nèi)容,亦拒絕接受將其作為合著者單獨(dú)列出。還有學(xué)者提出更為超前的觀點(diǎn),指出在ChatGPT或類似人工智能普及后,大量AIGC會出現(xiàn)在我們的生活中。也許我們根本不會在意某些內(nèi)容是真人還是AI寫的[16]。對此,筆者認(rèn)為這一想法過于理想化。正所謂“有恒產(chǎn)者有恒心”,只有人們覺得把錢和時(shí)間等資源投入知識創(chuàng)造能夠給個(gè)人帶來好處,才會去創(chuàng)造知識[17]。因此,在可以預(yù)見的未來,知識產(chǎn)權(quán)制度依然是激發(fā)個(gè)體創(chuàng)作活力、維持知識生產(chǎn)秩序和確保知識生產(chǎn)繁盛的重要保障。

    再次,AIGC的確權(quán)難題所導(dǎo)致的一個(gè)直接后果就是新聞侵權(quán)后的司法救濟(jì)問題。關(guān)于侵權(quán)后的司法救濟(jì),一般而言我國所涉及的新聞侵權(quán)的責(zé)任主體主要包括提供消息源者(起因說)、新聞簽發(fā)機(jī)關(guān)(權(quán)力說)、新聞傳播者(實(shí)現(xiàn)說)等,更為貫行的是執(zhí)筆說,因此業(yè)界一直有“文責(zé)自負(fù)”之說。權(quán)利與義務(wù)相統(tǒng)一,“文責(zé)自負(fù)”強(qiáng)調(diào)記者作為第一責(zé)任人享有包括署名權(quán)在內(nèi)的多項(xiàng)著作權(quán)益,需要認(rèn)真核實(shí)信息的真實(shí)性,努力提高新聞作品的質(zhì)量,并對可能產(chǎn)生的侵權(quán)承擔(dān)相應(yīng)責(zé)任。人工智能生成內(nèi)容的著作權(quán)歸屬難以界定,這在一定程度上增加了權(quán)利主體的維權(quán)難度。

    (二)難辨的是非:人工智能加劇虛假新聞的誕生

    ChatGPT目前最大的問題在于它難以辨別真假,常常會“一本正經(jīng)地胡說八道”,同時(shí)生成謊言和真相,這是它橫亙于人工智能生成技術(shù)與新聞業(yè)之間的首要障礙。新聞是基于事實(shí)的報(bào)道,其創(chuàng)作方式是廣義上的非虛構(gòu)寫作,它對于真實(shí)性的要求更高,真實(shí)是新聞的生命所在。人工智能技術(shù)難以區(qū)分基于事實(shí)的報(bào)道與虛構(gòu)的文本之間的差別,當(dāng)其加入新聞生產(chǎn)這一環(huán)節(jié)時(shí),不辨真假的特性加劇了虛假新聞的誕生?,F(xiàn)實(shí)情況是,包括深度偽造(Deep Fake)在內(nèi)的AIGC應(yīng)用已經(jīng)能做到真假難辨,多數(shù)受眾很難從視覺層面區(qū)分AI和人類生成內(nèi)容[18]。人工智能實(shí)驗(yàn)室OpenAI首席執(zhí)行官、ChatGPT之父山姆·奧特曼(Sam Altman)在接受媒體采訪時(shí)也表示,他最擔(dān)心的是“這些模型可能會被用于大規(guī)模的虛假信息傳播”,而被問及“對自己所建立的東西不會導(dǎo)致這些結(jié)果的信心有多大”時(shí),奧特曼顧左右而言它,聲稱“我們會適應(yīng)它”。

    事實(shí)上,作為一個(gè)通用大語言模型,ChatGPT本身并不生產(chǎn)虛假新聞,它輸出的結(jié)果正確與否完全取決于輸入的數(shù)據(jù)和算法,也就是它的語料庫和基于transformer架構(gòu)的神經(jīng)網(wǎng)絡(luò)。筆者嘗試向ChatGPT提問:如何向我證明你是對的。ChatGPT回答:作為一名人工智能,我是通過程序和算法執(zhí)行任務(wù)的,并不能完全證明我是對的。但是我會根據(jù)您提出的信息和問題,提供最準(zhǔn)確和最合適的答案。如果您懷疑我的回答,請隨時(shí)提出反駁和更正,并幫助我不斷學(xué)習(xí)和改善。這就意味著,由于人工智能技術(shù)對于既有語料庫和算法的高度依賴使得當(dāng)原始資料本身存在問題或算法出現(xiàn)bug時(shí),ChatGPT極有可能輸出不準(zhǔn)確甚至是虛假的結(jié)果。鑒于訓(xùn)練ChatGPT的底層語料庫的知識存量幾何倍地高出用戶個(gè)體的知識含量,人機(jī)之間的知識鴻溝使得用戶對于虛假新聞的鑒別工作變得難上加難。再加上人工智能本身所具有的強(qiáng)大的生成能力,如果它被惡意地應(yīng)用于虛假新聞的生產(chǎn),更是會對新聞生態(tài)系統(tǒng)帶來重大風(fēng)險(xiǎn)。美國著名傳媒教育機(jī)構(gòu)波因特學(xué)院(Poynter Institute)教授亞歷克斯·馬哈德文(Alex Mahadevan)就曾花了幾個(gè)小時(shí)用ChatGPT創(chuàng)建了一個(gè)假的新聞網(wǎng)站,達(dá)到了可以以假亂真的程度。

    (三)虛假的承諾:隱于AIGC背后的價(jià)值偏差

    相比于顯性的虛假新聞,隱匿于人工智能生成內(nèi)容背后的價(jià)值偏差或許更應(yīng)當(dāng)引起新聞業(yè)的關(guān)注與警惕。誠如諾姆·喬姆斯基(Noam Chomsky)所言,以ChatGPT為代表的人工智能生成內(nèi)容存在著明顯的缺陷,它們要么過度生成,要么生成不足[19]。具體到新聞?lì)I(lǐng)域,人工智能生成內(nèi)容的價(jià)值偏差體現(xiàn)為缺乏導(dǎo)向和形成偏見兩個(gè)方面。

    1.生成不足:AIGC缺乏價(jià)值導(dǎo)向。所謂生成不足指的是基于人工智能技術(shù)創(chuàng)作的新聞產(chǎn)品缺乏應(yīng)有的價(jià)值導(dǎo)向,它只陳述事實(shí)與信息,卻缺乏相應(yīng)的立場、觀點(diǎn)和態(tài)度,不對任何決定表態(tài),對一切后果也都表現(xiàn)得漠不關(guān)心。新聞講求客觀公正,但卻不能因此就忽略乃至否認(rèn)其價(jià)值導(dǎo)向。相反,作為一個(gè)公共產(chǎn)品,導(dǎo)向性是新聞報(bào)道的靈魂所在。長期的新聞實(shí)踐證明,只有那些導(dǎo)向正確、題材生動的新聞報(bào)道,才能得到受眾的歡迎,達(dá)到理想的傳播效果,顯現(xiàn)出強(qiáng)大的生命力[20]。當(dāng)下的人工智能生成內(nèi)容表現(xiàn)出某種程度的“取巧”性,例如ChatGPT所實(shí)行的過濾處理機(jī)制,那些敏感、有爭議的議題,要么直接被排除在新聞場域之外,要么ChatGPT態(tài)度曖昧、立場“騎墻”,無法起到引導(dǎo)輿論的作用。事實(shí)上,新聞除了要陳述事實(shí)、追求真相以外,還要體現(xiàn)人文關(guān)懷、推動社會進(jìn)步,而這往往要靠推動那些敏感、有爭議議題的解決來實(shí)現(xiàn)。新聞界要做的就是呈現(xiàn)這些議題,并表現(xiàn)出某種鮮明的態(tài)度和價(jià)值傾向。

    2.過度生成:AIGC形成價(jià)值偏見。所謂過度生成除了指前文提到的人工智能生成內(nèi)容同時(shí)生成真相和謊言,還包括它同時(shí)支持道德和不道德的決定,表現(xiàn)出某種錯(cuò)誤的價(jià)值取向,也即形成偏見。2023年4月NewsGPT上線,這是全球首個(gè)完全由人工智能生成的新聞報(bào)道平臺。首席執(zhí)行官艾倫·利維(Alan Levy)對外宣稱,該網(wǎng)站沒有記者,不受廣告主與個(gè)人觀點(diǎn)的影響,不具有偏見,承諾“NewsGPT將為觀眾提供事實(shí)和真相”[21]。然而略知人工智能技術(shù)的底層邏輯、聽聞“Facebook偏見門”事件的人們只消稍作聯(lián)想就不難發(fā)現(xiàn),這不過是一個(gè)看似美好、實(shí)則虛假的承諾。已有實(shí)證研究表明,作為一種計(jì)算機(jī)程序,算法在自動決策過程中會受到諸如判斷標(biāo)準(zhǔn)的選擇、數(shù)據(jù)提取、語用分析和結(jié)果解讀等多重人為因素的影響與制約[22],因此,沒有采編人員、不生產(chǎn)內(nèi)容,不代表就不會受到廣告主和個(gè)人觀點(diǎn)的影響,更不意味著沒有偏見的產(chǎn)生。ChatGPT開發(fā)人員也指出GPT-3模型是一個(gè)有偏見的系統(tǒng),其常見的偏見包括性別歧視、種族和宗教偏見等[23],例如它天然地將程序員默認(rèn)為男性,而將女性與家務(wù)勞動捆綁在一起。導(dǎo)致ChatGPT等AIGC出現(xiàn)倫理困境的核心原因是數(shù)據(jù)的問題[24],這既包括算法程序本身的系統(tǒng)化偏向,也包括用于預(yù)訓(xùn)練的初始語料庫隱含的偏見,還包括人機(jī)交互過程中新產(chǎn)生的成見,這些因素的共同作用形成、固化和加深了原有的偏見,導(dǎo)致AIGC存在倫理困境。作為公共產(chǎn)品的新聞具有很強(qiáng)的意識形態(tài)屬性,假使將人工智能生成技術(shù)應(yīng)用于娛樂、體育、服務(wù)等軟新聞的采寫當(dāng)中,那么AIGC中的價(jià)值觀偏見、刻板印象、倫理失范等產(chǎn)生的負(fù)面影響相對較??;但如若將其運(yùn)用于時(shí)政、經(jīng)濟(jì)、科技等關(guān)乎民生的硬新聞的創(chuàng)作,則有可能對社會生活造成難以估量的影響,給輿論治理帶來巨大挑戰(zhàn)。因此,構(gòu)建一個(gè)安全、可信、無偏見的AI體系就成為題中應(yīng)有之義。

    余論:智媒時(shí)代人的價(jià)值

    馬丁·海德格爾(Martin Heidegge)在《技術(shù)的追問》的演講中指出:技術(shù)的本質(zhì)絕不是技術(shù)的。它是一種看見自然的方式,是讓所有本質(zhì)上的東西自我揭示,成為人類可以加以利用的潛在資源。從印刷機(jī)到廣播,從互聯(lián)網(wǎng)到算法推薦,新技術(shù)猶如過江之鯽,自誕生之日起,新聞業(yè)對新技術(shù)的追逐與采用就屢見不鮮。人工智能生成技術(shù)對新聞生產(chǎn)的普遍滲透和深度掘進(jìn),我們既不能像詹姆斯·巴拉特(James Barrat)那樣悲觀視之,將其當(dāng)作最后的發(fā)明和人類時(shí)代的終結(jié);亦不應(yīng)像桑頓·懷爾德(Thornton Wilder)筆下的伊利諾伊小鎮(zhèn)公民那樣盲目樂觀,殷切期待技術(shù)的進(jìn)化能夠帶來一個(gè)名為“第八日”的新紀(jì)元。

    實(shí)際上,AIGC技術(shù)在新聞生產(chǎn)中的應(yīng)用既不會寫就一個(gè)神話,亦不會奏響一曲悲歌。承認(rèn)技術(shù)的進(jìn)步性、質(zhì)疑其安全性和對于自身主體性的反思同等重要,三者應(yīng)當(dāng)同步進(jìn)行。首先,不可否認(rèn),AIGC技術(shù)引入新聞業(yè)為智能媒體的發(fā)展注入了新的動力,它使得新聞生產(chǎn)更加智能、便捷和高效,標(biāo)志著智能生產(chǎn)時(shí)代由此而始。其次,對于可能隨之產(chǎn)生的版權(quán)爭議、虛假新聞和價(jià)值偏差的考量亦并非杞人憂天,此舉能有效減少和規(guī)避AIGC的不利影響,促進(jìn)其在新聞生產(chǎn)中行穩(wěn)致遠(yuǎn),畢竟技術(shù)總是在“永恒的懷疑”中越變越好。最后,ChatGPT所引發(fā)的專業(yè)新聞生產(chǎn)者的普遍焦慮涉及到更深層次的技術(shù)的工具性與人的主體性二者之間的博弈問題,也即當(dāng)人工智能生產(chǎn)的新聞比例持續(xù)走高,質(zhì)量日趨上乘,職業(yè)媒體人在智媒時(shí)代何以安身立命?AIGC技術(shù)發(fā)展勢頭銳不可當(dāng),無論何時(shí)因?yàn)榭謶只蛸|(zhì)疑而棄用乃至搗毀機(jī)器的盧德分子無疑都是可笑的。技術(shù)是時(shí)代的座駕,能駕馭這輛車,決定其方向和速度的只能是具有主體性意識的人。在與以ChatGPT為代表的人工智能生成技術(shù)的較量中,智能、高效和巨量的生產(chǎn)能力顯然是屬于前者的優(yōu)勢;相反,人是有情感性、反思性、創(chuàng)造力和想象力的存在,創(chuàng)新能力與深度思考仍將是職業(yè)媒體人無可取代的底氣所在,因?yàn)樵谡业酱鸢钢?,有價(jià)值的問題最珍貴,而提問正是媒體人的專長。

    注釋:

    ①目前國內(nèi)對AIGC(人工智能生成內(nèi)容)這一概念還未有統(tǒng)一、規(guī)范的界定。本文在廣義的范圍內(nèi)使用這一概念,既將其視作一種基于人工智能技術(shù)的特定的內(nèi)容生產(chǎn)方式(既包括完全由AI生產(chǎn)的,也包括AI輔助生產(chǎn)的),又將其視為一種基于人工智能技術(shù)生成的內(nèi)容產(chǎn)品。

    ②按照中國信息通訊研究院和京東探索研究院聯(lián)合發(fā)布的《人工智能生成內(nèi)容(AIGC)白皮書(2022)》,AIGC的發(fā)展分為早期萌芽階段:20世紀(jì)50年代至90年代中期;沉淀積累階段:20世紀(jì)90年代中期至21世紀(jì)10年代中期;快速發(fā)展階段:21世紀(jì)10年代中期至今三個(gè)階段。

    ③2023年3月15日OpenAI推出的GPT-4多模態(tài)大模型,不僅支持圖像和文本輸出,擁有強(qiáng)大的識圖能力,文字輸入限制還提升至2.5萬字,已經(jīng)接近中篇小說的篇幅。

    ④“創(chuàng)造性毀滅”由美國哈佛大學(xué)經(jīng)濟(jì)學(xué)家熊彼特提出,該說法主要是指當(dāng)效率更高的新技術(shù)出現(xiàn)以后,依托舊技術(shù)的產(chǎn)業(yè)勢必會受到?jīng)_擊,對舊方法和產(chǎn)品的毀滅迎來了對新方法和產(chǎn)品的創(chuàng)造,正因如此,個(gè)人、企業(yè)和社會才能在這樣的創(chuàng)造性毀滅當(dāng)中發(fā)展起來。

    參考文獻(xiàn):

    [1]Ben.最快月活過億,但ChatGPT或終將被開源打[EB/OL].(2023-02-08)[2023-04-25].https://36kr.com/p/2122517435107721.

    [2]黃榮,呂尚彬.ChatGPT:本體、影響及趨勢[J].當(dāng)代傳播,2023(2):33-38,44.

    [3][15][16]鄧建國.概率與反饋:ChatGPT的智能原理與人機(jī)內(nèi)容共創(chuàng)[J].南京社會科學(xué),2023(3):86-94,142.

    [4][美]詹姆斯·巴拉特.我們最后的發(fā)明: 人工智能與人類時(shí)代的終結(jié)[M].閭佳譯.北京:電子工業(yè)出版社,2016:22.

    [5]每日經(jīng)濟(jì)新聞.最新!比爾·蓋茨再談Chat GPT:重要性不亞于互聯(lián)網(wǎng)的發(fā)明,將改變我們的世界 [EB/OL].(2023-02-11)[2023-04-28].https://baijiahao.baidu.com/s?id=1757516621271845208&wfr=spider&for=pc.

    [6]尼克·紐曼,劉沫瀟.2023年全球新聞業(yè)展望[J].青年記者,2023(3):103-104.

    [7]中國信息通訊研究院,京東探索研究院.人工智能生成內(nèi)容(AIGC)白皮書(2022年)[M].北京:中國信息通信研究院,2022:1.

    [8]喻國明,滕文強(qiáng),郅慧.ChatGPT浪潮下媒介生態(tài)系統(tǒng)演化的再認(rèn)知——基于自組織涌現(xiàn)范式的分析[J].新聞與寫作,2023(4):5-14.

    [9]楊保軍,孫新.論新世紀(jì)以來新聞生產(chǎn)主體的結(jié)構(gòu)變遷[J].未來傳播,2021,28(4):2-13,120.

    [10]楊保軍.再論“人工智能新聞生產(chǎn)體”的主體性[J].新聞界,2021(8):21-27,37.

    [11]Singh A,Jha S,Srivastava DK,et al.Future of work: a systematic literature review and evolution of themes[J].Foresight,2022(1):99-125.

    [12]蘇濤,彭蘭.“智媒”時(shí)代的消融與重塑——2017年新媒體研究綜述[J].國際新聞界,2018,40(1):38-58.

    [13]尼克·紐曼,劉沫瀟.2023年全球新聞業(yè)展望[J].青年記者,2023(3):103-104.

    [14]趙睿,喻國明.“賽博格時(shí)代”的新聞模式:理論邏輯與行動路線圖——基于對話機(jī)器人在傳媒業(yè)應(yīng)用的現(xiàn)狀考察與未來分析[J].當(dāng)代傳播,2017(2):13-16,53.

    [17]黃少卿.探索知識生產(chǎn)常規(guī)化的機(jī)制:《世界上最強(qiáng)大的思想》給我們的啟示[EB/OL].(2021-12-05)[2023-05-05].https://baijiahao.baidu.com/s?id=1718289617831874420&wfr=spider&for=pc.

    [18]Whittaker L,Kietzmann TC,Kietzmann J,et al.“All around me are synthetic faces”:the mad world of AI-generated media[J].IT Professional,2020(5):90-99.

    [19]澎湃新聞.喬姆斯基:ChatGPT的虛假承諾[EB/OL].(2023-03-10)[2023-05-10].https://baijiahao.baidu.com/s?id=1759939491843688675&wfr=spider&for=pc.

    [20]孫少山.導(dǎo)向性:新聞報(bào)道的靈魂[J].新聞愛好者,2019(7):56-59.

    [21]張春華.第一家完全由人工智能生成的新聞網(wǎng)站面世,新聞業(yè)的“游戲規(guī)則”正被改寫?[EB/OL].(2023-04-11)[2023-05-13].https://mp.weixin.qq.com/s/a9rDj1ZwWDfWqF6kp2ADcw.

    [22]方師師.算法機(jī)制背后的新聞價(jià)值觀——圍繞“Facebook偏見門”事件的研究[J].新聞記者,2016(9):39-50.

    [23]Brown T,Mann B,Ryder N,et al.Language models are few-shot learners[C]//.Advances in Neural Information Processing Systems,2020(33):1877-1901.

    [24]陳昌鳳,張夢.由數(shù)據(jù)決定?AIGC的價(jià)值觀和倫理問題[J].新聞與寫作,2023(4):15-23.

    猜你喜歡
    人工智能生產(chǎn)
    我校新增“人工智能”本科專業(yè)
    用舊的生產(chǎn)新的!
    “三夏”生產(chǎn) 如火如荼
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    S-76D在華首架機(jī)實(shí)現(xiàn)生產(chǎn)交付
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    下一幕,人工智能!
    安全生產(chǎn)重于泰山
    哪个播放器可以免费观看大片| 一二三四中文在线观看免费高清| 免费看a级黄色片| 国产av一区在线观看免费| 欧美zozozo另类| 九九久久精品国产亚洲av麻豆| 看免费成人av毛片| 91精品国产九色| 精品免费久久久久久久清纯| 亚洲怡红院男人天堂| 麻豆久久精品国产亚洲av| 国产 一区 欧美 日韩| 国模一区二区三区四区视频| 日韩制服骚丝袜av| 亚洲av中文av极速乱| h日本视频在线播放| 亚洲不卡免费看| 日韩高清综合在线| 69人妻影院| 中文字幕熟女人妻在线| 国产精品一及| 永久网站在线| 欧美最新免费一区二区三区| 欧美激情国产日韩精品一区| a级一级毛片免费在线观看| 成人美女网站在线观看视频| 国产大屁股一区二区在线视频| 亚洲久久久久久中文字幕| 国产精品一二三区在线看| 最近的中文字幕免费完整| 久久99热6这里只有精品| 国产在视频线精品| 国产 一区 欧美 日韩| 一区二区三区免费毛片| 国产高清国产精品国产三级 | .国产精品久久| 啦啦啦韩国在线观看视频| 国产精品蜜桃在线观看| 国产美女午夜福利| 春色校园在线视频观看| 99国产精品一区二区蜜桃av| 激情 狠狠 欧美| 久久99热这里只有精品18| 日韩av不卡免费在线播放| h日本视频在线播放| 久久精品国产亚洲av涩爱| 国产免费又黄又爽又色| 99久久人妻综合| 日本黄色片子视频| 一级黄片播放器| 三级毛片av免费| 国产淫片久久久久久久久| 欧美成人a在线观看| 国产高清视频在线观看网站| www日本黄色视频网| av.在线天堂| 美女脱内裤让男人舔精品视频| 不卡视频在线观看欧美| 中文字幕av在线有码专区| 夜夜爽夜夜爽视频| 久久久久久久亚洲中文字幕| 久久人妻av系列| 国产精品麻豆人妻色哟哟久久 | 免费黄色在线免费观看| 欧美xxxx性猛交bbbb| 精品人妻熟女av久视频| 春色校园在线视频观看| 午夜福利在线观看吧| 日本av手机在线免费观看| 日韩制服骚丝袜av| 欧美日韩精品成人综合77777| 久久欧美精品欧美久久欧美| 免费av不卡在线播放| 亚洲性久久影院| 99久久精品一区二区三区| 欧美成人午夜免费资源| 色视频www国产| 成人av在线播放网站| 春色校园在线视频观看| 一区二区三区免费毛片| 亚洲国产最新在线播放| 99久久无色码亚洲精品果冻| 一区二区三区四区激情视频| 91在线精品国自产拍蜜月| 长腿黑丝高跟| 26uuu在线亚洲综合色| 村上凉子中文字幕在线| 国产女主播在线喷水免费视频网站 | 只有这里有精品99| 久久久久久九九精品二区国产| 成年女人看的毛片在线观看| 国产一级毛片七仙女欲春2| 国产熟女欧美一区二区| 国产极品精品免费视频能看的| 国产午夜福利久久久久久| 精品不卡国产一区二区三区| h日本视频在线播放| 伊人久久精品亚洲午夜| 黄色一级大片看看| 麻豆成人av视频| 欧美人与善性xxx| 国产精品乱码一区二三区的特点| 一个人看视频在线观看www免费| 免费看光身美女| 国产成人freesex在线| 国产成人一区二区在线| 国产精品国产高清国产av| 全区人妻精品视频| 黄色日韩在线| 亚洲性久久影院| 国产精品国产高清国产av| 国产精品.久久久| h日本视频在线播放| 亚洲成人av在线免费| 亚洲国产高清在线一区二区三| 日本黄色视频三级网站网址| 九九在线视频观看精品| 日本-黄色视频高清免费观看| 国产免费福利视频在线观看| 国产精品一区二区性色av| 日本色播在线视频| 国产一区二区在线观看日韩| 免费av毛片视频| 久久精品久久久久久久性| 成人性生交大片免费视频hd| 国产视频内射| 欧美成人午夜免费资源| 亚洲人成网站高清观看| 日韩在线高清观看一区二区三区| 熟妇人妻久久中文字幕3abv| 少妇高潮的动态图| 在线天堂最新版资源| 又粗又爽又猛毛片免费看| 久久精品91蜜桃| av天堂中文字幕网| 人体艺术视频欧美日本| 国产白丝娇喘喷水9色精品| 精品国产露脸久久av麻豆 | 久久久国产成人免费| 51国产日韩欧美| 午夜精品在线福利| 欧美色视频一区免费| 欧美xxxx性猛交bbbb| 国产乱来视频区| 极品教师在线视频| 蜜桃久久精品国产亚洲av| 国产高清三级在线| 成人午夜精彩视频在线观看| 联通29元200g的流量卡| 欧美潮喷喷水| 国产成人午夜福利电影在线观看| 亚洲成av人片在线播放无| 亚洲精华国产精华液的使用体验| 一个人看视频在线观看www免费| 国内精品一区二区在线观看| 日日摸夜夜添夜夜添av毛片| 国产伦一二天堂av在线观看| 国产精品一区二区三区四区免费观看| 日本黄大片高清| 日韩欧美精品v在线| 精华霜和精华液先用哪个| 九九久久精品国产亚洲av麻豆| 久久久久久伊人网av| 亚洲一级一片aⅴ在线观看| 嫩草影院新地址| 国产淫语在线视频| 欧美高清性xxxxhd video| 日本三级黄在线观看| 久久久久久久亚洲中文字幕| 99热这里只有是精品50| 观看免费一级毛片| 国产欧美日韩精品一区二区| 在线播放无遮挡| 国产免费又黄又爽又色| 人人妻人人看人人澡| 国产精品99久久久久久久久| 亚洲色图av天堂| 纵有疾风起免费观看全集完整版 | 久久99精品国语久久久| 国产真实伦视频高清在线观看| 久久精品夜夜夜夜夜久久蜜豆| 国产高清视频在线观看网站| 日本免费a在线| 一二三四中文在线观看免费高清| 99在线视频只有这里精品首页| 内地一区二区视频在线| 免费人成在线观看视频色| 小蜜桃在线观看免费完整版高清| 成人午夜高清在线视频| 欧美一区二区国产精品久久精品| 日日干狠狠操夜夜爽| 在现免费观看毛片| 国产v大片淫在线免费观看| 国产在线一区二区三区精 | 波野结衣二区三区在线| 搞女人的毛片| 国产精品1区2区在线观看.| 国产免费福利视频在线观看| 国产亚洲5aaaaa淫片| 少妇被粗大猛烈的视频| 色吧在线观看| 色综合站精品国产| 日韩av在线大香蕉| 日本一二三区视频观看| 久热久热在线精品观看| 欧美极品一区二区三区四区| 亚洲在线观看片| 天堂av国产一区二区熟女人妻| 国产精品一区二区在线观看99 | 又爽又黄无遮挡网站| 亚洲国产精品久久男人天堂| 欧美97在线视频| 国产黄片美女视频| 亚洲国产精品sss在线观看| 国产国拍精品亚洲av在线观看| 91久久精品国产一区二区成人| 18禁在线无遮挡免费观看视频| 精品人妻熟女av久视频| 精品久久久久久成人av| a级一级毛片免费在线观看| 免费av不卡在线播放| av免费观看日本| 一个人免费在线观看电影| 亚洲婷婷狠狠爱综合网| 青春草国产在线视频| 中文在线观看免费www的网站| 伦精品一区二区三区| 久久久久久九九精品二区国产| 99热网站在线观看| 日本爱情动作片www.在线观看| 免费观看的影片在线观看| 久久人人爽人人片av| 国产日韩欧美在线精品| 日韩国内少妇激情av| 人妻夜夜爽99麻豆av| 久久久久精品久久久久真实原创| 亚州av有码| 久久6这里有精品| 在现免费观看毛片| 婷婷色av中文字幕| 少妇人妻精品综合一区二区| 午夜激情福利司机影院| 蜜桃久久精品国产亚洲av| 国产91av在线免费观看| 男人狂女人下面高潮的视频| 久久精品久久久久久久性| 亚洲国产精品国产精品| 亚洲国产日韩欧美精品在线观看| 国产精品久久久久久久电影| 日韩一本色道免费dvd| 美女国产视频在线观看| 中国国产av一级| 春色校园在线视频观看| 晚上一个人看的免费电影| 少妇的逼水好多| 亚洲电影在线观看av| 亚洲怡红院男人天堂| 日本爱情动作片www.在线观看| 亚洲成人久久爱视频| 亚洲图色成人| 国产精品不卡视频一区二区| 我的老师免费观看完整版| 精品久久久久久电影网 | 直男gayav资源| 亚洲丝袜综合中文字幕| 两性午夜刺激爽爽歪歪视频在线观看| 国产精品久久久久久久电影| 婷婷色综合大香蕉| 成年女人永久免费观看视频| 99国产精品一区二区蜜桃av| 日韩 亚洲 欧美在线| 老女人水多毛片| 国产精品.久久久| 97人妻精品一区二区三区麻豆| av又黄又爽大尺度在线免费看 | 久久99热6这里只有精品| 国产欧美日韩精品一区二区| 日本-黄色视频高清免费观看| 午夜a级毛片| 一夜夜www| 成年免费大片在线观看| 亚洲精华国产精华液的使用体验| 国产成人精品久久久久久| 色噜噜av男人的天堂激情| 我要搜黄色片| 秋霞在线观看毛片| 免费一级毛片在线播放高清视频| 成人毛片60女人毛片免费| 丰满人妻一区二区三区视频av| 99久久无色码亚洲精品果冻| 国产乱来视频区| 又黄又爽又刺激的免费视频.| 天天一区二区日本电影三级| 亚洲av日韩在线播放| 亚洲欧美精品专区久久| 国产av不卡久久| 精品一区二区三区视频在线| 国产69精品久久久久777片| 国产综合懂色| 蜜臀久久99精品久久宅男| 国产精品福利在线免费观看| 丰满乱子伦码专区| 国产精品一区www在线观看| 一级爰片在线观看| 欧美日本视频| 1000部很黄的大片| 色吧在线观看| 午夜亚洲福利在线播放| 午夜爱爱视频在线播放| 国产色婷婷99| av福利片在线观看| 色噜噜av男人的天堂激情| 亚洲av电影在线观看一区二区三区 | 嫩草影院精品99| 六月丁香七月| 久久久国产成人精品二区| 欧美成人免费av一区二区三区| 亚洲欧美清纯卡通| 秋霞在线观看毛片| 国产精品久久久久久久电影| 深爱激情五月婷婷| 波多野结衣巨乳人妻| 非洲黑人性xxxx精品又粗又长| 日韩 亚洲 欧美在线| 亚洲久久久久久中文字幕| 少妇高潮的动态图| 亚洲精品成人久久久久久| 亚洲av电影在线观看一区二区三区 | 青春草国产在线视频| 级片在线观看| 国产精品久久久久久久电影| 国产欧美另类精品又又久久亚洲欧美| 久久国内精品自在自线图片| av在线老鸭窝| 成人毛片60女人毛片免费| 国产成年人精品一区二区| 亚洲av免费高清在线观看| 亚洲国产精品国产精品| 日本黄色视频三级网站网址| 色吧在线观看| 99在线视频只有这里精品首页| 啦啦啦观看免费观看视频高清| 久久久久久九九精品二区国产| 久久精品综合一区二区三区| 99热这里只有是精品在线观看| 国产午夜精品一二区理论片| 久久精品人妻少妇| АⅤ资源中文在线天堂| 国产老妇伦熟女老妇高清| 尤物成人国产欧美一区二区三区| 看免费成人av毛片| 久久精品夜夜夜夜夜久久蜜豆| 国产精品爽爽va在线观看网站| 国产精品国产三级国产专区5o | 丰满人妻一区二区三区视频av| 欧美zozozo另类| 干丝袜人妻中文字幕| 亚洲性久久影院| 日韩制服骚丝袜av| 久久99热这里只频精品6学生 | 黄色欧美视频在线观看| 欧美精品一区二区大全| 亚洲国产精品专区欧美| 亚洲av一区综合| 建设人人有责人人尽责人人享有的 | 精品人妻视频免费看| 一个人免费在线观看电影| 极品教师在线视频| 日本熟妇午夜| 日本五十路高清| 午夜亚洲福利在线播放| 婷婷色av中文字幕| 99久久九九国产精品国产免费| 国产高潮美女av| 亚洲av成人av| 国产老妇伦熟女老妇高清| 国产午夜精品一二区理论片| 91av网一区二区| 国产在视频线精品| 看片在线看免费视频| 国产精品无大码| 男女视频在线观看网站免费| 国产一区有黄有色的免费视频 | 亚洲精品456在线播放app| 亚洲人成网站在线观看播放| 色噜噜av男人的天堂激情| 六月丁香七月| 国产又黄又爽又无遮挡在线| 日韩av不卡免费在线播放| 亚洲av一区综合| 久久精品夜色国产| 国产在线男女| 五月伊人婷婷丁香| av在线播放精品| 亚洲欧美中文字幕日韩二区| 乱码一卡2卡4卡精品| 1000部很黄的大片| 国产精品精品国产色婷婷| 又爽又黄无遮挡网站| 国产av码专区亚洲av| 国产成人精品婷婷| 免费看日本二区| 国产毛片a区久久久久| 最新中文字幕久久久久| 中国国产av一级| 一级av片app| 亚洲成人av在线免费| 日本五十路高清| 国产成人a∨麻豆精品| 99久久人妻综合| 日日啪夜夜撸| 嫩草影院入口| 狠狠狠狠99中文字幕| 国产成人a∨麻豆精品| 亚洲丝袜综合中文字幕| 少妇被粗大猛烈的视频| 国产片特级美女逼逼视频| 亚洲性久久影院| 日韩欧美三级三区| 乱系列少妇在线播放| 久久精品国产亚洲av涩爱| 亚洲伊人久久精品综合 | 国产精品一二三区在线看| 亚洲经典国产精华液单| 亚洲一级一片aⅴ在线观看| 成人二区视频| 人妻夜夜爽99麻豆av| 搡老妇女老女人老熟妇| 国产成人a区在线观看| 亚洲成人精品中文字幕电影| 好男人视频免费观看在线| 亚洲丝袜综合中文字幕| 亚洲自拍偷在线| 麻豆成人午夜福利视频| 国产午夜精品论理片| 97超视频在线观看视频| 久久草成人影院| 国产成人精品久久久久久| 日本爱情动作片www.在线观看| 一级毛片aaaaaa免费看小| 五月伊人婷婷丁香| 久久久色成人| 国产免费男女视频| 国产欧美另类精品又又久久亚洲欧美| 一级av片app| 全区人妻精品视频| 69人妻影院| 久久精品熟女亚洲av麻豆精品 | 伊人久久精品亚洲午夜| 亚洲国产欧洲综合997久久,| av免费观看日本| 亚洲乱码一区二区免费版| 插阴视频在线观看视频| 国产午夜精品论理片| 亚洲av成人av| 内地一区二区视频在线| 久久欧美精品欧美久久欧美| 一本久久精品| 日本熟妇午夜| 国国产精品蜜臀av免费| 在线播放国产精品三级| 午夜日本视频在线| 亚洲va在线va天堂va国产| 两性午夜刺激爽爽歪歪视频在线观看| 少妇的逼好多水| 中文字幕人妻熟人妻熟丝袜美| 国产三级在线视频| 最后的刺客免费高清国语| 看免费成人av毛片| 成人特级av手机在线观看| 亚洲在线自拍视频| 3wmmmm亚洲av在线观看| 国产美女午夜福利| 三级男女做爰猛烈吃奶摸视频| 日韩成人av中文字幕在线观看| 精品人妻一区二区三区麻豆| 国产精品无大码| 国产成人aa在线观看| 网址你懂的国产日韩在线| 噜噜噜噜噜久久久久久91| 国产乱人偷精品视频| 国产 一区精品| 最近2019中文字幕mv第一页| 最近中文字幕2019免费版| av在线播放精品| 国产精品不卡视频一区二区| 精品午夜福利在线看| 精品99又大又爽又粗少妇毛片| 亚洲精品日韩在线中文字幕| 久久午夜福利片| 两性午夜刺激爽爽歪歪视频在线观看| 麻豆国产97在线/欧美| videos熟女内射| 男人舔女人下体高潮全视频| 三级国产精品片| ponron亚洲| 一级毛片我不卡| 一级毛片aaaaaa免费看小| 久久国产乱子免费精品| 国产亚洲av嫩草精品影院| 久久久久国产网址| 亚洲av电影在线观看一区二区三区 | 夫妻性生交免费视频一级片| 亚洲av电影在线观看一区二区三区 | 人人妻人人澡人人爽人人夜夜 | av福利片在线观看| 观看美女的网站| 小蜜桃在线观看免费完整版高清| 高清日韩中文字幕在线| 亚洲不卡免费看| 精品人妻视频免费看| 国产精品一二三区在线看| 日韩一本色道免费dvd| 国产精品熟女久久久久浪| 国语自产精品视频在线第100页| 国产黄色小视频在线观看| 赤兔流量卡办理| 国产高清视频在线观看网站| 午夜久久久久精精品| 亚洲美女视频黄频| 久热久热在线精品观看| 亚洲精品,欧美精品| 亚洲欧美一区二区三区国产| 国产女主播在线喷水免费视频网站 | www日本黄色视频网| 久久99热6这里只有精品| 亚洲精品自拍成人| 久久久久网色| 在线天堂最新版资源| 国产精品久久视频播放| 欧美日本视频| 久久久久久久久大av| 亚洲av电影不卡..在线观看| 只有这里有精品99| 国产麻豆成人av免费视频| ponron亚洲| 国产麻豆成人av免费视频| 午夜视频国产福利| 神马国产精品三级电影在线观看| 精品人妻熟女av久视频| 91久久精品电影网| 成人av在线播放网站| 大话2 男鬼变身卡| 禁无遮挡网站| 插逼视频在线观看| 亚洲va在线va天堂va国产| 国语自产精品视频在线第100页| 免费大片18禁| 久久久久久久久久成人| 18禁在线播放成人免费| 免费一级毛片在线播放高清视频| 中文精品一卡2卡3卡4更新| 国产日韩欧美在线精品| 亚洲av福利一区| 大又大粗又爽又黄少妇毛片口| 国产男人的电影天堂91| 精品国内亚洲2022精品成人| 亚洲精品色激情综合| 国产成人精品一,二区| 国产成人精品婷婷| 日韩视频在线欧美| 国产黄a三级三级三级人| 久久精品熟女亚洲av麻豆精品 | 国产极品精品免费视频能看的| 丰满少妇做爰视频| 三级男女做爰猛烈吃奶摸视频| 午夜老司机福利剧场| 熟女电影av网| 一本久久精品| 午夜福利在线观看免费完整高清在| 大香蕉97超碰在线| 亚洲欧美精品自产自拍| 久久久色成人| 欧美精品一区二区大全| 麻豆成人午夜福利视频| 午夜福利高清视频| 99热6这里只有精品| 自拍偷自拍亚洲精品老妇| 亚洲精品456在线播放app| 欧美bdsm另类| 亚洲图色成人| 最近最新中文字幕免费大全7| 成人综合一区亚洲| 国产亚洲午夜精品一区二区久久 | 国产视频首页在线观看| 黄色欧美视频在线观看| 麻豆国产97在线/欧美| 啦啦啦韩国在线观看视频| 一级毛片电影观看 | 国产高潮美女av| 一级黄片播放器| 亚洲乱码一区二区免费版| 欧美成人精品欧美一级黄| 久久亚洲精品不卡| 国产在线一区二区三区精 | 久久久久九九精品影院| 大话2 男鬼变身卡| 国产麻豆成人av免费视频| 2022亚洲国产成人精品| 欧美成人精品欧美一级黄| 久久精品夜夜夜夜夜久久蜜豆| 直男gayav资源| 国产成年人精品一区二区| 美女被艹到高潮喷水动态| 色综合站精品国产| 国产免费男女视频| 99久久无色码亚洲精品果冻| 国产av码专区亚洲av| 精品一区二区三区视频在线| 久久久午夜欧美精品| 蜜桃亚洲精品一区二区三区| 国产伦精品一区二区三区视频9| 国产精品麻豆人妻色哟哟久久 | 国产一区亚洲一区在线观看| 国产成人a区在线观看|