• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式AI與學(xué)術(shù)期刊出版:沖擊及應(yīng)對

    2024-08-15 00:00:00紀小樂魏建

    摘 要:以ChatGPT為代表的生成式AI將深刻地影響并改變傳統(tǒng)知識生產(chǎn)體系,海量知識儲備與超強算力在促進學(xué)科交叉與融合、加速推動知識生產(chǎn)的同時,也由于學(xué)術(shù)論文撰寫難度的降低而產(chǎn)生知識泡沫等問題。學(xué)術(shù)期刊作為知識生產(chǎn)體系的守門人,長期以來形成了嚴謹?shù)膶徃蹇d流程和期刊品牌風(fēng)格,在保證人類知識生產(chǎn)體系始終向未知領(lǐng)域探索的同時,也維護人類社會價值體系。學(xué)術(shù)期刊在生成式AI時代更需要繼續(xù)堅持這些特征,才能保證人類知識生產(chǎn)體系的自主性和可靠性。在主動擁抱生成式AI的過程中,學(xué)術(shù)期刊應(yīng)繼續(xù)將推動知識創(chuàng)新作為核心功能,通過選題策劃引領(lǐng)學(xué)術(shù)發(fā)展方向,同時借助生成式AI的技術(shù)手段,輔助稿件審閱和編校,使其所刊載的學(xué)術(shù)論文始終成為人類知識生產(chǎn)的主力軍。

    關(guān)鍵詞:知識生產(chǎn)體系;生成式AI;學(xué)術(shù)期刊;知識泡沫;守門人

    中圖分類號:G23 文獻標識碼:A 文章編號:1674-5450(2024)04-0082-09

    收稿日期: 2023-12-10

    基金項目: 國家社會科學(xué)基金一般項目(19BJY013)

    作者簡介: 紀小樂,女,山東濟南人,山東大學(xué)副編審,經(jīng)濟學(xué)博士,主要從事經(jīng)濟管理與編輯出版研究;魏建,男,山東濱州人,山東大學(xué)教授,博士研究生導(dǎo)師,主要從事法經(jīng)濟學(xué)、制度經(jīng)濟學(xué)與編輯出版研究。

    2022年11月,美國OpenAI公司發(fā)布的以GPT-3.5為內(nèi)核的大型語言模型ChatGPT上線僅2個月,活躍用戶突破1個億。ChatGPT作為生成式AI的代表產(chǎn)品,不僅能夠以聊天機器人的形式根據(jù)上下文與用戶進行對話,還可以實現(xiàn)文本寫作、計劃定制,乃至程序編寫等各項工作。2023年3月,OpenAI公司又推出了GPT-4,這是深度學(xué)習(xí)方面最新的里程碑。與GPT-3.5相比,其圖像識別能力更強、回答準確率更高、文本能夠呈現(xiàn)不同風(fēng)格。

    ChatGPT引發(fā)了新一輪人工智能熱潮,不僅谷歌、百度等企業(yè)迅速推出與ChatGPT類似的競品,其他公司推出Midjourney,Synthesia,Copy.ai等針對圖片、視頻與文案等特定領(lǐng)域的生成式AI產(chǎn)品也在行業(yè)內(nèi)引起巨大反響。作為內(nèi)容生產(chǎn)技術(shù)的巨大創(chuàng)新,生成式AI同樣成為學(xué)術(shù)創(chuàng)新的重要工具,ChatGPT能夠在極短時間內(nèi)完成論文框架的構(gòu)建與相關(guān)內(nèi)容生成,其強大功能甚至引發(fā)學(xué)術(shù)界對ChatGPT替寫論文的極度擔憂,這無疑將對學(xué)術(shù)期刊產(chǎn)生重要影響。

    以ChatGPT為例,從生成式AI技術(shù)產(chǎn)生與發(fā)展出發(fā),分析其對知識生產(chǎn)體系帶來的沖擊,并在此基礎(chǔ)上探討生成式AI時代期刊出版如何實現(xiàn)高質(zhì)量發(fā)展,是本文的目標所在。

    一、生成式AI概說

    (一)生成式AI發(fā)展脈絡(luò)

    生成式AI即人工智能生成內(nèi)容(Artificial Intelligence Generated Content,AIGC),是AI發(fā)展的一個重要分支。ChatGPT則是AIGC領(lǐng)域中運用大型語言模型實現(xiàn)自然語言理解、自然語言生成與上下文學(xué)習(xí)功能的典型產(chǎn)品[1]。這項技術(shù)最初可以追溯到20世紀50年代,人工智能之父艾倫·圖靈提出的“模仿游戲”(Imitati-

    on Game)作為人工智能的判斷標準開啟了人工智能的相關(guān)研究,這一標準也被稱為“圖靈測試”,即當計算機能夠以模仿人類回答的方式回應(yīng)提問者,并使提問者無法分辨出這一回答是來自計算機還是人類時,計算機可以被認為是智能的[2]。此后,美國麻省理工學(xué)院的約瑟夫·維森鮑姆(Joseph Weizenbaum)推出聊天機器人“伊麗莎”(Eliza),可以通過模式匹配的方式來模擬人類對話。在1995年,美國的理查德·華萊士(Richard Wallace)教授又使用人工智能標記語言(AIML)構(gòu)建聊天機器人“愛麗絲”(Alice),通過啟發(fā)式的模式匹配實現(xiàn)計算機與人類的對話,這種模式匹配技術(shù)現(xiàn)在依然被廣泛應(yīng)用于智能客服等領(lǐng)域。但是,由于模式匹配類的技術(shù)無法窮盡人類語言中的各種復(fù)雜語義,所以底層技術(shù)的升級是計算機能夠完全理解并恰當回應(yīng)人類對話所需的必要條件。機器學(xué)習(xí)作為新一代底層技術(shù)被應(yīng)用于人工智能領(lǐng)域,在2001年,Active Buddy公司以機器學(xué)習(xí)為底層技術(shù)的聊天機器人“更聰明小孩”(Smarter Child)橫空出世,吸引全球超過3 000萬人與其對話[3]429-481,而這個機器人依然沒能通過圖靈測試。2010年左右,機器學(xué)習(xí)領(lǐng)域的人工神經(jīng)網(wǎng)絡(luò)技術(shù)開始突飛猛進的發(fā)展,它通過模擬人腦的神經(jīng)細胞的信息傳遞方式,能夠更好地模擬人類思維,擊敗世界圍棋冠軍的“阿爾法狗”(AlphaGo)就是基于這一技術(shù)開發(fā)出來的①。但人工神經(jīng)網(wǎng)絡(luò)由于難以實現(xiàn)大規(guī)模并行運算,因而在語義識別方面仍然存在一定欠缺,2017年,谷歌發(fā)布的Transformer模型解決了傳統(tǒng)機器學(xué)習(xí)中訓(xùn)練時間長、難以較好實現(xiàn)并行計算的問題②,還可以大幅度提升計算效率,這也成為生成式預(yù)訓(xùn)練模型(Generative Pretrained Transformer,GPT)的基本單元與核心組件。

    2018年,OpenAI公司基于Transformer模型推出了GPT-1。該模型通過無監(jiān)督預(yù)訓(xùn)練和有監(jiān)督模型微調(diào)的二段式的訓(xùn)練,展現(xiàn)強大的泛化能力,能夠通過樣本學(xué)習(xí)隱含在數(shù)據(jù)背后的規(guī)律,對有相同規(guī)律的新數(shù)據(jù),GPT-1能夠輸出一個合理的結(jié)果。2019年,OpenAI公司推出GPT-2,相比于GPT-1,其使用更多的網(wǎng)絡(luò)參數(shù)和更大的數(shù)據(jù)集,從而擁有多任務(wù)學(xué)習(xí)的能力。2020年5月,OpenAI公司繼續(xù)推出GPT-3,雖然原理上與前兩代并無太大區(qū)別,但與前兩代相比,GPT-3所使用的參數(shù)量由1.17億、15億上升至1 750億,預(yù)訓(xùn)練數(shù)據(jù)量由約5GB、40GB上升至40TB③,這使得GPT-3的性能大幅提升。

    以無監(jiān)督方式進行訓(xùn)練的GPT-3,由于在訓(xùn)練過程中并未進行過多人為干預(yù),因此GPT-3

    容易出現(xiàn)不當言論。為了使GPT-3能夠更好地與人交流,OpenAI公司通過人類反饋強化學(xué)習(xí)(Reinforcement Learning from Human Fee-

    dback,RLHF)的方式對GPT-3.5(GPT-3的升級版)進行訓(xùn)練,由此產(chǎn)生了ChatGPT④。具體而言,就是讓人類訓(xùn)練員對部分GPT-3.5生成的各種結(jié)果進行人工評級,這些級別用于創(chuàng)建“獎勵模型”,再使用“獎勵模型”對原始模型進行迭代微調(diào),由此提高模型性能,使之盡可能地模擬人類反饋。而這種人類反饋強化學(xué)習(xí)的訓(xùn)練模式,在ChatGPT發(fā)布之后仍在持續(xù)進行,OpenAI公司允許用戶對ChatGPT的回答投贊成或反對票,并將這些反饋數(shù)據(jù)用于進一步訓(xùn)練和微調(diào)ChatGPT。ChatGPT因其出色的性能而被稱為強人工智能產(chǎn)品。

    (二)生成式AI帶來的影響

    2023年3月,OpenAI公司推出了以GPT-

    4為內(nèi)核的ChatGPT,雖然這個產(chǎn)品在許多現(xiàn)實世界場景中的能力不如人類,但在各種專業(yè)和學(xué)術(shù)測試中展示出了超越一般人類水平的表現(xiàn),如在美國研究生入學(xué)考試(Graduate Re-

    cord Examination,GRE)文字推理和統(tǒng)一律師資格考試中,GPT-4的表現(xiàn)能夠超越90%的人類。而在與人類的隨意對話中,GPT-3.5 和 GPT-4 之間的區(qū)別可能很微妙,但當任務(wù)的復(fù)雜性達到足夠的閾值時,GPT-4 比 GPT-3.5 更可靠、更有創(chuàng)意,并且能夠處理更細微的指令。GPT-4 還可以接受文本和圖像的指令,并對這類指令與純文本指令并行反饋,完成用戶指定任何視覺或語言任務(wù)①。

    以ChatGPT為代表的生成式AI作為具有思考力的強人工智能聊天程序,不僅具有與人類近似甚至接近一致的理解能力,更具有超越絕大多數(shù)人類的知識儲備和強大算力,一經(jīng)推出就引發(fā)了各行各業(yè)的廣泛關(guān)注,甚至引發(fā)人們對未來的擔憂。ChatGPT不僅在處理煩瑣的文案工作中表現(xiàn)良好,甚至在進行編程、翻譯等相對復(fù)雜的工作時也表現(xiàn)出了專業(yè)水準[4]??梢哉f,生成式AI已經(jīng)或即將廣泛應(yīng)用于消費端和生產(chǎn)端的各個場景,前者主要包括內(nèi)容生產(chǎn)、便捷交互、簡化操作,這些應(yīng)用將會同時對消費者的消費品數(shù)量、質(zhì)量、多樣性,以及擁有的閑暇等因素產(chǎn)生顯著影響;后者則主要體現(xiàn)為加速自動化、通過“組合式創(chuàng)新”促進技術(shù)進步,實現(xiàn)對新要素尤其是新數(shù)據(jù)要素的創(chuàng)造,靠近生產(chǎn)領(lǐng)域的代表性應(yīng)用有工業(yè)設(shè)計、藥物研發(fā)、材料科學(xué)、合成數(shù)據(jù)等[5]。根據(jù)投資銀行高盛(Goldman Sachs)報告,在給全球GDP帶來7%的增長的同時,超過3億個崗位將被生成式AI取代,而超過2/3的工作將受到影響②。根據(jù)GhatGPT自身的預(yù)測,會計、律師、客服、編輯與行政人員所受影響最大,最容易被生成式AI取代。

    二、生成式AI對知識生產(chǎn)體系的沖擊

    (一)傳統(tǒng)的知識生產(chǎn)體系

    傳統(tǒng)的知識生產(chǎn)體系可以總結(jié)為三個要素:創(chuàng)意、知識存量和激勵。在傳統(tǒng)知識生產(chǎn)過程中,三類要素在不同時期起著不同的作用,共同推動著人類知識生產(chǎn)與技術(shù)創(chuàng)新。其中,前兩者是依賴學(xué)者存在的,是個體或小團體進行知識生產(chǎn)的決定性因素,而激勵機制則使知識生產(chǎn)體系與人類社會其他系統(tǒng)實現(xiàn)耦合,使知識生產(chǎn)體系的“生產(chǎn)—收益”形成正向循環(huán),吸引新一代學(xué)者不斷加入知識生產(chǎn)體系中,推動知識持續(xù)進步,從而實現(xiàn)人類文明不斷發(fā)展。

    在這三個要素中,創(chuàng)意作為首要因素是依賴人產(chǎn)生的,就是人們在一定的情境下,受到了環(huán)境等因素影響,產(chǎn)生了一個想法,生成一個知識生產(chǎn)創(chuàng)意。中國古代文人曾用“有感而發(fā)”“文章本天成,妙手偶得之”等來形容創(chuàng)意的產(chǎn)生過程。不僅文學(xué)如此,就連自然科學(xué)也是在創(chuàng)意的推動下不斷推進,不論是由蘋果掉落引發(fā)牛頓對萬有引力的思考,還是法拉第發(fā)現(xiàn)電磁感應(yīng)現(xiàn)象,均體現(xiàn)出創(chuàng)意在知識生產(chǎn)過程中的重要作用。知識存量是人類自進入文明以來所獲得的知識總和,人類始終把知識積累作為文明、文化傳承最重要的途徑,這是人類社會發(fā)展的基石。在紙和印刷術(shù)發(fā)明之前,人類知識積累速度緩慢、效率低下,只能通過抄書、篆刻、口耳相傳等方式實現(xiàn)知識的積累與傳承,并且這種知識積累難以實現(xiàn)大范圍的傳播,只能由少數(shù)人掌握。而印刷術(shù)的發(fā)明使書籍制作和翻印成本大大降低,不僅降低了知識儲存難度,更極大地提升了知識積累與傳播的效率。知識傳播范圍的擴大,使更多人了解并改進已有知識,從而加速了知識生產(chǎn)。激勵同樣是知識生產(chǎn)過程中的重要因素。在古代,知識生產(chǎn)的激勵是“學(xué)而優(yōu)則仕”,或者通過將發(fā)明創(chuàng)造應(yīng)用于生產(chǎn)中,提升耕種、養(yǎng)殖等生產(chǎn)活動的效率;近代以來,由于分工的細化,知識生產(chǎn)的激勵轉(zhuǎn)變?yōu)閷W(xué)者能夠獲得專利費用、職稱晉升等一系列的物質(zhì)或精神分配優(yōu)勢。

    青蒿素的發(fā)現(xiàn)就是知識生產(chǎn)的典型案例。瘧疾作為一種自古以來就嚴重影響人類生存的疾病,世界各國均投入了大量人力、物力研究治療瘧疾的藥物。但不論是美、英、法、德等大型制藥企業(yè)的研發(fā)團隊,還是中國的中藥研究團隊,在試驗了多種方法后,仍然無法找到有效藥物。而同時了解西藥和中藥的屠呦呦,在翻閱東晉時期名醫(yī)葛洪所著的《肘后備急方》時,發(fā)現(xiàn)有一段記載,“青蒿一握,以水二升漬,絞取汁,盡服之”而深受啟發(fā),發(fā)現(xiàn)了從青蒿中提取的青蒿素是治療瘧疾的有效成分[6]。屠呦呦發(fā)現(xiàn)青蒿素的過程,一方面,與她對于既有知識的掌握密切相關(guān);另一方面,與她在閱讀醫(yī)書時受到“絞取汁”啟發(fā),產(chǎn)生了青蒿素可能不耐高溫,需要以低溫進行萃取的創(chuàng)新想法密不可分。這兩種因素的疊加,最終使得“青蒿素治療瘧疾”成為人類獲取的新知識成果。而授予屠呦呦的國家最高科學(xué)技術(shù)獎、諾貝爾生理學(xué)或醫(yī)學(xué)獎等一系列相關(guān)獎勵、榮譽,雖然不是她進行這一知識生產(chǎn)行為的初心,但這種制度配套確保了知識生產(chǎn)體系成為一個正向循環(huán)的系統(tǒng),與人類文明其他生產(chǎn)系統(tǒng)、消費系統(tǒng)實現(xiàn)耦合,激勵一代又一代的學(xué)者進入這一系統(tǒng),從事知識生產(chǎn)工作,推動人類知識儲備不斷擴大。

    (二)傳統(tǒng)知識生產(chǎn)的特征

    傳統(tǒng)的知識生產(chǎn)體系始終以學(xué)者作為知識生產(chǎn)的核心,在教育體系中通過嚴格的培養(yǎng)和遴選機制產(chǎn)生備選學(xué)者,備選學(xué)者在學(xué)術(shù)體系中需要經(jīng)過不斷遴選和評價才能成長為知識權(quán)威[7]。學(xué)者不僅是創(chuàng)意的主體,還具有大量的知識儲備,能夠?qū)ζ渌麑W(xué)者的知識生產(chǎn)成果進行評價。依靠學(xué)者進行知識生產(chǎn),是人類擁有海量知識的基本路徑,這一傳統(tǒng)的知識生產(chǎn)路徑存在如下特征。

    1.以學(xué)者為核心的個性化生產(chǎn)

    由于社會分工的不同,在傳統(tǒng)知識生產(chǎn)過程中,學(xué)者作為知識生產(chǎn)的主體,在其領(lǐng)域擁有大量知識儲備,其通過閱讀書籍、文獻、調(diào)研、實踐等方式不斷獲取當前領(lǐng)域的最新知識,根據(jù)自己的創(chuàng)意,利用實驗、數(shù)據(jù)、模型等研究方法,對自己的創(chuàng)意或想法進行證實或證偽,從而推動本領(lǐng)域的知識創(chuàng)新。由于不同學(xué)者存在個體差異,因此每個學(xué)者不僅在知識儲備、思維方式、技術(shù)條件等方面差異巨大,更重要的是學(xué)者的思想創(chuàng)意更是千差萬別,因而不同學(xué)者產(chǎn)生的知識創(chuàng)新存在明顯差異,是一種個性化的生產(chǎn)方式。而相比于自然科學(xué)領(lǐng)域,這種個性化在人文社科領(lǐng)域的知識生產(chǎn)過程中更加鮮明。

    2.盡可能多地獲取已有知識存量

    知識生產(chǎn)的前提是盡可能多地獲取、理解和掌握已有知識存量。這不僅是創(chuàng)意產(chǎn)生的前提,更重要的是學(xué)者能夠通過已有知識衡量新創(chuàng)意恰當與否。充分理解和掌握已有知識并在此基礎(chǔ)上進行創(chuàng)新是學(xué)者的核心工作,而對知識存量的學(xué)習(xí)和掌握既是成為學(xué)者的前提條件,也是教育系統(tǒng)進行知識教育的核心目標之一,還是知識生產(chǎn)體系遴選和評價學(xué)者的重要標準。而對于一個學(xué)術(shù)群體而言,掌握本領(lǐng)域已有的知識存量,是學(xué)者間進行對話、形成共識的基本要求。在當前的學(xué)術(shù)生態(tài)中,學(xué)者以論文的形式將新的知識生產(chǎn)結(jié)果進行展示并向?qū)W術(shù)期刊投稿,由學(xué)術(shù)期刊編輯、審稿人為代表的學(xué)術(shù)共同體成員就這一知識生產(chǎn)成果進行創(chuàng)新性和可靠性等質(zhì)量評價,通過評價的論文被學(xué)術(shù)期刊發(fā)表,由此形成了知識生產(chǎn)的一般流程。而編輯、審稿人進行評價的前提就是他們同樣了解并掌握該領(lǐng)域的已有知識,根據(jù)已有知識及邏輯判斷,評價論文是否具有發(fā)表價值。可以說,已有知識存量是學(xué)術(shù)共同體存在的前提條件。

    3.在特定平臺公開知識創(chuàng)新成果,并形成知識生產(chǎn)制度系統(tǒng)

    以學(xué)術(shù)期刊為代表的出版平臺是新知識生產(chǎn)成果公開傳播的主要載體。1665年1月由法國參議員創(chuàng)辦的《學(xué)者雜志》和1665年3月由英國皇家學(xué)會創(chuàng)辦的《哲學(xué)匯刊》被認為是世界學(xué)術(shù)期刊的鼻祖,后者承載了近代西方引領(lǐng)科學(xué)革命的最重要成果,包括伊薩克·牛頓的《關(guān)于光與色的新理論》、達爾文的地理學(xué)研究成果,以及本杰明·富蘭克林在電學(xué)實驗方面的發(fā)現(xiàn)等。學(xué)術(shù)期刊的出現(xiàn)打破了封閉的知識傳播體系,使個體研究成果迅速地變成社會化、國際化的成果,并且隨著發(fā)展,學(xué)術(shù)期刊逐漸具有了“首先評價知識,其次傳播知識”的社會功能[8]。這一社會功能則通過由科學(xué)家組成的編委會與審稿人得到強化,一篇經(jīng)過嚴格評審的期刊論文,其“首要功能是作為一種知識聲明,宣布它已經(jīng)得到了科學(xué)家同行的評議和承認”[9]108-113。學(xué)術(shù)期刊功能從開始時單一的出版?zhèn)鞑スδ苤鸩较蚝Y選、評價、傳播復(fù)合功能轉(zhuǎn)變,而隨著知識生產(chǎn)體系的發(fā)展,篩選評價功能的重要性不斷提升。此后,知識產(chǎn)權(quán)與學(xué)術(shù)評價等相關(guān)制度體系的建立,使知識生產(chǎn)系統(tǒng)越發(fā)龐大,并且與人類社會其他系統(tǒng)密切耦合,最終構(gòu)成知識傳授(教育)、知識生產(chǎn)(科研)和知識應(yīng)用(服務(wù))一系列知識密集型活動。

    (三)生成式AI帶來的沖擊

    以ChatGPT為代表的生成式AI以其超大的知識儲備、超強的算力,一經(jīng)出現(xiàn)就對人類知識密集型活動產(chǎn)生巨大沖擊。

    1.生成式AI深刻地改變了人類知識密集型活動的特征與流程

    其一,最直觀的變化就是生成式AI的出現(xiàn)對知識記憶型學(xué)習(xí)的必要性產(chǎn)生強烈的沖擊,進而對于教育體系產(chǎn)生巨大沖擊。傳授知識是傳統(tǒng)教育體系的主要目標之一,而對知識與技能的掌握需要人類付出大量的時間成本和金錢成本。但當生成式AI出現(xiàn)后,人們只需要接入AI服務(wù)就可以獲得想知道的各種知識,無需像以前一樣大量記憶已有知識。目前,知識傳遞的主要場所是學(xué)校,生成式AI的出現(xiàn)使人們隨時隨地都可以獲取并學(xué)習(xí)知識,人們通過對生成式AI進行設(shè)定,可以任何語言、任何語氣與AI進行交流。而且,由于任何人類所獲得的知識體量都難以與AI相比,且隨著技術(shù)進步,人類與AI之間在知識儲備方面的差距進一步拉大,人類更無需大量記憶已有知識。其二,知識記憶型勞動技能的必要性降低。人們將部分知識形成自己的專有化領(lǐng)域,并形成難以逾越的“知識高墻”,使墻外的人與墻內(nèi)的人存在較大的知識位差,這種位差是人力資本存量差異的主要因素之一[10],而由此導(dǎo)致的技術(shù)能力和創(chuàng)新能力的差距又進一步引發(fā)了工資水平、代際流動的差異。生成式AI能夠顯著縮小人與人在知識積累方面的差距和知識鴻溝[7],從而極大地縮小由于記憶存儲差異帶來的勞動能力差異。這類勞動技能主要憑借知識位差產(chǎn)生的信息不對稱提供相應(yīng)服務(wù),法律、會計等諸多行業(yè)從業(yè)人員就是依賴這種信息不對稱獲取高額回報,生成式AI的出現(xiàn)將使得這種信息不對稱水平大幅降低,對這類職業(yè)從業(yè)人員產(chǎn)生強烈影響[11]。

    2.生成式AI的存在對學(xué)者群體產(chǎn)生巨大影響

    正如前文所述,成為學(xué)者的必要條件之一就是對于本領(lǐng)域知識的充分掌握,而生成式AI的海量知識儲備使那些僅擅長知識積累的人類學(xué)者存在的必要性大大降低。以ChatGPT為代表的生成式AI所具有的開放性,擁有人類學(xué)者所不可比擬的巨大優(yōu)勢。以往人類的學(xué)者需要通過撰寫文章、發(fā)表演講以及接受采訪等方式向社會傳遞個人的知識創(chuàng)新成果,而公眾或個人也只能通過閱讀、觀看或解讀知識權(quán)威發(fā)表的相關(guān)內(nèi)容獲取相應(yīng)的認知。而生成式AI的出現(xiàn)則打破了這一傳統(tǒng)的知識傳播路徑。任何人只需要向生成式AI提問,就能隨時隨地以多種形式獲取知識。生成式AI甚至可以將具有一定知識門檻的最新研究成果,以通俗易懂的方式傳遞給任何人。并且這種由AI生成的回答可以綜合多個學(xué)科的相關(guān)知識,因而可能更具有可靠性,或者是能夠使提問者從多個角度了解相關(guān)知識。

    3.生成式AI在加速知識生產(chǎn)效率和學(xué)科交叉的同時,也產(chǎn)生大量知識泡沫

    其一,生成式AI的出現(xiàn)無疑會加快以知識生產(chǎn)為基本目標的學(xué)術(shù)體系的生產(chǎn)效率。傳統(tǒng)的知識生產(chǎn)過程需要學(xué)者進行大量信息和數(shù)據(jù)的收集整理工作,生成式AI可以協(xié)助學(xué)者快速完成這些工作,使學(xué)者專注于更為核心的創(chuàng)新工作,知識生產(chǎn)效率將實現(xiàn)巨大提升。其二,生成式AI的大量知識儲備能夠極大地拓寬學(xué)者的視野,提問回答的方式可以使學(xué)者迅速學(xué)習(xí)新學(xué)科的相關(guān)知識,加速學(xué)科交叉融合的效率。特別是聚焦于特定專業(yè)的學(xué)者,其可以對生成式AI提出基于本專業(yè)的發(fā)散式、探究式的問題,從而獲得其他相關(guān)學(xué)科知識,這就使原來學(xué)科間的弱聯(lián)系向強聯(lián)系轉(zhuǎn)變。這兩種方式均能夠極大地提升知識生產(chǎn)效率和質(zhì)量,換言之,學(xué)術(shù)研究和論文撰寫效率將得到極大提升。與此同時,生成式AI也使得學(xué)者僅僅需要發(fā)出少許指令或者提示,就可以撰寫各種文檔甚至學(xué)術(shù)論文,這種完全由生成式AI撰寫的學(xué)術(shù)論文幾乎沒有知識創(chuàng)新,如果不進行甄別將會形成“知識泡沫”,從而對知識生產(chǎn)體系產(chǎn)生嚴重破壞,而這就對學(xué)術(shù)期刊這個知識生產(chǎn)體系的“守門員”提出了挑戰(zhàn)。

    三、新知識生產(chǎn)體系下的學(xué)術(shù)期刊應(yīng)對

    (一)期刊如何應(yīng)對生成式AI——充分發(fā)揮篩選功能

    總體上看,學(xué)術(shù)期刊面臨的首要問題是如何對待由生成式AI生成或參與生成的論文。就目前而言,學(xué)術(shù)期刊對于這一問題看法并不統(tǒng)一,許多期刊如《科學(xué)》(Science)刊出了聲明,拒絕作者使用ChatGPT撰寫論文[12];也有部分期刊如《自然》(Nature)發(fā)出聲明,要求作者標注生成式AI在論文中貢獻,但大多數(shù)期刊都認為不可以將生成式AI列為作者①。不將以ChatGPT為代表的生成式AI列為論文作者的主要原因在于:就目前技術(shù)而言,如果沒有人的參與,即使存儲空間再大、算力再強,生成式AI也不能自動、獨立地完成作品,生成式AI本質(zhì)上還是人類創(chuàng)作作品的工具[13]。此外,ChatGPT生成的文字成果依賴于自身的數(shù)據(jù)庫,而數(shù)據(jù)庫又來源于已有的人類知識,ChatGPT只是把已有知識進行綜合、抽取、重新表述,而并未對知識進行創(chuàng)造,因此也并不享有新的知識生產(chǎn)成果的版權(quán)。

    遺憾的是,不論學(xué)術(shù)期刊是否接受有Cha-

    tGPT參與的知識生產(chǎn)成果,當前并沒有恰當?shù)臋C制對生成式AI生成的論文進行有效識別。有研究人員將50份由ChatGPT撰寫的摘要與學(xué)者撰寫的摘要混合,分別使用抄襲人工檢測器、人工智能輸出監(jiān)測器及審稿人進行識別,ChatGPT撰寫的摘要順利通過了抄襲檢測器的檢測,人工智能輸出檢測器和審稿人則分別識別出了66%和68%的ChatGPT生成摘要[14]。這說明生成式AI已經(jīng)基本具有模仿人類撰寫論文的能力,所生成的學(xué)術(shù)論文不僅邏輯較為嚴謹,語言表述方面更是能夠超過部分的人類學(xué)者,而使用生成式AI對論文語言進行修改、潤色,也已經(jīng)成為部分學(xué)者運用非母語進行學(xué)術(shù)論文寫作的基本工作流程之一。

    那么,在無法阻擋生成式AI參與到知識生產(chǎn)過程的情況下,學(xué)術(shù)期刊應(yīng)當如何看待并應(yīng)對生成式AI對知識生產(chǎn)體系的沖擊呢?在當前情況下,既然學(xué)術(shù)期刊無法甄別生成式AI是否參與到知識生產(chǎn)過程中,那么只有回歸學(xué)術(shù)期刊的本源,即以是否符合期刊刊文標準作為判定標準,篩選出具有創(chuàng)新性和思想性的知識生產(chǎn)成果。

    1.以論文是否具有創(chuàng)新性作為篩選的第一標準

    生成式AI極大地降低了學(xué)術(shù)論文撰寫難度,但是創(chuàng)意仍為人類所獨有,因此人類始終是推動知識創(chuàng)新的主體。生成式AI通過梳理、組織和重構(gòu)已有知識,能夠在一定程度上取代學(xué)者的角色,并且由于生成式AI學(xué)習(xí)速度更快,學(xué)習(xí)能力更強,可以24小時全年無休進行學(xué)習(xí)與知識生產(chǎn),其擅長知識收集、整理、綜合,可以說,生成式AI使學(xué)術(shù)論文撰寫的過程大大簡化。但就目前技術(shù)而言,生成式AI無法對人類社會、經(jīng)濟、科技等各個方面進行觀察,也無法產(chǎn)生知識創(chuàng)意,因而在問題提出方面存在不足,并且由于生成式AI更多是以語義而非邏輯進行知識連接,所以其創(chuàng)意能力不強,那些擅長對已有知識進行匯總的學(xué)者將不可避免地會被生成式AI取代,而能夠產(chǎn)生新創(chuàng)意的頂尖學(xué)者,生成式AI仍然無法取代其工作。以知識生產(chǎn)成果的創(chuàng)新性作為判定標準,能夠在最大程度上保證知識生產(chǎn)體系始終是向未知領(lǐng)域進行探索。

    2.以對學(xué)術(shù)脈絡(luò)的掌握與梳理作為篩選的第二標準

    雖然當前已經(jīng)出現(xiàn)了諸多以生成式AI為內(nèi)核的學(xué)術(shù)論文閱讀梳理工具,但生成式AI大多采用語義嵌入的方式,只能對碎片化的知識進行總結(jié),形成邏輯相對簡單的回答。而經(jīng)過嚴格學(xué)術(shù)訓(xùn)練的學(xué)者能夠?qū)δ骋恢R領(lǐng)域的發(fā)展脈絡(luò)進行詳細梳理,實現(xiàn)該領(lǐng)域已有知識存量的系統(tǒng)化和體系化。未經(jīng)學(xué)術(shù)訓(xùn)練的人雖然能夠在生成式AI的協(xié)助下撰寫學(xué)術(shù)論文,但由于自身知識儲備的問題,無法形成知識體系,所撰寫的學(xué)術(shù)論文可能僅僅是對已有研究進行簡單羅列,無法展現(xiàn)演進脈絡(luò)。對已有研究進行系統(tǒng)化、體系化的展現(xiàn),正是人類知識生產(chǎn)成果的重要特征,特別是在人文社科領(lǐng)域,學(xué)術(shù)期刊對這一特征尤為看重。

    3.以論文是否符合學(xué)術(shù)期刊的風(fēng)格與品位作為篩選的第三標準

    雖然學(xué)術(shù)期刊是知識生產(chǎn)成果的刊載平臺,但由于學(xué)術(shù)期刊是由主編、編輯與期刊外審專家等一群具有不同思想和學(xué)術(shù)背景的人編撰而成,因此各個學(xué)術(shù)期刊在長期辦刊過程中形成了自己獨特的風(fēng)格與品位,即是期刊的特色。相比于科技期刊,這種特色在人文社科期刊領(lǐng)域更為明顯。例如,“‘知出乎爭’這個儒家的遺訓(xùn)一直是《文史哲》雜志的辦刊理念,所以雜志自創(chuàng)刊號始,幾乎期期都堅持與倡導(dǎo)學(xué)術(shù)討論”[15]。而一個一以貫之的辦刊理念凝練著主編和編輯的學(xué)術(shù)品位及眼光,不僅直接影響著選文標準,也塑造了學(xué)術(shù)期刊的品牌[16],而這種獨有的、只可意會不可言傳的風(fēng)格與品位也是人類知識生產(chǎn)體系中所特有的。

    上述關(guān)于知識生產(chǎn)成果的篩選標準,不僅是學(xué)術(shù)期刊應(yīng)對生成式AI沖擊的關(guān)鍵,更重要的是體現(xiàn)了學(xué)術(shù)期刊在生成式AI時代存在的價值和意義。學(xué)術(shù)期刊只有持續(xù)刊載具有創(chuàng)新性、思想性和獨特品位的知識生產(chǎn)成果,展現(xiàn)出與生成式AI回答的明顯區(qū)別和獨特價值,才能確保這本學(xué)術(shù)期刊對作者和讀者始終產(chǎn)生吸引,也確保了該期刊存在的必要性。

    (二)學(xué)術(shù)期刊的新定位——蘊含創(chuàng)新性的可靠信息來源

    生成式AI作為一種新型智能工具正在重塑知識生產(chǎn)體系,學(xué)術(shù)期刊除了適應(yīng)其存在與發(fā)展外,更重要的是要與之融合,保證人類的知識創(chuàng)新不斷進行。由于生成式AI并沒有對知識生產(chǎn)成果進行評價的功能,毫無疑問,學(xué)術(shù)期刊所具有的衡量知識生產(chǎn)成果創(chuàng)新水平這一核心功能并未被取代。然而,學(xué)術(shù)期刊在選文、刊文方面的嚴謹性,使得其在生成式AI時代的重要性具有上升趨勢,特別是學(xué)術(shù)期刊所具有的篩選功能的重要性急劇增加,主要原因是學(xué)術(shù)期刊的嚴格審稿流程能夠有效減少知識泡沫。在生成式AI的協(xié)助下,論文撰寫的難度明顯降低,發(fā)出幾條指令,生成式AI就可以根據(jù)已有知識成果,通過語義分析迅速整理出符合期刊格式要求的文字成果,這種文字成果符合論文的寫作方式,但主要內(nèi)容大多來源于對已有成果的拼接、轉(zhuǎn)述和重復(fù),卻極少包含對未知知識領(lǐng)域的探索。可以預(yù)見,在生成式AI時代,這種“論文”生產(chǎn)成本極低、學(xué)術(shù)價值趨近于零,極易引發(fā)知識生產(chǎn)的“泡沫”。在傳統(tǒng)生產(chǎn)過程中,同樣也存在這種似是而非的“論文”,對其有效識別主要依靠學(xué)術(shù)期刊的論文審稿環(huán)節(jié),并嚴重依賴于編輯和審稿人對相關(guān)領(lǐng)域的學(xué)術(shù)進展的長期積累與充足的學(xué)術(shù)訓(xùn)練。隨著論文撰寫難度的降低,納入生成式AI的知識生產(chǎn)體系將會更加依賴學(xué)術(shù)期刊對知識生產(chǎn)的創(chuàng)新性、嚴肅性和可靠性的把關(guān)。

    與此同時,學(xué)術(shù)期刊所刊載的知識生產(chǎn)成果也同樣應(yīng)當成為生成式AI知識庫的重要來源。以ChatGPT為代表的生成式AI在因其能夠迅速反饋而廣受歡迎的同時,也因其反饋質(zhì)量而飽受詬病。不少ChatGPT的使用者均證實,ChatGTP的反饋內(nèi)容存在可靠性的問題,甚至存在捏造參考文獻等信息來源的情況。而對這一問題的改進除了對算法進行優(yōu)化外,更為重要的是應(yīng)對ChatGPT語料庫的信息進行分級,即按照信息來源的可靠程度賦予不同的權(quán)重,從而保證ChatGPT反饋的可靠性。而在眾多文字信息來源的渠道中,學(xué)術(shù)期刊所刊載的學(xué)術(shù)成果的可靠性無疑是最高的。因為相比于新聞、博客與其他文字信息,學(xué)術(shù)論文不僅作者為受過嚴格學(xué)術(shù)訓(xùn)練的學(xué)者、文字撰寫充滿了邏輯思辨、相關(guān)表述引用了大量參考文獻,而且發(fā)表過程經(jīng)過相關(guān)學(xué)者審閱、質(zhì)疑與回應(yīng),最終還經(jīng)由專業(yè)編輯進行總體把關(guān)和編校以減少差錯。這種經(jīng)過嚴格流程刊載出來的學(xué)術(shù)論文幾乎是所有文字成果中最為嚴謹?shù)模虼艘詫W(xué)術(shù)論文作為ChatGPT的主要信息來源能夠有效提升其工作的質(zhì)量和可靠性。

    (三)學(xué)術(shù)期刊如何實現(xiàn)持續(xù)發(fā)展——把握知識生產(chǎn)演進方向

    隨著人工智能技術(shù)的不斷推進,其深度融入知識生產(chǎn)體系的趨勢不會改變,不論學(xué)者還是期刊均不可能阻止這一趨勢。在這種情況下,只有接納并且融入這一趨勢,并且依靠人類特有的思維體系和制度設(shè)計,才能確保知識創(chuàng)新不斷向前推進。在這一過程中,期刊和期刊編輯承擔著知識創(chuàng)新守門人的重要職責,只有充分發(fā)揮期刊和編輯的作用,在合理利用生成式AI的同時,時刻把握著知識生產(chǎn)演進的方向,才能保證人類在知識創(chuàng)新過程中的公平性和自主性。

    從技術(shù)方面看,充分擁抱生成式AI是歷史的必然選擇,利用生成式AI進行輔助審稿和編輯是學(xué)術(shù)期刊擁抱人工智能的首要環(huán)節(jié)。生成式AI的使用必然帶來投稿量的增加,審稿的難度也會因此增加。雖然目前并未存在能夠完全識別人工智能寫作成果的技術(shù),但利用人工智能的信息收集和整理功能能夠輔助編輯判斷文章的創(chuàng)新性。編輯或?qū)徃迦死蒙墒紸I搜索整理已有相關(guān)成果,輔助判斷文章相比于已有研究成果的創(chuàng)新點及重要性,由此初步判斷文章價值。此外,人工智能還能夠輔助編校工作,尤其是一些格式化、技術(shù)性的編校工作,人工智能相比于人類編輯更具優(yōu)勢,而這有賴于人工智能企業(yè)與期刊界的深入合作。雖然AI只能在一定程度上取代一些基本的編輯職責,當編輯工作涉及對語言、文化和情感的深入理解時,AI系統(tǒng)可能難以完全取代,但這依然能夠在一定程度上解決由審稿量大幅上升導(dǎo)致的工作壓力。

    從思想方面看,時刻保持人類主導(dǎo)知識生產(chǎn)方向是學(xué)術(shù)共同體的職責與使命,學(xué)術(shù)期刊應(yīng)當充分發(fā)揮引領(lǐng)學(xué)術(shù)的功能,從出版和發(fā)表方面對知識生產(chǎn)進行引導(dǎo)與把握。首先,學(xué)術(shù)期刊的工作重心更當進一步轉(zhuǎn)向推動知識創(chuàng)新和風(fēng)格塑造。傳統(tǒng)學(xué)術(shù)期刊在推動知識創(chuàng)新過程中,除了最重要的審閱與評價學(xué)術(shù)成果的功能外,還承擔著宣傳傳播學(xué)術(shù)成果的功能。而在人工智能時代,學(xué)術(shù)成果的傳播可能更加依賴于社會關(guān)注與人工智能的整理和匯總,但確保選題的前沿性和知識成果的創(chuàng)新性仍是學(xué)術(shù)期刊的核心價值所在。換言之,學(xué)術(shù)期刊的篩選功能的重要性相對上升,而傳播功能的重要性相對降低。這一目標的實現(xiàn),不僅需要學(xué)術(shù)期刊堅持辦刊理念,持續(xù)吸引高創(chuàng)新性的學(xué)術(shù)成果,更需要期刊編輯能夠在眾多學(xué)術(shù)論文中識別并篩選出高水平的學(xué)術(shù)成果。其次,學(xué)術(shù)期刊應(yīng)該更加重視選題策劃工作,通過選題策劃實現(xiàn)對學(xué)術(shù)發(fā)展方向的引導(dǎo)。期刊選題經(jīng)由編委會、期刊主編和編輯的共同參與、策劃與審核,所列選題既有對當下現(xiàn)實問題的關(guān)注與回應(yīng),更有對未知領(lǐng)域的好奇與探求,因此選題策劃不僅體現(xiàn)著學(xué)術(shù)期刊對刊文的偏好,更反映出策劃人對于未來學(xué)術(shù)發(fā)展方向的思考。在生成式AI時代,學(xué)術(shù)期刊應(yīng)當從歷史與文明的高度上重視選題策劃,這是保證知識生產(chǎn)的方向和主導(dǎo)權(quán)時刻掌握在人類手中的重要途徑之一。最后,不論是推動知識創(chuàng)新還是注重選題策劃,都對學(xué)術(shù)期刊的編委會、主編和編輯提出了更高的要求。學(xué)術(shù)期刊的辦刊人需要不斷提升自身的學(xué)術(shù)和專業(yè)水平,既能夠準確判斷學(xué)術(shù)成果的創(chuàng)新水平和學(xué)術(shù)價值,同時還能夠?qū)ζ诳霓k刊理念、辦刊風(fēng)格及相關(guān)領(lǐng)域未來發(fā)展方向持續(xù)思考,通過選題策劃、稿件選取、文章編輯等多種途徑引領(lǐng)知識生產(chǎn)的演進方向。這使得“學(xué)者辦刊”“編輯學(xué)者化”成為必然,也只有如此,學(xué)術(shù)期刊才能在人工智能時代更好地發(fā)揮學(xué)術(shù)守門人的角色。

    參考文獻:

    [1] 錢力,劉熠,張智雄,等.ChatGPT的技術(shù)基礎(chǔ)分析[J].數(shù)據(jù)分析與知識發(fā)現(xiàn),2023(3):6-15.

    [2] Turing A M. Computing Machinery and Intelligence[J].Mind, 1950(236): 433-460.

    [3] Ginzburg J, Fernandez R. Computational Models of Dialogue[M].The Handbook of Computational Linguistics andNatural Language Processing, New Jersey: Wiley Blackwell, 2010.

    [4] Mohammad Aljanabi, Mohanad Yaseen, Ahmed H. Ali. et al. ChatGPT: Open Possibilities[J].Iraqi Journal for Computer Science and Mathematics, 2023(1): 62-64.

    [5] 陳永偉.超越ChatGPT:生成式AI的機遇、風(fēng)險與挑戰(zhàn)[J].山東大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2023(3):127-143.

    [6] 王君平.屠呦呦:青蒿素——中醫(yī)藥獻給世界的一份禮物[N].人民日報,2021-02-04(10).

    [7] 高奇琦,嚴文鋒.知識革命還是教育異化:ChatGPT與教育的未來[J].新疆師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2023(5):102-112.

    [8] 張耀銘.學(xué)術(shù)評價存在的問題、成因及其治理[J].清華大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2015(6):73-88.

    [9] 克蘭.無形學(xué)院:知識在科學(xué)共同體內(nèi)的擴散[M].劉珺珺,顧昕,王德祿,譯.北京:華夏出版社,1988.

    [10] 劉智勇,李海崢,胡永遠,等.人力資本結(jié)構(gòu)高級化與經(jīng)濟增長:兼論東中西部地區(qū)差距的形成和縮?。跩].經(jīng)濟研究,2018(3):50-63.

    [11] 鄭世林,姚守宇,王春峰.ChatGPT新一代人工智能技術(shù)發(fā)展的經(jīng)濟和社會影響[J].產(chǎn)業(yè)經(jīng)濟評論,2023(3):5-21.

    [12] Holden H Thorp. ChatGPT is fun, but not an author[J]. Science, 2023(379): 313.

    [13] 叢立先,李泳霖.生成式AI的作品認定與版權(quán)歸屬:以ChatGPT的作品應(yīng)用場景為例[J].山東大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2023(4):171-181.

    [14] Gao C A, Howard M F, Markov S N, et al. Comparing Scientific Abstracts Generated by Chatgpt To Original Abstracts Using an Artificial Intelligence Output Detector, Plagiarism Detector, and Blinded Human Reviewers[J].bioRxiv, 2022(6): 75.

    [15] 徐顯明.《文史哲》與山東大學(xué)文科建設(shè):《文史哲》創(chuàng)刊50周年獻辭[J].文史哲,2001(3):5-12.

    [16] 劉京希.學(xué)術(shù)期刊的學(xué)術(shù)史價值及其追求:基于《文史哲》的辦刊實踐[J].山東社會科學(xué),2022(4):5-11.

    Generative AI and Academic Journal Publishing: Impact and Response

    Ji Xiaole, Wei Jian

    (Journals of Humanties and Social Sciences, Shandong University, Jinan Shandong 250100)

    Abstract:Artificial Intelligence Generated Content(AIGC) represented by ChatGPT will profoundly affect and change the traditional knowledge production system, and its massive knowledge reserve and super computing power will not only promote the intersection and integration of disciplines and accelerate knowledge production, but also produce knowledge bubbles due to the reduction of the difficulty of academic paper writing. As the gatekeeper of the knowledge production system, academic journals have long formed a rigorous review and publication process and journal brand style, which ensure that the human knowledge production system is always exploring unknown areas while conforming to the human social value system. In the era of AIGC, it is more necessary to continue to adhere to these characteristics to ensure the autonomy and reliability of the human knowledge production system. In the process of actively embracing AIGC, academic journals should continue to promote knowledge innovation as their core function, lead the direction of academic development through topic selection and planning, and assist manuscript review and editing with the technical means of AIGC, so that the academic papers published by them will continue to constitute the main force of human knowledge production.

    Key words:knowledge production system; AIGC; academic journals; knowledge bubbles; gatekeeper

    【責任編輯:劉北蘆 責任校對:李 菁】

    国产成人午夜福利电影在线观看| 亚洲三级黄色毛片| 草草在线视频免费看| 久久久久精品久久久久真实原创| 亚洲av.av天堂| 国产男人的电影天堂91| 亚洲精品国产色婷婷电影| 18禁在线播放成人免费| 丰满乱子伦码专区| 精品少妇久久久久久888优播| 免费观看无遮挡的男女| 国产成人免费无遮挡视频| 亚洲精品影视一区二区三区av| 免费观看的影片在线观看| 51国产日韩欧美| 少妇 在线观看| 女人被狂操c到高潮| 久久精品国产a三级三级三级| 成人综合一区亚洲| 精品久久久久久久人妻蜜臀av| 欧美老熟妇乱子伦牲交| 五月开心婷婷网| 熟女电影av网| 你懂的网址亚洲精品在线观看| 人妻夜夜爽99麻豆av| av网站免费在线观看视频| 亚洲av欧美aⅴ国产| 精品人妻视频免费看| 最新中文字幕久久久久| 免费av毛片视频| 亚洲国产欧美人成| 久久97久久精品| 春色校园在线视频观看| 99热6这里只有精品| 久久久久久久大尺度免费视频| 国产高清三级在线| 国产精品不卡视频一区二区| 看十八女毛片水多多多| 人妻夜夜爽99麻豆av| 国产午夜精品久久久久久一区二区三区| 久久精品国产自在天天线| 亚洲av免费在线观看| 男女国产视频网站| 午夜福利视频精品| 下体分泌物呈黄色| 美女视频免费永久观看网站| 国产 一区 欧美 日韩| 人妻一区二区av| 寂寞人妻少妇视频99o| 交换朋友夫妻互换小说| 国产精品成人在线| 久久久久久伊人网av| 综合色av麻豆| av卡一久久| 国产精品嫩草影院av在线观看| 超碰97精品在线观看| 亚洲天堂国产精品一区在线| 人人妻人人看人人澡| 亚洲经典国产精华液单| 久久热精品热| eeuss影院久久| 搡女人真爽免费视频火全软件| 亚洲精品乱久久久久久| 美女xxoo啪啪120秒动态图| videossex国产| 99热这里只有是精品在线观看| 极品教师在线视频| 男女那种视频在线观看| 欧美日本视频| 国产精品久久久久久久电影| 国产午夜精品久久久久久一区二区三区| 亚洲综合色惰| 欧美一区二区亚洲| 美女cb高潮喷水在线观看| a级毛色黄片| 丝袜喷水一区| 亚洲人成网站在线观看播放| 九草在线视频观看| 在线观看av片永久免费下载| 草草在线视频免费看| 亚洲精品国产成人久久av| 丰满少妇做爰视频| 日韩一区二区三区影片| 丝袜喷水一区| 久久鲁丝午夜福利片| 22中文网久久字幕| 免费av毛片视频| 亚洲欧洲日产国产| 亚洲国产精品成人综合色| 97热精品久久久久久| 欧美xxxx性猛交bbbb| 中文字幕免费在线视频6| 午夜视频国产福利| av天堂中文字幕网| 亚洲精品,欧美精品| 国产成人91sexporn| 啦啦啦中文免费视频观看日本| 日韩成人av中文字幕在线观看| 一区二区三区四区激情视频| 在线 av 中文字幕| 成人无遮挡网站| 精品人妻熟女av久视频| 最后的刺客免费高清国语| 久久精品国产亚洲网站| 最近最新中文字幕大全电影3| 亚洲国产精品999| 夜夜看夜夜爽夜夜摸| 国产真实伦视频高清在线观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 中文欧美无线码| 久久人人爽人人爽人人片va| 成人漫画全彩无遮挡| 亚洲婷婷狠狠爱综合网| 99热这里只有是精品在线观看| 男女那种视频在线观看| 国产欧美亚洲国产| 91久久精品电影网| 精品一区二区免费观看| 听说在线观看完整版免费高清| 国精品久久久久久国模美| 热99国产精品久久久久久7| 国产一级毛片在线| 成年女人在线观看亚洲视频 | 丰满乱子伦码专区| 久久综合国产亚洲精品| 亚洲精品久久午夜乱码| 国产片特级美女逼逼视频| 国产久久久一区二区三区| 亚洲国产精品999| 成人毛片60女人毛片免费| 婷婷色综合大香蕉| xxx大片免费视频| 午夜福利视频精品| 色视频www国产| 免费人成在线观看视频色| 免费av不卡在线播放| 国产午夜精品久久久久久一区二区三区| 欧美精品国产亚洲| 91久久精品国产一区二区成人| 麻豆乱淫一区二区| 黄色欧美视频在线观看| 国产男女超爽视频在线观看| 日本午夜av视频| 男女边吃奶边做爰视频| 精品久久久精品久久久| 女的被弄到高潮叫床怎么办| 国产毛片在线视频| 亚洲精品乱码久久久久久按摩| 亚洲一级一片aⅴ在线观看| 久久6这里有精品| 性色av一级| 成人欧美大片| 精品熟女少妇av免费看| 精品一区二区免费观看| 国精品久久久久久国模美| 久久精品国产亚洲网站| 精品久久久久久久人妻蜜臀av| 高清午夜精品一区二区三区| 日韩伦理黄色片| 国产精品女同一区二区软件| 热99国产精品久久久久久7| 亚洲av在线观看美女高潮| 日本熟妇午夜| 国产亚洲5aaaaa淫片| 大片电影免费在线观看免费| 一级毛片我不卡| 欧美高清性xxxxhd video| 精品少妇黑人巨大在线播放| 久久久亚洲精品成人影院| 国产精品人妻久久久影院| av国产久精品久网站免费入址| 欧美成人精品欧美一级黄| 中文资源天堂在线| 久久久亚洲精品成人影院| 亚洲国产欧美在线一区| 王馨瑶露胸无遮挡在线观看| 亚洲av不卡在线观看| 欧美+日韩+精品| 日韩一本色道免费dvd| 国产亚洲91精品色在线| 久久久久九九精品影院| 亚洲久久久久久中文字幕| 一个人看视频在线观看www免费| 2022亚洲国产成人精品| 国产国拍精品亚洲av在线观看| 午夜福利视频1000在线观看| 亚洲国产精品国产精品| 少妇高潮的动态图| 亚洲精品日韩av片在线观看| 欧美性感艳星| 人妻系列 视频| 久久ye,这里只有精品| 久久久久九九精品影院| 国产日韩欧美亚洲二区| 在线a可以看的网站| 99久久精品热视频| 国产高清有码在线观看视频| 久久人人爽人人片av| 国产午夜精品一二区理论片| 三级国产精品欧美在线观看| 97超视频在线观看视频| 好男人视频免费观看在线| 特大巨黑吊av在线直播| 免费看光身美女| 哪个播放器可以免费观看大片| 国产精品女同一区二区软件| 国产视频内射| 亚洲无线观看免费| 日产精品乱码卡一卡2卡三| 一级毛片电影观看| 亚洲国产精品成人久久小说| 成人综合一区亚洲| 一级毛片黄色毛片免费观看视频| 日韩不卡一区二区三区视频在线| 一级a做视频免费观看| 亚洲欧美日韩卡通动漫| 久久精品国产亚洲网站| 午夜视频国产福利| 亚洲精品视频女| 亚洲国产欧美人成| 精品人妻熟女av久视频| 国产又色又爽无遮挡免| 日韩av在线免费看完整版不卡| 大片电影免费在线观看免费| 国产老妇伦熟女老妇高清| 成人综合一区亚洲| 国产高潮美女av| 九色成人免费人妻av| 国产老妇伦熟女老妇高清| 亚洲三级黄色毛片| 欧美精品一区二区大全| 色哟哟·www| 亚洲成人久久爱视频| 成人午夜精彩视频在线观看| 亚洲精品亚洲一区二区| 狂野欧美激情性xxxx在线观看| 亚洲人与动物交配视频| 久久久欧美国产精品| 亚洲真实伦在线观看| 免费大片18禁| 女的被弄到高潮叫床怎么办| www.av在线官网国产| 3wmmmm亚洲av在线观看| 欧美zozozo另类| 蜜桃久久精品国产亚洲av| 精品国产一区二区三区久久久樱花 | 久久精品国产亚洲av天美| 欧美最新免费一区二区三区| 亚洲综合色惰| 亚洲av免费高清在线观看| 国产探花在线观看一区二区| 久久久久久九九精品二区国产| 夫妻午夜视频| 麻豆精品久久久久久蜜桃| 91狼人影院| 婷婷色综合大香蕉| 嫩草影院入口| 精品人妻一区二区三区麻豆| 人妻夜夜爽99麻豆av| 久久精品综合一区二区三区| 免费在线观看成人毛片| 国产伦在线观看视频一区| 亚洲欧美日韩无卡精品| 欧美zozozo另类| 精品亚洲乱码少妇综合久久| 免费观看在线日韩| av免费在线看不卡| 精品一区二区三区视频在线| 久热这里只有精品99| 亚洲精品日韩在线中文字幕| 美女xxoo啪啪120秒动态图| 香蕉精品网在线| 成人亚洲精品一区在线观看 | 神马国产精品三级电影在线观看| 听说在线观看完整版免费高清| 国产精品伦人一区二区| 一个人看的www免费观看视频| 国产精品国产三级国产av玫瑰| 在线 av 中文字幕| 亚洲av中文字字幕乱码综合| 一区二区三区精品91| av在线播放精品| av在线app专区| 日本-黄色视频高清免费观看| 国产av不卡久久| 免费在线观看成人毛片| 国产一区二区三区综合在线观看 | 国产精品.久久久| 久久精品国产自在天天线| 美女内射精品一级片tv| 亚洲av成人精品一区久久| 亚洲精品视频女| 久久99热这里只频精品6学生| av在线app专区| 国产永久视频网站| 久久久久精品性色| 国产免费福利视频在线观看| 久久久久九九精品影院| 插逼视频在线观看| 18禁裸乳无遮挡免费网站照片| 黄色配什么色好看| 日本av手机在线免费观看| 18+在线观看网站| 2018国产大陆天天弄谢| 国产色婷婷99| xxx大片免费视频| 高清在线视频一区二区三区| 菩萨蛮人人尽说江南好唐韦庄| 美女视频免费永久观看网站| 免费高清在线观看视频在线观看| 99热全是精品| av在线观看视频网站免费| 午夜爱爱视频在线播放| 制服丝袜香蕉在线| 男人和女人高潮做爰伦理| 国产高清不卡午夜福利| 亚洲精品色激情综合| 色婷婷久久久亚洲欧美| 国产免费一区二区三区四区乱码| 欧美成人午夜免费资源| 欧美区成人在线视频| 亚洲怡红院男人天堂| 亚洲综合精品二区| 国产一区有黄有色的免费视频| 男女啪啪激烈高潮av片| 在线观看国产h片| 欧美高清性xxxxhd video| 在线观看av片永久免费下载| 热re99久久精品国产66热6| 老司机影院毛片| xxx大片免费视频| 色视频www国产| 亚洲成色77777| 国产亚洲午夜精品一区二区久久 | 亚洲成人av在线免费| 夫妻午夜视频| 直男gayav资源| 身体一侧抽搐| 男女国产视频网站| 性色av一级| 亚洲成色77777| 男女边吃奶边做爰视频| 欧美成人精品欧美一级黄| 天堂中文最新版在线下载 | 亚洲av免费高清在线观看| 午夜免费男女啪啪视频观看| 亚洲欧洲国产日韩| 下体分泌物呈黄色| 久久久久国产网址| 亚洲av福利一区| 成人二区视频| 欧美xxⅹ黑人| 一级二级三级毛片免费看| 亚洲精品一区蜜桃| 亚洲av国产av综合av卡| 亚洲婷婷狠狠爱综合网| 少妇的逼水好多| 亚洲综合色惰| 麻豆精品久久久久久蜜桃| 欧美最新免费一区二区三区| 久久久久久国产a免费观看| 国产91av在线免费观看| 精品人妻偷拍中文字幕| 日日摸夜夜添夜夜爱| 精品久久久噜噜| 五月伊人婷婷丁香| 亚洲最大成人手机在线| 99re6热这里在线精品视频| 在线观看三级黄色| 美女视频免费永久观看网站| 国产成人精品久久久久久| 欧美一区二区亚洲| av在线老鸭窝| 亚洲精品日韩av片在线观看| 日韩亚洲欧美综合| 国产精品一区二区三区四区免费观看| 在线观看三级黄色| 亚洲精品456在线播放app| 三级国产精品欧美在线观看| 啦啦啦中文免费视频观看日本| 午夜精品一区二区三区免费看| av免费观看日本| 好男人在线观看高清免费视频| 人妻制服诱惑在线中文字幕| 国产男女内射视频| 高清毛片免费看| freevideosex欧美| 婷婷色综合www| 色综合色国产| 国产精品一及| 久久99热6这里只有精品| av.在线天堂| 一区二区三区四区激情视频| av专区在线播放| 深夜a级毛片| 日韩亚洲欧美综合| 亚洲av二区三区四区| 成人特级av手机在线观看| 日日啪夜夜爽| 国产亚洲5aaaaa淫片| 国产亚洲av嫩草精品影院| 久久鲁丝午夜福利片| 欧美另类一区| 中文在线观看免费www的网站| 国产精品无大码| 丝袜脚勾引网站| 三级男女做爰猛烈吃奶摸视频| 国产精品爽爽va在线观看网站| 老师上课跳d突然被开到最大视频| 亚洲精品久久久久久婷婷小说| 亚洲欧美清纯卡通| 大香蕉久久网| 一级二级三级毛片免费看| 男女无遮挡免费网站观看| 亚洲国产精品专区欧美| 91精品国产九色| 婷婷色麻豆天堂久久| 日韩亚洲欧美综合| 成人亚洲欧美一区二区av| 最近中文字幕高清免费大全6| 波多野结衣巨乳人妻| 午夜激情久久久久久久| 久久久a久久爽久久v久久| 美女主播在线视频| 久久久久国产精品人妻一区二区| 欧美区成人在线视频| 久久精品久久精品一区二区三区| 国产午夜精品一二区理论片| av又黄又爽大尺度在线免费看| 熟妇人妻不卡中文字幕| 日本与韩国留学比较| 丝袜脚勾引网站| 国产熟女欧美一区二区| 卡戴珊不雅视频在线播放| 亚洲性久久影院| 欧美国产精品一级二级三级 | 久久久久久久精品精品| 国产又色又爽无遮挡免| 少妇的逼好多水| 亚洲天堂国产精品一区在线| 黄片wwwwww| 久久精品久久久久久久性| 在线观看av片永久免费下载| 高清欧美精品videossex| www.av在线官网国产| 99九九线精品视频在线观看视频| 联通29元200g的流量卡| 国产精品一及| 亚洲美女搞黄在线观看| 亚洲精品,欧美精品| 国产精品99久久99久久久不卡 | 亚洲欧美日韩东京热| 一级a做视频免费观看| 亚洲精品一区蜜桃| 婷婷色综合大香蕉| 国产精品一二三区在线看| 欧美精品人与动牲交sv欧美| 亚洲成色77777| 91久久精品国产一区二区三区| 久久久久久久亚洲中文字幕| 亚洲av成人精品一二三区| 热re99久久精品国产66热6| 男女啪啪激烈高潮av片| 五月天丁香电影| 夜夜看夜夜爽夜夜摸| 18禁在线无遮挡免费观看视频| 亚洲国产日韩一区二区| 99九九线精品视频在线观看视频| 人妻 亚洲 视频| 又粗又硬又长又爽又黄的视频| 国产在线一区二区三区精| 日韩欧美精品v在线| 亚洲欧美日韩另类电影网站 | 国产成人一区二区在线| 精品一区在线观看国产| 中文字幕久久专区| 亚洲av免费在线观看| 新久久久久国产一级毛片| 日本wwww免费看| 亚洲人成网站在线播| 黄片无遮挡物在线观看| 免费在线观看成人毛片| 久久热精品热| 亚洲欧美中文字幕日韩二区| 精品熟女少妇av免费看| 国语对白做爰xxxⅹ性视频网站| 网址你懂的国产日韩在线| 女人十人毛片免费观看3o分钟| 欧美激情国产日韩精品一区| 久久影院123| 18+在线观看网站| 亚洲国产欧美人成| 久久精品熟女亚洲av麻豆精品| 日韩三级伦理在线观看| 国产亚洲av片在线观看秒播厂| 国产伦精品一区二区三区视频9| 亚洲av不卡在线观看| 婷婷色综合大香蕉| 国产69精品久久久久777片| 精品人妻偷拍中文字幕| 在线免费十八禁| 成人毛片60女人毛片免费| 久久国内精品自在自线图片| 在线天堂最新版资源| 能在线免费看毛片的网站| 成人亚洲欧美一区二区av| 欧美xxxx黑人xx丫x性爽| av福利片在线观看| 97热精品久久久久久| 国产老妇女一区| 最近手机中文字幕大全| 日本免费在线观看一区| 亚洲va在线va天堂va国产| 九草在线视频观看| 亚洲aⅴ乱码一区二区在线播放| 欧美人与善性xxx| 天天一区二区日本电影三级| 欧美国产精品一级二级三级 | 69av精品久久久久久| 特级一级黄色大片| 午夜亚洲福利在线播放| 精品少妇黑人巨大在线播放| 天美传媒精品一区二区| 99re6热这里在线精品视频| 在线观看美女被高潮喷水网站| 亚洲无线观看免费| 在线观看美女被高潮喷水网站| 欧美+日韩+精品| 亚洲精品久久午夜乱码| 日韩,欧美,国产一区二区三区| av在线播放精品| 伦理电影大哥的女人| 一个人观看的视频www高清免费观看| 国产精品一区二区在线观看99| 精品久久久久久久末码| 亚洲成人av在线免费| 国产在视频线精品| 国产免费福利视频在线观看| 成年人午夜在线观看视频| 亚洲av欧美aⅴ国产| 久久精品夜色国产| 欧美亚洲 丝袜 人妻 在线| 久久99热6这里只有精品| 日韩欧美精品v在线| 女的被弄到高潮叫床怎么办| 久久久久精品久久久久真实原创| 亚洲av在线观看美女高潮| 一级毛片 在线播放| 国产成人a区在线观看| 国产av不卡久久| 小蜜桃在线观看免费完整版高清| 亚洲精品国产成人久久av| 中国美白少妇内射xxxbb| 一区二区三区四区激情视频| 免费大片黄手机在线观看| 丝袜美腿在线中文| 人人妻人人澡人人爽人人夜夜| 最后的刺客免费高清国语| 免费观看在线日韩| 亚洲欧美中文字幕日韩二区| 亚洲精品日韩在线中文字幕| 色视频www国产| 美女主播在线视频| 亚洲国产精品国产精品| 国产成年人精品一区二区| 日韩一区二区视频免费看| 一级二级三级毛片免费看| 伊人久久精品亚洲午夜| 亚洲va在线va天堂va国产| 国产午夜精品久久久久久一区二区三区| 国产精品麻豆人妻色哟哟久久| 天美传媒精品一区二区| 欧美精品一区二区大全| 久久精品国产a三级三级三级| 嫩草影院精品99| 亚洲电影在线观看av| 成人二区视频| 麻豆国产97在线/欧美| 波野结衣二区三区在线| 韩国高清视频一区二区三区| 亚洲国产欧美在线一区| 五月开心婷婷网| 秋霞在线观看毛片| 亚洲av免费在线观看| 岛国毛片在线播放| 国产中年淑女户外野战色| 一本色道久久久久久精品综合| 亚洲最大成人中文| 最近的中文字幕免费完整| 日日撸夜夜添| 国产探花极品一区二区| 插阴视频在线观看视频| 欧美精品一区二区大全| 国产精品国产三级国产专区5o| av国产免费在线观看| 亚洲人成网站在线播| 日韩三级伦理在线观看| 亚洲av中文字字幕乱码综合| 超碰av人人做人人爽久久| 老司机影院毛片| 亚洲国产色片| 国产精品福利在线免费观看| 熟妇人妻不卡中文字幕| 国产亚洲91精品色在线| 日韩成人伦理影院| 男男h啪啪无遮挡| 永久网站在线| 日韩一区二区三区影片| 男女下面进入的视频免费午夜| 日本一本二区三区精品| 亚洲精品国产色婷婷电影| 久久鲁丝午夜福利片| 亚洲欧美清纯卡通| 亚洲精品视频女| 99热这里只有精品一区|