• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    如何監(jiān)管生成式人工智能在科學(xué)研究中的應(yīng)用:風(fēng)險(xiǎn)與策略

    2024-12-03 00:00:00趙悅

    摘要:生成式人工智能因其快速、強(qiáng)大的內(nèi)容生成能力,在科學(xué)研究領(lǐng)域引發(fā)廣泛關(guān)注。如何有效監(jiān)管其在科學(xué)研究中的應(yīng)用成為討論焦點(diǎn)。在此方面,歐盟和美國(guó)率先采取行動(dòng),制定了系列人工智能政策,以全面規(guī)范人工智能的研發(fā)、部署與使用?;谡吖ぞ吆驼邇?nèi)容的二維分析框架對(duì)近年來(lái)歐盟和美國(guó)的人工智能風(fēng)險(xiǎn)管理相關(guān)政策進(jìn)行分析發(fā)現(xiàn):生成式人工智能輔助科學(xué)研究可能涉及隱私安全、歧視傳播、誠(chéng)信挑戰(zhàn)、監(jiān)管滯后等風(fēng)險(xiǎn)。歐盟和美國(guó)在堅(jiān)持構(gòu)建可信賴(lài)的人工智能系統(tǒng)的目標(biāo)定位以及以人為本的價(jià)值導(dǎo)向下,通過(guò)建立全面的風(fēng)險(xiǎn)管理框架,制定了風(fēng)險(xiǎn)界定與風(fēng)險(xiǎn)應(yīng)對(duì)的具體流程和方法,并通過(guò)促進(jìn)不同利益相關(guān)主體的共同參與和合作,明確了各自的權(quán)責(zé)。同時(shí),為確保監(jiān)管的順利實(shí)施,歐盟和美國(guó)還通過(guò)建立數(shù)據(jù)保護(hù)條例、版權(quán)保護(hù)法律和道德倫理框架等,完善了人工智能科研應(yīng)用的監(jiān)管機(jī)制。未來(lái),我國(guó)應(yīng)聯(lián)合各方力量,共同構(gòu)建細(xì)致且適應(yīng)性強(qiáng)的人工智能應(yīng)用風(fēng)險(xiǎn)監(jiān)管框架和相應(yīng)的政策法律,以確保生成式人工智能在科學(xué)研究中的使用合乎道德倫理和法律規(guī)范。

    關(guān)鍵詞:生成式人工智能;科學(xué)研究;風(fēng)險(xiǎn)管理框架;監(jiān)管策略;學(xué)術(shù)倫理

    中圖分類(lèi)號(hào):G434 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-5195(2024)06-0020-10 doi10.3969/j.issn.1009-5195.2024.06.003

    一、引言

    生成式人工智能技術(shù)是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)(中華人民共和國(guó)中央人民政府,2023)。自2022年ChatGPT發(fā)布以來(lái),生成式人工智能快速發(fā)展,其所具備的巨大社會(huì)價(jià)值和商業(yè)潛力,已在各個(gè)領(lǐng)域引發(fā)變革,或?qū)⒊蔀槲磥?lái)個(gè)體在生產(chǎn)生活中不可或缺的重要工具(高奇琦,2023)。在科學(xué)研究領(lǐng)域,生成式人工智能亦在有效輔助科研過(guò)程、提升科研效率方面(Kocoń et al.,2023;Lund et al.,2023)體現(xiàn)出潛在的應(yīng)用價(jià)值。如在研究初期,ChatGPT可以輔助研究者進(jìn)行“頭腦風(fēng)暴”,提供創(chuàng)新想法和相關(guān)信息;在研究過(guò)程中,它可以輔助撰寫(xiě)研究背景和文獻(xiàn)綜述,幫助研究者優(yōu)化實(shí)驗(yàn)設(shè)計(jì)、進(jìn)行初步的數(shù)據(jù)分析和結(jié)果闡釋?zhuān)辉谘芯亢笃?,它還可以翻譯、潤(rùn)色語(yǔ)言文字,按照不同格式生成參考文獻(xiàn)等(劉寶存等,2023;Rahman et al.,2023)??偠灾墒饺斯ぶ悄芸梢暂o助研究者處理耗時(shí)的常規(guī)性和程序性工作,在一定程度上能解放科研人員的時(shí)間和精力,使其投入更具創(chuàng)新性的工作之中。

    然而,應(yīng)用生成式人工智能進(jìn)行科學(xué)研究仍面臨監(jiān)管方面的困境(UNESCO,2023a)。一方面,生成式人工智能所使用的預(yù)訓(xùn)練數(shù)據(jù)集大多來(lái)自網(wǎng)絡(luò)爬蟲(chóng)(Brown et al.,2020),存在信息不準(zhǔn)確、帶有偏見(jiàn)或有害信息,以及侵犯?jìng)€(gè)人隱私和版權(quán)的風(fēng)險(xiǎn)等(中國(guó)科學(xué)技術(shù)信息研究所,2023)。作者如果不加分辨地采用這類(lèi)信息,或?qū)⒓觿≈贫刃苑N族主義或性別歧視(蘭國(guó)帥等,2023;UNESCO,2023a)。另一方面,生成式人工智能可以生成高度接近自然語(yǔ)言的文本,審稿人很難辨別人類(lèi)文章與機(jī)器生成文章的差異,或?qū)⒓觿W(xué)術(shù)不端行為(Chowdhury et al.,2018),對(duì)整個(gè)科研生態(tài)產(chǎn)生危害。

    在此背景下,一些研究者、科研機(jī)構(gòu)發(fā)布了如何運(yùn)用ChatGPT進(jìn)行科學(xué)研究的具體操作指南(Atlas,2023;中國(guó)科學(xué)技術(shù)信息研究所,2023),為生成式人工智能在科研領(lǐng)域的規(guī)范應(yīng)用奠定了基礎(chǔ)。然而,如何有效監(jiān)督和管理這一新興技術(shù)在科研過(guò)程中的使用,特別是針對(duì)其可能引發(fā)的數(shù)據(jù)隱私泄露、倫理道德及安全風(fēng)險(xiǎn)等問(wèn)題,現(xiàn)有研究尚缺乏系統(tǒng)探討。在這方面,歐盟與美國(guó)已率先采取行動(dòng),發(fā)布了如《歐盟人工智能法案》(European Union Artificial Intelligence Act,簡(jiǎn)稱(chēng)EU AI Act)、《人工智能風(fēng)險(xiǎn)管理框架》(Artificial Intelligence Risk Management Framework,簡(jiǎn)稱(chēng)AI RMF)等政策文件,以全面規(guī)范人工智能的研發(fā)、部署與使用。基于此,本研究采用政策文本分析法,聚焦分析歐盟和美國(guó)在生成式人工智能應(yīng)用于科研領(lǐng)域的監(jiān)管策略及其差異,旨在為我國(guó)學(xué)術(shù)界、科研機(jī)構(gòu)及政策制定者提供參考與建議。

    二、研究設(shè)計(jì)

    1.研究對(duì)象

    歐盟委員會(huì)(European Commission)于2022年提出EU AI Act草案,并在2024年正式發(fā)布實(shí)施。該法案作為全球范圍內(nèi)首個(gè)具有系統(tǒng)性、高約束力的法律框架,全面且細(xì)致地規(guī)定了人工智能領(lǐng)域政策制定、監(jiān)管職責(zé)、風(fēng)險(xiǎn)分級(jí)監(jiān)管策略、信息披露機(jī)制、數(shù)據(jù)保護(hù)原則及法律規(guī)范等內(nèi)容,為人工智能的研發(fā)與應(yīng)用提供了政策支撐。與此同時(shí),美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(National Institute of Standards and Technology,簡(jiǎn)稱(chēng)NIST)于2021年提出AI RMF草案,并在2023年正式發(fā)布1.0版并實(shí)施。AI RMF側(cè)重于構(gòu)建靈活且細(xì)致的風(fēng)險(xiǎn)管理體系,為人工智能技術(shù)的實(shí)際應(yīng)用提供了詳細(xì)的風(fēng)險(xiǎn)評(píng)估與管理策略,旨在輔助組織識(shí)別、評(píng)估、緩解和監(jiān)控人工智能系統(tǒng)中的潛在風(fēng)險(xiǎn)。這兩份政策文件都經(jīng)過(guò)了長(zhǎng)時(shí)間的深入研究與討論,適用范圍廣泛,且充分吸納了多維利益相關(guān)者的建議,在國(guó)際上具有較高的認(rèn)可度和影響力,因此本研究將其作為核心分析對(duì)象。

    同時(shí),為了更全面且深入地探討歐盟和美國(guó)在生成式人工智能監(jiān)管方面的實(shí)踐框架,本研究將上述政策文本所涉及的關(guān)聯(lián)政策也一并納入分析。關(guān)聯(lián)政策篩選遵循以下原則:(1)相關(guān)性,政策文本與生成式人工智能在科學(xué)研究中的應(yīng)用相關(guān);(2)典型性,政策文本應(yīng)包含人工智能應(yīng)用于科學(xué)研究的具體監(jiān)管措施和實(shí)踐案例,以支持對(duì)監(jiān)管策略的深入解讀。經(jīng)過(guò)篩選,本研究最終確定了11份具有代表性的政策文本作為分析對(duì)象(見(jiàn)表1)。從政策發(fā)布主體上看,美國(guó)人工智能政策的發(fā)布機(jī)構(gòu)呈現(xiàn)出多機(jī)構(gòu)分散負(fù)責(zé)的特點(diǎn),尚未形成全國(guó)性、統(tǒng)一的人工智能監(jiān)管法律框架(US Congress,2020)。相比之下,歐盟人工智能政策的發(fā)布機(jī)構(gòu)呈現(xiàn)高度一致性和統(tǒng)一性,政策制定與發(fā)布主體較為集中。從政策工具的數(shù)量分布上看,能力建設(shè)型政策工具使用頻率較高,共計(jì)6份;強(qiáng)制型政策工具為3份,組織建設(shè)型工具為2份。

    2.分析框架

    本研究采用X—Y二維政策分析框架。X維度為政策工具類(lèi)型,是政府部門(mén)為實(shí)現(xiàn)政策目標(biāo)而使用的輔助手段。政策工具有多種分類(lèi)方式,本研究借鑒McDonnell等對(duì)政策工具的分類(lèi)(McDonnell et al.,1987)。選擇該分類(lèi)方式的原因有:第一,這種分類(lèi)方式標(biāo)準(zhǔn)清晰、界定明確,易于區(qū)分。第二,這種分類(lèi)方式所涉及的政策工具與人工智能監(jiān)管具有高度的相關(guān)性。在結(jié)合歐盟和美國(guó)政策文件特點(diǎn)的基礎(chǔ)上,本研究最終確定的政策工具類(lèi)型包括能力建設(shè)型、強(qiáng)制型、組織建設(shè)型三類(lèi)。其中,強(qiáng)制型政策工具主要是制約和規(guī)范個(gè)體、組織等的行為,確保生成式人工智能應(yīng)用的合法性和規(guī)范性,包括強(qiáng)制命令、實(shí)施處罰等;能力建設(shè)型政策工具主要是提供資源、培訓(xùn)和信息等,包括資源配置、技術(shù)支持等;組織建設(shè)型政策工具主要是重構(gòu)與優(yōu)化權(quán)力關(guān)系,通過(guò)調(diào)整不同組織機(jī)構(gòu)在生成式人工智能應(yīng)用中的職責(zé)與權(quán)限,以促進(jìn)組織內(nèi)部的適應(yīng)性變革,包括機(jī)構(gòu)變革、功能調(diào)整等。

    政策工具可以顯示政策為實(shí)現(xiàn)目標(biāo)所采取的基本手段,但無(wú)法體現(xiàn)政策保護(hù)的具體方向,因此需進(jìn)一步通過(guò)Y維度展現(xiàn)政策內(nèi)容要素。政策內(nèi)容的編碼方式有兩種:一是歸納式編碼,即直接根據(jù)實(shí)證數(shù)據(jù)編碼,形成自由節(jié)點(diǎn),并根據(jù)節(jié)點(diǎn)之間的內(nèi)在聯(lián)系形成子節(jié)點(diǎn)、父節(jié)點(diǎn);二是推論式編碼,即根據(jù)已經(jīng)確定的維度,形成研究框架,進(jìn)而在研究框架下編碼(伍多·庫(kù)卡茨,2017)。本研究采用歸納式編碼,具體操作如下:首先,將11份政策文本導(dǎo)入NVivo14 Plus分析軟件,以政策文本條款為分析單元進(jìn)行手動(dòng)編碼。通過(guò)一級(jí)編碼,共形成了148項(xiàng)風(fēng)險(xiǎn)類(lèi)型的自由節(jié)點(diǎn)和533項(xiàng)監(jiān)管策略的自由節(jié)點(diǎn)。其次,對(duì)自由節(jié)點(diǎn)進(jìn)行合并、聚類(lèi),將相互聯(lián)系的自由節(jié)點(diǎn)納入子節(jié)點(diǎn),完成二級(jí)編碼。再次,從子節(jié)點(diǎn)中歸納概括出父節(jié)點(diǎn),完成三級(jí)編碼??傮w而言,針對(duì)生成式人工智能應(yīng)用于科學(xué)研究所涉及的風(fēng)險(xiǎn)類(lèi)型,歸納形成了隱私安全、歧視傳播、誠(chéng)信挑戰(zhàn)、監(jiān)管滯后四類(lèi)風(fēng)險(xiǎn)(父節(jié)點(diǎn))及其下7項(xiàng)風(fēng)險(xiǎn)內(nèi)容(子節(jié)點(diǎn))。針對(duì)Y維度政策內(nèi)容要素,歸納形成了目標(biāo)定位、價(jià)值導(dǎo)向、行動(dòng)策略和監(jiān)管機(jī)制四類(lèi)監(jiān)管策略(父節(jié)點(diǎn))及其下14項(xiàng)風(fēng)險(xiǎn)應(yīng)對(duì)措施(子節(jié)點(diǎn))。

    三、生成式人工智能輔助科學(xué)研究的風(fēng)險(xiǎn)

    如前所述,在歐盟和美國(guó)的人工智能政策文件中,有關(guān)生成式人工智能輔助科學(xué)研究的風(fēng)險(xiǎn)可歸納為隱私安全、歧視傳播、誠(chéng)信挑戰(zhàn)以及監(jiān)管滯后四類(lèi),但二者對(duì)不同風(fēng)險(xiǎn)類(lèi)型的關(guān)注度存在差異。表2顯示了歐盟和美國(guó)人工智能政策文件中提及的風(fēng)險(xiǎn)類(lèi)型以及各類(lèi)風(fēng)險(xiǎn)在政策文件中出現(xiàn)的頻數(shù)與占比。

    1.隱私安全:算法不透明導(dǎo)致安全隱患

    如表2所示,在隱私安全風(fēng)險(xiǎn)方面,歐盟在相關(guān)政策中16次提及算法不透明導(dǎo)致的安全隱患問(wèn)題,占所有風(fēng)險(xiǎn)的14.41%;美國(guó)在這方面的關(guān)注度更高,共提及20次,占所有風(fēng)險(xiǎn)的17.54%。這側(cè)面反映了社會(huì)大眾對(duì)人工智能算法不透明的擔(dān)憂(yōu)。《自然》雜志一項(xiàng)針對(duì)1600名研究人員的調(diào)查顯示,超過(guò)69%的研究者擔(dān)憂(yōu)人工智能系統(tǒng)的不透明性(Van Noorden et al.,2023)。生成式人工智能的算法“黑箱”,令人無(wú)法知曉或追溯其輸出是如何確定的(蘭國(guó)帥等,2023)。生成式人工智能依賴(lài)海量的數(shù)據(jù)支持,數(shù)據(jù)主要來(lái)源于互聯(lián)網(wǎng),存在質(zhì)量參差不齊的問(wèn)題;同時(shí),模型中存在數(shù)十億個(gè)參數(shù),而每個(gè)參數(shù)及其權(quán)重都不透明,驗(yàn)證其輸出內(nèi)容是否遵循基本權(quán)利及現(xiàn)有規(guī)則成為一項(xiàng)艱巨任務(wù)(European Union,2024)。如果缺乏對(duì)數(shù)據(jù)質(zhì)量、數(shù)據(jù)使用步驟和環(huán)節(jié)的審查,就難以保障數(shù)據(jù)的安全(Miller et al.,2013)。尤其是在使用人工智能進(jìn)行科學(xué)研究的過(guò)程中,若用于研究或訓(xùn)練人工智能模型的個(gè)人信息,被用于科研分析之外的其他用途(Department of Education of Australian Government,2023),將為個(gè)體隱私安全帶來(lái)風(fēng)險(xiǎn)。

    2.歧視傳播:加劇固有偏見(jiàn)與有害歧視

    生成式人工智能可能加劇固有偏見(jiàn)和有害歧視,引發(fā)歧視傳播風(fēng)險(xiǎn)。對(duì)此,美國(guó)相關(guān)政策中提及了31次,占比27.20%;歐盟提及20次,占比18.02%。與歐盟相比,歧視傳播是美國(guó)人工智能應(yīng)用政策文本中更為關(guān)注的風(fēng)險(xiǎn)類(lèi)型,尤其是對(duì)其中的“強(qiáng)化固有偏見(jiàn)”風(fēng)險(xiǎn)關(guān)注最多(見(jiàn)表2)。偏見(jiàn)以多種形式存在于生活之中,放大原有的偏見(jiàn)或?qū)?duì)特定社會(huì)群體造成不利影響(European Commission,2023a)。生成式人工智能中的偏見(jiàn)主要涉及三個(gè)方面:第一,系統(tǒng)偏見(jiàn),源自特定機(jī)構(gòu)的程序和設(shè)定,導(dǎo)致某些社會(huì)群體在系統(tǒng)中獲得不公正的優(yōu)勢(shì)或弱勢(shì)地位;第二,統(tǒng)計(jì)性與計(jì)算性偏見(jiàn),源自人工智能系統(tǒng)所采用數(shù)據(jù)集和算法的局限性;第三,人為偏見(jiàn),源自人類(lèi)思維中的系統(tǒng)性錯(cuò)誤或數(shù)據(jù)處理方法的局限性,典型如McNamara謬誤,指過(guò)度依賴(lài)可量化的數(shù)據(jù)而忽視其他不可量化但重要的因素(NIST,2022)。從偏見(jiàn)類(lèi)型上看,性別偏見(jiàn)、種族偏見(jiàn)和地域偏見(jiàn)的問(wèn)題尤為突出。《自然》雜志上的一項(xiàng)研究結(jié)果顯示,當(dāng)要求GPT-4為一系列臨床案例提供治療與診療建議時(shí),其回答因患者的性別和種族而異(Van Noorden,2023)。歐盟在《科學(xué)中的人工智能:利用人工智能的力量加速發(fā)現(xiàn)和促進(jìn)創(chuàng)新》報(bào)告中指出,人工智能的設(shè)計(jì)和研發(fā)過(guò)程中,男性主導(dǎo)的現(xiàn)象可能導(dǎo)致算法和模型忽略女性視角及其需求,從而不能充分反映社會(huì)的多樣性(European Commission,2023a)。算法模型可能復(fù)制并放大性別歧視(Van Doorn,2017)。此外,歐洲的人工智能研發(fā)機(jī)構(gòu)、人工智能研究專(zhuān)家主要集中在法國(guó)、德國(guó)和瑞士,因而可能在人工智能的部署與使用過(guò)程中加劇地域偏見(jiàn)(European Commission,2023b)。類(lèi)似地,聯(lián)合國(guó)教科文組織也指出,互聯(lián)網(wǎng)上南半球、北半球邊緣化地區(qū)等人群的數(shù)據(jù)不足,算法將加劇數(shù)據(jù)匱乏地區(qū)邊緣化問(wèn)題(UNESCO,2023a)。

    3.誠(chéng)信挑戰(zhàn):內(nèi)容偽造與侵犯知識(shí)產(chǎn)權(quán)

    歐盟和美國(guó)均高度重視生成式人工智能可能帶來(lái)的誠(chéng)信挑戰(zhàn)。具體而言,歐盟在政策中對(duì)此類(lèi)風(fēng)險(xiǎn)提及了34次,占比30.63%;而美國(guó)則提及了38次,占比33.33%(見(jiàn)表2)。一方面,生成式人工智能存在內(nèi)容偽造與篡改的問(wèn)題。以ChatGPT為例,其可以生成看似合理的答案(UNESCO,2023b),但在信息準(zhǔn)確性和邏輯推理上卻存在明顯問(wèn)題。通過(guò)生成式人工智能檢索到的參考文獻(xiàn)可能包含相關(guān)性低、過(guò)時(shí)的,甚至是編造的資料,研究人員在使用時(shí)需要謹(jǐn)慎甄別(European Commission,2023a)。尤其對(duì)于學(xué)術(shù)界的新手而言,因缺乏豐富的先驗(yàn)知識(shí),更易被這些看似合理實(shí)則錯(cuò)誤的信息所誤導(dǎo)(UNESCO,2023a)。

    另一方面,生成式人工智能可能助長(zhǎng)學(xué)術(shù)剽竊與知識(shí)產(chǎn)權(quán)侵犯等問(wèn)題。生成式人工智能具備的快速生成高度逼真文本的功能,可能加劇論文抄襲、考試作弊等行為(Susnjak,2022)。已有研究表明,人工智能能夠創(chuàng)作出與領(lǐng)域?qū)<宜较喈?dāng)甚至更出色的文本內(nèi)容(Schwitzgebel et al.,2023),進(jìn)而加大了學(xué)術(shù)不端檢測(cè)的難度(中國(guó)科學(xué)技術(shù)信息研究所,2023)。審稿人難以辨別這些由生成式人工智能輔助學(xué)者生成或完全由生成式人工智能生成的論文。研究人員也可能利用這一漏洞,將生成式人工智能生成的內(nèi)容冒充為自己的研究成果,以不誠(chéng)實(shí)的手段產(chǎn)出低質(zhì)量的科研成果(王佑鎂等,2023)。此外,個(gè)體在未經(jīng)授權(quán)的情況下,利用生成式人工智能竊取他人研究思想、研究創(chuàng)意或研究成果,還可能構(gòu)成內(nèi)容剽竊或版權(quán)侵犯的嚴(yán)重問(wèn)題(UNESCO,2023a)。

    4.監(jiān)管滯后:立法滯后與監(jiān)管共識(shí)不足

    歐盟與美國(guó)均表現(xiàn)出對(duì)人工智能立法與監(jiān)管措施滯后問(wèn)題的關(guān)注,并體現(xiàn)在其相應(yīng)的政策中。具體而言,歐盟對(duì)此類(lèi)風(fēng)險(xiǎn)提及了41次,占比36.94%;而美國(guó)則提及了25次,占比21.93%。歐盟相對(duì)于美國(guó)而言,對(duì)監(jiān)管滯后問(wèn)題的關(guān)注度更高(見(jiàn)表2)。生成式人工智能正在以驚人的速度迭代,其發(fā)展速度遠(yuǎn)超國(guó)家監(jiān)管制度的改革步伐。聯(lián)合國(guó)教科文組織近期的一項(xiàng)覆蓋450所大中小學(xué)的全球性調(diào)研結(jié)果顯示,僅有不到10%的機(jī)構(gòu)制定了關(guān)于生成式人工智能應(yīng)用的組織規(guī)范或操作指南(UNESCO,2023a)。盡管已有部分高等院校、研究機(jī)構(gòu)及出版商發(fā)布了相關(guān)建議或指南,但這些建議或指南尚不全面,且在實(shí)際應(yīng)用中,如何根據(jù)具體情況選擇合適的指南還缺乏有效的指導(dǎo)(European Commission,2023a)。由此可見(jiàn),在利用生成式人工智能進(jìn)行科學(xué)研究時(shí),科研機(jī)構(gòu)普遍面臨規(guī)范性政策與指南缺失的困境,這凸顯出國(guó)家層面加快政策制定的緊迫性。從更廣泛層面來(lái)看,國(guó)際社會(huì)在立法方向上尚未形成廣泛共識(shí),增加了監(jiān)管框架構(gòu)建與實(shí)施的難度。特別是在數(shù)據(jù)保護(hù)、公平與倫理框架構(gòu)建,以及人工智能生成內(nèi)容的版權(quán)保護(hù)等核心領(lǐng)域,現(xiàn)有法律體系顯得尤為不足,亟須立法層面的跟進(jìn)與完善(European Union,2024)。

    四、生成式人工智能輔助科學(xué)研究的監(jiān)管策略

    如前所述,研究根據(jù)政策內(nèi)容,將歐盟與美國(guó)有關(guān)生成式人工智能應(yīng)用的監(jiān)管策略歸納為四個(gè)關(guān)鍵維度:目標(biāo)定位、價(jià)值導(dǎo)向、行動(dòng)策略和監(jiān)管機(jī)制。其中,目標(biāo)定位和價(jià)值導(dǎo)向是監(jiān)管策略制定的基礎(chǔ),提供監(jiān)管的方向和行動(dòng)指引;行動(dòng)策略是監(jiān)管策略的核心,明確監(jiān)管具體的實(shí)施方式;監(jiān)管機(jī)制是監(jiān)管有效運(yùn)行的保障,確保監(jiān)管措施得以落實(shí)。為了更好地展現(xiàn)歐盟和美國(guó)生成式人工智能監(jiān)管政策中所采取的政策工具對(duì)政策內(nèi)容的支持情況,研究以政策工具為X維度,政策內(nèi)容為Y維度,形成了不同發(fā)文主體的交叉響應(yīng)結(jié)果,詳見(jiàn)表3。

    如表3所示,歐盟與美國(guó)的人工智能政策在目標(biāo)定位上,響應(yīng)次數(shù)由高到低依次是安全性(37次)、透明性與可問(wèn)責(zé)(32次)、可解釋與可理解(28次)、公平與偏見(jiàn)管理(22次)、隱私增強(qiáng)(19次)、有效性與可靠性(10次),以及安全與彈性(8次)。安全性(Safe)強(qiáng)調(diào)生成式人工智能系統(tǒng)不能對(duì)人、財(cái)產(chǎn)或環(huán)境造成威脅。透明性指生成式人工智能系統(tǒng)及其輸出結(jié)果應(yīng)能夠被使用者識(shí)別,使用者也應(yīng)明確披露對(duì)生成式人工智能的使用情況;可問(wèn)責(zé)指關(guān)鍵利益相關(guān)者應(yīng)建立問(wèn)責(zé)標(biāo)準(zhǔn)和相關(guān)信息??山忉屩干墒饺斯ぶ悄芟到y(tǒng)的運(yùn)作機(jī)制是可解釋的,可理解指生成式人工智能的輸出結(jié)果是可理解的。公平與偏見(jiàn)管理指消除生成式人工智能輸出中存在的有害偏見(jiàn)、歧視的內(nèi)容。隱私增強(qiáng)指保護(hù)使用者的自主權(quán)、身份和尊嚴(yán),避免泄露或?yàn)E用個(gè)人信息。有效性指生成式人工智能滿(mǎn)足特定預(yù)期要求,可靠性指生成式人工智能系統(tǒng)能夠按要求無(wú)故障運(yùn)行。安全(Secure)指通過(guò)保護(hù)機(jī)制防止未經(jīng)授權(quán)的訪問(wèn),而彈性指發(fā)生意外的不利事件后能夠恢復(fù)正常功能。

    總體來(lái)看,歐盟和美國(guó)人工智能政策中,對(duì)安全性、透明性與可問(wèn)責(zé)、可解釋與可理解的響應(yīng)次數(shù)較多,說(shuō)明二者均倡導(dǎo)建立可信賴(lài)的人工智能系統(tǒng),且在標(biāo)準(zhǔn)制定上較為一致。而對(duì)比二者在政策工具上的使用情況發(fā)現(xiàn),歐盟使用強(qiáng)制型政策工具在安全性(26次,占比70.27%)、透明性與可問(wèn)責(zé)(10次,占比31.25%)、可解釋與可理解(17次,占比60.71%)等方面的響應(yīng)次數(shù)更多;而美國(guó)使用能力建設(shè)型工具在公平與偏見(jiàn)管理(12次,占比54.55%)上的響應(yīng)次數(shù)更多。

    2.價(jià)值導(dǎo)向:以人為本的價(jià)值導(dǎo)向

    歐盟與美國(guó)的人工智能監(jiān)管政策在“以人為本”的價(jià)值導(dǎo)向方面分別響應(yīng)了14次與13次,二者均主要使用能力建設(shè)型工具倡導(dǎo)并貫徹實(shí)施這一理念。歐盟強(qiáng)調(diào)監(jiān)管的核心在于維護(hù)歐盟的基本價(jià)值觀,尊重人類(lèi)尊嚴(yán)、自由、平等、民主及法治(European Union,2024),并保障個(gè)體基本權(quán)利,如免受歧視、數(shù)據(jù)隱私保護(hù),以及兒童權(quán)益維護(hù)等。美國(guó)NIST在AI RMF中提出“以人為本”人工智能系統(tǒng)設(shè)計(jì)的六大核心要素。第一,深入理解用戶(hù)、任務(wù)及使用環(huán)境,以此作為設(shè)計(jì)決策的基石。第二,確保用戶(hù)在設(shè)計(jì)與開(kāi)發(fā)的全周期中持續(xù)參與,以即時(shí)整合用戶(hù)需求與反饋。第三,建立用戶(hù)導(dǎo)向的評(píng)價(jià)體系,驅(qū)動(dòng)設(shè)計(jì)的持續(xù)優(yōu)化與完善。第四,實(shí)施原型設(shè)計(jì)、測(cè)試與迭代修改,形成持續(xù)改進(jìn)的循環(huán)過(guò)程。第五,全面考量所有用戶(hù)的體驗(yàn),促進(jìn)設(shè)計(jì)成果的和諧與高效。第六,組建跨學(xué)科設(shè)計(jì)團(tuán)隊(duì),融合多樣知識(shí)與技能,以多元化視角激發(fā)創(chuàng)新潛力(NIST,2023)。相較于歐盟統(tǒng)一的價(jià)值規(guī)范,美國(guó)NIST所倡導(dǎo)的以人為本的人工智能系統(tǒng)設(shè)計(jì)原則在人機(jī)交互的語(yǔ)境下展現(xiàn)出更為具體的技術(shù)與倫理考量,包括確定特定的用戶(hù)群體和目的、設(shè)計(jì)差異化應(yīng)用場(chǎng)景、促進(jìn)科學(xué)研究者與專(zhuān)家采用實(shí)證研究以反饋評(píng)估人工智能系統(tǒng)的適用性等。

    3.行動(dòng)策略:風(fēng)險(xiǎn)管理框架與多方參與

    (1)風(fēng)險(xiǎn)管理框架:風(fēng)險(xiǎn)界定與應(yīng)對(duì)措施

    風(fēng)險(xiǎn)管理框架(Risk Management Framework,簡(jiǎn)稱(chēng)RMF)已成為歐盟和美國(guó)在監(jiān)管人工智能應(yīng)用過(guò)程所采取的共識(shí)性策略。如表3所示,歐盟主要使用強(qiáng)制型政策工具以建立風(fēng)險(xiǎn)管理框架,針對(duì)風(fēng)險(xiǎn)等級(jí)界定響應(yīng)10次(占比40.00%)、風(fēng)險(xiǎn)應(yīng)對(duì)響應(yīng)11次(占比22.45%)。EU AI Act中明確界定了四個(gè)風(fēng)險(xiǎn)等級(jí):不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和極低風(fēng)險(xiǎn)。不可接受風(fēng)險(xiǎn)是指威脅人類(lèi)生命、安全和權(quán)利的人工智能系統(tǒng),這類(lèi)人工智能系統(tǒng)禁止投放市場(chǎng)、投入服務(wù)或使用。高風(fēng)險(xiǎn)是指對(duì)個(gè)人健康、安全與基本權(quán)利產(chǎn)生高風(fēng)險(xiǎn)的人工智能系統(tǒng),在投入市場(chǎng)前必須按照法案進(jìn)行評(píng)估。EU AI Act界定了8項(xiàng)高風(fēng)險(xiǎn)等級(jí)的人工智能系統(tǒng)。有限風(fēng)險(xiǎn)是指對(duì)用戶(hù)權(quán)利或安全構(gòu)成一定風(fēng)險(xiǎn)的人工智能系統(tǒng),使用者在應(yīng)用系統(tǒng)時(shí)能夠意識(shí)到是在與人工智能互動(dòng),且能夠根據(jù)個(gè)體判斷進(jìn)行決策。根據(jù)這一標(biāo)準(zhǔn),應(yīng)用生成式人工智能進(jìn)行科學(xué)研究的行為隸屬于有限風(fēng)險(xiǎn)等級(jí)。相較于高風(fēng)險(xiǎn)人工智能系統(tǒng),有限風(fēng)險(xiǎn)人工智能系統(tǒng)具有一定自由度,在投放市場(chǎng)或使用前無(wú)需特殊的牌照、認(rèn)證、報(bào)告、監(jiān)督、記錄留存,但人工智能供應(yīng)商和使用者應(yīng)承擔(dān)人工智能透明度方面的義務(wù)。根據(jù)美國(guó)NIST的界定,若人工智能系統(tǒng)是在包含敏感或受保護(hù)數(shù)據(jù)(例如個(gè)人身份信息)的大型數(shù)據(jù)集上進(jìn)行訓(xùn)練,或其輸出對(duì)人類(lèi)有直接或間接的重大影響,則該系統(tǒng)應(yīng)被明確界定為高風(fēng)險(xiǎn)等級(jí);若僅與計(jì)算系統(tǒng)交互,并且使用非敏感數(shù)據(jù)集進(jìn)行訓(xùn)練的人工智能系統(tǒng),在初始風(fēng)險(xiǎn)評(píng)估時(shí)不需要被賦予過(guò)高的風(fēng)險(xiǎn)等級(jí)(NIST,2023)。綜合上述標(biāo)準(zhǔn),應(yīng)用生成式人工智能進(jìn)行科學(xué)研究的風(fēng)險(xiǎn)等級(jí)主要因具體應(yīng)用場(chǎng)景、數(shù)據(jù)集而異。如果生成式人工智能處理的是非敏感數(shù)據(jù)集且研究結(jié)果的影響可控,則屬于有限風(fēng)險(xiǎn)等級(jí);如果處理的是敏感數(shù)據(jù),或可能對(duì)人類(lèi)健康、社會(huì)政策等產(chǎn)生重大影響,則需要重新評(píng)估其風(fēng)險(xiǎn)等級(jí),并可能升級(jí)為高風(fēng)險(xiǎn)。

    美國(guó)在風(fēng)險(xiǎn)應(yīng)對(duì)中較多地使用能力建設(shè)型政策工具,響應(yīng)次數(shù)達(dá)35次,占比71.43%;相比之下,歐盟主要使用強(qiáng)制型政策工具。風(fēng)險(xiǎn)應(yīng)對(duì)包括映射(Map)、測(cè)量(Measure)、管理(Manage)和治理(Govern)四個(gè)核心步驟,它們并非線性排列而是相互交織、彼此關(guān)聯(lián)的(NIST,2023)。映射旨在定義和記錄人工智能使用流程;測(cè)量旨在采用科學(xué)的方法分析、評(píng)估或監(jiān)測(cè)人工智能的風(fēng)險(xiǎn)及影響;管理旨在確定風(fēng)險(xiǎn)等級(jí)并采取相應(yīng)行動(dòng);治理旨在建立組織的風(fēng)險(xiǎn)管理文化,澄清、定義監(jiān)督人工智能系統(tǒng)的角色和責(zé)任。在具體操作層面,AI RMF在其官方網(wǎng)站提供了一系列工具包,包括手冊(cè)、路線圖和操作示例等(NIST,2024)。以美國(guó)圣何塞市(San José)為例,首先,該市的政策執(zhí)行者進(jìn)行背景調(diào)查,確立監(jiān)管機(jī)構(gòu)(人工智能治理負(fù)責(zé)人、工作組、數(shù)據(jù)隱私咨詢(xún)工作組等)及其權(quán)責(zé),并采取相應(yīng)監(jiān)管措施。其次,參照AI RMF的四個(gè)核心步驟及其下的72個(gè)子項(xiàng)對(duì)現(xiàn)有的人工智能治理情況進(jìn)行評(píng)分,并針對(duì)低分項(xiàng)采取針對(duì)性措施,制定行動(dòng)計(jì)劃。例如,針對(duì)圣何塞市在測(cè)量方面得分較低的問(wèn)題,該市采取重新確認(rèn)人工智能治理關(guān)鍵內(nèi)容、提供相應(yīng)教育培訓(xùn)、增設(shè)反饋渠道、探索第三方合作機(jī)會(huì)等措施,以改進(jìn)當(dāng)前的人工智能系統(tǒng)。盡管NIST尚未直接提供具體案例說(shuō)明AI RMF如何應(yīng)用于科學(xué)研究,但可以參照上述步驟指導(dǎo)生成式人工智能在科學(xué)研究中應(yīng)用的風(fēng)險(xiǎn)管理。特別是在測(cè)量過(guò)程中,應(yīng)重點(diǎn)關(guān)注科學(xué)研究是否可能危害個(gè)體的基本權(quán)利、心理健康或公共安全,是否存在信息的濫用情況,以及輸出內(nèi)容是否帶有冒犯性或歧視性等。

    (2)利益相關(guān)者共同參與

    人工智能的風(fēng)險(xiǎn)防范和治理需要利益相關(guān)者共同承擔(dān)責(zé)任。對(duì)此,歐盟和美國(guó)的人工智能政策均有較多響應(yīng),其中歐盟采用各類(lèi)政策工具響應(yīng)27次,美國(guó)采用各類(lèi)政策工具響應(yīng)26次。在歐盟和美國(guó)的相關(guān)政策中,提及的利益相關(guān)者包括政府和地方當(dāng)局、人工智能供應(yīng)商、科研機(jī)構(gòu)與科研工作者,以及其他行業(yè)合作伙伴。從比例上看,政策工具對(duì)科研機(jī)構(gòu)與科研工作者、政府與地方當(dāng)局的響應(yīng)比例較高,達(dá)34.00%;其次為人工智能供應(yīng)商,占比25.00%。從風(fēng)險(xiǎn)管理視角來(lái)看,不同利益相關(guān)者的職責(zé)不同。

    第一,政府和地方當(dāng)局主要提供政策支持和科研資助。如表3所示,美國(guó)主要使用組織建設(shè)型政策工具來(lái)提供政策支持(18次,占比33.96%),規(guī)定并調(diào)整如科學(xué)與技術(shù)政策辦公室(Office of Science and Technology Policy,簡(jiǎn)稱(chēng)OSTP)、能源部(Department of Energy,簡(jiǎn)稱(chēng)DOE)、國(guó)家科學(xué)基金會(huì)(National Science Foundation,簡(jiǎn)稱(chēng)NSF)等機(jī)構(gòu)在人工智能監(jiān)管方面的具體職責(zé),并成立國(guó)家人工智能倡議辦公室來(lái)專(zhuān)門(mén)執(zhí)行相關(guān)任務(wù)(US Congress,2020)。DOE負(fù)責(zé)成立國(guó)家人工智能咨詢(xún)委員會(huì),旨在為總統(tǒng)和倡議辦公室提供政策指導(dǎo),并致力于提升與DOE使命緊密相關(guān)的人工智能系統(tǒng)的可靠性。在科學(xué)研究領(lǐng)域,NSF負(fù)責(zé)制定人工智能系統(tǒng)的風(fēng)險(xiǎn)管理框架,從財(cái)政角度支持人工智能研發(fā)機(jī)構(gòu),推動(dòng)人工智能技術(shù)的研發(fā)和應(yīng)用,資助相關(guān)領(lǐng)域的研究和教育活動(dòng),以促進(jìn)知識(shí)創(chuàng)新和人才培養(yǎng)。歐盟則倡導(dǎo)通過(guò)科研資助來(lái)調(diào)動(dòng)多方利益相關(guān)者共同開(kāi)展人工智能研究,組織人工智能行業(yè)專(zhuān)家、科研工作者開(kāi)展科研倫理、風(fēng)險(xiǎn)評(píng)估等方面的研究。例如,歐盟委員會(huì)在“地平線歐洲戰(zhàn)略計(jì)劃”(Horizon Europe Strategic Plan)項(xiàng)目中納入科研倫理的指南制定、審查機(jī)制及培訓(xùn)等內(nèi)容(European Commission,2023a),旨在確保人工智能輔助科學(xué)研究在合法、合規(guī)和道德的框架內(nèi)開(kāi)展。

    第二,人工智能供應(yīng)商應(yīng)提升人工智能系統(tǒng)的透明度,確保人工智能輸出的內(nèi)容以機(jī)器可讀的格式標(biāo)記,以便于回溯和查驗(yàn)。透明度主要指數(shù)據(jù)透明度,如底層數(shù)據(jù)集、數(shù)據(jù)來(lái)源和數(shù)據(jù)處理等,都需說(shuō)明采納和應(yīng)用的方法,同時(shí)需要披露知識(shí)產(chǎn)權(quán)和版權(quán)使用情況。為提升人工智能系統(tǒng)的透明度,供應(yīng)商應(yīng)在充分考慮各種類(lèi)型內(nèi)容的局限性和特殊性、實(shí)施成本和公認(rèn)的技術(shù)水平的基礎(chǔ)上,在相關(guān)技術(shù)標(biāo)準(zhǔn)中提供解決方案(European Union,2024)。

    第三,研究者承擔(dān)對(duì)科研產(chǎn)出的最終責(zé)任,應(yīng)嚴(yán)格遵守科研規(guī)范,不偽造、篡改數(shù)據(jù),以維護(hù)科研的嚴(yán)肅性和科學(xué)性(European Commission,2023a)。在應(yīng)用生成式人工智能提升語(yǔ)言可讀性、解釋基礎(chǔ)數(shù)據(jù)時(shí),研究者應(yīng)保持批判性思維,避免過(guò)度依賴(lài)生成式人工智能,并在論文的方法、聲明處清晰標(biāo)明生成式人工智能的使用過(guò)程與方法(European Commission,2023b;Rahman et al.,2023)。科研機(jī)構(gòu)在充分考慮使用者的技術(shù)知識(shí)、經(jīng)驗(yàn)、教育背景和使用環(huán)境的基礎(chǔ)上,給予人工智能使用者相應(yīng)的技術(shù)培訓(xùn),提升其人工智能素養(yǎng),以推動(dòng)科學(xué)創(chuàng)新(European Commission,2023a;NIST,2023;European Union,2024)。

    第四,其他行業(yè)合作伙伴共同參與人工智能治理,例如國(guó)家科技管理機(jī)構(gòu)、出版集團(tuán)等,共同制定并協(xié)商關(guān)于人工智能在科學(xué)研究領(lǐng)域應(yīng)用的使用準(zhǔn)則和指南等(中國(guó)科學(xué)技術(shù)信息研究所,2023)。

    4.監(jiān)管機(jī)制:法律規(guī)范與倫理框架

    (1)數(shù)據(jù)保護(hù)條例

    歐盟使用政策工具對(duì)數(shù)據(jù)保護(hù)響應(yīng)37次,占比84.09%;其中使用強(qiáng)制型政策工具響應(yīng)29次,占比65.91%。相對(duì)而言,美國(guó)使用政策工具響應(yīng)較少,各類(lèi)政策工具共響應(yīng)7次,占比15.91%(見(jiàn)表3)。歐盟認(rèn)為,建立數(shù)據(jù)保護(hù)、數(shù)據(jù)隱私,以及數(shù)據(jù)的再利用、共享和匯集的可信機(jī)制和服務(wù),對(duì)開(kāi)發(fā)高質(zhì)量、數(shù)據(jù)驅(qū)動(dòng)的人工智能模型至關(guān)重要(Meszaros et al.,2021;European Union,2024)。2016年,歐盟率先發(fā)布了《通用數(shù)據(jù)保護(hù)條例》,成為全球數(shù)據(jù)保護(hù)的典范。該條例在第三章中規(guī)定了數(shù)據(jù)主體的權(quán)責(zé),包括要求對(duì)自動(dòng)決策算法給出解釋?zhuān)趯?duì)算法決策不滿(mǎn)意時(shí)可以選擇匿名或退出等。為鼓勵(lì)科學(xué)研究,《通用數(shù)據(jù)保護(hù)條件》設(shè)立了三項(xiàng)豁免條款:一是數(shù)據(jù)處理原則的豁免,即在采取適當(dāng)?shù)谋Wo(hù)措施后,某項(xiàng)研究中的數(shù)據(jù)也可以用于與原始研究目的不同的研究項(xiàng)目。二是數(shù)據(jù)主體權(quán)利的有限豁免,例如,醫(yī)療領(lǐng)域科研人員可以長(zhǎng)期保留患者的健康數(shù)據(jù),即便數(shù)據(jù)主體決定撤回對(duì)研究的同意,研究人員也可以選擇不刪除其個(gè)人數(shù)據(jù)。三是歐盟成員國(guó)可依據(jù)實(shí)際情況制定額外的豁免規(guī)則。盡管科學(xué)研究享有一定豁免權(quán),但在數(shù)據(jù)處理中也應(yīng)遵循“合法、公平、透明”的基本原則。尤其在醫(yī)學(xué)、生物醫(yī)學(xué)等領(lǐng)域,高校或科研機(jī)構(gòu)當(dāng)處理涉及個(gè)體民族、健康、基因等高度敏感數(shù)據(jù)時(shí),數(shù)據(jù)控制者與處理者必須以“公共利益或法定職權(quán)”為合法處理基礎(chǔ),通過(guò)目的性、必要性和利益平衡測(cè)試,采取一定技術(shù)與管理措施以保護(hù)個(gè)體隱私,確保數(shù)據(jù)處理的合法性。

    (2)版權(quán)保護(hù)法律

    針對(duì)人工智能生成內(nèi)容的版權(quán)問(wèn)題,美國(guó)使用強(qiáng)制型政策工具響應(yīng)18次,占比58.07%;歐盟使用政策工具響應(yīng)4次,占比12.90%(見(jiàn)表3)。根據(jù)美國(guó)版權(quán)局(US Copyright Office)發(fā)布的《版權(quán)登記指南:包含人工智能生成材料的作品》的規(guī)定,生成式人工智能輸出的內(nèi)容不受美國(guó)版權(quán)法保護(hù),只有由人類(lèi)的創(chuàng)造力所產(chǎn)生的作品才受版權(quán)保護(hù)(US Copyright Office,2023)。因此,如果科研成果是由生成式人工智能生成的,則不受美國(guó)版權(quán)法的保護(hù)。歐盟2020年發(fā)布的《人工智能的趨勢(shì)與發(fā)展:對(duì)知識(shí)產(chǎn)權(quán)框架的挑戰(zhàn)》(Trends and Developments in Artificial Intelligence:Challenges to the Intellectual Property Rights Framework)認(rèn)為,現(xiàn)有的版權(quán)法足以靈活應(yīng)對(duì)人工智能所帶來(lái)的挑戰(zhàn),因此無(wú)需大規(guī)模調(diào)整。盡管未有明確的新法規(guī),但EU AI Act中對(duì)人工智能供應(yīng)商提出了透明性要求,規(guī)定其需在構(gòu)建系統(tǒng)時(shí)披露所使用的受版權(quán)保護(hù)的材料。為實(shí)現(xiàn)這一目標(biāo),供應(yīng)商可以采用高科技手段,如水印技術(shù),來(lái)標(biāo)識(shí)這些受版權(quán)保護(hù)的內(nèi)容(European Union,2024)。不過(guò),目前法律界仍在就一些具體情況進(jìn)行辯論。例如,當(dāng)人工智能生成的科研結(jié)果與受版權(quán)保護(hù)的作品存在相似之處,但并未構(gòu)成完全復(fù)制時(shí),這些結(jié)果是否應(yīng)受到版權(quán)法的保護(hù)(NIST,2023)。

    (3)道德倫理框架

    歐盟相較于美國(guó)更加重視建構(gòu)道德倫理框架,采用政策工具對(duì)此響應(yīng)40次,占比74.07%;而美國(guó)則響應(yīng)14次,占比25.93%(見(jiàn)表3)。歐盟發(fā)布了一系列規(guī)范道德倫理的框架指南,如《可信賴(lài)人工智能倫理指南》(2019年)、《算法的可問(wèn)責(zé)和透明的治理框架》(A Governance Framework for Algorithmic Accountability and Transparency)(2019年)等,為全球范圍內(nèi)的人工智能倫理治理樹(shù)立了典范。上述指南和框架共同構(gòu)成了歐盟在人工智能技術(shù)和數(shù)據(jù)處理方面公平性法案的核心內(nèi)容,旨在通過(guò)推動(dòng)人工智能技術(shù)的公平、透明與可持續(xù)發(fā)展,消除信息獲取的不平等現(xiàn)象,確保個(gè)體能夠平等、普遍地獲得數(shù)據(jù)和技術(shù)資源,從而有效縮小信息鴻溝,促進(jìn)科學(xué)研究的公平性和多樣性。2020年,歐盟推出“可信賴(lài)人工智能系統(tǒng)評(píng)估清單”(Assessment List for Trustworthy AI,簡(jiǎn)稱(chēng)ALTAI),將道德倫理框架轉(zhuǎn)化為易于訪問(wèn)、動(dòng)態(tài)更新的自評(píng)工具,用以輔助科研人員自主核查在使用生成式人工智能過(guò)程中是否充分考慮了多樣性因素,如性別、殘疾狀況、社會(huì)與經(jīng)濟(jì)地位、種族及文化背景等。

    五、結(jié)論與討論

    針對(duì)生成式人工智能應(yīng)用于科學(xué)研究中存在的潛在風(fēng)險(xiǎn),歐盟與美國(guó)在構(gòu)建風(fēng)險(xiǎn)管理框架上形成了基本共識(shí),但也存在一定差異。歐盟在人工智能政策中明確提出了統(tǒng)一且規(guī)范的指導(dǎo)原則,《歐盟人工智能法案》與歐盟過(guò)往的法律與政策文件保持高度一致性,包括強(qiáng)調(diào)構(gòu)建可信賴(lài)人工智能系統(tǒng)、秉承以人為本的價(jià)值導(dǎo)向等。同時(shí),其也注重與現(xiàn)有二級(jí)立法體系的協(xié)同,在數(shù)據(jù)保護(hù)、不歧視原則及性別平等等關(guān)鍵領(lǐng)域保持了高度一致,包括重視數(shù)據(jù)保護(hù)、構(gòu)建公平性法案和道德倫理框架等。相比之下,美國(guó)NIST提供了更具操作性的生成式人工智能監(jiān)管框架。政策制定者可以在充分考量地區(qū)政治、經(jīng)濟(jì)和文化的基礎(chǔ)上,通過(guò)映射、測(cè)量、管理和治理等措施靈活應(yīng)對(duì)具體情境,識(shí)別監(jiān)管缺失并改進(jìn)。

    當(dāng)前生成式人工智能的發(fā)展與應(yīng)用已經(jīng)超越國(guó)界,不同國(guó)家、地區(qū)間對(duì)人工智能的協(xié)同監(jiān)管將成為一種趨勢(shì)。2023年,國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、教育部等共同制定并發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》(簡(jiǎn)稱(chēng)《辦法》)?!掇k法》提出對(duì)生成式人工智能服務(wù)的風(fēng)險(xiǎn)進(jìn)行評(píng)判,并根據(jù)其服務(wù)適用的領(lǐng)域進(jìn)行行業(yè)部門(mén)監(jiān)管。同年,國(guó)務(wù)院辦公廳印發(fā)的《國(guó)務(wù)院2023年度立法工作計(jì)劃》(國(guó)辦發(fā)〔2023〕18號(hào)),將起草《人工智能法草案》列入國(guó)務(wù)院立法工作計(jì)劃等。隨后,中國(guó)簽署了《布萊切利宣言》(Bletchley Declaration),強(qiáng)調(diào)通過(guò)國(guó)際合作,建立人工智能應(yīng)用監(jiān)管方法。美國(guó)和歐盟的人工智能監(jiān)管政策,為我國(guó)生成式人工智能的發(fā)展帶來(lái)兩點(diǎn)重要啟示:第一,我國(guó)人工智能系統(tǒng)供應(yīng)商、科研機(jī)構(gòu)以及科研人員應(yīng)協(xié)同合作,共同構(gòu)建一套細(xì)致且適應(yīng)性強(qiáng)的監(jiān)管框架。該框架應(yīng)全面考量人工智能模型的應(yīng)用目的、科研應(yīng)用場(chǎng)景以及訓(xùn)練數(shù)據(jù)的敏感性等因素,據(jù)此制定詳盡的風(fēng)險(xiǎn)等級(jí)劃分標(biāo)準(zhǔn)與監(jiān)管措施;同時(shí)可參考美國(guó)NIST的AI RMF配套工具包以及歐盟的ALTAI自查工具等,為科研人員提供易于理解且操作性強(qiáng)的監(jiān)管工具,以確保其在科學(xué)研究過(guò)程中嚴(yán)格遵循道德倫理和法律規(guī)范。第二,我國(guó)在制定人工智能應(yīng)用于科學(xué)研究的法律法規(guī)與政策文本時(shí),應(yīng)充分考慮政策工具與現(xiàn)行政策體系的協(xié)調(diào)性,注重政策工具運(yùn)行的連貫與穩(wěn)定性。在此過(guò)程中,還應(yīng)著重關(guān)注人工智能應(yīng)用中所涉及的科研數(shù)據(jù)保護(hù)、版權(quán)歸屬等核心議題,完善相關(guān)法律規(guī)范。

    參考文獻(xiàn):

    [1][德]伍多·庫(kù)卡茨(2017).質(zhì)性文本分析:方法、實(shí)踐與軟件使用指南[M].朱志勇,范曉慧.重慶:重慶大學(xué)出版社:34-35.

    [2]高奇琦(2023).GPT技術(shù)與人文社會(huì)科學(xué)知識(shí)生產(chǎn):智能時(shí)代的學(xué)者與學(xué)術(shù)研究[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),31(6):111-122.

    [3]蘭國(guó)帥,杜水蓮,宋帆等(2023). 生成式人工智能教育:關(guān)鍵爭(zhēng)議、促進(jìn)方法與未來(lái)議題——UNESCO《生成式人工智能教育和研究應(yīng)用指南》報(bào)告要點(diǎn)與思考[J].開(kāi)放教育研究,29(6):15-26.

    [4]劉寶存,茍鳴瀚(2023). ChatGPT等新一代人工智能工具對(duì)教育科研的影響及對(duì)策[J].蘇州大學(xué)學(xué)報(bào)(教育科學(xué)版),11(3):54-62.

    [5]王佑鎂,王旦,梁煒怡等(2023).“阿拉丁神燈”還是“潘多拉魔盒”:ChatGPT教育應(yīng)用的潛能與風(fēng)險(xiǎn)[J].現(xiàn)代遠(yuǎn)程教育研究,35(2):48-56.

    [6]中國(guó)科學(xué)技術(shù)信息研究所(2023).學(xué)術(shù)出版中AIGC使用邊界指南[EB/OL].[2024-01-19].https://www.istic.ac.cn/ueditor/jsp/upload/file/20230922/1695373131354098301.pdf.

    [7]中華人民共和國(guó)中央人民政府(2023).生成式人工智能服務(wù)管理暫行辦法[EB/OL].[2024-01-19].https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm.

    [8]Atlas, S. (2023). ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI[EB/OL]. [2024-01-19]. https://digitalcommons.uri.edu/cgi/viewcontent.cgi?article=1547&context=cba_facpubs.

    [9]Brown, T., Mann, B., & Ryder, N. et al. (2020). Language Models Are Few-Shot Learners[J]. Advances in Neural Information Processing Systems, 33:1877-1901.

    [10]Chowdhury, H. A., & Bhattacharyya, D. K. (2018). Plagiarism: Taxonomy, Tools and Detection Techniques[EB/OL]. [2024-01-19]. https://arxiv.org/abs/1801.06323.

    [11]Department of Education of Australian Government(2023). The Australian Framework for Generative Artificial Intelligence (AI) in Schools[EB/OL]. [2024-01-19]. https://www.education.gov.au/schooling/announcements/australian-framework-generative-artificial-intelligence-ai-schools.

    [12]European Commission (2023a). AI in Science Harnessing the Power of AI to Accelerate Discovery and Foster Innovation[EB/OL]. [2024-01-19]. https://apre.it/wp-content/uploads/2023/12/ec_rtd_ai-in-science-pb.pdf.

    [13]European Commission (2023b). Living Guidelines on the Responsible Use of Generative AI in Research[EB/OL]. [2024-01-19]. https://european-research-area.ec.europa.eu/news/living-guidelines-responsible-use-generative-ai-research-published.

    [14]European Union (2024). EU AI Act[EB/OL]. [2024-07-19]. https://artificialintelligenceact.eu/the-act/.

    [15]Kocoń, J., Cichecki, I., & Kaszyca, O. et al. (2023). ChatGPT: Jack of All Trades, Master of None[EB/OL]. [2024-01-19]. https://arxiv.org/abs/2302.10724.

    [16]Lund, B. D., & Wang, T. (2023). Chatting About ChatGPT: How May AI and GPT Impact Academia and Libraries?[J]. Library Hi Tech News, 40(3):26-29.

    [17]McDonnell, L. M., & Elmore, R. F. (1987). Getting the Job Done: Alternative Policy Instruments[J]. Educational Evaluation and Policy Analysis, 9(2):133-152.

    [18]Meszaros, J., & Ho, C. H. (2021). AI Research and Data Protection: Can the Same Rules Apply for Commercial and Academic Research under the GDPR?[J]. Computer Law & Security Review, 41:105532.

    [19]Miller, H. G., & Mork, P. (2013). From Data to Decisions: A Value Chain for Big Data[J]. IT Professional, 15(1):57-59.

    [20]NIST (2022). Towards a Standard for Identifying and Managing Bias in Artificial Intelligence[EB/OL]. [2024-01-19].https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence.

    [21]NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0)[EB/OL]. [2024-01-19]. https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf.

    [22]NIST (2024). Use Cases[EB/OL]. [2024-07-19]. https://airc.nist.gov/Usecases.

    [23]Rahman, M. M., Terano, H. J., & Rahman, M. N. et al. (2023). ChatGPT and Academic Research: A Review and Recommendations Based on Practical Examples[J]. Journal of Education, Management and Development Studies, 3(1):1-12.

    [24]Schwitzgebel, E., Schwitzgebel, D., & Strasser, A. (2023). Creating a Large Language Model of a Philosopher[EB/OL]. [2024-01-19]. https://arxiv.org/abs/2302.01339.

    [25]Susnjak, T. (2022). ChatGPT: The End of Online Exam Integrity? [EB/OL]. [2024-01-19]. https://arxiv.org/abs/2212.09292.

    [26]UNESCO (2023a). Guidance for Generative AI in Education and Research[EB/OL]. [2024-01-19]. https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research.

    [27]UNESCO (2023b). Generative AI and the Future of Education[EB/OL]. [2024-01-19]. https://unesdoc.unesco.org/ark:/48223/pf0000385877.

    [28]US Congress (2020). National Artificial Intelligence Initiative Act of 2020[EB/OL]. [2024-01-19]. https://www.congress.gov/bill/116th-congress/house-bill/6216.

    [29]US Copyright Office (2023). Copyright Registration Guidance: Works Containing Material Generated by Artificial Intelligence[EB/OL]. [2024-01-19]. https://www.copyright.gov/ai/ai_policy_guidance.pdf.

    [30]Van Doorn, N. (2017). Platform Labor: On the Gendered and Racialized Exploitation of Low-Income Service Work in the“On-Demand”Economy[J].Information, Communication Society, 20(6):898-914.

    [31]Van Noorden, R., & Perkel, J. M. (2023). AI and Science: What 1,600 Researchers Think[J]. Nature, 621(7980):672-675.

    How to Regulate the Application of Generative Artificial Intelligence in Scientific Research:

    Risks and Strategies

    ——Based on an Analysis of EU and U.S. AI Policies

    Abstract: Generative artificial intelligence has garnered extensive attention in scientific research due to its rapid and powerful content generation capabilities, sparking discussions on how to effectively regulate its application in scientific research. In this regard, the European Union and the United States have taken the lead in initiating actions, formulating a series of AIGC policies to comprehensively regulate its research, deployment and use. Based on a two-dimensional analytical framework of policy tools and policy content, an analysis of recent EU and U.S. policies related to risk management reveals that the use of AIGC to assist scientific research may pose risks such as privacy and security concerns, dissemination of discrimination, integrity challenges and regulatory lags, etc. The EU and the U.S., while adhering to the goal oTiGCLl6/qxCReKZ/M/ta3g==f building trustworthy AI and a human-centered value orientation, have established comprehensive risk management frameworks that outline specific processes and methods for risk identification and response. They have clarified the respective rights and responsibilities of different stakeholders by promoting their participation and collaboration. Meanwhile, to ensure the implementation of regulation, the EU and the U.S. have improved the regulatory mechanism by establishing data protection regulations, copyright protection laws and ethical frameworks. In the future, China should unite different parties to construct a detailed and adaptable regulatory framework for AIGC application risks and corresponding policies and laws, ensuring that the use of AIGC in scientific research complies with ethical and legal norms.

    Keywords: Generative Artificial Intelligence; Scientific Research; Risk Management Framework; Regulatory Strategies;Academic Ethics

    av免费在线看不卡| 久久久精品94久久精品| 成人国产麻豆网| 91午夜精品亚洲一区二区三区| 亚洲成人av在线免费| 成年av动漫网址| 99热这里只有是精品在线观看| 久久久色成人| 国产精品久久视频播放| 女人十人毛片免费观看3o分钟| 深爱激情五月婷婷| or卡值多少钱| 一级毛片电影观看 | 免费看光身美女| 麻豆一二三区av精品| 亚洲人成网站高清观看| 国产在视频线在精品| 欧美另类亚洲清纯唯美| 中出人妻视频一区二区| 免费看av在线观看网站| 国产中年淑女户外野战色| 国产黄色视频一区二区在线观看 | 久久精品国产自在天天线| 日产精品乱码卡一卡2卡三| av.在线天堂| 国产老妇女一区| 国产黄片美女视频| 婷婷精品国产亚洲av| 国产毛片a区久久久久| www.av在线官网国产| 九草在线视频观看| 日日摸夜夜添夜夜添av毛片| 99久久精品一区二区三区| 国产高清三级在线| 天堂影院成人在线观看| 亚洲国产精品久久男人天堂| 99热6这里只有精品| 麻豆成人午夜福利视频| 欧美日韩乱码在线| 欧美性猛交黑人性爽| 欧美精品国产亚洲| 亚洲国产欧美在线一区| 亚洲精品色激情综合| 久久久久久久久久黄片| 少妇被粗大猛烈的视频| 日本色播在线视频| 97人妻精品一区二区三区麻豆| 国产 一区精品| 18禁黄网站禁片免费观看直播| 精品人妻视频免费看| 2022亚洲国产成人精品| 亚洲真实伦在线观看| 国产一区二区三区av在线 | 日韩av在线大香蕉| 日日摸夜夜添夜夜爱| 一个人观看的视频www高清免费观看| 综合色丁香网| 女人十人毛片免费观看3o分钟| 久久韩国三级中文字幕| а√天堂www在线а√下载| 日本爱情动作片www.在线观看| 在线观看美女被高潮喷水网站| 超碰av人人做人人爽久久| 99九九线精品视频在线观看视频| 久久久精品欧美日韩精品| 亚洲真实伦在线观看| 少妇人妻一区二区三区视频| 哪个播放器可以免费观看大片| 男女视频在线观看网站免费| 一级二级三级毛片免费看| 中文精品一卡2卡3卡4更新| 亚州av有码| 狠狠狠狠99中文字幕| 国产麻豆成人av免费视频| 亚洲天堂国产精品一区在线| www.av在线官网国产| 久久99精品国语久久久| 国产一区二区亚洲精品在线观看| 国产淫片久久久久久久久| 久久人妻av系列| 国内精品一区二区在线观看| eeuss影院久久| 男女边吃奶边做爰视频| 亚洲国产精品成人久久小说 | 色吧在线观看| 午夜福利在线观看吧| 久久精品国产99精品国产亚洲性色| 国产激情偷乱视频一区二区| 午夜福利高清视频| 成年女人永久免费观看视频| 乱系列少妇在线播放| 国产 一区 欧美 日韩| 大香蕉久久网| 国产精品av视频在线免费观看| 深爱激情五月婷婷| 亚洲精品456在线播放app| 国产精品人妻久久久久久| 在线观看av片永久免费下载| 久久久久久久午夜电影| 麻豆成人午夜福利视频| 99久久精品一区二区三区| 麻豆久久精品国产亚洲av| 久久精品国产清高在天天线| 春色校园在线视频观看| 非洲黑人性xxxx精品又粗又长| 欧美一级a爱片免费观看看| 黄色一级大片看看| 亚洲精品日韩av片在线观看| 一级毛片久久久久久久久女| 亚洲第一电影网av| 天堂中文最新版在线下载 | 久久午夜福利片| 免费看日本二区| 国产伦理片在线播放av一区 | 一边亲一边摸免费视频| 国产精品一区www在线观看| 亚洲在线观看片| 欧美三级亚洲精品| АⅤ资源中文在线天堂| 日日摸夜夜添夜夜爱| 女人被狂操c到高潮| 18+在线观看网站| 欧美+亚洲+日韩+国产| 国产精品三级大全| 青春草国产在线视频| 国产午夜精品一二区理论片| av在线观看视频网站免费| 九色成人免费人妻av| 春色校园在线视频观看| 又黄又爽又刺激的免费视频.| 国产男女超爽视频在线观看| 国产精品无大码| 国产精品三级大全| 少妇人妻精品综合一区二区| 国产成人午夜福利电影在线观看| 高清黄色对白视频在线免费看| 爱豆传媒免费全集在线观看| a级毛片黄视频| 大又大粗又爽又黄少妇毛片口| 狠狠婷婷综合久久久久久88av| 日韩制服骚丝袜av| 亚洲精品国产av成人精品| 国产精品久久久久久久久免| av视频免费观看在线观看| 国产成人精品无人区| 啦啦啦在线观看免费高清www| 最近手机中文字幕大全| 国产乱人偷精品视频| 日韩熟女老妇一区二区性免费视频| 精品久久久久久久久亚洲| 亚洲av电影在线观看一区二区三区| 欧美精品亚洲一区二区| 80岁老熟妇乱子伦牲交| 精品人妻偷拍中文字幕| 国产视频首页在线观看| 999精品在线视频| 久久久久久久久久成人| 亚洲怡红院男人天堂| 久久精品久久精品一区二区三区| 国产在线一区二区三区精| 欧美精品一区二区大全| 亚洲av.av天堂| 美女内射精品一级片tv| 国产亚洲精品第一综合不卡 | 国产探花极品一区二区| 日韩制服骚丝袜av| 亚洲国产色片| 久久亚洲国产成人精品v| 只有这里有精品99| 亚洲精品av麻豆狂野| 熟妇人妻不卡中文字幕| 亚洲欧美精品自产自拍| 久久久精品94久久精品| 久久99热6这里只有精品| 午夜福利,免费看| 国产一区二区三区av在线| 久久人人爽av亚洲精品天堂| 亚洲国产成人一精品久久久| 黄色一级大片看看| 亚州av有码| 能在线免费看毛片的网站| 中文字幕人妻熟人妻熟丝袜美| 熟女电影av网| 日韩三级伦理在线观看| 欧美丝袜亚洲另类| 两个人的视频大全免费| 美女内射精品一级片tv| 亚洲,欧美,日韩| 国产成人免费观看mmmm| 久久久久国产精品人妻一区二区| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 午夜精品国产一区二区电影| 亚洲第一区二区三区不卡| 国产亚洲最大av| 亚洲人成网站在线播| 成人毛片60女人毛片免费| a级毛片免费高清观看在线播放| 最近2019中文字幕mv第一页| 亚洲无线观看免费| 纵有疾风起免费观看全集完整版| 成人18禁高潮啪啪吃奶动态图 | 青春草视频在线免费观看| 亚洲国产精品一区二区三区在线| 国产伦精品一区二区三区视频9| 一区二区三区四区激情视频| 老女人水多毛片| 人体艺术视频欧美日本| 亚洲欧洲日产国产| 国产精品蜜桃在线观看| 欧美最新免费一区二区三区| 日韩大片免费观看网站| 韩国高清视频一区二区三区| 亚洲av日韩在线播放| 激情五月婷婷亚洲| 亚洲美女搞黄在线观看| 亚洲欧美一区二区三区黑人 | 久久久久久久久久成人| 我的女老师完整版在线观看| 久热久热在线精品观看| 性高湖久久久久久久久免费观看| 2018国产大陆天天弄谢| 少妇熟女欧美另类| 伊人久久精品亚洲午夜| 久久久午夜欧美精品| 在线观看美女被高潮喷水网站| 精品99又大又爽又粗少妇毛片| 成人免费观看视频高清| 久久久久视频综合| 亚洲高清免费不卡视频| 中文字幕久久专区| 午夜福利网站1000一区二区三区| 日本av手机在线免费观看| 丝瓜视频免费看黄片| 免费观看av网站的网址| 伦理电影免费视频| 久热久热在线精品观看| 寂寞人妻少妇视频99o| 男女国产视频网站| 飞空精品影院首页| 中文字幕人妻丝袜制服| 亚洲精品国产色婷婷电影| 婷婷色av中文字幕| 国产成人精品在线电影| 欧美国产精品一级二级三级| 日本黄色片子视频| 欧美日韩一区二区视频在线观看视频在线| av卡一久久| 免费看不卡的av| 成人国产av品久久久| 这个男人来自地球电影免费观看 | 亚洲一区二区三区欧美精品| 日韩亚洲欧美综合| 中文字幕人妻丝袜制服| 国产成人a∨麻豆精品| 极品少妇高潮喷水抽搐| 91aial.com中文字幕在线观看| 久久国产亚洲av麻豆专区| av线在线观看网站| 母亲3免费完整高清在线观看 | 成人二区视频| 人体艺术视频欧美日本| 欧美另类一区| 九九爱精品视频在线观看| 欧美日韩一区二区视频在线观看视频在线| 午夜久久久在线观看| 国产日韩欧美视频二区| 80岁老熟妇乱子伦牲交| 一区在线观看完整版| av电影中文网址| 国产av一区二区精品久久| 制服诱惑二区| videossex国产| 成年女人在线观看亚洲视频| 3wmmmm亚洲av在线观看| 色婷婷久久久亚洲欧美| 久久av网站| 国产伦精品一区二区三区视频9| 成人漫画全彩无遮挡| 欧美3d第一页| 亚洲久久久国产精品| 肉色欧美久久久久久久蜜桃| 日日撸夜夜添| 亚洲国产最新在线播放| 婷婷成人精品国产| 一个人看视频在线观看www免费| 我的老师免费观看完整版| 精品国产一区二区久久| 美女xxoo啪啪120秒动态图| 女性被躁到高潮视频| av在线app专区| 亚洲国产日韩一区二区| 精品熟女少妇av免费看| 国产国语露脸激情在线看| 久久人人爽av亚洲精品天堂| 建设人人有责人人尽责人人享有的| 赤兔流量卡办理| 大话2 男鬼变身卡| 各种免费的搞黄视频| 高清欧美精品videossex| 18禁观看日本| 欧美日本中文国产一区发布| 2018国产大陆天天弄谢| 丁香六月天网| 亚洲色图 男人天堂 中文字幕 | 女人精品久久久久毛片| 久久精品国产亚洲网站| 不卡视频在线观看欧美| 爱豆传媒免费全集在线观看| 久久99热6这里只有精品| 熟女电影av网| 国产精品女同一区二区软件| 91精品国产九色| 亚洲av日韩在线播放| av在线播放精品| 国产淫语在线视频| 69精品国产乱码久久久| 黄色视频在线播放观看不卡| 老司机影院毛片| 国产亚洲午夜精品一区二区久久| 欧美日韩亚洲高清精品| 国产精品 国内视频| 精品少妇内射三级| 高清视频免费观看一区二区| 国产一区亚洲一区在线观看| 九九爱精品视频在线观看| 亚洲一区二区三区欧美精品| 亚洲精品av麻豆狂野| 一级毛片aaaaaa免费看小| 国产精品无大码| 老司机亚洲免费影院| 日本黄色日本黄色录像| 国产成人精品婷婷| 嘟嘟电影网在线观看| 亚洲av欧美aⅴ国产| 啦啦啦视频在线资源免费观看| 国产淫语在线视频| 国产 一区精品| 国产老妇伦熟女老妇高清| 亚洲丝袜综合中文字幕| 日韩精品有码人妻一区| 欧美xxxx性猛交bbbb| 最近中文字幕2019免费版| 黑人猛操日本美女一级片| 久久精品国产a三级三级三级| 中文字幕人妻丝袜制服| 啦啦啦视频在线资源免费观看| 久久这里有精品视频免费| 少妇丰满av| 国产黄色视频一区二区在线观看| 亚洲人成77777在线视频| 男女高潮啪啪啪动态图| 欧美丝袜亚洲另类| 免费高清在线观看日韩| 国产精品三级大全| 国产日韩欧美在线精品| 欧美bdsm另类| 狂野欧美白嫩少妇大欣赏| 久久精品人人爽人人爽视色| 色视频在线一区二区三区| 秋霞伦理黄片| 99热网站在线观看| 99热这里只有精品一区| 91国产中文字幕| 精品一区二区三区视频在线| 插逼视频在线观看| 国产成人a∨麻豆精品| 国产伦理片在线播放av一区| 精品久久久久久电影网| 女的被弄到高潮叫床怎么办| 大香蕉久久成人网| 超碰97精品在线观看| 亚洲成色77777| av卡一久久| 亚洲av二区三区四区| 久久 成人 亚洲| 国产在线免费精品| 亚洲国产最新在线播放| 大话2 男鬼变身卡| 51国产日韩欧美| 亚洲激情五月婷婷啪啪| 另类精品久久| 欧美bdsm另类| 涩涩av久久男人的天堂| 大码成人一级视频| 人妻 亚洲 视频| 伦理电影免费视频| 亚洲久久久国产精品| 日本av手机在线免费观看| 国产在线视频一区二区| 亚洲成人手机| 人妻制服诱惑在线中文字幕| 大片免费播放器 马上看| 国产男女超爽视频在线观看| 99久国产av精品国产电影| 在线看a的网站| 五月天丁香电影| 天天操日日干夜夜撸| 最近2019中文字幕mv第一页| 成人手机av| 飞空精品影院首页| 国产成人91sexporn| 涩涩av久久男人的天堂| 2018国产大陆天天弄谢| a级片在线免费高清观看视频| av天堂久久9| 国产精品99久久久久久久久| 热re99久久国产66热| 波野结衣二区三区在线| 一本一本综合久久| 伊人亚洲综合成人网| 久久人人爽人人片av| 91aial.com中文字幕在线观看| 香蕉精品网在线| 国产极品粉嫩免费观看在线 | 91午夜精品亚洲一区二区三区| 韩国av在线不卡| 亚洲精品,欧美精品| 久热久热在线精品观看| 久久久久久久久大av| 国产日韩欧美在线精品| 狂野欧美激情性xxxx在线观看| 人人妻人人爽人人添夜夜欢视频| 午夜福利视频精品| 全区人妻精品视频| 国产 精品1| 国产精品国产三级专区第一集| 免费看av在线观看网站| 日韩制服骚丝袜av| 大又大粗又爽又黄少妇毛片口| 男女国产视频网站| 久久鲁丝午夜福利片| 男男h啪啪无遮挡| 一级毛片黄色毛片免费观看视频| 美女国产高潮福利片在线看| 日本与韩国留学比较| 国产精品久久久久久久久免| 亚洲av.av天堂| 久久狼人影院| 国产综合精华液| 伦理电影大哥的女人| av国产久精品久网站免费入址| 在线天堂最新版资源| 精品一区二区三区视频在线| 黄片无遮挡物在线观看| 内地一区二区视频在线| 亚洲综合色网址| 日韩在线高清观看一区二区三区| 啦啦啦视频在线资源免费观看| 99视频精品全部免费 在线| 2021少妇久久久久久久久久久| 天天躁夜夜躁狠狠久久av| 性色av一级| 少妇被粗大猛烈的视频| 亚洲av成人精品一区久久| 亚洲综合精品二区| 三级国产精品欧美在线观看| 国产精品一二三区在线看| 日韩中字成人| 一个人免费看片子| 欧美国产精品一级二级三级| 亚洲国产日韩一区二区| 国产亚洲精品久久久com| 亚洲精品自拍成人| 精品99又大又爽又粗少妇毛片| 97超视频在线观看视频| kizo精华| 丝袜美足系列| 永久免费av网站大全| 久久久精品区二区三区| 国产成人91sexporn| 日韩精品免费视频一区二区三区 | 王馨瑶露胸无遮挡在线观看| 亚洲av欧美aⅴ国产| 免费看av在线观看网站| 色婷婷av一区二区三区视频| 中文字幕久久专区| 午夜免费鲁丝| 99视频精品全部免费 在线| 国产成人aa在线观看| 哪个播放器可以免费观看大片| 十八禁高潮呻吟视频| 免费久久久久久久精品成人欧美视频 | 亚洲四区av| 久久久久久久久久久久大奶| 国产精品久久久久久久久免| 亚洲精品色激情综合| 国产精品不卡视频一区二区| 好男人视频免费观看在线| 亚洲av欧美aⅴ国产| 亚洲精品456在线播放app| 一级毛片 在线播放| av专区在线播放| 免费观看性生交大片5| 日本免费在线观看一区| 久久精品国产亚洲网站| 少妇人妻久久综合中文| 99久久精品一区二区三区| 国产高清有码在线观看视频| 欧美xxⅹ黑人| 蜜桃国产av成人99| 久久久久视频综合| 欧美+日韩+精品| av电影中文网址| 最新的欧美精品一区二区| 亚洲人成网站在线播| 一级片'在线观看视频| 91精品三级在线观看| 丰满少妇做爰视频| 亚洲精品亚洲一区二区| 中文字幕免费在线视频6| 啦啦啦在线观看免费高清www| 亚洲,欧美,日韩| 高清不卡的av网站| 午夜福利网站1000一区二区三区| 欧美成人精品欧美一级黄| 亚洲精品色激情综合| 国产成人一区二区在线| 中文字幕精品免费在线观看视频 | 午夜免费鲁丝| 亚洲欧美精品自产自拍| 嘟嘟电影网在线观看| 亚洲国产欧美在线一区| 免费看光身美女| 国产精品嫩草影院av在线观看| 如日韩欧美国产精品一区二区三区 | 久久女婷五月综合色啪小说| 国产黄色视频一区二区在线观看| 亚洲av成人精品一二三区| 亚洲丝袜综合中文字幕| 男男h啪啪无遮挡| a级毛片在线看网站| 蜜桃久久精品国产亚洲av| 亚洲一级一片aⅴ在线观看| 色5月婷婷丁香| 插阴视频在线观看视频| 成人手机av| 久久久久久久亚洲中文字幕| 在线观看美女被高潮喷水网站| av.在线天堂| 国产精品久久久久久精品古装| 国产一区亚洲一区在线观看| 精品少妇黑人巨大在线播放| 中文字幕精品免费在线观看视频 | 午夜激情久久久久久久| 亚洲精品久久成人aⅴ小说 | 久久毛片免费看一区二区三区| 国产男女内射视频| 考比视频在线观看| 精品卡一卡二卡四卡免费| 汤姆久久久久久久影院中文字幕| 伊人久久国产一区二区| 欧美性感艳星| 中文字幕人妻丝袜制服| 亚洲国产欧美日韩在线播放| 免费久久久久久久精品成人欧美视频 | 国产精品人妻久久久久久| 欧美日韩国产mv在线观看视频| 亚洲精品自拍成人| 精品亚洲成国产av| 美女xxoo啪啪120秒动态图| 日本-黄色视频高清免费观看| 国产精品久久久久久久久免| 国产男女内射视频| 免费av不卡在线播放| a级毛色黄片| 免费不卡的大黄色大毛片视频在线观看| 欧美人与善性xxx| 久久久久网色| 精品国产一区二区久久| 熟女av电影| 欧美 亚洲 国产 日韩一| 国产一区二区三区av在线| 青春草视频在线免费观看| 91精品伊人久久大香线蕉| 久久久午夜欧美精品| 又黄又爽又刺激的免费视频.| 久久99热这里只频精品6学生| 午夜福利网站1000一区二区三区| 高清毛片免费看| 亚洲av电影在线观看一区二区三区| 免费观看av网站的网址| 中文字幕制服av| 国产视频首页在线观看| 精品熟女少妇av免费看| 中文字幕制服av| 国产视频首页在线观看| 美女脱内裤让男人舔精品视频| 亚洲av综合色区一区| 国产精品免费大片| 久久久久久久久久人人人人人人| 99热全是精品| 亚洲av福利一区| 日韩熟女老妇一区二区性免费视频| 久久精品国产亚洲网站| 在线观看三级黄色| 色94色欧美一区二区| 久久久久国产精品人妻一区二区| 十分钟在线观看高清视频www| 熟女av电影| a级毛片黄视频| www.色视频.com| 亚洲久久久国产精品| 男人爽女人下面视频在线观看| 亚洲怡红院男人天堂| 欧美人与善性xxx| a级毛片黄视频| 精品久久久久久电影网| 一个人看视频在线观看www免费| 免费观看的影片在线观看| 国产精品无大码| 99久久精品一区二区三区| 亚洲精品国产av成人精品| 日韩伦理黄色片| 亚洲国产精品999| av女优亚洲男人天堂|