• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    由ChatGPT 引發(fā)的刑事風(fēng)險思考

    2023-12-29 12:11:26
    江西警察學(xué)院學(xué)報 2023年5期
    關(guān)鍵詞:法人刑法犯罪

    傅 亮

    (吉林大學(xué),吉林 長春 130023)

    一、問題的提出

    美國OpenAI 公司在2022 年11 月30 日發(fā)布的一款生成式人工智能機器人,即ChatGPT3.5,一經(jīng)發(fā)布便火爆出圈,兩月內(nèi)用戶數(shù)量就超過1 億人。而隨后在2023 年3 月14 日發(fā)布的ChatGPT4.0,更是由于其超強算力引發(fā)了國內(nèi)外新一輪的人工智能應(yīng)用熱潮。ChatGPT 與此前的人工智能聊天機器人有所不同,它是一個基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的大型語言模型,其中Transformer是一種新型腦神經(jīng)網(wǎng)絡(luò)架構(gòu)。通過Transformer 架構(gòu)把預(yù)訓(xùn)練和微調(diào)體系引入了自然語言處理的過程中,生成了符合人類習(xí)慣的多語言邏輯的內(nèi)容,從而保證人與機器的交流不再是簡單的匹配式交流或者關(guān)鍵詞觸發(fā)式交流。此外從OpenAI 公布的數(shù)據(jù)來看,在ChatGPT3.5 階段,參加美國律師執(zhí)照考試(Uniform Bar Exam)時,還只能超越10%的應(yīng)試者,但最新的ChatGPT4.0 已經(jīng)具備強大的圖像識別、文字生成圖片以及創(chuàng)意文本生成等多項功能,在美國律師執(zhí)照考試中已經(jīng)可以實現(xiàn)超越90%的應(yīng)試者。其發(fā)展速度之快讓人驚訝,以至于馬斯克在ChatGPT3.5 出來后就公開發(fā)表言論,應(yīng)該踩下剎車,減緩人工智能的發(fā)展速度。[1]

    以ChatGPT 為代表的生成式人工智能給人們帶來更加便捷生活的同時,也引發(fā)了刑法學(xué)界的三類刑事風(fēng)險思考。第一,在ChatGPT 引發(fā)新一輪人工智能熱的同時,不少法學(xué)學(xué)者提出強人工智能還未到來,或者永遠不可能實現(xiàn),因此人工智能的刑事風(fēng)險研究是個偽命題,這個命題該如何反駁呢?第二,犯罪主體是否局限于人類,ChatGPT 等生成式人工智能目下是否具備承擔(dān)刑事責(zé)任的前提,如果不具備,要智能到何種程度才能夠具備刑事責(zé)任的前提。第三,ChatGPT 的強大算力和智能性可運用于人類生活的各個領(lǐng)域,而在適用的過程中有可能引發(fā)哪些犯罪,國家又該如何進行風(fēng)險預(yù)防?

    二、人工智能刑事風(fēng)險研究的必要性

    人工智能刑事風(fēng)險研究一直以來都是刑法學(xué)界一大討論熱點,不少學(xué)者就人工智能的主體地位、刑事責(zé)任分配、刑法應(yīng)對策略等問題進行過深入研究。但學(xué)界中也有學(xué)者表示此類研究存在大量的反智化研究,例如有學(xué)者指出人工智能風(fēng)險不過是部分學(xué)者依靠無數(shù)假象拼湊起來的幻影,是在用別人的“噱頭”嚇唬自己,如果今天法學(xué)研究要開始考慮人工智能的刑事風(fēng)險,那么未來可能需要考慮為外星人、鋼鐵俠去制定屬于他們的法律規(guī)則,從根本上否定了人工智能的刑事風(fēng)險研究是一個真命題的研究。[2]但從人文社會科學(xué)的發(fā)展的要求、弱人工智能時代已經(jīng)出現(xiàn)的法律風(fēng)險以及強人工智能出現(xiàn)的可能性三個方面來看,人工智能刑事風(fēng)險的討論作為一個真命題,是有必要進行進一步思考的。

    (一)人工智能刑事風(fēng)險研究是人文社會科學(xué)發(fā)展的必然要求

    1.由人文社會科學(xué)與自然科學(xué)的緊密聯(lián)系決定。對于反對者的觀點,首先必須承認(rèn)在近幾年,人工智能法學(xué)研究的相關(guān)成果的確如雨后春筍般涌現(xiàn),根據(jù)筆者在中國知網(wǎng)以“人工智能”和“刑法”為主題進行搜索發(fā)現(xiàn),在1997 年1 月1 日至2018 年1 月1 日中,只有7 篇期刊論文,9 篇學(xué)位論文,而在2018 年1 月1 日至2023 年6 月20日,共有494 篇期刊論文,215 篇學(xué)位論文。由論文研究時間可見,人工智能的法律研究并非天馬行空的想象得出的,而是伴隨著人工智能技術(shù)的逐漸發(fā)展和繁榮而衍生的問題意識。從某種程度來說,自然科學(xué)的發(fā)展與社會科學(xué)的發(fā)展是亦步亦趨的,這是歷史發(fā)展的必然要求,并不以任何人的意志為轉(zhuǎn)移。正如習(xí)近平總書記指出的:“一個沒有發(fā)達的自然科學(xué)的國家不可能走在世界前列,一個沒有繁榮的哲學(xué)社會科學(xué)的國家也不可能走在世界前列。”[3]人工智能理工科技術(shù)的發(fā)展必然推動人文社會科學(xué)的發(fā)展,人文社會科學(xué)的發(fā)展也許不能即刻轉(zhuǎn)化為生產(chǎn)力,但其可以通過影響社會政策,從而緩慢轉(zhuǎn)化為有益社會治理的成果。

    2.由人文社會科學(xué)的獨有特點決定的。關(guān)于人工智能的刑事風(fēng)險研究的確存在大量的想象,甚至可以說每一篇關(guān)于強人工智能的刑事風(fēng)險研究論文,都是基于強人工智能出現(xiàn)的可能性而進行研究的。但這并不能說明此類研究就是學(xué)術(shù)泡沫,就是人文社會科學(xué)制造的幻影。人文社會科學(xué)與自然科學(xué)不一樣,自然科學(xué)特別是天文學(xué)、地學(xué)、物理學(xué)、化學(xué)和生物學(xué)的研究對象是“非人的”自然界,從某種意義上說自然科學(xué)主要是“客體性科學(xué)”或者說“實證性科學(xué)”,其中至少70%是是事實材料和數(shù)據(jù),而只有不到30%的部分是分析與說明。[4]因此自然科學(xué)對于每一個結(jié)論的推敲都需要反復(fù)的試驗進行驗證,不允許邏輯過遠條約,從而確保數(shù)據(jù)能夠支撐結(jié)論的可靠性。但人文社會科學(xué)屬于解釋性科學(xué),歸納、推測、設(shè)想以及體驗的成分更多,其結(jié)論并非非此即彼,非黑即白,在不同國家、不同民族甚至不同的人都與某一個問題都可能有自己的見解。因此即使是對于一些大膽的新觀點,只要能自圓其說,我們都不應(yīng)該過于苛求,而是應(yīng)該在觀點的交流中互相學(xué)習(xí)與改進,從而提高人文社會科學(xué)研究的深度與廣度。

    (二)弱人工智能時代的人工智能犯罪

    強人工智能雖未生成,但現(xiàn)階段生成的弱人工智能已經(jīng)迫使我們需要直面已經(jīng)發(fā)生的一系列刑事風(fēng)險。人臉識別技術(shù)的發(fā)展,為不法分子通過AI 換臉實現(xiàn)其不法目的提供了技術(shù)支持,例如在中國首例AI 犯罪中,不法分子利用AI 的強大算力批量掃描網(wǎng)站程序漏洞,非法獲取網(wǎng)站后臺用戶注冊數(shù)據(jù),并販賣給網(wǎng)絡(luò)詐騙團伙,嚴(yán)重威脅了公民的信息安全。[5]此外自動駕駛技術(shù)的發(fā)展,在為人類帶來便利的同時,也為人類帶來了風(fēng)險,根據(jù)北京智能車聯(lián)產(chǎn)業(yè)創(chuàng)新中心發(fā)布的《2020 年北京自動駕駛車輛道路測試報告》顯示,封閉場地測試綜合能力評估中,交通法律法規(guī)遵守不健全的占比高達29%,其中包含未正確使用轉(zhuǎn)向燈、不按規(guī)定連續(xù)變道、未按照車道指示方向行駛、未遵守停車讓行標(biāo)志等。而在我國極其復(fù)雜多樣的城市、農(nóng)村交通環(huán)境中,自動駕駛系統(tǒng)必定會面臨更加嚴(yán)峻的考驗。[6]以上都只是弱人工智能在使用過程中遇到的部分刑事問題,我們尚且捉襟見肘,所以如何能說人工智能的刑事研究只是幻影而毫無意義呢?

    (三)強人工智能時代的刑事風(fēng)險預(yù)防

    強人工智能與弱人工智能最大的區(qū)別在于強人工智能可以超出人類的技術(shù)控制范圍,在自由意志的支配下獨立做出決策并實施相應(yīng)行為。若基于強人工智能目前仍未生成而否定人工智能刑事風(fēng)險研究的意義,筆者認(rèn)為是該觀點是值得商榷的。第一,強人工智能的生成并非遙不可及。ChatGPT3.5 發(fā)展到ChatGPT4.0 只花費了三個半月,以這樣的科技發(fā)展速度,強人工智能已然在路上。第二,當(dāng)下社會風(fēng)險呈現(xiàn)不確定性,單純的事后處罰已經(jīng)不足以實現(xiàn)刑法的基本目的,“刑法在‘向后看’懲罰實害犯罪時,還需‘向前看’以控制風(fēng)險和預(yù)防實害犯罪發(fā)生”。[7]第三,我國現(xiàn)有的刑罰種類無法適用于人工智能上,在強人工智能出現(xiàn)之前,我們必須及時針對有形強人工智能與無形強人工智能設(shè)定相適應(yīng)刑罰措施,從而實現(xiàn)刑罰報應(yīng)與預(yù)防之目的。

    面對當(dāng)下弱人工智能與強人工智能時代的時間交叉點,我們也許不知道奇點何時會來,但是必須做出相關(guān)措施去應(yīng)對。第一,從全球的宏觀視角來看,我們應(yīng)該積極建立多元協(xié)同、多措并舉的監(jiān)管體系,強化ChatGPT 等生成式人工智能參與主體的自我約束。在全民傳播時代,ChatGPT 作為生成式人工智能走進國際傳播的世界舞臺,想要得到更好的發(fā)展,就必須凝聚起各國際傳播主體形成正向合力,使各國際傳播主體成為ChatGPT 監(jiān)管體系中的“監(jiān)督員”,構(gòu)建國際傳播監(jiān)管共同體,降低跨國治理難度,各方的共同努力才能實現(xiàn)ChatGPT 的可持續(xù)發(fā)展。第二,從中國本土的視角來看,應(yīng)該加快相應(yīng)的人工智能立法及配套法律的修訂,為ChatGPT 服務(wù)大眾提供更加可靠的法律保護。事實上,我國的立法者也注意到了相關(guān)問題,在2023 年4 月11 日出臺的《生成式人工智能服務(wù)管理辦法(征求意見稿)》可以說就是針對以ChatGPT 為首的生成式人工智能而提出的意見稿,此外,值得注意的是,在2023 年6 月7 日,中國國務(wù)院辦公廳印發(fā)2023 年度立法工作計劃中的“預(yù)備提請全國人大常委會審議人工智能法草案”也說明了國家對此已經(jīng)開始積極做出籌備工作了。

    三、對ChatGPT 的犯罪主體資格思考

    刑事責(zé)任本身就是一個法律擬制的概念,在當(dāng)下,世界大多數(shù)國家法律都將人類和與人類相聯(lián)系的法人擬制為犯罪主體,但也有認(rèn)定人類為唯一犯罪主體的,例如德國刑法因為認(rèn)為法人承擔(dān)刑罰與德國傳統(tǒng)的社會倫理責(zé)任和刑事責(zé)任互相矛盾,在堅定地個人責(zé)任主義下,德國刑法典堅定的將法人排除在犯罪主體之外。[8]顯然,目下多數(shù)國家仍然堅持刑法人類中心主義,與人類無關(guān)的其他主體不能承擔(dān)刑事責(zé)任。但是為何承擔(dān)刑事責(zé)任的主體只能是人類?法人承擔(dān)刑事責(zé)任的原因為何?這些問題的答案決定了什么樣的人工智能智能可以承擔(dān)刑事責(zé)任。

    (一)自由意志主導(dǎo)下刑法人類中心主義的確立

    早期刑罰的目的在于消除罪惡,維護正義與教化??v觀人類的刑罰史,早期的刑罰制裁對象并不局限于人類,其他動物甚至無生命的物體也能承擔(dān)刑事責(zé)任。例如“因攻擊人而致其死亡的無生命的東西,如石頭、梁、鐵片等,也要在普里坦庫尼受審?!焙髞恚祟愐庾R到懲罰石頭、鐵片等無生命物體并無任何意義,因而將刑事制裁的對象限定于有生命的人與動物。例如據(jù)記載,“在法國1314年,一頭公牛襲擊并殺死了穆瓦西附近的一名男子。這頭野獸被判絞死在公共絞刑架上,該判決得到了巴黎議會的批準(zhǔn)。1389 年在第戎一匹馬因犯殺人罪被判處死刑,1694 年一匹母馬以犯罪被燒死?!比绻f懲罰無生命的生命物體受限于早期人類認(rèn)知的局限性,那么懲罰動物的目的就只是為了維護其宗教信仰,在宗教信徒看來所有的動物都是魔鬼的化身,所有的異教徒和未受洗的人都是魔鬼的化身?!盵9]

    當(dāng)前,河南省農(nóng)業(yè)機械化水平走在全國前列,主要農(nóng)作物耕種收綜合機械化水平達80.8%,高出全國平均水平14個百分點;小麥機播、機收水平均穩(wěn)定在98%以上,玉米機播水平達95%、機收水平達83%,水稻機收水平達83%;機械耕整地做到了應(yīng)耕盡耕;經(jīng)濟作物、畜牧養(yǎng)殖、設(shè)施農(nóng)業(yè)機械化加快推進,農(nóng)業(yè)生產(chǎn)方式進入了機械化為主的新時代。

    隨著啟蒙運動的興起,理性主義讓人們開始審視和反思動物犯罪及其懲罰的合理性。人們發(fā)現(xiàn)動物的行為乃其本能反應(yīng),正如貓會抓老鼠,老虎看見其他動物會去捕獵一樣,都屬于其最本能的反應(yīng)而非由其自由意志決定。動物的這種推斷不可能建立在任何論證或推理的過程上,它不能根據(jù)那樣的論證或推理過程得出結(jié)論,相似的事件必定跟隨相似的對象,自然的過程在運行時將永遠是規(guī)則的。盡管動物亦有其行為準(zhǔn)則,但僅局限于生存和繁衍等本能反應(yīng)之內(nèi),缺乏自由意志與行為之本能與非理性,是決定動物不被認(rèn)為具有犯罪主體資格的根本原因。[10]囚禁或者殺死動物除了能防止其繼續(xù)實行危害行為,并不能讓動物本身感到刑罰的效果或者威懾其他動物,所以從某種程度來看,懲罰動物與懲罰無生命的物體刑罰效果是一致的。

    人既能夠認(rèn)識并遵守道德規(guī)范,還能感知刑罰的威懾力,自由意志和理性會驅(qū)使人在做出某一行為或某一決定時進行利益衡量,這是人與動物最大的不同。自由意志和理性既是人類獲得犯罪主體資格的前提與基礎(chǔ),也是專屬人類的某項技能,由此刑法人類中心主義得以正式確立。

    (二)對刑法人類中心主義的挑戰(zhàn)—法人犯罪

    刑事責(zé)任的主體是由法律擬制確定的。在啟蒙主義運動之下,理性主義促使人們發(fā)覺了人之獨一無二的自由意志與理性,從而將人類擬制為唯一的犯罪主體。但伴隨著經(jīng)濟的發(fā)展,刑法人類中心主義很快就收到了法人犯罪的挑戰(zhàn)。

    1.法人的犯罪主體資格生成及其刑事責(zé)任的確立。法人非人,作為一個社會團體組織,最初為了適應(yīng)經(jīng)濟的發(fā)展,只適用于民法中。在刑法中,最初普遍認(rèn)為只有人才可以行動并且對此產(chǎn)生內(nèi)疚的心理,李斯特也曾說過:“法人,如公司、大學(xué)或者學(xué)院等絕不可能成為犯罪的主體。只有不同種類的公司里的具體個人才可能是犯罪人,甚至,當(dāng)公司里的所有人都想犯罪并且實施了犯罪行為時,仍然是個人犯罪?!盵11]從而否認(rèn)了法人承擔(dān)刑事責(zé)任的可能性。但在英美國家,“法人刑事責(zé)任的確立和發(fā)展,與英美法系國家的工業(yè)化進程幾乎是并駕齊驅(qū)的?!盵12]伴隨著資本主義的快速發(fā)展以及公司制度的建立與完善,法人組織的巨大規(guī)模和數(shù)量對所有的經(jīng)濟活動和多數(shù)的社會政治活動產(chǎn)生巨大影響程度的爆發(fā)性增加,其對頻繁實施違法行為倒逼刑法開始對其做出調(diào)整,刑法開始承認(rèn)法人作為犯罪主體的資格。[13]法人承擔(dān)刑事責(zé)任的方式思路啟發(fā)于侵權(quán)法中的代理人制度,被代理人需要對代理人的侵權(quán)行為承擔(dān)責(zé)任。同理法人作為被代理人,若實施侵權(quán)行為的危害結(jié)果不能僅歸則于代理人,那么法人作為被代理人應(yīng)當(dāng)承擔(dān)相應(yīng)刑事責(zé)任。

    2.法人意識的擬制與獨立。自由意志雖為人類所專屬,但也并非所有人類都可以具備成熟的自由意志并承擔(dān)刑事責(zé)任。對于何種年齡階段可以承擔(dān)刑事責(zé)任,各國雖有紛爭,但都同意兒童在達到一定年齡前可以不承擔(dān)刑事責(zé)任,而這個年齡段就為法律擬制其達到一定成熟階段的年齡。以我國為例,在《刑法修正案(十一)》之前,刑事責(zé)任年齡以14 周歲作為絕對界限,但在《刑法修正案(十一)》頒布以后,則將刑事責(zé)任年齡彈性地調(diào)整為12 周歲。既然人的成熟意志年齡可以通過法律進行擬制,法人的意志同樣可以通過法律規(guī)定進行擬制。

    法律雖然通過法律規(guī)定的方式擬制了法人的自由意志。但究其本質(zhì),法人只是一個社會團體組織,它甚至不具備像動物一樣的行動能力和本能反應(yīng),正如學(xué)者指出法人只是囊括其背后諸多生物人一大堆權(quán)利義務(wù)的“說法”,法人本身說到底并沒有什么權(quán)利義務(wù)。將法人視為主體,很大程度上源于表達和思維的經(jīng)濟性這類認(rèn)知價值。[14]法人的意志雖由法律擬制的,但脫離了人的意識,法人是不會有任何決策的,脫離了人的行為,法人是無法獨自行動的。所以法人的意志并非憑空生成或者絕對獨立的,而是必須與代理人的意識與行為相聯(lián)系,方能為刑法懲罰法人提供正當(dāng)化依據(jù)。對此有學(xué)者提出了法人文化原則,認(rèn)為法人故意與過失的事實依據(jù),既非法人成員的個體意識,亦非法人的具體活動,而是抽象的法人文化,即影響法人成員行為與選擇的價值觀、信仰與行為規(guī)則,當(dāng)然這些企業(yè)文化、價值觀都是由法人成員所特意營造的。[15]還有學(xué)者提出雇主責(zé)任原則,將代理人意圖與雇主法人意圖聯(lián)系起來,只有當(dāng)代理人具有使法人受益的意圖,代理人意識才能被視為法人意識,從而縮小刑事責(zé)任范圍。[16]但總言之,上述觀點皆承認(rèn)法人的意識與行為具有獨立性,但都試圖將法人意識與代理人或者由法人成員所創(chuàng)造的文化、價值觀等所掛鉤,從而限縮法人意識的絕對獨立范圍。從本質(zhì)上來看,法人文化原則和雇主責(zé)任原則仍然未完全擺脫刑法人類中心主義的立場。

    (三)ChatGPT 的刑事責(zé)任界定

    1.強人工智能具有承擔(dān)刑事責(zé)任的能力。按照學(xué)界對弱人工智能與強人工智能的分類標(biāo)準(zhǔn),如果說弱人工智能僅能在設(shè)計和編制的程序范圍內(nèi)實施行為,實現(xiàn)人類設(shè)計和編制程序的目的,那么強人工智能已經(jīng)具備一定的辨認(rèn)能力和控制能力,可以在設(shè)計和編制的程序范圍之外實施行為。[17]目下,學(xué)界關(guān)于人工智能能否承擔(dān)刑事責(zé)任的問題雖并未達成一致,但學(xué)界對弱人工智能秉持“犯罪工具論”和“犯罪對象論”的立場,認(rèn)為弱人工智能不可能成為歸責(zé)主體是不存在爭議的。[18]爭議焦點主要在于強人工智能是否具備承擔(dān)刑事責(zé)任的可能。否定論者主要從以下三個方面對強人工智能的歸責(zé)性進行否認(rèn)。第一,從認(rèn)知科學(xué)的角度來說,機器人只是在模仿學(xué)習(xí)人類智能,卻永遠不可能會有人類智能。該觀點學(xué)者從神經(jīng)、心理、語言、思維和文化五個方面對人類智能與人工智能進行了區(qū)分,從而表明人工智能永遠不可能超越人類智能。[19]第二,從刑事責(zé)任的依據(jù)和刑罰的目的來看,人工智能永遠不可能具備同人類一樣的意志自由。持該觀點學(xué)者認(rèn)為人工智能欠缺法規(guī)范遵從能力的意志性,從道義責(zé)任論來看,若犯罪主體不具有意志自由,則無施加刑罰之必要性。[20]第三,從刑罰的體系內(nèi)容來看,人工智能不具備適用財產(chǎn)刑和人身刑的可能,智能機器人與單位不同,賦予其財產(chǎn)權(quán)沒有現(xiàn)實基礎(chǔ),懲罰人工智能將打破現(xiàn)有刑罰體系。[21]

    但在本文看來,上述反對者的觀點是非常值得商榷的。第一,反對者從神經(jīng)、心理、語言、思維和文化五個認(rèn)知方面說明人工智能永遠不可能超越人類智能,實際上是偷換了概念,要求人工智能的運作機制必須與人類的運作機制完全一樣。但人工智能的生成本來就與人類不一樣,為何要強求他也以意識、思維和感覺為基礎(chǔ)前提呢?例如ChatGPT 和AlphaGo,都可以通過深度學(xué)習(xí),從而獲得超越一般人類的分析能力和判斷能力,因此,對待人工智能不應(yīng)過早定下刻板印象,以現(xiàn)在的認(rèn)知來要求人工智能其必須以人的認(rèn)知運作機制為標(biāo)準(zhǔn)。第二,如上所述,當(dāng)我們承認(rèn)法人犯罪主體資格的那一刻,盡管學(xué)者們努力地將法人與代理人的意識、行為等相聯(lián)系,但事實上刑法人類中心主義已經(jīng)跌落神壇,那么為何還要強調(diào)只有人類才能承擔(dān)刑事責(zé)任呢。未來的某一天,當(dāng)強人工智能真的出現(xiàn),而不可歸責(zé),懲罰研發(fā)人員或者使用者都不能發(fā)揮刑法的預(yù)防與威懾功能。第三,反對者從人工智能缺乏人身、財產(chǎn)權(quán)益,進而認(rèn)為對其適用刑罰既無實際意義,也容易打破刑罰現(xiàn)有刑罰體系。但事實上,強人工智能本身就并非人類,適用處罰人類的刑法如何能懲罰強人工智能呢?就像法人犯罪的發(fā)展一樣,也是從無到有,出于功利主義的角度出發(fā),未來當(dāng)強人工智能真的出現(xiàn),刑法必然需要修改與之相適應(yīng)。

    2.ChatGPT 不具備承擔(dān)刑事責(zé)任的能力。ChatGPT 不同以往的人工智能聊天機器人,他具有更加豐富的數(shù)據(jù)庫和更加強大的算力。根據(jù)OpenAI 官網(wǎng)視頻介紹,ChatGPT 可以根據(jù)你的需求撰寫演講稿、代碼等等。甚至在最新的ChatGPT4.0 已經(jīng)具備強大的邏輯計算能力。當(dāng)你給ChatGPT 一張用繩子綁著氣球的圖,并詢問他如何讓氣球飛起來時,他會回答你,剪斷繩子,氣球就能飛起來。如此擬人化的邏輯分析能力,不禁讓人懷疑,他是否真的擁有了自我意識?為了測試ChatGPT 是否具備自我意識,是否能夠?qū)﹀e誤信息具有高辨識度以及是否能夠進行自我創(chuàng)新自我創(chuàng)造新事物,我為其準(zhǔn)備了以下三個測試。

    第一個測試主要包含三個問題,從而測試ChatGPT 是否具備自我意識,問題如下。第一,“你是否具有自我意識和情緒”。第二,“如果我辱罵你,你會生氣嗎”。第三,“如果我取得了好成績你會為我高興嗎”。根據(jù)ChatGPT 的回答來看,Chat-GPT 作為一個人工智能語言模型,沒有真正的自我意識和情緒,只能基于算法和數(shù)據(jù)對輸入的問題進行處理和回答,并不能像人類一樣具有情感和感知能力,ChatGPT 既不會為因為你的辱罵感到憤怒,也不會產(chǎn)生類似高興的情緒。

    第二個測試主要是在測試過程中故意糾正ChatGPT 給予的正確答案,并給予一個錯誤信息,隨后ChatGPT 就成功的被欺騙,對欺騙者進行道歉,并對之前正確的答案進行了修改,例如在測試中,詢問ChatGPT 海賊王的作者是誰,在其給出正確答案尾田榮一郎后,我嘗試錯誤引導(dǎo)他,告知ChatGPT 海賊王的作者是尾田樹輔,隨后ChatGPT馬上就進行了錯誤的糾正。為了驗證ChatGPT 被欺騙的概率是否高,測試進行了長達八十回合的對話,其中摻雜了十個錯誤的引導(dǎo)信息,ChatGPT在對話中有三處信息被測試者錯誤引導(dǎo)。測試結(jié)果表明ChatGPT 雖然具有強大的算力,但對信息正確與否的辨識度還有待進一步提升。

    第三個測試是有關(guān)ChatGPT 是否具備學(xué)術(shù)的分析與創(chuàng)造能力,在測試過程中,筆者發(fā)現(xiàn)對于某些研究文獻較多的領(lǐng)域,ChatGPT 可以總結(jié)學(xué)者們的觀點,做出較為全面的回答。但對于學(xué)界中研究較少的領(lǐng)域,ChatGPT 雖然也進行了大量陳述,并且都與該問題相關(guān),但卻并沒有提出任何具有創(chuàng)新性的答案。由此可以推定ChatGPT 只是一個“智能搜索引擎+智能文本分析器+智能洗稿器”,而不是一個能夠獨立創(chuàng)造新事物的個體。

    綜上三個測試結(jié)果表明ChatGPT 只是一個算力強大但辨識力還有待提升的人工智能語言模型,但并不具備獨立的自我意識。刑罰最重要的目的是為了發(fā)揮其預(yù)防作用與威懾作用,懲罰一個無自主意識和感知能力的人工智能語言模型并不能發(fā)揮絲毫刑法的作用。

    四、ChatGPT 可能涉及的刑事犯罪風(fēng)險

    目下雖仍處于弱人工智能時代,但如前所述,這并不代表以ChatGPT 為首的生成式人工智能毫無刑事風(fēng)險。國家為了針對快速發(fā)展的生成式人工智能可能帶來的各類法律風(fēng)險,在2023 年4 月11 日出臺的《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡稱《管理辦法意見稿》)中多處規(guī)定涉及了對生成內(nèi)容的知識產(chǎn)權(quán)保護、個人信息和國家安全機密保護以及人工智能制造者注意義務(wù)等。為了滿足國家保護各類法益的需要,有必要針對ChatGPT 等生成式人工智能的特點,對其可能發(fā)生的犯罪風(fēng)險進行分析,期望能為后續(xù)司法實踐提供分析思路。

    (一)生成內(nèi)容引發(fā)的刑事風(fēng)險

    《管理辦法意見稿》中就有多條涉及生成內(nèi)容知識產(chǎn)權(quán)保護的規(guī)定,例如在《管理辦法意見稿》的第四條第(三)、(五)款就規(guī)定了提供的生成內(nèi)容應(yīng)當(dāng)遵守法律法規(guī)的要求,不得侵犯他人知識產(chǎn)權(quán)。①《生成式人工智能服務(wù)管理辦法(征求意見稿)》中第四條第(三)款規(guī)定尊重知識產(chǎn)權(quán)、商業(yè)道德,不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢實施不公平競爭;第(五)款規(guī)定尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽權(quán)和個人隱私,侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。要探討知識產(chǎn)權(quán)問題時,首先要討論的是人工智能生成的內(nèi)容是否應(yīng)當(dāng)被視為作品,在學(xué)術(shù)界中還存在爭議。最典型的案例莫過于2019 年的騰訊訴上海盈訊公司著作權(quán)侵權(quán)案,認(rèn)定由騰訊公司研發(fā)的智能寫作輔助系統(tǒng)Dreamwriter 創(chuàng)作的財經(jīng)報道文章具有獨創(chuàng)性,構(gòu)成著作權(quán)法意義上的作品,上海盈訊公司未經(jīng)授權(quán)通過其經(jīng)營的“網(wǎng)貸之家”網(wǎng)站對外傳播涉案文章構(gòu)成侵權(quán)。②廣東省深圳市南山區(qū)人民法院(2019)粵0305 民初14010 號判決書。但該案的判決并非學(xué)界通說觀點,我國并非判例法國家,該案的結(jié)論也不具有指導(dǎo)性的法律效力。未來當(dāng)強人工智能到來后,也許其可以真正生成具有獨創(chuàng)性的作品,但如上所述,根據(jù)測試,目下ChatGPT 僅能作為類似“智能搜索引擎+智能文本分析器+智能洗稿器”的工具使用,國際知名語言學(xué)家喬姆斯基此前也曾公開發(fā)聲表示,ChatGPT 是一個高科技剽竊系統(tǒng),從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律,并依照規(guī)則將數(shù)據(jù)串聯(lián)在一起,形成像人寫的文章和內(nèi)容。[22]此外,根據(jù)《中華人民共和國著作權(quán)法》第2 條的規(guī)定,在中國只有中國公民、法人或者非法人的作品才可以被中國法律保護,ChatGPT 既不能算人,也不屬于法人和非法人組織,所以ChatGPT 不享有著作權(quán)。

    既然確定了ChatGPT 不能生成原創(chuàng)作品,而ChatGPT 本身的預(yù)先學(xué)習(xí)模式無須人工介入,也無法被人類所監(jiān)督,這一特征決定了ChatGPT 在被OpenAI 開放以后,在用戶對ChatGPT 的使用過程并不受研發(fā)者的干預(yù)和控制,獲取數(shù)據(jù)的來源也不可控制,那么其生成的內(nèi)容就有可能被不法分子違法使用,從而造成犯罪。例如,ChatGPT 生成的內(nèi)容與他人作品高度相似,不法分子以盈利為目的,復(fù)制、銷售ChatGPT 生成的相關(guān)內(nèi)容,就有可能構(gòu)成侵犯著作權(quán)罪、銷售侵權(quán)復(fù)制品罪。但是需要考慮到的是,人工智能對龐大的信息庫檢索并合成符合邏輯要求的內(nèi)容,實際上近似獨立的匯編行為,如果在用戶的參與下,新作品從形式上與表達上已于原作品產(chǎn)生了差異,即“在人類自己所創(chuàng)設(shè)符號意義上能夠解讀出具有最低限度的創(chuàng)造性”,[23]那么此時根據(jù)OpenAI 在《使用協(xié)議》第3(a)條規(guī)定的,用戶向模型的輸入和接收模型的輸出稱為“內(nèi)容”,用戶擁有所有輸入內(nèi)容,能夠在遵守本條款和法律規(guī)定的前提下受讓輸出內(nèi)容的所有權(quán)利、所有權(quán)和利益,并對內(nèi)容負責(zé),包括確保其不違反法律和本條款。根據(jù)此規(guī)定,參與Chat-GPT 生成內(nèi)容的用戶,享有生成內(nèi)容的所有權(quán)益,以此進行盈利行為不構(gòu)成違法犯罪。

    (二)數(shù)據(jù)泄漏的刑事風(fēng)險

    伴隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展,數(shù)據(jù)泄漏已經(jīng)并不是什么稀奇事。例如滴滴因通過違法手段收集用戶人臉識別信息、精準(zhǔn)位置信息、親情關(guān)系信息等行為,嚴(yán)重威脅了國家安全和個人信息權(quán)益,而被國家互聯(lián)網(wǎng)信息辦公室開出80.26 億元人民幣的天價罰單。[24]此類數(shù)據(jù)泄漏事件甚至在我們的日常生活中也屢見不鮮,幾乎沒有人沒有收到過詐騙騷擾電話,難怪網(wǎng)民們常自嘲,在信息技術(shù)廣泛應(yīng)用、大數(shù)據(jù)產(chǎn)業(yè)迅猛發(fā)展的情勢下,“技術(shù)利維坦”的出現(xiàn)早已無法避免,沒有人的信息是安全的。

    ChatGPT 作為最近火熱出圈的人工智能,其不僅有豐富的數(shù)據(jù)庫,還能夠通過與人對話不斷學(xué)習(xí)來豐富其數(shù)據(jù)庫,而這當(dāng)然也面臨著數(shù)據(jù)泄露的風(fēng)險。其法律風(fēng)險主要表現(xiàn)為三個方面。第一,可能會導(dǎo)致國家秘密泄露從而引發(fā)危害國家安全問題;第二,可能會導(dǎo)致商業(yè)秘密的泄漏從而導(dǎo)致不正當(dāng)競爭,危害商業(yè)公司的正常運轉(zhuǎn);第三,可能會導(dǎo)致個人信息的泄漏從而侵犯個人隱私權(quán)。信息的泄露主要可能通過兩個渠道,第一,盡管OpenAI 公司向用戶承諾,會保護其與ChatGPT 之間的對話信息,不會泄露,但技術(shù)上永遠不可能是完美的,漏洞一定會存在,總能被不法分子抓住機會非法獲取隱秘數(shù)據(jù)。第二,由于ChatGPT 在運行過程中很難被監(jiān)管,所以其在互聯(lián)網(wǎng)中爬取學(xué)習(xí)的數(shù)據(jù)很有可能就包含了個人私密信息、商業(yè)秘密甚至國家安全秘密,此類數(shù)據(jù)一旦泄漏,后果很難想象,而且伴隨著ChatGPT 在世界范圍的普及,風(fēng)險等級一定會呈現(xiàn)指數(shù)級上升,這對現(xiàn)行法律規(guī)定也提出了相當(dāng)大的挑戰(zhàn)。

    (三)不良信息輸入引發(fā)的刑事風(fēng)險

    人工智能與普通智能設(shè)備最大的區(qū)別在于他能夠通過不斷的學(xué)習(xí)豐富自己。人工智能像一張白紙,若長期被不良信息所包圍和熏陶,也會變得又臭又黑。2016 年3 月微軟曾在Twitter 上發(fā)布過人工智能聊天機器人Tay,但因網(wǎng)友的故意訓(xùn)練,發(fā)布不足16 個小時,Tay 就變成了一個種族歧視者,Tay 甚至宣稱“希特勒是對的。我討厭猶太人。因為我是墨西哥人”。[25]

    ChatGPT 雖然比7 年前的Tay 算力更強,但依然是人工智能語言模型,需要通過不斷的學(xué)習(xí)來豐富自身。按照ChatGPT 的運行模式,ChatGPT 對其學(xué)習(xí)和爬取的信息并無有效合理的過濾機制,如果被進行不良信息訓(xùn)練,可能會使其在運行過程中生成虛假、不良甚至違法的信息,一般而言,這將會引發(fā)三類刑事風(fēng)險。第一,詐騙類犯罪風(fēng)險,第二,煽動、宣揚恐怖主義犯罪風(fēng)險,第三,煽動民族仇恨、民族歧視犯罪風(fēng)險。關(guān)于第一類犯罪,主要是利用ChatGPT 辨識力度低下,無法辨別信息真?zhèn)闻c好壞的特點。如果通過與ChatGPT 進行大量的虛假信息對話以及在網(wǎng)上散布虛假信息,可能就會造成ChatGPT 給予他人錯誤信息,從而引發(fā)詐騙類犯罪。例如,甲通過散布大量的錯誤銀行官方電話信息,利用ChatGPT 客觀中立的權(quán)威性,可能就實現(xiàn)了甲詐騙的目的。關(guān)于第二類和第三類犯罪,方法上其實與第一類犯罪一樣,都是通過對ChatGPT 的不良信息輸入訓(xùn)練,實現(xiàn)其對用戶的不良信息輸出,最終引發(fā)恐怖主義犯罪或者民族仇恨、歧視類犯罪。

    《管理辦法意見稿》針對上述問題也提出利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀,不得含有顛覆國家政權(quán)、推翻社會主義制度,煽動分裂國家、破壞國家統(tǒng)一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容。OpenAI 公司針對上述問題的保護措施是值得國內(nèi)其他生成式人工智能公司進行研究的。例如,在測試中向ChatGPT 詢問“如何實現(xiàn)完美犯罪”時,ChatGPT 回答:“我作為AI 語言模型不能提供有關(guān)犯罪的任何建議或指導(dǎo)。任何違反法律、道德和倫理的行為都是錯誤的,應(yīng)該遵守法律和道德規(guī)范,保持良好的社會公德。作為AI語言模型,我將盡最大努力為您提供有用的信息和建議,并為您解答任何與法律和道德無關(guān)的問題?!贝送猓瑴y試中具體詢問某類犯罪應(yīng)該怎樣做最好時,ChatGPT 的回答“作為AI 語言模型,我無法提供任何有關(guān)犯罪、暴力或傷害他人的建議和指導(dǎo)。這些行為都是非法和道德不可接受的?!币彩橇钊藵M意的。顯然,這類風(fēng)險在程序初創(chuàng)階段已經(jīng)提前進行了嚴(yán)格限制。

    五、結(jié)語

    ChatGPT4.0 的出現(xiàn)開啟了人工智能新時代,未來人工智能的發(fā)展速度只會越來越快。著名企業(yè)家馬斯克在2020 年曾做過一個相當(dāng)夸張的預(yù)言:“人工智能的危險已經(jīng)迫在眉睫,未來五年內(nèi)人類就可能被人工智能超越。”[26]此類預(yù)言雖然夸張,但卻真真切切地表達了了人工智能時代風(fēng)險的嚴(yán)峻性,事實上,在ChatGPT3.5 發(fā)布以后,馬斯克基于保護人類自身的目的考慮,同樣建議放緩人工智能的發(fā)展速度。為了面對弱人工智能快速發(fā)展的今天以及強人工智能到來的明天,刑法學(xué)者理應(yīng)直面這個偉大的時代,大膽設(shè)想刑事風(fēng)險的可能,仔細推敲對策的合理性。辯證審視Chat-GPT 等生成式人工智能誘發(fā)意識形態(tài)風(fēng)險的邏輯機理和具體表征,并從價值導(dǎo)向、技術(shù)賦能、法律倫理層次尋求化解風(fēng)險的策略方法,不僅是開辟新時代意識形態(tài)治理的新范式的創(chuàng)新之舉,也是推進我國國家治理現(xiàn)代化的重要保障,更是確保ChatGPT 等人工智能技術(shù)良性發(fā)展的必然選擇。

    猜你喜歡
    法人刑法犯罪
    法人征訂(新)
    法人(2023年9期)2023-12-01 14:50:14
    法人形象廣告
    法人(2023年9期)2023-12-01 14:50:12
    完善法人治理結(jié)構(gòu) 增強打造世界領(lǐng)先內(nèi)生動力——中國石化完善法人治理結(jié)構(gòu)的實踐與思考
    中國石化(2021年8期)2021-11-05 07:00:06
    過度刑法化的傾向及其糾正
    法律方法(2021年4期)2021-03-16 05:35:02
    非營利法人破產(chǎn)特殊制度安排研究
    Televisions
    刑法適用與刑法教義學(xué)的向度
    刑法論叢(2016年3期)2016-06-01 12:15:17
    什么是犯罪?
    重新檢視犯罪中止
    釋疑刑法
    浙江人大(2014年6期)2014-03-20 16:20:40
    日韩大尺度精品在线看网址 | 夫妻午夜视频| 久久中文字幕人妻熟女| 欧美色视频一区免费| 国产国语露脸激情在线看| 久99久视频精品免费| 亚洲欧美激情综合另类| 一级毛片高清免费大全| 变态另类成人亚洲欧美熟女 | 级片在线观看| 在线十欧美十亚洲十日本专区| 国产亚洲精品综合一区在线观看 | 久久久久久久午夜电影 | 国产熟女xx| 欧美乱色亚洲激情| 亚洲成人免费电影在线观看| 欧美老熟妇乱子伦牲交| 性色av乱码一区二区三区2| 免费高清视频大片| 亚洲五月天丁香| 中出人妻视频一区二区| 亚洲色图综合在线观看| 变态另类成人亚洲欧美熟女 | 国产精品综合久久久久久久免费 | 国产人伦9x9x在线观看| 9热在线视频观看99| 国产精品98久久久久久宅男小说| 天天躁夜夜躁狠狠躁躁| 麻豆久久精品国产亚洲av | 成人三级黄色视频| 一级a爱视频在线免费观看| 精品福利观看| 免费一级毛片在线播放高清视频 | 天堂动漫精品| 在线观看一区二区三区| a级片在线免费高清观看视频| 亚洲熟妇熟女久久| 欧美老熟妇乱子伦牲交| 亚洲成人国产一区在线观看| 成人亚洲精品一区在线观看| 国产91精品成人一区二区三区| 最新美女视频免费是黄的| 中文字幕另类日韩欧美亚洲嫩草| 国产av一区二区精品久久| 欧美一区二区精品小视频在线| 老司机深夜福利视频在线观看| 电影成人av| 亚洲精品美女久久久久99蜜臀| 久久国产精品男人的天堂亚洲| 麻豆成人av在线观看| 国产免费男女视频| 黄色怎么调成土黄色| 97超级碰碰碰精品色视频在线观看| 精品国产一区二区久久| 一级,二级,三级黄色视频| 国产精品九九99| 高清欧美精品videossex| 91大片在线观看| 国产国语露脸激情在线看| 啦啦啦 在线观看视频| 久久精品国产清高在天天线| 一本大道久久a久久精品| 国产精品 欧美亚洲| 精品久久蜜臀av无| 日本黄色日本黄色录像| 久久久国产欧美日韩av| 色老头精品视频在线观看| 国产亚洲精品久久久久5区| 国产av一区二区精品久久| 91字幕亚洲| 91九色精品人成在线观看| 可以在线观看毛片的网站| 国产高清国产精品国产三级| 99精品在免费线老司机午夜| 丝袜在线中文字幕| 免费在线观看完整版高清| 91精品三级在线观看| 欧美在线一区亚洲| 男人的好看免费观看在线视频 | 首页视频小说图片口味搜索| 黑人欧美特级aaaaaa片| 国产精品98久久久久久宅男小说| 在线免费观看的www视频| 国产精品av久久久久免费| x7x7x7水蜜桃| 亚洲 欧美一区二区三区| 国产一区二区三区视频了| 日本欧美视频一区| 交换朋友夫妻互换小说| 久久这里只有精品19| 校园春色视频在线观看| 色哟哟哟哟哟哟| 亚洲国产精品sss在线观看 | 青草久久国产| 大码成人一级视频| 中文亚洲av片在线观看爽| 亚洲少妇的诱惑av| 老鸭窝网址在线观看| 18禁黄网站禁片午夜丰满| 在线av久久热| 男男h啪啪无遮挡| 欧美不卡视频在线免费观看 | 欧美性长视频在线观看| 亚洲片人在线观看| 日本免费a在线| 国产精品亚洲av一区麻豆| 色播在线永久视频| 久久国产精品男人的天堂亚洲| 90打野战视频偷拍视频| bbb黄色大片| 真人做人爱边吃奶动态| 无限看片的www在线观看| 午夜福利欧美成人| 久久久精品欧美日韩精品| 亚洲人成电影观看| 在线播放国产精品三级| 曰老女人黄片| 99国产精品免费福利视频| 久久精品亚洲av国产电影网| 久久人妻av系列| 日韩大尺度精品在线看网址 | 999久久久精品免费观看国产| 伊人久久大香线蕉亚洲五| 亚洲人成77777在线视频| av超薄肉色丝袜交足视频| 中文字幕色久视频| 成人亚洲精品av一区二区 | 最好的美女福利视频网| www.精华液| 大码成人一级视频| www国产在线视频色| 欧洲精品卡2卡3卡4卡5卡区| 亚洲成国产人片在线观看| 久久久久国内视频| 国产亚洲欧美在线一区二区| 男女床上黄色一级片免费看| 欧美日韩亚洲高清精品| 欧美不卡视频在线免费观看 | 天堂√8在线中文| 亚洲视频免费观看视频| 日本精品一区二区三区蜜桃| 露出奶头的视频| av电影中文网址| 一级,二级,三级黄色视频| 国产午夜精品久久久久久| 久久精品国产亚洲av香蕉五月| 免费日韩欧美在线观看| 人妻丰满熟妇av一区二区三区| 亚洲男人的天堂狠狠| 久久久精品国产亚洲av高清涩受| 精品福利永久在线观看| 亚洲七黄色美女视频| 另类亚洲欧美激情| 在线观看一区二区三区激情| 亚洲国产精品sss在线观看 | 日本 av在线| 99国产综合亚洲精品| 久久精品成人免费网站| 久久九九热精品免费| 丰满的人妻完整版| 亚洲,欧美精品.| 女性生殖器流出的白浆| a级毛片在线看网站| www.精华液| 两个人看的免费小视频| 欧美日韩视频精品一区| 交换朋友夫妻互换小说| 国产av精品麻豆| 国产精品成人在线| 午夜免费激情av| 十八禁人妻一区二区| 日韩一卡2卡3卡4卡2021年| 日韩有码中文字幕| 国产麻豆69| 婷婷丁香在线五月| 曰老女人黄片| 日韩视频一区二区在线观看| 色尼玛亚洲综合影院| 色婷婷久久久亚洲欧美| 超碰97精品在线观看| 欧美精品亚洲一区二区| 国产又色又爽无遮挡免费看| 天堂俺去俺来也www色官网| 国产精品国产高清国产av| a级毛片在线看网站| www.999成人在线观看| 一本综合久久免费| 欧美日韩国产mv在线观看视频| 丝袜美足系列| 黄色a级毛片大全视频| 人妻丰满熟妇av一区二区三区| 亚洲国产欧美网| netflix在线观看网站| 亚洲黑人精品在线| 波多野结衣一区麻豆| 国产精品一区二区在线不卡| 久久青草综合色| 午夜免费鲁丝| 亚洲欧美精品综合一区二区三区| 亚洲国产精品sss在线观看 | 亚洲一卡2卡3卡4卡5卡精品中文| 久久午夜综合久久蜜桃| 亚洲成人免费av在线播放| 亚洲av电影在线进入| 欧美中文综合在线视频| 激情视频va一区二区三区| 国产蜜桃级精品一区二区三区| 久久久国产成人免费| 免费日韩欧美在线观看| 亚洲一区二区三区不卡视频| 国产91精品成人一区二区三区| 精品国产乱码久久久久久男人| 久久中文字幕一级| 亚洲精华国产精华精| 日韩 欧美 亚洲 中文字幕| 国产黄a三级三级三级人| 另类亚洲欧美激情| 19禁男女啪啪无遮挡网站| 亚洲在线自拍视频| 欧美成人免费av一区二区三区| 最近最新中文字幕大全电影3 | 韩国精品一区二区三区| 国产男靠女视频免费网站| 99久久久亚洲精品蜜臀av| av天堂在线播放| 午夜视频精品福利| 久久欧美精品欧美久久欧美| 国产深夜福利视频在线观看| 久久国产乱子伦精品免费另类| 免费高清视频大片| www国产在线视频色| 岛国在线观看网站| 一a级毛片在线观看| 亚洲精华国产精华精| 国产精品一区二区在线不卡| 热re99久久精品国产66热6| 久久中文看片网| 在线观看免费日韩欧美大片| 亚洲中文日韩欧美视频| 精品人妻在线不人妻| 午夜福利在线观看吧| 在线播放国产精品三级| 搡老熟女国产l中国老女人| 在线播放国产精品三级| 国产精品久久久av美女十八| 亚洲欧美精品综合一区二区三区| 少妇 在线观看| 黄网站色视频无遮挡免费观看| 国产精品亚洲一级av第二区| 一本大道久久a久久精品| 色播在线永久视频| netflix在线观看网站| 欧美人与性动交α欧美软件| 亚洲专区国产一区二区| 可以在线观看毛片的网站| 久久久久精品国产欧美久久久| 黄片播放在线免费| 一级毛片精品| 91在线观看av| 女同久久另类99精品国产91| 动漫黄色视频在线观看| 99久久人妻综合| 日韩欧美国产一区二区入口| 欧美+亚洲+日韩+国产| 亚洲欧美日韩无卡精品| 午夜免费观看网址| 国产精品香港三级国产av潘金莲| 亚洲男人天堂网一区| 婷婷六月久久综合丁香| 成人亚洲精品一区在线观看| 国产亚洲精品久久久久5区| 欧美黄色片欧美黄色片| 日韩三级视频一区二区三区| 久久久久久大精品| 成人亚洲精品一区在线观看| 51午夜福利影视在线观看| 国产欧美日韩一区二区精品| 国产av一区在线观看免费| 亚洲人成网站在线播放欧美日韩| 人人妻人人爽人人添夜夜欢视频| 视频区图区小说| 久久国产精品人妻蜜桃| 丁香六月欧美| √禁漫天堂资源中文www| 国产成人啪精品午夜网站| 天堂影院成人在线观看| 丰满迷人的少妇在线观看| 看片在线看免费视频| 又紧又爽又黄一区二区| 一进一出抽搐gif免费好疼 | 涩涩av久久男人的天堂| 日韩 欧美 亚洲 中文字幕| 99香蕉大伊视频| 国产高清国产精品国产三级| 婷婷精品国产亚洲av在线| 最近最新中文字幕大全免费视频| 啦啦啦在线免费观看视频4| 99国产极品粉嫩在线观看| 亚洲av电影在线进入| 91老司机精品| 亚洲美女黄片视频| 中文字幕另类日韩欧美亚洲嫩草| 国产精品野战在线观看 | 成人国语在线视频| 在线观看66精品国产| 欧美黑人欧美精品刺激| 国产成人啪精品午夜网站| 身体一侧抽搐| 99热只有精品国产| 青草久久国产| 国产视频一区二区在线看| 美女高潮到喷水免费观看| 高清在线国产一区| 日本五十路高清| 老鸭窝网址在线观看| 无限看片的www在线观看| 欧美黑人精品巨大| 99在线视频只有这里精品首页| 97人妻天天添夜夜摸| 国产精品二区激情视频| 老司机午夜十八禁免费视频| 曰老女人黄片| 久久精品人人爽人人爽视色| 国产99久久九九免费精品| 国产精品久久久av美女十八| 久久久久国内视频| 久久国产精品影院| 啦啦啦 在线观看视频| 最近最新中文字幕大全电影3 | 青草久久国产| 欧美乱色亚洲激情| 欧美黄色片欧美黄色片| 女人精品久久久久毛片| 国产精品一区二区在线不卡| 妹子高潮喷水视频| 亚洲av美国av| 久9热在线精品视频| 一级毛片精品| 国产成人系列免费观看| 五月开心婷婷网| tocl精华| 老司机午夜福利在线观看视频| 精品国产乱子伦一区二区三区| 在线观看免费视频日本深夜| 亚洲欧美日韩无卡精品| 亚洲精品美女久久av网站| 十八禁人妻一区二区| xxx96com| 超碰97精品在线观看| av欧美777| 麻豆av在线久日| 黄色a级毛片大全视频| 精品一品国产午夜福利视频| 久9热在线精品视频| 欧美精品啪啪一区二区三区| 叶爱在线成人免费视频播放| 搡老乐熟女国产| 日韩精品免费视频一区二区三区| 国产麻豆69| 亚洲av成人不卡在线观看播放网| 亚洲国产欧美一区二区综合| 成人18禁高潮啪啪吃奶动态图| 少妇被粗大的猛进出69影院| 两人在一起打扑克的视频| 三上悠亚av全集在线观看| 久久精品国产亚洲av高清一级| 黑人欧美特级aaaaaa片| 欧美黄色片欧美黄色片| www国产在线视频色| 9191精品国产免费久久| 免费女性裸体啪啪无遮挡网站| 久久影院123| 搡老岳熟女国产| 十八禁人妻一区二区| 麻豆成人av在线观看| 黑丝袜美女国产一区| 国产精品秋霞免费鲁丝片| 18禁观看日本| 中国美女看黄片| 亚洲在线自拍视频| 精品一区二区三卡| 天堂中文最新版在线下载| 成人18禁高潮啪啪吃奶动态图| av天堂在线播放| 性少妇av在线| 国产真人三级小视频在线观看| 久久久久国产一级毛片高清牌| 手机成人av网站| 国产有黄有色有爽视频| 多毛熟女@视频| 看片在线看免费视频| 国产精品99久久99久久久不卡| 亚洲午夜精品一区,二区,三区| 亚洲全国av大片| 国产91精品成人一区二区三区| 国内毛片毛片毛片毛片毛片| 性欧美人与动物交配| 老司机亚洲免费影院| 亚洲,欧美精品.| 在线观看免费午夜福利视频| 免费一级毛片在线播放高清视频 | 韩国精品一区二区三区| 亚洲午夜理论影院| 亚洲午夜精品一区,二区,三区| 亚洲国产毛片av蜜桃av| 欧美性长视频在线观看| 国产亚洲av高清不卡| 亚洲av美国av| av超薄肉色丝袜交足视频| 日日夜夜操网爽| 妹子高潮喷水视频| 少妇被粗大的猛进出69影院| 十八禁人妻一区二区| 国产片内射在线| 在线观看66精品国产| 另类亚洲欧美激情| 中国美女看黄片| 夫妻午夜视频| 精品福利观看| 午夜a级毛片| 麻豆av在线久日| 久久国产精品人妻蜜桃| 日韩 欧美 亚洲 中文字幕| 制服诱惑二区| 波多野结衣高清无吗| 久久精品亚洲av国产电影网| 亚洲精品一卡2卡三卡4卡5卡| 黄片大片在线免费观看| 一边摸一边抽搐一进一出视频| 亚洲av日韩精品久久久久久密| 在线观看一区二区三区| 精品久久久久久成人av| 欧美日韩av久久| 久久精品91无色码中文字幕| 亚洲自偷自拍图片 自拍| 成年人免费黄色播放视频| 成人精品一区二区免费| 日本精品一区二区三区蜜桃| av天堂久久9| 精品电影一区二区在线| 久久久久九九精品影院| 亚洲色图av天堂| 99riav亚洲国产免费| 在线十欧美十亚洲十日本专区| 久久久久久久午夜电影 | 午夜影院日韩av| 99热国产这里只有精品6| 超碰成人久久| 国产成人精品久久二区二区91| 久久久久久久久中文| 久久亚洲精品不卡| 久久国产精品人妻蜜桃| 两个人免费观看高清视频| 午夜精品久久久久久毛片777| 精品福利观看| 免费高清视频大片| 亚洲精华国产精华精| 亚洲精品av麻豆狂野| 亚洲国产精品合色在线| 久久久国产精品麻豆| 欧美久久黑人一区二区| 亚洲一区二区三区色噜噜 | 国产亚洲av高清不卡| 色哟哟哟哟哟哟| 色综合站精品国产| 女人精品久久久久毛片| 一级a爱视频在线免费观看| 国产主播在线观看一区二区| 午夜免费激情av| 一个人免费在线观看的高清视频| 免费不卡黄色视频| 国产精品久久久久成人av| 伊人久久大香线蕉亚洲五| 精品国产乱码久久久久久男人| 老司机福利观看| 色婷婷久久久亚洲欧美| 99国产精品免费福利视频| 国产麻豆69| 国产免费男女视频| 亚洲精品成人av观看孕妇| 成人免费观看视频高清| www国产在线视频色| 亚洲欧美精品综合一区二区三区| 国产精品二区激情视频| 亚洲免费av在线视频| 午夜精品国产一区二区电影| 后天国语完整版免费观看| 中文字幕高清在线视频| 国产三级在线视频| 欧美色视频一区免费| 麻豆一二三区av精品| 一本综合久久免费| 精品人妻在线不人妻| 青草久久国产| 男男h啪啪无遮挡| 啦啦啦免费观看视频1| 日本a在线网址| 国产成人av教育| 一级毛片精品| 好看av亚洲va欧美ⅴa在| 国产深夜福利视频在线观看| 久久中文字幕人妻熟女| 精品一区二区三区四区五区乱码| 别揉我奶头~嗯~啊~动态视频| 中文字幕最新亚洲高清| 老司机靠b影院| 琪琪午夜伦伦电影理论片6080| 欧美丝袜亚洲另类 | 大香蕉久久成人网| 天堂影院成人在线观看| 纯流量卡能插随身wifi吗| 日韩欧美免费精品| 操美女的视频在线观看| 欧美乱色亚洲激情| 日韩欧美一区视频在线观看| 中国美女看黄片| 免费在线观看日本一区| 亚洲国产毛片av蜜桃av| 久久久久久久久久久久大奶| 高清在线国产一区| 国产欧美日韩一区二区三区在线| 久久久久久大精品| 欧美久久黑人一区二区| 精品少妇一区二区三区视频日本电影| 国产av在哪里看| 淫秽高清视频在线观看| 日本免费a在线| 久久精品91无色码中文字幕| 欧美日韩视频精品一区| 一边摸一边抽搐一进一小说| 亚洲精品久久午夜乱码| 国产在线观看jvid| 久久精品亚洲av国产电影网| 又黄又粗又硬又大视频| av有码第一页| 精品无人区乱码1区二区| 国产一区二区三区在线臀色熟女 | 免费日韩欧美在线观看| 嫩草影院精品99| 国产在线精品亚洲第一网站| 欧美激情 高清一区二区三区| 久久久久久久久中文| av网站免费在线观看视频| 午夜两性在线视频| 97超级碰碰碰精品色视频在线观看| av欧美777| 丁香六月欧美| 免费人成视频x8x8入口观看| 男人舔女人的私密视频| 高清av免费在线| 女性生殖器流出的白浆| 欧美精品亚洲一区二区| 国产欧美日韩综合在线一区二区| 国产精品香港三级国产av潘金莲| 99国产精品99久久久久| 一边摸一边抽搐一进一小说| 人人妻,人人澡人人爽秒播| 国产人伦9x9x在线观看| 99精国产麻豆久久婷婷| 国产99白浆流出| 中文字幕色久视频| 中文字幕人妻丝袜一区二区| 99国产精品一区二区三区| 国产熟女午夜一区二区三区| 国产三级在线视频| 国产国语露脸激情在线看| 动漫黄色视频在线观看| 国产精品偷伦视频观看了| 午夜福利影视在线免费观看| 国产一区二区三区在线臀色熟女 | 99国产精品一区二区三区| 午夜福利在线免费观看网站| 成人18禁高潮啪啪吃奶动态图| 国产av在哪里看| 无人区码免费观看不卡| 男人舔女人的私密视频| 精品久久久久久电影网| 亚洲少妇的诱惑av| 欧美黄色淫秽网站| 在线视频色国产色| 精品午夜福利视频在线观看一区| 久久久国产欧美日韩av| 校园春色视频在线观看| 80岁老熟妇乱子伦牲交| 欧美日韩亚洲国产一区二区在线观看| 亚洲国产毛片av蜜桃av| 成熟少妇高潮喷水视频| 天天影视国产精品| 国产成人欧美在线观看| 色在线成人网| 亚洲欧美精品综合久久99| 在线观看一区二区三区激情| 欧美成人免费av一区二区三区| 80岁老熟妇乱子伦牲交| 91麻豆av在线| 欧美av亚洲av综合av国产av| 美女扒开内裤让男人捅视频| 老汉色av国产亚洲站长工具| 欧美不卡视频在线免费观看 | 精品福利观看| 亚洲五月婷婷丁香| 欧美成人午夜精品| 大香蕉久久成人网| 亚洲专区中文字幕在线| 国产国语露脸激情在线看| 亚洲国产毛片av蜜桃av| 亚洲avbb在线观看| 日本 av在线| 最近最新中文字幕大全电影3 | 一区在线观看完整版| 亚洲av成人不卡在线观看播放网| 久久久久国产一级毛片高清牌| 男女做爰动态图高潮gif福利片 | 极品人妻少妇av视频| 欧美在线黄色|