• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    道德行動(dòng)體:人工智能新聞中的算法道德功能及其可能性

    2024-05-29 17:16:48鄭久良
    天府新論 2024年2期
    關(guān)鍵詞:智能算法意向性自主性

    鄭久良

    一、引 言

    如今,以AI、ChatGPT、大數(shù)據(jù)等技術(shù)為支撐的智能傳播對(duì)新聞業(yè)產(chǎn)生了顛覆性的變革和全局性的影響,我們迎來了新聞生產(chǎn)和傳播的AIGC時(shí)代。人工智能新聞在給新聞業(yè)帶來巨大生機(jī)和豐富可能性的同時(shí),也不可避免地產(chǎn)生諸多倫理問題,如算法偏見、隱私泄漏、虛假新聞等。對(duì)于智能新聞的倫理治理成為學(xué)界和業(yè)界共同關(guān)注的焦點(diǎn)。然而,傳統(tǒng)的倫理學(xué)基本遵循“人本主義”的研究進(jìn)路,將智能技術(shù)或媒介看成工具性的客體,從技術(shù)/媒介負(fù)面后果批判的外在角度進(jìn)行倫理審思式治理,而這種倫理觀念和治理方式在人機(jī)共生的智能新聞時(shí)代面臨諸多挑戰(zhàn)和困境。后現(xiàn)象技術(shù)哲學(xué)基于“人—技術(shù)”關(guān)系的存在主義哲學(xué)分析,重新審視智能技術(shù)/媒介的本體論和認(rèn)識(shí)論,從關(guān)系本體論和技術(shù)現(xiàn)象學(xué)角度提出技術(shù)的道德行動(dòng)體功能,并在人與技術(shù)伴隨之中重新審視技術(shù)倫理學(xué)。這一新興技術(shù)倫理學(xué)打破了主客二元對(duì)立的認(rèn)識(shí)論,從“非人本主義”研究進(jìn)路提出道德規(guī)范內(nèi)嵌于技術(shù)設(shè)計(jì)的前思式倫理治理方案。那么,這種技術(shù)倫理研究范式是否具有理論的合法性和實(shí)踐的建構(gòu)性呢?

    一般而言,人工智能新聞的發(fā)展離不開數(shù)據(jù)、算力和算法三要素,其中數(shù)據(jù)和算力都以算法為基石,可以說智能算法居于三者的核心。我們究竟該如何認(rèn)識(shí)智能算法?算法是一種傳播主體嗎?算法是否具有道德意義層面的功能?這些問題成為人工智能新聞倫理審視的關(guān)鍵。圍繞人工智能新聞倫理治理的這一中觀話題,本研究以智能算法為微觀切入口,在辨析媒介技術(shù)價(jià)值觀的基礎(chǔ)上,借鑒技術(shù)哲學(xué)領(lǐng)域的技術(shù)調(diào)解相關(guān)理論,嘗試分析智能算法的道德行動(dòng)體功能、道德主體及其可能性,旨在為人工智能新聞倫理治理理念和范式轉(zhuǎn)型提供算法技術(shù)倫理研究的“另類”方案。

    二、認(rèn)識(shí)論轉(zhuǎn)變:三種主流媒介技術(shù)價(jià)值觀辨析

    智能算法是一種傳播主體嗎?在人工智能新聞時(shí)代,算法技術(shù)的價(jià)值觀面臨怎樣的挑戰(zhàn)?它又該如何重新建構(gòu)呢?本部分內(nèi)容對(duì)媒介技術(shù)的價(jià)值觀進(jìn)行辨析。價(jià)值觀是在媒介技術(shù)本體論和認(rèn)識(shí)論基礎(chǔ)上,對(duì)于媒介技術(shù)價(jià)值的性質(zhì)、構(gòu)成及其評(píng)判進(jìn)行研究,表現(xiàn)為媒介對(duì)社會(huì)關(guān)系、人際交往和文明形態(tài)等方面的影響。在傳播學(xué)研究的既有框架中,對(duì)于媒介技術(shù)的價(jià)值觀界定主要有三種:一是基于媒介工具論的技術(shù)決定論;二是基于媒介社會(huì)形塑的技術(shù)建構(gòu)論;三是基于實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)論。其中,第三種是近年來剛興起不久的研究命題。

    第一種是媒介技術(shù)工具論。這種思想由來已久,根植于人類中心主義的價(jià)值立場和主客二元對(duì)立的認(rèn)識(shí)論。有學(xué)者認(rèn)為,長期以來,大眾傳播研究僅僅將媒介技術(shù)視作與人相對(duì)的工具和信息載體,忽視傳播內(nèi)容背后的媒介基礎(chǔ)設(shè)施體系。(1)胡翼青、王沐之:《發(fā)現(xiàn)界面:審視媒介的新路徑》,《湖南師范大學(xué)社會(huì)科學(xué)學(xué)報(bào)》2022年第6期。在傳播學(xué)學(xué)科建制中,傳播研究學(xué)者更多用實(shí)體性或功能性的視角而不是現(xiàn)象學(xué)或存在主義的視角來理解媒介,媒介被窄化和泛化為實(shí)體化或功能化的,主流傳播學(xué)將視野聚焦在實(shí)體媒介組織或具體媒介形態(tài)的研究,要么是功能主義的研究,要么是媒介效果研究。(2)胡翼青:《顯現(xiàn)的實(shí)體抑或意義的空間:反思傳播學(xué)的媒介觀》,《國際新聞界》2018年第2期。媒介技術(shù)工具論的價(jià)值觀對(duì)于媒介技術(shù)價(jià)值的性質(zhì)、關(guān)系及其評(píng)判過于窄化,更多聚焦在功能主義層面,將作為實(shí)體或渠道的媒介作為研究重點(diǎn),考察媒介實(shí)體化功能的傳播效果,這種結(jié)構(gòu)功能主義的研究傳統(tǒng)遮蔽了媒介技術(shù)作為意義隱喻、關(guān)系連接和存在方式的諸多認(rèn)知面向,往往會(huì)陷入媒介技術(shù)決定論的窠臼,不論這種技術(shù)后果是積極的還是消極的。很顯然,智能算法已經(jīng)跳脫出傳播工具論的藩籬,算法媒介技術(shù)不僅構(gòu)成人的媒介化生存境遇,也對(duì)人的社會(huì)交往及社會(huì)行動(dòng)產(chǎn)生重要影響,算法技術(shù)價(jià)值觀遠(yuǎn)遠(yuǎn)超出功能主義的視角。

    第二種是媒介技術(shù)建構(gòu)論。這種思想將媒介技術(shù)作為社會(huì)建構(gòu)的產(chǎn)物,媒介是作為權(quán)力、資本、意識(shí)形態(tài)等爭奪博弈的結(jié)果。社會(huì)建構(gòu)論傳統(tǒng)重視從社會(huì)層面理解媒介技術(shù),將媒介看成社會(huì)互動(dòng)的結(jié)果。誠然,這種價(jià)值觀看到了媒介技術(shù)并非價(jià)值中立或價(jià)值無涉的工具,本身帶有社會(huì)層面的多元影響因素,看到了媒介技術(shù)的社會(huì)環(huán)境背景。這種研究在一定程度上根植于知識(shí)社會(huì)學(xué)的思想。知識(shí)社會(huì)學(xué)將現(xiàn)實(shí)的社會(huì)建構(gòu)作為分析對(duì)象,論述日常生活的知識(shí)基礎(chǔ),討論與人類存在的生物性前提有關(guān)的客體化和制度化問題,(3)彼得·L. 伯格、托馬斯·盧克曼:《現(xiàn)實(shí)的社會(huì)建構(gòu):知識(shí)社會(huì)學(xué)論綱》,吳肅然譯,北京大學(xué)出版社,2019年,第235頁。展開社會(huì)與人的關(guān)系的探討。但這種價(jià)值觀相對(duì)忽視媒介對(duì)于社會(huì)現(xiàn)實(shí)的中介化建構(gòu),且“社會(huì)—現(xiàn)實(shí)”之間缺少媒介的身影。因此,英國的尼克·庫爾德利和德國的安德烈亞斯·赫普在其合著的《現(xiàn)實(shí)的中介化建構(gòu)》一書中,試圖全面思考社會(huì)生活和社會(huì)的本質(zhì)是如何因媒介的介入而發(fā)生變化的,并提出“深度媒介化”的概念,描述了基于數(shù)字媒介及其基礎(chǔ)設(shè)施構(gòu)建起當(dāng)今社會(huì)的一個(gè)基本事實(shí):社會(huì)生活中的每個(gè)要素都涉及某種類型的媒介,社會(huì)現(xiàn)實(shí)的建構(gòu)本身與數(shù)字媒介機(jī)構(gòu)帶來的全部權(quán)力關(guān)系及基礎(chǔ)設(shè)施問題密不可分。(4)尼克·庫爾德利、安德烈亞斯·赫普:《現(xiàn)實(shí)的中介化建構(gòu)》,劉泱育譯,復(fù)旦大學(xué)出版社,2023年,第1—2頁。這在一定程度上彌補(bǔ)了知識(shí)社會(huì)學(xué)對(duì)媒介與傳播討論的不足。媒介化研究作為媒介社會(huì)學(xué)的經(jīng)典命題,重塑了現(xiàn)代社會(huì)媒介對(duì)社會(huì)和文化帶來的革命性的問題及其影響。關(guān)于媒介化的研究,學(xué)者們從不同層面做了提煉總結(jié),厘清了媒介化的發(fā)展歷程和學(xué)術(shù)脈絡(luò)。侯東陽、高佳等人從物質(zhì)、制度和社會(huì)建構(gòu)三個(gè)視角,闡釋媒介化理論中的媒介邏輯、塑型力、元過程和媒介化過程。(5)侯東陽、高佳:《媒介化理論及研究路徑、適用性》,《新聞與傳播研究》2018年第5期。顧燁燁、莫少群等人對(duì)媒介化研究進(jìn)行理論溯源和歷時(shí)性梳理,認(rèn)為媒介化研究根植于齊美爾、吉登斯等人的思想,在吸收現(xiàn)象學(xué)社會(huì)學(xué)、符號(hào)互動(dòng)論的基礎(chǔ)上,形成了以夏瓦為代表的制度化與以克羅茲、赫普為代表的社會(huì)建構(gòu)這兩大研究路徑。(6)顧燁燁、莫少群:《媒介化研究:理論溯源與研究路徑》,《全球傳媒學(xué)刊》2022年第2期。在人工智能新聞時(shí)代,智能算法媒介技術(shù)已經(jīng)構(gòu)成深度媒介化的場景,算法對(duì)人與社會(huì)的影響已經(jīng)突破傳統(tǒng)的社會(huì)建構(gòu)主義,智能算法的媒介邏輯、媒介制度及社會(huì)的中介化建構(gòu)成為重要的現(xiàn)實(shí)。因此,建構(gòu)主義傳統(tǒng)的媒介技術(shù)價(jià)值觀也面臨著新的適應(yīng)性危機(jī)和合理性調(diào)適。

    第三種是實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)論。近年來,傳播與媒介研究的實(shí)踐轉(zhuǎn)向逐漸受到學(xué)者們的關(guān)注,主要對(duì)該范式涉及的理論脈絡(luò)、研究對(duì)象、主要進(jìn)路、研究方法、價(jià)值啟示進(jìn)行系統(tǒng)化的梳理和提煉。在理論脈絡(luò)上,顧潔等學(xué)者都有所研究,認(rèn)為實(shí)踐一直是西方社會(huì)學(xué)理論中的關(guān)鍵概念,吉登斯、布爾迪厄是實(shí)踐理論研究的重要代表,夏茲金、里克維茲和拉圖爾是新開拓者。(7)顧潔:《媒介研究的實(shí)踐范式:框架、路徑與啟示》,《新聞與傳播研究》2018年第6期。英國學(xué)者尼克·庫爾德利在2004年發(fā)表的《媒介的實(shí)踐化理論》一文中,首次將實(shí)踐理論引入媒介研究領(lǐng)域。(8)N. Couldry,“Theorising Media as Practice,”Social Semiotics,Vol.14,No.2,2004.庫爾德利的“實(shí)踐范式”在很大程度上改變了人們對(duì)于媒介意涵的認(rèn)識(shí),將媒介從生產(chǎn)結(jié)構(gòu)或文本層面拓展到實(shí)踐行為,與媒介相關(guān)的所有開放的實(shí)踐行為類型及媒介對(duì)其他社會(huì)實(shí)踐行為的影響作用都構(gòu)成實(shí)踐范式的研究面向。(9)齊愛軍:《尼克·庫爾德利:媒介研究的“實(shí)踐范式”轉(zhuǎn)向》,《山東社會(huì)科學(xué)》2017年第1期。2010 年,布勞克勒與波斯蒂爾在《媒介與實(shí)踐的理論建構(gòu)》一書中全面介紹了媒介實(shí)踐理論,將媒介與日常生活、媒介與身體、媒介生產(chǎn)作為實(shí)踐研究的三大領(lǐng)域。(10)B. Br?uchler,J. Postill(eds.),Theorising Media and Practice,New York:Berghahn Books,2010,pp.1-32.在研究對(duì)象和主要進(jìn)路上,項(xiàng)楊春等學(xué)者研究發(fā)現(xiàn),實(shí)踐理論為媒介與傳播研究的范式創(chuàng)新提供了路徑,媒介實(shí)踐研究范式根植于“社會(huì)實(shí)踐”本體論和“實(shí)踐元素”認(rèn)識(shí)論的理論淵源,跳脫出傳統(tǒng)媒介傳播研究的受眾與文本、媒介與結(jié)構(gòu)的二元論窠臼,從微觀、中觀和宏觀三個(gè)層面指出媒介實(shí)踐范式的研究進(jìn)路,分別為行動(dòng)者的媒介實(shí)踐、媒介生產(chǎn)與傳播實(shí)踐以及媒介發(fā)展與影響實(shí)踐。(11)項(xiàng)楊春:《實(shí)踐范式下的媒介與傳播研究:淵源、進(jìn)路與綱要》,《新聞界》2022年第6期。在研究方法上,實(shí)踐范式研究以主客二元統(tǒng)一方法為主,其中,質(zhì)性研究方法應(yīng)用較為集中。在方法論上,實(shí)踐范式轉(zhuǎn)向的媒介研究側(cè)重于實(shí)踐建構(gòu)和組織過程的深度描摹和系統(tǒng)化的描述分析,不再聚焦于實(shí)證主義的社會(huì)現(xiàn)象因果關(guān)系分析。在價(jià)值啟示上,姜紅、顧潔、王潤澤等學(xué)者均有所論述。姜紅和印心悅認(rèn)為,在馬克思主義實(shí)踐哲學(xué)的引領(lǐng)下,實(shí)踐進(jìn)路的核心在于打破形而上學(xué)的本體論、認(rèn)識(shí)論和方法論,需要重新思考人與人、人與物以及人與世界的關(guān)系。實(shí)踐范式突破二元論的本體論、表象主義的認(rèn)識(shí)論和本質(zhì)主義的方法論弊端,即從傳統(tǒng)的二元論轉(zhuǎn)向多元互動(dòng)的關(guān)系建構(gòu),從表象式的靜觀轉(zhuǎn)向行動(dòng)導(dǎo)向的參與,從本質(zhì)主義的規(guī)范知識(shí)轉(zhuǎn)向描述性的經(jīng)驗(yàn)研究。(12)姜紅、印心悅:《走出二元:當(dāng)代新聞學(xué)的“實(shí)踐轉(zhuǎn)向”——問題、視野與進(jìn)路》,《安徽大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2021年第3期。馬克思主義實(shí)踐哲學(xué)對(duì)實(shí)在論和社會(huì)建構(gòu)論進(jìn)行了理論突破,對(duì)于媒介研究走出二元論和表象主義的束縛,走向過程和關(guān)系的實(shí)踐論有著重要的意義。(13)姜紅、印心悅:《作為“實(shí)踐”的新聞——一個(gè)后科學(xué)知識(shí)社會(huì)學(xué)的視角》,《國際新聞界》2021年第8期。顧潔認(rèn)為,實(shí)踐理論關(guān)注與人相關(guān)的“精神”元素和其他重要的“非精神”元素,將復(fù)雜社會(huì)空間的主客觀組成元素之間的互動(dòng)與協(xié)商作為重點(diǎn),從而跳脫出“文本—受眾—效果”研究的傳統(tǒng)框架。(14)顧潔:《媒介研究的實(shí)踐范式:框架、路徑與啟示》,《新聞與傳播研究》2018年第6期。立足數(shù)字時(shí)代的傳播實(shí)踐,實(shí)踐范式轉(zhuǎn)向以主體間性作為重構(gòu)新聞價(jià)值的切入點(diǎn),以對(duì)話和溝通為基礎(chǔ),新聞作為連接人與現(xiàn)實(shí)世界的中介,具有形塑社會(huì)認(rèn)知、確立交往規(guī)范的功能。(15)王潤澤、常崢:《新聞學(xué)元問題的實(shí)踐轉(zhuǎn)向與價(jià)值重構(gòu)》,《中國編輯》2023年第1—2期。在智能傳播時(shí)代,實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)觀對(duì)理解算法技術(shù)的本體論、認(rèn)識(shí)論和方法論提供了重要的理論指引,算法技術(shù)應(yīng)當(dāng)作為一種媒介實(shí)踐去認(rèn)識(shí),而非僅僅基于技術(shù)工具論或社會(huì)建構(gòu)論的傳統(tǒng)來理解。

    當(dāng)前,對(duì)于智能算法技術(shù)的認(rèn)識(shí)論在媒體變遷之下發(fā)生了顯著的變化,媒介技術(shù)價(jià)值觀已由技術(shù)工具論過渡到社會(huì)建構(gòu)論,再到實(shí)踐范式轉(zhuǎn)向。很顯然,傳統(tǒng)的認(rèn)識(shí)論已經(jīng)難以適應(yīng)當(dāng)下的媒介現(xiàn)實(shí),智能算法已經(jīng)躍升為媒介化生存的積極行動(dòng)者,對(duì)于算法的理解應(yīng)當(dāng)突破傳統(tǒng)結(jié)構(gòu)功能主義、政治經(jīng)濟(jì)批判和符號(hào)互動(dòng)論的視角,從存在主義現(xiàn)象學(xué)視角重構(gòu)媒介及其可能性,基于媒介實(shí)踐范式解構(gòu)和建構(gòu)媒介技術(shù)研究的框架。

    三、道德行動(dòng)體:算法道德功能的界定標(biāo)準(zhǔn)

    實(shí)踐范式轉(zhuǎn)向的媒介技術(shù)價(jià)值觀,對(duì)于人與物的關(guān)系、媒介的能動(dòng)性、主體間性、人與媒介的關(guān)系互動(dòng)論等問題都有所討論,讓人們不禁重新思考:算法技術(shù)作為一種非人類的行動(dòng)者,是否具備道德意義上的功能?算法技術(shù)的道德功能與人的道德行為有何關(guān)聯(lián)?此部分將對(duì)算法技術(shù)的道德功能界定標(biāo)準(zhǔn)展開研究。

    談及道德功能或道德地位,幾乎都是指涉人類主體,非人類主體很少被界定為道德主體,因?yàn)檫@與傳統(tǒng)意義上的道德主體的界定相矛盾,諸如媒介技術(shù)的非人類主體很難具有道德意識(shí)和承擔(dān)道德責(zé)任的能力,這種能力是人獨(dú)有的。這種理解長期籠罩在學(xué)術(shù)研究的主流話語之中,表面上看起來是這么回事,但其出發(fā)點(diǎn)忽略了一個(gè)重要前提,即人與技術(shù)互動(dòng)關(guān)系的社會(huì)現(xiàn)實(shí)。對(duì)于道德主體的界定,我們不能夠先入為主地預(yù)設(shè)主客二元對(duì)立的立場,技術(shù)人工物或媒介技術(shù)的道德功能并非純客體的意志或道德責(zé)任的還原,而是需要在人與媒介技術(shù)的關(guān)系中解讀其道德功能,從互主體性的關(guān)系角度打破人類中心主義的主體性,需要從后現(xiàn)象學(xué)存在主義的出發(fā)點(diǎn)重新思考道德主體的可能性與可行性。故此,傳統(tǒng)道德倫理的方法論也面臨變革的挑戰(zhàn)。

    何為道德主體呢?傳統(tǒng)倫理學(xué)理論的強(qiáng)綱領(lǐng)給出了人本主義的標(biāo)準(zhǔn)。不論是康德“道德律令”的義務(wù)論,或是“有利于多數(shù)人幸福感實(shí)現(xiàn)”的后果論,還是邊沁等人的功利主義視角,從來都是將人類視為道德主體,自由、責(zé)任、意向這些概念很少跟物或技術(shù)相關(guān)聯(lián)。這種研究思路存在一些不足。一是理論脫離實(shí)際。智能算法的技術(shù)變革已經(jīng)突破傳統(tǒng)的經(jīng)驗(yàn)認(rèn)識(shí)范疇,研究學(xué)者如果對(duì)于新的媒介技術(shù)認(rèn)知不清而因循守舊,將人工智能新聞倫理簡化為傳統(tǒng)倫理方法在算法領(lǐng)域的直接應(yīng)用,很難真正解決智能新聞面臨的實(shí)際問題。二是跨學(xué)科的整合不足。社會(huì)學(xué)、法學(xué)、新聞傳播學(xué)、技術(shù)哲學(xué)和政治學(xué)都在關(guān)注算法應(yīng)用的倫理問題,但是不同學(xué)科之間的方法相互割裂甚至自相矛盾,方法的借鑒和整合不足。對(duì)此,后現(xiàn)象技術(shù)哲學(xué)家們?cè)噲D從技術(shù)物的角度,對(duì)于“物”的道德主體界定進(jìn)行重新審視,突破人本主義的倫理學(xué)研究視域。

    近年來,不少技術(shù)哲學(xué)領(lǐng)域的學(xué)者對(duì)技術(shù)物的道德相關(guān)性展開研究,如蘭登·溫納的人工物的政治、布魯諾·拉圖爾的非人類行動(dòng)者、阿爾伯特·伯格曼的技術(shù)與美好生活、盧恰諾·弗洛里迪和桑德斯的人工道德能動(dòng)性等思想。溫納在其1986年出版的《鯨魚與反應(yīng)堆》一書中分析了很多“充滿政治”的技術(shù),他所列舉的著名案例就是“摩西的橋”。 “摩西的橋”指的是紐約州一些具有“種族歧視”特色的低懸天橋,它們是通往瓊斯海灘景觀的必經(jīng)途徑,這些天橋由建筑師羅伯特·摩西蓄意設(shè)計(jì),目的是不讓公共汽車通過,僅能讓私家車通行,旨在阻止黑人進(jìn)入瓊斯海灘,因?yàn)槟菚r(shí)多數(shù)美國黑人買不起車子。摩西找到了一條展示其政治信念的物質(zhì)途徑,此案例顯示了物質(zhì)的人工物是如何具有明顯的道德維度的政治影響。溫納認(rèn)為,技術(shù)以一種物質(zhì)的方式體現(xiàn)人的意志,技術(shù)是建構(gòu)我們世界秩序的方式,一些技術(shù)在人類有意圖的主動(dòng)性引導(dǎo)下促成秩序的形成。技術(shù)的道德意蘊(yùn)在拉圖爾那里更加受到重視,其在1992年發(fā)表的題為《迷失的大眾在何處?少許塵世人工物的社會(huì)學(xué)》的論文中,闡述了道德不應(yīng)被視為人類獨(dú)有事物的觀點(diǎn),道德的“迷失”尋找不是在人之內(nèi)而是在物之中。他給的例子是“減速帶”,當(dāng)一個(gè)人做出開車多快的道德決定,很多時(shí)候是由路上的減速帶決定的,減速帶提醒人們?cè)摐p速了。拉圖爾賦予物質(zhì)性的人工物道德屬性并意圖打破人與非人之間的界限,其行動(dòng)者網(wǎng)絡(luò)理論表明,行動(dòng)者以多種方式交互并不斷轉(zhuǎn)譯,人和非人都可以是行動(dòng)者,非人形成規(guī)定技術(shù)使用者以特定方式行動(dòng)的“腳本”。技術(shù)不應(yīng)該僅從功能性的角度來解讀,它不僅是幫助人類意向在物質(zhì)世界中得以實(shí)現(xiàn)的中介,更是積極地促進(jìn)現(xiàn)實(shí)塑形的調(diào)解者。這不是意味著技術(shù)即為道德行動(dòng)者,而是在其功能發(fā)揮中被賦予某種道德屬性。按照拉圖爾的觀點(diǎn),算法技術(shù)理應(yīng)成為形式化的智能體(moral-agent),技術(shù)倫理研究將技術(shù)的載體看成具有道德的行動(dòng)者,由“屬人”轉(zhuǎn)向“屬物”的對(duì)稱性倫理。伯格曼在關(guān)于技術(shù)的社會(huì)和文化作用中,闡述了我們的文化是如何被“裝置范式”的技術(shù)來規(guī)約的。他在《物質(zhì)文化的道德相關(guān)性》一文中,論述了裝置范式理論如何使物質(zhì)客體的道德維度體現(xiàn)出來,聚焦于物質(zhì)文化在人類實(shí)踐中的作用,并對(duì)物質(zhì)文化如何左右和限制實(shí)踐進(jìn)行揭示,即物質(zhì)的客體促進(jìn)著人類實(shí)踐的塑形。人類行動(dòng)和生活不是處在真空之中,而是發(fā)生在人和塑形我們的行動(dòng)及生活方式的物的真實(shí)世界之中,因此美好生活的實(shí)現(xiàn)不僅基于人類的意向和觀念,而且離不開物質(zhì)的人工物及其擺置。

    在深度媒介化時(shí)代,我們已經(jīng)無法忽視人工智能新聞對(duì)于人類生活和社會(huì)領(lǐng)域的全局性影響和建設(shè)性功能,算法媒介化生存的境況預(yù)示著算法的能動(dòng)性,算法不能僅被視為價(jià)值中立的工具,而是具有價(jià)值負(fù)載的存在物,能夠?qū)θ说拇嬖诜绞胶褪澜绲某尸F(xiàn)方式產(chǎn)生重要的影響。弗洛里迪和桑德斯在2004年發(fā)表的《關(guān)于人工能動(dòng)者的道德》一文中,闡釋了一種理解能動(dòng)性概念及人工物能動(dòng)性的新的分析框架,提出“抽象層次”方法。根據(jù)行動(dòng)者之間互動(dòng)關(guān)系的標(biāo)準(zhǔn),弗洛里迪等人以“抽象層次”方法為基礎(chǔ),對(duì)判別一種物能否成為能動(dòng)者給出判斷標(biāo)準(zhǔn):交互性、自主性和調(diào)適性。交互性指的是由刺激引發(fā)狀態(tài)改變的反應(yīng),自主性是指在沒有刺激下能改變狀態(tài)的能力,調(diào)適性是指因狀態(tài)被改變而改變“規(guī)則轉(zhuǎn)譯”的能力。這意味著在沒有外部刺激響應(yīng)的情況下,與環(huán)境有所交互的技術(shù)也能夠具有行動(dòng)的能力,那么這種技術(shù)可以被看成一個(gè)行動(dòng)者。由上述分析可知,將技術(shù)視為道德行動(dòng)者的標(biāo)準(zhǔn)不在于技術(shù)本身所具有的自由、意向性、意識(shí)等,而是技術(shù)在其他行動(dòng)者的關(guān)聯(lián)中所具有的能動(dòng)性和道德,即在使用技術(shù)時(shí)能產(chǎn)生道德能動(dòng)性的不僅有人類,還有人與非人元素的雜交。

    簡言之,在關(guān)于技術(shù)道德相關(guān)性的研究中,技術(shù)的道德調(diào)解者分析成為一種新的理論范式。該范式?jīng)]有將技術(shù)所具有的道德行動(dòng)和決策作用還原為人類意圖,也沒有將道德視為技術(shù)自身的屬性,道德行動(dòng)和決定是“人—技術(shù)”關(guān)聯(lián)的產(chǎn)物。在道德功能的界定中,作為技術(shù)調(diào)解理論集大成者的維貝克認(rèn)為,意向性和實(shí)現(xiàn)意向性的自由被視為道德能動(dòng)性的必要條件,技術(shù)物道德行動(dòng)體的可能性體現(xiàn)在其對(duì)人的行為和知覺的調(diào)解機(jī)制。國內(nèi)學(xué)者陳凡和賈璐萌將道德行動(dòng)體的界定標(biāo)準(zhǔn)分為因果效應(yīng)(對(duì)事務(wù)產(chǎn)生實(shí)質(zhì)性影響)、代理(代表個(gè)體或群體而行動(dòng))和道德自主性 (行動(dòng)本身具有理性和自由意志)。(16)陳凡、賈璐萌:《技術(shù)倫理學(xué)新思潮探析——維貝克“道德物化”思想述評(píng)》,《科學(xué)技術(shù)哲學(xué)研究》2015年第6期。蘆文龍?zhí)岢鱿嘟呐袛鄻?biāo)準(zhǔn),他認(rèn)為存在物成為道德行動(dòng)體的必要條件是其意向性和自主性,技術(shù)人工物基于技術(shù)功能和物理結(jié)構(gòu)兩重性之上的三元意向性、基于技術(shù)中介理論的差異自主性,使其滿足了成為道德行動(dòng)體的必要條件。(17)蘆文龍:《技術(shù)人工物作為道德行動(dòng)體:可能性、存在狀態(tài)及倫理意涵》,《自然辯證法研究》2016年第8期。整體而言,在技術(shù)調(diào)解理論下,算法技術(shù)具有成為道德行動(dòng)者的可行性,判斷的標(biāo)準(zhǔn)要在“人—技術(shù)”關(guān)聯(lián)的情境中考察其意向性、自由和自主性。

    然而,技術(shù)人工物的能動(dòng)性各有差異,它們的道德地位也不盡相同。從最簡單的技術(shù)工具到高度智能化的機(jī)器人,人工物的道德地位應(yīng)該區(qū)別對(duì)待。其中,詹姆斯·摩爾將人工物分為四個(gè)類別:有倫理影響的能動(dòng)者、隱性的倫理能動(dòng)者、明顯的倫理能動(dòng)者、完全的倫理能動(dòng)者。(18)J.H. Moor,“The Nature,Importance,and Difficulty of Machine Ethics,”IEEE Intelligent Systems,Vol.21,No.2,2006.有倫理影響的能動(dòng)者指不論人工物是否有內(nèi)置的倫理規(guī)范或人工倫理系統(tǒng),其行為本身都能產(chǎn)生倫理影響;隱性的倫理能動(dòng)者指在設(shè)計(jì)中內(nèi)置有暗含的倫理考量的人工物主體;明顯的倫理能動(dòng)者是指根據(jù)不同情境辨析和處理與倫理相關(guān)的信息,并對(duì)行動(dòng)做出具有倫理敏感性的決定;完全的倫理能動(dòng)者是指具有意識(shí)、意向性和自由意志的人。(19)J.H. Moor,“Four Kinds of Ethical Robots,” Philosophy Now,Vol.72,2009.張衛(wèi)根據(jù)人工物的能動(dòng)性強(qiáng)弱和負(fù)載倫理價(jià)值的程度,將人工物分成四種類型:第一,倫理價(jià)值無涉的人工物;第二,負(fù)載倫理價(jià)值的人工物;第三,無道德客體身份的道德主體;第四,有道德客體身份的道德主體。其中,第一種指的是在倫理空間中處于“道德工具”的道德地位;第二種指的是在倫理空間中處于“道德中介”的道德地位;第三種指的是在倫理空間中處于“人工道德主體”的道德地位;第四種指的是在倫理空間中處于“完全道德主體”的道德地位。(20)張衛(wèi):《內(nèi)在主義技術(shù)倫理學(xué)研究》,人民出版社,2023年,第105—106頁。賈璐萌和陳凡根據(jù)自主程度和倫理意向性兩條標(biāo)準(zhǔn),將技術(shù)調(diào)解中的倫理主體分成三類:基于平凡物的操作型道德能動(dòng)體、基于智能體的功能型道德能動(dòng)體和基于人類行動(dòng)者的倫理型道德能動(dòng)體,這三種道德行動(dòng)體的認(rèn)識(shí)和思維能力逐漸成熟,在倫理實(shí)踐中發(fā)揮的積極性和主動(dòng)性逐漸增強(qiáng)。(21)賈璐萌、陳凡:《技術(shù)調(diào)解下道德主體的重構(gòu)探究》,《自然辯證法研究》2018年第6期。由此可知,學(xué)者們關(guān)于智能人工物的道德地位已有頗具洞見性的探討,根據(jù)道德行動(dòng)體的界定標(biāo)準(zhǔn)及智能化程度,技術(shù)人工物具有不同程度的道德地位。算法技術(shù)作為具有一定智能化的技術(shù)人工物,其道德功能及地位可根據(jù)以上類型做相應(yīng)的分析。筆者認(rèn)為,在當(dāng)今大數(shù)據(jù)和人工智能高速發(fā)展的時(shí)代,智能算法的智能化程度越來越高,AIGC和大數(shù)據(jù)模型得到廣泛運(yùn)用,算法技術(shù)的自主性程度和能動(dòng)性越來越強(qiáng),智能算法技術(shù)的道德地位至少是隱性的倫理能動(dòng)者、無道德客體身份的道德主體、人工道德主體和面向人工智能體的功能型道德能動(dòng)體。智能算法的道德意涵及道德行動(dòng)者功能由此得以形成,傳統(tǒng)的人工智能新聞倫理研究范式及治理進(jìn)路迫切需要轉(zhuǎn)型。

    四、功能型算法道德主體的可能性分析

    判定算法能否成為道德主體,需要分析道德行動(dòng)體的判斷標(biāo)準(zhǔn),以及算法與人共同完成行為和決策的過程特性。對(duì)此,可借助意向性和自主性這兩個(gè)標(biāo)準(zhǔn)。

    第一,智能算法居間調(diào)解的混合意向性。在現(xiàn)象學(xué)中,意向性概念表現(xiàn)為人對(duì)現(xiàn)實(shí)的指向性,是理解人與世界關(guān)系的核心概念。唐·伊德認(rèn)為技術(shù)人工物的意向性是技術(shù)人工物作為中介者調(diào)節(jié)著相互建構(gòu)的人與世界之間的意向關(guān)系。維貝克進(jìn)一步指出,技術(shù)“意向性”包括其中介意向性(技術(shù)調(diào)節(jié)的人的意向關(guān)系)和自身的意向性?,F(xiàn)實(shí)中的意向性是人與技術(shù)人工物共有的“混合意向性”(22)Evan Selinger,Don Ihde,et al.,“Erratum to:Book Symposium on Peter Paul Verbeek′s Moralizing Technology Understanding and Designing the Morality of Things,” Philosophy & Technology,No.4,2012.,意味著人和技術(shù)都有參與的意向性發(fā)揮著作用。對(duì)于人工智能新聞而言,其意向性表現(xiàn)為算法技術(shù)與人共生的混合意向性。算法技術(shù)與新聞從業(yè)者通過雙向代理構(gòu)成共生關(guān)系,形成“人—算法”共生主體。在新聞生產(chǎn)各階段,算法在自然語言處理、數(shù)據(jù)挖掘和推送分發(fā)方面代替人類完成可計(jì)算的實(shí)踐,從業(yè)者則在高質(zhì)量的內(nèi)容生產(chǎn)、新聞價(jià)值的選擇和信息分發(fā)的監(jiān)督上體現(xiàn)能動(dòng)性。(23)張巖松、孫少晶:《人—算法共生主體:計(jì)算新聞生產(chǎn)網(wǎng)絡(luò)中的主體創(chuàng)新》,《編輯之友》2022年第3期。換句話說,人們?cè)谒惴夹g(shù)的中介中感知外部世界和進(jìn)行道德決策,算法執(zhí)行著技術(shù)設(shè)計(jì)者所預(yù)設(shè)的“腳本”并引導(dǎo)人們的行為決策,這帶來兩種可能的結(jié)果。一是個(gè)性化推薦算法帶來豐富的信息內(nèi)容和感官體驗(yàn),滿足受眾多樣化的興趣愛好,實(shí)現(xiàn)信息內(nèi)容與用戶需求的精準(zhǔn)匹配。智能算法中介使用戶的感官和知覺得以延伸,對(duì)世界的感知和體驗(yàn)得以強(qiáng)化,產(chǎn)生媒介知覺的“放大”效應(yīng)和媒介行為的“激勵(lì)”作用。二是算法推薦的不透明性、算法黑箱及算法偏見以一種隱蔽的方式固化甚至強(qiáng)化社會(huì)偏見,看似技術(shù)中立的算法程序不可避免地帶有研發(fā)人員和社會(huì)系統(tǒng)的偏見,影響新聞的客觀性和公共性。此外,高度迎合用戶閱讀趣味的信息內(nèi)容推薦會(huì)反向搭建封閉化、排他性的信息系統(tǒng),用戶長期的媒介接觸會(huì)誘發(fā)潛在的“信息繭房”“過濾起泡”問題,產(chǎn)生知覺的“縮小”和行為的“抑制”效應(yīng)。因此,智能算法的混合意向性表現(xiàn)為人與算法技術(shù)之間的共生關(guān)系,這里的人既包括算法技術(shù)設(shè)計(jì)者,也包括算法技術(shù)使用者,人在算法媒介之世存有的邏輯在于算法技術(shù)混合意向性的發(fā)揮,即算法技術(shù)設(shè)計(jì)者、算法技術(shù)本身和算法技術(shù)使用者的共同意向性使得智能算法的居間調(diào)解功能得以發(fā)揮。

    第二,算法技術(shù)自主性限定人的自主性。在人工智能新聞時(shí)代,算法與人共同構(gòu)成一種不可分割的“人—技”綜合存在。在這個(gè)綜合存在中,人所擁有的自主性不是絕對(duì)的和唯一的,算法技術(shù)也可擁有自主性?!叭恕惴ā钡木C合存在在認(rèn)識(shí)、解釋和改造外部世界時(shí),算法技術(shù)意向性要放置于這種存在的共有屬性中理解。與此相對(duì)應(yīng),算法技術(shù)自主性是人的自主性與算法技術(shù)自主性的綜合,兩者呈反比例關(guān)系,算法技術(shù)的自主性跟其智能化程度有密切關(guān)系,即算法智能化程度越高,人的自主性越低,反之亦然。正如李瑛琦認(rèn)為,網(wǎng)絡(luò)社會(huì)是以媒介技術(shù)為物質(zhì)基礎(chǔ)的、以“網(wǎng)絡(luò)化”邏輯為“技術(shù)秩序”的“技術(shù)化社會(huì)”,人的自主性存在于媒介技術(shù)的規(guī)定性之中;媒介技術(shù)的工具理性弱化了“人的自主性”。(24)李瑛琦:《“永久在線、永久連接”:網(wǎng)絡(luò)社會(huì)何以引發(fā)“人的自主性”危機(jī)?——基于“技術(shù)自主性”的審思》,《新聞界》2022年第6期。盡管算法技術(shù)自主性在一定程度上限定了人的自主性,但不意味著人的自主性的消解和算法技術(shù)的絕對(duì)自主,人的主體價(jià)值依然能夠通過恰當(dāng)?shù)睦硇苑绞脚c算法和諧共生。

    受限于人工智能新聞的智能化水平,當(dāng)下算法技術(shù)的自主性還相對(duì)有限,智能算法的道德主體成為功能型的道德行動(dòng)體。智能新聞通過協(xié)同過濾和內(nèi)容推薦實(shí)現(xiàn)信息供需的高效配對(duì),人們主動(dòng)搜索信息的行為被個(gè)性化算法推薦所替代,算法幫助用戶決定接受什么樣的內(nèi)容,在擬態(tài)環(huán)境中不斷培養(yǎng)用戶的世界觀和價(jià)值觀,輔助人們?cè)诓煌瑘鼍跋伦龀鲋匾男袨闆Q策,如大規(guī)模的空難新聞事件推薦抑制人們乘坐飛機(jī)出行的動(dòng)機(jī)。算法技術(shù)通過大數(shù)據(jù)分析,可以挖掘用戶畫像并推薦相關(guān)信息內(nèi)容,人們逐漸將自主性與能動(dòng)性的判斷決策轉(zhuǎn)移到算法,算法的數(shù)據(jù)化嵌入重塑人與人、人與社會(huì)之間的連接方式和互動(dòng)關(guān)系。從這個(gè)意義說,算法已經(jīng)擺脫了自主性較低、無法進(jìn)行道德認(rèn)知和判斷、只能遵循道德原則進(jìn)行活動(dòng)的操作型道德行動(dòng)體,而成為人工智能體的功能型道德行動(dòng)體。與操作型道德行動(dòng)體相比,算法道德行動(dòng)體的自主性程度有所提高,通過編程的技術(shù)程序設(shè)計(jì),能夠進(jìn)行一定程度的道德認(rèn)知與判斷思考,并能有效反應(yīng)。例如,通過計(jì)算機(jī)代碼編程的計(jì)算模型,算法技術(shù)可以模擬人類認(rèn)知思維,借助開放的大數(shù)據(jù)系統(tǒng),用以搜集信息、預(yù)測(cè)行動(dòng)后果,通過自定義響應(yīng)程序去應(yīng)對(duì)道德問題。以上論證了智能算法道德主體的可能性,算法技術(shù)的混合意向性和自主性構(gòu)成了算法道德主體的必要條件,智能算法在目前算得上是一種功能型的道德行動(dòng)體。

    五、結(jié) 語

    人工智能新聞中的算法道德功能及其可能性分析,對(duì)于智能新聞中的算法倫理治理具有重要的意義。一方面,智能算法作為道德意義的行動(dòng)體,突破了傳統(tǒng)倫理學(xué)中關(guān)于人類責(zé)任主體的固有認(rèn)識(shí),倫理產(chǎn)生于“人—算法(技術(shù))”相互伴隨的媒介化生存情境之中,關(guān)系本體論的算法技術(shù)具有居間調(diào)解的道德功能,這打破了傳統(tǒng)主體與客體二元對(duì)立的倫理本體認(rèn)識(shí)論;另一方面,智能算法的道德行動(dòng)體為構(gòu)建道德規(guī)范嵌入的“前思式”算法倫理治理思路提供了重要基礎(chǔ),有利于轉(zhuǎn)變傳統(tǒng)的事后治理的技術(shù)倫理批判思維,通過算法道德化設(shè)計(jì)的路徑負(fù)載算法技術(shù)倫理價(jià)值,從技術(shù)設(shè)計(jì)的“上游”預(yù)防倫理問題。在算法倫理實(shí)踐中,可以采用技術(shù)道德化設(shè)計(jì)中諸如“設(shè)計(jì)者道德想象力”“價(jià)值敏感設(shè)計(jì)”“擴(kuò)充建構(gòu)性技術(shù)評(píng)估”等方法,在算法技術(shù)預(yù)測(cè)、評(píng)估和設(shè)計(jì)環(huán)節(jié)中納入多元利益相關(guān)者的訴求,實(shí)施民主參與化設(shè)計(jì)和建構(gòu)性技術(shù)評(píng)估的路徑。需要指出的是,本文對(duì)于智能算法的道德行動(dòng)體功能的分析適應(yīng)于“弱人工智能”的當(dāng)下,難免會(huì)存在若干不足。在智能算法技術(shù)日漸成熟的未來,我們可以想象算法有可能上升為“強(qiáng)人工智能”,其道德地位則會(huì)朝向完全的道德行動(dòng)體。道德“嵌入式”的算法倫理治理思路如何突破倫理實(shí)踐中的困境?如何制定共識(shí)性的倫理價(jià)值原則?面對(duì)算法技術(shù)的“不確定性”該如何發(fā)揮其道德功能?發(fā)揮算法道德行動(dòng)體功能該如何界定其“行動(dòng)者網(wǎng)絡(luò)”中的倫理責(zé)任?這些問題無疑都值得我們進(jìn)一步思考,未來可在智能道德行動(dòng)體、算法技術(shù)倫理方法論、智能算法倫理責(zé)任、算法技術(shù)設(shè)計(jì)路徑等方面進(jìn)行深入研究。

    猜你喜歡
    智能算法意向性自主性
    神經(jīng)網(wǎng)絡(luò)智能算法在發(fā)電機(jī)主絕緣狀態(tài)評(píng)估領(lǐng)域的應(yīng)用
    基于超像素的圖像智能算法在礦物顆粒分割中的應(yīng)用
    從雞群算法看群體智能算法的發(fā)展趨勢(shì)
    改進(jìn)的多目標(biāo)快速群搜索算法的應(yīng)用
    淺析胡塞爾現(xiàn)象學(xué)的意向性結(jié)構(gòu)
    中國市場(2016年45期)2016-05-17 05:15:53
    英語學(xué)習(xí)的自主性及其教學(xué)應(yīng)用
    實(shí)用英語教材與藝術(shù)生自主性培養(yǎng)
    發(fā)揮主體作用,加強(qiáng)高中數(shù)學(xué)復(fù)習(xí)的自主性
    (簡論詩創(chuàng)作的意向性)
    “選擇中國共產(chǎn)黨”何以成為群眾集體意向性——讀《井岡山的斗爭》
    探索(2013年3期)2013-04-17 02:37:57
    久久鲁丝午夜福利片| 成人无遮挡网站| 久久精品久久久久久噜噜老黄| 中文字幕av在线有码专区| 久久久久性生活片| 国产成人精品婷婷| 91久久精品电影网| 黄色欧美视频在线观看| 99热6这里只有精品| 久久午夜福利片| 国产av在哪里看| 国产伦一二天堂av在线观看| 国产单亲对白刺激| 久久综合国产亚洲精品| 91aial.com中文字幕在线观看| 成年版毛片免费区| 国产精品国产三级国产专区5o| 少妇的逼水好多| 日本午夜av视频| 干丝袜人妻中文字幕| 亚洲精品久久久久久婷婷小说| 91午夜精品亚洲一区二区三区| 国产一区二区在线观看日韩| 床上黄色一级片| 男女视频在线观看网站免费| 国产精品久久久久久久久免| 国产探花在线观看一区二区| 国产精品久久久久久久电影| 亚洲av成人精品一二三区| 亚洲18禁久久av| 国产高清有码在线观看视频| 熟女人妻精品中文字幕| 伊人久久国产一区二区| 伦理电影大哥的女人| 一区二区三区高清视频在线| 99久久精品热视频| 亚洲aⅴ乱码一区二区在线播放| 在线免费十八禁| 日本三级黄在线观看| 日韩成人伦理影院| 只有这里有精品99| 国产视频首页在线观看| 国产成人aa在线观看| 熟妇人妻不卡中文字幕| 亚洲,欧美,日韩| 我的老师免费观看完整版| 久久精品国产自在天天线| 男女国产视频网站| 亚洲乱码一区二区免费版| 精品久久久噜噜| 久久久国产一区二区| 亚洲第一区二区三区不卡| 黄片无遮挡物在线观看| 亚洲av电影在线观看一区二区三区 | 久久久久国产网址| av免费观看日本| 国产精品三级大全| 国产精品嫩草影院av在线观看| 欧美极品一区二区三区四区| 一个人看视频在线观看www免费| 日韩欧美 国产精品| 九九久久精品国产亚洲av麻豆| 欧美性猛交╳xxx乱大交人| 亚洲av免费高清在线观看| 亚洲人成网站在线播| 97超碰精品成人国产| 亚洲国产高清在线一区二区三| 黄片wwwwww| 听说在线观看完整版免费高清| 麻豆成人午夜福利视频| 亚洲丝袜综合中文字幕| 一区二区三区高清视频在线| 一边亲一边摸免费视频| 成人av在线播放网站| 在线观看人妻少妇| 精品不卡国产一区二区三区| 亚洲伊人久久精品综合| 一区二区三区免费毛片| 国产大屁股一区二区在线视频| 亚洲成人一二三区av| 午夜福利在线在线| 熟女电影av网| 亚洲欧美一区二区三区国产| 国产成人免费观看mmmm| 久久久欧美国产精品| 一个人免费在线观看电影| 老女人水多毛片| 免费高清在线观看视频在线观看| 内地一区二区视频在线| 又粗又硬又长又爽又黄的视频| 成年版毛片免费区| 久久人人爽人人片av| 国内揄拍国产精品人妻在线| 少妇的逼水好多| 一本久久精品| 少妇被粗大猛烈的视频| av在线播放精品| 男人狂女人下面高潮的视频| 天天一区二区日本电影三级| 久久久久精品久久久久真实原创| 天天躁日日操中文字幕| 亚洲人与动物交配视频| 内地一区二区视频在线| a级一级毛片免费在线观看| 80岁老熟妇乱子伦牲交| 岛国毛片在线播放| 精品一区二区三区人妻视频| 汤姆久久久久久久影院中文字幕 | 五月伊人婷婷丁香| 日韩三级伦理在线观看| 偷拍熟女少妇极品色| av在线天堂中文字幕| 99九九线精品视频在线观看视频| 性插视频无遮挡在线免费观看| 嫩草影院入口| 午夜爱爱视频在线播放| 久久久久久久国产电影| 国产色婷婷99| 特级一级黄色大片| 免费观看在线日韩| 国产亚洲5aaaaa淫片| 国产av在哪里看| 2021天堂中文幕一二区在线观| 亚洲熟女精品中文字幕| 亚洲av免费在线观看| 国产成人福利小说| 日日摸夜夜添夜夜爱| 久久精品夜色国产| 国产伦在线观看视频一区| 2021天堂中文幕一二区在线观| 一个人免费在线观看电影| 欧美日韩亚洲高清精品| 精品熟女少妇av免费看| 激情五月婷婷亚洲| 18禁动态无遮挡网站| 大香蕉久久网| 高清日韩中文字幕在线| 乱系列少妇在线播放| 看黄色毛片网站| 国产黄色免费在线视频| 日韩av在线大香蕉| 日本一本二区三区精品| 日韩精品青青久久久久久| 中国国产av一级| 日韩一区二区三区影片| 成年版毛片免费区| 国产成人福利小说| 久久久久久久大尺度免费视频| 国产成人精品福利久久| 午夜激情久久久久久久| 韩国高清视频一区二区三区| 亚洲经典国产精华液单| 国产av不卡久久| 国产黄色视频一区二区在线观看| 日韩国内少妇激情av| 久久精品国产自在天天线| 一区二区三区免费毛片| 赤兔流量卡办理| av在线观看视频网站免费| 免费看美女性在线毛片视频| 老师上课跳d突然被开到最大视频| 亚洲电影在线观看av| 国产成人福利小说| 午夜精品国产一区二区电影 | 国产免费福利视频在线观看| 偷拍熟女少妇极品色| 国产精品蜜桃在线观看| 欧美三级亚洲精品| 天美传媒精品一区二区| 日本一本二区三区精品| 黄片无遮挡物在线观看| 免费观看的影片在线观看| 成人一区二区视频在线观看| 哪个播放器可以免费观看大片| 在线观看免费高清a一片| 高清在线视频一区二区三区| 国产老妇女一区| 3wmmmm亚洲av在线观看| 免费电影在线观看免费观看| 国产黄色小视频在线观看| 成年av动漫网址| 人体艺术视频欧美日本| av一本久久久久| 干丝袜人妻中文字幕| 波野结衣二区三区在线| 综合色av麻豆| 亚洲精品一区蜜桃| 纵有疾风起免费观看全集完整版 | 18禁裸乳无遮挡免费网站照片| 日韩亚洲欧美综合| 久久草成人影院| 成年版毛片免费区| 国产亚洲最大av| 国产单亲对白刺激| 国产午夜福利久久久久久| 色综合站精品国产| 亚洲精品一区蜜桃| 亚洲欧美精品专区久久| 亚洲欧美日韩卡通动漫| 99热6这里只有精品| 非洲黑人性xxxx精品又粗又长| 亚洲18禁久久av| 成人漫画全彩无遮挡| 最近中文字幕高清免费大全6| 日日干狠狠操夜夜爽| 精品欧美国产一区二区三| 国产v大片淫在线免费观看| 99久久中文字幕三级久久日本| 美女国产视频在线观看| 97超视频在线观看视频| 麻豆国产97在线/欧美| 日本av手机在线免费观看| 毛片一级片免费看久久久久| 欧美变态另类bdsm刘玥| 水蜜桃什么品种好| 免费观看性生交大片5| 美女黄网站色视频| 只有这里有精品99| ponron亚洲| 国产男女超爽视频在线观看| 伊人久久精品亚洲午夜| 久久久精品免费免费高清| 丝袜喷水一区| 直男gayav资源| 久久久久久久国产电影| 久久草成人影院| 少妇熟女欧美另类| 国产亚洲一区二区精品| 亚洲精品成人av观看孕妇| 亚洲精品日本国产第一区| 亚洲精品456在线播放app| 青春草视频在线免费观看| 国产精品1区2区在线观看.| 九色成人免费人妻av| 蜜桃亚洲精品一区二区三区| 亚洲精品自拍成人| 久久国内精品自在自线图片| 国产成人精品福利久久| 18禁在线播放成人免费| 亚洲三级黄色毛片| 亚洲国产精品专区欧美| 极品教师在线视频| 亚洲最大成人中文| 精品人妻偷拍中文字幕| 亚洲欧美成人综合另类久久久| 一级a做视频免费观看| 秋霞在线观看毛片| 成人毛片60女人毛片免费| 一夜夜www| 国产探花在线观看一区二区| 亚洲精品国产av成人精品| 狠狠精品人妻久久久久久综合| 欧美+日韩+精品| 国内精品美女久久久久久| 26uuu在线亚洲综合色| 日本爱情动作片www.在线观看| 国产精品麻豆人妻色哟哟久久 | 久99久视频精品免费| 伦理电影大哥的女人| 一级毛片电影观看| 免费少妇av软件| eeuss影院久久| 午夜爱爱视频在线播放| 亚洲第一区二区三区不卡| 国产亚洲91精品色在线| 男插女下体视频免费在线播放| 国产一级毛片在线| 日韩一区二区视频免费看| 男人舔奶头视频| 一级毛片我不卡| 伦精品一区二区三区| 在线免费观看的www视频| 男人狂女人下面高潮的视频| 亚洲精品久久久久久婷婷小说| 午夜免费激情av| 亚洲欧美日韩东京热| 麻豆国产97在线/欧美| 欧美高清性xxxxhd video| 精品酒店卫生间| 免费观看a级毛片全部| 激情五月婷婷亚洲| 国产老妇伦熟女老妇高清| 一个人看视频在线观看www免费| 少妇的逼好多水| 别揉我奶头 嗯啊视频| 午夜福利在线在线| 国产黄色视频一区二区在线观看| 人妻夜夜爽99麻豆av| 六月丁香七月| 麻豆成人av视频| 色哟哟·www| 亚洲天堂国产精品一区在线| 欧美三级亚洲精品| av又黄又爽大尺度在线免费看| 性插视频无遮挡在线免费观看| 青春草国产在线视频| 色综合色国产| 视频中文字幕在线观看| 尾随美女入室| 噜噜噜噜噜久久久久久91| 亚洲在线自拍视频| 亚洲综合色惰| 99久久人妻综合| 亚洲自拍偷在线| 精品一区二区三区视频在线| 亚洲欧美一区二区三区黑人 | 性插视频无遮挡在线免费观看| 久久精品夜色国产| 人人妻人人看人人澡| 国产乱人视频| 国产精品三级大全| 性插视频无遮挡在线免费观看| 亚洲av男天堂| 国精品久久久久久国模美| 99热这里只有是精品在线观看| 国产欧美日韩精品一区二区| 国产精品一区二区性色av| 一级a做视频免费观看| a级毛色黄片| 色综合色国产| 国产老妇女一区| 久久99热这里只有精品18| 大片免费播放器 马上看| 特大巨黑吊av在线直播| 欧美潮喷喷水| 永久网站在线| 亚洲av电影在线观看一区二区三区 | 国产伦精品一区二区三区视频9| 亚洲精品国产av成人精品| 天堂网av新在线| 日本与韩国留学比较| 69av精品久久久久久| 精品久久久噜噜| 国产黄频视频在线观看| 久久久久久伊人网av| 亚洲精品,欧美精品| 国产综合精华液| 极品少妇高潮喷水抽搐| 男女边摸边吃奶| 国产高清有码在线观看视频| 国产在线一区二区三区精| .国产精品久久| 成人午夜精彩视频在线观看| 婷婷色麻豆天堂久久| 亚洲av男天堂| 亚洲精品日本国产第一区| 看黄色毛片网站| 久久精品久久久久久噜噜老黄| 男人舔女人下体高潮全视频| 亚洲精品影视一区二区三区av| 国产高清三级在线| 午夜福利网站1000一区二区三区| 在线免费观看的www视频| 好男人在线观看高清免费视频| 美女被艹到高潮喷水动态| 蜜臀久久99精品久久宅男| 亚洲欧美日韩卡通动漫| 国产色婷婷99| 97人妻精品一区二区三区麻豆| 国产亚洲av嫩草精品影院| 免费看不卡的av| 少妇的逼好多水| 国产色婷婷99| 色哟哟·www| 国产淫语在线视频| 国产一区二区三区av在线| 一区二区三区免费毛片| 亚洲在线自拍视频| 久久精品人妻少妇| 免费看美女性在线毛片视频| 亚洲av在线观看美女高潮| av网站免费在线观看视频 | 日韩欧美精品免费久久| 国产伦理片在线播放av一区| 亚洲精品色激情综合| 精品99又大又爽又粗少妇毛片| 亚洲精品成人久久久久久| 超碰97精品在线观看| 在线观看av片永久免费下载| 日日干狠狠操夜夜爽| 丝袜喷水一区| 国产黄色免费在线视频| 69av精品久久久久久| 亚洲人成网站高清观看| 日本与韩国留学比较| 婷婷色综合www| 内射极品少妇av片p| 国产一区亚洲一区在线观看| 亚洲精品456在线播放app| av.在线天堂| 能在线免费看毛片的网站| 国产高清不卡午夜福利| 亚洲欧美清纯卡通| 1000部很黄的大片| 日韩av在线大香蕉| av专区在线播放| 神马国产精品三级电影在线观看| 国产精品爽爽va在线观看网站| 男人狂女人下面高潮的视频| 美女脱内裤让男人舔精品视频| 久久久精品94久久精品| 亚洲精品国产av蜜桃| av网站免费在线观看视频 | 成年免费大片在线观看| 亚洲精品日韩av片在线观看| 国产乱来视频区| 欧美精品一区二区大全| 精品久久久久久电影网| 久久久国产一区二区| 麻豆av噜噜一区二区三区| 全区人妻精品视频| 国产亚洲最大av| 欧美 日韩 精品 国产| 日本黄大片高清| 在线观看美女被高潮喷水网站| 国产在线一区二区三区精| 2022亚洲国产成人精品| 插阴视频在线观看视频| 91狼人影院| 国产成年人精品一区二区| 中文字幕免费在线视频6| 男的添女的下面高潮视频| 男插女下体视频免费在线播放| 亚洲欧美一区二区三区黑人 | 欧美区成人在线视频| 99久久精品国产国产毛片| 人妻夜夜爽99麻豆av| 乱系列少妇在线播放| 日日啪夜夜撸| 欧美 日韩 精品 国产| 搡女人真爽免费视频火全软件| 高清在线视频一区二区三区| 久久久国产一区二区| 波多野结衣巨乳人妻| 18禁在线播放成人免费| 免费无遮挡裸体视频| 精品久久久精品久久久| 寂寞人妻少妇视频99o| 日韩 亚洲 欧美在线| 国产三级在线视频| 内地一区二区视频在线| av又黄又爽大尺度在线免费看| av专区在线播放| 嫩草影院精品99| 不卡视频在线观看欧美| 性插视频无遮挡在线免费观看| 一级毛片黄色毛片免费观看视频| 熟女人妻精品中文字幕| 精品人妻视频免费看| 久久久久久久大尺度免费视频| 菩萨蛮人人尽说江南好唐韦庄| 99热这里只有是精品50| 淫秽高清视频在线观看| 黄色一级大片看看| 好男人视频免费观看在线| 亚洲欧美精品自产自拍| 非洲黑人性xxxx精品又粗又长| 亚洲精品亚洲一区二区| 精品欧美国产一区二区三| 可以在线观看毛片的网站| 国产午夜精品一二区理论片| 亚洲美女视频黄频| 99热这里只有是精品在线观看| 国产有黄有色有爽视频| 一级二级三级毛片免费看| 日韩av在线大香蕉| 伊人久久精品亚洲午夜| 国产午夜精品一二区理论片| 免费电影在线观看免费观看| 亚洲精品乱码久久久v下载方式| 亚洲国产精品sss在线观看| 午夜激情福利司机影院| 日韩欧美 国产精品| 亚洲av免费高清在线观看| 熟女电影av网| 亚州av有码| 18禁动态无遮挡网站| 国产精品无大码| 国产精品一二三区在线看| 日韩精品青青久久久久久| 亚洲国产精品成人久久小说| 亚洲欧美精品自产自拍| 午夜免费激情av| 人体艺术视频欧美日本| 午夜福利在线观看吧| 国产黄片美女视频| 观看免费一级毛片| 精品一区二区免费观看| 午夜精品国产一区二区电影 | 91狼人影院| 最近视频中文字幕2019在线8| 赤兔流量卡办理| 国产精品日韩av在线免费观看| 中文字幕久久专区| 有码 亚洲区| 啦啦啦韩国在线观看视频| 美女国产视频在线观看| 嘟嘟电影网在线观看| 黄片无遮挡物在线观看| 国产中年淑女户外野战色| 午夜福利在线观看免费完整高清在| 欧美成人a在线观看| 少妇高潮的动态图| 国产高清有码在线观看视频| 亚洲在久久综合| 日本免费a在线| 色5月婷婷丁香| 青春草亚洲视频在线观看| 免费看不卡的av| 国产亚洲最大av| 国产又色又爽无遮挡免| 淫秽高清视频在线观看| 国产伦在线观看视频一区| 成人无遮挡网站| av网站免费在线观看视频 | 91午夜精品亚洲一区二区三区| 女的被弄到高潮叫床怎么办| 又粗又硬又长又爽又黄的视频| 特级一级黄色大片| 久久国内精品自在自线图片| 中文欧美无线码| 中文在线观看免费www的网站| 国产亚洲最大av| 色5月婷婷丁香| 日韩成人av中文字幕在线观看| 日本一本二区三区精品| 国产精品.久久久| 一二三四中文在线观看免费高清| 人妻制服诱惑在线中文字幕| 搡老妇女老女人老熟妇| 人妻制服诱惑在线中文字幕| 国产成人a∨麻豆精品| 国产有黄有色有爽视频| 中文乱码字字幕精品一区二区三区 | 一级毛片黄色毛片免费观看视频| 91精品伊人久久大香线蕉| 黄色一级大片看看| 啦啦啦中文免费视频观看日本| 国产一区二区三区综合在线观看 | 成年女人在线观看亚洲视频 | 亚洲精品国产av蜜桃| 日韩av免费高清视频| 岛国毛片在线播放| 在线免费十八禁| 看非洲黑人一级黄片| 精品一区二区三卡| 欧美zozozo另类| 边亲边吃奶的免费视频| 亚洲av电影不卡..在线观看| xxx大片免费视频| 免费看光身美女| 99久久精品国产国产毛片| 纵有疾风起免费观看全集完整版 | 国产日韩欧美在线精品| 亚洲在久久综合| 欧美性感艳星| av在线亚洲专区| 在线免费观看的www视频| 亚洲熟妇中文字幕五十中出| 久久久久久久亚洲中文字幕| 久久久国产一区二区| 国产激情偷乱视频一区二区| 久久久精品欧美日韩精品| 人妻制服诱惑在线中文字幕| 精品久久久久久久末码| 精品国产一区二区三区久久久樱花 | 久久精品久久精品一区二区三区| 女人久久www免费人成看片| 97热精品久久久久久| av.在线天堂| 国产精品久久久久久精品电影小说 | 成人欧美大片| 99久久中文字幕三级久久日本| 国产高清三级在线| 亚洲国产精品专区欧美| 伊人久久国产一区二区| 在线免费观看的www视频| 欧美一级a爱片免费观看看| 国国产精品蜜臀av免费| 午夜视频国产福利| 亚洲av电影在线观看一区二区三区 | 五月天丁香电影| 1000部很黄的大片| 能在线免费看毛片的网站| 亚洲欧美日韩东京热| 国产精品久久久久久av不卡| 亚洲经典国产精华液单| 一级黄片播放器| 亚州av有码| 久久久久国产网址| 好男人在线观看高清免费视频| 亚洲av国产av综合av卡| 亚洲精品456在线播放app| xxx大片免费视频| 国产精品一区二区三区四区免费观看| 最近手机中文字幕大全| 男女边摸边吃奶| 如何舔出高潮| 夫妻午夜视频| 国产男女超爽视频在线观看| 久久精品久久久久久久性| 久久人人爽人人爽人人片va| 亚洲经典国产精华液单| 成年免费大片在线观看| 久久人人爽人人爽人人片va| 亚洲经典国产精华液单| 久久精品久久久久久久性| 国产av不卡久久| 久久鲁丝午夜福利片| 丰满少妇做爰视频| 日韩欧美 国产精品| 欧美丝袜亚洲另类| 免费高清在线观看视频在线观看| 免费看日本二区| 神马国产精品三级电影在线观看|