• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “機(jī)器同伴”:新型親密關(guān)系下的“人機(jī)共情”現(xiàn)象思考

    2021-04-17 07:04:09何雙百
    關(guān)鍵詞:人類情感

    何雙百

    [提要]隨著社交機(jī)器人逐漸出現(xiàn)在家庭、醫(yī)療、教育等領(lǐng)域的日常生活與媒介交流環(huán)境里,他們與人的關(guān)系變得越來(lái)越緊密。在人與機(jī)器建立新型親密關(guān)系的過(guò)程中,同理心扮演了重要的作用。人們通常認(rèn)為與機(jī)器人的社會(huì)互動(dòng)是基于“擬人化”,即對(duì)人類社會(huì)能力的想象投射,然而此說(shuō)法爭(zhēng)議較大。本文擬將社交機(jī)器人作為研究對(duì)象,首先通過(guò)人機(jī)互動(dòng)的現(xiàn)象描述,探討我們能不能對(duì)機(jī)器人產(chǎn)生同理心這一認(rèn)知謎題;然后進(jìn)一步討論“是否應(yīng)該以及為什么需要對(duì)機(jī)器人移情”等問(wèn)題;最后在直接感知理論(DPT)的基礎(chǔ)上提出“非對(duì)稱社會(huì)互動(dòng)感知論”這一描述性框架,探索社會(huì)化在“人機(jī)共情”現(xiàn)象里達(dá)成的重要作用。

    社交機(jī)器人是數(shù)字時(shí)代技術(shù)、社會(huì)和文化變革中出現(xiàn)的新角色,它們作為伙伴而不是工具與人類進(jìn)行社會(huì)互動(dòng)和合作的應(yīng)用領(lǐng)域正在增加,也讓社會(huì)各領(lǐng)域下的人-機(jī)交互問(wèn)題研究變得越來(lái)越重要。在分析之前,有必要對(duì)社交機(jī)器人的概念進(jìn)行限定,因?yàn)閲?guó)內(nèi)有學(xué)者認(rèn)為,“社交機(jī)器人是指社會(huì)網(wǎng)絡(luò)中扮演人的身份,擁有不同程度的人格屬性,與人進(jìn)行互動(dòng)的虛擬AI形象”[1],但本文要探討的社交機(jī)器人首先排除那些虛擬AI形象或利用算法生成的社交媒體賬戶,而是那些能夠“遵循社會(huì)行為和規(guī)則與人類或其他主體進(jìn)行互動(dòng)或交流的自主機(jī)器”[2],它們不僅是一個(gè)“實(shí)體”的存在,還在不同的協(xié)作環(huán)境中扮演不同的角色,如治療師、訓(xùn)練員、調(diào)解員、照顧者和同伴等,擁有諸如洗碗、哄小孩睡覺(jué)、演奏、種菜、預(yù)測(cè)天氣、回答問(wèn)題、安撫等多種功能,因?yàn)檫@種機(jī)器人更能夠給予用戶一種“與他人在一起的感覺(jué)”,它們不僅是“工具”,更是扮演著“社會(huì)伙伴”的重要角色。

    一、“機(jī)器同伴”:人機(jī)互動(dòng)的現(xiàn)象描述

    在過(guò)去很長(zhǎng)一段時(shí)間里,人類傾向于使用熟悉的社交模式與機(jī)器人進(jìn)行互動(dòng),對(duì)機(jī)器人表現(xiàn)出同情等情感反應(yīng),甚至賦予他們道德地位,但這些現(xiàn)象通常被集中在一起被歸類為“擬人化”而非“同理心”的實(shí)例,畢竟我們通常不認(rèn)為機(jī)器人有“頭腦”,隨著那些能夠?qū)θ祟愓Z(yǔ)音、圖像進(jìn)行識(shí)別的、有“人情味”的社交機(jī)器人的不斷涌現(xiàn),人與機(jī)器人開(kāi)始建立起類似“同伴”的新型親密關(guān)系。

    (一)社交機(jī)器人的興起

    “社交機(jī)器人”代表了一種普遍的渴望,即創(chuàng)造一個(gè)符合個(gè)人欲望和需要的人類模型。古羅馬作家?jiàn)W維德(Ovid)在他的書《變形記》(Metamorphoses)中充滿想象力的描述了一個(gè)關(guān)于塞浦路斯人皮格馬利翁的故事,該故事講述了有著超高藝術(shù)天賦的皮格馬利翁,把所有的激情和時(shí)間都集中在創(chuàng)造一座體現(xiàn)自己理想女性的雕像上,最后皮格馬利翁創(chuàng)作成功還迷戀上這座雕塑,不僅用華麗的服飾、昂貴的首飾裝扮它,還把它當(dāng)作伴侶一般與它同床共枕、跟它講話。①這個(gè)故事的寓意是非常明確的:人類的創(chuàng)造力和發(fā)明精神指向于對(duì)生命的理想化的形象模仿。社交機(jī)器人也是為了與人交流這個(gè)目的而設(shè)計(jì)的,當(dāng)社交機(jī)器人與動(dòng)物或人相似時(shí),人與機(jī)器之間就會(huì)產(chǎn)生一種自然且直觀的交流,因此,流行的社交機(jī)器人也能夠成為寵物或同伴。1999年,索尼首次推出愛(ài)寶作為一種觸摸敏感和互動(dòng)寵物,它被設(shè)計(jì)成一個(gè)朋友或娛樂(lè)伙伴;②由法國(guó)Aldebaran Robotics(仿人機(jī)器人研制企業(yè))開(kāi)發(fā)的雙足人形機(jī)器人Nao(腦)看起來(lái)像個(gè)玩具,然而它可以聽(tīng)、看、說(shuō),并被編程來(lái)模仿人類的行為甚至實(shí)現(xiàn)復(fù)雜的交互;③號(hào)稱“最善解人意”的社交機(jī)器人Paro(帕羅),其“設(shè)計(jì)的初衷是與人進(jìn)行身體上的社交互動(dòng)”,[3]它有著人造白色皮毛,讓人一看到它就想觸摸它并很快對(duì)它產(chǎn)生依戀,它支持治療和護(hù)理,由于改善情緒、緩解壓力效果明顯,在日本經(jīng)常被個(gè)人或夫婦作為寵物伴侶購(gòu)買;在日本大阪還有一款“柔情機(jī)器人”(Affetto),②艾伯爾描述它“長(zhǎng)著一張嬰兒臉,有兩只小胳膊,皮膚摸起來(lái)跟嬰兒一樣,當(dāng)它們撅著嘴、哭鬧發(fā)出咕嚕的說(shuō)話聲,轉(zhuǎn)動(dòng)眼睛感興趣的看著參觀者,這時(shí),人們禁不住想要建立與它的關(guān)系”。[4](P.319)

    20世紀(jì)90年代開(kāi)始,心理學(xué)等領(lǐng)域就嘗試系統(tǒng)地研究人與機(jī)器人之間的相互作用,研究表明,“與社交機(jī)器人互動(dòng)對(duì)老年人的心理健康、認(rèn)知能力和情緒反應(yīng)都有顯著的積極影響”,[5]情感及服務(wù)型機(jī)器人的研發(fā)規(guī)模和研究領(lǐng)域都有所擴(kuò)大。近年來(lái),日本將發(fā)展機(jī)器人作為迎接高齡化社會(huì),解決勞動(dòng)力不足問(wèn)題的重要一環(huán),重點(diǎn)研發(fā)護(hù)理病人、料理家務(wù)、陪伴老人、照顧殘疾人等家庭服務(wù)型機(jī)器人,圍繞人和機(jī)器人之間建立的新型親密關(guān)系的討論也開(kāi)始出現(xiàn)。⑤親密關(guān)系包括“內(nèi)在的信任、愛(ài)情和友誼等”。這種親密關(guān)系的探討不僅涉及人體內(nèi)的哪些心理或情感神經(jīng)機(jī)制被激活,同時(shí)還啟動(dòng)了人機(jī)互動(dòng)的新的話語(yǔ)機(jī)制,即被愛(ài)和被信任的機(jī)器人從物質(zhì)領(lǐng)域中解脫出來(lái),安置到人類社會(huì)生活中。人們談?wù)摰臋C(jī)器人不再屬于機(jī)器、物體、物品的范疇,相反,人們談?wù)撍拖衿匠U務(wù)撐覀兯鶒?ài)和信任的人一樣,也相信他們會(huì)反過(guò)來(lái)愛(ài)和信任我們。淺田捻(Minoru Asada)在日本從事機(jī)器人技術(shù)和人工智能30余年,他相信未來(lái)機(jī)器人將與人更緊密的一起生活,并向人類提供身體和精神上的支持,為了消除人與機(jī)器人之間的鴻溝,“他希望機(jī)器人能夠識(shí)別情感,不僅模擬情感,而且甚至還擁有情感,他還想要展示移情和善解人意,喚醒同情的社會(huì)機(jī)器人,因?yàn)橹挥械侥菚r(shí),與人類組成的一個(gè)真正的集體才會(huì)發(fā)揮作用”[4](P.317)。

    (二)“人工移情”的概念挑戰(zhàn)

    如果機(jī)器人要成為我們的同伴,就需要具備滿足我們社會(huì)需求的基本條件,這種基本條件之一就是移情,在社會(huì)心理學(xué)中,對(duì)于移情的內(nèi)部過(guò)程看法并不統(tǒng)一,因此移情的一些定義與情感傳染、模仿、同情或同感等概念重疊。在《論移情問(wèn)題》的前言部分,E·施泰因(Edith Stein)將移情定義為“對(duì)陌生主體及其體驗(yàn)行為的經(jīng)驗(yàn)”[6],移情作為一種特殊的感知行為,可以讓我們理解外來(lái)心理體驗(yàn),“我們自己的人格是在原始的精神行為中顯現(xiàn)出來(lái)的,而其他人或外來(lái)個(gè)體的人格則是通過(guò)移情體驗(yàn)的行為而顯現(xiàn)出來(lái)的”[7]。認(rèn)識(shí)自己和他人人格的可能性是通過(guò)移情來(lái)保證的,移情不僅被認(rèn)為是一種身體上的精神活動(dòng),還是一種精神行為。威斯帕(Wispé)則將移情定義為“一個(gè)觀察者在情感上做出反應(yīng),因?yàn)樗X(jué)察到另一個(gè)人正在經(jīng)歷或即將經(jīng)歷一種情感”[8](P.17-19),移情不僅僅是一種交流,還是一種模擬的透視:通過(guò)鏡像神經(jīng)元的激活,預(yù)期地歸因于和解碼他人行為的能力。我們傾向于接觸、共鳴和模仿他者的精神生活,“理解他者行動(dòng)的原因需要運(yùn)用我們的移情能力,在自己的頭腦中重現(xiàn)想法,并富有想象力的理解他人的觀點(diǎn)”[9](P.272)。盡管移情并不一定意味著我們復(fù)制他人的精神狀態(tài),但移情者和目標(biāo)處于相同或至少相似的情感狀態(tài)。所以普雷斯頓(Preston)等進(jìn)一步認(rèn)為,“移情不僅包括情感過(guò)程,還包括認(rèn)知和親社會(huì)行為,因此,同理心往往與幫助行為或友誼有關(guān):人們往往對(duì)朋友的同理心強(qiáng)于對(duì)陌生人的同理心?!盵10]

    雖然哲學(xué)領(lǐng)域已經(jīng)有很多關(guān)于人類對(duì)真實(shí)人物或虛構(gòu)人物移情的文章,卻忽視了移情在人機(jī)交互中的作用,直到最近幾年,隨著能夠表達(dá)情緒的社交機(jī)器人的不斷出現(xiàn)以及人工智能情緒的研究越來(lái)越多,人們對(duì)與不同形式的“人機(jī)共情”的可能性和必要性產(chǎn)生了濃厚的哲學(xué)興趣。一些研究者甚至希望把人類共情機(jī)制嵌入機(jī)器人系統(tǒng),從而催生出“人工移情”(Artificial Empathy)這一概念,該概念被淺田捻及保羅·杜穆切爾等人正式提出,用來(lái)指那些社交能力建立在激發(fā)人類情感反應(yīng)能力基礎(chǔ)上的機(jī)器人的行為。⑥在《與機(jī)器人共存》(Living with Robots)一書中,保羅·杜穆切爾(Dumouchel)講述了機(jī)器人學(xué)領(lǐng)域從人工智能到“人工移情”的一個(gè)基本轉(zhuǎn)變,預(yù)示著人類進(jìn)化的拐點(diǎn),也帶出當(dāng)前最具探索性的一個(gè)問(wèn)題:同理心作為人類“特權(quán)”受到挑戰(zhàn),換言之,當(dāng)機(jī)器人制造專家將人工移情編程到機(jī)器人身體中,那種傳統(tǒng)的關(guān)于人類情感是離散的、私人的、內(nèi)在的看法正在改變。⑦施梅特坎普(Schmetkamp)等認(rèn)為,“機(jī)器人可以用某種特定的方式感知世界,它也擁有感知和評(píng)估周圍世界的視角,盡管不像人類一樣復(fù)雜,但能作出判斷,甚至發(fā)展出動(dòng)機(jī)的視角”[11]。中國(guó)學(xué)者顏志強(qiáng)等把“Artificial Empathy”翻譯成“智能體共情”,并以此為主題結(jié)合人工智能領(lǐng)域的最新研究,對(duì)現(xiàn)有與智能體共情有關(guān)的理論模型做了系統(tǒng)闡述和實(shí)證研究,不管是人工移情還是“智能體共情”,這一方面的研究在中國(guó)乃至全世界尚處于萌芽階段?!耙恍┤斯ぶ悄茴I(lǐng)域的研究著已經(jīng)開(kāi)始建構(gòu)機(jī)器人共情的相關(guān)模型”。[12]德瓦爾(de Waal)提出的“俄羅斯套娃模型”⑧和德賽第(Decety)等提出的“雙加工模型”⑨是其中較有影響力的模型。淺田捻建議設(shè)計(jì)智能體共情要以俄羅斯套娃模型為基礎(chǔ),重點(diǎn)考慮兩個(gè)關(guān)鍵的加工過(guò)程:情緒共鳴和情緒/認(rèn)知共情,顏志強(qiáng)將情緒共鳴解讀為“個(gè)體對(duì)他人情緒的一種自動(dòng)化的情緒共享,情緒/認(rèn)知共情的功能模擬則需要借助于機(jī)器人的學(xué)習(xí)能力。”[12]從技術(shù)角度來(lái)說(shuō)移情是很難建模的,但是對(duì)于機(jī)器人成為我們社會(huì)中的社會(huì)主體又是必不可少的,淺田捻不僅主張“人工同情”,并提議“將情感認(rèn)知發(fā)展成機(jī)器人的一部分,以準(zhǔn)確設(shè)計(jì)人工移情”。[13]

    “人機(jī)共情”現(xiàn)象的探討不僅需要在認(rèn)識(shí)論層面把精神哲學(xué)或現(xiàn)象學(xué)、神經(jīng)科學(xué)、仿真理論、感知技術(shù)等多方面納入考量,還涉及一系列倫理問(wèn)題需要思考:人類移情系統(tǒng)是否適用于機(jī)器人移情?機(jī)器人到底有沒(méi)有“頭腦”和情感?如果它們有,我們?nèi)绾胃兄徒佑|它們的狀態(tài)和經(jīng)驗(yàn)?將具有情感能力的機(jī)器人引入我們的社交環(huán)境有何道德風(fēng)險(xiǎn)?

    二、“人機(jī)共情”:認(rèn)知轉(zhuǎn)變及倫理思考

    我們對(duì)機(jī)器人產(chǎn)生認(rèn)同感,希望與機(jī)器人建立情感聯(lián)系既有益處,也有弊端,有學(xué)者如特克爾(Turkle)認(rèn)為這是一種道德欺騙,會(huì)導(dǎo)致“我們遺忘生而為人的特別之處,遺忘真實(shí)交談的意義。”[14](P.379),也有學(xué)者認(rèn)為,“人工智能如果能夠模仿情緒,也是一種非常有用的技能,人工智能不需要讓人們相信這些交流信號(hào)背后有真的感情,只需知道它們對(duì)溝通會(huì)很有幫助?!盵15](P.148)

    (一)對(duì)機(jī)器人移情的認(rèn)知轉(zhuǎn)變

    在《社交機(jī)器人與社會(huì)關(guān)系的未來(lái)》一書中,認(rèn)知科學(xué)家喬?!だ椎滤雇?Josh Redstone)提出“將人們對(duì)社交機(jī)器人的情感反應(yīng)設(shè)想為真正的移情反應(yīng)”,但最終他駁斥了機(jī)器人和人之間存在“真正的同理心”的觀點(diǎn),他將這一場(chǎng)景解釋為人的一種“感知幻覺(jué)”。[16](P.177)精神分析學(xué)家爾蓋·蒂塞隆(Serge Tisseron)認(rèn)為,“真實(shí)”移情的重要特征是它是相互的,或者說(shuō)它是“外生命的”,[17]根據(jù)定義,它排除了動(dòng)物和機(jī)器人?!叭斯ひ魄椤币欢ǔ潭壬咸魬?zhàn)了我們移情的極限,包括移情的概念。如果將移情能力擴(kuò)展到非人類到底是構(gòu)成了一種道德倫理上的“改進(jìn)”,還是導(dǎo)致移情概念的毀滅?換言之,如果這是擺在我們面前的“選擇”,我們是否關(guān)心移情和它的未來(lái)?這既是一個(gè)哲學(xué)問(wèn)題,也是一個(gè)務(wù)實(shí)的“技術(shù)”問(wèn)題。大量反對(duì)意見(jiàn)認(rèn)為,機(jī)器人并沒(méi)有真正的感覺(jué)或體驗(yàn)任何東西,它們也沒(méi)有真正的精神狀態(tài),如欲望或信仰,它們是通過(guò)編碼、設(shè)計(jì)和敘述來(lái)創(chuàng)建的,并且在與人、環(huán)境的交互中被“調(diào)整”,也就沒(méi)有能動(dòng)意識(shí)。既然同理心是針對(duì)某人精神狀態(tài)“存在于這個(gè)世界”的,自然我們無(wú)法對(duì)機(jī)器人產(chǎn)生同理心。

    如果我們無(wú)法解決以上認(rèn)識(shí)論問(wèn)題,那么機(jī)器人將無(wú)法成為人類移情的接受者,我們可以試著從與機(jī)器人互動(dòng)并與機(jī)器人建立社會(huì)關(guān)系的人類的感受出發(fā)來(lái)理解這一過(guò)程,在很多情況下——包括創(chuàng)作小說(shuō)或影視作品的時(shí)候——我們依賴想象力來(lái)獲得沒(méi)有看到的東西,移情現(xiàn)象學(xué)方法的早期先驅(qū)之一施泰因也認(rèn)同,想象或再現(xiàn)在共情理解的多階段過(guò)程中起著關(guān)鍵作用。我們可以想象機(jī)器人的感覺(jué),這里重要的“內(nèi)容”不是機(jī)器人“頭腦中”的東西,而是人類與機(jī)器人互動(dòng)時(shí)的感受,移情主體是否需要和他人有同樣的感覺(jué)變得也不重要。事實(shí)上,機(jī)器人也可以擁有自己的情感,機(jī)器人是由物質(zhì)材料組成的,這是所有思想和功能的基礎(chǔ),特克爾(Turkle)認(rèn)為,“如果你把機(jī)器人當(dāng)作一種全新的物種,那么機(jī)器人的情感是合理的,就像動(dòng)物與人的情感也各有不同,也就沒(méi)有必要再拿機(jī)器人的情感和人做比較,這意味著討論情感的真實(shí)性是無(wú)意義的”。[14](P.306)所以與其問(wèn)機(jī)器人是否擁有自己的情感,不如探討我們希望與機(jī)器人形成什么樣的關(guān)系,我們?yōu)槭裁匆寵C(jī)器人表現(xiàn)它們自己的情感?以及我們?cè)摬辉搶?duì)它們產(chǎn)生同理心?

    (二)親密關(guān)系下的迷戀與恐懼

    信息哲學(xué)家弗洛里迪(Floridi)分析過(guò)我們渴望與機(jī)器建立關(guān)系的兩大原因:首先,人工伴侶是為了滿足人類對(duì)社會(huì)情感紐帶和關(guān)系的特殊需求;其次,社交機(jī)器人可提供娛樂(lè)、新聞、教育、醫(yī)療等服務(wù)。[18](P.652-653)一些社交機(jī)器人模擬感覺(jué)(同伴),而另一些只是幫助提升(助手)。然而,人類和機(jī)器人的關(guān)系越緊密,就越會(huì)激起人們的迷戀和恐懼。一方面機(jī)器人與人類協(xié)同工作,它滿足了我們對(duì)親密關(guān)系的渴望,“當(dāng)我們衰老,機(jī)器人會(huì)伺候我們;當(dāng)孩子無(wú)人照看,機(jī)器人會(huì)照料他們;當(dāng)我們生處逆境,機(jī)器人會(huì)給予我們能量,人們沉醉于這種連結(jié)帶來(lái)的舒適,這種連結(jié)不受任何親密關(guān)系的束縛”。[19](P.11)雖然在任何情況下,這樣的機(jī)器人表面看起來(lái)無(wú)害和友好,但由于機(jī)器人不像人類那樣能感覺(jué)到情緒(缺少由神經(jīng)元和遍布全身的神經(jīng)系統(tǒng)組成的大腦的生物基質(zhì)),表現(xiàn)或模擬情緒可能被認(rèn)為具有欺騙性,將社會(huì)上需要照顧的人群(老人、兒童、有特殊需要的人)交給機(jī)器人,是否意味著致使社會(huì)弱勢(shì)群體陷入不真實(shí)的關(guān)系存在?在特克爾看來(lái),“這種輔助手段取代了交談,反而侵蝕了我們的同理心”。[19](P.181)這種可以調(diào)動(dòng)人的高情感電荷的擬人化的機(jī)器人,創(chuàng)造了一種“欺騙”性的“關(guān)系幻覺(jué)”,它威脅著人們遠(yuǎn)離“真實(shí)”的社會(huì)關(guān)系。

    對(duì)于人機(jī)關(guān)系過(guò)于親密的擔(dān)憂和恐懼還有很多,比如機(jī)器人無(wú)法逃脫或保護(hù)自己,可能會(huì)增強(qiáng)人們的攻擊性、傲慢或自我放縱的傾向;由于機(jī)器人允許人類沉迷于任何令人愉悅的活動(dòng),包括令人厭惡的、不健康的或公然非法的行為,機(jī)器人可能成為上癮或不受抑制的瘋狂行為的載體;由于仿人機(jī)器人具有仿人特征,所以它們能表達(dá)人類在特定角色或功能中的姿勢(shì)或行為,無(wú)論是有意還是無(wú)意,都可能通過(guò)描繪性別、種族、社會(huì)地位來(lái)強(qiáng)化偏見(jiàn);隨著關(guān)鍵決策越來(lái)越頻繁地由人工智能承擔(dān),對(duì)自主機(jī)器人的持續(xù)依賴可能會(huì)使人們不愿意承擔(dān)需要以道德敏銳性、實(shí)踐智慧和敏感性來(lái)處理的具有挑戰(zhàn)性的任務(wù)等。

    也有一些代表性觀點(diǎn)對(duì)人類向機(jī)器移情持樂(lè)觀態(tài)度,比如:戰(zhàn)略論、反野蠻論以及實(shí)用主義者的共享社區(qū)論。[11]第一種戰(zhàn)略論認(rèn)為,為了成功地進(jìn)行互動(dòng),我們必須以某種方式推斷并理解我們的互動(dòng)對(duì)手在做什么,從這個(gè)意義上說(shuō),我們與機(jī)器人的互動(dòng)以及我們對(duì)它們的同理心,都只是為了某種目的,它只是一種工具,而不是合作者,第二種觀點(diǎn)更具道德規(guī)范性,該觀點(diǎn)認(rèn)為,如果不同情他人,我們就有變得野蠻或麻木的風(fēng)險(xiǎn),反過(guò)來(lái),同理心可能會(huì)培養(yǎng)人類的親社會(huì)行為,提高我們的道德品質(zhì),正如康德提出過(guò)一個(gè)關(guān)于人與動(dòng)物的關(guān)系的論點(diǎn),它暗示我們不應(yīng)該對(duì)動(dòng)物殘忍,因?yàn)檫@將損害或敗壞我們的道德品質(zhì),同樣的論點(diǎn)也適用于社交機(jī)器人。不過(guò)也有學(xué)者尤其是現(xiàn)象學(xué)家已經(jīng)表明,移情不一定會(huì)促進(jìn)積極的親社會(huì)態(tài)度,也可能導(dǎo)致反社會(huì)行為。第三種觀點(diǎn)與前兩種有交集,但更多的是從現(xiàn)象學(xué)角度對(duì)互動(dòng)雙方的關(guān)系以及人的自我理解作出解釋,這一觀點(diǎn)認(rèn)為,與他人共情可以讓我們熟悉“存在于世界中”的他者,開(kāi)闊我們的視野,改變我們的觀點(diǎn),從而塑造我們的社會(huì)交往和道德行為。

    事實(shí)上,只要我們已經(jīng)與機(jī)器人分享了行動(dòng)和環(huán)境,只要移情和社會(huì)認(rèn)知能夠改善我們與他人的互動(dòng),我們也可以假設(shè),我們與機(jī)器人的互動(dòng)將從移情的角度受益,這種關(guān)系就夠不上是一種欺騙。2012年上映的美國(guó)電影《機(jī)器人與弗蘭克》(Robot and Frank)講述的就是一個(gè)患有輕微老年癡呆癥狀的老人與照顧他的機(jī)器人發(fā)生的故事。弗蘭克最開(kāi)始對(duì)這個(gè)機(jī)器人很“排斥”,但是后來(lái)他想到可以利用機(jī)器人重新開(kāi)始他以前的飛賊生涯,便開(kāi)始跟機(jī)器人合作建立起信任關(guān)系,逐漸把機(jī)器人看作是一個(gè)不可或缺的“好朋友”,在兩人多次搶劫被警察注意后,弗蘭克被迫要決定是否要?jiǎng)h除機(jī)器人的“記憶”以銷毀犯罪證據(jù),這讓弗蘭克特別苦惱。電影雖然不是以表現(xiàn)人機(jī)共情為主題,但這種同理心卻無(wú)處不在,而且還帶給我們一種更深刻的啟示,即電影主人公被設(shè)定為一個(gè)“缺乏自治”的理性的人,機(jī)器人設(shè)定的初衷是陪伴、照顧并幫助他成為一個(gè)“正常的人”,然而它卻成為了人的“犯罪搭檔”。不可否認(rèn),電影暗示了操控社交機(jī)器人的危險(xiǎn)是存在的,但反過(guò)來(lái)也應(yīng)該看到,執(zhí)行好或壞的決定都取決于真正具備道德行為意愿的人,移情在道德上是中立的,如果把機(jī)器主體的心理狀態(tài)理解為數(shù)據(jù),決定如何利用這些數(shù)據(jù)完全取決于我們自己,而不是幫助自己的機(jī)器人。

    三、非對(duì)稱社會(huì)互動(dòng):“人機(jī)共情”的感知“氛圍”

    如果用單個(gè)的共情理論如鏡像神經(jīng)元理論、推理論、模擬理論、直接感知或想象理論、交互理論、敘事理論等來(lái)分析“人機(jī)共情”,很難描述得特別透徹,我們需要打破邊界找到一種開(kāi)放的理論視角,機(jī)器和人互相理解的一個(gè)關(guān)鍵就在于探討人是如何看待機(jī)器人的,它們?yōu)椤叭藱C(jī)共情”的探討提供了基礎(chǔ)和可能,本文簡(jiǎn)要勾勒出一個(gè)描述性的框架:非對(duì)稱社會(huì)互動(dòng)感知論,旨在從現(xiàn)象學(xué)視野提供一個(gè)相對(duì)合理的視角來(lái)描述人與機(jī)器人這種不對(duì)等的主體移情現(xiàn)象,雖說(shuō)這可能不是解決這一問(wèn)題的最好辦法,但至少稱得上是一個(gè)理解“機(jī)心”的可行之路。

    (一)非對(duì)稱社會(huì)互動(dòng)下的行為“感知”

    傳統(tǒng)意義上的共情通常發(fā)生在社會(huì)互動(dòng)過(guò)程當(dāng)中,要求共情主體和共情對(duì)象都具有意識(shí)、情感等心理能力,暗示社會(huì)互動(dòng)雙方的能力對(duì)稱分布的情況下才能發(fā)生,顯然,不管是具備“高階社交能力”的機(jī)器人還是“低階社交能力”的機(jī)器人,與人進(jìn)行互動(dòng)都是一個(gè)情感能力極度不對(duì)稱的社會(huì)互動(dòng)過(guò)程,這種情況下人類主體如何抵達(dá)“機(jī)心”?扎哈維(Zahavi)提出的“具身存在于世界”的直接感知理論(Direct Perception Theory,DPT)為人機(jī)共情提供了一種思路,DPT是一種非推理的讀心理論,它設(shè)想我們可以直接通達(dá)他人的基本情緒狀態(tài)和運(yùn)動(dòng)意圖?!霸谶@些情況下,感知他人的情緒狀態(tài)類似于感知諸如桌子或椅子等的屬性,好比我們看到一個(gè)人微笑時(shí),不需要推斷他們是快樂(lè)的,因?yàn)榭鞓?lè)直接呈現(xiàn)在他們的表情中”。[20]DPT理論為人類移情和人對(duì)動(dòng)物的移情開(kāi)辟了新的可能性,本文借用此概念把它從人與人、人與動(dòng)物之間互動(dòng)延伸到人與機(jī)器人之間,提出一個(gè)“非對(duì)稱社會(huì)互動(dòng)感知”的新概念,重在探索互動(dòng)雙方在情感極度不對(duì)稱的情況下實(shí)現(xiàn)移情的可能性。

    為了更好地描述這種“非對(duì)稱社會(huì)互動(dòng)感知”,最好是將其與另外兩種移情理論(理論論和模擬論)相對(duì)比。理論論(Theory Theory,簡(jiǎn)稱TT)假設(shè)我們要“基于一套因果解釋定律去理解別人的心理狀態(tài)”,[21]模擬論(Simulation Theory,簡(jiǎn)稱ST)認(rèn)為“我們對(duì)他人的理解建立在我們模擬他人的思想、情感、信念和欲望的能力之上”。[22](P.64-65)然而以扎哈維為代表的現(xiàn)象學(xué)家對(duì)以上兩種理論提出了批判性反駁,認(rèn)為這兩個(gè)理論都有一種偏見(jiàn),這種偏見(jiàn)是由這樣一種信念構(gòu)成的:一個(gè)主體的內(nèi)在心理狀態(tài)基本上是“隱藏的”,其他人無(wú)法直接感知體驗(yàn)到。我們進(jìn)入他人“內(nèi)心世界”的唯一途徑,要么是通過(guò)理論和假設(shè)(理論支持的立場(chǎng)),要么是通過(guò)對(duì)他人處境的想象模擬,讓我們“穿上對(duì)方的心理鞋”(模擬論)。然而移情目標(biāo)所經(jīng)歷的與移情者所經(jīng)歷的精神狀態(tài)其實(shí)是不一樣的,理論論和模擬理論所想象的交流互動(dòng),只不過(guò)是兩種笛卡爾式思維之間的互動(dòng),施泰因同樣對(duì)此進(jìn)行了批評(píng),她認(rèn)為:“通過(guò)‘模仿’所獲得的并不是他人的體驗(yàn),而是我自己的體驗(yàn)。因此,模仿理論不能成為對(duì)移情發(fā)生的一種解釋”。[7]

    現(xiàn)象學(xué)創(chuàng)始人胡塞爾將“共情”概念從心理學(xué)引入到現(xiàn)象學(xué)主體間性的研究當(dāng)中,主體間性在胡塞爾的視界中就是純粹的自我意識(shí)如何在自身的意識(shí)經(jīng)驗(yàn)中構(gòu)造出他人。換言之,在交互過(guò)程中,一個(gè)人的精神狀態(tài)可以表現(xiàn)為他的行為(表情、手勢(shì)、動(dòng)作等),而我們可以從他人的行為直接感知他的情感、欲望及信念,這個(gè)“他人”也包括虛擬人物。正如現(xiàn)象學(xué)電影哲學(xué)家維維安·索布恰克(Vivian Sobchack)所指出的那樣,“電影及其人物不只是投影,他們有身體和聲音,他們?cè)试S自己和接受者之間的準(zhǔn)主體間體驗(yàn),它們甚至可能產(chǎn)生觸覺(jué)印象”。[23](P.136-137)如果移情在虛擬人物中能夠?qū)崿F(xiàn),對(duì)于有一個(gè)存在的、嵌入的、可以與人相互作用甚至能夠干預(yù)人的行為的社交機(jī)器人實(shí)體,更容易嵌入到我們感知的環(huán)境中,這種具身化和語(yǔ)境化賦予機(jī)器人一種行為表達(dá)和身體體驗(yàn)的方式,身體體驗(yàn)在哲學(xué)家戈?duì)柕?Goldie)看來(lái)就是一種情感,因?yàn)樗偸且阅撤N方式來(lái)表現(xiàn)害怕或羞愧,他把移情看作是一種“在有限的時(shí)間跨度內(nèi)(一段感情插曲)對(duì)他人的感覺(jué)體驗(yàn),是一個(gè)人集中想象另一個(gè)人的敘述(思想、感覺(jué)和情感)的過(guò)程或程序”。[24](P.195)

    如果人類“感知”到機(jī)器人的“行為”是可行的,現(xiàn)在的關(guān)鍵問(wèn)題在于,可供人類感知到的行為就能代表對(duì)方全部的精神狀態(tài)了嗎?直接感知并不能保證完全通達(dá)“他心”,對(duì)于一些簡(jiǎn)單的行為和語(yǔ)言活動(dòng),我們可以直接感知,但是對(duì)于復(fù)雜的活動(dòng),那種“內(nèi)在的”“隱藏的”精神狀態(tài)不可能都能夠通過(guò)身體行為表達(dá)出來(lái),亦或者全部被其他人立即感知到,何況移情對(duì)象是經(jīng)由數(shù)字編程的機(jī)器人,需要感知的是一種不統(tǒng)一的、異質(zhì)的、程序集合的“模擬情感體”。所以,主體間性雖然在人機(jī)共情中扮演了重要角色,但不是我們唯一可依賴的,我們還要了解這種感知在人機(jī)互動(dòng)過(guò)程中是如何真正起作用的,這時(shí),就不能把“內(nèi)在的精神生活”與“外在的社會(huì)生活”割裂開(kāi)來(lái)。

    (二)通達(dá)“他心問(wèn)題”的感知“氛圍”

    盡管笛卡爾的二元論概念飽受質(zhì)疑,卻被當(dāng)代很多主流心靈哲學(xué)、認(rèn)知科學(xué)和人工智能學(xué)者所繼承,在傳統(tǒng)的哲學(xué)進(jìn)路中,心靈和身體是兩種完全不同的物質(zhì),“身體成為隔斷心靈間的壁障,直達(dá)‘他心’的核心就是跨越非透明的身體,這顯然會(huì)給‘讀心’或移情帶來(lái)困難性和復(fù)雜性?!盵25]賴爾(G.Ryle)的行為主義對(duì)心身二元論進(jìn)行了徹底的否定,他將心靈還原為身體行為的表達(dá)特征從而實(shí)現(xiàn)了身體一元論的轉(zhuǎn)換,認(rèn)為旁觀者可以通過(guò)重新扮演別人的公共行動(dòng)來(lái)體驗(yàn)其私人經(jīng)驗(yàn)。顯然維特根斯坦(Ludwig Wittgenstein)不太認(rèn)同這種看法,他試圖通過(guò)否定心身二元論和行為主義一元論來(lái)推動(dòng)“他心問(wèn)題”的范式和視角轉(zhuǎn)換。于維特根斯坦而言,“我們可以看到別人的情緒,而不是臉部扭曲的狀態(tài),我們可以立即用高興、憂傷還是無(wú)聊來(lái)形容這張臉,也就是說(shuō),情緒是一種人格化的表現(xiàn),主體的身體行為本身,就如同它被思想的意義所浸透”。[26]所以理解“他心問(wèn)題”還離不開(kāi)語(yǔ)言的進(jìn)一步解釋。在解釋活動(dòng)中,自我和他人之間形成了一個(gè)持續(xù)的互動(dòng)狀態(tài),“他心意圖”就會(huì)不斷地呈現(xiàn),維特根斯坦關(guān)于“他心問(wèn)題”的論述更像是現(xiàn)象學(xué)中的意識(shí)體驗(yàn)流及主體間性理論。

    當(dāng)我們與“他者”互動(dòng)時(shí),從“他者”的身體行為到我們的感知這一步非常關(guān)鍵:外在的行為究竟能否和內(nèi)在的情感畫上等號(hào)?我們不應(yīng)該假定精神上一切事物都有其特有的表現(xiàn)形式,就像“懷念”和“難過(guò)”好像很難光從表情上做出區(qū)分。在和沒(méi)有“主動(dòng)意識(shí)”和“自我認(rèn)知”的機(jī)器人互動(dòng)的時(shí)候,感知其行為看上去更是難以企及,如果對(duì)方?jīng)]有豐富的情感,我們感知和理解的東西到底是什么?這種通達(dá)“他心”的困難并非是我們不能感知到它們內(nèi)在的“情感”,而是與它們有限的“表達(dá)”及“虛擬”的體驗(yàn)有關(guān),好比人內(nèi)心真實(shí)的想法、感情或欲望肯定跟自己“內(nèi)心”發(fā)生的事情有關(guān),而不是公開(kāi)表現(xiàn)出來(lái)的行為有關(guān),何況人既有表現(xiàn)行為的能力,也有隱藏行為的能力,換做行為表達(dá)有限且缺乏情感體驗(yàn)的機(jī)器人,這種不確定性更甚。

    事實(shí)上,感知機(jī)器的行為不能脫離機(jī)器身體和技術(shù)的瞬間協(xié)調(diào),也不能脫離特定時(shí)間和地點(diǎn)在場(chǎng)人員的交流行為,這是一個(gè)共同構(gòu)建的行為,社交機(jī)器人不需要在外表和動(dòng)作上做到“生物學(xué)上的精確”,也不需要強(qiáng)迫人們相信它們有情感和意識(shí)。它所要做的是滿足人們對(duì)“行為的期望”,從而讓人與之互動(dòng)時(shí)不那么令人沮喪的只把它們看作純粹技術(shù)或操作的工具,而是可以理解的“伙伴”。從另一層面來(lái)說(shuō),也恰恰因?yàn)槲覀兊囊魄閷?duì)象是機(jī)器人,這種情感的“欺騙性”反而更小,因?yàn)槠垓_性主要存在于復(fù)雜的生命形式中,就算是有一定機(jī)器意識(shí)的機(jī)器人其行為表達(dá)方式也因?yàn)槭苤朴凇俺绦蛎睢被蚓幊潭兊谩帮@而易見(jiàn)”的,它們所能“表達(dá)”出來(lái)的情感就代表它們“真正”的情感,只是對(duì)于這種情感的感知,同樣不是“直觀可見(jiàn)”的,它離不開(kāi)感知者先驗(yàn)的認(rèn)知能力。胡塞爾用“共現(xiàn)”(Appr?sentation)的說(shuō)法來(lái)解釋這一步,“共現(xiàn)”是人的一種先驗(yàn)?zāi)芰?,“?dāng)我們?cè)诟兄矬w的時(shí)候,雖然只看見(jiàn)了該物體的一個(gè)側(cè)面,但我們?nèi)匀荒軌蛟谝庾R(shí)或感知到這是一個(gè)完整的物體?!盵27](P.153)因?yàn)樵谌魏闻c他人共情的嘗試之前,都有一種超越性的潛在關(guān)系的“背景”,“共同的身體意圖”或“情感圖示”構(gòu)成了我們與他者發(fā)生互動(dòng)的背景,用維特根斯坦的話來(lái)說(shuō),就好比是一種“氛圍”,“這種‘氛圍’是在生活實(shí)踐和交互過(guò)程中涌現(xiàn)的,類似于‘場(chǎng)’,無(wú)形但又時(shí)刻存在,正是在這種互動(dòng)氛圍中,人們對(duì)他心的感知才是活生生的和真實(shí)的,所有的東西都附著一種氛圍,一種不可描述的特征”。[25]

    梅洛·龐蒂認(rèn)為人類和非人類動(dòng)物的身體存在結(jié)構(gòu)之間沒(méi)有本質(zhì)的區(qū)別,基弗斯坦(Kiverstein)用“生命形式”印證了梅洛·龐蒂這一觀點(diǎn),“生命形式”是一存在在世界上的結(jié)構(gòu),是一種行為模式,它可以跨越物種邊界、普遍的結(jié)構(gòu),它可以一定程度上支持人類對(duì)非人類的直接社會(huì)知覺(jué)(DSP)。[28]機(jī)器人也有自己的“生命形式”和形成解釋的行為背景,這種解釋基于一個(gè)共享的社會(huì)現(xiàn)實(shí)。

    綜合以上,這種非對(duì)稱社會(huì)互動(dòng)感知的心理施動(dòng)過(guò)程具備以下特征:它表現(xiàn)為移情主體之間感知能力的不對(duì)稱,主要依賴占據(jù)優(yōu)勢(shì)地位的人的先驗(yàn)認(rèn)知能力和移情對(duì)象的行為表現(xiàn),有交互“氛圍”生成的社會(huì)環(huán)境是移情達(dá)成的背景。社會(huì)性和意識(shí)性可看作是移情達(dá)成的必要條件,高度擬人化的機(jī)器外表以及與人類的深度互動(dòng)使社交機(jī)器人具備社會(huì)屬性,只是其模擬的“意識(shí)”和計(jì)算的“情感”成為人們理解“人機(jī)共情”最大的障礙。

    四、結(jié)論

    也許當(dāng)前的智能機(jī)器人還不能真正理解自己所表現(xiàn)的“內(nèi)容”或執(zhí)行的“程序”,但是在社會(huì)生活尤其是家庭、醫(yī)療方面,我們與社交機(jī)器人的互動(dòng)越來(lái)越頻繁,移情在建立人與機(jī)器之間的關(guān)系中起著重要作用,用“非對(duì)稱社會(huì)互動(dòng)感知理論”框架來(lái)描述人機(jī)共情可提供一個(gè)更開(kāi)放的理論空間,借用德勒茲的“異質(zhì)性”概念,我們可以把人類與機(jī)器人情感雙方看作是同一整體下的異質(zhì)部分,為了能夠理解這種情感,我們必須改變我們的情感環(huán)境,使我們自己也成為機(jī)器情感理解環(huán)境的一部分,這樣就能夠把機(jī)器“情感”理解為人與機(jī)器人共享的存在模式,如果我們要和機(jī)器人共享現(xiàn)實(shí),我們就必須將機(jī)器人的行為看作是世界“正?!钡牟糠?,我們可以像對(duì)待其他人一樣對(duì)待它,這是一種特殊經(jīng)驗(yàn)的分享。

    本篇論文試圖解構(gòu)移情概念中主體的邊界,允許機(jī)器人進(jìn)入人類移情的世界,把研究對(duì)象限定在更能激發(fā)人類情感反應(yīng)的社交機(jī)器人,首先探討我們能不能對(duì)機(jī)器人產(chǎn)生同理心這一認(rèn)知謎題,然后過(guò)渡到是否應(yīng)該以及為什么需要對(duì)機(jī)器人移情等問(wèn)題,最后在直接感知理論(DPT)的基礎(chǔ)上提出“非對(duì)稱社會(huì)互動(dòng)感知論”這一描述性框架,探索“人機(jī)共情”現(xiàn)象如何達(dá)成。可以預(yù)見(jiàn),隨著智能技術(shù)的進(jìn)步,可能會(huì)出現(xiàn)具備意識(shí)能力的超級(jí)智能機(jī)器人,那么傳統(tǒng)生活方式和社會(huì)交往方式也會(huì)迎來(lái)巨變,該探索將為我們理解自己、理解人機(jī)互動(dòng)提供新的認(rèn)識(shí)論?!叭藱C(jī)共情”更多地取決于我們?nèi)绾慰创鼈儯鹤鳛橐环N工具,我們從實(shí)用的角度與之互動(dòng),但是作為一種伙伴,我們可能需要投入情感,并在情感投入中獲得情感回報(bào)。

    注釋:

    ①參見(jiàn):[古羅馬]奧維德《變形記》,楊周翰譯,北京:人民文學(xué)出版社,1984年,第131-133頁(yè)。

    ②參見(jiàn):[美]雪莉·特克爾《群體性孤獨(dú)》,周奎、劉菁荊譯,杭州:浙江人民出版社,2018年,第60頁(yè)。

    ③關(guān)于“Nao”的介紹,參見(jiàn):《神通廣大的人形機(jī)器人“NAO”》,科技日?qǐng)?bào),https://robot.ofweek.com/2018-04/ART-8321206-8110-30220328.html,2018年4月11日。

    ④關(guān)于柔情機(jī)器人的介紹,參見(jiàn):NORRI KAGEKI,MeetAffetto,aChildRobotWithRealisticFacialExpressions,IEEE Spektrum,No.2,2011.

    ⑤上述觀點(diǎn)參見(jiàn):Mark Coeckelbergh,ArtificialCompanions:EmpathyandVulnerabilityMirroringinHuman-RobotRelations,Studies in Ethics Law and Technology,Vol.4,2010 .

    ⑥參見(jiàn):Minoru Asada,DevelopmentofArtificialEmpathy.Neuroscience Research,Vol.90,2015.

    ⑦上述觀點(diǎn)參見(jiàn):Paul Dumouchel,Luisa Damiano,LivingwithRobots.Cambridge:Harvard University Press,2017.

    ⑧參見(jiàn):de Waal,F(xiàn).B.M,Preston,S.D,MammalianEmpathy:BehaviouralManifestationsandNeuralBasis.Nature Review Neuroscience,No.8,2017.

    ⑨參見(jiàn):Decety Jean,F(xiàn)otopoulou Aikaterini ,WhyEmpathyhasaBeneficialImpactonOthersinMedicine:UnifyingTheories.Frontiers in Behavioral Neuroscience,No.8,2015.

    猜你喜歡
    人類情感
    顫抖吧,人類
    人類能否一覺(jué)到未來(lái)?
    人類會(huì)成長(zhǎng)起來(lái)嗎?
    如何在情感中自我成長(zhǎng),保持獨(dú)立
    人類第一殺手
    被情感操縱的人有多可悲
    失落的情感
    北極光(2019年12期)2020-01-18 06:22:10
    情感
    1100億個(gè)人類的清明
    如何在情感中自我成長(zhǎng),保持獨(dú)立
    亚洲欧美一区二区三区黑人| 国产精品综合久久久久久久免费 | 成人亚洲精品一区在线观看| 青草久久国产| 伦理电影免费视频| 亚洲国产高清在线一区二区三 | 亚洲黑人精品在线| 欧洲精品卡2卡3卡4卡5卡区| 亚洲最大成人中文| 在线视频色国产色| 亚洲精品中文字幕一二三四区| 日韩一卡2卡3卡4卡2021年| 脱女人内裤的视频| 久久人人97超碰香蕉20202| 天堂动漫精品| 国产精华一区二区三区| 两个人看的免费小视频| 精品国产亚洲在线| 在线免费观看的www视频| 69av精品久久久久久| 久久久国产成人精品二区| 精品国产国语对白av| 男人舔女人的私密视频| 久久久久久久午夜电影| 91国产中文字幕| 亚洲av电影不卡..在线观看| 国产乱人伦免费视频| 久久狼人影院| 丝袜人妻中文字幕| 黄片播放在线免费| 国产一区二区三区视频了| 亚洲成人国产一区在线观看| 亚洲五月婷婷丁香| 久久午夜综合久久蜜桃| 精品一区二区三区视频在线观看免费| 变态另类丝袜制服| 久久久精品国产亚洲av高清涩受| 久久 成人 亚洲| 老司机靠b影院| 欧美激情 高清一区二区三区| 久久久久国内视频| 啦啦啦观看免费观看视频高清 | 97超级碰碰碰精品色视频在线观看| 国产精品电影一区二区三区| 大型黄色视频在线免费观看| 淫秽高清视频在线观看| 国产精品美女特级片免费视频播放器 | 妹子高潮喷水视频| 国产精品一区二区三区四区久久 | 日韩一卡2卡3卡4卡2021年| 精品久久久久久久人妻蜜臀av | 免费搜索国产男女视频| 精品第一国产精品| 亚洲专区中文字幕在线| 日韩欧美免费精品| 亚洲国产中文字幕在线视频| 亚洲 欧美 日韩 在线 免费| 亚洲精品粉嫩美女一区| av片东京热男人的天堂| 天天一区二区日本电影三级 | 9色porny在线观看| 天天躁夜夜躁狠狠躁躁| 免费看美女性在线毛片视频| 在线av久久热| 一边摸一边抽搐一进一出视频| 午夜福利欧美成人| 18禁裸乳无遮挡免费网站照片 | 亚洲av成人一区二区三| 国产三级在线视频| 欧美在线一区亚洲| 国产片内射在线| 亚洲欧美日韩另类电影网站| 日本精品一区二区三区蜜桃| 可以在线观看的亚洲视频| 中文字幕av电影在线播放| 一进一出抽搐gif免费好疼| 啦啦啦 在线观看视频| 精品熟女少妇八av免费久了| 午夜福利影视在线免费观看| 男人舔女人下体高潮全视频| tocl精华| 黑人操中国人逼视频| 国产野战对白在线观看| 电影成人av| 日本三级黄在线观看| 欧美不卡视频在线免费观看 | 老司机靠b影院| 亚洲精品美女久久av网站| 中文字幕人妻熟女乱码| 国产免费男女视频| 在线永久观看黄色视频| 久久香蕉激情| 超碰成人久久| 欧美老熟妇乱子伦牲交| 无人区码免费观看不卡| 国产精品乱码一区二三区的特点 | 免费在线观看日本一区| 老熟妇仑乱视频hdxx| 视频区欧美日本亚洲| 国产亚洲欧美98| 久久精品国产综合久久久| 无遮挡黄片免费观看| 18禁美女被吸乳视频| 熟女少妇亚洲综合色aaa.| 国产精品98久久久久久宅男小说| 在线天堂中文资源库| 国产成人一区二区三区免费视频网站| 亚洲一区中文字幕在线| 亚洲久久久国产精品| av福利片在线| 咕卡用的链子| 国产精品久久久久久精品电影 | 久久午夜综合久久蜜桃| 此物有八面人人有两片| 亚洲av熟女| 国产精品永久免费网站| 国产午夜福利久久久久久| 亚洲精品国产精品久久久不卡| 国产成人一区二区三区免费视频网站| 亚洲自偷自拍图片 自拍| 国产精品香港三级国产av潘金莲| 99精品久久久久人妻精品| 丝袜美足系列| 精品人妻在线不人妻| 嫁个100分男人电影在线观看| 50天的宝宝边吃奶边哭怎么回事| 亚洲全国av大片| 大陆偷拍与自拍| 久久精品国产99精品国产亚洲性色 | 国产男靠女视频免费网站| 午夜亚洲福利在线播放| 免费不卡黄色视频| 在线观看舔阴道视频| 亚洲国产精品999在线| 亚洲国产精品成人综合色| 欧美丝袜亚洲另类 | bbb黄色大片| 99久久国产精品久久久| e午夜精品久久久久久久| 两个人看的免费小视频| 欧美久久黑人一区二区| 成人永久免费在线观看视频| 亚洲中文字幕一区二区三区有码在线看 | 黄色成人免费大全| 欧美日本亚洲视频在线播放| 女生性感内裤真人,穿戴方法视频| 性少妇av在线| 亚洲国产精品合色在线| 美女高潮到喷水免费观看| 首页视频小说图片口味搜索| 999久久久精品免费观看国产| 色综合站精品国产| 国产精品 欧美亚洲| 亚洲一区二区三区色噜噜| 国产一区二区三区在线臀色熟女| www.精华液| 不卡一级毛片| 两个人视频免费观看高清| 久久影院123| 午夜精品国产一区二区电影| av网站免费在线观看视频| 91老司机精品| 亚洲少妇的诱惑av| 男人的好看免费观看在线视频 | 国产在线精品亚洲第一网站| 午夜影院日韩av| 视频在线观看一区二区三区| 搡老熟女国产l中国老女人| 男女下面进入的视频免费午夜 | 亚洲成国产人片在线观看| 久久国产精品影院| 中文字幕另类日韩欧美亚洲嫩草| 丰满人妻熟妇乱又伦精品不卡| 久久久久久人人人人人| 久久人妻福利社区极品人妻图片| 我的亚洲天堂| 亚洲欧美日韩无卡精品| 欧美乱妇无乱码| 咕卡用的链子| 久久精品影院6| 最新在线观看一区二区三区| 亚洲三区欧美一区| 亚洲七黄色美女视频| 亚洲情色 制服丝袜| 神马国产精品三级电影在线观看 | 国产精品精品国产色婷婷| 亚洲男人的天堂狠狠| 少妇粗大呻吟视频| 午夜亚洲福利在线播放| 久久国产亚洲av麻豆专区| 国产精品香港三级国产av潘金莲| 很黄的视频免费| 国产精品98久久久久久宅男小说| 日韩三级视频一区二区三区| 亚洲第一电影网av| 久久欧美精品欧美久久欧美| 国产色视频综合| 国产熟女xx| 久久精品国产清高在天天线| 十分钟在线观看高清视频www| 女同久久另类99精品国产91| 欧美成人性av电影在线观看| 亚洲中文日韩欧美视频| 亚洲男人天堂网一区| 女人精品久久久久毛片| 99久久久亚洲精品蜜臀av| 满18在线观看网站| 亚洲午夜理论影院| 一二三四社区在线视频社区8| 国产精品亚洲av一区麻豆| 亚洲中文字幕日韩| av网站免费在线观看视频| 亚洲精品av麻豆狂野| 99re在线观看精品视频| 国产亚洲av嫩草精品影院| 欧美色视频一区免费| 美国免费a级毛片| 国产精品,欧美在线| aaaaa片日本免费| 亚洲五月色婷婷综合| 国产精品爽爽va在线观看网站 | 可以在线观看毛片的网站| 国产xxxxx性猛交| 国产熟女午夜一区二区三区| 老司机在亚洲福利影院| 成人亚洲精品一区在线观看| 日韩欧美在线二视频| 97碰自拍视频| 一区在线观看完整版| 熟妇人妻久久中文字幕3abv| 午夜福利免费观看在线| 久久青草综合色| 在线观看一区二区三区| 国产97色在线日韩免费| 欧美+亚洲+日韩+国产| 久久精品91无色码中文字幕| 亚洲国产欧美网| 91麻豆精品激情在线观看国产| 免费不卡黄色视频| 好男人电影高清在线观看| 18美女黄网站色大片免费观看| 麻豆一二三区av精品| 国产av一区二区精品久久| 日本vs欧美在线观看视频| 亚洲人成网站在线播放欧美日韩| 亚洲欧美一区二区三区黑人| 在线观看舔阴道视频| 日本精品一区二区三区蜜桃| 亚洲欧洲精品一区二区精品久久久| 涩涩av久久男人的天堂| 在线观看免费午夜福利视频| 久热爱精品视频在线9| 黑丝袜美女国产一区| 最新美女视频免费是黄的| 波多野结衣av一区二区av| 中文字幕人妻熟女乱码| 亚洲一区二区三区色噜噜| 免费人成视频x8x8入口观看| 欧美乱色亚洲激情| 成在线人永久免费视频| 男男h啪啪无遮挡| 在线免费观看的www视频| 成熟少妇高潮喷水视频| 美女大奶头视频| 可以在线观看的亚洲视频| 国产视频一区二区在线看| 亚洲欧美一区二区三区黑人| 亚洲一区二区三区不卡视频| 久久久久久大精品| 可以在线观看毛片的网站| 亚洲激情在线av| 少妇的丰满在线观看| 午夜福利高清视频| 真人一进一出gif抽搐免费| 精品福利观看| 日韩av在线大香蕉| 日韩国内少妇激情av| 深夜精品福利| av天堂久久9| 亚洲国产看品久久| 成年女人毛片免费观看观看9| 午夜视频精品福利| 午夜精品在线福利| 一二三四在线观看免费中文在| 国产av精品麻豆| 亚洲色图综合在线观看| www.999成人在线观看| www.精华液| 无遮挡黄片免费观看| 免费在线观看黄色视频的| 亚洲专区国产一区二区| 亚洲精华国产精华精| 亚洲自偷自拍图片 自拍| av有码第一页| 啦啦啦韩国在线观看视频| 99国产精品免费福利视频| 亚洲欧美激情综合另类| 国产欧美日韩一区二区三区在线| 别揉我奶头~嗯~啊~动态视频| 一级a爱视频在线免费观看| 精品久久久久久久毛片微露脸| 怎么达到女性高潮| 亚洲成av片中文字幕在线观看| 久久久久国产一级毛片高清牌| 亚洲 国产 在线| 久久午夜亚洲精品久久| 久久久久久免费高清国产稀缺| av网站免费在线观看视频| 超碰成人久久| 免费观看人在逋| 久久国产亚洲av麻豆专区| 亚洲熟妇中文字幕五十中出| 国产精品 欧美亚洲| 国产真人三级小视频在线观看| 很黄的视频免费| 纯流量卡能插随身wifi吗| 18禁裸乳无遮挡免费网站照片 | 又黄又爽又免费观看的视频| 精品国产乱码久久久久久男人| 中文字幕高清在线视频| 成人免费观看视频高清| 麻豆一二三区av精品| 国产精品二区激情视频| 国产成人av激情在线播放| 精品国产美女av久久久久小说| 老司机福利观看| 91字幕亚洲| 午夜福利在线观看吧| 手机成人av网站| 一夜夜www| 久久 成人 亚洲| 日本精品一区二区三区蜜桃| 夜夜夜夜夜久久久久| 激情在线观看视频在线高清| 久久久久久久精品吃奶| 久久青草综合色| 国产精品久久久av美女十八| 国产成人一区二区三区免费视频网站| 国产精品久久久久久亚洲av鲁大| 国产麻豆69| 一进一出抽搐gif免费好疼| 国产av又大| 亚洲人成网站在线播放欧美日韩| 久久久久国内视频| 亚洲 欧美 日韩 在线 免费| tocl精华| 欧美一区二区精品小视频在线| 亚洲色图 男人天堂 中文字幕| 国产精品亚洲一级av第二区| 亚洲五月婷婷丁香| 欧美日韩黄片免| 亚洲成av人片免费观看| 国产一区二区三区视频了| 久久性视频一级片| 12—13女人毛片做爰片一| 91国产中文字幕| 亚洲 欧美 日韩 在线 免费| 久久午夜亚洲精品久久| 一进一出抽搐gif免费好疼| 欧美人与性动交α欧美精品济南到| 亚洲精品在线美女| 麻豆国产av国片精品| 精品一区二区三区视频在线观看免费| 给我免费播放毛片高清在线观看| 国产午夜福利久久久久久| 成人手机av| 在线观看免费视频日本深夜| 久久性视频一级片| 国产高清视频在线播放一区| 国产成人一区二区三区免费视频网站| 最好的美女福利视频网| 亚洲一区高清亚洲精品| 日本欧美视频一区| 多毛熟女@视频| 久热这里只有精品99| 国产精品久久电影中文字幕| 丰满的人妻完整版| 黑人欧美特级aaaaaa片| 亚洲成av片中文字幕在线观看| 国产成人av激情在线播放| 亚洲熟妇中文字幕五十中出| 国产精品野战在线观看| 日韩视频一区二区在线观看| 免费在线观看视频国产中文字幕亚洲| 亚洲七黄色美女视频| 日韩精品中文字幕看吧| 电影成人av| 侵犯人妻中文字幕一二三四区| 日本 欧美在线| 黑人巨大精品欧美一区二区mp4| 免费高清在线观看日韩| 中文字幕精品免费在线观看视频| 欧美在线一区亚洲| 亚洲欧美激情在线| 午夜精品在线福利| 999久久久国产精品视频| 热99re8久久精品国产| 天天躁夜夜躁狠狠躁躁| 亚洲一区高清亚洲精品| 午夜a级毛片| 色尼玛亚洲综合影院| 宅男免费午夜| 免费在线观看日本一区| 精品久久久久久久毛片微露脸| 精品久久久精品久久久| 琪琪午夜伦伦电影理论片6080| 多毛熟女@视频| 亚洲少妇的诱惑av| 给我免费播放毛片高清在线观看| 日日夜夜操网爽| 99热只有精品国产| 久久这里只有精品19| 国产精品一区二区精品视频观看| 久久精品人人爽人人爽视色| 久久久国产成人精品二区| 制服丝袜大香蕉在线| 桃色一区二区三区在线观看| 曰老女人黄片| 宅男免费午夜| 欧美色视频一区免费| 国产1区2区3区精品| 一区二区三区高清视频在线| 性色av乱码一区二区三区2| 国内久久婷婷六月综合欲色啪| 99久久久亚洲精品蜜臀av| av视频在线观看入口| 国产精品电影一区二区三区| 色综合亚洲欧美另类图片| 校园春色视频在线观看| 亚洲视频免费观看视频| 一级毛片女人18水好多| 国产精品自产拍在线观看55亚洲| 日韩国内少妇激情av| 亚洲国产欧美一区二区综合| 成人特级黄色片久久久久久久| 欧美人与性动交α欧美精品济南到| 大型黄色视频在线免费观看| 精品久久蜜臀av无| 在线永久观看黄色视频| 啦啦啦韩国在线观看视频| 露出奶头的视频| 香蕉久久夜色| 亚洲国产欧美一区二区综合| 久久婷婷成人综合色麻豆| 天堂动漫精品| 中文字幕久久专区| 国产一区二区三区在线臀色熟女| www日本在线高清视频| 亚洲精品久久国产高清桃花| 99久久久亚洲精品蜜臀av| aaaaa片日本免费| 啦啦啦免费观看视频1| www.熟女人妻精品国产| 国产欧美日韩精品亚洲av| 色播在线永久视频| 免费看美女性在线毛片视频| 老司机在亚洲福利影院| 欧美乱妇无乱码| 国产欧美日韩一区二区三区在线| 欧美黄色淫秽网站| 日本欧美视频一区| 久久热在线av| 成人亚洲精品一区在线观看| www日本在线高清视频| 欧美成人一区二区免费高清观看 | 亚洲人成伊人成综合网2020| 天天躁狠狠躁夜夜躁狠狠躁| 欧洲精品卡2卡3卡4卡5卡区| 亚洲熟妇中文字幕五十中出| 国产亚洲精品av在线| 高清黄色对白视频在线免费看| 又紧又爽又黄一区二区| 欧美日韩一级在线毛片| 亚洲国产毛片av蜜桃av| 色尼玛亚洲综合影院| 天堂动漫精品| 亚洲一区二区三区不卡视频| 亚洲精华国产精华精| 悠悠久久av| 99久久精品国产亚洲精品| 午夜福利欧美成人| 亚洲欧美日韩高清在线视频| 极品教师在线免费播放| av免费在线观看网站| 青草久久国产| av天堂在线播放| 大码成人一级视频| 国产一卡二卡三卡精品| 丝袜美足系列| 一级,二级,三级黄色视频| 一进一出抽搐gif免费好疼| 欧美中文日本在线观看视频| 黄片小视频在线播放| 看黄色毛片网站| 人成视频在线观看免费观看| 成人av一区二区三区在线看| 91麻豆av在线| 一二三四社区在线视频社区8| 美国免费a级毛片| 中国美女看黄片| 亚洲 国产 在线| 亚洲精品国产一区二区精华液| 天堂动漫精品| or卡值多少钱| 久久人人精品亚洲av| 亚洲精品国产一区二区精华液| 欧美在线黄色| 我的亚洲天堂| 搡老妇女老女人老熟妇| 不卡一级毛片| 久久久国产成人精品二区| 在线永久观看黄色视频| 91精品国产国语对白视频| 少妇裸体淫交视频免费看高清 | 首页视频小说图片口味搜索| 亚洲视频免费观看视频| 色综合婷婷激情| 日韩av在线大香蕉| 每晚都被弄得嗷嗷叫到高潮| 亚洲一区高清亚洲精品| 欧美老熟妇乱子伦牲交| 国产亚洲精品综合一区在线观看 | 国产亚洲精品久久久久5区| 亚洲五月色婷婷综合| 日本一区二区免费在线视频| 99re在线观看精品视频| 人妻丰满熟妇av一区二区三区| av在线天堂中文字幕| 国产精品1区2区在线观看.| 真人一进一出gif抽搐免费| 亚洲美女黄片视频| 久久人妻av系列| 成在线人永久免费视频| 亚洲欧美日韩另类电影网站| 国产麻豆69| 久久精品国产亚洲av香蕉五月| 波多野结衣巨乳人妻| 老鸭窝网址在线观看| 成人国产一区最新在线观看| www.精华液| 视频区欧美日本亚洲| 国产精品98久久久久久宅男小说| 国产精品秋霞免费鲁丝片| 国产主播在线观看一区二区| 看黄色毛片网站| av网站免费在线观看视频| 一进一出抽搐gif免费好疼| 亚洲精品国产一区二区精华液| 亚洲精品国产精品久久久不卡| 女性被躁到高潮视频| 制服诱惑二区| 午夜福利欧美成人| 一级毛片高清免费大全| 亚洲精品久久国产高清桃花| 国产野战对白在线观看| 黄色a级毛片大全视频| 亚洲七黄色美女视频| 一进一出抽搐gif免费好疼| 熟女少妇亚洲综合色aaa.| 国产亚洲欧美在线一区二区| 一级a爱视频在线免费观看| 极品人妻少妇av视频| 久久中文看片网| 亚洲自偷自拍图片 自拍| 99在线视频只有这里精品首页| 午夜视频精品福利| 日本在线视频免费播放| 天天添夜夜摸| 欧美精品啪啪一区二区三区| 午夜精品在线福利| 亚洲国产看品久久| 国产成人精品久久二区二区免费| 久久久久国内视频| 在线视频色国产色| 成人欧美大片| 亚洲五月天丁香| 波多野结衣高清无吗| 亚洲精品国产色婷婷电影| 久久中文字幕一级| 免费在线观看影片大全网站| 国产亚洲欧美精品永久| 淫秽高清视频在线观看| 亚洲国产高清在线一区二区三 | 国产真人三级小视频在线观看| 日日爽夜夜爽网站| 一级,二级,三级黄色视频| 国产三级在线视频| 精品久久久久久久久久免费视频| 男女下面插进去视频免费观看| 日韩免费av在线播放| 伦理电影免费视频| 黄频高清免费视频| 999久久久国产精品视频| 国产人伦9x9x在线观看| 国产一区二区三区综合在线观看| 亚洲欧美精品综合一区二区三区| 精品无人区乱码1区二区| 99热只有精品国产| 成人国产综合亚洲| 亚洲人成伊人成综合网2020| 亚洲成人国产一区在线观看| 欧美国产精品va在线观看不卡| av福利片在线| 国产私拍福利视频在线观看| 中文字幕精品免费在线观看视频| 精品熟女少妇八av免费久了| 国产蜜桃级精品一区二区三区| 女人爽到高潮嗷嗷叫在线视频| 男人操女人黄网站| 男女做爰动态图高潮gif福利片 | 国产欧美日韩一区二区三| 搞女人的毛片| 黄色片一级片一级黄色片| 一进一出好大好爽视频| 搞女人的毛片|