• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “社會機器人”的再定義及社會性特征

    2023-12-29 00:00:00王兵羅龍翔
    未來傳播 2023年2期

    摘 要: 基于系統(tǒng)文獻(xiàn)法,對1285篇發(fā)表于2017年至2021年間的文章進行探究,回答“社會機器人的定義和類型”與“社會機器人的社會性特征”兩個關(guān)鍵問題。研究發(fā)現(xiàn):主要可從應(yīng)用場景、技術(shù)特性、功能/地位和本質(zhì)等四種視角定義社會機器人;可基于四分法、二分法、外形特征或職能/角色等標(biāo)準(zhǔn)劃分社會機器人;機器人的社會性體現(xiàn)在身體信號、交流行為等“外在社會性”,以及個性、情感/認(rèn)知、交往中的品質(zhì)等“內(nèi)在社會性”兩大方面。

    關(guān)鍵詞: 社會機器人;社會性;社會線索;人機傳播;智能傳播

    中圖分類號: 文獻(xiàn)標(biāo)識碼:A 文章編號:2096-8418(2023)02-0002-08

    國際傳播學(xué)協(xié)會(International Communication Association) 2016年正式確認(rèn)人機傳播(Human-Machine Communication,HMC)的建制性地位與學(xué)術(shù)合法性。[1]在該領(lǐng)域內(nèi),機器(人)不僅是傳播中介或傳播工具,更被視為與人類具有對稱性地位的主體或傳播者。這意味著,相關(guān)研究不僅涵蓋既往人機交互(Human-Computer Interaction,HCI)和人機互動(Human-Machine Interaction,HRI)的視角、內(nèi)容與方法,還逐步超出工程學(xué)和計算機科學(xué)等學(xué)科,對機器(人)進行社會科學(xué)層面上的深入分析,探討人與機器人之間如何構(gòu)建新的人機關(guān)系。

    隨著機器人從工業(yè)制造業(yè)走進日常生活,社會機器人(social robot)作為新的機器形態(tài)引起各方關(guān)注?;厮萜涓拍詈吞攸c,Breazeal作為最早研究社會機器人的學(xué)者之一,認(rèn)為社會機器人是指具備擬人化(anthropomorphize)表征,模仿人與人間互動模式并與用戶自由溝通的技術(shù)產(chǎn)品,[2]具有工具或器物屬性,也具有情感和社會屬性,其社會性體現(xiàn)在可以通過擬人化的社會互動參與到新的社會形態(tài)構(gòu)建之中,并在教育、醫(yī)療、娛樂等領(lǐng)域發(fā)揮核心作用。

    對社會機器人“社會性”本質(zhì)的探究符合人機傳播研究的基本理論立場。社會機器人作為人工物的一組個體屬性物,根據(jù)言語、眼神和情感等社會線索(social cues)做出相應(yīng)的行為。許多學(xué)者引用神人同形同性論(anthropomorphism)來證明人類會將自身的外表、心理情感和個性表現(xiàn)等特征賦予社會機器人。但是,如何科學(xué)地定義社會性依舊存疑,因為還無法清晰地界定機器人采取了哪些社會性的行為,以及其引發(fā)了人們怎樣的反應(yīng)。因此界定社會機器人的概念和特征,在新技術(shù)發(fā)展的背景下具有重要的理論價值。

    國內(nèi)新聞與傳播學(xué)界的相關(guān)研究尚處在起步階段,并普遍存在將社會機器人與機器人程序和自動化社交賬號(social bot)等概念混用的現(xiàn)象。具體而言,后兩者主要指可以自動生產(chǎn)內(nèi)容并在社交媒體上與人類互動的計算機算法或可自動生產(chǎn)內(nèi)容的機器賬號,其目的是模仿甚至改變網(wǎng)絡(luò)空間中用戶的選擇。[3]換言之,其主要關(guān)注點是虛擬計算機程序,涉及的場景主要包括網(wǎng)絡(luò)中的輿論引導(dǎo)、商業(yè)營銷與聊天社交等,與“社會機器人”概念所指向的具有物質(zhì)實體、能夠介入現(xiàn)實社會生活的人造物具有本質(zhì)區(qū)別。

    從本體論角度來理解“社會機器人是什么”及“社會機器人的社會性特征是什么”這兩個關(guān)鍵問題,對未來更廣泛和持久的人機傳播研究、智能社會實踐乃至對人類文明探討等方面均具有重要意義。[4]因此,本研究通過對2017年至2021年間發(fā)表于國際期刊或會議的文章進行系統(tǒng)文獻(xiàn)分析(Systematic Literature Review,SLR),旨在探索社會機器人的定義、內(nèi)涵和“社會性”特征,具體研究問題如下:

    RQ1:社會機器人的定義是怎樣的?其包括哪些種類?

    RQ2:社會機器人的“社會性”體現(xiàn)在哪些方面?

    一、系統(tǒng)文獻(xiàn)分析

    系統(tǒng)文獻(xiàn)分析能在明確定義的基礎(chǔ)上明辨研究問題,且有一整套詳細(xì)的研究過程,其研究結(jié)論更容易被驗證,是一種相對更客觀和科學(xué)的研究方法。[5]本研究嚴(yán)格遵循該方法的三個步驟:系統(tǒng)性搜索、基于摘要的篩選、全文閱讀及編碼,以對研究樣本進行篩選、確認(rèn)和綜合分析。

    (一)系統(tǒng)性搜索

    本研究首先對文獻(xiàn)進行系統(tǒng)性搜索。樣本來源于被國際廣泛使用的WOS(Web of Science)和Scopus數(shù)據(jù)庫,搜索關(guān)鍵詞為“Social Robot”,文獻(xiàn)發(fā)表年份的限定區(qū)間為2017年1月1日至2021年12月31日。同時,文獻(xiàn)來源學(xué)科限定在傳播學(xué)、心理學(xué)、教育學(xué)等社會科學(xué)范疇,文獻(xiàn)類型為期刊論文和會議論文。最終在WOS和Scopus分別獲得479篇和806篇相關(guān)文獻(xiàn)。去除重復(fù)文獻(xiàn)74篇,共得有效樣本文獻(xiàn)1211篇。

    (二)基于摘要的篩選

    在第一輪文獻(xiàn)篩選基礎(chǔ)上,研究員依據(jù)閱讀文獻(xiàn)摘要的方式,并結(jié)合如下標(biāo)準(zhǔn)對文獻(xiàn)進行剔除:與社會科學(xué)研究無關(guān)的純技術(shù)領(lǐng)域的文章;與社會機器人關(guān)聯(lián)性較低,或僅簡要提及相關(guān)關(guān)鍵詞的文章;非英文文章。本輪篩選后保留的樣本文獻(xiàn)主要關(guān)注社會機器人在教育、陪伴等方面的效果及其影響因素,這既契合社會科學(xué)的研究視角,也符合本研究的關(guān)注點。篩選后的樣本文獻(xiàn)共547篇。

    (三)全文閱讀和編碼

    在全文閱讀過程中,根據(jù)文章內(nèi)容及與兩個研究問題的相關(guān)度,分別為547篇樣本文章賦予分值(滿分為10分),每篇文章有2個相關(guān)度分值。賦分結(jié)果共包括4個區(qū)間:0分為不相關(guān),1-4分為低相關(guān),5-7分為部分相關(guān),8-10分為高相關(guān)。進一步來看,有35篇文章因為非英語、無法獲取全文、與研究主題無關(guān)等因素被進一步剔除。其他512篇文章的賦值結(jié)果如圖1所示。

    在對樣本文獻(xiàn)與RQ1的相關(guān)性進行判斷和賦分后,4個區(qū)間內(nèi)最終留下的樣本量為231篇、201篇、55篇和25篇;在對樣本文獻(xiàn)與RQ2的相關(guān)性進行判斷和賦分后,4個區(qū)間內(nèi)最終留下的樣本量為256篇、152篇、68篇和36篇。為保證效度,本研究主要選取處于“高相關(guān)”區(qū)間的文獻(xiàn)進行分析。最終選取25篇相關(guān)文獻(xiàn)來回答RQ1,36篇文獻(xiàn)來回答RQ2。

    二、研究結(jié)果

    (一)社會機器人的定義與分類

    1.社會機器人的定義

    在樣本文獻(xiàn)中,研究者分別基于不同視角定義社會機器人。通過梳理和總結(jié)可提煉出不同定義所關(guān)注的共同要點。

    首先是應(yīng)用場景視角。許多學(xué)者繼承Breazeal等人的思路,認(rèn)為社會機器人是基于擬人化表征來與人進行社會性互動的智能實體,且相較于智能手機等移動媒介,社會機器人具有更強的自主性。在這一定義中,社會機器人是一種可編程的機器,能夠在沒有人類干擾的情況下,通過感知環(huán)境來執(zhí)行特定的任務(wù)。由美國西北大學(xué)教授Colgate等所設(shè)計的在工作場景中發(fā)揮作用的協(xié)作式機器人(Corobot)可被視為社會機器人的早期代表。[6]進一步地,當(dāng)交互能力從工作場景遷移至廣泛的社會應(yīng)用中,承載這種能力的機器人就順勢成為社會交互機器人(Socially interactive robot)。

    其次是技術(shù)特性視角。不少學(xué)者通過強調(diào)社會機器人的實體性、可計算性、智能性和移動性等特征來對其進行定義。例如,有學(xué)者認(rèn)為,是否擁有物理化身是社會機器人與虛擬助手間的根本差異,社會機器人可在真實空間內(nèi)被感知而非僅呈現(xiàn)于虛擬屏幕中,物理實體性使社會機器人更便于互動并激發(fā)交流欲望、更具社會臨場感(social presence)。Abendschein等[7]認(rèn)為,社會機器人是AI技術(shù)具身在機器人“軀體”中并呈現(xiàn)出擬人特征的產(chǎn)物,且社會機器人在算力進步下會變得更加“聰明”,所呈現(xiàn)的特征及功能也與早期代表有本質(zhì)差別,“社會智能機器人”(Socially intelligent robots)是社會機器人的核心代表。[8]

    再次是社會機器人的功能或地位視角。秉持這一視角的研究者大體上可分為兩派:一派學(xué)者主要強調(diào)社會機器人的自主性及與人類的對稱性地位,認(rèn)為其是一個擁有自主思想和行動能力的代理、“機器人的混合體”或“完全生命體”。[9]另一派則主要強調(diào)社會機器人從屬和服務(wù)于人類的特質(zhì),認(rèn)為社會機器人可被看作通過與用戶建立關(guān)系并提供社會服務(wù)和支持的機器人。這一派學(xué)者堅定地認(rèn)為,社會機器人在相當(dāng)大的程度上就是“純粹機器”“不完全的人”和根深蒂固的“社會行為的寄生蟲”。[10]

    最后是本質(zhì)視角。無論以何種形式、何種技術(shù)進行構(gòu)建,社會機器人始終是機器人和社交接口(social interface)的混合產(chǎn)物,承載了人們設(shè)想中的擬人化指標(biāo),具有社會性并成為人們的社交伙伴,能根據(jù)語境調(diào)整交互方式并和人建立起社會關(guān)系,被明確設(shè)計用于與用戶建立社會和情感關(guān)系。這種內(nèi)嵌的“情感”和“關(guān)系”等社會元素也使得社會機器人和普通的電腦或是工業(yè)機器人區(qū)別開來。

    上述社會機器人定義中的共性特征主要包括:承認(rèn)其擁有一定的物質(zhì)實體且可以自由移動;外形、動作等包含由人工智能技術(shù)所構(gòu)建的類人生物特征;基本功能和相關(guān)運作遵循一定的社會規(guī)則、可以傳達(dá)一定的社會線索且能模仿人類行為;與人或者其他的自動化實體進行交流和互動,具有一定智慧、完美脾氣秉性和相對自主性的智能體。社會機器人一方面能夠輔助人類的生產(chǎn)和生活,同時作為獨立的主體進入社會生活中。

    2.社會機器人的分類

    目前有兩種理論性和體系化均較為完備的社會機器人類型劃分方法。第一種是四分法[2]:第一類是機器玩具等社會喚醒機器人(Socially evocative robots),主要是誘發(fā)人們對其采取社會性行為;第二類是機器向?qū)У壬缃唤缑鏅C器人(Social interface robots),可以和人通過語言、手勢或者表情進行互動,但缺少反饋和雙向互動;第三類是餐廳服務(wù)車等社會接受機器人(Socially receptive robots),可以回應(yīng)人類指令,但缺少自身目標(biāo);第四類是完全的社交機器人(Sociable robots),這類社會機器人作為社會主體不僅擁有生存、執(zhí)行任務(wù)和學(xué)習(xí)的目標(biāo),還擁有自身的內(nèi)在動機。

    另一劃分方法是二分法,[10]即認(rèn)為社會機器人可分為直接社會機器人(Direct social robots)和間接社會機器人(Indirect social robots)。前者指以與用戶建立關(guān)系和進行溝通為最終目標(biāo)的機器人;后者指可以和人進行互動,但溝通目的是協(xié)助人們和其他人或者物體進行連接以發(fā)揮中介作用的設(shè)備,譬如臨場機器人(Telepresence robots)、外骨骼機器人和機器人輪椅等。

    依據(jù)不同的外形、職能和角色等分類標(biāo)準(zhǔn),社會機器人也可以進行其他面向上的劃分。表1列出了關(guān)鍵樣本文獻(xiàn)對社會機器人的類型劃分。

    其他分類標(biāo)準(zhǔn) 物理感知程度、物聯(lián)網(wǎng)程度、移動性等 Lambert,et al[15]

    如表1所示,雖然同一社會機器人可被同時歸為不同類型,但依舊可以識別出不同分類標(biāo)準(zhǔn)。首先,外形不僅是影響社會機器人與用戶互動的重要社會線索,同樣也是一種被不少研究者普遍采納的社會機器人類型劃分方式。該分類方式將社會機器人分為類動物或?qū)櫸镄汀㈩惾诵?、類機器型和新型類人型四種:類動物或?qū)櫸镄桶ㄒ怨窞樵偷臋C器人Aibo、以海豹為原型的機器人Paro等;類人型如K-aspar和Nao等;類機器型如Padbot等;新型類人型則以Jibo、Welbo和Misa等為代表。其中,類動物或?qū)櫸镄蜕鐣C器人可進一步分為人類熟悉的動物、不熟悉的動物型、新品種或者想象中的動物型三種。類人型社會機器人在外形上往往具備某些類人型的身體特征,例如擁有頭部和四肢等。[15]和具有類人表征和身體的傳統(tǒng)類人型機器人不同,新型類人型社會機器人往往以在“頭部”搭載屏幕的方式來代替人類的“面孔”,并通過屏幕中的面孔來與人類進行交流和互動。

    其次,依據(jù)應(yīng)用場景(如家庭、醫(yī)院和學(xué)校)和所發(fā)揮的功能,社會機器人可劃分為治療機器人、遠(yuǎn)程/臨場機器人、陪伴機器人、助手機器人和玩具機器人等類別。[10]最后,有學(xué)者嘗試依據(jù)物理感知程度、物聯(lián)網(wǎng)程度、移動性等標(biāo)準(zhǔn)進行進一步區(qū)分社會機器人,[15]隨著虛擬現(xiàn)實等技術(shù)的發(fā)展,當(dāng)虛擬因素進入到社會機器人的構(gòu)建中,社會機器人的劃分方式也得到創(chuàng)新——研究人員提出混合現(xiàn)實機器人的概念,這類社會機器人將AR技術(shù)和機器人技術(shù)融合,以此增強機器人的物理外觀、感知性能和功能友好性,并根據(jù)用戶的要求動態(tài)和預(yù)期的任務(wù)模式改變其外觀。

    (二)社會機器人的社會性

    在研究社會機器人的“社會性”時,學(xué)者們通常著眼于社會機器人所具有的個體屬性,主要包括其外觀、行為表征和分析社會線索的能力等,通常采取“從外到內(nèi)”和“從內(nèi)到外”兩種路徑來分析其社會性。前者指從機器人的“外在社會性”入手,依靠機器人外觀層次的人體元素組合(如眉毛、嘴唇、下巴、四肢)以及微觀行為組合來構(gòu)建人機間的社會互動模式及改善交流效果。[16]而后者則關(guān)注思想、心智、情感和個性等“內(nèi)在的”或機器人自己的“精神世界”,[17]以創(chuàng)造自動化的、具有人格化特征的人類復(fù)制品為目標(biāo)。通過表2,可以看到學(xué)者們對于“外在社會性”和“內(nèi)在社會性”更加細(xì)致的關(guān)注點。

    1.外在社會性的特征與影響

    外在社會性是社會機器人區(qū)別于其他智能實體的顯性特征之一,且在人機交互與傳播的過程中,機器人的外在社會性會顯著影響人們對機器人行為的主觀解釋和評價。這種效應(yīng)在短期互動中則更為明顯。[25]一方面,外在社會性體現(xiàn)在面部表情、眼神凝視、手勢和性別等身體信號層面,這些身體信號不僅會影響到人們認(rèn)知其執(zhí)行的任務(wù)種類,還會影響其與人類間的雙向反饋、人類對其個性的感知和接受程度等。[18][20]雖然在方式、視線方向和線索有效性等方面,來自機器人的凝視和來自人類的凝視有許多不同,但若能夠與人類伙伴相互凝視,社會機器人會得到更多積極的評價,用戶也愿意花更多的時間與其互動。[18]再如,性別因素[19]和手勢[20]也被證明會影響人們對社會機器人的認(rèn)知、態(tài)度與情感。

    另一方面,外在社會性也體現(xiàn)于社會機器人與人類的交流行為上。通過語音識別、語義理解、自然語言合成等技術(shù)的完善,社會機器人可以完成基礎(chǔ)性的語言交流,而非語言交流的模式主要包括目光凝視、指點、身體姿態(tài)、表情特征等,其可以激發(fā)用戶與社會機器人間的信任和親密度,[19]對社會機器人表達(dá)自己的情感來說有著重要的意義。

    2.內(nèi)在社會性的特征與影響

    相較于工藝設(shè)計與工程學(xué)研究者對“外在”的關(guān)注,還有許多研究著重從“內(nèi)在”個性、認(rèn)知與情感以及品質(zhì)等三個維度來探討機器人的社會性。

    第一個維度是社會機器人的個性。研究者們關(guān)注其自主性與獨立性、自塑性以及智識性。就自主性與獨立性而言,有研究者結(jié)合心智發(fā)展理論(Theory of mind)認(rèn)為,社會機器人相較于一般機器具有更強的自主性,而這恰好表現(xiàn)在社會機器人的行為意向性和自我行為控制上。[18][19]其具備社會意識,可以清醒認(rèn)知自己的能力、了解與其互動的人類伙伴,并在交流過程中自由控制面部表情、身體姿態(tài)和交流聲音。[15]在社會機器人自主性地執(zhí)行任務(wù)、主動性地與人類交流[23]且社會過程逐步加深時,這一特征也逐漸具備更高維度的特征——獨立性,即計算機、機器人和其他技術(shù)設(shè)備激活了人類用戶對其社會化過程的認(rèn)知,這些實體在人類看來具有某種程度的知覺、自主權(quán)、地位乃至社會身份。[21]

    就自塑性而言,社會機器人可以根據(jù)用戶反饋來調(diào)整、改變和塑造自身性格特征。這是提高其可信度和促進成功交流的基礎(chǔ),[13]也能帶來社會機器人行為的定制化與多樣化,以滿足用戶的差異化需求。[12]例如,“可愛”這一性格特征便在促進機器人與用戶交流、信任建立和關(guān)系維持中發(fā)揮著作用。同時,社會機器人在外觀或表征上往往具有和用戶的同質(zhì)化特點,和用戶具有相似的性格特征則能完成同質(zhì)吸引。

    就智識性而言,社會機器人可以基于對用戶與環(huán)境數(shù)據(jù)的搜集、深度機器學(xué)習(xí)和無線數(shù)據(jù)傳輸?shù)燃夹g(shù),完成交流時所需知識的學(xué)習(xí)。對老年人與孩童等特殊人群而言,智識性對社會機器人功能的發(fā)揮具有舉足輕重的作用。但社會機器人的智識性存在差別,一般而言,人型機器人能給予用戶指導(dǎo)建議或者交換信息,而寵物型機器人更多的是在互動性玩樂中發(fā)揮作用。[25]同時,社會機器人智識性的高低,也影響其自主性與自塑性的程度。

    第二個維度是社會機器人的認(rèn)知與情感。在人際交往中,共情能力在情感交互與溝通中發(fā)揮著基礎(chǔ)作用,常常表現(xiàn)為認(rèn)知、感受交往對象的處境與經(jīng)歷,并對其進行回應(yīng)的能力。這是交流雙方進行情感反饋、提供社會支持的基礎(chǔ)。識別他人情緒、進行交流、表達(dá)情緒和換位思考也被認(rèn)為是界定社會機器人認(rèn)知與情感能力的標(biāo)準(zhǔn)。研究者指出,社會機器人可以解釋和傳達(dá)情感線索,[7]成為社會機器人作為傳播主體時所擁有的核心技能。目前,社會機器人具備根據(jù)人的面部表情或者語音語調(diào)來識別其心情和情感狀態(tài)的能力,未來還可根據(jù)其他的生物信息來實現(xiàn)共情。例如,根據(jù)人的呼吸中的二氧化碳水平來判斷其情緒是否處于恐懼或不確定中。并且,由于在認(rèn)知與情感層面的社會性不斷提高,社會機器人也被廣泛應(yīng)用到了特殊人群的認(rèn)知訓(xùn)練和護理領(lǐng)域,去解決特殊人群的認(rèn)知失調(diào)問題。

    第三個維度是社會機器人在互動中展現(xiàn)出的品質(zhì)。綜合樣本文獻(xiàn)觀點,社會機器人的內(nèi)在社會性,還體現(xiàn)于其在與人類互動過程中所展現(xiàn)出的適應(yīng)性(adaptability)、靈活性(flexibility)、互惠性(reciprocity)與多模態(tài)性(multimodality)等方面。就適應(yīng)性與靈活性而言,社會機器人可以感知自己所處的位置、完成自我導(dǎo)航并與周圍的環(huán)境進行交流,這與單純依靠算法來采取機械性的行為有明顯不同,[15]而是具備相當(dāng)?shù)膹椥?。社會機器人同時具備等效性(equifinality),即能夠適應(yīng)每個人的情況,以及同一目標(biāo)可以通過不同的方式來實現(xiàn)。

    作為人類道德社會的核心準(zhǔn)則之一,互惠性指代社會機器人具有與傳播者之間相互關(guān)懷的能力。[24]這一能力也被視為構(gòu)造社會機器人、增強其社會性的關(guān)鍵要素。互惠性的核心可用“黃金法則”加以概括:己所不欲,勿施于人。需要強調(diào)的是,由于社會機器人并非只與一個人互動,而是與一個復(fù)雜的參與者系統(tǒng)(包括人-機器人、機器人-機器人)互動。因此社會機器人的互惠性同時具有微觀傳播過程與宏觀社會文化方面的價值內(nèi)涵,而增強社會機器人互惠性的主要目的,則是在人機共存的世界中培育傳播主體的親社會性(pro-sociality)與不同傳播主體間的合作。[26]

    最后,就多模態(tài)性而言,在社會互動過程中,社會機器人可以和人在不同的場景下采用不同的交流渠道溝通。[12]這不能被簡單理解為社會機器人如外在社會性般可以釋放各種社會符號和行為,更是一種具有生命力的、與場景相融的最高層次智慧的集中體現(xiàn),且多模態(tài)性下社會機器人的外表和行為應(yīng)該保持同一性,人們希望機器人的行為能與它的外觀相匹配,[22]否則會加劇恐怖谷效應(yīng)。例如,現(xiàn)有研究證明人類更有可能對具有吸引力和活力的機器人做出積極的反應(yīng);但另一方面,在醫(yī)院這樣的場合,嚴(yán)肅、認(rèn)真的機器人要比活躍的機器人更受人們的青睞。

    綜合來看,具有擬人化的外表和行為,能夠進行基本的語言和非語言交流是社會機器人逐步與人進行溝通和互動的基礎(chǔ);情感層面的理解和思考是提升關(guān)系親密度的方式和手段;而自主意識、適應(yīng)性、同一性這些更高維度的人類思維的賦予,是其更適切融入社會生活的進階要求。

    三、討論與總結(jié)

    至此,通過系統(tǒng)性綜述,RQ1和RQ2已得到回答。下文將就研究結(jié)果、全文所關(guān)注的核心概念等內(nèi)容進行討論。

    (一)再定義社會機器人:工具理性陷阱與數(shù)字技術(shù)幻象

    通過回溯可知,樣本文獻(xiàn)對社會機器人的定義與分類為認(rèn)識“什么是社會機器人”提供了深刻洞察。但若審慎分析,便不難識別出絕大多數(shù)研究者都秉持著工具理性的意識形態(tài)來提出定義,并對社會機器人進行基礎(chǔ)功能上的評價。

    在樣本文獻(xiàn)中,許多關(guān)于社會機器人的定義都多少蘊含著工程學(xué)與計算機科學(xué)的思維,這一點與機器人研究的歷史脈絡(luò)有關(guān)。自1956年召開的“群星閃耀”的達(dá)特茅斯會議以來,McCarthy、Shannon和Minsky等人工智能開拓者便將模式識別、自然語言處理、模擬心智和神經(jīng)網(wǎng)絡(luò)等關(guān)鍵技術(shù)注入機器人發(fā)展研究的基因之中。[27]開拓者們的計算機學(xué)科背景奠定了機器人研究與發(fā)展中一個難以撼動且未經(jīng)檢驗的前提假設(shè)——機器人在相當(dāng)?shù)某潭仁牵ㄍ瑫r也必須是)“數(shù)字的”“計算的”和“圖形的”。

    然而,無論是“數(shù)字的”“計算的”還是“圖形的”,其背后的工具理性價值觀與對“數(shù)字能夠解決一切”的技術(shù)幻象尤其值得社會機器人與人工智能研究者警惕。一方面,雖然延續(xù)工具理性的邏輯,人工智能研究發(fā)展出符號主義、聯(lián)結(jié)主義與進化主義等三大主導(dǎo)流派,但無論何種流派,都存在不可避免的理論缺陷。[28]另一方面,社會機器人及其所承載的數(shù)字技術(shù),被期望能夠用來解決自然與社會生活中的問題,但這一數(shù)字技術(shù)幻象背后的事實是:數(shù)字技術(shù)并不能解決一切問題,且真正的問題則是為什么人們一直秉持這一觀念前行而幾乎沒有限制意識。[29]

    因此,社會機器人研究或許從一開始便走在一條陡峭的道路上——盡管社會機器人目前的主要價值在于功能層面,但相關(guān)研究不應(yīng)只是一個技術(shù)問題,還應(yīng)該是一個哲學(xué)、倫理與道德問題,其最終目的也應(yīng)囊括增進社會福祉等超越純粹工具理性的價值追求。同時,社會機器人對日常生活的介入程度日益加深,也對社交機器人的再概念化提出了新要求。為應(yīng)對這一挑戰(zhàn),人們則可以嘗試放棄對社會機器人進行本質(zhì)主義方式的定義,而以話語式的方式來描述、規(guī)劃和建構(gòu)社會機器人。

    (二)重解“社會性”意涵:社會關(guān)系面向與人機傳播實踐

    目前,社會機器人的定義大多被工程師和科學(xué)家所決定,也使得目前對機器人社會性的理解被烙印上“功能的”鮮明氣質(zhì),即在談?wù)摍C器人社會性時主要強調(diào)的是在技術(shù)上的“一組個體屬性”或能力(a set of individual properties of artifact),或根據(jù)言語、眼神和情感等社會線索來做出反應(yīng)的能力。[2]在這一理解下,設(shè)計者們通過不斷優(yōu)化機器人所能提供的聲音、外觀、體態(tài)等社會線索及增強人機交流時的社會臨場感,來使人類更加真實地感知機器人。并且,目前社會機器人領(lǐng)域內(nèi)的“計算機作為行動者”(computers are social actor)、媒介等同(media equation)和機器形態(tài)學(xué)(robot morphology)等經(jīng)典研究也毫不回避地聲稱這一研究路徑與機器人社會性在功能面向上的正確性。

    然而,與被工具理性所遮蔽的定義一樣,目前所有強調(diào)機器人“與生俱來的”技術(shù)屬性的嘗試,也回避了社會行動者間的動態(tài)關(guān)系及其社會實踐。例如,Gates等計算機科學(xué)家們給出的機器人社會性促進方案是:標(biāo)準(zhǔn)化、通信協(xié)議、更強大的硬件及軟件平臺。[30]在這一方案中,他們似乎默認(rèn)社會機器人可以獨立于人類社會而存在。但就像人類并非一出生便具備社會性,而需要通過人生實踐、認(rèn)知的發(fā)展與社會建構(gòu)來不斷完成社會化那樣,機器人的設(shè)計、開發(fā)、制造和應(yīng)用也是一個漫長的、會受到除技術(shù)之外諸多因素影響的社會過程。[31]這意味著,對機器人“社會性”的分析還具有一個絕對不能忽視的“關(guān)系的”面向。

    具體來看,“關(guān)系的”面向主要關(guān)注人類、機器人自身、其他社會行動者、特定日常生活情景、觀念與價值等文化因素,如何在設(shè)計、開發(fā)與(尤其是)應(yīng)用等環(huán)節(jié)塑造機器人的“社會性”,且這種塑造與影響恰好根植于這些因素的動態(tài)互動關(guān)系之中,是必須思考的問題。[31]換言之,如果說“功能的”視角強調(diào)一種“屬性”或“能力”,那么“關(guān)系的”視角則強調(diào)機器人的社會性是一個“社會過程”。

    現(xiàn)有研究已證明,雖然社會機器人在許多人看來依舊是新穎的和稀少的,與其互動的過程也停留在初始階段,但在社會機器人被接納、被使用和完成從原型(prototyping)到定型(stereotyping)的過程中,一直滲透著人們在日常生活中與之互動所產(chǎn)生的經(jīng)驗,這些經(jīng)驗所促成的對社會機器人的解釋,以及特定文化對這種解釋的影響。[32]并且,不同文化與社會情境中的個人與群體,也會賦予相同的社會機器人以不同的、可以塑造其發(fā)展的意義,即社會機器人本身的意義也具有在不同社會文化語境的解釋彈性(interpretive flexibility)。[32]

    可以確定的是,許多強調(diào)功能屬性的觀點對機器人“社會性”的理解是有失偏頗的。但也必須承認(rèn),人們無法創(chuàng)造一個類似實驗室的環(huán)境來檢驗“社會過程”。由于人類對于社會機器人的體驗各不相同,所以發(fā)展機器人社會性的最合適語境恰好是人類社會自身。而一個恰當(dāng)?shù)姆绞奖闶墙o予更多人以機會參與到機器人的設(shè)計、開發(fā)與互動過程當(dāng)中,并通過真實生活中的多樣化人機傳播實踐,使其能夠以恰當(dāng)?shù)姆椒▉砀拍罨瘷C器人并賦予其意義。

    (三)展望智能文明:人機交融共存與社會認(rèn)知革新

    在定義社會機器人與探索其“社會性”之外,社會機器人自身也承載著人類對于未來智能文明的想象,并成為一種關(guān)于未來智能生活的文化意向。目前,社會機器人已進入教育、交通、政務(wù)、醫(yī)療與陪護等社會生活領(lǐng)域,“奇點來臨”的預(yù)言也暗示未來社會機器人會自己進化出許多人類不曾設(shè)計和賦予的能力。學(xué)者Schudson認(rèn)為,一個文化對象越是強大和觸手可及,就越是在修辭上有效,越能與現(xiàn)有的觀念與情感結(jié)構(gòu)產(chǎn)生共鳴。[33]不可否認(rèn)的是,眼下關(guān)于社會機器人存在著客觀與狂想、排斥與接納、訝異與期待、恐懼與樂觀等交織的普遍社會意識癥候,折射出的不僅有人們對于社會機器人本身的糾結(jié)認(rèn)識,還有社會對于技術(shù)文明的扭曲期待。

    一方面,人類正處在一個如何正確看待技術(shù)物的關(guān)鍵節(jié)點上,對于社會機器人“僅僅是技術(shù)物”的倔強認(rèn)知與其或好或壞的斷裂體驗之間相互矛盾,讓人類自身陷入認(rèn)知層面上的痛苦。[34]另一方面,雖然人們不斷試圖與用未來之眼光審視今日之實踐與社會機器人的社會文化價值,但這種審視卻常常帶著人類對技術(shù)或刻意矮化或刻意追捧的姿態(tài)。

    因此,在對技術(shù)保持情緒穩(wěn)定以外,對于“社會性”、社會過程以及社會機器人不斷進入人類生活的現(xiàn)象的分析也需要進行認(rèn)知上的革新——技術(shù)可能既不完全由實驗室的科學(xué)家決定,也沒有自身發(fā)展的“鐵律”,其設(shè)計與應(yīng)用在相當(dāng)大的程度上可能是一個值得所有人一起培育的歷史意外。

    最后,本文雖未能超脫其努力想突破的人類中心主義理論脈絡(luò),但這一嘗試意在提醒人機傳播研究需要有格局更加寬廣的概念與理論基礎(chǔ)。如果接受機器人是一個獨立的傳播者或主體,就不需要把它們稱為“類人”——一種本就蘊含人類中心主義的稱謂。本文對社會機器人這個概念進行再定義并探討其社會性,正是試圖以未來的眼光映射今天的人機傳播實踐。

    參考文獻(xiàn):

    [1]牟怡, 許坤. 什么是人機傳播?——一個新興傳播學(xué)領(lǐng)域之國際視域考察[J].江淮論壇,2018(2):149-154.

    [2] Breazeal,C.(2003). Emotion and sociable humanoid robots. International Journal of Human - Computer Studies, 59(1-2):119-155.

    [3] Lutz, C.Schttler, M.amp;Hoffmann, C P. (2019).The privacy implications of social robots: Scoping review and expert interviews. Mobile Media amp; Communication, 7(3):412-434.

    [4] Edwards, A., Edwards, C., Westerman, D.amp;Spence, PR.(2019). Initial Expectations, Interactions, and Beyond with Social Robots. Computers in Human Behavior, 90:308-314.

    [5] 石婧, 艾小燕, 操子宜. 大數(shù)據(jù)是否能改進公共政策分析?——基于系統(tǒng)文獻(xiàn)綜述的研究[J].情報雜志, 2018(2):161-168+121.

    [6] Giansanti, D. (2021).The Social Robot in Rehabilitation and Assistance: What Is the Future?. Healthcare, 9(3):244.

    [7] Abendschein, B., Edwards, C. amp;Edwards, A. (2021).The influence of agent and message type on perceptions of social support in human-machine communication. Communication Research Reports, 38(5):304-314.

    [8] Carradore, M.(2021). Social Robots in the Home: What Factors Influence Attitudes Towards their Use in Assistive Care?. Italian Sociological Review, 11(3) :879 - 901.

    [9] Turkle,S., Taggart, W., Kidd,C. amp; Daste,O. (2006).Relational artifacts with children and elders. Connection Science, 18:347-361.

    [10] Pirhonena,J., Tiilikainen,E., et al.(2021). Can robots tackle late-life loneliness? Scanning of future opportunities and challenges in assisted living facilities. Futures, 124:1-12.

    [11] Chu, M T., Khosla, R., Khaksar,S M S., et al.(2016). Service innovation through social robot engagement to improve dementia care quality. Assistive Technology, 29(1):8-18.

    [12] Natacha R., Laure,R C., Anne-Sophie, R., et al. (2017).Affective and Engagement Issues in the Conception and Assessment of a Robot-Assisted Psychomotor Therapy for Persons with Dementia. Frontiers in Psychology, 8:950.

    [13] Littler, B., Alessa, T., Dimitri, P., et al.(2021). Reducing negative emotions in children using social robots: systematic review. Archives of Disease in Childhood, 106(11):1-7.

    [14] Chen, S C., Cindy, J.amp; Wendy,M.(2018). Social Robots for Depression in Older Adults: A Systematic Review. Journal of Nursing Scholarship, 50(6):612-622.

    [15] Lambert, A., Norouzi, N., Bruder, G.amp; Welch, G.(2020). A Systematic Review of Ten Years of Research on Human Interaction with Social Robots. International Journal of Human–Computer Interaction, 36(19): 1804-1817.

    [16] Jean‐Christophe, G., Nuno, P., Patrícia, Alves‐Oliveira., et al. (2019).Humanization of robots: Is it really such a good idea?. Human Behavior and Emerging Technologies, 1(2):111-123.

    [17] Turkle,S., Taggart,W., Kidd,C.amp;Daste, O. (2006).Relational artifacts with children and elders. Connection Science, 18:347-361.

    [18] Wiese, E., Weis, P P.amp; Lofaro, D .(2018). Embodied social robots trigger gaze following in real-time. 15th International Conference on Ubiquitous Robots (UR), 477-482.

    [19] Barajas, NC., Perugia, G.amp; Castellano, G.(2020). The Effects of Robot's Facial Expressions on Children's First Impressions of Trustworthiness. 29th IEEE International Conference on Robot and Human Interactive Communication, 165-171.

    [20] Zotowski,J., Khalil,A.amp; Abdallah, S.(2020). One robot doesn't fit all: aligning social robot appearance and job suitability from a Middle Eastern perspective. AI amp; Society, 35(2):485-500.

    [21] Furlough, C., Stokes, T., amp; Gillan, D. J. Attributing Blame to Robots: I. The Influence of Robot Autonomy. The Journal of the Human Factors and Ergonomics Society, 63(4):592-602.

    [22] Konok,V., Korcsok, Beáta., Miklósi, ádám., et al.(2017). Should we love robots? – The most liked qualities of companion dogs and how they can be implemented in social robots. Computers in Human Behavior, 80:132-142.

    [23] Bankins,S.amp;Formosa,P.(2019). When AI meets PC: exploring the implications of workplace social robots and a human-robot psychological contract. European Journal of Work amp; Organizational Psychology, 29(2):215-229.

    [24] Wynsberghe, AV . (2021).Social robots and the risks to reciprocity. AI amp; SOCIETY, 2:1-7.

    [25] Shibata, T. (2004).An overview of human interactive robots for psychological enrichment. Proceedings of the IEEE, 92(11):1749-1758.

    [26] Arnold, T., amp; Scheutz, M. (2017). The tactile ethics of soft robotics: designing wisely for human-robot interaction. Soft Robotics, 4(2):2-12.

    [27] 劉韓.人工智能簡史[M].北京:人民郵電出版社,2018:3.

    [28] 成素梅.人工智能研究的范式轉(zhuǎn)換及其發(fā)展前景[J].哲學(xué)動態(tài),2017(12):15-21.

    [29] Winner,L.(1977). Autonomous technology: technics-out-of-control as a theme in political thought. Cambridge: MIT Press: 129.

    [30] Gates, B. (2007). A robot in every home. Scientific American, 296(1):58.

    [31] Sabanovic ,S., Michalowski.,MP.amp; Simmons, R. (2006). Robots in the wild: observing human-robot social interaction outside the lab. IEEE international workshop on advanced motion control, 596-601.

    [32] Kaplan, F .(2004). Who is afraid of the humanoid? Investigating cultural differences in the acceptance of robots. International Journal of Humanoid Robotics , 1(3):1-16.

    [33] Schudson,M.(1989). How Culture Works: Perspectives from Media Studies on the Efficacy of Symbols. Theory and Society, 18(2):153-180.

    [34] Turkle, S.(2007). Authenticity in the age of digital companions. Interaction Studies, 8(3) :501-517.

    [責(zé)任編輯:高辛凡]

    作者簡介: 王兵,男,博士研究生;羅龍翔,男,博士研究生。

    欧美最新免费一区二区三区| 欧美潮喷喷水| 久久久久久伊人网av| 日本午夜av视频| 国产成人aa在线观看| 国产中年淑女户外野战色| 国产在视频线在精品| 欧美性感艳星| 少妇被粗大猛烈的视频| 日韩精品青青久久久久久| 午夜激情久久久久久久| 插逼视频在线观看| 免费看日本二区| 男插女下体视频免费在线播放| 丰满少妇做爰视频| 国产精品久久久久久av不卡| 欧美成人a在线观看| 免费av毛片视频| 免费看美女性在线毛片视频| 久久久久性生活片| 看黄色毛片网站| 国产精品久久久久久久电影| 七月丁香在线播放| 亚洲综合精品二区| 亚洲久久久久久中文字幕| 中文字幕av在线有码专区| 99视频精品全部免费 在线| 男的添女的下面高潮视频| 秋霞在线观看毛片| 午夜福利在线观看免费完整高清在| 国产精品久久久久久精品电影小说 | 亚洲不卡免费看| av黄色大香蕉| 亚洲自偷自拍三级| 欧美成人一区二区免费高清观看| 深夜a级毛片| 国产精品久久久久久久电影| 国产精品1区2区在线观看.| 夫妻性生交免费视频一级片| 日韩,欧美,国产一区二区三区| 欧美潮喷喷水| 高清日韩中文字幕在线| 国产精品福利在线免费观看| 肉色欧美久久久久久久蜜桃 | 欧美日韩视频高清一区二区三区二| or卡值多少钱| 夫妻午夜视频| 亚洲综合色惰| av一本久久久久| 国产在视频线精品| 老师上课跳d突然被开到最大视频| 国产精品99久久久久久久久| 久久国产乱子免费精品| 女人十人毛片免费观看3o分钟| 97精品久久久久久久久久精品| 成人美女网站在线观看视频| 精品一区二区三区人妻视频| 国产成人免费观看mmmm| 午夜福利视频1000在线观看| 精品久久久久久成人av| 精品久久久久久久末码| 国产久久久一区二区三区| 一夜夜www| 97超视频在线观看视频| 精品久久久久久久久亚洲| 欧美日韩在线观看h| 日韩av免费高清视频| 午夜福利在线观看吧| 91精品国产九色| 免费看不卡的av| av在线蜜桃| 美女黄网站色视频| 毛片女人毛片| 极品教师在线视频| 成人高潮视频无遮挡免费网站| 黄片无遮挡物在线观看| 天美传媒精品一区二区| 久久久久久久国产电影| 亚洲成色77777| 26uuu在线亚洲综合色| 观看美女的网站| 在线免费观看不下载黄p国产| 99热这里只有是精品50| 91久久精品电影网| 精品一区在线观看国产| 干丝袜人妻中文字幕| 18+在线观看网站| av在线蜜桃| 亚洲熟妇中文字幕五十中出| 国产精品一区www在线观看| 天堂网av新在线| 国产高清不卡午夜福利| 色吧在线观看| 国产精品久久久久久精品电影小说 | videos熟女内射| 自拍偷自拍亚洲精品老妇| 久久精品熟女亚洲av麻豆精品 | 亚洲精品一二三| 免费看不卡的av| 夫妻性生交免费视频一级片| 美女国产视频在线观看| 男插女下体视频免费在线播放| 国产在线一区二区三区精| 人妻一区二区av| 午夜日本视频在线| 搡老乐熟女国产| 亚洲精品国产av成人精品| 国产精品久久久久久av不卡| 狂野欧美激情性xxxx在线观看| 欧美激情久久久久久爽电影| 日本wwww免费看| 午夜日本视频在线| 成人亚洲精品一区在线观看 | 久久精品夜夜夜夜夜久久蜜豆| 国产黄片美女视频| 尤物成人国产欧美一区二区三区| 亚洲人成网站在线播| 久久久a久久爽久久v久久| 国产乱人偷精品视频| 又爽又黄a免费视频| 99久久九九国产精品国产免费| 精华霜和精华液先用哪个| 在线观看美女被高潮喷水网站| 成年免费大片在线观看| 欧美人与善性xxx| 日产精品乱码卡一卡2卡三| 国产高清国产精品国产三级 | 成人漫画全彩无遮挡| 非洲黑人性xxxx精品又粗又长| 中文字幕av在线有码专区| 亚洲av中文av极速乱| 亚洲国产欧美人成| 国产亚洲一区二区精品| 十八禁网站网址无遮挡 | 最后的刺客免费高清国语| 午夜久久久久精精品| 天堂中文最新版在线下载 | 一级毛片久久久久久久久女| 99久久人妻综合| 全区人妻精品视频| 高清av免费在线| 水蜜桃什么品种好| 国产成人午夜福利电影在线观看| 91av网一区二区| 69av精品久久久久久| 99热这里只有精品一区| 日本黄大片高清| 天堂√8在线中文| 亚洲国产精品成人久久小说| 国产亚洲精品av在线| 亚洲av国产av综合av卡| 日本av手机在线免费观看| 免费在线观看成人毛片| 亚洲av不卡在线观看| 亚洲成人精品中文字幕电影| 国产白丝娇喘喷水9色精品| 国产白丝娇喘喷水9色精品| 久久久久久久久久久免费av| 亚洲av国产av综合av卡| 我的女老师完整版在线观看| 亚洲精品国产成人久久av| 一夜夜www| 搡老乐熟女国产| 国产在线一区二区三区精| 嘟嘟电影网在线观看| 国产精品麻豆人妻色哟哟久久 | 26uuu在线亚洲综合色| 国产精品爽爽va在线观看网站| 午夜爱爱视频在线播放| 亚洲精华国产精华液的使用体验| av免费观看日本| 国产成人a∨麻豆精品| 午夜久久久久精精品| 国内精品美女久久久久久| 色哟哟·www| 精品人妻熟女av久视频| 久久精品久久久久久久性| 国内少妇人妻偷人精品xxx网站| 18+在线观看网站| 蜜桃久久精品国产亚洲av| 亚洲精品成人av观看孕妇| 成人av在线播放网站| 男女视频在线观看网站免费| 大香蕉97超碰在线| 中文字幕亚洲精品专区| kizo精华| 久久久午夜欧美精品| 美女国产视频在线观看| 在线观看免费高清a一片| 高清欧美精品videossex| 国产精品三级大全| 最后的刺客免费高清国语| 国产亚洲午夜精品一区二区久久 | 国产毛片a区久久久久| 别揉我奶头 嗯啊视频| 老司机影院成人| 视频中文字幕在线观看| 美女国产视频在线观看| 丰满乱子伦码专区| 国产精品精品国产色婷婷| 最近的中文字幕免费完整| 国产精品麻豆人妻色哟哟久久 | eeuss影院久久| 大话2 男鬼变身卡| 黄片wwwwww| 2018国产大陆天天弄谢| 久久6这里有精品| 亚洲综合精品二区| 国产亚洲精品久久久com| 欧美丝袜亚洲另类| 在线观看人妻少妇| 亚洲最大成人中文| 国产永久视频网站| 观看美女的网站| 久久久久久久国产电影| 久久久a久久爽久久v久久| 精品久久久久久电影网| 2018国产大陆天天弄谢| 久久午夜福利片| 久久久久久久国产电影| 亚洲精品一二三| 99视频精品全部免费 在线| 少妇被粗大猛烈的视频| 免费观看性生交大片5| 国产麻豆成人av免费视频| 乱码一卡2卡4卡精品| 久久久久国产网址| 人妻夜夜爽99麻豆av| 久久这里只有精品中国| av一本久久久久| 18禁裸乳无遮挡免费网站照片| 国产v大片淫在线免费观看| 人妻一区二区av| 日韩欧美 国产精品| av免费观看日本| 久久久精品94久久精品| 毛片女人毛片| 成人亚洲精品av一区二区| kizo精华| 国产成人精品久久久久久| 亚洲国产精品sss在线观看| 国产成年人精品一区二区| 少妇猛男粗大的猛烈进出视频 | 一夜夜www| 亚洲成人一二三区av| 精品久久久噜噜| 网址你懂的国产日韩在线| 中文欧美无线码| 亚洲国产欧美在线一区| 欧美zozozo另类| 蜜桃亚洲精品一区二区三区| 精品久久久久久久人妻蜜臀av| 国产免费福利视频在线观看| 国产伦精品一区二区三区视频9| 亚洲av一区综合| 99热全是精品| 亚洲在线观看片| 欧美最新免费一区二区三区| 精品国产三级普通话版| 毛片一级片免费看久久久久| 少妇的逼水好多| 国产不卡一卡二| 国产亚洲av嫩草精品影院| 97超碰精品成人国产| 精品国产三级普通话版| 建设人人有责人人尽责人人享有的 | 搞女人的毛片| 亚洲成人av在线免费| 国产精品国产三级专区第一集| 亚洲自偷自拍三级| 国产精品久久久久久精品电影小说 | 成人性生交大片免费视频hd| 99久国产av精品| 午夜免费男女啪啪视频观看| 国产黄频视频在线观看| 久久韩国三级中文字幕| 国产大屁股一区二区在线视频| 欧美最新免费一区二区三区| 黑人高潮一二区| 一级毛片我不卡| 伊人久久国产一区二区| 亚洲最大成人中文| 久久久久国产网址| 丰满乱子伦码专区| 国产精品精品国产色婷婷| 搡老乐熟女国产| 乱人视频在线观看| 毛片一级片免费看久久久久| 免费黄网站久久成人精品| 伦精品一区二区三区| 精品久久久久久久久亚洲| 六月丁香七月| 午夜精品国产一区二区电影 | 国产综合精华液| 欧美日韩视频高清一区二区三区二| 又爽又黄无遮挡网站| 看免费成人av毛片| 成人国产麻豆网| 18禁在线无遮挡免费观看视频| 在线观看人妻少妇| 哪个播放器可以免费观看大片| 简卡轻食公司| 国产一级毛片七仙女欲春2| 国产高清不卡午夜福利| 亚洲熟妇中文字幕五十中出| 国产精品一区www在线观看| 日本一本二区三区精品| 日本-黄色视频高清免费观看| 国产成人精品婷婷| 精品一区二区三区视频在线| 波多野结衣巨乳人妻| 久久久午夜欧美精品| 亚洲av一区综合| 欧美高清性xxxxhd video| 九草在线视频观看| 街头女战士在线观看网站| 久久久精品94久久精品| 久久久久精品性色| 乱人视频在线观看| 欧美另类一区| 亚洲国产精品国产精品| 免费高清在线观看视频在线观看| 最后的刺客免费高清国语| 免费少妇av软件| 哪个播放器可以免费观看大片| 激情 狠狠 欧美| 欧美成人一区二区免费高清观看| 亚洲精品456在线播放app| av国产免费在线观看| 亚洲一级一片aⅴ在线观看| 国产一区亚洲一区在线观看| 婷婷色综合www| 精品久久久久久久久久久久久| 亚洲成色77777| 国产精品综合久久久久久久免费| 亚洲自偷自拍三级| 一本久久精品| 大香蕉97超碰在线| 亚洲不卡免费看| 91午夜精品亚洲一区二区三区| 国产欧美另类精品又又久久亚洲欧美| 国产亚洲午夜精品一区二区久久 | 亚洲av电影不卡..在线观看| 精品久久久噜噜| 欧美变态另类bdsm刘玥| 欧美精品一区二区大全| 国产成人91sexporn| 大片免费播放器 马上看| 欧美 日韩 精品 国产| 特级一级黄色大片| 久久久午夜欧美精品| 性插视频无遮挡在线免费观看| 免费看日本二区| 亚洲欧美成人精品一区二区| 日韩av不卡免费在线播放| 久久久久久久久久黄片| 一级av片app| 亚洲欧美日韩东京热| 婷婷色综合大香蕉| 成人午夜高清在线视频| 婷婷色av中文字幕| 欧美日韩综合久久久久久| 亚洲乱码一区二区免费版| 国产精品精品国产色婷婷| 大香蕉97超碰在线| av黄色大香蕉| 全区人妻精品视频| 精品久久久久久电影网| 99热全是精品| 亚洲av中文字字幕乱码综合| 国产成人精品久久久久久| 国产精品一及| 久久午夜福利片| 亚洲人成网站在线播| 日本黄大片高清| 日韩中字成人| 最近手机中文字幕大全| 日日啪夜夜爽| 亚洲精品视频女| 精品久久国产蜜桃| 国产黄色视频一区二区在线观看| 久久鲁丝午夜福利片| 婷婷色综合大香蕉| 99九九线精品视频在线观看视频| 国产乱人偷精品视频| 搞女人的毛片| 汤姆久久久久久久影院中文字幕 | 熟妇人妻不卡中文字幕| 午夜福利成人在线免费观看| 久久精品国产鲁丝片午夜精品| 国产日韩欧美在线精品| 人妻一区二区av| 久久久亚洲精品成人影院| 国产男人的电影天堂91| 91精品伊人久久大香线蕉| 中文字幕久久专区| 麻豆久久精品国产亚洲av| 亚洲成人中文字幕在线播放| 国产高清国产精品国产三级 | 国产精品女同一区二区软件| 日韩 亚洲 欧美在线| 中文字幕av在线有码专区| 久久久成人免费电影| 美女高潮的动态| 亚洲真实伦在线观看| 97热精品久久久久久| 国产午夜精品论理片| 舔av片在线| 精品亚洲乱码少妇综合久久| av播播在线观看一区| 三级国产精品片| 亚洲第一区二区三区不卡| 最近视频中文字幕2019在线8| 国产人妻一区二区三区在| 一区二区三区免费毛片| 亚洲欧美日韩卡通动漫| 免费黄色在线免费观看| 水蜜桃什么品种好| 国产色婷婷99| 身体一侧抽搐| 亚洲av福利一区| 熟妇人妻不卡中文字幕| 久久久久久久久久久免费av| 日韩av免费高清视频| 极品教师在线视频| 男女边摸边吃奶| 青春草国产在线视频| 欧美三级亚洲精品| 日本猛色少妇xxxxx猛交久久| 成人午夜精彩视频在线观看| 日韩伦理黄色片| 国产麻豆成人av免费视频| 亚洲精品自拍成人| 男人爽女人下面视频在线观看| 日韩人妻高清精品专区| 久久久久九九精品影院| 网址你懂的国产日韩在线| 一级毛片我不卡| 精品少妇黑人巨大在线播放| 久久人人爽人人爽人人片va| 熟妇人妻不卡中文字幕| 国产三级在线视频| 美女高潮的动态| 日韩av不卡免费在线播放| 性色avwww在线观看| 国产av码专区亚洲av| 在线观看美女被高潮喷水网站| 国产色婷婷99| 国国产精品蜜臀av免费| videos熟女内射| 欧美bdsm另类| videos熟女内射| 国产伦精品一区二区三区视频9| 韩国av在线不卡| 2021天堂中文幕一二区在线观| 禁无遮挡网站| 免费av不卡在线播放| 久久久久九九精品影院| 国产精品99久久久久久久久| 午夜激情久久久久久久| 免费看不卡的av| 少妇的逼好多水| 欧美变态另类bdsm刘玥| 97在线视频观看| 中文字幕人妻熟人妻熟丝袜美| 免费电影在线观看免费观看| 直男gayav资源| 久久精品久久久久久噜噜老黄| 一级爰片在线观看| 能在线免费观看的黄片| 欧美日韩综合久久久久久| 国产亚洲精品久久久com| 少妇熟女aⅴ在线视频| 精品久久国产蜜桃| 一本一本综合久久| 欧美激情久久久久久爽电影| av国产久精品久网站免费入址| 国产成人freesex在线| 丰满乱子伦码专区| 高清视频免费观看一区二区 | 亚洲精品影视一区二区三区av| 赤兔流量卡办理| 午夜亚洲福利在线播放| 国产一区有黄有色的免费视频 | 一级a做视频免费观看| 91狼人影院| 国产亚洲91精品色在线| 欧美高清性xxxxhd video| 国产 亚洲一区二区三区 | 51国产日韩欧美| av福利片在线观看| 国产人妻一区二区三区在| 99视频精品全部免费 在线| 噜噜噜噜噜久久久久久91| 秋霞伦理黄片| 国产亚洲精品av在线| kizo精华| 黄片无遮挡物在线观看| 一本久久精品| 成人欧美大片| 国产真实伦视频高清在线观看| 男女视频在线观看网站免费| 欧美成人午夜免费资源| 少妇人妻一区二区三区视频| 99久久精品国产国产毛片| 免费大片黄手机在线观看| 国产亚洲91精品色在线| 久久久久久久久久黄片| 一级毛片久久久久久久久女| 大又大粗又爽又黄少妇毛片口| 国产乱人视频| 午夜亚洲福利在线播放| 日韩一区二区视频免费看| 亚洲欧美精品专区久久| 午夜激情福利司机影院| 亚洲国产日韩欧美精品在线观看| 欧美日韩精品成人综合77777| 高清欧美精品videossex| 赤兔流量卡办理| eeuss影院久久| 一区二区三区乱码不卡18| 两个人的视频大全免费| 久久国内精品自在自线图片| 2021天堂中文幕一二区在线观| 国产亚洲一区二区精品| 亚洲av.av天堂| 在现免费观看毛片| 日韩在线高清观看一区二区三区| 一二三四中文在线观看免费高清| 久久亚洲国产成人精品v| 我要看日韩黄色一级片| 黄色日韩在线| 男女视频在线观看网站免费| 天天躁夜夜躁狠狠久久av| 亚洲国产精品成人久久小说| 成年女人看的毛片在线观看| 超碰97精品在线观看| 日本与韩国留学比较| 三级国产精品片| 麻豆成人av视频| 校园人妻丝袜中文字幕| 国产伦一二天堂av在线观看| 毛片女人毛片| 久久久久久九九精品二区国产| 中文字幕免费在线视频6| 欧美日韩精品成人综合77777| 欧美97在线视频| 天堂√8在线中文| 亚洲欧美成人精品一区二区| 青春草亚洲视频在线观看| 亚洲人成网站在线观看播放| 在线观看免费高清a一片| 白带黄色成豆腐渣| 偷拍熟女少妇极品色| 免费无遮挡裸体视频| 嫩草影院入口| 成人毛片a级毛片在线播放| 非洲黑人性xxxx精品又粗又长| 国产精品综合久久久久久久免费| 在线观看美女被高潮喷水网站| 日韩在线高清观看一区二区三区| 免费av毛片视频| 乱系列少妇在线播放| 你懂的网址亚洲精品在线观看| 久久精品综合一区二区三区| 日韩一区二区视频免费看| 国产精品久久久久久精品电影| 老司机影院成人| 中文字幕av成人在线电影| 日本欧美国产在线视频| 国产av在哪里看| 欧美 日韩 精品 国产| 久久精品夜夜夜夜夜久久蜜豆| 日韩欧美国产在线观看| 乱人视频在线观看| 国产精品久久久久久av不卡| 婷婷色麻豆天堂久久| 国产久久久一区二区三区| 国产成人午夜福利电影在线观看| 亚洲精品影视一区二区三区av| 高清午夜精品一区二区三区| 男人和女人高潮做爰伦理| 国内精品美女久久久久久| 国产一区二区在线观看日韩| 能在线免费观看的黄片| 精品久久久久久久末码| 97热精品久久久久久| 午夜免费观看性视频| 日本色播在线视频| 亚洲最大成人av| 不卡视频在线观看欧美| 国产成人91sexporn| 国产精品熟女久久久久浪| 日韩在线高清观看一区二区三区| 国产伦理片在线播放av一区| 午夜福利高清视频| 国产综合精华液| 久久这里有精品视频免费| 亚洲av中文字字幕乱码综合| 人妻一区二区av| 日韩,欧美,国产一区二区三区| 自拍偷自拍亚洲精品老妇| 午夜精品在线福利| 国产乱来视频区| 边亲边吃奶的免费视频| 色综合亚洲欧美另类图片| 亚洲人成网站在线播| 两个人的视频大全免费| 好男人视频免费观看在线| 免费看不卡的av| 久久久精品94久久精品| 国产日韩欧美在线精品| 国产一区二区三区av在线| 熟女人妻精品中文字幕| 真实男女啪啪啪动态图|