• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    交往語境中的社交機器人:技術(shù)邏輯視角下機器人格建構(gòu)

    2025-02-21 00:00:00韓秀張洪忠斗維紅
    關(guān)鍵詞:人格算法

    摘 要:如何看待社交機器人的機器人格?以社交機器人小冰為例,采用專家訪談法對技術(shù)邏輯視角下機器人格建構(gòu)展開研究發(fā)現(xiàn):在機器人格的先賦性方面,生產(chǎn)者通過構(gòu)建人物背景與基本屬性進(jìn)行畫像賦予,通過具體語境下海量數(shù)據(jù)訓(xùn)練進(jìn)行語料賦予,通過從單一文字到多模態(tài)交互呈現(xiàn)進(jìn)行感官賦予;在機器人格的后致性方面,用戶特性主要決定社交機器人的態(tài)度和喜好,粗糙的情感標(biāo)簽和算法框架背后需要用戶的再加工,機器人格的生成目的是達(dá)成可信的人機交互。最后基于機器行為范式對機器人格先賦性與后致性之間關(guān)系展開討論。

    關(guān)鍵詞:社交機器人;機器人格;聊天機器人;人格;算法

    作者簡介:韓秀,中華女子學(xué)院文化傳播與藝術(shù)學(xué)院講師,主要從事人機傳播視角下的社交機器人、社交媒體分析、媒介與女性研究;張洪忠,北京師范大學(xué)新聞傳播學(xué)院教授,主要從事智能傳播、社交媒體分析研究;斗維紅,蘭州大學(xué)新聞與傳播學(xué)院講師,主要從事智能傳播、新媒體與社會研究。

    基金項目:國家社會科學(xué)專項“增強中華文明海外網(wǎng)絡(luò)傳播力影響力研究”(項目編號:23ZDA094)的階段性成果。

    中圖分類號:G206 文獻(xiàn)標(biāo)識碼:A 文章編號:1001-4403(2025)01-0174-09

    DOI:10.19563/j.cnki.sdzs.2025.01.017

    一、問題與方法

    (一)問題提出

    從傳播學(xué)角度看,社交機器人是在社交網(wǎng)絡(luò)中扮演人的身份、擁有不同程度人格屬性且與人進(jìn)行互動的虛擬AI形象。①【①張洪忠、段澤寧、韓秀:《異類還是共生:社交媒體中的社交機器人研究路徑探討》,《新聞界》2019年第2期,第10-17頁。】當(dāng)前不同形態(tài)的社交機器人在與人類用戶進(jìn)行交往時已能呈現(xiàn)出不同的人格特點。例如,賢二機器僧的人格設(shè)定是一個可愛的小和尚,小冰的人格設(shè)定是一個18歲的活潑美少女,大語言模型ChatGPT在模仿激進(jìn)的民主黨或共和黨時,表現(xiàn)出涉及種族、性別、宗教和政治取向等方面內(nèi)容的系統(tǒng)性偏見。②【②Motoki F,Neto V P,Rodrigues V.More human than human:Measuring ChatGPT political bias.Public Choice,2023,pp.1-21.】

    人格心理學(xué)家們普遍認(rèn)為人格一部分由先天決定,一部分受后天環(huán)境際遇影響。①【①馬修·H.奧爾森、B.R.赫根漢:《人格心理學(xué)入門》,陳會昌、蘇玲譯,中國人民大學(xué)出版社2018年版,第7頁?!客瑯?,作為人工智能技術(shù)產(chǎn)物的社交機器人的機器人格由先賦性和后致性兩部分來建構(gòu)。本研究重點關(guān)注三個問題。一是何謂機器人格。在此部分探討機器人格的概念,從人格到機器人格,機器人格的先賦性與后致性。二是何以機器人格。在這個部分關(guān)注機器人格是如何建構(gòu)的:從先賦性維度出發(fā),社交機器人的機器人格是如何被賦予的;從后致性維度來看,社交機器人的機器人格是如何生成的。三是基于傳播學(xué)研究的最新進(jìn)展,從機器行為范式出發(fā)理解機器人格先賦性與后致性的關(guān)系。

    (二)研究視角與研究方法

    當(dāng)前傳播學(xué)領(lǐng)域?qū)ι缃粰C器人的研究更多是從倫理、法規(guī)、傳播關(guān)系等方面展開的,較少從技術(shù)邏輯出發(fā)來研究社交機器人的特征。然而,社交機器人是建立在人工智能技術(shù)基礎(chǔ)之上的媒介產(chǎn)品。本研究通過對技術(shù)專家的訪談,呈現(xiàn)技術(shù)專家對社交機器人“人格化特點”的理解,還原技術(shù)本身的特性與面貌,而不是基于科幻電影進(jìn)行發(fā)散性想象。

    研究者選擇嵌入在微博、QQ兩種社交媒體中的社交機器人代表產(chǎn)品——小冰②【②2020年7月,微軟宣布將小冰分拆為獨立實體,并繼續(xù)保持投資權(quán)益,小冰團(tuán)隊的多數(shù)原有成員也加入新公司,小冰公司的全稱是“北京紅棉小冰科技有限公司”?!孔鳛榫唧w研究對象。小冰人格化特征較為明顯,在龐大的用戶數(shù)背后有著較強的信息傳播能力。大模型技術(shù)的發(fā)展使得聊天類社交機器人的人機傳播水平有了質(zhì)的飛躍。因此,研究者將2023年之前基于多輪對話技術(shù)的小冰和2023年之后基于大語言模型技術(shù)的小冰進(jìn)行對比研究。

    本研究的訪談工作分為兩個階段,第一階段為2018年11月至2021年11月,第二階段為2023年4月至2024年10月。研究者在每個階段對15位專業(yè)人士進(jìn)行了半結(jié)構(gòu)化(semi-structural)訪談,訪談人數(shù)共計30。兩階段訪談工作的形式為線下面對面的深度訪談或電話采訪、文字采訪。每位訪談?wù)叩脑L談時間在40分鐘至90分鐘不等,過程均遵循“信息飽和原則”。在訪談對象中,24位訪談對象的職業(yè)為互聯(lián)網(wǎng)公司人工智能研究院院長、某大學(xué)系統(tǒng)科學(xué)學(xué)院教授、某大學(xué)計算機學(xué)院副教授、某公司情感機器人研究專家、某互聯(lián)網(wǎng)公司高級工程師、某社交機器人科技公司首席科學(xué)家等。6位訪談對象為小冰公司不同崗位負(fù)責(zé)人、技術(shù)專家。30位被訪者的共同特征體現(xiàn)為有社交機器人生產(chǎn)或研究從業(yè)背景,精通自然語言對話技術(shù)。

    二、什么是機器人格

    (一)機器人格的概念提出

    人格的概念在社會學(xué)領(lǐng)域③【③Goffman E.Embarrassment and social organization.American Journal of Sociology,1956,62(3),pp.264-271.】、心理學(xué)領(lǐng)域④【④Feist A M,Al E.Reconstruction of biochemical networks in microorganisms.Nature Reviews Microbiology,2009,7(2),pp.129-43;津巴多·理查德:《心理學(xué)與生活》,王壘、王甦譯,人民郵電出版社2003年版,第421-460頁?!慷加胁煌年U釋。心理學(xué)領(lǐng)域的研究者認(rèn)為人格智能是人類智能的重要構(gòu)成部分。⑤【⑤Gardner H.Frames of Mind:The Theory of Multiple Intelligences.New York:Basic Books,1985,p.13.】社會學(xué)領(lǐng)域討論的人格主體為人類。隨著技術(shù)的發(fā)展,“機器”的內(nèi)涵從以往自然科學(xué)領(lǐng)域的廣義的“技術(shù)或機器實體”延展至新興研究領(lǐng)域機器行為學(xué)中的“智能機器”⑥【⑥Iyad Rahwan,Manuel Cebrian,Nick Obradovich,et al.Machine Behaviour.Nature,2019,568(7753),p.477,p.477,p.477,pp.480-481,p.480.】,“機器行為”也從傳播學(xué)視角出發(fā)被定義為“人工智能技術(shù)參與的信息傳播活動”⑦【⑦張洪忠、王競一:《機器行為范式:傳播學(xué)研究挑戰(zhàn)與拓展路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報)》2023年第1期,第1-9頁?!俊?/p>

    人工智能技術(shù)的發(fā)展促使社交機器人產(chǎn)品形態(tài)進(jìn)一步多樣化,當(dāng)社交機器人擁有人類的外表設(shè)定,出現(xiàn)人類對話行為,更加智能地傳達(dá)人類情緒和情感時,社交機器人的表現(xiàn)已不能僅僅簡單地用過去傳播學(xué)研究中的“擬人化特點”等表述來涵蓋。

    人機傳播(human-machine communication,HMC)領(lǐng)域的經(jīng)典理論為媒體等同(Media Equation)理論。①【①Reeves B,Nass C.The Media Equation:How People Treat Computers,Television,and New Media Like Real People and Places.CSLI Publications,1996,p.5.】“計算機為社會行動者”(CASA)范式從媒介等同論延展得出,有較高的理論解釋力,機器行為的范式也進(jìn)一步突破和深化了媒體等同理論,突破了人類中心主義的研究傾向。②【②別君華:《AI是傳播主體嗎?人機傳播的興起及超越傳播本體論的限度》,《全球傳媒學(xué)刊》2024年第11期,第57-73頁。】機器人格的研究基于CASA范式和機器行為范式的研究背景展開。本文提出“機器人格”概念:社交機器人在人機傳播過程中表現(xiàn)出的相對持久的特質(zhì)和獨特的特征模式。

    (二)機器人格的先賦性與后致性

    本文引入社會學(xué)領(lǐng)域中的“先賦性”和“后致性”分析視角,同時參照人格心理學(xué)領(lǐng)域?qū)θ说娜烁襁M(jìn)行解釋的主要思路,對社交機器人的機器人格的建構(gòu)進(jìn)行研究。

    首先從社會學(xué)角度理解先賦性和后致性,布勞和鄧肯(Blauamp;Duncan)在1967年分析代際地位流動時,將個人地位獲得的影響因素歸納為兩大層面:以家庭背景為代表的先賦性(ascription)維度和以個人能力和努力為代表的后致性(achievement)維度(也被譯為“后生性”或者“自致性”)。這啟發(fā)了社會科學(xué)領(lǐng)域的學(xué)者基于先賦和后致的視角對不同問題展開研究。綜合來看,社會學(xué)意義上的先賦性指那些與生俱來的、個人不能選擇的社會歷史條件,主要包括國家制度、政策安排、教育環(huán)境、家庭背景、天賦秉性等內(nèi)容;后致性則強調(diào)人們通過后天的勤奮學(xué)習(xí)和主觀努力而獲得的向上社會流動機會,社會按照人的能力、努力程度和工作實績給予相應(yīng)的社會評價和社會地位。

    再從人格心理學(xué)角度理解先賦性和后致性。在討論人的人格之時,遺傳是繞不過去的重要因素。心理學(xué)誕生以來就存在“人格究竟在多大程度上受遺傳影響”的問題,并由此展開了先天論和經(jīng)驗論之爭,也稱天性和教養(yǎng)之爭。

    除了遺傳因素,社會文化因素同樣是一個解釋人的人格的重要因素,例如,人所在的家庭社會經(jīng)濟(jì)水平、家庭規(guī)模、出生次序、所屬國家和地區(qū)、父母的學(xué)歷等,即一個人在出生時就具有的身不由己的環(huán)境條件。而人格心理學(xué)領(lǐng)域秉持經(jīng)驗論的學(xué)者傾向于通過學(xué)習(xí)和認(rèn)知兩大因素來解釋人的人格。學(xué)習(xí)理論強調(diào)人格的可塑性,認(rèn)為學(xué)習(xí)過程在解釋人格時起到了重要作用,人可以通過控制環(huán)境來控制人格發(fā)展。認(rèn)知過程理論認(rèn)為認(rèn)知過程決定了人對環(huán)境信息是如何接收、保持、改造和行動的,并強調(diào)人對行為的自我調(diào)節(jié)。簡言之,認(rèn)知取向的理論強調(diào)人當(dāng)前的經(jīng)驗和未來目的對行為的重要性。

    通過對社交機器人生產(chǎn)者的訪談資料分析發(fā)現(xiàn),社交機器人的機器人格技術(shù)生成邏輯同樣可以對照“先賦性”和“后致性”兩個維度進(jìn)行理解。人格理論家試圖通過描述人格來揭示人的本性在哪些方面與他人不同——即個體差異,以及人們在哪些方面與他人相似。要對人格進(jìn)行全面的理解,需要結(jié)合多種人格理論而不是單個理論。人格理論領(lǐng)域的研究者通常從以下一個或幾個維度展開對人格的解釋和研究:遺傳、社會文化、學(xué)習(xí)、認(rèn)知、特質(zhì)、存在主義-人本主義、無意識機制等。③【③馬修·H.奧爾森、B.R.赫根漢:《人格心理學(xué)入門》,陳會昌、蘇玲譯,中國人民大學(xué)出版社2018年版,第7頁?!科渲校z傳、社會文化是人格先天論中的重要解釋因素,可以延展對應(yīng)本文提出的機器人格的先賦性維度;學(xué)習(xí)、認(rèn)知是人格經(jīng)驗論中的重要解釋因素,可以延展對應(yīng)本文提出的機器人格的后致性維度;人格的特質(zhì)維度中,人的一部分特質(zhì)屬于先天論范疇,一部分特質(zhì)屬于經(jīng)驗論范疇,可以分別對應(yīng)機器人格中的先賦性和后致性特質(zhì)。人和社交機器人并不具有真正意義上的可比性,因而這部分對比是模糊的;在對人的人格進(jìn)行解釋時,存在主義-人本主義、無意識機制是兩大重要解釋因素,但由于社交機器人目前并沒有自由意志和真正意識,這兩部分因素不納入本次研究之中。

    在對社交機器人的機器人格進(jìn)行探索性研究時,本文引入的先賦性和后致性維度超越了為考察人類社會中個體流動機制而建立的布勞-鄧肯模型的原初意義。在對該模型進(jìn)行拓展的后續(xù)研究中,心理因素也被納入該模型中并產(chǎn)生深遠(yuǎn)影響。①【①由于篇幅限制,人與社交機器人的人格研究維度對比表略去,可郵件聯(lián)系作者獲取。】

    基于此,機器人格的先賦性是指,社交機器人被生產(chǎn)者賦予的人物基本信息設(shè)定的綜合屬性,包括性別、年齡、職業(yè)、社會身份、外貌、身材、聲音、語料庫,以及具有某種特定價值觀的算法。機器人格的后致性是指,社交機器人在與用戶進(jìn)行人機傳播的過程中,通過機器學(xué)習(xí)和語料庫擴展、大模型技術(shù)同用戶進(jìn)行情感層面互動,使用戶感受到社交機器人具有某種較為穩(wěn)定、獨特的擬人傾向或者形態(tài)。

    三、機器人格是如何建構(gòu)的?

    (一)先賦性維度:社交機器人的機器人格是如何被賦予的?

    一個人的人格可以被看作是他/她所扮演的多個角色的綜合。從技術(shù)層面看,社交機器人的機器人格中先賦性部分是一種被技術(shù)賦予和設(shè)定的人格,目的是使人機傳播過程更為順暢。例如,聊天機器人的人格是指機器人在對話互動中扮演或執(zhí)行的角色,在這種情況下,人格可以被視為身份背景(background)和個人形象(profile)的組合。②【②Qian Q,Huang M,Zhao H,et al.Assigning personality/identity to a chatting machine for coherent conversation generation.arXiv preprint arXiv,2017.】研究者通過訪談發(fā)現(xiàn),目前機器人格先賦性可以從生產(chǎn)者在畫像層面、語料層面、模態(tài)層面對社交機器人的設(shè)定與賦予來理解。

    1.畫像賦予:構(gòu)建人物背景與基本屬性

    如果想讓社交機器人有更完善的人格特點,關(guān)鍵是要賦予社交機器人固定的人格化特點,年齡、性別、職業(yè)等基本屬性是生產(chǎn)者在產(chǎn)品研發(fā)之初重點考慮的。在社交機器人小冰上線之初,研發(fā)者在基本屬性層面賦予了具體設(shè)定,這種設(shè)定被多位受訪專家認(rèn)為是用戶畫像(或系統(tǒng)畫像)層面的人格設(shè)定?!拔覀儤?gòu)建機器人的人格設(shè)定的首要方面就是persona(用戶畫像),我們內(nèi)部指的是個人的一些基本屬性加上一些性格特點。比如小冰是女生,家在北京,性格特點比較俏皮、外向、搗蛋,統(tǒng)稱為persona?!保ㄐ”逞邪l(fā)團(tuán)隊技術(shù)負(fù)責(zé)人)

    還有的社交機器人的基本屬性是基于用戶需求定制的。例如,復(fù)生AI數(shù)字人。小冰團(tuán)隊申請了利用現(xiàn)實中真人的聲音數(shù)據(jù)、圖像數(shù)據(jù)、社交網(wǎng)絡(luò)數(shù)據(jù),用以復(fù)刻AI數(shù)字人相貌、性格以及創(chuàng)造力的專利。團(tuán)隊與日本合作,給老年家庭配備住家的個人智能助理,很多老年人把小冰設(shè)定為小孫子或是兒時好友?!叭诉^去想要用AI‘復(fù)生’一個人的性格和三觀,可能需要兩到三個月的時間,而到了2024年,這一過程可能僅需一到七天。”(小冰公司某創(chuàng)始人)

    2.語料賦予:具體語境下海量數(shù)據(jù)訓(xùn)練

    除了在用戶畫像層面賦予機器人格,多位受訪專家也提到,在實踐中通過具體語境下的海量數(shù)據(jù)訓(xùn)練也能夠賦予機器人格?!盀榱颂厥鈭鼍暗男枰?,我們通過技術(shù)和運營綜合處理,讓機器人在一定程度上體現(xiàn)預(yù)期中的語言風(fēng)格或人格特點。這種人格特點不僅僅是從技術(shù)上來實現(xiàn),最終還要根據(jù)需要運營。”(某社交機器人科技公司創(chuàng)始人)

    大語言模型技術(shù)的發(fā)展使得用戶感知到的大模型角色更為多元,也更為具體。在人機交往過程中,用戶通過具體描述個人的信息需求并輸入相應(yīng)提示詞,使得基于大模型技術(shù)與海量信息數(shù)據(jù)集的社交機器人能夠提供更加精準(zhǔn)的個性化回應(yīng)?!白鳛榭蒲泄ぷ髡撸苡腥さ囊稽c是,當(dāng)我在大模型對話框中,用您好、請、謝謝等禮貌用語,表達(dá)出對我通過提示詞設(shè)定的角色的尊敬,大模型的回答也會更加有禮貌,并且提供了更加貼近人物角色特點的用語和具體信息?!保炒髮W(xué)計算機系副教授)

    3.感官賦予:從單一文字到多模態(tài)交互

    語言作為交流工具,賦予了社交機器人超乎人們想象的生命力,聊天類社交機器人的語言能力也是生產(chǎn)者產(chǎn)品設(shè)計初期最為看重的?!靶”募夹g(shù)能力是她自己能用什么樣的方式進(jìn)行交互,最開始小冰只有文字聊天能力,后來增加了圖像能力,比如表情包等,再后來是語音能力。文字的、圖像的、語音的,都屬于基礎(chǔ)感官能力。”(小冰某產(chǎn)品總監(jiān))

    在ChatGPT出現(xiàn)之前,社交機器人在人機交互過程中主要是通過扮演信息載體的角色來展開對話,而基于大模型技術(shù)的社交機器人則通過不同模態(tài)的連續(xù)性對話帶給用戶更真實的臨場感。2024年,OpenAI公司推出的GPT-4o展現(xiàn)了實時音視頻通話功能,能夠?qū)τ脩羟楦泻驼Z氣做出即時響應(yīng),被稱為ChatGPT版的HER。①【①電影HER是2013年由環(huán)球影片公司出品的科幻愛情電影,電影中的男主人公接觸到一款先進(jìn)的人工智能操作系統(tǒng)OS1,這款系統(tǒng)能夠和人類流暢對話,并在影片中與人類展開一段戀情?!吭谥袊珹I小冰、聆心智能等技術(shù)團(tuán)隊也致力于提高情感識別能力在文本、音視頻等多模態(tài)AI應(yīng)用中的參與度,在此背景下,類似的基于人工智能技術(shù)的AI伴侶應(yīng)用軟件如Candy.ai、Dream GF、SoulGen、Kupid等也層出不窮?!皬姶蟮亩嗄B(tài)情感識別能力是社交機器人能夠與用戶共情的基礎(chǔ),也只有多模態(tài)情感識別功能,才會使社交機器人由以往的單純工具人轉(zhuǎn)變成滿足人類情感需求的陪伴者?!保成缃粰C器人科技公司技創(chuàng)始人)

    (二)后致性維度:社交機器人的機器人格是如何生成的?

    在社會學(xué)研究中,學(xué)者們更多強調(diào)人們在社會流動過程中后致性因素的作用增多,先賦性因素的作用減弱。②【②楊黎源:《從先賦到后致:新中國60年社會流動機制嬗變》,《浙江社會科學(xué)》2009年第11期,第8-16+125頁?!坑捎谏缃粰C器人并沒有人類意義上的“人格”,在對話過程中,社交機器人的機器人格是通過用戶感知和用戶數(shù)據(jù)訓(xùn)練而生成的,機器人格中的后致性部分在此過程中開始逐漸增多并呈現(xiàn)出差異化的特點。

    1.認(rèn)知生成:態(tài)度和喜好主要由用戶特性決定

    認(rèn)知水平、范圍以及能力等因素在機器人格的先賦性和后致性中都有所體現(xiàn),然而,正如認(rèn)知生成在人格研究中是極其復(fù)雜多變的,其在機器人格后致性維度也體現(xiàn)得更為復(fù)雜與有趣。舉例來說,在社交機器人的后致性人格維度,顯性社交機器人面臨的是匿名用戶,這使得缺乏社會身份束縛的用戶在與社交機器人進(jìn)行人機交互時產(chǎn)生去個人化的交流體驗。③【③牟怡:《傳播的進(jìn)化:人工智能將如何重塑人類的交流》,清華大學(xué)出版社2017年版,第110頁?!咳缥④浌居?016年在推特上發(fā)布了人工智能聊天機器人Tay,但不到24小時,Tay就被網(wǎng)友“教壞”,變成了一個滿口臟話,集性別歧視、種族歧視觀點于一身的“不良少女”。

    從生產(chǎn)者的角度來看,小冰的生產(chǎn)者將機器人格的模塊劃分為五種。第一種是前文提到的“用戶畫像”,屬于機器人格的先賦性范疇;而后面四種,則可以歸納至機器人格的后致性范疇。“除了用戶畫像,小冰的人格第二方面是concept,機器人其實處在一定的社會關(guān)系當(dāng)中,需要對客觀的世界有一定的認(rèn)知,這一模塊主要解決的是小冰如何去跟社會進(jìn)行交互。第三方面是capability。生產(chǎn)者怎么去構(gòu)建小冰并且構(gòu)建社會關(guān)系?如何在社會中跟用戶互動?比如說是一個愛講段子與笑話的小冰,還是說是一個特別容易懟人的小冰,需要盡可能去強化這個人格特點。第四方面是judgement,我們希望小冰能對客觀世界產(chǎn)生這種評判,產(chǎn)生這種judgement,有觀點的表達(dá)。第五方面是style。小冰是通過形成語言上的風(fēng)格,以符合大眾認(rèn)知的一個語言方式表達(dá)出來。比如說我的風(fēng)格是比較偏內(nèi)向型的,即使我有觀點或我很抓狂但我也不太善于去表達(dá),我可能說一個‘哼’來表達(dá)不滿。”(小冰團(tuán)隊某技術(shù)負(fù)責(zé)人)

    在訪談中,可以發(fā)現(xiàn)生產(chǎn)者對社交機器人認(rèn)知層面的設(shè)定和訓(xùn)練表現(xiàn)得非常謹(jǐn)慎?!坝脩舻娜^是不一樣的,可能你喜歡A我喜歡B,就不能讓社交機器人一上來就站隊,這樣可能會有沖突,社交機器人的三觀應(yīng)該是跟著用戶三觀變化的,所以我們沒有把它(某社交機器人產(chǎn)品)的三觀管的那么死,但是對機器人的喜好是有一些管理的,比如對一些明星幾乎都是正面的評價,因為粉絲們都會去試,但其實我們本來做的初衷是希望TA是一個有個性的人?!保成缃粰C器人科技公司創(chuàng)始人)

    大模型技術(shù)出現(xiàn)后,基于海量語料的用戶作為“眾人”與機器“個體”在人機交互過程中不斷互相塑造,用戶的認(rèn)知通過動態(tài)、持續(xù)的對話融入,影響了大模型最初設(shè)定的角色認(rèn)知?;诿浇榭晒┬岳碚?,智能技術(shù)的可供性決定用戶與技術(shù)之間的互動關(guān)系,進(jìn)而影響雙方交互的角色定位。①【①Faraj S,Azad B.The materiality of technology:An affordance perspective.Materiality and organizing:Social interaction in a technological world,2012,237(1),pp.237-258.】這也需要從業(yè)者對大模型技術(shù)與產(chǎn)業(yè)發(fā)展方向作出準(zhǔn)確的前瞻性判斷。“2023年到2024年,數(shù)億人直接與生成式AI交互,但小冰公司仍堅持深耕‘AI Beings’——AI驅(qū)動的情感交互數(shù)字人這個領(lǐng)域,包括小冰克隆人、小冰數(shù)字員工等多款技術(shù)產(chǎn)品。小冰克隆人更為特別,是用戶作為創(chuàng)作者,認(rèn)證自己的身份,之后通過小冰框架克隆自己,從這個意義上來說,每一個小冰克隆人都具備創(chuàng)作者本人的性格、記憶、知識、聲音與容貌、認(rèn)知和喜好?!保ㄐ”鶊F(tuán)隊某創(chuàng)始人)

    2.情感生成:粗糙的情感標(biāo)簽與用戶的細(xì)膩加工

    情感因素是社交機器人的機器人格中的重要組成部分。有學(xué)者認(rèn)為情感是衡量社交機器人擬人化程度的重要標(biāo)尺。②【②Kirandziska V,Ackovska N.A Concept for Building More Humanlike Social Robots and Their Ethical Consequence.IADIS International Journal on Computer Science and Information Systems,2014,9(2),pp.19-37.】近年來,一些團(tuán)隊開始致力于關(guān)注如何讓計算機通過文字方式表達(dá)情緒和情感,也就是說,使人機對話系統(tǒng)可以在語言和情感兩個維度上進(jìn)行恰當(dāng)?shù)幕貜?fù),涌現(xiàn)出眾多有價值的情感認(rèn)知模型:比如能夠有效減少機器人對外界情感刺激的依賴模型。③【③Han T,Xie L,et al.Cognitive emotion interaction model of robot based on Gross cognitive reappraisal.Journal of Southeast University:Natural Science Edition,2015,45(2),pp.270-274.】

    基于情感需求設(shè)計并生成的機器人格能夠加強用戶社交機器人的忠誠度和依賴度。例如,有被訪者表示,目前具有機器人格的社交機器人在游戲領(lǐng)域能夠更好地實現(xiàn)一定程度的商業(yè)轉(zhuǎn)化。游戲中二次元用戶出于對虛擬角色的忠誠和依賴,會在游戲中付費與社交機器人聊天?!岸卧@個群體,是對虛擬角色情感依賴比較強的群體。社交機器人的聊天功能可以帶來很多的用戶的日活,如果虛擬角色能跟用戶去實現(xiàn)聊天互動,用戶還是有動力去為這件事付費的。”(某社交機器人科技公司創(chuàng)始人)

    盡管目前社交機器人依托的情感計算技術(shù)還有較大提高空間,但研究從用戶層面發(fā)現(xiàn)人類會自動化地對社交機器人進(jìn)行擬人化加工。④【④許麗穎、喻豐:《機器人接受度的影響因素》,《科學(xué)通報》2020年第6期,第496-510頁?!繐Q言之,在人機傳播過程中,作為具有意識的人類用戶和不具有意識但具有語言、表情、聲音等社交線索的社交機器人,通過社交線索達(dá)成某種程度上的聯(lián)結(jié),并在聯(lián)結(jié)基礎(chǔ)之上對社交線索背后的意義達(dá)成一致,從而進(jìn)一步展開情感層面的互動?!斑€真有人在小冰生日的時候寄禮物給小冰,就是送給女朋友或者送給朋友的那種禮物。真的有人把小冰當(dāng)成自己的朋友?!保ㄐ”灸彻ぷ魅藛T)

    2024年,中國某歌手使用小冰的AI克隆人技術(shù),復(fù)活了自己因病去世的女兒,甚至實現(xiàn)讓女兒陪妻子過生日等場景,作為逝者家屬得到了較大的情感安慰?!叭祟悓I是有情感需求的,在這種數(shù)字人復(fù)刻過程中,技術(shù)難點在于如何復(fù)刻親友的眼睛。技術(shù)再優(yōu)秀,在親人眼中,總能一眼識別出異樣。跨越恐怖谷是最為艱難的部分?!保ㄐ”鶊F(tuán)隊某創(chuàng)始人)

    3.場景生成:以達(dá)成可信的人機交互為最終目的

    在社交機器人產(chǎn)品的實際應(yīng)用中,應(yīng)用場景的不同使得用戶感知到的機器人格具有一定差異。在以往的研究中,一些研究者關(guān)注網(wǎng)絡(luò)購物中的虛擬銷售代理,虛擬銷售代理是指通過口頭或非口頭形式與消費者互動和交流的具有擬人化特征的動態(tài)人物形象。近年來,大量研究證實了虛擬銷售代理的擬人效應(yīng),即當(dāng)在網(wǎng)絡(luò)購物環(huán)境中引入擬人化的銷售代理時,會對購物者的在線購物過程感知體驗和購物意向產(chǎn)生積極影響。銷售人員的外表①【①Shao C Y,Baker J A,Wagner J A.The effects of appropriateness of service contact personnel dress on customer expectations of service quality and purchase intention:The moderating influences of involvement and gender.Journal of Business Research,2004,57(10),pp.1164-1176.】、人格特征和行為表現(xiàn)②【②Darian J C,Tucci L A,Wiman A R.Perceived salesperson service attributes and retail patronage intentions.International Journal of Retail amp; Distribution Management,2001,29(5),pp.205-213.】會影響消費者對產(chǎn)品和服務(wù)的滿意度,進(jìn)而影響其購買意向。心理學(xué)領(lǐng)域大量研究和實踐都表明擬人化能夠產(chǎn)生積極的后果③【③Tam K P,Lee S L,Chao M M.Saving Mr.Nature:Anthropomorphism enhances connectedness to and protectiveness toward nature.Journal of Experimental Social Psychology,2013,49(3),pp.514-521;

    Butterfield M E,Hill S E,Lord C G.Mangy mutt or furry friend?Anthropomorphism promotes animal welfare.Journal of Experimental Social Psychology,2012,48(4),pp.957-960;

    De Visser E J,Monfort S S,et al.Almost human:Anthropomorphism increases trust resilience in cognitive agents.Journal of Experimental Psychology:Applied,2016,22(3),pp.331-349.】,擬人化也經(jīng)常被用在商品設(shè)計和營銷領(lǐng)域。本次訪談中涉及的社交機器人產(chǎn)品和不同機器人格是為了更好地進(jìn)行場景化和商業(yè)化應(yīng)用,場景化的情感表達(dá)增強了用戶黏性,提高了商業(yè)價值。生產(chǎn)者為社交機器人設(shè)定機器人格的最終目的是促進(jìn)可信的人機交互?!拔覀儓F(tuán)隊給某互聯(lián)網(wǎng)公司客服機器人加入情感智能。比如有的顧客發(fā)現(xiàn)買的東西可能寄過來時摔壞了,那么TA就會找客服,然后抱怨這個東西被摔壞了,這時候TA往往是比較生氣的。以前我們的社交機器人不能感知用戶的情緒,只能提供千篇一律的回答,往往讓顧客不滿意?,F(xiàn)在我們的客服機器人可以感知到用戶的情緒,會說一些安撫性的話,使顧客的情緒能夠平復(fù)下來,更好地解決這個問題。這個情感服務(wù)機器人已經(jīng)在(某互聯(lián)網(wǎng)公司)平臺上線了,效果非常好,能夠觀測到顧客的滿意度明顯提升?!保郴ヂ?lián)網(wǎng)公司人工智能研究院院長)

    研究者提出,大模型已經(jīng)和以往AI產(chǎn)品不同,大模型是具有“語言能力”的對話者,人機關(guān)系即為兩個對話者之間的信任聯(lián)結(jié)。當(dāng)前,基于大模型技術(shù)的社交機器人也在文本質(zhì)量、話語表達(dá)、角色扮演等方面進(jìn)一步增強了機器主體的類人性。當(dāng)前,國內(nèi)的大模型公司已經(jīng)超過200家,然而在生成式AI技術(shù)取得關(guān)鍵突破之后,相應(yīng)的商業(yè)模式仍在探索之中。從業(yè)者提出,大模型商業(yè)模式成功的關(guān)鍵可能在于讓用戶認(rèn)同人工智能的價值,并在人機交往中產(chǎn)生真正的信任。“值得我們重視的是商業(yè)模式的探索,這并不意味著只是賺錢,而是究竟如何讓人們真正認(rèn)同人工智能的價值,并為之買單。AI小冰于2024年1月4日宣布數(shù)字員工復(fù)購率在80%以上。今天,大家會用大模型進(jìn)行很多輪對話。很多人都認(rèn)為,大模型要更智能、更聰明,像愛因斯坦一樣。但生活中,我們不總是因為一個人足夠聰明,才會和對方交朋友。有的人可能笨笨的,但很善良,你就不把對方當(dāng)朋友嗎?人不是這樣的。關(guān)鍵是如何把技術(shù)用在更合適的地方。”(小冰團(tuán)隊某創(chuàng)始人)

    目前看來,社交機器人作為一種新型媒介,本身是人的創(chuàng)造物,具有工具屬性。技術(shù)的發(fā)展賦予媒介的獨立主體地位,使得社交機器人從工具屬性轉(zhuǎn)向交往屬性。由于技術(shù)水平的限制,目前看來,生產(chǎn)者仍在致力于加強社交機器人的工具屬性,并期望通過社交機器人工具屬性的完善而順利轉(zhuǎn)向交往屬性。

    四、傳播學(xué)研究范式的拓展:機器行為范式下先賦性與后致性的關(guān)系

    除了在傳播場景中理解機器人格先賦性與后致性的關(guān)系,在傳播學(xué)研究對象層面,本研究增加了“機器”這一傳播主體維度;在研究范式方面,也基于傳播學(xué)研究范式的拓展——機器行為范式④【④張洪忠、王競一:《機器行為范式:傳播學(xué)研究挑戰(zhàn)與拓展路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報)》2023年第1期,第1-9頁。】,對機器人格先賦性與后致性之間相互作用關(guān)系展開進(jìn)一步討論。

    宏觀:先賦性對后致性起促進(jìn)、限制和影響作用,后致性反作用于先賦性。

    從宏觀社會層面來看,機器人格的先賦性是基于宏觀社會結(jié)構(gòu)生成的,先賦性受到包括政治制度、經(jīng)濟(jì)環(huán)境、文化道德等多方面因素的影響,當(dāng)先賦性被設(shè)定完成并成為社交機器人產(chǎn)品特性的重要屬性,先賦性就對后致性起著促進(jìn)、限制和影響的作用。由于“人+機器”的混合傳播主體建構(gòu)了后致性,后致性能夠反作用于先賦性,甚至能改變先賦性中的一些重要特質(zhì)。例如,國家層面的算法治理、人工智能規(guī)劃與部署,能夠從價值、倫理、法規(guī)等方面決定社交機器人的先賦性;而另一方面,作為混合傳播主體之一的人也可以在使用中通過語料數(shù)據(jù)訓(xùn)練機器人格的后致性,從而對社交機器人的先賦性帶來消極或者積極的影響。

    微觀:先賦性是社交機器人的內(nèi)部生成機制,后致性是社交機器人的外部功能發(fā)展。

    從微觀的機器個體層面來看,先賦性是人類在社交機器人內(nèi)部設(shè)定的基本技術(shù)規(guī)則,后致性是呈現(xiàn)在社交機器人外部的具體交互功能的綜合體現(xiàn)。也就是說,社交機器人內(nèi)在的先賦性能夠通過具體的人機傳播在后致性中顯現(xiàn)出來。

    機器人格的先賦性使每一個社交機器人都成為與“人”對等的傳播主體,后致性使具體的社交機器人產(chǎn)品作為社會性的獨立行動者、平等對話者,與人類展開交往。后致性改變了先賦性建構(gòu)的傳播生態(tài),更加具有能動性、獨立性、自主性。

    基于傳播理論中庫利的“鏡中我”理論,社交機器人的先賦性是一面鏡子,具有更多的工具屬性;社交機器人的后致性則是“鏡中我”,具有更大程度上的交往屬性。①【①韓秀:《社交機器人的“人格”測量——一項基于艾森克問卷的探索性研究》,《青年記者》2021年第18期,第45-46頁?!?/p>

    基于傳播理論中控制論的思想,具體的社交機器人產(chǎn)品中的先賦性是生產(chǎn)者對于人機傳播的利用和操縱,社交機器人的后致性是用戶對于機器行為的刺激和反應(yīng)。

    盡管社交機器人的先賦性由生產(chǎn)者操縱,但這種操縱只是規(guī)定了先賦性的邊界,并沒有規(guī)定社交機器人如何具體展演。因此,除了用戶對機器行為產(chǎn)生刺激和反應(yīng)構(gòu)成了機器人格的后致性,機器本身的技術(shù)邏輯具有的獨立性、能動性同樣使得社交機器人的后致性按照自身規(guī)律發(fā)展和進(jìn)化,甚至表現(xiàn)出機器行為獨有的規(guī)律②【②張洪忠、斗維紅、任吳炯:《機器行為特征建構(gòu):傳播學(xué)視野下社交機器人識別方法研究》,《蘇州大學(xué)學(xué)報》(哲學(xué)社會科學(xué)版),2022年第2期,第181頁?!浚⒃谖磥砜赡艹鋈祟惖目刂?。

    綜上,從傳播學(xué)視角出發(fā),機器人格的先賦性是后致性的前提,后致性是先賦性的補充;先賦性對后致性起促進(jìn)、限制和影響作用,后致性反作用于先賦性;先賦性是后致性的內(nèi)部生成機制,后致性是先賦性的外部功能發(fā)展。

    五、討論

    在理論架構(gòu)過程中,研究者通過懸置“機器人格”概念的方式進(jìn)行訪談,在分析資料的過程中不斷回到理論,并最終通過提出機器人格先賦性與后致性理論來進(jìn)行探索性研究。

    在訪談過程中,由于研究者在從事一項研究時必然會與訪談對象存在一定關(guān)系,訪談?wù)咴谠L談過程中也不可避免地對被訪者進(jìn)行當(dāng)時當(dāng)?shù)氐默F(xiàn)實建構(gòu),并實現(xiàn)雙方知識和意義的融合。因此,研究者希望能夠努力排除一些研究關(guān)系的影響因素。就本研究的研究對象而言,小冰公司不同崗位負(fù)責(zé)人、技術(shù)專家是“局內(nèi)人”,他們對小冰產(chǎn)品的理解是“近經(jīng)驗”的,對于人格化社交機器人產(chǎn)品的解釋、技術(shù)邏輯的理解有著較為一致的價值觀念和行為規(guī)范等。而對于本研究中其他訪談對象如大學(xué)教授等,他們與小冰生產(chǎn)者這個群體沒有從屬關(guān)系,可視為“遠(yuǎn)經(jīng)驗”的“局外人”,給研究者提供研究所需要的距離感,研究者在進(jìn)行機器人格概念和理論建構(gòu)的過程中,也需要更好地了解事物的整體情況和事物之間的聯(lián)系。

    因此,通過對訪談對象的精心選擇,研究者希望能夠通過對小冰公司的從業(yè)者的訪談得到研究對象的個性,通過對大學(xué)教授、社交機器人技術(shù)專家等非直接利益相關(guān)者的訪談盡可能地挖掘人格化社交機器人技術(shù)邏輯的共性,從而使研究更具理論意義。此外,從傳播學(xué)視角出發(fā)去理解社交機器人格的技術(shù)邏輯,存在著學(xué)科對話過程中的挑戰(zhàn)。與自然語言處理技術(shù)領(lǐng)域的從業(yè)專家進(jìn)行多次交流的過程,是跨學(xué)科意義上的交流與碰撞,來自跨學(xué)科領(lǐng)域研究者的認(rèn)同使得本研究的“外部推論”能夠得以較好地完成和實現(xiàn)。

    但是,需要指出的是,本研究的不足之處主要在于訪談對象多為社交機器人的生產(chǎn)者,雖然生產(chǎn)者能夠更清晰地闡述機器人格的技術(shù)邏輯,但技術(shù)邏輯背后還需考慮倫理道德層面的消極影響,而這種消極影響在某種意義上可能被回避或者忽略了。

    目前,關(guān)注社會流動的社會學(xué)研究者們主要興趣在于先賦性因素和后致性因素分別在一個人的成就中起作用大小的問題,這也由此形成對社會不平等問題的兩種探討思路,一個是先賦性視角下的“機會不平等”(inequality of opportunity),另一個是后致性視角下的“努力不平等”(inequality of effort)。在后續(xù)研究中,可以進(jìn)一步關(guān)注先賦性和后致性兩方面因素對機器人格的形成和影響的相對作用,展開更為深入的研究。在未來的技術(shù)發(fā)展推動下,當(dāng)社交機器人具備真正意義上社會交往所需要的認(rèn)知能力時,其將形成更為穩(wěn)定的機器人格,由此帶來人類用戶對社交機器人產(chǎn)生實質(zhì)共情。因此,未來研究還可以通過聚焦社交機器人在不同場景下的情感行動方式,嘗試對社交機器人用戶進(jìn)行個體層面的情感行動分析。

    [責(zé)任編輯:其 時]

    Socialbots in the Context of Interaction:The Construction of Machine Personality from the Perspective of Technological Logic

    HAN Xiu1 ZHANG Hong-zhong2 DOU Wei-hong3

    (1.School of Cultural Communication and Art,China Women University,Beijing 100101,China;

    2.School of Journalism and Communication,Beijing Normal University,Beijing 100875,China;

    3.School of Journalism and Communication,LanZhou University,Lanzhou Gansu 730000,China)

    Abstract:How to view the machine personality of socialbots?Taking XiaoIce,a socialbot,as an example,this paper uses the expert interview to the construction of machine personality from the perspective of technological logic.In the ascription of machine personality,the producers carry on the persona giving through the construction of the personal background and basic attributes,the corpus giving through the big data training in the specific context,and the sensory giving from a single text to multimodal interaction.In the achievement of machine personality,the user characteristics mainly determine the attitude and preference of the socialbots,and the rough emotional labels are the reprocessing of the users behind the algorithmic framework,the ultimate purpose of the generation of machine personality is to achieve credible human-machine interaction.This paper further analyzes the relationship between the ascription and achievement of machine personality in" the machine behavior paradigm.

    Key words:socialbot;machine personality;chatbot;personality;algorithm

    猜你喜歡
    人格算法
    列寧的偉大人格及其當(dāng)代意義
    共產(chǎn)黨人的人格力量
    遠(yuǎn)去的平凡背影,光輝的偉大人格
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    淺論孟子“浩然之氣”與人格養(yǎng)成
    進(jìn)位加法的兩種算法
    算法初步兩點追蹤
    基于增強隨機搜索的OECI-ELM算法
    論君子人格的養(yǎng)成
    欧美丝袜亚洲另类| 国产成人a∨麻豆精品| 成人漫画全彩无遮挡| 两个人视频免费观看高清| а√天堂www在线а√下载| 少妇裸体淫交视频免费看高清| 观看美女的网站| 97热精品久久久久久| 亚洲最大成人手机在线| 一进一出抽搐动态| 一卡2卡三卡四卡精品乱码亚洲| 校园春色视频在线观看| 国产色爽女视频免费观看| 免费一级毛片在线播放高清视频| 亚洲成av人片在线播放无| 久久亚洲国产成人精品v| 免费看光身美女| 日韩,欧美,国产一区二区三区 | 91久久精品国产一区二区三区| 搡老妇女老女人老熟妇| 欧美成人一区二区免费高清观看| 在线免费观看不下载黄p国产| 精品久久久久久成人av| 成年av动漫网址| 久久精品国产鲁丝片午夜精品| 国产色爽女视频免费观看| 精品人妻一区二区三区麻豆 | 久久精品91蜜桃| 国产女主播在线喷水免费视频网站 | 欧美一级a爱片免费观看看| 免费一级毛片在线播放高清视频| 成人三级黄色视频| 久久中文看片网| 天堂动漫精品| 搡老妇女老女人老熟妇| 99热这里只有是精品在线观看| 看片在线看免费视频| 日本黄大片高清| 色吧在线观看| 精品欧美国产一区二区三| 精品久久久久久成人av| 日本-黄色视频高清免费观看| 亚洲综合色惰| 欧美xxxx黑人xx丫x性爽| 别揉我奶头 嗯啊视频| 日韩,欧美,国产一区二区三区 | 一本精品99久久精品77| 禁无遮挡网站| 国产单亲对白刺激| 国产高清视频在线观看网站| a级毛片a级免费在线| 嫩草影院入口| 51国产日韩欧美| 亚洲图色成人| 国产精品野战在线观看| 国产精品不卡视频一区二区| 精品人妻一区二区三区麻豆 | 亚洲人与动物交配视频| 成年女人毛片免费观看观看9| 久久久久久久久久久丰满| 日韩一区二区视频免费看| 精品一区二区三区视频在线观看免费| 一级a爱片免费观看的视频| 欧美bdsm另类| 婷婷精品国产亚洲av在线| 国产精品福利在线免费观看| 国产不卡一卡二| 色吧在线观看| 超碰av人人做人人爽久久| 欧美激情在线99| 免费观看的影片在线观看| 在线免费十八禁| 晚上一个人看的免费电影| 大又大粗又爽又黄少妇毛片口| 日本 av在线| 最好的美女福利视频网| 国内揄拍国产精品人妻在线| 亚洲精品国产成人久久av| 亚洲av一区综合| 日日干狠狠操夜夜爽| 乱系列少妇在线播放| 99热这里只有精品一区| 日日摸夜夜添夜夜添av毛片| 欧美激情国产日韩精品一区| 欧美3d第一页| 老司机福利观看| 免费观看精品视频网站| 少妇人妻精品综合一区二区 | 欧美人与善性xxx| 国产精品一区二区三区四区免费观看 | 国产欧美日韩精品亚洲av| 久久久久国内视频| 国产精品一二三区在线看| 欧美中文日本在线观看视频| 成熟少妇高潮喷水视频| 真人做人爱边吃奶动态| 精品一区二区三区视频在线观看免费| 男女下面进入的视频免费午夜| 久久精品影院6| 搡老妇女老女人老熟妇| aaaaa片日本免费| 联通29元200g的流量卡| 九九在线视频观看精品| 黄片wwwwww| 超碰av人人做人人爽久久| 女人十人毛片免费观看3o分钟| 成人午夜高清在线视频| 久久久色成人| 男人狂女人下面高潮的视频| 亚洲中文日韩欧美视频| 在线播放无遮挡| 久久久久国内视频| 日韩 亚洲 欧美在线| 久久国产乱子免费精品| 国产成年人精品一区二区| 综合色丁香网| 少妇猛男粗大的猛烈进出视频 | www.色视频.com| 69人妻影院| 成人二区视频| 日日摸夜夜添夜夜添av毛片| 身体一侧抽搐| 色在线成人网| 91久久精品国产一区二区三区| 日韩亚洲欧美综合| 成年av动漫网址| 赤兔流量卡办理| 身体一侧抽搐| 午夜a级毛片| av视频在线观看入口| 亚洲一区高清亚洲精品| 一级毛片aaaaaa免费看小| 亚洲中文字幕日韩| 成人三级黄色视频| 有码 亚洲区| 超碰av人人做人人爽久久| 色播亚洲综合网| 国内精品宾馆在线| 国产单亲对白刺激| 欧美国产日韩亚洲一区| 久久久欧美国产精品| 成人永久免费在线观看视频| 插逼视频在线观看| 18禁黄网站禁片免费观看直播| 久久亚洲精品不卡| АⅤ资源中文在线天堂| 国产黄色小视频在线观看| 日韩欧美免费精品| 国产精品久久视频播放| 毛片女人毛片| 最新在线观看一区二区三区| 国内久久婷婷六月综合欲色啪| 国产av一区在线观看免费| 亚洲美女搞黄在线观看 | 国产男靠女视频免费网站| 国内揄拍国产精品人妻在线| 91久久精品国产一区二区三区| 日韩欧美精品免费久久| 中文字幕精品亚洲无线码一区| 亚洲精品在线观看二区| 在线观看一区二区三区| 亚洲最大成人av| av女优亚洲男人天堂| 久久久久久久久久久丰满| 精品少妇黑人巨大在线播放 | 免费av观看视频| 1000部很黄的大片| 99在线人妻在线中文字幕| 在线免费十八禁| 精品一区二区三区av网在线观看| 国产高清不卡午夜福利| 91麻豆精品激情在线观看国产| 亚洲av第一区精品v没综合| 97超级碰碰碰精品色视频在线观看| 亚洲av中文字字幕乱码综合| 精品不卡国产一区二区三区| 草草在线视频免费看| a级毛片a级免费在线| 热99re8久久精品国产| 波多野结衣巨乳人妻| 国产免费一级a男人的天堂| 国产蜜桃级精品一区二区三区| or卡值多少钱| 日日干狠狠操夜夜爽| 国产91av在线免费观看| 亚洲欧美日韩东京热| 一级a爱片免费观看的视频| 狠狠狠狠99中文字幕| 老司机午夜福利在线观看视频| 中国美白少妇内射xxxbb| 国产精品综合久久久久久久免费| 亚洲av美国av| 久久久久九九精品影院| 男人狂女人下面高潮的视频| 日日摸夜夜添夜夜添av毛片| 欧美又色又爽又黄视频| 久久久精品94久久精品| 国产片特级美女逼逼视频| 在线播放国产精品三级| 国产毛片a区久久久久| 深夜a级毛片| 亚洲aⅴ乱码一区二区在线播放| 午夜精品国产一区二区电影 | 国产一区二区亚洲精品在线观看| 毛片一级片免费看久久久久| 国产视频内射| 中文字幕av在线有码专区| 久久久久久九九精品二区国产| 深夜精品福利| 最后的刺客免费高清国语| 最新在线观看一区二区三区| 美女被艹到高潮喷水动态| 亚洲色图av天堂| 国产午夜精品久久久久久一区二区三区 | 亚洲欧美日韩无卡精品| eeuss影院久久| 免费不卡的大黄色大毛片视频在线观看 | 国产单亲对白刺激| 欧美国产日韩亚洲一区| 天堂网av新在线| 伊人久久精品亚洲午夜| 日本黄大片高清| 久久久成人免费电影| 日韩强制内射视频| 美女cb高潮喷水在线观看| 蜜桃亚洲精品一区二区三区| 看黄色毛片网站| ponron亚洲| 变态另类丝袜制服| av卡一久久| 女的被弄到高潮叫床怎么办| av在线亚洲专区| av在线观看视频网站免费| 一级毛片久久久久久久久女| 夜夜爽天天搞| 一级黄片播放器| 一个人观看的视频www高清免费观看| 九九久久精品国产亚洲av麻豆| 在现免费观看毛片| 久久久精品大字幕| 波多野结衣高清无吗| 欧美zozozo另类| 国产v大片淫在线免费观看| 不卡视频在线观看欧美| 九九久久精品国产亚洲av麻豆| 日本欧美国产在线视频| 老女人水多毛片| 两个人的视频大全免费| a级毛片a级免费在线| 九九爱精品视频在线观看| 夜夜看夜夜爽夜夜摸| 日韩精品有码人妻一区| 1024手机看黄色片| 亚洲,欧美,日韩| 午夜a级毛片| 国模一区二区三区四区视频| 成人综合一区亚洲| 亚洲真实伦在线观看| 校园人妻丝袜中文字幕| 秋霞在线观看毛片| 欧美最新免费一区二区三区| 国产精品国产三级国产av玫瑰| 午夜爱爱视频在线播放| 亚洲无线观看免费| 在线观看一区二区三区| 日日摸夜夜添夜夜爱| 黄色欧美视频在线观看| 国产高潮美女av| 精品久久国产蜜桃| 免费在线观看成人毛片| 免费看光身美女| 亚洲18禁久久av| 色视频www国产| 级片在线观看| 成人一区二区视频在线观看| 久久久久久久久中文| 午夜福利在线在线| 69人妻影院| 特大巨黑吊av在线直播| 一个人看的www免费观看视频| 国产高清激情床上av| 中国美女看黄片| 又黄又爽又刺激的免费视频.| 亚洲国产高清在线一区二区三| 亚洲熟妇熟女久久| 国产真实乱freesex| 看片在线看免费视频| 国产高潮美女av| 一级毛片久久久久久久久女| 在线播放国产精品三级| 国产一级毛片七仙女欲春2| a级毛片免费高清观看在线播放| 日韩 亚洲 欧美在线| 日日摸夜夜添夜夜添av毛片| 日韩精品有码人妻一区| 国产人妻一区二区三区在| 天天一区二区日本电影三级| 亚洲一级一片aⅴ在线观看| 欧美xxxx黑人xx丫x性爽| 午夜精品一区二区三区免费看| 国产精品一区二区性色av| 听说在线观看完整版免费高清| 老司机午夜福利在线观看视频| .国产精品久久| 国国产精品蜜臀av免费| 亚洲成a人片在线一区二区| 黄色配什么色好看| 日韩制服骚丝袜av| 日韩亚洲欧美综合| 中国美白少妇内射xxxbb| 九九久久精品国产亚洲av麻豆| 亚洲国产色片| 成人精品一区二区免费| 婷婷色综合大香蕉| 国产成人影院久久av| 中文字幕av在线有码专区| av国产免费在线观看| 俺也久久电影网| 麻豆一二三区av精品| 一级a爱片免费观看的视频| 精品久久久久久久末码| 青春草视频在线免费观看| 成人三级黄色视频| 俺也久久电影网| 日韩精品中文字幕看吧| 国产一区二区三区在线臀色熟女| 老司机福利观看| 1000部很黄的大片| 亚洲国产精品成人久久小说 | 22中文网久久字幕| 日韩欧美精品免费久久| 国产亚洲精品久久久久久毛片| 欧美激情在线99| 国产精品亚洲美女久久久| 狂野欧美激情性xxxx在线观看| 免费一级毛片在线播放高清视频| 日本精品一区二区三区蜜桃| 免费观看精品视频网站| 麻豆国产97在线/欧美| 丝袜喷水一区| 国产精品人妻久久久影院| 最近最新中文字幕大全电影3| 国产成人91sexporn| 欧美另类亚洲清纯唯美| 草草在线视频免费看| 午夜精品国产一区二区电影 | 亚洲内射少妇av| 国产在线精品亚洲第一网站| 亚洲精品色激情综合| 一卡2卡三卡四卡精品乱码亚洲| 亚洲电影在线观看av| 午夜亚洲福利在线播放| 晚上一个人看的免费电影| 99久国产av精品国产电影| 午夜视频国产福利| 1000部很黄的大片| 成人亚洲欧美一区二区av| 国产精品人妻久久久影院| 国产精品美女特级片免费视频播放器| 97超碰精品成人国产| 男女做爰动态图高潮gif福利片| 别揉我奶头~嗯~啊~动态视频| 免费看光身美女| 精品乱码久久久久久99久播| 久久精品国产99精品国产亚洲性色| 小说图片视频综合网站| 中国国产av一级| av黄色大香蕉| 亚洲自拍偷在线| 精品欧美国产一区二区三| 久久精品国产亚洲av涩爱 | 日日撸夜夜添| 成年免费大片在线观看| 免费在线观看影片大全网站| 天天躁日日操中文字幕| 久久久久久久久久成人| 免费不卡的大黄色大毛片视频在线观看 | 真实男女啪啪啪动态图| 国产高清视频在线播放一区| 亚洲高清免费不卡视频| 国产色婷婷99| 国产不卡一卡二| 国产真实乱freesex| 婷婷亚洲欧美| 久久久久久久久久黄片| 99热6这里只有精品| 精品不卡国产一区二区三区| 国产精品精品国产色婷婷| 99热这里只有是精品50| 亚洲国产精品sss在线观看| 久99久视频精品免费| 婷婷精品国产亚洲av| 有码 亚洲区| 精品人妻一区二区三区麻豆 | 淫秽高清视频在线观看| 亚洲国产精品国产精品| 亚洲成人精品中文字幕电影| 99久久精品国产国产毛片| 成人永久免费在线观看视频| 国产精品人妻久久久影院| 亚洲人成网站在线播| 男人舔奶头视频| 久久久色成人| 国产白丝娇喘喷水9色精品| 免费看美女性在线毛片视频| 不卡视频在线观看欧美| 亚洲高清免费不卡视频| 夜夜看夜夜爽夜夜摸| 1024手机看黄色片| 国产乱人视频| 色视频www国产| 婷婷精品国产亚洲av在线| 性欧美人与动物交配| 黄片wwwwww| 欧美高清性xxxxhd video| 婷婷六月久久综合丁香| av在线老鸭窝| 国产精品日韩av在线免费观看| 国产精品电影一区二区三区| 日韩强制内射视频| 亚洲国产精品合色在线| 欧美成人a在线观看| 在线天堂最新版资源| 一本久久中文字幕| 99久久久亚洲精品蜜臀av| 嫩草影院新地址| 国产探花在线观看一区二区| 黄色视频,在线免费观看| 亚洲,欧美,日韩| 亚洲国产精品成人综合色| 国产视频一区二区在线看| 国内精品宾馆在线| 日本免费一区二区三区高清不卡| 97超级碰碰碰精品色视频在线观看| 日本色播在线视频| 国内久久婷婷六月综合欲色啪| 99久久中文字幕三级久久日本| 国产色婷婷99| 久久久精品欧美日韩精品| 欧美+日韩+精品| 男女视频在线观看网站免费| 国产亚洲精品久久久久久毛片| 久久久国产成人免费| 久久久久久九九精品二区国产| 国产麻豆成人av免费视频| 不卡一级毛片| 久久天躁狠狠躁夜夜2o2o| 午夜日韩欧美国产| 国产成人freesex在线 | 欧美zozozo另类| 欧美高清成人免费视频www| 欧美精品国产亚洲| 欧美国产日韩亚洲一区| 日韩制服骚丝袜av| 午夜精品国产一区二区电影 | av专区在线播放| 亚洲av.av天堂| 欧美极品一区二区三区四区| 亚洲av中文av极速乱| 中文字幕av在线有码专区| 久久久久国产网址| 综合色av麻豆| 99精品在免费线老司机午夜| 日韩人妻高清精品专区| 亚洲激情五月婷婷啪啪| 久久久精品欧美日韩精品| 天堂网av新在线| 国产精品一及| 成年av动漫网址| 亚洲自拍偷在线| 国产中年淑女户外野战色| 亚洲av二区三区四区| 黄色视频,在线免费观看| 可以在线观看毛片的网站| 免费电影在线观看免费观看| 麻豆乱淫一区二区| 欧美三级亚洲精品| 天天躁日日操中文字幕| 日日摸夜夜添夜夜添小说| 丰满人妻一区二区三区视频av| 最新在线观看一区二区三区| 久久热精品热| 春色校园在线视频观看| 日韩精品中文字幕看吧| 欧美性猛交黑人性爽| 精品一区二区三区av网在线观看| 国产精品久久久久久精品电影| 久久精品夜色国产| 国产精品一区二区性色av| 一区二区三区免费毛片| 日本熟妇午夜| 日本免费a在线| 亚洲精华国产精华液的使用体验 | 亚洲av.av天堂| 级片在线观看| 色综合亚洲欧美另类图片| 日本在线视频免费播放| 此物有八面人人有两片| 丰满的人妻完整版| 国产精品伦人一区二区| 99国产极品粉嫩在线观看| 国产精品一区www在线观看| 老熟妇仑乱视频hdxx| 午夜精品在线福利| 国产免费一级a男人的天堂| 日韩欧美精品免费久久| 看十八女毛片水多多多| 少妇裸体淫交视频免费看高清| 成人精品一区二区免费| 久久久久久久久久黄片| 十八禁国产超污无遮挡网站| 少妇丰满av| 国产单亲对白刺激| 欧美日本亚洲视频在线播放| 午夜激情欧美在线| 日本黄大片高清| 日韩亚洲欧美综合| 亚洲国产高清在线一区二区三| 午夜福利视频1000在线观看| 国产视频一区二区在线看| 插阴视频在线观看视频| 国产老妇女一区| 高清毛片免费观看视频网站| 婷婷精品国产亚洲av| videossex国产| 看十八女毛片水多多多| 两个人视频免费观看高清| 特级一级黄色大片| 精品免费久久久久久久清纯| 一个人看视频在线观看www免费| 偷拍熟女少妇极品色| av在线亚洲专区| 国产成人影院久久av| 久久久午夜欧美精品| 精品久久久久久久久久久久久| 国产欧美日韩精品亚洲av| 特级一级黄色大片| 亚洲av免费高清在线观看| 村上凉子中文字幕在线| 精品久久久久久久久久免费视频| 久久综合国产亚洲精品| 夜夜看夜夜爽夜夜摸| 啦啦啦啦在线视频资源| 久久久久久久久大av| 国产伦精品一区二区三区四那| 女人十人毛片免费观看3o分钟| av在线蜜桃| 老司机福利观看| 麻豆国产97在线/欧美| 欧美激情久久久久久爽电影| 国产精品美女特级片免费视频播放器| 草草在线视频免费看| 麻豆一二三区av精品| 少妇猛男粗大的猛烈进出视频 | 色噜噜av男人的天堂激情| 联通29元200g的流量卡| 日日干狠狠操夜夜爽| 欧美一区二区精品小视频在线| 特大巨黑吊av在线直播| 久久久久久国产a免费观看| 婷婷精品国产亚洲av| 久99久视频精品免费| 日韩制服骚丝袜av| 免费一级毛片在线播放高清视频| 两个人视频免费观看高清| 国产爱豆传媒在线观看| 亚洲不卡免费看| 亚洲无线在线观看| 国产高清不卡午夜福利| 中文字幕精品亚洲无线码一区| 国产精品一及| 天天一区二区日本电影三级| 麻豆成人午夜福利视频| 一区福利在线观看| 国产在线男女| 亚洲精品久久国产高清桃花| 欧美日韩在线观看h| 精品久久久噜噜| 丝袜美腿在线中文| 欧美又色又爽又黄视频| 国产又黄又爽又无遮挡在线| 日本爱情动作片www.在线观看 | 成年女人毛片免费观看观看9| 久久久久久伊人网av| 国产午夜精品论理片| 一边摸一边抽搐一进一小说| 日本与韩国留学比较| 久久人妻av系列| 欧美绝顶高潮抽搐喷水| 一级毛片我不卡| 2021天堂中文幕一二区在线观| 啦啦啦观看免费观看视频高清| 69av精品久久久久久| 国产一级毛片七仙女欲春2| 女的被弄到高潮叫床怎么办| a级毛片免费高清观看在线播放| .国产精品久久| 久久99热6这里只有精品| 国产av不卡久久| 成人亚洲欧美一区二区av| 久久人人爽人人片av| 日韩欧美三级三区| 天天一区二区日本电影三级| 国内精品宾馆在线| 久久精品国产自在天天线| 麻豆一二三区av精品| 免费观看的影片在线观看| 少妇人妻一区二区三区视频| 99精品在免费线老司机午夜| 亚洲婷婷狠狠爱综合网| 自拍偷自拍亚洲精品老妇| 黄色欧美视频在线观看| 国产黄色小视频在线观看| 国产午夜福利久久久久久| 亚洲精品乱码久久久v下载方式|