• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    邏輯、發(fā)現(xiàn)與局限:近五年來智媒研究的六種算法話語

    2022-04-25 21:44:38師文陳昌鳳呂宇翔
    編輯之友 2022年4期

    師文 陳昌鳳 呂宇翔

    【摘要】雖然算法作為科學(xué)術(shù)語的內(nèi)涵相對確定,但算法在與新聞傳播學(xué)界發(fā)生交涉的過程中延展出一系列豐富的外延。在智能媒體研究經(jīng)歷了數(shù)年蓬勃發(fā)展之際,為理解算法研究各方向的分歧所在,促進(jìn)不同研究路徑之間的對話,文章試圖剖析多元算法研究視角所依托的迥然不同的算法定義,采用話語研究視角,分析不同研究對算法持有的觀念及其相應(yīng)的支撐邏輯。在綜述十九大以來智能媒體研究的基礎(chǔ)上,探究學(xué)術(shù)界開展算法研究的認(rèn)識論基礎(chǔ)。黨的十九大以來,學(xué)術(shù)界圍繞算法形成的話語被歸為六類——算法是工具、算法是規(guī)則、算法是權(quán)力、算法是主體、算法是想象、算法是價值表達(dá),不同話語的邏輯、關(guān)鍵發(fā)現(xiàn)、進(jìn)步性與局限性也得到具體詮釋。

    【關(guān)鍵詞】智能媒體 算法研究 數(shù)字新聞學(xué) 計算傳播

    【中圖分類號】G206 【文獻(xiàn)標(biāo)識碼】A 【文章編號】1003-6687(2022)4-082-08

    【DOI】 10.13786/j.cnki.cn14-1066/g2.2022.4.010

    算法一詞脫胎于計算機(jī)科學(xué),其被定義為解決問題的一套邏輯,可以對特定的輸入進(jìn)行處理,獲得符合預(yù)期的輸出,是自動執(zhí)行人類意志的計算工具。當(dāng)算法進(jìn)入新聞傳播學(xué)學(xué)科后,其指代范疇走向窄化,特指機(jī)器學(xué)習(xí)或深度學(xué)習(xí)的人工智能算法,典型代表是個性化新聞推薦算法、機(jī)器人寫作算法等。雖然算法作為科學(xué)術(shù)語的內(nèi)涵相對確定,但算法在與新聞傳播學(xué)界發(fā)生交涉的過程中,還拓展出一系列豐富的外延。算法作為限定詞與新聞傳播領(lǐng)域的原生概念相互耦合,產(chǎn)生了算法新聞、算法傳播、算法治理、算法倫理等一系列術(shù)語。與此同時,學(xué)術(shù)界探討算法的角度也在持續(xù)拓展,學(xué)者們既關(guān)注算法在新聞傳播領(lǐng)域的功能性延展,也觸及算法對現(xiàn)實(shí)社會的邏輯性影響;既對新聞生產(chǎn)、傳播環(huán)境、社會秩序中的算法進(jìn)行實(shí)證評估,也從權(quán)力、倫理、技術(shù)哲學(xué)角度對其展開思辨反思。

    多元的算法研究視角源于對算法迥然不同的理解,這固然使智能媒體研究領(lǐng)域積累了大量的成果,但也導(dǎo)致不同研究的立場、觀點(diǎn)和判斷大相徑庭,甚至相互矛盾。在智能媒體研究經(jīng)歷了數(shù)年蓬勃發(fā)展之際,有必要理解算法研究各方向的分歧所在,促進(jìn)不同研究路徑之間的對話。這就要求厘清算法在新聞傳播語境下生發(fā)出的豐富外延,區(qū)分不同研究所依循的算法定義。

    對新聞傳播學(xué)視角下的算法外延進(jìn)行界定是一件困難的事情。鑒于此處討論的算法已不再是一個純粹的技術(shù)概念,其含義隨著算法應(yīng)用的社會場景及學(xué)術(shù)思潮的迭代而處于動態(tài)變化中,采用自然科學(xué)界所推崇的本質(zhì)主義視角回應(yīng)算法是什么顯得力有不逮。因此,本研究放棄本質(zhì)主義視角,采用話語研究的視角,探究不同研究對算法持有的觀念,即算法在不同的語境下被視作什么及其相應(yīng)的支撐邏輯。[1]基于話語研究的思路,本文對過去五年的國內(nèi)外算法研究進(jìn)行爬梳,將算法話語歸為六大類別,分別是算法是工具、算法是規(guī)則、算法是權(quán)力、算法是主體、算法是想象、算法是價值表達(dá)。

    一、算法是工具

    在計算機(jī)學(xué)科中,算法被簡單地理解為自動執(zhí)行邏輯的工具。新聞傳播學(xué)科與計算機(jī)學(xué)科對算法研究的興趣點(diǎn)存在較大差異,其不關(guān)注提升算法功能的技術(shù)創(chuàng)新,也鮮少用各類量化指標(biāo)測評算法的效能,但計算機(jī)科學(xué)將算法視為工具的思路仍然在許多新聞傳播學(xué)研究中得到承襲。在這類研究中,算法被視作智能化實(shí)現(xiàn)類人決策的工具,是人類智能的簡單替代,被用于滿足算法設(shè)計者、使用者或服務(wù)者的期待。

    在算法最初進(jìn)入新聞傳播業(yè)時,算法是工具的視角指導(dǎo)了大量對于算法的思考,這類研究的代表是算法輔助新聞生產(chǎn),即關(guān)注算法如何輔助人類進(jìn)行新聞采集、寫作、分發(fā)、播報、核查,其回應(yīng)的是算法對新聞傳播業(yè)的功能性滲透。這些研究側(cè)重關(guān)注算法的形式、性能和交互如何被精心設(shè)計,以使其更完美地執(zhí)行人類的預(yù)期目標(biāo)。對新聞從業(yè)者的訪談也佐證了這一點(diǎn),他們面對計算機(jī)輔助新聞生產(chǎn)技術(shù)表現(xiàn)出主導(dǎo)者心態(tài),認(rèn)為算法應(yīng)被用于解放新聞工作者,而不是領(lǐng)導(dǎo)新聞工作者。[2]研究還發(fā)現(xiàn),媒介組織可以選擇適合其組織業(yè)務(wù)模式的個性化推薦算法,這一選擇空間表明了媒介組織在使用算法工具時的主導(dǎo)性,算法甚至不是媒介組織賴以滿足用戶需求的工具,而是媒介組織選擇出來的管理其用戶需求的工具。[3]

    即便許多研究未直接聚焦于算法輔助新聞生產(chǎn),其研究內(nèi)核也是建立在算法是工具的邏輯之上。如大量研究圍繞算法效果展開,關(guān)注新聞推薦算法、自動化新聞寫作算法可以在多大程度上獲得讀者的認(rèn)可、信任,特別是與編輯推薦、記者寫作相比較,這類研究雖然依托于社會場景展開,但在邏輯上與計算機(jī)學(xué)科實(shí)行的算法效果評估并無二致,核心關(guān)切仍在于算法在何種程度上能滿足對人類的工具性替代。算法對信息環(huán)境影響的相關(guān)研究也與之類似,其關(guān)注算法對于信息極化、選擇性接觸的影響,[4][5]在某種意義上是探究算法作為一種信息分發(fā)工具是否以一種符合預(yù)期的方式履行信息分發(fā)職能,以期對可能出現(xiàn)的功能性偏差進(jìn)行修正管理。

    算法是工具的話語意味著研究者將算法視為被人類所掌控、操縱的自動化工具,反映了工具理性的潛意識。算法是工具的視角回應(yīng)了算法被引入新聞傳播業(yè)的最基本功能,可以推進(jìn)更高效、精準(zhǔn)的算法實(shí)踐。但該視角的局限性也較為明顯,當(dāng)算法作為新時代的基礎(chǔ)技術(shù)設(shè)施融入社會生活時,其與社會的互動并非僅是工具性的,而是在社會文化土壤中與既有社會存在發(fā)生大量意義層面的交互。換言之,算法不僅是客體性或直觀性的形式,更是應(yīng)接受意義解讀的實(shí)踐。[6]從這個維度上講,算法是工具的話語對復(fù)雜算法實(shí)踐的解釋力十分有限,只能被視作探究算法與新聞傳播業(yè)交互關(guān)系的起點(diǎn)。

    二、算法是規(guī)則

    算法是規(guī)則的話語比算法是工具的視角更進(jìn)一步,其意識到算法不僅在形式上成為新聞傳播實(shí)踐的部分流程,也參與塑造了實(shí)踐的內(nèi)在邏輯。如在信息分發(fā)環(huán)節(jié),人工智能由于催生了新的社會能見度控制機(jī)制,[7]成為支配智能時代信息生產(chǎn)傳播的新規(guī)則。算法的影響未必局限于特定的科技公司或平臺,鑒于處于主導(dǎo)地位的機(jī)構(gòu)所制定的算法會引起行業(yè)范圍內(nèi)的效仿,算法規(guī)則甚至可以從個別組織延伸至整個行業(yè),參與塑造更具共同性的規(guī)則。[8]

    算法是規(guī)則的一個重要表現(xiàn)是,新聞生產(chǎn)者和新聞消費(fèi)者對新聞規(guī)則的掌控力正逐漸降低。一項(xiàng)研究發(fā)現(xiàn),被算法歸類為對新聞或政治感興趣的用戶更可能在信息流中看到這類新聞——即使這超出了他們自我報告的個人興趣。[9]對于新聞從業(yè)者而言,算法將新聞的構(gòu)成分解為文章的排列,這使他們的使命感受到威脅。[10]新聞媒體正為適應(yīng)算法規(guī)則做出調(diào)整,由于社交媒體信息推薦算法看重用戶參與度,媒體的內(nèi)容投放越來越“軟化”;[11]為適應(yīng)搜索引擎優(yōu)化(SEO)規(guī)則,提升新聞在搜索引擎中的檢索排名,新聞編輯室的內(nèi)容編寫邏輯遵循搜索引擎(而非人類)的規(guī)則,自動化標(biāo)題寫作技術(shù)的引入也重新協(xié)調(diào)了人機(jī)之間的協(xié)作關(guān)系,區(qū)分了適合機(jī)器承擔(dān)的基于規(guī)則的角色和人類承擔(dān)的基于知識的角色。[12]

    算法的規(guī)則可能以隱蔽、不對稱的方式存在。有研究者分析了Instagram平臺關(guān)于“影子禁令”(即對特定用戶或帖子的可見性進(jìn)行降級)是否存在的解釋,認(rèn)為算法持有者可以借助撲朔迷離的規(guī)則解釋和實(shí)現(xiàn)對用戶的操縱,即平臺的算法解釋在用戶心中具有權(quán)威性,而平臺利用這一信息不對稱性,破壞用戶對于算法知識的自信,并消解其批評的可信性,使平臺在與用戶開展認(rèn)知競賽時處于優(yōu)勢地位。[13]

    當(dāng)然,算法的規(guī)則并非以一種單向的方式作用于用戶,用戶未曾放棄適應(yīng)與利用算法規(guī)則。研究發(fā)現(xiàn),面對算法呈現(xiàn)的規(guī)則系統(tǒng),用戶可以積極地尋找策略以實(shí)現(xiàn)算法使用過程中的利益最大化。一項(xiàng)針對打車平臺的調(diào)查研究發(fā)現(xiàn),用戶能動地采用優(yōu)化獲益、降低風(fēng)險、確定規(guī)則邊界、嘗試跨平臺、形成啟發(fā)式原則五種方法作為消費(fèi)策略,實(shí)現(xiàn)個人算法使用的最優(yōu)效果。[14]面對搜索引擎算法提供的檢索結(jié)果,用戶能進(jìn)行信息接觸方面的抉擇,以保持其與個人先前的信念一致,從而消解算法的影響。[15]算法本身也成為協(xié)助用戶掌握算法分發(fā)機(jī)制的助力,如一個名為Hootsuite的算法幫助其使用者決定何時發(fā)送推文可獲得用戶最大的關(guān)注,這使得用戶在不了解分發(fā)算法運(yùn)作機(jī)理的情況下適應(yīng)算法生態(tài)。[13]不過,用戶積極的應(yīng)對策略未必能在真正意義上幫其獲得與平臺相對的優(yōu)勢。在YouTube平臺上,面對平臺算法“黑箱”帶來的信息不對稱,有部分YouTube用戶聲稱其理解算法是如何工作的,并向其他創(chuàng)作者傳授如何更好地適應(yīng)YouTube的算法系統(tǒng)。但研究者認(rèn)為,雖然這種操作看似在為創(chuàng)作者提供策略支持,但其最終結(jié)果是使平臺在勞動和內(nèi)容方面受益。[16]

    算法是規(guī)則這一話語的邏輯在于,算法并非僅充當(dāng)著信息傳播的渠道或工具,而是成為傳播過程中新的中介機(jī)制,對信息傳播的規(guī)則乃至社會關(guān)系起到調(diào)節(jié)作用。[17]算法本就是規(guī)范化的社會規(guī)則在技術(shù)領(lǐng)域的延伸,考慮到算法的形成還需接受技術(shù)專家、計算對象和算法邏輯等多重作用,算法在構(gòu)建數(shù)字景觀的過程中還可能對原有的社會規(guī)則進(jìn)行再書寫。[18]

    三、算法是權(quán)力

    算法以匹配、調(diào)節(jié)與控制等方式塑造了事物之間的關(guān)系,并由此獲取權(quán)力。[19]對于新聞傳播業(yè)而言,算法對新聞傳播活動的介入推動了傳播權(quán)力的遷移。[20]智能媒體對技術(shù)的高需求有利于科技巨頭承包屬于媒體機(jī)構(gòu)的業(yè)務(wù),掌握新聞分發(fā)渠道,[21]傳統(tǒng)的新聞生產(chǎn)機(jī)構(gòu)和掌握技術(shù)的新興平臺圍繞傳播效果進(jìn)行爭奪。[22]許多關(guān)于算法透明性的討論也建立在算法是權(quán)力這一隱喻之上,認(rèn)為算法使傳播的過程后臺化,“黑箱”反過來加劇了算法科學(xué)的崇高化,使信息生產(chǎn)與分發(fā)的流程超越了外部監(jiān)督的范疇。

    新信息傳播秩序的形成也圍繞算法展開。對搜索引擎查詢結(jié)果的研究發(fā)現(xiàn),雖然群體對其檢索詞各有偏好,但搜索引擎傾向于向他們反饋相似的檢索結(jié)果,這表現(xiàn)出主流化效果。[23]用戶的算法素養(yǎng)差異使算法無法為各個群體進(jìn)行平等的賦權(quán)。[24]算法相關(guān)的接入鴻溝、使用鴻溝和內(nèi)容鴻溝影響用戶獲取信息的機(jī)會。[25]

    算法權(quán)力的另一種表現(xiàn)形式是通過個人信息商品化加劇公眾與科技巨頭、國家之間的地位差異,使公共權(quán)力被讓渡至技術(shù)和數(shù)據(jù)巨頭手中。監(jiān)視資本主義是Zuboff在2015年提出的概念,指由于數(shù)據(jù)可被用于分析、預(yù)測和影響個人行為,科技巨頭收集大量個人數(shù)據(jù)并將其商品化、產(chǎn)品化以謀取利益。[26]亞馬遜公司所提供的門鈴、傳感器等智能服務(wù)也被視作將數(shù)字監(jiān)控基礎(chǔ)設(shè)施作為牟利工具的不正當(dāng)行為。

    雖然此前監(jiān)視資本主義的相關(guān)指控主要指向科技公司,但隨著智能算法被越來越多地應(yīng)用于公共服務(wù),該概念也被應(yīng)用于對國家行為的分析。大數(shù)據(jù)驅(qū)動的智能治理將擴(kuò)大國家與個人間的信息不對等,個人置身于智能化的超級全景監(jiān)獄中。[27][28]研究者發(fā)現(xiàn),智能應(yīng)用反映了設(shè)計者的價值觀,在程序化交互中貫徹歐洲中心主義,這都呈現(xiàn)了智能應(yīng)用的殖民性。[29]

    但算法的權(quán)力并非單向的、支配性的。用戶已經(jīng)進(jìn)行了大量的抵抗算法權(quán)力的實(shí)踐。為對抗人工智能的技術(shù)監(jiān)視,CV Dazzle活動鼓吹以策略化的化妝術(shù)阻礙人臉識別算法的運(yùn)作,以激發(fā)對智能技術(shù)的反思意識。[30]相比之下,一種更具建設(shè)性的抵抗方式是,用戶積極地參與干預(yù)、塑造算法的過程,以修補(bǔ)算法中的不足。如一位名為Johanna Burai的用戶在檢索手的圖片時,發(fā)現(xiàn)算法反饋的結(jié)果都是白人的手部圖片,因而意識到算法中存在種族偏見。她策略性地設(shè)計了一個提供非白人手部圖片的下載網(wǎng)站,輔之以針對新聞媒體的宣傳活動,最終將自己發(fā)布的圖片躍升到圖片搜索的熱門結(jié)果中。[31]雖然這一實(shí)踐不具備普遍推廣的可行性,但其為研究算法提供了新的框架,因?yàn)檫@意味著在用戶與算法的關(guān)系中,用戶并不完全是無力的圍觀者,其可以政治、商業(yè)等方式策略性地參與算法塑造。

    傳播本就是一種權(quán)力,其可以通過信息呈現(xiàn)和意義賦予,在構(gòu)建社會現(xiàn)實(shí)的過程中發(fā)揮關(guān)鍵作用。算法是權(quán)力的話語可被看作這一思想在智能時代的延續(xù)。算法技術(shù)的普及使越來越多的信息分發(fā)決策權(quán)從人類讓渡至算法、從傳統(tǒng)媒體機(jī)構(gòu)讓渡至科技公司。鑒于算法是科技力量和數(shù)據(jù)所有者的代言人,該權(quán)力遷移勢必推動傳統(tǒng)意義上個人、媒體、商業(yè)、國家之間的力量對比發(fā)生變化,形成一套以算法權(quán)力為標(biāo)尺的新信息傳播格局。

    四、算法是主體

    與其他技術(shù)不同,算法所具有的智能屬性使其更接近類人的智能實(shí)體,算法與人類之間差異的縮小乃至邊界的模糊,為挑戰(zhàn)傳統(tǒng)新聞傳播實(shí)踐的元邏輯提供了契機(jī)。媒介技術(shù)哲學(xué)認(rèn)為,人工智能算法應(yīng)被理解成一種人機(jī)混合物,其捕獲人的認(rèn)知、嵌入自身,而非簡單地再現(xiàn)人類智慧。[32]從實(shí)踐層面展開的思考與之不謀而合,認(rèn)為傳統(tǒng)的人—機(jī)二元對立劃分對現(xiàn)實(shí)的解釋力正在下降,人與算法發(fā)生的多重復(fù)雜互動呼吁以人—機(jī)混合體的視角審視算法的功能。[33]在新聞生產(chǎn)領(lǐng)域,主體性的反思因此產(chǎn)生,有學(xué)者提出媒介技術(shù)與人在廣義新聞生產(chǎn)的微觀過程中共同構(gòu)成了一個媒介網(wǎng)絡(luò),[34]算法作為動態(tài)行動者網(wǎng)絡(luò)中的非人類行動者,可以成為改變事物狀態(tài)的非人要素。[35]

    即便跳脫出新聞生產(chǎn)的語境,也可以發(fā)現(xiàn)智能算法正在消解建立在人類中心主義之上的傳統(tǒng)傳播觀念。[36]在智能技術(shù)出現(xiàn)之前,機(jī)器因缺乏交流性被視為傳播的中介,而非適格的交流主體。但人工智能技術(shù)使機(jī)器更具智能性,人機(jī)之間的邊界變得模糊。在機(jī)器設(shè)計的過程中,人類將社會文化意義嵌入其中,[37]賦予其成為超越工具的社交角色的潛力。人類用戶在與機(jī)器進(jìn)行互動時,也會不自覺地將其擬人化,將其視作一個有意識的生命體,并產(chǎn)生與其他人類交往時類似的情感。[38]在社交媒體上,由計算機(jī)軟件操縱的自動化賬戶——社交機(jī)器人可以像人類一樣發(fā)布內(nèi)容、開展互動,研究證實(shí)這些機(jī)器人有足夠強(qiáng)的欺騙性,能夠誘發(fā)人類用戶主動與之互動。[39]以上現(xiàn)象表明,機(jī)器正在以傳播者的姿態(tài)進(jìn)入傳統(tǒng)意義上僅出現(xiàn)在人類之間的人際傳播、群體傳播和大眾傳播領(lǐng)域。

    為回應(yīng)傳播生態(tài)中出現(xiàn)的新型主體,傳播學(xué)界在此前人機(jī)交互的基礎(chǔ)上提出人機(jī)傳播概念,以對新媒介環(huán)境下的傳播主體進(jìn)行再定義。人機(jī)傳播理論認(rèn)為,人與技術(shù)之間的本體論鴻溝并非不可跨越,在智能媒體生態(tài)下,機(jī)器不僅僅是交流的工具或中介,其本身也具有能動的交流性,其不僅可以完成傳播的基本過程,也可與人類產(chǎn)生關(guān)系層面的交互意義。人類對機(jī)器的理解、與機(jī)器關(guān)系的建構(gòu)、與機(jī)器之間的邊界應(yīng)成為未來人機(jī)交流研究的要點(diǎn)。[40]

    人機(jī)之間產(chǎn)生的具有社會意義的關(guān)系是將算法視作主體的重要依據(jù)。[41]在電子游戲中,人們會通過各種文化想象將作為技術(shù)他者的虛擬玩家擬人化,與這些角色的互動會影響玩家的線下人際關(guān)系,從而模糊人類與非人類、現(xiàn)實(shí)與虛擬之間的界限。[42]也有研究注意到,在團(tuán)隊溝通的任務(wù)屬性和關(guān)系屬性中,社交機(jī)器人越來越側(cè)重于承擔(dān)起關(guān)系類功能,其可以通過提供社會情感化的、個人化的響應(yīng)促進(jìn)團(tuán)隊中的關(guān)系型溝通。[43]事實(shí)上,近年來有大量研究從情感維度探究人機(jī)之間的關(guān)系,如探究算法信息審查相比人工信息審查是否能帶來公平感[43]、透明感[44]。此外,還圍繞信任感[45]、孤獨(dú)感[46][47]乃至算法的情商等問題進(jìn)行探討。[48]這些研究共同的潛臺詞是,人們對算法的期待不僅限于被使用的物品或工具,還將其擬人化為可能滿足自身關(guān)系需求的互動者、交流者。

    算法是主體的話語首次將算法從物的高度提升至類似人的高度,不論是對傳統(tǒng)的新聞傳播研究,還是對算法研究,都具有較大的顛覆意義。該話語的前瞻性在于其直面人工智能的終極目標(biāo)——使算法像人一樣進(jìn)行決策,并將這一目標(biāo)作為思考的前提,思考算法與人之間的邊界及關(guān)系問題。雖然當(dāng)前的算法與具有類人智慧的強(qiáng)人工智能間差距尚遠(yuǎn),但大量算法應(yīng)用已將類人作為產(chǎn)品定位,反思類人算法為新聞傳播業(yè)元邏輯帶來的變化,具有實(shí)踐和理論層面的必要性。

    五、算法是想象

    如果說上述話語對算法的機(jī)制、效果和功能的關(guān)注均是從算法本位的角度展開的,那么作為想象的算法則轉(zhuǎn)而使用用戶本位的視角理解算法。在這一視角下,算法并非僅憑借其客觀形態(tài)而存在,其同時也是一種具備解讀空間的可寫文本,用戶針對算法形成的個人化理解與想象是該視角的核心關(guān)切。

    一種對算法想象的關(guān)注側(cè)重用戶對算法的理解在多大程度上符合事實(shí)。與媒介素養(yǎng)的邏輯類似,算法素養(yǎng)這一概念被發(fā)展出來以評估用戶的算法意識和算法知識在多大程度上與客觀事實(shí)相符。其中,算法意識指用戶意識到算法存在于環(huán)境之中,包括了解算法可以實(shí)現(xiàn)何種功能、算法實(shí)際被用于何種場景;算法知識指用戶理解算法的運(yùn)作機(jī)理,包括算法提供的個性化信息服務(wù)、算法的種類、算法對信息環(huán)境施加的影響。[49]

    作為算法素養(yǎng)的首要構(gòu)成要素,算法意識引起了特別的關(guān)注。對算法意識的聚類分析發(fā)現(xiàn),其可以分為無意識、不確定、確定、中立、懷疑和批判六種,算法意識的差異可以影響人們對算法應(yīng)用的使用態(tài)度,是否具有足夠的算法意識也被視作一種新興的數(shù)字鴻溝。[50]對一個名為Instawareness的視覺反饋工具的效果測驗(yàn)發(fā)現(xiàn),其可以有效提升用戶算法素養(yǎng)和對算法的反思。該研究的啟示在于,尚不論提升算法認(rèn)知,僅提升算法意識,即可引起用戶對算法的批判性關(guān)注。[51]

    大量研究已經(jīng)不再試圖比較用戶對算法的理解與客觀事實(shí),而是聚焦用戶對算法的主觀感受,即主觀看法、想象和非專業(yè)解釋理論。如有研究者要求用戶從其個人賬戶中查看算法為其生成的畫像文件,以研究當(dāng)用戶面對算法畫像時作何感想。[52]也有研究立足于受眾立場,了解其如何、何時接受或拒絕來自算法的建議。[53]“算法厭惡”和“算法欣賞”正被用作解釋用戶算法使用行為的視角,即關(guān)注為什么人們厭惡或偏愛算法或?yàn)楹纹没騾拹耗骋环N算法。[53]

    對算法的想象不僅來自個人層面,更是一種持久的、集體的社會技術(shù)想象。視頻博主會共享彼此對YouTube算法規(guī)則的理解,共同形成對算法的集體感知,[54]用戶在感知算法的過程中甚至還會進(jìn)行擬人化的文化意義解讀。[55]在公共視野中,社會不同行動者對算法提出的差異化定義促成了社會技術(shù)想象的生成,經(jīng)過權(quán)力機(jī)關(guān)的協(xié)商、裁定,某種特定的想象被凸顯出來,并得以穩(wěn)定和制度化。[56]

    需要補(bǔ)充的是,在研究用戶對算法的主觀詮釋時,算法想象和算法民間理論常被用作理論資源,但二者的側(cè)重點(diǎn)有細(xì)微的差別。算法想象主要關(guān)注人類如何思考算法是什么、算法應(yīng)該是什么、算法如何運(yùn)行,以及上述觀點(diǎn)如何在塑造算法的過程中發(fā)揮生成性作用。[57]民間理論最初關(guān)注的是人們?nèi)绾卧谌粘=?jīng)驗(yàn)中直覺式地理解媒介運(yùn)作方式,并形成一定的模型或原則。[58]在被引入算法研究領(lǐng)域之后,民間理論被用于解釋公眾雖然并不清楚算法運(yùn)作的內(nèi)部原理,卻基于個人經(jīng)驗(yàn)形成了對算法如何運(yùn)作的直覺式理解,以一種非專業(yè)的方式分析算法的后果及效果。民間理論不僅在指導(dǎo)用戶行為方面具有意義,而且在理解實(shí)踐、產(chǎn)生推理方面也發(fā)揮作用。[59]

    算法是想象的話語對思考算法問題有兩點(diǎn)啟發(fā)。其一,該話語通過關(guān)注人類面對算法時的主觀理解,超越了在客觀維度上對算法展開的探尋,轉(zhuǎn)而采用以人為主的視角關(guān)注算法的社會意義,強(qiáng)調(diào)人并非被動接受算法支配,而是積極的算法詮釋者、適應(yīng)者和使用者,這一視角有助于在現(xiàn)實(shí)層面理解用戶、算法和平臺之間兼具支配性與對抗性的復(fù)雜共生關(guān)系。其二,算法是想象話語中所關(guān)注的人,并非洞察算法規(guī)則、擁有知識特權(quán)的技術(shù)精英,而是算法素養(yǎng)參差不齊的普羅大眾。通過正視普通用戶的主觀算法想象,該話語不再僅將算法理解為知識精英締造的由上至下的科學(xué)神話,而是將其看作可供解讀的有機(jī)意義空間,[60]這一視角賦予算法草根解讀以正當(dāng)性,展現(xiàn)了算法實(shí)踐中文化性、抗?fàn)幮缘囊幻妗?/p>

    六、算法是價值表達(dá)

    算法雖因科學(xué)技術(shù)的加持而看似中立、崇高,但其實(shí)際上脫胎于特定的社會文化土壤。作為人類邏輯的延伸,算法承載著豐富的價值表達(dá)。一方面,算法本身即包含內(nèi)在的價值偏向。算法內(nèi)在的價值偏向可能源于算法產(chǎn)品的定位策略,如從業(yè)者認(rèn)為新聞推薦算法是新聞編輯室編輯活動的延伸,因此應(yīng)將新聞機(jī)構(gòu)的價值觀整合進(jìn)智能算法應(yīng)用的設(shè)計中。算法價值還可能來自數(shù)據(jù)標(biāo)注環(huán)節(jié)、[61]算法邏輯設(shè)計的無意識偏差。[62]另一方面,算法可能被其使用者用于非價值中立的場景中。如除了進(jìn)行事實(shí)層面的判斷,算法還可能被用于進(jìn)行道德決策,[63]或像“深度偽造”一樣,用于實(shí)現(xiàn)非正義的欺騙效果。

    然而,上述針對算法價值偏向的批判性審視并不意味著否認(rèn)算法價值表達(dá)的正當(dāng)性。恰恰相反,對近年來國內(nèi)媒體上算法相關(guān)討論的觀察發(fā)現(xiàn),價值表達(dá)正超越價值無涉成為對算法的期待。[64]在算法逐漸成為公共服務(wù)基礎(chǔ)設(shè)施的背景下,算法不僅應(yīng)追求技術(shù)性能上的卓越,也應(yīng)實(shí)現(xiàn)倫理價值層面的無暇。[65]歐盟發(fā)布的《關(guān)于可信賴人工智能的倫理準(zhǔn)則》[66]規(guī)定了透明性、非歧視性等一系列價值原則,這正視了算法作為價值表達(dá)載體的角色,并試圖對其進(jìn)行倫理層面的規(guī)范。在這一語境下,算法向善、制作道德的人工智能體、人工智能造福社會等議題正成為引導(dǎo)算法價值表達(dá)的新方向。

    將算法視作價值表達(dá)并對其進(jìn)行規(guī)范的愿景面臨若干現(xiàn)實(shí)難題。從算法倫理體系來看,一系列價值原則(慈善性、非惡意性、自主性、公正性和可解釋性)彼此糾纏,對于多重利益相關(guān)者的權(quán)衡更使各倫理原則之間的沖突難以調(diào)和。[66]從算法設(shè)計實(shí)踐來看,算法系統(tǒng)的道德責(zé)任較為分散,工程師和決策者均無法獨(dú)自為算法的道德狀況負(fù)責(zé),[67]特別是當(dāng)前工程師普遍缺乏倫理意識。[68]從監(jiān)督機(jī)制來看,人工智能是參數(shù)復(fù)雜的“黑箱”,隨新的數(shù)據(jù)注入一直處在持續(xù)動態(tài)發(fā)展中,即使對于專家也無法做到透明,這使其無法充分地被外界監(jiān)管。

    結(jié)語

    本研究采用話語研究視角,分析近五年來學(xué)術(shù)界圍繞算法形成的多種話語。在綜述既有的智能媒體研究的基礎(chǔ)上,本研究以一種較為中立的立場歸納出算法是工具、算法是規(guī)則、算法是權(quán)力等六種話語,并對不同話語的語境、邏輯進(jìn)行詮釋。

    雖然算法在當(dāng)代社會中的滲透已經(jīng)十分深入、廣泛,但人類社會對算法的理解、適應(yīng)尚處于起步階段,這意味著新聞傳播學(xué)視野下的算法意涵及學(xué)術(shù)實(shí)踐正處在不斷發(fā)展之中。學(xué)術(shù)界在探究算法的運(yùn)作、影響及規(guī)制等問題之余,也要時刻以更宏觀的視角反思算法研究背后所依托的認(rèn)識論基礎(chǔ),通過觀察話語之間的承襲、發(fā)展、對抗關(guān)系,獲得對算法更辯證的理解。需要指出的是,這些圍繞算法形成的話語并無對錯之分,只是學(xué)者們多元的研究語境在算法理解上產(chǎn)生的差異化投射,它們共同構(gòu)成了新聞傳播學(xué)視野中復(fù)雜、立體、動態(tài)的算法。

    參考文獻(xiàn):

    [1] 劉海龍. 大眾傳播理論:范式與流派[M]. 北京: 中國人民大學(xué)出版社,2008:4-5.

    [2] Milosavljevi M, Vobi I. Our task is to demystify fears: Analysing newsroom management of automation in journalism[J]. Journalism, 2019, 22(9): 2203-2221.

    [3] Bodó B. Selling News to Audiences-A Qualitative Inquiry into the Emerging Logics of Algorithmic News Personalization in European Quality News Media[J]. Digital Journalism, 2019,7(8): 1054-1075.

    [4] Shmargad Y, Klar S. Sorting the News: How Ranking by Popularity Polarizes Our Politics[J]. Political Communication, 2020, 37(3): 423-446.

    [5] 楊洸,佘佳玲. 新聞算法推薦的信息可見性、用戶主動性與信息繭房效應(yīng):算法與用戶互動的視角[J]. 新聞大學(xué),2020(2):102-118,123.

    [6] 陳衛(wèi)星. 智能傳播的認(rèn)識論挑戰(zhàn)[J]. 國際新聞界,2021(9):6-24.

    [7] 郭小平,潘陳青. 智能傳播的“新社會能見度”控制:要素、機(jī)制及其風(fēng)險[J]. 現(xiàn)代傳播,2021(9):1-6.

    [8] Caplan R, Boyd D. Isomorphism through algorithms: Institutional dependencies in the case of Facebook[EB/OL].[2022-04-01]. Big Data & Society, https://doi.org/10.1177/2053951718757253.

    [9] Thorson K, Cotter K, Medeiros M, et al. Algorithmic inference, political interest, and exposure to news and politics on Facebook[J]. Information, Communication & Society,2021, 24(2): 183-200.

    [10] Schj?tt Hansen A,Hartley·J.M. Designing What's News: An Ethnography of a Personalization Algorithm and the Data-Driven (Re)Assembling of the News[EB/OL].[2022-04-01]. Digital Journalism, https://doi.org/10.1080/21670811.2021.1988861.

    [11] Lamot K. What the Metrics Say. The Softening of News on the Facebook Pages of Mainstream Media Outlets[EB/OL].[2022-04-01]. Digital Journalism, https://doi.org/10.1080/21670811.2021.1974917.

    [12] Stenbom A, Wiggberg M, Norlund T. Exploring Communicative AI: Reflections from a Swedish Newsroom[EB/OL].[2022-04-01]. Digital Journalism, https://doi.org/10.1080/21670811.2021.2007781.

    [13] Billard·T.J. Deciding what's (sharable) news: Social movement organizations as curating actors in the political information system[EB/OL].[2022-04-01]. Communication Monographs,https://doi.org/10.1080/03637751.2021.1999998.

    [14] Ramizo G. Platform playbook: a typology of consumer strategies against algorithmic control in digital platforms [EB/OL].[2022-04-01]. Information, Communication & Society, https://doi.org/10.1080/1369118X.2021.1897151.

    [15] Slechten L, Courtois C, Coenen L, et al. Adapting the Selective Exposure Perspective to Algorithmically Governed Platforms: The Case of Google Search[EB/OL].[2022-04-01]. Communication Research, https://doi.org/10.1177/00936502211012154.

    [16] MacDonald·T.W. "How it actually works": Algorithmic lore videos as market devices[EB/OL].[2022-04-01]. New Media & Society, https://doi.org/10.1177/14614448211021404.

    [17] Jakesch M, French M, Ma X, et al. AI-Mediated Communication: How the Perception that Profile Text was Written by AI Affects Trustworthiness[C].Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 2019: 1-13.

    [18] Masso A, Kasapoglu T. Understanding power positions in a new digital landscape: perceptions of Syrian refugees and data experts on relocation algorithm[J]. Information, Communication & Society,2020, 23(8): 1203-1219.

    [19] 彭蘭. 生存、認(rèn)知、關(guān)系:算法將如何改變我們[J]. 新聞界,2021(3):45-53.

    [20] 陳昌鳳,霍婕. 權(quán)力遷移與關(guān)系重構(gòu):新聞媒體與社交平臺的合作轉(zhuǎn)型[J]. 新聞與寫作,2018(4):5.

    [21] 仇筠茜,陳昌鳳. 黑箱:人工智能技術(shù)與新聞生產(chǎn)格局嬗變[J]. 新聞界,2018(1):28-34.

    [22] 張志安,周嘉琳. 基于算法正當(dāng)性的話語建構(gòu)與傳播權(quán)力重構(gòu)研究[J]. 現(xiàn)代傳播,2019(1):30-36,41.

    [23] Trielli D, Diakopoulos N. Partisan search behavior and Google results in the 2018 US midterm elections[J]. Information, Communication & Society, 2020,25(1): 145-161.

    [24] 聶靜虹,宋甲子. 泛化與偏見:算法推薦與健康知識環(huán)境的構(gòu)建研究——以今日頭條為例[J]. 新聞與傳播研究,2020(9):23-42,126.

    [25] 楊洸,佘佳玲. 算法新聞用戶的數(shù)字鴻溝:表現(xiàn)及影響[J]. 現(xiàn)代傳播,2020(4):145-154.

    [26] Zuboff S. Big other: Surveillance Capitalism and the Prospects of an Information Civilization[J]. Journal of Information Technology, 2015, 30(1): 75-89.

    [27] 尚帥. 傳播的興趣偏向和渾然不覺的符號暴力——基于《今日頭條》的算法控制研究[J]. 現(xiàn)代傳播,2018(10):58-62.

    [28] J?rgensen·R.F. Data and rights in the digital welfare state: the case of Denmark[EB/OL].[2022-04-01]. Information, Communication & Society,https://doi.org/10.1080/1369118X.2021.1934069.

    [29] Madianou M. Nonhuman humanitarianism: when "AI for good" can be harmful[J]. Information, Communication & Society, 2021, 24(6): 850-868.

    [30] Kazansky B, Milan S. "Bodies not templates": Contesting dominant algorithmic imaginaries[J]. New Media & Society,2021, 23(2): 363-381.

    [31] Velkova J, Kaun A. Algorithmic resistance: media practices and the politics of repair[J]. Information, Communication & Society, 2021, 24(4): 523-540.

    [32] Cwerman-Thibault H, Sahel·J.A, Corral-Debrinski M. Mitochondrial medicine: to a new era of gene therapy for mitochondrial DNA mutations[J]. Journal of Inherited Metabolic Disease,2011, 34(2): 327-344.

    [33] 毛湛文,孫曌聞. 從“算法神話”到“算法調(diào)節(jié)”:新聞透明性原則在算法分發(fā)平臺的實(shí)踐限度研究[J]. 國際新聞界,2020(7):6-25.

    [34] 吳璟薇,郝潔. 智能新聞生產(chǎn):媒介網(wǎng)絡(luò)、雙重的人及關(guān)系主體的重建[J]. 國際新聞界,2021(2):78-97.

    [35] 徐笛. 算法實(shí)踐中的多義與轉(zhuǎn)義:以新聞推薦算法為例[J]. 新聞大學(xué),2019(12):39-49,120.

    [36] 甘蒞豪,劉欣雨. 維基百科機(jī)器人群體性編纂過程中的知識與話語權(quán)研究[J]. 新聞大學(xué),2021(10):76-93,120.

    [37] Humphry J, Chesher C. Preparing for smart voice assistants: Cultural histories and media innovations[J]. New Media & Society, 2020,23(7): 1971-1988.

    [38] Küster D, Swiderska A, Gunkel D. I saw it on YouTube! How online videos shape perceptions of mind, morality, and fears about robots[J]. New Media & Society, 2020,23(11): 3312-3331.

    [39] 師文,陳昌鳳. 分布與互動模式:社交機(jī)器人操縱Twitter上的中國議題研究[J]. 國際新聞界,2020(5):61-80.

    [40] Guzman·A.L, Lewis·S.C. Artificial intelligence and communication: A Human-Machine Communication research agenda[J]. New Media & Society, 2020, 22(1): 70-86.

    [41] Spence·P.R. Searching for questions, original thoughts, or advancing theory: Human-machine communication[J]. Elsevier, 2019(90): 285-287.

    [42] Coanda I, Auper S. Post-human encounters: Humanising the technological Other in videogames[J]. New Media & Society, 2020, 23(5): 1236-1256.

    [43] Wojcieszak M, Thakur A, Ferreira Gon?alves·J.F, et al. Can AI Enhance People's Support for Online Moderation and Their Openness to Dissimilar Political Views?[J]. Journal of Computer-Mediated Communication, 2021, 26(4): 223-243.

    [44] Gon?alves J,Weber I,Masullo·G.M,et al. Common sense or censorship: How algorithmic moderators and message type influence perceptions of online content deletion[EB/OL].[2022-04-01]. New Media & Society, https://doi.org/10.1177/14614448211032310.

    [45] Liu B. In AI We Trust? Effects of Agency Locus and Transparency on Uncertainty Reduction in Human-AI Interaction[J]. Journal of Computer-Mediated Communication,2021, 26(6): 384-402.

    [46] 宣長春,顏遠(yuǎn)紳,朱怡佳. 寒冷的時候更愛你:消費(fèi)者對擬人化產(chǎn)品態(tài)度的實(shí)證研究[J]. 新聞大學(xué),2021(11):92-104,124-125.

    [47] 韓秀,張洪忠,何康,等. 媒介依賴的遮掩效應(yīng):用戶與社交機(jī)器人的準(zhǔn)社會交往程度越高越感到孤獨(dú)嗎?[J]. 國際新聞界,2021(9):25-48.

    [48] Lou C,Kang H, Tse·C.H. Bots vs humans: how schema congruity, contingency-based interactivity, and sympathy influence consumer perceptions and patronage intentions[EB/OL].[2022-04-01]. International Journal of Advertising, https://doi.org/10.1080/02650487.2021.1951510.

    [49] Dogruel L, Masur P, Joeckel S. Development and validation of an algorithm literacy scale for Internet users[EB/OL].[2022-04-01]. Communication Methods and Measures, https://doi.org/10.1080/19312458.2021.1968361.

    [50] Gran A-B, Booth P, Bucher T. To be or not to be algorithm aware: a question of a new digital divide?[J]. Information, Communication & Society, 2021, 24(12): 1779-1796.

    [51] Fouquaert T, Mechant P. Making curation algorithms apparent: a case study of "Instawareness" as a means to heighten awareness and understanding of Instagram's algorithm[EB/OL].[2022-04-01]. Information, Communication & Society,https://doi.org/10.1080/1369118X.2021.1883707.

    [52] Büchi M, Fosch-Villaronga E, Lutz C, et al. Making sense of algorithmic profiling: user perceptions on Facebook[EB/OL].[2022-04-01]. Information, Communication & Society, https://doi.org/10.1080/1369118X.2021.1989011.

    [53] Joris G, Grove·F.D, Van Damme K. et al. Appreciating News Algorithms: Examining Audiences' Perceptions to Different News Selection Mechanisms[J]. Digital Journalism, 2021, 9(5): 589-618.

    [54] Bishop S. Managing visibility on YouTube through algorithmic gossip[J]. New Media & Society, 2019(21): 2589-2606.

    [55] Pedersen E. "My Videos are at the Mercy of the YouTube Algorithm": How Content Creators Craft Algorithmic Personas and Perceive the Algorithm that Dictates their Work[D]. EECS Department, University of California, Berkeley, 2019.

    [56] Kaun A. Suing the algorithm: the mundanization of automated decision-making in public services through litigation[EB/OL].[2022-04-01]. Information, Communication & Society, https://doi.org/10.1080/1369118X.2021.192482.

    [57] Bucher T. The algorithmic imaginary: exploring the ordinary affects of Facebook algorithms[J]. Information, Communication & Society,2017, 20(1): 30-44.

    [58] Gelman·S.A, Legare·C.H. Concepts and Folk Theories[J]. Annual Review of Anthropology, 2011, 40(1): 379-398.

    [59] Ytre-Arne B, Moe H. Folk theories of algorithms: Understanding digital irritation[J]. Media, Culture & Society, 2021, 43(5): 807-824.

    [60] Trammell A, Cullen·A.L. A cultural approach to algorithmic bias in games[J]. New Media & Society, 2020, 23(1): 159-174.

    [61] Bountouridis D, Makhortykh M, Sullivan E. et al. Annotating Credibility: Identifying and Mitigating Bias in Credibility Datasets[EB/OL].[2022-04-01]. ROME 2019-Workshop on Reducing Online Misinformation Exposure, https://rome2019.github.io/papers/Bountouridis_etal_ROME2019.pdf.

    [62] Obermeyer Z, Powers B, Vogeli C, et al. Dissecting racial bias in an algorithm used to manage the health of populations[J]. Science, 2019, 366(64): 447-453.

    [63] 許麗穎,喻豐. 影響機(jī)器人接受度的因素——道德的作用[C]//中國心理學(xué)會. 第二十二屆全國心理學(xué)學(xué)術(shù)會議摘要集. 2019:2180-2181.

    [64] 白紅義,李拓. 算法的“迷思”:基于新聞分發(fā)平臺“今日頭條”的元新聞話語研究[J]. 新聞大學(xué),2019(1):30-44,117.

    [65] 陳昌鳳,虞鑫. 智能時代的信息價值觀研究:技術(shù)屬性、媒介語境與價值范疇[J]. 編輯之友,2019(6):5-12.

    [66] Hermann E. Artificial intelligence and mass personalization of communication content—An ethical and literacy perspective[EB/OL].[2022-04-01]. New Media & Society,https://doi.org/10.1177/14614448211022702.

    [67] Orr W, Davis·J.L. Attributions of ethical responsibility by Artificial Intelligence practitioners[J]. Information, Communication & Society, 2020, 23(5): 719-735.

    [68] 嚴(yán)三九,袁帆. 局內(nèi)的外人:新聞傳播領(lǐng)域算法工程師的倫理責(zé)任考察[J]. 現(xiàn)代傳播,2019(9): 1-5,12.

    h日本视频在线播放| 看十八女毛片水多多多| 国产精品成人在线| 中国国产av一级| 男插女下体视频免费在线播放| 国产精品伦人一区二区| 亚洲,欧美,日韩| 婷婷色麻豆天堂久久| 国产精品国产三级国产av玫瑰| 色播亚洲综合网| 一级av片app| 国产在线男女| 日韩欧美 国产精品| 亚洲av免费在线观看| 国模一区二区三区四区视频| 直男gayav资源| 免费大片黄手机在线观看| 亚洲精品日韩在线中文字幕| 听说在线观看完整版免费高清| 乱系列少妇在线播放| 亚洲在线观看片| 五月开心婷婷网| 哪个播放器可以免费观看大片| 日韩强制内射视频| 干丝袜人妻中文字幕| 97超碰精品成人国产| 久久久久久九九精品二区国产| 免费不卡的大黄色大毛片视频在线观看| 色播亚洲综合网| 国产欧美日韩一区二区三区在线 | 美女国产视频在线观看| 国语对白做爰xxxⅹ性视频网站| 国产爽快片一区二区三区| 高清视频免费观看一区二区| 国产一区二区在线观看日韩| 美女xxoo啪啪120秒动态图| 最近的中文字幕免费完整| 99热这里只有是精品50| 午夜福利网站1000一区二区三区| 97在线视频观看| 麻豆成人午夜福利视频| 国产又色又爽无遮挡免| 久久国产乱子免费精品| 久久99热这里只频精品6学生| 天堂俺去俺来也www色官网| 看黄色毛片网站| 在线观看av片永久免费下载| 亚洲最大成人av| 韩国av在线不卡| 波多野结衣巨乳人妻| 边亲边吃奶的免费视频| 97在线视频观看| 亚洲成人久久爱视频| 国产淫语在线视频| 在线观看av片永久免费下载| 美女xxoo啪啪120秒动态图| 美女高潮的动态| 亚洲国产精品999| 亚洲精品久久久久久婷婷小说| 成人特级av手机在线观看| 国产片特级美女逼逼视频| 免费少妇av软件| 永久网站在线| 五月玫瑰六月丁香| 97精品久久久久久久久久精品| 免费大片18禁| 国产69精品久久久久777片| 国产午夜精品一二区理论片| 深夜a级毛片| 国产综合精华液| 国产精品伦人一区二区| 亚洲成人av在线免费| 七月丁香在线播放| 五月天丁香电影| 99久久精品一区二区三区| 中文字幕av成人在线电影| 91久久精品国产一区二区三区| 少妇 在线观看| 亚洲精品一二三| 日本与韩国留学比较| 天美传媒精品一区二区| 精品亚洲乱码少妇综合久久| 国产有黄有色有爽视频| 一级毛片电影观看| 欧美成人精品欧美一级黄| 天天一区二区日本电影三级| 国内揄拍国产精品人妻在线| 亚洲最大成人手机在线| 欧美潮喷喷水| 亚洲成人精品中文字幕电影| 一二三四中文在线观看免费高清| 99久久人妻综合| 最近中文字幕2019免费版| 亚洲av.av天堂| 日韩免费高清中文字幕av| 极品少妇高潮喷水抽搐| 精品人妻偷拍中文字幕| 午夜亚洲福利在线播放| 直男gayav资源| 亚洲国产高清在线一区二区三| 欧美精品国产亚洲| 色视频www国产| 日本熟妇午夜| 成人国产麻豆网| 亚洲国产最新在线播放| 久久这里有精品视频免费| 亚洲激情五月婷婷啪啪| 亚洲aⅴ乱码一区二区在线播放| 精品亚洲乱码少妇综合久久| 三级国产精品欧美在线观看| 久久影院123| 蜜桃亚洲精品一区二区三区| 全区人妻精品视频| 日本猛色少妇xxxxx猛交久久| 水蜜桃什么品种好| 九草在线视频观看| 啦啦啦在线观看免费高清www| 丝袜脚勾引网站| 欧美高清成人免费视频www| av播播在线观看一区| 最近中文字幕高清免费大全6| 狠狠精品人妻久久久久久综合| 国产高清不卡午夜福利| 欧美国产精品一级二级三级 | 色婷婷久久久亚洲欧美| 内射极品少妇av片p| 日韩不卡一区二区三区视频在线| 国产 精品1| 欧美老熟妇乱子伦牲交| 高清日韩中文字幕在线| 久久精品夜色国产| 国产白丝娇喘喷水9色精品| 亚洲av男天堂| 亚洲精品成人av观看孕妇| 99re6热这里在线精品视频| 搡女人真爽免费视频火全软件| 美女cb高潮喷水在线观看| 国产淫语在线视频| 26uuu在线亚洲综合色| 一区二区三区免费毛片| 小蜜桃在线观看免费完整版高清| 精华霜和精华液先用哪个| 国产精品久久久久久av不卡| 亚洲av中文字字幕乱码综合| 欧美日韩视频精品一区| 亚洲精品日本国产第一区| 人人妻人人看人人澡| av免费观看日本| 能在线免费看毛片的网站| 国产欧美日韩精品一区二区| eeuss影院久久| 成人无遮挡网站| 成年女人在线观看亚洲视频 | 久久精品国产a三级三级三级| 精品熟女少妇av免费看| 久久久久久久精品精品| 日日啪夜夜爽| 国产精品偷伦视频观看了| 国产免费视频播放在线视频| 欧美一级a爱片免费观看看| 国产极品天堂在线| 久久久久九九精品影院| 欧美激情国产日韩精品一区| 五月玫瑰六月丁香| 蜜桃亚洲精品一区二区三区| 91久久精品电影网| 欧美成人a在线观看| 中文字幕久久专区| 日韩不卡一区二区三区视频在线| 国产中年淑女户外野战色| 免费大片黄手机在线观看| 日韩三级伦理在线观看| 18禁动态无遮挡网站| 免费观看在线日韩| av国产精品久久久久影院| 观看免费一级毛片| 欧美日韩视频精品一区| 午夜爱爱视频在线播放| 国产黄片美女视频| 99九九线精品视频在线观看视频| 日本一本二区三区精品| 欧美亚洲 丝袜 人妻 在线| 亚洲高清免费不卡视频| 亚洲国产精品999| 九九久久精品国产亚洲av麻豆| 亚洲精品日本国产第一区| 精品少妇黑人巨大在线播放| 九色成人免费人妻av| 婷婷色av中文字幕| 日韩欧美 国产精品| 69人妻影院| av在线老鸭窝| av播播在线观看一区| 亚洲综合精品二区| 一个人看视频在线观看www免费| 一本色道久久久久久精品综合| 亚洲精品第二区| 免费av不卡在线播放| 国产一区二区亚洲精品在线观看| 狠狠精品人妻久久久久久综合| 交换朋友夫妻互换小说| 亚洲国产最新在线播放| 日韩,欧美,国产一区二区三区| av又黄又爽大尺度在线免费看| 天堂俺去俺来也www色官网| 久久久久久久久久人人人人人人| 国产精品女同一区二区软件| 欧美潮喷喷水| 久久99热这里只有精品18| 丝袜脚勾引网站| 五月开心婷婷网| 国产一区二区亚洲精品在线观看| 亚洲精品乱码久久久v下载方式| 中文天堂在线官网| 一本久久精品| 国产伦在线观看视频一区| 真实男女啪啪啪动态图| 久久精品久久久久久噜噜老黄| 男人爽女人下面视频在线观看| 亚洲在久久综合| 国产精品人妻久久久影院| 国产69精品久久久久777片| 欧美三级亚洲精品| 国产成人a∨麻豆精品| 亚洲人成网站高清观看| 肉色欧美久久久久久久蜜桃 | 亚洲精品乱久久久久久| 少妇猛男粗大的猛烈进出视频 | 人妻一区二区av| eeuss影院久久| 婷婷色综合www| 国产中年淑女户外野战色| 特级一级黄色大片| 草草在线视频免费看| av卡一久久| 成人美女网站在线观看视频| 日韩欧美 国产精品| 综合色av麻豆| 成人鲁丝片一二三区免费| 日韩,欧美,国产一区二区三区| 26uuu在线亚洲综合色| av国产久精品久网站免费入址| tube8黄色片| 久久久久久九九精品二区国产| 国产精品爽爽va在线观看网站| 久久精品久久久久久久性| 五月开心婷婷网| av免费在线看不卡| 午夜老司机福利剧场| 亚洲av成人精品一区久久| 亚洲欧美一区二区三区黑人 | 99热这里只有是精品50| 欧美精品一区二区大全| 国产高清国产精品国产三级 | 99久久人妻综合| 熟女电影av网| 一级a做视频免费观看| 在现免费观看毛片| 精品久久久久久久人妻蜜臀av| 亚洲精品,欧美精品| 女人十人毛片免费观看3o分钟| 免费黄网站久久成人精品| 亚洲色图av天堂| 色吧在线观看| 成人无遮挡网站| 亚洲美女搞黄在线观看| 精品国产一区二区三区久久久樱花 | 久久久久精品性色| 赤兔流量卡办理| 亚洲欧美日韩无卡精品| 久久6这里有精品| 久久久久久久国产电影| 美女脱内裤让男人舔精品视频| 国产精品人妻久久久影院| 久久精品夜色国产| 内射极品少妇av片p| 婷婷色综合大香蕉| 一区二区三区免费毛片| 别揉我奶头 嗯啊视频| 成年女人看的毛片在线观看| 国产精品久久久久久精品电影| 国语对白做爰xxxⅹ性视频网站| 午夜精品一区二区三区免费看| 国产高潮美女av| 激情 狠狠 欧美| 晚上一个人看的免费电影| 亚洲成人av在线免费| 久久久久久国产a免费观看| 亚洲av不卡在线观看| av.在线天堂| 久久人人爽人人爽人人片va| 国产精品熟女久久久久浪| 午夜视频国产福利| 亚洲激情五月婷婷啪啪| 听说在线观看完整版免费高清| 中文字幕制服av| 国产av码专区亚洲av| 色哟哟·www| 男人狂女人下面高潮的视频| 国产探花极品一区二区| 亚洲真实伦在线观看| 69人妻影院| 新久久久久国产一级毛片| 国产免费一级a男人的天堂| 久久久精品欧美日韩精品| 成人鲁丝片一二三区免费| 人人妻人人澡人人爽人人夜夜| 一本色道久久久久久精品综合| 久久久久网色| 日日摸夜夜添夜夜添av毛片| 少妇被粗大猛烈的视频| 亚洲综合精品二区| 亚洲av中文字字幕乱码综合| 亚洲第一区二区三区不卡| 国产精品精品国产色婷婷| 日韩一区二区三区影片| 亚洲无线观看免费| 哪个播放器可以免费观看大片| 午夜福利视频1000在线观看| 久久亚洲国产成人精品v| 国产伦精品一区二区三区视频9| 午夜爱爱视频在线播放| 欧美潮喷喷水| 91aial.com中文字幕在线观看| 一区二区三区免费毛片| 亚洲丝袜综合中文字幕| 免费看a级黄色片| 一本色道久久久久久精品综合| 国产美女午夜福利| 亚洲最大成人中文| 一本色道久久久久久精品综合| 国产精品一二三区在线看| 99久久九九国产精品国产免费| 亚洲精品色激情综合| 一级黄片播放器| 免费av不卡在线播放| 日本猛色少妇xxxxx猛交久久| 久久精品久久久久久久性| 人体艺术视频欧美日本| 亚洲国产欧美人成| 性色av一级| 国产av码专区亚洲av| 我要看日韩黄色一级片| av线在线观看网站| 久久热精品热| 国产高清有码在线观看视频| 乱码一卡2卡4卡精品| 亚洲精品日韩在线中文字幕| 一区二区三区免费毛片| 免费人成在线观看视频色| 最新中文字幕久久久久| 国产人妻一区二区三区在| 日本猛色少妇xxxxx猛交久久| 性色av一级| 制服丝袜香蕉在线| 99九九线精品视频在线观看视频| 亚洲精品一区蜜桃| 午夜免费男女啪啪视频观看| 男女下面进入的视频免费午夜| 国产在视频线精品| 亚洲人成网站在线观看播放| 亚洲欧美成人综合另类久久久| 国产老妇伦熟女老妇高清| 黄色配什么色好看| 97超视频在线观看视频| 热re99久久精品国产66热6| 亚洲第一区二区三区不卡| 国产精品女同一区二区软件| 丝袜喷水一区| 日产精品乱码卡一卡2卡三| 国语对白做爰xxxⅹ性视频网站| 亚洲国产精品999| 亚洲精品色激情综合| 女的被弄到高潮叫床怎么办| 成人毛片60女人毛片免费| 久久97久久精品| 青春草视频在线免费观看| 亚洲欧洲国产日韩| 亚洲成人久久爱视频| 欧美最新免费一区二区三区| 国产高清国产精品国产三级 | 亚洲av免费高清在线观看| 十八禁网站网址无遮挡 | 高清av免费在线| 天堂俺去俺来也www色官网| 久久久久久久久久久免费av| 欧美另类一区| 亚洲不卡免费看| 国产黄频视频在线观看| 精品久久久久久久末码| 国产午夜精品一二区理论片| 亚洲国产精品专区欧美| 韩国av在线不卡| 精品熟女少妇av免费看| 啦啦啦中文免费视频观看日本| 精品一区二区三卡| 男女下面进入的视频免费午夜| 国产成人aa在线观看| 夫妻性生交免费视频一级片| 青春草亚洲视频在线观看| 久久久a久久爽久久v久久| 少妇人妻一区二区三区视频| 久久久久网色| 免费av不卡在线播放| 青青草视频在线视频观看| 联通29元200g的流量卡| av国产免费在线观看| 亚洲四区av| 欧美激情国产日韩精品一区| 亚洲av免费在线观看| 香蕉精品网在线| 欧美精品人与动牲交sv欧美| 男男h啪啪无遮挡| 国产在线男女| 日韩制服骚丝袜av| 麻豆精品久久久久久蜜桃| 天堂中文最新版在线下载 | 三级国产精品片| 欧美日韩一区二区视频在线观看视频在线 | 久久精品综合一区二区三区| 极品少妇高潮喷水抽搐| 街头女战士在线观看网站| 亚洲国产色片| 国产精品一区二区在线观看99| 青春草亚洲视频在线观看| 国产色爽女视频免费观看| 亚洲欧美精品专区久久| 成年人午夜在线观看视频| 国产黄片美女视频| 超碰av人人做人人爽久久| 久久精品熟女亚洲av麻豆精品| 成人国产麻豆网| 国产亚洲一区二区精品| 欧美精品一区二区大全| 亚洲va在线va天堂va国产| 女人久久www免费人成看片| 听说在线观看完整版免费高清| 国产大屁股一区二区在线视频| 少妇丰满av| 免费黄色在线免费观看| 国产成人精品久久久久久| 一二三四中文在线观看免费高清| 午夜免费男女啪啪视频观看| 在线观看三级黄色| 亚洲精品一区蜜桃| eeuss影院久久| 午夜激情福利司机影院| 亚洲第一区二区三区不卡| 大片免费播放器 马上看| 免费av观看视频| 精品久久久久久久久av| 国产 一区 欧美 日韩| 日本wwww免费看| 亚洲久久久久久中文字幕| av免费观看日本| 性色av一级| av在线观看视频网站免费| 哪个播放器可以免费观看大片| 国产精品麻豆人妻色哟哟久久| 久久精品国产自在天天线| 99热这里只有是精品在线观看| 午夜福利网站1000一区二区三区| 一区二区三区免费毛片| 日本熟妇午夜| 男女边吃奶边做爰视频| 欧美极品一区二区三区四区| 国产精品成人在线| 精品人妻熟女av久视频| 永久网站在线| 久久久久九九精品影院| 伦理电影大哥的女人| 欧美性感艳星| 日韩在线高清观看一区二区三区| 97人妻精品一区二区三区麻豆| 久久人人爽人人片av| 男的添女的下面高潮视频| 日本欧美国产在线视频| 插逼视频在线观看| 六月丁香七月| 不卡视频在线观看欧美| 日韩强制内射视频| 成人午夜精彩视频在线观看| 在线观看三级黄色| 国产 一区 欧美 日韩| 菩萨蛮人人尽说江南好唐韦庄| 国产一级毛片在线| 国产亚洲5aaaaa淫片| 亚洲欧美一区二区三区国产| 亚洲欧美一区二区三区黑人 | 国产日韩欧美在线精品| 久久久久久伊人网av| 内地一区二区视频在线| 制服丝袜香蕉在线| 婷婷色综合www| 国产av码专区亚洲av| 王馨瑶露胸无遮挡在线观看| 成人高潮视频无遮挡免费网站| 舔av片在线| 亚洲欧美成人精品一区二区| 一级a做视频免费观看| 在线观看一区二区三区激情| 色吧在线观看| 欧美极品一区二区三区四区| 免费观看a级毛片全部| 天堂俺去俺来也www色官网| 婷婷色麻豆天堂久久| 国产中年淑女户外野战色| 精品人妻偷拍中文字幕| 国产老妇伦熟女老妇高清| 亚洲欧美一区二区三区黑人 | 欧美+日韩+精品| 国产综合精华液| 久久精品国产亚洲av涩爱| 久久精品久久精品一区二区三区| 亚洲欧美日韩东京热| 国产成人免费无遮挡视频| 成人免费观看视频高清| 久久韩国三级中文字幕| 伊人久久精品亚洲午夜| 啦啦啦中文免费视频观看日本| 久久鲁丝午夜福利片| 青青草视频在线视频观看| 国产午夜精品一二区理论片| 国产一区二区亚洲精品在线观看| 精品久久久久久久人妻蜜臀av| 亚洲精品国产色婷婷电影| 午夜视频国产福利| 欧美少妇被猛烈插入视频| 日韩一区二区视频免费看| 国产一区二区亚洲精品在线观看| av专区在线播放| 久久久久久久午夜电影| 在线播放无遮挡| 亚洲精品久久午夜乱码| 日本熟妇午夜| 大片免费播放器 马上看| 99精国产麻豆久久婷婷| 日韩免费高清中文字幕av| 肉色欧美久久久久久久蜜桃 | 精品国产露脸久久av麻豆| 午夜福利视频1000在线观看| 亚洲欧美一区二区三区黑人 | 亚洲成人av在线免费| 最后的刺客免费高清国语| 在线天堂最新版资源| 男人和女人高潮做爰伦理| 日韩欧美 国产精品| 日韩 亚洲 欧美在线| 亚洲精品日韩在线中文字幕| 日韩一区二区三区影片| 中文欧美无线码| 欧美成人精品欧美一级黄| 搡女人真爽免费视频火全软件| av黄色大香蕉| 亚洲一级一片aⅴ在线观看| 久久久久久久亚洲中文字幕| 久久精品国产自在天天线| 又爽又黄a免费视频| 亚洲自偷自拍三级| 欧美潮喷喷水| 一级毛片电影观看| 亚洲无线观看免费| 日日摸夜夜添夜夜爱| 三级男女做爰猛烈吃奶摸视频| 日本一二三区视频观看| 国产熟女欧美一区二区| 99久久精品国产国产毛片| 国产女主播在线喷水免费视频网站| 亚洲精品成人av观看孕妇| 亚洲成人精品中文字幕电影| 亚洲av不卡在线观看| 国产成人免费观看mmmm| 青春草视频在线免费观看| 我要看日韩黄色一级片| 久久精品国产亚洲av涩爱| 91精品伊人久久大香线蕉| 高清午夜精品一区二区三区| 男人爽女人下面视频在线观看| 男人舔奶头视频| 啦啦啦啦在线视频资源| av国产免费在线观看| 国产在线一区二区三区精| 国产精品人妻久久久影院| 精品久久久久久久人妻蜜臀av| 在线观看美女被高潮喷水网站| 国产白丝娇喘喷水9色精品| 春色校园在线视频观看| 国产免费一级a男人的天堂| 最近的中文字幕免费完整| 亚洲成人精品中文字幕电影| 国产欧美日韩一区二区三区在线 | 亚洲国产最新在线播放| 1000部很黄的大片| 亚洲精品成人av观看孕妇| 日本午夜av视频| 免费黄频网站在线观看国产| 色哟哟·www| 欧美+日韩+精品| 91精品伊人久久大香线蕉| 大话2 男鬼变身卡| 免费在线观看成人毛片| 黄片wwwwww| 日日啪夜夜爽| 精品久久国产蜜桃| 一个人看视频在线观看www免费| 日韩欧美精品免费久久| av网站免费在线观看视频| 欧美丝袜亚洲另类| 免费看a级黄色片| 高清毛片免费看| 亚洲av福利一区| 亚洲性久久影院| 亚洲国产最新在线播放| 两个人的视频大全免费| 麻豆精品久久久久久蜜桃|