• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    局內(nèi)的外人:新聞傳播領(lǐng)域算法工程師的倫理責(zé)任考察*

    2019-10-11 01:26:12嚴(yán)三九
    關(guān)鍵詞:工程師均值倫理

    ■ 嚴(yán)三九 袁 帆

    近些年人工智能深入新聞業(yè)態(tài),促成了新聞傳播領(lǐng)域的算法轉(zhuǎn)向。在此轉(zhuǎn)向中,傳統(tǒng)新聞資訊生產(chǎn)、傳播方式被突破,自動(dòng)化、個(gè)性化特征日益凸顯。但需要注意的是,算法并沒有同新聞傳播生態(tài)完成有機(jī)結(jié)合,它導(dǎo)致了諸如信息繭房、價(jià)值觀異化、權(quán)益侵犯等諸多問題。面對這些問題,已經(jīng)有學(xué)者開始從倫理視角予以解讀和應(yīng)對。譬如邁克·安妮(Mike Ananny)和泰斯·斯洛特(Thijs Slot)著重從算法倫理角度對這些問題予以規(guī)制;尼古拉斯·迪亞科普洛斯(Nicholas Diakopoulos)等則是采取構(gòu)建算法透明機(jī)制予以應(yīng)對??烧缋账裕魏渭夹g(shù)潛力都是由人來實(shí)現(xiàn)的,①算法引發(fā)的各種問題最終都是由人造成的。由此,想要真正解決算法在新聞傳播領(lǐng)域引發(fā)的倫理問題,不能僅以亡羊補(bǔ)牢的方式從問題“下游”著手,而是得從“上游”出發(fā),從人出發(fā)。于是,算法的直接設(shè)計(jì)者——算法工程師便是不可忽略的研究對象。目前新聞傳播領(lǐng)域中,針對算法工程師的研究較為有限,更多的是將目光聚焦于算法平臺。而本文選擇將算法工程師作為研究對象,以期能夠了解算法工程師在承擔(dān)倫理責(zé)任時(shí)的自我定位,通過促動(dòng)算法工程師主動(dòng)承擔(dān)倫理責(zé)任來規(guī)范其相關(guān)行為,繼而預(yù)防新聞傳播領(lǐng)域中算法引發(fā)的諸多倫理失范問題,達(dá)到算法技術(shù)同新聞傳播生態(tài)間更有效的結(jié)合。

    一、算法工程師:算法的關(guān)鍵責(zé)任人

    1.算法:非中立的技術(shù)

    在麥克盧漢看來,媒介技術(shù)是人身體的延伸,而電磁技術(shù)則是人中樞神經(jīng)的延伸。無論是以深度學(xué)習(xí)為基礎(chǔ)的自動(dòng)化生產(chǎn),如聯(lián)社的Wordsmith、騰訊的Dreamwriter,還是以推薦算法為主流的內(nèi)容分發(fā),如News Republic、今日頭條,它們實(shí)質(zhì)上都是對人在生產(chǎn)、獲取、分發(fā)信息過程中各環(huán)節(jié)思維方式的模擬。對于這種算法模擬,諸如臉書、今日頭條都曾以“技術(shù)中立”為其辯護(hù),聲稱其并無價(jià)值負(fù)載。那么,算法真的是中立的嗎?

    媒介生態(tài)學(xué)者蘭斯·斯塔拉特(Lance Strate)認(rèn)為,如果技術(shù)導(dǎo)致變化,只要該變化不是中立的,該技術(shù)也就不是中立的。②算法亦是如此。自從算法被大規(guī)模應(yīng)用以來,新聞傳播領(lǐng)域出現(xiàn)了兩個(gè)質(zhì)的變化:一方面,機(jī)器協(xié)作下的資訊生產(chǎn)、分發(fā)模式成為一大主流;另一方面,新型資訊聚合平臺成為后起之秀。在前一個(gè)變化過程中,算法雖推動(dòng)了信息生產(chǎn)、傳播的速度,卻也常常與偏見、歧視、侵權(quán)等一系列帶有負(fù)面價(jià)值的詞匯聯(lián)系在一起;在后一個(gè)變化過程中,平臺享受著技術(shù)帶來的盈利,卻未能對算法可能造成的負(fù)面影響進(jìn)行提前規(guī)避。由此看來,在算法帶來的變化中,正、負(fù)影響并不是能夠相互抵消,進(jìn)而保持絕對均衡發(fā)展的。與此同時(shí),技術(shù)本身又是存在偏向的。如同槍支,無論如何使用,它都具有暴力偏向。類似的,在大數(shù)據(jù)時(shí)代,算法無論如何應(yīng)用,在其被設(shè)計(jì)出來的那一刻起,就已經(jīng)具備了控制偏向。這種控制偏向表現(xiàn)為算法沒有向用戶提供無限的選擇而是標(biāo)記了必然,它窄化了什么是可以選擇的這一問題的答案。由此,算法可能在本體論意義上是具有中立性與客觀性的,但是在大眾傳播系統(tǒng)中的絕對中立性卻是一個(gè)偽命題。③

    2.算法工程師:關(guān)鍵的責(zé)任主體

    那么,對于非中立的算法技術(shù),誰能夠影響它并決定它的價(jià)值走向呢?以往,我們普遍認(rèn)為平臺和產(chǎn)品經(jīng)理對算法提出了要求,因此算法的價(jià)值走向取決于平臺所需。于是每當(dāng)算法及平臺出現(xiàn)負(fù)面事件,如今日頭條因爬蟲侵權(quán)屢次被訴時(shí),臉書泄密門事件被曝光時(shí),平臺及負(fù)責(zé)人作為代表成為了被告或者道歉者。但透過平臺往背后追溯,有一個(gè)群體是不能被忽略的,那就是算法工程師。他們作為當(dāng)下算法資訊平臺中掌握關(guān)鍵技術(shù)的群體,卻在諸多事件中處于失聲狀態(tài),在人們的視線中處于隱匿狀態(tài),成為了最神秘的那撥人。

    實(shí)際上,由于“專業(yè)鴻溝”的存在,一開始就已經(jīng)劃分出有能力解讀算法的人和無能力解讀算法的人。有能力的人即算法工程師,他們有著不同的價(jià)值觀念,在實(shí)現(xiàn)目標(biāo)功能的過程中,會選擇不同的算法來解決問題。也正是在這個(gè)過程中,算法工程師自身的價(jià)值偏向會有意識、無意識地被輸入到算法之中。譬如2016年一場AI網(wǎng)絡(luò)選美大賽中,最終獲獎(jiǎng)?wù)叽蟛糠譃榘兹耍辉倨┤绻雀柙o黑人程序員的自拍照打上了“大猩猩”標(biāo)簽。這些算法偏見主要來源于兩點(diǎn):一是人的偏見,二是訓(xùn)練數(shù)據(jù)中固有偏見。但即便算法工程師盡可能地避免自身偏見的載入,對訓(xùn)練數(shù)據(jù)中的偏見無甄別、無糾正,在某種程度上就是對偏見不敏感或者說默許偏見發(fā)生的表現(xiàn)。因此,正如楊保軍在界定智能新聞倫理責(zé)任主體時(shí)所認(rèn)為的那樣,軟件的開發(fā)者和使用者是首要責(zé)任主體。④然而,大多數(shù)情況下,算法工程師是兼具開發(fā)者、使用者兩種角色。這種雙重角色雖然沒有賦予算法工程師像醫(yī)生或者律師那樣的社會地位,但是隨著信息技術(shù)施用領(lǐng)域的拓展,他們經(jīng)常發(fā)現(xiàn)自己確實(shí)有著高于老板、客戶、工作人員和大眾的權(quán)力,這種權(quán)力很容易被那些無所顧忌或易受誘惑的人所濫用。⑤所以算法工程師才是直接有能力使用算法、調(diào)整算法、預(yù)設(shè)算法未來走向的人。

    介于以上各點(diǎn),面對算法在新聞傳播領(lǐng)域中引發(fā)的諸多倫理問題,算法工程師自然不能置身于事外,需要承擔(dān)起自己應(yīng)盡的義務(wù)與責(zé)任。這些義務(wù)與責(zé)任包括但不僅限于:了解自身所設(shè)計(jì)算法引發(fā)的倫理問題,增強(qiáng)對可能產(chǎn)生問題的敏感性,積極主動(dòng)地參與到算法優(yōu)化任務(wù)之中等。由此,本研究將目光聚焦于新聞傳播領(lǐng)域中的算法工程師,考察不同的算法工程師如何認(rèn)識算法所引發(fā)的倫理問題,以何種態(tài)度對待該些問題,又是否愿意承擔(dān)起改善這些倫理問題的責(zé)任與義務(wù)。

    二、研究假設(shè)與研究對象

    為了回答以上問題,本研究通過問卷調(diào)查和訪談法對算法工程師進(jìn)行測量與分析。本文假設(shè)新聞傳播領(lǐng)域中的算法工程師對算法引發(fā)的倫理問題有著不同的觀點(diǎn)與態(tài)度。在以往的研究中個(gè)體差異,如年齡等會直接影響人們對事物的認(rèn)知。并且在一般情況下,對一個(gè)問題越是了解,越能明確知曉其危害性。此外,對風(fēng)險(xiǎn)事件的感知又會影響到個(gè)體的態(tài)度與行為。⑥也就是說,對算法倫理問題的了解程度某種程度上會影響算法工程師會如何繼續(xù)對待這些問題,是傾向于改進(jìn)還是傾向于保持現(xiàn)狀、不做改變。由此,本文提出如下假設(shè):

    假設(shè)一:資深算法工程師比年輕算法工程師對算法倫理問題的了解程度更深。

    假設(shè)二:對算法倫理問題了解越多的工程師其所感受到的威脅性更為強(qiáng)烈。

    假設(shè)三:對算法倫理問題了解越多的工程師更有意愿去改進(jìn)該些問題。

    為了驗(yàn)證以上假設(shè),本次研究采用問卷調(diào)查為主,深度訪問為輔的方式。在進(jìn)行問卷設(shè)計(jì)、發(fā)放之前,作者對前期接觸的后端算法工程師進(jìn)行了25-35分鐘不等的線上或線下訪問。然后根據(jù)深訪結(jié)合文獻(xiàn),此次調(diào)查問卷由四個(gè)部分構(gòu)成:一是對算法引發(fā)倫理問題的了解程度;二是對算法倫理問題威脅性感受程度;三是對改善算法引發(fā)倫理問題的意愿傾向;四是受訪者人口統(tǒng)計(jì)學(xué)變量,包括性別、年齡、受教育程度、從業(yè)時(shí)長及任職時(shí)長等。⑦為方便統(tǒng)計(jì),問卷統(tǒng)一采取五級量表形式。

    需要強(qiáng)調(diào)的是此次研究目的不在于進(jìn)行深入的實(shí)證研究,僅限于一種探針式考察。調(diào)查于2019年1月11日至4月27日進(jìn)行,經(jīng)前期接觸及深訪對象以滾雪球抽樣方式采集數(shù)據(jù)。通過互聯(lián)網(wǎng)向百度、字節(jié)跳動(dòng)、快手科技三家主要互聯(lián)網(wǎng)企業(yè)中推薦算法等相關(guān)后端算法工程師發(fā)放問卷。此次樣本企業(yè)的選擇考慮到以下因素:首先,集中在北京是由于其本就是互聯(lián)網(wǎng)企業(yè)集中城市,在北京的互聯(lián)網(wǎng)企業(yè)數(shù)量占了我國互聯(lián)網(wǎng)企業(yè)數(shù)量的半壁江山;其次,百度、字節(jié)跳動(dòng)、快手科技旗下都有算法產(chǎn)品引發(fā)過負(fù)面事件,也是算法倫理批判的主要平臺。此次調(diào)查共發(fā)放250份,排除無效問卷后最終有效問卷206份,回收率為82.4%。經(jīng)統(tǒng)計(jì),參與此次調(diào)查的研究對象基本特征如下:

    本次調(diào)查對象男性達(dá)192人占比約為93.20%,女性14人,占比約為6.80%,性別比約為14∶1。根據(jù)程序員客棧2019年中國程序員調(diào)查顯示2019年我國程序員群體男女比例為93.3%∶6.1%,接近15∶1。⑧由此,此次調(diào)查比較符合目前算法工程師群體以男性為主,女性占極少數(shù)的現(xiàn)實(shí)狀況。年齡普遍在21-35歲,平均年齡在27歲左右,符合現(xiàn)階段程序年齡分布實(shí)際。從教育水平來看,研究生占比57.1%,本科生占比35.8%,大專及以下占比7.1%;在從業(yè)時(shí)長上,1年以下占28.42%比,1-5年占比43.47%,6-10年占比17.70%,11年及以上占比10.41%;任職時(shí)長上,1年以下占比36.46%,1-2年占比47.92%,3-4年13.54%,5年及以上2.08%。整體來說,本研究的調(diào)查對象基本符合目前算法工程師群體的人口特征和社會特征。

    三、對算法倫理問題的了解

    在深訪階段,筆者列舉了“算法不透明”“算法歧視與不公”“算法黑箱”“算法侵權(quán)”“信息繭房”“過濾氣泡”“回音室效應(yīng)”“群體極化”“娛樂至死”“算法霸權(quán)”十個(gè)關(guān)鍵詞匯來了解受訪者對算法倫理問題的基本認(rèn)知情況。讓人意外的是,受訪對象大部分都表示并不是十分了解該些詞匯,甚至有算法工程師使用了“聞所未聞”一詞來進(jìn)行回答。而當(dāng)問及是否知曉“魏則西事件”時(shí),大部分受訪者表示知曉。因此,在對算法工程師進(jìn)行考察時(shí),除了以上列舉的十個(gè)關(guān)鍵,問卷還設(shè)置了5個(gè)熱點(diǎn)事件包括“‘魏則西’事件”“今日頭條侵權(quán)被訴”“人民網(wǎng)三評算法推薦”“Facebook偏見門”“快手、抖音等短視頻整改”。

    經(jīng)統(tǒng)計(jì),算法工程師對新聞傳播領(lǐng)域有關(guān)算法倫理詞匯的了解程度一般,整體均值為3.02。其中有五項(xiàng)均值在中值3以下,分別為“信息繭房”(M=2.47,SD=0.72)、“過濾氣泡”(M=2.74,SD=0.93)、“回音室效應(yīng)”(M=2.69,SD=0.84)、“娛樂至死”(M=2.79,SD=0.81)、“算法霸權(quán)”(M=2.76,SD=1.12),基本可以歸納為被訪者對此些詞匯不了解。均值高于3的五項(xiàng)有“算法透明”(M=3.69,SD=0.97)、“算法黑箱”(M=3.65,SD=1.01)、“算法侵權(quán)”(M=3.15,SD=0.93)、“算法歧視”(M=3.14,SD=1.02)、“群體極化”(M=3.07,SD=1.13)。其中“信息繭房”一項(xiàng),無論是均值還是標(biāo)準(zhǔn)差都是最小,說明算法工程師整體對這一詞匯都處于不太了解的狀態(tài)。此外,受訪者對算法引發(fā)的熱點(diǎn)事件的了解程度整體均值為3.75。以中值3為標(biāo)準(zhǔn),只有“人民網(wǎng)三評算法推薦”(M=2.73,SD=0.86)均值低于3。其余四項(xiàng)均值高于3,其中“‘魏則西’事件”(M=4.21,SD=0.81)、“今日頭條侵權(quán)被訴”(M=4.10,SD=0.84)兩項(xiàng)均值高于4;“臉書偏見門”(M=3.82,SD=0.96),“快手、抖音整改”(M=3.87,SD=0.85)。從標(biāo)準(zhǔn)差看,五件熱點(diǎn)事件標(biāo)準(zhǔn)差均在1以下,說明算法工程師內(nèi)部對該五項(xiàng)事件的了解程度較為一致。

    可見,算法工程師對算法倫理的了解僅停留于表層。僅留意了一些“事件性”信息,而對于一些“專業(yè)性”信息則不知曉。尤其研究中“信息繭房”“信息窄化”等專業(yè)術(shù)語作為新聞傳播領(lǐng)域?qū)λ惴▊惱韱栴}批判中最常提及的話題,在算法工程師眼里卻是最陌生的詞匯,說明被訪者與新聞傳播領(lǐng)域間存在相對較大的隔閡,來自新聞傳播領(lǐng)域的算法倫理批判并沒有對算法工程師產(chǎn)生切實(shí)影響。

    另外,研究以從業(yè)時(shí)間和任職時(shí)間來界定算法工程師的資歷,通過算法工程師的從業(yè)時(shí)長、任職時(shí)長與算法倫理問題了解間進(jìn)行交叉分析。將倫理問題了解程度的均值區(qū)間設(shè)置為1.00-1.99,2.00-2.99,3.00-3.99,4.00-4.99以方便考察(見表1、2)。

    表1 從業(yè)時(shí)長與倫理問題了解的交叉分析

    表2 任職時(shí)長與倫理問題了解的交叉分析

    由表1、表2可知,從業(yè)時(shí)長在1年以下的算法工程師對算法倫理問題的認(rèn)知均值集中在3.00-3.99;從業(yè)大于1年的算法工程師一半以上集中在3.00以下。任職時(shí)長1年以下的算法程師對算法倫理問題的認(rèn)知均值集中在1.00-1.99,但隨著在同一企業(yè)任職時(shí)間的增長,認(rèn)知均值逐漸集中于3.00-3.99之間。此外,研究通過皮爾森簡單相關(guān)系數(shù)驗(yàn)證了算法工程師的從業(yè)時(shí)長與倫理問題認(rèn)識(r=-0.344,p<0.01)、任職時(shí)長與倫理問題認(rèn)識(r=0.628,p<0.01)均成顯著相關(guān)。

    綜上,本研究假設(shè)一需要調(diào)整為“在同一新聞傳播領(lǐng)域相關(guān)企業(yè)中任職時(shí)間越長的算法工程師會比任職時(shí)間短的算法工程師更了解算法在新聞傳播領(lǐng)域中引發(fā)的倫理問題”。

    四、對算法倫理問題威脅性的評估

    瑪利亞·莉瑪曾指出技術(shù)越是發(fā)展,風(fēng)險(xiǎn)感知越低,⑨言外之意表達(dá)了現(xiàn)代技術(shù)所含倫理問題的隱匿性。為了驗(yàn)證此點(diǎn),研究從上述十項(xiàng)詞匯出發(fā),測量在算法工程師眼里該些詞匯所涉及的算法倫理問題威脅性如何。

    根據(jù)統(tǒng)計(jì),在算法工程師看來新聞傳播領(lǐng)域中算法所引發(fā)的倫理問題并不具有強(qiáng)烈威脅性,整體均值為3.26。其中“信息繭房”(M=2.71,SD=0.69)的均值在中值3以下,說明在新聞傳播領(lǐng)域算法工程師眼中信息繭房是最沒有社會威脅性的,這與學(xué)界對“信息繭房”的強(qiáng)烈批判態(tài)度產(chǎn)生了分歧?!八惴ㄆ缫暋?M=4.01,SD=0.83)的均值在4.00以上,說明對社會可能產(chǎn)生強(qiáng)烈威脅的是算法自身內(nèi)含的歧視問題,在此點(diǎn)上算法工程師同學(xué)界研究態(tài)度達(dá)成了一致。其余項(xiàng)均值在3.00-4.00之間,即在算法工程師對該些問題的威脅性一般。

    此外,交叉分析顯示,當(dāng)算法工程師的倫理問題認(rèn)識均值在3.00以下時(shí),其對算法倫理問題的威脅性評估大部分處于較低水平。而當(dāng)均值在3.00以上時(shí),其威脅性評估明顯趨于強(qiáng)烈,集中在3.00-3.99之間(見表3)。

    表3 倫理問題了解與倫理問題威脅性評估的交叉分析

    同時(shí)相關(guān)性分析也顯示倫理問題認(rèn)識同威脅性評估之間呈顯著相關(guān)(r=0.270,p<0.01)。由此本文的假設(shè)二“對算法倫理問題了解越多的工程師其所感受到的威脅性更為強(qiáng)烈”是成立的。

    五、對算法倫理問題的改善傾向

    深訪中,筆者向受訪者提問,其是否有意愿對算法倫理問題做進(jìn)一步了解,并改善現(xiàn)階段算法引發(fā)的倫理問題。一位入職字節(jié)跳動(dòng)1年的推薦算法工程師說道:

    “學(xué)者們批判的信息繭房這些倫理問題,不是作為技術(shù)人員的我主要考慮的,這些問題應(yīng)該是管理者們事先要考慮的。如果他們認(rèn)為產(chǎn)品有什么問題或應(yīng)該調(diào)整某個(gè)變量的權(quán)重,我可以朝這個(gè)方向去調(diào)整代碼?!雹?/p>

    另一位在百度工作兩年的后端工程師同樣指出:

    “我是負(fù)責(zé)后端開發(fā)的,在產(chǎn)品測試過程中我們會發(fā)現(xiàn)一些問題,這些問題有涉及到倫理方面的但主要還是關(guān)于產(chǎn)品效果的。如果有涉及倫理的問題出現(xiàn),主要看領(lǐng)導(dǎo)給個(gè)什么解決方向,然后我們團(tuán)隊(duì)再一起商量技術(shù)上能不能達(dá)到這個(gè)解決效果”。

    不難發(fā)現(xiàn),算法工程師在倫理問題改善的自我定位中處于被動(dòng)狀態(tài)。他們主要的任務(wù)是實(shí)現(xiàn)領(lǐng)導(dǎo)所要求的算法功能,當(dāng)問題出現(xiàn)后也是根據(jù)企業(yè)要求從技術(shù)上調(diào)整算法。那么,算法工程師的主觀能動(dòng)性到底如何?為此問卷考察了受訪者對待解決算法引發(fā)倫理問題時(shí)的態(tài)度,具體包括“改進(jìn)算法,緩減信息繭房加劇現(xiàn)象”“了解收集、使用數(shù)據(jù)時(shí)相關(guān)的權(quán)利和責(zé)任”“對程序可能產(chǎn)生的問題進(jìn)行預(yù)見并匯報(bào)”等十個(gè)題項(xiàng)。

    面對算法在新聞傳播領(lǐng)域引發(fā)的倫理問題,算法工程師整體改進(jìn)意愿不非常高,均值為3.50。以中值3為標(biāo)準(zhǔn),其中“改進(jìn)算法,緩減信息繭房加劇現(xiàn)象”(M=2.73,SD=0.74)、“向公眾分享算法相關(guān)知識、培養(yǎng)計(jì)算意識”(M=2.93,SD=1.07)兩項(xiàng)均值在3以下,說明算法工程師對此兩項(xiàng)的改進(jìn)意愿非常低。“要避免諸如民族、性別等方面的歧視與偏見”(M=4.01,SD=0.99)、“考慮信息弱勢群體的需求”(M=4.01,SD=1.03)兩項(xiàng)均值高于4,說明算法工程師更有意愿在此兩項(xiàng)上做出改變。其余題項(xiàng):“進(jìn)一步了解算法倫理問題相關(guān)知識”(M=3.76,SD=0.81)、“對程序可能產(chǎn)生的問題進(jìn)行預(yù)見并匯報(bào)”(M=3.68,SD=0.83)、“以正確價(jià)值觀引導(dǎo)算法”(M=3.63,SD=0.82)、“改進(jìn)算法,提高推薦內(nèi)容質(zhì)量”(M=3.59,SD=0.87)、“要建立透明的政策和程序,使個(gè)人能夠了解正在收集的是什么數(shù)據(jù)及其使用方式”(M=3.45,SD=1.10)、“了解收集、使用數(shù)據(jù)時(shí)相關(guān)的權(quán)利和責(zé)任”(M=3.31,SD=0.84)。

    此外,根據(jù)交叉分析,當(dāng)算法工程師對算法倫理問題的了解均值在3.00以下時(shí),其對倫理問題的改善意愿同樣處于低值;當(dāng)倫理問題了解均值在3.00以上時(shí),大部分算法工程師的倫理問題改善意愿處于3.00-4.99之間,說明他們更有意愿去改善算法倫理問題(見表4)。

    表4 倫理問題了解與倫理問題改善傾向的交叉分析

    此外,相關(guān)性分析也顯示倫理問題認(rèn)識與倫理問題改善傾向間顯著相關(guān)(r=0.861,p<0.01)。由此,本文假設(shè)三“對算法倫理問題了解越多的工程師更有意愿去改善算法倫理問題”也是成立的。

    六、結(jié)論與討論

    1.研究啟示

    通過本項(xiàng)研究發(fā)現(xiàn),作為引領(lǐng)算法價(jià)值走向的關(guān)鍵人物,算法工程師并沒有對算法在新聞傳播領(lǐng)域引發(fā)的倫理問題有太多深入了解。并且在面對這些問題的時(shí)候,沒有表現(xiàn)出非常高的積極性進(jìn)行算法倫理問題改進(jìn)。他們更多的是不認(rèn)為現(xiàn)階段的算法引發(fā)了嚴(yán)重的倫理道德問題,這與當(dāng)下各界對算法的激烈批判氛圍不相符。可以說,雖然算法工程師已經(jīng)進(jìn)入到了新聞傳播領(lǐng)域之中,成為促動(dòng)新聞傳媒業(yè)改革的關(guān)鍵人物,但是卻未能進(jìn)行準(zhǔn)確的自我定位,職業(yè)角色上仍游離于新聞傳播領(lǐng)域。因此,可以將其稱為外“局內(nèi)的外人”。那么對于算法工程師倫理責(zé)任意識不明確的現(xiàn)狀,該如何進(jìn)行改變使其能盡快融入新聞業(yè),主動(dòng)承擔(dān)起自我倫理責(zé)任呢?筆者認(rèn)為可以通過三方面入手解決該問題:

    第一,開展行業(yè)間、部門間對話與交流,提升算法工程師對算法倫理問題的了解。算法工程師的工作性質(zhì)與工作環(huán)境使得這個(gè)職業(yè)群體內(nèi)閉性較高,除了負(fù)責(zé)人以外,很少有機(jī)會同來自新聞傳播領(lǐng)域的其他人員進(jìn)行接觸。因此,對其所設(shè)計(jì)的算法引發(fā)的倫理問題也就不甚了解。想要打破算法工程師“局內(nèi)外人”的尷尬角色,最直接、有效的方式就是展開部門間、行業(yè)的對話與交流。通過跨部門、跨領(lǐng)域的對話,讓算法工程師切實(shí)了解當(dāng)下算法引發(fā)的倫理問題嚴(yán)重性。促使算法工程師在進(jìn)行算法設(shè)計(jì)之前就意識到其頭頂懸掛著一把“達(dá)摩克利斯之劍”,從而在算法設(shè)計(jì)過程中時(shí)刻保持謹(jǐn)慎,盡量減少算法引發(fā)倫理問題的可能。

    第二,明確新聞傳播領(lǐng)域算法倫理原則、建立新聞傳播領(lǐng)域算法工程師職業(yè)道德規(guī)范?,F(xiàn)階段,無論是在我國新聞傳播領(lǐng)域內(nèi),還是整個(gè)計(jì)算機(jī)行業(yè)內(nèi)都還沒有形成一套被廣泛認(rèn)可的倫理道德規(guī)范體系,對算法工程師的職業(yè)道德也缺少規(guī)制。某種程度上,這直接使得算法工程師沒有內(nèi)在原動(dòng)力去承擔(dān)本屬于自己的倫理責(zé)任。而對比西方,2018年12月歐盟通過的《可信賴人工智能道德草案》(Draft Ethics Guidelines for Trustworthy AI)中提出算法必須遵守仁慈、非傷害、自治(尊重自我決定和個(gè)人選擇)、正義、可解釋原則(透明)等原則。美國計(jì)算機(jī)協(xié)會的《道德與職業(yè)行為準(zhǔn)則》(Code of Ethics and Professional Conduct)則是目前國際接受度最高的職業(yè)道德規(guī)范,它包含一般道德準(zhǔn)則、職業(yè)責(zé)任、專業(yè)領(lǐng)導(dǎo)原則和遵守《準(zhǔn)則》四大方面,共25條。它們可以讓算法工程師從精神到行為上都受到約束,是具體領(lǐng)域中道德實(shí)現(xiàn)的最佳方式。因此,新聞傳播領(lǐng)域應(yīng)盡快明確算法倫理原則以及算法工程師職業(yè)道德規(guī)范,帶頭從“上游”開始降低算法引發(fā)倫理問題的可能。

    第三,通過入職倫理培訓(xùn)加強(qiáng)算法工程師責(zé)任意識。在調(diào)查中,同企業(yè)共同成長的算法工程師會對算法引發(fā)的倫理問題會更為了解,而了解程度又影響其對該些問題的敏感性與改進(jìn)意識。可是程序員群體是高跳槽率群體,其中有58.5%的人跳槽1-3次,并且跳槽次數(shù)會隨著工作年限的增加而增加。這意味著想通過留職率來提升算法工程師的倫理責(zé)任感是比較困難的,最有效的方式是在入職企業(yè)伊始就開始有意識的進(jìn)行倫理責(zé)任培育。但企業(yè)往往錯(cuò)過了這個(gè)倫理培育的最佳時(shí)機(jī),通過深訪得知,目前算法工程師們所接受的企業(yè)入職培訓(xùn)主要為技術(shù)培訓(xùn)、部門培訓(xùn)和企業(yè)文化培訓(xùn)三大類,但專門針對算法倫理問題的培訓(xùn)內(nèi)容涉及比較少。加之當(dāng)下算法與新聞傳播領(lǐng)域的深度結(jié)合,引發(fā)的問題類型層出不窮,抓住入職伊始這一關(guān)鍵時(shí)期進(jìn)行算法工程師倫理培育就顯得急切又必要。

    2.不足與展望

    此次調(diào)查的目的在于初步了解新聞傳播領(lǐng)域算法工程師在面對算法倫理問題時(shí)的責(zé)任與態(tài)度意識。雖然采用了深訪和問卷結(jié)合的方式,但問卷的題項(xiàng)設(shè)置仍不全面。加之,以滾雪球方式抽樣,不可避免的會存在一些偏差。由此,筆者希望在日后能進(jìn)一步完善問卷,同時(shí)采用更為科學(xué)的抽樣方式,使數(shù)據(jù)結(jié)果能夠更接近算法工程師的倫理責(zé)任現(xiàn)狀。

    注釋:

    ① [德]弗里德里?!だ?《技術(shù)哲學(xué)導(dǎo)論》,劉武譯,遼寧科學(xué)技術(shù)出版社1986版,第123頁。

    ② Lance S.IfIt'sNeutral,It'sNotTechnology.Educational Technology,vol.52,no.1,2012.pp.6-9.

    ③ 李林容:《網(wǎng)絡(luò)智能推薦算法的“偽中立性”解析》,《現(xiàn)代傳播》,2018年第8期。

    ④ 楊保軍、杜輝:《智能新聞:倫理風(fēng)險(xiǎn)·倫理主體·倫理原則》,《西北師大學(xué)報(bào)(社會科學(xué)版)》,2019年第1期。

    ⑤ [澳]湯姆·福雷斯特:《計(jì)算機(jī)倫理學(xué)——計(jì)算機(jī)學(xué)中的警示與倫理困境》,陸成譯,北京大學(xué)出版社2006年版,第15頁。

    ⑥ 謝曉非、鄭蕊:《風(fēng)險(xiǎn)溝通與公共理性》,《心理科學(xué)進(jìn)展》,2003年第11期。

    ⑦ 從業(yè)時(shí)長指的是算法工程師開始進(jìn)入該行業(yè)的時(shí)長,任職時(shí)長指的是算法工程師在現(xiàn)就任企業(yè)所任職的時(shí)長。

    ⑨ Maria L,Julie B,Jorge V.RiskPerceptionandTechnologicalDevelopmentatASocietalLevel. Risk Analysis,vol.25,no.5,2005.pp.1229-1239.

    猜你喜歡
    工程師均值倫理
    《機(jī)械工程師》征訂啟事
    《心之死》的趣味與倫理焦慮
    Kenoteq的工程師研發(fā)環(huán)保磚塊
    英語文摘(2021年10期)2021-11-22 08:02:40
    青年工程師
    安徽建筑(2020年4期)2020-05-23 01:37:12
    護(hù)生眼中的倫理修養(yǎng)
    活力(2019年19期)2020-01-06 07:37:00
    均值不等式失效時(shí)的解決方法
    均值與方差在生活中的應(yīng)用
    關(guān)于均值有界變差函數(shù)的重要不等式
    工程師變成“資本家”
    醫(yī)改莫忘構(gòu)建倫理新機(jī)制
    午夜日本视频在线| 综合色丁香网| 在线 av 中文字幕| 晚上一个人看的免费电影| 成年女人在线观看亚洲视频| 亚洲人成77777在线视频| 国产精品偷伦视频观看了| 欧美精品国产亚洲| 能在线免费看毛片的网站| 麻豆精品久久久久久蜜桃| av黄色大香蕉| 精品酒店卫生间| 亚洲美女黄色视频免费看| 日本猛色少妇xxxxx猛交久久| 亚洲国产最新在线播放| 极品少妇高潮喷水抽搐| 插逼视频在线观看| 日本wwww免费看| 视频中文字幕在线观看| 韩国高清视频一区二区三区| 日韩成人伦理影院| 国产黄频视频在线观看| 青青草视频在线视频观看| 九色亚洲精品在线播放| av视频免费观看在线观看| 夜夜看夜夜爽夜夜摸| 搡女人真爽免费视频火全软件| 黄片播放在线免费| 在线免费观看不下载黄p国产| 亚洲欧美色中文字幕在线| 色网站视频免费| 日韩中字成人| 国产黄片视频在线免费观看| 中文字幕亚洲精品专区| 国产男女超爽视频在线观看| 这个男人来自地球电影免费观看 | 在线观看人妻少妇| 伦精品一区二区三区| 婷婷色麻豆天堂久久| 国产亚洲午夜精品一区二区久久| 最近的中文字幕免费完整| 欧美97在线视频| 国产熟女欧美一区二区| 色婷婷av一区二区三区视频| 男男h啪啪无遮挡| 日本黄色片子视频| 少妇的逼水好多| 亚洲av日韩在线播放| 精品久久蜜臀av无| 欧美日韩av久久| 国产日韩欧美亚洲二区| 日本-黄色视频高清免费观看| 亚洲综合色惰| 亚洲高清免费不卡视频| av在线app专区| 老司机影院毛片| 日韩制服骚丝袜av| 99久国产av精品国产电影| 又黄又爽又刺激的免费视频.| 九九在线视频观看精品| 久久久国产一区二区| 色婷婷久久久亚洲欧美| 在线观看免费视频网站a站| 美女大奶头黄色视频| 国产精品三级大全| 久久精品国产亚洲网站| 99re6热这里在线精品视频| 制服诱惑二区| 丝袜美足系列| 免费黄频网站在线观看国产| 美女大奶头黄色视频| 丰满乱子伦码专区| 国产精品久久久久久久久免| av有码第一页| 99热国产这里只有精品6| 91久久精品国产一区二区成人| 久久久久久久大尺度免费视频| 国产伦理片在线播放av一区| 寂寞人妻少妇视频99o| 在线观看免费日韩欧美大片 | 亚洲国产毛片av蜜桃av| 在线精品无人区一区二区三| 日韩制服骚丝袜av| 亚洲国产最新在线播放| 建设人人有责人人尽责人人享有的| 午夜福利视频在线观看免费| 成人毛片60女人毛片免费| 一边亲一边摸免费视频| 性色av一级| 亚洲,欧美,日韩| av免费观看日本| 黄色毛片三级朝国网站| 久久久久久久久久久丰满| 老司机影院毛片| 18禁裸乳无遮挡动漫免费视频| 日韩亚洲欧美综合| 久久精品熟女亚洲av麻豆精品| 亚洲av欧美aⅴ国产| 多毛熟女@视频| 日韩 亚洲 欧美在线| kizo精华| 国产熟女午夜一区二区三区 | 在线看a的网站| 久久人人爽人人爽人人片va| 日本黄色片子视频| 久久久久久久久久人人人人人人| 九色成人免费人妻av| 最近的中文字幕免费完整| 久久久国产欧美日韩av| a级毛片在线看网站| 日韩强制内射视频| 久久精品国产a三级三级三级| 国产熟女欧美一区二区| 亚洲av电影在线观看一区二区三区| 国产精品久久久久久精品古装| 看免费成人av毛片| 99久久中文字幕三级久久日本| av电影中文网址| 夜夜爽夜夜爽视频| 天天躁夜夜躁狠狠久久av| 制服人妻中文乱码| 嘟嘟电影网在线观看| 国产白丝娇喘喷水9色精品| 久久久久久久久大av| 国模一区二区三区四区视频| 国产日韩欧美在线精品| 中文欧美无线码| 国精品久久久久久国模美| 日日啪夜夜爽| 男女啪啪激烈高潮av片| 又粗又硬又长又爽又黄的视频| 久久久久精品性色| 免费看光身美女| 亚洲国产精品专区欧美| 一本大道久久a久久精品| 午夜免费观看性视频| av在线观看视频网站免费| 亚洲,一卡二卡三卡| av黄色大香蕉| 成人毛片a级毛片在线播放| 中文字幕最新亚洲高清| 亚洲精品一区蜜桃| freevideosex欧美| 成人无遮挡网站| 日本欧美视频一区| 欧美日韩精品成人综合77777| 美女福利国产在线| 大又大粗又爽又黄少妇毛片口| 2022亚洲国产成人精品| 啦啦啦中文免费视频观看日本| 日日啪夜夜爽| 一级,二级,三级黄色视频| 黄色怎么调成土黄色| 老熟女久久久| 一级,二级,三级黄色视频| 久久99热这里只频精品6学生| 老熟女久久久| av在线观看视频网站免费| 毛片一级片免费看久久久久| 18+在线观看网站| 五月伊人婷婷丁香| 一本一本综合久久| 亚洲性久久影院| 国产 一区精品| 久久精品久久精品一区二区三区| 天天影视国产精品| 日韩中字成人| 国产免费一区二区三区四区乱码| 99热全是精品| 在线观看免费视频网站a站| 亚洲第一区二区三区不卡| 搡女人真爽免费视频火全软件| 一区二区三区四区激情视频| 一区二区日韩欧美中文字幕 | 99久久中文字幕三级久久日本| 97精品久久久久久久久久精品| www.av在线官网国产| 久久久久视频综合| 女的被弄到高潮叫床怎么办| 国产永久视频网站| 一区二区三区免费毛片| 亚洲,欧美,日韩| 女人精品久久久久毛片| 另类精品久久| 男女免费视频国产| 色视频在线一区二区三区| 亚洲精品456在线播放app| 国产有黄有色有爽视频| 视频中文字幕在线观看| 夜夜爽夜夜爽视频| 哪个播放器可以免费观看大片| 国产在视频线精品| 99国产精品免费福利视频| 日韩大片免费观看网站| 欧美日韩亚洲高清精品| 中文字幕人妻丝袜制服| 亚洲色图综合在线观看| 少妇的逼水好多| 日韩不卡一区二区三区视频在线| 麻豆精品久久久久久蜜桃| 成人亚洲欧美一区二区av| 精品久久国产蜜桃| 精品亚洲成a人片在线观看| 午夜日本视频在线| 日本欧美国产在线视频| www.av在线官网国产| 久久久国产一区二区| 女的被弄到高潮叫床怎么办| 婷婷色麻豆天堂久久| 99九九在线精品视频| 在线观看人妻少妇| 国产成人精品久久久久久| 久久ye,这里只有精品| 亚洲图色成人| 欧美日韩在线观看h| 国产精品久久久久成人av| 日日摸夜夜添夜夜添av毛片| 国产国拍精品亚洲av在线观看| 国产精品蜜桃在线观看| 亚洲精品日韩在线中文字幕| 大香蕉97超碰在线| 99re6热这里在线精品视频| 国产欧美另类精品又又久久亚洲欧美| 99热这里只有精品一区| 超色免费av| 男男h啪啪无遮挡| 国产免费又黄又爽又色| 日本与韩国留学比较| 夜夜骑夜夜射夜夜干| 国产精品99久久久久久久久| 一级毛片电影观看| 亚洲欧美色中文字幕在线| 日本色播在线视频| 97精品久久久久久久久久精品| 成人亚洲欧美一区二区av| 一级二级三级毛片免费看| av在线老鸭窝| 九九久久精品国产亚洲av麻豆| 秋霞在线观看毛片| 永久网站在线| 大片免费播放器 马上看| 国产又色又爽无遮挡免| 自拍欧美九色日韩亚洲蝌蚪91| 美女视频免费永久观看网站| 日韩av在线免费看完整版不卡| 精品国产国语对白av| 国产av一区二区精品久久| 99热网站在线观看| 国产欧美日韩一区二区三区在线 | 18禁观看日本| 日本av免费视频播放| 曰老女人黄片| 欧美日韩一区二区视频在线观看视频在线| 啦啦啦视频在线资源免费观看| 另类亚洲欧美激情| 国产成人精品婷婷| 亚洲欧美色中文字幕在线| 国产欧美日韩综合在线一区二区| 欧美3d第一页| 国产高清不卡午夜福利| 高清av免费在线| 成年av动漫网址| 天天操日日干夜夜撸| 91在线精品国自产拍蜜月| 黄色欧美视频在线观看| 成人国产麻豆网| 人妻系列 视频| 欧美三级亚洲精品| 精品久久久精品久久久| 亚洲成色77777| 综合色丁香网| 久久av网站| 久久人人爽人人爽人人片va| 亚洲av在线观看美女高潮| 91国产中文字幕| 简卡轻食公司| 我的老师免费观看完整版| 丝袜美足系列| 国产白丝娇喘喷水9色精品| 国产亚洲午夜精品一区二区久久| 香蕉精品网在线| 午夜福利网站1000一区二区三区| 夜夜骑夜夜射夜夜干| 亚洲中文av在线| 一级二级三级毛片免费看| 成年女人在线观看亚洲视频| 国产成人精品婷婷| 国产免费又黄又爽又色| 精品午夜福利在线看| 久久久久久久久久久丰满| 亚洲色图 男人天堂 中文字幕 | 欧美日韩亚洲高清精品| 国产精品一国产av| 韩国av在线不卡| 午夜福利网站1000一区二区三区| 我要看黄色一级片免费的| 成人亚洲精品一区在线观看| 啦啦啦视频在线资源免费观看| 亚洲无线观看免费| 国产日韩一区二区三区精品不卡 | 纵有疾风起免费观看全集完整版| 中国国产av一级| 欧美成人午夜免费资源| 人人妻人人澡人人看| 免费看av在线观看网站| 久久99蜜桃精品久久| 97精品久久久久久久久久精品| 大话2 男鬼变身卡| 色婷婷久久久亚洲欧美| 久久99一区二区三区| 亚洲国产最新在线播放| 99国产综合亚洲精品| 日日爽夜夜爽网站| 国产成人精品福利久久| 啦啦啦视频在线资源免费观看| 麻豆成人av视频| 91久久精品国产一区二区三区| 国产色婷婷99| 大码成人一级视频| 日本欧美视频一区| 国产精品一国产av| 日韩亚洲欧美综合| 我的老师免费观看完整版| 午夜福利影视在线免费观看| 精品国产一区二区三区久久久樱花| 日本爱情动作片www.在线观看| 久久亚洲国产成人精品v| 免费av中文字幕在线| 大又大粗又爽又黄少妇毛片口| 亚洲色图 男人天堂 中文字幕 | 中文字幕精品免费在线观看视频 | 我的老师免费观看完整版| 婷婷色综合www| .国产精品久久| 免费观看无遮挡的男女| videosex国产| 亚洲婷婷狠狠爱综合网| 九九在线视频观看精品| 国产亚洲精品久久久com| 久久国产精品大桥未久av| 国产成人a∨麻豆精品| 国产一区二区三区综合在线观看 | 国产69精品久久久久777片| 欧美亚洲 丝袜 人妻 在线| 国产黄色视频一区二区在线观看| 91午夜精品亚洲一区二区三区| av女优亚洲男人天堂| 免费观看在线日韩| 中文乱码字字幕精品一区二区三区| 成年美女黄网站色视频大全免费 | 18在线观看网站| 少妇 在线观看| 久久免费观看电影| 秋霞在线观看毛片| 黄片无遮挡物在线观看| 国产精品久久久久久精品古装| 这个男人来自地球电影免费观看 | 亚洲欧洲国产日韩| 乱人伦中国视频| 亚洲国产av影院在线观看| 九九爱精品视频在线观看| 欧美bdsm另类| 丝瓜视频免费看黄片| 欧美日韩在线观看h| 下体分泌物呈黄色| 国产精品一区二区在线观看99| 日本欧美视频一区| 看十八女毛片水多多多| 自拍欧美九色日韩亚洲蝌蚪91| 三上悠亚av全集在线观看| 男女边摸边吃奶| 在线观看免费高清a一片| 亚洲国产毛片av蜜桃av| 日韩中字成人| 欧美日韩av久久| 亚洲经典国产精华液单| 一级片'在线观看视频| 欧美 日韩 精品 国产| 午夜福利网站1000一区二区三区| 日日摸夜夜添夜夜爱| 一区二区日韩欧美中文字幕 | 免费av不卡在线播放| 久久久国产一区二区| 黑人巨大精品欧美一区二区蜜桃 | 亚洲精品,欧美精品| 午夜福利影视在线免费观看| 人人妻人人爽人人添夜夜欢视频| 国产成人精品婷婷| 国产深夜福利视频在线观看| 免费人妻精品一区二区三区视频| 国产精品久久久久成人av| 国产在线视频一区二区| 日韩av免费高清视频| 蜜桃久久精品国产亚洲av| 亚洲av国产av综合av卡| 精品久久久精品久久久| 日日摸夜夜添夜夜添av毛片| 我的女老师完整版在线观看| 国产视频内射| 亚洲经典国产精华液单| av国产精品久久久久影院| 熟女av电影| 国产精品欧美亚洲77777| 极品少妇高潮喷水抽搐| 69精品国产乱码久久久| 在线免费观看不下载黄p国产| 国产精品久久久久久久电影| 久久青草综合色| 中国美白少妇内射xxxbb| 有码 亚洲区| 一级爰片在线观看| 黄色视频在线播放观看不卡| 大陆偷拍与自拍| 天堂8中文在线网| 精品视频人人做人人爽| 女人精品久久久久毛片| 欧美日韩亚洲高清精品| 亚洲精品乱码久久久久久按摩| 黑人欧美特级aaaaaa片| 日韩视频在线欧美| 久久久久久久久大av| 亚洲国产成人一精品久久久| 国产欧美另类精品又又久久亚洲欧美| 日韩 亚洲 欧美在线| 精品熟女少妇av免费看| 能在线免费看毛片的网站| videosex国产| 免费观看性生交大片5| 国产伦理片在线播放av一区| 男女高潮啪啪啪动态图| 久久狼人影院| 亚洲av福利一区| 在线观看人妻少妇| 极品人妻少妇av视频| 婷婷色av中文字幕| 亚洲一区二区三区欧美精品| 色婷婷久久久亚洲欧美| 伦理电影大哥的女人| 啦啦啦中文免费视频观看日本| 日韩在线高清观看一区二区三区| 大片电影免费在线观看免费| 丝袜喷水一区| 草草在线视频免费看| 国产欧美日韩一区二区三区在线 | 最近的中文字幕免费完整| 夜夜看夜夜爽夜夜摸| 热re99久久国产66热| 久久精品熟女亚洲av麻豆精品| 搡女人真爽免费视频火全软件| 天堂俺去俺来也www色官网| 国产精品 国内视频| 女性被躁到高潮视频| 国产高清不卡午夜福利| 91久久精品国产一区二区成人| 日本黄色日本黄色录像| 国产精品欧美亚洲77777| 91成人精品电影| 五月玫瑰六月丁香| 久久久a久久爽久久v久久| 欧美国产精品一级二级三级| 亚洲欧美清纯卡通| 国产一区二区三区综合在线观看 | 春色校园在线视频观看| 大陆偷拍与自拍| 成人黄色视频免费在线看| 美女视频免费永久观看网站| 蜜臀久久99精品久久宅男| 久久久久精品性色| 九九在线视频观看精品| av卡一久久| 91精品一卡2卡3卡4卡| 美女xxoo啪啪120秒动态图| 精品国产一区二区久久| 国产精品麻豆人妻色哟哟久久| 成年美女黄网站色视频大全免费 | 99国产精品免费福利视频| 丰满迷人的少妇在线观看| 午夜免费观看性视频| 久久精品久久久久久噜噜老黄| 欧美丝袜亚洲另类| 亚洲av欧美aⅴ国产| 少妇 在线观看| 国产精品国产三级专区第一集| 精品人妻熟女av久视频| 亚洲国产精品一区二区三区在线| 激情五月婷婷亚洲| 久久这里有精品视频免费| 亚洲精品成人av观看孕妇| 熟女电影av网| 亚洲欧美清纯卡通| 黑丝袜美女国产一区| 搡老乐熟女国产| 亚洲国产毛片av蜜桃av| 日韩大片免费观看网站| 精品人妻一区二区三区麻豆| 少妇丰满av| 妹子高潮喷水视频| 亚洲一区二区三区欧美精品| 久久久久网色| 免费观看在线日韩| 春色校园在线视频观看| 插逼视频在线观看| 亚洲欧美清纯卡通| av.在线天堂| 我要看黄色一级片免费的| 肉色欧美久久久久久久蜜桃| 一本大道久久a久久精品| 日本免费在线观看一区| 日韩免费高清中文字幕av| 美女脱内裤让男人舔精品视频| 人妻人人澡人人爽人人| 国产av精品麻豆| 午夜老司机福利剧场| 99精国产麻豆久久婷婷| 最后的刺客免费高清国语| 人体艺术视频欧美日本| 人妻人人澡人人爽人人| 在线天堂最新版资源| 美女内射精品一级片tv| 亚洲av二区三区四区| 王馨瑶露胸无遮挡在线观看| 人体艺术视频欧美日本| 九色成人免费人妻av| 亚洲丝袜综合中文字幕| 又粗又硬又长又爽又黄的视频| 久久精品熟女亚洲av麻豆精品| 中国三级夫妇交换| 久久久久久久亚洲中文字幕| 色哟哟·www| 女人久久www免费人成看片| 久久久久精品性色| 成人国产麻豆网| 一区二区日韩欧美中文字幕 | 午夜老司机福利剧场| 汤姆久久久久久久影院中文字幕| 亚洲人成网站在线播| 一边亲一边摸免费视频| 黄色配什么色好看| 国产片特级美女逼逼视频| 亚洲色图 男人天堂 中文字幕 | 欧美激情 高清一区二区三区| 日韩欧美精品免费久久| 亚洲精品,欧美精品| 丝袜喷水一区| 亚洲国产精品一区三区| 久久人妻熟女aⅴ| 麻豆乱淫一区二区| 视频区图区小说| 少妇的逼水好多| 国模一区二区三区四区视频| 国产男女超爽视频在线观看| 亚洲精品国产av成人精品| 超色免费av| 又黄又爽又刺激的免费视频.| 在线观看美女被高潮喷水网站| 成年美女黄网站色视频大全免费 | 色婷婷av一区二区三区视频| 赤兔流量卡办理| 成人无遮挡网站| 男女啪啪激烈高潮av片| 啦啦啦啦在线视频资源| 69精品国产乱码久久久| 亚洲精品久久成人aⅴ小说 | 另类亚洲欧美激情| 一区二区三区乱码不卡18| 午夜福利网站1000一区二区三区| 超碰97精品在线观看| xxx大片免费视频| 人妻制服诱惑在线中文字幕| 午夜激情av网站| 日韩中字成人| videos熟女内射| 国产精品三级大全| 国产成人精品在线电影| 国产乱来视频区| 国产一区亚洲一区在线观看| 九草在线视频观看| 午夜激情福利司机影院| 18禁裸乳无遮挡动漫免费视频| 伊人久久精品亚洲午夜| 亚洲欧美中文字幕日韩二区| 日韩制服骚丝袜av| 人人妻人人爽人人添夜夜欢视频| 久久久久网色| 国产伦精品一区二区三区视频9| 久久亚洲国产成人精品v| 亚洲欧美清纯卡通| 美女主播在线视频| 国产午夜精品一二区理论片| 久久 成人 亚洲| 午夜福利在线观看免费完整高清在| 国产精品国产三级国产专区5o| 日韩三级伦理在线观看| 九草在线视频观看| 一级黄片播放器| 精品午夜福利在线看| 日韩熟女老妇一区二区性免费视频| 久久精品国产亚洲网站| xxx大片免费视频| 久久久国产精品麻豆| 日本黄色片子视频| 一边亲一边摸免费视频| 大陆偷拍与自拍| 91精品国产九色| 亚洲内射少妇av| 人体艺术视频欧美日本| 飞空精品影院首页| 伦理电影免费视频| 亚洲第一区二区三区不卡| 99热这里只有精品一区| 18禁在线播放成人免费| av.在线天堂| 九九爱精品视频在线观看| 9色porny在线观看| 人妻夜夜爽99麻豆av|