• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能“機(jī)器換人”問題重構(gòu)*
    ——一種馬克思主義哲學(xué)的解釋與介入路徑

    2019-05-18 02:02:44潘恩榮
    浙江社會科學(xué) 2019年5期
    關(guān)鍵詞:機(jī)器換人換人智力

    □ 潘恩榮 阮 凡 郭 喨

    內(nèi)容提要 本文力圖在《資本論》視域中重構(gòu)人工智能技術(shù)背景下的“機(jī)器換人”問題,提出一種馬克思主義哲學(xué)解釋和介入人工智能的研究路徑。從《資本論》“勞動能力”思想角度看,機(jī)器換人爭論雙方的矛盾根源是,在“人機(jī)對立”預(yù)設(shè)下,思考機(jī)器是否以及如何單向度地替換人的勞動能力。 但是基于“人機(jī)互補(bǔ)”角度從“勞動時間”概念看,“機(jī)器換人”的實質(zhì)是“以機(jī)器運(yùn)行時間替換人類勞動時間”而非“以機(jī)器(生產(chǎn)力)替換人類本身的勞動能力”。 那么,對于人工智能技術(shù)背景下的機(jī)器換人而言,除了要批判“機(jī)器替換人本身”,更要考慮如何確?!叭恕痹诟鞣N智力勞動時間之間平滑轉(zhuǎn)換。 這為重構(gòu)“人類-人工智能機(jī)器”的關(guān)系提供一種新的思路。

    人工智能及其與人類的關(guān)系已經(jīng)成為當(dāng)代普遍關(guān)注的問題, 它也成為國內(nèi)哲學(xué)界熱烈討論的一個新熱點。 比如《哲學(xué)動態(tài)》2018年第4 期發(fā)表的趙汀陽先生《人工智能“革命”的“近憂”和“遠(yuǎn)慮”——一種倫理學(xué)和存在論的分析》和張祥龍先生《人工智能與廣義心學(xué)——深度學(xué)習(xí)和本心的時間含義的芻議》兩篇論文,就人工智能問題提出了引人深思的卓越見解。 人工智能的進(jìn)步及其結(jié)果不僅是一個尖端科技問題, 更是一個關(guān)系到人類命運(yùn)和人類社會未來建構(gòu)的深刻哲學(xué)問題。 但我們注意到, 馬克思主義哲學(xué)界目前就這一問題仍未展開充分討論。 本文嘗試從馬克思主義哲學(xué)介入人工智能問題,試圖在《資本論》視域中重構(gòu)人工智能技術(shù)背景下的“機(jī)器換人”問題,既能解釋“機(jī)器換人”爭論雙方的矛盾根源,又能為重構(gòu)“人類-人工智能機(jī)器”的關(guān)系提供一種新的思路。

    一、 關(guān)于“人機(jī)對立”預(yù)設(shè)的爭論及其實質(zhì)

    從“阿爾法狗”(AlphaGo)和“谷歌助理”(Goolge Assistant)開始,每當(dāng)人工智能技術(shù)有了明顯的進(jìn)展,輿論往往驚呼“失業(yè)潮”來了。這是因為,以“阿爾法狗”的出現(xiàn)為標(biāo)志,人工智能展現(xiàn)出革命性的自主學(xué)習(xí)能力以及相應(yīng)的“自我進(jìn)化”能力,在通過大眾傳媒引起全社會廣泛關(guān)注的同時,又一次使經(jīng)典的“機(jī)器換人”成為社會的熱點問題,人們開始擔(dān)心機(jī)器將從體力到智力全面替換人類。

    目前“機(jī)器換人”存在兩大觀點對立的陣營。樂觀派主要集中在各國政府與企業(yè)。它們認(rèn)為“機(jī)器換人”是一種不可逆的經(jīng)濟(jì)趨勢,因而積極布局搶占人工智能制高點。例如我國《新一代人工智能發(fā)展規(guī)劃》(國發(fā)〔2017〕35 號)要求舉全國之力搶占“2030年人工智能高地”,其雄心幾乎覆蓋了社會生活的方方面面。 而悲觀派主要集中在公眾和部分專家學(xué)者群體中,如霍金、馬斯克和比爾·蓋茨等。他們擔(dān)憂,長期看來人工智能技術(shù)背景下的“機(jī)器換人”將會引發(fā)嚴(yán)重的失業(yè)潮,其中孕育的巨大社會風(fēng)險可能使99%的人成為赫拉利(Yuval Noah Harari)所言的“無用階級”①。 現(xiàn)有的理論資源難以調(diào)和雙方的矛盾。 可以預(yù)見,隨著“機(jī)器換人”進(jìn)程的推進(jìn),兩大對立的陣營很快就會短兵相接,馬克思時代的問題可能再現(xiàn)。一方面經(jīng)濟(jì)蓬勃發(fā)展,另一方面不斷出現(xiàn)新盧德運(yùn)動②,甚至引爆普遍失業(yè)導(dǎo)致社會動蕩。

    人工智能、 機(jī)器人等大規(guī)模應(yīng)用的確存在引發(fā)大規(guī)模失業(yè)的風(fēng)險。 歷史上每一次技術(shù)革命或工業(yè)革命都伴隨著大規(guī)模失業(yè)和社會動蕩。18-19世紀(jì)歐洲機(jī)器大工業(yè)時期的“機(jī)器換人”主要是替換體力勞動, 但當(dāng)前人工智能背景下的“機(jī)器換人”顯然與前者有所不同,主要是機(jī)器替換人的智力勞動。(賈根良,2016)那么,對于目前中國而言,“機(jī)器換人”是人工智能機(jī)器同時替換智力和體力勞動。在替換體力勞動方面,機(jī)器換人對中國是有利的。 由于制造業(yè)面臨著結(jié)構(gòu)性的勞動力短缺和產(chǎn)品質(zhì)量不穩(wěn)定等問題,“機(jī)器換人” 成為產(chǎn)業(yè)升級和經(jīng)濟(jì)可持續(xù)發(fā)展的有力保障。 因此, 中國的“機(jī)器換人”進(jìn)程正在加速,且沒有明顯地引發(fā)群體性事件或社會問題。在替換智力勞動方面,因為當(dāng)前許多“智力型職業(yè)” 可能被人工智能機(jī)器消滅, 公眾甚至專業(yè)人士都開始擔(dān)心自己將會被人工智能機(jī)器取代。產(chǎn)業(yè)界的研究表明,人工智能技術(shù)背景下的“機(jī)器換人”已經(jīng)伸向了那些過去被認(rèn)為是難以被機(jī)器替代的“白領(lǐng)”、“智力型”崗位,如醫(yī)療健康領(lǐng)域、法律服務(wù)領(lǐng)域的機(jī)器人律師等(騰訊研究院等,2017)。

    長期來看,面對人工智能的驚艷表現(xiàn),人類的自信心可能會有所動搖。 一方面是對自身勞動能力的不信任。 人工智能在數(shù)據(jù)、計算、醫(yī)療等領(lǐng)域所展現(xiàn)出來的能力已經(jīng)遠(yuǎn)遠(yuǎn)超過了人類, 這將會導(dǎo)致一個問題:人工智能的運(yùn)算結(jié)果和人的決策相比,誰更值得信任? 現(xiàn)實是,人們已經(jīng)開始把人工智能的“運(yùn)算”結(jié)果作為判斷的依據(jù)。 在許多領(lǐng)域,人工智能的“運(yùn)算”正在成為決策形成的主要來源,而人只是作為最后象征性的敲定者。以人工智能專家系統(tǒng)在醫(yī)療領(lǐng)域的應(yīng)用為例, 智慧診療能夠根據(jù)患者的情況快速瀏覽浩瀚的醫(yī)療文獻(xiàn),從中搜尋出匹配的文獻(xiàn)資料, 并給出相應(yīng)的診斷建議。 人工智能正在以其卓越的技能獲取人類的信任、分享人類的決策權(quán)力。“在非常短的未來里,由于強(qiáng)人工智能的決策遠(yuǎn)遠(yuǎn)優(yōu)于人類, 越來越多人類放棄自主決策而完全依賴人工智能, 成為人工智能的人體 ‘人替’(Avator)”(郭喨等,2017)長此以往, 人類將會形成對人工智能的過度依賴以及對自我能力的過度忽視。 另一方面是人類對自我價值的懷疑。 人類通過勞動形成一定的社會關(guān)系,并在這種社會關(guān)系中實現(xiàn)著自我的價值、創(chuàng)造著自己觀念中的“應(yīng)然”世界。 人工智能的發(fā)展使得大部分人從勞動崗位中脫離出來, 繼而從社會總生產(chǎn)的社會關(guān)系中脫離出來, 削弱了人與社會之間的聯(lián)系, 降低了人在整個社會價值體系中的份額和權(quán)重。長此以往,人類將陷入前所未有的自我價值迷失困境。

    總的來說,此次人工智能技術(shù)背景下的“機(jī)器換人”爭論有一個基本預(yù)設(shè),即“人機(jī)對立”,集中表現(xiàn)為人工智能機(jī)器能單向度地替換人類, 且人類的優(yōu)勢越來越小。在此預(yù)設(shè)下,悲觀派及其批判性研究的聲音非常響亮、振聾發(fā)聵。 然而,單純的批判難以建設(shè)性地解釋問題并回應(yīng)當(dāng)代中國“機(jī)器換人”和產(chǎn)業(yè)升級換代的實際需求。

    現(xiàn)在的問題是, 馬克思主義哲學(xué)如何回應(yīng)人工智能技術(shù)背景下的“機(jī)器換人”問題,并提供建設(shè)性治理思路?

    國內(nèi)目前對于“機(jī)器換人”的爭論主要存在于以下三方面。首先是“失業(yè)問題”,國內(nèi)外針對簡單勞動的“機(jī)器換人”早已展開,更具技術(shù)含量的“機(jī)器換人”也正在醞釀。 其次是“階級問題”,例如赫拉利認(rèn)為, 未來極少數(shù)人掌控智能科技成為進(jìn)化的新物種,99%的人類將成為無用階級。 第三層問題是“人類命運(yùn)問題”,已經(jīng)故去的著名物理學(xué)家霍金等認(rèn)為,人工智能將奴役人類,甚至導(dǎo)致人類種族滅亡;特斯拉創(chuàng)始人埃隆·馬斯克(Elon Musk)將人工智能比作核武, 他與26 個國家的116 名專家公開呼吁采取相關(guān)的措施來制止圍繞“智能武器”而展開的軍備競賽,甚至提出“火星殖民”的應(yīng)對計劃。

    在上述三個方面,“失業(yè)問題” 是近憂,“階級問題”“人類命運(yùn)問題”是遠(yuǎn)慮?!斑h(yuǎn)慮”是目前哲學(xué)反思乃至整個人文反思和批判的熱點,③主要探討“人類-人工智能機(jī)器”之間的關(guān)系,而且是一種對立的甚至替換性的關(guān)系。 瑣碎的、實際的“失業(yè)問題”不是哲學(xué)的關(guān)注焦點,往往被看作是經(jīng)濟(jì)學(xué)問題。 盡管人無遠(yuǎn)慮必有近憂, 但是我們認(rèn)為如果“近憂”能夠恰當(dāng)?shù)亟鉀Q,“遠(yuǎn)慮”就不一定會出現(xiàn)。因此,我們引入馬克思主義哲學(xué),按照《資本論》的研究路徑在經(jīng)濟(jì)學(xué)基礎(chǔ)上進(jìn)行哲學(xué)反思和批判,即從近憂“失業(yè)問題”切入,通過解釋和重構(gòu)“機(jī)器換人”問題探尋影響“階級問題”“人類命運(yùn)問題”的可能性。

    與一般哲學(xué)反思人工智能的方式不同, 馬克思主義哲學(xué)更多聚焦于“人與人”而非“人機(jī)”關(guān)系,其“階級問題”也是人與人之間的階級關(guān)系,而非人機(jī)之間的階級關(guān)系。我們認(rèn)為,這是一個根本性的因素, 造成馬克思主義哲學(xué)在人工智能及其與人類關(guān)系問題上介入較少。幸運(yùn)的是,《資本論》(第一卷) 詳細(xì)地討論了機(jī)器替換人的體力勞動。另一方面,《資本論》 對待新技術(shù)和新機(jī)器的態(tài)度是既有批判性又有建設(shè)性。 馬克思強(qiáng)調(diào)“1830年以來的技術(shù)發(fā)明都只是鎮(zhèn)壓工人反抗的武器”(《馬克思恩格斯全集》第44 卷,2001,第501 頁;以下同文獻(xiàn)引用只注頁碼), 這是他的批判態(tài)度。但是,《資本論》 主要研究英國工業(yè)革命完成后的經(jīng)濟(jì)和社會問題(第8 頁),研究范圍集中在1735年到1830年之間英國的工業(yè)化過程,這期間的新技術(shù)和新機(jī)器具有發(fā)展生產(chǎn)力的建設(shè)性作用。④因此,回到《資本論》視域中探討人工智能技術(shù)背景下的“機(jī)器換人”問題,既保持批判性又有更多的建設(shè)性。

    二、勞動能力理論:馬克思《資本論》視域中的機(jī)器換人問題

    馬克思認(rèn)為,人的“勞動力”或“勞動能力”是人在勞動過程中運(yùn)用的“體力(Physischen)和智力(Geistigen)的總和”(第195 頁)。 在工場手工業(yè)時期以前,勞動者獨(dú)立完成勞動,這是一種同時包含體力和智力的勞動。隨之而來的分工,使得勞動者的勞動分化為體力和智力兩大等級, 即一部分人專門從事體力勞動, 另一部分人則專門從事智力勞動。體力勞動方面,分工把人的勞動力發(fā)展成單調(diào)的機(jī)械的肌肉力, 使人的智力成為不被需要乃至礙事的多余物, 因為“思索和想象會產(chǎn)生錯誤……在最少用腦筋的地方, 工場手工業(yè)也就最繁榮”(第418 頁)。

    智能勞動方面,分工使得智力勞動轉(zhuǎn)化為資本支配體力勞動的權(quán)力(第487 頁)。首先,智力勞動的人成為“特殊對象”。 馬克思在分析為數(shù)不多的擁有知識和手藝的高級工人時指出,“他們不屬于工廠工人的范圍,而只是同工廠工人聚集在一起”(第484 頁), 因此這些高級工人也就沒有在這一輪里被“機(jī)器換人”給換掉。 另外,傳統(tǒng)的技藝工人、有科學(xué)知識的工人,也不屬于“機(jī)器換人”的工廠工人范圍。 其次,“物質(zhì)生產(chǎn)過程的智力作為他人的財產(chǎn)和統(tǒng)治工人的力量同工人相對立”(第418 頁)。 由于大規(guī)模協(xié)作的發(fā)展,產(chǎn)生了對監(jiān)督等非生產(chǎn)性職能的需求。 資本家把監(jiān)督職能交給特種的雇傭工人,自己則作為“司令官”般的存在,掌握工業(yè)上最高的權(quán)力?!肮I(yè)上的最高權(quán)力成了資本的屬性,正像在封建時代,戰(zhàn)爭中和法庭裁判中的最高權(quán)力是地產(chǎn)的屬性一樣”(第386 頁)。智力勞動控制體力勞動的原理與機(jī)器控制體力勞動的一樣,但機(jī)制不同。在工業(yè)革命后建立了機(jī)器大工業(yè), 新產(chǎn)生了少量擁有科學(xué)知識或手藝的勞動者,如工程師、機(jī)械師和木工等(第484 頁)。 他們不屬于“機(jī)器換人”的工廠工人范圍,但是被資本收編作為支配體力勞動者的力量, 因為他們負(fù)責(zé)檢查和修理機(jī)器, 而機(jī)器是保持對體力勞動者壓力的重要手段。

    最關(guān)鍵的是,分工導(dǎo)致機(jī)器產(chǎn)生,后者開始全面地替換人的體力勞動(第426 頁)。微觀上,機(jī)器是按照人的意圖來替代熟練男性工人(Man)體力勞動的產(chǎn)物。 工場手工業(yè)協(xié)作和分工通過群體性勞動使得手工業(yè)的“秘訣”,分解成為簡單的、無需腦力的動作,⑤再專門化為勞動工具,形成局部工人(第421 頁)。 最后,連局部工人也被繼續(xù)分解,專門化為勞動工具后再集成為機(jī)器。因此,隨著生產(chǎn)對男性工人的體力勞動的熟練度的要求降低,工人的價值也不斷降低(第425 頁),工場開始傾向于使用兒童或女性工人替換熟練的男性工人。宏觀上,經(jīng)歷了工業(yè)革命之后,機(jī)器幾乎將從事體力勞動的人類(MAN)全部替換。 微觀上的“機(jī)器換人”就是用工具機(jī)替換熟練工人,馬克思認(rèn)為這是工業(yè)革命的起點, 也是手工業(yè)或工場手工業(yè)生產(chǎn)過渡到機(jī)器生產(chǎn)的起點(第430 頁),因為工具機(jī)能抓住勞動對象,并按照一定的目的來改變它。經(jīng)歷工業(yè)革命后建立的機(jī)器大工業(yè), 最終只留下極少部分體力勞動者,他們圍繞著機(jī)器而存在,從事著操作機(jī)器或者給這些“機(jī)器工人”做單純打下手的工作。 (第484 頁)

    從馬克思的勞動能力思想角度看, 機(jī)器大工業(yè)技術(shù)背景下的“機(jī)器換人” 具有以下特征。 在“質(zhì)”上,機(jī)器大工業(yè)用低質(zhì)量的勞動者替換高質(zhì)量的勞動者, 肌肉不再成為衡量勞動者勞動能力高低的標(biāo)準(zhǔn)。馬克思把勞動力分為不同的等級,不同等級的勞動力的酬勞是不等價的。 以兒童和成年男子(Man)的時間為例,1864年兒童的周工資是2 先令6 便士(第457 頁),1863年剛經(jīng)歷了棉慌的織布和紡紗工人周工資是3 先令4 便士、3 先令10 便士、4 先令6 便士、5 先令1 便士等 (第525 頁),資本家更樂于使用時間更廉價的兒童工人、少年工人(18 歲以下)和婦女。 在“量”上,機(jī)器大工業(yè)在量上實現(xiàn)由少量勞動者替代大量勞動者工作。 機(jī)器大工業(yè)時期是把機(jī)器當(dāng)作生產(chǎn)資料,“成了工人本身的競爭者”(第495 頁)。 機(jī)器大工業(yè)通過技術(shù)的改良,在保證產(chǎn)量和質(zhì)量的前提下,極大的節(jié)省了勞動力,同時,隱性地減少了新增的就業(yè)崗位。例如,采用新機(jī)器的工廠在進(jìn)行同樣規(guī)模的生產(chǎn)活動時只雇傭30 人便可以完成全部工作,而如果是采用舊機(jī)器則需要100 位勞動工人,那么這70 個工作崗位就是被新機(jī)器替換掉了。

    被替換出去的勞動者集中為產(chǎn)業(yè)后備軍,他們絕對服從于資本, 為資本的增值提供隨時可被剝削的人身材料(第729 頁)。 產(chǎn)業(yè)后備軍主要來自兩個方面。 一個是資本有機(jī)構(gòu)成的提高把成年工人排擠出原有的工作崗位; 另一個是被解雇的成年了的兒童勞動力。 機(jī)器大工業(yè)對兒童勞動力的需求使他們從小便在工廠中從事一些毫無技術(shù)含量的工作,一旦這些兒童達(dá)到成年的年紀(jì),自身的廉價優(yōu)勢喪失的時候,就會被資本家解雇,成為社會上沒有勞動技能的剩余勞動力。

    機(jī)器大工業(yè)主要在新的體力勞動領(lǐng)域和智力勞動領(lǐng)域分層吸納被機(jī)器替換的勞動者。 新的體力勞動領(lǐng)域有兩種情況(第509-510 頁)。 一種是機(jī)器提高了工作效率,也增加了原料的消耗量,于是提供生產(chǎn)資料的就業(yè)工人也會隨之增加; 另一種是擴(kuò)大再生產(chǎn)創(chuàng)造了就業(yè)崗位的絕對增加。 雖然在同一個生產(chǎn)部門中工人被機(jī)器排擠出來,可是機(jī)器大工業(yè)也創(chuàng)造了巨大的市場, 使得社會上的工廠數(shù)量增加,對工人的需求隨之增加。新的智力勞動領(lǐng)域也有兩種情況。一種是新型工人,如工程師、機(jī)械師和木工等(第484 頁);另一種是,非生產(chǎn)性的勞動部門的雇傭, 比如作為現(xiàn)代家庭奴隸的“仆役階級”:仆人、使女、侍從,等等(第513頁)。

    綜上所述, 在馬克思勞動能力視域中,“機(jī)器換人”主要是機(jī)器替換“人本身”的體力勞動能力,無論是具體的成年男子(Man)還是一般意義的人類(MAN)。 大工業(yè)機(jī)器主要是模擬強(qiáng)壯的肌肉,人工智能機(jī)器則模擬人類智力。因此,在人工智能技術(shù)背景下,機(jī)器換的是人的智力勞動能力。 然而,兩方面結(jié)合起來,機(jī)器幾乎把整個“人”都要替換掉,這不僅僅引發(fā)失業(yè)擔(dān)憂,甚至引發(fā)階級奴役擔(dān)憂和人類命運(yùn)擔(dān)憂。

    三、從“人機(jī)對立”到“人機(jī)互補(bǔ)”

    打開“黑箱”⑥是從批判研究走向建設(shè)性研究的重要途徑。在大工業(yè)機(jī)器替換人的體力勞動時,智力勞動作為一個黑箱存在。然而,在人工智能機(jī)器替換人的智力勞動時, 智力勞動不能再被視為一個黑箱。否則,我們?nèi)菀渍`以為人工智能機(jī)器將整體替換人的智力勞動, 也即機(jī)器將人“徹底替換”。

    為了回應(yīng)人工智能及其引發(fā)的三大擔(dān)憂,我們需要首先將“智力勞動”的黑箱打開,看看人工智能如何替換人的智力勞動。在馬克思眼里,智力勞動其實還可以細(xì)分為“動物式的本能的勞動能力”和“專屬于人的勞動能力”。 馬克思指出,蜜蜂建造蜂巢的勞動形式是一種動物本能(第208頁)。專屬于人的勞動形式有三種。 第一種是有目的的控制能力, 勞動過程中勞動者控制著智力勞動:“使自身的自然中蘊(yùn)藏著的潛力發(fā)揮出來,并且使這種力的活動受他自己控制”。 第二種是想象能力,“勞動過程結(jié)束時得到的結(jié)果, 在這個過程開始時就已經(jīng)在勞動者的表象中存在著, 即已經(jīng)觀念地存在著”,“表象中” 在德文版中用的是der Vorstellung,意指“在構(gòu)思、想象中”。第三種是創(chuàng)造能力,勞動者“不僅使自然物發(fā)生形式變化,同時他還在自然物中實現(xiàn)自己的目的”。

    現(xiàn)在的問題是, 引發(fā)人們擔(dān)憂的人工智能機(jī)器究竟能替換人的哪些智力勞動能力?目前來看,人工智能主要體現(xiàn)三種“智力”能力:重復(fù)性運(yùn)算能力、大數(shù)據(jù)統(tǒng)計學(xué)習(xí)能力和知識存儲能力。⑦從馬克思的勞動能力思想來看, 上述人工智能三種智力能力沒有一樣是專屬于人的勞動能力。反而,它們更接近于動物式的本能勞動能力。⑧所以,除非人工智能發(fā)展出專屬于人的智力勞動能力——控制能力、 想象能力和創(chuàng)造能力——我們就暫時無需過于擔(dān)憂人工智能可能引發(fā)的各種問題,見圖1。 然而,目前在人工智能技術(shù)背景下的“機(jī)器換人”爭論中,悲觀派的聲音更加響亮。

    圖1 人類勞動能力與機(jī)器生產(chǎn)能力的關(guān)系

    我們認(rèn)為, 人們之所以對人工智能可能引發(fā)的后果充滿憂慮, 不是因為人工智能技術(shù)及其機(jī)器已經(jīng)能夠全面替換人的勞動能力, 而是爭論雙方在思考“機(jī)器換人”問題時預(yù)設(shè)了“人機(jī)對立”——這來自馬克思等學(xué)者的經(jīng)典論述, 以及歷史呈現(xiàn)出來的圖景。

    在“人機(jī)對立”預(yù)設(shè)下,“機(jī)器換人”就是“機(jī)器替換人類(MAN)本身的勞動能力”。 當(dāng)然會直接引起人們本能的警覺和排斥。 因此,如果不突破“人機(jī)對立”理論預(yù)設(shè),隨著人工智能的發(fā)展,人們將對“機(jī)器換人”越來越擔(dān)憂、恐懼,甚至引發(fā)社會動蕩,造成不可預(yù)想的嚴(yán)重后果。突破“人機(jī)對立”框架的契機(jī)可以回到《資本論》中尋找。 馬克思在討論“相對剩余價值”時,涉及到“機(jī)器換人”問題。當(dāng)《工廠法》 規(guī)定工人的最長勞動時間不能超過12小時后, 資本家不能通過延長絕對勞動時間獲取更多剩余價值, 于是采取另外一種方式——相對剩余價值生產(chǎn)。 通過工具、機(jī)器等改進(jìn)提高效率,縮短工人為自身存在所需的必要勞動時間; 相對地, 資本家可以無償占有的工人勞動成果的時間增加了。因此,研究“機(jī)器換人”問題可以借鑒絕對勞動時間和相對勞動時間概念。

    從勞動時間角度看,我們認(rèn)為,“機(jī)器換人”的實質(zhì)是“以機(jī)器(運(yùn)行時間)替換人類勞動時間”而非“以機(jī)器(生產(chǎn)能力)替換人類本身的勞動能力”。那么,“勞動時間”是“人類(MAN)施行勞動能力的時間”,馬克思的勞動能力思想可以具體化為勞動時間思想。

    在勞動時間視域中, 機(jī)器大工業(yè)技術(shù)背景下“機(jī)器換人”的結(jié)果并沒有實質(zhì)性的改變。 假設(shè)工人每天工作12 小時,在分工體系中體力勞動時間為8 小時,智力勞動時間為4 小時。當(dāng)機(jī)器替換了體力勞動時間之后,多余出來的8 小時時間,部分轉(zhuǎn)換為如仆人、使女、侍從等智力勞動時間,另外部分轉(zhuǎn)移到擴(kuò)大再生產(chǎn)所需的體力勞動時間。 但是,在馬克思的時代,隨著工業(yè)化不斷深入最后達(dá)到工業(yè)革命的高度, 社會上擴(kuò)大再生產(chǎn)所需的體力勞動時間越來越少, 而智力勞動時間的需求并沒有明顯提高,于是,社會層面就會出現(xiàn)規(guī)模性的失業(yè)現(xiàn)象,形成產(chǎn)業(yè)后備軍。

    但是,人工智能技術(shù)背景下“機(jī)器換人”的結(jié)果將發(fā)生細(xì)微而又本質(zhì)不同的變化。從過程來看,人工智能機(jī)器對智力勞動的替換過程與大工業(yè)機(jī)器對體力勞動的替換過程類似, 將人從原有的領(lǐng)域中替換出來,再把他們引導(dǎo)到新的工作領(lǐng)域。然而,從結(jié)果來看,人工智能機(jī)器是在智力勞動時間范圍內(nèi)替換人的勞動時間;大工業(yè)“機(jī)器換人”與之不同, 是在體力勞動時間和智力勞動時間之間替換人的勞動時間, 將人的體力勞動時間替換為智力勞動時間。

    如前所述, 目前人工智能機(jī)器未能替代任何一樣專屬于人的勞動能力。因此,在勞動時間思想框架中, 人工智能機(jī)器目前的替換目標(biāo)是涉及重復(fù)性運(yùn)算能力、 大數(shù)據(jù)統(tǒng)計學(xué)習(xí)能力和知識存儲能力的“智力型職業(yè)”人員。 下一步可能的替換目標(biāo)是人的動物式的本能勞動時間,例如,類似馬克思眼中“仆役階級”的服務(wù)機(jī)器人。遠(yuǎn)期來看,除非人工智能發(fā)展出類似專屬于人的勞動能力, 人們無需過于擔(dān)憂人工智能及其機(jī)器, 人本身不會被機(jī)器替換, 也不會像機(jī)器大工業(yè)時期一樣被動進(jìn)入當(dāng)代的產(chǎn)業(yè)后備軍。 因此,“機(jī)器換人” 仍在繼續(xù), 但人們將更多地?fù)碛袑儆谌说膭趧訒r間——盡管這是有前置條件的。

    四、開啟“人工智能馬克思主義”新研究領(lǐng)域

    從勞動時間角度探討“機(jī)器換人”問題,實質(zhì)是探討如何通過調(diào)整人(Man)的各種勞動時間的比例適應(yīng)技術(shù)發(fā)展,而非探討機(jī)器如何替換、拋棄人類(MAN)本身。 這是從“人機(jī)對立替換”到“人機(jī)互補(bǔ)替換”的視角轉(zhuǎn)換。 對于當(dāng)代中國的“機(jī)器換人”和經(jīng)濟(jì)升級換代的強(qiáng)烈需求,新思路既能說明“機(jī)器換人”帶來的勞動時間變更效應(yīng),也能提供建設(shè)性的治理思路。首先,這可避免人們本能地對人工智能及其機(jī)器產(chǎn)生抵觸與恐懼的負(fù)面情緒。其次, 這能夠更加客觀地呈現(xiàn)人工智能技術(shù)對社會和公眾的各種效用, 無論正面作用還是負(fù)面作用, 使人能夠更加理性地看待人工智能技術(shù)及其機(jī)器可能引發(fā)的問題。最后,這給人們留下一定的時間和空間,可以通過勞動時間的轉(zhuǎn)變,重構(gòu)“人機(jī)關(guān)系”來治理相應(yīng)的社會問題。

    前面提到,人的勞動時間轉(zhuǎn)變是有條件的。如果在“機(jī)器換人”期間,人的勞動時間不能正常轉(zhuǎn)變,那就容易引爆失業(yè)潮、導(dǎo)致盧德運(yùn)動,甚至引發(fā)階級問題和人類命運(yùn)問題。 典型的例子就是18世紀(jì)英國和19 世紀(jì)歐洲大陸工業(yè)化過程中的各種盧德運(yùn)動、工人運(yùn)動、階級斗爭和社會動蕩。 馬克思恩格斯認(rèn)為資本主義制度是根源所在, 甚至提出以共產(chǎn)主義社會替換資本主義社會的方案解決“機(jī)器換人”引發(fā)的社會問題。

    對于人工智能技術(shù)背景下的 “機(jī)器換人”而言,除了要批判“機(jī)器替換人本身”,重點在于,如何確?!叭恕?Man)在各種智力勞動時間之間平滑轉(zhuǎn)換。 對未來中國人工智能戰(zhàn)略和以“機(jī)器換人”為基礎(chǔ)的產(chǎn)業(yè)政策而言, 這是一種可行的治理思路,可以從技術(shù)和制度兩個方面尋求保障。從技術(shù)方面來看, 當(dāng)人工智能尚不能全面超越人的能力時,人們才有一定的時間轉(zhuǎn)變自己的勞動時間。技術(shù)是可以直接沖擊人本身的, 如果技術(shù)方面的發(fā)展超越人的能力太快, 人們沒有足夠的時間緩沖和適應(yīng)技術(shù)及機(jī)器的沖擊, 容易引發(fā)類似砸機(jī)器的盧德運(yùn)動。從制度方面來看,當(dāng)社會制度能夠提供足夠的基本保障時, 人們才有一定的空間平穩(wěn)地完成轉(zhuǎn)換勞動時間的過程。也就是說,制度通過提供一定的迂回空間避免技術(shù)直接沖擊人本身。否則, 人們沒有足夠的空間從一種勞動時間轉(zhuǎn)換到另一種勞動時間,人本身不得不直面技術(shù)本身,容易引爆失業(yè)問題導(dǎo)致社會問題。

    從前文論述中,我們可以發(fā)現(xiàn),人工智能及其與人類的關(guān)系并沒有什么神秘性,其“門檻”并沒有高到將馬克思主義哲學(xué)擋在門外的程度。 我們認(rèn)為, 人工智能機(jī)器首先表現(xiàn)為一種技術(shù)產(chǎn)品(Technical Artifact),那么,馬克思早期的批判理論足以完全地批判人工智能機(jī)器大規(guī)模應(yīng)用可能帶來的近憂“失業(yè)問題”。其次,馬克思在《資本論》第一卷中詳細(xì)地討論了技術(shù)起源與演化的過程,那么, 馬克思主義哲學(xué)就可以進(jìn)入人工智能機(jī)器設(shè)計和制造的黑箱中,也將可以介入和重構(gòu)“人類-人工智能機(jī)器”的關(guān)系,從而影響遠(yuǎn)慮“階級問題”“人類命運(yùn)問題”。

    由于“歷史經(jīng)驗”和批判思維的慣性,也由于人工智能專家與公眾之間的知識鴻溝、 大眾傳媒的推波助瀾, 導(dǎo)致人工智能技術(shù)背景下“機(jī)器換人”成了婦孺皆知的“狼來了”故事。人們卻沒有意識到,從勞動時間視角看,“機(jī)器換人”實質(zhì)是“以機(jī)器(運(yùn)行時間)替換人類勞動時間”而非以“機(jī)器(生產(chǎn)能力)替換人類本身的勞動能力”。通過制度重構(gòu), 我們可以擁抱而不是像盧德分子一樣打砸人工智能機(jī)器, 后者正在賦予人類前所未有的能力,我們?nèi)祟悓⒃凇皩儆谌说膭趧訒r間”里獲得前所未有的新發(fā)展, 無限接近理想的共產(chǎn)主義生活方式。 當(dāng)“失業(yè)問題”得到恰當(dāng)解決時,遠(yuǎn)慮的“階級問題”“人類命運(yùn)問題”將不再那么壓抑。 這是開啟“人工智能馬克思主義”新研究領(lǐng)域的一種嘗試,聚焦點從“人與人”關(guān)系拓展到“人與機(jī)”關(guān)系。

    注釋:

    ①2017年7月6日,中信出版集團(tuán)和百分點集團(tuán)聯(lián)合舉辦了XWorld 大會,《人類簡史》《未來簡史》作者尤瓦爾·赫拉利發(fā)表演講時認(rèn)為,99%的人在人工智能時代將成為無用階級, 而剩余的1%掌握人工智能的人將成為人類進(jìn)化新物種。

    ②盧德運(yùn)動指的是英國工業(yè)革命期間發(fā)生工人搗毀機(jī)器等一系列事件。 盧德運(yùn)動、盧德分子都被認(rèn)為是反對新技術(shù)的概念。

    ③相關(guān)研究參見趙汀陽:《人工智能“革命”的“近憂”和 “遠(yuǎn)慮”——一種倫理學(xué)和存在論的分析》,《哲學(xué)動態(tài)》2018年第4 期, 第5~12 頁; 張祥龍:《人工智能與廣義心學(xué)——深度學(xué)習(xí)和本心的時間含義的芻議》,《哲學(xué)動態(tài)》2018年第4 期,第13~22 頁;孫周興:《人文科學(xué)如何面對人工智能時代?》,《哲學(xué)分析》2018年第2 期,第35~41 頁;孫偉平:《關(guān)于人工智能的價值反思》,《哲學(xué)研究》2017年第10 期, 第120~126 頁;金觀濤:《反思“人工智能革命”》,《文化縱橫》2017年第4 期,第20~29 頁;等等。

    ④馬克思認(rèn)為英國工業(yè)革命起始于1735年淮亞特發(fā)明的新紡紗機(jī),參見參考文獻(xiàn)4 第428 頁。 根據(jù)馬克思關(guān)于1830年的判斷, 可以判斷馬克思眼中英國工業(yè)革命到1830年為止。 這與西方一般認(rèn)為英國工業(yè)革命從18 世紀(jì)50年代到19 世紀(jì)50年代的觀點相近,但實質(zhì)不同。 相關(guān)討論可參見潘恩榮:《〈資本論〉及其手稿中“創(chuàng)新驅(qū)動發(fā)展思想”哲學(xué)研究述評》,《自然辯證法研究》,2015年第8 期,第41~46 頁;另參見潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第4、91~94 頁。

    ⑤更多關(guān)于手工業(yè)技藝“秘訣”破解的討論,參見潘恩榮:《〈資本論〉及其手稿中“創(chuàng)新驅(qū)動發(fā)展”機(jī)制的動力建構(gòu)——基于現(xiàn)代技術(shù)哲學(xué)經(jīng)驗轉(zhuǎn)向的視角》,《長沙理工大學(xué)學(xué)報(社會科學(xué)版)》2015年第4 期,45~52。 另參見潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第125~140 頁。

    ⑥通過打開技術(shù)黑箱,技術(shù)哲學(xué)從“社會批判主義”實現(xiàn)“經(jīng)驗轉(zhuǎn)向”,開啟了現(xiàn)代技術(shù)哲學(xué)研究新圖景。 更多關(guān)于技術(shù)黑箱的討論,參見潘恩榮:《〈資本論〉研究需要引入“技術(shù)邏輯”》,《哲學(xué)研究》,2015(9):103-107.另參見:潘恩榮:《創(chuàng)新驅(qū)動發(fā)展與資本邏輯》,杭州:浙江大學(xué)出版社,第97~114 頁。

    ⑦我們對此應(yīng)該保持必要的謙遜,因為這一論斷有可能被局部突破。 因此,我們這里所談?wù)摰摹叭斯ぶ悄堋毕抻跇I(yè)界對人工智能的主流界定, 即算法層面的機(jī)器學(xué)習(xí)、深度學(xué)習(xí),技術(shù)方向的自然語言處理、語音處理、計算機(jī)視覺、規(guī)劃決策系統(tǒng)、大數(shù)據(jù)和經(jīng)典的統(tǒng)計分析。

    ⑧在“智力勞動能力-體力勞動能力”框架中,當(dāng)人工智能顯示出來的智力能力不屬于專屬于人的智力勞動能力時,那么唯一的可能是接近動物式的本能勞動能力。 本研究只在“智力勞動能力-體力勞動能力”框架范圍使用這樣的結(jié)論。 至于這個結(jié)論是否在通常情況下成立,需要結(jié)合人工智能和認(rèn)知科學(xué)理論進(jìn)一步論證。 對人而言,“本能”是肢體協(xié)調(diào)運(yùn)動、常識及其運(yùn)用等能力。 這將涉及兩個方面。 一方面,人工智能和機(jī)器人領(lǐng)域,實現(xiàn)四肢行走或雙腿直立行走的技術(shù)突破主要是接近動物式的本能。 例如,2018年5月9日《自然》雜志發(fā)表的DeepMind 公司文章表明, 人工智能能夠達(dá)到具有類似哺乳動物導(dǎo)航能力的水平, 甚至更高。 參見:Banino, A., et al., Vector-based navigation using grid-like representations in artificial agents.Nature, 2018.另一方面,莫拉維克悖論(Moravec's Paradox)表明,機(jī)器在智力測試或玩跳棋方面達(dá)到成人水平是相對容易的,但機(jī)器在感知和機(jī)動性方面達(dá)到一歲嬰兒的水平卻是困難的、 甚至是不可能的。 參見Moravec, Hans (1988),Mind children : the future of robot and human intelligence,Cambridge, Massachusetts: Harvard University Press。 但這已經(jīng)超出本文討論,所以暫不做論證。

    猜你喜歡
    機(jī)器換人換人智力
    梅鋼公司“機(jī)械化換人 自動化減人”提升本質(zhì)安全水平
    智力闖關(guān)
    智力闖關(guān)
    中國制造業(yè)基于成本控制的“機(jī)器換人”問題研究
    新華網(wǎng):杭州未來5年推3000個“機(jī)器換人”項目
    杭州(2015年9期)2015-12-21 02:51:52
    歡樂智力谷
    www.av在线官网国产| xxx大片免费视频| 久久国产亚洲av麻豆专区| 最近2019中文字幕mv第一页| 国产色爽女视频免费观看| 色5月婷婷丁香| 制服丝袜香蕉在线| av免费在线看不卡| 国产精品久久久久久av不卡| 三上悠亚av全集在线观看| a级片在线免费高清观看视频| 永久免费av网站大全| 七月丁香在线播放| 精品少妇内射三级| 伊人久久国产一区二区| 国产探花极品一区二区| 看非洲黑人一级黄片| 青春草亚洲视频在线观看| 丝袜脚勾引网站| 日日啪夜夜爽| 精品国产一区二区三区久久久樱花| 婷婷色综合大香蕉| 视频中文字幕在线观看| 国产精品一二三区在线看| h视频一区二区三区| 99视频精品全部免费 在线| 国产一区二区在线观看日韩| 午夜福利视频精品| 亚洲av在线观看美女高潮| 成年人免费黄色播放视频| 久久99精品国语久久久| 色视频在线一区二区三区| 久久精品夜色国产| 久久av网站| 亚洲精品自拍成人| 99九九线精品视频在线观看视频| 啦啦啦啦在线视频资源| 免费大片黄手机在线观看| 亚洲av欧美aⅴ国产| 国产欧美另类精品又又久久亚洲欧美| 一级毛片我不卡| 欧美成人午夜免费资源| 99国产综合亚洲精品| 国产熟女午夜一区二区三区 | 国产伦理片在线播放av一区| 日本与韩国留学比较| 国产精品免费大片| 国产黄片视频在线免费观看| 国产精品久久久久成人av| 一区二区三区乱码不卡18| 亚洲综合精品二区| 水蜜桃什么品种好| 久热久热在线精品观看| 精品人妻一区二区三区麻豆| av视频免费观看在线观看| 黄色一级大片看看| 永久网站在线| av在线观看视频网站免费| 少妇人妻 视频| 日本猛色少妇xxxxx猛交久久| 免费观看性生交大片5| 免费日韩欧美在线观看| 亚洲人成网站在线观看播放| 男人操女人黄网站| av卡一久久| 久久久久久人妻| 岛国毛片在线播放| 日本vs欧美在线观看视频| 18禁在线无遮挡免费观看视频| 三上悠亚av全集在线观看| 国产成人精品福利久久| 久久久久久久久大av| 王馨瑶露胸无遮挡在线观看| 午夜免费观看性视频| 永久免费av网站大全| 一边亲一边摸免费视频| 三级国产精品片| 国产成人午夜福利电影在线观看| 如日韩欧美国产精品一区二区三区 | 亚洲欧洲精品一区二区精品久久久 | 国产免费又黄又爽又色| 亚洲av国产av综合av卡| 久久影院123| 国产亚洲一区二区精品| 精品人妻熟女毛片av久久网站| 男女边摸边吃奶| 欧美日韩视频精品一区| 亚洲精品av麻豆狂野| 18禁动态无遮挡网站| 免费看不卡的av| 国产一区二区三区综合在线观看 | 日韩制服骚丝袜av| 久久午夜福利片| 99久久人妻综合| 免费高清在线观看日韩| 2018国产大陆天天弄谢| 久久久久国产精品人妻一区二区| 不卡视频在线观看欧美| 色婷婷av一区二区三区视频| 国产老妇伦熟女老妇高清| 精品一区二区三卡| 亚洲精品,欧美精品| 青青草视频在线视频观看| 在线观看www视频免费| 欧美人与善性xxx| 日韩中字成人| 久久国内精品自在自线图片| 蜜桃在线观看..| 超色免费av| 成人漫画全彩无遮挡| 麻豆精品久久久久久蜜桃| 午夜福利,免费看| 亚洲美女黄色视频免费看| 黄色怎么调成土黄色| 欧美 日韩 精品 国产| 少妇高潮的动态图| 亚洲综合色网址| 亚洲欧美一区二区三区国产| 欧美+日韩+精品| 最黄视频免费看| 嫩草影院入口| 久久精品熟女亚洲av麻豆精品| 欧美精品一区二区大全| 最近中文字幕高清免费大全6| 特大巨黑吊av在线直播| 寂寞人妻少妇视频99o| 大片电影免费在线观看免费| 国产69精品久久久久777片| 亚洲在久久综合| 少妇丰满av| 国精品久久久久久国模美| 99久久人妻综合| 久久人妻熟女aⅴ| 国产精品三级大全| 欧美3d第一页| av.在线天堂| 色哟哟·www| 日韩 亚洲 欧美在线| 国产成人午夜福利电影在线观看| 亚洲国产av影院在线观看| 亚洲综合精品二区| h视频一区二区三区| av在线观看视频网站免费| 91在线精品国自产拍蜜月| 99热这里只有精品一区| 大话2 男鬼变身卡| 观看美女的网站| 久久久久久久国产电影| 精品国产露脸久久av麻豆| 五月玫瑰六月丁香| 狂野欧美白嫩少妇大欣赏| 欧美+日韩+精品| 搡女人真爽免费视频火全软件| 国语对白做爰xxxⅹ性视频网站| 精品一区二区三卡| 3wmmmm亚洲av在线观看| 精品一区二区三区视频在线| 大香蕉久久网| 色哟哟·www| 啦啦啦啦在线视频资源| 国产免费福利视频在线观看| av在线播放精品| 97在线人人人人妻| 日本与韩国留学比较| 少妇猛男粗大的猛烈进出视频| 精品人妻一区二区三区麻豆| 91国产中文字幕| 卡戴珊不雅视频在线播放| 少妇精品久久久久久久| 亚洲精品日韩av片在线观看| av不卡在线播放| 热99久久久久精品小说推荐| av免费在线看不卡| 超碰97精品在线观看| 女性生殖器流出的白浆| 久久久精品94久久精品| 久久久久久久久久久丰满| 九九在线视频观看精品| 丰满乱子伦码专区| 国产乱人偷精品视频| 久久女婷五月综合色啪小说| 哪个播放器可以免费观看大片| 最近最新中文字幕免费大全7| 国产综合精华液| 国产精品久久久久久精品电影小说| videos熟女内射| 日韩熟女老妇一区二区性免费视频| av在线观看视频网站免费| 18禁在线播放成人免费| 欧美xxxx性猛交bbbb| 久久精品熟女亚洲av麻豆精品| 狠狠婷婷综合久久久久久88av| 亚洲美女视频黄频| 亚洲色图综合在线观看| 国产视频内射| 一区二区日韩欧美中文字幕 | 国产在线免费精品| 日韩强制内射视频| 久久久国产欧美日韩av| 国产精品无大码| 国产免费一区二区三区四区乱码| 97超碰精品成人国产| 久久精品国产自在天天线| 高清欧美精品videossex| kizo精华| 国产成人精品婷婷| 欧美成人午夜免费资源| 一区二区三区精品91| 一区二区三区免费毛片| 99久久中文字幕三级久久日本| 免费日韩欧美在线观看| 免费大片黄手机在线观看| 777米奇影视久久| 超碰97精品在线观看| 波野结衣二区三区在线| 观看美女的网站| 在线观看一区二区三区激情| 美女主播在线视频| 黄色毛片三级朝国网站| a级毛片黄视频| 国产伦精品一区二区三区视频9| 老司机影院毛片| 国产成人一区二区在线| 国产精品人妻久久久久久| 国产在线免费精品| 大香蕉久久成人网| 精品久久久久久久久av| 午夜激情av网站| 国产色爽女视频免费观看| 黑丝袜美女国产一区| 亚洲av.av天堂| 视频中文字幕在线观看| 极品少妇高潮喷水抽搐| 99视频精品全部免费 在线| 国产欧美另类精品又又久久亚洲欧美| 亚洲四区av| 91精品一卡2卡3卡4卡| 少妇被粗大猛烈的视频| 99久久精品国产国产毛片| 欧美97在线视频| 蜜臀久久99精品久久宅男| 天堂8中文在线网| 91精品国产九色| 免费观看av网站的网址| 欧美精品国产亚洲| 亚洲四区av| 国产成人一区二区在线| 一区二区av电影网| 免费观看性生交大片5| 欧美3d第一页| 国产一区二区三区综合在线观看 | 亚洲第一区二区三区不卡| 日本wwww免费看| 久久韩国三级中文字幕| 中文字幕亚洲精品专区| 亚洲精品美女久久av网站| 国产成人91sexporn| 婷婷色综合www| 中国美白少妇内射xxxbb| www.色视频.com| 人妻人人澡人人爽人人| 国产高清三级在线| 日产精品乱码卡一卡2卡三| 久久青草综合色| 欧美亚洲日本最大视频资源| 色网站视频免费| 国产男女内射视频| 少妇熟女欧美另类| 亚洲经典国产精华液单| 亚洲av男天堂| av电影中文网址| 午夜福利视频在线观看免费| 国产成人freesex在线| 日韩大片免费观看网站| 一边摸一边做爽爽视频免费| 久久鲁丝午夜福利片| 日本vs欧美在线观看视频| 久久国内精品自在自线图片| 乱码一卡2卡4卡精品| 日本黄大片高清| 有码 亚洲区| 少妇 在线观看| 人妻一区二区av| 3wmmmm亚洲av在线观看| 亚洲国产最新在线播放| 国产日韩欧美在线精品| 中文天堂在线官网| 中国国产av一级| 国产精品蜜桃在线观看| 国产av精品麻豆| 爱豆传媒免费全集在线观看| 成年人午夜在线观看视频| 国产精品国产av在线观看| 国产成人精品无人区| 99久久综合免费| 亚洲,欧美,日韩| 国产亚洲午夜精品一区二区久久| 国产免费又黄又爽又色| 精品午夜福利在线看| 欧美成人午夜免费资源| 少妇人妻 视频| 婷婷成人精品国产| 日本与韩国留学比较| 欧美精品亚洲一区二区| 高清午夜精品一区二区三区| 日日摸夜夜添夜夜爱| 色5月婷婷丁香| 免费av中文字幕在线| 国产色爽女视频免费观看| 精品国产一区二区久久| 国产深夜福利视频在线观看| 视频区图区小说| 妹子高潮喷水视频| 在线看a的网站| 中文字幕最新亚洲高清| 能在线免费看毛片的网站| 免费久久久久久久精品成人欧美视频 | 午夜影院在线不卡| 交换朋友夫妻互换小说| 久久ye,这里只有精品| 如何舔出高潮| 一级毛片黄色毛片免费观看视频| 成人影院久久| 99热这里只有精品一区| 满18在线观看网站| 在线观看国产h片| 亚洲精品一区蜜桃| 天天躁夜夜躁狠狠久久av| 色视频在线一区二区三区| 精品亚洲成a人片在线观看| 亚洲精品亚洲一区二区| 日韩成人av中文字幕在线观看| 国产精品麻豆人妻色哟哟久久| 边亲边吃奶的免费视频| 五月天丁香电影| 大陆偷拍与自拍| 国产成人免费无遮挡视频| 伊人久久精品亚洲午夜| 日本爱情动作片www.在线观看| 中国美白少妇内射xxxbb| 男女国产视频网站| 国产精品国产av在线观看| 色哟哟·www| 美女中出高潮动态图| 五月玫瑰六月丁香| av在线观看视频网站免费| 日韩欧美精品免费久久| 欧美日韩一区二区视频在线观看视频在线| 国产免费视频播放在线视频| 人人妻人人澡人人爽人人夜夜| 啦啦啦视频在线资源免费观看| 伊人久久精品亚洲午夜| 日日摸夜夜添夜夜爱| 日韩,欧美,国产一区二区三区| 黑人欧美特级aaaaaa片| 99国产精品免费福利视频| 丰满迷人的少妇在线观看| 亚洲精品一二三| 丰满乱子伦码专区| 久久亚洲国产成人精品v| 国产亚洲最大av| 日韩一区二区视频免费看| 高清av免费在线| 亚洲三级黄色毛片| 国产精品欧美亚洲77777| 亚洲精品久久成人aⅴ小说 | 在线观看一区二区三区激情| 大片电影免费在线观看免费| 考比视频在线观看| 成人18禁高潮啪啪吃奶动态图 | 国产亚洲欧美精品永久| 久久久精品免费免费高清| 国国产精品蜜臀av免费| 蜜桃在线观看..| av天堂久久9| 91精品一卡2卡3卡4卡| 国产精品一区二区在线不卡| 欧美激情国产日韩精品一区| 日本av手机在线免费观看| 在线精品无人区一区二区三| 亚洲色图综合在线观看| 国产成人精品在线电影| 美女cb高潮喷水在线观看| 午夜福利在线观看免费完整高清在| 婷婷色综合www| 免费观看av网站的网址| a 毛片基地| 久久久亚洲精品成人影院| 久久精品夜色国产| 黄片无遮挡物在线观看| 久久久久久久大尺度免费视频| 国产欧美日韩综合在线一区二区| 丝瓜视频免费看黄片| 搡女人真爽免费视频火全软件| av线在线观看网站| 日韩大片免费观看网站| 精品视频人人做人人爽| 国产精品一区二区在线不卡| 国产在线视频一区二区| 好男人视频免费观看在线| 欧美日韩综合久久久久久| 性色avwww在线观看| 九九在线视频观看精品| av女优亚洲男人天堂| 成人毛片60女人毛片免费| 曰老女人黄片| 汤姆久久久久久久影院中文字幕| 蜜桃国产av成人99| 日韩精品有码人妻一区| 国产色爽女视频免费观看| 自拍欧美九色日韩亚洲蝌蚪91| 久久狼人影院| 男女国产视频网站| 十八禁网站网址无遮挡| 亚洲高清免费不卡视频| 亚洲国产精品一区二区三区在线| 国产成人aa在线观看| 亚洲精品亚洲一区二区| 美女视频免费永久观看网站| 一区二区av电影网| 天天影视国产精品| 黑人猛操日本美女一级片| 欧美老熟妇乱子伦牲交| 亚洲欧美日韩卡通动漫| 久久国产精品大桥未久av| 99久久精品国产国产毛片| 人成视频在线观看免费观看| 建设人人有责人人尽责人人享有的| 日本与韩国留学比较| 天堂俺去俺来也www色官网| 如日韩欧美国产精品一区二区三区 | 亚洲国产精品999| 视频中文字幕在线观看| 亚洲人成77777在线视频| 久久国内精品自在自线图片| 视频在线观看一区二区三区| 女的被弄到高潮叫床怎么办| 成人国产av品久久久| xxx大片免费视频| 久久这里有精品视频免费| 丰满迷人的少妇在线观看| 日韩,欧美,国产一区二区三区| 精品少妇内射三级| 国产免费一级a男人的天堂| 在线免费观看不下载黄p国产| 成人手机av| 三上悠亚av全集在线观看| 亚洲综合色惰| 久热这里只有精品99| 黄片播放在线免费| 亚洲成人av在线免费| 国产精品熟女久久久久浪| 视频在线观看一区二区三区| 晚上一个人看的免费电影| 日本vs欧美在线观看视频| 成人综合一区亚洲| 黄片播放在线免费| 国产高清不卡午夜福利| 曰老女人黄片| 亚洲精品日韩av片在线观看| 91成人精品电影| 日本猛色少妇xxxxx猛交久久| 国产伦理片在线播放av一区| 久久国产亚洲av麻豆专区| 一级毛片黄色毛片免费观看视频| 51国产日韩欧美| 午夜av观看不卡| 乱人伦中国视频| 自拍欧美九色日韩亚洲蝌蚪91| 国产在线视频一区二区| av国产久精品久网站免费入址| 永久网站在线| 在线观看www视频免费| 又大又黄又爽视频免费| 午夜影院在线不卡| 欧美性感艳星| 亚洲经典国产精华液单| 成年人午夜在线观看视频| 亚洲精品,欧美精品| 亚洲美女搞黄在线观看| 国产男女内射视频| 欧美日本中文国产一区发布| 国内精品宾馆在线| 国产精品成人在线| 黑人巨大精品欧美一区二区蜜桃 | 精品一区二区三区视频在线| 国产精品无大码| 亚洲图色成人| 色哟哟·www| 免费看光身美女| 午夜91福利影院| 男的添女的下面高潮视频| 蜜桃国产av成人99| 久久久久视频综合| 熟女av电影| 18禁在线无遮挡免费观看视频| 亚洲精品aⅴ在线观看| 婷婷色av中文字幕| 女人精品久久久久毛片| 国产精品人妻久久久久久| 啦啦啦视频在线资源免费观看| 久久人妻熟女aⅴ| 国产视频内射| 女人精品久久久久毛片| 日韩在线高清观看一区二区三区| 美女内射精品一级片tv| 91午夜精品亚洲一区二区三区| 中文字幕制服av| 国产男人的电影天堂91| 不卡视频在线观看欧美| 一本一本综合久久| 亚洲精品日韩av片在线观看| 日本欧美视频一区| 观看美女的网站| 中文字幕人妻丝袜制服| 人妻系列 视频| 日韩制服骚丝袜av| 赤兔流量卡办理| 亚洲精品av麻豆狂野| 在线看a的网站| 美女视频免费永久观看网站| 亚洲国产欧美在线一区| 精品人妻熟女毛片av久久网站| 我要看黄色一级片免费的| 大香蕉久久成人网| 丝袜喷水一区| 国产成人av激情在线播放 | 卡戴珊不雅视频在线播放| 亚洲精品aⅴ在线观看| 国产精品蜜桃在线观看| 日韩av免费高清视频| 精品人妻熟女毛片av久久网站| 久久国内精品自在自线图片| 午夜av观看不卡| 亚洲av成人精品一区久久| 国产成人av激情在线播放 | 精品卡一卡二卡四卡免费| 一级,二级,三级黄色视频| 九九爱精品视频在线观看| 欧美国产精品一级二级三级| 国产成人精品在线电影| 少妇熟女欧美另类| 女人精品久久久久毛片| 高清视频免费观看一区二区| 我要看黄色一级片免费的| 国产一区二区三区av在线| 国产一区有黄有色的免费视频| 大片电影免费在线观看免费| 国产欧美亚洲国产| 午夜激情av网站| 亚洲av成人精品一二三区| 亚洲人成网站在线观看播放| 欧美日韩国产mv在线观看视频| 国产精品国产三级专区第一集| 涩涩av久久男人的天堂| 黑人欧美特级aaaaaa片| 国产免费福利视频在线观看| 久久久久久久大尺度免费视频| 国产男女内射视频| 亚洲成色77777| 51国产日韩欧美| 久久久久久久久大av| 久久av网站| 2021少妇久久久久久久久久久| 亚洲天堂av无毛| 成年女人在线观看亚洲视频| 99久久综合免费| 超色免费av| 国产日韩欧美在线精品| xxxhd国产人妻xxx| 国产成人精品无人区| 熟妇人妻不卡中文字幕| 男女国产视频网站| 看免费成人av毛片| 亚洲情色 制服丝袜| 日韩三级伦理在线观看| 极品少妇高潮喷水抽搐| 黄色配什么色好看| 大片免费播放器 马上看| 欧美精品一区二区大全| 精品人妻熟女av久视频| 日本免费在线观看一区| 一本大道久久a久久精品| 国产成人精品久久久久久| 少妇 在线观看| 日本色播在线视频| 高清在线视频一区二区三区| 久久久国产一区二区| 国产精品不卡视频一区二区| 91久久精品国产一区二区三区| 亚洲在久久综合| 人妻人人澡人人爽人人| 亚洲精品乱码久久久久久按摩| 亚洲国产欧美日韩在线播放| 精品一区二区免费观看| 久久狼人影院| 在线观看美女被高潮喷水网站| 久久久久久久久久久免费av| 亚洲四区av| 汤姆久久久久久久影院中文字幕| 亚洲国产成人一精品久久久| 一本色道久久久久久精品综合| 成年女人在线观看亚洲视频| 国产日韩一区二区三区精品不卡 | 久久久亚洲精品成人影院| 国产视频内射| 亚洲怡红院男人天堂| 黄色欧美视频在线观看| 久久午夜综合久久蜜桃| 国产白丝娇喘喷水9色精品| 精品久久久精品久久久| 久久免费观看电影| 特大巨黑吊av在线直播| 99久久中文字幕三级久久日本| 80岁老熟妇乱子伦牲交|