• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能最終會完全替代就業(yè)嗎

    2019-02-21 10:57:06程承坪
    關(guān)鍵詞:階段人工智能人類

    程承坪

    一、引言

    自從1956年首次在美國提出“人工智能”(Artificial Intelligence,縮寫成AI)的概念至今已有60多年的歷史,但直到最近幾年AI才逐漸引起世人的廣泛關(guān)注,主要在于近幾年AI在硬件化、數(shù)據(jù)化及商業(yè)化三個方面取得了積極進展。這種進展使得AI具有巨大的技術(shù)輻射效應(yīng),正如習(xí)近平同志在2018年10月31日中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行的第九次集體學(xué)習(xí)時所指出的,人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有溢出帶動性很強的“頭雁”效應(yīng)。放眼全球,AI正被推向全球經(jīng)濟發(fā)展的制高點,有可能重構(gòu)世界經(jīng)濟發(fā)展的格局。

    從2008年全球性經(jīng)濟危機爆發(fā)以來,世界經(jīng)濟增長緩慢,許多國家失業(yè)率高企,又值A(chǔ)I蓬勃發(fā)展,勾起了人們對過往技術(shù)進步替代就業(yè)歷史的苦澀回憶,加之某些媒體夸大其詞地發(fā)布各種有關(guān)AI技術(shù)的發(fā)展前景及其替代就業(yè)預(yù)測的新聞,從而引起大眾對AI替代就業(yè)的恐慌與焦慮。

    大眾關(guān)心AI會在多大程度上替代就業(yè),甚至憂慮AI最終會完全替代就業(yè),導(dǎo)致勞動者成為AI時代的“無用階級”。正確地回答AI最終會不會完全替代就業(yè)這個問題,一方面有助于澄清事實真相,使大眾理性地看待AI的發(fā)展,并積極應(yīng)對AI發(fā)展對就業(yè)的挑戰(zhàn);另一方面有助于大眾積極順應(yīng)、促進AI的發(fā)展,貫徹落實國務(wù)院頒發(fā)的《新一代人工智能發(fā)展規(guī)劃》以及《關(guān)于積極推進“互聯(lián)網(wǎng)+”行動的指導(dǎo)意見》等文件精神,使中國在新一輪科技革命和產(chǎn)業(yè)變革中走在世界前列。

    要正確地回答AI是否最終會完全替代就業(yè)這個問題,首先必須厘清AI影響就業(yè)的機理。現(xiàn)有研究文獻(xiàn)認(rèn)為,AI作為一種技術(shù)進步,滿足技術(shù)進步影響就業(yè)的一般規(guī)律:既具有就業(yè)替代效應(yīng),使就業(yè)減少,也具有就業(yè)創(chuàng)造效應(yīng),使就業(yè)增加;[注]王君、張于喆、張義博等:《人工智能等新技術(shù)進步影響就業(yè)的機理與對策》,《宏觀經(jīng)濟研究》2017年第10期。段海英、郭元元:《人工智能的就業(yè)效應(yīng)述評》,《經(jīng)濟體制改革》2018年第3期。一般而言,短期就業(yè)替代效應(yīng)大于就業(yè)創(chuàng)造效應(yīng),長期就業(yè)替代效應(yīng)小于就業(yè)創(chuàng)造效應(yīng)。AI影響就業(yè)既有經(jīng)濟原因,也有非經(jīng)濟原因;[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》,《中國軟科學(xué)》2018年第10期。AI既滿足技術(shù)進步影響就業(yè)的一般規(guī)律,也具有其影響就業(yè)的特殊性,[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》。特殊性表現(xiàn)在,AI既替代人的體力,也替代人的智力。因此,單純地從AI影響就業(yè)的機理來看,存在AI完全替代就業(yè)的可能性。

    其次要明確AI完全替代就業(yè)需要具備的條件。我們認(rèn)為,AI完全替代就業(yè)需要同時具備三個條件:一是人類能做的事,AI也能做;二是人類能做的事,AI比人類做得更好;三是人類能做的事,AI能以更低的成本做。

    前述三個條件中第一個條件是核心,如果這個條件滿足,第二個條件和第三個條件遲早也是能夠滿足的,因為AI比人類的可塑性更強,隨著技術(shù)進步,AI的能力會越來越強大、制造成本會越來越低。

    第一個條件是否滿足,取決于人類智能與AI的智能是否有區(qū)別。假設(shè)人類智能集為A,AI的智能集為B,根據(jù)排列組合理論,如果人類智能與AI的智能有區(qū)別,則可以分成4種區(qū)別形式:1.A∩B≠ф(ф為空集),且AB∧BA;2.A∩B=ф;3.A?B;4.A?B。

    從現(xiàn)實出發(fā),在上述4種區(qū)別形式中,第2種和第4種區(qū)別不符合現(xiàn)實。對于第2種形式的區(qū)別,因為事實上有許多事情人類能做,AI也能做,因而存在兩者智能的交集而不是空集。對于第4種形式的區(qū)別,由于現(xiàn)實中有些AI能做的事人類不能做,譬如人類只能識別可見光,而AI理論上可以識別所有波長的光。

    如果第1種形式的區(qū)別屬實,那么AI只能有限度地替代就業(yè)而不能完全替代就業(yè);如果第3種形式的區(qū)別屬實,那么AI就可以完全替代就業(yè)。

    根據(jù)排除法則,如果我們證明了或否證了第1種形式的區(qū)別,就等于否證了或證明了第3種形式的區(qū)別。因此,只需要論證其中一種形式的區(qū)別即可,本文選擇論證第1種形式的區(qū)別。

    關(guān)于第1種形式的區(qū)別,徐獻(xiàn)軍指出了AI理性主義表征化理路的局限性,認(rèn)為非形式化、非表征的人類智能是AI的極限;[注]徐獻(xiàn)軍:《人工智能的極限與未來》,《自然辯證法通訊》2018年第1期。布萊克(M. Brindcker)提出,人類的認(rèn)知不僅僅在于大腦思維,人類的行為和意識具有系統(tǒng)性、具身性,不能做還原論解構(gòu),AI模仿大腦神經(jīng)元系統(tǒng)的工作思路存在難以克服的困難;[注]M. Brincker,“Dynamics of Perceptible Agency: The Case of Social Robots”, Minds and Machines, No.4 (2016).著名認(rèn)知科學(xué)家屈森斯(A. Cussins)指出了AI與人類具有不同的物質(zhì)基礎(chǔ);[注]瑪格麗特·博登:《人工智能哲學(xué)》,劉西瑞譯,上海譯文出版社2001年版,第502頁。程承坪和李雨佳分析了AI與人類不同的工作機理;[注]程承坪、李雨佳:《人工智能不能動搖社會主義市場經(jīng)濟體制》,《學(xué)術(shù)界》2018年第9期。約翰·盧卡斯(John Lucas)證明了AI作為一種形式系統(tǒng)的不完備性。[注]John Lucas,“Mind, Machine and G?del”,Philosophy, No.36 (1961).

    為了證明第1種形式的區(qū)別,本文充分吸收了前述文獻(xiàn)的理論智慧,在此基礎(chǔ)上,我們進一步地指出,人類智慧是演進的結(jié)果,與四維世界相同構(gòu),而AI只是一維的形式化表征系統(tǒng),與四維世界不同構(gòu),存在明顯的局限性。本文進一步從數(shù)據(jù)化、符號化和還原論三個角度來闡明AI理性主義理路的局限性?;诟绲聽柖ɡ恚覀冋J(rèn)為,AI是一種不完備的形式系統(tǒng),人類實際上也是不完備的形式系統(tǒng),但人類形式系統(tǒng)比AI形式系統(tǒng)更高階,人類形式系統(tǒng)的不完備性主要表現(xiàn)在無法實現(xiàn)科學(xué)的心理活動,這或許正是人類社會豐富多彩的重要原因,心理活動也是AI發(fā)展的極限。

    二、AI發(fā)展階段與鮑莫爾成本病

    由于AI是不斷發(fā)展的,處在不同發(fā)展階段上的AI對就業(yè)的影響有較大的差別,因此闡述AI的發(fā)展階段有助于為處在不同發(fā)展階段上的AI影響就業(yè)提供有針對性的對策建議。鮑莫爾成本病(Baumol’s Cost-Disease)能否得到根治不但與服務(wù)業(yè)的效率能否得到提高相關(guān),也與AI能否完全替代就業(yè)相關(guān)。

    1.AI的發(fā)展階段

    學(xué)術(shù)界根據(jù)AI工作能力的強弱,把AI的發(fā)展劃分成幾個階段,但一般認(rèn)為可劃分成“兩個階段”或“三個階段”。

    “三個階段”說認(rèn)為,第一個階段屬于弱人工智能階段,該階段的AI只擅長某一方面的工作,譬如下棋、語音識別、人臉識別、指紋識別等,也被稱為專用人工智能(Special AI)。隨著AI制造技術(shù)的不斷完善,AI將越來越小型化、成本不斷下降、價格越來越便宜,它將充斥于我們生產(chǎn)和生活的方方面面。正如尼爾·斯蒂芬森(Neil Stephenson)在小說《鉆石時代》里所描述的,人們被“智能灰塵”包圍,無數(shù)個微型機器人,每一個都只掌握人類的一種功能,滿足人類不同的需求。

    第二個階段屬于強人工智能階段,該階段的AI,其顯著特征是具有通用功能,也被稱為通用人工智能(General AI),并且其通用能力基本上可以與人類相當(dāng),某些單一方面的能力超過,甚至遠(yuǎn)遠(yuǎn)超過人類。強人工智能可以被視為把具有單一功能的模塊通過一定的程序或機制集合在一起,根據(jù)實際需要在不同功能模塊之間加以切換。[注]皮埃羅·斯加魯菲:《智能的本質(zhì)》,任莉,張建宇譯,人民郵電出版社2017年版,第180頁。

    第三個階段是超人工智能階段,該階段的AI不僅具有像人類一樣的通用性能力,而且各方面的能力都遠(yuǎn)遠(yuǎn)超過人類,不但具有超強的理性能力,還具有情感意識和創(chuàng)造能力。[注]劉奇:《人工智能:引出諸多可期可慮的社會課題》,《北京日報》2017年9月25日。

    “兩個階段”說認(rèn)為,超人工智能階段是不可能實現(xiàn)的。超人工智能階段是否能夠?qū)崿F(xiàn),目前學(xué)術(shù)界沒有達(dá)成共識?;诤笪牡恼撟C,我們認(rèn)為,超人工智能階段是不可能實現(xiàn)的。

    目前AI在整體上處于弱人工智能階段的早期階段,不但不具有通用性,[注]程承坪、李雨佳:《人工智能不能動搖社會主義市場經(jīng)濟體制》。而且完成單一方面的工作也非盡善盡美,雖然有些方面的工作比人類做得更好,譬如下圍棋、數(shù)據(jù)計算等方面,但更多方面的能力還有待進一步提高。

    目前AI對人類就業(yè)的影響還十分有限,隨著AI單一方面能力的不斷提高以及AI生產(chǎn)成本的不斷下降,一些常規(guī)性、重復(fù)性、程序性的工作可能被AI大量替代,這些工作隨著被AI的大量替代,工作效率將大幅度提高。隨著AI比較經(jīng)濟效益的提高,將鼓舞人們大量運用AI、投資AI的研發(fā),進一步拓展和提高AI的能力,由弱人工智能的早期階段向中后期階段發(fā)展,并向強人工智能階段邁進。

    把AI推向強人工智能階段的因素,除了前述原因以外,還與AI具有較強的就業(yè)空間極化效應(yīng)和技術(shù)極化效應(yīng)有關(guān)。[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》。雖然以往的技術(shù)進步也存在就業(yè)空間極化效應(yīng)和技術(shù)極化效應(yīng),但主要囿于有限的范圍內(nèi),相比之下,AI會形成國際間的就業(yè)空間極化現(xiàn)象和技術(shù)極化現(xiàn)象。[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》。因此,各個國家都紛紛推出自己的AI國家發(fā)展戰(zhàn)略,譬如現(xiàn)有美國、德國、日本、英國、韓國、中國等國出臺了AI發(fā)展的國家戰(zhàn)略,旨在搶占AI發(fā)展的國際制高點,實現(xiàn)有利于本國就業(yè)的目的。

    2.AI與鮑莫爾成本病

    經(jīng)濟學(xué)界比較關(guān)注鮑莫爾成本病問題,原因在于它涉及第三產(chǎn)業(yè)生產(chǎn)效率是否能夠因AI的發(fā)展而得到根本性改觀。而大眾關(guān)注鮑莫爾成本病問題,更直接的原因在于擔(dān)心AI最終會完全替代就業(yè)。因為根據(jù)包括AI在內(nèi)的技術(shù)進步的發(fā)展態(tài)勢判斷,第一產(chǎn)業(yè)和第二產(chǎn)業(yè)的生產(chǎn)遲早會自動化、無人化,人類將被排擠到第三產(chǎn)業(yè)就業(yè),如果僅剩的第三產(chǎn)業(yè)就業(yè)的機會都消失了,勞動者擔(dān)心自己將淪為AI時代的“無用階級”。

    包括中國在內(nèi)的許多國家,產(chǎn)業(yè)結(jié)構(gòu)不斷升級,第一產(chǎn)業(yè)和第二產(chǎn)業(yè)的產(chǎn)值比重和就業(yè)比重不斷下降,第三產(chǎn)業(yè)的產(chǎn)值比重和就業(yè)比重不斷上升。然而,第三產(chǎn)業(yè)與第一產(chǎn)業(yè)和第二產(chǎn)業(yè)有所不同的是,第三產(chǎn)業(yè)主要是服務(wù)業(yè),服務(wù)業(yè)與生產(chǎn)制造業(yè)最顯著的不同點在于服務(wù)業(yè)是高度勞動密集型的,許多服務(wù)業(yè)存在勞動過程就是勞動產(chǎn)品的特點,譬如理發(fā)服務(wù)、餐飲服務(wù)、娛樂休閑、藝術(shù)表演等,因此,此類服務(wù)業(yè)勞動效率難以像第一產(chǎn)業(yè)和第二產(chǎn)業(yè)那樣不斷地提高。正是基于對服務(wù)業(yè)勞動效率難以提高的現(xiàn)實的觀察和思考,美國經(jīng)濟學(xué)家鮑莫爾(William J. Baumol)于1967年在《美國經(jīng)濟評論》上發(fā)表了《非均衡增長的宏觀經(jīng)濟學(xué):城市病的剖析》的著名論文,該文闡述了著名的被學(xué)術(shù)界以鮑莫爾名字冠名的“鮑莫爾成本病”現(xiàn)象:由于服務(wù)業(yè)生產(chǎn)率相對較低,名義工資的上升會使服務(wù)業(yè)生產(chǎn)成本提高,若經(jīng)濟均衡發(fā)展,則勞動力將會向服務(wù)業(yè)轉(zhuǎn)移,整體經(jīng)濟增長率將會下降。[注]W. Baumol, “Macroeconomics of Unbalanced Growth:The Anatomy of Urban Crisis”,American Economic Review,No.3(1967).盡管后來人們從理論和實證兩個視角進行了大量的針對鮑莫爾成本病問題的研究,但并沒有得出學(xué)術(shù)界一致認(rèn)可的觀點。服務(wù)業(yè)的外延較廣,雖然不是所有的服務(wù)業(yè)都存在鮑莫爾成本病現(xiàn)象,[注]陳步峰:《現(xiàn)代企業(yè)服務(wù)轉(zhuǎn)型的新趨勢》,《企業(yè)文明》2011年第2期。但不可否認(rèn),不少服務(wù)業(yè)確實存在鮑莫爾成本病現(xiàn)象。半個多世紀(jì)以來,鮑莫爾成本病困擾了第三產(chǎn)業(yè)的發(fā)展,特別是具有“勞動過程就是勞動產(chǎn)品”特點的服務(wù)業(yè)的發(fā)展。

    由于AI具有一定程度的自主性,而且AI的發(fā)展前景良好,因此,人們似乎看到了AI治愈鮑莫爾成本病的曙光。譚洪波在《光明日報》上撰文認(rèn)為,“人工智能的出現(xiàn)和發(fā)展將會徹底改變鮑莫爾病存在的基礎(chǔ)”,因此他斷言AI能夠根治鮑莫爾成本病。[注]譚洪波:《人工智能能夠根治鮑莫爾病嗎?》,《光明日報》2017年12月19日。如果譚洪波的斷言是正確的,那么就意味著“人工智能最終能完全替代人類就業(yè)”。對此斷言既有樂觀者,也有悲觀者。樂觀者認(rèn)為,如果果真如此,就意味著人類可以完全從生產(chǎn)活動的束縛中解放出來,財富將會“涌流”,馬克思意義上的“自由人的聯(lián)合體”將有可能實現(xiàn)。[注]高奇琦:《人工智能、人的解放與理想社會的實現(xiàn)》,《上海師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2018年第1期。悲觀者認(rèn)為,即使財富“涌流”了,但不屬于勞動者,勞動者將全部失業(yè),淪為AI時代的“無用階級”,如果解決不好財富分配問題,收入分配差距將會變得越來越大,人類社會不是變得更好而可能是變得更加糟糕。樂觀者認(rèn)為,人類有智慧解決財富生產(chǎn)問題,就有智慧解決財富分配問題。換言之,在樂觀者看來,財富生產(chǎn)是解決財富分配問題的充分條件。然而歷史的經(jīng)驗教訓(xùn)反復(fù)證明,財富生產(chǎn)既不是解決財富分配問題的充分條件,也不是必要條件。

    根據(jù)本文第三部分的論證,我們認(rèn)為AI不可能根治鮑莫爾成本病,從而證明了某些第三產(chǎn)業(yè)的生產(chǎn)效率不會因為AI的發(fā)展而得到根本性提高,這有助于回應(yīng)經(jīng)濟學(xué)界的關(guān)切;同時也證明了,從技術(shù)角度而言,AI時代仍然有就業(yè)的空間,勞動者不會淪為AI時代的“無用階級”,這有助于消除大眾的顧慮。

    三、AI與人類的區(qū)別

    本文從存在基礎(chǔ)、物質(zhì)基礎(chǔ)和工作機制以及形式系統(tǒng)三個方面論證AI與人類的區(qū)別。

    1.AI與人類的存在基礎(chǔ)不同

    從哲學(xué)角度而言,AI是一種理性存在物,而人類卻不完全是理性的存在。

    從AI發(fā)生、發(fā)展的歷程來看,理性主義是其哲學(xué)基礎(chǔ)。[注]徐獻(xiàn)軍:《人工智能的極限與未來》。理性主義傳統(tǒng)可追溯到古希臘哲學(xué)。蘇格拉底(Socrates)認(rèn)為,智慧是可以被清晰定義或形式化的。柏拉圖(Plato)把全部推理都還原成明晰的規(guī)則,把世界還原為不需要解釋地運用這些規(guī)則的基本事實。古希臘哲學(xué)區(qū)分了本質(zhì)與現(xiàn)象,認(rèn)為現(xiàn)象是不真實的,只有運用理性才能把握永恒不變的本質(zhì)——理念世界,由此獲得對真理的認(rèn)識。[注]梯利:《西方哲學(xué)史》,葛力譯,商務(wù)印書館1995年版,第65頁。古希臘人的自由就是知識論意義上的自由,是認(rèn)識到了事物的本質(zhì)規(guī)定的自由。正如承繼了古希臘自由理念的斯賓諾莎(Baruch de Spinoza)和黑格爾(Georg Wilhelm Friedrich Hegel)所說的,自由是對必然的體認(rèn),自由就是服從理性。愛因斯坦(Albert Einstein)指出:“西方科學(xué)的發(fā)展是以兩個偉大的成就為基礎(chǔ)的:希臘哲學(xué)家發(fā)明的形式邏輯體系(在歐幾里得幾何學(xué)中),以及(在文藝復(fù)興時期)發(fā)現(xiàn)通過系統(tǒng)的實驗可能找出因果關(guān)系?!盵注]吳國盛:《什么是科學(xué)》,廣東人民出版社2016年版,第60頁。

    理性主義認(rèn)為,事物都是由屬性和關(guān)系構(gòu)成的,只要搜集關(guān)于事物的屬性和關(guān)系的信息,構(gòu)建相應(yīng)的表征模型,就能復(fù)制或還原事物及其行為。知識就是表征的存儲庫,而表征可以用于推理,并被翻譯為語言,思維就是操控表征的進程。[注]T. Winograd and F. Flores,Understanding Computers and Cognition:A New Foundation for Design,Ablex,1986,p.73.

    AI的發(fā)生和發(fā)展就遵循著這種理性主義傳統(tǒng),把物理世界和人類行為形式化、符號化、還原化。德雷弗斯(H. Dreyfus)認(rèn)為,物理符號系統(tǒng)可以通過遵循形式規(guī)則的符號操作,來產(chǎn)生智能行為。[注]H. Dreyfus,What Computers Still Can’t Do: ACritique of Artificial Reason,MIT Press,1972,pp.177-178.目前較為流行的AI深度學(xué)習(xí)就是一種基于人工神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)表征與處理方式。AI遵循形式化、符號化、還原化的理性主義哲學(xué)思維,把人類的行為理解成與情境無關(guān)的離散元素所進行的、遵循規(guī)則的計算,認(rèn)為世界是由最基本的非歧義的要素構(gòu)成的,只要找到了這些要素,AI就能自動工作。

    然而,人卻不完全是一種理性的存在物。人既有理性,又有心性和靈性。心性不同于理性,它包括情感、情緒、態(tài)度等,靈性就是靈感。[注]於興中:《算法社會與人的秉性》,《中國法律評論》2018年第2期。心性和靈性并不遵循理性主義的邏輯思維模式,它有自己獨特的發(fā)生學(xué)進路和行為方式。正因如此,“目前世界上只有人類才具有真正意義上的心靈”。[注]顏青山:《深度“漢字屋”與通用人工智能的兩難》,《上海師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2018年第5期。

    形式化、符號化雖然符合理性主義對科學(xué)知識確定性的追求,但是它會抹殺事物質(zhì)的差別。意義是建立在質(zhì)的差異上的,抹殺質(zhì)的多樣性會導(dǎo)致意義的消失。正如亞里士多德(Aristotle)所指出的,數(shù)學(xué)化、形式化固然重要,但在把握事物本原方面并不是最重要的,因為它只處理事物量的方面,而事物質(zhì)的方面更重要。[注]吳國盛:《什么是科學(xué)》,第174—175頁。

    AI是以數(shù)據(jù)、符號為導(dǎo)向的,把各種事物、行為數(shù)據(jù)化、符號化。數(shù)據(jù)、符號都是一維符號系統(tǒng),但世界卻是四維的,兩者不能形成同構(gòu),[注]梅劍華:《理解與理論:人工智能基礎(chǔ)問題的悲觀與樂觀》,《自然辯證法通訊》2018年第4期。因而用一維的數(shù)據(jù)或語言系統(tǒng)來描述四維的世界必定是捉襟見肘的。一維的數(shù)據(jù)或符號在把四維的世界圖景映射過來時,必然會丟失一些重要的細(xì)節(jié)和信息。人腦在長期的演化過程中逐漸形成了與四維世界同構(gòu)的思維能力。瑞士蘇黎世大學(xué)人工智能實驗室主任普菲爾(Rolf Pfeifer)教授認(rèn)為,人的智能既有表征能力,又有非表征能力,與四維世界能夠較好地同構(gòu)。[注]徐獻(xiàn)軍:《具身人工智能與現(xiàn)象學(xué)》,《自然辯證法通訊》2012年第6期。心理學(xué)家詹姆斯(William James)提出的“意識的邊緣”概念、現(xiàn)象學(xué)家胡塞爾(Edmund Gustav Albrecht Husserl)提出的“被動發(fā)生”概念以及物理化學(xué)家和哲學(xué)家波蘭尼(Michael Polanyi)提出的“默會知識”概念等,[注]徐獻(xiàn)軍:《人工智能的極限與未來》。都旨在說明有些心理現(xiàn)象是難以形式化的,因而也是難以傳遞的。

    事實上,人類的很多意識和行為是不可表征的。根據(jù)認(rèn)知神經(jīng)心理學(xué)的研究,人類思維只有少部分可以通過語言或繪畫加以表征,而人類文字的表征能力又弱于語言或繪畫,計算機數(shù)碼和算法的表征能力又弱于文字。從表征能力角度而言,可以寫成表征能力漸弱的梯級層次:人類思維?人類語言和繪畫?文字?計算機數(shù)碼和算法。[注]程承坪、鄧國清:《大數(shù)據(jù)與社會主義市場經(jīng)濟體制》,《探索與爭鳴》2018年第4期。因此,約翰·塞爾(J. R. Searle)指出:“如果心當(dāng)真是一臺計算機,它的運算必須用語法來定義,然而,意識、思想、感情、情緒以及心理的所有其他特征遠(yuǎn)非語法所能包容。不管計算機的模擬能力有多強,按照定義,它也不能復(fù)制那些特征?!盵注]約翰·塞爾:《心、腦與科學(xué)》,楊音萊譯,上海譯文出版社1991年版,第28頁。

    除了上述數(shù)據(jù)化、符號化以外,還原論也是理性主義的重要特征。還原論旨在把整體還原為局部、宏觀還原為微觀、復(fù)雜還原為簡單、質(zhì)還原為量。還原論雖然可追溯到古希臘理性主義哲學(xué),但現(xiàn)代還原論主要源自18世紀(jì)牛頓經(jīng)典力學(xué),該理論認(rèn)為“整體要在部分層面上得以解釋”。[注]霍奇遜:《演化與制度:論深化經(jīng)濟學(xué)和經(jīng)濟學(xué)的演化》,任榮華譯,中國人民大學(xué)出版社2007年版,第136頁。雖然牛頓經(jīng)典力學(xué)及其還原論思想對后世自然科學(xué)甚至社會科學(xué)的發(fā)展都產(chǎn)生了巨大的積極影響,但其還原論思想的局限性也一直受到詬病。18世紀(jì)之后出現(xiàn)的量子力學(xué)、涌現(xiàn)理論、系統(tǒng)理論等,都說明許多宏觀現(xiàn)象、整體現(xiàn)象不能還原為微觀現(xiàn)象、局部現(xiàn)象的疊加。譬如水的許多特性不能從其分子構(gòu)成的氧原子和氫原子的性質(zhì)中得到說明,人的行為也不能完全從人的基因中得到說明。但物理主義者認(rèn)為,心靈活動可以還原為大腦思維。結(jié)構(gòu)主義者進一步認(rèn)為,大腦神經(jīng)系統(tǒng)的結(jié)構(gòu)決定人的心理,只要解構(gòu)大腦神經(jīng)系統(tǒng)的結(jié)構(gòu),就可以實現(xiàn)對大腦思維的模仿,從而使AI具備人類一樣的心靈活動。然而,許多神經(jīng)認(rèn)知科學(xué)家認(rèn)為,人類并不完全依靠腦來思維,身體對人類的思維有著不可忽視的影響。[注]徐獻(xiàn)軍:《具身人工智能與現(xiàn)象學(xué)》。皮埃羅·斯加魯菲(Piero Scaruffi)認(rèn)為,應(yīng)去除大腦中心論,要用身體來定義人類,大腦僅僅是人的一個器官。[注]皮埃羅·斯加魯菲:《智能的本質(zhì)》,第24頁。法國現(xiàn)象學(xué)家和心理學(xué)家梅洛·龐蒂(Maurice Merleau-Ponty)提出“具身”概念,認(rèn)為具身認(rèn)知的本質(zhì)是由身體、知覺和世界組成的一個統(tǒng)一整體,認(rèn)知是身體活動產(chǎn)生的,而不只是大腦對信息的加工。[注]目前有部分AI技術(shù)專家接受了這種批評,初步研究出了具身AI,在不斷提高AI“智能”的基礎(chǔ)上,不忽視具身認(rèn)知的作用,并努力賦予AI“情能”。參見殷杰,張禎:《身體與道德發(fā)生機制的認(rèn)知維度探析》,《科學(xué)技術(shù)哲學(xué)研究》2018年第2期。

    2.AI與人類的物質(zhì)基礎(chǔ)和工作機制不同

    比較AI及人類的物質(zhì)基礎(chǔ)可以發(fā)現(xiàn),AI是由硅等無機物構(gòu)成的,而人類是生物體,由有機物構(gòu)成。即使人類完全明了人類的腦神經(jīng)系統(tǒng)的結(jié)構(gòu),以及身體結(jié)構(gòu),AI可以完全模仿它們,但由于物質(zhì)基礎(chǔ)不同,AI也不可能完全模仿人類的行為,因為系統(tǒng)的功能既取決于結(jié)構(gòu),也與物質(zhì)基礎(chǔ)有關(guān)。

    比較AI與人類的工作原理,我們發(fā)現(xiàn),AI與人類生命體的工作原理有很大的差異:人類生命體由染色體上核苷酸序列依據(jù)特定的機制驅(qū)動,具有自主性;而AI的行為取決于0 /1的二進制符碼的編排,AI接受人類的指令而被動地工作。人類的思維是由肉體的生理電波驅(qū)動的,AI依靠非生理電波工作。人類的心理狀態(tài)受生物化學(xué)成分“激勵”,具有多種情緒表現(xiàn)。譬如,多巴胺主導(dǎo)快樂和喜悅,乙酰膽堿主導(dǎo)焦慮和不確定性,血清素主導(dǎo)痛苦和悲哀,去甲腎上腺素主導(dǎo)新奇和興奮,等等。而AI不受情緒影響,行為是穩(wěn)定的。[注]程承坪、李雨佳:《人工智能不能動搖社會主義市場經(jīng)濟體制》。即使AI模仿人類的情緒性行為,這種行為也不是真正的“情緒”,而是來自“情緒”指令,猶如舞臺上的演員,其喜怒哀樂皆出于劇本需要。一個人的知識和信仰是社會適應(yīng)和文化演化的結(jié)果,不要說AI無法復(fù)制一個人的智慧和信仰,即便是克隆人,至多是復(fù)制一個人的軀體,不可能復(fù)制一個人的歷史和經(jīng)驗。人具有社會性和文化性,而AI只具有自然性和機械性,AI最多能復(fù)制大腦的結(jié)構(gòu)或強化大腦的局部功能,執(zhí)行人類賦予的指令,它不可能考慮指令的社會意義和社會后果。[注]張勁松:《人是機器的尺度:論人工智能與人類主體性》,《自然辯證法通訊》2017年第1期。因此,需要承擔(dān)責(zé)任的工作,AI只能充當(dāng)助手,不能作為一名公民承擔(dān)主體責(zé)任,AI只能是人類的工具。

    3.AI與人類是不同的“形式系統(tǒng)”

    AI與人類是兩種不同的“形式系統(tǒng)”。分析哲學(xué)家和許多AI專家認(rèn)為,科學(xué)的心理狀態(tài)可能會實現(xiàn)。但現(xiàn)象學(xué)家持反對意見,他們認(rèn)為所有的科學(xué)概念都來自有意義的意識,所以不能用來解釋意識。假設(shè)存在一個獨立于人類思想的真實意識世界且認(rèn)為科學(xué)可能發(fā)現(xiàn)這個世界的客觀屬性,那這一假設(shè)是荒謬的。瑪格麗特·博登(Margaret A. Boden)認(rèn)為,純形式主義理論不能解釋心理特性。[注]瑪格麗特·博登:《人工智能的本質(zhì)與未來》,孫詩惠譯,中國人民大學(xué)出版社2017年版,第169頁。

    根據(jù)哥德爾不完備性定理,由于AI是一個形式系統(tǒng),因此AI必定是不完備的。1961年,約翰·盧卡斯發(fā)表了《心靈、機器與哥德爾》的論文,推進了哥德爾不完備性定理,并據(jù)此指出,作為一種形式系統(tǒng)的機器永遠(yuǎn)無法跳出“哥德爾陷阱”,人類能夠辨別哥德爾語句的真假,但機器無法做到,人的心理活動不是一臺計算機。[注]劉大為:《哥德爾定理:對盧卡斯-彭羅斯論證的新辨析》,《科學(xué)技術(shù)哲學(xué)研究》2017年第10期。從這一角度而言,人類是比AI更高階的形式系統(tǒng)。但人類作為一個形式系統(tǒng),也具有不完備性,人類自身的一些現(xiàn)象人類無法給出科學(xué)的解釋。正因如此,康德(Immanuel Kant)說:“故我發(fā)現(xiàn)其為信仰留余地,則必須否定知識?!盵注]溫純?nèi)纾骸犊档碌囊粭l哲學(xué)名言辨正》,《哲學(xué)動態(tài)》1989年第7期。我們理解康德的意思是,知識無法解釋信仰,這正是人類作為一個形式系統(tǒng)不完備性的表現(xiàn)。愛因斯坦說:“宗教沒有被科學(xué)取代,科學(xué)不能解決人類信仰的問題?!盵注]鐘科文:《“科學(xué)沒有宗教是跛足的”什么意思?》,《科學(xué)與無神論》2001年第2期??茖W(xué)追求一元性,而信仰則是多元的,多元的信仰造就了豐富多彩的人類社會。AI本質(zhì)上是一個科學(xué)知識系統(tǒng),信仰等心理活動是其發(fā)展的極限。

    綜上所述,可以把AI與人類的差別做如下概括:AI是一種理性的存在物,而人類卻不完全是理性的,人既有理性,又有心性和靈性;AI是一維的表征化系統(tǒng),與四維世界不同構(gòu),豐富多彩的世界難以被AI表征化,而人類思維經(jīng)長期演化,適應(yīng)了四維世界,可以反映豐富多彩的世界;AI是由硅等無機物構(gòu)成的,而人類是生物體,由有機物構(gòu)成;人類由生物化學(xué)物質(zhì)驅(qū)動,具有自主性,而AI受人類編寫的程序驅(qū)動,具有被動性;盡管人類和AI都是不完備的“形式系統(tǒng)”,但人類是比AI更高階的“形式系統(tǒng)”,人類有信仰,而AI沒有。

    基于前述研究結(jié)論,我們認(rèn)為,AI與人類智能存在第1種形式的區(qū)別,即A∩B≠ф(ф為空集),且AB∧BA。這意味著AI只能有限度地替代就業(yè),不可能完全替代就業(yè),也不可能根治鮑莫爾成本病。

    四、不同發(fā)展階段上的AI對就業(yè)的影響及對策

    依據(jù)第三部分的分析,筆者認(rèn)為AI不能實現(xiàn)超人工智能。因此,本文把AI劃分為弱人工智能和強人工智能兩個發(fā)展階段,依此分析對就業(yè)的影響,并提出對策建議。

    1.弱人工智能階段的AI對就業(yè)的影響

    針對AI影響就業(yè)的分析,我們從AI的就業(yè)替代效應(yīng)和就業(yè)創(chuàng)造效應(yīng)兩個方面展開。

    (1)弱人工智能階段的AI就業(yè)替代效應(yīng)

    處于弱人工智能階段的AI,也有一個功能發(fā)展完善以及制造成本不斷降低的過程。目前AI處于功能發(fā)展完善和制造成本不斷降低的早期階段,其應(yīng)用主要針對具有較大規(guī)模效益的領(lǐng)域,以及人們不愿意從事的“險”“臟”“累”工作。隨著AI技術(shù)的發(fā)展,以及一些用工成本較高的可重復(fù)的單一技術(shù)勞動崗位將逐步被AI替代,這既包括體力勞動,也包括腦力勞動。如果勞動力成本上升較快,那么就存在用AI替代勞動的技術(shù)需求和壓力,一些具有規(guī)模效應(yīng)的制造業(yè)可能會首先受到?jīng)_擊,這些工作崗位通過分解成若干道單一技術(shù)工序而被AI替代。受成本約束,不具有規(guī)模效應(yīng),且涉及多個技術(shù)步驟的個性化生產(chǎn)難以被AI替代。除了極少數(shù)技術(shù)較為單一的服務(wù)業(yè),其鮑莫爾成本病能夠得到治愈或緩解以外,大多數(shù)技術(shù)要求較高且較為復(fù)雜的服務(wù)業(yè)的鮑莫爾成本病不可能得到治愈。

    (2)弱人工智能階段的AI就業(yè)創(chuàng)造效應(yīng)

    一方面,由于AI對生產(chǎn)效率的提高具有顯著的成效,因此世界各國、各地區(qū)必定會競相發(fā)展AI;另一方面,在國家之間以及國內(nèi)不同區(qū)域之間存在發(fā)展AI的就業(yè)空間極化現(xiàn)象,[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》。因此各地也會基于促進本地區(qū)就業(yè)的目的而大力投資AI的發(fā)展。AI由三個要素構(gòu)成:芯片、算法和數(shù)據(jù)。開發(fā)新形式的芯片或開發(fā)功能更強大的芯片,開發(fā)新算法、完善現(xiàn)有算法,發(fā)展、生產(chǎn)數(shù)據(jù)獲取的設(shè)備等方面,將創(chuàng)造大量就業(yè)。同時,推廣應(yīng)用AI、維護AI運行以及為AI健康使用創(chuàng)造基礎(chǔ)條件等方面也將創(chuàng)造大量的新就業(yè)崗位。

    根據(jù)弱人工智能階段AI的特點,只要政府對提高勞動力素質(zhì)較為重視,總體而言,AI的就業(yè)創(chuàng)造效應(yīng)會大于其就業(yè)替代效應(yīng),但對勞動力素質(zhì)難以提高或不愿意提高的勞動者,AI的就業(yè)替代效應(yīng)對他們的影響可能較大,需要盡早做好防范、化解就業(yè)替代效應(yīng)帶來的社會風(fēng)險的制度安排。

    2.強人工智能階段的AI對就業(yè)的影響

    (1)強人工智能階段的AI就業(yè)替代效應(yīng)

    從技術(shù)進步角度而言,強人工智能階段與弱人工智能階段的劃分只是理論上的,現(xiàn)實中必定存在交叉現(xiàn)象。由于強人工智能具有通用性,因此許多工作即使不能分解或分解不具有規(guī)模經(jīng)濟,也能被AI替代。隨著技術(shù)進步,AI的技術(shù)水平會不斷提高,同時其制造成本會不斷降低,從理論上說,凡是從技術(shù)上AI能做的工作,相應(yīng)的就業(yè)崗位都有可能會被AI替代。但根據(jù)前文第三部分的分析,人能做的許多工作AI不能做,即存在AI對就業(yè)替代的技術(shù)極限,譬如藝術(shù)創(chuàng)作、情感交流、科學(xué)創(chuàng)造以及需要承擔(dān)即時決策責(zé)任的工作,等等。

    (2)強人工智能階段的AI就業(yè)創(chuàng)造效應(yīng)

    即使在強人工智能階段,AI也會創(chuàng)造大量的就業(yè)。由于人類的需求是開放的,會隨著經(jīng)濟社會的發(fā)展而不斷擴展、提高,[注]程承坪:《分工及其深化的原因探析》,《經(jīng)濟與管理評論》2015年第1期。這就需要不斷地研發(fā)、生產(chǎn)新的能夠滿足人類新需求的AI,或者拓展AI的新功能。與此同時,AI把人類從繁重的一般性勞動中解放出來,使得人類可以更深入、更廣泛地從事探究世界奧秘、擴展人類精神空間的工作,這就會創(chuàng)造許多新形式的適合人類的工作崗位。當(dāng)然這其中很多的工作可以通過人機合作的方式進行,因為人類與AI各有優(yōu)勢和不足,互補兼容、取長補短可以增強人類的能力,拓展人類的思想空間和生存空間。

    由此我們可以看到,即使到強人工智能階段,也不可能完全根治鮑莫爾成本病,仍然存在大量的人類就業(yè)崗位。

    3.減少AI就業(yè)替代效應(yīng)、促進AI就業(yè)創(chuàng)造效應(yīng)的對策建議

    (1)AI基礎(chǔ)理論研究與應(yīng)用研究并重

    從就業(yè)角度而言,AI的發(fā)展存在國際空間就業(yè)極化現(xiàn)象,搶占AI發(fā)展的國際制高點,有利于促進中國AI的就業(yè)創(chuàng)造效應(yīng)。目前中國在AI的開發(fā)應(yīng)用方面取得了積極成效,但在AI的基礎(chǔ)理論研究方面與美國等發(fā)達(dá)國家相比還有較大的差距。[注]程承坪、彭歡:《人工智能影響就業(yè)的機理及中國對策》。2018年10月31日,習(xí)近平同志在中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行的第九次集體學(xué)習(xí)時指出,要加強AI基礎(chǔ)理論研究,支持科學(xué)家勇闖AI科技前沿的“無人區(qū)”,努力在AI發(fā)展方向和理論、方法、工具、系統(tǒng)等方面取得變革性、顛覆性突破,確保中國在AI這個重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點。同時還要進一步加強AI應(yīng)用研究,以問題為導(dǎo)向,充分發(fā)揮中國數(shù)據(jù)量巨大和消費市場巨大的應(yīng)用規(guī)模優(yōu)勢,積極培育AI創(chuàng)新產(chǎn)品和服務(wù),促進AI技術(shù)產(chǎn)業(yè)化,形成科技創(chuàng)新和產(chǎn)業(yè)應(yīng)用互相促進的良好發(fā)展局面。

    (2)加大AI基礎(chǔ)教育和職業(yè)技能培訓(xùn)的力度

    AI是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量,夯實基礎(chǔ),提高勞動者素質(zhì),既有利于促進中國AI技術(shù)的發(fā)展,也有利于減少AI的就業(yè)替代效應(yīng)。在義務(wù)教育階段,應(yīng)盡早開設(shè)AI通識課;職業(yè)技術(shù)院校應(yīng)增加AI技能培訓(xùn)課程,培養(yǎng)AI應(yīng)用型人才;應(yīng)鼓勵高等學(xué)校圍繞AI增設(shè)相應(yīng)專業(yè),培養(yǎng)AI基礎(chǔ)人才和AI跨學(xué)科人才,夯實中國AI人才基礎(chǔ)。對轉(zhuǎn)崗和失業(yè)再就業(yè)人員的培訓(xùn),應(yīng)增加AI基本技能培訓(xùn)的內(nèi)容,對接AI快速發(fā)展對AI技術(shù)人才的需求。

    (3)擴大AI產(chǎn)業(yè)化規(guī)模和領(lǐng)域,創(chuàng)造新的就業(yè)機會

    擴大AI產(chǎn)業(yè)化規(guī)模和領(lǐng)域有利于促進AI的就業(yè)創(chuàng)造效應(yīng)。過去幾年,世界AI產(chǎn)業(yè)發(fā)展在三大方面取得了積極的成效:一是硬件化方面,二是數(shù)據(jù)化方面,三是商業(yè)化方面。在硬件化方面,智能機器人、智能音箱、智能家居、自動駕駛以及智能安防等方面都創(chuàng)造了佳績,但這些方面發(fā)展的空間仍然很大,技術(shù)還有待進一步成熟。在數(shù)據(jù)化方面,由于大數(shù)據(jù)是AI的“養(yǎng)料”,許多AI公司積極挖掘大數(shù)據(jù)資源,促進了傳感器和移動設(shè)備產(chǎn)業(yè)的發(fā)展,以及大數(shù)據(jù)挖掘人才的培養(yǎng)。大數(shù)據(jù)產(chǎn)業(yè)化發(fā)展還有很大的空間,許多領(lǐng)域的大數(shù)據(jù)有待開發(fā)和利用。譬如利用大數(shù)據(jù)服務(wù)于鄉(xiāng)村振興戰(zhàn)略,利用大數(shù)據(jù)提高政府行政能力和社會服務(wù)能力,提高就業(yè)率,更好地促進經(jīng)濟社會的發(fā)展。同時由于許多大數(shù)據(jù)涉及個人隱私,因此,規(guī)范大數(shù)據(jù)的使用也將創(chuàng)造許多工作崗位。在商業(yè)化方面,過去幾年AI在安防、金融、保險、教育、智慧城市、智能汽車、互聯(lián)網(wǎng)服務(wù)、語言翻譯、商品零售、健康醫(yī)療、助殘養(yǎng)老、游戲娛樂以及工業(yè)制造等許多領(lǐng)域取得了積極成效,今后AI不但在這些領(lǐng)域的商業(yè)化會繼續(xù)得到發(fā)展,而且還會快速拓展到其他領(lǐng)域,深入到人類工作和生活的方方面面。

    (4)完善社會保障制度,防范社會風(fēng)險

    一方面,AI的快速發(fā)展導(dǎo)致的就業(yè)替代效應(yīng),會使許多知識技能更新慢的勞動者面臨失業(yè)的風(fēng)險,需要完善社會保險制度加以兜底以防范社會風(fēng)險;另一方面,在AI時代,就業(yè)形式與過去會有較大的變化,過去以正規(guī)就業(yè)為主,而AI時代非正規(guī)就業(yè)將逐漸成為普遍現(xiàn)象,在AI時代對就業(yè)和失業(yè)需要重要界定,相應(yīng)地,社會保障制度也要與時俱進地改革和完善。

    AI時代如果收入分配制度不改革、不完善,有可能擴大收入分配差距。過去收入分配差距擴大主要是由資本對勞動的分配優(yōu)勢造成的,而AI時代既有資本對勞動的分配優(yōu)勢,又有不斷加速的就業(yè)技術(shù)極化帶來的高勞動技能對低勞動技能的分配優(yōu)勢,這兩者疊加有可能進一步放大收入分配差距。因此,要前瞻性地完善社會保障制度,防止收入分配差距的不斷擴大,以防造成重大的社會風(fēng)險。

    猜你喜歡
    階段人工智能人類
    關(guān)于基礎(chǔ)教育階段實驗教學(xué)的幾點看法
    人類能否一覺到未來?
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    在學(xué)前教育階段,提前搶跑,只能跑得快一時,卻跑不快一生。
    莫愁(2019年36期)2019-11-13 20:26:16
    1100億個人類的清明
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    人類正在消滅自然
    奧秘(2015年2期)2015-09-10 07:22:44
    五月开心婷婷网| 中文字幕免费在线视频6| 日韩免费高清中文字幕av| 国产日韩欧美视频二区| 亚洲美女搞黄在线观看| 婷婷成人精品国产| 久久精品国产a三级三级三级| 夜夜爽夜夜爽视频| 波野结衣二区三区在线| 国产精品 国内视频| 人体艺术视频欧美日本| 久久久国产精品麻豆| 欧美+日韩+精品| 看十八女毛片水多多多| 狠狠婷婷综合久久久久久88av| 大话2 男鬼变身卡| 亚洲激情五月婷婷啪啪| 最新中文字幕久久久久| 日韩制服骚丝袜av| 亚洲欧洲国产日韩| 欧美bdsm另类| 久久免费观看电影| 亚洲国产毛片av蜜桃av| 久久久久久久亚洲中文字幕| 欧美精品高潮呻吟av久久| 18禁观看日本| 欧美激情国产日韩精品一区| 国产免费一级a男人的天堂| 视频区图区小说| 国产精品一区二区在线不卡| 久久国内精品自在自线图片| 999精品在线视频| 精品亚洲乱码少妇综合久久| 两个人免费观看高清视频| 精品酒店卫生间| 大话2 男鬼变身卡| 精品久久久久久电影网| 男女高潮啪啪啪动态图| 最近手机中文字幕大全| 啦啦啦啦在线视频资源| 亚洲美女搞黄在线观看| 成年动漫av网址| 亚洲欧美成人精品一区二区| 看免费成人av毛片| 香蕉丝袜av| 纵有疾风起免费观看全集完整版| 性色av一级| 51国产日韩欧美| a级毛色黄片| 亚洲伊人色综图| 日韩电影二区| 在线观看人妻少妇| 夜夜爽夜夜爽视频| 亚洲成av片中文字幕在线观看 | 亚洲国产最新在线播放| a级毛片黄视频| 97精品久久久久久久久久精品| 亚洲美女搞黄在线观看| 午夜福利乱码中文字幕| 免费观看在线日韩| 亚洲熟女精品中文字幕| 伦理电影免费视频| 少妇猛男粗大的猛烈进出视频| 秋霞在线观看毛片| 丁香六月天网| 国产探花极品一区二区| 日本-黄色视频高清免费观看| 边亲边吃奶的免费视频| 亚洲天堂av无毛| 国产精品国产三级国产av玫瑰| 国产一区二区在线观看av| 99视频精品全部免费 在线| 久久这里有精品视频免费| 国产成人aa在线观看| 夜夜骑夜夜射夜夜干| 亚洲精品日本国产第一区| 夜夜骑夜夜射夜夜干| 最近手机中文字幕大全| 亚洲伊人色综图| 日本黄色日本黄色录像| 欧美日韩一区二区视频在线观看视频在线| 人人妻人人澡人人看| 国产成人av激情在线播放| 在线免费观看不下载黄p国产| 国产一区有黄有色的免费视频| 午夜福利,免费看| 母亲3免费完整高清在线观看 | 人人妻人人爽人人添夜夜欢视频| 婷婷色麻豆天堂久久| 久久久久视频综合| 久久久久人妻精品一区果冻| 卡戴珊不雅视频在线播放| 中文字幕av电影在线播放| 人妻人人澡人人爽人人| 最近中文字幕高清免费大全6| 精品熟女少妇av免费看| 日韩人妻精品一区2区三区| 日韩伦理黄色片| 精品久久国产蜜桃| 亚洲 欧美一区二区三区| 水蜜桃什么品种好| 国产精品久久久av美女十八| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久久久网色| 亚洲国产成人一精品久久久| 在线观看免费视频网站a站| 国产精品不卡视频一区二区| 啦啦啦视频在线资源免费观看| 日韩三级伦理在线观看| 有码 亚洲区| 天堂8中文在线网| 久久人人爽人人片av| 丁香六月天网| 国产精品.久久久| 国产女主播在线喷水免费视频网站| 五月伊人婷婷丁香| 国国产精品蜜臀av免费| 国产精品久久久久久av不卡| 热re99久久精品国产66热6| 秋霞伦理黄片| 伊人亚洲综合成人网| 丝袜人妻中文字幕| av免费观看日本| 黄片播放在线免费| 在现免费观看毛片| 国产精品久久久久久久久免| 亚洲精华国产精华液的使用体验| 亚洲第一区二区三区不卡| 一级毛片 在线播放| 久久青草综合色| 一级片'在线观看视频| 91午夜精品亚洲一区二区三区| 午夜福利影视在线免费观看| 亚洲精品第二区| 久久精品国产亚洲av天美| 欧美激情 高清一区二区三区| 成人亚洲欧美一区二区av| 国产永久视频网站| 欧美日韩精品成人综合77777| 伦理电影免费视频| 欧美 亚洲 国产 日韩一| 新久久久久国产一级毛片| 亚洲国产日韩一区二区| 日韩一本色道免费dvd| 精品久久久久久电影网| 日韩中文字幕视频在线看片| 26uuu在线亚洲综合色| 亚洲欧美成人精品一区二区| 亚洲成人av在线免费| 如日韩欧美国产精品一区二区三区| 国产欧美日韩综合在线一区二区| 国产男人的电影天堂91| 久久 成人 亚洲| 久久精品夜色国产| 又黄又爽又刺激的免费视频.| 午夜福利,免费看| 欧美xxⅹ黑人| 少妇人妻 视频| 视频中文字幕在线观看| 又黄又粗又硬又大视频| 三上悠亚av全集在线观看| 国产在线视频一区二区| 街头女战士在线观看网站| 久久午夜综合久久蜜桃| 欧美 亚洲 国产 日韩一| 99久久人妻综合| 亚洲av电影在线进入| 69精品国产乱码久久久| 国产av国产精品国产| 蜜桃国产av成人99| 免费黄网站久久成人精品| 美女视频免费永久观看网站| 亚洲欧洲日产国产| 最近中文字幕高清免费大全6| av女优亚洲男人天堂| 国产日韩欧美亚洲二区| 亚洲丝袜综合中文字幕| 91在线精品国自产拍蜜月| 大话2 男鬼变身卡| 国产精品国产三级专区第一集| 亚洲国产精品专区欧美| 伦理电影免费视频| 国产在视频线精品| 午夜福利视频精品| 亚洲国产精品一区三区| 在线观看国产h片| 亚洲av欧美aⅴ国产| av在线观看视频网站免费| 777米奇影视久久| 一区二区三区乱码不卡18| 成年av动漫网址| 久久毛片免费看一区二区三区| 波野结衣二区三区在线| 青春草视频在线免费观看| 欧美国产精品va在线观看不卡| 欧美3d第一页| 国产av一区二区精品久久| av有码第一页| 1024视频免费在线观看| 亚洲国产欧美在线一区| 亚洲精品av麻豆狂野| 亚洲精品aⅴ在线观看| 免费看光身美女| 国产有黄有色有爽视频| 2022亚洲国产成人精品| 2018国产大陆天天弄谢| 五月天丁香电影| 91成人精品电影| 深夜精品福利| 国产成人午夜福利电影在线观看| 亚洲精品中文字幕在线视频| 国产又爽黄色视频| 亚洲国产精品一区二区三区在线| 久久人人爽人人爽人人片va| 岛国在线观看网站| 国产精品综合久久久久久久免费 | 少妇的丰满在线观看| 国产区一区二久久| 色综合婷婷激情| 国产一区二区三区视频了| 黄片小视频在线播放| 国产精品久久视频播放| 国产单亲对白刺激| 国产激情欧美一区二区| 叶爱在线成人免费视频播放| 亚洲七黄色美女视频| 精品久久蜜臀av无| 女人爽到高潮嗷嗷叫在线视频| 精品国产超薄肉色丝袜足j| 国产主播在线观看一区二区| 99国产综合亚洲精品| 老司机午夜十八禁免费视频| 国产aⅴ精品一区二区三区波| 国产精品亚洲av一区麻豆| 久久这里只有精品19| 欧美精品人与动牲交sv欧美| 亚洲av日韩精品久久久久久密| 精品熟女少妇八av免费久了| 久久人人爽av亚洲精品天堂| 国产成人av教育| 啪啪无遮挡十八禁网站| 啦啦啦 在线观看视频| 午夜亚洲福利在线播放| 18禁黄网站禁片午夜丰满| 我的亚洲天堂| 女人被躁到高潮嗷嗷叫费观| 成年人免费黄色播放视频| 国产色视频综合| 中文字幕最新亚洲高清| 亚洲色图av天堂| 久久久久国产一级毛片高清牌| 成人精品一区二区免费| 老司机亚洲免费影院| 国产男女内射视频| 岛国在线观看网站| 另类亚洲欧美激情| 久久久久久久精品吃奶| 国产aⅴ精品一区二区三区波| 女人被躁到高潮嗷嗷叫费观| 777久久人妻少妇嫩草av网站| 国产日韩欧美亚洲二区| 天堂中文最新版在线下载| 亚洲精品乱久久久久久| 高潮久久久久久久久久久不卡| 精品少妇一区二区三区视频日本电影| 欧美激情 高清一区二区三区| 国产成人免费观看mmmm| 欧美日韩精品网址| 成人免费观看视频高清| 老司机午夜福利在线观看视频| 国产视频一区二区在线看| 成人免费观看视频高清| 十分钟在线观看高清视频www| 女同久久另类99精品国产91| 国产精品一区二区在线观看99| 国产成人欧美在线观看 | 亚洲av成人av| 18禁黄网站禁片午夜丰满| 欧美精品啪啪一区二区三区| 不卡一级毛片| 国产一区二区三区在线臀色熟女 | 午夜成年电影在线免费观看| 亚洲全国av大片| 狠狠婷婷综合久久久久久88av| 欧洲精品卡2卡3卡4卡5卡区| 亚洲欧美激情在线| 午夜福利视频在线观看免费| 丰满饥渴人妻一区二区三| 久久香蕉国产精品| 免费女性裸体啪啪无遮挡网站| 老司机午夜福利在线观看视频| netflix在线观看网站| 国产成人系列免费观看| 国产成人精品无人区| 18禁裸乳无遮挡动漫免费视频| 久久精品亚洲精品国产色婷小说| 国产xxxxx性猛交| 69av精品久久久久久| 丰满迷人的少妇在线观看| 美女视频免费永久观看网站| 国产一区二区激情短视频| 国产成人av教育| 日韩免费高清中文字幕av| 女人高潮潮喷娇喘18禁视频| 黑丝袜美女国产一区| 午夜久久久在线观看| 亚洲精品一卡2卡三卡4卡5卡| 亚洲精品国产精品久久久不卡| 国产国语露脸激情在线看| 免费一级毛片在线播放高清视频 | 国产亚洲精品久久久久久毛片 | 亚洲第一青青草原| 国产欧美日韩综合在线一区二区| 国产精品国产高清国产av | 高清在线国产一区| 国产亚洲av高清不卡| 国产一区二区三区在线臀色熟女 | 国产免费现黄频在线看| 久久久久国产一级毛片高清牌| 一区二区三区激情视频| 亚洲人成77777在线视频| 国产成人av教育| 国产单亲对白刺激| 欧美日韩视频精品一区| 黑人猛操日本美女一级片| 精品福利观看| 99国产精品免费福利视频| 一进一出抽搐动态| 99久久99久久久精品蜜桃| 天天影视国产精品| 亚洲黑人精品在线| 欧美国产精品一级二级三级| 国产成人啪精品午夜网站| 免费在线观看亚洲国产| 欧美乱码精品一区二区三区| 亚洲精品久久成人aⅴ小说| a级毛片在线看网站| 黄色毛片三级朝国网站| 在线视频色国产色| 国产有黄有色有爽视频| 91麻豆av在线| 国产一区二区三区视频了| 99精国产麻豆久久婷婷| 在线播放国产精品三级| 自线自在国产av| 精品福利永久在线观看| 久久午夜综合久久蜜桃| 人人妻,人人澡人人爽秒播| 亚洲精品自拍成人| 国产激情久久老熟女| 99久久综合精品五月天人人| 欧美不卡视频在线免费观看 | 欧美老熟妇乱子伦牲交| 91av网站免费观看| 欧美久久黑人一区二区| 亚洲 国产 在线| 精品免费久久久久久久清纯 | 巨乳人妻的诱惑在线观看| 久久久国产成人免费| 97人妻天天添夜夜摸| 亚洲精品国产精品久久久不卡| 丰满人妻熟妇乱又伦精品不卡| 午夜视频精品福利| 亚洲七黄色美女视频| 男女高潮啪啪啪动态图| av中文乱码字幕在线| 中文欧美无线码| 丝袜美足系列| 亚洲国产看品久久| 精品久久久久久电影网| 欧美成人午夜精品| 国产精品自产拍在线观看55亚洲 | 成人av一区二区三区在线看| 亚洲九九香蕉| 男女高潮啪啪啪动态图| 国产成人免费无遮挡视频| √禁漫天堂资源中文www| 亚洲欧美激情在线| 99re6热这里在线精品视频| 老司机午夜福利在线观看视频| 天堂俺去俺来也www色官网| 久久久水蜜桃国产精品网| 亚洲欧美激情综合另类| 免费日韩欧美在线观看| 国产精品免费一区二区三区在线 | 国产亚洲av高清不卡| 亚洲精品美女久久av网站| 狂野欧美激情性xxxx| 日本黄色视频三级网站网址 | 久久青草综合色| 亚洲精品久久成人aⅴ小说| 精品无人区乱码1区二区| 精品国产亚洲在线| 免费人成视频x8x8入口观看| 看片在线看免费视频| 精品一区二区三卡| 18禁黄网站禁片午夜丰满| 亚洲色图av天堂| 国产一区二区三区在线臀色熟女 | 18禁黄网站禁片午夜丰满| 天天操日日干夜夜撸| 777米奇影视久久| 国产视频一区二区在线看| 国产欧美亚洲国产| 亚洲情色 制服丝袜| 国产精品久久久av美女十八| 久99久视频精品免费| 欧美国产精品va在线观看不卡| 天堂动漫精品| 亚洲精品一卡2卡三卡4卡5卡| 天堂√8在线中文| 熟女少妇亚洲综合色aaa.| 少妇粗大呻吟视频| 中文字幕另类日韩欧美亚洲嫩草| 久久ye,这里只有精品| 精品久久久久久,| 久久九九热精品免费| 9191精品国产免费久久| 男女床上黄色一级片免费看| 成人三级做爰电影| 欧美日韩黄片免| 欧美日韩成人在线一区二区| 97人妻天天添夜夜摸| 国产成人精品久久二区二区91| 亚洲av片天天在线观看| 久久狼人影院| 99久久国产精品久久久| 精品少妇一区二区三区视频日本电影| 国产av精品麻豆| 91老司机精品| 欧美精品高潮呻吟av久久| 国产极品粉嫩免费观看在线| 国产亚洲精品久久久久久毛片 | 午夜久久久在线观看| 韩国精品一区二区三区| 久久久久精品人妻al黑| 亚洲av电影在线进入| 校园春色视频在线观看| 男男h啪啪无遮挡| 国产亚洲av高清不卡| 99久久99久久久精品蜜桃| 国产精品免费视频内射| 亚洲午夜精品一区,二区,三区| 黄色视频不卡| 国产片内射在线| 久久狼人影院| 国产麻豆69| 少妇粗大呻吟视频| 十八禁人妻一区二区| av不卡在线播放| 日本黄色日本黄色录像| 国产人伦9x9x在线观看| 国产成人系列免费观看| 久久这里只有精品19| 久久久久久免费高清国产稀缺| 国产成人免费观看mmmm| 亚洲aⅴ乱码一区二区在线播放 | 捣出白浆h1v1| 18在线观看网站| 国产欧美日韩精品亚洲av| 亚洲成国产人片在线观看| 欧美日韩黄片免| 国产精品偷伦视频观看了| 咕卡用的链子| 天堂动漫精品| 可以免费在线观看a视频的电影网站| 丝瓜视频免费看黄片| 亚洲色图 男人天堂 中文字幕| 欧美不卡视频在线免费观看 | 9色porny在线观看| 国产野战对白在线观看| 亚洲精品久久午夜乱码| 亚洲精品成人av观看孕妇| 亚洲中文av在线| 国产成人一区二区三区免费视频网站| 麻豆乱淫一区二区| 99国产综合亚洲精品| 夜夜夜夜夜久久久久| 国产精品亚洲一级av第二区| 欧美在线一区亚洲| 日日爽夜夜爽网站| 免费在线观看完整版高清| 男女高潮啪啪啪动态图| 在线视频色国产色| x7x7x7水蜜桃| 婷婷精品国产亚洲av在线 | 青草久久国产| 少妇猛男粗大的猛烈进出视频| 午夜两性在线视频| 日韩欧美一区视频在线观看| 亚洲国产欧美日韩在线播放| 性色av乱码一区二区三区2| 夜夜躁狠狠躁天天躁| 欧美黑人精品巨大| 婷婷丁香在线五月| 久久国产乱子伦精品免费另类| 最新的欧美精品一区二区| 一本综合久久免费| 大陆偷拍与自拍| 黑人操中国人逼视频| videosex国产| 午夜成年电影在线免费观看| 丁香欧美五月| 久久久久国内视频| 欧美激情久久久久久爽电影 | 自线自在国产av| 大香蕉久久成人网| www.精华液| 国产亚洲精品第一综合不卡| 超色免费av| 99久久国产精品久久久| 三级毛片av免费| 国产亚洲一区二区精品| 一级片免费观看大全| 91九色精品人成在线观看| 91精品三级在线观看| 可以免费在线观看a视频的电影网站| 999久久久国产精品视频| 午夜精品久久久久久毛片777| 水蜜桃什么品种好| 午夜福利在线免费观看网站| 免费一级毛片在线播放高清视频 | av片东京热男人的天堂| 新久久久久国产一级毛片| 成年女人毛片免费观看观看9 | 亚洲一区二区三区欧美精品| 在线观看www视频免费| 午夜精品久久久久久毛片777| 大型黄色视频在线免费观看| 大香蕉久久成人网| 国产欧美日韩一区二区三区在线| 无人区码免费观看不卡| 亚洲国产毛片av蜜桃av| 欧美日韩亚洲国产一区二区在线观看 | 搡老熟女国产l中国老女人| 丝袜美腿诱惑在线| 欧美国产精品va在线观看不卡| 亚洲av熟女| 国产精品免费视频内射| 1024视频免费在线观看| 下体分泌物呈黄色| 亚洲精华国产精华精| 午夜两性在线视频| 免费观看a级毛片全部| 午夜精品国产一区二区电影| 极品人妻少妇av视频| 天天躁狠狠躁夜夜躁狠狠躁| www.精华液| 日韩欧美三级三区| 黄色毛片三级朝国网站| 极品教师在线免费播放| 久久精品亚洲精品国产色婷小说| 99国产精品一区二区蜜桃av | 久久亚洲真实| 国产精品亚洲一级av第二区| 久久九九热精品免费| 身体一侧抽搐| 日韩一卡2卡3卡4卡2021年| 丁香欧美五月| 伦理电影免费视频| 他把我摸到了高潮在线观看| 高清在线国产一区| 少妇被粗大的猛进出69影院| 在线永久观看黄色视频| 亚洲精品自拍成人| 岛国在线观看网站| 亚洲av日韩在线播放| 亚洲午夜精品一区,二区,三区| 麻豆av在线久日| 麻豆乱淫一区二区| 国产av又大| 亚洲 国产 在线| 99热网站在线观看| 日韩欧美国产一区二区入口| 99热网站在线观看| 国产一区在线观看成人免费| 久久精品国产99精品国产亚洲性色 | 久久久国产精品麻豆| 免费观看精品视频网站| 亚洲熟妇熟女久久| 丁香六月欧美| 亚洲av成人av| 一级毛片高清免费大全| 国产亚洲欧美在线一区二区| 亚洲午夜理论影院| 亚洲av日韩在线播放| 久久香蕉精品热| 精品熟女少妇八av免费久了| 国产深夜福利视频在线观看| 99热网站在线观看| 国产成人系列免费观看| 夫妻午夜视频| 国产欧美日韩一区二区三| 最新美女视频免费是黄的| 精品乱码久久久久久99久播| 人人妻人人添人人爽欧美一区卜| 亚洲精品国产精品久久久不卡| 黑人操中国人逼视频| 欧美日韩亚洲综合一区二区三区_| 国产在视频线精品| 69av精品久久久久久| 水蜜桃什么品种好| 一区二区三区精品91| 亚洲av成人不卡在线观看播放网| av片东京热男人的天堂| 国产成人免费无遮挡视频| 久久久久久人人人人人| 国产成人av教育| 在线观看一区二区三区激情| 亚洲avbb在线观看| 高清视频免费观看一区二区| 中文字幕高清在线视频| 99国产综合亚洲精品| 色老头精品视频在线观看| 久久九九热精品免费|