• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能技術(shù)發(fā)展的馬克思主義哲學(xué)審視①

    2020-03-02 10:44:19
    勞動哲學(xué)研究 2020年0期
    關(guān)鍵詞:機器機器人人工智能

    劉 黎

    隨著21世紀信息與通信技術(shù)的快速發(fā)展,作為嶄新綜合學(xué)科的人工智能已被廣泛地運用于人類生產(chǎn)、生活、思維等諸多領(lǐng)域。然而當人類生存遭遇人工智能技術(shù)的深度融合與全面“入侵”時,英國著名物理學(xué)家霍金直言道:“我們已經(jīng)擁有的人工智能的原始形式已被證明是非常有用的。但我相信,人工智能的全面發(fā)展將帶來人類的滅亡。一旦人類發(fā)展出人工智能,它們將開始自主地迅速發(fā)展,并以越來越快的速度重新設(shè)計自己。然而人類由于受限于緩慢的生物進化,因而無法與之競爭,將被取代?!?1)參見:https://www.dailydot.com/debug/stephen-hawking-artificial-intelligence-civilization/?;艚鹨泽@世駭俗的言論告誡那些正執(zhí)迷于人工智能技術(shù)而不能自拔的人類,要時刻注意防范人工智能帶來的顯性與隱性的威脅。此外,伊隆·馬斯克也同樣警告人類,要警惕人工智能帶來的更加強大的黑暗潛力。在他看來人工智能類似于“潘多拉魔盒”,不僅是召喚惡魔的工具,還可能引發(fā)第三次世界大戰(zhàn)。與霍金、馬斯克為代表的“人工智能威脅論”相反,F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格對人工智能的未來發(fā)展趨勢持樂觀立場,認為“人工智能可以讓世界變得更加美好”。毫無疑問,人工智能話題引發(fā)了科學(xué)、倫理學(xué)、法學(xué)、政治學(xué)、哲學(xué)、社會學(xué)等各個學(xué)科的深切關(guān)注,這確實需要我們從不同的學(xué)科出發(fā)去審視人工智能在信息化時代的發(fā)展狀態(tài)。這意味著:第一,我們既要承認人工智能技術(shù)的運用給我們生活帶來的諸多便利之處,比如無人駕駛技術(shù)、智能語音助手、人臉識別、智慧型醫(yī)療與金融技術(shù)、自動化機器人等,它們都在一定程度上延伸了人類的某種行為能力,解決了人類面臨的某種局限性問題。但是在技術(shù)讓世界變得更美好的同時,我們也需要對其可能的或潛在的風(fēng)險給予高度重視,比如自動化軍事武器的大規(guī)模開發(fā)與運用所隱藏的實質(zhì)性威脅;人工智能技術(shù)成果所引發(fā)的諸種法律、倫理等問題;以及當人工智能技術(shù)產(chǎn)品具備獨立思考的能力和自我意識時,人類的主導(dǎo)性地位問題。第二,隨著智能技術(shù)的深入研究與智能產(chǎn)品的廣泛應(yīng)用,人工智能在促使科學(xué)技術(shù)迅猛發(fā)展、社會生產(chǎn)力快速提升的前提下,對人與人、人與物、人與自然、人與科技之間的關(guān)系以及人自身的存在方式所可能產(chǎn)生的效應(yīng)也是不容忽視的。第三,人工智能技術(shù)的“爆炸式”發(fā)展與應(yīng)用,是否意味著人類智慧的全面性破敗和人工智能奇點時刻的來臨?人類的主導(dǎo)性地位是否會被機器人取代?對這一系列問題的思考,將是人工智能時代無法回避的課題。

    一、人工智能技術(shù)潛藏的社會危機

    美國現(xiàn)代小說家、詩人理查德·布勞提根在其短詩《萬物皆在慈愛的機器眷顧下》中描繪了一幅人機和諧、自由相處的唯美畫面:機器、計算機為人類照管一切。這是充滿浪漫主義的烏托邦,還是未來現(xiàn)實生活的真實寫照呢?值得我們深思。從目前的發(fā)展情形來看,人工智能技術(shù)滲透到了社會諸多領(lǐng)域,人工智能技術(shù)本身的研究與發(fā)展以及人工智能技術(shù)的推廣和運用等都在人類社會歷史長河中激起了千層浪。從馬克思歷史唯物主義角度來看,人工智能技術(shù)是人類社會歷史發(fā)展階段的產(chǎn)物,它的產(chǎn)生、發(fā)展是與人類社會生產(chǎn)力水平相適應(yīng)的。因此我們需要將人工智能技術(shù)置于社會歷史發(fā)展規(guī)律之中,而不是為了避免人工智能技術(shù)對人類社會產(chǎn)生負面影響而阻隔甚至是逃避人工智能技術(shù)的研發(fā)與運用。我國正在大力推動人工智能技術(shù)進步與產(chǎn)業(yè)發(fā)展,并將人工智能發(fā)展上升到了國家發(fā)展的戰(zhàn)略高度,這意味著人工智能技術(shù)在知識經(jīng)濟時代和信息化技術(shù)高潮下,將會創(chuàng)造更多的經(jīng)濟發(fā)展機會,將有利于推動中國特色社會主義道路的建設(shè)和中華民族偉大復(fù)興的實現(xiàn)。但是,我們在對人工智能技術(shù)促進社會產(chǎn)業(yè)發(fā)展與升級轉(zhuǎn)型、經(jīng)濟結(jié)構(gòu)戰(zhàn)略性調(diào)整等方面抱有期待之時,也依然需要對人工智能技術(shù)本身及其可能帶來的社會效應(yīng)保持高度警惕,甚至需要采取必要的預(yù)防性措施,防止人工智能技術(shù)帶來的變革性威脅。

    第一,人工智能技術(shù)引發(fā)就業(yè)危機。隨著無人駕駛技術(shù)、機器人的廣泛運用,智能語音助手、人臉識別系統(tǒng)等異軍突起,人們就業(yè)遭到了人工智能技術(shù)帶來的前所未有的巨大挑戰(zhàn)。歷史總是驚人的相似,在19世紀工業(yè)革命浪潮下,一批“盧德分子”將面臨下崗的遭遇歸結(jié)于機器設(shè)備的使用,隨之號召工人大規(guī)模搗毀機器設(shè)備,以此為自身贏得就業(yè)機會。20世紀初新盧德主義的幽靈降臨更進一步激起了工人的抵抗情緒,不僅只是仇視高智能技術(shù)設(shè)備,而且將矛頭對準了現(xiàn)代工業(yè)文明之下的生活方式。在21世紀人工智能技術(shù)迅速崛起的時代,在面臨高智能技術(shù)帶來的就業(yè)危機之時,我們是充耳不聞還是選擇像盧德主義者那樣敵視新技術(shù)、新設(shè)備或新技術(shù)下營造的生活方式?很顯然,在面臨人工智能技術(shù)及其應(yīng)用之時,我們不能采取逃避、暴力、抵觸的態(tài)度,而應(yīng)是迎難而上,尋求解決難題的方法。從人類社會發(fā)展歷程來看,社會生產(chǎn)力總是處于不斷發(fā)展之中,科學(xué)技術(shù)的進步也并沒有停止于某個階段,而是逐漸發(fā)展成為推動社會生產(chǎn)力發(fā)展的核心要素。我們可以回想一下每次技術(shù)革命帶來的沖擊,當盧德主義者將生活遭遇怪罪于機器設(shè)備、泄憤于資本家之時,他們并沒有由于短暫而又有限的就業(yè)壓力而使自身走向毀滅。相反,這些曾經(jīng)面臨失業(yè)的工人、農(nóng)民等社會群體再次在社會中找到了新的工作機會。比如第一次工業(yè)革命推動了城市化進程的發(fā)展,使得大批農(nóng)業(yè)從業(yè)者前往城市尋找新的就業(yè)機會,他們稍加培訓(xùn)就可以從事餐飲服務(wù)員、零售員、工人、接待員等職業(yè),傳統(tǒng)工作的消逝會迎來新的工作種類的出現(xiàn)。然而,正如赫拉利所言:“19世紀汽車取代馬車時,許多馬車夫轉(zhuǎn)行當出租車司機;今天我們的處境類似,只不過我們不是那些馬車夫,而是被淘汰的馬?!?2)尤瓦爾·赫拉利著,林俊宏譯:《今日簡史:人類命運大議題》,中信出版社2018年版,第28頁。在人工智能時代,雖然人們遭受失業(yè)的危機相似,可社會境況對人們的要求卻越來越高,如果說對于前三次技術(shù)革命,人們在很大程度上可以找到體力勞動型職業(yè)進行置換,能高效地、成功地解決暫時性的失業(yè)危機的話,那么在第四次工業(yè)革命中人們只能在獲取更多的專業(yè)知識與技能培訓(xùn)后,才能找到維持生存的工作,此時更需要腦力型勞動或非物質(zhì)型勞動,這對于那些處于社會底層的人們來說暫時性的待業(yè)或許會變成永久性的失業(yè)??茖W(xué)技術(shù)確實是深刻地改變了現(xiàn)代社會、文化、經(jīng)濟結(jié)構(gòu),并重構(gòu)了勞動力結(jié)構(gòu),使得職業(yè)轉(zhuǎn)換從平行關(guān)系的體力勞動型職業(yè)過渡到人工智能時代腦力勞動型職業(yè),導(dǎo)致現(xiàn)代就業(yè)環(huán)境嚴峻而又苛刻。但是,這并不意味著未來的經(jīng)濟發(fā)展完全會被腦力勞動型職業(yè)所取代,社會也有可能不再需要勞動力,或者人類會創(chuàng)造出其他類型的存在方式。比如,馬爾科夫?qū)μ幱诮?jīng)濟轉(zhuǎn)型浪尖的就業(yè)問題就懷有期待,“盡管存在對‘崗位末日’的擔(dān)憂,在考慮自動化、機器人和人工智能對社會的影響時,還是存在積極影響。誠然,人工智能和機器人技術(shù)將會消滅大量的崗位,但是,它們也會被用來拓展人類”(3)約翰·馬爾科夫著,郭雪譯:《與機器人共舞》,浙江人民出版社2015年版,第323頁。。總體來看,在人工智能技術(shù)浪潮推動下,傳統(tǒng)的工作性質(zhì)、工作方式、工作流程等都會發(fā)生相應(yīng)地改變,人與機器之間的關(guān)系也會遭遇新的調(diào)整,人工智能技術(shù)會創(chuàng)造出更多科學(xué)有效的工具與裝置來填補人類工作能力的缺陷。但是,這種改變與調(diào)整不應(yīng)是設(shè)置人與機器之間的對立,而應(yīng)傾向于人機關(guān)系的共同協(xié)作,以便更好地為人類工作而服務(wù)。正如多爾蒂與威爾遜所言:“人工智能具有使工作重新人性化的潛能,能夠給予我們更多的時間成為人,而不是利用我們的時間使我們像機器一樣工作。”(4)Paul R. Daugherty, H. James Wilson: Human + Machine: Reimagining Work in the Age of AI, Harvard Business Review Press,2018, p.214.

    第二,人工智能技術(shù)引發(fā)的倫理危機。如果無人機被投入戰(zhàn)爭時造成大量平民百姓的傷亡,自動駕駛汽車發(fā)生交通事故造成傷亡,機器人進行醫(yī)療手術(shù)造成患者死亡等等,我們又該如何判定無人機、自動駕駛汽車、機器人的責(zé)任呢?是對其本身追責(zé),還是將責(zé)任主體指向設(shè)計者、制造商或使用者?無論是哪一方來承擔(dān)責(zé)任都難以在倫理道德上令每個人滿意,都會不可避免地將自身責(zé)任淡化,而使其參與整個過程的主體來共享責(zé)任劃分。這將會導(dǎo)致主要責(zé)任主體的消失,羞恥感、內(nèi)疚感、責(zé)任感等情感就會變得無足輕重,這會淡化人工智能技術(shù)產(chǎn)生的社會危害。此外,在人工智能技術(shù)下,高智能化陪伴型機器人開始“入侵”人類現(xiàn)實生活,比如這種機器人可以在一定程度上彌補老人、兒童、成人遭遇的空虛感與孤獨感,慰藉他們空洞的心靈,滿足他們的情感需求。不過,有人將智能型陪伴機器人視為自身伴侶,這確實在很大程度上挑戰(zhàn)了傳統(tǒng)婚姻模式,如果這種現(xiàn)象成為一種趨勢或潮流的話,這也將對人類社會的延續(xù)產(chǎn)生巨大的挑戰(zhàn)。那么,在社會現(xiàn)實生活中,這些技術(shù)與機器人該如何對自己的行為負責(zé);如何在現(xiàn)實世界中處理與人的關(guān)系;如何規(guī)范自身的行為模式;等等。這些都是技術(shù)倫理亟需解決的問題,學(xué)界目前還沒有達成共識。在論及機器領(lǐng)域中的倫理道德時,常被人說起的是來自于美國著名科幻小說家、科普作家、文學(xué)評論家阿西莫夫,其在小說《環(huán)圈》中對機器人倫理規(guī)則進行的設(shè)定,即“機器人三定律”。第一條,機器人不得傷害人,也不得見人受到傷害而袖手旁觀;第二條,機器人應(yīng)服從人的一切命令,但不得違反第一定律;第三條,機器人應(yīng)保護自身的安全,但不得違反第一、第二定律。(5)參見:https://www.kanunu8.com/book3/6014/105972.html。很顯然,在處理人與機器人關(guān)系時,三定律都是以人為中心,機器人的一切價值判斷、行為規(guī)范都是在維護人的主體性地位前提下進行。即便機器人面臨自身的損害也要保護人的安全,這是實現(xiàn)人的利益最大化的價值前提?!耙匀藶橹行摹钡膫惱硪?guī)則是目前人工智能技術(shù)下人機關(guān)系最為常見的道德要求,機器人必須無條件地服從人類設(shè)定的安全、友好指令,而這種指令在機器人被投入社會之前就必須植入到其軟件系統(tǒng)之中,從根本上來說,機器人具備的倫理規(guī)范是完全被人類所掌控、主宰的,并不是自發(fā)形成的自我倫理價值判斷。從人類安全、幸福角度研發(fā)機器設(shè)備是目前研究者、生產(chǎn)者們倡導(dǎo)的普遍價值規(guī)范,但是他們對于研發(fā)與應(yīng)用過程的具體倫理價值規(guī)則鮮有設(shè)定。如果人工智能技術(shù)缺乏相應(yīng)的倫理規(guī)范與法律約束,就有可能像一匹脫韁的野馬一樣肆無忌憚地“踐踏”一切,這是人工智能技術(shù)快速發(fā)展引起人們恐慌的主要原因。除了在人工智能技術(shù)中設(shè)定“以人為中心”的基本規(guī)則之外,馬爾科夫認為應(yīng)該在那些創(chuàng)造這些智能機器系統(tǒng)的設(shè)計師身上去尋找答案,“在一個充滿智能機器的世界里,回答這些問題的最好方法就是理解那些正在創(chuàng)造這些系統(tǒng)的人們的價值觀”(6)約翰·馬爾科夫著,郭雪譯:《與機器人共舞》,浙江人民出版社2015年版,第XV頁。。設(shè)計師確實在智能系統(tǒng)操作中握有很大的權(quán)力,然而,對于智能機器的行為規(guī)范完全寄希望于設(shè)計師的優(yōu)良品行也是不可取的,個人倫理道德的不確定性、不穩(wěn)定性注定其自律性終究是有限的,建構(gòu)友好型人工智能體系需要全社會力量共同參與并形成有效的監(jiān)管機制與法律律令。

    二、人工智能技術(shù)與人的關(guān)系

    人工智能技術(shù)的開發(fā)與應(yīng)用在知識經(jīng)濟時代已獲得了快速的發(fā)展,從某種程度上來說,人工智能技術(shù)的深度挖掘與廣泛推廣是一種生產(chǎn)力內(nèi)在張力的顯現(xiàn)。它既代表著人類改造自然界、創(chuàng)造物質(zhì)財富的現(xiàn)實能力與水平,也預(yù)示著人與人、人與技術(shù)之間關(guān)系的微妙變化。毋庸置疑,人工智能是科學(xué)技術(shù)發(fā)展水平的呈現(xiàn),而對于科學(xué)技術(shù)在歷史演變過程中的作用,馬克思早在一百多年前就表達了科學(xué)技術(shù)是生產(chǎn)力的思想,認為“蒸汽、電力和自動紡機甚至是比巴爾貝斯、拉斯拜爾和布朗基諸位公民更危險萬分的革命家”(7)《馬克思恩格斯全集》第12卷,人民出版社1962年版,第3頁。。因而,在馬克思這里,科學(xué)技術(shù)是具有決定性意義的革命力量。不過,馬克思并沒有建構(gòu)出技術(shù)批判理論,盡管他承認在自由競爭資本主義時代,科學(xué)技術(shù)在推動資本主義政治經(jīng)濟發(fā)展方面有著重要作用,而且明確地表達了資本主義生產(chǎn)力水平相比較于前資本主義時代而言具有空前的創(chuàng)造力。但是,科學(xué)技術(shù)發(fā)展態(tài)勢只是成為他批判資本主義政治制度、生產(chǎn)關(guān)系、經(jīng)濟基礎(chǔ)等方面的重要因素。人工智能技術(shù)既然屬于科學(xué)技術(shù)范疇,那么我們就需要從馬克思歷史唯物主義角度考察科學(xué)技術(shù)發(fā)展問題、研究人與技術(shù)關(guān)系的主客變化,從而厘清人工智能技術(shù)在現(xiàn)代社會發(fā)展過程中的地位與作用。

    馬克思對人與技術(shù)關(guān)系的論述根植于資本主義經(jīng)濟發(fā)展過程,他認為資本主義社會生產(chǎn)大致經(jīng)歷了簡單協(xié)作、工場手工業(yè)與機器大生產(chǎn)三個階段。在簡單協(xié)作階段,勞動者在作坊中主要是以個體技能為基礎(chǔ)進行物質(zhì)生產(chǎn)實踐活動。此時,熟練工人在整個生產(chǎn)與勞動過程中占據(jù)優(yōu)勢,而那些非熟練工人是處于劣勢、遭到排斥的。在此階段人與技術(shù)的關(guān)系表現(xiàn)如下:勞動者沒有面臨智力與勞動過程的分離,而是勞動與生產(chǎn)過程、生產(chǎn)水平都依賴于人的智力與經(jīng)驗;勞動者也沒有在勞動與生產(chǎn)過程中遭遇勞動分工,而是在長年累月的生活與生產(chǎn)智慧、經(jīng)驗、勤勞的前提下共同協(xié)作??茖W(xué)技術(shù)要素在簡單協(xié)作階段,由于其發(fā)展緩慢還沒有深刻地影響到生產(chǎn)的發(fā)展,沒有被納入勞動者的勞動與生產(chǎn)過程中,勞動者是在資本的支配下勞動,并成為資本的一種特殊存在方式。因此,科學(xué)技術(shù)與勞動者之間并沒有產(chǎn)生強烈的顛倒效應(yīng),此時的科學(xué)技術(shù)還是處于生產(chǎn)過程的邊緣化地帶。隨著社會生產(chǎn)力水平的逐步發(fā)展,勞動分工的逐步推進和機器的大規(guī)模引入,資本主義社會生產(chǎn)形式——工場手工業(yè)隨即到來。在勞動分工協(xié)作過程中,由偶然的分工過渡到系統(tǒng)的分工,致使勞動者不再把控整個勞動與生產(chǎn)過程,而是成為其中的某一環(huán)節(jié)。相比較于簡單協(xié)作階段,此刻的勞動者在分工的擺布下,只能將其自身的智慧、力量、經(jīng)驗局限在生產(chǎn)過程的局部環(huán)節(jié),并且被長久地固定在某種局部操作中。從事工場手工業(yè)局部環(huán)節(jié)的工人,在智力與勞動結(jié)合方面,正在發(fā)生微妙的改變,勞動者的智慧、經(jīng)驗、技能、技巧等與勞動、生產(chǎn)過程正在慢慢分離,勞動者在工場手工業(yè)的資本關(guān)系與勞動形式中變成了畸形物、附屬物,嚴重扼殺了勞動者的才能與智慧。而此時,科學(xué)技術(shù)還只是在發(fā)揮隱性作用,或者說正處于改變生產(chǎn)、工作、生活方式的過渡階段,勞動者依舊是在資本家建構(gòu)的資本邏輯關(guān)系下工作,對勞動者的剝削與控制主要體現(xiàn)在對其畸形發(fā)展方面,以此促進整個社會勞動生產(chǎn)力的發(fā)展。隨著18世紀蒸汽時代的到來,勞動資料、勞動工具的革命化,資本主義生產(chǎn)形式由工場手工業(yè)過渡到機器大工業(yè),生產(chǎn)方式發(fā)生變革,機器體系被大規(guī)模運用到資本主義生產(chǎn)過程中。在機器大工業(yè)階段,智力與勞動過程發(fā)生徹底分離,資本捆綁科技并不竭余力地創(chuàng)造著剩余價值。此時,勞動者的智慧、技能、勤勞、實際經(jīng)驗等要素不再成為生產(chǎn)形式的基礎(chǔ),而是遭遇摒棄。勞動過程的分工協(xié)作也隨之消失,機器體系的崛起霸占了工人的生產(chǎn)生活,并成為資本主義物質(zhì)生產(chǎn)過程中占統(tǒng)治地位的生產(chǎn)形式。工人在機器體系的主宰下,逐漸喪失其創(chuàng)造力與生理活力。對此,馬克思談?wù)摰溃骸霸诠鍪止I(yè)和手工業(yè)中,是工人利用工具,在工廠中,是工人服侍機器。在前一種場合,勞動資料的運動從工人出發(fā),在后一種場合,則是工人跟隨勞動資料的運動。在工場手工業(yè)中,工人是一個活機構(gòu)的肢體。在工廠中,死機構(gòu)獨立于工人而存在,工人被當作活的附屬物并入死機構(gòu)?!?8)《馬克思恩格斯全集》第44卷,人民出版社2001年版,第486頁。當機器大生產(chǎn)投入到資本主義生產(chǎn)過程中時,工人不再被視為勞動過程中的主體,不再是整個社會運作的生產(chǎn)力的代表,而只是充當站在機器旁邊會說話的工具而已,其靈魂、技能、經(jīng)驗、智慧完全被轉(zhuǎn)移到機器身上,機器在資本增殖邏輯的驅(qū)使下取代工人而具有靈魂。機器大生產(chǎn)被納入資本主義生產(chǎn)過程并大大提高了社會生產(chǎn)效率,這在很大程度上得益于科技的進步,然而科技卻運用機器對抗工人的存在,使得工人不得不面對資本主義制度更加殘酷的剝削與控制,科技與機器一道作為資本而與工人勢不兩立,這便是科技“異化”的徹底體現(xiàn)。馬克思對機器與科學(xué)技術(shù)在生產(chǎn)過程中“異化”問題的揭露并不是像盧德主義那般否定機器與科學(xué)技術(shù)在社會生產(chǎn)發(fā)展過程中的重要作用,機器體系本身并沒有從一開始就具有資本主義剝削性質(zhì),它只是人類在自身認識能力不斷提升下運用智慧與技能創(chuàng)造出來的對象化產(chǎn)物而已,不能認為是機器本身剝奪了工人的就業(yè)機會,剝奪了工人生存的權(quán)利,也不能將工人面臨的殘酷現(xiàn)實完全歸結(jié)于科學(xué)技術(shù)的發(fā)展以及機器的廣泛運用。通過上述分析,我們知道馬克思對科學(xué)技術(shù)在資本主義社會生產(chǎn)與發(fā)展過程的歷史作用是持肯定態(tài)度的,但是他并沒有陷入技術(shù)決定論的立場,而是希望能闡釋清楚科學(xué)技術(shù)與科學(xué)技術(shù)的資本主義運用,機器體系與機器體系的資本主義運用之間的關(guān)系。資本主義生產(chǎn)方式從簡單協(xié)作、工場手工業(yè)到機器大工業(yè),工人從智力與勞動過程的融合到分離,從工具的主人淪為科技和機器的奴隸,罪魁禍首便是資本與科技的媾和,科技在資本主義生產(chǎn)關(guān)系中追逐于剩余價值的創(chuàng)造,追逐于最大化地創(chuàng)造剩余價值,從而使得科學(xué)技術(shù)剝離對象化產(chǎn)物的外衣而表現(xiàn)出支配與統(tǒng)治工人的對立力量。馬克思否定的不是科學(xué)技術(shù)本身具有的自然屬性,而是要堅定地批判科學(xué)技術(shù)在資本主義生產(chǎn)關(guān)系中遭遇的社會屬性問題,從而批判資本主義生產(chǎn)關(guān)系與生產(chǎn)過程。

    在馬克思那里,只有資本主義生產(chǎn)關(guān)系被連根拔起,資本主義制度才能走向毀滅,科學(xué)技術(shù)才能擺脫資本主義社會關(guān)系的束縛,人才能獲得自由全面的發(fā)展,才能獲得使用科學(xué)技術(shù)的主體地位。然而,當科學(xué)技術(shù)在人工智能時代突飛猛進之時,人與技術(shù)的關(guān)系又會發(fā)生何種效應(yīng)呢?很顯然,人工智能技術(shù)的廣泛應(yīng)用正在塑造人與技術(shù)的新型關(guān)系,人在諸種技術(shù)手段下逐漸剝離了其生物性外衣而趨向成為技術(shù)的傀儡。比如隨著20世紀90年代人類基因組計劃的到來,以及生命科學(xué)、生命技術(shù)、生物工程、生命醫(yī)學(xué)、大數(shù)據(jù)、云計算的快速滲透與發(fā)展,這種對生物性生命維度的探究更加直接地指向了“生命本身”的構(gòu)成要素。在人工智能時代,人機共生(機器技術(shù)設(shè)備成為人生物性存在的一部分)成為目前人工智能技術(shù)發(fā)展的顯著特征。曾經(jīng)我們還在執(zhí)拗于人的自然屬性與社會屬性的爭論,這種二元區(qū)分在高智能化技術(shù)下已演變成了對人生物性存在的擔(dān)憂。比如各種義肢、全磁懸浮人工心臟、人造機械心臟等已然可以成為身體的一部分,機械與肉體融合共同維持著生命的運轉(zhuǎn)。我們假設(shè)機械設(shè)備植入人生物性肉體之后不會發(fā)生排斥反應(yīng),然而人終究是肉身之人,在生物進化過程中會變得越來越復(fù)雜,因此仍然會受到新陳代謝等生物自然規(guī)律的束縛。人類自身的內(nèi)臟和器官會隨著時間的推移面臨生物體結(jié)構(gòu)與功能的衰退,這是自發(fā)的、必然的、復(fù)雜的自然現(xiàn)象。當人的自然生命發(fā)生疾病或遭遇嚴重意外事故之時,為了維持人的生命,醫(yī)生利用高智能技術(shù)手段被迫使用了協(xié)助人延續(xù)生命的機器設(shè)備,從這種意義上來說,這是為了抵御不可抗拒因素的突然降臨,從而“治愈”受傷的肉體。但是,一旦那些植入人肉體的機器設(shè)備在技術(shù)更新?lián)Q代下越發(fā)適應(yīng)生物性肉體之時,就隱藏著巨大的社會危機。曾經(jīng)被動地植入機器設(shè)備的舉措就有可能變成人類主動地選擇,曾經(jīng)以救死扶傷為宗旨的希波克拉底誓言就有可能在資本增殖邏輯的牽引下變成某些人、某些集團謀取利益的“幌子”。那時,人類該走向何處,人是否還能稱之為人?人的機器化還是機器的人化?這是我們這個時代必須進行討論與思考的問題。比如素有未來生命定義者之稱的美國世界知名物理學(xué)家邁克斯·泰格馬克在人工智能時代背景中對人“生命”范疇進行了重構(gòu),認為生命“是一個能保持自身復(fù)雜性并能進行復(fù)制的過程。復(fù)制的對象并不是由原子組成的物質(zhì),而是能闡明原子是如何排列的信息……換句話說,我們可以將生命看作一種自我復(fù)制的信息處理系統(tǒng),它的信息軟件既決定了它的行為,又決定了其硬件的藍圖”(9)邁克斯·泰格馬克著,汪婕舒譯:《生命3.0》,浙江教育出版社2018年版,第31—32頁。。生命在智能機器與科技進步中脫離了生物物種的范圍,而演變成技術(shù)話語權(quán)中的信息處理系統(tǒng)。邁克斯·泰格馬克根據(jù)生命設(shè)計自身的能力、復(fù)雜程度,將生命發(fā)展劃分為三個階段:(1)生命1.0,以原核微生物細菌為代表的簡單生物階段。生命硬件與軟件(即物理結(jié)構(gòu)與行為)都無法重新設(shè)計,一切皆由具有儲藏遺傳信息功能的DNA決定,行為方式固定,生命形態(tài)要發(fā)生改變需依賴生物進化的演變過程。(2)生命2.0,以人類為代表的文化階段。生命硬件由生物進化演變而來,并且可以通過后期生長發(fā)生改變,軟件可以進行自我設(shè)計,通過學(xué)習(xí)獲得知識、能力、技能等,從而改變行為模式,優(yōu)化“算法”。(3)生命3.0,以人工智能發(fā)展為代表的科技階段。生命硬件軟件獲得雙重“升級”,自身就是命運的主人,完全擺脫了進化的束縛,生命徹底蘇醒。(10)邁克斯·泰格馬克著,汪婕舒譯:《生命3.0》,浙江教育出版社2018年版,第31—38頁。不能否認的是,生命在人工智能技術(shù)系統(tǒng)建構(gòu)下確實存在著數(shù)字化趨向的可能,生命范疇從自然生物性生命到社會政治性生命再到數(shù)字技術(shù)性生命,人的本質(zhì)、人的存在形式都將經(jīng)受技術(shù)風(fēng)暴的重重考驗。對于技術(shù)發(fā)展可能產(chǎn)生的效用問題,法國著名社會學(xué)家、技術(shù)哲學(xué)家埃呂爾早在20世紀中葉就曾說道,“現(xiàn)代人從來沒有問自己,他將為他獲得的力量必須付出什么代價。而這是我們應(yīng)該問的問題”(11)Jacques Ellul: The Technological Society, Vintage,1964, p.193.。自由的喪失恐怕是信息化時代最典型的特征之一,在高度技術(shù)化、智能化體系下,人們逐漸沉溺于此,人造奴隸悄然誕生?,F(xiàn)代技術(shù)統(tǒng)治模式不再是暴力統(tǒng)治使人屈服,而是人們甘愿接受技術(shù)壓抑,改變自身的思維習(xí)慣、行為模式、心理動機與人格個性。不得不驚嘆,黑格爾“主奴關(guān)系”在人工智能時代得到呈現(xiàn)。從總體上看,人工智能技術(shù)被廣泛應(yīng)用于諸多社會領(lǐng)域,并造成了人與技術(shù)關(guān)系復(fù)雜多變的現(xiàn)象。如果說人工智能技術(shù)目前還只是運作于人類生物性生命領(lǐng)域,未來或許可以通過智能增強技術(shù)揣測、判斷和決定人類各種需求,那么,更恐怖地可能是人類將在人工智能算法中沉醉,甚至是主動地尋求人工智能技術(shù)的決斷。這是人工智能時代需要引起高度重視的問題,技術(shù)雖然在不斷地提高生命質(zhì)量與水平,但是也會帶來新一輪的科技“異化”,這是無法回避的現(xiàn)象。

    三、人工智能技術(shù)未來趨勢的思考

    在人工智能時代,人們已深切地感受到了智能化技術(shù)在日常生活與社會生產(chǎn)諸領(lǐng)域帶來的各種便利,與此同時,人們也對人工智能技術(shù)的卓越發(fā)展產(chǎn)生了強烈的擔(dān)憂感。除了可能潛藏的社會危機之外,人們開始追問自身的存在問題,即在面臨高度技術(shù)化、智能化的“超人類智能”機器人時,人類主宰世界的地位是否會隨之崩塌,是否會被剝奪生存的機會,“奇點”時刻究竟是傳說還是現(xiàn)實等。正如許多科幻電影展現(xiàn)的那樣,機器人開始獲得意識、情感,并試圖統(tǒng)治人類,而人類似乎在自己親手制造的作品面前手足無措、無力對抗。電影情節(jié)是否會成為未來人類社會發(fā)展的真實寫照,人類命運是否會被定格在機器人統(tǒng)治之下,種種疑惑在人工智能技術(shù)快速發(fā)展的情況下油然而生,很顯然這些疑惑還不能被科學(xué)證實,或者說這只是某些人對未來技術(shù)發(fā)展的超大膽的設(shè)想。從馬克思主義歷史唯物主義角度來看,科學(xué)技術(shù)的發(fā)展步伐總是處于總體上升的狀態(tài),這是人類社會歷史發(fā)展之規(guī)律,不會由于某些個體或群體的阻礙而停止前進的步伐。人類經(jīng)歷的每個時代都會產(chǎn)生意想不到的科技成果,相對于前一個時代的人類社會而言,后一個時代日新月異的技術(shù)進步是不可想象的。與此同時,人類經(jīng)歷的每個時代在其社會生產(chǎn)力與經(jīng)濟發(fā)展推動下,都會展現(xiàn)出與眾不同的時代特征,而人工智能技術(shù)的發(fā)展便是21世紀應(yīng)有的時代特征。這就意味著我們既不能在時代發(fā)展步伐中否定前所未有的技術(shù)進步,也不能對其展開完全樂觀的天馬行空般的構(gòu)想?,F(xiàn)代人類社會正在遭遇嚴峻的環(huán)境問題,這迫使人們不得不去思考,自身的生存環(huán)境持續(xù)惡化是否會造成人類的滅亡?人類社會能否持續(xù)存在,世界末日是否會到來?人類社會正面臨人工智能技術(shù)的全面滲透,人們又在憂愁人類能否嚴守主宰星球的主導(dǎo)地位,能否延續(xù)人類文明等問題。很顯然,對人類未來命運的思考絕不是簡單的重復(fù),但是,把某種凸顯的時代特征置于至高無上的地位,甚至將其植入人類生存或是毀滅的兩難境地則不可避免地染上簡單粗暴之嫌。就人工智能技術(shù)目前發(fā)展的情形來看,考慮人類自身的生存問題,擔(dān)憂人類主體地位被機器人所取代,似乎操之過急。但是,對人機關(guān)系問題的思考,對機器的運用給人類存在帶來的挑戰(zhàn)與威脅,以及機器自身發(fā)展趨勢的可能性與確定性等問題的研究絕不是杞人憂天,這是人工智能技術(shù)發(fā)展必須直面的現(xiàn)實難題。

    一般而言,人類對人工智能技術(shù)高速發(fā)展的憂慮,主要表現(xiàn)為對人工智能技術(shù)產(chǎn)品獲得意識的擔(dān)心,比如人工智能是否會催生自我意識,是否會通過理性控制自身言行舉止。眾所周知,人工智能技術(shù)已在不少領(lǐng)域與行業(yè)中展現(xiàn)出比人類更強大的能力,甚至在某些方面能夠按照指令取代人類而從事某些工作,這是否就意味著人類智慧將會被人工智能全面取代和超越呢?從馬克思主義哲學(xué)視角來看,人類意識的獲得經(jīng)歷了漫長的歷史演變過程。簡單來說,人類意識必須依托于異于動物大腦的人腦,人腦是意識的物質(zhì)器官,要想獲得意識必須具備人腦的物質(zhì)組成條件。此外,它是物質(zhì)世界長期發(fā)展的必然產(chǎn)物,是自然界與人類社會相互作用的動態(tài)過程。然而,人類意識并不是自然與社會賦予人類的靜態(tài)屬性,而是人類在實踐活動中即社會勞動與社會交往中所獲得的歷史性意識。由此可見,實踐在人類意識的產(chǎn)生與發(fā)展中至關(guān)重要,人類在認識世界與改造世界的實踐活動中推動著人類意識的深化和豐富,因此人類意識處于一種循序漸進的自我發(fā)展過程。從本質(zhì)上來說,人工智能只是人類實踐活動對象化產(chǎn)物和科學(xué)知識對象化產(chǎn)物,而不是從自然界與人類社會的物質(zhì)世界中自然生成的物質(zhì)實體。從根本上來看,它的產(chǎn)生與發(fā)展依賴于人類自身的實踐與認知水平,其思維、觀念、意識、情感、行為等都是在人類事先根據(jù)特定算法、云計算、大數(shù)據(jù)而設(shè)定的各種指令下進行的。這就意味著人工智能在很大程度上是人類運用其自身智慧對其自身行為模式、心理模式的模擬。比如微軟“小冰”,在人工智能技術(shù)架構(gòu)下已經(jīng)獲得了多種社會角色,既能夠?qū)υ捊涣?、感官互動,又能唱歌、寫詩、講故事、主持節(jié)目等。但是,如果拔掉它的電源開關(guān),關(guān)閉操作系統(tǒng)、消除大數(shù)據(jù)處理模式,微軟“小冰”就會不復(fù)存在,一切也都將煙消云散。雖然微軟“小冰”經(jīng)過技術(shù)升級具備了人類某些行為能力,但目前來看,其行為模式或心理活動還是處于基礎(chǔ)模擬和效仿階段,還遠遠達不到“類人類”的高級階段。不過在人工智能技術(shù)的高速發(fā)展下,很多科學(xué)家、工程師等將其研究視角轉(zhuǎn)向?qū)θ祟惔竽X與智能機器之間關(guān)系的考察。比如被視為顛覆世界的未來學(xué)家?guī)炱濏f爾開啟了人類大腦逆向工程計劃——“我們最終的夢想是研究出一種人造新皮質(zhì),它在功能和靈活性方面皆可與人類大腦新皮質(zhì)相媲美”(12)雷·庫茲韋爾著,盛楊燕譯:《人工智能的未來》,浙江人民出版社2016年版,第120頁。。在他看來,既然獲得人類意識必須具備生物性大腦,那么是否可以依賴智能技術(shù)制造出類似于人腦的技術(shù)程序,即“仿生大腦新皮質(zhì)”,當然,“人工智能領(lǐng)域并不是嘗試復(fù)制人腦,卻仍然達到可與人腦匹配的技術(shù)水準”(13)同上,第87頁。,以實現(xiàn)“仿生大腦新皮質(zhì)”與人類大腦新皮質(zhì)的“融合”與“對接”,而且這種“仿生大腦新皮質(zhì)”能夠突破生物大腦新皮質(zhì)自然條件的局限性,既能準確模擬人腦,而且也在變化速度與容納內(nèi)容上具有明顯的優(yōu)勢。庫茲韋爾在對人類思維方式進行深入研究后,提出了思維模式識別理論和加速回報定律,即人類未來思維可在人類身體與大腦中引入非生物性系統(tǒng),這涵蓋了人類經(jīng)歷的社會歷史、智力水平和個人記憶,這些都將被存儲在設(shè)備與云端中,而且這是一種可復(fù)制、可存儲與可創(chuàng)建的智能系統(tǒng)。這也是可預(yù)見的未來,因為它將遵循指數(shù)級技術(shù)增長規(guī)律。在庫茲韋爾看來,“一旦一種技術(shù)成為信息技術(shù),它就得服從加速回報定律”(14)同上,第243頁。。比如他提到的,計算機的廣泛應(yīng)用、人類基因組計劃、與他人溝通和傳遞人類知識庫中海量信息的信息技術(shù)都是以指數(shù)級速度發(fā)展,那么至少在理解與再創(chuàng)造人類大腦新皮質(zhì)上提供了技術(shù)啟示,從而實現(xiàn)對“我們是誰”的理解。庫茲韋爾試圖通過對人類大腦思維層級結(jié)構(gòu)的考察與研究,再創(chuàng)造出“類人類”大腦(仿真大腦)的非生物性系統(tǒng)和自然語言理解系統(tǒng),在技術(shù)上實現(xiàn)人工智能機器對生物性大腦的超越。他由此大膽預(yù)測,在2029年機器將會達到人類智能水平,2045年人類將與機器實現(xiàn)深度融合,屆時機器能夠自由言說、深度思考、具有情緒、表達情感和懂得關(guān)愛,等等。雖然他對技術(shù)指數(shù)級增長趨勢持有樂觀態(tài)度,但同時也提醒大眾要對技術(shù)帶來的可能性風(fēng)險保持警惕,盡可能引領(lǐng)人工智能技術(shù)朝向有利于人類的方向發(fā)展。他說道:“將人類層面的認知模式和計算機固有的速度和精確度結(jié)合起來,得到的將是無窮的威力。但這并不是火星上的智能機器進行的一場外星人入侵——我們創(chuàng)造這些工具,是為了讓我們更有智慧。我相信……人類的獨一無二之處在于:我們制造工具,而工具讓我們走得更遠?!?15)雷·庫茲韋爾著,盛楊燕譯:《人工智能的未來》,浙江人民出版社2016年版,第270頁。庫茲韋爾除了聚焦于人類大腦的研究與模擬之外,也重建了未來人體,他認為人的肉體與精神在生物技術(shù)與基因技術(shù)下將會發(fā)生徹底改變,比如生物性肉體會出現(xiàn)新的吃法、重新設(shè)計消化系統(tǒng),遭遇可編程血液、心臟可有可無、重新設(shè)計人腦等情況。那時,以血肉結(jié)合而成的人體1.0版本將會被顛覆為人體2.0版本直至過渡為人體3.0版本,物理身體、人體器官與系統(tǒng)面臨隨意改變。(16)雷·庫茲韋爾著,李慶城、董振華、田源譯:《奇點臨近》,機械工業(yè)出版社2011年版,第182—189頁。很顯然,在對人類身體進行重構(gòu)時,人工智能技術(shù)專家試圖以生物性物質(zhì)載體呈現(xiàn)的人類身體為母版模擬出機器肉體,或者說鑄造“人形機器人”——具有敏銳的視覺、神經(jīng)網(wǎng)絡(luò),能夠進行邏輯推理、深度學(xué)習(xí)與思考。而且這種強人工智能機器人甚至能夠“成為一個動態(tài)環(huán)境中或與這個環(huán)境積極互動的生命體”,并且“該環(huán)境與互動既體現(xiàn)在物理層面也體現(xiàn)在社會文化層面”。(17)Margaret A. Boden: AI: Its Nature and Future, Oxford University Press,2016, p.137.強人工智能機器人或超人工智能機器人的設(shè)想總是出現(xiàn)在科幻電影情境中,它們具備與人無異的人體外形,具有同等甚至超越人類思維、認知水平的理解與判斷,最終能戰(zhàn)勝人類統(tǒng)治地球。然而,在跳出虛擬仿真界的現(xiàn)實界中,機器要實現(xiàn)對人類的主導(dǎo)是更為復(fù)雜與困難的。況且人類智慧在一定程度上是建基于人類本身的弱點、對世界的認知錯誤,以及扭曲事物的錯覺等,正是這些弱點、錯誤和錯覺促使人類突破思維定式,從而激發(fā)自身的創(chuàng)造力與天賦。在這一點上,強人工智能望塵莫及,而且生物進化、生命科學(xué)問題要被技術(shù)進化所取代談何容易。從人工智能技術(shù)發(fā)展角度來看,人化機器的發(fā)展速度與空間遠遠超過了機器人化,比如大多數(shù)人工智能團體與專家主要都是以人類利益為根本宗旨來延伸與擴展對智能化機器的應(yīng)用與推廣。簡而言之,想要通過高度智能化的技術(shù)手段制造出仿真大腦與身體,并且還要做到與人類無異甚至超越人類能力未免過于異想天開。

    與庫茲韋爾支持人工智能技術(shù)的發(fā)展態(tài)度相似,被譽為硅谷精神布道師的斯加魯菲也同樣表達了對人工智能技術(shù)的贊賞。斯加魯菲通過在人工智能領(lǐng)域的實際操作經(jīng)驗與研究成果斷言:“我并不擔(dān)心人工智能的到來,因為我們離真正的智能機器還非常遙遠。我不怕人工智能的到來,相反,我怕它來得不夠快。機器是我們未來幸福生活的關(guān)鍵,在越來越大的程度上決定著我們未來的生活水平。智能機器很可能對我們這個時代最重要的問題的解決不可或缺?!?18)皮埃羅·斯加魯菲著,張建宇譯:《智能的本質(zhì):人工智能與機器人領(lǐng)域的64個大問題》,人民郵電出版社2017年版,第209頁。斯加魯菲明確地給出了他不害怕人工智能的原因:“1.實際情況證明人工智能的大多數(shù)成就并沒有那么可怕;2.大多數(shù)機器表現(xiàn)出來的智能化水平實際上取決于人類為它們建立的環(huán)境的結(jié)構(gòu)化程度;3.我們感受到的這種高速發(fā)展在歷史上并不罕見;4.我們周圍始終不乏超人類(或者更恰當?shù)恼f法是“非人類”)智能;5.相對于機器智能,我更關(guān)心人類智能的未來?!?19)同上,第4頁。斯加魯菲從技術(shù)發(fā)展史、人工智能技術(shù)發(fā)展現(xiàn)狀、人工智能與人類之間的關(guān)系等角度表達了對人工智能技術(shù)發(fā)展的大力支持,認為人工智能技術(shù)產(chǎn)物終究無法全面超越人類,擺脫人類控制。在這點上斯加魯菲與多爾蒂和威爾遜觀點類似,都認為“是時候摒棄人與機器之間的舊觀念,擁抱一個令人興奮的人類和機器的新世界”(20)Paul R. Daugherty, H. James Wilson: Human + Machine: Reimagining Work in the Age of AI, Harvard Business Review Press,2018, p.214.。人工智能技術(shù)發(fā)展浪潮不可遏止,人類也不可能因為某種不確定性風(fēng)險的存在而阻斷技術(shù)的前進,長久以來我們都深知科學(xué)技術(shù)是一把雙刃劍,它在造福于人類生活與文明之時也隱藏著威脅人類生存的因素,利弊共存之下更應(yīng)該清醒地、理性地對待人工智能的技術(shù)發(fā)展,使其為人類帶來更大的益處。這也就意味著,在人工智能技術(shù)的利弊共生之下,我們不應(yīng)該沖動地呵斥某些對人工智能發(fā)展前景表示擔(dān)憂的專家與學(xué)者。正如瑪格麗特·博登所言:“人工智能即將引發(fā)世界末日的觀點是虛幻的。但是,從某種程度上來說,正是由于這種觀點,讓人工智能研究團體、政策制定者和普通老百姓才逐漸意識到一些切實存在的危險。”(21)Margaret A. Boden: AI: Its Nature and Future, Oxford University Press,2016, p.169.當然,我們也不能盲目地支持那些認為人類始終是機器與技術(shù)的主宰者的觀點,而是應(yīng)該首先讓技術(shù)的運用遵守法律與道德倫理規(guī)范,并將其置于全人類共同監(jiān)督和控制下,如此才有可能使其改善我們的生活,服務(wù)我們的生活。

    猜你喜歡
    機器機器人人工智能
    機器狗
    機器狗
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    未來機器城
    電影(2018年8期)2018-09-21 08:00:06
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    機器人來幫你
    認識機器人
    機器人來啦
    亚洲av日韩在线播放| 免费不卡黄色视频| 大片电影免费在线观看免费| 亚洲综合精品二区| 伊人久久国产一区二区| 成年人免费黄色播放视频| 最近最新中文字幕大全免费视频 | 欧美日韩一级在线毛片| 欧美中文综合在线视频| 一级毛片我不卡| 久久久久久免费高清国产稀缺| 国产免费又黄又爽又色| 欧美日韩综合久久久久久| 亚洲精品,欧美精品| 国产一区亚洲一区在线观看| 男人爽女人下面视频在线观看| 新久久久久国产一级毛片| av有码第一页| 日韩制服骚丝袜av| 一本久久精品| 国产精品久久久av美女十八| 免费高清在线观看日韩| 日本色播在线视频| 亚洲 欧美一区二区三区| 一二三四在线观看免费中文在| 在线观看人妻少妇| 亚洲欧美一区二区三区黑人| 各种免费的搞黄视频| 午夜日韩欧美国产| 亚洲图色成人| 国产在线免费精品| 日韩伦理黄色片| 免费观看性生交大片5| 久久精品久久久久久久性| 国产又色又爽无遮挡免| 香蕉国产在线看| 日韩av免费高清视频| av不卡在线播放| 久久久国产欧美日韩av| 尾随美女入室| 男女下面插进去视频免费观看| 少妇被粗大猛烈的视频| 啦啦啦在线观看免费高清www| www.熟女人妻精品国产| 七月丁香在线播放| 日本vs欧美在线观看视频| 日韩一卡2卡3卡4卡2021年| 极品人妻少妇av视频| 成年女人毛片免费观看观看9 | 国产精品国产av在线观看| 尾随美女入室| 亚洲人成77777在线视频| 老汉色av国产亚洲站长工具| 久久久国产精品麻豆| 狠狠婷婷综合久久久久久88av| 久久女婷五月综合色啪小说| 午夜日本视频在线| 国产一区二区在线观看av| 亚洲情色 制服丝袜| 777久久人妻少妇嫩草av网站| 91成人精品电影| 久久国产精品大桥未久av| 少妇被粗大猛烈的视频| 亚洲精品国产av成人精品| tube8黄色片| 丝袜美腿诱惑在线| 桃花免费在线播放| 一边摸一边抽搐一进一出视频| 91成人精品电影| 国产伦人伦偷精品视频| 久久久国产一区二区| 亚洲一区中文字幕在线| 日韩一区二区视频免费看| 国产精品久久久久久人妻精品电影 | 久久影院123| 少妇 在线观看| 国产不卡av网站在线观看| 中文天堂在线官网| 亚洲欧洲日产国产| 最近2019中文字幕mv第一页| 免费看不卡的av| av在线观看视频网站免费| 久久综合国产亚洲精品| 免费黄网站久久成人精品| 久久久久久久久久久免费av| 久久久久国产一级毛片高清牌| 亚洲综合精品二区| 在线观看免费视频网站a站| av网站免费在线观看视频| 夫妻午夜视频| 免费黄网站久久成人精品| 久久女婷五月综合色啪小说| av片东京热男人的天堂| 久久精品亚洲熟妇少妇任你| 午夜福利一区二区在线看| 久久99一区二区三区| 熟女少妇亚洲综合色aaa.| 热99国产精品久久久久久7| 日韩 欧美 亚洲 中文字幕| 亚洲av日韩在线播放| √禁漫天堂资源中文www| 久久人人爽人人片av| 国产毛片在线视频| 日韩一卡2卡3卡4卡2021年| 午夜日韩欧美国产| 精品亚洲乱码少妇综合久久| 色播在线永久视频| 国产av码专区亚洲av| 亚洲av成人精品一二三区| 咕卡用的链子| 日韩视频在线欧美| 成人手机av| 国产一区二区 视频在线| 亚洲欧美激情在线| 久久鲁丝午夜福利片| 又大又黄又爽视频免费| 老司机深夜福利视频在线观看 | 亚洲国产最新在线播放| 午夜免费观看性视频| 欧美日韩成人在线一区二区| 黄色毛片三级朝国网站| 狠狠精品人妻久久久久久综合| 国产精品一区二区在线观看99| 色吧在线观看| 亚洲欧美激情在线| 国产成人一区二区在线| 国产极品粉嫩免费观看在线| 好男人视频免费观看在线| 丝袜喷水一区| 91国产中文字幕| 人人妻人人添人人爽欧美一区卜| 午夜福利视频在线观看免费| 男女下面插进去视频免费观看| 国产激情久久老熟女| 国产精品99久久99久久久不卡 | 精品国产国语对白av| 一级爰片在线观看| 男女边摸边吃奶| 人人妻人人添人人爽欧美一区卜| 久久国产精品男人的天堂亚洲| 成人毛片60女人毛片免费| 国产男女内射视频| 亚洲专区中文字幕在线 | 麻豆精品久久久久久蜜桃| 在线天堂中文资源库| 视频区图区小说| 超碰成人久久| 两个人免费观看高清视频| 男女边摸边吃奶| 日本爱情动作片www.在线观看| 999久久久国产精品视频| 免费高清在线观看日韩| 激情五月婷婷亚洲| 亚洲美女搞黄在线观看| 麻豆av在线久日| 国产精品一区二区在线不卡| 熟妇人妻不卡中文字幕| 国产女主播在线喷水免费视频网站| 在线观看国产h片| 女的被弄到高潮叫床怎么办| 永久免费av网站大全| 9色porny在线观看| 在线观看一区二区三区激情| 亚洲天堂av无毛| 女人爽到高潮嗷嗷叫在线视频| 国产亚洲精品第一综合不卡| 电影成人av| 亚洲av电影在线观看一区二区三区| 日韩制服丝袜自拍偷拍| 男的添女的下面高潮视频| 天堂8中文在线网| 国产亚洲精品第一综合不卡| av在线观看视频网站免费| 丝袜美足系列| av视频免费观看在线观看| 欧美人与性动交α欧美精品济南到| 啦啦啦视频在线资源免费观看| 国产又爽黄色视频| 亚洲熟女精品中文字幕| 午夜激情av网站| 欧美黑人欧美精品刺激| 久久精品久久精品一区二区三区| 欧美日韩一级在线毛片| 精品少妇内射三级| 80岁老熟妇乱子伦牲交| 中文字幕人妻熟女乱码| 在现免费观看毛片| 美女高潮到喷水免费观看| 一级毛片 在线播放| 久热爱精品视频在线9| 男女床上黄色一级片免费看| 亚洲一级一片aⅴ在线观看| 韩国av在线不卡| 久久久国产精品麻豆| 亚洲国产中文字幕在线视频| 久久久久久久大尺度免费视频| 51午夜福利影视在线观看| 国产亚洲最大av| 久久精品国产a三级三级三级| 纵有疾风起免费观看全集完整版| 久久青草综合色| 国产又爽黄色视频| 在线观看免费午夜福利视频| 国产精品久久久久久精品电影小说| 亚洲精品美女久久久久99蜜臀 | 黄网站色视频无遮挡免费观看| 天堂8中文在线网| 亚洲,欧美,日韩| 飞空精品影院首页| 久久影院123| 国产 一区精品| 成年人免费黄色播放视频| 激情视频va一区二区三区| 国产精品 欧美亚洲| 天天操日日干夜夜撸| 亚洲精品久久成人aⅴ小说| 日本欧美国产在线视频| 亚洲精品国产一区二区精华液| 大话2 男鬼变身卡| 亚洲国产毛片av蜜桃av| 国产片特级美女逼逼视频| 免费av中文字幕在线| 汤姆久久久久久久影院中文字幕| 国产不卡av网站在线观看| 久热爱精品视频在线9| 激情五月婷婷亚洲| 制服诱惑二区| 久久精品国产亚洲av涩爱| 男人舔女人的私密视频| 国产免费视频播放在线视频| 国产成人91sexporn| 久久精品国产亚洲av高清一级| av在线老鸭窝| 一二三四在线观看免费中文在| 欧美少妇被猛烈插入视频| 亚洲精品国产av蜜桃| av卡一久久| 各种免费的搞黄视频| 色精品久久人妻99蜜桃| 精品国产一区二区三区四区第35| 久久精品亚洲熟妇少妇任你| 777米奇影视久久| 超色免费av| 国产精品 国内视频| 热99久久久久精品小说推荐| 热re99久久精品国产66热6| 卡戴珊不雅视频在线播放| 日韩中文字幕视频在线看片| 丝袜人妻中文字幕| 亚洲男人天堂网一区| 久久久久久久大尺度免费视频| 又黄又粗又硬又大视频| 熟女少妇亚洲综合色aaa.| 亚洲激情五月婷婷啪啪| 亚洲国产日韩一区二区| 91成人精品电影| 国产乱来视频区| 好男人视频免费观看在线| 欧美少妇被猛烈插入视频| 国产极品粉嫩免费观看在线| 国产精品av久久久久免费| 97在线人人人人妻| 国产日韩欧美视频二区| 99九九在线精品视频| 国产一区亚洲一区在线观看| 香蕉国产在线看| 色94色欧美一区二区| 欧美黑人精品巨大| 亚洲av综合色区一区| 不卡av一区二区三区| 久久久精品94久久精品| 视频区图区小说| 国产黄色免费在线视频| 久久女婷五月综合色啪小说| 国产精品国产av在线观看| 国产乱人偷精品视频| 亚洲精品成人av观看孕妇| 亚洲欧美一区二区三区久久| 满18在线观看网站| 一区福利在线观看| 国产 精品1| 中文精品一卡2卡3卡4更新| www.av在线官网国产| 国产精品久久久av美女十八| 一边摸一边做爽爽视频免费| 啦啦啦视频在线资源免费观看| 国产男女内射视频| 国产麻豆69| 亚洲精品aⅴ在线观看| 国产在线免费精品| 国产又色又爽无遮挡免| 国产亚洲精品第一综合不卡| 亚洲欧美一区二区三区国产| av卡一久久| 一边摸一边抽搐一进一出视频| 搡老岳熟女国产| 天天躁狠狠躁夜夜躁狠狠躁| av线在线观看网站| 考比视频在线观看| 大话2 男鬼变身卡| 久久ye,这里只有精品| 久久久久国产精品人妻一区二区| 日韩电影二区| 久久精品亚洲av国产电影网| 久久久精品94久久精品| 久久久久久人人人人人| 人人妻人人澡人人爽人人夜夜| 成年女人毛片免费观看观看9 | 国产一区二区三区av在线| 黄色毛片三级朝国网站| 嫩草影视91久久| 肉色欧美久久久久久久蜜桃| 成人国语在线视频| 欧美日韩视频高清一区二区三区二| 黄色视频在线播放观看不卡| 精品一品国产午夜福利视频| 国产有黄有色有爽视频| 在线观看免费午夜福利视频| 高清不卡的av网站| 亚洲国产看品久久| 91国产中文字幕| 国精品久久久久久国模美| 97在线人人人人妻| 在线看a的网站| 国产片内射在线| 日韩一区二区三区影片| 波野结衣二区三区在线| 中国三级夫妇交换| 国产精品熟女久久久久浪| 考比视频在线观看| 男女下面插进去视频免费观看| 免费在线观看完整版高清| 两性夫妻黄色片| 久久影院123| 国产人伦9x9x在线观看| 高清不卡的av网站| 欧美av亚洲av综合av国产av | 久久99热这里只频精品6学生| 极品少妇高潮喷水抽搐| 肉色欧美久久久久久久蜜桃| 日韩成人av中文字幕在线观看| 午夜福利视频在线观看免费| 国产福利在线免费观看视频| 亚洲欧洲日产国产| 日日啪夜夜爽| 亚洲精品自拍成人| 亚洲国产最新在线播放| 一区二区日韩欧美中文字幕| 国产精品成人在线| 观看美女的网站| av线在线观看网站| 波野结衣二区三区在线| 日本vs欧美在线观看视频| 美女大奶头黄色视频| 在线观看三级黄色| 99热全是精品| 日韩一区二区视频免费看| 中文字幕人妻丝袜制服| 在线观看三级黄色| 国产在视频线精品| 国产精品久久久av美女十八| 免费女性裸体啪啪无遮挡网站| 亚洲国产av影院在线观看| 好男人视频免费观看在线| 在线观看一区二区三区激情| 永久免费av网站大全| 成人漫画全彩无遮挡| 国产片特级美女逼逼视频| 亚洲成人国产一区在线观看 | 国产精品一国产av| 人妻人人澡人人爽人人| 在线精品无人区一区二区三| 亚洲,一卡二卡三卡| 黄色一级大片看看| 亚洲欧美一区二区三区久久| av有码第一页| 午夜日韩欧美国产| 亚洲av电影在线进入| 亚洲精品av麻豆狂野| 国产精品二区激情视频| 综合色丁香网| 伦理电影大哥的女人| 国产成人a∨麻豆精品| 女性生殖器流出的白浆| 人妻人人澡人人爽人人| 最近最新中文字幕大全免费视频 | 精品一品国产午夜福利视频| 国产亚洲最大av| 国产不卡av网站在线观看| 夫妻午夜视频| a级片在线免费高清观看视频| 久久午夜综合久久蜜桃| 亚洲精品美女久久久久99蜜臀 | 男人舔女人的私密视频| 亚洲欧美成人综合另类久久久| 黑人巨大精品欧美一区二区蜜桃| 少妇人妻 视频| 人人妻,人人澡人人爽秒播 | 丰满迷人的少妇在线观看| 国产伦理片在线播放av一区| 国产av国产精品国产| 五月开心婷婷网| 日日爽夜夜爽网站| 国产av码专区亚洲av| 2021少妇久久久久久久久久久| 国产福利在线免费观看视频| 欧美日韩精品网址| 男女边摸边吃奶| 青春草国产在线视频| 日本av免费视频播放| 如何舔出高潮| 亚洲av男天堂| 日本欧美视频一区| 亚洲欧洲精品一区二区精品久久久 | 久久人人97超碰香蕉20202| 亚洲一区二区三区欧美精品| 国产精品久久久久久精品古装| 少妇被粗大猛烈的视频| 亚洲成人免费av在线播放| 精品一区二区免费观看| 一级爰片在线观看| 男女国产视频网站| 久久精品国产亚洲av涩爱| 卡戴珊不雅视频在线播放| 色网站视频免费| 中文字幕精品免费在线观看视频| 满18在线观看网站| 777久久人妻少妇嫩草av网站| 亚洲av欧美aⅴ国产| 欧美成人午夜精品| 午夜av观看不卡| 久久久久久人人人人人| 日韩制服骚丝袜av| 日韩视频在线欧美| 国产日韩一区二区三区精品不卡| 十八禁网站网址无遮挡| 91精品伊人久久大香线蕉| 99精国产麻豆久久婷婷| 黄色视频在线播放观看不卡| 如日韩欧美国产精品一区二区三区| 激情视频va一区二区三区| 久久性视频一级片| 欧美 日韩 精品 国产| 少妇人妻久久综合中文| 男人添女人高潮全过程视频| 国产精品女同一区二区软件| 日韩熟女老妇一区二区性免费视频| 人妻人人澡人人爽人人| a级毛片在线看网站| 激情视频va一区二区三区| 啦啦啦 在线观看视频| 黄色怎么调成土黄色| 性高湖久久久久久久久免费观看| 亚洲四区av| 1024视频免费在线观看| 亚洲精品中文字幕在线视频| 视频区图区小说| 欧美精品高潮呻吟av久久| 免费av中文字幕在线| 捣出白浆h1v1| 嫩草影院入口| 天天操日日干夜夜撸| 激情视频va一区二区三区| av免费观看日本| 涩涩av久久男人的天堂| 丰满乱子伦码专区| 啦啦啦 在线观看视频| 丝袜美足系列| 制服丝袜香蕉在线| 亚洲三区欧美一区| 99精品久久久久人妻精品| 亚洲图色成人| 亚洲欧洲日产国产| 19禁男女啪啪无遮挡网站| 9191精品国产免费久久| 久久人妻熟女aⅴ| 精品少妇一区二区三区视频日本电影 | 伦理电影免费视频| 亚洲精品美女久久av网站| 国产1区2区3区精品| 国产av精品麻豆| 亚洲欧美一区二区三区国产| 精品国产乱码久久久久久小说| 天天躁狠狠躁夜夜躁狠狠躁| 国产激情久久老熟女| 亚洲欧美成人精品一区二区| 色播在线永久视频| 最近最新中文字幕大全免费视频 | 久久久久国产一级毛片高清牌| 在线观看免费视频网站a站| 黄片播放在线免费| 久久久国产精品麻豆| 美女国产高潮福利片在线看| 亚洲人成电影观看| 国产爽快片一区二区三区| 国产男人的电影天堂91| 人妻一区二区av| 大片免费播放器 马上看| 交换朋友夫妻互换小说| 老汉色∧v一级毛片| 极品人妻少妇av视频| 人妻 亚洲 视频| 最近中文字幕高清免费大全6| 肉色欧美久久久久久久蜜桃| 国产亚洲一区二区精品| 最新在线观看一区二区三区 | 久久精品人人爽人人爽视色| 国产精品熟女久久久久浪| 中文欧美无线码| 国产亚洲av片在线观看秒播厂| 久久久久精品国产欧美久久久 | 国产乱人偷精品视频| 欧美少妇被猛烈插入视频| 五月开心婷婷网| av女优亚洲男人天堂| 别揉我奶头~嗯~啊~动态视频 | 天天躁夜夜躁狠狠躁躁| av片东京热男人的天堂| 日韩欧美一区视频在线观看| 精品一区二区三区av网在线观看 | 精品卡一卡二卡四卡免费| 一级片免费观看大全| 丰满饥渴人妻一区二区三| 亚洲伊人久久精品综合| 国产不卡av网站在线观看| 高清不卡的av网站| 欧美在线一区亚洲| 欧美亚洲日本最大视频资源| 最近最新中文字幕免费大全7| 久久毛片免费看一区二区三区| 亚洲成人手机| 国产黄色免费在线视频| 亚洲少妇的诱惑av| svipshipincom国产片| 欧美日本中文国产一区发布| 欧美国产精品va在线观看不卡| 免费高清在线观看视频在线观看| 国产亚洲精品第一综合不卡| 亚洲精品国产色婷婷电影| 夫妻性生交免费视频一级片| 麻豆乱淫一区二区| 中国三级夫妇交换| 亚洲久久久国产精品| 老司机亚洲免费影院| 观看av在线不卡| 久久婷婷青草| 精品少妇内射三级| 汤姆久久久久久久影院中文字幕| 91成人精品电影| 精品一区二区三区av网在线观看 | 国语对白做爰xxxⅹ性视频网站| 亚洲激情五月婷婷啪啪| 新久久久久国产一级毛片| 欧美久久黑人一区二区| 人体艺术视频欧美日本| 黄网站色视频无遮挡免费观看| 国产精品秋霞免费鲁丝片| 免费看不卡的av| 日韩免费高清中文字幕av| 午夜av观看不卡| 青春草视频在线免费观看| 91精品国产国语对白视频| 日韩av在线免费看完整版不卡| 亚洲av成人不卡在线观看播放网 | 亚洲国产中文字幕在线视频| 成年人免费黄色播放视频| 欧美国产精品va在线观看不卡| 黄片无遮挡物在线观看| 精品国产一区二区三区四区第35| 亚洲精品久久午夜乱码| 亚洲国产精品一区二区三区在线| 亚洲精品国产av蜜桃| 伦理电影免费视频| av.在线天堂| 欧美 日韩 精品 国产| 国产精品三级大全| 国产av精品麻豆| 亚洲av综合色区一区| 一边亲一边摸免费视频| 亚洲人成77777在线视频| 九色亚洲精品在线播放| av福利片在线| 久久久精品免费免费高清| 精品久久久精品久久久| 制服诱惑二区| 巨乳人妻的诱惑在线观看| 最近中文字幕高清免费大全6| 母亲3免费完整高清在线观看| 女人被躁到高潮嗷嗷叫费观| 成人三级做爰电影| 19禁男女啪啪无遮挡网站| a 毛片基地| e午夜精品久久久久久久| 国产精品国产av在线观看| 高清欧美精品videossex| 看非洲黑人一级黄片| kizo精华| 亚洲自偷自拍图片 自拍| 亚洲色图 男人天堂 中文字幕| 欧美av亚洲av综合av国产av | 亚洲国产精品一区二区三区在线| 天天躁夜夜躁狠狠躁躁| 日日撸夜夜添| 国产午夜精品一二区理论片| 久久国产亚洲av麻豆专区| 只有这里有精品99| 精品国产一区二区三区四区第35| 激情五月婷婷亚洲| 国产精品.久久久| 一边摸一边抽搐一进一出视频| 欧美日韩福利视频一区二区| 人妻 亚洲 视频| 国产精品久久久久成人av| 看非洲黑人一级黄片| 亚洲,欧美精品.|