• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能熱潮的哲學(xué)反思

    2018-07-20 06:40:10黃欣榮
    關(guān)鍵詞:機(jī)器人工智能人類

    黃欣榮

    (江西財經(jīng)大學(xué) 馬克思主義學(xué)院,江西 南昌 330013)

    隨著大數(shù)據(jù)革命的興起,曾經(jīng)沉寂多年的人工智能又開始逐漸升溫。特別是2016和2017年“阿爾法狗”(Alpha Go)與世界圍棋冠軍的兩次對弈,成功地吸引了億萬眼球,讓人工智能一下子成為世界級網(wǎng)紅,成為媒體炒作的熱門話題、風(fēng)險投資家的投資熱土和各門學(xué)科的研究熱點。[1]如今,從政府部門到黎民百姓,從媒體到商家,從科學(xué)技術(shù)到哲學(xué)人文,無人不知、無人不曉人工智能。是什么原因促成了當(dāng)前的人工智能熱呢?人工智能熱究竟是好事還是壞事、是機(jī)遇還是危機(jī)?作為科技哲學(xué)研究者,不能盲目跟風(fēng),或盲目反對,而是應(yīng)該運(yùn)用科學(xué)技術(shù)哲學(xué)的分析工具,對當(dāng)前這場人工智能熱潮進(jìn)行冷靜的哲學(xué)分析,從而更加客觀、科學(xué)地反思和判斷人工智能的發(fā)展現(xiàn)狀和未來趨勢。

    一、人工智能新熱潮的現(xiàn)狀

    說起人工智能,如今已是盡人皆知,無人不曉。然而,就在2016年“阿爾法狗”與韓國圍棋世界冠軍李世石對弈之前,人工智能還局限在計算機(jī)、自動化等專業(yè)技術(shù)的小圈子里。因為與世界冠軍對弈并獲勝,一夜之間“阿爾法狗”紅遍世界,由此帶動了人工智能的火熱。2017年5月,“阿爾法狗”在浙江烏鎮(zhèn)對戰(zhàn)圍棋世界冠軍柯潔并獲全勝,再次將人工智能推上世界媒體的巔峰,人們驚呼人工智能時代已經(jīng)真正來臨,人類有可能很快被人工智能取代。[2](P2-4)于是,2016年被人們稱為人工智能再崛起的元年,而2017年則是人工智能紅得發(fā)紫的一年:各種媒體全力編發(fā)人工智能的新聞而形成炒作熱,各國政府開始把人工智能作為國家戰(zhàn)略來進(jìn)行頂層設(shè)計而形成規(guī)劃熱,各路資金涌向人工智能產(chǎn)業(yè)而形成投資熱。學(xué)術(shù)界也一樣,各門學(xué)科都搭上人工智能的快車而形成了研究熱??傊?,人工智能成了街談巷議的話題,連一向不關(guān)心科技的大叔大媽們都已經(jīng)知道了人工智能,用“熱浪滾滾”來形容當(dāng)前的人工智能熱一點都不為過。

    第一,是媒體炒作熱。我們僅分析作為傳統(tǒng)媒體的國內(nèi)報紙對人工智能的報道情況就可見一斑。根據(jù)中國知網(wǎng)的統(tǒng)計,自2000年知網(wǎng)收錄國內(nèi)重要報紙以來到2017年止,國內(nèi)報紙共有5858篇以“人工智能”為主題的文章。

    表1 2000—2017年國內(nèi)報紙發(fā)表的以“人工智能”為主題的文章數(shù)量統(tǒng)計表

    從表1可以看出,2000—2013年的14年間,每年都只有幾十篇文章,2014—2015年開始突破百篇,而2016年突然爆發(fā)到1004篇,2017年更是火爆到有3613篇,增長速度驚人。2018年估計可能突破5000篇。①這還僅僅是中國知網(wǎng)收錄的報紙這一傳統(tǒng)媒體所發(fā)表的文章。作為新媒體的互聯(lián)網(wǎng),在其上談?wù)撊斯ぶ悄艿奈恼赂窍窕鹕奖l(fā)。2018年元旦之時,以“人工智能”在百度搜索,相關(guān)結(jié)果約18500000個,而且每天以十萬甚至百萬的速度增長。從2016年人機(jī)大戰(zhàn)開始人工智能被刷爆微博圈、微信朋友圈,以及其他各種自媒體,并長期霸屏,因此“人工智能”一詞成功入選2017年媒體最熱詞匯。

    第二,是各國政策規(guī)劃熱。2016年前后,各主要國家紛紛出臺相關(guān)政策,進(jìn)行頂層設(shè)計,希望抓住這次人工智能爆發(fā)的機(jī)遇。[3](P170-181)美國作為人工智能的先導(dǎo)者,通過國家規(guī)劃、政策、項目支持、成立協(xié)調(diào)推進(jìn)機(jī)構(gòu)以及加強(qiáng)國際合作等方式,全面推進(jìn)人工智能及其相關(guān)技術(shù)、產(chǎn)業(yè)的發(fā)展,先后出臺了《國家大數(shù)據(jù)研究與發(fā)展戰(zhàn)略規(guī)劃》《國家戰(zhàn)略計算行動規(guī)劃》《推進(jìn)創(chuàng)新神經(jīng)技術(shù)腦規(guī)劃》《美國機(jī)器人發(fā)展規(guī)劃》《為人工智能的未來做好準(zhǔn)備》《國家人工智能研究與開發(fā)戰(zhàn)略規(guī)劃》等。歐盟在2016年人工智能熱潮前就先后出臺了《歐盟人腦計劃》(2013)、《歐盟機(jī)器人研發(fā)計劃》(2014)等。英國也不甘落后,2016年發(fā)布了國家級政策《英國人工智能的未來監(jiān)管措施與目標(biāo)概述》《人工智能:未來決策制定的機(jī)遇與影響》,闡述了人工智能對未來英國的影響,并希望利用人工智能推進(jìn)產(chǎn)業(yè)升級,增強(qiáng)國家實力。日本在2015年1月就制定了《日本機(jī)器人新戰(zhàn)略:愿景、戰(zhàn)略與行動計劃》,為新一代人工智能的迅速發(fā)展謀篇布局。[4](P18)中國在人工智能研發(fā)方面與西方發(fā)達(dá)國家完全同步,在《國務(wù)院關(guān)于積極推進(jìn)互聯(lián)網(wǎng)+行動的指導(dǎo)意見》《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》之后,于2017年7月由國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》,制定了中國“2020”“2025”和“2030”不同階段人工智能發(fā)展的國家戰(zhàn)略目標(biāo)。由此可見,以“阿爾法狗”為代表的新一代人工智能引起了各國政府的關(guān)注,各主要國家紛紛進(jìn)行頂層設(shè)計,在規(guī)劃、研發(fā)、產(chǎn)業(yè)化諸多方面提前布局,掀起了人工智能研發(fā)的一場國際新競賽。

    第三,是各國的人工智能研究熱。人工智能本來并不是新東西,從達(dá)特茅斯學(xué)院舉辦的第一次國際人工智能會議正式提出人工智能開始,已經(jīng)有了60多年的歷史,并且有過兩次興衰。不過,前兩次人工智能浪潮影響沒有這次深遠(yuǎn),也沒有這次火熱。我們以“人工智能”作為主題詞檢索中國知網(wǎng)學(xué)術(shù)期刊庫,從1975到2017年,共檢索出相關(guān)文獻(xiàn)34823篇。如圖1所示,2004年之前,每年發(fā)表文獻(xiàn)從幾十篇到數(shù)百篇不等。從2005年開始突破1000篇后,一直穩(wěn)中有升,到2015年才達(dá)到1844篇,尚未突破2000篇。但是,從2016年開始發(fā)生突變,一下子上升到3234篇,2017年更是高達(dá)5944篇,兩年所發(fā)文獻(xiàn)占43年文獻(xiàn)總量的26%,接近1/3。②近兩年的人工智能熱由此可見一斑。從學(xué)科分布來看,從哲學(xué)、人文、社會科學(xué)到自然科學(xué)、工程技術(shù),幾乎所有的學(xué)科都介入了人工智能,可以說是遍地開花,好像不與人工智能關(guān)聯(lián)的學(xué)科就不是前沿學(xué)科。

    圖1 1975—2017年學(xué)術(shù)期刊所發(fā)人工智能論文(數(shù)據(jù)來自中國知網(wǎng))

    圖2 中國人工智能融資情況④

    第四,是人工智能投資熱。據(jù)2017年的烏鎮(zhèn)指數(shù)報告,在2012—2016年的5年間,全球人工智能企業(yè)新增5154家,是此前12年的1.75倍;全球人工智能融資規(guī)模達(dá)224億美元,占2000—2016年累積融資規(guī)模的77.8%。僅2016年的融資規(guī)模就達(dá)到92.2億美元,是2012年的5.87倍,與2000—2013年共計14年累積的融資規(guī)模相當(dāng)。③如圖2所示,中國人工智能從2015年開始成為投資熱點,2014—2016年3年是中國人工智能發(fā)展最為迅速的時期。在這3年里新增的人工智能企業(yè)數(shù)量占累積總數(shù)的55.38%,融資規(guī)模占總數(shù)的93.59%。[5]由此可以看出,2016年是人工智能行業(yè)爆發(fā)的一年,從這一年開始,無數(shù)人工智能新企業(yè)、新技術(shù)和新應(yīng)用得到政府、企業(yè)和個人的大量投資。無論從國際還是國內(nèi)來看,人工智能都在2016年前后迅速成為國家、企業(yè)和風(fēng)險投資家的投資熱點,人工智能企業(yè)總數(shù)迅速增加,企業(yè)并購數(shù)目創(chuàng)新高,初創(chuàng)企業(yè)融資突飛猛進(jìn),創(chuàng)投以爆炸方式得到飛速發(fā)展。可以說,經(jīng)過20世紀(jì)80年代末以來20多年的沉寂之后,人工智能終于迎來了大爆發(fā)的第三次浪潮。

    二、人工智能新熱潮的必然性

    稍微熟悉一點人工智能發(fā)展史的人都知道,人工智能在之前已經(jīng)有過兩次火熱的歷史,甚至當(dāng)時有人預(yù)言人工智能在十年、八年內(nèi)就將取代人類,從而全面控制這個世界。第一次是20世紀(jì)50年代中期。1956年達(dá)特茅斯會議剛剛提出人工智能概念和理論的時候,人工智能曾經(jīng)大火,與現(xiàn)在一樣熱浪滾滾,人工智能工作者樂觀地預(yù)言機(jī)器很快能夠像人一樣思考和決策。他們已經(jīng)提出了圖靈測試、機(jī)器學(xué)習(xí)、遺傳算法和強(qiáng)化學(xué)習(xí)等人工智能的核心理論,甚至提出了神經(jīng)網(wǎng)絡(luò)理論,并從技術(shù)上實現(xiàn)了不少圖靈測試。[6](P5-6)于是,不少人樂觀估計十年內(nèi)人工智能就能發(fā)展成熟,成為改變?nèi)祟惡褪澜绲母锩约夹g(shù)??墒牵谝淮稳斯ぶ悄芾顺睙狒[近十年后很快就成了一朵浪花,消失在汪洋大海之中。在冷清和沉寂十幾年之后,20世紀(jì)80年代初由于專家系統(tǒng)的興起,人工智能再度崛起,于是又進(jìn)入了第二次浪潮。人們認(rèn)為以專家系統(tǒng)為代表的人工智能很快能夠像人一樣思維、學(xué)習(xí)和決策,向?qū)<覍W(xué)習(xí)后很快就能取代專家。[2](P58-59)于是,各門學(xué)科紛紛涌入人工智能領(lǐng)域,各種投資都紛紛涌向人工智能產(chǎn)業(yè)。然而,除了幾個實驗?zāi)P椭?,并沒有取得什么實質(zhì)性進(jìn)展。于是從20世紀(jì)90年代開始,人工智能又再次陷入沉寂,冷得讓人瑟瑟發(fā)抖,甚至一個人如果說在從事人工智能研究,就會被認(rèn)為是騙子。

    有了上兩次的火熱和寒冷的經(jīng)歷,我們不得不思考:這次的人工智能能熱多久?會不會像前兩次浪潮一樣,熱鬧幾年馬上就陷入長久的沉寂?其實現(xiàn)在就有人預(yù)言,這次人工智能熱潮也不會長久,到時候又會恥于談?wù)撊斯ぶ悄?,人工智能從業(yè)者會再次被當(dāng)作騙子。[7]果真會是這樣嗎?我們有必要對這次人工智能熱潮現(xiàn)象做一次本質(zhì)的揭示,探討熱潮背后的真實原因,這樣就能更好地回答這些問題。

    首先,從人類解放的歷史來看,新一代人工智能的大發(fā)展是人類腦力勞動解放的技術(shù)實現(xiàn),符合人類全面解放的長期期盼,是歷史發(fā)展的必然。人類的發(fā)展史就是一部不斷用外物來解放人類自身的歷史。從技術(shù)發(fā)展史來看,技術(shù)發(fā)展的過程就是人類不斷解放自己的過程。馬克思認(rèn)為,技術(shù)是人體器官的延伸,與馬克思同時代的技術(shù)哲學(xué)之父卡普則認(rèn)為技術(shù)是人體器官的投影,其實兩人的意思是一致的,都認(rèn)為技術(shù)無非是人體功能的模仿與增強(qiáng)。人類生活在世界中,最大的負(fù)擔(dān)就是繁重的體力勞動和腦力勞動,這兩類勞動幾乎束縛了人類的全部發(fā)展。人類的一切技術(shù)發(fā)明與創(chuàng)新無非就是試圖通過延伸、投影人的器官來增強(qiáng)、放大人類的力量。在人工智能之前的漫長歷史中,人類通過技術(shù)主要解決了體力的解放,讓許多原來需要人類體力的繁重勞動交給了工具、機(jī)器去完成。當(dāng)體力勞動機(jī)械化、自動化之后,腦力勞動就成了人類最大的負(fù)擔(dān),因而必須讓其實現(xiàn)機(jī)械化和自動化,以徹底解放人類。人工智能的出現(xiàn)正是人類全面解放的必然要求,完全順應(yīng)了人類的歷史發(fā)展。[8]自動機(jī)技術(shù)和計算機(jī)技術(shù)的出現(xiàn),為人工智能奠定了技術(shù)實現(xiàn)的基礎(chǔ),因此1956年的達(dá)特茅斯會議正式提出了人工智能的概念和理論。雖隨后發(fā)展有過兩次浪潮,但只是拉開了解放腦力的序幕,沒有真正實現(xiàn)腦力勞動的全面解放。這次人工智能浪潮的興起,是繼上兩次浪潮之后,將人類腦力解放運(yùn)動繼續(xù)推進(jìn),以便實現(xiàn)人類的全面解放。

    其次,我們從技術(shù)發(fā)展的視角來看新一代人工智能興起的必然性及其發(fā)展前景。任何技術(shù)的發(fā)展都有其發(fā)生、發(fā)展和成熟的過程,而且像馬克思主義哲學(xué)所說的“前途光明但道路曲折”的辯證發(fā)展歷程,在技術(shù)哲學(xué)與技術(shù)管理中被稱為“技術(shù)成熟度曲線”。[2](P44)該曲線告訴我們,新技術(shù)的發(fā)展往往不會一帆風(fēng)順,相反地,一般都要經(jīng)過幾次興衰、反復(fù)之后才能成熟。一項新技術(shù)誕生之初,新聞媒體和學(xué)術(shù)會議會將其大肆炒作,將其吹噓為石破天驚的革命性技術(shù),但美麗的泡沫可能很快破滅,然后從天上摔到谷底,甚至無人問津。在少數(shù)人的堅持下,新技術(shù)熬過寒冬,再度生根發(fā)芽,進(jìn)入新一輪的炒作、泡沫和衰落。如此反復(fù)數(shù)次之后,該項新技術(shù)才能夠真正成長為推動經(jīng)濟(jì)、社會發(fā)展的革命性力量。人工智能的發(fā)展過程就是“技術(shù)成熟度曲線”的生動案例。計算機(jī)出現(xiàn)之初,圖靈等先驅(qū)們就已經(jīng)提出了智能機(jī)器之類的思想,到1956年達(dá)特茅斯正式提出人工智能概念之后,人工智能被媒體熱炒,大量資金流入人工智能領(lǐng)域。被媒體炒作成十年、八年取代人類之后沒幾年,美麗的肥皂泡就快速破滅了。20世紀(jì)80年代迅速躥紅的專家系統(tǒng)又讓人工智能火了一把,并被預(yù)言很快取代專家,但結(jié)果是人工智能研究很快進(jìn)入寒冬。經(jīng)過這兩次的興衰,人工智能逐漸成熟起來,第一次浪潮讓人工智能的邏輯推理能力得到了迅速發(fā)展,第二次浪潮讓人們認(rèn)識到經(jīng)驗和數(shù)據(jù)對人工智能的重要性。這次人工智能新熱潮是在吸取前兩次人工智能熱潮的經(jīng)驗教訓(xùn)基礎(chǔ)上,借助互聯(lián)網(wǎng)、大數(shù)據(jù)和云計算等新技術(shù),彌補(bǔ)了過去兩次人工智能發(fā)展過程中的技術(shù)不足,從而獲得了長足進(jìn)步。新一代人工智能從技術(shù)上有了突破,讓機(jī)器在硬件、軟件和數(shù)據(jù)三個方面實現(xiàn)了類人的思維能力,擺脫了人工智能發(fā)展過程中的技術(shù)羈絆,具備了突飛猛進(jìn)的條件。因此,這一次的人工智能技術(shù)具有了革命性的技術(shù)基礎(chǔ),即將大踏步地向前發(fā)展。

    再次,這次人工智能熱潮的興起是產(chǎn)業(yè)變革的必需,是產(chǎn)業(yè)發(fā)展的推動結(jié)果。自第一次技術(shù)革命以來,科學(xué)革命、技術(shù)革命與產(chǎn)業(yè)革命之間就開始構(gòu)成了一個互為因果、循環(huán)加速的互動機(jī)制。人工智能的前兩次浪潮由于技術(shù)本身的局限,都停留在實驗室研究階段,根本還沒有走上產(chǎn)業(yè)化道路。20世紀(jì)80年代火熱的專家系統(tǒng),雖然有一部分技術(shù)已經(jīng)應(yīng)用到個別部門,但最終都離產(chǎn)業(yè)化差一大步。這次人工智能熱潮之所以熱,除了其科學(xué)基礎(chǔ)、技術(shù)手段有了突破性的進(jìn)展外,一個重要的原因就是具有了產(chǎn)業(yè)化基礎(chǔ)。新一代人工智能得到了來自產(chǎn)業(yè)界的熱烈響應(yīng),并迅速產(chǎn)業(yè)化。例如,智能翻譯、服務(wù)機(jī)器人、無人駕駛、人臉識別等智能技術(shù)已經(jīng)得到了比較廣泛的產(chǎn)業(yè)應(yīng)用。反過來,產(chǎn)業(yè)界對語音識別、圖像識別、自然語言理解以及諸多的智能技術(shù)有著強(qiáng)烈的需求,呼喚和推動著人工智能技術(shù)不斷向前發(fā)展。目前,技術(shù)和產(chǎn)業(yè)的發(fā)展都走到了一個臨界點,增強(qiáng)、放大人類體力的技術(shù)逐漸讓位于增強(qiáng)、放大人類智力的技術(shù),只有充分發(fā)掘、利用人類的智力,才能帶來新技術(shù)革命和產(chǎn)業(yè)革命。新一代人工智能熱潮的興起正是順應(yīng)了這個產(chǎn)業(yè)革命的呼喚,滿足了產(chǎn)業(yè)革命的需求。

    最后,媒體是推動新一代人工智能熱潮的重要因素,新媒體向大眾迅速傳播和普及新人工智能,因此刮起了一股人工智能的旋風(fēng),掀起了一場新的人工智能熱潮。新一代人工智能適逢互聯(lián)網(wǎng)、大數(shù)據(jù)時代,萬物互聯(lián)、跨越時空是這個時代的特征。借助互聯(lián)網(wǎng)絡(luò)和智能終端,各種新媒體不斷涌現(xiàn),媒體被高度碎片化和分散化,每個人都成了媒體人,每一部手機(jī)都成了報社、電視臺、廣播電臺等。例如,兩次人機(jī)大戰(zhàn)都被各類媒體炒得火熱,其中除了報紙、電視等傳統(tǒng)媒體外,更重要的是網(wǎng)絡(luò)媒體的參與。各類網(wǎng)絡(luò)媒體都對這兩次人機(jī)大戰(zhàn)進(jìn)行了全程直播,各種自媒體進(jìn)行了海量轉(zhuǎn)發(fā),并有大量評論,因此人機(jī)大戰(zhàn)幾乎變成了一場全民新聞盛宴。當(dāng)世界冠軍、圍棋九段李世石、柯潔分別以4∶1和3∶0輸給“阿爾法狗”時,人工智能迅速成為所有媒體爭相報道和追捧的明星。隨后,人工智能(特別是機(jī)器人)成了各類媒體,特別是電視節(jié)目的熱門話題,例如中央電視臺的《機(jī)智過人》節(jié)目,將國內(nèi)最優(yōu)秀的翻譯機(jī)器人、作詩機(jī)器人、網(wǎng)球機(jī)器人、讀圖機(jī)器人等請上節(jié)目,與最強(qiáng)大、最專業(yè)的人類團(tuán)隊進(jìn)行比賽,最后的結(jié)果基本上都是機(jī)器人戰(zhàn)勝人類。這些令人眼花繚亂的節(jié)目一方面公開進(jìn)行了各類機(jī)器人的圖靈測試,另一方面也大力宣傳了以機(jī)器人為代表的人工智能的強(qiáng)大智慧。因此,新一代人工智能的火熱與新媒體有極大關(guān)系,新媒體及時地宣傳、放大了新一代人工智能的強(qiáng)大威力。

    由此可以看出,雖然含有媒體炒作的成分,但新一代人工智能的確有爆發(fā)的必然性。

    三、人工智能新熱潮的冷思考

    目前新一代人工智能發(fā)展得如火如荼,各個國家、各個行業(yè)都紛紛響應(yīng)。雖然說新一代人工智能的火熱有其科學(xué)前提、技術(shù)基礎(chǔ)以及產(chǎn)業(yè)需求,但是我們對這次人工智能的熱潮總感到有點不安:人工智能熱是不是熱過了頭?我們是否在熱潮面前要保持一份冷靜的思考?因為如果熱得過頭,不但帶來人們對人工智能的再次失望,而且可能損害社會經(jīng)濟(jì)的進(jìn)一步發(fā)展。

    1.新一代人工智能的發(fā)展速度并沒有我們想象的那么快,真正強(qiáng)人工智能時代的來臨還路途漫漫

    新一代人工智能被各路媒體炒作得過分,以致許多人認(rèn)為人工智能技術(shù)已經(jīng)取得了全面突破,人工智能所需要的各項技術(shù)都已經(jīng)突飛猛進(jìn)并進(jìn)入了應(yīng)用階段,我們的時代已經(jīng)迅速地邁入了人工智能時代。然而,事實并非如此。半個多世紀(jì)的人工智能研究和實踐表明,人工智能技術(shù)的實現(xiàn),需要硬件、軟件和數(shù)據(jù)的三足鼎立。任何一方欠缺,人工智能都無法真正實現(xiàn)革命。

    硬件是人工智能的物質(zhì)基礎(chǔ)。在電子元器件出現(xiàn)以前,帕斯卡、萊布尼茲、巴貝奇、艾達(dá)等人就設(shè)想、設(shè)計過能思維的機(jī)器,但因為缺少硬件,他們的思想只能停留在理念層面。電子元器件出現(xiàn)之后,計算機(jī)隨之出現(xiàn),人工智能思想也馬上被圖靈等人提出。第一代、第二代人工智能的興起及其失敗,也是因為電子管和晶體管的出現(xiàn)及其局限。第三次人工智能的興起與芯片技術(shù)、網(wǎng)絡(luò)技術(shù)有極大的關(guān)系。人類的大腦具有極其復(fù)雜的內(nèi)部結(jié)構(gòu),目前來說人類對其認(rèn)識還太少,幾乎還是一個黑箱。雖然芯片、網(wǎng)絡(luò),特別是神經(jīng)網(wǎng)絡(luò)技術(shù)已經(jīng)有了巨大發(fā)展,但離能夠真正模擬人腦的復(fù)雜結(jié)構(gòu)還有巨大的距離。因此,從硬件制造來看,目前的人工智能離全面超越人類智能還很遠(yuǎn),還需要人類做出巨大的努力。

    數(shù)據(jù)是人工智能的能源和養(yǎng)料,智能的實現(xiàn)需要各種各樣的海量數(shù)據(jù)。第一代人工智能由于缺乏數(shù)據(jù),只能靠推理來實現(xiàn)。第二代人工智能則引入了專家系統(tǒng)封閉、靜態(tài)的有限數(shù)據(jù),實現(xiàn)了有限的智能。得益于互聯(lián)網(wǎng)和大數(shù)據(jù)技術(shù),新一代人工智能有了在線、開放、無限的數(shù)據(jù)資源。然而,目前的數(shù)據(jù)資源問題依然沒有得到徹底解決。一方面,世界的數(shù)據(jù)化之路還任重道遠(yuǎn);另一方面,現(xiàn)有的數(shù)據(jù)資源尚未充分共享,存在大量的數(shù)據(jù)壟斷和數(shù)據(jù)孤島。雖然隨著智能感知、互聯(lián)網(wǎng)(特別是移動互聯(lián)網(wǎng))、物聯(lián)網(wǎng)等技術(shù)的發(fā)展,我們所處的世界正逐漸被數(shù)據(jù)化,而且大數(shù)據(jù)主義者也宣稱萬物皆將被數(shù)據(jù)化,但是目前已經(jīng)真正被數(shù)據(jù)化的世界還只占極小部分,絕大部分世界依然未被數(shù)據(jù)化。未被數(shù)據(jù)化的世界是認(rèn)識的盲區(qū),更不可能實現(xiàn)智能化。從已被數(shù)據(jù)化的小部分世界來看,絕大部分?jǐn)?shù)據(jù)都因隱私、部門利益、國家安全等原因被各種組織壟斷和封鎖,形成一個個難以通達(dá)的數(shù)據(jù)孤島。從人工智能所需要的數(shù)據(jù)資源來說,新一代人工智能并沒有解決世界的完全數(shù)據(jù)化和數(shù)據(jù)共享問題,因此,人工智能要完全超越人類尚不具備條件。

    算法或軟件是人工智能的靈魂。智能硬件的運(yùn)行、數(shù)據(jù)資源的挖掘、利用都需要算法的參與。人類大腦究竟是怎樣運(yùn)算、決策和預(yù)測的,目前我們還尚不清楚其詳細(xì)的機(jī)制。計算機(jī)的運(yùn)算、決策和預(yù)測則是通過軟件的算法來實現(xiàn)。面對海量的數(shù)據(jù),計算機(jī)主要是通過搜索和計算對其進(jìn)行快速處理,特別是在深度學(xué)習(xí)出現(xiàn)之前,計算機(jī)主要是通過“蠻力”完成。深度學(xué)習(xí)方法,特別是深度卷積模型(卷積神經(jīng)網(wǎng)絡(luò)),使機(jī)器有了人類思維的某些特性,因此新一代人工智能有了比較大的進(jìn)步。從目前來看,計算機(jī)并不聰明,主要還是依靠其強(qiáng)大的計算能力和快速的處理速度來處理數(shù)據(jù),并沒有完全掌握人類大腦的思維方式。因此,從軟件或算法的角度來看,人工智能離人類智能還很遠(yuǎn),短期內(nèi)很難真正超越人類。

    2.新一代人工智能的智慧水平并沒有我們想象的那么高,要真正完全代替人類的腦力勞動還很遙遠(yuǎn)

    人的思維能力是一種綜合能力,表現(xiàn)為人的智慧能力,并不僅僅是智能。從現(xiàn)有的人工智能來看,機(jī)器目前還僅僅停留在某些智能的水平,還根本沒有上升到人類智慧的層次。人與機(jī)器人的最大區(qū)別就表現(xiàn)在智慧與智能的巨大差別上。

    所謂智能就是根據(jù)所提供的全部數(shù)據(jù)、知識之間的因果關(guān)系或相關(guān)關(guān)系建立的數(shù)學(xué)模型而做出相應(yīng)行為的能力,因此,在給定數(shù)據(jù)的條件下,智能主要根據(jù)數(shù)據(jù)之間的關(guān)系進(jìn)行計算,并根據(jù)計算結(jié)果進(jìn)行決策。也就是說,智能主要是一種邏輯運(yùn)算能力,它需要確定、全面的數(shù)據(jù)作為前提條件,然后對數(shù)據(jù)進(jìn)行挖掘、學(xué)習(xí)和提煉,找出其中蘊(yùn)含的規(guī)律,并由計算結(jié)果進(jìn)行決策響應(yīng)。用管理大師德魯克的話來說,就是“正確地做事”,[9](P168)即在給定條件和目標(biāo)的前提下做出正確的決策,采取正確的行動。智能更多地偏向于感性、知性、理性等推斷能力。

    所謂智慧,是生物的神經(jīng)器官所具有的感知、記憶、理解、聯(lián)想、情感、邏輯、辨別、計算、分析、判斷、決策等綜合判斷能力,它讓人可以深刻地理解人、事、物、社會、宇宙、現(xiàn)狀、過去、將來,擁有思考、分析、探求真理的能力。智慧與智能一樣需要數(shù)據(jù)、知識等原材料,但不要求數(shù)據(jù)、知識齊全和完備,數(shù)據(jù)之間也不完全按照因果關(guān)系進(jìn)行邏輯推理,更注重數(shù)據(jù)之間的非線性關(guān)系,因此在數(shù)據(jù)不完備的條件下,根據(jù)直覺或靈感,可以創(chuàng)造性提出非常規(guī)的結(jié)論,并由此采取行動。用德魯克的話來說,所謂智慧就是“做正確的事”。[9](P168)著名科學(xué)家錢學(xué)森提出的大成智慧理論,論述的就是智慧問題。錢學(xué)森認(rèn)為,人類可以把前人的經(jīng)驗綜合集成,并用直覺或靈感提升為令人難以用邏輯進(jìn)行推理的創(chuàng)造性思想,這種過程難以用因果規(guī)律進(jìn)行解釋,只能用直覺或靈感進(jìn)行綜合判斷。[10](P273-274)智慧除了感性、知性和理性等推斷能力之外,還包括情感和意志等非理性能力。

    目前的人工智能在智能方面有了比較大的進(jìn)展,但在智慧方面仍然與人類相距十萬八千里,可以說目前的人工智能是有智能、缺智慧,有智商、缺情商。我們以目前最成熟的機(jī)器翻譯和棋類博弈為例,來看人工智能的智能與智慧能力。機(jī)器翻譯是人工智能最早的研究項目,數(shù)十年來,人工智能研究者在機(jī)器翻譯上付出了大量的心血,并且取得了比較大的成功。第三代人工智能借助互聯(lián)網(wǎng)、大數(shù)據(jù)等新技術(shù),無論在筆譯還是口譯上都達(dá)到了綜合專業(yè)級別的水平,據(jù)說不少翻譯工作者將可能失業(yè)。目前的機(jī)器翻譯是如何做到的呢?其實主要是借助互聯(lián)網(wǎng)上的無限語料庫,憑著智能機(jī)器的快速搜索和強(qiáng)大運(yùn)算能力,將過去已經(jīng)翻譯過的文獻(xiàn)資料進(jìn)行快速搜索和判斷,將類似的語句組織在一起來實現(xiàn)語言的翻譯。轟動全球的“阿爾法狗”人機(jī)圍棋大戰(zhàn),讓人工智能名噪一時,讓柯潔這樣的世界級圍棋大師都談“機(jī)”色變。其實,“阿爾法狗”主要是利用人類過去所有的棋譜數(shù)據(jù),在機(jī)器的快速搜索和計算下,進(jìn)行預(yù)測和判斷。也就是說,機(jī)器是靠強(qiáng)大的記憶能力、快速的搜索能力和超級的計算能力戰(zhàn)勝人類的,機(jī)器并沒有多少智慧,只有“蠻力”。所以,在2018年1月23日達(dá)沃斯論壇午餐會的對話中,穆斯塔法·蘇萊曼(Mustafa Suleyman,DeepMind聯(lián)合創(chuàng)始人兼主管)和創(chuàng)新工場董事長李開復(fù)、李飛飛坦誠,“阿爾法狗”并沒有那么神,只是被外界夸大了。它要想工作,必須滿足三個前提:可預(yù)測環(huán)境(圍棋規(guī)則)、清晰獎勵系統(tǒng)(輸贏)、無變數(shù)(variability)。李飛飛認(rèn)為,人工智能目前還不能理解語境和復(fù)雜的知識,要識別人類的情緒、感情和動機(jī),還有很長的路要走。[11]

    針對數(shù)據(jù)完備、規(guī)則確定、目標(biāo)明確(答案)的問題,機(jī)器發(fā)揮強(qiáng)大的記憶、搜索、運(yùn)算能力,可以比人類做得更快、更準(zhǔn)、更好,甚至秒殺人類。但是,在數(shù)據(jù)不全、規(guī)則不確定、目標(biāo)不明確的條件下,人類發(fā)揮直覺、靈感等智慧能力,依然可以做出創(chuàng)新性判斷和決策,完全秒殺機(jī)器。用哲學(xué)家康德的話來說,論純粹理性能力,目前的人工智能可以比肩人類,甚至超越人類,但論及情感、意志和審美等非理性能力,目前的人工智能還只是侏儒,根本還沒法跟人類相提并論。在智慧能力上機(jī)器要超越人類,目前還不太可能。

    3.新一代人工智能帶來的人機(jī)關(guān)系并沒有想象的那么緊張,機(jī)器并不一定非要與人類完全對立

    人機(jī)關(guān)系是自從人類有了技術(shù)或機(jī)械之后就一直存在的問題,具有思維能力的人工智能出現(xiàn)之后,人機(jī)關(guān)系只是更加突出而已?;诖髷?shù)據(jù)的新一代人工智能的到來,人機(jī)關(guān)系問題再一次被大家所關(guān)注,而且被媒體和部分學(xué)者夸大到人機(jī)對立、相互難容的程度,以至于大眾對人工智能產(chǎn)生了惴惴不安的恐懼心理,因此造成了大眾對人工智能的誤會與拒斥。有些人認(rèn)為,由于機(jī)器具備甚至超過了人的智能,于是未來的人類就被機(jī)器所擠兌,人類將無立錐之地,其中有幾種說法頗有代表性:一是機(jī)器人將搶走人類的飯碗,人類即將大量失業(yè);二是由于人類不具備智能機(jī)器強(qiáng)大的記憶能力、運(yùn)算能力,人類智能將不敵機(jī)器智能,因此人類將失去對機(jī)器的控制,智能機(jī)器將成為人類的主人;三是由于機(jī)器成了人類的主人,于是人類就淪為機(jī)器的奴隸或機(jī)器圈養(yǎng)的動物,因此要打要?dú)⑷珣{智能機(jī)器的算法或情感。[12]未來的人機(jī)關(guān)系真會像這些說法那么悲觀嗎?

    人工智能分為弱人工智能和強(qiáng)人工智能。所謂弱人工智能就是在原來的機(jī)器基礎(chǔ)上增加一些感知、儲存、計算、推理、決策等過去認(rèn)為只有人類才具備的知識和能力,但機(jī)器沒有情感和自我意識。所謂強(qiáng)人工智能就是機(jī)器完全具備人的智慧和能力,能夠像人一樣思考和行動,具有理性、情感、意志和審美等人類智慧,能夠自我學(xué)習(xí)和自我進(jìn)化,具有自我意識和自由意志,以致最后形成人類之外但又具有甚至超過人類智慧的非生物性智慧新物種。目前的人工智能主要還屬于弱人工智能,這種弱人工智能讓機(jī)器具有了感知、理解、判斷和決策能力,它們的智能比較專業(yè)和專一,只能局限于人類的某些智能,例如掃地機(jī)器人專門掃地、圍棋機(jī)器人專門圍棋博弈等。這些專一的智能機(jī)器在某個專業(yè)領(lǐng)域可以超越人類,但它們不具有人類的通用智慧和綜合判斷能力。弱人工智能已逐漸被應(yīng)用于農(nóng)業(yè)、工業(yè)和服務(wù)業(yè)中,極大地減輕了人類的體力和智力勞動。但是,從目前來看,在智能產(chǎn)業(yè)和智慧產(chǎn)業(yè)上,智能機(jī)器的應(yīng)用還剛剛開始,特別是具有通用性的強(qiáng)人工智能才剛剛起步,未來前景如何還不可知,更別提如何奴役、屠殺人類了。

    人類研制智能機(jī)器,目的是為了擺脫那些奴役人類的重復(fù)、單調(diào)、危險的工作,是為了在減輕體力勞動的基礎(chǔ)上進(jìn)一步減輕腦力勞動的沉重負(fù)擔(dān),因此人工智能的最終目的是幫助人類、解放人類,與人類一起構(gòu)成互補(bǔ)的合作關(guān)系。智能機(jī)器與人類在基本生存需求、自我意識和財富觀念等方面都與人類有巨大的差別。按照馬斯洛的人類需求層次理論,人類的需求主要分為五大類,按照層次從低到高分別為生理需求、安全需求、愛和歸屬感、尊重、自我實現(xiàn),[13]由此可以看出人類的需求比較復(fù)雜。但是,從目前來看,智能機(jī)器似乎并沒有這么復(fù)雜的需求,它們只有生存和安全的需要。從生存需求來說,人類需要呼吸、水、食物、睡眠、生理平衡、分泌和性生活等;從安全需求來說,人類需要人身安全、健康保障、資源所有性、財產(chǎn)所有性、道德保障、工作職位保障和家庭安全等;但是,智能機(jī)器只需要電源、網(wǎng)絡(luò)和數(shù)據(jù)等資源,并不需要人類的有機(jī)食物、呼吸、睡覺及性生活,在安全方面也只需要自身系統(tǒng)的安全,不需要財產(chǎn)保障、福利保障和家庭保障等。在物質(zhì)、能量和信息需求之外,智能機(jī)器并不需要社交情感、自尊和自我實現(xiàn)等更高層次的精神需求。智能機(jī)器雖然通過深度學(xué)習(xí)可以理解人類的情感、意志等,但它本身并沒有這樣的需求。這樣,從需求的角度來看,人類的需求生態(tài)位與智能機(jī)器的生態(tài)位基本上不重疊,因此,相互之間不會因為資源產(chǎn)生矛盾和沖突,反而可以合作共贏。從自我意識來看,目前的智能機(jī)器還沒有自我意識,并不會覺得人類把它們當(dāng)成了奴隸。從財富觀念來說,人類總是貪得無厭,愛占財富,但智能機(jī)器并不會積累財富,更不知道將財富作為遺產(chǎn)傳給下一代。因此,智能機(jī)器隨著智能水平的提高,其行為或能力慢慢可以趕上或超過人類,但它們的需求生態(tài)位與人類不同,人機(jī)之間不會出現(xiàn)人與人之間的本質(zhì)矛盾和沖突,智能機(jī)器不可能成為人類的對立面。

    4.新一代人工智能的發(fā)展需要大量的技術(shù)、資金和人才,我們的社會還沒有做好全面的準(zhǔn)備

    新一代人工智能是基于互聯(lián)網(wǎng)、大數(shù)據(jù)、深度學(xué)習(xí)、智能硬件等諸多新技術(shù)出現(xiàn)的,所以這些新興技術(shù)的發(fā)展?fàn)顩r將推動或制約著新一代人工智能的發(fā)展。雖然在這些新技術(shù)的推動下,人工智能研發(fā)近年來一掃20世紀(jì)80年代末以來的沉寂,博得了全世界的眼球,并因此進(jìn)入人工智能發(fā)展的新時代。但是,這些新技術(shù)尚在發(fā)展中,還遠(yuǎn)未完備:互聯(lián)網(wǎng)雖然遍及世界,但有許許多多的事物仍然是漏網(wǎng)之魚,網(wǎng)連萬物仍然只是一個理想;大數(shù)據(jù)技術(shù)革命帶來了海量的數(shù)據(jù),但目前已被數(shù)據(jù)化的事物還僅是小部分,而且這一小部分也被掌握在少數(shù)人手中,被分割成一個個數(shù)據(jù)孤島;目前的深度學(xué)習(xí)等技術(shù)還只是初步的,大量的數(shù)據(jù)還難以挖掘,仍然等待更好的學(xué)習(xí)技術(shù)的出現(xiàn);人工智能僅靠軟件、算法,速度上難以突破;圖形處理器(GPU)等智能硬件的出現(xiàn)給人工智能技術(shù)帶來了希望,但目前仍然難以滿足人工智能技術(shù)的實際需要。因此,從技術(shù)視角來看,目前的人工智能才剛剛開始,離我們希望或擔(dān)心的超越人類的人工智能還很遙遠(yuǎn),庫茲維爾所預(yù)測的“奇點”未必能如期而來,若要實現(xiàn),還要等待許多關(guān)鍵技術(shù)的重大突破。[14]

    新一代人工智能的研發(fā)需要大量的資金,特別是世界的全面智能化需要全社會、全世界的參與,需要政府、企業(yè)、風(fēng)投等多方資金的資助。雖然美國、中國、歐盟等許多國家或區(qū)域組織都看好人工智能,微軟、谷歌、百度等大企業(yè)也對人工智能進(jìn)行了大量投資,風(fēng)投機(jī)構(gòu)更是跟風(fēng)追擊,但是,跟人工智能研發(fā)的實際需要相比,研發(fā)經(jīng)費(fèi)還遠(yuǎn)遠(yuǎn)不夠,有些政府、企業(yè)和風(fēng)投機(jī)構(gòu)對人工智能還保持審慎的態(tài)度——畢竟已經(jīng)有過兩次失敗的教訓(xùn)。資金的缺乏在一定程度上讓人工智能的發(fā)展不會如想象的那般快速。

    新一代人工智能是新興的前沿技術(shù),需要大量的人才參與其中,然而人才儲備明顯不足,人才缺口較大,一時難以滿足實際需要。前兩次人工智能的低谷期讓許多人離開了人工智能領(lǐng)域,高校和研究機(jī)構(gòu)的人才培養(yǎng)都停頓了多年。從人才培養(yǎng)來看,新一代人工智能的飛速發(fā)展還沒有完全準(zhǔn)備好。

    注釋:

    ①以上數(shù)據(jù)均來自“中國知網(wǎng)”的檢索與統(tǒng)計。

    ②同上。

    ③該圖來自尹麗波主編:《人工智能發(fā)展報告》,社會科學(xué)文獻(xiàn)出版社2017年版,第18頁。

    ④該圖來自烏鎮(zhèn)智庫:《烏鎮(zhèn)指數(shù):全球人工智能發(fā)展報告(2017)》,http://news.ifeng.com/a/20170821/51705383_0.shtml。

    猜你喜歡
    機(jī)器人工智能人類
    機(jī)器狗
    機(jī)器狗
    人類能否一覺到未來?
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    1100億個人類的清明
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    久久精品aⅴ一区二区三区四区| 亚洲人成伊人成综合网2020| 一边摸一边抽搐一进一小说 | 九色亚洲精品在线播放| 伦理电影免费视频| 在线观看免费日韩欧美大片| 亚洲精品粉嫩美女一区| 亚洲国产毛片av蜜桃av| 捣出白浆h1v1| 日韩成人在线观看一区二区三区| 中文字幕精品免费在线观看视频| 黄色丝袜av网址大全| 国产极品粉嫩免费观看在线| 精品国产乱码久久久久久男人| 国产精品久久久人人做人人爽| 亚洲 国产 在线| 亚洲一区中文字幕在线| av天堂久久9| 日韩有码中文字幕| 一夜夜www| 精品乱码久久久久久99久播| 99国产极品粉嫩在线观看| 国产精品98久久久久久宅男小说| 看免费av毛片| 婷婷丁香在线五月| 香蕉国产在线看| 中文字幕另类日韩欧美亚洲嫩草| 午夜福利乱码中文字幕| 亚洲精品成人av观看孕妇| 男男h啪啪无遮挡| 男女高潮啪啪啪动态图| 99久久国产精品久久久| a级毛片在线看网站| 成年人免费黄色播放视频| 国产xxxxx性猛交| 亚洲精品在线美女| 好看av亚洲va欧美ⅴa在| 国内久久婷婷六月综合欲色啪| 欧美精品一区二区免费开放| 国产精品自产拍在线观看55亚洲 | 极品人妻少妇av视频| 在线观看免费日韩欧美大片| 久久99一区二区三区| 岛国毛片在线播放| 日韩欧美一区二区三区在线观看 | 大香蕉久久网| 久久精品国产亚洲av香蕉五月 | 久久香蕉激情| 久久精品成人免费网站| 日韩欧美免费精品| 精品人妻熟女毛片av久久网站| 精品视频人人做人人爽| www.自偷自拍.com| 一边摸一边做爽爽视频免费| 中文字幕精品免费在线观看视频| 国产激情欧美一区二区| 高清在线国产一区| 777米奇影视久久| 三级毛片av免费| 桃红色精品国产亚洲av| 天堂中文最新版在线下载| 99国产精品免费福利视频| 亚洲片人在线观看| 亚洲精品在线观看二区| 亚洲三区欧美一区| 无限看片的www在线观看| 亚洲 欧美一区二区三区| 黑人猛操日本美女一级片| av片东京热男人的天堂| 成年人黄色毛片网站| 老鸭窝网址在线观看| 男女之事视频高清在线观看| 国产免费现黄频在线看| 中文字幕人妻丝袜一区二区| 午夜福利乱码中文字幕| 久久国产乱子伦精品免费另类| 热re99久久精品国产66热6| 在线观看66精品国产| 国产在视频线精品| 精品一区二区三区av网在线观看| 成熟少妇高潮喷水视频| e午夜精品久久久久久久| 久久精品成人免费网站| 亚洲av第一区精品v没综合| 精品久久久久久久久久免费视频 | 99精品久久久久人妻精品| а√天堂www在线а√下载 | 国产成人av教育| 99国产综合亚洲精品| 免费黄频网站在线观看国产| 欧美最黄视频在线播放免费 | 好看av亚洲va欧美ⅴa在| 久久精品成人免费网站| 热99久久久久精品小说推荐| 一边摸一边做爽爽视频免费| 黄色怎么调成土黄色| 成人黄色视频免费在线看| 日韩熟女老妇一区二区性免费视频| 大型黄色视频在线免费观看| 好看av亚洲va欧美ⅴa在| 精品久久蜜臀av无| 亚洲黑人精品在线| 国产免费av片在线观看野外av| 国产精品1区2区在线观看. | 两人在一起打扑克的视频| 少妇裸体淫交视频免费看高清 | 欧美国产精品va在线观看不卡| 欧美黄色淫秽网站| 天堂中文最新版在线下载| 在线观看一区二区三区激情| 韩国av一区二区三区四区| 女人精品久久久久毛片| 最新的欧美精品一区二区| 中文亚洲av片在线观看爽 | 又黄又粗又硬又大视频| 欧美一级毛片孕妇| 国产伦人伦偷精品视频| 国产成人系列免费观看| 久久精品亚洲熟妇少妇任你| 国产成人欧美在线观看 | 高清黄色对白视频在线免费看| 91成人精品电影| 老司机深夜福利视频在线观看| 欧美另类亚洲清纯唯美| 亚洲七黄色美女视频| 国产蜜桃级精品一区二区三区 | 午夜免费成人在线视频| 韩国av一区二区三区四区| 精品久久蜜臀av无| 啪啪无遮挡十八禁网站| 久久久精品免费免费高清| 妹子高潮喷水视频| 国产成人免费无遮挡视频| 国产成人av教育| 亚洲男人天堂网一区| 久久久精品区二区三区| 可以免费在线观看a视频的电影网站| 高清黄色对白视频在线免费看| 女人久久www免费人成看片| ponron亚洲| 欧美日韩av久久| 91老司机精品| 黄色片一级片一级黄色片| 亚洲性夜色夜夜综合| 国产淫语在线视频| 国产亚洲一区二区精品| 一级毛片精品| 亚洲成国产人片在线观看| 亚洲精华国产精华精| www.999成人在线观看| 午夜影院日韩av| 亚洲欧美精品综合一区二区三区| 人人妻人人添人人爽欧美一区卜| bbb黄色大片| 久久精品亚洲av国产电影网| 午夜福利,免费看| 亚洲精品在线观看二区| 丁香六月欧美| 国产亚洲欧美精品永久| 国产成人免费观看mmmm| 国产欧美日韩精品亚洲av| 国产在线一区二区三区精| 757午夜福利合集在线观看| www.精华液| 电影成人av| 亚洲精品美女久久av网站| 亚洲成人免费av在线播放| 成年版毛片免费区| 亚洲一区二区三区不卡视频| 在线播放国产精品三级| 无人区码免费观看不卡| 久久天躁狠狠躁夜夜2o2o| 国产精品二区激情视频| 免费黄频网站在线观看国产| 黑人巨大精品欧美一区二区mp4| 啦啦啦视频在线资源免费观看| 亚洲精品在线观看二区| 露出奶头的视频| 国产不卡av网站在线观看| av免费在线观看网站| 精品少妇一区二区三区视频日本电影| 精品高清国产在线一区| 最新美女视频免费是黄的| 自拍欧美九色日韩亚洲蝌蚪91| 别揉我奶头~嗯~啊~动态视频| 久久久久久久精品吃奶| 老汉色av国产亚洲站长工具| videos熟女内射| 精品久久久精品久久久| 亚洲综合色网址| 性少妇av在线| 极品教师在线免费播放| 一本一本久久a久久精品综合妖精| 色在线成人网| 老汉色∧v一级毛片| 老熟妇乱子伦视频在线观看| 欧美国产精品va在线观看不卡| 欧美久久黑人一区二区| 国产精品欧美亚洲77777| 99久久精品国产亚洲精品| 99精品久久久久人妻精品| 香蕉国产在线看| 久久久久国内视频| 老司机午夜十八禁免费视频| 大型av网站在线播放| 大陆偷拍与自拍| 午夜福利,免费看| 亚洲精品久久午夜乱码| 国产精品秋霞免费鲁丝片| 一区二区三区精品91| 一级片免费观看大全| 欧美精品一区二区免费开放| 青草久久国产| 国产精品偷伦视频观看了| a级毛片在线看网站| 人成视频在线观看免费观看| 国产伦人伦偷精品视频| 国产av精品麻豆| 90打野战视频偷拍视频| 亚洲av成人av| 人妻一区二区av| 精品乱码久久久久久99久播| 1024香蕉在线观看| 亚洲国产看品久久| 免费黄频网站在线观看国产| 人人妻,人人澡人人爽秒播| 久久久久久人人人人人| 国产一区二区三区视频了| 不卡一级毛片| 亚洲成人免费电影在线观看| 久热爱精品视频在线9| 久热爱精品视频在线9| 国产精品1区2区在线观看. | 好男人电影高清在线观看| 亚洲第一av免费看| 宅男免费午夜| 高清视频免费观看一区二区| 国产欧美日韩一区二区三| av欧美777| 国产主播在线观看一区二区| 久久亚洲精品不卡| 两个人免费观看高清视频| av欧美777| 国产蜜桃级精品一区二区三区 | 免费看a级黄色片| 亚洲精品国产区一区二| 久久久久久免费高清国产稀缺| 在线观看免费视频日本深夜| 成年动漫av网址| 黑人巨大精品欧美一区二区蜜桃| 757午夜福利合集在线观看| 黄色成人免费大全| 免费在线观看视频国产中文字幕亚洲| 欧美精品啪啪一区二区三区| 咕卡用的链子| 精品高清国产在线一区| 夜夜躁狠狠躁天天躁| 欧美精品av麻豆av| 脱女人内裤的视频| 啦啦啦视频在线资源免费观看| 亚洲中文日韩欧美视频| 在线国产一区二区在线| 精品高清国产在线一区| 国产亚洲精品一区二区www | 国产精品影院久久| 婷婷精品国产亚洲av在线 | 国产成人影院久久av| 老司机午夜福利在线观看视频| 国产精品亚洲av一区麻豆| 99热国产这里只有精品6| 成人黄色视频免费在线看| 日本vs欧美在线观看视频| 精品久久久久久电影网| 最新在线观看一区二区三区| 午夜老司机福利片| 日本wwww免费看| 极品人妻少妇av视频| 国产区一区二久久| 女人精品久久久久毛片| 两人在一起打扑克的视频| 十分钟在线观看高清视频www| 日韩一卡2卡3卡4卡2021年| 国产国语露脸激情在线看| 精品久久久久久电影网| 免费不卡黄色视频| 精品久久蜜臀av无| 欧美中文综合在线视频| 在线播放国产精品三级| 久久人妻av系列| 高潮久久久久久久久久久不卡| 黄片播放在线免费| 亚洲色图综合在线观看| 窝窝影院91人妻| 久久 成人 亚洲| 精品卡一卡二卡四卡免费| 一本综合久久免费| 超碰成人久久| 老熟妇乱子伦视频在线观看| 高清欧美精品videossex| 女人爽到高潮嗷嗷叫在线视频| 亚洲自偷自拍图片 自拍| 国产精品乱码一区二三区的特点 | 一边摸一边抽搐一进一小说 | 国产人伦9x9x在线观看| 黄片播放在线免费| 啦啦啦视频在线资源免费观看| 美国免费a级毛片| 亚洲成人免费电影在线观看| 亚洲精品在线美女| 一进一出抽搐gif免费好疼 | 色综合婷婷激情| 在线观看舔阴道视频| 老司机亚洲免费影院| 97人妻天天添夜夜摸| 动漫黄色视频在线观看| 国产成人欧美| 香蕉久久夜色| xxxhd国产人妻xxx| 亚洲色图综合在线观看| 色播在线永久视频| 国产成+人综合+亚洲专区| 欧美 亚洲 国产 日韩一| 亚洲午夜精品一区,二区,三区| 侵犯人妻中文字幕一二三四区| 国产一区二区三区视频了| 好男人电影高清在线观看| 午夜两性在线视频| 久久婷婷成人综合色麻豆| 91成人精品电影| 午夜福利视频在线观看免费| 日本欧美视频一区| 另类亚洲欧美激情| 欧美黑人精品巨大| 久久香蕉国产精品| a级片在线免费高清观看视频| 1024香蕉在线观看| 91成年电影在线观看| 高清黄色对白视频在线免费看| 久久午夜亚洲精品久久| 91麻豆av在线| 国产区一区二久久| www.熟女人妻精品国产| 9色porny在线观看| 精品久久久久久久久久免费视频 | 国产精品一区二区精品视频观看| 不卡av一区二区三区| 丝袜在线中文字幕| 亚洲国产毛片av蜜桃av| a级片在线免费高清观看视频| 国产男女超爽视频在线观看| 亚洲欧美一区二区三区黑人| 亚洲国产精品一区二区三区在线| 国产色视频综合| 免费不卡黄色视频| 欧洲精品卡2卡3卡4卡5卡区| 欧美久久黑人一区二区| 一级毛片精品| 超碰97精品在线观看| 亚洲欧美色中文字幕在线| 亚洲,欧美精品.| 国内毛片毛片毛片毛片毛片| 午夜精品久久久久久毛片777| 国产在线精品亚洲第一网站| 欧美日韩精品网址| 亚洲精品中文字幕在线视频| 亚洲少妇的诱惑av| 国产主播在线观看一区二区| 少妇被粗大的猛进出69影院| 精品一品国产午夜福利视频| 亚洲精品一二三| 99国产精品免费福利视频| 精品乱码久久久久久99久播| 免费观看人在逋| 国产精品九九99| 91av网站免费观看| 一夜夜www| 人成视频在线观看免费观看| 91国产中文字幕| 国产麻豆69| 女人精品久久久久毛片| av一本久久久久| 国产成人精品久久二区二区免费| 十八禁高潮呻吟视频| 人妻 亚洲 视频| 美女高潮到喷水免费观看| а√天堂www在线а√下载 | 成人手机av| 男人的好看免费观看在线视频 | 日本黄色日本黄色录像| 视频区欧美日本亚洲| 久久精品成人免费网站| 三级毛片av免费| 最近最新中文字幕大全电影3 | 18禁裸乳无遮挡免费网站照片 | 国产熟女午夜一区二区三区| 国产精品秋霞免费鲁丝片| 国产男女内射视频| 最新在线观看一区二区三区| 精品久久久久久久久久免费视频 | 国产精品久久电影中文字幕 | av片东京热男人的天堂| 国产精品美女特级片免费视频播放器 | 国产精品一区二区免费欧美| 欧美日韩国产mv在线观看视频| a级毛片黄视频| 岛国在线观看网站| 悠悠久久av| 久久精品aⅴ一区二区三区四区| 亚洲av日韩精品久久久久久密| 夜夜爽天天搞| 18在线观看网站| 女人精品久久久久毛片| 两个人看的免费小视频| 一本大道久久a久久精品| 999久久久精品免费观看国产| 欧美av亚洲av综合av国产av| 90打野战视频偷拍视频| 成年人黄色毛片网站| 欧美中文综合在线视频| 搡老熟女国产l中国老女人| 又紧又爽又黄一区二区| 精品久久久久久,| 色94色欧美一区二区| 91国产中文字幕| 久久久久国产一级毛片高清牌| 窝窝影院91人妻| 激情视频va一区二区三区| 久久精品aⅴ一区二区三区四区| 香蕉丝袜av| 日本一区二区免费在线视频| 久久人人爽av亚洲精品天堂| 99国产精品一区二区三区| 成人国产一区最新在线观看| 国产精品 国内视频| 精品熟女少妇八av免费久了| 亚洲国产中文字幕在线视频| 国产在线精品亚洲第一网站| 9热在线视频观看99| 久久久久久久国产电影| 亚洲伊人色综图| 女性生殖器流出的白浆| 欧美日韩成人在线一区二区| 多毛熟女@视频| 欧美激情久久久久久爽电影 | 国产熟女午夜一区二区三区| 欧美 亚洲 国产 日韩一| 深夜精品福利| 久久草成人影院| 国产成人欧美| 国产成人精品久久二区二区91| 人妻丰满熟妇av一区二区三区 | 中文字幕人妻丝袜制服| 久久国产精品人妻蜜桃| 国产在线一区二区三区精| 精品福利永久在线观看| e午夜精品久久久久久久| 精品高清国产在线一区| 精品国产亚洲在线| 国产高清激情床上av| 精品国产一区二区三区久久久樱花| 99久久国产精品久久久| 丁香六月欧美| 免费在线观看视频国产中文字幕亚洲| 国产野战对白在线观看| 黄色视频,在线免费观看| 国产国语露脸激情在线看| 脱女人内裤的视频| 一级a爱视频在线免费观看| 成人国产一区最新在线观看| 视频区欧美日本亚洲| 人人妻人人澡人人看| 99国产精品99久久久久| 伊人久久大香线蕉亚洲五| 久久人人97超碰香蕉20202| 少妇被粗大的猛进出69影院| videosex国产| 满18在线观看网站| 亚洲av日韩在线播放| 日韩大码丰满熟妇| 国产精品一区二区在线不卡| 亚洲欧美精品综合一区二区三区| 一区二区日韩欧美中文字幕| 亚洲国产欧美一区二区综合| 成熟少妇高潮喷水视频| 757午夜福利合集在线观看| 老熟女久久久| 国产免费现黄频在线看| 黄色片一级片一级黄色片| 国产在视频线精品| 男女午夜视频在线观看| 国产精品自产拍在线观看55亚洲 | 男女免费视频国产| 女人被狂操c到高潮| 热99国产精品久久久久久7| 精品亚洲成国产av| 国产伦人伦偷精品视频| 亚洲五月婷婷丁香| 夜夜躁狠狠躁天天躁| 欧美亚洲日本最大视频资源| 午夜福利,免费看| 亚洲精品自拍成人| 国内久久婷婷六月综合欲色啪| 美女国产高潮福利片在线看| 国产真人三级小视频在线观看| 亚洲七黄色美女视频| 久久久国产一区二区| 欧美不卡视频在线免费观看 | 成人亚洲精品一区在线观看| 亚洲欧美激情综合另类| 午夜福利影视在线免费观看| 欧美av亚洲av综合av国产av| 男女免费视频国产| 欧美另类亚洲清纯唯美| 变态另类成人亚洲欧美熟女 | 久热这里只有精品99| av福利片在线| 亚洲一区二区三区不卡视频| 久久久久精品人妻al黑| 极品人妻少妇av视频| www.熟女人妻精品国产| 欧美 日韩 精品 国产| 亚洲精品美女久久av网站| 亚洲免费av在线视频| 高潮久久久久久久久久久不卡| 热re99久久精品国产66热6| 亚洲中文av在线| 亚洲一区高清亚洲精品| 男男h啪啪无遮挡| 91字幕亚洲| 国产精品免费一区二区三区在线 | 国产成人av激情在线播放| 每晚都被弄得嗷嗷叫到高潮| 午夜福利免费观看在线| 亚洲一区高清亚洲精品| 又黄又爽又免费观看的视频| 一a级毛片在线观看| 国产精品久久久久久人妻精品电影| 久久精品国产99精品国产亚洲性色 | 女人高潮潮喷娇喘18禁视频| 日韩熟女老妇一区二区性免费视频| 男人操女人黄网站| 黄色a级毛片大全视频| 色播在线永久视频| 欧美av亚洲av综合av国产av| 高清黄色对白视频在线免费看| 色尼玛亚洲综合影院| 岛国在线观看网站| 国产又爽黄色视频| 黄片大片在线免费观看| 一级毛片女人18水好多| 免费看a级黄色片| а√天堂www在线а√下载 | 国产伦人伦偷精品视频| 美女扒开内裤让男人捅视频| 动漫黄色视频在线观看| 国产精品久久视频播放| 亚洲欧美精品综合一区二区三区| 亚洲专区国产一区二区| 国产精品自产拍在线观看55亚洲 | 9热在线视频观看99| 色在线成人网| 国内毛片毛片毛片毛片毛片| 国产亚洲欧美98| 又紧又爽又黄一区二区| 亚洲成av片中文字幕在线观看| 亚洲一区高清亚洲精品| 精品电影一区二区在线| 这个男人来自地球电影免费观看| 亚洲欧美一区二区三区久久| 丰满的人妻完整版| 国产国语露脸激情在线看| 动漫黄色视频在线观看| av超薄肉色丝袜交足视频| 欧美乱码精品一区二区三区| 成人免费观看视频高清| 美女福利国产在线| 丰满的人妻完整版| 99久久综合精品五月天人人| 欧美 日韩 精品 国产| 桃红色精品国产亚洲av| 亚洲国产欧美日韩在线播放| 又大又爽又粗| 久久国产精品影院| 大型av网站在线播放| 美女福利国产在线| 欧美黑人欧美精品刺激| 成人三级做爰电影| 99久久人妻综合| 搡老乐熟女国产| 一a级毛片在线观看| 午夜老司机福利片| 超碰97精品在线观看| 国产精品 国内视频| 国产在视频线精品| 欧美日本中文国产一区发布| 男女高潮啪啪啪动态图| tube8黄色片| 人人妻人人澡人人看| 精品一区二区三区视频在线观看免费 | 日韩 欧美 亚洲 中文字幕| 十分钟在线观看高清视频www| 免费看a级黄色片| 免费不卡黄色视频| 新久久久久国产一级毛片| 夜夜夜夜夜久久久久| 精品亚洲成国产av| 成人国语在线视频| 十八禁高潮呻吟视频| 亚洲人成伊人成综合网2020| 亚洲专区中文字幕在线| 国产成人av教育| 亚洲精品在线观看二区| 老司机午夜福利在线观看视频| 精品人妻1区二区| 国产成人一区二区三区免费视频网站|