• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    煉金術(shù)與人工智能:休伯特·德雷福斯對人工智能發(fā)展的影響

    2015-11-26 19:21:17陳自富上海交通大學科學史與科學文化研究院上海200240
    科學與管理 2015年4期
    關(guān)鍵詞:蘭德報告人工智能

    陳自富(上海交通大學 科學史與科學文化研究院,上海 200240)

    煉金術(shù)與人工智能:休伯特·德雷福斯對人工智能發(fā)展的影響

    陳自富
    (上海交通大學 科學史與科學文化研究院,上海 200240)

    1965年12月,休伯特·德雷福斯以蘭德公司顧問的身份,發(fā)表了編號為P-3244的《人工智能與煉金術(shù)》的研究報告,對蘭德公司本身主導的人工智能(以下簡稱AI)研究提出了重大理論挑戰(zhàn),1972年德雷福斯以該報告為基礎(chǔ)出版了《計算機不能做什么——人工智能的極限》,該書與1966年美國國家科學院的ALPAC報告,1973年英國科學研究理事會的LightHill報告一起, 標志著AI發(fā)展歷史上的第一次冬天,即使經(jīng)歷了上世紀80年代由于專家系統(tǒng)興起的AI再次繁榮,以及90年代初AI的第二次冬天,AI的研究綱領(lǐng)已經(jīng)變化甚多,但德雷福斯仍然堅持其基本觀點,對隱含在AI研究綱領(lǐng)中的關(guān)于人類認知和問題解決能力的深層假設,從現(xiàn)象學和海德格爾哲學為核心的大陸哲學立場出發(fā),始終進行批判性地思考和分析,無論AI科學家共同體對其觀點是否認同,德雷福斯這些深刻的哲學思考,客觀上推動了從AI研究早期基于知識主義、符號主義強綱領(lǐng)的盲目樂觀,到目前對實現(xiàn)人類級別智能的智能機器建造的審慎態(tài)度,以及更加豐富的研究進路的轉(zhuǎn)變。

    德雷福斯;人工智能;人工智能冬天

    1 德雷福斯生平及學術(shù)工作概述

    休伯特·德雷福斯(Hubert Dreyfus),1929年出生于美國印第安納的特雷霍特(Terre Haute),在哈佛大學接受本科和研究生教育,1964年在奎因的學生Dagfinn F?llesdal指導下,獲得哈佛大學哲學博士學位,后者來自挪威,主要研究語言哲學、現(xiàn)象學、存在主義和解釋學1。

    作為美國知名的現(xiàn)象學和存在主義哲學家,德雷福斯是歐洲大陸哲學的主要代表:胡塞爾、??隆⒚仿?龐蒂,尤其是海德格爾在美國頂尖的譯者和詮釋者,他的《在世存在:海德格爾<存在與時間> 述評》第一部,被許多人認為是本科生學習海德格爾最重要的哲學思想的權(quán)威讀本,他與Paul Rainbow合著了《米歇爾·??拢撼浇Y(jié)構(gòu)主義和解釋學》,還翻譯了梅洛龐蒂的《意義與無意義》,但他最為人所知的工作是其從哲學角度對人工智能和認知科學的思考和批判,代表作主要是1972年的《計算機不能做什么——人工智能的極限》以及相關(guān)論文,1982年他與Harrison Hall合編的《胡塞爾、意向性與認知科學》也是研究胡塞爾現(xiàn)象學與認知科學關(guān)系的經(jīng)典論文選集2。

    1968年以后德雷福斯在加州大學伯克利分校度過了他主要的學術(shù)生涯,之前他先后任教于布蘭迪斯大學(1957-1959),麻省理工學院(1960-1968),1998年荷蘭伊拉姆斯大學因其“在人工智能領(lǐng)域杰出和有高度影響力的工作,以及對20世紀大陸哲學的分析和詮釋所做的同樣杰出的貢獻”而授予其名譽博士,2001年當選為美國人文與科學院院士3。

    德雷福斯桃李滿天下,既包括提出了GOFAI(Good Old Fashioned Artificial Intelligence:有效的老式人工智能)概念的John Haugeland(1945-2010),還包括哈佛大學哲學系主任Dorrance Kelly,以及Taylor Carman、Iain Thomson、Mark Wrathall這些現(xiàn)象學和存在主義的中年哲學家,2010年音樂家和導演Tao Ruspoli在德雷福斯的影響和指導下,拍攝了反映海德格爾哲學思想的紀錄片《在世存在》,采訪了美國主要的存在主義哲學家,其中除德雷福斯本人之外,約一半學者均為其學生4。

    2 蘭德報告《煉金術(shù)與人工智能》的主要內(nèi)容

    1964年夏天,麻省理工學院的年輕教師休伯特·德雷福斯由其弟弟斯圖亞特·德雷福推薦,進入蘭德公司圣塔莫尼卡總部擔任研究顧問,公司當時負責計算機科學部門的主管Paul Armer認為AI研究需要考慮哲學問題并能從中獲益,而德雷福斯的簡歷和背景調(diào)查都不錯,讓他覺得德雷福斯可以為AI研究項目從哲學上提供公正的建議[1]。

    蘭德公司在早期AI歷史上具有特殊和重要的地位,當時其研究經(jīng)費主要來自于美國空軍等軍方機構(gòu),對通用數(shù)字計算機的建造和研究情有獨鐘,不僅聘請馮·諾依曼擔任顧問,還委托普林斯頓大學建造了JOHNNIAC,最早的程序存儲結(jié)構(gòu)(馮·諾依曼)數(shù)字計算機之一。50年代他們聘請了Allen Newell從事北美防空指揮系統(tǒng)自動化的研究,Cliff Shaw為J OHNNIC上提供了最早的交互式解釋型編程語言之一JOSS,Newell、Shaw與公司顧問,卡內(nèi)基理工學院教師赫伯特·西蒙(Herbert Simon)及其部分學生一起,在推動早期人工智能研究中發(fā)揮著關(guān)鍵作用,1963年到加州大學伯克利分校商學院任教的Feigenbaum和Feldman選編了AI當時最重要的論文文集《計算機與思維》, 書中收錄的20篇論文中有6篇是蘭德的研究報告[2]。

    Paul Armer沒有想到的是,德雷福斯提交的報告是如此尖銳,幾乎摧毀了蘭德正在進行中的AI研究的基礎(chǔ),他不得不延遲公布該報告,直至他認識到“僅僅是因為不喜歡不能成為不出版它的理由”,最終推遲了大約9個月于1965年12月出版,該報告后來成為蘭德公司銷量最高的報告之一[3]。

    德雷福斯的報告標題是《煉金術(shù)與AI》,將AI與歷史上的煉金術(shù)相提并論,意圖說明當時進行的AI研究是沒有基礎(chǔ)的無用之功,而且在序言中,他針對Feigenbaum和Feldman在《計算機與思維》中所宣稱的AI領(lǐng)域的顯著進步是向終極目標的逐步接近的說法,提出了第二個尖酸的比喻:第一個爬上樹的人可以聲稱這是飛往月球的顯著進步[4]。

    這份編號為P-3244的蘭德公司報告當然不僅是因為標題和序言的激烈比喻而影響重大,關(guān)鍵還是報告中的觀點確實對早期AI發(fā)展的成就提出了重大挑戰(zhàn)。

    報告共90頁,分為以下四個部分[4]:

    (1)序言

    (2)Part I:人工智能領(lǐng)域的現(xiàn)狀

    (3)Part II:當前困難的潛在意義

    (4)Part III:人工智能的未來

    報告共引用了43篇文獻,其中13篇來源于早期AI的核心文集《計算機與思維》中的論文,8篇來自于AI方面及其相關(guān)的專業(yè)期刊,8篇為蘭德公司AI領(lǐng)域的研究報告和備忘錄,余下14篇為相關(guān)專著、業(yè)內(nèi)專家手稿、哲學和心理學文獻,其中涉及哲學和心理學的文獻是:

    (1)笛卡爾:《談談方法》

    (2)完形心理學創(chuàng)始人,德國心理學家Max Wertheimer:《創(chuàng)造性思維》

    (3)邁克·波蘭尼:《經(jīng)驗和模式感知》,載于AI早期文集《心智建?!?/p>

    (4)維特根斯坦:《哲學研究》、《藍皮書和褐皮書》

    德雷福斯通過研究當時AI領(lǐng)域的主要學術(shù)論文,在序言和Part I對AI的進展進行了評估,他的主要結(jié)論是:

    (1)由于當時新聞媒體的宣傳和AI科學家的樂觀主張,一些分析哲學家(Putnam、Scriven、Ziff)和神學家、倫理學家對機器大腦的立場雖然相反,但均錯誤地以為高度智能的人造物已經(jīng)或即將被科學家開發(fā)出來,而這個并不是事實,因此需要對AI的研究現(xiàn)狀進行重新評估;

    (2)在博弈、問題求解、語言翻譯和學習、模式識別這四個當時比較活躍,而且被公認為是人類智能才能勝任的領(lǐng)域中,AI研究都遇到了比較大的困難;包括國際象棋中的組合爆炸、啟發(fā)式方法在機器定理證明中的停滯、10年來投入了1600萬美元的機器翻譯面臨的上下文歧義問題、模式識別只能做到識別手寫的摩爾斯電碼(MIT林肯實驗室)和英文字母的水平。

    接下來,德雷福斯從哲學和心理學方面來評價這些困難的深層次意義,并且是以一個比較積極的態(tài)度,“倘若人們正視否定的結(jié)果,那么該結(jié)果也是有趣的。遞減的進展代替了預測的加速成功,或許表明了未曾預料的現(xiàn)象。我們正在一個象速度那樣的連續(xù)體上推進嗎?當我們接近光速時,這樣的進展會越來越困難,或者相反我們是在面對一個非連續(xù)體,就象那個爬樹來登月的人?”,從這段原文可以看出,德雷福斯從一開始就未曾否定AI的意義,只是在質(zhì)疑當時AI研究的主要假設和方法論。

    德雷福斯主要是從人類與機器對信息加工形式的對比來闡述當前困難的深刻意義,他在Part II中列舉了四種:

    (1)人類思維的邊緣意識與AI的啟發(fā)式搜索;

    (2)人類思維的本質(zhì)/非本質(zhì)區(qū)分與AI的試錯法;

    (3)人類思維的模糊容忍度與AI的窮舉;

    (4)人類思維基于上述三種信息加工形式的明晰組合(Perspicuous Grouping)能力。

    由此,德雷福斯得出了人類能在下述困難逐步加大的條件下進行模式識別的結(jié)論:

    (1)模式可能歪斜、不完整、變形和在噪聲環(huán)境中;

    (2)模式識別所需的特征雖然清晰甚至能形式化,但搜索難度會急劇加大(指數(shù)爆炸);

    (3)特征可能依賴內(nèi)外部上下文,從而不能從列表中隔離出來單獨考慮;

    (4)可能沒有公共特征,但“重疊的相似性的復雜網(wǎng)絡”總能識別新的變化。

    任何機器實現(xiàn)的模式識別能力,應與人類思維的能力等效,因此必須具備這些能力:對模式的特定實例把基本特征從非基本特征中區(qū)分出來、利用停留在意識邊緣的線索(或暗示)、考慮上下文環(huán)境、把個體感知為典型,即把個體定位于一個范型實例。而目前AI在模式識別方面的困難,都給博弈、問題求解、語言翻譯領(lǐng)域帶來了巨大的困難。

    但是,AI科學家共同體并不這么認為,德雷福斯指出:“盡管有這些巨大的困難,認知模擬和人工智能的工作者卻并不氣餒。事實上,他們還毫無理由地樂觀。作為這種樂觀的基礎(chǔ)是人類信息加工必須按照象數(shù)字計算機那樣的離散步驟來處理的信念,而且因為自然用這種加工形式產(chǎn)生了智能行為,那么合適的編程應該能夠從機器導致這樣的行為?!边@種AI研究者中的教條主義必有其根源,這種根源就是心理學上的聯(lián)想主義假設。

    在Part III,德雷福斯認為沒有經(jīng)驗和先驗證據(jù)支持聯(lián)結(jié)主義者的假定,因此也沒有理由期待AI領(lǐng)域的持續(xù)進步,機械式信息加工有內(nèi)在限制,而人類卻沒有這種限制。他指出了采用認知模擬進路的若干主要威脅:博弈中事實的無限性和無限“進行”(Progression)的威脅、問題求解中需求的不確定性和無限退行的威脅、上下文相互作用和循環(huán)性引用的威脅。

    在以上基礎(chǔ)上,德雷福斯把人類智能行為根據(jù)AI實現(xiàn)的可能性分為四類:聯(lián)結(jié)主義的、非形式化的、簡單形式化的、復雜形式化的,認為聯(lián)結(jié)主義和簡單形式化的行為可以用計算機模擬,而非形式化的行為難以模擬,復雜形式化行為僅在很小程度上可以模擬。他希望:“所有智能行為可以映射到多維度連續(xù)體的假設鼓勵AI工作者從兩個有希望的領(lǐng)域中的成功,推廣到另外兩個尚無事實性成功期望的領(lǐng)域?!?/p>

    德雷福斯在Part III中的結(jié)論并不是否定性的,他指出:

    (1)短期來看需要考慮人類智能和機器智能的協(xié)作,只有從長期來看非數(shù)字化的自動機才能表現(xiàn)出在處理人類非形式化世界中關(guān)鍵的三種信息加工形式;

    (2)目前的困難和停滯并不意味著之前對AI的投入完全浪費,而是應該調(diào)整到聚焦三種人類獨特的信息加工形式上來。

    在報告的最后,德雷福斯如此結(jié)尾:

    如果煉金術(shù)士不再關(guān)注曲頸瓶和五角器皿,而把時間花在尋找問題的深層結(jié)構(gòu),如果人從樹上下來開始著手發(fā)明火與車輪,事情就會向一個更令人鼓舞的方向發(fā)展。畢竟,三百年后我們確實從鉛提取了黃金(也登上了月球),但這只有在我們放棄了煉金術(shù)水平上的工作,達到化學水平甚至更深層次的原子水平上后才會發(fā)生。[5]

    3 《煉金術(shù)與人工智能》的影響和AI的第一次冬天

    德雷福斯的這篇報告在當時由于其觀點過于大膽,剛發(fā)布時反而沒有引起AI學者內(nèi)部的大規(guī)模反應,出于對報告內(nèi)容的擔憂,蘭德公司1965年僅以最低級別的備忘錄方式發(fā)布了油印版,1967年才發(fā)布了印刷版[6]。

    當時對于這份報告大致有三種不同的傾向和態(tài)度,大致如下[7]:

    首先是個別人的激烈反應,例如1968年1月麻省理工學院(MIT)的Seymour Papert發(fā)表了一份同樣言辭激烈的備忘錄(AIM-154):《休伯特·L·德雷福斯的人工智能:謬論種種》,其中他說道:“我得知反駁針對Simon的誹謗指控是不相干的,因為其他人確實已經(jīng)對人工智能中的成就提出了錯誤的主張,也得知表明德雷福斯的解釋混亂是浪費時間:即為什么機器能下跳棋但不能下國際象棋是因為計算機翻譯俄語確實遇到了困難……我被告知他的觀點必須作為擁有深度‘人文主義’內(nèi)容的文學想象作品閱讀?!?/p>

    其次是雖然反對報告觀點,但表面上態(tài)度比較紳士和含蓄,甚至置之不理。例如德雷福斯直接攻擊的西蒙和艾倫·紐厄爾,還有Fegigenbaum和馬文·眀斯基,這也是AI共同體中大多數(shù)人的態(tài)度。例如,西蒙和馬文·眀斯基都不認可德雷福斯提出AI研究陷入停滯的觀點,他們并未在公共場合中表達此意見,而是在接受Pamela McCorduck的口述史采訪中表達了這樣的觀點:西蒙在1957年做出的十年內(nèi)AI在國際象棋和作曲達到人類水平的預言,是因為沒有足夠的人力和資金資源投入的問題,也就是這些問題的意義在AI中并不這么重大。眀斯基回憶說:“也許西蒙低估了國際象棋有多難,但我想他真正的失誤是另一個有趣的原因,因為他是管理學院的院長。西蒙的重大失誤在于他對有多少人從事國際象棋問題的估計上,當他做出預言時,我想他認為從那時起的三年或四年內(nèi),全世界有數(shù)百人非常努力地編寫國際象棋程序……麥卡錫偶爾關(guān)注此問題,把好問題分配給差生,我的實驗室則不鼓勵這樣。”

    但是從多年后的口述來看,西蒙對德雷福斯這份報告的態(tài)度也是很激烈的:“……他在此前后與蘭德公司沒有任何聯(lián)系,也根本沒有相關(guān)技術(shù)背景,但他是蘭德公司顧問這個事實馬上給了他可信性……但我關(guān)于此事的不滿是蘭德的名字附加在這個垃圾上,這才真正是錯誤的炫耀?!本瓦B蘭德公司的Paul Armer也不喜歡他,但同時也有一些人相當認可這份報告,Paul回憶說:“我認為這是糟糕的哲學……,我也不是哲學家,但我認為它不好。我與部門中喜歡此報告的其他人發(fā)生了激烈爭吵,他們用我自己關(guān)于檢查制度的聲明將我置于尷尬之地……”。 同樣,F(xiàn)eigenbaum在多年后也如此說:“AI所需要的是好的德雷福斯,AI中的概念問題確實很粗糙……但是德雷福斯用他沒弄明白和過時的東西猛擊我們的頭……他提供給了我們什么作為代替?現(xiàn)象學!那是和絨線球、棉花糖一樣無價值的東西!”。

    第三種態(tài)度就是對報告的基本立場持擁護立場,首先在蘭德公司內(nèi)部就有不少人對報告內(nèi)容認同,他們也迫使Paul Armer最終將之公之于眾,很快引起了AI共同體之外的廣泛關(guān)注,在沒有廣告宣傳的情況下,成為蘭德公司賣得最好的報告之一,德雷福斯收到了來自世界各地的來信,1966年6月《紐約客》雜志還專門介紹了這篇報告,德雷福斯本人也因此報告被計算機科學共同體所接受,成為AI科學家不得不接受的一個事實。

    接下來幾年德雷福斯的報告逐步進入公眾視野,其中一件事情是MIT的MacHack象棋程序擊敗了德雷福斯,對局結(jié)果印在了美國計算機學會(ACM)的人工智能專業(yè)組(SIGART)的公報上,西蒙對此寫了一封題為“冷靜!朋友!”的公開信作為對德雷福斯報告的正式公開回應,其中有一句這樣的表達:“……這是一場真正扣人心弦的比賽,其中一個人的邊緣無意識被另一個人徹底打敗……”,邊緣意識是德雷福斯批判早期AI的核心概念武器,西蒙的公開信最終還是表明了AI共同體與德雷福斯之間劍拔弩張的關(guān)系,德雷福斯回憶當時MIT從事AI的同事:“不敢被人看見與我一起午餐”[8]。

    《煉金術(shù)與人工智能》從事后來看對早期AI研究的影響是巨大的,一方面1972年德雷福斯在報告基礎(chǔ)上進行擴充,出版了《計算機不能做什么:人工智能的極限》,這本書沿著報告的思路,不僅引用了更多的分析哲學和大陸哲學文獻,而且也對眀斯基1968年出版的AI論文集《語義信息加工》中反映的最新進展進行了研究,把報告中的聯(lián)想主義心理學假設擴充為生物學、心理學、認識論和本體論四個方面的假設,從而涵蓋了當時AI研究方法的全部基礎(chǔ)。

    德雷福斯從報告擴充到專著的最根本變化在于他引入了海德格爾、梅洛·龐蒂關(guān)于軀體在知識獲取和應用中的作用,同時也用波蘭尼、維特根斯坦的哲學來批駁AI研究的假設,使得其論點更加富于建設性。

    《煉金術(shù)與人工智能》在另一方面的重大影響就是與1966年美國國家科學院的ALPAC(Automatic Language Processing Advisory Committee:自動語言處理顧問委員會)報告,1973年英國科學研究理事會的LightHill報告一起,成為了AI歷史上第一次冬天(1974年-1980年)的主要標志。如果說德雷福斯的工作是因為其非專業(yè)出身而不被AI研究人員認可之外,而后兩者的專業(yè)學術(shù)背景帶來的影響力就直接導致了政府和軍方大規(guī)模削減甚至終止對AI的研究資助[9]。

    ALPAC本身是由JALPG(Joint Automatic Language Processing Group:聯(lián)合自動語言處理組)于1964年設立的,而后者是美國國防部、國家科學基金會、中央情報局三方為協(xié)調(diào)聯(lián)邦層面的機器翻譯研究而成立的組織,ALPAC的主席是當時貝爾實驗室的電子和通訊專家約翰·皮爾士(PCM:脈沖編碼調(diào)制的發(fā)明人)5。LightHill報告是英國科學研究理事會委托劍橋大學盧卡斯講席教授、物理學家James LightHill爵士對當時英國以AI研究現(xiàn)狀調(diào)查提交的一份獨立報告6。

    ALPAC報告的結(jié)論是機器翻譯過于昂貴,比人工翻譯慢而且不夠準確,在較近的將來達不到人類翻譯的品質(zhì),因此只對兩個方面提供資助:將作為語言學分支的計算語言學當成一門純科學研究,以及對人工翻譯進行改進提高。LightHill報告的結(jié)論是僅支持對神經(jīng)生理學和心理學過程的計算機模擬,而放棄對機器人和語言處理的資助,這導致了科學研究理事會終止對除愛丁堡、蘇塞克斯、埃塞克斯三所大學之外的其他大學AI研究的支持。

    在1969年美國國會通過Mansfield修正案后,DARPA(Defense Advanced Research Projects Agency:美國國防部高級研究計劃局)被要求資助面向任務的直接軍事用途的研究,而不再支持間接的基礎(chǔ)研究,其研究轉(zhuǎn)向了諸如自動坦克、戰(zhàn)役管理系統(tǒng)等具有明確目標的軍事項目,到1974年已經(jīng)很難從DARPA申請到經(jīng)費資助。1971年DARPA雄心勃勃在BBN、IBM、卡耐基·梅隆大學、斯坦福研究院啟動的語言理解識別(SUR:Speech Understanding Recognition)項目,至少包括1000個詞匯,希望能夠理解領(lǐng)航員的語音命令,但最終實現(xiàn)的系統(tǒng)只能聽懂按特定順序說出的詞句,DARPA對此很不滿意,于1974年取消了每年300萬美元的資助7。

    無論德雷福斯的報告內(nèi)容是否得到AI共同體認可,從導致AI第一個冬天的原因來看,他在1964年的工作相當準確地預見了當時在媒體上樂觀情緒背后的深層次危機,這些危機在十年之后的爆發(fā)迫使AI共同體更加包容地對待哲學家對機器智能方面的思考和立場。

    4 德雷福斯在《計算機不能做什么》后續(xù)版本的立場

    1979年,《計算機不能做什么》第二次再版,德雷福斯持續(xù)跟蹤了1972年之后的AI進展,并為此寫了一個長達70頁左右的第二版序言,其基本立場是認為他在第一版中的看法與之后的AI發(fā)展是相符合的[10]。

    德雷福斯把1967年到1977年之間的AI研究劃分為兩個階段,第一個階段是從1967年到1972年,稱之為“控制微世界”,主要針對Terry Winograd用于處理積木世界的自然語言理解程序SHRDLU和斯坦福研究院的Shakey機器人項目提出了異議,認為認知過程的原理仍未取得重大進展,類似于積木這樣的微世界,不能逐步逼近復雜的真實世界,Shakey項目反而導致了機器如何獲得知識并予以表達和應用的難題,尤其是真實世界的常識知識問題。他說:“認為這種無盡頭的、對人類其他實踐活動的參照將會收斂起來,從而能對簡單的微世界做相對孤立的研究,這種完全不合理的信念反映了一種要把在自然科學領(lǐng)域已取得成就的方向搬到AI中來的天真想法”。

    第二個階段從1972年到1977年,主要聚焦當時取得一定成功的專家系統(tǒng),例如MYCIN,并分析了眀斯基對知識表達的框架理論和香克的腳本理論的局限性,他最終得出的結(jié)論是人類智能難以在脫離其上下文環(huán)境及其局勢的情況下,單獨地表示出來和加以理解,并在AI中予以實現(xiàn)。

    1992年,德雷福斯出版了《計算機不能做什么》的第三版,但書名改成了《計算機仍然不能做什么:人工理性批判》,新的版本并沒有修改正文,但增加了一篇約50頁的新序言,在該序言中德雷福斯與時俱進跟蹤并評估了四類不同的AI研究策略,第一類仍然是符號主義的,以1984年由Lenat啟動的Cyc項目為代表,該項目試圖組合人們?nèi)粘I钪械某WR知識的本體論和知識庫,從而使計算機達到人類推理的智能水平,這是AI知識工程研究進路中最為宏大的項目,至今仍以OpenCyc的開源項目方式進行。其他三類分別是MIT人工智能實驗室以海德格爾現(xiàn)象學為基礎(chǔ)開發(fā)的交互式人工智能(海德格爾式AI)、80年代后復興的神經(jīng)網(wǎng)絡建模和強化學習[11]。

    在上世紀90年代初,AI的研究進路已經(jīng)出現(xiàn)了更加多元化的場景,德雷福斯承認AI這方面的進步,但仍然捍衛(wèi)人類理性和智能的獨特地位,這種獨特性來自于軀體、社會和文化,“我們的需要、渴望和情感藉由關(guān)于我們行為適當性的感覺直接呈現(xiàn)給我們。如果這些需要、渴望和情感輪流依賴于被社會化到文化中的生物軀體的能力和弱點,那么即使強化學習策略仍有很長的路要走。[12]”

    5 德雷福斯對AI發(fā)展的主要影響

    人工智能這個名詞雖然是在1956年的達特茅斯會議上由麥卡錫提出,但關(guān)于這個學科的理論和實踐探索至少可以追溯到二戰(zhàn)前的圖靈和維納。在上世紀70年代之前,人工智能和認知科學基本不加區(qū)分,一直到1973年LightHill報告中才由英國認知科學家Longuet-Higgins提出“認知科學”這個名詞,但當時人工智能與認知科學的區(qū)分仍不明顯,這種情況要到1975年提出認知科學支撐學科的六邊形模型后才改變[13]。

    但是到今天為止,對于AI的定義,仍然存在廣義和狹義的區(qū)分,在《MIT認知科學百科全書》的序言中,將傳統(tǒng)AI當成計算智能:

    “有兩種互為補充的人工智能觀:一種是作為關(guān)注智能機器建造的工程學科,另一種是關(guān)注對人類智能進行計算建模的經(jīng)驗科學。在該學科早期,兩種觀點很少得到區(qū)分。其后根本性的分歧出現(xiàn)了,前者主導著現(xiàn)代人工智能,后者是許多現(xiàn)代認知科學的特征?;谶@個原因,我們采用更為中性的術(shù)語‘計算智能’作為本文標題——兩個共同體都使用計算術(shù)語來處理智能理解的問題。[14]”

    美國人工智能學會(AAAI)對AI的定義也小心翼翼地維持兩種人工智能觀的平衡:“對作為思維和智能行為基礎(chǔ)的機制的科學理解及它們在機器中的具身實現(xiàn)8”,但大多數(shù)AI學者還是從狹義來理解AI,例如麥卡錫的定義是:“制造智能機器的科學和工程,特別是智能的計算機程序,它與利用計算機來理解人類智能的類似任務有關(guān),但不必自我限制于生物學上可觀察的方法。9”

    在目前流行的AI教科書《人工智能——一種現(xiàn)代方法》對AI的定義是:“理性智能體的設計過程……著重討論理性智能體的通用原則以及構(gòu)造此類智能體所需的組成部分”[15],這里強調(diào)的是一種工程和實踐意義上的人工智能觀。

    為什么對AI的描述仍然存在這些分歧,這里無疑和早期AI的研究綱領(lǐng)的單薄和宏大抱負、樂觀預言的失敗有關(guān),德雷福斯的蘭德報告起到了導火索作用,使得在70年代初之后AI在美國和英國的聲望空前下降。

    德雷福斯不僅促使公眾、政府機構(gòu)等利益相干者重新審視AI,而且始終運用德-法傳統(tǒng)的大陸哲學思想來為最新的AI研究開方抓藥,包括:

    (1)胡塞爾現(xiàn)象學中的意向性理論;

    (2)波蘭尼、龐蒂關(guān)于軀體在知識獲取和人類行為中如何發(fā)揮作用的理論;

    (3)海德格爾關(guān)于在世存在、上手、預備上手等一系列存在論現(xiàn)象學的觀點;

    對于早期AI中過于簡單的認識論假設,對人類智能行為的不恰當?shù)哪M,德雷福斯也引用了維特根斯坦的“家族相似性”和其語言哲學方面的觀念,他的這些工作至少從兩個方面對AI的歷史發(fā)展起到了推動作用:

    (1)影響了AI工作者的研究實踐,特瑞·溫諾格拉德(Terry Winograd)不僅把海德格爾哲學引入到斯坦福大學計算機系的課堂上,甚至于在麻省理工學院的人工智能實驗室,80年代后也轉(zhuǎn)向了德雷福斯提出的研究方向,“對那些追隨人工智能歷史的人來說,具有諷刺意味的是麻省理工學院的實驗室會成為‘海德格爾式的人工智能’的搖籃。正是在麻省理工學院德雷福斯首次明確表達了他的批評,而20年來人工智能實驗室的智識氛圍(intellectual atmosphere)對承認他言論中的含義明顯是敵對的。盡管如此,該實驗室現(xiàn)在完成的某些工作似乎受到了海德格爾和德雷福斯的影響。[16]”

    (2)對于認知科學從符號-計算-表征為代表的早期研究綱領(lǐng)向當前以涉身-交互-情景為代表的研究綱領(lǐng)的轉(zhuǎn)變,起到了重要的引導作用。德雷福斯當然不是推動這種轉(zhuǎn)變的唯一代表,作為現(xiàn)象學大家和人工智能哲學研究的旗手,他開啟了一個批判的潮流,在其之后,塞爾、Haugeland、丹尼特等人不斷挑戰(zhàn)GOFAI的形式化、認識論上人與世界的分離觀點、事實的離散性和原子性等核心觀念。

    6 結(jié)論

    作為一名沒有受過控制論、信息論和計算機專業(yè)訓練的哲學家,德雷福斯用這篇報告闖入了AI學術(shù)共同體的核心領(lǐng)地,并提出了振聾發(fā)聵的建議,在哲學的認識論轉(zhuǎn)向、語言轉(zhuǎn)向之后,也影響了哲學的心靈轉(zhuǎn)向,某種程度上弱化了人們對認知科學將要消解傳統(tǒng)認識論的擔心。同時,對于人工智能和認知科學這樣研究人類自身心靈和思維能力的工程學科和交叉學科,為傳統(tǒng)哲學與這些新興尖端學科的對話提供了一個正面示例,因為德雷福斯并不是象倫理學家、神學家那樣捍衛(wèi)傳統(tǒng)的人類中心論的人文價值,而是從認識論、形而上學方面來挑戰(zhàn)AI的研究方法基礎(chǔ),不管AI科學家共同體中的部分成員從一開始如何封閉和敵對,最終還是從外部打開了一扇科學家與人文學者交流的窗戶。

    注釋:

    1https://en.wikipedia.org/wiki/Hubert_Dreyfus.

    2https://en.wikipedia.org/wiki/Hubert_Dreyfus.

    3https://en.wikipedia.org/wiki/Hubert_Dreyfus.

    4https://en.wikipedia.org/wiki/Being_in_the_World.

    5http://www.nap.edu/openbook.php?record_id=9547.

    6 http://www.chilton-computing.org.uk/inf/literature/reports/lighthill_ report/contents.htm.

    7https://en.wikipedia.org/wiki/AI_winter.

    8http://aitopics.org/topic/ai-overview.

    9http://aitopics.org/topic/ai-overview.

    [1][3][6][7] Pamela McCorduck. Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence:[M]. San Francisco:W.H.Freeman And Company, 1979.

    [2] Philip Klahr, Donald A. Waterman. Artificial Intelligence:A Rand Perspective [J], AI Magazine, 1986(7):54-64.

    [4][5] Hubert L.Dreyfus. Alchemy and Artificial Intelligence [M]. Santa Monica: RAND Corporation, 1965.

    [8][9] Daniel Crevier. AI: The Tumultuous History of the Search for Artificial Intelligence [M].New York: Basic Books, 1993.

    [10] 休伯特·德雷福斯. 計算機不能做什么:人工智能的極限[M].北京:三聯(lián)書店,1986.

    [11][12] [16] Hubert L.Dreyfus. What Computers Still Can't Do: A Critique of Artificial Reason [M].Cambridge: MIT Press, 1992.

    [13] Howard E.Gardner. The Mind's New Science: A History of the Cognitive Revolution [M].New York: Basic Books,1987.

    [14] Wilson, Keil. MIT認知科學百科全書[M].上海:上海外語教育出版社,2000.

    [15] 斯圖爾特·羅素,諾文. 人工智能:一種現(xiàn)代方法[M].北京:人民郵電出版社,2010.

    (責任編輯:王保寧)

    Alchemy and Artificial Intelligence:The Influence to Artificial Influence Impacted by Hubert Dreyfus

    CHEN Zifu
    (School of History and Culture of Science, ShangHai JiaoTong University, ShangHai 200240)

    In 1965,Huber Dreyfus as a consultant in Rand Corporation ,presented a proposal titled artificial intelligence and alchemy, which numbered as P-3244 challenged research on Artificial Intelligence (AI) sponsored by Rand Corporation himself in theory greatly. In 1972,Dreyfus published 《What computers can't do: The Limits of Artificial Intelligence 》based on this proposal, which book and other two reports: ALPAC report presented by National Academy of Sciences, LightHill report presented by Science Research Council, are the beginnings of first AI winter. Even after the AI revival in 1980s because of emergence of Expert System, and the second AI winter in early 1990s, the research programme of AI had changed greatly, Dreyfus still stand his ground firmly, he always thinks and analyzes the assumptions on human recognition and ability of problem-solving behind the AI research programme implicitly in a critical way, his in-depth review about AI comes from the standpoint of Phenomenology and Heidegger's which is the core of continental philosophy. No matter what AI scientific community agree with him or not, the meaningful thoughts of Dreyfus really had driven such changes in AI field:from the blind optimism based on intellectualism and Symbolism strong programme in early stage to the prudent view about building intelligent machines at the human-level intelligence at present and more diversified research programme today.

    Hubert Dreyfus;Artificial Intelligence;AI Winter

    中圖文獻號:TP18;TG115A DOI:10.3969/j.issn1003-8256.2015.04.008

    陳自富(1974-),湖南洪江人,上海交通大學科學史與科學文化研究院,博士研究生,研究方向為信息科學與互聯(lián)網(wǎng)技術(shù)的歷史、文化和傳播研究。

    猜你喜歡
    蘭德報告人工智能
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    一圖看懂十九大報告
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    報告
    南風窗(2016年26期)2016-12-24 21:48:09
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    中國智庫:何時能圓“蘭德夢”
    華人時刊(2016年3期)2016-04-05 05:56:26
    報告
    南風窗(2015年22期)2015-09-10 07:22:44
    四天三夜 LAND CRUISER 200蘭德酷路澤探塞北
    越玩越野(2015年2期)2015-08-29 01:05:04
    報告
    南風窗(2015年7期)2015-04-03 01:21:48
    国产精品国产三级国产专区5o| 国产精品一区www在线观看| 免费黄色在线免费观看| 日本一本二区三区精品| 五月开心婷婷网| 22中文网久久字幕| 男女边吃奶边做爰视频| 狂野欧美白嫩少妇大欣赏| 在线观看人妻少妇| 亚洲国产高清在线一区二区三| av国产免费在线观看| 国产高清国产精品国产三级 | 中文字幕制服av| 大又大粗又爽又黄少妇毛片口| 看十八女毛片水多多多| 亚洲欧洲国产日韩| 亚洲高清免费不卡视频| 久久久久久久久久久丰满| 午夜免费男女啪啪视频观看| 日产精品乱码卡一卡2卡三| 黑人高潮一二区| 国产免费一区二区三区四区乱码| 日日啪夜夜爽| 国产午夜福利久久久久久| av免费观看日本| 国产亚洲最大av| 国产亚洲av嫩草精品影院| 中文字幕制服av| 亚洲三级黄色毛片| 欧美潮喷喷水| 最新中文字幕久久久久| 久久久亚洲精品成人影院| 黄色配什么色好看| 亚洲精品一二三| 欧美老熟妇乱子伦牲交| 波多野结衣巨乳人妻| 赤兔流量卡办理| 国产精品国产av在线观看| 午夜免费男女啪啪视频观看| 亚洲欧美日韩东京热| 白带黄色成豆腐渣| 免费观看av网站的网址| 亚洲精品视频女| 五月伊人婷婷丁香| 免费av毛片视频| 国产成人精品婷婷| 夫妻午夜视频| 欧美日韩视频高清一区二区三区二| 国产免费视频播放在线视频| 国产老妇伦熟女老妇高清| 亚洲天堂国产精品一区在线| 国产男女超爽视频在线观看| 26uuu在线亚洲综合色| 精品少妇久久久久久888优播| 干丝袜人妻中文字幕| 中国美白少妇内射xxxbb| 久久99精品国语久久久| 91在线精品国自产拍蜜月| 性色av一级| 日韩成人伦理影院| 精品国产乱码久久久久久小说| 日本爱情动作片www.在线观看| 国产精品伦人一区二区| 黄色日韩在线| 成人国产av品久久久| 亚洲精华国产精华液的使用体验| 亚洲成人精品中文字幕电影| 欧美zozozo另类| 青春草国产在线视频| 97在线人人人人妻| a级一级毛片免费在线观看| 国产 一区 欧美 日韩| 国产精品伦人一区二区| 国产亚洲一区二区精品| 亚洲成人一二三区av| 高清在线视频一区二区三区| 又黄又爽又刺激的免费视频.| 精品视频人人做人人爽| 国产欧美亚洲国产| 精品国产一区二区三区久久久樱花 | 色播亚洲综合网| 中国国产av一级| av在线播放精品| 18禁裸乳无遮挡免费网站照片| 日韩 亚洲 欧美在线| 色视频www国产| 国产乱人偷精品视频| 免费少妇av软件| 美女脱内裤让男人舔精品视频| 91aial.com中文字幕在线观看| 国产欧美另类精品又又久久亚洲欧美| 色哟哟·www| 偷拍熟女少妇极品色| 成人欧美大片| 国产中年淑女户外野战色| 色播亚洲综合网| 激情 狠狠 欧美| 成人国产av品久久久| 婷婷色麻豆天堂久久| 国产免费福利视频在线观看| 精品少妇黑人巨大在线播放| 久久久久久久亚洲中文字幕| 成年av动漫网址| 99热6这里只有精品| 国产精品嫩草影院av在线观看| 搡老乐熟女国产| 大码成人一级视频| 少妇被粗大猛烈的视频| 亚洲一区二区三区欧美精品 | 国产高清有码在线观看视频| 丰满乱子伦码专区| 最近最新中文字幕免费大全7| 欧美日韩视频精品一区| 亚洲精品日韩在线中文字幕| 国产av码专区亚洲av| 伦理电影大哥的女人| 亚洲性久久影院| 国产在线男女| 午夜精品一区二区三区免费看| 晚上一个人看的免费电影| 下体分泌物呈黄色| 久久久久九九精品影院| 亚洲,一卡二卡三卡| 亚洲最大成人av| 国产精品国产三级国产av玫瑰| av免费观看日本| 国产精品偷伦视频观看了| 中文字幕av成人在线电影| 制服丝袜香蕉在线| 看十八女毛片水多多多| 人妻制服诱惑在线中文字幕| 赤兔流量卡办理| 男女无遮挡免费网站观看| 国产日韩欧美亚洲二区| 国产v大片淫在线免费观看| av在线app专区| 国产色爽女视频免费观看| 免费黄网站久久成人精品| 大又大粗又爽又黄少妇毛片口| 中国美白少妇内射xxxbb| 亚洲激情五月婷婷啪啪| 免费电影在线观看免费观看| av在线天堂中文字幕| 国产亚洲av嫩草精品影院| 国产乱来视频区| 丝袜喷水一区| 夫妻性生交免费视频一级片| 最新中文字幕久久久久| 国产精品女同一区二区软件| 亚洲最大成人手机在线| 国产日韩欧美亚洲二区| 人妻一区二区av| 免费观看在线日韩| 国产成人91sexporn| 欧美成人a在线观看| 中文字幕亚洲精品专区| 另类亚洲欧美激情| 中文天堂在线官网| 午夜激情久久久久久久| 最后的刺客免费高清国语| 中文字幕免费在线视频6| 日韩,欧美,国产一区二区三区| 男人舔奶头视频| 中文精品一卡2卡3卡4更新| 国语对白做爰xxxⅹ性视频网站| 涩涩av久久男人的天堂| 在线a可以看的网站| 日韩中字成人| 亚洲精品国产色婷婷电影| 热99国产精品久久久久久7| av黄色大香蕉| www.av在线官网国产| 日韩欧美 国产精品| 五月玫瑰六月丁香| 国模一区二区三区四区视频| 久久久久久久久久久丰满| 人人妻人人澡人人爽人人夜夜| 日韩中字成人| 亚洲精品久久午夜乱码| 韩国高清视频一区二区三区| 国产探花极品一区二区| 婷婷色综合大香蕉| 女人十人毛片免费观看3o分钟| 中文字幕亚洲精品专区| 欧美老熟妇乱子伦牲交| 亚洲精品成人久久久久久| 午夜免费鲁丝| 日韩一区二区三区影片| av专区在线播放| 国产精品福利在线免费观看| 久久精品综合一区二区三区| 一本久久精品| 极品少妇高潮喷水抽搐| 欧美97在线视频| 欧美高清成人免费视频www| 干丝袜人妻中文字幕| 涩涩av久久男人的天堂| 黄色日韩在线| 亚洲美女视频黄频| 天美传媒精品一区二区| 青春草国产在线视频| 午夜免费男女啪啪视频观看| 中文天堂在线官网| 国产国拍精品亚洲av在线观看| 国产在视频线精品| 国产日韩欧美在线精品| 寂寞人妻少妇视频99o| 亚洲av男天堂| 久久韩国三级中文字幕| 欧美高清性xxxxhd video| 高清视频免费观看一区二区| 欧美亚洲 丝袜 人妻 在线| 18禁裸乳无遮挡动漫免费视频 | 亚洲va在线va天堂va国产| 啦啦啦啦在线视频资源| 免费看不卡的av| 午夜福利在线在线| 99热网站在线观看| 国产精品女同一区二区软件| 国产人妻一区二区三区在| 免费人成在线观看视频色| 亚洲精品aⅴ在线观看| 黑人高潮一二区| 久久国内精品自在自线图片| 老女人水多毛片| 一级毛片黄色毛片免费观看视频| 97超视频在线观看视频| 日韩免费高清中文字幕av| 在线观看人妻少妇| 小蜜桃在线观看免费完整版高清| 日本一本二区三区精品| 国产精品久久久久久精品古装| 精品酒店卫生间| 免费电影在线观看免费观看| 亚洲成人久久爱视频| 欧美高清成人免费视频www| 婷婷色综合大香蕉| 国产免费一区二区三区四区乱码| 亚洲成人久久爱视频| 欧美变态另类bdsm刘玥| 中文欧美无线码| av在线播放精品| 老女人水多毛片| 国产女主播在线喷水免费视频网站| 亚洲内射少妇av| 男人爽女人下面视频在线观看| 中文字幕久久专区| av网站免费在线观看视频| 国产亚洲最大av| 免费看av在线观看网站| 精品酒店卫生间| 九九久久精品国产亚洲av麻豆| 精品久久久精品久久久| 男女那种视频在线观看| 国产女主播在线喷水免费视频网站| 久久久久久国产a免费观看| 国产乱来视频区| 久久久久国产网址| 久久久久久久久大av| 男插女下体视频免费在线播放| 亚洲在线观看片| 日韩av在线免费看完整版不卡| 国产精品精品国产色婷婷| 国产一级毛片在线| 国产精品.久久久| 成人国产av品久久久| 男女国产视频网站| 国产成人精品一,二区| av免费观看日本| 亚洲欧美一区二区三区国产| 午夜福利网站1000一区二区三区| 亚洲国产最新在线播放| 女人久久www免费人成看片| 亚洲最大成人av| 又黄又爽又刺激的免费视频.| 3wmmmm亚洲av在线观看| 女人被狂操c到高潮| 1000部很黄的大片| 18禁裸乳无遮挡免费网站照片| 国产成人freesex在线| 日本猛色少妇xxxxx猛交久久| 亚洲av在线观看美女高潮| 2022亚洲国产成人精品| 午夜爱爱视频在线播放| 日本黄大片高清| 精品久久久久久久久av| 能在线免费看毛片的网站| 97在线视频观看| 国产老妇伦熟女老妇高清| 日韩一区二区视频免费看| 白带黄色成豆腐渣| av免费观看日本| 女人十人毛片免费观看3o分钟| 国产在线一区二区三区精| 美女脱内裤让男人舔精品视频| 五月玫瑰六月丁香| 少妇人妻精品综合一区二区| 日本熟妇午夜| 日韩制服骚丝袜av| 久久久久网色| 人人妻人人看人人澡| 亚洲精品日韩av片在线观看| 18禁在线无遮挡免费观看视频| 尤物成人国产欧美一区二区三区| 在线看a的网站| 舔av片在线| 熟妇人妻不卡中文字幕| 日本免费在线观看一区| 亚洲欧洲日产国产| 一级av片app| 亚洲第一区二区三区不卡| 久久影院123| 直男gayav资源| 中文字幕av成人在线电影| 美女xxoo啪啪120秒动态图| 国产色婷婷99| 18禁裸乳无遮挡动漫免费视频 | 哪个播放器可以免费观看大片| 秋霞在线观看毛片| 日韩av不卡免费在线播放| 久久国内精品自在自线图片| 亚洲国产高清在线一区二区三| 国产精品久久久久久av不卡| 久久久久久久久久久免费av| 色播亚洲综合网| 国产探花极品一区二区| 精品少妇久久久久久888优播| 精品视频人人做人人爽| 3wmmmm亚洲av在线观看| 日韩亚洲欧美综合| 插逼视频在线观看| 亚洲真实伦在线观看| 日本av手机在线免费观看| a级毛色黄片| 伦理电影大哥的女人| 亚洲av成人精品一二三区| 大香蕉97超碰在线| 免费av观看视频| 视频区图区小说| 99久国产av精品国产电影| 人人妻人人看人人澡| 久久精品国产自在天天线| 欧美xxxx黑人xx丫x性爽| 国产欧美日韩精品一区二区| av免费观看日本| 禁无遮挡网站| 久久久久久久久久成人| 久久久久久伊人网av| 久久99热6这里只有精品| 成人亚洲欧美一区二区av| 国产男人的电影天堂91| 一级av片app| av.在线天堂| 精品少妇久久久久久888优播| 成人综合一区亚洲| 男女下面进入的视频免费午夜| 亚洲欧美一区二区三区国产| 亚洲精品视频女| 水蜜桃什么品种好| 亚洲av中文av极速乱| 丰满少妇做爰视频| 色5月婷婷丁香| 嘟嘟电影网在线观看| 欧美激情国产日韩精品一区| 日韩大片免费观看网站| 丝袜脚勾引网站| 国产成人精品福利久久| 欧美少妇被猛烈插入视频| 久久精品国产a三级三级三级| 亚洲av国产av综合av卡| 国语对白做爰xxxⅹ性视频网站| 人妻一区二区av| 在线观看三级黄色| 91精品国产九色| 国产免费一级a男人的天堂| av国产精品久久久久影院| 一级毛片aaaaaa免费看小| 一区二区av电影网| 国产视频内射| 亚洲第一区二区三区不卡| 嫩草影院新地址| a级一级毛片免费在线观看| 国产成人91sexporn| 国产精品久久久久久久久免| 午夜福利网站1000一区二区三区| 久久韩国三级中文字幕| kizo精华| 少妇人妻久久综合中文| 亚洲精品中文字幕在线视频 | 亚洲在线观看片| 久久人人爽人人爽人人片va| 久久久欧美国产精品| 国产高清国产精品国产三级 | 精华霜和精华液先用哪个| 特大巨黑吊av在线直播| 日韩不卡一区二区三区视频在线| 国产 一区 欧美 日韩| 五月玫瑰六月丁香| 赤兔流量卡办理| 听说在线观看完整版免费高清| 伦精品一区二区三区| 午夜免费鲁丝| 国产精品一区二区在线观看99| 亚洲精品影视一区二区三区av| 在线a可以看的网站| 禁无遮挡网站| 男女边摸边吃奶| 建设人人有责人人尽责人人享有的 | h日本视频在线播放| 国模一区二区三区四区视频| 三级国产精品欧美在线观看| 一级黄片播放器| 国产精品无大码| 久久久久久久国产电影| 国产成人免费观看mmmm| 成人欧美大片| 一级二级三级毛片免费看| 国产精品人妻久久久久久| 国产综合精华液| 国产欧美亚洲国产| 性插视频无遮挡在线免费观看| 在线天堂最新版资源| 99久久精品国产国产毛片| 夜夜看夜夜爽夜夜摸| 日韩中字成人| 在线观看免费高清a一片| 亚洲,欧美,日韩| 18禁在线播放成人免费| 成人亚洲精品一区在线观看 | 国产高清国产精品国产三级 | 免费黄网站久久成人精品| 欧美日韩精品成人综合77777| 蜜桃亚洲精品一区二区三区| 男人舔奶头视频| 国产精品99久久99久久久不卡 | 亚洲成人久久爱视频| 国产91av在线免费观看| 久久久久久九九精品二区国产| av国产久精品久网站免费入址| 精品视频人人做人人爽| 自拍欧美九色日韩亚洲蝌蚪91 | 亚洲av男天堂| 香蕉精品网在线| 永久免费av网站大全| 日韩亚洲欧美综合| 三级经典国产精品| 亚洲内射少妇av| 国产一区有黄有色的免费视频| 美女主播在线视频| 青春草国产在线视频| 国产午夜福利久久久久久| 美女内射精品一级片tv| 国产精品一二三区在线看| 大话2 男鬼变身卡| 黄色怎么调成土黄色| 欧美高清成人免费视频www| 精品国产三级普通话版| 国产精品久久久久久精品古装| 九九在线视频观看精品| 视频中文字幕在线观看| av黄色大香蕉| 日韩欧美精品v在线| 免费黄色在线免费观看| 国产熟女欧美一区二区| 18禁在线无遮挡免费观看视频| 97超碰精品成人国产| 精品久久国产蜜桃| 尤物成人国产欧美一区二区三区| 国产一区二区在线观看日韩| 亚洲欧美清纯卡通| 高清午夜精品一区二区三区| 嫩草影院入口| av在线亚洲专区| 久久人人爽人人爽人人片va| 人妻夜夜爽99麻豆av| 亚洲自偷自拍三级| 欧美97在线视频| 一级二级三级毛片免费看| 亚洲av中文字字幕乱码综合| 亚洲aⅴ乱码一区二区在线播放| 九九在线视频观看精品| 在现免费观看毛片| 免费看a级黄色片| 欧美极品一区二区三区四区| 日韩不卡一区二区三区视频在线| 成年女人在线观看亚洲视频 | 97超碰精品成人国产| 国产av国产精品国产| 国产成人午夜福利电影在线观看| 丝袜美腿在线中文| 国产成人精品久久久久久| 亚洲综合精品二区| 亚洲av国产av综合av卡| 久久精品国产a三级三级三级| 日日撸夜夜添| 亚洲精华国产精华液的使用体验| 亚洲精品影视一区二区三区av| 美女脱内裤让男人舔精品视频| 久久精品夜色国产| 久久久久精品久久久久真实原创| 最近最新中文字幕大全电影3| 国产亚洲最大av| 成人免费观看视频高清| 日韩免费高清中文字幕av| 日日啪夜夜撸| 别揉我奶头 嗯啊视频| 久久久久久伊人网av| 国产亚洲av片在线观看秒播厂| 在线看a的网站| av女优亚洲男人天堂| 成人高潮视频无遮挡免费网站| 大片免费播放器 马上看| 午夜福利高清视频| 中文字幕免费在线视频6| 少妇人妻久久综合中文| 欧美高清成人免费视频www| 嫩草影院入口| 国产成人freesex在线| 免费观看性生交大片5| 另类亚洲欧美激情| 91久久精品国产一区二区三区| av国产久精品久网站免费入址| 久久精品国产亚洲av天美| 2021天堂中文幕一二区在线观| 国产视频内射| 我的老师免费观看完整版| 毛片女人毛片| 黄色日韩在线| 久久ye,这里只有精品| 日韩一区二区视频免费看| 少妇的逼好多水| 免费黄频网站在线观看国产| 亚洲国产精品专区欧美| 国产精品久久久久久av不卡| 亚洲最大成人中文| 亚洲av一区综合| 日韩欧美一区视频在线观看 | 国产成年人精品一区二区| 亚洲国产精品国产精品| 久久久午夜欧美精品| 最近2019中文字幕mv第一页| 肉色欧美久久久久久久蜜桃 | 亚洲无线观看免费| 亚洲av一区综合| 不卡视频在线观看欧美| 久久午夜福利片| 国产精品国产三级专区第一集| 久久精品国产鲁丝片午夜精品| 国产精品人妻久久久影院| 伦精品一区二区三区| 欧美一区二区亚洲| 在线a可以看的网站| 99热这里只有是精品在线观看| 七月丁香在线播放| 赤兔流量卡办理| 亚洲国产最新在线播放| 亚洲精品,欧美精品| 99热这里只有精品一区| 国产国拍精品亚洲av在线观看| 五月开心婷婷网| 国内精品宾馆在线| 欧美日韩精品成人综合77777| 美女被艹到高潮喷水动态| 国产精品精品国产色婷婷| 亚洲第一区二区三区不卡| 晚上一个人看的免费电影| 国产精品av视频在线免费观看| kizo精华| 99久国产av精品国产电影| 国产午夜福利久久久久久| 亚洲国产成人一精品久久久| 欧美少妇被猛烈插入视频| 亚洲无线观看免费| 在现免费观看毛片| 视频区图区小说| 国产精品人妻久久久久久| 国产精品久久久久久av不卡| 免费看a级黄色片| 天堂网av新在线| 青春草亚洲视频在线观看| 欧美xxⅹ黑人| 99热这里只有精品一区| 又粗又硬又长又爽又黄的视频| 国产黄片美女视频| 国产精品一二三区在线看| 久久国产乱子免费精品| 久久久久久久大尺度免费视频| 一级毛片电影观看| 亚洲成人av在线免费| 免费黄色在线免费观看| 各种免费的搞黄视频| 精品酒店卫生间| 亚洲精品日本国产第一区| 国产伦精品一区二区三区视频9| 国产伦理片在线播放av一区| 男男h啪啪无遮挡| 午夜福利在线在线| 国产日韩欧美在线精品| 少妇猛男粗大的猛烈进出视频 | 久久国内精品自在自线图片| 夜夜看夜夜爽夜夜摸| 久久99热6这里只有精品| 一级片'在线观看视频| 国产男女超爽视频在线观看| 国产人妻一区二区三区在| 七月丁香在线播放| 成人高潮视频无遮挡免费网站| 一个人观看的视频www高清免费观看| 男女边摸边吃奶| 男女那种视频在线观看| 午夜福利视频精品| 久久久久久九九精品二区国产| 伊人久久国产一区二区| 久久99热这里只频精品6学生| 国产高清不卡午夜福利|