• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    “一堆謬誤”

    2023-01-01 00:00:00蔚藍(lán)孫小淳
    科學(xué)文化評(píng)論 2023年1期

    摘要" 德雷福斯針對(duì)符號(hào)主義人工智能研究發(fā)表了批判性的評(píng)估報(bào)告《煉金術(shù)與人工智能》(Alchemy and Artificial Intelligence),隨后人工智能專家們對(duì)此發(fā)表了眾多駁斥文章報(bào)告,其中最具代表性的是1968年西蒙·派珀特(Seymour Papert)的《德雷福斯的人工智能:一堆謬誤》(The Artificial Intelligence of Hubert L. Dreyfus: A budget of fallacies),而報(bào)告的副標(biāo)題“一堆謬誤”也成為了部分人工智能專家對(duì)德雷福斯海德格爾式人工智能觀(Heideggerian AI)的評(píng)判。具體而言,人工智能專家對(duì)德雷福斯有一個(gè)相對(duì)系統(tǒng)的批判,也是對(duì)一般性懷疑人工智能觀點(diǎn)的回應(yīng)。從四個(gè)方面分析解讀人工智能專家的觀點(diǎn):(1)相較于“能做什么?”的提問(wèn),“不能做什么?”的提問(wèn)會(huì)產(chǎn)生無(wú)限的后退與悲觀;(2)人類與機(jī)器本質(zhì)存在差異,德雷福斯過(guò)分苛責(zé)人腦的計(jì)算機(jī)隱喻;(3)現(xiàn)象學(xué)追問(wèn)式研究進(jìn)路和使用“主體”經(jīng)驗(yàn)解釋世界的方式并不優(yōu)于實(shí)證的、分析的方法;(4)人文與科學(xué)兩種文化需要各行其道,人文學(xué)者無(wú)法分辨技術(shù)發(fā)展情況的本質(zhì)特征和偶然特征。人工智能專家們的意見(jiàn)回?fù)粲辛Φ灿芯窒?,德雷福斯?duì)人工智能創(chuàng)新性批判思考的貢獻(xiàn)仍不能被磨滅。

    關(guān)鍵詞" 德雷福斯 海德格爾式人工智能 符號(hào)主義 智能研究

    中圖分類號(hào)" N09∶TP18

    文獻(xiàn)標(biāo)識(shí)碼" A

    一引言

    休伯特·德雷福斯(Hubert Dreyfus)是著名現(xiàn)象學(xué)哲學(xué)家,他利用海德格爾(Martin Heidegger)的生存論現(xiàn)象學(xué)資源開(kāi)辟了“海德格爾式人工智能”的道路,關(guān)注“人的生存”為認(rèn)知研究與智能制造提供了新路徑,他主張一種具身的、情景的、非表征的的智能,來(lái)替代使用符號(hào)表征的人工智能。1963年德雷福斯進(jìn)入蘭德公司參與評(píng)估紐厄爾(Allen Newell)和西蒙(Herbert Simon)當(dāng)時(shí)正在進(jìn)行的認(rèn)知模擬項(xiàng)目(Cognitive Simulation,CS),并在1965年以備忘錄的形式發(fā)表了題為《煉金術(shù)與人工智能》(Alchemy and Artificial Intelligence)的評(píng)估報(bào)告,他對(duì)20世紀(jì)50—60年代人工智能研究的進(jìn)展評(píng)價(jià)頗低,他認(rèn)為當(dāng)時(shí)的人工智能就像煉金術(shù)一般原始落后,在游戲表現(xiàn)、問(wèn)題求解、語(yǔ)言翻譯、模式識(shí)別四個(gè)方面停滯不前。德雷福斯認(rèn)為,困難的根本性問(wèn)題在于,人類和機(jī)器信息處理不同,但是人工智能專家并未認(rèn)識(shí)到這點(diǎn)。之后德雷福斯與1972年出版了《計(jì)算機(jī)不能做什么》(What Computers Still Cant Do: The limits of artificial intelligence),1979年再版,及其第三版《計(jì)算機(jī)仍不能做什么》(What Computers Still Cant Do: A critique of artificial reason, 1992),被翻譯成十多種種語(yǔ)言,對(duì)哲學(xué)界和計(jì)算機(jī)學(xué)科產(chǎn)生了深遠(yuǎn)的影響。德雷福斯認(rèn)為的人工智能發(fā)展深層的誤解和掩蓋:人工智能生物學(xué);心理學(xué);認(rèn)識(shí)論;本體論假想。德雷福斯提出傳統(tǒng)假象的更換需要:重視軀體在智能行為中的作用、重視局勢(shì)在處理不依賴規(guī)則時(shí)的有序行為、作為人類需要對(duì)于智能的作用。德雷福斯通過(guò)《計(jì)算機(jī)不能做什么》揭示了早期人工智能發(fā)展所遇到的困境,認(rèn)為本質(zhì)上技術(shù)的局限性是因?yàn)槠湔軐W(xué)預(yù)設(shè)走到了極限。德雷福斯認(rèn)為人工智能陷入了“第一步總成功的謬論”(First-Step Fallacy),該理論由邏輯學(xué)家巴·希萊爾(Yehoshua Bar-hillel)提出,即認(rèn)為人工智能盡管在簡(jiǎn)單信息處理方面取得的一些成功,但是這些有限的成功并不能作為一個(gè)項(xiàng)目的最終成功。

    德雷福斯認(rèn)為,人工智能專家不像大多數(shù)科學(xué)工作者,他們從不承認(rèn)自己的困難且對(duì)批評(píng)的聲音高度敏感,由于與人工智能專家的觀念不合,導(dǎo)致他的研究報(bào)告被壓制一年之久。德雷福斯認(rèn)為他的報(bào)告是對(duì)認(rèn)知模擬第一次詳細(xì)的批判,在世界范圍內(nèi)引起了爭(zhēng)議與思考,但是在麻省理工學(xué)院和卡內(nèi)基梅隆大學(xué)等人工智能研究重鎮(zhèn)卻沒(méi)有受到重視[1]。相反,在帕梅拉·麥考達(dá)克(Pamela McCorduck)撰寫(xiě)的科學(xué)史著作中,西蒙回憶了德雷福斯“卑劣”的行為,“1961年春天德雷福斯兄弟曾強(qiáng)烈反對(duì)西蒙和費(fèi)根鮑姆(Edward Feigenbaum)的研究思路。之后休伯特設(shè)法進(jìn)入蘭德公司擔(dān)任顧問(wèn),寫(xiě)出了《煉金術(shù)與人工智能》并打著蘭德公司的旗號(hào)兜售報(bào)告”([2], p.225)。時(shí)任蘭德公司計(jì)算機(jī)科學(xué)主管的保羅·阿姆爾(Paul Armer)表明,“哲學(xué)家的加入可能對(duì)認(rèn)知模擬項(xiàng)目有所裨益,但是如果他知道德雷弗斯早在1962年就發(fā)表了明確攻擊人工智能的觀點(diǎn)意見(jiàn),他就不會(huì)選擇他來(lái)研究思考機(jī)器的想法所引發(fā)的哲學(xué)問(wèn)題”([2], p.226)。

    曾受過(guò)哲學(xué)訓(xùn)練的人工智能專家西蒙·派珀特(Seymour Papert)于1968針對(duì)德雷福斯的批判發(fā)表了名為《德雷福斯的人工智能:一堆謬誤》(The Artificial Intelligence of Hubert L.Dreyfus: A budget of fallacies,1968)的反駁報(bào)告。這與英國(guó)著名邏輯學(xué)家德·摩根(De Morgan)關(guān)于科學(xué)史與科學(xué)哲學(xué)思考的著作《悖論集》(A Budget of Paradoxes,1872)有異曲同工之妙,德·摩根認(rèn)為自從17世紀(jì)以來(lái),數(shù)學(xué)已經(jīng)為科學(xué)的運(yùn)作提供了精確的貢獻(xiàn),但是仍有非數(shù)學(xué)家高舉號(hào)角反對(duì)數(shù)學(xué)[3]。德·摩根將該現(xiàn)象稱為悖論,并在書(shū)中研究了那些對(duì)別人所做的事情沒(méi)有足夠了解的悖論者,諷刺反對(duì)數(shù)學(xué)的無(wú)意義的悖論和悖論者[4]。派珀特借此暗指了德雷福斯對(duì)人工智能的失真的、欺騙的評(píng)論,甚至其謬誤(Fallacy)的荒唐遠(yuǎn)超悖論(Paradox)。派珀特認(rèn)為,德雷福斯的報(bào)告在一定程度上是一種惡意誤導(dǎo),是一種“虛假的斷言”([5], p.2),例如,西蒙在1962年說(shuō)“對(duì)象棋的預(yù)測(cè)基本上被實(shí)現(xiàn)了”,而德雷福斯卻牽強(qiáng)附會(huì)的說(shuō)這個(gè)“實(shí)現(xiàn)”是西蒙1957年預(yù)測(cè)“一個(gè)程序可以獲得象棋國(guó)際冠軍”的目標(biāo)。還斷章取義的曲解維納的話,“到目前為止機(jī)器可以運(yùn)用教科書(shū)上的方法對(duì)抗大師,在對(duì)弈中表現(xiàn)的合格”,刪除了下一句“當(dāng)它們犯錯(cuò)時(shí),會(huì)十分重大且荒唐”([5], pp.65—68)。除此之外,人工智能專家們對(duì)德雷福斯也有一個(gè)相對(duì)系統(tǒng)的批判。

    二“不能做什么?”提問(wèn)的局限

    德雷福斯在批判人工智能時(shí),使用了“不能做什么?”式的追問(wèn)方式,他認(rèn)為符號(hào)主義人工智能的局限在于未實(shí)現(xiàn)“智能”的目標(biāo),處于一種停滯狀態(tài)。對(duì)此,派珀特發(fā)出了回應(yīng),德雷福斯接受了一個(gè)“計(jì)算機(jī)不能做什么”(Computer Cant Do XXX)的框架,最后他的研究就是在計(jì)算機(jī)研究中挑刺,尋找人工智能研究的紕漏。特定的計(jì)算機(jī)科學(xué)家的失敗和特定算法的失敗并不能代表人工智能的失敗,他認(rèn)為德雷福斯對(duì)人工智能停滯的判斷也不是真實(shí)的,德雷福斯總是用“能”與“否”討論問(wèn)題,從不討論“量變”的問(wèn)題。

    多位人工智能專家認(rèn)為,德雷福斯批判的不足在于沒(méi)有區(qū)分人工智能中“智能”的含義。那么什么是智能?派珀特批判德雷福斯無(wú)限后退的方式追問(wèn)智能,“下棋程序因?yàn)槭潜痪幊桃蚨皇侵悄?,塞繆爾的機(jī)器學(xué)習(xí)因?yàn)槭切问交瘲l件下學(xué)習(xí)因而也不是智能”([5], p.41)。明斯基(Marvin Minsky)也反對(duì)德雷福斯思考問(wèn)題的方式,“‘計(jì)算機(jī)不能(XXX),因?yàn)樗麄儧](méi)有感覺(jué),也沒(méi)有思想’。但有一種方法可以展示把這些話的愚蠢,把它們改成這樣:‘計(jì)算機(jī)不能(XXX),因?yàn)樗麄兯茏龅膬H是執(zhí)行極其復(fù)雜的過(guò)程,一次可能執(zhí)行數(shù)百萬(wàn)次。’現(xiàn)在這樣的反對(duì)似乎不那么令人信服——然而我們所做的只是面對(duì)一個(gè)簡(jiǎn)單而復(fù)雜的事實(shí):我們真的還不知道計(jì)算機(jī)的極限是什么?,F(xiàn)在讓我們面對(duì)另一個(gè)簡(jiǎn)單的事實(shí):我們對(duì)人類心靈的觀念同樣知之甚少”[6]。那么德雷福斯者們永遠(yuǎn)會(huì)后退找到“計(jì)算機(jī)不能”的智能。

    1966年德雷福斯和計(jì)算機(jī)下棋程序MacHack對(duì)弈并輸給了MacHack,游戲的結(jié)果刊登在美國(guó)“計(jì)算機(jī)協(xié)會(huì)人工智能特別興趣小組”的公報(bào)上(the bulletin of the Special Interest Group in Artificial Intelligence, SIGART),作者嘲諷道:“一個(gè)10歲的孩子可以打敗機(jī)器,但是這臺(tái)機(jī)器可以打敗德雷福斯。德雷福斯強(qiáng)烈抗議道,他從來(lái)沒(méi)有說(shuō)過(guò)電腦不會(huì)下一手好棋,這次失敗并沒(méi)有改變他任何主要的假設(shè)?!保ǎ?], p.233)對(duì)此西蒙公開(kāi)發(fā)表了為數(shù)不多的回應(yīng):“Cool it, Friend!”暗諷德雷福斯曾使用“煉金術(shù)”類比修辭“人工智能”,反譏諷其修辭辯論技巧和刻薄的指責(zé)。對(duì)此,派珀特也參與了評(píng)論,使用邏輯形式簡(jiǎn)評(píng):“1.5計(jì)算機(jī)不能下棋。1.5.1德雷福斯也不能?!保ǎ?], p.233)

    人工智能專家布坎南(Bruce Buchanan)認(rèn)為,德雷福斯的批判,問(wèn)題在于沒(méi)有區(qū)分人工智能終極愿景和具體步驟細(xì)節(jié)工作的差異。具體而言,德雷福斯的誤解在四個(gè)方面:(1)人工智能研究都旨在實(shí)現(xiàn)一個(gè)共同目標(biāo)。(2)人工智能的目標(biāo)是為計(jì)算機(jī)編程,使其具有完全成形的雅典娜式智能。(3)人工智能的工作在垂死掙扎。(4)數(shù)字計(jì)算機(jī)能力具有模擬計(jì)算機(jī)所沒(méi)有的局限性。對(duì)于以上四點(diǎn),布坎南澄清真相分別是:(1)人工智能會(huì)根據(jù)任務(wù)的不同,使用表征理論、啟發(fā)式編程和機(jī)器人學(xué)等不同方式實(shí)現(xiàn)其需求。(2)人工智能研究不僅有著至高的宏大的模擬人類智能的目標(biāo),還有一些簡(jiǎn)單而瑣碎的任務(wù),這些任務(wù)在默默的進(jìn)行而很少提及,以至于使得德雷福斯只去攻擊終極目標(biāo)。(3)德雷福斯沉浸在1957—1967年間人工智能早期的發(fā)展?fàn)顩r中,他批判的一些內(nèi)容早已經(jīng)解決,德雷福斯沒(méi)有跟進(jìn)最新的人工智能研究,例如特里·溫諾格拉德(Terry Winograd)的自然語(yǔ)言理解、MIT的認(rèn)知項(xiàng)目、斯坦福大學(xué)和斯坦福研究所實(shí)驗(yàn)室、費(fèi)根鮑姆的復(fù)雜理性項(xiàng)目等。(4)德雷福斯批判的是“非數(shù)字自動(dòng)機(jī)”的模擬計(jì)算機(jī),而兩種計(jì)算機(jī)處理能力并不相同,他混淆了數(shù)字計(jì)算機(jī)真正的能力,仿佛所有問(wèn)題是數(shù)字機(jī)器所導(dǎo)致的。([7], pp.4—7)因?yàn)?,德雷福斯預(yù)設(shè)了“不能”,他對(duì)人工智能研究的認(rèn)知得出“只見(jiàn)森林不見(jiàn)樹(shù)木”的“悲慘境遇”的結(jié)論。

    人工智能專家派珀特認(rèn)為,德雷福斯批判的不足在于沒(méi)有區(qū)分人工智能所面臨障礙的實(shí)際情況。機(jī)器智能前景的的討論要區(qū)分四種障礙:圖靈障礙、理論障礙、經(jīng)濟(jì)障礙、人員障礙([5], p.42)。圖靈障礙認(rèn)為有一些事情是有限機(jī)器所不能做的,德雷福斯派便是持有這樣極端的觀點(diǎn),認(rèn)為計(jì)算機(jī)必然有所“不能”。但這只是四種障礙中的一種。理論障礙是前一種障礙反向的極端,認(rèn)為人類現(xiàn)有知識(shí)狀態(tài)限制了機(jī)器,控制論者激進(jìn)的期望機(jī)器具有特殊屬性,可以隨機(jī)連接、自組織、具有增長(zhǎng)能力。而真正理性的智能研究應(yīng)該關(guān)注的問(wèn)題在于:經(jīng)濟(jì)障礙與人員障礙,即缺少資金與人才支持智能研究。

    三人類與機(jī)器本質(zhì)的差異何在

    德雷福斯認(rèn)為人工智能關(guān)鍵問(wèn)題在于思考人類與機(jī)器本質(zhì)的差異是什么?而人工智能發(fā)展的困難關(guān)鍵在于符號(hào)主義人工智能專家混淆了人類與機(jī)器本質(zhì)的差異。符號(hào)主義人工智能專家的策略中隱含了一種哲學(xué)假設(shè),即“聯(lián)想主義者(Associationist)和刺激-反應(yīng)心理學(xué)學(xué)(S-R Psychology)假設(shè):思維必須能夠被分析成為簡(jiǎn)單的確定的操作”([8], p.48)?;谶@種假設(shè),產(chǎn)生了計(jì)算機(jī)離散模擬人類智能的方式,使得人工智能專家認(rèn)為人腦和機(jī)器有某種相似性,即紐厄爾和西蒙等人認(rèn)為的“在硬件方面計(jì)算機(jī)和大腦沒(méi)有相似的假設(shè),但是兩者內(nèi)在而言,都是通用的符號(hào)操作設(shè)備,計(jì)算機(jī)可以被編程來(lái)執(zhí)行信息處理,就像大腦的運(yùn)作一樣”([8], p.47)。以及費(fèi)根鮑姆認(rèn)的“人類思維完全是人類神經(jīng)系統(tǒng)的信息處理過(guò)程,而這些信息過(guò)程是完全可以解釋的……作為通用信息處理的裝置,數(shù)字計(jì)算機(jī)可以通過(guò)編程來(lái)處理信息和解釋”([8], p.55)。

    德雷福斯認(rèn)為人類與計(jì)算機(jī)處理信息時(shí)具有差異,人類有三種“人類特有的信息處理方式”(UHFIPs),而這些是人類識(shí)別的關(guān)鍵:(1)邊緣意識(shí):計(jì)算機(jī)意識(shí)對(duì)象的方式是枚舉性的,但是,停留在邊緣的意識(shí)也是有限感知的范圍,人工智能卻研究忽略了這部分,計(jì)算機(jī)“這種從感知性意識(shí)到概念性意識(shí)的轉(zhuǎn)移(用帕斯卡(Blaise Pascal)的話表達(dá),是從思維的感知框架到數(shù)學(xué)框架的轉(zhuǎn)移),不一定就是一種改進(jìn)”([8], p.41)。(2)洞察力:計(jì)算機(jī)問(wèn)題求解在簡(jiǎn)單問(wèn)題處理上有成就,但是對(duì)于復(fù)雜問(wèn)題的處理仿照簡(jiǎn)單問(wèn)題處理,導(dǎo)致了分析復(fù)雜問(wèn)題時(shí),需要增加形式規(guī)則來(lái)取保程序運(yùn)行,就像古代天文學(xué)家不斷添加本輪的行為,不斷嘗試增加非本質(zhì)的因素試圖解答本質(zhì)性的問(wèn)題,卻在認(rèn)知上難以發(fā)現(xiàn)表層結(jié)構(gòu)背后更深層的智能的本質(zhì),亟需洞察力這一“奧卡姆剃刀”。(3)依賴情景的排除歧義:人們對(duì)自然語(yǔ)言的使用中有一種無(wú)限性,這種無(wú)限性不在語(yǔ)言本身而在于使用的上下文環(huán)境,因此需要結(jié)合上下文環(huán)境降低歧義性。

    部分人工智能專家認(rèn)為,德雷福斯預(yù)設(shè)的人工智能的困難時(shí),根本的問(wèn)題在于沒(méi)有公平對(duì)比“機(jī)器-人類”的差異。派珀特認(rèn)為,德雷福斯強(qiáng)調(diào)人類和機(jī)器信息處理不同,都是基于對(duì)計(jì)算機(jī)和人類行為外在差別的觀察,這樣的觀察并不是基于對(duì)技術(shù)的了解,因而對(duì)機(jī)器信息處理?yè)诫s了過(guò)多的想象。這樣的方法并不能公平的對(duì)比人類和機(jī)器,公正的比較應(yīng)該是:下棋程序戰(zhàn)勝人類初學(xué)者,計(jì)算機(jī)定理證明程序勝過(guò)高二的學(xué)生。麥卡錫(John McCarthy)也認(rèn)為這些評(píng)論都是不精確的,德雷福斯并沒(méi)有指出明確且具體的問(wèn)題,在隨后的30年里,德雷福斯既沒(méi)有使這些觀點(diǎn)更加精確,也沒(méi)有提出任何新的挑戰(zhàn)。以依賴情景的排除歧義例,麥卡錫認(rèn)為,在人類社會(huì)中尚存在不清晰的認(rèn)知與歧義的理解,例如,法令中可能還有更多的潛在含糊不清之處,立法者、律師和法官并沒(méi)有事先看到所有的模棱兩可之處,就像知識(shí)工程師在編寫(xiě)專家系統(tǒng)時(shí)也面臨相同的問(wèn)題,這并不是機(jī)器和人的差距[9],除去此偏見(jiàn),依靠形式化的非單調(diào)推理可以使計(jì)算機(jī)像立法者、律師和法官一樣處理問(wèn)題。

    人工智能專家派珀特認(rèn)為,德雷福斯并沒(méi)有分清“機(jī)器-人類”的差異,并沒(méi)有理解電腦與人腦“信息處理”的“隱喻-現(xiàn)實(shí)”。派珀特認(rèn)為,德雷福斯一方面抱怨人工智能專家使用隱喻,另一方面卻還在使用隱喻體系中計(jì)算化信息論的詞匯論證問(wèn)題。他否認(rèn)人腦與機(jī)器的類比,卻還不斷將兩者比較。據(jù)此,派珀特認(rèn)為,真正混淆了人類與機(jī)器本質(zhì)差異的是德雷福斯,過(guò)分苛責(zé)人腦的計(jì)算機(jī)隱喻,他的研究方法中預(yù)設(shè)了人類-存在和計(jì)算機(jī)-存在的同質(zhì)?!霸谟嘘P(guān)于人工智能的研究中最陰險(xiǎn)的是通過(guò)內(nèi)省(Introspection)的方式討論機(jī)器。作為人類(Being-Human)和作為計(jì)算機(jī)(Being-a-Computer)的感覺(jué)是不一樣的,人從來(lái)就不是計(jì)算機(jī),那么怎么能想象計(jì)算機(jī)的感覺(jué)?!保ǎ?], p.4)這個(gè)觀點(diǎn)批判了德雷福斯的根本預(yù)設(shè):人工智能中智能是人類智能的仿造,因此將計(jì)算機(jī)的存在預(yù)設(shè)為人類的存在,使用生存論現(xiàn)象學(xué)研究計(jì)算機(jī),這個(gè)預(yù)設(shè)就是有問(wèn)題的,關(guān)鍵是派珀特認(rèn)為這兩者在根本上是不同的。布坎南認(rèn)為,德雷福斯采用現(xiàn)象學(xué)的觀點(diǎn)例證的主要是人類行為的例子,但是,這對(duì)于人工智能程序都是很難模擬的([7], p.14)。于是,也就否認(rèn)了德雷福斯否認(rèn)程序的“確定性”和“有限性”可以通達(dá)人類的“不確定性”和“無(wú)限性”的論斷。

    人工智能專家派珀特認(rèn)為,德雷福斯嚴(yán)重對(duì)立了“形式化”與“非形式化”并夸大了兩者的鴻溝。德雷福斯認(rèn)為,計(jì)算機(jī)識(shí)別中的分類性的識(shí)別具有局限性,界限清晰的分類準(zhǔn)則需要改變?yōu)橐环N概念開(kāi)放性的方式,分類性的識(shí)別不僅需要開(kāi)放類別邊界還需要保持其隨目的知識(shí)的變化性,于是需要引入三種新的識(shí)別準(zhǔn)則替代分類分析,才能保證理解的清晰性,即屬性(the Generic)識(shí)別、相似性(Resemblance)識(shí)別和類似性(Similarity)識(shí)別([10],頁(yè)128—136)。這樣當(dāng)多個(gè)事物僅有部分特征重疊,甚至沒(méi)有共同特征時(shí),人類仍可使用類比思維思考,而固守特性分類計(jì)算機(jī)缺很難理解其中玄妙。這在派珀特看來(lái),德雷福斯似乎在反對(duì)形式化并宣揚(yáng)非形式化,似乎使用了家族相似性模型就可以否認(rèn)計(jì)算機(jī)的形式化路徑,但是這對(duì)于基于形式化方式工作的計(jì)算機(jī)而言是毫無(wú)意義的。

    派珀特批判德雷福斯制造了一種“超人的人謬論”(the Superman Human Fallacy),即“我們與我們對(duì)自己的描述比我們與最原始的機(jī)器人之間的差距還大。同時(shí),大眾流行的對(duì)程序的認(rèn)識(shí)與稍復(fù)雜算法能實(shí)際完成的程序相差甚遠(yuǎn)。人將自己夸張浪漫的形象與計(jì)算機(jī)夸張簡(jiǎn)化的形象結(jié)合在一起”([5], p.7)。德雷福斯使用人類的內(nèi)省含糊的囊括了太多不確定和不清楚(未被科學(xué)解釋)的東西,而這在派珀特看根本不是解決問(wèn)題的方法。

    四分析現(xiàn)有問(wèn)題勝過(guò)追問(wèn)前提

    德雷福斯認(rèn)為人工智能認(rèn)知研究的問(wèn)題在于,循著一種假設(shè)展開(kāi)研究,而不是去探究假說(shuō)的可能性:認(rèn)知模擬選取了一種“人與機(jī)器智能都是符號(hào)操作產(chǎn)物”的假設(shè),加之一句干癟的“越來(lái)越多的證據(jù)證明,人類大腦的基本信息的處理過(guò)程,與計(jì)算機(jī)指令處理基本信息高度相似”([8], p.54),但是從未提及證據(jù)何在。符號(hào)主義人工智能就在循環(huán)論證中展開(kāi)智能研究,于是德雷福斯對(duì)此進(jìn)行了一種前提性追問(wèn)。智能研究從根本上看是研究人怎么思考和認(rèn)識(shí)世界,也就關(guān)涉到現(xiàn)代哲學(xué)關(guān)于“認(rèn)識(shí)”的討論。海德格爾對(duì)世界的理解不同于傳統(tǒng)形而上學(xué)的方式,傳統(tǒng)哲學(xué)的認(rèn)識(shí)方式采取一種主-客二分的認(rèn)識(shí)模型來(lái)認(rèn)識(shí)在世現(xiàn)象。然而自笛卡爾以來(lái)的認(rèn)識(shí)論傳統(tǒng)研究問(wèn)題的關(guān)鍵是認(rèn)識(shí)主體如何通達(dá)外在對(duì)象,維特根斯坦(Ludwig Wittgenstein)認(rèn)為人的認(rèn)知被囚禁在一種“世界和命題一一對(duì)應(yīng)”的圖式關(guān)系中,認(rèn)識(shí)的實(shí)在外在于我,確切說(shuō)是外在于我的心靈,而我對(duì)于對(duì)象的認(rèn)識(shí)內(nèi)在于我的心靈。德雷福斯吸收了兩者對(duì)傳統(tǒng)哲學(xué)的批判,反對(duì)“智能”作為連接內(nèi)-外世界的中介性結(jié)構(gòu)的解讀。近代以來(lái)的西方哲學(xué)傳統(tǒng)有兩種傳統(tǒng),盡管兩者都反對(duì)二元對(duì)立的哲學(xué),但是其特長(zhǎng)與研究手段并不相同,即以分析見(jiàn)長(zhǎng)的英美哲學(xué)傳統(tǒng),以及關(guān)注生存問(wèn)題的歐陸哲學(xué)。英美哲學(xué)傳統(tǒng)擅長(zhǎng)使用邏輯符號(hào)推演,而歐陸哲學(xué)強(qiáng)調(diào)現(xiàn)象學(xué)直觀。

    有些人工智能專家認(rèn)為,在研究智能時(shí)分析“智能”比德雷福斯“智能”的前提性追問(wèn)更有意義。例如,布坎南認(rèn)為,現(xiàn)象學(xué)類似存在主義,強(qiáng)調(diào)人類經(jīng)驗(yàn)的價(jià)值,包括所謂的“主體”方面的經(jīng)驗(yàn),例如情緒,來(lái)解釋世界。并不是因以一種科學(xué)的、分析的方式從簡(jiǎn)單實(shí)體的角度理解對(duì)象,僅是對(duì)對(duì)象的一種簡(jiǎn)單認(rèn)識(shí)或直覺(jué),即關(guān)注對(duì)象與人類的相互聯(lián)系。這種研究方法與語(yǔ)言分析的方式區(qū)別在于,它強(qiáng)調(diào)將對(duì)象呈現(xiàn)給意識(shí),并在這種意義上理解對(duì)象,而不是通過(guò)分析的方式厘清誤解的方式認(rèn)識(shí)對(duì)象([7], p.2)。紐厄爾在談?wù)撊斯ぶ悄芸茖W(xué)史時(shí),提到了德雷福斯的批判,“德雷福斯的核心反對(duì)意見(jiàn)是,將人類行動(dòng)的背景分析成離散的要素注定是失敗的。這種反對(duì)是基于現(xiàn)象學(xué)哲學(xué)。不幸的是,就人工智能而言,這似乎不是問(wèn)題”[11]。費(fèi)根鮑姆認(rèn)為:“德雷福斯用一些他誤解的、過(guò)時(shí)的東西把我們揍得頭昏眼花,每次我用一個(gè)更智能的程序跟他對(duì)質(zhì)時(shí),他都會(huì)說(shuō):‘我從來(lái)沒(méi)說(shuō)過(guò)電腦做不到這一點(diǎn)。’他給了我們什么呢?現(xiàn)象學(xué)!那團(tuán)虛無(wú)縹緲的東西?!保ǎ?], p.230)在部分人工智能專家眼中德雷福斯就是用虛幻批判現(xiàn)實(shí)。

    有些人工智能專家認(rèn)為,社會(huì)上的反理性主義潮流盛行,這對(duì)智能研究弊端大于利處。例如西蒙寫(xiě)到,“我現(xiàn)在仍然被指控為‘實(shí)證主義’,而且好像這是多么大的一個(gè)罪過(guò)似得,不是大罪也是小罪。同時(shí),至今仍有相當(dāng)普遍的人不太理解,如果在前提中不是至少有一個(gè)‘應(yīng)當(dāng)’的話,為什么就不能按邏輯導(dǎo)出‘應(yīng)當(dāng)’來(lái)”([12],頁(yè)344)。這個(gè)思路是西蒙人工智能研究中對(duì)反實(shí)證主義的一種回應(yīng),也是西蒙對(duì)于行為主義、格式塔主義和現(xiàn)象學(xué)的譴責(zé)的態(tài)度。西蒙在給女兒的信中回憶了早期人工智能所遭受的譴責(zé),“一般來(lái)說(shuō),我沒(méi)有回答這些攻擊。你不能與一個(gè)人就他的宗教信仰進(jìn)行太深遠(yuǎn)的爭(zhēng)論,而這些正是德賴弗斯和韋曾鮑姆(Joseph Weizenbaum)們的宗教信仰爭(zhēng)論問(wèn)題”([12],頁(yè)350)。相反,明斯基的學(xué)生、符號(hào)主義的“背叛者”特里·溫諾格拉德認(rèn)為,人工智能領(lǐng)域工作者對(duì)德雷福斯對(duì)批判源于一種固執(zhí)的思維:“理性主義取向不僅是純科學(xué)和應(yīng)用科學(xué)的基礎(chǔ),而且還被認(rèn)為是思考和智能的代表,這也許是因?yàn)楝F(xiàn)代科學(xué)享有威望和成功。對(duì)于思維的研究,著重于規(guī)則的形式和邏輯地應(yīng)用規(guī)則的過(guò)程。”[13]而這樣的基本認(rèn)知決定了德雷福斯的人工智能觀的被批判。

    兩種哲學(xué)的爭(zhēng)論交鋒點(diǎn)匯集在了德雷福斯的批判與反駁中,以至于交鋒的的影響殘留至今,技術(shù)方面的討論顯然已經(jīng)過(guò)時(shí),但是如果兩種哲學(xué)一直保持對(duì)立,德雷福斯引發(fā)的爭(zhēng)論就不會(huì)止息。學(xué)者江怡認(rèn)為兩者哲學(xué)的分野是一種錯(cuò)誤的策略,“造成這個(gè)分野的主要原因完全在于分析哲學(xué)家們的學(xué)術(shù)自負(fù)和認(rèn)識(shí)盲點(diǎn),而不在于他們與歐陸哲學(xué)家之間的觀點(diǎn)差異”[14]。維特根斯坦后期哲學(xué)在反對(duì)“語(yǔ)言圖像論”上,包括受其影響的日常語(yǔ)言學(xué)派與海德格爾的語(yǔ)言觀有某種共通性,顯然兩者都不贊成符號(hào)表征現(xiàn)實(shí)以及隱藏在其根源的身心二元論的觀點(diǎn)。但是,在具體的操作上而言現(xiàn)象學(xué)的研究具有局限性,徐英瑾認(rèn)為,現(xiàn)象學(xué)家們無(wú)法處理“身-心”關(guān)系問(wèn)題,即大腦與意識(shí)的問(wèn)題,無(wú)法觸及心靈因果問(wèn)題與自由意志問(wèn)題等[15]。這也是德雷福斯在批判人工智能時(shí)所缺乏的維度,他批判看起來(lái)總是顯得有些“不精準(zhǔn)”。

    五哲學(xué)與科學(xué)技術(shù)的各歸其位

    德雷福斯與人工智能專家爭(zhēng)論的雙方,一方的身份是哲學(xué)家,一方的身份是科學(xué)技術(shù)專家,因此這就涉及到了一個(gè)哲學(xué)與技術(shù)學(xué)科爭(zhēng)議的問(wèn)題。究竟探索真理的方法是沉思還是實(shí)驗(yàn)?

    德雷福斯回憶:“當(dāng)我在研究蘭德公司的論文和備忘錄時(shí)驚訝地發(fā)現(xiàn),認(rèn)知模擬研究的先驅(qū)們并沒(méi)有取代哲學(xué),反而是從哲學(xué)家們那里學(xué)到了很多東西。他們繼承了霍布斯的思維即是計(jì)算的理論,笛卡爾的思想操控表征……人工智能研究人員在沒(méi)有意識(shí)到的情況下,努力尋找將理性主義哲學(xué)轉(zhuǎn)變?yōu)檠芯克璧奶卣?、?guī)則和表征程序?!保?6]符號(hào)主義的形式化、抽象化思維深受理性主義哲學(xué)傳統(tǒng)影響,延承著柏拉圖-笛卡爾哲學(xué)傳統(tǒng)路徑而來(lái),德雷福斯認(rèn)為技術(shù)的發(fā)展問(wèn)題必然要回到哲學(xué)問(wèn)題上。符號(hào)主義是西方理性形而上學(xué)的頂點(diǎn)與極限,因此也是符號(hào)主義路徑人工智能技術(shù)的極限。

    德雷福斯一再申明對(duì)人工智能專家的批判是哲學(xué)的批判,但是還是觸及了人工智能專家的神經(jīng),“(德雷福斯批判的)是那些含混和明晰的哲學(xué)假想,而不是他們的技術(shù)性工作。他們的哲學(xué)偏見(jiàn)和幼稚,的確歪曲了他們對(duì)自己成果的評(píng)價(jià),但這絲毫不是貶低他們研究表結(jié)構(gòu)等具體技巧和數(shù)據(jù)庫(kù)組織、提取、兼容性定理等一般性問(wèn)題的意義和價(jià)值”([10],頁(yè)96)。德雷福斯本人十分抗拒盧德分子這樣的稱號(hào),他認(rèn)為他是在反思重建人工智能,而不是一個(gè)破壞家。斯圖亞特·德雷福斯(Stuart Dreyfus)也曾聲明,他們與神秘主義者不同,“我們并不認(rèn)為人類大腦中有超越了電化學(xué)的活動(dòng)”[17]。

    部分人工智能專家認(rèn)為,對(duì)壞的哲學(xué)無(wú)需回應(yīng)。紐厄爾和西蒙認(rèn)為:“我們采取的政策是‘用行為而不是語(yǔ)言去宣傳’[無(wú)政府主義者巴枯寧(?)或索內(nèi)爾(?)]的話。最好的辯詞是建立和檢驗(yàn)?zāi)P?、做?shí)驗(yàn)。讓哲學(xué)家們?nèi)ゾ幙椪Z(yǔ)言的網(wǎng)吧,這種網(wǎng)不難斯破?!保ǎ?2],頁(yè)374)紐厄爾認(rèn)為,自從誕生之日起,“我相信在理解智力的本質(zhì)和發(fā)現(xiàn)如何使計(jì)算機(jī)發(fā)揮智力方面都有令人不安的方面……因?yàn)檫@類問(wèn)題觸及我們?nèi)祟愒谟钪嬷械奈恢煤托再|(zhì)”[18]。后來(lái),派珀特停止了與德雷福斯的爭(zhēng)辯,因?yàn)榕社晏卣J(rèn)為,“從事科學(xué)研究比反駁思想上不負(fù)責(zé)任的攻擊更有趣”([2], p.235)。人工智能專家認(rèn)為人文的領(lǐng)域是政治斗爭(zhēng),而科學(xué)的是建模-實(shí)驗(yàn)-證明,顯然科學(xué)是推動(dòng)歷史發(fā)展的動(dòng)力,而這樣理解智力的本質(zhì)的研究往往會(huì)被“政治家”(人文學(xué)者)矯揉造作地批判。

    多數(shù)人工智能專家認(rèn)為,“最大的危險(xiǎn)”不來(lái)源于技術(shù)而來(lái)源于人,最大的限制也在于人。相反,德雷福斯在審視人工智能技術(shù)時(shí)希望建立一種新的智能觀,以克服是海德格爾提到的技術(shù)“最大的危險(xiǎn)”:“原子時(shí)代即將到來(lái)的技術(shù)革命浪潮會(huì)如此吸引人、迷惑人、使人眼花繚亂,以至于有一天,計(jì)算思維(Calculative Thinking)可能會(huì)被接受并被實(shí)踐為唯一的思維方式?!保?9]相反,派珀特認(rèn)為“最大的危險(xiǎn)”是:人文學(xué)者因?yàn)閾?dān)心技術(shù)發(fā)展威脅社會(huì)結(jié)構(gòu)、傳統(tǒng)和文化價(jià)值,而放棄理智上負(fù)責(zé)任的且可靠的研究的傳統(tǒng)。人類應(yīng)該做的是更積極的應(yīng)對(duì)計(jì)算機(jī)不斷的入侵,現(xiàn)象學(xué)家不應(yīng)該成為人文學(xué)者的典范([2], p.3)。此外一些對(duì)于機(jī)器的爭(zhēng)議,并不來(lái)源于機(jī)器本身,例如明斯基認(rèn)為,在討論機(jī)器的“理解”能力問(wèn)題上,研究者陷入了語(yǔ)言帶來(lái)的誤導(dǎo)中,因?yàn)檎Z(yǔ)言都說(shuō)不清“理解”到底是什么?!拔矣X(jué)得沒(méi)有義務(wù)去定義‘意義(Mean)’和‘理解(Understand)’這兩個(gè)詞,因?yàn)槠渌艘呀?jīng)嘗試了幾千年!”[6]當(dāng)人們?cè)噲D弄清楚什么是“意義”并希望與人工智能研究聯(lián)系起來(lái)時(shí),并沒(méi)有幫助智能研究獲得好的想法,而是使智能研究陷入困惑并會(huì)妨礙了研究的進(jìn)展。語(yǔ)言的歧義與誤用導(dǎo)致了界定機(jī)器的理解問(wèn)題時(shí)的困難。問(wèn)題應(yīng)該是:系統(tǒng)是否通過(guò)使用技巧來(lái)回避“真正的意義”?理解問(wèn)題應(yīng)該回歸到技術(shù)探索上。

    人工智能專家派珀特認(rèn)為,業(yè)余科學(xué)家對(duì)人工智能的批判或許有局限。派珀特認(rèn)為德雷福斯的批判有很多不成立的地方:德雷福斯認(rèn)為人工智能在人類行為模擬上連接打乒乓球都做不到,但是派珀特認(rèn)為機(jī)械臂的設(shè)計(jì)是一個(gè)常規(guī)性的技術(shù)問(wèn)題,其實(shí)根本不需要哲學(xué)的介入。哲學(xué)家們的浮想聯(lián)翩看起來(lái)有些自作多情,但是,派珀特仍高度評(píng)價(jià)了梅洛·龐蒂(Merleau-Ponty)的研究。派珀特認(rèn)為,德雷福斯對(duì)科學(xué)技術(shù)的理解也不充分,以至于無(wú)法分別技術(shù)發(fā)展情況的本質(zhì)特征和偶然特征,陷入“業(yè)余科學(xué)家綜合癥”([2], p.36)的局面中,德雷福斯所截取的資料局限在1963年,且不關(guān)注研究中資金支持與變化?!保ǎ?], p.40)諷刺的是:“當(dāng)一個(gè)計(jì)算機(jī)在分類立方體時(shí),人工智能專家將其標(biāo)準(zhǔn)‘形式化’,并輕易的找到相似的描述,但是可能永遠(yuǎn)無(wú)法確切的理解機(jī)器是怎樣確定選擇的。同樣一個(gè)根本不知道計(jì)算機(jī)的外行會(huì)說(shuō),計(jì)算機(jī)不能用程序模擬?!保ǎ?], p.63)

    德雷福斯引發(fā)的爭(zhēng)論成為了科學(xué)與人文對(duì)立的案例,但是在德雷福斯之前,人工智能的兩種文化之爭(zhēng)就已經(jīng)發(fā)生了。特雷弗·平奇(Trevor Pinch)認(rèn)為,兩種文化在1939年的劍橋就已經(jīng)顯露出對(duì)立的態(tài)勢(shì),(后期)維特根斯坦和圖靈(Alan Turing)可以被看作科學(xué)論與科學(xué)大戰(zhàn)的先驅(qū)。當(dāng)時(shí)維特根斯坦和圖靈分別在劍橋開(kāi)設(shè)“數(shù)學(xué)基礎(chǔ)”的課程,但是維特根斯坦不是“重新解讀數(shù)學(xué)證明,而是對(duì)數(shù)學(xué)的整體性進(jìn)行描述,其結(jié)果是,數(shù)理邏輯看起來(lái)更像是他所認(rèn)為的哲學(xué)上的偏差,在某種程度上可以說(shuō)完全消除了數(shù)學(xué)作為一門科學(xué)的圖景”([20],頁(yè)17),而圖靈討論的是“數(shù)理邏輯中的博弈游戲,通過(guò)選取一組嚴(yán)密而簡(jiǎn)潔的公理,以此為出發(fā)點(diǎn),按一定的規(guī)則使其發(fā)展成為數(shù)學(xué)結(jié)構(gòu),再尋找這一過(guò)程在技術(shù)上有什么局限性”([20],頁(yè)17)。兩人曾正面交鋒過(guò),但是重大的分歧使得他們難以認(rèn)同彼此,圖靈認(rèn)為數(shù)學(xué)之美在于負(fù)載著絕對(duì)的真理,而維特根斯坦認(rèn)為:“圖靈對(duì)我所講的東西都不反對(duì),他贊成每一個(gè)字。他反對(duì)的是他認(rèn)為隱含在其中的思想。他認(rèn)為我在損害數(shù)學(xué),把布爾什維克主義引進(jìn)數(shù)學(xué)。其實(shí)根本不是那么回事?!保ǎ?0],頁(yè)18)

    六結(jié)論

    總體看來(lái),德雷福斯的批判方法問(wèn)題在于,他批判人工智能時(shí),使用神經(jīng)科學(xué)家的最新研究攻擊舊有的人工智能。派珀特認(rèn)為神經(jīng)科學(xué)理論的研究不是人工智能工程師的工作,而工程師的工作是依據(jù)相關(guān)的科學(xué)理論制造程序。在派珀特看來(lái),這場(chǎng)爭(zhēng)論本質(zhì)在于德雷福斯利用新科學(xué)理論攻擊舊科學(xué)研究,德雷福斯的懷疑出自于“科學(xué)還有未發(fā)現(xiàn)的東西,因此現(xiàn)行科學(xué)注定不完善?!迸c這樣的空談對(duì)比,人工智能工程師的工作是將理論轉(zhuǎn)化為技術(shù),他們看到的是科學(xué)的進(jìn)步與未來(lái)的人工智能充滿希望,德雷福斯與派珀特的高下立見(jiàn)。又如麥卡錫的觀點(diǎn),數(shù)學(xué)邏輯形式主義有著漫長(zhǎng)的發(fā)展歷史,從亞里士多德、萊布尼茨、布爾、弗雷格、希爾伯特到哥德?tīng)?,每一步的新的想法的出現(xiàn)都需要很長(zhǎng)的時(shí)間。“形式化的非單調(diào)推理(Formalizing Nonmonotonic Reasoning)肯定不是將有用的推理形式化的最后一步。”[9]任何人無(wú)法輕易的宣告邏輯導(dǎo)向的人工智能(Logic-Oriented AI)的終結(jié)。但是,德雷福斯的批判對(duì)人工智能發(fā)展的貢獻(xiàn)仍是不可替代的。特里·威諾格拉德在回顧德雷福斯與人工智能研究者的爭(zhēng)論時(shí)提到,“德雷福斯的預(yù)言得到了證實(shí)”:

    人工智能和認(rèn)知科學(xué)將無(wú)法滿足早期實(shí)踐者的大部分高期望(無(wú)論是在實(shí)踐領(lǐng)域還是作為一個(gè)堅(jiān)實(shí)的科學(xué)理論體系)。雖然這并不能證明人工智能是不可能的,但它確實(shí)意味著問(wèn)題比最初的研究人員預(yù)期的要深刻得多。[21]

    細(xì)看德雷福斯被人工智能專家批判的四個(gè)理由,(1)“人工智能不能做什么?”式的提問(wèn)注定帶有悲觀色彩,但是在人工智能研究者以及其“人工智能能做什么?”的成就和信念之外,需要一種逆向的思維反思智能研究,德雷福斯批判最大的價(jià)值正在于他“不能做什么?”的提問(wèn)方式。(2)“人-機(jī)器”的隱喻自從計(jì)算機(jī)(Computer)的詞源上就得以窺見(jiàn),人的模型即是隱喻也是計(jì)算機(jī)的最佳對(duì)照模型,德雷福斯人類-存在和計(jì)算機(jī)-存在的對(duì)照研究思路是一種推動(dòng),至少也不是一種阻礙,因而也不必要被過(guò)于苛責(zé)。(3)人工智能研究主導(dǎo)的哲學(xué)流派是分析哲學(xué)與實(shí)證哲學(xué),這與人工智能學(xué)科發(fā)展的內(nèi)在理性主義傳統(tǒng)相契合,現(xiàn)象學(xué)路徑顯得與人工智能研究格格不入,但是源自于現(xiàn)象學(xué)的視角可以彌補(bǔ)認(rèn)知主義的不足,德雷福斯的批判促成了具身的、情景的、非表征的智能研究的另一種可能性,并非僅是“一堆謬誤”。(4)德雷福斯引發(fā)的人工智能的爭(zhēng)論暴露出了兩種文化的激烈沖突,縱觀科學(xué)史的發(fā)展,科學(xué)與人文的爭(zhēng)論是一個(gè)經(jīng)典論題,但是相互對(duì)抗不能并不能促進(jìn)兩者的發(fā)展,理解、對(duì)話與融合或是更好的選擇,而德雷福斯與人工智能專家們也都是在推動(dòng)這項(xiàng)工作。

    回看德雷福斯對(duì)人工智能發(fā)展的影響,相較于符號(hào)主義造就心靈智能研究方式德雷福斯更主張建立大腦模型的整體論研究方式,這與聯(lián)結(jié)主義的發(fā)展路徑有相似之處。但是,德雷福斯還主張一種具身的、情景的、非表征的的智能,這些思路被認(rèn)為是“新人工智能”的主張的哲學(xué)來(lái)源之一,德雷福斯在文章中提出,布魯克斯(Rodney Brooks)曾經(jīng)采納了“世界上最好的模型是世界本身”的策略并稱贊德雷福斯的觀點(diǎn)“人們?cè)谑澜缟系倪\(yùn)作方式與其身體的存在密切相關(guān)”[22]。喬治·萊考夫(George Lakoff)將基于體驗(yàn)(Embodied)哲學(xué)視為與第一代認(rèn)知科學(xué)不同的第二代認(rèn)知科學(xué),而這也昭示著德雷福斯啟迪了新的智能研究思路。

    再看煉金術(shù)與人工智能的比喻,德雷福斯認(rèn)為,人工智能就像15世紀(jì)煉金術(shù)的翻版——沒(méi)有任何證據(jù)煉金術(shù)士可能找到哲人石,就像沒(méi)有任何證據(jù)人工智能專家可以實(shí)現(xiàn)符號(hào)主義設(shè)定的人工智能。但是毫無(wú)疑問(wèn),如果在爬樹(shù)的人工智能專家從樹(shù)上下來(lái),也許就像煉金術(shù)士放棄了原有主張不再研究魔法,從而發(fā)現(xiàn)化學(xué)的研究方法,而從樹(shù)上下來(lái)人工智能專家也就可以實(shí)現(xiàn)登月的理想([8], p.86)。這樣的比喻有明顯的不足。但是也需要澄清,如果用范式的思維理解煉金術(shù)之于人工智能,是指其研究方法與前范式科學(xué)時(shí)期相近。“在這些領(lǐng)域中,實(shí)踐確實(shí)產(chǎn)生了可檢驗(yàn)的結(jié)論,但盡管如此,這些領(lǐng)域在其發(fā)展模式上仍然類似于哲學(xué)和人文學(xué)科,而不是類似于既成的科學(xué)?!保?3]這樣的描述也較為恰當(dāng),是對(duì)人工智能更多期許。那么如何回答人工智能是什么?人工智能是德雷福斯認(rèn)為的“煉金術(shù)”?蒂默·陶伯(Mortimer Taube)認(rèn)為的“占星術(shù)”?還是西蒙認(rèn)為的“實(shí)證科學(xué)”?抑或是溫諾格拉德認(rèn)為的“宗教”?其實(shí)每一種評(píng)價(jià)都不全面。如今,我們?cè)倩卦诳瓷鲜兰o(jì)的這場(chǎng)爭(zhēng)論,再回看當(dāng)下的智能研究,可以收獲更清晰的判斷。從科學(xué)史的研究視角看,作為歷史研究對(duì)象的人工智能可能還需要更長(zhǎng)時(shí)段的觀點(diǎn),才能在社會(huì)結(jié)構(gòu)中透視歷史事件。智能研究在摸索中,也在歷史中。正如奧廷格爾(Anthony Oettinger)在《計(jì)算機(jī)不能做什么》序言中評(píng)價(jià)的:

    德雷福斯的觀點(diǎn),抑或人工智能界的觀點(diǎn),有一天可能會(huì)被來(lái)自人工智能本身、心理學(xué)、神經(jīng)生理學(xué)或相關(guān)學(xué)科的新證據(jù)證實(shí)或推翻。在這之前, 德雷福斯的研究工作,對(duì)于非專業(yè)人士來(lái)說(shuō),仍然是對(duì)這一重大難題的明白易懂的分析。[24]

    參考文獻(xiàn)

    [1] Dreyfus H L. amp; Dreyfus S E.." Mind Over Machine: The Power of Human Intuition and Expertise in the Era of Computer[M]. New York, NY: Free Press, 1986. 8—13.

    [2] McCorduck P.. Machines Who Think: A Personal Inquiry into the History and Prospects of Artificial Intelligence[M]. Natick, MA: AK Peters Ltd, 2004.

    [3] Morgan A.. A Budget of Paradoxes[M]. Chicago, IL: The Open Court Publishing Co., 1915. 2.

    [4] Karpinski L.. Review: A Budget of Paradoxes[J]. Bull. Amer. Math. Soc, 1916, 22(9): 468—471.

    [5] Papert S.. The Artificial Intelligence of Hubert L. Dreyfus: A Budget of Fallacies[Z]. Cambridge, MA: Project of MAC, Massachusetts Institute of Technology, 1968.

    [6] Minsky M.. Why People Think Computers Cant[J]. Ai Magazine, 1982, 3(4): 3—15.

    [7] Buchanan B G.. Review of Hubert Dreyfus What Computers Cant Do: A Critique of Artificial Reason[Z]. Stanford, CA: Stanford Artificial Intelligence Project, Stanford University, 1972.

    [8] Dreyfus H L.." Alchemy and Artificial Intelligence[R]. Santa Monica, CA: P-3244, The Rand Corporation, 1965.

    [9] McCarthy J.. Hubert Dreyfus, What Computers Still Cant Do[J]. Artificial Intelligence, 1996, 80: 143—150.

    [10] 休伯特·德雷福斯. 人工智能的極限——計(jì)算機(jī)不能做什么[M]. 北京: 生活·讀書(shū)·新知三聯(lián)書(shū)店, 1986.

    [11] Newell A.. Intellectual Issues in the History of Artificial Intelligence[A]. Machlup, Fritz amp; Mansfield, Una. The Study of Information: Interdisciplinary message[C]. New York, NY: John Wiley amp; Sons, INC, 1982. 222.

    [12] 赫爾伯特·A·西蒙. 我生活的種種模式——赫爾伯特·A·西蒙自傳[M]. 北京: 東方出版社, 1998.

    [13] Winograd T., Flores, F.. Understanding Computers and Cognition: A mew foundation for design[M]. Reading, MA: Addison-Wesley, 1986. 16.

    [14] 江怡. 重新審視分析哲學(xué)與歐陸哲學(xué)的分野[J]. 哲學(xué)動(dòng)態(tài), 2018,(1): 64—69.

    [15] 徐英瑾. 譯者前言: 英美心靈哲學(xué)到底在何處異于歐陸現(xiàn)象學(xué)?[A]. 約翰·塞爾. 心靈導(dǎo)論[C]. 上海: 上海人民出版社, 2008. 12.

    [16] Dreyfus H L.. A History of First Step Fallacies[J]. Minds and Machines, 2012, 22(2): 87—99.

    [17] Davis R.. Expert Systems: How Far Can They Go? Part One[J]. AI Magazine, 1989, 10(1): 61—67.

    [18] Newell A.. AAAI Presidents Message[J]. AI Magazine, 1980, 1(1): 1—4.

    [19] Dreyfus H L., Wrathall M.. Heidegger Reexamined (Vol.3)[M]. New York, NY: Routledge, 2002. 164.

    [20] 杰伊·A·拉賓格爾, 哈里·柯林斯. 一種文化[M]. 上海: 上??萍冀逃霭嫔纾?2017.

    [21] Wrathall M., Malpas J.. Heidegger, Coping, and Cognitive Science: Essays in honor of Hubert L. Dreyfus (Volume 2)[M]. Cambridge, MA: The MIT Press, 2000. Vii.

    [22] Dreyfus H L.. Overcoming the Myth of the Mental[J]. Topoi, 2006, 25: 43—49.

    [23] 托馬斯·庫(kù)恩. 結(jié)構(gòu)之后的路[M]. 北京: 北京大學(xué)出版社, 2012. 132.

    [24] Dreyfus H L.. What Computers Cant Do: A critique of artificial reason[M]. Harper amp; Row, 1972. Preface.A Budget of Fallacies

    AI experts criticism of Dreyfus

    YU Lan, SUN Xiaochun

    Abstract: Dreyfus published a critical evaluation report Alchemy and Artificial Intelligence on the study of symbolic artificial intelligence, and then artificial intelligence experts published numerous refutation reports, one of the most representative works was The Artificial Intelligence of Hubert L. Dreyfus: A Budget of Fallacies by Seymour Papert in 1968. The subtitle of the report turned out to be the key attitude of some AI experts to Dreyfus Heideggerian AI. Specifically, intelligence experts had a relatively systematic criticism of Dreyfus, which was also a response to the general skepticism of artificial intelligence. The opinions of artificial intelligence experts can be analyzed and interpreted from four aspects: (1) Compared with the question of “Computer Can Do”, the question of “Computer Cant Do” will cause infinite retreat and pessimism; (2) The nature of humans and machines are different, and Dreyfus is too harsh on the computer metaphors of the human brain; (3) Phenomenological questioning research methods and the use of “subject” experience to explain the world are not better than empirical and analytical methods; (4) The two cultures of humanities and science are very different. The humanities scholars cannot distinguish the essential and accidental characteristics of technological development. The opinions of artificial intelligence experts are powerful but also limited, and Dreyfuss contribution to the innovative critical thinking of artificial intelligence cannot be obliterated.

    Keywords: Dreyfus, Heideggerian AI, symbolism, intelligent research

    国产激情欧美一区二区| 婷婷精品国产亚洲av在线 | 国产成人免费观看mmmm| 欧美最黄视频在线播放免费 | 国产亚洲一区二区精品| 久久精品国产清高在天天线| 最新的欧美精品一区二区| 大片电影免费在线观看免费| 中文字幕精品免费在线观看视频| 乱人伦中国视频| 亚洲第一青青草原| 国产精品成人在线| 免费av中文字幕在线| 欧美国产精品va在线观看不卡| 亚洲国产欧美日韩在线播放| 日本黄色日本黄色录像| 日本一区二区免费在线视频| xxx96com| 午夜视频精品福利| 欧美日韩中文字幕国产精品一区二区三区 | 高清欧美精品videossex| 男人舔女人的私密视频| 黄色视频不卡| 精品国产一区二区久久| 女人爽到高潮嗷嗷叫在线视频| 成人国产一区最新在线观看| 亚洲av日韩精品久久久久久密| 国产熟女午夜一区二区三区| 热re99久久国产66热| 成人av一区二区三区在线看| 大香蕉久久网| 午夜老司机福利片| 美国免费a级毛片| 亚洲精品在线观看二区| 国产伦人伦偷精品视频| 亚洲成国产人片在线观看| 咕卡用的链子| 国产不卡一卡二| 亚洲av第一区精品v没综合| 亚洲一区高清亚洲精品| 超碰成人久久| 久久精品aⅴ一区二区三区四区| 人成视频在线观看免费观看| 国产高清国产精品国产三级| 飞空精品影院首页| 天天添夜夜摸| 99热网站在线观看| 久久精品亚洲熟妇少妇任你| 在线永久观看黄色视频| 成年人黄色毛片网站| 两个人看的免费小视频| 欧美 日韩 精品 国产| 久久久久精品人妻al黑| 性少妇av在线| 女性被躁到高潮视频| 天天影视国产精品| 亚洲五月天丁香| 欧洲精品卡2卡3卡4卡5卡区| 精品少妇一区二区三区视频日本电影| 99re6热这里在线精品视频| 如日韩欧美国产精品一区二区三区| 黄色a级毛片大全视频| 国产精品久久久久久精品古装| 亚洲av美国av| 久久久精品国产亚洲av高清涩受| 超碰成人久久| 午夜免费观看网址| 99热国产这里只有精品6| 黄色毛片三级朝国网站| 午夜影院日韩av| 91av网站免费观看| 欧美国产精品一级二级三级| 身体一侧抽搐| 天天添夜夜摸| 国产精品 欧美亚洲| 久热爱精品视频在线9| 国产欧美日韩一区二区三| 国产黄色免费在线视频| 99国产精品99久久久久| 新久久久久国产一级毛片| 久久人妻福利社区极品人妻图片| 18禁裸乳无遮挡动漫免费视频| 亚洲自偷自拍图片 自拍| 精品亚洲成a人片在线观看| 久久人妻福利社区极品人妻图片| 精品欧美一区二区三区在线| 99国产精品99久久久久| 新久久久久国产一级毛片| 国产精品二区激情视频| 最新的欧美精品一区二区| 精品一区二区三区av网在线观看| 乱人伦中国视频| 日韩欧美免费精品| 亚洲综合色网址| 老熟妇乱子伦视频在线观看| 十八禁网站免费在线| 亚洲黑人精品在线| 性少妇av在线| 欧美黄色淫秽网站| 黄频高清免费视频| av网站免费在线观看视频| 国产精品美女特级片免费视频播放器 | 视频区图区小说| 伦理电影免费视频| 欧美激情久久久久久爽电影 | 国产黄色免费在线视频| 嫩草影视91久久| 亚洲片人在线观看| 欧美激情极品国产一区二区三区| 最新的欧美精品一区二区| 国产片内射在线| 国产精品国产高清国产av | 国产一区二区三区综合在线观看| 人成视频在线观看免费观看| 女人被狂操c到高潮| av电影中文网址| 又紧又爽又黄一区二区| 搡老岳熟女国产| 黄片小视频在线播放| 大型av网站在线播放| 99热国产这里只有精品6| 可以免费在线观看a视频的电影网站| 91老司机精品| 咕卡用的链子| 欧美成人午夜精品| 亚洲 欧美一区二区三区| 久久 成人 亚洲| 国产乱人伦免费视频| 日韩欧美国产一区二区入口| 国产真人三级小视频在线观看| 亚洲精品一二三| 免费高清在线观看日韩| 丝袜人妻中文字幕| x7x7x7水蜜桃| 色综合欧美亚洲国产小说| 成人18禁高潮啪啪吃奶动态图| 亚洲avbb在线观看| 啦啦啦视频在线资源免费观看| 亚洲五月色婷婷综合| 久久精品熟女亚洲av麻豆精品| 国产av精品麻豆| 麻豆国产av国片精品| av一本久久久久| 久久 成人 亚洲| 多毛熟女@视频| 视频区欧美日本亚洲| 99热国产这里只有精品6| 人妻丰满熟妇av一区二区三区 | 国产精品综合久久久久久久免费 | 最新在线观看一区二区三区| 国内久久婷婷六月综合欲色啪| 欧美另类亚洲清纯唯美| 免费在线观看视频国产中文字幕亚洲| 国产深夜福利视频在线观看| 日韩欧美一区二区三区在线观看 | 国产成人av激情在线播放| 国产亚洲一区二区精品| 黄色女人牲交| 大香蕉久久成人网| 久久影院123| 久久精品国产综合久久久| 自线自在国产av| av有码第一页| 久久久久久久久久久久大奶| 国产av又大| 精品久久久久久久久久免费视频 | xxx96com| 国产精品98久久久久久宅男小说| www.自偷自拍.com| 欧美激情 高清一区二区三区| 在线观看午夜福利视频| 国产精品亚洲av一区麻豆| 99久久99久久久精品蜜桃| 久久人人97超碰香蕉20202| 欧美日本中文国产一区发布| 青草久久国产| 免费av中文字幕在线| 老司机亚洲免费影院| 伊人久久大香线蕉亚洲五| 深夜精品福利| 亚洲国产欧美一区二区综合| 国产亚洲欧美精品永久| 9191精品国产免费久久| 国产无遮挡羞羞视频在线观看| 91成人精品电影| 视频区欧美日本亚洲| 国产欧美日韩综合在线一区二区| √禁漫天堂资源中文www| 老司机亚洲免费影院| 日韩 欧美 亚洲 中文字幕| 中文字幕人妻丝袜制服| 99久久国产精品久久久| 国产精品电影一区二区三区 | 亚洲精品粉嫩美女一区| 俄罗斯特黄特色一大片| 亚洲七黄色美女视频| 日韩欧美免费精品| 色综合欧美亚洲国产小说| 欧美国产精品一级二级三级| 国产乱人伦免费视频| 久久精品国产亚洲av香蕉五月 | 午夜精品国产一区二区电影| 在线免费观看的www视频| 如日韩欧美国产精品一区二区三区| 国产精品一区二区免费欧美| 高清欧美精品videossex| 午夜视频精品福利| xxxhd国产人妻xxx| 国产一区二区三区视频了| 99久久人妻综合| 在线天堂中文资源库| 亚洲熟女精品中文字幕| 国产精品一区二区在线观看99| 国产精华一区二区三区| 亚洲精品久久午夜乱码| 亚洲国产欧美网| 女人高潮潮喷娇喘18禁视频| videosex国产| 视频区图区小说| 久久久久精品国产欧美久久久| 国产亚洲一区二区精品| 国产精品免费一区二区三区在线 | 亚洲欧美一区二区三区黑人| 99热网站在线观看| 成人18禁在线播放| 亚洲va日本ⅴa欧美va伊人久久| 女人高潮潮喷娇喘18禁视频| 日韩三级视频一区二区三区| 夜夜爽天天搞| 成熟少妇高潮喷水视频| 国产免费男女视频| 国产高清激情床上av| 一夜夜www| 亚洲人成伊人成综合网2020| 免费在线观看视频国产中文字幕亚洲| av天堂在线播放| 中文字幕人妻丝袜制服| 欧美成人免费av一区二区三区 | 18禁观看日本| 女性生殖器流出的白浆| 欧美另类亚洲清纯唯美| 亚洲五月色婷婷综合| 日韩三级视频一区二区三区| 少妇的丰满在线观看| 国产亚洲一区二区精品| 成人亚洲精品一区在线观看| 一级片'在线观看视频| 久久久久国产精品人妻aⅴ院 | 又大又爽又粗| 欧美成人免费av一区二区三区 | 亚洲精品粉嫩美女一区| 在线观看午夜福利视频| 多毛熟女@视频| 欧美 亚洲 国产 日韩一| 1024香蕉在线观看| 两性夫妻黄色片| 91在线观看av| 国产精品久久久人人做人人爽| 亚洲人成电影观看| 国产高清videossex| 天堂俺去俺来也www色官网| 午夜福利,免费看| 在线观看午夜福利视频| 免费观看精品视频网站| 妹子高潮喷水视频| 在线观看免费视频网站a站| 国产欧美日韩精品亚洲av| 免费在线观看黄色视频的| 窝窝影院91人妻| 国产高清视频在线播放一区| 国产男女超爽视频在线观看| 成年女人毛片免费观看观看9 | 一区二区日韩欧美中文字幕| 亚洲精品自拍成人| 亚洲精品乱久久久久久| 下体分泌物呈黄色| 国产蜜桃级精品一区二区三区 | 免费日韩欧美在线观看| 国产av一区二区精品久久| 亚洲人成77777在线视频| 老司机午夜十八禁免费视频| 国产成+人综合+亚洲专区| 国产主播在线观看一区二区| 大香蕉久久成人网| 搡老乐熟女国产| 老汉色∧v一级毛片| 欧美激情 高清一区二区三区| 最新的欧美精品一区二区| 男男h啪啪无遮挡| 成年动漫av网址| 18禁黄网站禁片午夜丰满| 9191精品国产免费久久| 亚洲av美国av| 国产成人免费观看mmmm| 99久久99久久久精品蜜桃| 新久久久久国产一级毛片| 免费观看人在逋| 我的亚洲天堂| 婷婷精品国产亚洲av在线 | 成年版毛片免费区| 午夜福利,免费看| 成人国语在线视频| 免费一级毛片在线播放高清视频 | 一本大道久久a久久精品| 另类亚洲欧美激情| 日韩人妻精品一区2区三区| 在线观看日韩欧美| 精品国产国语对白av| 另类亚洲欧美激情| 一进一出抽搐动态| 欧美性长视频在线观看| 日韩欧美一区二区三区在线观看 | av片东京热男人的天堂| 精品国产乱子伦一区二区三区| 亚洲三区欧美一区| 国产欧美日韩精品亚洲av| 很黄的视频免费| 亚洲专区字幕在线| 国产av一区二区精品久久| 如日韩欧美国产精品一区二区三区| 精品国内亚洲2022精品成人 | 久久人妻熟女aⅴ| 国产激情久久老熟女| 国产亚洲av高清不卡| 午夜影院日韩av| 中文字幕人妻丝袜制服| 成人影院久久| 三上悠亚av全集在线观看| 亚洲av日韩在线播放| 国产日韩一区二区三区精品不卡| 不卡一级毛片| 老司机影院毛片| 欧美中文综合在线视频| 久久婷婷成人综合色麻豆| 日韩视频一区二区在线观看| 伦理电影免费视频| 91大片在线观看| 亚洲情色 制服丝袜| 亚洲熟女毛片儿| 成年人免费黄色播放视频| 在线av久久热| 欧美精品亚洲一区二区| 视频区欧美日本亚洲| 国产精品 国内视频| www.熟女人妻精品国产| 国产一区二区三区视频了| 热99久久久久精品小说推荐| 一级作爱视频免费观看| 精品久久久精品久久久| 建设人人有责人人尽责人人享有的| 精品少妇久久久久久888优播| 午夜久久久在线观看| 欧美中文综合在线视频| 热re99久久精品国产66热6| www.999成人在线观看| 操美女的视频在线观看| 一级a爱视频在线免费观看| 黄频高清免费视频| 狂野欧美激情性xxxx| 日韩中文字幕欧美一区二区| 大陆偷拍与自拍| 国产精品永久免费网站| 免费看a级黄色片| 欧美日韩视频精品一区| 热99国产精品久久久久久7| 午夜免费观看网址| 老司机午夜福利在线观看视频| 999精品在线视频| 欧美日韩乱码在线| 久久 成人 亚洲| 国产免费av片在线观看野外av| 麻豆av在线久日| 色播在线永久视频| 久久天堂一区二区三区四区| 少妇裸体淫交视频免费看高清 | av网站免费在线观看视频| √禁漫天堂资源中文www| 国产欧美日韩一区二区三区在线| 高清毛片免费观看视频网站 | bbb黄色大片| 日韩免费高清中文字幕av| 久热这里只有精品99| 免费在线观看亚洲国产| 999精品在线视频| 久久精品人人爽人人爽视色| av一本久久久久| videos熟女内射| 后天国语完整版免费观看| 久久精品亚洲熟妇少妇任你| 国产精品九九99| 成人18禁在线播放| 久久久国产欧美日韩av| 男人的好看免费观看在线视频 | 高清在线国产一区| 新久久久久国产一级毛片| 一区在线观看完整版| 九色亚洲精品在线播放| 俄罗斯特黄特色一大片| 免费在线观看日本一区| 精品一品国产午夜福利视频| 亚洲欧美激情综合另类| 美女视频免费永久观看网站| 免费人成视频x8x8入口观看| 亚洲国产欧美网| 啦啦啦 在线观看视频| 国产精品永久免费网站| 色在线成人网| 国产成人欧美| 日本精品一区二区三区蜜桃| 久久久久久亚洲精品国产蜜桃av| 老司机靠b影院| 亚洲九九香蕉| 黄片播放在线免费| 一a级毛片在线观看| 女人被狂操c到高潮| 热re99久久精品国产66热6| 美女高潮到喷水免费观看| 亚洲国产中文字幕在线视频| 国产成人欧美| 久久精品91无色码中文字幕| 又黄又粗又硬又大视频| 亚洲精品美女久久久久99蜜臀| 亚洲成国产人片在线观看| 欧美日韩亚洲高清精品| 丝袜美腿诱惑在线| av国产精品久久久久影院| 亚洲片人在线观看| 精品一区二区三区四区五区乱码| 亚洲成人免费电影在线观看| 男女免费视频国产| 亚洲国产欧美网| 国产一区二区三区综合在线观看| 国产亚洲欧美精品永久| 亚洲成人免费av在线播放| 别揉我奶头~嗯~啊~动态视频| 亚洲欧美日韩另类电影网站| 中文字幕人妻丝袜制服| 美女福利国产在线| 亚洲成av片中文字幕在线观看| 欧美国产精品一级二级三级| 国产不卡一卡二| 亚洲一区高清亚洲精品| 999久久久国产精品视频| av福利片在线| 丝袜在线中文字幕| 亚洲一区二区三区欧美精品| 亚洲专区国产一区二区| 亚洲熟女精品中文字幕| 婷婷精品国产亚洲av在线 | 下体分泌物呈黄色| 午夜精品在线福利| 日本五十路高清| 一级片'在线观看视频| 国产欧美日韩一区二区三| 精品一区二区三区av网在线观看| 视频区欧美日本亚洲| 高清欧美精品videossex| 久久久久久久久久久久大奶| 妹子高潮喷水视频| 国产成人一区二区三区免费视频网站| 黑人巨大精品欧美一区二区蜜桃| 成年女人毛片免费观看观看9 | 老司机午夜福利在线观看视频| 人妻 亚洲 视频| 久久人人爽av亚洲精品天堂| av有码第一页| 成年人午夜在线观看视频| 丝袜人妻中文字幕| 可以免费在线观看a视频的电影网站| xxx96com| 在线永久观看黄色视频| 欧美丝袜亚洲另类 | 在线观看www视频免费| 精品国产一区二区三区久久久樱花| 日日摸夜夜添夜夜添小说| 一本一本久久a久久精品综合妖精| 欧美亚洲 丝袜 人妻 在线| 国产精品98久久久久久宅男小说| 黄频高清免费视频| 中文字幕精品免费在线观看视频| 久久国产精品大桥未久av| 国产1区2区3区精品| 亚洲av成人av| xxx96com| 男女床上黄色一级片免费看| 久久午夜综合久久蜜桃| 国产av一区二区精品久久| 精品午夜福利视频在线观看一区| 无遮挡黄片免费观看| 久久这里只有精品19| 成人国产一区最新在线观看| 免费在线观看黄色视频的| 午夜视频精品福利| 一级作爱视频免费观看| 老汉色∧v一级毛片| 欧美成狂野欧美在线观看| 国产精品久久久久久精品古装| a级毛片在线看网站| 一级a爱视频在线免费观看| 一区在线观看完整版| 日韩成人在线观看一区二区三区| 国产aⅴ精品一区二区三区波| 亚洲熟妇中文字幕五十中出 | 丝瓜视频免费看黄片| 中出人妻视频一区二区| 人人妻人人爽人人添夜夜欢视频| 一本综合久久免费| 亚洲五月婷婷丁香| av中文乱码字幕在线| 伦理电影免费视频| 日韩熟女老妇一区二区性免费视频| 欧美精品啪啪一区二区三区| a在线观看视频网站| 99久久人妻综合| 国产精品欧美亚洲77777| 黄色视频不卡| 女性被躁到高潮视频| 久久精品亚洲av国产电影网| 亚洲美女黄片视频| 久久人人爽av亚洲精品天堂| 欧美激情高清一区二区三区| 丰满饥渴人妻一区二区三| 老司机午夜十八禁免费视频| 久久精品国产清高在天天线| 在线观看舔阴道视频| 一边摸一边抽搐一进一小说 | 夫妻午夜视频| 视频区欧美日本亚洲| 水蜜桃什么品种好| 国产成人av教育| 日韩精品免费视频一区二区三区| 黄色怎么调成土黄色| 51午夜福利影视在线观看| 动漫黄色视频在线观看| 首页视频小说图片口味搜索| 男女床上黄色一级片免费看| 欧美 亚洲 国产 日韩一| 午夜精品在线福利| 欧美在线黄色| 国产精品电影一区二区三区 | 超碰97精品在线观看| 女人被狂操c到高潮| 高清视频免费观看一区二区| 又黄又粗又硬又大视频| 亚洲色图 男人天堂 中文字幕| 欧美精品高潮呻吟av久久| 亚洲欧美日韩高清在线视频| 亚洲欧美一区二区三区黑人| 欧美日韩亚洲高清精品| 欧美另类亚洲清纯唯美| 亚洲av日韩精品久久久久久密| 一级a爱视频在线免费观看| 国产精品秋霞免费鲁丝片| 国产不卡一卡二| 丁香六月欧美| 中国美女看黄片| 国产精品影院久久| 国产aⅴ精品一区二区三区波| 国产精品av久久久久免费| 在线观看www视频免费| 欧美一级毛片孕妇| 亚洲精品国产精品久久久不卡| 国产精品99久久99久久久不卡| 国产欧美日韩一区二区精品| 在线观看免费视频网站a站| 精品少妇久久久久久888优播| 99国产精品一区二区蜜桃av | 欧美成人免费av一区二区三区 | 亚洲情色 制服丝袜| 黄频高清免费视频| 每晚都被弄得嗷嗷叫到高潮| √禁漫天堂资源中文www| 人人妻人人澡人人爽人人夜夜| 亚洲欧美激情在线| 首页视频小说图片口味搜索| 99国产精品免费福利视频| a级毛片黄视频| 国产国语露脸激情在线看| 丰满的人妻完整版| netflix在线观看网站| 亚洲五月婷婷丁香| 日本欧美视频一区| 啦啦啦视频在线资源免费观看| 色精品久久人妻99蜜桃| 国产野战对白在线观看| 人妻丰满熟妇av一区二区三区 | 中文字幕精品免费在线观看视频| 国产欧美日韩一区二区精品| 人妻 亚洲 视频| 在线观看舔阴道视频| 亚洲色图 男人天堂 中文字幕| avwww免费| 亚洲成人手机| 黄片大片在线免费观看| 丁香欧美五月| 男男h啪啪无遮挡| 欧美亚洲 丝袜 人妻 在线| 亚洲第一av免费看| 少妇猛男粗大的猛烈进出视频| 在线观看午夜福利视频| 无遮挡黄片免费观看| 中文字幕av电影在线播放| 久久精品成人免费网站| 亚洲成人免费av在线播放| 亚洲色图综合在线观看| 久久亚洲真实| 国产亚洲精品第一综合不卡| 黄色a级毛片大全视频| 亚洲国产欧美一区二区综合| 精品人妻1区二区| 淫妇啪啪啪对白视频| 91av网站免费观看| 999久久久国产精品视频| 国产精品一区二区在线不卡| 亚洲av熟女|