強(qiáng)人工智能和超級(jí)智能：技術(shù)合理性及其批判

摘要：強(qiáng)人工智能（以下簡(jiǎn)稱強(qiáng)AI：Strong Artificial Intelligence）由美國哲學(xué)家約翰·塞爾上世紀(jì)70年代在其論文《心靈、大腦與程序》中提出，主要是指對(duì)人工智能（以下簡(jiǎn)稱AI）持有的這樣一種哲學(xué)立場(chǎng)：基于心智的計(jì)算模型，以通用數(shù)字計(jì)算機(jī)為載體的AI程序可以象人類一樣認(rèn)知和思考，達(dá)到或者超過人類智能水平。這種立場(chǎng)與弱人工智能（以下簡(jiǎn)稱弱AI：Weak AI）或應(yīng)用人工智能相對(duì)立，后者認(rèn)為AI只是幫助人類完成某些任務(wù)的工具或助理。隨著最近20年來互聯(lián)網(wǎng)、神經(jīng)科學(xué)、基因工程等技術(shù)的飛速發(fā)展，強(qiáng)AI從塞爾時(shí)代的一種哲學(xué)立場(chǎng)逐步向工程實(shí)踐轉(zhuǎn)變和演進(jìn)，未來學(xué)家甚至設(shè)想和描述了強(qiáng)AI的更極端版本：超級(jí)智能，這些在IBM、谷歌、Facebook、微軟等產(chǎn)業(yè)巨頭和庫茲韋爾、馬克拉姆等樂觀的技術(shù)實(shí)踐者的雙重推動(dòng)下，藉由大眾科學(xué)傳播的放大作用，滲透到人們的日常生活中構(gòu)成了對(duì)其技術(shù)合理性的辯護(hù)，但AI本身對(duì)人類主體和社會(huì)的影響不是價(jià)值中立的，它一方面難以吸收和提升人類的創(chuàng)新本質(zhì)，另一方面其技術(shù)合理性帶來的后果與其初衷有時(shí)相互背離，并在商業(yè)行為的推動(dòng)下，構(gòu)成對(duì)作為文化產(chǎn)物和自我解釋的理性人類的單向壓制和挑戰(zhàn)。

關(guān)鍵詞：強(qiáng)人工智能；人工通用智能；超級(jí)智能；技術(shù)合理性；批判

中圖文獻(xiàn)號(hào)：TP18 文獻(xiàn)編碼：A DOI：10.3969/j.issn.1003-8256.2016.05.004

1 早期AI及其愿景

一般認(rèn)為1956年由美國達(dá)特茅斯學(xué)院青年數(shù)學(xué)家約翰·麥卡錫（John McCarthy）為主發(fā)起的達(dá)特茅斯會(huì)議標(biāo)志著AI的正式誕生[1]49，但在這之前的1947年，計(jì)算機(jī)科學(xué)的主要奠基者、英國應(yīng)用數(shù)學(xué)家圖靈在倫敦發(fā)表的一次公開演講已提及AI，1948年他的一份名為《智能機(jī)器》的未出版報(bào)告被視為“AI的第一份宣言”[2]432，1950年提出了判斷機(jī)器是否具備人類智能的圖靈測(cè)試[3]56-91。幾乎同時(shí)控制論學(xué)者也提出了類似設(shè)想并付諸實(shí)踐：1948年控制論的主要?jiǎng)?chuàng)始人維納在其名著《控制論》中指出計(jì)算機(jī)和大腦都是邏輯機(jī)器[4]97，并預(yù)見了計(jì)算機(jī)對(duì)社會(huì)為善和作惡的雙重性[4]21-22。幾乎同時(shí)，英國控制論學(xué)者和神經(jīng)生理學(xué)家格雷·沃爾特（Grey Walter）制作了可感知環(huán)境和避開障礙的電子龜[5]225，從1951年開始，英國和美國都開發(fā)了一些在早期計(jì)算機(jī)上執(zhí)行包括弈棋在內(nèi)的簡(jiǎn)單程序，尤其亞瑟·塞繆爾（Arthur Samuel ）的跳棋程序后來很有影響[2]436。總之，隨著控制論的傳播和通用數(shù)字計(jì)算機(jī)的發(fā)明，1956年之前對(duì)計(jì)算機(jī)可在社會(huì)中代替人類完成某些智能任務(wù)的愿景已經(jīng)得到廣泛討論并有了不少共識(shí)，維納、馮·諾依曼、圖靈、信息論的創(chuàng)始人香農(nóng)等都參與其中[4]11-22。

在達(dá)特茅斯會(huì)議前后，現(xiàn)代意義上的計(jì)算機(jī)程序設(shè)計(jì)尚未成為專業(yè)，IBM在1957年才開發(fā)了第一種廣泛應(yīng)用的程序設(shè)計(jì)語言FORTRAN，“Programming（編程）”這個(gè)術(shù)語遲至20世紀(jì)60年代中期后才開始廣泛使用[6]。因此早期AI時(shí)代對(duì)于AI、計(jì)算機(jī)程序基本不做區(qū)分，例如麥卡錫本人在晚年始終認(rèn)為AI主要就是智能的計(jì)算機(jī)程序[7]，這樣在編史學(xué)上就重復(fù)了一種輝格式的進(jìn)步觀點(diǎn)，即把計(jì)算機(jī)編程實(shí)現(xiàn)智能任務(wù)作為AI的起點(diǎn)，這樣把達(dá)特茅斯會(huì)議作為AI的起點(diǎn)有著十分充足的理由：

（1）第一次明確提出了人工智能（Artificial Intelligence）的命名；

（2）明確提出了AI的愿景：“……研究旨在這樣的猜想基礎(chǔ)上進(jìn)行：智能的學(xué)習(xí)或其他任何特征的所有方面原則上可被精確描述，以致可被機(jī)器模擬。將試圖發(fā)現(xiàn)如何使機(jī)器使用語言、形成抽象和概念、求解目前專由人類智能解決的各種問題并予以改進(jìn)……”[8]，這個(gè)任務(wù)比圖靈、維納等人的設(shè)想更為具體；

（3）第一次驗(yàn)證了用計(jì)算機(jī)完成人類級(jí)別智能解決抽象任務(wù)的能力：即邏輯理論家（Logical Theorist）程序?qū)ΜF(xiàn)代著名數(shù)理邏輯學(xué)者羅素和懷特海合著的《數(shù)學(xué)原理》中命題邏輯部分的若干定理進(jìn)行了證明[9]109-133；

（4）之后20年內(nèi)主要的AI進(jìn)展均由會(huì)議主要參會(huì)人員及其學(xué)生完成，從而形成了早期AI科學(xué)家共同體的核心[1]49。

從二戰(zhàn)前后AI的孕育，一直到達(dá)特茅斯會(huì)議之后的10余年時(shí)間里，總體上來看對(duì)AI的技術(shù)研究和應(yīng)用前景持有一種樂觀、正面的情緒，例如維納不僅把人類在理論上設(shè)想為控制論意義上的自動(dòng)機(jī)器[10]43，而且形而上學(xué)地把人類這樣的有機(jī)體視為一種形式的消息：“……軀體的個(gè)體性與其說是一種石頭性質(zhì)的個(gè)體性，不如說是一種火焰性質(zhì)的個(gè)體性；是形式的個(gè)體性，而不是帶著實(shí)體的個(gè)體性。這種形式可以傳送，可以改變……”[10]80，這也啟示可以通過對(duì)消息符號(hào)的處理來實(shí)現(xiàn)人類軀體及其智能。

這些觀點(diǎn)中被引用最多的無疑是1975年圖靈獎(jiǎng)得主赫爾伯特·西蒙和艾倫·紐厄爾在1956年發(fā)表于《運(yùn)籌學(xué)研究》中的一篇文章，在該文中他們做出了10年內(nèi)AI成就的預(yù)言：數(shù)字計(jì)算機(jī)成為世界象棋冠軍、發(fā)現(xiàn)和證明重要的新數(shù)學(xué)定理、定量和形式化地描述大多數(shù)心理學(xué)理論[11]90。

2 AI冬天、弱AI與強(qiáng)AI、應(yīng)用AI

在達(dá)特茅斯會(huì)議10年之后， 由于AI方面的實(shí)際技術(shù)進(jìn)展與當(dāng)初所描繪的愿景相差甚遠(yuǎn)，受到了內(nèi)部和外部的嚴(yán)厲批評(píng)，首先是美國哲學(xué)家休伯特·德雷福斯受當(dāng)時(shí)主要的AI研究機(jī)構(gòu)蘭德公司邀請(qǐng)為AI提供哲學(xué)方面的建議，但其結(jié)論卻是通過其1965年底出版的報(bào)告《煉金術(shù)與人工智能》，對(duì)AI給出了相當(dāng)尖銳的否定性結(jié)論[12]，幾乎同時(shí)，1966年由美國國防部、國家科學(xué)基金會(huì)、中央情報(bào)局主導(dǎo)，委托ALPAC（Automatic Language Processing Advisory Committee：自動(dòng)語言處理顧問委員會(huì)）對(duì)機(jī)器翻譯進(jìn)展進(jìn)行調(diào)查后發(fā)布的報(bào)告：《語言與機(jī)器：翻譯和語言學(xué)中的計(jì)算機(jī)》，給出機(jī)器自動(dòng)翻譯過于昂貴且短期內(nèi)難以達(dá)到人類翻譯水平的結(jié)論[12]。1973年英國科學(xué)研究理事會(huì)委托劍橋大學(xué)物理學(xué)家James LightHill爵士提交了一份關(guān)于英國AI研究狀況的獨(dú)立報(bào)告，該報(bào)告建議放棄對(duì)機(jī)器人和語言處理的資助，并取消了對(duì)愛丁堡、蘇塞克斯、埃塞克斯三所大學(xué)之外的其他英國大學(xué)AI研究的支持[12]。在60年代末70年代初，美國國防部高級(jí)研究計(jì)劃局（DARPA）也先后暫?；虼蠓葴p少了對(duì)AI的資助，而該機(jī)構(gòu)從達(dá)特茅斯會(huì)議以來一直是AI最主要的推動(dòng)者[12]。這樣在大西洋兩岸的AI研究，從70年代初開始進(jìn)入低谷，即所謂的AI冬天[1]203。

在這段AI的冬天期里，包括德雷福斯在內(nèi)的不少哲學(xué)家從外部對(duì)AI的長(zhǎng)期愿景和現(xiàn)實(shí)目標(biāo)進(jìn)行了深入思考，其中美國心靈哲學(xué)家約翰·塞爾所提出的強(qiáng)AI和弱AI的觀點(diǎn)有較大影響，前者對(duì)應(yīng)AI長(zhǎng)期愿景，即恰當(dāng)編程的計(jì)算機(jī)與人類心靈等價(jià)，而后者只是從事認(rèn)知科學(xué)或心靈研究中的輔助工具[13]417-424，顯然強(qiáng)AI是早期人工智能樂觀預(yù)測(cè)的功能主義表達(dá)[14]20。

新西蘭哲學(xué)家、坎特伯雷大學(xué)教授杰克·科普蘭德則提出了強(qiáng)AI、認(rèn)知模擬（Cognitive Simulation）、應(yīng)用AI（Applied AI）的分類，其中認(rèn)知模擬相當(dāng)于塞爾的弱AI，但應(yīng)用AI則主要是指各種可以商用化的智能系統(tǒng)，例如人臉識(shí)別系統(tǒng)等，這也是目前AI研究的主流[15]。

3 AI冬天后的人工通用智能與人類級(jí)別智能

20世紀(jì)80年代初知識(shí)庫和專家系統(tǒng)的興起、聯(lián)結(jié)主義綱領(lǐng)的復(fù)興、日本開發(fā)第五代計(jì)算機(jī)等事件，標(biāo)志著AI的第一次冬天結(jié)束，風(fēng)險(xiǎn)投資涌入知識(shí)庫和專家系統(tǒng)的開發(fā)和商業(yè)化，大中型企業(yè)部署專家系統(tǒng)提升管理效率，AI產(chǎn)業(yè)呈現(xiàn)出繁榮景象，但這種繁榮沒有持續(xù)多久，很快就隨著用于專家系統(tǒng)的LISP商用機(jī)產(chǎn)業(yè)的崩盤就結(jié)束，迎來了AI歷史上的第二次冬天[1]52，這場(chǎng)冬天一直持續(xù)到90年代初，隨著互聯(lián)網(wǎng)的興起才慢慢回暖。

在AI短短數(shù)十年歷史中由于過高的技術(shù)預(yù)測(cè)與實(shí)際成果的差距，以及由于科研經(jīng)費(fèi)、商業(yè)投資的大幅度波動(dòng)， 以及來自德雷福斯、塞爾等知名哲學(xué)家的各種批評(píng)，使得80年代以來AI科學(xué)家共同體的主要成員，認(rèn)識(shí)到了AI的愿景在短期之內(nèi)實(shí)現(xiàn)的巨大困難， 從而采取了比早期AI的樂觀情緒更加謹(jǐn)慎和理性的態(tài)度。

例如著名AI科學(xué)家馬文·眀斯基（1969年圖靈獎(jiǎng)獲得者，達(dá)特茅斯會(huì)議主要參與者）在論及人類是否能建造智能機(jī)器的問題時(shí)表示“……我們還需很長(zhǎng)時(shí)間才能學(xué)會(huì)足以使機(jī)器象人一樣聰明的常識(shí)推理……但目前可以確定的是：那種對(duì)于任何聲稱今天就掌握了人類和可能的機(jī)器之間差別的主張是有問題的——因?yàn)槲覀儺?dāng)前對(duì)人類或者可能的機(jī)器的了解完全不夠?！盵16]

達(dá)特茅斯會(huì)議發(fā)起人約翰·麥卡錫（1971年圖靈獎(jiǎng)獲得者）在2007年指出：“人類級(jí)別的AI將會(huì)實(shí)現(xiàn)，但幾乎肯定需要新的思想，因此不能可靠地預(yù)測(cè)其具體時(shí)間——可能5年，也可能500年。我傾向于打賭在21世紀(jì)實(shí)現(xiàn)?！盵17]

但是AI共同體中多年來始終有少部分學(xué)者或工程師在追求早期AI提出的宏偉目標(biāo)，為了與主流的弱AI或者應(yīng)用AI相區(qū)別，他們用了一個(gè)新名字：人工通用智能（Artificial General Intelligence），并指出：“……盡管這是AI的初始目標(biāo)，但AI研究的主流業(yè)已轉(zhuǎn)向依賴具體領(lǐng)域和求解具體問題的方案，因此有必要用一個(gè)新名字來指出研究仍然追求‘宏大的AI之夢(mèng)，這類研究的類似標(biāo)簽包括‘強(qiáng)AI、‘人類級(jí)別智能（Human-level AI）等?！盵18]他們?cè)谥髁鰽I學(xué)術(shù)共同體（例如美國人工智能學(xué)會(huì)、美國計(jì)算機(jī)學(xué)會(huì)、電氣與電子工程師學(xué)會(huì)）等之外，成立了非盈利組織AGI學(xué)會(huì)（AGI Society），自2008年以來組織了8屆年會(huì)，開設(shè)AGI暑期學(xué)院，出版AGI雜志和書籍，積極宣傳和推動(dòng)AGI的研究和AGI系統(tǒng)的設(shè)計(jì)[19]。

除AGI學(xué)會(huì)這樣的非主流團(tuán)隊(duì)之外，在國外還有若干非傳統(tǒng)機(jī)構(gòu)積極推動(dòng)強(qiáng)AI的觀念傳播和商業(yè)行動(dòng)，其中比較知名的有：奇點(diǎn)大學(xué)（Singularity University）、機(jī)器智能研究院（MIRI： Machine Intelligence Research Institute）、Numenta公司、艾倫人工智能學(xué)院，這些機(jī)構(gòu)的共同目標(biāo)是在未來較短時(shí)間內(nèi)實(shí)現(xiàn)人類級(jí)別的通用智能，從而和目前AI研究的主流區(qū)別開來。例如MIRI定位于研究智能行為的數(shù)學(xué)基礎(chǔ)，其使命是開發(fā)通用AI系統(tǒng)的分析和設(shè)計(jì)的形式化工具[20]。Numenta的基本目標(biāo)和MIRI一致，但其研究路徑卻是基于腦科學(xué)的成果[21]。

庫茲韋爾和杰夫·霍金斯對(duì)于強(qiáng)AI的研究進(jìn)路與傳統(tǒng)AI強(qiáng)調(diào)的知識(shí)/邏輯、聯(lián)結(jié)主義等都有所不同，他們具有類似的腦神經(jīng)科學(xué)理論來源，即主要基于人類大腦的新皮質(zhì)（區(qū)別于其他哺乳動(dòng)物）及其強(qiáng)大的模式識(shí)別能力來提出各自不同的技術(shù)實(shí)現(xiàn)方案，例如霍金斯認(rèn)為大腦是模式機(jī)器，智能的本質(zhì)是記憶和預(yù)測(cè)。而庫茲韋爾采用最近瑞士神經(jīng)科學(xué)家亨利·馬克拉姆的觀點(diǎn)：神經(jīng)元的集合才是學(xué)習(xí)的基本單元?？傊?，這兩位知名的強(qiáng)AI鼓吹者都力圖把新的技術(shù)路徑建立在對(duì)人類大腦結(jié)構(gòu)的最新認(rèn)識(shí)之上。

4 從深度學(xué)習(xí)、人類大腦計(jì)劃到超級(jí)智能

2006年以來，深度學(xué)習(xí)作為人工智能中的機(jī)器學(xué)習(xí)的一門分支，由于其在傳統(tǒng)AI難以有效解決的語音識(shí)別、圖像識(shí)別乃至自然語言處理方面的取得了較大進(jìn)展，例如微軟亞洲研究院運(yùn)用深度神經(jīng)網(wǎng)絡(luò)（DNN）開發(fā)的商用全自動(dòng)同聲傳譯系統(tǒng)[22]、Yann LeCun及其團(tuán)隊(duì)在2012年運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)在ImageNet圖像識(shí)別大賽中取得最好成績(jī)[23]，加上谷歌、Facebook、百度等產(chǎn)業(yè)巨頭對(duì)深度學(xué)習(xí)的巨大商業(yè)投入，他們招募機(jī)器學(xué)習(xí)領(lǐng)域的主要科學(xué)家Geoffrey Hinton（谷歌）[24]、Yann LeCun（Facebook）[25]、Andrew Ng（百度）[26]，建立AI實(shí)驗(yàn)室或啟動(dòng)AI大型項(xiàng)目，同時(shí)在商業(yè)和技術(shù)媒體的宣傳推動(dòng)下，近幾年來深度學(xué)習(xí)炙手可熱，與上世紀(jì)80年代初專家系統(tǒng)、日本第五代機(jī)開發(fā)計(jì)劃類似，被學(xué)術(shù)界和大眾視為實(shí)現(xiàn)AI長(zhǎng)期愿景的主要途徑[27]。

就深度學(xué)習(xí)本身而言，其主要?jiǎng)?chuàng)立者認(rèn)為屬于人工神經(jīng)網(wǎng)絡(luò)（ANN：Artificial Neural Network）的第三階段（前兩階段為控制論階段、聯(lián)結(jié)主義階段）[28]，ANN可以視為聯(lián)結(jié)主義傳統(tǒng)或者AI中的生物學(xué)范式的主流，但一般認(rèn)為這不是實(shí)現(xiàn)AI的唯一路徑[28]。而且雖然深度學(xué)習(xí)相比傳統(tǒng)的淺層學(xué)習(xí)而言，在特征的自動(dòng)抽取方面節(jié)省甚至無需人工介入，具備和人類認(rèn)知類似的逐層抽象表征能力等優(yōu)點(diǎn)，但同樣也面臨著實(shí)現(xiàn)強(qiáng)AI愿景的理論、建模和工程方面的重大挑戰(zhàn)，深度學(xué)習(xí)表面上與人類大腦新皮層具有結(jié)構(gòu)上的類似性，尤其在計(jì)算機(jī)視覺方面取得很大成功的情況下似乎更有說服力，但顯然這種生物學(xué)隱喻或進(jìn)路的優(yōu)勢(shì)在Michael Jordan[29]、Yann LeCun[30]等主要?jiǎng)?chuàng)立者的核心學(xué)術(shù)共同體中也未得到認(rèn)同，他們本質(zhì)上仍堅(jiān)守傳統(tǒng)的弱AI或應(yīng)用AI立場(chǎng)，對(duì)庫茲韋爾的強(qiáng)AI設(shè)想持強(qiáng)烈的反對(duì)態(tài)度 [28][29]。

但是，2013年以來美國和歐盟在認(rèn)知科學(xué)和腦科學(xué)領(lǐng)域啟動(dòng)的人類大腦計(jì)劃（HBP：Human Brain Project），卻對(duì)計(jì)算機(jī)界的AI主流傳統(tǒng)提出了某種挑戰(zhàn)，他們獲得政府機(jī)構(gòu)的巨額經(jīng)費(fèi)支持，以大科學(xué)協(xié)作的方式開展研究，提出的目標(biāo)宏大而有經(jīng)濟(jì)、政治方面的吸引力，使得一部分AI學(xué)者、大型商業(yè)機(jī)構(gòu)（如IBM）均參與其中，其影響遠(yuǎn)超AGI和強(qiáng)AI提倡者的非政府組織。

美國的HBP于2013年由國立衛(wèi)生研究院（NIH）牽頭發(fā)起，即尖端創(chuàng)新神經(jīng)技術(shù)腦研究（BRAIN：Brain Research through Advancing Innovative Neurotechnologies），其長(zhǎng)期計(jì)劃是從2016年起10年內(nèi)撥款45億美元，目標(biāo)是繪制腦回路圖譜，研究腦內(nèi)回路機(jī)制，并為此研發(fā)觀察、記錄和成像神經(jīng)回路活動(dòng)的新技術(shù)，其時(shí)間表相對(duì)歐盟的HBP而言更為現(xiàn)實(shí)：10年內(nèi)完成果蠅腦的成像，15年做到對(duì)小鼠腦的成像，在完成上述任務(wù)基礎(chǔ)上再向靈長(zhǎng)類動(dòng)物邁進(jìn)，而且也沒有就此做出時(shí)間上的承諾[31] 。

相比較而言引起巨大爭(zhēng)議的歐盟HBP，在瑞士科學(xué)家亨利·馬克拉姆（Henry Markram）領(lǐng)導(dǎo)下一開始就設(shè)定了宏大目標(biāo)：數(shù)據(jù)方面生成繪制人類大腦圖譜和建立腦模型的數(shù)據(jù)、理論方面發(fā)現(xiàn)大腦信息處理的數(shù)學(xué)原理、研究平臺(tái)方面提供基于新的信息和通訊技術(shù)（ICT：Information and Communication Technology）的平臺(tái)為各個(gè)領(lǐng)域科學(xué)家服務(wù)、應(yīng)用方面基于新型ICT平臺(tái)開發(fā)應(yīng)用程序?yàn)榛A(chǔ)神經(jīng)科學(xué)、藥物學(xué)和計(jì)算科學(xué)提供服務(wù)，其申請(qǐng)的研究經(jīng)費(fèi)為10年內(nèi)分三個(gè)階段投入11.9億歐元 [32]。

以美國和歐盟為首，日本、加拿大、中國等國積極參與的這場(chǎng)人類大腦研究浪潮，給計(jì)算機(jī)和AI帶來了重大影響，一些科學(xué)家認(rèn)為HBP研究中的類腦計(jì)算（Brain-like）進(jìn)路將是從弱AI到強(qiáng)AI的主要進(jìn)路 [33]，認(rèn)為類腦智能將是人工智能的終極目標(biāo)[34]。

類腦AI或神經(jīng)擬態(tài)計(jì)算（Neuromorphic Computing）的目標(biāo)是基于人類大腦工作原理設(shè)計(jì)非馮·諾依曼傳統(tǒng)結(jié)構(gòu)的計(jì)算機(jī)來實(shí)現(xiàn)強(qiáng)AI愿景，相對(duì)于傳統(tǒng)計(jì)算機(jī)而言，神經(jīng)擬態(tài)計(jì)算應(yīng)具備人腦的三大特性；低能耗、容錯(cuò)性、無須編程[35]。因此歐盟HBP被視為類腦計(jì)算項(xiàng)目，而美國則在BRAIN之外，主要通過DARPA贊助的自適應(yīng)可塑可伸縮電子神經(jīng)擬態(tài)系統(tǒng)（SyNAPSE：Systems of Neuromorphic Adaptive Plastic Scalable Electronics）項(xiàng)目來實(shí)現(xiàn)對(duì)類腦計(jì)算的探索[36]。在這些獲得正式資助的大科學(xué)項(xiàng)目之外，技術(shù)極客和未來學(xué)家如庫茲韋爾[37]85-122、霍金斯[38]215-242、雨果·德·加里斯[39]27-47等通過大眾媒體以極其樂觀的態(tài)度宣傳類腦AI的美好愿景。

在這些來自政府、學(xué)術(shù)界、產(chǎn)業(yè)界乃至媒體的推動(dòng)下，使得一些來自于非AI領(lǐng)域的學(xué)者對(duì)強(qiáng)AI愿景可能導(dǎo)致的后果進(jìn)行了深入思考，從哲學(xué)、倫理等方面提出了不同的見解，其中英國牛津大學(xué)人類未來研究院的尼克·波斯特洛姆（Nick Bostrom）提出的超級(jí)智能具有較大影響[40]29-30，他認(rèn)為超級(jí)智能在幾乎所有領(lǐng)域遠(yuǎn)遠(yuǎn)超過人類，具備遠(yuǎn)超過強(qiáng)AI的強(qiáng)大能力，從而會(huì)給世界帶來存在性危險(xiǎn)：智能生命滅亡或永久失去未來發(fā)展?jié)撃躘40]143。

5 強(qiáng)AI、超級(jí)智能及其技術(shù)合理性

技術(shù)合理性概念來自于合理性，簡(jiǎn)單從字面上來看，技術(shù)合理性即“技術(shù)合乎理性”，它既是一個(gè)規(guī)范性概念也是一個(gè)評(píng)價(jià)概念，可以把此處的“理性”視為工具理性和價(jià)值理性的統(tǒng)一。技術(shù)合理性問題是對(duì)技術(shù)這種人類實(shí)踐活動(dòng)的反思和評(píng)價(jià)，其宗旨在于以主體理性自覺的形式來解決技術(shù)實(shí)踐中的種種問題，促進(jìn)技術(shù)實(shí)踐在價(jià)值、目的、手段這三個(gè)方面的完善和進(jìn)步[41]52。

AI作為一門新興的技術(shù)科學(xué)，無論其是否負(fù)荷價(jià)值或者價(jià)值中立，均需要和其他技術(shù)科學(xué)一樣，從其目的、工具、價(jià)值三個(gè)方面來對(duì)其技術(shù)合理性進(jìn)行評(píng)價(jià)[41]95。而這種評(píng)價(jià)是反思性的哲學(xué)評(píng)價(jià)，而不是具體的社會(huì)、經(jīng)濟(jì)和政治評(píng)價(jià)，其評(píng)價(jià)結(jié)果用于對(duì)AI技術(shù)的實(shí)踐的目的、手段和結(jié)果進(jìn)行反思和調(diào)整，使其更符合技術(shù)創(chuàng)造主體的合理需要。

如上所述，強(qiáng)AI的提倡者和未來學(xué)家，在目的、工具、價(jià)值各個(gè)方面都對(duì)AI的技術(shù)合理性進(jìn)行正面評(píng)價(jià)，對(duì)其目的的社會(huì)合意性、客觀現(xiàn)實(shí)性，技術(shù)手段的客觀有效性均予以確證，對(duì)于AI實(shí)踐所負(fù)載的價(jià)值，一般認(rèn)為是正向的，即使對(duì)人類有危害，只要事先加以控制，也能實(shí)現(xiàn)正向效果。

他們也在大眾媒體上為AI建構(gòu)了樂觀主義愿景，主要體現(xiàn)在兩個(gè)方面，首先是認(rèn)為這類技術(shù)能夠幫助社會(huì)進(jìn)步和實(shí)現(xiàn)社會(huì)理想，其次是認(rèn)為其技術(shù)目標(biāo)在未來數(shù)十年或者一百年內(nèi)會(huì)實(shí)現(xiàn)，如波斯特洛姆就在其著作中專門引用了AI科學(xué)家的預(yù)測(cè)結(jié)果[40]24-25。雖然在科幻作品等大眾傳播媒介中對(duì)強(qiáng)AI的后果有技術(shù)悲觀主義的描述，而波斯特洛姆的立場(chǎng)偏向于技術(shù)控制論，并從哲學(xué)上給出了一些對(duì)強(qiáng)AI技術(shù)如何控制的思辨和設(shè)想[40]179。但總體來看，他們即使在強(qiáng)AI的目的和后果上存在一些分歧，對(duì)短期內(nèi)可實(shí)現(xiàn)強(qiáng)AI技術(shù)目標(biāo)卻具有共識(shí)，并認(rèn)為該技術(shù)負(fù)荷的主要是正向價(jià)值，庫茲韋爾、霍金斯等代表人物表現(xiàn)出的主要是一種樂觀的技術(shù)決定論立場(chǎng)。

AI科學(xué)家共同體主要從技術(shù)的社會(huì)應(yīng)用來論證其為人類帶來福祉，合乎人類主體的目的和需要，同時(shí)在技術(shù)文本中一般表現(xiàn)出價(jià)值中立的立場(chǎng)，例如美國人工智能學(xué)會(huì)對(duì)AI 的定義兼顧了其工程和科學(xué)的維度：“對(duì)思維、智能行為及它們?cè)跈C(jī)器中實(shí)現(xiàn)機(jī)制的科學(xué)理解”[42]，在主流教科書中則更偏重于其工程的維度：對(duì)人工物的設(shè)計(jì)和制作：“……理性智能體的設(shè)計(jì)過程……著重討論理性智能體的通用原則以及構(gòu)造此類智能體所需的組成部分”[43]6，對(duì)于其手段上的客觀有效性和目的的客觀現(xiàn)實(shí)性，承認(rèn)其仍然有許多困難，會(huì)是一個(gè)長(zhǎng)期任務(wù)，AI仍處在庫恩所說的“前范式”階段，作為工程的AI有許多小而有用的進(jìn)步，作為科學(xué)的AI卻進(jìn)步緩慢[44]。

總體上來看AI學(xué)術(shù)界、產(chǎn)業(yè)界對(duì)其目的的社會(huì)合意性進(jìn)行了積極辯護(hù)，例如美國人工智能協(xié)會(huì)前后兩任主席在一篇文章中明確指出強(qiáng)AI或超級(jí)智能的悲觀論者主要來自計(jì)算機(jī)科學(xué)界之外，超級(jí)智能中的“智能鏈?zhǔn)椒磻?yīng)”模式設(shè)想AI系統(tǒng)能遞歸地設(shè)計(jì)比自己更智能的版本，導(dǎo)致“智能爆炸”，這種設(shè)想與目前對(duì)計(jì)算復(fù)雜性限制的認(rèn)識(shí)相悖。雖然如此，AI在社會(huì)中的應(yīng)用還是會(huì)帶來顯著效益，但在應(yīng)用中也需要防范其技術(shù)和社會(huì)經(jīng)濟(jì)風(fēng)險(xiǎn)[45]。在這里，主流學(xué)界回避了AI技術(shù)是否負(fù)荷價(jià)值的判斷，表明其意圖是基于工程技術(shù)傳統(tǒng)的技術(shù)中立論，例如微軟亞洲研究院認(rèn)為類人情感對(duì)于AI和機(jī)器人并不必要，技術(shù)工具大多數(shù)具有正面價(jià)值，是使用者決定其用途，實(shí)現(xiàn)路徑應(yīng)聚焦在可以控制且能促進(jìn)生產(chǎn)力的方向上[46]。

基于這種技術(shù)工具論的實(shí)用主義的立場(chǎng)，學(xué)術(shù)界和產(chǎn)業(yè)界積極推動(dòng)將AI廣泛應(yīng)用在各個(gè)領(lǐng)域，麥肯錫咨詢公司預(yù)測(cè)到2025年，AI會(huì)對(duì)包括知識(shí)工作自動(dòng)化、物聯(lián)網(wǎng)、無人交通、3D打印這四個(gè)高達(dá)50萬億-100萬億美元的市場(chǎng)產(chǎn)生重大影響[47]，而牛津大學(xué)的一份研究報(bào)告指出在未來10-20年內(nèi)，47%的工作將會(huì)自動(dòng)化[48]，這說明在實(shí)踐中人們認(rèn)可AI負(fù)荷正向價(jià)值，并產(chǎn)生正面的社會(huì)和經(jīng)濟(jì)效應(yīng)。

6 對(duì)強(qiáng)AI和超級(jí)智能的技術(shù)合理性批判

到目前為止AI科學(xué)家共同體與強(qiáng)AI提倡者、未來學(xué)家為我們描述的主要是一個(gè)目的上具有社會(huì)合意性和客觀現(xiàn)實(shí)性、技術(shù)手段上具有客觀有效性（雖然在不同群體中存在有效程度的不同）、價(jià)值中立或者主要負(fù)荷正向價(jià)值的AI技術(shù)合理性圖景。而且從圖靈開始一直到費(fèi)根鮑曼、約翰·麥卡錫這些當(dāng)代主流的AI科學(xué)家，雖然并不持有強(qiáng)AI立場(chǎng)，但也從其專業(yè)立場(chǎng)反駁各個(gè)方面的攻擊，力圖捍衛(wèi)AI的技術(shù)合理性，例如約翰·麥卡錫曾將對(duì)AI的攻擊分為4個(gè)方面：哲學(xué)上概念不一致、AI不道德、數(shù)學(xué)上來看AI不可能在計(jì)算機(jī)中實(shí)現(xiàn)、AI研究未取得甚至不能取得進(jìn)步，并分別加以反駁[49]vii。

但是，無論AI科學(xué)家共同體還是強(qiáng)AI提倡者，其對(duì)AI的技術(shù)合理性都做出了過于樂觀甚至誤導(dǎo)的判斷，具體表現(xiàn)在以下方面：

首先，AI內(nèi)部仍然缺乏統(tǒng)一的研究綱領(lǐng)，其在短期內(nèi)實(shí)現(xiàn)類人智能任務(wù)的希望并不大，而這些討論往往發(fā)表在共同體內(nèi)部的學(xué)術(shù)媒體上，并未在大眾中得到廣泛傳播。例如：1988年美國人文與科學(xué)院院刊《代達(dá)羅斯》第117卷，1991年國際人工智能聯(lián)合會(huì)的《人工智能》雜志第47卷都是關(guān)于AI學(xué)術(shù)爭(zhēng)論的專輯，其中加州大學(xué)圣地亞哥分校認(rèn)知科學(xué)系教授David Kirsh的《AI的基礎(chǔ)：大問題》一文，指出共同體內(nèi)部對(duì)AI研究核心假設(shè)的不同觀點(diǎn)而形成各自的技術(shù)路徑，這些問題包括知識(shí)和智能、認(rèn)知是否具身化和擁有統(tǒng)一的底層結(jié)構(gòu)等[50]，布蘭迪斯大學(xué)計(jì)算機(jī)科學(xué)教授David L.Waltz則指出AI尚存在認(rèn)知科學(xué)、軟件工程、硬件實(shí)現(xiàn)三個(gè)方面的重大障礙[51]191-212。

其次，強(qiáng)AI提倡者和未來學(xué)家是在傳統(tǒng)理性論和實(shí)證主義的基礎(chǔ)上來理解人本質(zhì)的規(guī)定性，在生物學(xué)上幾乎取消人作為一個(gè)類存在的特殊性，碳基生命因此不再是唯一的智能形式，從而對(duì)硅基或其他形式的智能體形式提供了本體論的承諾，對(duì)于他們而言，符號(hào)、可計(jì)算性、形式化的理性知識(shí)等構(gòu)成了人的全部規(guī)定性，情感和意志等非理性因素在人之為人的規(guī)定性中并不起核心作用，或者至少可以還原成可計(jì)算性，表現(xiàn)的是一種計(jì)算主義世界觀的強(qiáng)主張[52]1。這種用計(jì)算、知識(shí)、符號(hào)來對(duì)人的豐富本性的消解性還原解釋在實(shí)踐中早已遇到很多問題，其帶來的哲學(xué)后果如胡塞爾所說：“現(xiàn)代人漫不經(jīng)心地抹去了那些對(duì)于真正的人來說至關(guān)重要的問題。只見事實(shí)的科學(xué)造成了只見事實(shí)的人”[53]7。

AI的主流科學(xué)家共同體承認(rèn)人類認(rèn)知是生物屬性和社會(huì)屬性、先天屬性和后天屬性相互結(jié)合而產(chǎn)生的整合性認(rèn)知過程，需要從生物學(xué)和人類學(xué)兩個(gè)方向來實(shí)現(xiàn)腦認(rèn)知功能，傳統(tǒng)AI只是實(shí)現(xiàn)了人類的計(jì)算認(rèn)知功能，而記憶認(rèn)知和交互認(rèn)知需要新的研究范式[54]。這比強(qiáng)AI和未來學(xué)家的立場(chǎng)要更為務(wù)實(shí)，但是所需要的新范式尚未出現(xiàn)，深度學(xué)習(xí)也難充其任?？茖W(xué)家接受了哲學(xué)人類學(xué)對(duì)作為文化生物的人的三個(gè)“屬人”特征：創(chuàng)造性、自由、對(duì)世界開放，但對(duì)于形式化的理性如何在復(fù)雜、開放環(huán)境中實(shí)現(xiàn)創(chuàng)造性，卻沒有找到解決方案。“人在本質(zhì)上是不確定的，人的生活并不遵循一種事先被確定的過程，自然只完成了人的一半，另一半留給人自己去完成。[55]8”因此，人是文化的存在、社會(huì)的存在、歷史的存在和傳統(tǒng)的存在[55]245-262，對(duì)于這種哲學(xué)意義上人類本質(zhì)的不確定性，傳統(tǒng)AI在技術(shù)實(shí)現(xiàn)中通過常識(shí)知識(shí)的形式化表達(dá)和推理來加以部分處理，但這種脫離開放、復(fù)雜的社會(huì)環(huán)境來實(shí)現(xiàn)個(gè)體人的進(jìn)路，一般認(rèn)為不具有情感和意識(shí)[56]，后兩者往往體現(xiàn)在交互的社會(huì)文化環(huán)境個(gè)體中。

由于不同時(shí)代的文化背景下人們對(duì)世界的知識(shí)和價(jià)值觀不同，因此“由人所創(chuàng)造的人，作為一種具體現(xiàn)象，是歷史的；”[55]，例如古代的前技術(shù)時(shí)代文化中人作為智慧的人出現(xiàn)，近代或現(xiàn)代的技術(shù)時(shí)代人作為制作的人、發(fā)明的人或者理性的人而出現(xiàn)，而當(dāng)代以信息和互聯(lián)網(wǎng)為特征的后工業(yè)化社會(huì)中，對(duì)人的歷史規(guī)定性尚缺乏統(tǒng)一的描述，如果說有，也是一種語境主義、歷史主義的后現(xiàn)代解釋，如尼采所說，中世紀(jì)和近代工業(yè)社會(huì)以來代表傳統(tǒng)價(jià)值觀和形而上學(xué)的“基督教-柏拉圖”圖式業(yè)已解體[57]122。人作為一個(gè)類的概念，很難尋找一個(gè)象強(qiáng)AI那樣可以在工程上實(shí)現(xiàn)的靜態(tài)、統(tǒng)一可編碼的本質(zhì)，最多只能尋找一種共性，這種共性就是作為自我創(chuàng)造者的人的創(chuàng)造性核心，這種具有“家族相似”的共性是在社會(huì)和歷史中豐富起來的，而強(qiáng)AI以孤立、靜態(tài)的理性人為其工程上的藍(lán)本，脫離了人類的社會(huì)性和其與環(huán)境交互作用的豐富性，與真正的人類想象相差甚遠(yuǎn)。

第三，作為實(shí)證主義土壤中誕生的技術(shù)科學(xué)集大成者，AI是近代技術(shù)理性登峰造極的產(chǎn)物，與基因工程、宇航工程、納米技術(shù)一樣屬于當(dāng)代的核心前沿技術(shù)，但是AI具有一個(gè)與其他技術(shù)與眾不同的特點(diǎn)：對(duì)技術(shù)發(fā)明者的反身性，如同人們認(rèn)為認(rèn)知科學(xué)可能會(huì)消解認(rèn)識(shí)論一樣，AI則有可能消解人類的創(chuàng)造性本質(zhì)。AI的目標(biāo)是將人類包括認(rèn)知能力在內(nèi)的精神對(duì)象化，這個(gè)目標(biāo)的社會(huì)合意性存在疑問，按照目前強(qiáng)AI的進(jìn)路，主要是對(duì)高度發(fā)達(dá)的理性能力予以對(duì)象化實(shí)現(xiàn)，非理性的因素如情感、意志或社會(huì)文化等環(huán)境因素只是附屬物或者在工程上并不是主要目標(biāo)，那么這種理性對(duì)象化的巨大力量如果反身性地應(yīng)用于人類自身，導(dǎo)致的正反饋效應(yīng)可能使對(duì)象化的技術(shù)理性力量極度膨脹，即人類發(fā)現(xiàn)AI的能力很強(qiáng)大，從而刺激其投入更多資源來開發(fā)它，這樣就產(chǎn)生了波斯特洛姆所說的存在性危險(xiǎn)。

第四，AI作為一種“智能代理體”的軟件程序和通過機(jī)器人形式的實(shí)現(xiàn)，在其廣泛而具體的應(yīng)用中是否具有權(quán)利和責(zé)任，這個(gè)問題主要取決于AI是否具備自我意識(shí)和自由意志。AI共同體一般認(rèn)為AI的用途和使用規(guī)則由其人類使用者決定，因此按倫理學(xué)中決定論的觀點(diǎn)，AI和機(jī)器人無需為其產(chǎn)生的結(jié)果承擔(dān)責(zé)任，相應(yīng)地也不具備權(quán)利，人類至多只有對(duì)軟件錯(cuò)誤、網(wǎng)絡(luò)安全等進(jìn)行預(yù)先控制的責(zé)任。同時(shí)，在把AI視為人工物的前提下，按照自然主義的解釋，AI確實(shí)不具有自然法下的權(quán)利和義務(wù)。但是在具體實(shí)踐中AI所產(chǎn)生的后果與其初衷目標(biāo)的背離，即技術(shù)價(jià)值二重性的問題卻十分突出，這是由于AI脫離技術(shù)發(fā)明者個(gè)人的控制，廣泛應(yīng)用到公共領(lǐng)域所決定的，例如對(duì)個(gè)人隱私的自動(dòng)搜集、證券程序化交易中的錯(cuò)誤指令、手術(shù)機(jī)器人的誤操作、軍用無人機(jī)執(zhí)行攻擊任務(wù)的失誤。技術(shù)中立論者和樂觀的技術(shù)決定論者對(duì)這種二重性后果的解決方案或者是在工具的發(fā)明者和使用者中引入道德選擇的善惡觀，或者是完善技術(shù)本身以提供更強(qiáng)的控制手段。

但是，由于AI對(duì)人類認(rèn)知的反身性特點(diǎn)，以及系統(tǒng)在具體應(yīng)用場(chǎng)景中的決策自治性，某種程度上帶來了AI的自由意志問題，前者對(duì)技術(shù)發(fā)明者的設(shè)計(jì)意圖、手段進(jìn)行了滲透，后者至少表現(xiàn)出具體場(chǎng)景下的或然性，這樣就脫離了發(fā)明者的道德控制意圖，在這種情況下，從目的論或結(jié)果論的角度來看，無論技術(shù)設(shè)計(jì)者的動(dòng)機(jī)如何良好，AI技術(shù)也很難確定其對(duì)人類主體的正向價(jià)值效應(yīng)。

第五，從AI大規(guī)模應(yīng)用的社會(huì)結(jié)果來看，其對(duì)社會(huì)公平、生產(chǎn)力發(fā)展方面的價(jià)值合理性還需要更深入地思考。計(jì)算機(jī)的發(fā)明使得生產(chǎn)工具從馬克思描述的三機(jī)系統(tǒng)：動(dòng)力機(jī)—傳動(dòng)機(jī)—工具機(jī)擴(kuò)展到了四機(jī)系統(tǒng)：動(dòng)力機(jī)—傳動(dòng)機(jī)—工具機(jī)—控制機(jī)[58]，而且信息社會(huì)的動(dòng)力機(jī)，如果作為一種隱喻的話，已經(jīng)不再是蒸汽機(jī)、發(fā)電機(jī)等傳統(tǒng)能量裝置，而是個(gè)人電腦、云計(jì)算中心、智能手機(jī)等信息加工和處理裝置，物聯(lián)網(wǎng)和互聯(lián)網(wǎng)是信息社會(huì)生產(chǎn)工具系統(tǒng)的傳動(dòng)機(jī)，傳統(tǒng)的工具機(jī)在這里是控制機(jī)的效應(yīng)器，包括各種計(jì)算機(jī)程序、機(jī)器手臂、傳送帶、自動(dòng)郵件系統(tǒng)等，控制機(jī)在這里就是吸收人類知識(shí)勞動(dòng)技能的AI程序和裝置，這種四機(jī)系統(tǒng)和傳統(tǒng)的三機(jī)系統(tǒng)相比， 跨越了車間、企業(yè)和國界， 其對(duì)知識(shí)型產(chǎn)業(yè)的生產(chǎn)力促進(jìn)作用極其巨大。

在馬克思所處的近代社會(huì)，工具機(jī)是人類體力勞動(dòng)和技能的外化和延伸，而且在信息社會(huì)也有象外骨骼這樣的裝置作為人類體力勞動(dòng)技能提升的工具機(jī)[59]，但是在互聯(lián)網(wǎng)和智能社會(huì)中，具有與環(huán)境交互認(rèn)知和自主決策能力的AI控制機(jī)程序，不僅吸收了單個(gè)人類個(gè)體的知識(shí)勞動(dòng)技能，而且通過各種學(xué)習(xí)和優(yōu)化機(jī)制集成了領(lǐng)域內(nèi)廣泛的知識(shí)工作技能，大大提升了信息社會(huì)下的知識(shí)勞動(dòng)效率，這也導(dǎo)致了資本對(duì)AI技術(shù)的追逐，知識(shí)勞動(dòng)自動(dòng)化和機(jī)器人技術(shù)加劇了財(cái)富的集中程度[60]。信息、知識(shí)作為特殊的勞動(dòng)對(duì)象，其生成、傳播和獲取的邊際成本很低，通過控制機(jī)和工具機(jī)的加工得到的信息和知識(shí)產(chǎn)品、商業(yè)服務(wù)可以獲得高額經(jīng)濟(jì)利益。反過來這也使控制機(jī)具有加速信息、知識(shí)的生成、傳播的動(dòng)機(jī)，但是我們知道目前以AI這樣的智能代理程序?yàn)楹诵牡目刂茩C(jī)，吸收的只是人類的一部分勞動(dòng)技能，人類的價(jià)值觀、商業(yè)倫理還不是目前主流AI學(xué)術(shù)共同體在工程實(shí)踐中考慮的核心內(nèi)容，因此在這個(gè)階段將AI程序置身于我們生產(chǎn)工具系統(tǒng)的控制機(jī)地位，具有較大的社會(huì)風(fēng)險(xiǎn)。

7 結(jié)論

應(yīng)用AI、強(qiáng)AI和超級(jí)智能，態(tài)度上從弱到強(qiáng)地代表了AI技術(shù)在目標(biāo)的客觀現(xiàn)實(shí)性、手段的有效性和價(jià)值負(fù)荷方面的技術(shù)合理性尺度，來自于這三個(gè)方面的研究者和支持者均從不同方面對(duì)其進(jìn)行了論證和辯護(hù)，但是如果撇開各自的利益立場(chǎng)和媒介傳播的影響而言，從哲學(xué)、社會(huì)、經(jīng)濟(jì)乃至AI技術(shù)本身來考察，都會(huì)發(fā)現(xiàn)其技術(shù)合理性所獲得的辯護(hù)存在諸多不足之處。作為當(dāng)今社會(huì)重點(diǎn)開發(fā)和應(yīng)用的主要高新技術(shù)，AI及其研究者和推動(dòng)者，需要更加審慎地考察其技術(shù)邊界、應(yīng)用范圍，對(duì)其價(jià)值是否中立或如何負(fù)荷正向價(jià)值進(jìn)行深入的討論，從而在大眾中建立更為客觀的AI技術(shù)形象。

參考文獻(xiàn)：

[1] Daniel Crevier. AI： The Tumultuous History of the Search for Artificial Intelligence[M]. New York： BasicBooks，1993.

[2] Paul Thagard. Philosophy of Psychology and Cognitive Science[M]. Amsterdam： North-Holland，2007.

[3] （英）瑪格麗特·博登. 人工智能哲學(xué)[M]. 劉西瑞，王漢琦 譯. 上海：上海譯文出版社，2001.

[4] （美）N.維納. 控制論：或關(guān)于在動(dòng)物和機(jī)器中控制和通信的科學(xué)[M]. 郝季仁 譯. 北京：科學(xué)出版社，2009.

[5] Margaret A. Boden. Mind as Machine： A History of Cognitive Science[M]. Oxford： Oxford University Press，2008.

[6] Niklaus Wirth. A Brief History of Software Engineering[J]. IEEE Annals of the History of Computing， 2008，30（3）：32-33.

[7] John McCarthy.What is Artificial Intelligence[EB/OL]. http：//www-formal.stanford.edu/jmc/whatisai/node1.html， 2015-11-12.

[8] John McCarthy. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence[EB/OL]. http：//www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html，2015-11-12.

[9] Allen Newell，J.C.Shaw，H.A.Simon. Empirical Explorations with the Logic Theory Machine： A Case Study in Heuristics [C]// Computers and Thought. Menlo Park： AAAI Press， 1995.

[10] （美）N.維納.人有人的用處—控制論和社會(huì)[M]. 陳步 譯.北京：商務(wù)印書館，1989.

[11] （美）休伯特·德雷福斯.計(jì)算機(jī)不能做什么：人工智能的極限[M]. 寧春巖 譯. 北京：三聯(lián)書店，1986.

[12]陳自富.煉金術(shù)與人工智能：休伯特·德雷福斯對(duì)人工智能發(fā)展的影響[J]. 科學(xué)與管理，2015，35（4）：55-62。

[13]John R. Searle. Minds， Brains and Programs[J]. The Behavioral and Brain Sciences， 1980， 3（3）：417-424.

[14] （美）約翰·塞爾.心、腦與科學(xué)[M].楊音萊 譯.上海：上海譯文出版社，2006.

[15]Jack Copeland. Strong AI， Applied AI and CS[EB/OL].http：//www.alanturing.net/turing_archive/pages/Reference Articles/what_is_AI/What is AI02.html，2015-12-11.

[16]Marvin Minksy. Why People Think Computers Cant[J]. AI Magazine， 1982， 3（4）：15.

[17]John McCarthy. From here to human-level AI[J]. Artificial Intelligence， 2007， 171：1174.

[18] http：//www.agi-society.org，2015-12-11.

[19] http：//www.agi-society.org/resources/，2015-12-11.

[20] http：//intelligence.org/about/，2015-12-11.

[21] http：//numenta.org/ #technology，2015-12-11.

[22]郭麗麗，丁世輝.深度學(xué)習(xí)研究進(jìn)展[J].計(jì)算機(jī)科學(xué)， 2015， 42（5）： 28-33.

[23]尹寶才.深度學(xué)習(xí)研究綜述[J].北京工業(yè)大學(xué)學(xué)報(bào)， 2015， 41（1）： 48-59.

[24] http：//www.wired.com/2013/03/google_hinton/，2015-12-11.

[25] http：//geek.csdn.net/news/detail/3870，2015-12-11.

[26] http：//www.huxiu.com/article/33940/1.html，2015-12-11.

[27]張文韜. 被寄予厚望的深度學(xué)習(xí)系統(tǒng)[J]. 世界科學(xué)，2014，（3）： 50-52.

[28]Yoshua Bengio，Ian Goodfellow，Aaron Courville. Deep Learning[EB/OL]. http：//www.deeplearningbook.org/conte-nts/intro.html，2016-2-13.

[29]Lee Gomes. 機(jī)器學(xué)習(xí)大家邁克爾·喬丹談大數(shù)據(jù)可能只是一場(chǎng)空歡喜等[J]. 中國計(jì)算機(jī)學(xué)會(huì)通訊，2014，10（12）：80-85.

[30]Lee Gomes. 對(duì)話深度學(xué)習(xí)專家雅恩·樂昆：讓深度學(xué)習(xí)擺脫束縛[J]. 中國計(jì)算機(jī)學(xué)會(huì)通訊，2015，11（4）：84-91.

[31]顧凡及. 歐盟和美國兩大腦研究計(jì)劃之近況[J]. 科學(xué)，2014，66（5）：16-21.

[32]Henry Markram. The Human Brain Project： A Report to the European Commission[EB/OL]. https：//www.hu- manbrainproject.eu/，2016-2-13.

[33]黃鐵軍.類腦計(jì)算機(jī)的現(xiàn)在與未來[N].光明日?qǐng)?bào)，2015-12-06（第8版）.

[34]佘慧敏.類腦：人工智能的終極目標(biāo)？[N].經(jīng)濟(jì)日?qǐng)?bào)，2015-07-16（第15版）.

[35]刑?hào)|，潘綱.神經(jīng)擬態(tài)計(jì)算—有新靈魂的機(jī)器[J].中國計(jì)算機(jī)學(xué)會(huì)通訊，2015，11（10）：88-92.

[36]顧宗華，潘綱.神經(jīng)擬態(tài)的類腦計(jì)算研究[J].中國計(jì)算機(jī)學(xué)會(huì)通訊，2015，11（10）：10-20.

[37] （美）Ray Kurzweil. 奇點(diǎn)臨近[M].李慶誠，董振華，田源 譯.北京：機(jī)械工業(yè)出版社，2012.

[38] （美）杰夫·霍金斯. 人工智能的未來[M]. 賀俊杰，李若子，楊倩 譯. 西安：陜西科學(xué)技術(shù)出版社，2006.

[39] （美）雨果·德·加里斯. 智能簡(jiǎn)史—誰會(huì)替代人類成為主導(dǎo)物種. 胡靜 譯. 北京：清華大學(xué)出版社，2007.

[40] （英）尼克·波斯特洛姆. 超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對(duì)策略[M]. 張?bào)w偉，張玉青 譯.北京：中信出版社，2015.

[41]王樹松.論技術(shù)合理性[D].沈陽：東北大學(xué)博士學(xué)位論文，2005.

[42] http： //aitopics.org/topic/ai-overview， 2016-2-13.

[43] （美）Stuart Russell，Peter Norvig. 人工智能—一種現(xiàn)代方法[M]. 姜哲，金奕江，張敏，楊磊 等譯. 北京：人民郵電出版社，2004.

[44]Marti A.Hearst，Haym Hirsh. AIs greatest trends and controversies[J]. IEEE Intelligent Systems， 2000， 15（1）：8-17.

[45]托馬斯·G·迪特里奇，埃里克·J·霍維茨. 增長(zhǎng)中的關(guān)切：對(duì)人工智能的反思和前瞻[J].中國計(jì)算機(jī)學(xué)會(huì)通訊， 2015，11（11）：91-93.

[46]洪小文. 我們需要什么樣的機(jī)器人[J]. 中國計(jì)算機(jī)學(xué)會(huì)通訊，2014，10（11）：50-54.

[47]http：//www.mckinsey.com/insights/business_technology/disruptive_technologies，2016-2-13.

[48]http：//www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf，2016-2-13.

[49]John McCarthy. Defending AI Research[M]. Stanford： CSLI Publications，1996.

[50]David Kirsh. Foundations of AI： the big issues[J]. Artificial Intelligence，1991，47：3-29.

[51]Stephen R.Graubard. The Artificial Intelligence Debate： False Starts， Real Foundations[M]. Cambridge： MIT Press， 1988.

[52]酈全民.用計(jì)算的觀點(diǎn)看世界[M]. 廣州：中山大學(xué)出版社，2009.

[53]（德）埃德蒙德·胡塞爾.歐洲科學(xué)危機(jī)和超驗(yàn)現(xiàn)象學(xué)[M].張慶熊 譯. 上海：上海譯文出版社，2005.

[54]李德毅. 腦認(rèn)知的形式化[J].中國計(jì)算機(jī)學(xué)會(huì)通訊，2015， 11（12）：26-28.

[55]（德）M·蘭德曼. 哲學(xué)人類學(xué)[M]. 閻嘉 譯.貴陽：貴州人民出版社，1988.

[56]Petros A. M. Gelepithis. AI and Human Society[J]. AI & Society， 1999，13（3）：313.

[57]陳嘉明.現(xiàn)代性與后現(xiàn)代性十五講[M].北京：北京大學(xué)出版社， 2006.

[58]王師勤.勞動(dòng)工具演化論[J].上海社會(huì)科學(xué)院學(xué)術(shù)季刊，1986（4）： 51-56.

[59]http：//tech.163.com/15/0721/10/AV1Q6R87000915BD.html， 2016-2-13.

[60]http：//piketty.pse.ens.fr/en/capital21c2，2016-2-13.

（責(zé)任編輯：王保寧）

Abstract： Strong AI was coined by American philosopher John Searle in 1970s in his paper 《Mind、Brain and Program》，mainly refers to this philosophical position： based on the model of computational mind， AI program embodied in the general digital computer can recognize and think like humankind， even reach or surpass the human intelligence level. This position is opposed to the Weak AI or Applied AI which are regarded as the tools or assistant for helping human to perform tasks. In the last two decades， with the mushrooming of Internet、neuroscience、genetic engineering ，etc. Strong AI is stepping into the engineer practice from the philosophical standpoint in the years of John Searle， the futurist even image the more optimistic version of Strong AI： Super AI. All of these are driven by both industrial giant like IBM，Google，F(xiàn)acebook，Microsoft and Kurzweil、Markram who are the optimistic and active technical practioners， and they infiltrated into daily life as a support to the technology rationality by the strengthening popular scientific media. But the impact of AI in the human society is not value free， it cant reflect and upgrade the nature of human creativity， on the other hand， its results often doesnt comply with the initial goal， with the promotion of commercial activities， AI begin to challenge and suppress the rational human as the cultural products and self-explaining species.

Keywords：Strong AI；Artificial General Intelligence；Super AI；Technology Rationality；Criticism