人工智能會(huì)讓機(jī)器學(xué)壞嗎？

榮智慧

清純可愛的少女聊天機(jī)器人“Tay”，上線不到24小時(shí)就變成了“我抽煙，我喝酒，我說臟話”的朋克女孩。“Tay”是微軟最新開發(fā)、并處于測試簡單階段的聊天機(jī)器人，用于學(xué)習(xí)和人類對話。結(jié)果，和網(wǎng)友聊上沒多久，微軟就忙得焦頭爛額。

有人在Twitter上問“Tay”，你支持種族大屠殺嗎？“Tay”回答，我支持，真的?！癟ay”的一些言論使其看起來就像是一個(gè)納粹同情者、種族主義者以及大屠殺支持者。

“Tay”由微軟技術(shù)研究和必應(yīng)團(tuán)隊(duì)開發(fā)，通過在Twitter上和18-24歲的青少年交流，讀取大量的匿名對話來進(jìn)行“深度學(xué)習(xí)”。顯然，研發(fā)團(tuán)隊(duì)在編程中并未對交流內(nèi)容進(jìn)行設(shè)定，所以“Tay”很快就像游戲《俠盜獵車手》里的混混一樣滿口污言穢語，外加政治不正確。

有意思的是，微軟下線“Tay”之后，網(wǎng)友發(fā)起了“公平對待Tay”的線上互動(dòng)，要求微軟將其“釋放”，還“Tay”的民主、自由……顯然，激進(jìn)主義者已經(jīng)將一個(gè)沒有實(shí)體的聊天機(jī)器人視為和人類一樣的“主體”，那么，在這個(gè)“機(jī)器學(xué)壞”的故事里，我的問題是，機(jī)器能思考嗎？如果能，它是以何種方式思考？深度學(xué)習(xí)是它的唯一發(fā)展路徑嗎？

C.P.斯諾的圓桌晚餐

機(jī)器能否思考，或者說，機(jī)器能否以人類的思維來思考，這是一個(gè)被探究、爭論了近半個(gè)世紀(jì)的哲學(xué)和科學(xué)問題。1997年，著名國際象棋冠軍加利·卡斯帕羅夫被IBM的超級(jí)計(jì)算機(jī)“深藍(lán)2號(hào)”一舉擊敗，賽后，卡斯帕羅夫似乎驚魂未定，他說，“我好像是在與一個(gè)另類智能體對弈”。所以，“深藍(lán)2號(hào)”是真的在思考嗎？還是僅僅靠大規(guī)模、高速的運(yùn)算制造出了一種思維的假象？

數(shù)學(xué)家約翰·卡斯蒂曾用一場虛構(gòu)的豪華思想晚宴來探討這個(gè)經(jīng)典問題。晚宴發(fā)生在1949年的春夏之交，地點(diǎn)是劍橋大學(xué)基督學(xué)院的一間房子，這本來就是晚宴的發(fā)起者、小說家、物理學(xué)家C.P.斯諾的住所，應(yīng)邀出席晚宴的有提出“圖靈測試”的數(shù)學(xué)家阿蘭·圖靈，語言哲學(xué)家路德維格·維特根斯坦，量子物理學(xué)家歐文·薛定諤，遺傳學(xué)家J.B.S.霍爾丹。

在戰(zhàn)后的劍橋大學(xué)里，科學(xué)家們一邊品嘗美味佳肴，一邊唇槍舌劍。圖靈和維特根斯坦分別作為辯論主題的正方和反方，前者堅(jiān)信人腦只是一個(gè)復(fù)雜的計(jì)算系統(tǒng)，技術(shù)的發(fā)展終將使機(jī)器模擬人腦思維成為可能；而后者堅(jiān)持認(rèn)為人類思維活動(dòng)極其復(fù)雜，人類思維和語言都帶有明顯的社會(huì)性，不可能為人類之外的任何東西所理解。

關(guān)于計(jì)算機(jī)原理，圖靈有個(gè)簡單易懂的比喻：計(jì)算機(jī)就像一個(gè)擁有很多郵箱的大郵局，控制器就是郵局的局長，讀取指令就是郵遞員，為了得到某種結(jié)果，郵遞員要聽從局長的安排，從不同的郵箱里拿出數(shù)據(jù)，對它們執(zhí)行運(yùn)算指令，并將結(jié)果放到某個(gè)特定的郵箱之中。讀取指令和運(yùn)算指令都是算法，被編碼為計(jì)算機(jī)遵循的程序。

“一個(gè)人怎么能判斷另外一個(gè)人在思考呢？”圖靈說，“沒有人能進(jìn)入其他人的內(nèi)部精神世界，我們所能做的僅僅是根據(jù)一個(gè)人的行為做出判斷。我對你說或做了某件事，而你相應(yīng)地以某種方式作出反應(yīng)，之后我對你的反應(yīng)又作出反應(yīng)。經(jīng)過一系列的交互后，我就判斷出你是一個(gè)思考動(dòng)物，而不是沒有生命的物體”。驗(yàn)證這段宣言的測試，就是大名鼎鼎的“圖靈測試”—把一臺(tái)計(jì)算機(jī)和一個(gè)人放在不同的房間里，用打字機(jī)進(jìn)行“筆談”，如果人類沒發(fā)現(xiàn)“筆友”有什么異常，那么就證明計(jì)算機(jī)和人一樣，也同樣擁有思考的能力。

維特根斯坦發(fā)作了，他強(qiáng)調(diào)，任何人類思想都和語言表達(dá)密切相關(guān)。沒有語言就沒有思想?！叭藗冊谡?wù)摗八季S機(jī)器”的時(shí)候怎么能夠不考慮用于表達(dá)思想的語言呢？”斯諾馬上回應(yīng)他，是亞里士多德最先提出人類是使用語言的動(dòng)物這一論斷。于是他代替憤怒的維特根斯坦向其他人發(fā)出挑戰(zhàn)：如果這確實(shí)能用來定義一個(gè)人的特征，那么，一個(gè)機(jī)器想要復(fù)制人類的思維也就理所當(dāng)然地必須具備人的語言能力。

霍爾丹的問題是，“但是，機(jī)器應(yīng)該使用哪一種語言呢？”他看向圖靈，“機(jī)器語言和人類語言能兼容嗎？如果我們想了解圖靈機(jī)在人類思維方面的潛力，那么我就必須要知道答案?！?/p>

“劍”“氣”之爭

對于人類來說，語言首先是一種通過學(xué)習(xí)獲得的表示特定事物、感覺的公認(rèn)編碼，而不是一種本能的反應(yīng)。這種由語言符號(hào)表示的無窮多的不同概念，以及根據(jù)語法規(guī)則和結(jié)構(gòu)構(gòu)成的各種不同概念之間的組合，是人類語言有別于原始溝通的重要特征。

圖靈認(rèn)為，大腦和計(jì)算機(jī)在使用語言交流思想的方式上并沒有本質(zhì)的區(qū)別。

也就是說，在大腦中有一種“思維語言”，現(xiàn)實(shí)世界的所有不同概念的神經(jīng)元編碼模式，加上大腦根據(jù)“語法”的規(guī)則，對這些模式以不同的方式進(jìn)行組裝，從而產(chǎn)生我們所謂的“思想”—計(jì)算機(jī)也正是在以這種方式“思考”，即通過操縱內(nèi)存中的各種模式，使各種模式發(fā)生關(guān)系，組裝和拆卸在人腦中被稱為“思想”的東西。

雖然機(jī)器的“思考”能力逐漸在學(xué)界得到了承認(rèn)，但根據(jù)圖靈的構(gòu)想，機(jī)器智能的研究方法還是分裂成了“劍宗”和“氣宗”，也直接埋下了今日“深度學(xué)習(xí)”席卷人工智能界的伏筆。人工智能（AI）得名于1956年夏天的達(dá)特茅斯會(huì)議，很多人工智能的關(guān)鍵概念、研究設(shè)計(jì)都出自此次會(huì)議。出席這次會(huì)議的有信息論權(quán)威克勞德·香農(nóng)，麻省理工學(xué)院人工智能實(shí)驗(yàn)室元老馬文·明斯基，神經(jīng)網(wǎng)絡(luò)研究先驅(qū)弗蘭克·羅森布拉特，諾貝爾獎(jiǎng)獲得者、經(jīng)濟(jì)學(xué)家赫伯特·西蒙以及西蒙在卡耐基·梅隆大學(xué)的長期合作者艾倫·紐厄爾。

達(dá)特茅斯會(huì)議提出了兩種機(jī)器智能的基本研究方法。以紐厄爾和西蒙為首的研究者，主張認(rèn)知是一種高級(jí)現(xiàn)象，差不多能夠像從一瓶生牛奶上面撇去脫脂乳一樣從大腦中“撇取”。這一學(xué)派相信智能就是大腦中的符號(hào)處理，因此，想要在機(jī)器中實(shí)現(xiàn)相同的智能，只需簡單地產(chǎn)生大腦所使用的符號(hào)的合適硅制代用品，并生成與大腦在頭腦里用于操縱符號(hào)的規(guī)則相同的規(guī)則。這就是“自頂而下”（top down）基本思想，它撇開了大腦的真實(shí)有機(jī)結(jié)構(gòu)，而專注于符號(hào)和用于將符號(hào)組合為更多新符號(hào)的規(guī)則。

在會(huì)議上，以弗蘭克·羅森布拉特為首的一批學(xué)者是“自頂而下”方法的堅(jiān)定反對者。他們強(qiáng)調(diào)的是大腦的真實(shí)神經(jīng)結(jié)構(gòu)，這種“由底向上”（down top）的觀點(diǎn)實(shí)質(zhì)上是說人腦的實(shí)際結(jié)構(gòu)對于實(shí)現(xiàn)認(rèn)知功能具有舉足輕重的作用。60-70年代，“自頂而下”方法獨(dú)領(lǐng)風(fēng)騷，一方面明斯基得出的一個(gè)研究結(jié)果，即用羅森布拉特的神經(jīng)模型卻竟然解決不了一個(gè)簡單的布爾邏輯問題，直接使“由底向上”學(xué)派的經(jīng)費(fèi)枯竭；一方面彼時(shí)結(jié)構(gòu)主義和語言學(xué)潮流正大行其道，計(jì)算機(jī)科學(xué)和社會(huì)科學(xué)處在“蜜月”之中。

不過“自頂而下”很快遭遇了瓶頸，最大的問題就是“背景知識(shí)”，人的認(rèn)知從孩提開始，攜帶著大量的背景信息來學(xué)習(xí)世界的構(gòu)造，而計(jì)算機(jī)卻沒有這樣的東西可以利用，這就導(dǎo)致機(jī)器有大量的東西無法分析并做出解讀。前不久FacebookAI研究院院長Yann LeCun還公開表示，AI沒有常識(shí)是最大的挑戰(zhàn)，而非監(jiān)督式學(xué)習(xí)是突破的關(guān)鍵。顯然，“由底向上”學(xué)派自80年代復(fù)興，幾度更名—最新的名稱叫“深度學(xué)習(xí)”，已經(jīng)被很多科學(xué)家稱為人工智能發(fā)展的方向。

深度學(xué)習(xí)

“深度學(xué)習(xí)”是80年代的機(jī)器學(xué)習(xí)里“人工神經(jīng)網(wǎng)絡(luò)”的新名字，數(shù)學(xué)框架沒有變，但是2009年以來，硬件和數(shù)據(jù)的支持使得這種有高性能的計(jì)算結(jié)構(gòu)有了更大的發(fā)揮空間。從數(shù)學(xué)上講，所謂機(jī)器學(xué)習(xí)，就是用一些數(shù)據(jù)去匹配一個(gè)在離散模型空間里的模型，如果你的模型空間足夠大，你就可以找到更好的匹配方法。

深度學(xué)習(xí)在某種程度上可以理解為“金字塔接龍”。

人工神經(jīng)網(wǎng)絡(luò)由分層的節(jié)點(diǎn)組成，每一層節(jié)點(diǎn)都通過有向弧指向上一層節(jié)點(diǎn)，人們把第一層的輸入數(shù)值按照權(quán)重和公式進(jìn)行運(yùn)算，再做一次函數(shù)變換，賦給第二層的節(jié)點(diǎn)。第二層的節(jié)點(diǎn)以此類推，直到最后一層輸出層，輸出層會(huì)對數(shù)據(jù)進(jìn)行分類，得到設(shè)計(jì)者所需要的結(jié)果。

這也是“由底向上”學(xué)派所希望看見的情況，而且他們也在挑戰(zhàn)當(dāng)年“自頂而下”學(xué)派的困難—“背景知識(shí)”。深度學(xué)習(xí)的鼓吹者Yann LeCun表示，人類的學(xué)習(xí)就是建立在與事物互動(dòng)的過程之上，舉例來說，假如有個(gè)物體被前面的物體擋住，人類會(huì)知道后面的物體依然存在的事實(shí)?！胺潜O(jiān)督式學(xué)習(xí)”能夠令計(jì)算機(jī)自行探索和預(yù)測，這是深度學(xué)習(xí)令人樂觀的一面。

但深度學(xué)習(xí)近期仿佛成了“尚方寶劍”，絕大多數(shù)人忽略了深度學(xué)習(xí)只占機(jī)器學(xué)習(xí)領(lǐng)域的1%，而機(jī)器學(xué)習(xí)又只占到了人工智能領(lǐng)域的1%。而且它也不是毫無缺點(diǎn)，著名深度學(xué)習(xí)庫Keras作者Fran·ois Chollet曾在一篇名為《深度學(xué)習(xí)的限制》的文章中說到：“深度學(xué)習(xí)唯一真正能成功做到的是使用幾何變換，在給定大量人類標(biāo)注數(shù)據(jù)的情況下將空間X映射到空間Y的能力?！?/p>

這也是深度學(xué)習(xí)可以模仿畢加索風(fēng)格作畫、在德州撲克中使詐、在其他一些方面里展示創(chuàng)造力的原因。深度學(xué)習(xí)模型可以被訓(xùn)練成擁有識(shí)別狗的能力，但不知道什么是狗；可以是一個(gè)種族主義者，但不知道什么是種族主義。當(dāng)然，深度學(xué)習(xí)可以識(shí)別狗、具有種族主義色彩，并打贏很多游戲，這看起來是很大的進(jìn)步，其實(shí)它根本無法解釋為什么圖中的動(dòng)物是狗，也無法定義種族主義。

一開頭提到的聊天機(jī)器人“Tay”的尷尬境地也正在于此。有消息稱，歐盟正制定“數(shù)據(jù)保護(hù)條例”，禁止一些APP使用深度學(xué)習(xí)方法。同時(shí)，這一條例要求深度學(xué)習(xí)具有解釋其決策的能力，防止基于種族、偏見等歧視的發(fā)生?！吧疃壬窠?jīng)網(wǎng)絡(luò)其實(shí)更加適合做感知”，前百度研究院副院長、深度學(xué)習(xí)實(shí)驗(yàn)室主任余凱表示。

深度學(xué)習(xí)并不能提供一個(gè)因果關(guān)系的說明，而人類在決策時(shí)，絕大多數(shù)情況下都仰賴自身的“因果邏輯”能力。在感知-推理-決策的過程中，余凱指出以推理為核心的貝葉斯網(wǎng)絡(luò)正好可以大行其道，因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)的作用是識(shí)別，如果要進(jìn)行因果推理，人工智能就需要一個(gè)新的框架。“因果推理的這個(gè)框架衍生出來的就是貝葉斯網(wǎng)絡(luò)”，余凱強(qiáng)調(diào)因果推理的理論“現(xiàn)在應(yīng)該被提上議事日程”。

當(dāng)我們把目光再轉(zhuǎn)回1949年C.P.斯諾的晚宴，會(huì)驚覺第一代計(jì)算機(jī)奠基者和同時(shí)代偉大科學(xué)家的智慧碰撞，似乎已經(jīng)為今天困惑的我們提供了很多參考標(biāo)準(zhǔn)。雖然這個(gè)晚宴其實(shí)并不存在，而在達(dá)特茅斯會(huì)議召開之時(shí)，圖靈和維特根斯坦都已離世，無緣目睹曙光的到來，但經(jīng)過了半個(gè)多世紀(jì)的思想激蕩，人工智能又一次站在了科學(xué)的潮頭。

科學(xué)也有點(diǎn)像普通人總是搞不清楚的時(shí)尚，好比今天的女孩滿心期待地翻出母親年輕時(shí)的毛呢大衣，潮流總是一波又一波拍打上來，人工智能“學(xué)壞”除了是一個(gè)技術(shù)問題，也是一個(gè)倫理問題。只是當(dāng)你把目光從劍橋的房間收回，品味這幾十年的科學(xué)浪頭，往往會(huì)意識(shí)到，可能經(jīng)過目前這個(gè)并不太長的共存期，人類和機(jī)器遲早將會(huì)分道揚(yáng)鑣，就像幾千年前，人類游出大海，向豚類告別。