圖靈測試的明與暗

于 劍

(北京交通大學(xué)人工智能研究院 北京 100044)(交通數(shù)據(jù)分析與挖掘北京市重點實驗室(北京交通大學(xué)) 北京 100044)

如果追蹤現(xiàn)代人工智能(artificial intelligence, AI)的緣起，可以發(fā)現(xiàn)起導(dǎo)火索作用的就是圖靈測試[1].發(fā)展至達特茅斯會議，現(xiàn)代人工智能已經(jīng)可以算瓜熟蒂落了.因此，人工智能避不開圖靈測試.關(guān)于圖靈測試，已經(jīng)有非常多的研究，本文分4部分敘述.

1 圖靈測試

最原始的圖靈測試，也就是圖靈提出的圖靈測試[1].實際上起初機器模擬的是女人，不是范圍更大的人.當然，女人也是人，廣義上說模擬人也沒有錯.現(xiàn)在，圖靈測試一般是指模擬人.在1991年有人就專門設(shè)計這種比賽，比賽還有一個專門的獎(Loebner prize)，每年獎勵做的好的參賽隊伍.現(xiàn)在為止，能夠通過圖靈測試的還沒有.

那么通過了圖靈測試，是否就意味著機器具有人的智能了呢？對此，塞爾設(shè)計了一個特別的思想實驗來回答這一問題[2]，這個實驗的名稱叫中文實驗室.該實驗明確說明，即使通過了圖靈測試，機器具有的也只是人工智能，并不是人的智能.為什么說不是人的智能呢？原因很簡單：因為只是文字通過了測試，并不意味著現(xiàn)實中就能通過.

現(xiàn)實中，完全有可能文字通過了，可是其他方面不對.作為人，不光是通過文字理解世界，還要通過視覺、觸覺、聽覺、味覺等全面地感知世界.只有在所有方面通過，才可能算人的智能.1989年Harnad提出了完全圖靈測試(total Turing test, T3)[3],原始圖靈測試稱為T2.中國有一個真假美猴王的故事，可以用來說明所謂的T3測試.在真假美猴王這個故事里，眾多能力高超的神仙采取了各種各樣的測試手段，也分不出哪個是真的美猴王，哪個是假的美猴王.如果通過了這個測試，那就是通過了T3.對于人工智能的各種恐懼感，可能都起源于T3.一旦T3通過了，人就可以完全被替代了.因為可以造個機器人，可以完全把人代替了，而且誰都看不出真假，就像真假美猴王一樣.在這種情況下，要求人們不恐懼人工智能似乎也不現(xiàn)實.

但是，不論T2還是T3，是否真有實現(xiàn)的可能呢？這就需要深入討論.

2 圖靈測試的預(yù)設(shè)

要想知道T2或者T3能否實現(xiàn)，需要仔細研究T2以及T3的預(yù)設(shè).考慮到T3是T2的擴展，只需考慮T2的預(yù)設(shè)就可以了.要考慮圖靈測試的預(yù)設(shè)，一定要看圖靈生活在什么年代.圖靈生活在1912—1954年，這個時間段非常關(guān)鍵.所有的東西都需要放到歷史中看，因為沒有人能擺脫歷史的限制，沒有人不受限于歷史.現(xiàn)在有智能手機，圖靈時代肯定沒有智能手機，這是很自然的事情.圖靈發(fā)表圖靈測試的文章是在1950年[1].而到1953年，維特根斯坦出了一本書，叫《哲學(xué)研究》[4].這個順序不能亂，知道了這個順序之后，就可以理清很多事情了.

在《哲學(xué)研究》出版以前，一般假設(shè)概念是存在經(jīng)典定義的.如果某個概念沒有經(jīng)典定義，那么只能說明研究還不夠深入，需要繼續(xù)研究.這方面，希爾伯特的話最為經(jīng)典，他說“我們必將發(fā)現(xiàn)，我們終將發(fā)現(xiàn)”.什么是概念的經(jīng)典定義？概念的經(jīng)典定義由3部分組成：1)符號表示，名字表示概念的名稱；2)內(nèi)涵表示，由命題來表示；3)外延表示，就是概念要指稱世界的對象，要把對象一一列出來，即經(jīng)典集合表示.

這么說比較抽象，舉個具體的例子，比如素數(shù)這個概念的經(jīng)典定義，素數(shù)的符號表示在中文中就是“素數(shù)”，英文中為“prime number”，反正是一個名稱；它的內(nèi)涵表示就是“只能被1和自身整除的自然數(shù)”這個命題；它的外延表示就是集合{1,2,3,5,7,11,13,17,19,23，29，…}.有了概念的經(jīng)典定義之后，很多事情實現(xiàn)起來就非常容易.

在《哲學(xué)研究》出版以前，人們認為概念都可以像素數(shù)這個概念一樣具有經(jīng)典定義.在《哲學(xué)研究》出版以后，這個假設(shè)就不一定正確了.《哲學(xué)研究》出來之后，哲學(xué)界花了多年進行深入研究，最后基本上認可了這本書的觀點.這些共識傳播到計算機領(lǐng)域，就比較晚了，大約是本世紀初左右的事情.

在《哲學(xué)研究》出版以后，一般認為概念不一定存在經(jīng)典定義.如果概念沒有經(jīng)典定義，那么需要研究概念的其他表示，這是認知科學(xué)中的一個重要方向.《哲學(xué)研究》出版以后，概念是否存在經(jīng)典定義本身需要研究，有的存在，有的不存在.在《哲學(xué)研究》中，維特根斯坦已經(jīng)論證了日常生活中的大多數(shù)概念都不存在經(jīng)典定義.說的更加直白一點，要給出像素數(shù)那樣干干凈凈的經(jīng)典定義，對于日常生活中的很多概念是不可能的事情！

現(xiàn)在回過頭來看圖靈測試中的預(yù)設(shè).圖靈測試中預(yù)設(shè)概念都是經(jīng)典概念.可惜的是，這個預(yù)設(shè)并不一定成立.圖靈測試中預(yù)設(shè)了2個概念是經(jīng)典概念，一個概念是智能，一個概念是人.這2個概念都不具有經(jīng)典定義，下面給一個稍微仔細一點的說明.

1) 先說智能.莊子認為“知也者，爭之器也”[5]；霍爾認為智能的本質(zhì)是“注意應(yīng)該注意的事情”[6]；愛因斯坦認為“智能的真正表示不是知識而是想象”；王飛躍認為“智能是開放的情報，情報是封閉的智能”[7]；等等.可以發(fā)現(xiàn)智能的概念五花八門，到現(xiàn)在為止，并沒有一個大家都認可的定義.考慮到智能實際上是一個不斷擴展的概念，甚至未來也不可能存在一個大家公認的定義.因此，要想給出智能的一個經(jīng)典概念，目前看來并不可能.

2) 圖靈測試中的另外一個重要概念是人.關(guān)于如何定義人，從古至今，也一直是研究的重點.普羅泰戈拉認為“人是萬物的尺度，是存在的事物存在的尺度，也是不存在的事物不存在的尺度”，柏拉圖認為“人是沒有羽毛的兩腳直立的動物”[8]，馬克思認為“人是一切社會關(guān)系的總和”[9]等等，不一而足.據(jù)說，柏拉圖給出的這個定義就只存在了一天，因為第二天亞里士多德就在課堂上出示了該定義的一個反例——一只拔光了羽毛的雞.上面提到的這些人都非泛泛之輩，給出的定義也不是完全沒有參考價值.但是到現(xiàn)在為止，這些定義都沒有得到大家的完全認可.到目前為止，“人”這個概念尚沒有經(jīng)典定義.概念只要沒有經(jīng)典定義，在很多情形下就計算不了，計算不準.這導(dǎo)致圖靈測試中的人沒有了統(tǒng)一的標準或一致的判據(jù).其后果就是圖靈測試的重復(fù)性沒有理論保障.這次測試通過了，下次換一批人換一批任務(wù)說不定就通不過了.

由于人和智能這2個概念沒有經(jīng)典定義，說機器的智能超過人的智能，如果不做一定限制的話，就是一件沒有意義的事情.

從以上分析可以看出，圖靈測試是建立在概念存在經(jīng)典表示的預(yù)設(shè)之上的.但是，這個假定并不成立.即使進一步縮小范圍，對于“智能”和“人”這兩個在圖靈測試中的核心概念，也同樣不存在經(jīng)典表示.這對于圖靈測試帶來了致命的后果.

3 圖靈測試的明與暗

由于圖靈測試中預(yù)設(shè)概念存在經(jīng)典表示，對于圖靈測試中涉及的概念就劃定了嚴格的范圍，可以對問題進行封閉研究或者實驗.

但是，第2節(jié)已經(jīng)論證了這一預(yù)設(shè)不成立.這使得圖靈測試具有3個特點:1)問題不確定，問題完全開放.在圖靈測試中并沒有限定問題的范圍，所有的問題都可以問，是完全開放的，也就是說，圖靈測試中模仿的內(nèi)容或者任務(wù)是開放的.2)實驗中的人未定，實驗中的對象是開放的.實驗中的人是中國人？是3歲的小孩？是瘋子或者是聾啞人？等等這些都完全未定.3)圖靈測試中使用的語言未定，測試使用的語言是開放的.圖靈測試并沒有說指定用什么語言來問.如果用泰國語來問作者，那本文作者也是什么不知道，這個模擬就沒什么意義了.總之，原始的圖靈測試是開放測試.工程上要實現(xiàn)的話，一定要封閉實現(xiàn).就這點來說，圖靈測試實際上只是思想實驗，不是工程實驗.

雖然如此，圖靈依然是當之無愧的人工智能先驅(qū)者.由于時代的限制，圖靈測試中假設(shè)使用的概念都是所謂的經(jīng)典概念.既然假設(shè)都是經(jīng)典概念，那么“人”也是可定義的概念，雖然目前可能還給不出“人”的內(nèi)涵定義.考慮到概念的內(nèi)涵表示與外延表示的等價性，圖靈測試就避免了智能的內(nèi)涵式定義以及判定難題，將研究智能的重點放在智能的外在功能性表現(xiàn)上，使得智能從功能上看，似乎是工程上可以實現(xiàn)和判斷的，這極大鼓舞了早期人工智能研究者的熱情.

為了方便起見，原始的圖靈測試，可以稱為開式圖靈測試，或者簡稱圖靈測試，它是開放式的，對于問題、人與語言都不封閉.但是，現(xiàn)在所有的說通過圖靈測試的，它一定是封閉式的.參加測試和判定的人不是抽象意義的人，一定是一個或一些特殊的人，問題一定是特殊的問題，語言要選定特殊的語言.封閉實現(xiàn)的圖靈測試，可以稱之為閉式圖靈測試.現(xiàn)在宣稱實現(xiàn)了圖靈測試的，其實都是閉式圖靈測試.當然，即使閉式圖靈測試實現(xiàn)了，進步也很大.即使這樣，也必須考慮閉式圖靈測試在很多情況下是存在嚴重問題的，比如說模擬某個人是否合法？是否合乎倫理？

到現(xiàn)在為止，在很多特殊情況下，在很多具體任務(wù)下，閉式圖靈測試已經(jīng)成功了，已經(jīng)給生活帶來了很多的好處，這個大家都感受得到，但是也帶來了一些壞處.具體說：機器寫作、圖像合成、視頻合成、語音合成技術(shù)已經(jīng)面向大眾了.限定在這些特定任務(wù)上，說通過了圖靈測試并不是開玩笑.這些特定任務(wù)的成功也絕不是沒有社會代價.目前，鑒定數(shù)據(jù)真假已經(jīng)成為亟待解決的挑戰(zhàn)性問題了.現(xiàn)在人們接收的很多信息都是機器制造的，有時都不知道交流的對象到底是不是人，也搞不清楚信息的真假.這種狀況已經(jīng)構(gòu)成了現(xiàn)實的威脅.

為什么人工智能的有限成功會造成這樣嚴重的后果呢？這需要更加深入的分析.

4 人工智能的基本假設(shè)

人工智能已經(jīng)取得了令人矚目的成績.但是AI的基本假設(shè)是什么？到現(xiàn)在為止，人工智能發(fā)展遇到了什么樣的瓶頸？要回答這個問題，還是要通過分析圖靈測試來尋根問底.

眾所周知，語言是圖靈測試的關(guān)鍵，語言也是正常人的關(guān)鍵標志之一.正常人都是通過語言來交流互動的.這里說的語言不一定是通常所說的語言，也可以是盲啞人的手語.對于語言，有一個基本的事實：語言的基本單位是詞，語言自身也是一個詞.詞是概念名，人工智能也是一個詞，也是一個概念名，因此將概念研究清楚，對于語言圖靈測試和人工智能都至關(guān)重要.

概念的基本功能有3個：1)指物功能.概念指向客觀世界的對象，表示客觀對象的可觀測性.對象的可觀測性指的是對象或者儀器的直覺感知特性，不依賴于人的主觀感受.2)指心功能.要指向人的心智世界里的對象，代表心智世界里的對象表示.3)指名功能.要指向認知世界或者符號世界表示對象的符號名稱，這些符號名稱可以組成各種語言.

舉例來說明概念的功能.比如“你那么會抬杠，怎么得不到停車場這份工作呢？”這句話，前面的抬杠是比喻用法，是指心，后面的抬杠是指物.一句話里，同一個抬杠，已經(jīng)從指心轉(zhuǎn)指物.再比如“若不撇開終是苦”這句話，這個若字是指名，就是指“若”這個字本身，撇開終是苦，那苦的話你心里感覺到苦，就是指心，是借名以指心，整個句子是從指名轉(zhuǎn)指心.“各能捺住即成名”就是指名轉(zhuǎn)指物.“能用黑筆寫紅字”這又是指物轉(zhuǎn)指名.詩句“抓住漂亮詞藻把它捏死”，這又是所謂的指心，把在物理世界不可能的事情轉(zhuǎn)化到心理世界了.

AI也是一個概念，要實現(xiàn)人工智能，就得實現(xiàn)人工智能這個概念所具有的3個功能，即從3個方面實現(xiàn)AI，指物指心指名，這正好對應(yīng)人工智能的3個主義.AI指名功能對應(yīng)符號主義，AI指物功能對應(yīng)行為主義，AI指心功能對應(yīng)連接主義.到現(xiàn)在這3條實現(xiàn)人工智能的路線都取得了非常多的成就.

符號主義認為物理符號假設(shè)是實現(xiàn)智能的充要條件.人工智能就是符號的計算，只要符號正確就一切正確.代表性的成果是機器證明、機器翻譯、專家系統(tǒng).連接主義認為所有的概念都在大腦里一個表示，這個表示就是神經(jīng)網(wǎng)絡(luò).目前最具代表性的AI技術(shù)，深度學(xué)習(xí)，就屬于連接主義的，AI的這次熱潮也是由它引起的.行為主義認為智能取決于感知和行動，不需要知識、不需要表示、不需要推理，只需要表現(xiàn)出來就行了.最有代表性的成果就是波士頓的動力機器人.

在過去，這三大流派曾經(jīng)競爭的非常厲害，比如符號主義，又稱邏輯主義，曾經(jīng)拒發(fā)連接主義的文章，以至于連接主義的研究者不得不另立門戶.人工智能有個著名的會議叫世界計算智能大會(WCCI)，就是由那些不屬于傳統(tǒng)的符號主義的研究者們創(chuàng)立的會議，所謂計算智能主要是指模糊邏輯、神經(jīng)網(wǎng)絡(luò)和演化計算.這其中，模糊邏輯不屬于傳統(tǒng)的符號主義，神經(jīng)網(wǎng)絡(luò)屬于典型的連接主義，演化計算屬于行為主義.連接主義也曾經(jīng)有占上風(fēng)的時候，20世紀80年代曾經(jīng)提出過人工智能已死、神經(jīng)網(wǎng)絡(luò)萬歲的口號.行為主義，在歷史上又稱進化主義或者控制論學(xué)派.據(jù)說之所以叫人工智能是因為要與控制論做切割.

到現(xiàn)在，這3個流派已經(jīng)不象歷史上斗爭的那么厲害，已經(jīng)在合作了.比如在機器學(xué)習(xí)中，統(tǒng)計機器學(xué)習(xí)基本上是按照符號主義走的，深度學(xué)習(xí)基本上是連接主義這條路線，所謂的強化學(xué)習(xí)屬于行為主義.機器學(xué)習(xí)已經(jīng)不是一種單一的流派了.

曾經(jīng)，這三大流派認為只要實現(xiàn)自己的路線就可以實現(xiàn)人工智能.符號主義說只要實現(xiàn)指名功能就可以了，指名正確就一切正確；連接主義說只要實現(xiàn)指心功能就行了，指心正確就一切正確.行為主義說只要實現(xiàn)指物功能就夠了，只要能指物正確，就什么都正確.

為什么會這樣說呢？令人驚訝的是，導(dǎo)致這3種流派的居然是一個共同預(yù)設(shè)，概念的指名指物指心3個功能是等價的.如果概念的3個功能確實等價的話，當然只要實現(xiàn)任意一種就可以了.這個預(yù)設(shè)對嗎？如果概念有經(jīng)典表示，這個預(yù)設(shè)確實正確.原因很簡單，概念的經(jīng)典表示有5條預(yù)設(shè)：外延表示是經(jīng)典集合論；內(nèi)涵表示是命題表示；外延表示與內(nèi)涵表示對應(yīng)相同的概念名；同一個概念表示對任何人都相同，不依賴于個人特性；內(nèi)涵表示和外延表示用來指稱對象的時候功能完全一致.容易知道，在這5個預(yù)設(shè)之下，概念的指名、指物、指心3個功能是等價的.

概念的三指等價具有非常大的好處.如果每個人使用的概念都滿足三指等價，這樣的社會就是一種誠信社會，計算簡單，交易成本、溝通成本很低.理想的社會形態(tài)都以三指等價為基本假設(shè)，自然科學(xué)都是以概念的三指等價為預(yù)設(shè)的，機器學(xué)習(xí)公理化也是以概念的三指等價為基本假設(shè)的[10].社會上，也有很多通過概念的三指等價來表達自己的觀點和情緒的事例.現(xiàn)實生活中為了保證三指等價也做出了很多制度保證，像政府、學(xué)校、法律、警察、軍隊、監(jiān)獄等.

當然三指等價也不是沒有害處的，害處就是易輕信、易上當、易迷信，在極端情形下會產(chǎn)生嚴重的悖論.例如：迷信中的“扎小人”，其實就是假設(shè)三指等價，認為扎一個人的名字就等于扎到那個人了.數(shù)理邏輯中，有一個著名的烏卡謝維茨悖論“C：C不是一個真語句”[11].如果概念的指名指物指心等價，那么就自然會得出如下結(jié)論：C是一個真語句，當且僅當C不是一個真語句，這顯然是一個矛盾.如果應(yīng)用本文的觀點，在三指不等價的情況下，烏卡謝維茨悖論并不會產(chǎn)生.因為C只是指名的話，即C只是一個名字，則C這個名字不是一個真語句，實際上是一個真語句，故矛盾消除.換句話說，如果概念的三指不等價，烏卡謝維茨悖論就不成立了.實際上，按照這個思路可以解決歷史上的很多語義悖論，在此就不一一詳細論述.

經(jīng)典概念在現(xiàn)實生活中是不一定存在的.比如概念的外延表示，誰能保證與概念對應(yīng)的經(jīng)典集合一定存在？比如作者本人，到底算不算禿頭？不同人有不同的看法，有人覺得是，但也有人覺得不是.顯然，禿不禿頭本身不是一件黑白分明的事情，并不符合經(jīng)典集合的定義.對于概念的內(nèi)涵表示，其可以外顯的命題表示也并不一定存在.從某種意義上，維特根斯坦一生就研究概念這么一件事情，前半生堅信概念存在經(jīng)典定義，認為“凡是能夠說的事情，就能夠說清楚”，出了一本書，叫《邏輯哲學(xué)論》[12]；后半生發(fā)現(xiàn)不是能夠說的事情都能夠說清楚，論證了概念不一定存在經(jīng)典定義，出了一本《哲學(xué)研究》[4]，否決了西方自柏拉圖以來的信念.對于具體的概念來說，概念名也可能未知，概念的假設(shè)外延表示和內(nèi)涵表示也不一定同名，因為有研究表明日常生活中一個白種人平均每天要說一次謊[13].說謊就是心里想的跟嘴上說的不一樣，那就是所謂概念名不一樣.概念也不一定存在唯一表示，認知科學(xué)的研究告訴我們，實際上每個人對概念的表示都依賴于自身的條件，比如一個盲人對顏色的感知、對顏色的概念跟正常人對顏色的概念實際上不可能一樣.概念經(jīng)典表示要求內(nèi)涵表示與外延表示用來指稱對象的時候效果一樣，這個要求在現(xiàn)實生活中太高了.比如中國歷史上曾經(jīng)有“指鹿為馬”的著名故事.西方同樣有類似的事情，西方著名的歷史學(xué)家塔西佗《歷史》有一段話說得非常好，“在這段時間里，我們享有這樣一種稀有的幸福：我們在這一時期里可以按照愿望去想，按照心里想的去說”[14].可見要求概念的內(nèi)涵表示與外延表示指稱等價太難.

現(xiàn)實生活中，雖然三指等價的情形也很常見，但概念的三指不一定等價的情形也不少見，甚至也很不算罕見.

不遵循概念的三指等價的，現(xiàn)在一般不在科學(xué)范圍內(nèi)研究，屬于倫理、心理、哲學(xué)、文學(xué)、藝術(shù)、醫(yī)學(xué)、政治、軍事等研究范疇.社會科學(xué)基本不以概念的三指等價為基本假設(shè).例如哲學(xué)，西方著名的哲學(xué)家奧斯汀在《如何以言行事》[15]中明確論述了言語與行事之間的關(guān)系，即指名與指物的復(fù)雜關(guān)系，指名跟指物不一定等價.例如軍事，軍事名篇《孫子》[16]開篇即說，“兵者詭道也，故能示之不能，用而示之不用，近而示之遠，遠而示之近”，終篇即是《用間》.例如政治，馬基雅維里所著的《君主論》[17]標志著西方政治學(xué)的開端，其中的2章即為《論君主應(yīng)當怎樣守信》、《應(yīng)該怎樣避開諂媚者》.當然概念的指名指物不等價也會導(dǎo)致很多嚴重的后果，比如欺詐行為會導(dǎo)致犯罪.在財務(wù)審計中，賬實相符從來不是當然的假設(shè)，而是必須驗證的事項，即財務(wù)審計的一項重要內(nèi)容是保證指名與指物等價，如果不等價，還要找出彼此其間的差距.

概念的三指不等價在現(xiàn)實生活是有很多優(yōu)勢的：它包含的信息更復(fù)雜，生活中有些人會上當受騙，是因為潛意識中相信三指等價，認為說什么就應(yīng)該是什么，說的就應(yīng)該是心里想的，但實際不是這么回事，導(dǎo)致結(jié)果完全與預(yù)料不一樣.這樣一來，三指不等價對三指等價來說就有更多的行動自由，決策更多變.

當然，三指不等價也有很多缺點.比如，概念的三指不等價時，其信息表示更復(fù)雜，交流成本極高，需要“聽其言、觀其行、明其心”.觀察一個人需要考慮言、行、心3個方面，言、行、心任一方面都沒有辦法充分反映一個人的本質(zhì)，這導(dǎo)致人們之間的信任度嚴重降低，交易成本急劇升高.在這種情況下，為了保證概念的三指等價，要簽訂合同、要有擔(dān)保、要買保險，以至于設(shè)立對沖基金，發(fā)展至今甚至要自產(chǎn)自銷.當概念的三指不等價時，就需要更加復(fù)雜的場景計算.

一旦三指不等價，AI三大流派都面臨巨大的問題.符號主義目標是指名正確，保證不了其指物指心正確.連接主義目標是指心正確，保證不了其指物指名正確.行為主義目標是指物正確，保證不了其指心指名正確.在三指等價時，AI至少是努力不騙人的；而在三指不等價時，有時AI可就會或有意或無意的騙人.本文題目中的“暗”就是指這一點.面對這一難題，三大流派都會出現(xiàn)巨大的困難.對于人來說，概念的三指不等價會帶來麻煩，但并不是不能處理.人本來就能夠在悖論中生存，但機器顯然不行.

當面臨悖論時，未來的人工智能怎么辦？這是人工智能面臨的重大理論問題，本文不再展開討論.

5 結(jié) 論

本文的結(jié)論有2點：第一，圖靈測試是思想實驗，不是工程實驗，能夠工程實驗的是閉式圖靈測試.因此，凡是建立在原始圖靈測試通過假設(shè)之上的概念都是不成立的.第二，AI的基本假設(shè)是概念的指心指物指名功能等價，這與現(xiàn)實有時會發(fā)生劇烈的沖突，在人機對話研究中這一點特別明顯.所以，目前對AI來說，確確實實需要更加深入的理論研究，AI的理論假設(shè)已經(jīng)面臨巨大的挑戰(zhàn).

本文主要思想來自作者在CNCC2019會士論壇的報告，是個人的一些不太成熟的看法，不一定正確.如果有錯誤的地方，歡迎批評指正！