• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能控制五十年回顧與展望:傅京孫的初心與薩里迪斯的雄心

    2021-12-01 08:25:06王飛躍
    自動化學(xué)報 2021年10期
    關(guān)鍵詞:人工智能智能

    王飛躍

    五十多年前,美籍華人傅京孫教授(見圖1)在IEEE自動控制匯刊上發(fā)表長文[1],全面深入地綜述并展望了學(xué)習控制的現(xiàn)狀與未來.之后,他意猶未盡,于1971年初又補充了一篇短文[2]“學(xué)習控制系統(tǒng)與智能控制系統(tǒng):人工智能與自動控制的交叉”,進一步討論人工智能方法與技術(shù)在控制和自動化中深入且系統(tǒng)化的應(yīng)用之途徑.就是這篇短文,正式開啟了“智能控制(Intelligent control)”這一嶄新的多學(xué)科交叉研究領(lǐng)域.

    圖1 智能控制之父傅京孫與薩里迪斯Fig.1 The father of intelligent control:Fuand Saridis

    盡管在文獻[2]之前,已有許多人提出將人工智能與自動控制結(jié)合,甚至已有“人工智能控制(Artificial intelligence control)”的說法出現(xiàn)[3],特別是在機器人系統(tǒng)的研究方面,控制理論與人工智能更是早已被密切地聯(lián)系在一起[4?6].但在科學(xué)文獻上,是傅京孫第一次提出“智能控制”一詞并給出清楚的定義,認為人工智能與控制工程的有機結(jié)合,必將導(dǎo)致從學(xué)習控制到智能控制的自然延伸和發(fā)展.傅京孫的遠見和愿景,激發(fā)了研究人員對智能控制的廣泛興趣,成為推動此領(lǐng)域研究的催化劑.

    隨后,從70年代初直到90年代中期,傅先生的同事薩里迪斯教授(見圖1)及其學(xué)生以信息論中的熵概念為核心,引入運籌學(xué)和決策論,提出了智能控制系統(tǒng)的分層遞階結(jié)構(gòu)和學(xué)習算法,闡述了傳統(tǒng)控制、學(xué)習控制、自組織控制、自適應(yīng)控制、機器人控制和智能控制之間的天然聯(lián)系(如圖2所示),并組織相應(yīng)專業(yè)學(xué)會、研討會、國際學(xué)術(shù)會議與期刊,為這一新興領(lǐng)域的早期發(fā)展與成長壯大作出了重要貢獻[7–15].

    圖2 智能控制學(xué)科的定義與框架Fig.2 Saridis' inspiration for intelligent control

    實際上,智能控制與人工智能同根同源,是智能方法走向應(yīng)用進而完成其最終改造世界之使命所必不可少的一個重要且關(guān)鍵性環(huán)節(jié)[16?17].同人工智能一樣,關(guān)于智能控制的原始思想和實踐可以追溯到人類發(fā)展歷史的早期,因為探索智能并利用相關(guān)成果去認識和改造世界是人的天性.上世紀30 年代提出的圖靈機和隨之興起的自動機研究熱潮,加之維納的控制論及其伴生的人工智能,特別是學(xué)習機器和學(xué)習控制的理論普及和應(yīng)用深入,促使人工智能控制、智能自動機、移動自動機等概念和原型系統(tǒng)應(yīng)運而生,最終形成了智能控制這一獨立的研究應(yīng)用領(lǐng)域.

    今天,深度學(xué)習[18]、寬度學(xué)習[19]、對抗學(xué)習[20?21]、平行學(xué)習[22?23]等新智能算法已將人工智能的研究與應(yīng)用推向了一個新的歷史水平,引發(fā)世界范圍的關(guān)注與興趣.針對這一重大發(fā)展機遇,為了確保創(chuàng)新型國家和科技強國的建設(shè),中國國務(wù)院于2017 年7 月20 日發(fā)布《新一代人工智能發(fā)展規(guī)劃》,明確提出許多智能控制的研發(fā)要求,包括自主協(xié)同控制、優(yōu)化決策、平行控制與管理等[24].一方面,智能控制的發(fā)展可以極大地促進我國新一代人工智能發(fā)展進程;另一方面,智能控制的研發(fā)是實現(xiàn)智能制造、建設(shè)制造強國之根本.無論是流程工業(yè)智能化、離散過程智能化、網(wǎng)絡(luò)化協(xié)同制造智能化,還是生產(chǎn)全生命周期活動管理智能化,智能控制都是其從信息化和自動化邁向智能化的基礎(chǔ)和核心,是實現(xiàn)智能工廠企業(yè)和智慧社會的必要條件.

    值此智能控制50 周年華誕之際,本文將基于個人的經(jīng)歷和認識,對人工智能和智能控制的早期歷史加以梳理,并對其未來的發(fā)展予以展望,以期促進這一領(lǐng)域的進一步發(fā)展和更加繁榮昌盛.

    1 智能起源:Being vs.Becoming

    本質(zhì)上,人類的文明史就是人類智能的演化歷史.古代中國《詩經(jīng)》 的賦、比、興之文學(xué)表現(xiàn)手法,古希臘柏拉圖《對話錄》 的文法、邏輯、修辭之哲學(xué)辨證方法,都是人類智能知識化的早期展現(xiàn).在人類發(fā)展的第一軸心時代(Axial age),人類經(jīng)歷了自己的人性大覺醒,哲學(xué)由此而興[25?26].中文的“哲”字之基本釋義就是“智慧”,而古希臘哲人更是直截了當?shù)匕选皭邸迸c“智慧”的組合作為“哲學(xué)”一詞的定義及哲學(xué)作為一門學(xué)問的目的.顯然,智能的研究與哲學(xué)的探索同根同源,同為熱愛與追求智慧而生.

    在西方文明的語境中,古希臘的“七賢之首”泰勒斯(見圖3)是“哲學(xué)和科學(xué)的始祖”、“古希臘第一位數(shù)學(xué)家”,提出了“世界的本原是什么?”之問題和“萬物源于水”之回答,還是物理、天文、幾何、邏輯推理等的開啟者.作為唯物主義傳統(tǒng)的開創(chuàng)者,泰勒斯認為“水是最好的”、“萬物有靈”.其學(xué)派傳人赫拉克利特開創(chuàng)了樸素的辯證思想,但相信“萬物源于火”.畢達哥拉斯認為“萬物皆數(shù)”,赫氏由火引申出“萬物皆流”與“萬物皆動”,而且“對立統(tǒng)一”、“和諧”一致,使“變化(Becoming)”成為哲學(xué)的第一個核心理念.赫氏強調(diào)變化,而且“斗爭是產(chǎn)生萬物的根源”,由此成為最早的“過程哲學(xué)家”.另一學(xué)派的巴門尼德(見圖3)創(chuàng)造了基于“邏各斯”的形而上學(xué)論證形式,認為世界的本原是單一不變的,開啟了唯心主義的傳統(tǒng),并使“存在(Being)”成為“Becoming”后的另一個核心且更基本的哲學(xué)理念.他認為,存在,即Being,才是“真理之道(The way of truth)”;變化,即Becoming,只是“觀點之道(The way of opinion)”.因為,只有存在(Being)才是永恒、不動、連續(xù)不可分、唯一的真實,只有這樣的抽象理念才可以被思想;而變化(Becoming)涉及感性世界的具體事物及其改變,是不真實的存在,是假象,所以不能被思想.巴門尼德堅信沒有存在之外的思想,被思想的東西與思想的目標是同一的,這與近代哲學(xué)家笛卡爾的“我思故我在”幾乎同出一轍,開啟了唯物與唯心、邏輯與計算、Being 與Becoming 的哲學(xué)之爭.實際上,這一哲學(xué)論爭,自始至終貫穿在智能研究的歷史之中[27–33].

    圖3 古希臘哲學(xué)與科學(xué)思想的起源Fig.3 Ancient Greek philosophica/scientific thoughts

    在這些思想的影響下產(chǎn)生了“希臘三賢”(見圖4),即蘇格拉底、柏拉圖和亞里士多德,師生三代相承奠定了西方哲學(xué)和科學(xué)的基石.首先,柏拉圖將蘇格拉底身體力行的對話辯證方式記錄下來,發(fā)明了書寫形式的辯證方法,而且認為宇宙是由實體的永恒真實之理念世界(Ideals,theory of forms)及其影子的暫時變動之物質(zhì)世界組成,開啟了后來世界由“物質(zhì)實體”和“精神實體”構(gòu)成的二元論和客觀唯心主義哲學(xué).其次,亞里士多德將柏拉圖的虛實二體一體化,并以“三段論”將其辯證法抽象為形式邏輯,不但成為現(xiàn)代邏輯的基礎(chǔ),更是現(xiàn)代人工智能和智能科學(xué)的基石,開創(chuàng)了科學(xué)邏輯推理的理性傳統(tǒng)和唯物辯證法的哲學(xué)思想.其格言“人類是天生的社會性動物”與馬克思“人是一切社會關(guān)系的總和”之觀點一致,是未來智能科學(xué)特別是系統(tǒng)化智能科技發(fā)展的指南.

    圖4 希臘三賢:第一軸心時代西方哲學(xué)和科學(xué)的奠基者Fig.4 The three sages of Greece:Founders of western philosophy and science in the first axis age

    在第二軸心時代,歐洲文藝復(fù)興,人類理性大覺醒,產(chǎn)生現(xiàn)代科學(xué).首先是以笛卡爾、斯賓諾莎和萊布尼茨(見圖5)為代表人物的理性主義哲學(xué)之興起,其次是以伽利略、牛頓(見圖5)和萊布尼茨為主要開拓者的物理數(shù)學(xué)之現(xiàn)代化進程的開始.特別是牛頓與萊布尼茨之間,差不多是柏拉圖與亞里士多德之間關(guān)系的相反,不但共同發(fā)明微積分,而且都是計算主義者.萊布尼茨還堅信思維和邏輯推理也可以計算,認為存在(Being)中“萬物皆數(shù)”還不夠,還必須在變化(Becoming)里“萬理可推”.為此,他試圖將其發(fā)明的二進制與中國古代的陰陽八卦相聯(lián)系,并認定古中國的原始象形文字與其創(chuàng)造的“普適語言(Universal characteristic)”在思想上一致,希望由此發(fā)明“理性邏輯者的微積分(Calculus ratiocinator)”,而不只是普通的微積分.這些努力最后成就其“精神的原子”Monad 之理念,然而卻“不幸”被后人演化成“單子論(Monadology)”的哲學(xué).有幸的是,在人工智能興起的前夕,范疇(Category)數(shù)學(xué)出現(xiàn),Monad 繼而成為這一新數(shù)學(xué)的核心理念,將來或許成為面向智能科技的新一代數(shù)學(xué)之基礎(chǔ)[27–30].

    圖5 第二軸心時代西方哲學(xué)與科學(xué)奠基者Fig.5 Founders of western philosophy and science in the second axis age

    此后,以德·摩根、巴貝奇和布爾為代表的“英國三杰”(見圖6)以“三位一體”的方式大大推進了計算邏輯和思維之機械化、數(shù)字化和形式化的進程,為后來希爾伯特(見圖7)的新幾何觀及其數(shù)學(xué)綱領(lǐng)、圖靈的自動機和弗雷格的數(shù)理邏輯理論奠定了基礎(chǔ)和進一步提升的臺階.特別是布爾于1854 年發(fā)表的《思維定律》,集亞里士多德到萊布尼茨的邏輯思想于大成,由二進制衍生出布爾代數(shù),開啟了符號和數(shù)學(xué)邏輯的現(xiàn)代化進程,為現(xiàn)代電路和計算機設(shè)計、信息化和智能化提供了理論和方法基礎(chǔ)[32?33].

    圖6 現(xiàn)代計算、邏輯和智能科學(xué)的開拓者Fig.6 Pioneers of modern computing,logic and intelligent science and technology

    2 人工智能:自動機與控制論

    20 世紀的第一年,德國數(shù)學(xué)家希爾伯特懷著確立德國數(shù)學(xué)世界地位的歷史使命,在巴黎舉行的第二屆數(shù)學(xué)家大會上提出影響至今的“23 個問題”.然而,影響更加深遠的卻是會上作為形式主義代表的他與直覺主義代表的法國數(shù)學(xué)家龐加萊(見圖7)之爭,不但改變了數(shù)學(xué)的歷史,而且無意之間播下了人工智能這一學(xué)科的種子,這就是希爾伯特數(shù)學(xué)機械化的思想.

    圖7 人工智能的數(shù)學(xué)推動力Fig.7 Mathematical origin of artificial intelligence

    希爾伯特相信,整個數(shù)學(xué)體系都可以嚴格公理化.而且,整個數(shù)學(xué)是完備的:其中每一個數(shù)學(xué)命題都有一個數(shù)學(xué)證明;整個數(shù)學(xué)又是一致的:導(dǎo)出的每一個數(shù)學(xué)命題在不會自相矛盾的同時,整個數(shù)學(xué)還是可決策或可判定的,就是所有的數(shù)學(xué)命題都可以利用有限次正確的數(shù)學(xué)步驟進行判定,因此存在通過有限程序最終判定一個數(shù)學(xué)命題對錯的“算法”.簡言之,就是整個數(shù)學(xué)具備“都有、都對、都行”的三大保證:告之公理、予之定理,一個不剩,一個不錯,并且可以機械化進行.這就是后來稱之為“希爾伯特綱領(lǐng)”的宏大愿景.

    從人工智能的角度來看,希爾伯特希望得到的,遠超過今天信仰通用人工智能之人士的夢想,準確地反映了刻在其墓志銘上的鋼鐵般意志:“我們必須知道,我們必將知道”.相當程度上,希爾伯特與龐加萊之爭,反映了后來人工智能研究中基于符號的邏輯智能與基于認知的計算智能兩條路線之爭.當時,龐加萊認為:除了邏輯、推理之外,人的作用,特別是人的直覺,在數(shù)學(xué)中具有不可動搖的地位.但希爾伯特的觀點,讓當時的許多數(shù)學(xué)家,特別是年輕人“熱血沸騰”,激辯之余,更激動萬分,他們的口號是:“打起你的背包,到哥廷根去!”,投入這場數(shù)學(xué)革命,構(gòu)造新世紀宏偉的數(shù)學(xué)大廈.或許,希爾伯特的學(xué)生外爾的描述更加生動準確:“希爾伯特吹響了他的魔笛,成群的老鼠紛紛跟著他躍進了那條河”.問題是哪條河? 什么河?

    羅素就是這些年輕數(shù)學(xué)家中最杰出的代表之一.聽到希爾伯特報告之前,他一直擔心數(shù)學(xué)大廈即將傾倒,認為是建在危險的地基之上,這就是后來被稱之為“羅素悖論”的集合論矛盾.在從巴黎大會返程的船上,羅素就開始同自己的老師懷德海(見圖7)策劃,如何為希爾伯特的想法構(gòu)造堅強的邏輯基礎(chǔ).羅素堅信亞里士多德的原始邏輯定義:邏輯就是“新”和“必須”的推理,“新”在于邏輯讓我們學(xué)到未知的,“必須”是因為其結(jié)論是不可避免的.

    結(jié)果就是羅素和懷德海費盡十年心血成就的三卷本《數(shù)學(xué)原理》,書名與牛頓的不朽之作自然哲學(xué)中的《數(shù)學(xué)原理》 同名.或許在羅素心里,牛頓的《數(shù)學(xué)原理》 把一個機械的世界化為按物理定律運行的數(shù)學(xué)世界,這次他們要把這個數(shù)學(xué)世界再化回由算法控制的機械世界,形成一個完美的閉環(huán)世界,就是今天我們追求的智能世界.

    《數(shù)學(xué)原理》 的問世,改變了當時許多學(xué)者的研究生涯特別是在科學(xué)相對不算發(fā)達的美國,反響更大.維納、麥卡洛克、皮茨(見圖8)就是當時三位因此書而改變命運并走到一起研究智能的美國學(xué)者.維納原本對生物研究感興趣,讀博士時開始研究哲學(xué),讀了《數(shù)學(xué)原理》 后專攻數(shù)理邏輯,畢業(yè)后赴劍橋隨羅素進一步深造,后多次赴歐與數(shù)學(xué)家哈代和希爾伯特學(xué)習合作,并因此在上世紀20 年代中期就結(jié)識了希爾伯特的助手馮·諾伊曼和邱奇等年輕學(xué)者.麥卡洛克大學(xué)時就潛心學(xué)習《數(shù)學(xué)原理》,認為大腦最頂層的神經(jīng)元之間相互連接的方式同《數(shù)學(xué)原理》 中描述的邏輯關(guān)系一致,自己還從心理學(xué)轉(zhuǎn)行專門研究大腦,后來在耶魯勾畫了世界上第一張大腦皮質(zhì)的機能解剖圖,并赴芝加哥建立大腦實驗室.皮茨更是傳奇般地因為《數(shù)學(xué)原理》 而從社會底層的一個連小學(xué)都沒有畢業(yè)的少兒一躍成為羅素和麥卡洛克的朋友,最后成為維納的博士生,一起制造了智能科學(xué)發(fā)展史上一段令人感嘆、使人心碎的歷史悲劇.

    圖8 計算智能與人工智能的“金三角”Fig.8 Gold triad in artificial intelligence and computing intelligence

    維納從1925 年開始與布什合作研究計算機,并在布什的幫助下招收李郁榮(見圖9)為他的第一個博士生可能也是唯一的工程博士,一起展開各種模擬網(wǎng)絡(luò)的研究[34].然而,與布什不同,維納認為計算機應(yīng)當基于數(shù)值而非模擬信號,二進制而不是十進制,但布什對此不太確信,二人之間因此產(chǎn)生分歧.在李郁榮的幫助下,維納對于反饋,特別是負反饋和電路網(wǎng)絡(luò)中的循環(huán)因果現(xiàn)象產(chǎn)生了極大的興趣.除了兩人一起發(fā)明了李?維納網(wǎng)絡(luò)并由此延伸成為現(xiàn)代通信技術(shù)的基礎(chǔ),還萌生了“受負反饋和循環(huán)因果邏輯支配的有目的性的行為”是實現(xiàn)智能之本質(zhì)的思考,成為后來創(chuàng)立控制論的重要因素.維納曾希望在清華大學(xué)研究計算機,因向MIT 采購器件的建議被布什否決而作罷,但他仍把自己于1935 年~1936 年在清華大學(xué)與李郁榮合作這一時期視為控制論的創(chuàng)立時間,正是這一情況的反映.回美之后,維納在馮·諾伊曼家里住了4 天,介紹了他同布什關(guān)于計算機的合作和他在清華大學(xué)的工作,并推薦馮·諾伊曼赴清華大學(xué)訪問,卻因盧溝橋事變未能成行.維納后來回憶:“在我的職業(yè)生涯中,如果說有一個分界線,標志著從科學(xué)學(xué)徒到一定程度上能獨當一面的大師,那么我認為是1935 年的中國之行.”

    圖9 維納的朋友圈:生理、通信、認知Fig.9 Friends of Wiener

    麥卡洛克是1942 年5 月在梅西基金的一個交叉學(xué)科研討會議上,從維納的好友羅森布魯斯(見圖9)博士了解到維納和他的團隊關(guān)于循環(huán)因果的思想和研究,立即意識到這種新的因果關(guān)系不但支配著生物和機器的有目的性行為,而且還為解決一直困惑他的神經(jīng)元模型中時間表示問題提供了思路.實際上,循環(huán)因果對他再自然不過,因為大腦中的神經(jīng)元只能首尾相連,所以在他眼里也只能因果循環(huán).梅西會后回到芝加哥,他立即同皮茨討論,在維納、羅森布魯斯和維納助手畢奇洛(見圖9)三人于著名的《科學(xué)哲學(xué)》 上發(fā)表目的論(Teleology)的短文[35]后不久,他們也共同發(fā)表了關(guān)于人工神經(jīng)元的“McCullock-Pitts”模型[36].1943 年的這兩篇文章,分別開啟了認知科學(xué)和神經(jīng)元網(wǎng)絡(luò)的研究,是計算智能的奠基性工作,更是今天我們有深度學(xué)習和AlphaGo 技術(shù)的原因[37].

    與其在美國的影響效果相反,《數(shù)學(xué)原理》 在歐洲大陸喚起了三位年輕的數(shù)學(xué)天才,結(jié)果卻使希爾伯特宏圖轟然塌陷.先是1930 年哥德爾(見圖10)把研究《數(shù)學(xué)原理》 作為博士論文課題,在希爾伯特發(fā)表“我們必須知道,我們必將知道”退休演講兩天之前的同一會場,宣布其“不完備定理”,用羅素和懷德海的邏輯體系證明希爾伯特的數(shù)學(xué)不可能完備又一致,而且人類真的在數(shù)學(xué)上有不可知的東西[38].緊接著,1936 年圖靈在哥德爾工作的基礎(chǔ)上提出圖靈機,在不可推理之后定義了可計算問題,順手解決了希爾伯特關(guān)于決策的第十問題[39].后來發(fā)現(xiàn),在圖靈之前,邱奇解決了同樣的等價問題,不過用了遞歸函數(shù)和λ-Calculus 的概念[40],一時難以讓人了解其真正意義,這就是后來圖靈由劍橋赴美隨邱奇攻讀博士學(xué)位的原因.真正了解并向世人介紹和幫助哥德爾和圖靈及其工作的第一人就是馮·諾伊曼,他為哥德爾在普林斯頓高等研究院謀得一席之地,推薦圖靈獲得獎學(xué)金成為普林斯頓的研究生.

    圖10 邏輯智能的數(shù)學(xué)之源Fig.10 Mathimatical origin of logic intelligence

    哥德爾的不完備定理,深刻地揭示了人類理性有限的本質(zhì),后來人工智能的4 位主要創(chuàng)始人之一的司馬賀(見圖11)不但獲得計算機的圖靈獎,還因在經(jīng)濟和管理中倡導(dǎo)“有限理性 (Bounded rationality)原理”獲得諾貝爾獎,再次說明哥德爾工作的重要意義.由此,人類意識到其進一步的發(fā)展,必須突破自身理性的有限性,這就是人類智性的大覺醒,開發(fā)數(shù)據(jù)等人工世界資源的宏偉事業(yè)開始了,智能科學(xué)與技術(shù)涌現(xiàn)并興起,人類進入了第三軸心時代[25?26].

    圖11 人工智能之父Fig.11 The fathers of artificial intelligence

    二戰(zhàn)期間,彈道計算與曼哈頓原子彈項目,特別是其推動的蒙特卡洛方法,使馮·諾伊曼認識到算力和計算機的重要性.二戰(zhàn)結(jié)束前夕,他又了解了軍方制造現(xiàn)代計算機的決心,因此把興趣和精力開始向計算機轉(zhuǎn)移,重新開始了同維納的交往.1944年12 月,由維納起草,馮·諾伊曼和哈佛數(shù)學(xué)家、研制Mark 計算機的負責人艾肯共同簽名的邀請信發(fā)給了由維納親自挑選的學(xué)者,因為三人認為一場偉大的技術(shù)革命即將來臨.因此,信中寫到:“··· 感興趣的人搞個聚會是件非常值得做的事情”.緊接著來了第二封信,三人提議為即將開展的宏大科學(xué)探索界定主題,就是維納的“目的論新原則”,未來團隊的名稱也定為“目的論學(xué)會”,就是圍繞“通信工程,即計算機工程、控制設(shè)備工程 ··· 神經(jīng)系統(tǒng)的通信和控制”展開研究:“一方面致力于研究目的是如何在人和動物的行為中得以實現(xiàn)的,另一方面研究如何通過機械和電子的方法模擬目的”[41].

    1945 年1 月6 日至7 日,“目的論學(xué)會”在普林斯頓高等研究院開會,維納對此興奮不已,用MIT副校長基利安秘書的評論就是,維納“可真的是春風得意”[41].他和馮·諾伊曼成了會議的主角,但這場革命的企圖完全是在維納的影響和科學(xué)思想啟發(fā)下進行的.從某種意義上來說,這是1956 年達特萊斯人工智能會議之前關(guān)于智能與計算最嚴肅的一場學(xué)術(shù)研討,其“失敗”與“目的論”這個古怪哲學(xué)的名稱直接相關(guān).如果名字合適、不如此奇異,或許人工智能這一學(xué)科就會從1945 年開始算起.實際上,就智能科學(xué)史而言,這是一個十分值得研究的課題.

    普林斯頓會議之后,出現(xiàn)了兩個戲劇性的轉(zhuǎn)折.一是維納試圖勸誘馮·諾伊曼到MIT 工作,擔任數(shù)學(xué)系主任,有自己的實驗室,全力推動計算機和目的論研究.二是馮·諾伊曼一方面讓維納感到其挖人計劃即將實現(xiàn),并使維納得力助手畢奇洛成為自己研究計算機的主力工程師,但隨即于1945 年6 月30 日推出自己關(guān)于電子計算機宏大的新計算機設(shè)計方案.這就是沿用至今的“馮·諾伊曼結(jié)構(gòu)”.雖然這個方案的報告中只引了被當時主流神經(jīng)和心理學(xué)家所忽視的麥卡洛克和皮茨的論文[36],但實質(zhì)是馮·諾伊曼清理了維納計算機構(gòu)想中的目的論成分,僅保留機械電子的操作流程而已.

    實際上,維納于1940 年就向當時負責戰(zhàn)時研發(fā)的布什書面提出研制現(xiàn)代計算機的“五項原則”,但沒有得到回應(yīng).按照馮·諾伊曼自己的說法,其計算機就是第一臺“將維納提交給布什的五條原則整合為一的機器”.然而,此時馮·諾伊曼與維納個人之間的關(guān)系已進入不自然狀態(tài),加上1947 年首次世界計算機大會之后,維納一度成為計算機界的“公敵”,因此他更愿把計算機的功績歸于邱奇和圖靈的思想,而不是維納,因此成為“邱奇?圖靈命題(Church-Turning thesis)”的積極倡導(dǎo)者,這就是為何美國軍方和學(xué)界有人認為“馮·諾伊曼結(jié)構(gòu)”應(yīng)該稱為“維納?馮·諾伊曼結(jié)構(gòu)”的原因[34].

    維納對此似乎沒有十分介意,可能因為其希望并關(guān)注的,己經(jīng)變?yōu)槟軌虍a(chǎn)生智能行為且受“目的論”指導(dǎo)的智能機器.在麥卡洛克的大力支持下,1946 年起維納的主要興趣已轉(zhuǎn)移到梅西基金專為他資助的系列會議,由此偶然地創(chuàng)作了《控制論》一書,居然再次成為世界名人,引發(fā)世界性的控制論熱潮,維納的團隊也成為世界關(guān)注的中心[41].

    然而,當過了幾年麥卡洛克赴MIT 加入維納和早已成為維納博士生的皮茨之后,維納在沒有任何公開跡象的情況下突然宣稱永遠斷絕與二人的一切關(guān)系,使麥卡洛克和皮茨陷入絕境,一蹶不起,不久就從學(xué)術(shù)研究的世界消失.智能與認知研究的“金三角”頓失,這就是曾使許多人不解并遠離維納及其控制論的原因.

    相當程度上,維納留下的學(xué)術(shù)真空造就了“人工智能之父”麥卡錫(見圖11).麥卡錫是1948 年在加州理工讀大學(xué)時從馮·諾伊曼關(guān)于認知和維納研究的講座中了解控制論的,從而產(chǎn)生了興趣.后赴普林斯頓數(shù)學(xué)系攻讀博士,1951 年畢業(yè).三年后,明斯基也在同系獲得博士學(xué)位,論文就是關(guān)于隨機神經(jīng)網(wǎng)絡(luò)SNARE 的研究[42].當時數(shù)學(xué)系有些教授認為明斯基的工作不是數(shù)學(xué)研究,還是馮·諾伊曼的一句話為他解了圍:“今天不是,或許將來就是了”.

    畢業(yè)后一段時間,麥卡錫熱衷于自動機的研究,并與香農(nóng)(見圖12)合作編輯了自動機研究論文集.當時,關(guān)于可認知和可思維的智能機器之研究主要圍繞控制論和自動機展開.在麥卡錫眼里,控制論太泛,又與維納脫不了干系,而自動機太窄,過于數(shù)學(xué)化,不利于推廣.因此,在1955 年向洛克菲勒基金會申請研討經(jīng)費的建議書中,他選擇了“人工智能(Artificial intelligence)”一詞來定義智能機器這一新興的研究領(lǐng)域.人工智能會議于1956 年夏天在麥卡錫任助教的達特茅斯學(xué)院舉行,最初計劃10 人,包括維納的前助手畢奇洛和學(xué)生Selfridge(見圖12),但后來有近50 人聲稱參加過這一長達8 周的會議,有可信證據(jù)的就有20 余人(部分見圖13).其中,4 人被認為是“人工智能之父”:麥卡錫、明斯基、司馬賀和紐厄爾(見圖11).香農(nóng)與會的原因,除了他與麥卡錫的個人關(guān)系之外,很大原因是希望利用他的影響力以及他與維納因通信和信息論成果歸屬問題而產(chǎn)生的矛盾,使人工智能遠離維納的影響.會上,司馬賀一度希望說動大家把名字改為“復(fù)雜信息處理(Complex information processing)”,認為人工智能會讓人有“欺騙”不實的感覺.幸好這一建議未被采納,否則如此學(xué)究且難引注意的名字,或許這一領(lǐng)域就不會有今天的局面,遭受與“目的論”同樣的命運.在此之后,一切都是大家熟知的人工智能歷史.

    圖12 人工智能歷史上的重要人物Fig.12 Important figures in artificial intelligence

    圖13 重逢于紀念50 周年人工智能Fig.13 Reunion at AI's 50th anniversary

    達特茅斯會議之后,麥卡錫和明斯基前后都去了MIT,致力于人工智能研究,并開始了軍方資助的MAC 項目.麥卡錫還將邱奇的λ-Calculus 開發(fā)成Lisp,成為人工智能的第一語言,被公認為人工智能數(shù)理邏輯學(xué)派的領(lǐng)軍人物.后與明斯基產(chǎn)生分歧,麥卡錫赴斯坦福創(chuàng)立新的人工智能實驗室,并與尼爾森一起成為邏輯智能的主要開拓者和捍衛(wèi)者.今天的云計算技術(shù),就是源自麥卡錫當年開拓并發(fā)展的分時系統(tǒng).明斯基后來執(zhí)掌MIT 人工智能研究,除了因?qū)Ω兄獧C的偏見而對神經(jīng)網(wǎng)絡(luò)研究造成了負面影響之外,他從認知科學(xué)的角度推動人工智能的發(fā)展,貢獻巨大,特別是他在1986 年提出的智能體代理的思想,依然是今天多智能體和群體智能研究的基礎(chǔ)[43].相當程度上,明斯基沿繼了維納的思想,是計算智能的引路人和開拓者.

    1992 年,美國人工智能協(xié)會(AAAI,現(xiàn)改為國際人工智能促進會,縮寫一樣但內(nèi)容已改)在加州硅谷舉辦首屆機器人競賽,我因自己的三位研究生是競賽的志愿者而一同驅(qū)車參會,順便訪問斯坦福和伯克利的同事與朋友.與麥卡錫和尼爾森見面時,當麥卡錫知道我來自RPI 和亞利桑那的機器人與自動化實驗室時,半幽默半嚴肅地告訴我:他選擇人工智能一詞而不是自動機或控制論,因為AI 也是智能自動化(Automation of intelligence)的縮寫.我的回應(yīng)是:作為人工智能的AI,主要是分析和認知世界,是“軟”智能;作為智能自動化的AI,如智能機器人,是“硬”智能,其實這是當時許多研究人員的認識和共識.

    在我的眼里,尼爾森是把人工智能從“文學(xué)”推向“科學(xué)”的最大功臣,盡管生前其成就沒有得到充分的認識和承認.本人就是在讀他人工智能的文章和著作中才真正了解和認識這門學(xué)科的[44?45].我曾力主尼爾森進入第一批“AI's Hall of Fame”,盡管他是其中唯一一名沒有獲得圖靈獎的學(xué)者.在其退休之后,我曾多次去他家拜訪,并邀請他于2015 年共同創(chuàng)辦智能科學(xué)與技術(shù)學(xué)會(Association for intelligent science and technology,AIST),并翻譯了他最后的一本著作[46],留下珍貴紀念(圖14).

    圖14 2015 年尼爾森與王飛躍于俄州梅德福Fig.14 Nilsson and Wang at Medford,OR in 2015

    3 智能控制:從學(xué)習控制到人工智能控制

    實際上,在傅京孫于文獻[2]中提出“智能控制”一詞之前,Leondes 和孟德爾(Jerry Mendel)于1969 年在紀念維納去世的文集中就發(fā)表了題為“人工智能控制”的章節(jié)[3].許多人據(jù)此認為智能控制應(yīng)以此文算起,把1969 年作為智能控制的起點.然而,細讀文獻[3]不難看出,雖然文章名為人工智能控制,內(nèi)容卻完全是學(xué)習控制,主要是自組織學(xué)習控制和基于模式識別的控制,與后來發(fā)展起來的參數(shù)識別自適應(yīng)控制更加相關(guān).此外,盡管Leondes是此文的第一作者,但實際并沒有參與其寫作,完全是當時年輕的孟德爾自己的研究工作.孟德爾1963 年從紐約Brooklyn 工學(xué)院博士畢業(yè)后,一直在麥道公司研發(fā)航空航天控制技術(shù),是一位十分活躍且杰出的青年學(xué)者.1968 年,在為Leondes 主編的系列叢書“控制系統(tǒng)進展:理論與應(yīng)用(Advances in Control Systems:Theory and Applications)”寫了一章關(guān)于人工智能在控制中的應(yīng)用之后,孟德爾引起Leondes 的注意.Leondes 告訴孟德爾,他被邀為紀念維納的專著寫一章,希望孟德爾執(zhí)筆,但他必須是共同作者,最好是第一作者,結(jié)果就是文獻[3].然而這完全是孟德爾自己的工作,因為他后來回憶:“Leondes did absolutely nothing!”.

    一定意義上,文獻[1]是學(xué)習控制第一篇也是最后一篇全面深入的綜述文章,因為之后學(xué)習控制就消融于自適應(yīng)控制、自組織系統(tǒng)和模式識別決策的不同研究方向之中.令人感嘆的是,文獻[2]總結(jié)的5 種范式:1)基于模式識別器的可訓(xùn)練控制器,2)強化學(xué)習控制系統(tǒng),3)控制中的貝葉斯估計與學(xué)習方法,4)隨機逼近方法,5)隨機自動機模型,以及展望中提出的學(xué)習之分層遞階結(jié)構(gòu)與學(xué)習控制之模糊邏輯方法,今天又重新出現(xiàn)在主流的機器學(xué)習、模式識別和人工智能研究方法之中[16?17].

    在總結(jié)展望學(xué)習控制的過程中,傅京孫一定意識到更多的人工智能在控制中的應(yīng)用場景,并可能形成新的研究領(lǐng)域.因此長文[1]之后,立刻補充了短文[2],旗幟鮮明地提出智能控制一詞,認為人工智能與自動控制的交融,必然導(dǎo)致從學(xué)習控制到智能控制的發(fā)展.傅京孫把智能控制系統(tǒng)大體分為三類:1)具有人類操作員的系統(tǒng);2)具有人機交互控制器的系統(tǒng);3)自主機器人系統(tǒng),強調(diào)離線模式識別和在線參數(shù)識別對于復(fù)雜情景下智能控制的重要性,希望其短文能夠成為“激發(fā)在這一領(lǐng)域更多興趣和研究的催化劑”[2].十多年后,他的愿景獲得巨大成功,智能控制終于成為一門生命力強盛且應(yīng)用廣泛的年輕學(xué)科.

    仔細研讀文獻[2],可以認為其核心理念是建立以人為模式的控制系統(tǒng)之思想,先是模擬人的控制行為和過程,然后由機器部分取代人的功能,最后完全以機器人替換人的作用.這一設(shè)想在當時過于宏偉,缺少具體的理論方法與技術(shù).提出智能控制的概念之后,直到突然去世之前,傅京孫的主要精力和時間都放在模式識別的理論及其應(yīng)用,特別是語法語義模式分析上,并主導(dǎo)創(chuàng)辦了國際模式識別學(xué)會(IAPR)、電氣和電子工程師學(xué)會(IEEE)、模式分析與機器智能匯刊(IEEE T-PAMI),幾乎沒再直接涉足智能控制的工作.

    實際上,從20 世紀90 年代初直到90 年代中期,在智能控制的早期發(fā)展和成長壯大階段中發(fā)揮主導(dǎo)性作用的是傅京孫的普渡同事薩里迪斯.薩里迪斯將分層遞階系統(tǒng)的結(jié)構(gòu)框架和運籌學(xué)與決策論引入智能控制,提出了歷史上深具影響的“組織?協(xié)調(diào)?執(zhí)行”三層結(jié)構(gòu)和相應(yīng)的“智能增加,精度減少”的分層設(shè)計原理,提倡以信息論的熵概念及其測度來統(tǒng)一智能控制理論中的不同方法與體系(見圖2).當時關(guān)于智能控制系統(tǒng)的實際應(yīng)用案例很少,薩里迪斯大力推動其在交通、機器人、空間探索和計算機集成制造等方向的應(yīng)用,并在美國自然科學(xué)基金(NSF)創(chuàng)設(shè)相關(guān)資助機構(gòu),在IEEE 推動成立機器人與自動化學(xué)會(RAS)和智能控制委員會(CIC),在Stephanou、Meystel 和Albus (見圖15)等協(xié)助下創(chuàng)辦系列的IEEE 智能控制研討會(IEEE ISIC),并在美國宇航局(NASA)建立空間探索智能機器人系統(tǒng)中心(NASA/RPI CIRSSE),這些活動使智能控制的研發(fā)在80 年代末90 年代初,形成了一個國際高潮.

    圖15 智能控制早期的開拓者和組織者Fig.15 Pioneers in intelligent control

    在此期間,孟德爾依然活躍在學(xué)習控制和智能控制領(lǐng)域,并與傅京孫和薩里迪斯合作,推動相關(guān)研究.后來在其中國博士生王立新和伍冬睿等幫助下,在模糊邏輯和控制,特別是二型模糊系統(tǒng)方面取得了一系列成果.

    王浩、麥克諾頓(見圖16)、尼爾森等人在自動機和形式語言方面的工作,也從理論計算機和人工智能的角度推動智能控制的發(fā)展.王浩一直希望用自動機將定理證明的邏輯推理過程形式化,并與伯克斯(見圖16)等合作,開展了大量的研究工作,激發(fā)了當時學(xué)者對利用機器實現(xiàn)智能控制的向往與熱情.特別是麥克諾頓和他的學(xué)生合作證明了有限狀態(tài)自動機(Finite state machine,FSM,一種最簡單的自動機)與正則語言(Regular language,一種最簡單的形式語言)完全等階后[17](即著名的麥克諾頓引理,今天許多教科書已將有限狀態(tài)自動機直接作為正則語言的定義,很大程度上掩蓋了這段發(fā)展歷史),使人們對利用機器處理自然語言產(chǎn)生了相當高的期望.由于智能與人類語言的緊密關(guān)系,這項工作加強了大家對建立智能控制系統(tǒng)的信心和興趣.在此背景下,許多人工智能的創(chuàng)始人和早期開拓者,如明斯基和尼爾森等,都開始了利用自動機進行自動智能機(Intelligent automata)和移動機(Mobile automata,主要指移動機器人,如Shakey等)的研究[17].顯然,這些工作在智能控制的早期發(fā)展中發(fā)揮了十分重要的啟蒙作用.

    圖16 形式語言與自動機理論的開拓者Fig.16 Pioneers of automata and formal language

    實際上,1990 年之前關(guān)于智能控制的工作多數(shù)是概念性、示意性研究,解析性和具體算法設(shè)計很少,也沒有多少研究人員.例如,機器智能與人工智能之間的區(qū)別與結(jié)合(如圖17 所示)就是一個泛泛的“哲學(xué)式”問題[47].當時的一個迫切任務(wù)就是如何將智能控制的探索轉(zhuǎn)為針對具體場景的“解析型”研究,建立可實現(xiàn)、可檢驗、有效的智能控制理論和方法體系.從1985 年到2016 年期間,IEEE ISIC研討會在智能控制的發(fā)展史上起到了主要作用(其早期封面見圖18).鑒于目前對智能系統(tǒng)的時代需求,希望ISIC 能以IEEE ICIC 形式重新復(fù)活.

    圖17 機器智能與人工智能Fig.17 Machine intelligence vs.artificial intelligence

    圖18 早期智能控制研討會論文集封面Fig.18 Proceedings of IEEE ISIC 1988

    從1985 年到1989 年,本人的主要工作圍繞:1)智能控制的體系結(jié)構(gòu)與過程,2)如何從結(jié)構(gòu)過程到算法設(shè)計,3)如何從算法生成到系統(tǒng)實現(xiàn)等三個方面展開,并在航天、外空探索、計算機集成制造等領(lǐng)域進行具體應(yīng)用.圖19 給出本人建議的將基于智能控制的智能機器視為可自動產(chǎn)生高級語言,并可自動編譯為可執(zhí)行的機器指令,然后通過與執(zhí)行器相連的實時嵌入式操作系統(tǒng)完成控制功能的智能系統(tǒng).為此,提出Petri 網(wǎng)絡(luò)翻譯器(Petri net transducers,PNT)、PNT 形式語言、協(xié)調(diào)結(jié)構(gòu)(Coordination structures)、調(diào)度器(Dispatchers)、控制總線(Control buses)等概念及其數(shù)學(xué)模型;同時,引入博弈論和機器學(xué)習算法,在執(zhí)行過程中不斷改進策略優(yōu)化控制,并用于NASA 實驗空間站的檢驗和組裝研究[13?15,48](如圖20~圖22).其中,PNT的引入,將智能控制任務(wù)狀態(tài)的表示復(fù)雜性從原來基于有限狀態(tài)機FSM 的指數(shù)級降為多項式級,有效地解決了相應(yīng)的“組合爆炸”問題.這是后來Petri 網(wǎng)被廣泛用于制造自動化的內(nèi)在原因,麥克諾頓教授在這項工作中給予本人極大的引導(dǎo)和幫助.然而,值得指出的是,有限的Petri 網(wǎng)絡(luò)一般伴隨無限的可達狀態(tài)樹空間,因此,PNT 的復(fù)雜性降階只是將表示復(fù)雜性轉(zhuǎn)移至決策復(fù)雜性而已,實際上并沒有減少復(fù)雜性.然而,由于決策復(fù)雜性一般都是指數(shù)級的,因此這并不是一個問題.

    圖19 智能機器與計算機Fig.19 Intelligent machine and computers

    圖20 Petri 網(wǎng)絡(luò)翻譯器及其翻譯過程Fig.20 Petri net transducers and translation process

    圖21 NASA 機器人空間站組裝平臺原型Fig.21 NASA/RPI CIRSSE robotic assembly platform

    圖22 一個智能機器人的協(xié)調(diào)結(jié)構(gòu)Fig.22 The coordination structure of an intelligent manipulator system

    1995 年,在薩里迪斯、Meystel 和Albus 的幫助下,本人創(chuàng)辦《智能控制和智能自動化叢書》 以及《國際智能控制與系統(tǒng)》 雜志(International Journal of Intelligent Control and Systems,IJICS),成為該領(lǐng)域的第一份學(xué)術(shù)叢書和期刊(見圖23).后由于與出版社意見不一致,雜志一度???2021 年在中國自動化學(xué)會的支持下,IJICS 重新出版.

    圖23 《智能控制和智能自動化叢書》 與《國際智能控制與系統(tǒng)》Fig.23 ICIA Book Series and IJICS

    在中國,清華大學(xué)的一些學(xué)者在80 年代初就提倡研究智能控制理論與應(yīng)用,并于1991 年在清華大學(xué)舉辦了第一次全國智能控制專家研討會.在這次會議上,發(fā)起了每年舉行一次全國性的智能控制與智能自動化會議的倡議.1993 年,清華大學(xué)舉辦了首屆全球華人智能控制與智能自動化大會,本人有幸?guī)椭藭埡M庀嚓P(guān)專家并借此機會第一次回國參觀學(xué)習.1995 年,中國自動化學(xué)會批準成立智能自動化專業(yè)委員會,進一步地推動了這一領(lǐng)域的研究與應(yīng)用.中國智能控制的歷史值得系統(tǒng)深入地研究,這應(yīng)是未來的一項重要工作[49?50].

    這就是20 世紀智能控制主流發(fā)展史上的萌芽期(1950 年~1970 年)、形成期(1970 年~1980 年)和成長期(1980 年~2000 年)之縮影.然而,從90年代起,以模糊控制為代表的智能控制算法大量涌現(xiàn),并與神經(jīng)網(wǎng)絡(luò)控制、遺傳演化控制等計算智能控制方法合流,逐漸成為智能控制研發(fā)的主流方向,而關(guān)于智能控制系統(tǒng)結(jié)構(gòu)等方面的工作相對減少.進入21 世紀后,智能控制隨著數(shù)據(jù)、算法和計算機軟硬件的大力提升而日新月異,已進入了一個嶄新的歷史發(fā)展階段,特別是近年來深度學(xué)習的巨大成功和人工智能的興起熱潮,更為智能控制的深入和普及提供了難得的發(fā)展空間和機遇.毫無疑問,智能控制將成為智能時代控制理論和自動化進一步發(fā)展的基石和開路先鋒.

    4 計算智能:認知、行為、機制

    在人工智能的前50 年里,主要是兩種路線,即以人性行為為主的計算智能方法和以理性推理為主的邏輯智能方法,也就是所謂的“純凈派”與“邋遢派”[44].盡管以目的論、人工神經(jīng)元網(wǎng)絡(luò)、控制論為核心的計算智能起步稍早,但在前30 年的發(fā)展歷程里,以數(shù)理邏輯、邏輯編程、Lisp 和Prolog 為代表的邏輯智能主導(dǎo)了人工智能的發(fā)展,在哲學(xué)上,這與存在(Being)和變化(Becoming)這兩個核心理念的形成過程十分一致.

    盡管神經(jīng)元網(wǎng)絡(luò)是達特茅斯研討會建議發(fā)展的人工智能6 個方向之一,但由于對1957 年羅森布拉特(見圖24)的神經(jīng)元感知機初始成功[51?52]的過度宣傳,加上明斯基和Papert 于1969 年出版的《感知機》 對其的分析,用一個簡單的XOR 邏輯運算就證明其功能十分有限,并放大其結(jié)論、全面否定感知機;再加上1971 年羅森布拉特意外的死亡事故所引發(fā)的神秘感和擴大的影響力,很快使人工神經(jīng)元網(wǎng)絡(luò)的研究陷入幾乎無人問津的十年黑暗期.實際上,此前許多的研究成果,如尼爾森的學(xué)習機器方法[53]和Widrow 的基于單程Adaline 的多層網(wǎng)Madeline[54],早已確定了多層神經(jīng)元網(wǎng)絡(luò)具有通用的逼近和學(xué)習功能.這一事件說明,媒體的傳播和影響力使用不當,有時會對正??蒲挟a(chǎn)生十分負面的沖擊.2004 年IEEE 計算機智能學(xué)會設(shè)立IEEE Frank Rosenblott 獎,以紀念他在神經(jīng)元網(wǎng)絡(luò)研究上的開拓貢獻.

    圖24 計算智能和認知科學(xué)的開拓者Fig.24 Pioneers in computational intelligence and cognitive science

    對人工智能更大的沖擊隨之而來:1973 年Lighthill 報告問世,認為人工智能經(jīng)過25 年的發(fā)展(英國人認為人工智能從1947 年圖靈的技術(shù)報告開始)并沒有產(chǎn)生任何許諾的重要貢獻,并對其許多核心技術(shù)前景持悲觀態(tài)度,成為英國政府停止支持許多大學(xué)和機構(gòu)的人工智能研究之依據(jù).為此,麥卡錫專赴倫敦與Lighthill (見圖12)公開辯論,稱人工智能就是基于圖靈機的自動機,但依然無法挽回局勢.由此,從英國到美國,人工智能的研究經(jīng)費被大大縮減,進入了長達十年的艱難時期,這就是其最長最嚴峻的一個“嚴冬”.嚴冬之中,計算智能的另外兩個核心方法,扎德的模糊邏輯和Holland 與Fogel (見圖25)的遺傳算法得到了成長與發(fā)展的機會.

    圖25 模糊邏輯與遺傳算法的開拓者Fig.25 Pioneers in fuzzy logic and genetic algorithms

    危機之中有轉(zhuǎn)機,Lighthill 在其報告中認為人工智能的一些研究在一些領(lǐng)域中可能有用,其高中的朋友Longuet-Higgins 將其歸結(jié)為4 點,并合為一體,稱為“認知科學(xué)”.隨即,Longuet-Higgins 同其博士生辛頓(Geoffery Hinton)和其他從事心理、神經(jīng)、生物學(xué)研究的同事開始相關(guān)工作.實際上,在參加了1956 年夏季的達特茅斯人工智能會議之后,維納的學(xué)生Selfridge 立即在MIT 組織舉辦了第一次較為正式的認知科學(xué)研討會.人工智能與認知科學(xué)本應(yīng)從一開始就相互依存,共同發(fā)展.1986 年,認知科學(xué)蔚然成勢,著名的PDP 三卷本出版后,辛頓利用BP 算法的多層神經(jīng)網(wǎng)絡(luò)重新獲得關(guān)注,相關(guān)研究走上正軌.20 年后,辛頓的工作演化為深度神經(jīng)網(wǎng)絡(luò)和深度學(xué)習,以此為基礎(chǔ)的AlphaGo 獲得巨大成功,終于使人工智能技術(shù)得到社會的廣泛認可.AlphaGo 之后,時代的IT 不再代表信息技術(shù),那已是舊IT 了,而是代表智能技術(shù)(Intelligent technology),這就是新IT.

    從1990 年到2000 年期間,本人在計算智能和智能控制的結(jié)合上主要圍繞6 個方面展開[15,55–77]:1)提出“當?shù)睾唵?、遠程復(fù)雜(Local simple,remote complex,LSRC)”的網(wǎng)絡(luò)化系統(tǒng)的設(shè)計理念,以及遠程現(xiàn)場可編程設(shè)備的概念與原型設(shè)計;2)實時嵌入式系統(tǒng)的組織與設(shè)計,以及特定專用操作系統(tǒng)(Application specific operating systems,ASOS)和可編程片上系統(tǒng)(Systems on programable chips,SoPC);3) 基于代理的控制系統(tǒng)(Agentbased control,ABC)和相應(yīng)的基于代理分布式集中控制系統(tǒng)(Agent-based distributed control systems,aDCS)及網(wǎng)絡(luò)控制器,主要是受明斯基代理(Agent,或稱智能體)理念的啟發(fā);4)自適應(yīng)動態(tài)規(guī)劃(Adaptive dynamic programming,ADP),這是我在1984 年利用變分法處理非線性濾波和控制近似最優(yōu)解的想法,后用于隨機非線性動態(tài)系統(tǒng)的次優(yōu)解設(shè)計,最終在許多人的共同努力下發(fā)展成為ADP,復(fù)雜系統(tǒng)管理與控制國家重點實驗室的劉德榮和魏慶來目前已成為引領(lǐng)ADP 研究的權(quán)威[78];5)如何將基于模糊邏輯的決策規(guī)則與基于神經(jīng)網(wǎng)絡(luò)的學(xué)習方法結(jié)合,首先是讓人的經(jīng)驗和直覺推理數(shù)字化解析化,其次是利用語言知識訓(xùn)練神經(jīng)網(wǎng)并在網(wǎng)中嵌入知識結(jié)構(gòu),使其可解釋可理解,為此推出九層模糊神經(jīng)網(wǎng)絡(luò)(Neuro-fuzzy networks)結(jié)構(gòu)(見圖26),為LSRC 系統(tǒng)提供遠程學(xué)習和邊緣計算的途徑;6) 語言動力學(xué)系統(tǒng)(Linguistic dynamic systems,LDS),試圖像數(shù)模/模數(shù)(Digital to analog,analog to digital,DA/AD)轉(zhuǎn)換一樣,實現(xiàn)詞數(shù)/數(shù)詞(Word to number,number to word,WN/NW)轉(zhuǎn)換(見圖27),成為詞計算最早的工作之一.實際上,1990 年開始的第一項新研究是大腦的數(shù)學(xué)建模,可惜當時條件不足,不久就轉(zhuǎn)向模糊神經(jīng)網(wǎng)絡(luò)的研究.十分有幸的是,我們得到了在金融、健康、礦山、交通、無人駕駛、工業(yè)制造、過程控制、機器人與自動化、軍事安全等領(lǐng)域應(yīng)用這些技術(shù)的機會,并完成了多部相關(guān)方向的學(xué)術(shù)專著,如無人礦車與機器人挖掘、月球/火星采礦智能車的傳感與控制、基于代理的網(wǎng)絡(luò)化計算智能等(見圖28).

    圖26 實現(xiàn)LSRC 原理的模糊神經(jīng)網(wǎng)絡(luò)Fig.26 Neuro-fuzyy network for LSRC

    圖27 廣義語言動力學(xué)系統(tǒng)Fig.27 Generalized linguistic dynamic systems

    圖28 代理控制、無人礦山和智能車專著Fig.28 Agent-based Control、Autonomous Mining,and Intelligent Vehicles

    5 平行控制:ACP 與CPSS

    上世紀80 年代,本人的主要研究工作是協(xié)助薩里迪斯構(gòu)造基于智能控制的智能機器解析理論與方法.然而,我們之間的學(xué)術(shù)觀點有時非常不一,特別是在關(guān)于熵的概念和方法如何在智能控制中有效應(yīng)用的問題上爭論異常激烈[79–82].但是,無論從學(xué)術(shù)上還是生活上薩里迪斯都給了我極大的關(guān)懷與支持.90 年代獨立工作后,在薩里迪斯的大力支持下,我決心開始自己的學(xué)術(shù)道路,重新選擇應(yīng)用場景和具體的方法及算法研究,這就是礦山、交通、無人車、健康、經(jīng)濟、復(fù)雜系統(tǒng)等領(lǐng)域,以及相應(yīng)的LSRC、ASOS、SoPC、DCS、Neuro-fuzzy、LDS、影子系統(tǒng)、范疇和Monad 等工作[57?58,63,65?66,83–86].

    進入21 世紀,本人的核心研究就是針對復(fù)雜系統(tǒng)的平行理念及其相應(yīng)的概念、理論、方法和算法.從智能交通系統(tǒng)開始,因為人、路、車構(gòu)成一個完美的工程復(fù)雜性與社會復(fù)雜性參半交織的開放復(fù)雜系統(tǒng),然后是賽博網(wǎng)絡(luò)空間中的輿情問題,并很快轉(zhuǎn)向安全與國防[87–93].但是,平行用于控制、特別是復(fù)雜系統(tǒng)的控制,是我內(nèi)心念念不忘的課題,這就是我選擇《控制與決策》 發(fā)表自己第一篇平行系統(tǒng)與平行智能文章的原因[94].

    圖29 給出平行思想的基本構(gòu)成和方法基礎(chǔ),即CPSS (Cyber-physical-social systems,賽博物理社會系統(tǒng))和ACP 方法(Artificial societies,computational experiments,parallel execution,平行方法).相比圖2,智能控制從“三環(huán)三框”到“五環(huán)五框”,目的就是針對復(fù)雜性問題,將模型從系統(tǒng)分析器還原為數(shù)據(jù)生成器,使復(fù)雜系統(tǒng)可計算、可實驗、可驗證,使復(fù)雜控制量化、解析、可視.圖30 給出平行控制在控制理論中的位置和相應(yīng)的基本框架.

    圖29 平行控制的CPSS 和ACP 方法Fig.29 CPSS and ACP for parallel control

    圖30 系統(tǒng)復(fù)雜性和平行控制器Fig.30 System complexity and parallel controllers

    最初,平行控制是針對復(fù)雜系統(tǒng),特別是涉及人與社會的復(fù)雜系統(tǒng),如圖31 所示.此時,開源信息和社會計算是平行控制的主要特色,是傳統(tǒng)控制沒有關(guān)注的內(nèi)容,同社會學(xué)、心理學(xué)、管理學(xué),特別是社會治理密切相關(guān).然而,平行控制在傳統(tǒng)控制中也有重要作用,如圖32 所示,簡單而言就是對控制求導(dǎo),將被控系統(tǒng)與主控系統(tǒng)在數(shù)學(xué)上對偶,使之完全“平等”,從而為實施智能控制提供哲學(xué)和數(shù)學(xué)上的支撐.加上近來興起的云計算與邊緣計算,相信平行控制在傳統(tǒng)控制方面一定有意義重大的廣泛應(yīng)用.

    圖31 平行控制和平行管理Fig.31 Parallel control and parallel management

    圖32 平行控制的基本方程Fig.32 Basic equations for parallel control

    實際上,可從數(shù)學(xué)上證明,當實際系統(tǒng)與人工系統(tǒng)相似時,圖30 所示的一般的平行控制系統(tǒng)等價于圖32 所示的簡單平行控制,其方程如下.

    受控系統(tǒng)的狀態(tài)方程:

    主控系統(tǒng)的控制方程:

    傳統(tǒng)上,對控制向量u求導(dǎo)既無物理意義,又無分析上的明顯作用.因此,除了在傳統(tǒng)的傳遞函數(shù)分析時作為過渡使用外,并不進一步討論和研究.而且,求導(dǎo)意味著放大噪音,提高對硬件的要求,所以更是無人問津.

    然而,近期的理論研究表明,平行控制具有如下意義[95–99]:

    1) 使控制系統(tǒng)與被控系統(tǒng)在形式上對稱,它們不再一個是代數(shù)方程、一個是微分方程,而是兩個對等的微分方程,從而使二者從形式到內(nèi)容在數(shù)學(xué)上完全一致.這是實現(xiàn)擬人控制和傅京孫以機器人實現(xiàn)智能控制設(shè)想的基礎(chǔ).

    2) 控制器不再是根據(jù)狀態(tài)即時地決定控制量,而是根據(jù)狀態(tài)決定控制的變化量,進而決定控制量本身.這為控制回溯歷史、預(yù)測未來和引導(dǎo)未來提供了數(shù)學(xué)基礎(chǔ),擴展了決定控制的信息空間.同時,為以新的方式引入控制與被控角色的博弈對抗打下了基礎(chǔ),機器學(xué)習、人工智能等方法也更加有效地融入控制理論.

    3) 經(jīng)典控制的方程可被視為平行控制方程的特殊情況.實際上,經(jīng)典控制可被視為控制的變化率和狀態(tài)的變化率成比例的一種特殊的平行控制.經(jīng)典控制的各種問題及相應(yīng)的研究結(jié)果,都可以在平行控制的新視角下重新進行分析.

    4) 平行控制可被重新寫成一個自洽的微分方程,但是系統(tǒng)函數(shù)未知待求,否則許多關(guān)于自洽方程的分析結(jié)果可被直接利用.對于實驗來說,這也為求解平行控制問題,特別是非線性平行控制問題提供了新的途徑,是一個十分值得關(guān)注的方向.此外,這也為平行控制與基于核函數(shù)的神經(jīng)網(wǎng)絡(luò)方法建立了一種天然聯(lián)系,人們可以利用最佳格點集和最小二乘方法,直接用神經(jīng)網(wǎng)絡(luò)求解非線性平行控制方程[100?101].

    5) 平行控制為“邊緣簡單,云端復(fù)雜”的云控制提供了一條新的途徑.簡言之,控制的變化率可以在云端實施,控制的輸入量可以在邊緣設(shè)備上實現(xiàn),而且邊緣和云端的被控模型可以不完全一致,邊緣模型一般應(yīng)為云端模型的簡潔式或簡化版,而且云端的控制向量可以作為邊緣端的控制向量的指令或設(shè)定目標(Set points).這在一定程度上解除了對控制向量之時間導(dǎo)數(shù)的物理意義與負面作用的顧慮,因為云計算可以是物理模型之外的計算,其本身并非必須具有物理規(guī)則的基礎(chǔ).

    綜上,平行控制是智能控制向控制智能轉(zhuǎn)換的有效途徑,值得深入研究.

    6 控制智能:從平行智能到知識自動化

    馬克思曾說:“哲學(xué)家們只是用不同的方式解釋世界,而問題在于改變世界”[102].同理,人類要可持續(xù)發(fā)展,人工智能必須發(fā)展成為控制智能和管理智能,成為人類可持續(xù)發(fā)展的利器與途徑.借助工業(yè)自動化,人類社會走到今天,但人類的明天必須依靠知識自動化,這就是控制智能的歷史使命.

    如圖33 所示,控制智能必須融復(fù)雜性控制與自動化、跨學(xué)科控制與自動化、體系化控制與自動化為一體,將控制小數(shù)據(jù)(Small data)擴展成為控制大數(shù)據(jù)(Big data),再深化成為控制智數(shù)據(jù)(Smart data),使What IF 和IF Then 的思維習慣量化智化,從多學(xué)科到學(xué)科交叉,再到跨學(xué)科,最后成為針對具體問題的“超”學(xué)科,如圖34 所示.

    圖33 控制智能與學(xué)科交叉和融合Fig.33 Control intelligence and interdisciplinarity

    圖34 控制智能:小數(shù)據(jù)、大數(shù)據(jù)、智數(shù)據(jù)Fig.34 What IF vs.IF Then in control intelligence

    平行智能將在這一進程中發(fā)揮重要作用,加速智能控制向控制智能的發(fā)展,推動智能自動化的切實落地與普及深入.平行的理念源自非歐空間平行線相交這一數(shù)學(xué)事實對我們的沖擊,特別是這一突破在創(chuàng)立相對論和量子力學(xué)理論過程中的重大貢獻,讓我們有了現(xiàn)代科技和今日的產(chǎn)業(yè)繁榮.然而,產(chǎn)生平行方法的種子,卻是源于1982 年在浙江大學(xué)力學(xué)系研究設(shè)計斷裂力學(xué)的金屬平板斷裂拉伸實驗.當時,這種實驗費時費錢,一個研究生無法承擔.無奈之下,我想起蒙特卡洛方法:既然此法為核實驗的計算方法而生,為何不可為我的斷裂實驗而用? 由此,有了關(guān)于利用計算機進行裂縫計算實驗的建議報告和相關(guān)的研究[103?104],并理所當然地被否定.

    然而,我依然相信這種方法的價值,并天真地認為這可以使《1984》 中影子般的“Big Brother”從負面角色轉(zhuǎn)為有效企業(yè)和社會管理的正面角色——數(shù)字工作者(上班無時無刻不在,督促各項工作的落定),可惜當時的技術(shù)無法支持這種想法.幾年后,我參加了NASA 國際空間站自動組裝的研發(fā)以及月球火星無人工廠的設(shè)計與控制,再次面臨既無數(shù)據(jù)又無“真”可仿的“仿真”問題,這就是1994年提出“影子系統(tǒng)”的背景與動因[83],是文獻[103]思想的直接延長,與今天的“數(shù)字孿生”不謀而合,思想完全一致,可惜后來只是應(yīng)用于90 年代末的大電網(wǎng)系統(tǒng)的分析[105].這些想法的進一步延伸,就是21 世紀初正式提出的平行智能和平行系統(tǒng)[94,105].

    平行的理念其實很簡單,就是用智能科技的方法,讓實的變虛,讓虛的變實,然后充分利用知識自動化讓虛實對立統(tǒng)一,實現(xiàn)虛實空間之間的實時反饋,形成虛實空間之間的控制閉環(huán).平行理論由人工體系、計算實驗、平行執(zhí)行三大部分構(gòu)成(即ACP方法),每一大部分依據(jù)系統(tǒng)復(fù)雜性又分為三個層次:A)數(shù)字孿生、軟件孿生、虛擬孿生;C) Simulation,Emulation,Imitation;P)決策生成、決策推薦、決策支持.因此,共計有27 種不同的基本形態(tài).按照通俗的話來講,平行系統(tǒng)的簡單形態(tài)就是影子系統(tǒng)或數(shù)字孿生,復(fù)雜形態(tài)就是鏡像世界或元宇宙[106?107].2004 年,平行智能理論文章公開發(fā)表之后,立即引起國防與安全相關(guān)人員的關(guān)注,并于2005年開始展開相關(guān)工程的研究.

    然而,我們必須清醒地認識到:智能時代單憑智能技術(shù)遠遠不夠,新時代要求與之相適應(yīng)的新思維和新哲學(xué),并創(chuàng)造相應(yīng)的社會新范式.但問題是智能時代的新哲學(xué)是什么? 新在哪里?

    本人認為,必須把西方哲學(xué)的兩個核心理念Being 和Becoming 擴展,加入第三個“B”—Believing.這一想法源于波普爾的三個世界現(xiàn)實觀:從物理世界、人工世界、心理世界以及對應(yīng)三個世界的三種知識,自然延伸到相應(yīng)的三種哲學(xué),從而引入新的平行哲學(xué),如圖35 所示.由此,進入圖36揭示之“在、信、思”“3B”哲學(xué)和相應(yīng)的循環(huán)因果:我在故我信,我信故我思,我思故我在.

    圖35 平行哲學(xué)與三個世界Fig.35 Parallel philosophy and Popper's three worlds

    圖36 平行哲學(xué)與循環(huán)因果Fig.36 Parallel philosophy and circular causality

    數(shù)學(xué)上,就是在實際系統(tǒng)中建立牛頓方程,在虛擬系統(tǒng)中創(chuàng)立默頓方程,形成平行對偶方程,使之相互糾纏、平行相交.

    其中,S和T,N和M,R和V分別為實與虛的狀態(tài)函數(shù)、狀態(tài)變量和輸入變量.在云邊計算框架下,一般情況下實在邊緣,虛在云端.平行控制,是其特例.由此,以解析的方式走向控制智能,邁向知識自動化.

    7 展望

    七十多年前,類似“在、信、思”的循環(huán)因果論思想催生了維納的控制論和基于人工神經(jīng)元網(wǎng)絡(luò)的計算智能原型.今天,希望這一認識能在交織的三個平行世界里得到更加深入的發(fā)展,從而有序有效地推動智能科學(xué)與技術(shù)的發(fā)展.令人高興的是,在人工智能正式啟動之前,數(shù)學(xué)家就開始為我們準備了循環(huán)因果智能變革的數(shù)學(xué)工具,把哲學(xué)的理念變成數(shù)學(xué)概念,形成范疇的數(shù)學(xué)理論,把哲學(xué)單子“Monad”變成數(shù)學(xué)“智子”Monad,并成為面向?qū)ο蟮某绦蛘Z言的設(shè)計基礎(chǔ).而且,這一切也是源自推動智能研究的數(shù)學(xué)家希爾伯特.相當程度上,代數(shù)幾何開啟了描述知識的時代,微分積分開啟了預(yù)測知識的時代,而范疇表示則開啟了引導(dǎo)知識的時代,合起來形成了構(gòu)建智能時代的完整數(shù)學(xué)體系.

    我們相信,以“新IT”智能技術(shù)為代表的智能科技將開創(chuàng)開發(fā)人工世界的新紀元.平行哲學(xué)將人們的常規(guī)思維對象從系統(tǒng)和平臺引向生態(tài)體系,將三個世界的自然生態(tài)、社會生態(tài)、知識生態(tài)融為一體,走向虛實互動的平行生態(tài)和聯(lián)邦生態(tài)[108–111],把人類發(fā)展推向“6S”新境地:物理世界安全Safety,網(wǎng)絡(luò)世界安全Security,整體發(fā)展可持續(xù)Sustainability,保障隱私和個性化個體發(fā)展的Sensitivity,全面服務(wù)的Service,智慧社會的Smartness.

    “憶往昔崢嶸歲月稠,看今朝旖旎風光秀”.五十年來,智能控制已形成眾多成熟、成體系的算法與平臺,并在工業(yè)、農(nóng)業(yè)、交通和航空航天等許多領(lǐng)域得到了廣泛而深入的應(yīng)用.傳統(tǒng)和現(xiàn)代控制在工業(yè)自動化過程中發(fā)揮了極其重要的作用,使我們的社會發(fā)展到目前的工業(yè)化水平.相信在從工業(yè)化向智能化進軍的征程中,特別是在完成碳中和的歷史任務(wù)中,智能控制會發(fā)揮更加重要和關(guān)鍵的作用,成為社會智能化的新技術(shù)——智能技術(shù)的核心與支撐.

    致謝

    本文從個人的經(jīng)歷對智能控制進行簡要的回顧與展望.作者有幸從化工和力學(xué)背景進入機器人、計算機、運籌學(xué)、人工智能和智能控制等領(lǐng)域,研究生期間得到導(dǎo)師G.N.Saridis 和R.F.McNaughton 教授的無私指導(dǎo),獲得計算機與系統(tǒng)工程博士學(xué)位,從事相關(guān)交叉研究與應(yīng)用四十余年.在此,對自己的同事和學(xué)生深表感謝,特別是自1990 年隨我起步研究柔性機器人、腦模型與計算、模糊神經(jīng)元網(wǎng)絡(luò)最初的三位博士生關(guān)國光、Jeffrey Russell 和H.M.Kim,以及后來陸續(xù)在美國和中國畢業(yè)的100 多名碩士生和100 多名博士生,他們在我的學(xué)術(shù)生涯中給予自己極大的精神和智力上的支持.同時,感謝浙江大學(xué),包兆龍包玉剛基金會,NASA,NSF,DOE,NIST,New York State,Arizona State,AT&T,IBM,ABB,BHP,Caterpillar,中國科學(xué)院,國家自然科學(xué)基金委,中國科協(xié),科技部,工信部,科龍,徐工集團,慧拓,迪巨等中美機構(gòu)與組織對自己研究的支持.特別感謝辦公室工作人員宋平、李艷芬,博士生丁文文、鄭文博、張文文為本文整理資料和錄入手稿.

    追往思遠,我們不可忘記開拓智能控制的先驅(qū),謹以此文紀念傅京孫教授(1930 年~1985 年)和G.N.Saridis 教授(1931 年~2006 年)九十周年誕辰與將臨的R.F.McNaughton 教授(1924 年~2014 年)百年誕辰.

    猜你喜歡
    人工智能智能
    我校新增“人工智能”本科專業(yè)
    智能制造 反思與期望
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    人工智能與就業(yè)
    智能制造·AI未來
    商周刊(2018年18期)2018-09-21 09:14:46
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    久热这里只有精品99| 国产男女内射视频| av电影中文网址| 久久久精品区二区三区| a级片在线免费高清观看视频| 欧美激情高清一区二区三区 | 色婷婷av一区二区三区视频| av国产久精品久网站免费入址| 国产成人欧美| 男女无遮挡免费网站观看| 人人妻人人爽人人添夜夜欢视频| 亚洲精品视频女| xxx大片免费视频| 热re99久久国产66热| 亚洲精品中文字幕在线视频| 欧美激情 高清一区二区三区| 永久网站在线| 午夜激情久久久久久久| 我要看黄色一级片免费的| 国语对白做爰xxxⅹ性视频网站| 国产亚洲一区二区精品| 18禁国产床啪视频网站| 久久99蜜桃精品久久| 男女高潮啪啪啪动态图| 欧美日韩精品网址| av视频免费观看在线观看| 在线看a的网站| 日本wwww免费看| 国产高清国产精品国产三级| 日本av手机在线免费观看| 久久久久精品性色| 丝袜在线中文字幕| 日韩,欧美,国产一区二区三区| 两性夫妻黄色片| 青春草亚洲视频在线观看| 超碰成人久久| 秋霞伦理黄片| 亚洲精品久久久久久婷婷小说| www.精华液| 亚洲精品日本国产第一区| 国产一区有黄有色的免费视频| 国产av精品麻豆| 国产精品秋霞免费鲁丝片| 毛片一级片免费看久久久久| 精品亚洲成国产av| 中文字幕另类日韩欧美亚洲嫩草| 自拍欧美九色日韩亚洲蝌蚪91| 高清欧美精品videossex| 亚洲伊人色综图| 久久精品人人爽人人爽视色| 一级毛片 在线播放| 色播在线永久视频| 亚洲第一av免费看| 久久免费观看电影| 国产亚洲午夜精品一区二区久久| 一边摸一边做爽爽视频免费| 国产成人午夜福利电影在线观看| 男人操女人黄网站| 校园人妻丝袜中文字幕| 久久精品久久久久久久性| 欧美老熟妇乱子伦牲交| 青草久久国产| 看免费av毛片| 晚上一个人看的免费电影| 精品人妻熟女毛片av久久网站| 日本av免费视频播放| 9色porny在线观看| 在线观看www视频免费| 熟女av电影| 国产精品国产三级专区第一集| 亚洲欧洲精品一区二区精品久久久 | av天堂久久9| 侵犯人妻中文字幕一二三四区| 午夜免费观看性视频| 母亲3免费完整高清在线观看 | videos熟女内射| 国产av精品麻豆| 亚洲精品乱久久久久久| 国产黄色视频一区二区在线观看| 深夜精品福利| 精品一区二区三区四区五区乱码 | 精品一区二区三区四区五区乱码 | 一本—道久久a久久精品蜜桃钙片| 精品久久久精品久久久| 国产日韩欧美亚洲二区| 交换朋友夫妻互换小说| 亚洲欧洲精品一区二区精品久久久 | 亚洲欧美清纯卡通| 人妻 亚洲 视频| 这个男人来自地球电影免费观看 | 一区二区三区激情视频| 伦理电影大哥的女人| 久久久精品国产亚洲av高清涩受| 国产老妇伦熟女老妇高清| 成年动漫av网址| a级毛片在线看网站| av天堂久久9| 国产一级毛片在线| 精品国产露脸久久av麻豆| 大码成人一级视频| 日韩一区二区三区影片| 亚洲精品美女久久久久99蜜臀 | 欧美日韩成人在线一区二区| 午夜福利视频精品| 日韩视频在线欧美| 1024视频免费在线观看| 亚洲精品av麻豆狂野| 免费黄网站久久成人精品| 午夜福利在线免费观看网站| 国产男女内射视频| 中文字幕亚洲精品专区| 制服丝袜香蕉在线| 色视频在线一区二区三区| 18禁动态无遮挡网站| 成年人免费黄色播放视频| 一区二区av电影网| 一本久久精品| 国产精品国产av在线观看| 国产精品偷伦视频观看了| 校园人妻丝袜中文字幕| 老熟女久久久| 一级片免费观看大全| 久久影院123| 香蕉精品网在线| 日韩熟女老妇一区二区性免费视频| 亚洲av成人精品一二三区| 美国免费a级毛片| 国产又爽黄色视频| 丝袜人妻中文字幕| 国产成人a∨麻豆精品| 极品少妇高潮喷水抽搐| 伊人亚洲综合成人网| 搡老乐熟女国产| 免费看av在线观看网站| videosex国产| 大片电影免费在线观看免费| 欧美亚洲日本最大视频资源| 中文字幕另类日韩欧美亚洲嫩草| 青春草亚洲视频在线观看| 在线亚洲精品国产二区图片欧美| 日本-黄色视频高清免费观看| 日韩av免费高清视频| 亚洲三区欧美一区| 精品国产露脸久久av麻豆| 有码 亚洲区| 亚洲欧美精品综合一区二区三区 | www.精华液| 免费看av在线观看网站| 亚洲欧美精品自产自拍| av免费观看日本| 亚洲成人手机| 国产精品香港三级国产av潘金莲 | 在线看a的网站| 青春草亚洲视频在线观看| 久久久久久人妻| 日本免费在线观看一区| 国产精品一区二区在线不卡| 亚洲国产欧美日韩在线播放| 国产午夜精品一二区理论片| 免费播放大片免费观看视频在线观看| 日日爽夜夜爽网站| 久久久久久人人人人人| 香蕉丝袜av| 欧美另类一区| 99久久人妻综合| 亚洲av日韩在线播放| 亚洲精品国产色婷婷电影| 国产成人欧美| 久久精品国产亚洲av高清一级| 熟女少妇亚洲综合色aaa.| 久久精品久久久久久久性| 夫妻性生交免费视频一级片| 国产人伦9x9x在线观看 | 日韩三级伦理在线观看| 热re99久久精品国产66热6| videosex国产| 久久影院123| 亚洲伊人色综图| 久久免费观看电影| 性色avwww在线观看| 在线观看一区二区三区激情| 国产精品无大码| 国产免费一区二区三区四区乱码| 国产精品不卡视频一区二区| 国产精品秋霞免费鲁丝片| 欧美日韩av久久| 伦精品一区二区三区| 精品久久久久久电影网| 国产乱来视频区| 大香蕉久久网| 激情五月婷婷亚洲| av线在线观看网站| 亚洲人成电影观看| 99久国产av精品国产电影| kizo精华| 久久久久视频综合| 黄网站色视频无遮挡免费观看| 午夜福利在线免费观看网站| 欧美日韩视频高清一区二区三区二| 丝瓜视频免费看黄片| 边亲边吃奶的免费视频| 午夜91福利影院| 国产不卡av网站在线观看| 日韩伦理黄色片| 99久国产av精品国产电影| 伦精品一区二区三区| 一本—道久久a久久精品蜜桃钙片| 国产乱来视频区| 精品国产一区二区三区久久久樱花| 国产精品欧美亚洲77777| 女的被弄到高潮叫床怎么办| 2022亚洲国产成人精品| 国产精品久久久久成人av| 国产伦理片在线播放av一区| 亚洲av福利一区| 成人二区视频| 午夜日本视频在线| 亚洲精品日本国产第一区| 国产欧美亚洲国产| 久久影院123| 国产亚洲av片在线观看秒播厂| 18在线观看网站| 国产精品久久久久久av不卡| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 少妇熟女欧美另类| 日本-黄色视频高清免费观看| 黄色怎么调成土黄色| 丝袜喷水一区| 最新中文字幕久久久久| 侵犯人妻中文字幕一二三四区| 国产精品一区二区在线观看99| av一本久久久久| 黑人巨大精品欧美一区二区蜜桃| 国产黄色免费在线视频| 国产精品熟女久久久久浪| 亚洲在久久综合| 高清av免费在线| 久久人人97超碰香蕉20202| 麻豆av在线久日| 好男人视频免费观看在线| 18禁国产床啪视频网站| 国产精品免费大片| 一个人免费看片子| 菩萨蛮人人尽说江南好唐韦庄| 久久久久国产精品人妻一区二区| av.在线天堂| av国产精品久久久久影院| 亚洲三级黄色毛片| 亚洲av.av天堂| 欧美亚洲日本最大视频资源| 国产极品天堂在线| 五月天丁香电影| av有码第一页| 久久热在线av| 美女中出高潮动态图| 欧美bdsm另类| 激情视频va一区二区三区| 免费观看在线日韩| 亚洲婷婷狠狠爱综合网| 久久久久国产网址| 青春草亚洲视频在线观看| 欧美精品高潮呻吟av久久| 国产熟女午夜一区二区三区| 一级a爱视频在线免费观看| 久久久久久久久久人人人人人人| 中文字幕av电影在线播放| 亚洲视频免费观看视频| 多毛熟女@视频| 老女人水多毛片| 观看av在线不卡| 午夜激情av网站| 最近中文字幕2019免费版| 人人妻人人添人人爽欧美一区卜| 久久亚洲国产成人精品v| 在线观看三级黄色| 国产野战对白在线观看| 日韩不卡一区二区三区视频在线| 香蕉精品网在线| 亚洲av中文av极速乱| 国产在视频线精品| 国产精品一区二区在线观看99| 青青草视频在线视频观看| 精品视频人人做人人爽| 午夜激情久久久久久久| 久久国产精品男人的天堂亚洲| 国产欧美日韩综合在线一区二区| 国产精品久久久久久精品古装| 精品福利永久在线观看| 国产精品嫩草影院av在线观看| 久久久久久久久久久免费av| av国产精品久久久久影院| 1024香蕉在线观看| 久久久国产一区二区| 韩国精品一区二区三区| 日韩不卡一区二区三区视频在线| 女的被弄到高潮叫床怎么办| 欧美人与性动交α欧美精品济南到 | 国产精品香港三级国产av潘金莲 | 日韩中字成人| 蜜桃国产av成人99| 欧美日韩成人在线一区二区| 一级黄片播放器| 天天操日日干夜夜撸| 精品久久久精品久久久| 最近中文字幕2019免费版| 中文字幕av电影在线播放| 亚洲男人天堂网一区| 欧美少妇被猛烈插入视频| 少妇精品久久久久久久| 18禁裸乳无遮挡动漫免费视频| 热re99久久国产66热| 亚洲视频免费观看视频| 97在线视频观看| 国产一区有黄有色的免费视频| 日韩制服骚丝袜av| 九九爱精品视频在线观看| 欧美精品一区二区免费开放| 麻豆乱淫一区二区| 这个男人来自地球电影免费观看 | 亚洲精品久久成人aⅴ小说| 七月丁香在线播放| 亚洲精品一区蜜桃| 久久久久久伊人网av| 熟妇人妻不卡中文字幕| 视频区图区小说| 妹子高潮喷水视频| 成人手机av| 韩国av在线不卡| 成人毛片a级毛片在线播放| 国产在视频线精品| 黄频高清免费视频| 国产精品久久久久成人av| 欧美日韩综合久久久久久| 日日爽夜夜爽网站| 日韩熟女老妇一区二区性免费视频| 看免费av毛片| av有码第一页| 精品卡一卡二卡四卡免费| 日韩,欧美,国产一区二区三区| 国产高清国产精品国产三级| 欧美激情 高清一区二区三区| www.熟女人妻精品国产| av视频免费观看在线观看| 免费久久久久久久精品成人欧美视频| 日韩精品免费视频一区二区三区| 国产亚洲午夜精品一区二区久久| 少妇的逼水好多| 色哟哟·www| 精品一区二区三卡| 一级片'在线观看视频| 国产精品久久久av美女十八| xxx大片免费视频| 久久久久久久亚洲中文字幕| 国产男人的电影天堂91| 在线观看免费视频网站a站| 久久久国产一区二区| 国产又爽黄色视频| 国产激情久久老熟女| 国产xxxxx性猛交| 精品久久蜜臀av无| 巨乳人妻的诱惑在线观看| 久久久久国产一级毛片高清牌| 波多野结衣av一区二区av| 一级毛片 在线播放| 极品少妇高潮喷水抽搐| 中文字幕色久视频| 成年女人在线观看亚洲视频| 国产精品三级大全| 80岁老熟妇乱子伦牲交| 91久久精品国产一区二区三区| 秋霞伦理黄片| av天堂久久9| 熟女av电影| 9色porny在线观看| 久久鲁丝午夜福利片| 91在线精品国自产拍蜜月| 日韩,欧美,国产一区二区三区| 最近中文字幕高清免费大全6| 亚洲,欧美,日韩| 日韩成人av中文字幕在线观看| 国产不卡av网站在线观看| 十分钟在线观看高清视频www| 一级a爱视频在线免费观看| 午夜福利影视在线免费观看| 成人午夜精彩视频在线观看| 国产极品天堂在线| 亚洲欧美清纯卡通| 人人妻人人爽人人添夜夜欢视频| 制服诱惑二区| 大片免费播放器 马上看| 久久精品国产亚洲av天美| 国产欧美亚洲国产| av一本久久久久| 久久精品国产亚洲av天美| 亚洲av中文av极速乱| 黄色毛片三级朝国网站| 一区福利在线观看| 美女国产视频在线观看| 一级黄片播放器| 亚洲av电影在线进入| 黑人猛操日本美女一级片| 老司机亚洲免费影院| 亚洲第一青青草原| 五月伊人婷婷丁香| 欧美日韩av久久| 欧美变态另类bdsm刘玥| 亚洲欧美成人精品一区二区| 免费不卡的大黄色大毛片视频在线观看| 日韩中文字幕欧美一区二区 | 最近中文字幕高清免费大全6| 久久精品aⅴ一区二区三区四区 | av国产久精品久网站免费入址| 伦精品一区二区三区| 国产亚洲午夜精品一区二区久久| 97在线人人人人妻| 欧美人与性动交α欧美精品济南到 | 少妇人妻精品综合一区二区| 成人亚洲欧美一区二区av| 青青草视频在线视频观看| 午夜福利一区二区在线看| xxx大片免费视频| 青春草视频在线免费观看| 欧美另类一区| 久久久久精品人妻al黑| 久久精品国产综合久久久| 成年美女黄网站色视频大全免费| 欧美日韩av久久| 超色免费av| 女人被躁到高潮嗷嗷叫费观| 桃花免费在线播放| 久久这里有精品视频免费| 久久午夜综合久久蜜桃| 亚洲国产日韩一区二区| av电影中文网址| 纵有疾风起免费观看全集完整版| 亚洲综合精品二区| 国产一区二区激情短视频 | 日韩成人av中文字幕在线观看| 男人添女人高潮全过程视频| 这个男人来自地球电影免费观看 | 男男h啪啪无遮挡| 亚洲美女搞黄在线观看| 超色免费av| 在现免费观看毛片| 精品酒店卫生间| 国产精品 欧美亚洲| 国产日韩欧美亚洲二区| 成人黄色视频免费在线看| 性色avwww在线观看| 深夜精品福利| 国产精品 欧美亚洲| 免费少妇av软件| 国产成人91sexporn| 女的被弄到高潮叫床怎么办| av在线观看视频网站免费| 18+在线观看网站| 欧美少妇被猛烈插入视频| 亚洲精品一二三| 国精品久久久久久国模美| 国产成人精品在线电影| 丝瓜视频免费看黄片| 又大又黄又爽视频免费| 免费少妇av软件| 中文字幕最新亚洲高清| 亚洲精品美女久久av网站| 精品国产国语对白av| 男女下面插进去视频免费观看| 人妻系列 视频| 最黄视频免费看| 女人高潮潮喷娇喘18禁视频| 国产激情久久老熟女| 高清视频免费观看一区二区| 亚洲婷婷狠狠爱综合网| av网站免费在线观看视频| 亚洲三区欧美一区| 亚洲国产av影院在线观看| 亚洲三级黄色毛片| 综合色丁香网| 熟女电影av网| 一边摸一边做爽爽视频免费| 一区二区av电影网| 一区福利在线观看| 啦啦啦中文免费视频观看日本| 国产av码专区亚洲av| 黄色视频在线播放观看不卡| 中文字幕人妻熟女乱码| tube8黄色片| 伦理电影免费视频| www.av在线官网国产| 久久国内精品自在自线图片| av在线观看视频网站免费| 日韩制服丝袜自拍偷拍| 有码 亚洲区| 亚洲精品美女久久久久99蜜臀 | 亚洲内射少妇av| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 久久久精品免费免费高清| 日本av手机在线免费观看| 熟女电影av网| 日韩中文字幕欧美一区二区 | 亚洲美女黄色视频免费看| 精品亚洲乱码少妇综合久久| 97在线视频观看| www.av在线官网国产| 99久国产av精品国产电影| 大香蕉久久成人网| 99久久人妻综合| √禁漫天堂资源中文www| 叶爱在线成人免费视频播放| 美国免费a级毛片| 18在线观看网站| 亚洲美女搞黄在线观看| 夫妻午夜视频| 久久久久久久久久久免费av| 水蜜桃什么品种好| 国产国语露脸激情在线看| 国产xxxxx性猛交| 色视频在线一区二区三区| 精品国产乱码久久久久久男人| 麻豆乱淫一区二区| av片东京热男人的天堂| a级片在线免费高清观看视频| 国产免费一区二区三区四区乱码| 亚洲精品视频女| av线在线观看网站| 国产片内射在线| 亚洲人成77777在线视频| 午夜激情av网站| 26uuu在线亚洲综合色| 美女中出高潮动态图| 啦啦啦中文免费视频观看日本| 国产成人精品久久久久久| 在线观看www视频免费| 中国三级夫妇交换| 欧美黄色片欧美黄色片| 天天躁日日躁夜夜躁夜夜| 欧美亚洲 丝袜 人妻 在线| 黄网站色视频无遮挡免费观看| 亚洲熟女精品中文字幕| 中文字幕制服av| 最黄视频免费看| 亚洲图色成人| 日韩伦理黄色片| 亚洲美女搞黄在线观看| 99热网站在线观看| 日韩制服丝袜自拍偷拍| 国产成人91sexporn| 国产野战对白在线观看| 99久久中文字幕三级久久日本| 国产野战对白在线观看| 久久久久国产一级毛片高清牌| 亚洲国产看品久久| www.精华液| 尾随美女入室| 亚洲色图综合在线观看| 90打野战视频偷拍视频| 日韩欧美精品免费久久| av.在线天堂| 午夜激情av网站| 国产黄频视频在线观看| 欧美日韩亚洲高清精品| 日韩制服骚丝袜av| 国产精品麻豆人妻色哟哟久久| 日本猛色少妇xxxxx猛交久久| 1024香蕉在线观看| 最近中文字幕高清免费大全6| 成人亚洲精品一区在线观看| 不卡av一区二区三区| 日韩一本色道免费dvd| 在线观看www视频免费| 最新中文字幕久久久久| 涩涩av久久男人的天堂| 欧美国产精品一级二级三级| 色网站视频免费| 精品国产超薄肉色丝袜足j| 亚洲一级一片aⅴ在线观看| 人妻一区二区av| 老司机影院成人| 欧美bdsm另类| 国产成人午夜福利电影在线观看| av电影中文网址| 欧美亚洲 丝袜 人妻 在线| 999久久久国产精品视频| 欧美日韩成人在线一区二区| 一级片'在线观看视频| 精品一区二区三卡| √禁漫天堂资源中文www| 欧美老熟妇乱子伦牲交| 高清不卡的av网站| 国产免费福利视频在线观看| 国产精品国产三级国产专区5o| 亚洲av成人精品一二三区| 日韩一区二区视频免费看| 免费观看无遮挡的男女| 午夜福利在线观看免费完整高清在| 日韩一区二区三区影片| 少妇人妻 视频| 日韩欧美一区视频在线观看| 最近中文字幕高清免费大全6| 熟女电影av网| 99热全是精品| 精品国产一区二区久久| 久久精品熟女亚洲av麻豆精品| 亚洲av电影在线观看一区二区三区| 看十八女毛片水多多多| 亚洲四区av| 亚洲一码二码三码区别大吗| 国产精品一二三区在线看| 欧美日韩一级在线毛片| 精品亚洲成a人片在线观看| 熟女少妇亚洲综合色aaa.| 久久鲁丝午夜福利片| 色婷婷久久久亚洲欧美| 亚洲美女黄色视频免费看| 精品亚洲成a人片在线观看|