• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    聯(lián)結(jié)主義人工智能的歷史回顧及其哲學(xué)審視

    2023-10-07 03:24:04陳明益張友恒
    武陵學(xué)刊 2023年5期
    關(guān)鍵詞:人工智能智能

    陳明益,張友恒

    (武漢理工大學(xué) 馬克思主義學(xué)院,湖北 武漢 430070)

    引言:何為聯(lián)結(jié)主義AI?

    時至今日,AI 領(lǐng)域仍面臨諸多質(zhì)疑,如公眾認(rèn)為AI 的進(jìn)步是基于炒作,而非實質(zhì)上的進(jìn)步[1]28。當(dāng)前AI 領(lǐng)域的熱情來源于聯(lián)結(jié)主義,也就是人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,ANNs);而這些質(zhì)疑,也是對ANNs 能走多遠(yuǎn)的提問。自圖靈(A.M.Turing)提出智能機(jī)器的設(shè)想后,AI 研究進(jìn)路主要分為在20 世紀(jì)獲得巨大成功的符號主義與在21世紀(jì)迎來發(fā)展高潮的聯(lián)結(jié)主義。與符號派重視邏輯推理不同,ANNs 初期受到生物學(xué)的啟發(fā),企圖通過計算神經(jīng)網(wǎng)絡(luò)模擬生物神經(jīng)網(wǎng)絡(luò)運行使AI進(jìn)行智能活動(見圖1)。聯(lián)結(jié)主義AI 在當(dāng)前研究中取得了突破式的進(jìn)展并擁有廣闊的應(yīng)用市場,甚至可以說ANNs 的構(gòu)想在符號派盛行的年代是一種“哥白尼式的革命”。相比于符號AI 的串行方法,ANNs 的并行程序能讓AI 完成一些常識的、經(jīng)驗性的簡單任務(wù),如人臉識別、語音識別、無人駕駛等。但要注意的是,在虛擬機(jī)上模擬的“神經(jīng)元”與大腦中的生物神經(jīng)元有著質(zhì)的區(qū)別,聯(lián)結(jié)主義構(gòu)造的“人工神經(jīng)網(wǎng)絡(luò)”與生物神經(jīng)網(wǎng)絡(luò)不能一概而論;且從“強人工智能”定義來看,由于缺少邏輯結(jié)構(gòu),ANNs 無法達(dá)到真正意義上的強人工智能[2]94。

    圖1 生物神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)網(wǎng)絡(luò)

    一、聯(lián)結(jié)主義AI 的歷史發(fā)展進(jìn)程

    相比于符號派從盛行到衰退的發(fā)展過程,ANNs 的發(fā)展更為“跌宕起伏”。從20 世紀(jì)40 年代至今:聯(lián)結(jié)主義AI 的早期發(fā)展可以分為“感知機(jī)(Perceptron)”和“反向傳播(Back Propagation,BP)”兩個主要階段。隨著20 世紀(jì)90 年代互聯(lián)網(wǎng)的浪潮興起,AI 研究曾一度停擺,直至2006 年隨著“深度學(xué)習(xí)(Deep Learning,DL)”的復(fù)興,聯(lián)結(jié)主義才再一次迎來了它的發(fā)展浪潮。1.第一階段:人工神經(jīng)網(wǎng)絡(luò)的興起到感知機(jī)的挫?。?940—1970)。在圖靈成為AI 領(lǐng)域的“幽靈神話” 前,還有一種思潮——控制論(Cybernetics),促生了人工智能。具有哲學(xué)背景的維納(Norbert Wiener)從科學(xué)哲學(xué)的視角創(chuàng)立了這個交叉領(lǐng)域——“關(guān)于在動物和機(jī)器中控制和通信的研究”[2]16。早期ANNs 的研究者無不受到這門學(xué)科的影響,他們從生物、通信、工程而不是從邏輯和數(shù)學(xué)的角度來建立AI 的模型。邏輯學(xué)出身的皮茨(Walter Pitts)和哲學(xué)出身的麥卡洛克(W.S.McCulloch)是維納的追隨者,他們在1943 年發(fā)表的論文《神經(jīng)活動內(nèi)在思維的邏輯演算》中,基于生物神經(jīng)網(wǎng)絡(luò)的特點提出了M-P 模型(見圖2)。當(dāng)存在抑制性輸入時,刺激性輸入無法觸發(fā)神經(jīng)元(output = 0);當(dāng)存在刺激性輸入而不存在抑制性輸入時,若是輸入之和大于預(yù)設(shè)閾值θ 則觸發(fā)神經(jīng)元(output = 1)?!八麄冊噲D用命題的符號邏輯符號來記錄神經(jīng)網(wǎng)絡(luò)的復(fù)雜行為”[3]117,從而初創(chuàng)了AI 的聯(lián)結(jié)主義進(jìn)路。1957 年,心理學(xué)家羅森布拉特(Frank Rosenblatt)在“赫布(Hebb)學(xué)習(xí)規(guī)則①”的影響下開發(fā)了名為“感知機(jī)”的人工神經(jīng)網(wǎng)絡(luò)模型,這個模型可以處理一些簡單的視覺任務(wù)[4]120。感知機(jī)模型與M-P 模型類似,其與后者的主要區(qū)別在于對每個輸入進(jìn)行加權(quán),輸入的權(quán)重不再統(tǒng)一,加之一些刺激性輸入也會產(chǎn)生抑制性影響,M-P 模型的絕對抑制規(guī)則不再適用。羅森布拉特因此名聲大噪,當(dāng)時,一些美國媒體甚至對此宣傳“機(jī)器即將模擬出人的意識”[5]。1962 年,羅森布拉特在《神經(jīng)動力學(xué)原理》一書中總結(jié)了自己的研究成果,但隨即遭到了信奉符號主義的明斯基(M.L.Minsky)的批判。明斯基與佩伯特(Seymour Parpert)在1969 年合作出版的《感知機(jī):計算幾何學(xué)》 一書中指出,感知機(jī)無法解決異或(XOR)問題[4]121,此書被廣泛解釋為ANNs 表現(xiàn)出的有限性存在致命的缺陷,由此切斷了ANNs 近十年的研究資助。

    圖2 M-P 模型與感知機(jī)模型對比

    2.第二階段:霍普菲爾德網(wǎng)絡(luò)的中興到反向傳播的掙扎(1980—1990)。1974 年,沃波茨(Paul Werbos)在其博士論文中將弗洛伊德的精神分析理論轉(zhuǎn)換成一種新的算法——反向傳播算法。BP 將神經(jīng)網(wǎng)絡(luò)多加了一層(隱藏層),從而解決了XOR問題[4]125,但由于ANNs 正處于低谷期,沃波茨的工作并未得到重視。ANNs 的第一次復(fù)興并非源于AI領(lǐng)域本身,而是來自物理學(xué)家霍普菲爾德(J.J Hopfield)。他的工作成果被稱為霍普菲爾德網(wǎng)絡(luò)(Hopfield Networks)(見圖3),HN 是源于自旋系統(tǒng)[6]、由一組神經(jīng)元組成的多回路反饋系統(tǒng)。其中,反饋循環(huán)數(shù)與神經(jīng)元數(shù)量相等,每個神經(jīng)元都只對除自身之外的其他神經(jīng)元進(jìn)行輸出?;羝辗茽柕戮W(wǎng)絡(luò)不僅解決了XOR 問題,并且能在組合優(yōu)化和NP 完全問題②上找到近似的解決方案,從而體現(xiàn)出其實用性[1]318-319。這重新掀起了ANNs 研究的熱潮,一批仍對此抱有希望的學(xué)者重新投入這個領(lǐng)域,并于1986 年出版了論文集《并行分布式處理》(Parallel Distributed Processing,PDP)。當(dāng)提到AI里的聯(lián)結(jié)主義,通常所指的就是PDP[2]96。這股計算機(jī)和認(rèn)知科學(xué)領(lǐng)域的“春風(fēng)”認(rèn)為,大腦可以用一個并行處理的模型來表示,各個神經(jīng)元單位聯(lián)結(jié)在一起,被激活的信號通過這個網(wǎng)絡(luò)流動,整個運行過程同時發(fā)生且呈分布式。辛頓(Geoffrey Hinton)是這個運動的參與者之一,他與人合著的論文《通過反向傳播誤差來學(xué)習(xí)表征》使BP 算法重獲重視,此算法(見圖3)反復(fù)調(diào)整網(wǎng)絡(luò)中連接的權(quán)重,以使得網(wǎng)絡(luò)的實際輸出向量與期望輸出向量之間的差異最小化[7]。這時的BP 算法僅適用于少量隱藏層的網(wǎng)絡(luò),而當(dāng)聯(lián)結(jié)主義者們將它運用到更多層神經(jīng)網(wǎng)絡(luò)時,BP 網(wǎng)絡(luò)就變成了“慢速學(xué)習(xí)者”。一個多層網(wǎng)絡(luò)可能需要千萬次迭代才能學(xué)習(xí),這就使BP 網(wǎng)絡(luò)取得的成就越來越有限[8]。隨著20 世紀(jì)90 年代互聯(lián)網(wǎng)浪潮的沖擊,聯(lián)結(jié)主義者的聲音逐漸被淹沒。

    圖3 霍普菲爾德網(wǎng)絡(luò)與反向傳播算法

    3.第三階段:深度學(xué)習(xí)的復(fù)蘇到復(fù)雜神經(jīng)網(wǎng)絡(luò)的發(fā)展(2006 至今)。互聯(lián)網(wǎng)技術(shù)與AI 技術(shù)其實有重疊的目標(biāo),更快捷的“互聯(lián)”似乎也能嗅到一絲聯(lián)結(jié)主義的氣味,“恰恰是互聯(lián)網(wǎng)所產(chǎn)生的海量數(shù)據(jù)給了神經(jīng)網(wǎng)絡(luò)更大的機(jī)會”[4]130。2006 年,辛頓等在《Science》上發(fā)表的《通過神經(jīng)網(wǎng)絡(luò)降低數(shù)據(jù)維數(shù)》一文徹底拉開了這個帷幕。此文描述了一種將高維數(shù)據(jù)轉(zhuǎn)換為低維代碼,并通過逐層預(yù)先訓(xùn)練的機(jī)器學(xué)習(xí)方法[9]。一個在20 世紀(jì)已經(jīng)被提及的方法即深度學(xué)習(xí)(Deep Learning,DL)因為此項工作而獲得了實用性。深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的方法之一,該方法與其他方法的不同之處在于訓(xùn)練者不用再給數(shù)據(jù)集“貼標(biāo)簽”,而是使機(jī)器對數(shù)據(jù)集的特征進(jìn)行主動學(xué)習(xí)。到此,我們可以發(fā)現(xiàn)ANNs 研究的兩個主要方向:一個是方法(算法),另一個則是如何建構(gòu)神經(jīng)網(wǎng)絡(luò)。許多神經(jīng)網(wǎng)絡(luò)的建模在20 世紀(jì)就已經(jīng)被作為猜想或是“半成品”提出,但是沒有合適的算法能讓它們得到更好的應(yīng)用。在研究初期,AI 從諸多學(xué)科那里汲取了養(yǎng)分,“在吸收很多后,AI 已經(jīng)打破了它們的框架,并開始反過來影響它們”[10],這些因DL 的復(fù)蘇而重新得到重視的復(fù)雜神經(jīng)網(wǎng)絡(luò)就是如此:卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNNs)是一種主用于機(jī)器視覺的神經(jīng)網(wǎng)絡(luò),“卷積層”是其內(nèi)核,它將一個函數(shù)轉(zhuǎn)化為另一個函數(shù),通過池化層選取對象的主要特征,再由全連接層給出對象是某事物的概率[11];循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,RNNs)是一種主用于自然語言處理的神經(jīng)網(wǎng)絡(luò),其特點在于高度重視順序數(shù)據(jù)或時間序列,將隱藏層的獨立激活變?yōu)橐蕾嚰せ?,形成一個循環(huán),從而獲得一定的記憶能力[12];圖神經(jīng)網(wǎng)絡(luò)(Graph Neural Networks,GNNs)是一種非傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò),它處理的是對象的分析圖示,在圖示中,節(jié)點就代表一個實體,邊則代表不同實體間的關(guān)系,這種圖示關(guān)系可用于單個或集合對象[13];量子神經(jīng)網(wǎng)絡(luò)(Quantum Neural Networks,QNNs)是一種前沿的、適用于量子計算機(jī)的神經(jīng)網(wǎng)絡(luò),它將量子理論推廣到ANNs 研究中,希望突破傳統(tǒng)ANNs的一些限制性問題[14]。諸如此類的神經(jīng)網(wǎng)絡(luò)的宏觀目標(biāo)是模擬大腦的智能,這不禁讓我們想起了羅森布拉特,這不正是他的夢想嗎[4]133?

    二、關(guān)于聯(lián)結(jié)主義AI 的智能命題

    無論是符號派還是聯(lián)結(jié)主義者,對于任意AI程序最初的構(gòu)想都并非源于每一步的精確計算,而是先產(chǎn)生一個理論上的“命題”。這個“命題”的構(gòu)想雖然基于他們的研究工作,但是指向的是機(jī)器智能的可行方案,因此每一個AI 工作者的“智能命題”都已經(jīng)在向哲學(xué)思考進(jìn)發(fā)。因此,關(guān)于聯(lián)結(jié)主義AI的哲學(xué)問題,要先回到AI 專家的研究中去尋找,再從哲學(xué)家對聯(lián)結(jié)主義AI 的思考中去尋找。

    1.神經(jīng)活動內(nèi)在思維的邏輯演算。在數(shù)學(xué)方面極有天賦的皮茨和從哲學(xué)方面對大腦進(jìn)行研究的麥卡洛克可能從未想過自己的影響可以持續(xù)近一個世紀(jì)。麥卡洛克將哲學(xué)理論和實踐相結(jié)合,并在與皮茨的合作中通過科學(xué)來檢驗自己的哲學(xué)構(gòu)想,二人合著的《神經(jīng)活動內(nèi)在思維的邏輯演算》就是聯(lián)結(jié)主義AI 哲學(xué)的開篇之作?!吧窠?jīng)活動‘全有或全無(all-or-none)’的定律可以把任意神經(jīng)元的活動表示為一個命題”[3]117,這個首創(chuàng)性的理論把大腦和心智簡化為數(shù)學(xué)模型,為哲學(xué)家們解釋心智開辟了一個新的進(jìn)路。“神經(jīng)活動之間的生理關(guān)系與命題之間的關(guān)系相對應(yīng)”[3]117,命題之間的邏輯關(guān)系描述了神經(jīng)活動的因果流,麥卡洛克和皮茨把這種邏輯關(guān)系訴諸時間,從而使神經(jīng)活動的每個過程成為定在,以形式化的方式揭開了神經(jīng)活動的“面紗”?;谏鲜隼碚摚溈寺蹇撕推ご奶岢隽藘蓚€猜想:“無環(huán)網(wǎng)(netswithoutcircle)”理論和“有環(huán)網(wǎng)(netswithcircle)”理論。無環(huán)網(wǎng)③即M-P 模型,這個神經(jīng)網(wǎng)絡(luò)中的突觸不形成循環(huán)。無環(huán)網(wǎng)的一階邏輯在這里被稱為“時態(tài)命題表達(dá)式”[3]120(Temporal Propositional Expressions,TPE),而TPE 可以通過這種非遞歸神經(jīng)網(wǎng)絡(luò)來實現(xiàn),即實現(xiàn)了圖靈機(jī)的功能。有環(huán)網(wǎng)則是具有循環(huán)連接的神經(jīng)網(wǎng)絡(luò),對此,麥卡洛克和皮茨解釋道,“若是不滿足于無環(huán)網(wǎng)的自由假設(shè),要實現(xiàn)這種情況要難上許多”[3]124。相比于無環(huán)網(wǎng),有環(huán)網(wǎng)的表達(dá)式更為復(fù)雜,因為在循環(huán)中神經(jīng)元活動的時間是不確定的,這就涉及多次量化。之后,克萊尼(S.C.Kleene)優(yōu)化了無環(huán)網(wǎng)理論,他通過數(shù)學(xué)表達(dá)式描述所有輸入神經(jīng)元激活序列的集合,在將這些序列進(jìn)行完全處理后,再將有環(huán)網(wǎng)的給定網(wǎng)絡(luò)帶到特定狀態(tài),從而發(fā)現(xiàn)其中的規(guī)律[15]。

    2.維納及其情調(diào)(Affective Tone)機(jī)制。維納是天才式的數(shù)學(xué)家,他的貢獻(xiàn)得到了初期AI 工作者的共同承認(rèn)。今日再談控制論,應(yīng)把《控制論》中的一些想法同當(dāng)前AI 的發(fā)展和哲學(xué)思考聯(lián)系起來,“情調(diào)”便是維納在計算機(jī)和神經(jīng)系統(tǒng)的討論中提出的重要概念。智能體要對外界做出反應(yīng),就必須有觀念的作用,觀念不僅包括智能體面對當(dāng)下對象做出的反應(yīng),也包括由觀念的積累而形成的顯在或潛在的復(fù)雜觀念。維納將經(jīng)驗論者的簡單觀念和復(fù)雜觀念與巴普洛夫的行為心理學(xué)進(jìn)行了比較,把前者將簡單觀念聯(lián)系起來的原則稱為“鄰接原則”[16]105,把后者將復(fù)雜觀念相聯(lián)系的原則稱為“行為方式的聯(lián)合”[16]106。從這種比較中,他提出“情調(diào)”這一概念,用以闡述機(jī)器行為和機(jī)器學(xué)習(xí)。“情調(diào)機(jī)制”是一個循環(huán)的反饋系統(tǒng),與神經(jīng)網(wǎng)絡(luò)十分相似(見圖4)。情調(diào)的變化會影響神經(jīng)系統(tǒng)正在進(jìn)行的活動,并且源于情調(diào)匯集器的反饋可以增強或抑制情調(diào)的二次能力[16]106。“情調(diào)機(jī)構(gòu)”則是在活動過程中形成觀念的一個分布式的反饋機(jī)制,多個“情調(diào)機(jī)構(gòu)”將在“情調(diào)匯集器”中被綜合。“情調(diào)匯集器”的輸出指的是以潛在的“復(fù)雜觀念”作用于活動過程,并對“情調(diào)機(jī)構(gòu)”閾值作出調(diào)整。值得注意的是,情調(diào)匯集器的輸出和被輸出過程是一個長期過程,而且在維納的理論中,情調(diào)匯集器不必是一個獨立的電子元件,它可以代表一種將情調(diào)自然綜合的作用,成為“敬告所有與此事有關(guān)者”式的消息發(fā)送出去[16]107。情調(diào)機(jī)制是機(jī)器“心靈”中的動力學(xué)機(jī)制,而非機(jī)器的運行機(jī)制。人類的行為不是單純的機(jī)械性程序行為,而是會受到如動機(jī)、情感、記憶、信念等方面影響的行為,若要使AI 的行為更加擬人化,也必須使它能感受到來自“心靈”的某種動機(jī)[17]。

    圖4 維納的“情調(diào)機(jī)制”

    3.德雷福斯與普特南的不同觀點。列寧曾說過“聰明的唯心論好過愚蠢的唯物論”,這句話在人工智能哲學(xué)中也同樣適用:聰明的哲學(xué)家好過愚蠢的AI 專家,反之亦然。人工智能哲學(xué)溯源于圖靈,但不僅限于圖靈?,F(xiàn)象學(xué)家德雷福斯(Hubert Dreyfus)對AI 的批判使他名聲大噪。他從生物層面對ANNs 進(jìn)行了批判,認(rèn)為“人腦的‘信息加工’方式可能完全不同于數(shù)字計算機(jī)”[18]。德雷福斯認(rèn)為,M-P 神經(jīng)模型只是部分地解釋了神經(jīng)元的工作方式,而ANNs 只是人類在有限經(jīng)驗的情況下,被神經(jīng)學(xué)家和AI 專家采用的一種不加批判地接受的解釋。他的批判方式是用哲學(xué)的綜合來打擊AI 的分析,但是其哲學(xué)的綜合是建立在具體分析之上的。從未受過計算機(jī)教育的德雷福斯的簡單分析招致了AI 和哲學(xué)領(lǐng)域的研究者對他的共同批判。德雷福斯也隨著20 世紀(jì)80 年代符號主義的衰退和ANNs 復(fù)興的浪潮,在與其表親④的合作中重新審視了自己的批判,如他們在合作發(fā)表的論文中將對AI 的批判范圍縮小至符號派,而對ANNs 仍抱有一定的期待。德雷福斯曾說,哲學(xué)在自然科學(xué)中找到的有效方法在AI 研究中也必定是有效的[19],但是他卻用傳統(tǒng)哲學(xué)的模糊語句去論證一些在傳統(tǒng)哲學(xué)中早已被指出的計算機(jī)語言和AI 程序設(shè)計,這種牽強附會的證明方法同樣招致了批判。與德雷福斯不同,科學(xué)哲學(xué)家普特南(Hilary Putnam)作為機(jī)器定理證明早期發(fā)展的推動者,同時也是AI 一些分支領(lǐng)域的開創(chuàng)者,他的一些哲學(xué)思考通常會被“內(nèi)行人”所接受。普特南在心靈哲學(xué)中將心智的功能與計算機(jī)的功能進(jìn)行了類比,認(rèn)為人類心靈的運作也是輸入、處理和輸出的過程,開創(chuàng)了功能主義進(jìn)路。在1981 年出版的《理性、真理和歷史》一書中,普特南在開篇給出了“缸中大腦”和“孿生地球”兩個熟知的思想實驗,其目的在于對“意向性”概念進(jìn)行否定。普特南認(rèn)為,“構(gòu)成理解的不是內(nèi)在心理現(xiàn)象,而是主體運用這種現(xiàn)象的能力以及能在正確的環(huán)境中產(chǎn)生正確的心理現(xiàn)象”[20]19-20,因此,“對外部事物的理解并不需要一系列的心理現(xiàn)象”[20]20。“意向性”是困擾AI 的一個難題,它涉及對機(jī)器意識、機(jī)器的主體地位等命題的辯論。但“意向性(intentionality)⑤”不是“意圖(intention)⑥”,在對這一問題的探討中,普特南的功能主義論證對于今日AI 的發(fā)展是有效的,如在機(jī)器的理解中加入其他參照物、知識圖譜中的本體論聯(lián)結(jié)、在人工神經(jīng)系統(tǒng)中加入邏輯結(jié)構(gòu)。古典哲學(xué)中的“意向性”并未阻止AI 科技的進(jìn)步。

    三、對聯(lián)結(jié)主義AI 的反思與展望

    鑒于近期生成式AI 的火熱,這種在使用上通過文本描述而生成內(nèi)容的AI 重新燃起了對智能和“通用人工智能”這類話題的討論熱情,其中最為火熱的莫過于ChatGPT 及其所引發(fā)的爭議。GPT 打造了一個LLM(大型語言模型),這種模型使用了神經(jīng)網(wǎng)絡(luò)來監(jiān)督和強化學(xué)習(xí)算法,打破了以往很多哲學(xué)上關(guān)于AI 的偏見,相應(yīng)的爭議更是接踵而至。盡管ANNs 已經(jīng)取得了如此高的成就,但是它仍舊存在著根本性的限制。因此,在這一部分,我們將從學(xué)科理論基礎(chǔ)的角度闡述這些問題。

    1.聯(lián)結(jié)不是一切。1997 年,IBM 公司的深藍(lán)(Deep Blue)使用窮舉法擊敗了國際象棋大師;2019年,DeepMind 的Alpha Star 在星際爭霸2⑦中完勝人類職業(yè)選手。通過對監(jiān)督學(xué)習(xí)算法建立的神經(jīng)網(wǎng)絡(luò)強化學(xué)習(xí)的訓(xùn)練,聯(lián)結(jié)主義AI 已經(jīng)能在許多電子游戲中優(yōu)于人類玩家,但Alpha 和各種Game AI只能用于特定環(huán)境中,如下圍棋的Alpha Go 并不能玩轉(zhuǎn)星際爭霸,這不僅是由于訓(xùn)練出的神經(jīng)網(wǎng)絡(luò)的獨特性,更是因為這些網(wǎng)絡(luò)使用的能力是決策而不是推理。這種基于權(quán)重的決策可以稱為衡量,而推理則是邏輯,這兩種能力都存在于人類的大腦之中。即使這兩種能力有某種程度的相似,即都是在環(huán)境下作出的正確判斷,但是在規(guī)則和目標(biāo)明確的環(huán)境中作出判斷和在開放環(huán)境中作出判斷所運用的能力是不同的,這也就是為何無法將聯(lián)結(jié)主義AI 作為操盤者運用在規(guī)則明晰但是環(huán)境開放的股票市場中的主要原因。其中一個主要限制在于:微觀層面上的突觸重組、神經(jīng)遞質(zhì)和激素神經(jīng)調(diào)節(jié)對神經(jīng)元興奮性的影響無法達(dá)到宏觀層面上的大范圍同步尖峰活動、具備全球連通性[21]。聯(lián)結(jié)主義AI的網(wǎng)絡(luò)模型仍無法在多個層次上模擬大腦,若是要擺脫“專用人工智能”的限制,就必須開發(fā)出將符號系統(tǒng)的表達(dá)性和程序多樣性與聯(lián)結(jié)主義表達(dá)的模糊性和適應(yīng)性相結(jié)合的系統(tǒng)[22]。

    神經(jīng)符號人工智能(Neural-Symbolic AI,NeSy AI)的理念是對聯(lián)結(jié)主義和符號派的一種綜合,此項研究在理論上一直有進(jìn)展,但在實際應(yīng)用中卻很難有突破。原因在于:其一,雖然人腦可以使用完全物理的神經(jīng)網(wǎng)絡(luò)來解決高度抽象的推理問題,但我們對其中的潛在機(jī)制只有部分了解;其二,人腦是由神經(jīng)元通過交換顫動的生物電脈沖而不是像單詞一樣的符號來工作[23],思維中邏輯結(jié)構(gòu)的工作方式與人腦的工作方式顯然不同。盡管存在如此大的差異,布雷澤克(P.J.Blazek)和米洛林(M.M.Lin)的近期研究在解決神經(jīng)符號問題上還是更進(jìn)了一步。本質(zhì)神經(jīng)網(wǎng)絡(luò)(Essence Neural Networks,ENNs)(見圖5)在一定程度上破除了由反向傳播和隨機(jī)梯度下降帶來的“不可解釋性”,在其中,每個神經(jīng)元都具有區(qū)分功能:概念神經(jīng)元區(qū)分“像A”和“不像A”,分化神經(jīng)元則區(qū)分“更像B”和“更像D”。ENNs 通過此過程建立起邏輯結(jié)構(gòu),模擬出符號AI 程序的功能。布雷澤克表示,“ENNs 建立了一個廣泛的計算框架,以破譯認(rèn)知神經(jīng)為基礎(chǔ)而追求通用人工智能”[24]。雖然ENNs 在邏輯推理方面做出了很大的努力,但這仍然不夠,其中的神經(jīng)元仍然要經(jīng)過訓(xùn)練,訓(xùn)練集仍然是其智能的“先天條件”。在圖像識別和文本翻譯中,ENNs 或許能取得不錯的成績,但這些能力離“通用人工智能”仍有很大距離??偟膩碚f,這至少是個不錯的開端,AI 程序或許并不需要直接復(fù)制人類的認(rèn)知過程,但通過AI 的認(rèn)知過程可以反思人類的認(rèn)知結(jié)構(gòu),從而了解我們是如何思考以及大腦機(jī)能是如何促成這種思考的。AI 的作用之一就是在我們對人類思維的思考中引入更多的結(jié)構(gòu),若是只把思維看作一種東西,就無法深入了解更多了[25]。

    圖5 本質(zhì)神經(jīng)網(wǎng)絡(luò)

    2.如何理解“智能”。學(xué)習(xí)算法是ANNs 得以體現(xiàn)智能的方法,但它與人類的學(xué)習(xí)模式仍有很大的區(qū)別。在生物神經(jīng)網(wǎng)絡(luò)中,大腦中存在著康德所說的“先天綜合判斷”的結(jié)構(gòu),即在進(jìn)行任何學(xué)習(xí)之前,大腦中已存在一種先驗的知識結(jié)構(gòu)⑧,如“時間感”“空間感”“數(shù)學(xué)知識”“趨利避害”等先天能力,這些初始狀態(tài)部分最初并不需要通過學(xué)習(xí)來獲得,而是遺傳衍生的生物進(jìn)化的副產(chǎn)品,是由生物本能所帶來的生物智能[26]。這個結(jié)構(gòu)中配置了一切使我們獲得知識得以可能的重要信息,通過學(xué)習(xí)可以不斷對原始的知識表示結(jié)構(gòu)做出調(diào)整,并使新獲得的知識和能力在大腦中呈現(xiàn)一貫性和結(jié)構(gòu)化;與生物神經(jīng)網(wǎng)絡(luò)不同,ANNs 的這種結(jié)構(gòu)通常都是從數(shù)據(jù)集中訓(xùn)練、以所選擇的問題為導(dǎo)向、通過算法優(yōu)化調(diào)整神經(jīng)元中的權(quán)重而得來的。知識表示結(jié)構(gòu)對于ANNs 來說不是先驗的,而是經(jīng)驗的,且這種結(jié)構(gòu)不會隨著時間的推移發(fā)生新的改變。當(dāng)然,也可以通過調(diào)整ANNs的學(xué)習(xí)目標(biāo)從而使神經(jīng)元中的權(quán)重再次發(fā)生變化,但同一ANNs 程序仍無法習(xí)得多種不同的知識或能力。

    由此可見,學(xué)習(xí)在生物智能中表現(xiàn)出的是一種綜合性行為,而在人工智能中則是一種專門性行為,這也就是為何ANNs 在某一方面的學(xué)習(xí)和功能可以比肩甚至超過人類的能力,但仍無法達(dá)到智能的綜合層面即“觸類旁通”“舉一反三”等的原因所在。這對于人工智能功能化的編程存在著潛在挑戰(zhàn):從經(jīng)驗水平上研究大腦,可以把大腦限定為精確“編寫”的水平,即計算機(jī)中的“邏輯門”水平,但是大腦處于神經(jīng)元的生物水平,編寫出神經(jīng)元的所有脈沖聯(lián)結(jié)序列,就足以說明“神經(jīng)計算”嗎?[27]答案顯然是否定的,即使可以確定神經(jīng)活動的規(guī)則,也很難得到生物的神經(jīng)規(guī)則和計算的思維規(guī)則相一致的解釋。生物智能和人工智能不僅有層次的區(qū)別也有質(zhì)的區(qū)別,若要使人工智能適應(yīng)不同的環(huán)境并真正智能化,需要選擇適當(dāng)?shù)某绦騺斫鉀Q它們在不同環(huán)境中遇到的新問題。能夠解決選擇程序問題的程序稱為“元程序”,ANNs 的編程在特定問題上的執(zhí)行效率可能高于生物智能,但這種特定程序不具備也無法作為“元程序”;恰恰相反,只有生物智能可以作為生物全部行為和思想的“元程序”。這種從生物的生存和繁殖的歷史過程中發(fā)展出的“元程序”以生命作為載體,但編寫出的人工智能程序沒有也永遠(yuǎn)不會有這種獨特屬性。除非有一場思想革命認(rèn)為“生命”之類的詞應(yīng)該被刪除,否則“智能”在人工智能和生物智能中永遠(yuǎn)會有這種區(qū)別。

    3.認(rèn)知科學(xué)的大模型理論愿景。上述兩節(jié)分別談到了ANNs 無法達(dá)到生物神經(jīng)活動的宏觀層面和生物“元程序”缺失的問題,說明了聯(lián)結(jié)主義進(jìn)路上的部分技術(shù)缺陷。盡管NeSy AI 這種將符號和聯(lián)結(jié)進(jìn)路相混合的方式給后續(xù)的研究指明了一定的方向,但由于基礎(chǔ)理論的缺失,其仍需進(jìn)一步發(fā)展[28]?;诂F(xiàn)有的研究基礎(chǔ),認(rèn)知科學(xué)中的大模型理論也被廣泛認(rèn)為是理解和解釋“智能”的方法之一。

    在20 世紀(jì),由羅森布魯姆(Paul Rosenbloom)等人提出的SOAR 認(rèn)知模型和安德森(John Anderson) 提出的ACT-R 獲得了廣泛的關(guān)注。SOAR 模型把推理、學(xué)習(xí)、感知、運動控制、語言、認(rèn)知發(fā)展、情感甚至可能是意識等不可言喻的品質(zhì),所有這些都放在一個連貫的框架內(nèi)[29]。由于人類認(rèn)知的多樣性,SOAR 無法囊括所有結(jié)構(gòu),因此在應(yīng)用中可能會提出其創(chuàng)建者從未預(yù)料到的解決方案⑨[30]。ACT-R 則是典型的ANNs 模型,它是一個關(guān)于大腦的總體框架,規(guī)定了大腦的組織以及這種組織如何產(chǎn)生思想[31]。無論是SOAR 還是ACT-R 都超越了聯(lián)結(jié)主義和符號進(jìn)路的傳統(tǒng)辯論,事實上,任何一個大模型都必須包含二者的優(yōu)點,因為所有關(guān)于認(rèn)知的符號方法都旨在使用某類實體和系統(tǒng)將思維描述為大腦功能的產(chǎn)物。最近的認(rèn)知科學(xué)理論提出了產(chǎn)生人類行為的雙重過程(有時被稱為系統(tǒng)1 和系統(tǒng)2),這為協(xié)調(diào)符號和聯(lián)結(jié)主義人工智能AI 的各個方面提供了一個理論框架。根據(jù)心理雙過程理論,系統(tǒng)1 是聯(lián)想的、默示的、意象的、個性化的、快速的,而系統(tǒng)2是分析的、外顯的、言語的、概括的、緩慢的[32]。值得注意的是,此項研究認(rèn)為,人類認(rèn)知中的系統(tǒng)1和系統(tǒng)2 之間的關(guān)系并不是直接的一對一的對應(yīng)關(guān)系。雖然系統(tǒng)1 可能同時包含了符號和聯(lián)結(jié)AI的抽象功能和算法,但系統(tǒng)2 中的功能和算法盡管是基于符號方法的,卻是在人腦的神經(jīng)網(wǎng)絡(luò)上實現(xiàn)的。

    當(dāng)下ANNs 技術(shù)性問題已經(jīng)越來越少,而科學(xué)性的問題卻越來越多,這些問題大部分都與認(rèn)知科學(xué)相關(guān)。雖然能在GPT 上看到LLM 的成功,但是自然語言畢竟只是認(rèn)知的一部分;雖然語言處理很重要,但并不能代表整個認(rèn)知模型和過程。因此,認(rèn)知大模型的理論在AI 研究中經(jīng)常是缺失的,這一方面是由于認(rèn)知科學(xué)的發(fā)展放緩,另一方面也是由于技術(shù)性研究超過了科學(xué)性研究。在這一點上,認(rèn)知科學(xué)的整體(包括哲學(xué)和AI 研究)仍然需要做出努力。

    結(jié) 語

    本研究探討了聯(lián)結(jié)主義范式,揭示了其哲學(xué)根源,并基于當(dāng)下研究對未來的可能方向做出了展望。雖然人工神經(jīng)網(wǎng)絡(luò)已經(jīng)取得了重大進(jìn)展,但聯(lián)結(jié)主義人工智能目前仍無法實現(xiàn)真正的智能。這不僅源于人工神經(jīng)元與生物神經(jīng)元之間存在的差異,更是源于人工智能對工程師所定義的問題的依賴。人工智能要實現(xiàn)真正的智能,必須具備自主決策和主動尋求解決方案的能力?!皬娙斯ぶ悄堋钡脑妇安粩嗉钪斯ぶ悄軐W(xué)者,但其復(fù)雜性往往導(dǎo)致人們將注意力集中在較窄的領(lǐng)域,從而導(dǎo)致對這一話題的相對沉默。中世紀(jì)的哲學(xué)家們提出的關(guān)于“智能機(jī)器”的觀點,雖然與今日的人工智能概念相去甚遠(yuǎn),但現(xiàn)代技術(shù)嫻熟的人工智能專家也仍未為實現(xiàn)強人工智能建立起一套被普遍接受的科學(xué)理論。因此,未來的研究應(yīng)側(cè)重于識別人工智能解決問題范式中的固有局限性和偏見,同時加強人工智能與認(rèn)知科學(xué)之間的跨學(xué)科合作,將人工智能哲學(xué)研究中考慮的認(rèn)知因素、主體責(zé)任觀念和人類價值觀等融入人工智能的發(fā)展之中。隨著人工智能對我們的世界的不斷塑造,我們的目標(biāo)仍然是超越當(dāng)前研究的界限,開創(chuàng)一個讓人工智能系統(tǒng)真正體現(xiàn)智能、具備自主性和倫理責(zé)任的時代。

    注 釋:

    ①赫布學(xué)習(xí)規(guī)則認(rèn)為,大腦學(xué)習(xí)新的東西時,神經(jīng)元會被激活并與其他神經(jīng)元連接,形成一個神經(jīng)網(wǎng)絡(luò)。這些連接最初很弱,但重復(fù)刺激會使連接越來越強,它們之間的連接的權(quán)重就會相應(yīng)增加。參見:Hebbian theory[Z/OL]//Wikipedia.(2023-08-27)[2023-09-01].https://en.wikipedia.org/w/index.php?title=Hebbian_theory&oldid=1172449656.

    ②NP 完全問題最直觀的一個例子就是旅行推銷員問題,它是一個被廣泛研究的組合優(yōu)化問題。即給定一組城市中某城市到另一個城市的距離和旅行成本,在同一個城市開始和結(jié)束,每個城市只需訪問一次,求解推銷員最小成本的最優(yōu)路線。參見:Travelling salesman problem [Z/OL]//Wikipedia.(2023-08-18)[2023 -09 -01].https://en.wikipedia.org/w/index.php?title =Travelling_salesman_problem&oldid=1171041134.

    ③在此文中,麥卡洛克和皮茨使用了非現(xiàn)在所熟知的邏輯語言來論述無環(huán)網(wǎng)的具體推理步驟,為節(jié)省篇幅在此不進(jìn)行解釋,但其功能已在“人工神經(jīng)網(wǎng)絡(luò)的興起到感知機(jī)的挫敗”段做出概述。

    ④斯圖亞特·德雷福斯(Dreyfus S.E.) 是休伯特·德雷福斯(Dreyfus H.L.)的親戚,他的研究方向是人工神經(jīng)網(wǎng)絡(luò)。

    ⑤See JACOB P.Intentionality [M/OL]//ZALTA E N, Nodelman U.The stanford encyclopedia of philosophy.Spring 2023.Metaphysics Research Lab, Stanford University,(2023-02-07)[2023-09-01].https://plato.stanford.edu/archives/spr2023/entries/intentionality/.

    ⑥See SETIYA K.Intention[M/OL]//ZALTA E N, Nodelman U.The stanford encyclopedia of philosophy.Winter 2022.Metaphysics Research Lab, Stanford University,(2022-07-20)[2023-09-01].https://plato.stanford.edu/archives/win2022/entries/intention/.

    ⑦暴雪公司推出的一款即時戰(zhàn)略游戲。星際爭霸的游戲地圖與圍棋地圖同樣是坐標(biāo)系,不同的是前者在這個坐標(biāo)系中添加了資源、環(huán)境等為獲得游戲勝利而需要考慮的因素,但是二者仍然具有類似的基本規(guī)則,即進(jìn)攻、防守和布局等基本游戲策略。

    ⑧在這里的先驗知識采用的是康德的解釋,這是一種在邏輯上先于經(jīng)驗并使得經(jīng)驗知識得以可能的知識。

    ⑨由于人類認(rèn)知的復(fù)雜性,這往往是大模型的通病。

    猜你喜歡
    人工智能智能
    我校新增“人工智能”本科專業(yè)
    智能制造 反思與期望
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    人工智能與就業(yè)
    智能制造·AI未來
    商周刊(2018年18期)2018-09-21 09:14:46
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    久久久久久九九精品二区国产| 欧美3d第一页| 国产在视频线在精品| 国产免费男女视频| 亚洲乱码一区二区免费版| 长腿黑丝高跟| 亚洲欧美中文字幕日韩二区| 又黄又爽又刺激的免费视频.| 看免费成人av毛片| 日本色播在线视频| av视频在线观看入口| 桃色一区二区三区在线观看| 美女被艹到高潮喷水动态| 国产熟女欧美一区二区| 97超视频在线观看视频| 亚洲欧美清纯卡通| 久久久久久久亚洲中文字幕| 欧美日韩一区二区视频在线观看视频在线 | 久久亚洲精品不卡| 女人十人毛片免费观看3o分钟| 一级黄片播放器| 99久久精品一区二区三区| 欧美日韩一区二区视频在线观看视频在线 | 久久韩国三级中文字幕| 一卡2卡三卡四卡精品乱码亚洲| 91狼人影院| 天天躁夜夜躁狠狠久久av| 亚洲熟妇中文字幕五十中出| 99久国产av精品国产电影| 国产大屁股一区二区在线视频| 一个人看的www免费观看视频| 亚洲精品成人久久久久久| 中文字幕熟女人妻在线| 三级毛片av免费| 99精品在免费线老司机午夜| 欧美又色又爽又黄视频| 国产精品女同一区二区软件| 亚洲欧美精品综合久久99| 国产成人一区二区在线| eeuss影院久久| 一个人免费在线观看电影| 免费在线观看成人毛片| 欧美激情国产日韩精品一区| www日本黄色视频网| 免费大片18禁| 成人亚洲精品av一区二区| 亚洲欧美日韩东京热| 欧美日韩在线观看h| 偷拍熟女少妇极品色| 啦啦啦啦在线视频资源| 黄色一级大片看看| 久久精品久久久久久噜噜老黄 | 欧美丝袜亚洲另类| 中文字幕av在线有码专区| 免费无遮挡裸体视频| 我的老师免费观看完整版| 在线观看一区二区三区| 天堂√8在线中文| 色哟哟哟哟哟哟| 欧美日本亚洲视频在线播放| 乱人视频在线观看| 亚洲一区高清亚洲精品| 三级经典国产精品| 亚洲av免费在线观看| 毛片女人毛片| 国产探花在线观看一区二区| 久久欧美精品欧美久久欧美| 久久久精品欧美日韩精品| 一级黄片播放器| 国产精品不卡视频一区二区| 亚洲av第一区精品v没综合| 在线免费观看不下载黄p国产| 99久久精品一区二区三区| 天天躁夜夜躁狠狠久久av| 丰满乱子伦码专区| 青春草国产在线视频 | 日韩欧美三级三区| 能在线免费观看的黄片| a级一级毛片免费在线观看| 久久热精品热| 少妇裸体淫交视频免费看高清| 国产亚洲欧美98| 熟妇人妻久久中文字幕3abv| 草草在线视频免费看| 午夜老司机福利剧场| 国产在视频线在精品| 成人特级黄色片久久久久久久| 黑人高潮一二区| 1024手机看黄色片| 91精品一卡2卡3卡4卡| 最好的美女福利视频网| 夜夜爽天天搞| 青春草视频在线免费观看| 一进一出抽搐gif免费好疼| 国产精品三级大全| 91精品国产九色| 岛国毛片在线播放| 99热只有精品国产| 亚洲国产精品成人久久小说 | 69人妻影院| 中文字幕制服av| 国产精品一区二区在线观看99 | av.在线天堂| 国产亚洲91精品色在线| 国产视频内射| 日韩国内少妇激情av| av国产免费在线观看| 色播亚洲综合网| 亚洲国产精品国产精品| 91久久精品电影网| 免费看美女性在线毛片视频| 99久久人妻综合| 欧美日韩综合久久久久久| 我的女老师完整版在线观看| 久久精品夜色国产| 黄色日韩在线| 欧美一区二区国产精品久久精品| 亚洲欧美精品综合久久99| 波野结衣二区三区在线| 色哟哟·www| 青春草国产在线视频 | 欧美性猛交╳xxx乱大交人| 嘟嘟电影网在线观看| 黄色一级大片看看| 国产精品人妻久久久影院| 成人性生交大片免费视频hd| 在线国产一区二区在线| 91av网一区二区| 毛片一级片免费看久久久久| 成人欧美大片| 国产一区二区在线观看日韩| 亚洲va在线va天堂va国产| 国产探花在线观看一区二区| 3wmmmm亚洲av在线观看| 日韩亚洲欧美综合| 国产免费男女视频| 长腿黑丝高跟| 中文字幕制服av| 中文亚洲av片在线观看爽| 久久精品影院6| 久久精品国产亚洲网站| 在线观看66精品国产| 国产精品免费一区二区三区在线| 九九热线精品视视频播放| 亚洲精品成人久久久久久| 91久久精品国产一区二区三区| 三级毛片av免费| 欧美潮喷喷水| 你懂的网址亚洲精品在线观看 | 国产不卡一卡二| 欧美性感艳星| 一级av片app| 国产成人午夜福利电影在线观看| 日日啪夜夜撸| 欧美性猛交╳xxx乱大交人| 午夜激情欧美在线| 中文字幕av在线有码专区| 日韩欧美 国产精品| 国产精品一区二区三区四区久久| av卡一久久| 亚洲图色成人| 伊人久久精品亚洲午夜| 欧美日韩在线观看h| 噜噜噜噜噜久久久久久91| 男人和女人高潮做爰伦理| 久久久久久久久中文| 少妇被粗大猛烈的视频| 久99久视频精品免费| 少妇的逼水好多| 色综合色国产| 中文字幕人妻熟人妻熟丝袜美| 国产成人午夜福利电影在线观看| 人妻夜夜爽99麻豆av| 午夜a级毛片| 麻豆国产97在线/欧美| 欧美性猛交╳xxx乱大交人| 免费人成视频x8x8入口观看| 日韩高清综合在线| 成人性生交大片免费视频hd| 在现免费观看毛片| 国产一级毛片在线| 日韩视频在线欧美| 欧美激情久久久久久爽电影| 国产精品美女特级片免费视频播放器| 一卡2卡三卡四卡精品乱码亚洲| 日韩成人伦理影院| av天堂中文字幕网| 国产极品天堂在线| 中文精品一卡2卡3卡4更新| 欧美zozozo另类| 成人二区视频| 欧美日本视频| 国产女主播在线喷水免费视频网站 | 嫩草影院新地址| 免费看av在线观看网站| 在线国产一区二区在线| ponron亚洲| 99在线人妻在线中文字幕| 男人和女人高潮做爰伦理| 国产在线精品亚洲第一网站| 国产成人精品久久久久久| 超碰av人人做人人爽久久| 级片在线观看| 男人舔奶头视频| 亚洲国产精品成人综合色| 国内精品久久久久精免费| 久久人人精品亚洲av| 亚洲精品久久国产高清桃花| 国产成人freesex在线| 亚洲国产欧美在线一区| 99久久人妻综合| 亚洲精品日韩在线中文字幕 | 高清午夜精品一区二区三区 | 婷婷精品国产亚洲av| 国产一区二区激情短视频| 亚洲欧美精品综合久久99| 两个人的视频大全免费| 色播亚洲综合网| 赤兔流量卡办理| 久久99热这里只有精品18| 热99re8久久精品国产| 在线a可以看的网站| 欧美性猛交黑人性爽| 国产久久久一区二区三区| 久久精品人妻少妇| 午夜福利在线观看吧| 日韩欧美在线乱码| 波多野结衣高清作品| 久久精品国产99精品国产亚洲性色| 身体一侧抽搐| 能在线免费看毛片的网站| 欧美高清成人免费视频www| 99热网站在线观看| 精品久久久久久成人av| 久久人人精品亚洲av| 久久久色成人| 九九在线视频观看精品| 卡戴珊不雅视频在线播放| 免费一级毛片在线播放高清视频| 亚洲一级一片aⅴ在线观看| 麻豆av噜噜一区二区三区| 精品熟女少妇av免费看| 毛片一级片免费看久久久久| 日韩在线高清观看一区二区三区| 哪里可以看免费的av片| 国产精品麻豆人妻色哟哟久久 | 91午夜精品亚洲一区二区三区| 亚洲高清免费不卡视频| 中国美白少妇内射xxxbb| 国产高清视频在线观看网站| 九九爱精品视频在线观看| 午夜福利在线在线| 午夜爱爱视频在线播放| 色哟哟哟哟哟哟| av卡一久久| 色5月婷婷丁香| 一边亲一边摸免费视频| 久久人妻av系列| 看非洲黑人一级黄片| 精品人妻熟女av久视频| 永久网站在线| 亚洲精品久久国产高清桃花| 国产黄片美女视频| 在线观看美女被高潮喷水网站| 日韩大尺度精品在线看网址| 久久精品国产亚洲av香蕉五月| 麻豆乱淫一区二区| 亚洲精品亚洲一区二区| 久久久国产成人免费| 一级黄色大片毛片| 69av精品久久久久久| 亚洲欧美成人精品一区二区| 亚洲欧洲日产国产| 大又大粗又爽又黄少妇毛片口| 日韩精品有码人妻一区| 国产单亲对白刺激| 自拍偷自拍亚洲精品老妇| 精品欧美国产一区二区三| 老熟妇乱子伦视频在线观看| av视频在线观看入口| 18+在线观看网站| 亚洲av男天堂| 内地一区二区视频在线| 欧美日韩在线观看h| 欧美xxxx性猛交bbbb| 高清午夜精品一区二区三区 | 1000部很黄的大片| 日韩亚洲欧美综合| 寂寞人妻少妇视频99o| 99久久无色码亚洲精品果冻| 亚洲国产精品合色在线| 国产高清有码在线观看视频| 免费看光身美女| 久久久精品欧美日韩精品| 精品国内亚洲2022精品成人| 久久精品影院6| 中文在线观看免费www的网站| 欧美bdsm另类| 成人亚洲精品av一区二区| 最好的美女福利视频网| 亚洲成a人片在线一区二区| 在线观看av片永久免费下载| av女优亚洲男人天堂| 在线观看免费视频日本深夜| 久久午夜福利片| 黄色配什么色好看| 久久6这里有精品| 97超碰精品成人国产| 99在线人妻在线中文字幕| 国产色爽女视频免费观看| 搡女人真爽免费视频火全软件| 国产一级毛片在线| 免费观看a级毛片全部| 99热全是精品| 蜜臀久久99精品久久宅男| 午夜爱爱视频在线播放| 日韩人妻高清精品专区| 人妻少妇偷人精品九色| 成人毛片60女人毛片免费| 午夜福利视频1000在线观看| 中文亚洲av片在线观看爽| 欧美成人a在线观看| 日韩国内少妇激情av| 深爱激情五月婷婷| 搞女人的毛片| 欧美性感艳星| 国产免费男女视频| 国产高清有码在线观看视频| 国产毛片a区久久久久| 青青草视频在线视频观看| 在线播放无遮挡| 亚洲无线在线观看| 欧美日本视频| 午夜亚洲福利在线播放| 少妇熟女aⅴ在线视频| 免费观看人在逋| av在线亚洲专区| 久久久精品欧美日韩精品| 波多野结衣巨乳人妻| 色哟哟·www| 国产精品电影一区二区三区| 国产黄a三级三级三级人| 日本一本二区三区精品| 深夜精品福利| 亚洲丝袜综合中文字幕| 麻豆国产97在线/欧美| 啦啦啦观看免费观看视频高清| 亚州av有码| 午夜久久久久精精品| 久久久成人免费电影| 国产91av在线免费观看| 久久99热这里只有精品18| 欧美高清性xxxxhd video| 国产一区二区在线观看日韩| 亚洲美女搞黄在线观看| 91麻豆精品激情在线观看国产| 99久久人妻综合| 草草在线视频免费看| 亚洲不卡免费看| 一区福利在线观看| 国内久久婷婷六月综合欲色啪| 久久这里只有精品中国| 老师上课跳d突然被开到最大视频| 亚洲欧洲国产日韩| 天堂影院成人在线观看| 国产精品国产三级国产av玫瑰| 老师上课跳d突然被开到最大视频| 日韩欧美一区二区三区在线观看| 国产色爽女视频免费观看| 99热只有精品国产| 一级毛片aaaaaa免费看小| 国产av不卡久久| 啦啦啦观看免费观看视频高清| 久久人人爽人人爽人人片va| 国产在线男女| 美女xxoo啪啪120秒动态图| 色5月婷婷丁香| 在线观看美女被高潮喷水网站| 熟妇人妻久久中文字幕3abv| 91久久精品国产一区二区成人| 搞女人的毛片| 岛国在线免费视频观看| 三级经典国产精品| 午夜老司机福利剧场| 夜夜看夜夜爽夜夜摸| 久久午夜亚洲精品久久| 国产午夜福利久久久久久| 亚洲欧美日韩高清专用| 国产爱豆传媒在线观看| 久久精品国产亚洲网站| 哪个播放器可以免费观看大片| 亚洲欧美精品综合久久99| 26uuu在线亚洲综合色| 亚洲美女搞黄在线观看| 97超视频在线观看视频| 青春草视频在线免费观看| 色哟哟·www| 久久久久久久久中文| 99九九线精品视频在线观看视频| 亚洲最大成人中文| 日韩欧美精品免费久久| 亚洲第一区二区三区不卡| 国产老妇伦熟女老妇高清| 12—13女人毛片做爰片一| 成人av在线播放网站| 天天躁夜夜躁狠狠久久av| 一级黄片播放器| 亚洲成人精品中文字幕电影| 亚洲不卡免费看| 高清日韩中文字幕在线| 一级毛片aaaaaa免费看小| a级毛片a级免费在线| 在线播放无遮挡| 搡老妇女老女人老熟妇| 免费无遮挡裸体视频| 日韩欧美精品免费久久| 一区二区三区高清视频在线| 桃色一区二区三区在线观看| 午夜a级毛片| 中文字幕人妻熟人妻熟丝袜美| 日韩三级伦理在线观看| 中文字幕av在线有码专区| 免费看美女性在线毛片视频| 一个人看的www免费观看视频| 性色avwww在线观看| 亚洲国产高清在线一区二区三| 国产片特级美女逼逼视频| 男女啪啪激烈高潮av片| 干丝袜人妻中文字幕| 男女下面进入的视频免费午夜| 国产乱人偷精品视频| 亚州av有码| 看片在线看免费视频| 激情 狠狠 欧美| 国产精品乱码一区二三区的特点| 日韩欧美精品免费久久| 欧美一区二区精品小视频在线| 日本撒尿小便嘘嘘汇集6| www日本黄色视频网| 99久久成人亚洲精品观看| 五月玫瑰六月丁香| 在线播放无遮挡| 亚洲av熟女| 在线观看66精品国产| 国产精品嫩草影院av在线观看| 久久热精品热| 欧美成人精品欧美一级黄| www.色视频.com| 国内精品久久久久精免费| 亚洲精品国产成人久久av| 不卡视频在线观看欧美| 能在线免费看毛片的网站| 1000部很黄的大片| 女人被狂操c到高潮| 亚洲美女视频黄频| 啦啦啦韩国在线观看视频| 成人漫画全彩无遮挡| 大香蕉久久网| 久久九九热精品免费| 日韩人妻高清精品专区| 精品日产1卡2卡| 美女黄网站色视频| 日韩在线高清观看一区二区三区| 蜜臀久久99精品久久宅男| 99热这里只有是精品在线观看| 国产一区二区在线观看日韩| 亚洲在线自拍视频| 舔av片在线| 亚洲色图av天堂| 99久久精品国产国产毛片| 久久热精品热| 成熟少妇高潮喷水视频| 国产高清视频在线观看网站| 尾随美女入室| 精品久久久久久久末码| 日韩人妻高清精品专区| 亚洲av电影不卡..在线观看| 亚洲国产欧美在线一区| 国产精品99久久久久久久久| 国产成人a∨麻豆精品| 色哟哟哟哟哟哟| 久久精品久久久久久久性| 久久婷婷人人爽人人干人人爱| 亚洲欧美日韩高清在线视频| 99九九线精品视频在线观看视频| 三级男女做爰猛烈吃奶摸视频| 亚洲国产精品成人久久小说 | 午夜久久久久精精品| 久久久久久久午夜电影| 老熟妇乱子伦视频在线观看| 国产真实乱freesex| 亚洲国产精品sss在线观看| 老师上课跳d突然被开到最大视频| 久久精品综合一区二区三区| 国产精品.久久久| 亚洲av免费高清在线观看| 欧美日本亚洲视频在线播放| 乱码一卡2卡4卡精品| 国产视频首页在线观看| 伦理电影大哥的女人| 久久久国产成人免费| 久久国产乱子免费精品| 亚洲人成网站高清观看| 免费观看人在逋| 成人特级黄色片久久久久久久| 麻豆乱淫一区二区| 亚洲av.av天堂| 亚洲三级黄色毛片| av在线播放精品| 色哟哟哟哟哟哟| 男人狂女人下面高潮的视频| 深夜精品福利| 两性午夜刺激爽爽歪歪视频在线观看| 久久久久九九精品影院| 日本五十路高清| 久久久久久久久久久丰满| 久久久久久久午夜电影| 亚洲av二区三区四区| 熟女人妻精品中文字幕| 亚洲欧洲国产日韩| 波多野结衣巨乳人妻| 性插视频无遮挡在线免费观看| 久久热精品热| 日本在线视频免费播放| 亚洲最大成人av| 欧美日韩综合久久久久久| 一级黄片播放器| 免费av毛片视频| 国产午夜精品一二区理论片| 中国美女看黄片| 亚洲激情五月婷婷啪啪| 在线播放国产精品三级| 久久久精品欧美日韩精品| 精品不卡国产一区二区三区| 人妻系列 视频| 国产蜜桃级精品一区二区三区| 中文字幕av在线有码专区| 午夜福利在线观看吧| 日日啪夜夜撸| 丝袜喷水一区| 一个人免费在线观看电影| 日本黄大片高清| 特大巨黑吊av在线直播| 亚洲国产欧美人成| 国产白丝娇喘喷水9色精品| 国产人妻一区二区三区在| 一区福利在线观看| 久久久久久久久中文| 在线观看午夜福利视频| 亚洲欧美精品专区久久| 天堂网av新在线| 日本爱情动作片www.在线观看| 精品一区二区三区人妻视频| 特大巨黑吊av在线直播| 国产精品三级大全| 国产高清不卡午夜福利| 美女高潮的动态| 99热网站在线观看| 欧美+日韩+精品| 麻豆国产av国片精品| 最新中文字幕久久久久| 成人午夜精彩视频在线观看| 国模一区二区三区四区视频| 村上凉子中文字幕在线| 免费观看精品视频网站| 嫩草影院入口| 自拍偷自拍亚洲精品老妇| 亚洲人成网站高清观看| 久久6这里有精品| 欧美+亚洲+日韩+国产| av黄色大香蕉| 免费看美女性在线毛片视频| 人妻夜夜爽99麻豆av| 久久精品人妻少妇| 天堂影院成人在线观看| 校园人妻丝袜中文字幕| 久久久久久九九精品二区国产| 日本三级黄在线观看| 国产精品爽爽va在线观看网站| av福利片在线观看| 欧美3d第一页| 精品久久久久久久久av| 黄色一级大片看看| 少妇熟女欧美另类| 亚州av有码| 老熟妇乱子伦视频在线观看| 少妇人妻精品综合一区二区 | 美女内射精品一级片tv| 国产三级中文精品| 一本精品99久久精品77| 97在线视频观看| 人妻制服诱惑在线中文字幕| 春色校园在线视频观看| eeuss影院久久| 18+在线观看网站| 99久国产av精品国产电影| 成人国产麻豆网| 久久久久免费精品人妻一区二区| 1024手机看黄色片| 国产蜜桃级精品一区二区三区| 欧美+日韩+精品| 国产成人aa在线观看| 国产精品,欧美在线| 九草在线视频观看| 韩国av在线不卡| 欧美精品国产亚洲| 日韩,欧美,国产一区二区三区 | 色5月婷婷丁香| 国产精品一区www在线观看| 久久精品国产清高在天天线| 国产探花极品一区二区| 热99re8久久精品国产| 五月玫瑰六月丁香| 国产精品一区二区在线观看99 | 欧美zozozo另类|