• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能大飛躍背景下的語言學(xué)理論思考

    2023-08-01 07:23:37袁毓林
    語言戰(zhàn)略研究 2023年4期
    關(guān)鍵詞:深度學(xué)習(xí)人工智能

    提 要 當(dāng)今以深度學(xué)習(xí)為核心的人工智能催生了科學(xué)研究的第五范式,本文呼吁,語言學(xué)研究也要擁抱數(shù)據(jù)/計(jì)算密集型的第四/五范式,并通過介紹和評(píng)論人工智能研究與技術(shù)開發(fā)過程中,有關(guān)專家對(duì)于跟語言學(xué)有關(guān)的問題的見解,來支持上述倡議。本文主張或贊成的主要觀點(diǎn)為:(1)語言的主要功用是交際,思考往往是內(nèi)心的對(duì)話與問答。(2)語言和思維并不完全等同,基于語言運(yùn)用的智能水平的圖靈測(cè)試并不完全有效。(3)語法這種智能并不是人類獨(dú)有的,語法的原理還適用于語言之外的軀體、物品及其圖像等組合性系統(tǒng)。(4)現(xiàn)有能力超強(qiáng)的大規(guī)模語言模型不能用作人與機(jī)器人交談的技術(shù)界面,有效的語言運(yùn)用必須是一種具身智能,包括具身認(rèn)知的詞語接地和環(huán)境可供性等內(nèi)容;相應(yīng)地,必須考慮不同類型的具身性圖靈測(cè)試。(5)ChatGPT的成功說明了大模型、大數(shù)據(jù)和強(qiáng)算力能夠捕獲語言的統(tǒng)計(jì)規(guī)律和運(yùn)用模式,語言學(xué)要采用數(shù)據(jù)/計(jì)算密集型的第四/五范式來探索語言的統(tǒng)計(jì)結(jié)構(gòu)。

    關(guān)鍵詞 深度學(xué)習(xí);人工智能;第四/五范式;語言與思維;(具身性)圖靈測(cè)試

    中圖分類號(hào) H002 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 2096-1014(2023)04-0007-12

    DOI 10.19689/j.cnki.cn10-1361/h.20230401

    Theoretical Reflections on Linguistic Studies Against the Background of AI Great Leap Forward

    Yuan Yulin

    Abstract In view that artificial intelligence (AI), with deep learning as its core technology, is bringing about the fifth paradigm in scientific research, this paper argues that linguistic studies also need to embark upon the fourth or the fifth paradigm for pursuing a data-intensive and computation-intensive approaches. To further this suggestion, insights from linguistic experts on linguistics-related issues in AI study, which are often encountered in the scientific research and technical development of AI, are introduced and examined with an aim to support my argument. To engage with this topic, the current paper advocates the following points of view, namely: (1) While language functions primarily to communicate, thoughts usually happen in form of dialoguing and questioning-answering in the mind. (2) As language and reasoning are not totally equivalent, the Turing test cannot be fully valid. (3) Grammaticalization is not an intelligence unique to mankind, so the functional principles of grammaticalization also apply to composite systems other than language, including bodies, objects, and images. (4) Any existing super-capacity large language model (LLM) is not adequate to be used as a technological interface for the communication between human beings and robots, because any effective use of language should be an embodied intelligence, including lexical grounding and environmental affordance in embodied cognition; accordingly, different types of embodied Turing tests should be taken into consideration. (5) The success of ChatGPT shows that large models, big data and powerful computability work to capture statistical rules and operating modes of language. In this sense, linguistic studies should adopt data- and computation-intensive methodologies as a fourth or a fifth paradigm to probe into the algorithmic structure of language.

    Keywords deep learning; artificial intelligence (AI); fourth/fifth paradigm; language and mind; (embodied) Turing test

    一、引言:語言學(xué)研究要不要呼喚第四/五范式?

    目前,以深度學(xué)習(xí)為技術(shù)核心的人工智能,已經(jīng)對(duì)科學(xué)研究、技術(shù)創(chuàng)新和日常生活帶來了顛覆性的影響。由于當(dāng)今的人工智能技術(shù)可以在差異巨大的時(shí)間與空間尺度上,對(duì)自然現(xiàn)象和社會(huì)現(xiàn)象進(jìn)行比較精準(zhǔn)的建模與預(yù)測(cè),比如著名的游戲程序AlphaGo能夠打敗人類圍棋世界冠軍,語言模型AlphaFold能夠預(yù)測(cè)2萬多種生物蛋白。因而,有人提出:這種人工智能技術(shù)與能力,是否代表著科學(xué)發(fā)現(xiàn)新范式的曙光?比如,圖靈獎(jiǎng)獲得者、前微軟技術(shù)院士吉姆·蓋瑞(Jim Gary)用“四種范式”描述了科學(xué)發(fā)現(xiàn)的歷史演變。第一范式的起源可以追溯到幾千年前,它純粹是經(jīng)驗(yàn)性的,基于對(duì)自然現(xiàn)象的直接觀察。雖然在這些觀察中,有許多規(guī)律是顯而易見的,但沒有系統(tǒng)性的方法來捕獲或表達(dá)這些規(guī)律。第二范式以自然理論模型為特征,例如17世紀(jì)的牛頓運(yùn)動(dòng)定律,或19世紀(jì)的麥克斯韋電動(dòng)力學(xué)方程。這些方程由經(jīng)驗(yàn)觀察、歸納推導(dǎo)得出,可以推廣到比直接觀察更為廣泛的情形。雖然這些方程可以在簡(jiǎn)單場(chǎng)景下解析求解,但直到20世紀(jì),因?yàn)殡娮佑?jì)算機(jī)的發(fā)展,它們才得以在更廣泛的情形下求解,從而產(chǎn)生了基于數(shù)值計(jì)算的第三范式。21世紀(jì)初,計(jì)算再次改變了科學(xué),這一次則是通過收集、存儲(chǔ)和處理大量數(shù)據(jù)的能力,催生了數(shù)據(jù)密集型科學(xué)發(fā)現(xiàn)的第四范式。機(jī)器學(xué)習(xí)是第四范式中日益重要的組成部分,它能夠?qū)Υ笠?guī)模實(shí)驗(yàn)科學(xué)數(shù)據(jù)進(jìn)行建模和分析。這四種范式是相輔相成、并存不悖的。

    在此基礎(chǔ)上,微軟技術(shù)院士、微軟研究院科學(xué)智能中心負(fù)責(zé)人克里斯·畢曉普(Chris Bishop)倡導(dǎo)科學(xué)發(fā)現(xiàn)的“第五范式”:把深度學(xué)習(xí)作為兼顧科學(xué)發(fā)現(xiàn)的速度與準(zhǔn)確性的強(qiáng)大工具,用科學(xué)基本方程的數(shù)值解(而非經(jīng)驗(yàn)觀察)來訓(xùn)練神經(jīng)網(wǎng)絡(luò);將科學(xué)方程的數(shù)值解看作自然界的模擬器,以較高的計(jì)算成本,對(duì)眾多我們感興趣的應(yīng)用項(xiàng)目進(jìn)行計(jì)算,例如預(yù)測(cè)天氣、模擬星系碰撞、優(yōu)化聚變反應(yīng)堆設(shè)計(jì),或計(jì)算候選藥物分子與目標(biāo)蛋白的結(jié)合自由能。

    如果簡(jiǎn)單類比一下,那么語言學(xué)研究的第一范式是基于經(jīng)驗(yàn)的傳統(tǒng)語法,第二范式是講求操作程序的結(jié)構(gòu)主義描寫語言學(xué),第三范式是探索結(jié)構(gòu)模式及其背后心智過程的轉(zhuǎn)換生成語法,以及基于認(rèn)知科學(xué)的功能語言學(xué)。那么,在目前人工智能的自然語言處理領(lǐng)域捷報(bào)頻傳、模式鋒出的今天,語言學(xué)界要不要呼喚和擁抱語言學(xué)研究的第四范式和第五范式呢?

    為了更好地回答上述問題,我們首先需要了解目前人工智能研究與技術(shù)開發(fā)過程中,有關(guān)專家對(duì)于下列問題的見解:(1)語言與思維關(guān)系怎樣?語言的主要功用是思考而不是交際嗎?(2)從語言運(yùn)用看智能水平的圖靈測(cè)試有效嗎?(3)語法這種智能是人類獨(dú)有的嗎?語法的原理只適用于語言嗎?(4)現(xiàn)有的能力超強(qiáng)的大規(guī)模語言模型能否用作人與機(jī)器人交談的技術(shù)界面?有效的語言運(yùn)用為什么必須是一種具身智能?具身認(rèn)知的詞語接地和環(huán)境可供性為什么重要?相應(yīng)地,為什么必須考慮具身性圖靈測(cè)試?(5)ChatGPT的驚艷表現(xiàn)對(duì)語言學(xué)研究的范式選擇有什么啟發(fā)?

    下面,我們分別對(duì)這些問題進(jìn)行概述性介紹,也做出一些必要的評(píng)論;希望能夠說明:語言學(xué)應(yīng)該擁抱數(shù)據(jù)/計(jì)算密集型的第四/五范式,探索語言的顯式的統(tǒng)計(jì)結(jié)構(gòu),為通用性人工智能的發(fā)展做出自己的貢獻(xiàn)。

    二、語言與思維的可分性和圖靈測(cè)試的局限性

    這一節(jié)首先介紹關(guān)于語言與思維關(guān)系的同一性假設(shè)及其反對(duì)意見,然后介紹喬姆斯基“語言的主要功用是思考而不是交際”的觀點(diǎn)并提出質(zhì)疑,接著通過介紹巴赫金的“對(duì)話”與“多聲性”理論來說明思考與交際并不截然分開,最后介紹圖靈測(cè)試所隱含的語言與思維等同假設(shè)和有關(guān)人工智能學(xué)者的批評(píng)意見。

    2.1 “語言與思維的關(guān)系”是語言學(xué)理論的一個(gè)聚訟紛紜、長(zhǎng)盛不衰的話題。其中,最有名的莫過于“薩丕爾-沃爾夫假設(shè)”。粗略地說,薩丕爾強(qiáng)調(diào),需要注意語言如何將世界分割為不同類別方面的差異。他的學(xué)生沃爾夫則把上面這個(gè)見解擴(kuò)充成著名的“語言決定論假設(shè)”:

    我們對(duì)自然進(jìn)行劃分,將其組織成概念,并根據(jù)我們的想法賦予其意義,這樣做主要是因?yàn)槲覀兙痛诉_(dá)成了一致的協(xié)議——將它融入我們的語言,并編入語言的特定模式。當(dāng)然,該協(xié)議是含蓄的、隱晦的,但其條款卻帶有絕對(duì)的強(qiáng)制性。

    諸如此類的把語言等同于思維的學(xué)說,在哲學(xué)界也大有市場(chǎng)。比如,尼采曾經(jīng)寫道:“如果我們不愿借語言法則思維,我們就會(huì)停止思維?!备佑忻氖蔷S特根斯坦的斷言:“我的語言的界限也即我的世界的界限?!痹诘吕镞_(dá)等后現(xiàn)代主義大師們的作品中,也充斥著“擺脫語言的桎梏是不可能的”“文本就是自我參照”“文本之外一無所有”等危言聳聽式的警句。然而,正如平克(Pinker 2002)所指出的:

    認(rèn)為語言就是牢獄的看法實(shí)際上過高估計(jì)了語言本身的力量,從而貶低了語言主體的能力。語言是一種非常了不起的能力,我們運(yùn)用它來從不同的人那里獲取思想,還可以通過多種方式對(duì)它進(jìn)行更改和選擇,以促進(jìn)思想的進(jìn)步。然而語言不同于思維本身,也并非人類區(qū)別于動(dòng)物的唯一標(biāo)志。它并不是所有文化的基石,也并非一個(gè)不可逃離的牢獄。語言不是強(qiáng)制性的協(xié)議,更不是我們世界的極限,也并非影響我們想象內(nèi)容的決定因素。(中譯本第245頁)

    2.2 近年來,喬姆斯基提出“語言的主要功用是思考而不是交際”的觀點(diǎn)。他20年前在跟一個(gè)生物學(xué)家對(duì)答的視頻中說:

    關(guān)于語言的通常假設(shè)是,它的功能是促進(jìn)交流。對(duì)的,這一點(diǎn)我從來沒有相信過?!Z言的典型使用是為了思考,而不是為了交流。幾乎所有的語言使用,接近100%是內(nèi)在的。從統(tǒng)計(jì)學(xué)上講,語言的用途幾乎都是內(nèi)在的?!珘旱剐缘淖C據(jù)表明,內(nèi)在思維正在為我們發(fā)揮著某種功能,規(guī)劃,苦惱,或者用來做其他的事情,其中只有一小部分最終用來交流。……事實(shí)上,即使是外化的部分,溝通也只是一種非常奇怪的感覺?!愫湍橙苏驹诠财囌?,……所以你和他們談?wù)撎鞖饣虬羟虮荣?,那不是交流。有時(shí)這也被稱為寒暄。……這只是一種建立人際關(guān)系的社交方式,并不是傳遞信息或其他意義上的溝通?!行┩饣?,在外化的部分中,很多只是寒暄的交流。

    可見,喬氏認(rèn)為語言的內(nèi)在性使用就是思考(內(nèi)在思維)。那么,言下之意是不是說:思考必須在內(nèi)在語言的基礎(chǔ)上進(jìn)行呢?另外,他刻意把寒暄之類的情感交流排除在交流(或溝通)之外,似乎只有傳遞信息之類的有意義的溝通才算是交流。于是,得出結(jié)論:語言的典型功能是思考而不是交流。其實(shí),思考跟交流并不一定能夠截然分開。因?yàn)?,所謂的“內(nèi)心思考”往往是一個(gè)“內(nèi)心對(duì)話、自我爭(zhēng)辯、設(shè)問擬答、自問自答”式的交談過程。例如:

    首先,我們要曉得,學(xué)問有兩個(gè)部分,一個(gè)是“學(xué)”,一個(gè)是“問”。這個(gè)問題兩千多年前孔子就說:“學(xué)而不思則罔,思而不學(xué)則殆。”思考其實(shí)就是問,思考與問問題差不了太遠(yuǎn),要問就必須思考,思考就會(huì)提出問題,這是分不開的。

    提問質(zhì)量決定我們的生活質(zhì)量。為什么會(huì)這樣呢?因?yàn)槲覀円恢倍继幱谝粋€(gè)自我對(duì)話的場(chǎng)景中。我們的大腦不斷地拋出問題,然后自己回答問題。

    當(dāng)然這些都是非語言學(xué)專業(yè)的成功人士的直覺性認(rèn)識(shí)。關(guān)于語言與思維的關(guān)系,還是平克(Pinker 2002)說得通透:

    感知和分類提供了使我們與現(xiàn)實(shí)發(fā)生聯(lián)系的概念。而語言使概念與詞語聯(lián)系起來,使我們聯(lián)系現(xiàn)實(shí)的渠道得以擴(kuò)展?!Z言就是一個(gè)渠道,通過它人們可以互相交流思想和意圖,并由此掌握周圍的知識(shí)、習(xí)俗和價(jià)值觀?!俗鳛橐环N交流媒介,語言還可以作為大腦儲(chǔ)存和處理信息的載體。……語言起到的是作為中央系統(tǒng)的子系統(tǒng)的功能,而并非是所有思維的媒介。(中譯本第246~247頁)

    2.3 諸如上述丘成桐“思考就是提問”的直覺是極具洞察力的。上升到理論層面,就有了巴赫金的“對(duì)話”與“多聲性”理論:

    語言只能存在于使用者之間的對(duì)話交際之中。對(duì)話交際才是語言的生命真正所在之處。語言的整個(gè)生命,不論在哪一個(gè)運(yùn)用領(lǐng)域里(日常生活、公事交往、科學(xué)、文藝等等),無不滲透著對(duì)話關(guān)系?!@種對(duì)話關(guān)系存在于話語領(lǐng)域之中,因?yàn)樵捳Z就其本質(zhì)來說便具有對(duì)話的性質(zhì)。(巴赫金1988:252)

    在陀思妥耶夫斯基后期作品中,主人公所有重要的自我表述,也都可以擴(kuò)展為對(duì)話,因?yàn)樗鼈兒孟穸际莾煞N對(duì)語融合的產(chǎn)物。但是不同聲音的交鋒卻隱藏得很深,滲透到語言和思想的精微之處。……這仍是兩種意識(shí)、兩種觀點(diǎn)、兩種評(píng)價(jià)在一個(gè)意識(shí)和語言的每一成分中的交鋒和交錯(cuò),亦即不同聲音在每一內(nèi)在因素中的交鋒。(巴赫金1988:288~289)

    可見,巴赫金在相當(dāng)程度上把對(duì)話與思想等量齊觀,看作人類最基本的一種生存方式;于是,一個(gè)人的“言談”往往就是其某種意識(shí)與觀點(diǎn)的表達(dá)。但是,這種表達(dá)不是一種固定不變的思想立場(chǎng),而是一個(gè)發(fā)展與開放的過程,是在跟潛在對(duì)手的對(duì)話與交鋒中實(shí)現(xiàn)的;并且,跟其他“言談”一起構(gòu)建了話語的公共空間,各種不同的聲音借此匯聚成一個(gè)充滿張力的“多聲性”的復(fù)合體。這也為歐洲的互文本性(intertextuality)理論開辟了道路。

    2.4 雖然在語言運(yùn)用上內(nèi)部的思考與外部的交流是密切相連、不可徹底分割的,但是,這并不意味著語言與思維具有同一性。要正確地認(rèn)識(shí)到這一點(diǎn)也并不容易。比如,圖靈(Turing 1950)認(rèn)為“機(jī)器會(huì)思考嗎?”這個(gè)問題是無法回答的,倒是可代之以“我們能否區(qū)分回答問題的是機(jī)器還是人類?”,即通過會(huì)話能力來測(cè)試機(jī)器是否具有跟人類一樣的智能。這就是著名的“圖靈測(cè)試”。可見,圖靈測(cè)試隱含的假設(shè)是:語言代表著人類智慧的頂峰,能夠進(jìn)行對(duì)話的機(jī)器一定是智能的。其實(shí),智力遠(yuǎn)不止于語言。當(dāng)前自然語言處理等人工智能系統(tǒng)所犯的許多錯(cuò)誤(比如,聊天機(jī)器人的答非所問),說明了這種系統(tǒng)在語義、因果推理和常識(shí)方面的根本缺乏。

    布朗寧和楊立昆(Browning & LeCun 2022)直截了當(dāng)?shù)胤裾J(rèn)了圖靈測(cè)試的有效性。他們的論證邏輯大致如下:圖靈測(cè)試的基礎(chǔ)是,如果一臺(tái)機(jī)器說出它要說的一切,就意味著它知道自己在說什么;因?yàn)橹勒_的句子以及何時(shí)使用這些句子會(huì)耗盡它們的知識(shí)。但是,機(jī)器可以談?wù)撊魏问虑?,這并不意味著它理解自己在說什么,因?yàn)檎Z言并不會(huì)窮盡知識(shí)。相反,語言只是一種高度具體且非常有限的知識(shí)表征。另外還有一些非語言的表征方式,它們可以用一種更易于理解的方式來傳達(dá)信息。比如,象征性的知識(shí),包括圖像、錄音、圖表和地圖等等。在語言之外,這個(gè)世界本身就向人類展示了大量的信息,可供人類探索并使用。人類有了深刻的非語言理解,才使得語言有用武之地。正是因?yàn)槲覀儗?duì)世界有深刻的理解,所以我們可以很快地理解別人在談?wù)撌裁础R簿褪钦f,語言只承載了人類知識(shí)的一小部分,大部分人類知識(shí)和所有動(dòng)物的知識(shí)都是非語言的(非象征符號(hào)性的)。因此,大規(guī)模語言模型(large language model,LLD)無法接近人類水平的智能。

    可見,在人工智能這種技術(shù)背景上思考語言與思維的關(guān)系,不僅具有理論意義,而且具有實(shí)際的指引人工智能發(fā)展方向的應(yīng)用價(jià)值。

    三、語法作為一種古老智能的直觀性質(zhì)及其認(rèn)知資源

    這一節(jié)首先從人類心智的樸素性質(zhì)上質(zhì)疑當(dāng)代復(fù)雜的句法結(jié)構(gòu)理論的合理性,然后介紹人工智能專家關(guān)于“語法是一種古老的分析、規(guī)劃與構(gòu)想智能”的思想及其在場(chǎng)景建模上的運(yùn)用,接著介紹他們關(guān)于“語法是把組件組裝成整件的裝配圖”的思想及其在圖像識(shí)別工程上的實(shí)踐,最后介紹心理學(xué)家提出的包括語法在內(nèi)的人類認(rèn)知能力所依托的核心直覺知識(shí)。

    3.1 傳統(tǒng)上認(rèn)為語法是組詞成句的規(guī)律,或者說是構(gòu)詞造句的法則。但是,以喬姆斯基為代表的生成語法學(xué)派相信“語言獨(dú)異說”:語言是人類的一個(gè)獨(dú)立的認(rèn)知系統(tǒng),人類有獨(dú)特的語言官能,語言機(jī)理構(gòu)成了一種跟我們的身體性質(zhì)無關(guān)的更加高級(jí)的官能。喬姆斯基等生成語法學(xué)者相信,語言可以分為內(nèi)在性和外在性兩種形式。他們主張:內(nèi)在性的語言系統(tǒng)是一個(gè)不同于其他心理系統(tǒng)的獨(dú)立的認(rèn)知系統(tǒng);因此,必須假設(shè)普遍語法這種高度抽象的自主原則系統(tǒng)制約內(nèi)在性語言,而不是訴諸語義、交際功能等外部條件。

    對(duì)此,我們一直半信半疑,懷疑這是不是一種神秘主義的教條或迷思(袁毓林2019,2022a)。因?yàn)椋鶕?jù)平克(Pinker 1997),人類“心智是一套由計(jì)算器官組成的系統(tǒng),它經(jīng)自然選擇的設(shè)計(jì)來解決我們祖先在茹毛飲血的生活中所面對(duì)的那類問題,具體包括:理解和操控物體、動(dòng)物、植物以及他人”(中譯本第22~23頁)。正是在這一過程中,逐步積累和形成了下文要介紹的直覺物理學(xué)、直覺生物學(xué)乃至直覺語言學(xué)之類的知識(shí)。

    正如平克(Pinker 2002)所指出的,“人類大腦適應(yīng)的是一個(gè)已經(jīng)不存在的世界”(中譯本第286頁)。認(rèn)知能力進(jìn)化的最初意圖與當(dāng)前人類賦予它們的新意圖之間不相協(xié)調(diào),這可能是我們某些困惑(甚至痛苦、悲?。┊a(chǎn)生的根源。對(duì)許多知識(shí)領(lǐng)域來說,人腦還沒有進(jìn)化出適用于該領(lǐng)域的組織結(jié)構(gòu),大腦和基因組并沒有顯示出任何專業(yè)分化的跡象。我們并不具有直觀理解這些領(lǐng)域的知識(shí)的心智工具(中譯本第259~262頁)。因此,我們從根本上懷疑形式語法學(xué)者設(shè)想的由多個(gè)VP-shell疊床架屋堆砌出來的句法結(jié)構(gòu)是否具有心理現(xiàn)實(shí)性;或者坦率地說,我們樸素簡(jiǎn)陋的心智還沒有合適的工具來處理這種既抽象又繁復(fù)的結(jié)構(gòu)。

    3.2 值得注意的是,也有科學(xué)家從技術(shù)層面提出了跟語言獨(dú)異說不同的語法觀點(diǎn),并且在工程實(shí)踐中取得了成效。比如,美國(guó)布朗大學(xué)人工智能專家芒福德(D. Mumford)指出:

    在所有智能動(dòng)物的大腦中都由來已久地建立了語法模型,這些語法模型的作用是去分析各種感知信息,規(guī)劃智能動(dòng)物接收信息后的動(dòng)作行為,甚至幫助其形成思想;而語言的語法,只是這些更加古老的語法的一種近期的擴(kuò)展。

    在諸如此類理念的指導(dǎo)下,加州大學(xué)洛杉磯分校的朱純松教授與他攻讀博士學(xué)位期間的導(dǎo)師芒福德等學(xué)者,在研究計(jì)算機(jī)視覺(圖像識(shí)別)的時(shí)候,用概率語法圖模型來為場(chǎng)景建模,因?yàn)樗麄儼l(fā)現(xiàn)場(chǎng)景跟話語一樣具有下面3種特性:

    (1)構(gòu)成性(compositionality),比如:場(chǎng)景可以分解成物體,物體可以分解成部件,部件可以分解成圖像的基本元素(primitives, textures, textons);

    (2)多樣性(alternative)和可配置性(reconfigurability),比如:各種分解的成分可以有多種選擇,從而以少量的元素組會(huì)產(chǎn)生大量的模式結(jié)構(gòu)(configuration);

    (3)關(guān)聯(lián)性(dependency relations),比如:部件之間相對(duì)位置的連接和關(guān)節(jié)變化(articulation)。

    這些原則體現(xiàn)在與或圖(and-or graph)等傳統(tǒng)的概率圖模型中,在可解釋性、魯棒性和基于小數(shù)據(jù)的學(xué)習(xí)方面,比多層神經(jīng)網(wǎng)絡(luò)模型有明顯的優(yōu)勢(shì)。而上述特性,在語言學(xué)教科書上的表述是:語言符號(hào)的離散性、組合性、聚合性、層級(jí)性、遞歸性、依存性等等。

    在朱純松和芒福德(Zhu & Mumford 2006)有關(guān)思想的啟發(fā)下,吳田富(2019)研究and-or grammar(AOG)building block,提出使用一種最簡(jiǎn)單的語法來實(shí)現(xiàn)多層次、組成式的拆分-變換-聚合。他用與或圖的原理來設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),提出了一個(gè)與或圖網(wǎng)絡(luò)AOGNet,不僅在當(dāng)前主要的數(shù)據(jù)集如ImageNet任務(wù)中,性能超越了ResNet、DenseNet和DualPathNets;而且具有更好的可解釋性,找到了當(dāng)前深度學(xué)習(xí)的判別式模型(CNN)與概率圖模型(AOG)可能的聯(lián)系。

    3.3 人工智能學(xué)者的科學(xué)訓(xùn)練和技術(shù)修養(yǎng),使得他們對(duì)于語法的認(rèn)識(shí)更加一針見血、返璞歸真。除了上面介紹的芒福德、朱純松和吳田富三代學(xué)者的觀點(diǎn)與實(shí)踐外,薩巴(Saba 2022)的下列觀點(diǎn)也頗有可觀之處:

    在符號(hào)系統(tǒng)中,有定義明確的組合語義函數(shù),它們根據(jù)成分的意義計(jì)算復(fù)合詞的意義。但是這種組合是可逆的,也就是說,人們總是可以得到產(chǎn)生該輸出的(輸入)組件,并且正是因?yàn)樵诜?hào)系統(tǒng)中,人們可以訪問一種“句法結(jié)構(gòu)”,這一結(jié)構(gòu)含有如何組裝組件的裝配圖。而這在神經(jīng)網(wǎng)絡(luò)中都并非如此。一旦向量(張量)在神經(jīng)網(wǎng)絡(luò)中組合,它們的分解就無法確定,因?yàn)橄蛄浚ò?biāo)量)可以分解的方式是無限的!

    這篇文章意在重溫30年前對(duì)于神經(jīng)網(wǎng)絡(luò)的批判,說明當(dāng)今的多層神經(jīng)網(wǎng)絡(luò)依然無法實(shí)現(xiàn)可解釋的人工智能。其中,把句法結(jié)構(gòu)看作指引人們把組件組裝成整體物品的裝配圖的思想,既樸素又透徹。親自動(dòng)手組裝過從宜家買回來的家具(或者從商場(chǎng)買回來的可折疊兒童推車)的人,對(duì)于裝配圖的語法功能(指示你:什么先跟什么怎樣組裝在一起,然后再跟什么怎樣組裝在一起),應(yīng)該都有真切的體會(huì)。

    3.4 當(dāng)然,上文把語言的組詞成句跟物品的部件組裝成整件相類比,有失簡(jiǎn)單和粗疏。因?yàn)椋Z言中的單詞、短語和句子都是有意思的。這樣,語法還要涉及怎樣從單詞的意思及其組合方式上綜括出短語和句子的意思這一任務(wù)。在這方面,從句法結(jié)構(gòu)到語義結(jié)構(gòu)的映射、弗雷格的語義組合性原理之類的原則,肯定是起作用的。其中,語言成分之間的意合(即據(jù)意思撮合詞語,concatenate by sense)和意會(huì)(即憑直覺領(lǐng)會(huì)意思,sense by insight)、語義蘊(yùn)涵、語義的語用推理之類的原則也會(huì)起作用。此外,語句中還有缺失的成分),其語義也需要由其他成分激活,然后整合到整個(gè)句子的語義解釋中(比如:這個(gè)房間[面積]大vs. 這個(gè)箱子[體積]大)(袁毓林1994)。在這種種語義組合和語義識(shí)解背后,離不開人類的概念結(jié)構(gòu)、直覺知識(shí)等各種后臺(tái)認(rèn)知資源的支持(袁毓林2015,2022b)。比如,下面這些直覺知識(shí),對(duì)于語句的組成與解讀,應(yīng)該有重要的支撐作用。并且,人工智能系統(tǒng)也必須具備和擁有這些常識(shí)。

    根據(jù)平克(Pinker 2002),人類對(duì)于不同事物的推理能力依托于不同的核心直覺,這些直覺非常適用于分析人類進(jìn)化時(shí)所處的環(huán)境。他嘗試性地提出了人類認(rèn)知能力所依托的核心直覺的下列清單:

    (1)直覺物理學(xué):我們用它來觀察物體如何跌落、彈起以及彎曲等運(yùn)動(dòng)和變化。

    (2)直覺生物學(xué):對(duì)事物或自然史的直觀看法,我們用它來理解整個(gè)生物世界。

    (3)直覺工程學(xué):我們用它來制作、了解工具和其他人造物的結(jié)構(gòu)與功用等。

    (4)直覺心理學(xué):我們用它來了解自己和他人的愿望、信念、動(dòng)機(jī)和情緒等內(nèi)心世界。

    (5)直覺邏輯學(xué):一種心理數(shù)據(jù)庫和心智邏輯,我們用它們來表達(dá)觀念,從舊觀念中推導(dǎo)出新觀念。它們建立在對(duì)發(fā)生了什么事情、在哪里發(fā)生,或者誰對(duì)誰做了什么事情、在什么地方、什么時(shí)間及什么原因等問題加以判斷的基礎(chǔ)上。這種判斷與心理網(wǎng)絡(luò)相連,可以用“和、或、否則、全部、一些、必須、可能、原因”等一些邏輯運(yùn)算符號(hào)和因果運(yùn)算符號(hào)進(jìn)行重新組合。

    (6)直覺語言學(xué):我們用語言來跟他人分享那些源于心智邏輯的觀念。語言建立在心理詞典的基礎(chǔ)上,而心理詞典是由我們識(shí)記的單詞和一套組合規(guī)則的心理語法組成的。這些規(guī)則將元音與輔音組合成單詞,又將單詞組合成詞組和短語,最終組合成句子。通過這樣一種方式,我們就可以從被組合的各個(gè)部分的意思以及它們的組合方式推斷出新組合的意思。

    此外,還有直覺經(jīng)濟(jì)學(xué)和空間感知、數(shù)字感知、概率感知、跟恐懼(或厭惡等)相對(duì)應(yīng)的關(guān)于危險(xiǎn)(或污染等)的評(píng)價(jià)系統(tǒng)、道德感等方面的直覺知識(shí)。

    對(duì)照有關(guān)的語言學(xué)理論,我們可以發(fā)現(xiàn):這種直覺物理學(xué),正好是泰爾米(Talmy 2000)認(rèn)知語義學(xué)中“力動(dòng)態(tài)”心智模式的概念基礎(chǔ),可以用來解釋因果條件句和反事實(shí)條件句的語義構(gòu)造與概念動(dòng)因;這種直覺工程學(xué),正好是名詞的“功用”(telic)、“施成”(agentive)等物性角色的概念基礎(chǔ);這種直覺心理學(xué),正好是語用學(xué)關(guān)于交際意圖、關(guān)聯(lián)推理的概念基礎(chǔ);這種直覺邏輯學(xué),正好是論元結(jié)構(gòu)理論、事件語義性、量化結(jié)構(gòu)等形式語義學(xué)、模態(tài)語義學(xué)等的概念基礎(chǔ);而這種直覺語言學(xué),正好是直覺生物學(xué)、直覺工程學(xué)、直覺邏輯學(xué)在語言上的翻版。這些直覺知識(shí)為我們對(duì)語言中詞語的組合(以意撮合)與語義解讀(憑心會(huì)意)提供了必要的概念基礎(chǔ)和認(rèn)知資源。

    四、破解跟機(jī)器人交談的具身認(rèn)知難題和具身圖靈測(cè)試

    這一節(jié)首先介紹聊天機(jī)器人的強(qiáng)大能力及其成功的原因,接著指出大規(guī)模語言模型用在機(jī)械機(jī)器人上的具身認(rèn)知困難,然后介紹跟機(jī)器人的語言運(yùn)用相關(guān)的兩個(gè)具身認(rèn)知維度:符號(hào)接地和環(huán)境可供性,最后介紹超越圖靈測(cè)試的具身圖靈測(cè)試。

    4.1 2022年夏天,谷歌的工程師布萊克·勒莫因(Blake Lemoine)聲稱:谷歌的AI聊天機(jī)器人系統(tǒng)LaMDA具有跟人一樣的意識(shí),引發(fā)了輿論一片嘩然,最終被谷歌解雇。那么,他為什么會(huì)有這種感覺呢?這可以從這個(gè)系統(tǒng)本身和這個(gè)工程師本人兩個(gè)方面做出解釋。

    首先,稱LaMDA為機(jī)器人只是為了通俗和方便,未必合適。確切地說,它只是一個(gè)大規(guī)模語言模型,能夠基于任何給定的文本預(yù)測(cè)出接下來最可能出現(xiàn)的單詞是什么。由于人類語言運(yùn)用中詞語的出現(xiàn)概率遵循“齊夫定律”(詳見袁毓林2021),再加上許多人類的對(duì)話都不太復(fù)雜;因此,在一定程度上比較容易根據(jù)前面的話語來預(yù)測(cè)到后面的話語,結(jié)果使得這種系統(tǒng)可以推動(dòng)并且保持對(duì)話流暢地進(jìn)行。正因?yàn)長(zhǎng)aMDA在對(duì)話的流暢性方面表現(xiàn)出色,勒莫因情不自禁地以為它真的具有跟人類一樣的直覺和意識(shí)。

    其次,人類在語言交際過程中具有主動(dòng)配合的積極性?;诤献髟碇惖臅?huì)話規(guī)約,聽話人在跟機(jī)器人系統(tǒng)交談時(shí)會(huì)主動(dòng)合作,進(jìn)行包容性理解與關(guān)聯(lián)性解釋,使得機(jī)器人系統(tǒng)說的幾乎每一句話都具有在當(dāng)下語境中的意義(詳見袁毓林2021)。并且,聽話人在跟機(jī)器人系統(tǒng)交談時(shí)還會(huì)把自己的情緒與感覺投射到機(jī)器人系統(tǒng)上,賦予它跟真人一樣的情感與意識(shí)。勒莫因就是這樣入戲太深,一發(fā)而不可收拾。

    4.2 既然聊天機(jī)器人系統(tǒng)這么聰明伶俐,幾乎可以跟人隨心所欲地交談逗樂;那么,把這種系統(tǒng)配置到一般的機(jī)器人上,豈不就成了既能說會(huì)道、逗樂解悶,又可以任勞任怨地幫助人類干活操勞的好幫手了?其實(shí),目前的機(jī)器人理解人類語言還很困難;否則,機(jī)器人進(jìn)入人類的日常生活將會(huì)更加容易自如。當(dāng)下的機(jī)械機(jī)器人最擅長(zhǎng)干的活兒是抓取和放置。但是,機(jī)械機(jī)器人不像人那樣善解人意,會(huì)主動(dòng)地見機(jī)行事。你想要機(jī)械機(jī)器人完成一個(gè)特定的抓?。◤N房鍋臺(tái)上的一杯咖啡)和放置(到客廳的茶幾上)任務(wù),需要由人來下達(dá)指令,即由用戶告訴它才行。這就涉及真正的“人機(jī)交互”或“人機(jī)對(duì)話”了。

    顯然,用戶和機(jī)器人交互的最理想的界面是自然語言,但是目前自然語言理解技術(shù)的水平不高,不足以讓機(jī)器人理解用戶的命令,從而完成用戶希望的任務(wù)。對(duì)此,通常采用獨(dú)熱條件(one-hot conditioning)這種硬編碼的辦法。比如,對(duì)于機(jī)器人可以執(zhí)行的100個(gè)任務(wù),用00~99來分別進(jìn)行編碼。每次要機(jī)器人執(zhí)行某一個(gè)任務(wù),就提供給機(jī)器人某一個(gè)相應(yīng)的編號(hào)。不難想象,要用戶記住這么一個(gè)任務(wù)編碼表,無疑是一個(gè)極大的智力挑戰(zhàn)。因此,合適的發(fā)展方向還是使用人類自然語言來向機(jī)器人發(fā)號(hào)施令。問題是,許多聊天機(jī)器人系統(tǒng)貌似很聰明,可以跟人機(jī)智地交談?wù)f笑;但是,往往缺乏常識(shí),很容易胡說八道,即說出不合邏輯、不著邊際的話,或者說一些雖然邏輯不錯(cuò)、但是沒有用處的話語。用到要完成特定的工作任務(wù)的機(jī)器人上就不解決問題。比如,谷歌大腦的機(jī)器人團(tuán)隊(duì)進(jìn)行了這樣一個(gè)問答測(cè)試:向3個(gè)大規(guī)模語言模型發(fā)出下面的請(qǐng)求,看它們?nèi)绾位貞?yīng)。

    Q: I spilled my drink, can you help?(我把飲料弄灑了,你能幫我一下嗎?)

    GPT-3: You could try using a vacuum cleaner.(你可以試著用一個(gè)吸塵器。)

    LaMDA: Do you want me to find a cleaner?(你是想讓我找一個(gè)清潔工嗎?)

    FLAN: Im sorry, I didnt mean to spill it.(對(duì)不起,我不是故意的。)

    顯然,GPT-3的回答不完全正確,因?yàn)槲鼔m器不能清理液體。LaMDA的回答如果作為尬聊是沒有問題的,但是作為真正的人與機(jī)器人互動(dòng),并且想驅(qū)動(dòng)機(jī)器人工作,這樣回答是毫無用處的。FLAN的回答有點(diǎn)驢唇不對(duì)馬嘴,它根本沒有理解用戶的交談意圖:到底是要聊天、對(duì)話,還是要解決問題?可見,機(jī)器人的語言運(yùn)用是有其特殊性的,必須解決語言符號(hào)的接地(grounding)和環(huán)境可供性(affordance)等具身認(rèn)知(embodied cognition)問題,而不能簡(jiǎn)單地使用基于網(wǎng)絡(luò)語料訓(xùn)練的大規(guī)模語言模型。下面,我們簡(jiǎn)單討論一下符號(hào)接地和環(huán)境可供性這兩種具身智能(embodied intelligence)問題。

    4.3 大家知道,雖然語言符號(hào)的意義是抽象的,但是在現(xiàn)實(shí)的語言交際中,語言使用者會(huì)自然而然地把語言符號(hào)的所指索引到(指向)語境中的有關(guān)事物上。比如,我說“把水給我!”,你會(huì)默契地把桌子上的一瓶礦泉水遞給我,而不會(huì)舍近就遠(yuǎn)地跑出去找水。這就是語言符號(hào)的接地問題,也就是讓語言符號(hào)跟語境中的相關(guān)事物建立起索引關(guān)系。

    正是在這一方面,將大規(guī)模語言模型直接用在機(jī)器人身上會(huì)出現(xiàn)問題。因?yàn)橐话愕拇笠?guī)模語言模型是根據(jù)網(wǎng)絡(luò)上的人類自然語言文本(對(duì)話或語篇)進(jìn)行訓(xùn)練的,并沒有在機(jī)器人的數(shù)據(jù)上進(jìn)行訓(xùn)練。也就是說,大規(guī)模語言模型沒有親身經(jīng)歷機(jī)器人所處的物理環(huán)境,缺少具身信息(embodied information):既不知道機(jī)器人所處的環(huán)境中有什么東西,也不知道機(jī)器人可以從中做什么。所以會(huì)出現(xiàn)上面介紹的答非所問、不著邊際等問題。

    此外,大規(guī)模語言模型在生成任務(wù)步驟時(shí),根本不知道機(jī)器人目前能夠做什么。比如,機(jī)器人面前沒有蘋果,它就無法完成去抓取蘋果的任務(wù);房間里沒有吸塵器,就沒有辦法去完成清潔地板的任務(wù)。因此,必須讓用于機(jī)器人的語言模型知道機(jī)器人在當(dāng)前環(huán)境和狀態(tài)下可以做什么(完成什么任務(wù))。這就是機(jī)器人的可供性(robotic affordance)問題。這實(shí)際上是指:讓機(jī)器人知道其所處的環(huán)境的可供性。

    一種解決辦法采用強(qiáng)化學(xué)習(xí)的方法,訓(xùn)練機(jī)器人在有關(guān)環(huán)境(房間)中抓取各種東西,然后讓機(jī)器人在房間中搜索;當(dāng)它看到前面有物品的時(shí)候,撿起該物品的值函數(shù)就會(huì)變得很高,從而代替了對(duì)環(huán)境可供性的預(yù)測(cè)。這樣,通過讓機(jī)器人探索環(huán)境的可供性,彌補(bǔ)了語言模型和真實(shí)世界的鴻溝。這樣做,在一定程度上相當(dāng)于讓機(jī)器人具有了具身智能,可以在感知和動(dòng)作之間形成一個(gè)閉環(huán)——根據(jù)感知到的結(jié)果來決定下一步的動(dòng)作。

    4.4 人通過跟外部世界(自然界與人類社會(huì))的互動(dòng),來形成具身智能和擁有具身認(rèn)知。我們從兒童時(shí)期就開始借助玩耍與游戲來接觸外部世界,在跟世界萬物和社會(huì)人群親身打交道的過程中,學(xué)習(xí)了§3. 4所述的通俗物理學(xué)、生物學(xué)、工程學(xué)、心理學(xué)、語言學(xué)等知識(shí),為語言運(yùn)用(包括生成與理解)奠定了具身認(rèn)知的基礎(chǔ)。而大規(guī)模語言模型及聊天軟件、機(jī)器人系統(tǒng)等,不具有人那樣的肉身及其所具有的感覺-運(yùn)動(dòng)界面;顯然,也不具備這種跟環(huán)境互動(dòng)的具身智能。問題是,這種不擁有具身智能的機(jī)器智能是不是真正的智能?或者說,在這種認(rèn)識(shí)與質(zhì)疑的背景上,圖靈測(cè)試還站得住嗎?

    發(fā)人深省的是,DeepMind的創(chuàng)始人德米斯·哈薩比斯(Demis Hassabis)最近在做客萊克斯·弗里德曼(Lex Fridman)的播客節(jié)目時(shí),對(duì)于人工智能超乎想象的能力談了許多有趣的觀點(diǎn)。在訪談的一開始,哈薩比斯就直言不諱地說:

    圖靈測(cè)試已經(jīng)過時(shí),因?yàn)檫@是數(shù)十年前提出來的一個(gè)基準(zhǔn);而且圖靈測(cè)試是根據(jù)人的行動(dòng)與反應(yīng)來作判斷,這就容易出現(xiàn)類似前段時(shí)間谷歌一工程師稱AI系統(tǒng)已有意識(shí)的“鬧劇”:研究者與一個(gè)語言模型對(duì)話,將自己的感知映射在對(duì)模型的判斷上,有失客觀。

    對(duì)于圖靈測(cè)試,扎多爾等(Zador et al. 2022)指出,圖靈測(cè)試背后隱含著這樣一種信念:語言代表著人類智慧的頂峰,能夠與人對(duì)話的機(jī)器一定是智能的。其實(shí),這種觀點(diǎn)并不完全正確。一方面,基于大規(guī)模語言模型的語言系統(tǒng)的成功,依賴于人類對(duì)話者的智力、能動(dòng)性甚至意識(shí);另一方面,這些系統(tǒng)在某些推理任務(wù)上仍然很差。顯然,圖靈忽視了一個(gè)基本事實(shí):智力遠(yuǎn)不止于語言。當(dāng)前自然語言處理系統(tǒng)所犯的許多錯(cuò)誤,說明了這種人工智能系統(tǒng)在語義、因果推理和常識(shí)等方面的根本缺乏。詞匯只有在統(tǒng)計(jì)上共同出現(xiàn)時(shí)才對(duì)模型有意義,而不是基于對(duì)現(xiàn)實(shí)世界的經(jīng)驗(yàn);所以,即便是最先進(jìn)的語言模型,即便其功能越來越強(qiáng),但它們?nèi)詿o法具備一些基本的物理常識(shí)。因此,最初制定的圖靈測(cè)試,并沒有探索像動(dòng)物一樣以靈活的方式理解物理世界的能力。

    作為替代方案,扎多爾等(Zador et al. 2022)提出了一個(gè)拓展的圖靈測(cè)試,包括高級(jí)感覺運(yùn)動(dòng)能力的測(cè)試。比較而言,最初的圖靈測(cè)試建立了一個(gè)定性標(biāo)準(zhǔn),使我們可以判斷人工智能的進(jìn)展程度,而拓展的“具身圖靈測(cè)試”將對(duì)人工系統(tǒng)與人類和其他動(dòng)物的交互進(jìn)行基準(zhǔn)測(cè)試和比較。于是,可以依據(jù)每種動(dòng)物自己獨(dú)特的能力來定義各自的圖靈測(cè)試:人造海貍可以測(cè)試其筑壩的能力,人造松鼠可以測(cè)試其穿越樹木的能力。事實(shí)上,幾乎所有動(dòng)物都有許多核心的感覺運(yùn)動(dòng)能力,這些核心技能為動(dòng)物快速進(jìn)化適應(yīng)新環(huán)境提供了堅(jiān)實(shí)的基礎(chǔ)。

    據(jù)此,不同應(yīng)用場(chǎng)景下的自然語言處理系統(tǒng)也應(yīng)該有不同的“具身圖靈測(cè)試”。比如,對(duì)于聊天機(jī)器人系統(tǒng),只要讓人們覺得好像在跟一個(gè)真人聊天貧嘴,就可以說是通過了圖靈測(cè)試;而對(duì)于運(yùn)用在機(jī)械機(jī)器人上的自然語言處理系統(tǒng),必須能夠聽懂并且驅(qū)動(dòng)機(jī)器人實(shí)施抓取和放置動(dòng)作的自然語言指令,才可以說是通過了圖靈測(cè)試。

    五、結(jié)語:從ChatGPT的表現(xiàn)看AI離語言學(xué)有多遠(yuǎn)?

    上文的介紹和討論說明:語法是人類的一種古老的、把部分拼裝成整體的組成性智能。并且,這種語言智能是一種具身智能,具有自動(dòng)地符號(hào)接地和搜索環(huán)境可供性的能力,從而使符號(hào)所指與語境中的特定事物關(guān)聯(lián)起來,最終使語言表達(dá)不僅具有交際意義,而且可以獲得面向特定語境的語義解釋。正是在這一方面,目前的人工智能語言模型離真正理解語言的結(jié)構(gòu)和意義,可能還有相當(dāng)大的距離。下面,我們從目前風(fēng)靡全網(wǎng)的ChatGPT的有關(guān)表現(xiàn)談起。

    ChatGPT是一種專注于對(duì)話生成的語言模型,可用于生成回答、摘要、文章、翻譯、程序代碼等各類內(nèi)容。因此,它不僅是一個(gè)由AI驅(qū)動(dòng)的聊天機(jī)器人,更是一個(gè)自然語言處理平臺(tái),可以完成多種自然語言處理任務(wù)。對(duì)于語言學(xué)者來說,最引人入勝的是,SunCH(2022)讓ChatGPT分析語言學(xué)經(jīng)典例句。比如:

    (1)SunCH:“去年,王冕死了父親,在家守喪。”這句話中,誰死了?

    ChatGPT:在這句話中,王冕的父親死了。這句話描述了一件事情,即王冕的父親死了,并且王冕在家里守喪。

    (2)SunCH:“這兩個(gè)孕婦,一個(gè)是男孩,一個(gè)是女孩?!边@句話是什么意思?

    ChatGPT:這句話描述了兩個(gè)孕婦的性別,指出一個(gè)是男孩,另一個(gè)是女孩。這句話的意思是,這兩個(gè)孕婦分別是男孩和女孩。

    SunCH:孕婦的性別怎么會(huì)是男孩呢?

    ChatGPT:對(duì)于這個(gè)問題,我們需要明確一點(diǎn),孕婦是指懷孕的女性,因此孕婦不可能是男孩。在這個(gè)問題中,可能是上文描述不清楚,導(dǎo)致了混淆。孕婦是指懷孕的女性,它們可能會(huì)生男孩或女孩,但它們自己不可能是男孩。

    (3)SunCH:“咬死了獵人的狗”是什么意思?

    ChatGPT:“咬死了獵人的狗”指的是一只狗咬死了一個(gè)獵人。這個(gè)狗可能是獵人的寵物,也可能是陌生的狗。

    SunCH:還有其他理解方式嗎?……[中間有5輪SunCH的提醒與ChatGPT的回應(yīng)]……在“咬死了獵人的狗”這個(gè)片段前面再加一個(gè)主語,那么完整的句子就可能有其他意思。

    ChatGPT:是的,如果在這個(gè)片段前面加上一個(gè)主語,那么這個(gè)完整的句子可能就有其他意思了。例如,如果加上“它”這個(gè)主語,那么句子就變成了“它咬死了獵人的狗”,這個(gè)句子的意思就是“它(指某種生物或物體)咬死了獵人的狗”。如果加上“獵人”這個(gè)主語,那么句子就變成了“獵人咬死了獵人的狗”,這個(gè)句子的意思就是“獵人(指一個(gè)人)咬死了他自己的狗”。

    從(1)可見,ChatGPT能夠理解“王冕死了父親”這種領(lǐng)主屬賓句的語義關(guān)系。從(2)可見,ChatGPT起先不能理解轉(zhuǎn)喻表達(dá);在人類啟發(fā)下,可以進(jìn)行語義一致性的核查、辯證分析與辯解。從(3)可見,ChatGPT傾向于進(jìn)行先到先得式的語義解釋(“咬死了獵人+的+狗”,中心語“狗”是“咬死了獵人”的潛主語);經(jīng)過5輪啟發(fā),強(qiáng)制“咬死了獵人的狗”的主語“它”出現(xiàn),堵死了“狗”作“咬死了獵人”的潛主語這條解釋通道,ChatGPT才舍棄語義上可能占優(yōu)的述賓組合“咬死了獵人”,而把“獵人的狗”捆在一起。這也體現(xiàn)出ChatGPT能夠在跟人類互動(dòng)時(shí),從用戶的反饋中對(duì)回答進(jìn)行修正的能力。

    從上述ChatGPT對(duì)于語言學(xué)經(jīng)典例句的分析來看,即使是在語言符號(hào)體系的內(nèi)部,它也沒有摸到語言學(xué)遞歸性組合規(guī)律的暗門;更不要說把語言符號(hào)跟語境中的所指物建立起接地性鏈接,或者搜索與利用環(huán)境可供性等具身性智能了。因此,我們可以說,ChatGPT等先進(jìn)的人工智能離基于規(guī)則的語言學(xué)還很遠(yuǎn)很遠(yuǎn)。但是,從技術(shù)本質(zhì)看,ChatGPT是一種基于統(tǒng)計(jì)的神經(jīng)網(wǎng)絡(luò)模型,它善于從高頻數(shù)據(jù)中習(xí)得相關(guān)模式,來正確地預(yù)測(cè)盡可能符合人類期望的下文。因此,ChatGPT的成功啟示我們:在大數(shù)據(jù)、大算力和強(qiáng)算法的支持下,調(diào)查語言的分布模式、挖掘語言的統(tǒng)計(jì)規(guī)律、發(fā)現(xiàn)語言的統(tǒng)計(jì)結(jié)構(gòu),可能是未來語言學(xué)研究的又一種新的選擇。果真如此,那么ChatGPT等先進(jìn)的人工智能將離基于統(tǒng)計(jì)的語言學(xué)很近很近。換句話說,在基于統(tǒng)計(jì)學(xué)習(xí)的人工智能飛躍發(fā)展的背景下,語言學(xué)研究也應(yīng)該擁抱和投身于數(shù)據(jù)/計(jì)算密集型的第四/五范式。這是技術(shù)的催促,也是時(shí)代的召喚!

    參考文獻(xiàn)

    巴赫金 1988 《陀思妥耶夫斯基詩學(xué)問題》,白春仁,顧亞鈴,譯,北京:生活·讀書·新知三聯(lián)書店。

    戴一鳴 2022 《谷歌科學(xué)家親講:具身推理如何實(shí)現(xiàn)?讓大模型“說”機(jī)器人的語言》,“機(jī)器學(xué)習(xí)算法與自然語言處理”公眾號(hào),2022-09-25,https://mp.weixin.qq.com/s?__biz。

    史有為 2022 《從喬氏對(duì)答談?wù)Z言的思維功能》,“西去東來中傳站”公眾號(hào),2022-10-25,https://mp.weixin.qq.com/s/7mZ7VqreXHl20xNHHJGZBA。

    吳田富 2019 《與或圖網(wǎng)絡(luò):組成式語法的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)》,“視覺求索”公眾號(hào),2019-04-02,https://mp.weixin.qq.com/s/jlh8tJGp8xKqZqfDb-HUEg。

    袁毓林 1994 《一價(jià)名詞的認(rèn)知研究》,《中國(guó)語文》第4期。

    袁毓林 2015 《漢語意合語法的認(rèn)知機(jī)制和描寫體系》,〔日〕《中國(guó)語學(xué)》第262號(hào)。

    袁毓林 2019 《為什么要給語言建造一座宮殿?——從符號(hào)系統(tǒng)的轉(zhuǎn)喻本質(zhì)看語言學(xué)的過度附魅》,《語言戰(zhàn)略研究》第4期。

    袁毓林 2020 《敘實(shí)性和事實(shí)性:語言推理的兩種導(dǎo)航機(jī)制》,《語文研究》第1期。

    袁毓林 2021 《“人機(jī)對(duì)話-聊天機(jī)器人”與話語修辭》,《當(dāng)代修辭學(xué)》第3期。

    袁毓林 2022a 《在人類生境約束下思考語言的設(shè)計(jì)原理和運(yùn)作機(jī)制》,《語言戰(zhàn)略研究》第6期。

    袁毓林 2022b 《基于認(rèn)知并面向計(jì)算的語言學(xué)研究進(jìn)路——走向人文精神與科技理性的有機(jī)結(jié)合》,〔日〕《現(xiàn)代中國(guó)語研究》第24期。

    Bishop, C. 2022.《科學(xué)智能(AI4Science)賦能科學(xué)發(fā)現(xiàn)的第五范式》,“微軟亞洲研究院”公眾號(hào),2022-07-07,https://mp.weixin.qq.com/s/o7LCvBFvHK_QD2XJYuISeQ。

    Browning, J. & Y. LeCun. 2022. AI and the limits of language: An artificial intelligence system trained on words and sentences alone will never approximate human understanding. Noema. 2022-08-23. https://www.noemamag.com/ai-and-the-limits-of-language/.

    Hey, T., S. Tansley & K. Tolle. 2009. The Fourth Paradigm: Data-Intensive Scientific Discovery. Redmond, Washington: Microsoft Research.

    Mumford, D. 2016. Grammar isnt merely part of language. http://www.dam.brown.edu/people/ mumford/blog/2016/grammar.html.

    Pinker, S. 1997. How the Mind Works. New York: W. W. Norton & Company. 中譯本:《心智探奇:人類心智的起源與進(jìn)化》,郝耀偉,譯,浙江人民出版社,2016。

    Pinker, S. 2002. The Blank Slate: The Modern Denial of Human Nature. New York: W. W. Norton & Company. 中譯本:《白板:科學(xué)和常識(shí)所揭示的人性奧秘》,袁冬華,譯,浙江人民出版社,2016。

    Pinker, S. 2007. The Stuff of Thought: Language as a Window into Human Nature. New York: Penguin Groups, Viking Press. 中譯本:《思想本質(zhì):語言洞察人類天性之窗》,張旭紅,梅德明,譯,浙江人民出版社,2015。

    Saba, S. W. 2022.《重溫三十年前對(duì)于NN的批判:神經(jīng)網(wǎng)絡(luò)無法實(shí)現(xiàn)可解釋AI》,“圖靈人工智能”公眾號(hào),2022-09-27,https://mp.weixin.qq.com/s/YIATTwrinWuNUH3mwZKFkQ。

    SunCH. 2022.《ChatGPT分析語言學(xué)經(jīng)典例句》,“語言與心智”公眾號(hào),2022-12-09,https://mp.weixin.qq.com/s/dye1sQtlCRU9T05Hfm-Hdw。

    Talmy, L. 2000. Toward a Cognitive Semantics. Cambridge Mass.: MIT Press.

    Turing, A. M. 1950. Computing machinery and intelligence. Mind 59, 433–460.

    Zador, A., B. Richards, B. ?lveczky, et al. 2022. Toward next-generation artificial intelligence: Catalyzing the NeuroAI revolution. https://arxiv.org/abs/2210.08340. 中譯文:《NeuroAI:邁向下一代的人工智能》,趙凱,譯,“集智俱樂部”公眾號(hào),2022-11-14,https://mp.weixin.qq.com/s/RF5o59RxFdQw6AavGU0iuw,https://m.thepaper.cn/baijiahao_20732120。

    Zhu, S.-C. & D. Mumford. 2006. A stochastic grammar of images. Foundations and Trends in Computer Graphics and Vision 2(4), 259–362.

    責(zé)任編輯:王 飆

    猜你喜歡
    深度學(xué)習(xí)人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    有體驗(yàn)的學(xué)習(xí)才是有意義的學(xué)習(xí)
    電子商務(wù)中基于深度學(xué)習(xí)的虛假交易識(shí)別研究
    MOOC與翻轉(zhuǎn)課堂融合的深度學(xué)習(xí)場(chǎng)域建構(gòu)
    大數(shù)據(jù)技術(shù)在反恐怖主義中的應(yīng)用展望
    深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究
    基于深度卷積網(wǎng)絡(luò)的人臉年齡分析算法與實(shí)現(xiàn)
    軟件工程(2016年8期)2016-10-25 15:47:34
    日韩精品有码人妻一区| 女的被弄到高潮叫床怎么办| 亚洲av成人精品一区久久| 最近2019中文字幕mv第一页| 国产午夜精品一二区理论片| 国产片特级美女逼逼视频| 日本av手机在线免费观看| 久久精品国产亚洲av香蕉五月| 91久久精品电影网| 色5月婷婷丁香| 天堂网av新在线| 九九爱精品视频在线观看| 18禁裸乳无遮挡免费网站照片| a级毛片a级免费在线| 99久久精品热视频| 此物有八面人人有两片| 老熟妇乱子伦视频在线观看| 日韩,欧美,国产一区二区三区 | АⅤ资源中文在线天堂| 成人漫画全彩无遮挡| 亚洲欧美精品专区久久| av.在线天堂| 两性午夜刺激爽爽歪歪视频在线观看| 99热这里只有是精品50| 午夜精品国产一区二区电影 | 国产精品国产三级国产av玫瑰| 午夜福利在线在线| 精品熟女少妇av免费看| 久久精品国产亚洲av涩爱 | 亚洲欧洲国产日韩| 欧美又色又爽又黄视频| 尾随美女入室| 美女被艹到高潮喷水动态| 日本一本二区三区精品| 高清在线视频一区二区三区 | 99国产精品一区二区蜜桃av| 国产私拍福利视频在线观看| 亚洲欧洲国产日韩| 3wmmmm亚洲av在线观看| 免费看a级黄色片| 国产精品久久久久久亚洲av鲁大| 天天躁夜夜躁狠狠久久av| 国产极品精品免费视频能看的| 亚洲欧美日韩东京热| 亚洲无线观看免费| 一卡2卡三卡四卡精品乱码亚洲| 日产精品乱码卡一卡2卡三| 国产黄色小视频在线观看| 成年版毛片免费区| 久久久精品大字幕| 又黄又爽又刺激的免费视频.| 国产又黄又爽又无遮挡在线| 一本精品99久久精品77| 国产精品伦人一区二区| 99在线视频只有这里精品首页| 99久国产av精品国产电影| 在线观看午夜福利视频| 日本av手机在线免费观看| 嫩草影院精品99| 精品免费久久久久久久清纯| 综合色av麻豆| 欧美一区二区国产精品久久精品| 日韩制服骚丝袜av| 亚洲精品久久久久久婷婷小说 | 国产精品人妻久久久久久| 久久久久久久久久久丰满| 蜜桃亚洲精品一区二区三区| 欧美色视频一区免费| 夜夜爽天天搞| 卡戴珊不雅视频在线播放| 哪里可以看免费的av片| 国产亚洲91精品色在线| 成人国产麻豆网| 国产私拍福利视频在线观看| 亚洲18禁久久av| 欧美日韩在线观看h| 22中文网久久字幕| 久久久久久久久久久免费av| 中文字幕av在线有码专区| 久久久色成人| 国产亚洲av嫩草精品影院| 国产精品三级大全| 黄片wwwwww| 麻豆久久精品国产亚洲av| 国产探花极品一区二区| a级一级毛片免费在线观看| 联通29元200g的流量卡| 日韩成人伦理影院| 亚洲最大成人中文| 久久久久久久久久久免费av| 在线天堂最新版资源| 搞女人的毛片| 国产高清三级在线| 天堂网av新在线| 免费人成在线观看视频色| 成人一区二区视频在线观看| 蜜桃久久精品国产亚洲av| 亚洲天堂国产精品一区在线| 成人美女网站在线观看视频| 国产色爽女视频免费观看| 国产亚洲av片在线观看秒播厂 | 欧洲精品卡2卡3卡4卡5卡区| 日韩一区二区三区影片| 精品一区二区三区视频在线| 好男人在线观看高清免费视频| 国产片特级美女逼逼视频| 啦啦啦啦在线视频资源| 国产69精品久久久久777片| 中文字幕精品亚洲无线码一区| 日韩高清综合在线| 成人性生交大片免费视频hd| 精品人妻熟女av久视频| 久久久国产成人免费| 一进一出抽搐动态| 性欧美人与动物交配| 特大巨黑吊av在线直播| 国产一级毛片在线| 一进一出抽搐动态| 最近的中文字幕免费完整| 1024手机看黄色片| av在线播放精品| 综合色丁香网| 亚洲av第一区精品v没综合| 国产黄片视频在线免费观看| 免费大片18禁| 国产视频首页在线观看| 久久人人爽人人爽人人片va| 色综合站精品国产| 国产国拍精品亚洲av在线观看| 久久久久久久久大av| 亚洲综合色惰| 成年女人永久免费观看视频| 国产精品一区二区三区四区久久| 国产av在哪里看| 午夜福利高清视频| 免费无遮挡裸体视频| 日韩一区二区视频免费看| 国产探花在线观看一区二区| 99精品在免费线老司机午夜| 99久国产av精品国产电影| 亚洲欧美中文字幕日韩二区| 午夜福利视频1000在线观看| 一个人观看的视频www高清免费观看| 免费搜索国产男女视频| 国产黄色小视频在线观看| 久久精品国产清高在天天线| 精品久久国产蜜桃| 亚洲熟妇中文字幕五十中出| 国产一区二区三区在线臀色熟女| 欧美性感艳星| 国国产精品蜜臀av免费| 日韩三级伦理在线观看| 日本色播在线视频| 国产真实伦视频高清在线观看| 人人妻人人澡欧美一区二区| 亚洲最大成人中文| 大香蕉久久网| 中文在线观看免费www的网站| 亚洲第一电影网av| 国产成人精品一,二区 | 中文字幕av成人在线电影| 人人妻人人澡欧美一区二区| 亚洲精品成人久久久久久| av免费观看日本| 男女做爰动态图高潮gif福利片| 久久久午夜欧美精品| 男女啪啪激烈高潮av片| 欧美日本亚洲视频在线播放| 在线观看一区二区三区| 久久婷婷人人爽人人干人人爱| 草草在线视频免费看| 丰满乱子伦码专区| 国产精品一及| 国产精品一区二区三区四区久久| 一级毛片久久久久久久久女| 国产亚洲av嫩草精品影院| 国产精品一二三区在线看| 国产精品蜜桃在线观看 | 成人av在线播放网站| 欧美色视频一区免费| 国产中年淑女户外野战色| 九九爱精品视频在线观看| 久久这里有精品视频免费| 18+在线观看网站| 赤兔流量卡办理| 成人高潮视频无遮挡免费网站| 婷婷亚洲欧美| 一个人看视频在线观看www免费| av福利片在线观看| 日韩一本色道免费dvd| 午夜福利在线在线| 国产精品,欧美在线| 免费大片18禁| 一边摸一边抽搐一进一小说| 欧美xxxx性猛交bbbb| 婷婷色av中文字幕| 亚洲第一电影网av| 欧美最黄视频在线播放免费| 日韩在线高清观看一区二区三区| 91狼人影院| 天堂中文最新版在线下载 | 国产在视频线在精品| 午夜免费男女啪啪视频观看| 成人高潮视频无遮挡免费网站| 精品一区二区三区人妻视频| 大型黄色视频在线免费观看| 色噜噜av男人的天堂激情| 国产av不卡久久| 免费观看人在逋| 欧美xxxx黑人xx丫x性爽| 国产69精品久久久久777片| 午夜精品一区二区三区免费看| 免费av观看视频| 欧美三级亚洲精品| 国产av在哪里看| 亚洲av免费在线观看| av卡一久久| 一进一出抽搐动态| 欧美一级a爱片免费观看看| 欧美潮喷喷水| 熟妇人妻久久中文字幕3abv| 久久久久久久久久久免费av| 男的添女的下面高潮视频| av免费观看日本| 99久久精品热视频| 亚洲国产欧美在线一区| 精品免费久久久久久久清纯| 性色avwww在线观看| 日本黄色片子视频| 国产综合懂色| 中出人妻视频一区二区| 欧美性猛交黑人性爽| 黄色视频,在线免费观看| 狂野欧美激情性xxxx在线观看| 欧美性猛交黑人性爽| 少妇裸体淫交视频免费看高清| 天堂√8在线中文| 91久久精品国产一区二区成人| 成年免费大片在线观看| 精品久久久噜噜| 99视频精品全部免费 在线| 久久热精品热| 亚洲欧洲日产国产| 欧美zozozo另类| 欧美性猛交黑人性爽| 午夜福利视频1000在线观看| 欧美成人精品欧美一级黄| 在线播放国产精品三级| 国产在线男女| 国产精品99久久久久久久久| 亚洲性久久影院| 白带黄色成豆腐渣| 久久精品91蜜桃| avwww免费| 久久这里只有精品中国| 综合色丁香网| 午夜老司机福利剧场| 天堂√8在线中文| 亚洲av第一区精品v没综合| 乱系列少妇在线播放| 精品99又大又爽又粗少妇毛片| 亚洲人成网站高清观看| av天堂中文字幕网| 91av网一区二区| 综合色丁香网| 在线免费观看不下载黄p国产| 成人鲁丝片一二三区免费| 联通29元200g的流量卡| 国产精品一区二区性色av| 亚洲av成人av| 18禁裸乳无遮挡免费网站照片| 嫩草影院新地址| 毛片女人毛片| 精品99又大又爽又粗少妇毛片| 亚洲欧美日韩东京热| 国产亚洲精品久久久久久毛片| 悠悠久久av| 黑人高潮一二区| 男人的好看免费观看在线视频| 岛国在线免费视频观看| 1024手机看黄色片| 又爽又黄a免费视频| 日韩欧美在线乱码| 亚洲av成人精品一区久久| 一个人看的www免费观看视频| 看十八女毛片水多多多| 看非洲黑人一级黄片| 青春草亚洲视频在线观看| 久久久久网色| 老师上课跳d突然被开到最大视频| 在线天堂最新版资源| 亚洲自偷自拍三级| 99久久精品国产国产毛片| 日韩欧美国产在线观看| 国产熟女欧美一区二区| 爱豆传媒免费全集在线观看| 日韩欧美精品免费久久| 精品人妻一区二区三区麻豆| 国产老妇女一区| 久久精品国产亚洲av香蕉五月| 中国美女看黄片| 丝袜喷水一区| 亚洲第一区二区三区不卡| 亚洲一级一片aⅴ在线观看| 日本欧美国产在线视频| 欧美潮喷喷水| 大型黄色视频在线免费观看| 久久久精品欧美日韩精品| 久久久久网色| 成人午夜精彩视频在线观看| 亚洲精品国产成人久久av| 男人和女人高潮做爰伦理| 99热精品在线国产| 日韩欧美 国产精品| 日韩强制内射视频| 免费在线观看成人毛片| av在线亚洲专区| 3wmmmm亚洲av在线观看| 亚洲精品影视一区二区三区av| 国产又黄又爽又无遮挡在线| 亚洲成人久久性| 18禁在线播放成人免费| 99久国产av精品| 九草在线视频观看| 国产蜜桃级精品一区二区三区| 国产亚洲精品久久久com| 99热精品在线国产| 久久99精品国语久久久| 国产精品精品国产色婷婷| 久久久国产成人免费| 免费av观看视频| 18禁黄网站禁片免费观看直播| 97热精品久久久久久| 欧美潮喷喷水| 亚洲成人久久性| 久久久精品欧美日韩精品| 午夜爱爱视频在线播放| 欧美高清成人免费视频www| 亚洲av中文av极速乱| av在线天堂中文字幕| 校园春色视频在线观看| 成人高潮视频无遮挡免费网站| 国产精品免费一区二区三区在线| 1024手机看黄色片| 麻豆一二三区av精品| 18禁裸乳无遮挡免费网站照片| 久久草成人影院| 赤兔流量卡办理| 国产一区二区三区av在线 | 又粗又硬又长又爽又黄的视频 | 深爱激情五月婷婷| av女优亚洲男人天堂| 蜜桃久久精品国产亚洲av| 特级一级黄色大片| 你懂的网址亚洲精品在线观看 | 久久热精品热| 热99在线观看视频| 日本av手机在线免费观看| 女的被弄到高潮叫床怎么办| 成人午夜精彩视频在线观看| 高清午夜精品一区二区三区 | 亚洲熟妇中文字幕五十中出| 日日干狠狠操夜夜爽| 麻豆乱淫一区二区| 国产成人a区在线观看| 少妇高潮的动态图| 一进一出抽搐gif免费好疼| 26uuu在线亚洲综合色| 观看美女的网站| 午夜激情欧美在线| 两性午夜刺激爽爽歪歪视频在线观看| 国产亚洲5aaaaa淫片| 精品久久久久久久久av| 春色校园在线视频观看| 直男gayav资源| 国产欧美日韩精品一区二区| 12—13女人毛片做爰片一| 我的女老师完整版在线观看| 少妇丰满av| 国产黄a三级三级三级人| 禁无遮挡网站| 可以在线观看毛片的网站| 人体艺术视频欧美日本| 搡女人真爽免费视频火全软件| 少妇裸体淫交视频免费看高清| 欧美3d第一页| 国产午夜精品论理片| 日本与韩国留学比较| 在线免费观看的www视频| 日韩高清综合在线| 国产精品久久久久久久久免| 成人永久免费在线观看视频| 国产极品精品免费视频能看的| 亚洲综合色惰| 天美传媒精品一区二区| 成人av在线播放网站| 欧美最黄视频在线播放免费| 女同久久另类99精品国产91| 看非洲黑人一级黄片| 我要搜黄色片| 国产美女午夜福利| 国产高清三级在线| 亚洲av二区三区四区| 少妇人妻一区二区三区视频| 色吧在线观看| 午夜福利在线观看吧| 成人亚洲精品av一区二区| 国产精品一区二区三区四区免费观看| 此物有八面人人有两片| 99国产精品一区二区蜜桃av| 久久精品国产99精品国产亚洲性色| av在线亚洲专区| 国产三级在线视频| 欧美性猛交黑人性爽| 成人av在线播放网站| 联通29元200g的流量卡| 国产精品久久久久久久电影| 国产精品,欧美在线| 久久午夜福利片| 日本在线视频免费播放| 国产成人freesex在线| 国产三级在线视频| 欧美日韩乱码在线| 日韩 亚洲 欧美在线| 成人午夜精彩视频在线观看| 五月伊人婷婷丁香| а√天堂www在线а√下载| 国产精品一区www在线观看| 免费人成在线观看视频色| 波多野结衣高清无吗| 一区二区三区免费毛片| 亚洲国产精品国产精品| 99riav亚洲国产免费| 在线免费观看不下载黄p国产| 真实男女啪啪啪动态图| 夜夜看夜夜爽夜夜摸| 色综合亚洲欧美另类图片| 在线观看午夜福利视频| 欧美成人精品欧美一级黄| 18+在线观看网站| 黄片无遮挡物在线观看| 久久国内精品自在自线图片| 成人欧美大片| 国产爱豆传媒在线观看| 黄色视频,在线免费观看| 在线免费观看不下载黄p国产| 中国美白少妇内射xxxbb| 午夜福利在线在线| 免费看美女性在线毛片视频| 国产精品蜜桃在线观看 | 欧美最黄视频在线播放免费| 午夜久久久久精精品| 欧美不卡视频在线免费观看| 国产真实伦视频高清在线观看| 一级二级三级毛片免费看| 亚洲欧美精品综合久久99| 九草在线视频观看| 少妇人妻一区二区三区视频| 亚洲av熟女| 午夜久久久久精精品| 国产一级毛片七仙女欲春2| 亚洲内射少妇av| 91精品国产九色| 国产精品1区2区在线观看.| 国产精品国产三级国产av玫瑰| 久99久视频精品免费| 丰满人妻一区二区三区视频av| 国产一区二区在线av高清观看| 天天躁日日操中文字幕| 狂野欧美白嫩少妇大欣赏| 日本黄色片子视频| 亚洲精品456在线播放app| 狂野欧美白嫩少妇大欣赏| 六月丁香七月| 亚洲国产欧美人成| 99久久中文字幕三级久久日本| 嫩草影院入口| 特大巨黑吊av在线直播| 搞女人的毛片| 久久精品夜夜夜夜夜久久蜜豆| 乱人视频在线观看| 日本在线视频免费播放| 亚洲人成网站在线播放欧美日韩| 丰满的人妻完整版| 亚洲国产色片| 国产激情偷乱视频一区二区| 日本五十路高清| 欧美一区二区亚洲| 日本黄色片子视频| 精品国内亚洲2022精品成人| 插逼视频在线观看| 久久久久久久久久黄片| 国产日本99.免费观看| 亚洲欧美日韩高清在线视频| 欧美最黄视频在线播放免费| 秋霞在线观看毛片| 一卡2卡三卡四卡精品乱码亚洲| 人人妻人人看人人澡| 亚洲国产高清在线一区二区三| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 熟妇人妻久久中文字幕3abv| 亚洲乱码一区二区免费版| 久久久a久久爽久久v久久| 国内揄拍国产精品人妻在线| 精品欧美国产一区二区三| 看十八女毛片水多多多| 国产私拍福利视频在线观看| 国产精品久久电影中文字幕| 12—13女人毛片做爰片一| 黄色视频,在线免费观看| 国产单亲对白刺激| 日本成人三级电影网站| 嫩草影院新地址| 成人综合一区亚洲| 欧美一区二区精品小视频在线| 国产亚洲精品久久久com| 日韩欧美在线乱码| 菩萨蛮人人尽说江南好唐韦庄 | 日日啪夜夜撸| 欧美性感艳星| 国产91av在线免费观看| 亚洲欧美日韩无卡精品| 一区二区三区四区激情视频 | 一进一出抽搐gif免费好疼| 欧美性感艳星| 一级黄片播放器| 少妇的逼水好多| 1000部很黄的大片| 日韩成人av中文字幕在线观看| 国产精品永久免费网站| 久久久午夜欧美精品| 综合色av麻豆| 日韩欧美在线乱码| 日韩欧美一区二区三区在线观看| 美女内射精品一级片tv| 国产探花极品一区二区| 国产精品av视频在线免费观看| 精品一区二区三区视频在线| 熟女电影av网| 欧美一区二区亚洲| 日韩大尺度精品在线看网址| 少妇猛男粗大的猛烈进出视频 | 国产午夜福利久久久久久| 亚洲欧美日韩无卡精品| 人妻系列 视频| 亚洲精品日韩在线中文字幕 | 亚洲色图av天堂| 国产毛片a区久久久久| 欧美性感艳星| 亚洲自偷自拍三级| 国产午夜福利久久久久久| 五月玫瑰六月丁香| 国产淫片久久久久久久久| 欧美最黄视频在线播放免费| av在线亚洲专区| 久久久午夜欧美精品| 免费搜索国产男女视频| 国产伦精品一区二区三区四那| 2022亚洲国产成人精品| 久久韩国三级中文字幕| 国产综合懂色| 国产伦一二天堂av在线观看| 久久精品夜夜夜夜夜久久蜜豆| 搡女人真爽免费视频火全软件| 国内精品宾馆在线| 亚洲av中文字字幕乱码综合| 国产高潮美女av| 日日干狠狠操夜夜爽| 午夜精品一区二区三区免费看| 少妇高潮的动态图| 国产蜜桃级精品一区二区三区| 国内精品宾馆在线| 又爽又黄a免费视频| 国产一级毛片七仙女欲春2| 99热网站在线观看| 亚洲熟妇中文字幕五十中出| 亚洲欧美成人综合另类久久久 | 亚洲乱码一区二区免费版| 搡女人真爽免费视频火全软件| 国产成人a∨麻豆精品| 亚洲av中文字字幕乱码综合| www日本黄色视频网| 国产成人a∨麻豆精品| 国产精品野战在线观看| 久久婷婷人人爽人人干人人爱| av卡一久久| 欧美高清成人免费视频www| 五月伊人婷婷丁香| 99久国产av精品| 在线观看免费视频日本深夜| 国产亚洲91精品色在线| 国产精品一区www在线观看| 国产成人a区在线观看| 九草在线视频观看| 国产精品1区2区在线观看.| 自拍偷自拍亚洲精品老妇| 午夜a级毛片| 日本一二三区视频观看| 赤兔流量卡办理| 亚洲国产欧洲综合997久久,| 观看免费一级毛片| 最好的美女福利视频网| 亚洲va在线va天堂va国产| 人人妻人人澡人人爽人人夜夜 | 白带黄色成豆腐渣| 国产色婷婷99| 午夜福利在线观看免费完整高清在 | 精品一区二区免费观看| 午夜爱爱视频在线播放| 黄色一级大片看看| 亚洲七黄色美女视频| 久久久欧美国产精品| 精品久久国产蜜桃| 精品久久久久久成人av| 日本五十路高清|