• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于專利文本挖掘的細(xì)粒度技術(shù)機(jī)會(huì)分析

    2023-11-21 09:48:50吳柯燁孫建軍謝紫悅
    情報(bào)學(xué)報(bào) 2023年10期
    關(guān)鍵詞:細(xì)粒度鏈路機(jī)會(huì)

    吳柯燁,孫建軍,謝紫悅

    (1. 南京大學(xué)信息管理學(xué)院,南京 210023;2. 南京大學(xué)數(shù)據(jù)智能與交叉創(chuàng)新實(shí)驗(yàn)室,南京 210023)

    0 引 言

    隨著新一輪的科技革命與產(chǎn)業(yè)變革席卷全球,科技已逐漸成為評(píng)估國(guó)家綜合實(shí)力、促進(jìn)社會(huì)經(jīng)濟(jì)轉(zhuǎn)型、提升企業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)的關(guān)鍵變量。及時(shí)洞悉技術(shù)發(fā)展變化并快速識(shí)別潛在機(jī)會(huì),不僅是各級(jí)科研單位實(shí)現(xiàn)自主創(chuàng)新,攻克核心技術(shù)壁壘,國(guó)家提升科技競(jìng)爭(zhēng)力的必經(jīng)之路;更是技術(shù)密集型企業(yè)高效管理生產(chǎn)活動(dòng),合理調(diào)配研發(fā)資源,提高科技成果轉(zhuǎn)化率的先決條件。因此,技術(shù)機(jī)會(huì)分析對(duì)于技術(shù)創(chuàng)新活動(dòng)的開展,具有重大的戰(zhàn)略指導(dǎo)意義。

    為清晰識(shí)別不同場(chǎng)景下的技術(shù)機(jī)會(huì),滿足企業(yè)的異質(zhì)性需求,技術(shù)機(jī)會(huì)分析需要對(duì)于復(fù)雜技術(shù)創(chuàng)新系統(tǒng)進(jìn)行細(xì)粒度拆解。鑒于此,現(xiàn)有研究通常以關(guān)鍵詞形式細(xì)粒度地表征領(lǐng)域知識(shí),并采用技術(shù)主題或SAO (subject-action-object) 語義結(jié)構(gòu)表示技術(shù)機(jī)會(huì)[1]。然而,此類方法主要依賴于專家預(yù)先定義的領(lǐng)域?qū)I(yè)詞表來確定領(lǐng)域關(guān)鍵詞[2],知識(shí)體系較為固化,難以匹配技術(shù)的動(dòng)態(tài)發(fā)展;而技術(shù)機(jī)會(huì)又具備較強(qiáng)的時(shí)效性,應(yīng)精準(zhǔn)適配當(dāng)下的環(huán)境變遷與技術(shù)發(fā)展。因此,技術(shù)機(jī)會(huì)分析的前提工作是實(shí)現(xiàn)自動(dòng)化構(gòu)建細(xì)粒度領(lǐng)域知識(shí)網(wǎng)絡(luò)并探究其演化路徑。只有在清晰掌握領(lǐng)域知識(shí)全貌、明確技術(shù)生命周期的基礎(chǔ)上,才能精準(zhǔn)且高效地開展技術(shù)機(jī)會(huì)識(shí)別和分析。

    另外,在學(xué)科交叉與技術(shù)融合的大背景下,知識(shí)重組儼然成為了技術(shù)機(jī)會(huì)的核心特征[3]。通過整合來自不同領(lǐng)域的知識(shí),可以有效解決復(fù)雜技術(shù)難題,推動(dòng)技術(shù)發(fā)展。組合性和遞歸性作為技術(shù)的本質(zhì)特征,使得技術(shù)需依賴于自身結(jié)構(gòu)完成自循環(huán)式的進(jìn)化[4],因此,現(xiàn)有研究通常從知識(shí)挖掘與組合的角度開展定量化技術(shù)機(jī)會(huì)分析[5]。鏈路預(yù)測(cè)法通過測(cè)算網(wǎng)絡(luò)中每一對(duì)節(jié)點(diǎn)產(chǎn)生鏈接可能性的鏈路預(yù)測(cè)法,不僅能夠最細(xì)粒度地直觀體現(xiàn)知識(shí)元素間關(guān)聯(lián)性,還可以靈活地應(yīng)用于大規(guī)模的圖結(jié)構(gòu)數(shù)據(jù),是技術(shù)機(jī)會(huì)分析的主流方法之一。然而,該類研究中所采用的鏈路預(yù)測(cè)指標(biāo)較為傳統(tǒng),一方面對(duì)圖結(jié)構(gòu)信息的捕獲能力有限,另一方面又依賴于固定的前提假設(shè),只抽取片面的節(jié)點(diǎn)或圖結(jié)構(gòu)特征,難以整合技術(shù)機(jī)會(huì)分析所需要的多方面信息,預(yù)測(cè)精度已達(dá)瓶頸。

    鑒于此,本文以專利文本為數(shù)據(jù)源,利用文本挖掘、網(wǎng)絡(luò)分析、鏈路預(yù)測(cè)、深度學(xué)習(xí)等多種方法構(gòu)建了一套細(xì)粒度技術(shù)機(jī)會(huì)分析框架。該分析框架的優(yōu)勢(shì)主要包括:①基于關(guān)鍵詞的多維度文本特征構(gòu)建了特定領(lǐng)域下的技術(shù)知識(shí)網(wǎng)絡(luò),克服領(lǐng)域知識(shí)表征不準(zhǔn)確、不全面等問題。在此基礎(chǔ)上開展的技術(shù)演化分析有助于把握技術(shù)發(fā)展脈絡(luò),為技術(shù)機(jī)會(huì)識(shí)別提供方向指引。②將BERT (bidirectional encoder representations from transformers) 預(yù)訓(xùn)練向量模型與圖自編碼器模型有機(jī)結(jié)合,充分捕獲并融合了詞語間共現(xiàn)關(guān)系特征及自身語義特征,顯著提升知識(shí)網(wǎng)絡(luò)鏈路預(yù)測(cè)精度,為技術(shù)機(jī)會(huì)分析產(chǎn)出高質(zhì)量候選集。③基于產(chǎn)業(yè)鏈結(jié)構(gòu)和鏈路預(yù)測(cè)結(jié)果,佐以多源技術(shù)發(fā)展報(bào)告,模塊化產(chǎn)出并驗(yàn)證細(xì)粒度的技術(shù)機(jī)會(huì)。

    1 研究綜述

    根據(jù)Lee[6]總結(jié)的技術(shù)預(yù)測(cè)研究框架,現(xiàn)有技術(shù)機(jī)會(huì)分析可大致劃分為4 個(gè)步驟:數(shù)據(jù)收集、技術(shù)知識(shí)測(cè)度、技術(shù)機(jī)會(huì)挖掘以及技術(shù)機(jī)會(huì)評(píng)估。其中,專利作為技術(shù)研發(fā)的成果文件,最直接地反映了技術(shù)本身的發(fā)展現(xiàn)狀和演化過程,是技術(shù)機(jī)會(huì)分析最主要的數(shù)據(jù)來源[7-8]。由于研究對(duì)象和研究場(chǎng)景的差異,各研究在技術(shù)知識(shí)測(cè)度、技術(shù)機(jī)會(huì)挖掘等環(huán)節(jié)存在異同,但也呈現(xiàn)一定的研究特點(diǎn)和趨勢(shì)。

    1.1 技術(shù)知識(shí)測(cè)度單元日趨細(xì)化

    技術(shù)機(jī)會(huì)被認(rèn)為是“技術(shù)進(jìn)步可能性的集合”,而這種可能性往往蘊(yùn)藏于細(xì)微的技術(shù)變化之中[9]。傳統(tǒng)的技術(shù)機(jī)會(huì)分析方法通常采用粗粒度的IPC(international patent classification) 分類號(hào)或單篇專利表征技術(shù)知識(shí),無法從微觀層面對(duì)技術(shù)細(xì)節(jié)變化實(shí)施監(jiān)測(cè)。譬如,Kim 等[10]基于異常值檢測(cè)方法在專利引文網(wǎng)絡(luò)中識(shí)別出離群專利,并從中析出未來技術(shù)創(chuàng)新方向。然而,離群專利所涵蓋的技術(shù)知識(shí)十分廣泛,難以表征確切的技術(shù)機(jī)會(huì)方向,可解釋性較弱。

    隨著自然語言處理的進(jìn)步和發(fā)展,基于專利文本內(nèi)容的細(xì)粒度技術(shù)知識(shí)挖掘與技術(shù)測(cè)度受到大多數(shù)學(xué)者的青睞。以主題[11]、關(guān)鍵詞[1]和關(guān)鍵詞組[12]等作為技術(shù)知識(shí)的最基本表示單元,為技術(shù)機(jī)會(huì)分析提供語義特征,更精準(zhǔn)地揭示技術(shù)內(nèi)容和細(xì)節(jié)。Tshitoyan 等[12]基于領(lǐng)域關(guān)鍵詞表利用word2vec 模型訓(xùn)練出材料科學(xué)領(lǐng)域的關(guān)鍵詞向量,以達(dá)到超前預(yù)測(cè)材料功能性應(yīng)用的目的;Feng 等[2]利用TF-IDF(term frequency-inverse document frequency) 指標(biāo)并佐以專家知識(shí)識(shí)別特定領(lǐng)域下的技術(shù)創(chuàng)新元素。

    然而,此類測(cè)度方式通常初始化于固化的領(lǐng)域知識(shí),無法匹配技術(shù)的多維度、跨領(lǐng)域發(fā)展與應(yīng)用,難以動(dòng)態(tài)揭示領(lǐng)域全貌,且僅依據(jù)單一的詞語特征,如詞頻或TF-IDF 指標(biāo),抽取的領(lǐng)域關(guān)鍵詞較為片面,無法精準(zhǔn)捕獲新興知識(shí)元素。鑒于此,本文集成了TF-IDF、RAKE (rapid automatic keyword extraction) 和BERT 這3 種關(guān)鍵詞抽取算法,綜合考量詞語的詞頻、語法結(jié)構(gòu)以及語義特征,從細(xì)粒度與自動(dòng)化兩個(gè)方面入手,實(shí)現(xiàn)對(duì)技術(shù)領(lǐng)域知識(shí)的抽取與知識(shí)網(wǎng)絡(luò)的組織,有效避免了固有領(lǐng)域知識(shí)的參與。

    1.2 技術(shù)機(jī)會(huì)挖掘注重知識(shí)關(guān)聯(lián)性

    現(xiàn)有研究中機(jī)會(huì)挖掘方法未形成統(tǒng)一范式,呈現(xiàn)百花齊放的態(tài)勢(shì),主要包含技術(shù)空白法、形態(tài)分析法、異常值檢測(cè)法、科學(xué)與技術(shù)關(guān)聯(lián)性法、鏈路預(yù)測(cè)法等主流機(jī)會(huì)挖掘方法[13-14]。根據(jù)分析方法的不同,各研究涉及的技術(shù)機(jī)會(huì)分析環(huán)節(jié)上存在較為明顯的差異,如表1 所示。

    表1 不同機(jī)會(huì)挖掘方法所涉及的知識(shí)測(cè)度與機(jī)會(huì)表示差異

    雖然技術(shù)機(jī)會(huì)表征形式不一,但是其本質(zhì)均是揭示技術(shù)知識(shí)之間的關(guān)聯(lián)性。在針對(duì)技術(shù)空白的相關(guān)研究中,龔惠群等[16]、Lee 等[17]以領(lǐng)域關(guān)鍵詞作為技術(shù)信息載體,采用主成分分析法降維并生成專利地圖,將地圖中的空白區(qū)域定義為所研究領(lǐng)域的技術(shù)機(jī)會(huì)。在探索科學(xué)與技術(shù)關(guān)聯(lián)性的相關(guān)研究中,黃魯成等[22]通過主題聚類和SAO 結(jié)構(gòu)相似度從語義層面細(xì)粒度地揭示科學(xué)與技術(shù)間主題差異性,將此種差異性解釋為可能出現(xiàn)的技術(shù)機(jī)會(huì)。由此可見,大多數(shù)學(xué)者是以知識(shí)元素間的組合關(guān)聯(lián)或差異歸納來表達(dá)技術(shù)機(jī)會(huì)的主要特征[14],從知識(shí)挖掘和組合的角度開展技術(shù)機(jī)會(huì)分析[5]。

    鏈接預(yù)測(cè)作為上述方法中最能直接體現(xiàn)知識(shí)之間關(guān)聯(lián)性的技術(shù)機(jī)會(huì)挖掘方法,主要從特定領(lǐng)域的技術(shù)知識(shí)網(wǎng)絡(luò)出發(fā),通過鏈路預(yù)測(cè)指標(biāo)計(jì)算網(wǎng)絡(luò)中未來最有可能產(chǎn)生鏈接的“IPC 對(duì)”[25]或“關(guān)鍵詞對(duì)”[12]。但是,此類研究中所采取的鏈路預(yù)測(cè)指標(biāo)均需要具備較強(qiáng)的前提假設(shè)和應(yīng)用場(chǎng)景。譬如,AA(Adamic-Adar)[26]指標(biāo)在社交網(wǎng)絡(luò)中具有很強(qiáng)的解釋性,認(rèn)為兩個(gè)節(jié)點(diǎn)的共同領(lǐng)域中度小的節(jié)點(diǎn)貢獻(xiàn)大于度大的節(jié)點(diǎn),即若兩位用戶同時(shí)處在某一位小博主的朋友圈內(nèi),則可能產(chǎn)生較高的鏈接概率;反之,若兩位用戶同時(shí)是一位名人的粉絲,則其相互認(rèn)識(shí)的概率較小。但知識(shí)元素間的共現(xiàn)關(guān)系可能并不會(huì)受到“明星”節(jié)點(diǎn)的影響,一切與研究熱點(diǎn)相關(guān)的知識(shí)元素都可能在未來產(chǎn)生聯(lián)動(dòng),促成相關(guān)技術(shù)的創(chuàng)新與發(fā)展,因此,該指標(biāo)并不適用于技術(shù)知識(shí)網(wǎng)絡(luò)。

    圖神經(jīng)網(wǎng)絡(luò)方法的興起為解決上述問題提供了契機(jī),該方法有效避免了預(yù)定義節(jié)點(diǎn)間相似度的計(jì)算方式,通過卷積操作學(xué)習(xí)圖結(jié)構(gòu)信息,并利用節(jié)點(diǎn)向量表征有效地融合了節(jié)點(diǎn)自身特征與圖結(jié)構(gòu)特征,為鏈路預(yù)測(cè)任務(wù)提供豐富信息。其中,圖自編碼器[27]作為該類方法的開篇之作,在各領(lǐng)域中有著廣泛的應(yīng)用。譬如,自編碼器模型在生物領(lǐng)域中常被用于預(yù)測(cè)人類基因與疾病之間關(guān)聯(lián)性,經(jīng)驗(yàn)證其具備較高的準(zhǔn)確性和魯棒性[28-29]。在社交網(wǎng)絡(luò)中,圖自編碼器也已經(jīng)成為商品推薦、消息推送等任務(wù)的主流推薦算法[30]。另外,在交通領(lǐng)域,學(xué)者們基于圖自編碼器對(duì)交通流量[31]、交通事故[32]和交通需求等實(shí)現(xiàn)了智能化的時(shí)空預(yù)測(cè)[33]。類似地,本文將圖自編碼器模型應(yīng)用于技術(shù)機(jī)會(huì)挖掘,在大規(guī)模的技術(shù)知識(shí)網(wǎng)絡(luò)中識(shí)別出未來可能產(chǎn)生鏈接的知識(shí)元素對(duì),為后續(xù)技術(shù)機(jī)會(huì)分析提供高質(zhì)量的候選集。

    2 研究框架及方法

    結(jié)合現(xiàn)有研究特點(diǎn)和存在問題,本文設(shè)計(jì)了如圖1 所示的基于專利文本挖掘的細(xì)粒度技術(shù)機(jī)會(huì)分析框架,以關(guān)鍵詞或詞組的形式細(xì)粒度表征技術(shù)知識(shí),并采用關(guān)鍵詞或詞組的組合關(guān)系表征技術(shù)機(jī)會(huì),凸顯技術(shù)機(jī)會(huì)的知識(shí)關(guān)聯(lián)特性。該分析框架主要包含知識(shí)網(wǎng)絡(luò)構(gòu)建及演化分析、知識(shí)元素鏈路預(yù)測(cè)以及技術(shù)機(jī)會(huì)評(píng)估與篩選3 個(gè)模塊。下文將著重介紹技術(shù)知識(shí)網(wǎng)絡(luò)構(gòu)建方法和知識(shí)元素鏈路預(yù)測(cè)方法。

    圖1 基于專利文本挖掘的細(xì)粒度技術(shù)機(jī)會(huì)分析框架

    2.1 技術(shù)知識(shí)網(wǎng)絡(luò)構(gòu)建及演化分析方法

    在知識(shí)網(wǎng)絡(luò)構(gòu)建方面,本文秉持知識(shí)表征的細(xì)粒度原則,基于“關(guān)鍵詞與詞組是知識(shí)最基本的載體單位”這一假設(shè)[34],融合關(guān)鍵詞的多維度特征,自動(dòng)化抽取具有技術(shù)表征能力的知識(shí)元素并構(gòu)建網(wǎng)絡(luò)。如圖2 所示,知識(shí)元素的具體抽取流程依賴于3 種不同的關(guān)鍵詞抽取算法,分別捕獲專利文本中詞語的詞頻、語法和語義特征。

    圖2 知識(shí)元素抽取方法

    首先,采用TF-IDF 算法抽取專利文本中的高頻關(guān)鍵字,將其作為知識(shí)元素的必要組成部分。其次,通過RAKE 模型捕獲詞語之間的共現(xiàn)關(guān)系,識(shí)別出占據(jù)核心語法位置的n-gram 關(guān)鍵詞組[35]。再其次,利用BERT 預(yù)訓(xùn)練模型和向量相似度,計(jì)算得出與文本內(nèi)容最契合的關(guān)鍵短語[36]。需要注意的是,上述兩組關(guān)鍵詞中都必須包含TF-IDF 候選字,以保證領(lǐng)域?qū)V感?。最后,合并RAKE 與BERT 模型的抽取結(jié)果,即可得到同時(shí)具備高詞頻、動(dòng)名詞性以及核心語義等多個(gè)關(guān)鍵特征的技術(shù)知識(shí)元素。在構(gòu)建網(wǎng)絡(luò)連邊方面,為避免知識(shí)元素間的語義重復(fù)性,將網(wǎng)絡(luò)中連邊由簡(jiǎn)單的共現(xiàn)關(guān)系改為僅關(guān)聯(lián)非語義重復(fù)的知識(shí)元素對(duì),即兩個(gè)知識(shí)元素沒有相同的TF-IDF 關(guān)鍵字才可以建立鏈接。例如,“training sample”和“training set”中都出現(xiàn)training,存在語義重復(fù),即使兩者出現(xiàn)在同一篇專利文獻(xiàn)中彼此也不會(huì)建立鏈接。

    另外,為確保技術(shù)機(jī)會(huì)分析的時(shí)效價(jià)值,本文利用復(fù)雜網(wǎng)絡(luò)分析法對(duì)知識(shí)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行深層次剖析,結(jié)合時(shí)間序列窺探技術(shù)的演化歷程,以此指引技術(shù)機(jī)會(huì)的分析方向。具體來說,先利用知識(shí)網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)和連邊數(shù)揭示目標(biāo)技術(shù)的橫縱向發(fā)展趨勢(shì),再利用網(wǎng)絡(luò)密度、平均路徑長(zhǎng)度、聚類系數(shù)等網(wǎng)絡(luò)結(jié)構(gòu)指標(biāo),深度挖掘知識(shí)元素間的交融模式,探析領(lǐng)域內(nèi)部知識(shí)討論熱度與成熟度,以此確定各歷史時(shí)期目標(biāo)技術(shù)的發(fā)展形態(tài)及其所處的生命周期。

    2.2 技術(shù)機(jī)會(huì)挖掘與評(píng)估方法

    在技術(shù)演化的指引下,本文采用圖神經(jīng)網(wǎng)絡(luò)鏈路預(yù)測(cè)方法挖掘各生命周期下所蘊(yùn)藏的細(xì)粒度技術(shù)機(jī)會(huì),利用變分圖自編碼器[27](variational graph auto-encoder,VGAE)及其變體圖自編碼器(graph auto-encoder,GAE)模型開展知識(shí)網(wǎng)絡(luò)的鏈路預(yù)測(cè)任務(wù),將知識(shí)元素之間未來可能產(chǎn)生的鏈接關(guān)系作為技術(shù)機(jī)會(huì)。圖3 描述了基于變分圖自編碼器的技術(shù)機(jī)會(huì)挖掘流程。

    圖3 基于變分圖自編碼器的知識(shí)元素鏈路預(yù)測(cè)流程

    如圖3 所示,VGAE 由兩層圖卷積神經(jīng)網(wǎng)絡(luò)編碼器與解碼器組成。編碼器的工作思路是通過學(xué)習(xí)T時(shí)間下可觀測(cè)到的知識(shí)網(wǎng)絡(luò)結(jié)構(gòu),獲取各節(jié)點(diǎn)向量分布的均值μ和方差σ,并據(jù)此從標(biāo)準(zhǔn)高斯分布中采樣,生成新的節(jié)點(diǎn)向量Z。解碼器則是利用節(jié)點(diǎn)向量Z內(nèi)積得到節(jié)點(diǎn)間鏈路預(yù)測(cè)存在的可能性,通過sigmod 激活函數(shù)將鏈接可能性歸一至0 和1 之間,以實(shí)現(xiàn)知識(shí)網(wǎng)絡(luò)的重構(gòu)和還原,生成預(yù)測(cè)的T+1 時(shí)間下知識(shí)網(wǎng)絡(luò)。在此過程中,模型通過反向傳播不斷更新模型參數(shù)(均值μ和方差σ),將真實(shí)網(wǎng)絡(luò)與預(yù)測(cè)網(wǎng)絡(luò)之間的交叉熵和KL (Kullback-Leibler)散度損失值最小化。最終,預(yù)測(cè)所得的T+1 知識(shí)網(wǎng)絡(luò)中鏈路增加的部分被認(rèn)為是可能出現(xiàn)的技術(shù)機(jī)會(huì)。另外,GAE 相較于VGAE 簡(jiǎn)化了編碼步驟,只用了一層圖神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)就得到節(jié)點(diǎn)的向量分布Z,提高了鏈路預(yù)測(cè)的計(jì)算效率。

    為驗(yàn)證細(xì)粒度技術(shù)機(jī)會(huì)挖掘的可靠性,首先,本文基于歷史真實(shí)數(shù)據(jù)采用AUC(area under curve)和平均準(zhǔn)確率(average precision,AP)指標(biāo)對(duì)鏈路預(yù)測(cè)結(jié)果進(jìn)行直接的定量評(píng)估,與其他算法進(jìn)行對(duì)比,驗(yàn)證圖自編碼器方法的穩(wěn)定性與魯棒性。其次,綜合多源技術(shù)發(fā)展報(bào)告對(duì)所挖掘出來的技術(shù)機(jī)會(huì)進(jìn)行二次識(shí)別和評(píng)估。在此過程中,本文將特定領(lǐng)域的技術(shù)機(jī)會(huì)按照產(chǎn)業(yè)鏈結(jié)構(gòu)進(jìn)行劃分,針對(duì)鏈路預(yù)測(cè)值(連邊可能性)排序靠前的多對(duì)知識(shí)元素及其組合關(guān)系在技術(shù)發(fā)展報(bào)告中進(jìn)行循證,以確定特定領(lǐng)域在各產(chǎn)業(yè)鏈環(huán)節(jié)上的技術(shù)機(jī)會(huì)。

    3 計(jì)算機(jī)視覺領(lǐng)域?qū)嵶C研究

    為探究本文所提出分析框架的實(shí)際效用,選取典型交叉技術(shù)領(lǐng)域——計(jì)算機(jī)視覺作為研究對(duì)象,開展實(shí)證研究。其主要原因有兩點(diǎn):一是在融合發(fā)展范式的驅(qū)動(dòng)下,交叉領(lǐng)域存在大量潛在的技術(shù)發(fā)展機(jī)遇,如人工智能、生物信息學(xué)等,是各國(guó)各企業(yè)技術(shù)競(jìng)爭(zhēng)的焦點(diǎn),對(duì)該類領(lǐng)域的技術(shù)機(jī)會(huì)分析具有實(shí)際意義;二是交叉領(lǐng)域的技術(shù)覆蓋面廣泛,本身存在多學(xué)科參與、多場(chǎng)景應(yīng)用的特征,其技術(shù)機(jī)會(huì)出現(xiàn)的方向和維度具有不確定性,能夠有效檢驗(yàn)本文所提出的分析框架的魯棒性。

    3.1 知識(shí)網(wǎng)絡(luò)構(gòu)建及技術(shù)演化分析

    3.1.1 知識(shí)網(wǎng)絡(luò)構(gòu)建

    在數(shù)據(jù)收集方面,本文基于中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(Artificial Intelligence Industry Alliance,AIIA)所制定的計(jì)算機(jī)視覺專利檢索式[37],從德文特?cái)?shù)據(jù)庫(kù)中共抽取82535 條相關(guān)專利。鑒于專利的公開具有滯后期,與2020 年(10632 件) 相比,2021 年的專利數(shù)據(jù)量(1420 件)有斷崖式下降,故下文只采用截至2020 年的專利數(shù)據(jù)開展技術(shù)機(jī)會(huì)挖掘。

    根據(jù)2.1 節(jié)網(wǎng)絡(luò)構(gòu)建方法,知識(shí)元素抽取結(jié)果按照重要性排序,如表2 所示??梢钥闯?,TF-IDF能夠識(shí)別具有領(lǐng)域特征的單個(gè)關(guān)鍵字,如“image”“iris”“pixel”等大部分詞語屬于計(jì)算機(jī)視覺領(lǐng)域常用的專業(yè)詞匯。RAKE 在抽取長(zhǎng)短語上效果較為突出,但是普遍存在長(zhǎng)度過長(zhǎng)的情況,例如,長(zhǎng)度為3 的關(guān)鍵詞短語“fingerprint identification device”的重要性得分比“fingerprint identification”高,但其涵蓋語義卻是后者的子集。結(jié)合文獻(xiàn)[38-39]與上述驗(yàn)證結(jié)果,本文將KeyBERT 模型中的n設(shè)置為2抽取關(guān)鍵詞,將所得結(jié)果與前兩種算法取交集,得到1457 個(gè)知識(shí)元素。最后,根據(jù)其間的229573 條鏈路關(guān)系構(gòu)建知識(shí)網(wǎng)絡(luò)。

    表2 知識(shí)元素抽取結(jié)果

    3.1.2 知識(shí)網(wǎng)絡(luò)演化分析

    為確保微觀層面技術(shù)機(jī)會(huì)分析遵循宏觀技術(shù)演化歷程,本節(jié)基于全局網(wǎng)絡(luò)指標(biāo)詳細(xì)探究計(jì)算機(jī)視覺技術(shù)的發(fā)展脈絡(luò)。從網(wǎng)絡(luò)節(jié)點(diǎn)增量來看,技術(shù)知識(shí)網(wǎng)絡(luò)規(guī)模逐年增大,增長(zhǎng)速率呈現(xiàn)由緩到急再逐步進(jìn)入平緩的態(tài)勢(shì),如圖4 所示。其中,1990 年以前,計(jì)算機(jī)視覺技術(shù)知識(shí)網(wǎng)絡(luò)擴(kuò)張速率處于較低的水平,證明該階段技術(shù)處于萌芽期,受到的關(guān)注較少;自1990 年以來,計(jì)算機(jī)視覺領(lǐng)域的知識(shí)元素?cái)?shù)量激增,且10 年內(nèi)均保持較高的增長(zhǎng)水平,這意味著自20 世紀(jì)90 年代起計(jì)算機(jī)視覺技術(shù)開始進(jìn)入技術(shù)生長(zhǎng)期。

    圖4 知識(shí)網(wǎng)絡(luò)逐年新增節(jié)點(diǎn)數(shù)量

    如圖5 所示,從網(wǎng)絡(luò)中連邊增量來看,對(duì)于步入生長(zhǎng)期的計(jì)算機(jī)視覺技術(shù)而言,雖然其知識(shí)網(wǎng)絡(luò)中新鏈接與舊鏈接均呈現(xiàn)冪指數(shù)增長(zhǎng)態(tài)勢(shì),但是新鏈接(灰色柱狀)占所有新增鏈接(黑色柱狀)的比例(圖5 中曲線)逐漸變小,尤其從2016 年開始,該比例大幅減小。這表明計(jì)算機(jī)視覺領(lǐng)域在經(jīng)歷了1990—2015 年這數(shù)十載的飛速發(fā)展后,領(lǐng)域內(nèi)創(chuàng)新水平逐步變緩,新興技術(shù)知識(shí)受到較少關(guān)注,開發(fā)者主要聚焦于已形成的技術(shù)方向,計(jì)算機(jī)視覺技術(shù)開始進(jìn)入成熟期。

    圖5 知識(shí)網(wǎng)絡(luò)逐年新增連邊數(shù)量

    結(jié)合其他全局網(wǎng)絡(luò)指標(biāo)可以進(jìn)一步明確計(jì)算機(jī)視覺所處的技術(shù)生命周期,如圖6 所示。其中,1990—2000 年,網(wǎng)絡(luò)聚類系數(shù)和平均最短距離指標(biāo)浮動(dòng)明顯,圖密度卻保持在5%以下,這表明雖然該階段知識(shí)網(wǎng)絡(luò)規(guī)模急劇擴(kuò)張,但節(jié)點(diǎn)間的共現(xiàn)關(guān)系沒有被完全挖掘,領(lǐng)域內(nèi)知識(shí)交融程度并不充分,仍存在諸多值得學(xué)者探索的可能性,可以將其視作技術(shù)生長(zhǎng)初期。2000—2010 年,圖密度指標(biāo)開始呈現(xiàn)上升趨勢(shì),而聚類系數(shù)與平均最短距離的上升和下降態(tài)勢(shì)逐步趨于穩(wěn)定,這表明技術(shù)的縱向挖掘正逐步追趕上技術(shù)橫向擴(kuò)張的步伐,計(jì)算機(jī)視覺正處在橫縱向齊頭并進(jìn)的關(guān)鍵階段,可以將其視作技術(shù)生長(zhǎng)中期。2010 年以后,隨著深度學(xué)習(xí)助力計(jì)算機(jī)技術(shù)的二次騰飛,圖密度指標(biāo)呈現(xiàn)激增態(tài)勢(shì),尤其在2015 年以后更為明顯,這表明計(jì)算機(jī)視覺技術(shù)的研發(fā)方向更集中于現(xiàn)有技術(shù)方向的縱向研究與細(xì)化,計(jì)算機(jī)視覺技術(shù)正由技術(shù)生長(zhǎng)期逐步過渡到技術(shù)成熟期,可以將其視作技術(shù)生長(zhǎng)后期。

    圖6 全局網(wǎng)絡(luò)指標(biāo)變化趨勢(shì)

    3.2 知識(shí)元素鏈路預(yù)測(cè)

    3.2.1 數(shù)據(jù)集劃分

    為驗(yàn)證變分圖自編碼器(VGAE) 及其變體(GAE)對(duì)于不同歷史形態(tài)下技術(shù)機(jī)會(huì)挖掘的魯棒性,本文根據(jù)知識(shí)網(wǎng)絡(luò)演化結(jié)論,將計(jì)算機(jī)視覺網(wǎng)絡(luò)按照時(shí)間拆分為4 個(gè)動(dòng)態(tài)子網(wǎng)絡(luò),并按照時(shí)間順序切分各子網(wǎng)絡(luò)的訓(xùn)練集、驗(yàn)證集和測(cè)試集,以此監(jiān)督模型學(xué)習(xí)并驗(yàn)證預(yù)測(cè)結(jié)果,劃分結(jié)果如表3 所示。具體來看,為體現(xiàn)技術(shù)機(jī)會(huì)所具備時(shí)間特性,將某個(gè)動(dòng)態(tài)子網(wǎng)絡(luò)中特定時(shí)間節(jié)點(diǎn)t年的網(wǎng)絡(luò)快照作為模型訓(xùn)練集,將t+1 年網(wǎng)絡(luò)快照中的新增鏈路作為測(cè)試集和驗(yàn)證集監(jiān)督模型學(xué)習(xí)。例如,對(duì)于1980—1990 年的動(dòng)態(tài)子網(wǎng)絡(luò)而言,訓(xùn)練集由子網(wǎng)絡(luò)中所有311 個(gè)元素在1980—1989 年產(chǎn)生的1206 條鏈接構(gòu)成,驗(yàn)證集和測(cè)試集則是由1990 年網(wǎng)絡(luò)中相較于1989 年網(wǎng)絡(luò)中新建立的513 條鏈接隨機(jī)平均分配得到。

    表3 動(dòng)態(tài)子網(wǎng)絡(luò)的數(shù)據(jù)集劃分

    此種數(shù)據(jù)集劃分方式,一方面,可以消除動(dòng)態(tài)技術(shù)知識(shí)網(wǎng)絡(luò)中頻繁建立的舊鏈接所導(dǎo)致前后知識(shí)網(wǎng)絡(luò)中鏈路的天然重復(fù)性,保證了模型的泛化能力;另一方面,技術(shù)知識(shí)網(wǎng)絡(luò)中舊鏈接的反復(fù)出現(xiàn)只能表示現(xiàn)有方向的深入研發(fā),而新鏈接的初次建立則意味著技術(shù)機(jī)會(huì)的產(chǎn)生。因此,此種劃分方式更關(guān)注新鏈接產(chǎn)生,具有實(shí)際技術(shù)意義,有助于提升模型預(yù)測(cè)結(jié)果效用。

    3.2.2 參數(shù)設(shè)置

    圖自編碼器的鏈路預(yù)測(cè)性能在很大程度上取決于模型超參數(shù)的設(shè)置,需要通過反復(fù)實(shí)驗(yàn)加以確定。為節(jié)省計(jì)算資源,本文將學(xué)習(xí)率和隨機(jī)丟棄率參照文獻(xiàn)[40]分別固定為0.01 和0.05,只優(yōu)化數(shù)據(jù)迭代輪次(Epoch,模型學(xué)習(xí)整個(gè)數(shù)據(jù)集的輪次),以使鏈路預(yù)測(cè)性能達(dá)到最佳。另外,鑒于本文所構(gòu)建的訓(xùn)練集和驗(yàn)證集存在時(shí)間先后性,在訓(xùn)練集上具備較高的預(yù)測(cè)性能并不意味著在驗(yàn)證集上同樣具有良好的泛化效果。因此選取訓(xùn)練集的Epoch-Loss曲線和驗(yàn)證集的Epoch-AUC 曲線共同確定數(shù)據(jù)迭代輪次Epoch,以1980—1990 年動(dòng)態(tài)子網(wǎng)絡(luò)為例,繪制上述兩種曲線,如圖7 和圖8 所示。

    圖7 1980—1990年動(dòng)態(tài)子網(wǎng)絡(luò)訓(xùn)練集Epoch-Loss曲線

    圖8 1980—1990年動(dòng)態(tài)子網(wǎng)絡(luò)驗(yàn)證集Epoch-AUC曲線

    由圖7 和圖8 可知,訓(xùn)練集的損失值在前10 個(gè)Epoch 內(nèi)驟減后趨于緩慢減小,意味著模型已經(jīng)學(xué)習(xí)到大部分訓(xùn)練集數(shù)據(jù)的特征;驗(yàn)證集則在近50個(gè)Epoch 左右趨于相對(duì)穩(wěn)定狀態(tài),在250 個(gè)Epoch 后出現(xiàn)波動(dòng)下降趨勢(shì),表明此時(shí)模型出現(xiàn)過擬合情況。此外,GAE 和VGAE 在擬合數(shù)據(jù)過程中Loss 曲線和AUC 曲線趨勢(shì)幾乎保持一致,因此,將1980—1990年中的GAE 和VGAE 的Epoch 均設(shè)置為50。同樣地,對(duì)各動(dòng)態(tài)子網(wǎng)絡(luò)的GAE 和VGAE 模型均進(jìn)行Epoch優(yōu)化后,重新訓(xùn)練模型并進(jìn)行后續(xù)的結(jié)果評(píng)估。

    此外,為探究知識(shí)元素的語義屬性是否會(huì)對(duì)技術(shù)機(jī)會(huì)挖掘能力產(chǎn)生影響。本文基于預(yù)訓(xùn)練向量模型BERT-Base①https://github.com/google-research/bert抽取各節(jié)點(diǎn)的語義特征,將節(jié)點(diǎn)特征矩陣作為模型輸入?yún)?shù)X。

    3.2.3 模型評(píng)估

    確定模型超參數(shù)后,將圖自編碼器與其他鏈路預(yù)測(cè)算法進(jìn)行對(duì)比分析,以驗(yàn)證不同歷史時(shí)期圖自編碼器鏈路預(yù)測(cè)算法的優(yōu)越性與魯棒性。在評(píng)價(jià)指標(biāo)方面,本文采用鏈路預(yù)測(cè)任務(wù)中兩種最常見的AUC 和AP 指標(biāo),定量評(píng)估各模型預(yù)測(cè)性能的優(yōu)略。其中,AUC 是模型的綜合評(píng)價(jià)指標(biāo),其主要計(jì)算測(cè)試集鏈路得分值高于不存在鏈路得分值的概率,概率越高表示模型魯棒性越好。準(zhǔn)確率考量預(yù)測(cè)得分最高的L條邊是否準(zhǔn)確,計(jì)算前L條邊存在于測(cè)試集中的占比,平均準(zhǔn)確率(AP)則是將不同L取值下的精確率取均值而得。在基線方法方面,除了傳統(tǒng)的鏈路預(yù)測(cè)指標(biāo),如CN(common neighborhood)、AA 和PA(preferential attachment)等,本文還選取了同屬于圖表示學(xué)習(xí)的node2vec 算法。最終預(yù)測(cè)結(jié)果如表4 所示。

    表4 不同時(shí)期技術(shù)知識(shí)網(wǎng)絡(luò)下各模型鏈接預(yù)測(cè)結(jié)果對(duì)比

    結(jié)果顯示,VGAE 及其變體GAE 在各歷史時(shí)期的技術(shù)知識(shí)網(wǎng)絡(luò)鏈路預(yù)測(cè)任務(wù)中都表現(xiàn)出卓越的性能,尤其是針對(duì)近20 年來的知識(shí)網(wǎng)絡(luò),圖自編碼器比最優(yōu)的傳統(tǒng)鏈路預(yù)測(cè)指標(biāo)在AUC 和AP 兩個(gè)指標(biāo)上均有近10 個(gè)百分點(diǎn)的提升,可達(dá)到90%左右。這表明圖自編碼器能夠高效捕獲大規(guī)模、高密度網(wǎng)絡(luò)下的鏈路信息。另外,GAE 模型和VGAE 模型比node2vec 具有明顯優(yōu)勢(shì),但變分操作并沒有顯著提升圖自編碼器的預(yù)測(cè)性能,這證明只采用簡(jiǎn)單的兩層圖卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)就可以達(dá)到精準(zhǔn)預(yù)測(cè)鏈路的目的。在1980—2000 年,計(jì)算機(jī)視覺知識(shí)網(wǎng)絡(luò)密度較低,可捕獲的網(wǎng)絡(luò)結(jié)構(gòu)特征較少,此時(shí)節(jié)點(diǎn)語義特征的輸入顯著提高了GAE 模型和VGAE 模型的預(yù)測(cè)準(zhǔn)確率,表明知識(shí)元素的語義特征同樣也是識(shí)別技術(shù)機(jī)會(huì)的關(guān)鍵特征。

    綜上所述,本文所構(gòu)建的圖自編碼器模型能夠適應(yīng)于不同歷史形態(tài)下知識(shí)元素的關(guān)聯(lián)預(yù)測(cè),預(yù)測(cè)結(jié)果可以作為潛在的技術(shù)機(jī)會(huì)以備進(jìn)一步篩選和分析。

    3.3 技術(shù)機(jī)會(huì)評(píng)估與篩選

    為進(jìn)一步明確并細(xì)化未來計(jì)算機(jī)視覺領(lǐng)域潛在的技術(shù)機(jī)會(huì),本節(jié)針對(duì)2010—2020 年的技術(shù)知識(shí)子網(wǎng)絡(luò)中的鏈路預(yù)測(cè)結(jié)果進(jìn)行二次驗(yàn)證,結(jié)合多源技術(shù)報(bào)告解讀并篩選未來有發(fā)展前景的技術(shù)機(jī)會(huì)。根據(jù)中國(guó)移動(dòng)研究院于2020 年發(fā)布的《計(jì)算機(jī)視覺研究報(bào)告》[41](以下簡(jiǎn)稱《報(bào)告》),計(jì)算機(jī)視覺產(chǎn)業(yè)鏈可分為上游感知層、中游計(jì)算層和下游應(yīng)用算法層?;诖耍竟?jié)采用人工方式對(duì)細(xì)粒度的技術(shù)組合關(guān)系做進(jìn)一步篩選,并映射至各產(chǎn)業(yè)鏈環(huán)節(jié)中。

    3.3.1 上游感知層技術(shù)機(jī)會(huì)

    上游感知層的主要任務(wù)是圖像數(shù)據(jù)的采集,主要涉及硬件設(shè)備,如工業(yè)視覺中的工業(yè)攝像頭、視覺傳感器等。鏈路預(yù)測(cè)結(jié)果中與硬件設(shè)備相關(guān)的知識(shí)元素及其組合關(guān)系如圖9 所示。可以看出,上游硬件設(shè)備主要圍繞移動(dòng)終端和智能設(shè)備進(jìn)行技術(shù)研發(fā),集成了多種傳感器設(shè)備,具體包含紅外傳感器、光學(xué)傳感器、觸摸屏幕、數(shù)碼相機(jī)和深度相機(jī)等。其中,“multiple cameras”一詞較好地概括了上游設(shè)備的未來發(fā)展趨勢(shì),即能夠捕獲的信息日益增多,包含除圖片特征外的指紋、虹膜等多種特征。房建武[42]認(rèn)為,環(huán)境感知是計(jì)算機(jī)視覺發(fā)展的基礎(chǔ),他預(yù)測(cè)多傳感信息魯棒融合方向是環(huán)境感知未來的主要手段。由此可得出,計(jì)算機(jī)視覺的上游感知層技術(shù)機(jī)會(huì)主要聚焦于“多傳感信息融合”方向。

    3.3.2 中游計(jì)算層技術(shù)機(jī)會(huì)

    位于計(jì)算機(jī)視覺產(chǎn)業(yè)鏈中游的計(jì)算層包含了芯片、深度學(xué)習(xí)框架和計(jì)算平臺(tái)等相關(guān)技術(shù),主要涉及圖片傳輸、處理和識(shí)別等任務(wù)?;诖?,抽取相關(guān)知識(shí)元素及其鏈路預(yù)測(cè)結(jié)果,如圖10 所示??梢钥闯?,中游計(jì)算層是以人工智能算法為核心,主要負(fù)責(zé)圖像處理以及上下游數(shù)據(jù)的存儲(chǔ)與傳輸任務(wù)。具體的技術(shù)機(jī)會(huì)可以總結(jié)為以下3 個(gè)方面。

    圖10 產(chǎn)業(yè)鏈中游知識(shí)元素及鏈路關(guān)系

    (1)算法模型優(yōu)化。神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)和機(jī)器學(xué)習(xí)等方法被廣泛認(rèn)為是計(jì)算機(jī)視覺技術(shù)突破的重要推動(dòng)力。由圖10 可知,“deep learning”“machine learning”和“neural network”等詞語占據(jù)較為核心的位置,這預(yù)示著人工智能類算法在計(jì)算機(jī)視覺上的應(yīng)用性能還可能進(jìn)一步突破。盧湖川在RACV (Recent Advances on Computer Vision) 2019會(huì)議上也提到這一點(diǎn),其認(rèn)為雖然深度學(xué)習(xí)模型實(shí)現(xiàn)了特征抽取的自動(dòng)化,但是壓縮、裁剪和優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以更好地抽取特征、準(zhǔn)確識(shí)別是未來技術(shù)發(fā)展的重點(diǎn)之一[43]。

    (2)高質(zhì)量傳輸。位于圖10 邊緣位置的知識(shí)元素多涉及圖片傳輸任務(wù),如“wireless transmission”“network communication” 和“wireless communication”等。這些知識(shí)元素與“mobile communication”“recognition module”的組合關(guān)系表明圖片傳輸與處理技術(shù)正逐漸集成于移動(dòng)硬件設(shè)備。由此可知,隨著5G 技術(shù)的崛起,圖片等音視頻信息在智能設(shè)備端的高質(zhì)量傳輸可以作為未來發(fā)展重點(diǎn)之一。

    (3)云平臺(tái)架構(gòu)。圖10 中還有部分知識(shí)元素與大數(shù)據(jù)計(jì)算能力相關(guān)?!癰ig data”“cloud computing”和“cloud server”與“power supply”的組合關(guān)系預(yù)示著計(jì)算機(jī)視覺技術(shù)走向產(chǎn)業(yè)化需要強(qiáng)大的算力支撐,未來借助云端服務(wù)進(jìn)行高效能的推理和計(jì)算是各計(jì)算機(jī)視覺企業(yè)的必爭(zhēng)之地。這也與《報(bào)告》不謀而合,其中指出計(jì)算機(jī)視覺核心技術(shù)中包含計(jì)算平臺(tái)技術(shù),即用于企業(yè)生產(chǎn)的智能云平臺(tái)架構(gòu)技術(shù)。

    3.3.3 下游應(yīng)用層技術(shù)機(jī)會(huì)

    下游應(yīng)用層是計(jì)算機(jī)視覺技術(shù)產(chǎn)生實(shí)際價(jià)值的關(guān)鍵一環(huán)。根據(jù)3.1 節(jié)技術(shù)演化相關(guān)結(jié)論,計(jì)算機(jī)視覺技術(shù)正步入技術(shù)成熟期的前期,該層應(yīng)是未來該領(lǐng)域技術(shù)的發(fā)展重點(diǎn)之一。具體如圖11 所示,基于鏈路預(yù)測(cè)排序抽取相關(guān)知識(shí)元素及其鏈路關(guān)系,發(fā)現(xiàn)該網(wǎng)絡(luò)中包含的應(yīng)用場(chǎng)景較為多元化,表明計(jì)算機(jī)視覺技術(shù)已經(jīng)成功落地于多種下游任務(wù),初步印證了技術(shù)演化結(jié)論。主要的5 個(gè)技術(shù)方向闡述如下。

    圖11 產(chǎn)業(yè)鏈下游知識(shí)元素及鏈路關(guān)系

    (1)生物特征識(shí)別。由圖11 中的多個(gè)核心節(jié)點(diǎn)可知,計(jì)算機(jī)視覺由最初的人臉識(shí)別進(jìn)一步擴(kuò)展到了“motion recognition”“gesture recognition” 和“expression recognition”等多個(gè)細(xì)粒度的人體特征識(shí)別任務(wù)上,并且與先進(jìn)的算法模型相組合形成該應(yīng)用場(chǎng)景未來可能的技術(shù)突破點(diǎn)?!秷?bào)告》中印證了這一點(diǎn),人臉識(shí)別、姿態(tài)估計(jì)、行為識(shí)別、目標(biāo)追蹤等是熱門的視覺算法技術(shù)。

    (2)多模態(tài)視頻理解。圖11 中部分節(jié)點(diǎn)聚焦“video”一詞,表明基于視頻和音頻的識(shí)別任務(wù)可能是未來計(jì)算機(jī)視覺技術(shù)的主要應(yīng)用任務(wù),其中還涉及“image understanding”“sign language”等具體的視頻理解任務(wù)。中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)視覺專委會(huì)專家在RACV 2019 會(huì)議上的討論證實(shí)了這一點(diǎn),他們認(rèn)為視頻中的多模態(tài)識(shí)別和理解任務(wù)是計(jì)算機(jī)視覺未來主要攻克的難關(guān)[43]。

    (3) 3D 交互感知。“virtual reality”和“augment reality”在下游網(wǎng)絡(luò)中也占據(jù)較核心的位置,與算法模型“neural network”和硬件設(shè)備“electronical device”等多個(gè)知識(shí)元素產(chǎn)生聯(lián)動(dòng)。這表明增強(qiáng)現(xiàn)實(shí)與神經(jīng)網(wǎng)絡(luò)的有機(jī)結(jié)合以及虛擬現(xiàn)實(shí)與電子設(shè)備的集成開發(fā)程度隨著AIGC(artificial intelligence generated content)技術(shù)突破將會(huì)出現(xiàn)進(jìn)一步加深。中國(guó)信息通信研究院等發(fā)布的《虛擬(增強(qiáng))現(xiàn)實(shí)白皮書》中同樣提及感知交互是計(jì)算機(jī)視覺技術(shù)的未來主要方向之一[44]。

    (4) 智慧安防。圖11 中還有部分節(jié)點(diǎn)涉及“alarm”一詞,表明計(jì)算機(jī)視覺技術(shù)繼續(xù)下沉可應(yīng)用于安保層面,如“fingerprint identification”應(yīng)用于“alarm device”等?!秷?bào)告》中指出,“智慧城市”是計(jì)算機(jī)視覺技術(shù)面向的主要行業(yè)需求,其中就包含“智慧安防”方向。

    (5) 自動(dòng)駕駛。“vehicle information”“vehicle control”與“face recognition”的組合關(guān)系是典型的計(jì)算機(jī)視覺與智慧駕駛交叉產(chǎn)物,預(yù)示著汽車控制技術(shù)與人臉識(shí)別、動(dòng)作識(shí)別技術(shù)是自動(dòng)駕駛技術(shù)的未來研發(fā)重點(diǎn)。中國(guó)信息通信研究院發(fā)布的《全球自動(dòng)駕駛戰(zhàn)略與政策觀察——自動(dòng)駕駛開啟商業(yè)化元年》中同樣指出,2021 是自動(dòng)駕駛的元年,未來計(jì)算機(jī)視覺技術(shù)在自動(dòng)駕駛領(lǐng)域?qū)⒊掷m(xù)輸出動(dòng)能[45]。

    4 結(jié) 語

    4.1 結(jié)論與討論

    本文以專利文本作為研究數(shù)據(jù),提出了基于專利文本挖掘的細(xì)粒度技術(shù)機(jī)會(huì)分析框架,主要完成了知識(shí)網(wǎng)絡(luò)構(gòu)建及演化分析、知識(shí)元素鏈路預(yù)測(cè)以及技術(shù)機(jī)會(huì)評(píng)估與篩選3 個(gè)研究子任務(wù)。具體研究結(jié)論如下。

    第一,集成多種關(guān)鍵抽取算法的知識(shí)網(wǎng)絡(luò)構(gòu)建方法,實(shí)現(xiàn)了自動(dòng)化捕獲詞語的多維度特征,有效減少了專家知識(shí)介入,能夠細(xì)粒度展示領(lǐng)域知識(shí)全貌,為機(jī)會(huì)挖掘提供數(shù)據(jù)基礎(chǔ)。第二,基于全局網(wǎng)絡(luò)指標(biāo)的知識(shí)網(wǎng)絡(luò)演化分析,能夠從宏觀層面把握技術(shù)發(fā)展態(tài)勢(shì),明確技術(shù)生命周期,指導(dǎo)技術(shù)機(jī)會(huì)分析。第三,將圖自編碼器模型與BERT 模型成功應(yīng)用于技術(shù)機(jī)會(huì)挖掘中,顯著提升了知識(shí)元素鏈路預(yù)測(cè)的準(zhǔn)確性和可解釋性。不僅論證了圖神經(jīng)網(wǎng)絡(luò)方法的圖結(jié)構(gòu)特征抽取能力和特征融合能力能夠有效突破傳統(tǒng)鏈路預(yù)測(cè)指標(biāo)的精度瓶頸,還驗(yàn)證了技術(shù)機(jī)會(huì)的產(chǎn)生不僅依托技術(shù)知識(shí)網(wǎng)絡(luò)結(jié)構(gòu),還受到知識(shí)元素語義信息的影響。第四,結(jié)合鏈路預(yù)測(cè)結(jié)果與多源技術(shù)發(fā)展報(bào)告,根據(jù)產(chǎn)業(yè)鏈結(jié)構(gòu)將計(jì)算機(jī)視覺技術(shù)機(jī)會(huì)進(jìn)一步識(shí)別歸納為9 個(gè)主要的技術(shù)方向,如圖12 所示。其中,下游技術(shù)應(yīng)用機(jī)會(huì)是未來計(jì)算機(jī)視覺領(lǐng)域技術(shù)研發(fā)的重心,與演化分析中計(jì)算機(jī)視覺技術(shù)步入成熟初期的結(jié)論相互呼應(yīng)。

    圖12 計(jì)算機(jī)視覺各產(chǎn)生鏈技術(shù)機(jī)會(huì)分布

    4.2 貢獻(xiàn)與展望

    從理論層面來看,本文提出的分析框架基于微觀視角拓寬了技術(shù)機(jī)會(huì)分析的研究思路。一方面,從核心詞匯出發(fā)自動(dòng)化挖掘領(lǐng)域知識(shí)并識(shí)別技術(shù)演化路徑,強(qiáng)調(diào)技術(shù)機(jī)會(huì)分析應(yīng)遵循技術(shù)發(fā)展趨勢(shì),并向精細(xì)化、語義化方向發(fā)展;另一方面,文本挖掘與圖神經(jīng)網(wǎng)絡(luò)方法的有機(jī)結(jié)合,有效解決了過往研究對(duì)專家知識(shí)的過度依賴以及技術(shù)機(jī)會(huì)挖掘準(zhǔn)確率低下等問題。從實(shí)踐層面來看,技術(shù)管理部門有必要在深入理解技術(shù)內(nèi)容并結(jié)合技術(shù)趨勢(shì)前提下,及時(shí)發(fā)現(xiàn)潛在的細(xì)粒度技術(shù)機(jī)會(huì),組織力量精準(zhǔn)研發(fā),實(shí)現(xiàn)技術(shù)自主創(chuàng)新。另外,本文還為計(jì)算機(jī)視覺技術(shù)相關(guān)的科研機(jī)構(gòu)、企業(yè)及個(gè)人提供可靠的技術(shù)機(jī)會(huì)情報(bào),有助于利益相關(guān)主體實(shí)現(xiàn)合理的資源布局和管理決策。

    本文尚存在些許不足之處,需要進(jìn)一步完善與細(xì)化。首先,在組織技術(shù)知識(shí)網(wǎng)絡(luò)方面,本文只考慮了單一的共現(xiàn)關(guān)系作為網(wǎng)絡(luò)鏈路,在一定程度上忽略了知識(shí)元素之間的語法與語用關(guān)系。未來需要挖掘多層級(jí)的知識(shí)網(wǎng)絡(luò)鏈路關(guān)系,將技術(shù)機(jī)會(huì)分析維度進(jìn)一步拆分細(xì)化。其次,在知識(shí)元素鏈路預(yù)測(cè)方面,節(jié)點(diǎn)語義特征是直接依賴于BERT 預(yù)訓(xùn)練向量模型自動(dòng)生成,不具備領(lǐng)域?qū)V感?。未來可以利用語言模型基于領(lǐng)域文本自行訓(xùn)練知識(shí)元素詞向量,以表征其在特定語境下的深層次內(nèi)涵,這有可能進(jìn)一步提升鏈路預(yù)測(cè)性能和技術(shù)機(jī)會(huì)分析準(zhǔn)確性。

    猜你喜歡
    細(xì)粒度鏈路機(jī)會(huì)
    家紡“全鏈路”升級(jí)
    融合判別性與細(xì)粒度特征的抗遮擋紅外目標(biāo)跟蹤算法
    天空地一體化網(wǎng)絡(luò)多中繼鏈路自適應(yīng)調(diào)度技術(shù)
    細(xì)粒度的流計(jì)算執(zhí)行效率優(yōu)化方法
    給進(jìn)步一個(gè)機(jī)會(huì)
    海峽姐妹(2020年3期)2020-04-21 09:27:40
    最后的機(jī)會(huì)
    NBA特刊(2018年17期)2018-11-24 02:45:44
    給彼此多一次相愛的機(jī)會(huì)
    海峽姐妹(2018年6期)2018-06-26 07:27:20
    沒機(jī)會(huì)下手
    基于雙線性卷積網(wǎng)絡(luò)的細(xì)粒度圖像定位
    支持細(xì)粒度權(quán)限控制且可搜索的PHR云服務(wù)系統(tǒng)
    久久久久久久大尺度免费视频| 成人亚洲精品一区在线观看| 国产精品.久久久| 男女啪啪激烈高潮av片| 一边亲一边摸免费视频| 欧美 亚洲 国产 日韩一| 内地一区二区视频在线| 夫妻性生交免费视频一级片| 欧美日韩精品成人综合77777| 国产亚洲午夜精品一区二区久久| 黄色视频在线播放观看不卡| 一个人免费看片子| 国产有黄有色有爽视频| a级毛片在线看网站| 午夜福利在线观看免费完整高清在| 久久久久久人妻| 亚洲精品乱码久久久v下载方式| 伊人久久国产一区二区| 秋霞伦理黄片| 另类亚洲欧美激情| 亚洲成色77777| 男女免费视频国产| 婷婷色综合大香蕉| 国产片内射在线| 好男人视频免费观看在线| 51国产日韩欧美| 蜜桃国产av成人99| 国产亚洲精品第一综合不卡 | 男女高潮啪啪啪动态图| 在线观看三级黄色| 大码成人一级视频| 国产欧美另类精品又又久久亚洲欧美| 亚洲综合色惰| 我的女老师完整版在线观看| 亚洲精品乱久久久久久| 91久久精品国产一区二区三区| 男女边吃奶边做爰视频| 99九九线精品视频在线观看视频| 9色porny在线观看| 中文字幕av电影在线播放| 亚洲欧美清纯卡通| 天堂俺去俺来也www色官网| 精品人妻一区二区三区麻豆| 欧美日韩一区二区视频在线观看视频在线| 国产成人免费观看mmmm| 色婷婷久久久亚洲欧美| 久久久欧美国产精品| 日韩人妻高清精品专区| 欧美另类一区| 韩国av在线不卡| 18+在线观看网站| 男女啪啪激烈高潮av片| 视频中文字幕在线观看| 久久精品国产a三级三级三级| 国产精品一区二区在线观看99| 亚洲欧洲国产日韩| 能在线免费看毛片的网站| 国产乱人偷精品视频| 久久女婷五月综合色啪小说| 中文精品一卡2卡3卡4更新| 亚洲国产最新在线播放| 老女人水多毛片| 你懂的网址亚洲精品在线观看| 亚洲av男天堂| 丝袜脚勾引网站| 久久久久久久国产电影| 久久99热6这里只有精品| 日本色播在线视频| 亚洲激情五月婷婷啪啪| 亚洲一区二区三区欧美精品| 亚洲精品久久久久久婷婷小说| 亚洲精品日韩av片在线观看| 欧美bdsm另类| 亚洲综合色网址| 午夜久久久在线观看| 久久综合国产亚洲精品| 高清不卡的av网站| 精品一区二区三区视频在线| 久久99热6这里只有精品| 亚洲精品成人av观看孕妇| 99久久精品一区二区三区| 男女啪啪激烈高潮av片| av在线播放精品| 国产日韩欧美视频二区| 国产精品麻豆人妻色哟哟久久| 自线自在国产av| 亚洲av福利一区| 又粗又硬又长又爽又黄的视频| 国产国拍精品亚洲av在线观看| 少妇猛男粗大的猛烈进出视频| 韩国av在线不卡| 18+在线观看网站| 国产免费一级a男人的天堂| 亚洲欧美精品自产自拍| 亚洲一区二区三区欧美精品| 国产一区二区三区av在线| 菩萨蛮人人尽说江南好唐韦庄| 国国产精品蜜臀av免费| 精品国产国语对白av| 亚洲四区av| 极品人妻少妇av视频| av又黄又爽大尺度在线免费看| 黄色怎么调成土黄色| 下体分泌物呈黄色| 中文字幕亚洲精品专区| 国产乱人偷精品视频| 免费看光身美女| 十八禁网站网址无遮挡| 国内精品宾馆在线| 国产亚洲精品久久久com| 最后的刺客免费高清国语| 亚洲精品第二区| 久热久热在线精品观看| 午夜影院在线不卡| 日本黄色日本黄色录像| 高清午夜精品一区二区三区| 大香蕉久久成人网| 一本色道久久久久久精品综合| 欧美另类一区| 精品国产国语对白av| 三级国产精品片| 蜜桃在线观看..| 亚洲熟女精品中文字幕| 中文字幕精品免费在线观看视频 | 国产精品99久久久久久久久| 国产国语露脸激情在线看| 一二三四中文在线观看免费高清| 亚洲欧美日韩另类电影网站| 国产男人的电影天堂91| 日本vs欧美在线观看视频| 欧美少妇被猛烈插入视频| 午夜免费鲁丝| 国精品久久久久久国模美| 国产老妇伦熟女老妇高清| 999精品在线视频| 午夜影院在线不卡| 久久精品国产亚洲av涩爱| 男女啪啪激烈高潮av片| 久久久久精品久久久久真实原创| 桃花免费在线播放| 日日爽夜夜爽网站| 国产精品一区www在线观看| 精品99又大又爽又粗少妇毛片| 久久av网站| av天堂久久9| 男人爽女人下面视频在线观看| 两个人免费观看高清视频| 午夜av观看不卡| 国产成人免费无遮挡视频| 精品亚洲成国产av| 只有这里有精品99| 热99国产精品久久久久久7| 国产午夜精品一二区理论片| 欧美bdsm另类| 国产精品久久久久久精品电影小说| 熟女av电影| 国产极品粉嫩免费观看在线 | 国产淫语在线视频| 免费人妻精品一区二区三区视频| 最后的刺客免费高清国语| 99久久精品一区二区三区| av免费观看日本| 一本久久精品| 国产精品国产av在线观看| 日韩中字成人| 国产精品99久久99久久久不卡 | av国产精品久久久久影院| av线在线观看网站| 交换朋友夫妻互换小说| 美女福利国产在线| 久久婷婷青草| 国产一区二区三区av在线| 丰满少妇做爰视频| 麻豆成人av视频| 日本vs欧美在线观看视频| 国产精品一区www在线观看| 不卡视频在线观看欧美| 亚洲内射少妇av| 妹子高潮喷水视频| 亚洲av日韩在线播放| 免费大片18禁| 在线观看一区二区三区激情| 久久99蜜桃精品久久| av国产久精品久网站免费入址| 亚洲三级黄色毛片| 精品久久久久久久久亚洲| 亚洲欧美清纯卡通| 岛国毛片在线播放| 2018国产大陆天天弄谢| 久久久久久人妻| 欧美精品一区二区大全| 好男人视频免费观看在线| 两个人免费观看高清视频| 99热国产这里只有精品6| 精品一区二区三区视频在线| 国产老妇伦熟女老妇高清| 亚洲无线观看免费| 久久人人爽人人爽人人片va| 国产无遮挡羞羞视频在线观看| 国产熟女欧美一区二区| 国产高清有码在线观看视频| 热99久久久久精品小说推荐| 亚洲一级一片aⅴ在线观看| 国产精品国产三级国产专区5o| 久久国产精品大桥未久av| 免费av中文字幕在线| 自线自在国产av| 男女啪啪激烈高潮av片| 亚洲精品国产av成人精品| 男人添女人高潮全过程视频| 国产 一区精品| 欧美 亚洲 国产 日韩一| 欧美激情国产日韩精品一区| √禁漫天堂资源中文www| 亚洲国产成人一精品久久久| 免费高清在线观看视频在线观看| 美女国产高潮福利片在线看| 国产白丝娇喘喷水9色精品| 国产精品三级大全| tube8黄色片| 街头女战士在线观看网站| 9色porny在线观看| 欧美一级a爱片免费观看看| 制服诱惑二区| 亚洲精品第二区| 精品国产一区二区三区久久久樱花| 国产视频首页在线观看| 午夜影院在线不卡| 色婷婷av一区二区三区视频| 18禁动态无遮挡网站| 伊人亚洲综合成人网| 91精品伊人久久大香线蕉| 久久久精品免费免费高清| 亚洲美女视频黄频| 蜜桃国产av成人99| 欧美亚洲 丝袜 人妻 在线| 国模一区二区三区四区视频| 国产成人一区二区在线| 日本猛色少妇xxxxx猛交久久| 欧美成人午夜免费资源| 免费人妻精品一区二区三区视频| 在现免费观看毛片| 精品国产一区二区三区久久久樱花| 9色porny在线观看| 亚洲丝袜综合中文字幕| 爱豆传媒免费全集在线观看| 18禁观看日本| 免费高清在线观看视频在线观看| 黄色视频在线播放观看不卡| 久久久久久久久久人人人人人人| 国精品久久久久久国模美| 精品人妻在线不人妻| 美女国产视频在线观看| 国产精品久久久久久久久免| 久久99精品国语久久久| 日韩 亚洲 欧美在线| 亚洲成色77777| 丰满迷人的少妇在线观看| 午夜影院在线不卡| 色吧在线观看| 高清毛片免费看| 国产黄频视频在线观看| 久久久久国产精品人妻一区二区| 纵有疾风起免费观看全集完整版| 最近手机中文字幕大全| 国产欧美亚洲国产| 国产综合精华液| 一级毛片aaaaaa免费看小| 欧美日韩精品成人综合77777| 狂野欧美激情性bbbbbb| 成人毛片60女人毛片免费| 美女内射精品一级片tv| 欧美激情极品国产一区二区三区 | 国产精品久久久久久精品电影小说| 波野结衣二区三区在线| 久久 成人 亚洲| 国产又色又爽无遮挡免| 男女边吃奶边做爰视频| 国产淫语在线视频| 中文精品一卡2卡3卡4更新| 久久久久久久久久久丰满| 国产精品一国产av| 国产精品一二三区在线看| 久久99一区二区三区| 美女内射精品一级片tv| 成人亚洲精品一区在线观看| 亚洲,一卡二卡三卡| 亚洲精华国产精华液的使用体验| 夫妻午夜视频| 91成人精品电影| 欧美bdsm另类| 纯流量卡能插随身wifi吗| 大香蕉久久成人网| 国产乱来视频区| 天天操日日干夜夜撸| 日韩欧美精品免费久久| 免费大片黄手机在线观看| 亚洲欧洲精品一区二区精品久久久 | 亚洲无线观看免费| 久久久久人妻精品一区果冻| 国产午夜精品一二区理论片| 激情五月婷婷亚洲| 两个人免费观看高清视频| 国产一区亚洲一区在线观看| av在线老鸭窝| 国产一区亚洲一区在线观看| tube8黄色片| 菩萨蛮人人尽说江南好唐韦庄| 如何舔出高潮| 69精品国产乱码久久久| 日本黄色片子视频| 欧美精品一区二区免费开放| 欧美3d第一页| 亚洲天堂av无毛| 亚洲精品成人av观看孕妇| 交换朋友夫妻互换小说| 久久久久精品性色| 中文天堂在线官网| 水蜜桃什么品种好| 日韩av在线免费看完整版不卡| 老司机亚洲免费影院| 国产有黄有色有爽视频| 一本大道久久a久久精品| 国产男女超爽视频在线观看| 久久午夜福利片| 成人免费观看视频高清| 91精品伊人久久大香线蕉| 亚洲国产日韩一区二区| 免费观看无遮挡的男女| 大香蕉久久网| 久久韩国三级中文字幕| 成人亚洲精品一区在线观看| 一区二区三区免费毛片| 黑丝袜美女国产一区| 91精品伊人久久大香线蕉| 久久久久国产网址| 免费大片18禁| 欧美97在线视频| 最新中文字幕久久久久| 国产精品无大码| 久久ye,这里只有精品| 久久久久人妻精品一区果冻| 欧美精品亚洲一区二区| 九草在线视频观看| 成人影院久久| av在线app专区| 69精品国产乱码久久久| 熟女人妻精品中文字幕| 亚洲成色77777| 日本av手机在线免费观看| 中文字幕人妻熟人妻熟丝袜美| 欧美日韩精品成人综合77777| 国产日韩欧美视频二区| 欧美xxⅹ黑人| 日韩成人av中文字幕在线观看| 欧美成人午夜免费资源| 一级,二级,三级黄色视频| 最后的刺客免费高清国语| 欧美日本中文国产一区发布| a级毛片免费高清观看在线播放| 制服诱惑二区| 精品卡一卡二卡四卡免费| 欧美变态另类bdsm刘玥| 欧美日韩精品成人综合77777| 中文字幕精品免费在线观看视频 | 国产亚洲精品第一综合不卡 | 日本色播在线视频| 精品一区二区三区视频在线| 日本黄色日本黄色录像| 有码 亚洲区| 在线亚洲精品国产二区图片欧美 | 亚洲精品日本国产第一区| 欧美日本中文国产一区发布| 国产国拍精品亚洲av在线观看| 晚上一个人看的免费电影| 国产成人精品久久久久久| 日韩成人av中文字幕在线观看| 亚洲欧美色中文字幕在线| 成人国产麻豆网| 欧美成人午夜免费资源| 色吧在线观看| 免费人成在线观看视频色| 国产精品免费大片| 少妇的逼水好多| 日韩强制内射视频| 在线播放无遮挡| 黄片播放在线免费| 女人久久www免费人成看片| 黄色毛片三级朝国网站| 国产在线免费精品| av国产久精品久网站免费入址| 99精国产麻豆久久婷婷| 春色校园在线视频观看| 91久久精品电影网| 三级国产精品片| 国产午夜精品久久久久久一区二区三区| 久久久精品区二区三区| 亚洲色图 男人天堂 中文字幕 | av线在线观看网站| 爱豆传媒免费全集在线观看| 久久这里有精品视频免费| 91久久精品国产一区二区三区| a级片在线免费高清观看视频| 青春草亚洲视频在线观看| 国产精品99久久久久久久久| 91精品伊人久久大香线蕉| 久久国产精品大桥未久av| videossex国产| 在线天堂最新版资源| 日韩亚洲欧美综合| 汤姆久久久久久久影院中文字幕| 亚洲精品第二区| 免费高清在线观看视频在线观看| 女的被弄到高潮叫床怎么办| 菩萨蛮人人尽说江南好唐韦庄| 在线观看人妻少妇| 男女边吃奶边做爰视频| 亚洲,欧美,日韩| 黄片播放在线免费| 人人妻人人澡人人爽人人夜夜| 久久午夜福利片| 免费观看av网站的网址| 简卡轻食公司| 国产午夜精品久久久久久一区二区三区| 蜜桃国产av成人99| 精品一区二区免费观看| 夜夜爽夜夜爽视频| 成人18禁高潮啪啪吃奶动态图 | 黑人猛操日本美女一级片| 精品一区二区三卡| 看非洲黑人一级黄片| 七月丁香在线播放| 国产成人a∨麻豆精品| 久久av网站| 97超视频在线观看视频| 美女视频免费永久观看网站| 交换朋友夫妻互换小说| 国产精品久久久久久av不卡| 亚洲无线观看免费| 男女边吃奶边做爰视频| tube8黄色片| 美女国产视频在线观看| 熟妇人妻不卡中文字幕| 亚洲色图 男人天堂 中文字幕 | 亚洲少妇的诱惑av| 欧美亚洲 丝袜 人妻 在线| 曰老女人黄片| www.av在线官网国产| 色网站视频免费| 国产一区亚洲一区在线观看| 亚洲不卡免费看| 免费观看a级毛片全部| 久久人人爽人人片av| 成人毛片a级毛片在线播放| 午夜福利影视在线免费观看| 岛国毛片在线播放| 男女边吃奶边做爰视频| 黄色欧美视频在线观看| 视频区图区小说| 久久精品国产亚洲网站| 美女脱内裤让男人舔精品视频| 制服人妻中文乱码| 一级毛片aaaaaa免费看小| 一本—道久久a久久精品蜜桃钙片| 老熟女久久久| 免费播放大片免费观看视频在线观看| a级毛色黄片| 欧美日韩在线观看h| 国产深夜福利视频在线观看| 一本色道久久久久久精品综合| 国产av一区二区精品久久| 天美传媒精品一区二区| 大陆偷拍与自拍| 2021少妇久久久久久久久久久| 精品人妻偷拍中文字幕| 成人二区视频| 十分钟在线观看高清视频www| 黄色欧美视频在线观看| 天堂8中文在线网| 国产高清不卡午夜福利| 国产成人aa在线观看| 婷婷色综合大香蕉| 日本欧美视频一区| 人人澡人人妻人| av有码第一页| 欧美日韩av久久| 亚洲精品日韩av片在线观看| 亚洲国产毛片av蜜桃av| 国产精品女同一区二区软件| 人体艺术视频欧美日本| 午夜激情福利司机影院| 国产极品粉嫩免费观看在线 | 日韩人妻高清精品专区| 午夜精品国产一区二区电影| 午夜激情久久久久久久| 伊人久久精品亚洲午夜| 国产精品熟女久久久久浪| 一区二区三区精品91| 久久精品国产a三级三级三级| 久久久久久久久大av| 国产在线一区二区三区精| 亚洲怡红院男人天堂| 97超视频在线观看视频| 黑人巨大精品欧美一区二区蜜桃 | 天天躁夜夜躁狠狠久久av| 午夜老司机福利剧场| 人人妻人人澡人人爽人人夜夜| 久久 成人 亚洲| 性高湖久久久久久久久免费观看| 91久久精品国产一区二区成人| 伦理电影大哥的女人| 91久久精品国产一区二区成人| av有码第一页| 嫩草影院入口| 亚洲成色77777| 能在线免费看毛片的网站| 在线天堂最新版资源| 2021少妇久久久久久久久久久| 制服丝袜香蕉在线| 国产老妇伦熟女老妇高清| 我的老师免费观看完整版| a 毛片基地| 男女边摸边吃奶| 777米奇影视久久| 国产日韩欧美亚洲二区| 色吧在线观看| 国产又色又爽无遮挡免| 成人无遮挡网站| 汤姆久久久久久久影院中文字幕| 十八禁高潮呻吟视频| 黑人猛操日本美女一级片| 国产免费现黄频在线看| 狂野欧美白嫩少妇大欣赏| 少妇被粗大猛烈的视频| 午夜免费观看性视频| 中文字幕av电影在线播放| 人成视频在线观看免费观看| 99热这里只有精品一区| 国产精品免费大片| 久久精品人人爽人人爽视色| 欧美xxxx性猛交bbbb| 一区二区av电影网| 热99久久久久精品小说推荐| 嫩草影院入口| 国产精品国产三级专区第一集| 中文字幕人妻熟人妻熟丝袜美| 成人18禁高潮啪啪吃奶动态图 | 啦啦啦视频在线资源免费观看| 中文天堂在线官网| 黑人巨大精品欧美一区二区蜜桃 | 天堂俺去俺来也www色官网| 国产精品国产三级国产av玫瑰| 人妻一区二区av| 日韩免费高清中文字幕av| 亚洲美女黄色视频免费看| av在线老鸭窝| 亚洲色图综合在线观看| 天天躁夜夜躁狠狠久久av| 国产在线一区二区三区精| av一本久久久久| 插逼视频在线观看| 热re99久久精品国产66热6| 精品午夜福利在线看| 久久久久国产网址| 狂野欧美激情性bbbbbb| 亚洲av男天堂| 精品少妇黑人巨大在线播放| 国产片特级美女逼逼视频| 少妇人妻 视频| 97超碰精品成人国产| 亚洲国产最新在线播放| 亚洲精品,欧美精品| 亚洲av成人精品一区久久| 亚洲,一卡二卡三卡| 男女啪啪激烈高潮av片| 在线观看人妻少妇| 最近中文字幕高清免费大全6| av网站免费在线观看视频| 亚洲图色成人| 99九九线精品视频在线观看视频| 日本黄大片高清| 蜜桃久久精品国产亚洲av| 国产精品一区二区在线不卡| 天堂中文最新版在线下载| 中文字幕亚洲精品专区| 国产视频首页在线观看| 日本-黄色视频高清免费观看| 晚上一个人看的免费电影| 久久久精品94久久精品| 欧美日韩一区二区视频在线观看视频在线| 飞空精品影院首页| 免费久久久久久久精品成人欧美视频 | 久久国产精品男人的天堂亚洲 | 啦啦啦啦在线视频资源| 又粗又硬又长又爽又黄的视频| 人人妻人人澡人人爽人人夜夜| 国产亚洲一区二区精品| 黑人高潮一二区| 看免费成人av毛片| 最近的中文字幕免费完整| 97超视频在线观看视频| av有码第一页| 国产亚洲一区二区精品| 国产男女内射视频| 免费av不卡在线播放| 成人二区视频| 欧美少妇被猛烈插入视频| 全区人妻精品视频| 久久久久久久国产电影| 99九九线精品视频在线观看视频| 边亲边吃奶的免费视频| 精品亚洲成a人片在线观看| 一区二区三区四区激情视频| 久久久久久久久久久久大奶| 国产亚洲精品第一综合不卡 |