• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于多智能體協(xié)同的多源信息搜索方法

    2015-01-06 08:21:17褚衍杰徐正國
    計算機工程 2015年2期
    關(guān)鍵詞:馬爾科夫數(shù)據(jù)源概率

    褚衍杰,徐正國

    (信號盲處理國家重點實驗室,成都610041)

    基于多智能體協(xié)同的多源信息搜索方法

    褚衍杰,徐正國

    (信號盲處理國家重點實驗室,成都610041)

    針對實時、多源、海量數(shù)據(jù)條件下用戶所需信息的獲取問題,提出一種面向?qū)ο蟮?、基于多智能體協(xié)同的多源信息搜索模型,以對象為中心,在反饋循環(huán)搜索的過程中,完善對象描述模型并實現(xiàn)多源數(shù)據(jù)中關(guān)聯(lián)對象信息的獲取,提高多源信息獲取的全面性和準確性。設(shè)計基于Q學(xué)習(xí)的協(xié)同控制算法,針對馬爾科夫?qū)ο笈c非馬爾科夫?qū)ο蠼o出相應(yīng)的決策方法。實驗結(jié)果表明,該協(xié)同控制算法比概率轉(zhuǎn)移矩陣及概率統(tǒng)計算法具有更好的信息獲取能力。

    多智能體;信息搜索;多源信息;面向?qū)ο?Q學(xué)習(xí);協(xié)同機制

    1 概述

    隨著網(wǎng)絡(luò)技術(shù)的飛速發(fā)展,尤其是移動互聯(lián)網(wǎng)日益深入人們的日常生活,各種數(shù)字化信息呈爆炸式增長,據(jù)IDC(International Data Corporation)公司統(tǒng)計, 2011年全球被創(chuàng)建和被復(fù)制的數(shù)據(jù)總量為1.8 ZB (1021),其中75%來自個人(圖像、視頻、音樂等)[1];大數(shù)據(jù)、云計算等技術(shù)提供了海量數(shù)據(jù)處理的基本技術(shù),但是如何從繁雜多樣的多源數(shù)據(jù)中有效獲取用戶需要的信息仍是一個有待深入研究的課題。

    多智能體技術(shù)是一項利用多個智能體組成有機整體,并相互協(xié)同、服務(wù)以共同完成一個任務(wù)的人工智能技術(shù),能夠有效地實時解決動態(tài)復(fù)雜問題。文獻[2]提出一種利用移動智能體在多個網(wǎng)站搜索特定信息的系統(tǒng)及相應(yīng)算法,但未解決多種數(shù)據(jù)類型(如文本、圖片、視頻等)的協(xié)同搜索問題。文獻[3]構(gòu)建一個基于多智能體系統(tǒng)的知識管理模型;文獻[4]建立基于多智能體系統(tǒng)的多級庫存智能管理系統(tǒng);文獻[5]設(shè)計了以智能車為載體的區(qū)域監(jiān)控系統(tǒng);文獻[6]利用多智能體建模與仿真的方法分析了大眾生產(chǎn)系統(tǒng)在不同情況下的穩(wěn)定性;文獻[7]將多智能體系統(tǒng)應(yīng)用到城市管理領(lǐng)域,設(shè)計城市自動應(yīng)急聯(lián)動系統(tǒng);文獻[8]提出利用分布值函數(shù)的多智能體協(xié)同算法;文獻[9]提出利用多智能體交通濾波效應(yīng)的分布式協(xié)同控制算法;文獻[10]分析了復(fù)雜網(wǎng)絡(luò)特性對大規(guī)模多智能體協(xié)同算法的影響。本文借鑒上述模型、方法,將多智能體系統(tǒng)應(yīng)用到多源信息的協(xié)同搜索問題中,提出多智能體協(xié)同模型及協(xié)同算法。

    2 基于多智能體協(xié)同的多源信息搜索模型

    用戶關(guān)心的信息一般可以概括為2種:面向?qū)ο蟮男畔⒑兔嫦蜻^程的信息。面向?qū)ο蟮男畔⑹侵赣脩絷P(guān)心某個對象,例如人、組織、物品、文章等的相關(guān)信息;面向過程的信息是指用戶關(guān)心某個事件的發(fā)展進程。由于對事件過程描述的復(fù)雜性,在信息搜索的過程中,一般也以事件過程中相關(guān)對象的特征為搜索要素,因此可以用一種對象描述模型來表示信息模型。根據(jù)用戶關(guān)心內(nèi)容的不同,對象模型具有不同的形式,且可以在信息搜索過程中進行更新。一般而言,對象的基本模型包含以下因素:[對象名,對象身份特征,對象行為特征],例如,某人可以描述為[姓名,籍貫,年齡,民族,電話號碼,聯(lián)系人,聯(lián)系時間],在信息搜索過程中可以根據(jù)需要逐漸更新學(xué)歷、微博賬號、微博內(nèi)容等要素。

    2.1 模型介紹

    多智能體協(xié)同的多源信息搜索模型利用不同的智能體處理不同類型的數(shù)據(jù),并融合多種結(jié)果作為最終的對象信息,結(jié)構(gòu)如圖1所示。

    圖1 多智能體協(xié)同的多源信息搜索模型

    多智能體協(xié)同的多源信息搜索模型結(jié)構(gòu)具體如下:

    (1)協(xié)同控制智能體:負責(zé)根據(jù)用戶的搜索要求、對象知識庫和對象描述模型,制定下達搜索任務(wù),協(xié)調(diào)不同的智能體完成不同的子任務(wù)。

    (2)智能體群:即圖1中的智能體A、智能體B等,具體完成數(shù)據(jù)分析的子任務(wù);這些智能體可以具有相同的功能,并行處理數(shù)據(jù),也可以具有不同的功能,處理不同類型的數(shù)據(jù)。

    (3)素材數(shù)據(jù)采集智能體:由多個素材數(shù)據(jù)采集智能體組成,負責(zé)從不同的數(shù)據(jù)源采集素材數(shù)據(jù)。在數(shù)據(jù)源眾多、數(shù)據(jù)采集設(shè)備有限的條件下,需要利用原始素材庫及對象知識庫的統(tǒng)計信息制定合理的數(shù)據(jù)采集策略。

    2.2 信息搜索流程

    信息搜索流程如下:

    (1)用戶下達信息搜索任務(wù)。

    (2)協(xié)同控制智能體根據(jù)任務(wù)內(nèi)容,初始化對象模型。

    (3)協(xié)同控制智能體根據(jù)對象模型和對象知識庫中已有的知識制定搜索子任務(wù),分發(fā)給智能體群中的各智能體;協(xié)同控制智能體根據(jù)各子任務(wù)內(nèi)容,將素材數(shù)據(jù)的篩選條件下達到素材數(shù)據(jù)采集智能體。

    (4)素材數(shù)據(jù)采集智能體實時進行數(shù)據(jù)采集,將原始數(shù)據(jù)存入原始素材庫。

    (5)智能體群中的各智能體從原始素材庫中采集要素信息,完成分析處理任務(wù),通知協(xié)同控制智能體,將結(jié)果存入對象知識庫,并更新對象描述模型。

    (6)協(xié)同控制智能體判斷任務(wù)完成情況,若達到用戶的要求,則結(jié)束任務(wù),否則轉(zhuǎn)步驟(3),直至達到要求。

    在圖1中,素材數(shù)據(jù)采集智能體面臨從多源數(shù)據(jù)中提高獲取有效素材效率的問題,該問題已在文獻[11]中詳細論述;協(xié)同控制智能體面臨協(xié)調(diào)智能體群處理多源、多類型數(shù)據(jù)的問題,下面將針對該問題提出協(xié)同控制算法。

    3 多源信息搜索協(xié)同控制方法

    用戶關(guān)心的對象數(shù)據(jù)經(jīng)常會在多個數(shù)據(jù)源、多種類型數(shù)據(jù)之間跳轉(zhuǎn),其跳轉(zhuǎn)規(guī)律通常蘊含了該對象的行為特性,基于Q學(xué)習(xí)的協(xié)同控制算法利用Q學(xué)習(xí)思想訓(xùn)練對象的出現(xiàn)記錄,從而解決控制多智能體群在何時處理哪個數(shù)據(jù)源中哪類數(shù)據(jù)的問題。

    3.1 Q學(xué)習(xí)

    Q學(xué)習(xí)是一種傳統(tǒng)的多智能體強化學(xué)習(xí)方法,通過智能體與環(huán)境交互得到外部環(huán)境的回報,從而決定下一步的動作。Q學(xué)習(xí)把智能體的學(xué)習(xí)過程看作一個Markov決策過程(Markov Decision Proccss, MDP),即智能體根據(jù)當前內(nèi)部狀態(tài)、外部狀態(tài)、固定的狀態(tài)轉(zhuǎn)移概率,以最大化將來的總體回報為目標,決定下一步采取的動作并得到一個即時回報。

    Q學(xué)習(xí)中定義Q值為按照某一個策略執(zhí)行一系列動作得到的回報的總和,其一步更新算法如下[12]:其中,st∈S表示t時刻的狀態(tài);at∈A表示t時刻采取的動作;P(st,at,st+1)表示在狀態(tài)st下執(zhí)行動作at,轉(zhuǎn)化到狀態(tài)st+1的概率;r(st,at)表示在狀態(tài)st下執(zhí)行動作at得到的回報;γ表示折扣因子,描述時間遠近對回報的影響;α表示學(xué)習(xí)率。

    在Q學(xué)習(xí)中,累計回報函數(shù)表示為Vπ(s)=Qπ(s,a),按照策略與狀態(tài)動作對的映射尋找最優(yōu)策略,即π:s→a,可以得到最優(yōu)策略如下:

    通過反復(fù)迭代執(zhí)行動作-更新Q值,Q值將逐步逼近最優(yōu)策略Q?(s,a)。

    通過對Q學(xué)習(xí)算法的介紹可以發(fā)現(xiàn),Q學(xué)習(xí)算法通過學(xué)習(xí)訓(xùn)練過程中動作與環(huán)境回報之間的對應(yīng)關(guān)系,實現(xiàn)尋找最優(yōu)策略的目的,與多源信息搜索問題中希望通過對象數(shù)據(jù)的出現(xiàn)規(guī)律預(yù)測下一步動作的問題類似,因此下面提出基于Q學(xué)習(xí)的協(xié)同控制方法。

    3.2 基于Q學(xué)習(xí)的協(xié)同控制方法

    在多源信息搜索的協(xié)同控制問題中,利用Q表訓(xùn)練對象的出現(xiàn)記錄,其中有以下問題需要關(guān)注:

    (1)系統(tǒng)狀態(tài)與動作:系統(tǒng)狀態(tài)S表征系統(tǒng)發(fā)現(xiàn)對象信息的情況,可以直接使用發(fā)現(xiàn)對象的數(shù)據(jù)源和數(shù)據(jù)類型(s,d)表示,即共有M×N種狀態(tài),且可以變換為S=s+(d-1)×M,狀態(tài)間可以任意跳轉(zhuǎn);系統(tǒng)執(zhí)行的動作a表示處理某數(shù)據(jù)源的某類數(shù)據(jù),同樣有M×N種動作。

    (2)環(huán)境回報函數(shù):Q學(xué)習(xí)算法的環(huán)境回報函數(shù)r(st,at)表征在狀態(tài)st下執(zhí)行動作at,將得到的回報應(yīng)用在多源信息搜索問題中,表示在相應(yīng)數(shù)據(jù)源、數(shù)據(jù)類型中發(fā)現(xiàn)對象信息的價值,該價值可以由用戶通過歷史經(jīng)驗對數(shù)據(jù)源、數(shù)據(jù)類型的重要程度評價得到,也可以統(tǒng)計單位時間內(nèi)在數(shù)據(jù)源、數(shù)據(jù)類型內(nèi)獲取的對象信息數(shù)量確定,環(huán)境回報函數(shù)示例如圖2所示。

    圖2 環(huán)境回報函數(shù)示例

    (3)對象特性:傳統(tǒng)的Q學(xué)習(xí)算法采用二維Q表存儲Q值,相當于默認對象下一狀態(tài)僅由其當前狀態(tài)確定,符合馬爾科夫過程的特點;在多源信息搜索問題中,對象的特性未知,有可能不符合馬爾科夫過程的特點,因此對Q表進行改進,采用多維Q表,則Q表的維度表示了對象前后相關(guān)狀態(tài)的數(shù)量;從經(jīng)驗上看,對象的相關(guān)狀態(tài)數(shù)量不會太多,基于Q學(xué)習(xí)的協(xié)同控制算法(圖3)采用三維Q表。下面根據(jù)對象是否符合馬爾科夫過程特點將對象稱為馬爾科夫?qū)ο蠛头邱R爾科夫?qū)ο蟆?/p>

    圖3 基于Q學(xué)習(xí)的協(xié)同控制算法流程

    基于Q學(xué)習(xí)的協(xié)同控制算法具體步驟如下:

    (1)初始化系統(tǒng)內(nèi)部狀態(tài),系統(tǒng)內(nèi)部狀態(tài)為(s-,s0,s+),其中,s0表示對象最近一次出現(xiàn)的狀態(tài);s-表示s0的前一個狀態(tài);s+表示s0的后一個狀態(tài)。

    (2)初始化Q表,Q(i,j,k)=0(1≤i,j,k≤M×N),初始化環(huán)境回報函數(shù),為便于仿真,此處假設(shè)環(huán)境回報函數(shù)由人工設(shè)定,實際使用時可以統(tǒng)計獲取。

    (3)當有新的對象出現(xiàn)記錄g={gs,gd}時,更新s+=gs+(gd-1)×M;更新Q值表,一步更新公式為Q(s-,s0,s+)=Q(s-,s0,s+)+r(s+)。

    (5)對象屬性判斷:系統(tǒng)初始時,無歷史信息,無法確定對象屬性,同時執(zhí)行步驟(6)、步驟(7);系統(tǒng)運行一段時間后,統(tǒng)計馬爾科夫決策和非馬爾科夫決策對下一步動作的預(yù)測與對象下一步實際狀態(tài)相同的次數(shù),選擇預(yù)測正確次數(shù)大的決策屬性作為對象屬性。

    (8)執(zhí)行下一步動作,處理狀態(tài)s+對應(yīng)的{s,d}數(shù)據(jù),對應(yīng)公式為:

    其中,表示向下取整,等待新的對象出現(xiàn)記錄,轉(zhuǎn)步驟(3)。

    分析算法步驟可以看出,算法計算量主要集中在預(yù)測下一步動作時求Q值矩陣的最大值,馬爾科夫決策的復(fù)雜度為O(M2N2),非馬爾科夫決策的復(fù)雜度為O(MN),因此算法總的復(fù)雜度為O(M2N2),能夠滿足實時處理的需求。

    4 實驗驗證與結(jié)果分析

    為驗證算法性能,在Matlab 2012上對算法進行仿真驗證。驗證系統(tǒng)結(jié)構(gòu)如圖4所示,其中,對象記錄生成模塊負責(zé)生成馬爾科夫?qū)ο蠛头邱R爾科夫?qū)ο蟮某霈F(xiàn)記錄;對象信息價值統(tǒng)計模塊負責(zé)按照環(huán)境回報函數(shù)統(tǒng)計不同算法獲取的對象信息價值,作為比較算法性能的依據(jù)。為了說明算法性能,下面對比了本文算法、轉(zhuǎn)移概率矩陣算法以及概率統(tǒng)計算法的性能(“Q學(xué)習(xí)2”表示本文算法的馬爾科夫決策,“Q學(xué)習(xí)3”表示本文算法的非馬爾科夫決策),其中轉(zhuǎn)移概率矩陣算法是指利用對象出現(xiàn)記錄,統(tǒng)計對象在各狀態(tài)間的轉(zhuǎn)移概率矩陣,并根據(jù)當前狀態(tài)的最大轉(zhuǎn)移概率值確定下一步動作;概率統(tǒng)計算法是指統(tǒng)計對象在各狀態(tài)的歷史出現(xiàn)記錄作為對象在該狀態(tài)出現(xiàn)的概率,下一步動作為向出現(xiàn)概率最大的狀態(tài)對應(yīng)的數(shù)據(jù)源、業(yè)務(wù)派遣處理智能體。

    圖4 驗證系統(tǒng)結(jié)構(gòu)

    在下面實驗中,如無特殊說明,實驗數(shù)據(jù)條件為:M=5,N=5,對象在各數(shù)據(jù)源、數(shù)據(jù)類型的出現(xiàn)符合正態(tài)分布;每次實驗初始時對象出現(xiàn)記錄數(shù)為0,然后生成對象出現(xiàn)位置并預(yù)測下一步動作,每種方法生成并預(yù)測1000次,統(tǒng)計獲取的對象信息價值;每種實驗給出10次實驗的結(jié)果。

    實驗結(jié)果中的2個性能指標定義如下:(1)信息價值是指歷次預(yù)測正確時的環(huán)境回報函數(shù)累計求和;(2)信息獲取率是指算法獲取的信息價值與搜索次數(shù)的比值。

    4.1 環(huán)境回報函數(shù)對算法性能的影響

    環(huán)境回報函數(shù)是本文算法與轉(zhuǎn)移概率矩陣算法的主要區(qū)別之一,為了說明環(huán)境回報函數(shù)的影響,按照圖5給出的2種回報函數(shù)設(shè)置進行實驗,結(jié)果如圖6所示。

    圖5 2種環(huán)境回報函數(shù)設(shè)置

    圖6 環(huán)境回報函數(shù)對算法性能影響的對比

    在圖6(a)中,本文算法的馬爾科夫決策和轉(zhuǎn)移概率矩陣算法的實驗結(jié)果基本一致,都比概率統(tǒng)計算法有顯著提高,這是由于所有的回報函數(shù)值都設(shè)為1時,本文算法退化為和轉(zhuǎn)移概率矩陣算法相同,從本質(zhì)上講,兩者對下一步動作的預(yù)測都是基于馬爾科夫模型的概率轉(zhuǎn)移矩陣;圖6(a)中有個別實驗結(jié)果有微小區(qū)別,是由于兩者第一次訓(xùn)練需要的數(shù)據(jù)量不同造成的,本文算法需要3次記錄生成第一個Q值,而轉(zhuǎn)移概率矩陣算法只需要2次記錄;在圖6(b)中,由于環(huán)境回報函數(shù)分為5級,本文算法的優(yōu)勢得以體現(xiàn),比轉(zhuǎn)移概率矩陣算法性能提升在40%~50%左右,說明了環(huán)境回報函數(shù)的有效性。

    4.2 算法綜合性能分析

    圖7(a)和圖7(b)分別給出了對于馬爾科夫?qū)ο笈c非馬爾科夫?qū)ο?4種方法的整體性能對比。圖7(a)的學(xué)習(xí)次數(shù)為1000次,圖7(b)的學(xué)習(xí)次數(shù)為10 000次,本文算法采用圖5的第2種環(huán)境回報函數(shù)。

    圖7 算法整體性能對比

    由圖7(a)可以看出,對于馬爾科夫?qū)ο?在訓(xùn)練次數(shù)為1000的條件下,本文算法的馬爾科夫決策效果最好,轉(zhuǎn)移概率矩陣算法效果次之;由圖7(b)可以看出,對于非馬爾科夫?qū)ο?在訓(xùn)練次數(shù)為10 000的條件下,本文算法的非馬爾科夫決策效果最好,馬爾科夫決策次之,轉(zhuǎn)移概率矩陣算法和概率統(tǒng)計算法的性能較差。上述結(jié)果說明當算法假定的對象特性與實際相符時,算法效果最好,實際使用時需要根據(jù)情況選擇適當算法。

    圖8(a)和圖8(b)分別給出了對于馬爾科夫?qū)ο蠛头邱R爾科夫?qū)ο?4種算法的性能收斂趨勢。圖8(a)針對馬爾科夫?qū)ο?進行了1次實驗,預(yù)測10 000次;圖8(b)針對非馬爾科夫?qū)ο?進行了1次實驗,預(yù)測100 000次。

    圖8 算法收斂性對比

    由圖8(a)可以看出,對于馬爾科夫?qū)ο?本文算法的馬爾科夫決策的信息獲取率最高,且收斂速度較快。在學(xué)習(xí)次數(shù)為500左右時,算法信息獲取率達到20%左右,此后持續(xù)增長,在學(xué)習(xí)次數(shù)為3 000左右之后增速放緩,趨于平穩(wěn);另外,3種算法收斂后的性能按照轉(zhuǎn)移概率矩陣算法、本文算法的非馬爾科夫決策、概率統(tǒng)計算法的順序性能依次降低。

    由圖8(b)可以看出,對于非馬爾科夫?qū)ο?本文算法的非馬爾科夫決策的信息獲取率最高,且收斂速度較快。在學(xué)習(xí)次數(shù)為5 000左右時,算法信息獲取率達到20%左右,此后持續(xù)增長,在學(xué)習(xí)次數(shù)為20 000左右后增速放緩,趨于平穩(wěn);另外,3種算法收斂后的性能按照本文算法的馬爾科夫決策方法、轉(zhuǎn)移概率矩陣算法、概率統(tǒng)計算法的順序性能依次降低。在學(xué)習(xí)次數(shù)小于3 000次左右的情況下,本文算法的馬爾科夫決策的性能比其他3種算法好。

    另外,上述實驗是對象在各數(shù)據(jù)源、數(shù)據(jù)類型正態(tài)分布的情況下進行的,在現(xiàn)實中根據(jù)對象分布特性的不同,算法性能提升效果有所不同。一般來說,對象分布越不均勻,算法效果越好。

    通過上述實驗驗證,發(fā)現(xiàn)本文算法的特性如下:

    (1)基于Q學(xué)習(xí)的協(xié)同控制算法中分別針對2種類型的對象設(shè)計了馬爾科夫決策和非馬爾科夫決策。馬爾科夫適用于馬爾科夫?qū)ο蠡蛘叻邱R爾科夫?qū)ο蟮珜W(xué)習(xí)次數(shù)較少的情況;非馬爾科夫決策適用于非馬爾科夫?qū)ο笄覍W(xué)習(xí)次數(shù)較多的情況。

    (2)由于馬爾科夫決策的收斂速度較快,因此在實際使用中,建議學(xué)習(xí)次數(shù)小于M2N2的情況下使用馬爾科夫決策;學(xué)習(xí)次數(shù)大于M2N2后,2種決策方法分別預(yù)測,根據(jù)預(yù)測正確率確定對象屬性,從而選擇預(yù)測方法。

    5 結(jié)束語

    本文研究海量實時數(shù)據(jù)條件下有效獲取多源信息的方法,在多智能體技術(shù)的基礎(chǔ)上,設(shè)計面向?qū)ο蟮亩嘀悄荏w協(xié)同多源信息搜索模型,并提出基于Q學(xué)習(xí)的多源信息搜索協(xié)同控制方法。與傳統(tǒng)搜索引擎相比,利用該模型能夠以對象為中心,在反饋循環(huán)搜索的過程中,完善對象描述模型并能從多源數(shù)據(jù)中關(guān)聯(lián)獲取對象信息,在信息搜索的全面性、有效性上有較大提高,模型的可擴充性也較強。針對基于Q學(xué)習(xí)的多源信息搜索協(xié)同控制方法的實驗證明,該方法設(shè)計的2種決策使得系統(tǒng)對馬爾科夫?qū)ο蠛头邱R爾科夫?qū)ο蟮男畔⑺阉餍视酗@著提高?;诙嘀悄荏w的多源信息搜索模型,能夠提高信息搜索系統(tǒng)的智能性、全面性和靈活性,但由于采用在線采集要素、離線循環(huán)分析的方法,在時效性上有所欠缺;另外,該模型對智能體群處理能力的差異未進行詳細分析,這些都有待進一步研究。

    [1] Gantz J,Reinsel D.IDC IVIEW:Extracting Value from Chaos[J].IDC IVIEW,2011,(12):1-12.

    [2] Chu Yanjie,Wei Qiang.A Network Specific Information SearchSystemBasedonMobileAgent[C]// Proceedings of the 3rd Global Congress on Intelligent Systems.Wuhan,China:[s.n.],2012:302-304.

    [3] 蔣翠清,幸龍潮,丁 勇.基于Agent的知識管理系統(tǒng)模型研究[J].情報雜志,2007,(2):56-61.

    [4] 薛 紅,趙 川.基于多智能體的連鎖零售多級庫存集成與優(yōu)化[J].計算機工程,2012,38(14):167-170.

    [5] 陳 棟,關(guān)新平,龍承念,等.基于多智能體的區(qū)域監(jiān)控系統(tǒng)[J].計算機工程,2010,36(21):72-74.

    [6] 姚燦中,楊建梅.基于多智能體的大眾生產(chǎn)系統(tǒng)穩(wěn)定性研究[J].計算機工程,2011,37(3):13-15.

    [7] 熊立春,陳建宏,石東平,等.基于Multi-Agent協(xié)同模式的城市應(yīng)急聯(lián)動系統(tǒng)[J].科技導(dǎo)報,2012,(5): 33-38.

    [8] Ferreira E D,Khosla P K.Multi Agent Collaboration Using Distributed Value Functions[C]//Proceedings of IEEE Intelligent Vehicles Symposium.Dearborn,USA: IEEE Press,2000:404-409.

    [9] 徐 楊,張玉林,孫婷婷,等.基于多智能體交通濾波效應(yīng)分布式協(xié)同控制算法[J].軟件學(xué)報,2012, 23(11):2937-2945.

    [10] 徐 楊,李 響,常 洪,等.復(fù)雜網(wǎng)絡(luò)特性對大規(guī)模多智能體協(xié)同控制的影響[J].軟件學(xué)報,2012, 23(11):2971-2986.

    [11] 褚衍杰,徐正國.基于行為規(guī)律的搜索資源分配新算法[J].電訊技術(shù),2014,54(2):195-200.

    [12] 趙增榮,韓提文.基于Q-Learning的智能體訓(xùn)練[J].石家莊鐵道學(xué)院學(xué)報,2007,20(2):37-39.

    編輯 陸燕菲

    Multi-source Information Search Method Based on Multi-Agent Collaboration

    CHU Yanjie,XU Zhengguo
    (National Key Laboratory of Blind Signal Processing,Chengdu 610041,China)

    A new multi-source information search model based on multi-Agent collaboration is put forward to deal with the problem that under the real time,multi-source and huge information condition.Multi-Agent information search model centers around objects,builds the whole object model by cycling search,and gets the information that users care for.This model has higher intelligent and open-ended features,and it can make multi-source information searing more comprehensive and accurate.Q-learning-based collaborative control algorithm is proposed.The algorithm designs different decision-making methods for Markov objects and non-Markov objects.Experimental results show that the algorithm has better information search ability than probability transfer matrix and probability statistics algorithms.

    multi-Agent;information search;multi-source information;object-oriented;Q learning;collaborative mechanism

    褚衍杰,徐正國.基于多智能體協(xié)同的多源信息搜索方法[J].計算機工程,2015,41(2):193-198.

    英文引用格式:Chu Yanjie,Xu Zhengguo.Multi-source Information Search Method Based on Multi-Agent Collaboration[J].Computer Engineering,2015,41(2):193-198.

    1000-3428(2015)02-0193-06

    :A

    :TP393

    10.3969/j.issn.1000-3428.2015.02.037

    褚衍杰(1982-),男,博士研究生,主研方向:信息處理;徐正國,博士研究生。

    2014-02-28

    :2014-04-07E-mail:chuyanjie@tsinghua.org.cn

    猜你喜歡
    馬爾科夫數(shù)據(jù)源概率
    第6講 “統(tǒng)計與概率”復(fù)習(xí)精講
    第6講 “統(tǒng)計與概率”復(fù)習(xí)精講
    基于疊加馬爾科夫鏈的邊坡位移預(yù)測研究
    概率與統(tǒng)計(一)
    概率與統(tǒng)計(二)
    基于改進的灰色-馬爾科夫模型在風(fēng)機沉降中的應(yīng)用
    Web 大數(shù)據(jù)系統(tǒng)數(shù)據(jù)源選擇*
    基于不同網(wǎng)絡(luò)數(shù)據(jù)源的期刊評價研究
    馬爾科夫鏈在教學(xué)評價中的應(yīng)用
    基于真值發(fā)現(xiàn)的沖突數(shù)據(jù)源質(zhì)量評價算法
    色综合亚洲欧美另类图片| 国产一区二区三区视频了| 亚洲成人精品中文字幕电影| 在线观看免费日韩欧美大片| 日日爽夜夜爽网站| 最近最新中文字幕大全免费视频| 18禁国产床啪视频网站| 免费观看精品视频网站| 18禁美女被吸乳视频| 国产成+人综合+亚洲专区| 亚洲一卡2卡3卡4卡5卡精品中文| 精品久久久久久,| 日韩中文字幕欧美一区二区| 欧美一级毛片孕妇| 久久这里只有精品19| 中国美女看黄片| a级毛片a级免费在线| 亚洲精品国产一区二区精华液| 韩国av一区二区三区四区| 好男人在线观看高清免费视频 | 国产午夜福利久久久久久| xxx96com| 熟女少妇亚洲综合色aaa.| a级毛片在线看网站| 欧美日韩中文字幕国产精品一区二区三区| 亚洲专区字幕在线| 亚洲欧洲精品一区二区精品久久久| 97超级碰碰碰精品色视频在线观看| a在线观看视频网站| 女同久久另类99精品国产91| 欧美日韩亚洲国产一区二区在线观看| 美女免费视频网站| 最新美女视频免费是黄的| 一本一本综合久久| 久久人妻福利社区极品人妻图片| or卡值多少钱| 午夜福利视频1000在线观看| 日韩欧美免费精品| 色综合亚洲欧美另类图片| 亚洲精品美女久久av网站| 亚洲av第一区精品v没综合| 大型黄色视频在线免费观看| 欧美又色又爽又黄视频| 色在线成人网| 午夜福利18| 亚洲无线在线观看| 伊人久久大香线蕉亚洲五| 国产亚洲精品第一综合不卡| 亚洲欧美日韩无卡精品| 美女午夜性视频免费| 超碰成人久久| 熟女少妇亚洲综合色aaa.| 成人18禁高潮啪啪吃奶动态图| 日日干狠狠操夜夜爽| 亚洲国产欧洲综合997久久, | 国产精品香港三级国产av潘金莲| 午夜福利免费观看在线| 男女视频在线观看网站免费 | 老司机午夜十八禁免费视频| 天堂影院成人在线观看| 老司机深夜福利视频在线观看| 亚洲人成网站在线播放欧美日韩| 老熟妇仑乱视频hdxx| 国产aⅴ精品一区二区三区波| 久久久久精品国产欧美久久久| 中文字幕久久专区| 亚洲中文字幕一区二区三区有码在线看 | 日本a在线网址| 久久久久国内视频| 亚洲免费av在线视频| 久久久久久久久免费视频了| 精品久久蜜臀av无| 校园春色视频在线观看| 国产亚洲精品一区二区www| 亚洲五月色婷婷综合| 国产在线精品亚洲第一网站| 国产亚洲精品一区二区www| 在线观看免费视频日本深夜| 国产真人三级小视频在线观看| 老司机在亚洲福利影院| 国产精品1区2区在线观看.| 悠悠久久av| 欧美成人午夜精品| 久久狼人影院| 精品人妻1区二区| 亚洲精品久久成人aⅴ小说| 一进一出抽搐动态| 国产视频内射| xxx96com| 久久人妻av系列| 一本大道久久a久久精品| 亚洲欧美精品综合一区二区三区| 一本精品99久久精品77| 少妇的丰满在线观看| 亚洲欧美日韩高清在线视频| 亚洲国产精品合色在线| 久久久久久人人人人人| 国内揄拍国产精品人妻在线 | 国产区一区二久久| 精品国产乱子伦一区二区三区| 亚洲一区中文字幕在线| 欧美性长视频在线观看| 好男人电影高清在线观看| 在线观看一区二区三区| 人人澡人人妻人| av有码第一页| а√天堂www在线а√下载| 亚洲中文字幕一区二区三区有码在线看 | 中文字幕高清在线视频| 成人三级做爰电影| 淫妇啪啪啪对白视频| 一卡2卡三卡四卡精品乱码亚洲| 国产黄a三级三级三级人| 国产99白浆流出| 久久香蕉精品热| 午夜两性在线视频| 久久伊人香网站| 久久中文字幕一级| 天堂动漫精品| 国产私拍福利视频在线观看| 亚洲国产欧洲综合997久久, | 日本 av在线| 国产三级在线视频| 真人做人爱边吃奶动态| 一级毛片精品| 精品久久久久久久久久久久久 | 亚洲色图av天堂| 欧美激情久久久久久爽电影| 男人舔奶头视频| www.999成人在线观看| 免费看十八禁软件| 男女那种视频在线观看| 国产亚洲精品久久久久久毛片| 国产av一区二区精品久久| 狠狠狠狠99中文字幕| 后天国语完整版免费观看| 无人区码免费观看不卡| 色综合婷婷激情| 自线自在国产av| 国产精品日韩av在线免费观看| 久久午夜亚洲精品久久| 啦啦啦观看免费观看视频高清| 熟女电影av网| 岛国视频午夜一区免费看| 午夜免费激情av| 级片在线观看| 久久香蕉精品热| 久久天堂一区二区三区四区| 亚洲色图 男人天堂 中文字幕| 日本一本二区三区精品| 午夜视频精品福利| a级毛片a级免费在线| 国产黄a三级三级三级人| 91成人精品电影| 色综合站精品国产| 18禁裸乳无遮挡免费网站照片 | 国产色视频综合| 最近最新中文字幕大全免费视频| 99国产精品一区二区蜜桃av| 精品熟女少妇八av免费久了| 免费在线观看黄色视频的| 我的亚洲天堂| 日韩欧美国产一区二区入口| 欧美日韩亚洲综合一区二区三区_| 国产亚洲精品久久久久5区| 久久久精品国产亚洲av高清涩受| 9191精品国产免费久久| 国产视频一区二区在线看| 久久精品aⅴ一区二区三区四区| 国产成人精品无人区| xxxwww97欧美| 欧美国产精品va在线观看不卡| 欧美日韩亚洲国产一区二区在线观看| 侵犯人妻中文字幕一二三四区| 国产精品影院久久| 久久久精品欧美日韩精品| 18禁国产床啪视频网站| 一区二区三区精品91| 久99久视频精品免费| 免费女性裸体啪啪无遮挡网站| 一本一本综合久久| 国产精品永久免费网站| 亚洲 欧美 日韩 在线 免费| 国产精品,欧美在线| 久久人妻福利社区极品人妻图片| 国产日本99.免费观看| 精品高清国产在线一区| 色在线成人网| 亚洲精品中文字幕一二三四区| 午夜福利成人在线免费观看| 久久国产精品影院| 亚洲国产精品合色在线| 美女高潮喷水抽搐中文字幕| 亚洲色图 男人天堂 中文字幕| 欧美乱妇无乱码| 久久午夜亚洲精品久久| tocl精华| 国产麻豆成人av免费视频| x7x7x7水蜜桃| 亚洲精品在线观看二区| 国语自产精品视频在线第100页| av免费在线观看网站| 美女免费视频网站| 国产av在哪里看| 一a级毛片在线观看| avwww免费| 国产av在哪里看| 999精品在线视频| 男女视频在线观看网站免费 | 人人妻,人人澡人人爽秒播| 99re在线观看精品视频| 高潮久久久久久久久久久不卡| av超薄肉色丝袜交足视频| a在线观看视频网站| 久久天躁狠狠躁夜夜2o2o| 88av欧美| 国产成年人精品一区二区| 母亲3免费完整高清在线观看| 欧美激情高清一区二区三区| 国产精品久久久久久人妻精品电影| 一边摸一边抽搐一进一小说| 桃红色精品国产亚洲av| 啦啦啦观看免费观看视频高清| 亚洲 欧美 日韩 在线 免费| 天堂动漫精品| 国产主播在线观看一区二区| 亚洲男人天堂网一区| 一级毛片精品| 少妇粗大呻吟视频| 99在线人妻在线中文字幕| 久久久精品国产亚洲av高清涩受| 久9热在线精品视频| 美女扒开内裤让男人捅视频| 99久久久亚洲精品蜜臀av| 一级黄色大片毛片| 美女免费视频网站| 久久精品成人免费网站| 久久久久精品国产欧美久久久| 国产精品1区2区在线观看.| 少妇被粗大的猛进出69影院| 真人一进一出gif抽搐免费| 99精品在免费线老司机午夜| 777久久人妻少妇嫩草av网站| 老司机靠b影院| 国产精品爽爽va在线观看网站 | 日韩欧美国产一区二区入口| 久久精品国产亚洲av香蕉五月| 男女下面进入的视频免费午夜 | 久久精品成人免费网站| 精品一区二区三区av网在线观看| 免费在线观看视频国产中文字幕亚洲| 亚洲成人精品中文字幕电影| 99国产综合亚洲精品| 亚洲成a人片在线一区二区| 啦啦啦韩国在线观看视频| 麻豆成人av在线观看| 亚洲,欧美精品.| 99久久国产精品久久久| 757午夜福利合集在线观看| 国产精品免费视频内射| 国产一区二区三区在线臀色熟女| 久久久国产成人免费| 男男h啪啪无遮挡| 国产真人三级小视频在线观看| 丝袜人妻中文字幕| 怎么达到女性高潮| 老司机在亚洲福利影院| 午夜福利一区二区在线看| 丝袜人妻中文字幕| 中亚洲国语对白在线视频| 久久人妻福利社区极品人妻图片| 亚洲中文字幕一区二区三区有码在线看 | 亚洲成av人片免费观看| 免费在线观看成人毛片| 首页视频小说图片口味搜索| 国产人伦9x9x在线观看| 精品高清国产在线一区| 国产激情偷乱视频一区二区| www日本在线高清视频| 欧美+亚洲+日韩+国产| 国产高清激情床上av| 国产亚洲欧美在线一区二区| 午夜老司机福利片| 两性午夜刺激爽爽歪歪视频在线观看 | 国产午夜福利久久久久久| 久久精品国产亚洲av香蕉五月| 午夜福利在线观看吧| 50天的宝宝边吃奶边哭怎么回事| 中文字幕精品免费在线观看视频| 欧美在线黄色| 国产成人精品久久二区二区91| 在线av久久热| 午夜两性在线视频| 欧美性猛交黑人性爽| 人人妻人人澡人人看| 中文字幕高清在线视频| 757午夜福利合集在线观看| 国产片内射在线| 午夜成年电影在线免费观看| 国产欧美日韩一区二区精品| 亚洲一码二码三码区别大吗| 午夜福利18| 国产精品二区激情视频| 国产精品爽爽va在线观看网站 | 精品国内亚洲2022精品成人| 欧美日韩一级在线毛片| 老鸭窝网址在线观看| 国产成人一区二区三区免费视频网站| 国产成人av激情在线播放| 一区二区三区国产精品乱码| 午夜免费鲁丝| 亚洲 欧美 日韩 在线 免费| 长腿黑丝高跟| 欧美成人性av电影在线观看| 国产精品一区二区免费欧美| 2021天堂中文幕一二区在线观 | 十分钟在线观看高清视频www| 真人做人爱边吃奶动态| 18禁观看日本| 黄频高清免费视频| 亚洲欧洲精品一区二区精品久久久| 18禁观看日本| a在线观看视频网站| x7x7x7水蜜桃| 久久精品国产综合久久久| 搡老岳熟女国产| 国产精品 国内视频| 人妻丰满熟妇av一区二区三区| 自线自在国产av| 亚洲国产精品成人综合色| 国产又黄又爽又无遮挡在线| 村上凉子中文字幕在线| 日韩高清综合在线| 99久久99久久久精品蜜桃| 一区二区日韩欧美中文字幕| 美女 人体艺术 gogo| 亚洲精品中文字幕在线视频| 精品国产亚洲在线| 国产欧美日韩精品亚洲av| 久久久久国产一级毛片高清牌| 成人国产一区最新在线观看| 久久九九热精品免费| 免费无遮挡裸体视频| 少妇裸体淫交视频免费看高清 | 黄色毛片三级朝国网站| 日本精品一区二区三区蜜桃| 中文在线观看免费www的网站 | 欧美zozozo另类| 久久久久免费精品人妻一区二区 | 国产又黄又爽又无遮挡在线| 久久天堂一区二区三区四区| 美女扒开内裤让男人捅视频| 男人舔女人下体高潮全视频| 亚洲av电影不卡..在线观看| 男女下面进入的视频免费午夜 | 大型黄色视频在线免费观看| 在线观看免费午夜福利视频| 一区二区三区高清视频在线| 成人手机av| 国产高清激情床上av| 久久这里只有精品19| 久热爱精品视频在线9| 中文字幕另类日韩欧美亚洲嫩草| av电影中文网址| 免费高清在线观看日韩| 亚洲国产欧美网| 国产亚洲欧美在线一区二区| 99精品在免费线老司机午夜| 亚洲av日韩精品久久久久久密| 日韩大尺度精品在线看网址| 亚洲精品美女久久av网站| 黑人欧美特级aaaaaa片| 国产成年人精品一区二区| 国产人伦9x9x在线观看| 国产一卡二卡三卡精品| 午夜久久久久精精品| 国产免费av片在线观看野外av| 一卡2卡三卡四卡精品乱码亚洲| 成人三级黄色视频| 精品欧美一区二区三区在线| 国产一区在线观看成人免费| 欧美另类亚洲清纯唯美| 国产不卡一卡二| 亚洲欧美精品综合久久99| 亚洲美女黄片视频| 成人亚洲精品av一区二区| 成人三级黄色视频| 国产精品久久电影中文字幕| 一区福利在线观看| 国产精品永久免费网站| 国产一卡二卡三卡精品| 50天的宝宝边吃奶边哭怎么回事| 老汉色av国产亚洲站长工具| 成人一区二区视频在线观看| 亚洲中文av在线| 亚洲 欧美一区二区三区| 亚洲av成人av| 日日摸夜夜添夜夜添小说| 天堂√8在线中文| 脱女人内裤的视频| 亚洲精品国产精品久久久不卡| 成人一区二区视频在线观看| 露出奶头的视频| 成人精品一区二区免费| 精品久久久久久久毛片微露脸| 国产成人精品久久二区二区免费| 嫩草影院精品99| 久久精品国产综合久久久| 日韩欧美免费精品| 亚洲国产精品合色在线| 久久精品91无色码中文字幕| 精品国产超薄肉色丝袜足j| 亚洲色图 男人天堂 中文字幕| 动漫黄色视频在线观看| 久久香蕉激情| 韩国精品一区二区三区| 欧美黄色淫秽网站| 99re在线观看精品视频| 级片在线观看| 亚洲成av片中文字幕在线观看| 怎么达到女性高潮| 琪琪午夜伦伦电影理论片6080| 波多野结衣巨乳人妻| videosex国产| 欧美乱色亚洲激情| 亚洲黑人精品在线| 麻豆成人av在线观看| 国产成人影院久久av| 黄网站色视频无遮挡免费观看| xxx96com| 欧美成人午夜精品| 国产精品九九99| 久久草成人影院| 一二三四在线观看免费中文在| www.999成人在线观看| 成年免费大片在线观看| 欧美精品亚洲一区二区| 老汉色av国产亚洲站长工具| www国产在线视频色| 亚洲熟女毛片儿| 久久中文看片网| av片东京热男人的天堂| 国产视频一区二区在线看| 国产精品自产拍在线观看55亚洲| 高清在线国产一区| 国产精品影院久久| 一本久久中文字幕| 少妇熟女aⅴ在线视频| av视频在线观看入口| 两性午夜刺激爽爽歪歪视频在线观看 | 精品人妻1区二区| 国产97色在线日韩免费| 久久国产精品男人的天堂亚洲| 午夜成年电影在线免费观看| 黄片小视频在线播放| 免费观看精品视频网站| a级毛片a级免费在线| 亚洲自偷自拍图片 自拍| 欧美在线一区亚洲| 女同久久另类99精品国产91| av福利片在线| 亚洲av五月六月丁香网| 丝袜人妻中文字幕| 午夜视频精品福利| 欧美丝袜亚洲另类 | 午夜视频精品福利| 久久久久久亚洲精品国产蜜桃av| 亚洲精品久久成人aⅴ小说| 午夜久久久久精精品| 日韩三级视频一区二区三区| 成人永久免费在线观看视频| 一个人观看的视频www高清免费观看 | 久久精品成人免费网站| 老汉色∧v一级毛片| 国产成人一区二区三区免费视频网站| 亚洲国产看品久久| xxx96com| 亚洲九九香蕉| 一级a爱视频在线免费观看| 久久性视频一级片| 国产亚洲精品第一综合不卡| www.精华液| 男女床上黄色一级片免费看| 色综合婷婷激情| 变态另类丝袜制服| 精品卡一卡二卡四卡免费| 两个人视频免费观看高清| 精品少妇一区二区三区视频日本电影| 俺也久久电影网| 日韩欧美国产一区二区入口| 一进一出抽搐动态| 国产一区在线观看成人免费| 精品久久久久久久久久免费视频| 嫩草影院精品99| 午夜激情av网站| 后天国语完整版免费观看| 欧美又色又爽又黄视频| 亚洲av电影不卡..在线观看| 亚洲精品美女久久av网站| 成人永久免费在线观看视频| 俺也久久电影网| 男人舔奶头视频| 欧美日韩亚洲国产一区二区在线观看| 一二三四社区在线视频社区8| 色播在线永久视频| 色精品久久人妻99蜜桃| 亚洲全国av大片| 欧美一级毛片孕妇| 美女高潮喷水抽搐中文字幕| 亚洲av成人一区二区三| 老鸭窝网址在线观看| 成人av一区二区三区在线看| 成人三级做爰电影| 亚洲熟妇中文字幕五十中出| 搡老熟女国产l中国老女人| 国产精品 国内视频| 日韩免费av在线播放| 人妻久久中文字幕网| 亚洲国产欧洲综合997久久, | 中国美女看黄片| 好男人电影高清在线观看| 久久久精品国产亚洲av高清涩受| 男女下面进入的视频免费午夜 | 国产精品,欧美在线| 真人做人爱边吃奶动态| 亚洲精品中文字幕一二三四区| 日本成人三级电影网站| 久久这里只有精品19| 国产蜜桃级精品一区二区三区| 看片在线看免费视频| 国产成人精品无人区| 国产一级毛片七仙女欲春2 | 久久中文看片网| 在线观看舔阴道视频| 精品久久久久久久末码| 999久久久国产精品视频| 午夜久久久在线观看| 日韩三级视频一区二区三区| 成人国产综合亚洲| 99久久国产精品久久久| 午夜福利一区二区在线看| 精品高清国产在线一区| 日本 欧美在线| 国产精品综合久久久久久久免费| 色av中文字幕| 久久精品影院6| 天天一区二区日本电影三级| 真人一进一出gif抽搐免费| 美女午夜性视频免费| 夜夜躁狠狠躁天天躁| 日韩欧美免费精品| 色哟哟哟哟哟哟| 亚洲欧美精品综合久久99| 国产黄a三级三级三级人| 日韩精品中文字幕看吧| 一级作爱视频免费观看| 国产精品香港三级国产av潘金莲| 中文字幕久久专区| 亚洲一码二码三码区别大吗| 老司机靠b影院| 亚洲男人的天堂狠狠| 久久久久久国产a免费观看| 亚洲午夜精品一区,二区,三区| 欧美乱妇无乱码| 午夜福利欧美成人| 国产精品电影一区二区三区| 99国产精品一区二区蜜桃av| 好男人电影高清在线观看| 高清在线国产一区| 精品国产乱码久久久久久男人| 日本黄色视频三级网站网址| 老司机午夜福利在线观看视频| 亚洲久久久国产精品| 欧美 亚洲 国产 日韩一| 别揉我奶头~嗯~啊~动态视频| 国产又色又爽无遮挡免费看| 日日爽夜夜爽网站| 亚洲五月天丁香| 精品人妻1区二区| 黄片播放在线免费| av视频在线观看入口| 欧美+亚洲+日韩+国产| 日本在线视频免费播放| 天天添夜夜摸| 999久久久精品免费观看国产| 欧美色欧美亚洲另类二区| 中文字幕人妻丝袜一区二区| 欧美性长视频在线观看| 麻豆国产av国片精品| 欧美在线黄色| 久久 成人 亚洲| 久久精品91无色码中文字幕| 精品久久久久久,| 成人一区二区视频在线观看| 午夜福利在线观看吧| 亚洲av成人不卡在线观看播放网| 级片在线观看| 日韩视频一区二区在线观看| 少妇 在线观看| 夜夜夜夜夜久久久久| 国产av不卡久久| 国产精品一区二区精品视频观看| 午夜老司机福利片| 免费电影在线观看免费观看| 99久久99久久久精品蜜桃| 国产成人影院久久av| 91成人精品电影| 日日摸夜夜添夜夜添小说| 日韩高清综合在线| 啦啦啦免费观看视频1| 国产精品电影一区二区三区| 久久精品成人免费网站| 男女午夜视频在线观看| 一级毛片女人18水好多| 搡老妇女老女人老熟妇|