機(jī)器行為與人機(jī)協(xié)同決策理論和方法

曾大軍，張 柱，梁嘉琦，徐 楠，王刊良，楊彥武，陳偉運(yùn)，徐 楊，劉鵬飛，謝佳亨

1 中國(guó)科學(xué)院 自動(dòng)化研究所，北京 100190

2 中國(guó)科學(xué)院大學(xué) 經(jīng)濟(jì)與管理學(xué)院，北京 100190

3 中國(guó)科學(xué)院大學(xué) 人工智能學(xué)院，北京 100190

4 中國(guó)人民大學(xué) 商學(xué)院，北京 100872

5 華中科技大學(xué) 管理學(xué)院，武漢 430074

6 電子科技大學(xué) 計(jì)算機(jī)科學(xué)與工程學(xué)院，成都 611731

7 特拉華大學(xué) Alfred Lerner 商業(yè)與經(jīng)濟(jì)學(xué)院，紐瓦克 19716

引言

隨著大數(shù)據(jù)和機(jī)器智能的普及，人工智能技術(shù)正被越來(lái)越多地應(yīng)用到管理和決策領(lǐng)域。人工智能在搜索、計(jì)算、優(yōu)化、形式化推理、對(duì)抗博弈等領(lǐng)域優(yōu)勢(shì)明顯，但在高級(jí)認(rèn)知功能方面性能十分低下。在經(jīng)驗(yàn)和知識(shí)積累的基礎(chǔ)上，人類能夠靈巧地實(shí)現(xiàn)無(wú)監(jiān)督學(xué)習(xí)、小樣本甚至無(wú)樣本學(xué)習(xí)，甚至進(jìn)行“無(wú)中生有”的創(chuàng)造。人與機(jī)器協(xié)同工作，從而構(gòu)成混合智能系統(tǒng)，已成為包括管理科學(xué)在內(nèi)的多個(gè)學(xué)術(shù)領(lǐng)域共同關(guān)注的熱點(diǎn)。

在此背景下，機(jī)器行為學(xué)作為一門研究人工智能如何與人類共存、交互和協(xié)同的新興學(xué)科開(kāi)始快速發(fā)展，其核心內(nèi)容包括機(jī)器個(gè)體復(fù)雜行為、機(jī)器集群交互與行為涌現(xiàn)、人機(jī)融合群組協(xié)調(diào)管理等。人機(jī)協(xié)同決策過(guò)程是人類、數(shù)據(jù)和算法的相互融合、相互作用、相互影響的過(guò)程，這種交互過(guò)程貫穿于算法模型的建立、人機(jī)交互分析和結(jié)果綜合等各個(gè)階段，需要結(jié)合決策組織的文化、具體決策情景和任務(wù)特征對(duì)機(jī)器行為進(jìn)行綜合研究，并整合多學(xué)科的知識(shí)和見(jiàn)解。機(jī)器行為與人機(jī)協(xié)同決策研究的核心目標(biāo)是融合機(jī)器個(gè)體和機(jī)器集群智能與人類專家智慧，設(shè)計(jì)二者協(xié)同決策的有效機(jī)制，其面臨的主要挑戰(zhàn)包括機(jī)器智能在學(xué)習(xí)和推理方面的可解釋性弱、人機(jī)融合群體的行為復(fù)雜、人與機(jī)器表達(dá)和解決問(wèn)題的機(jī)理差異大。

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，人工智能已上升為國(guó)家戰(zhàn)略，而基于機(jī)器行為與人機(jī)協(xié)同的決策理論和方法則是其基礎(chǔ)內(nèi)容之一。2017 年7 月8 日國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》明確指出：“大數(shù)據(jù)驅(qū)動(dòng)知識(shí)學(xué)習(xí)、跨媒體協(xié)同處理、人機(jī)協(xié)同增強(qiáng)智能、群體集成智能、自主智能系統(tǒng)成為人工智能的發(fā)展重點(diǎn)”，混合增強(qiáng)智能理論需“重點(diǎn)突破人機(jī)協(xié)同共融的情景理解與決策學(xué)習(xí)、直覺(jué)推理與因果模型、記憶與知識(shí)演化等理論，實(shí)現(xiàn)學(xué)習(xí)與思考接近或超過(guò)人類智能水平的混合增強(qiáng)智能”。

1 國(guó)內(nèi)外研究現(xiàn)狀和發(fā)展態(tài)勢(shì)

1.1 國(guó)內(nèi)外研究現(xiàn)狀

機(jī)器行為與人機(jī)協(xié)同決策的相關(guān)研究不僅受到政府主管部門的支持，同時(shí)也受到學(xué)術(shù)界的廣泛關(guān)注，主要表現(xiàn)在相關(guān)研究機(jī)構(gòu)的項(xiàng)目支持、重要學(xué)術(shù)期刊的關(guān)注，以及一系列科研成果的不斷涌現(xiàn)等方面。

2010 年美國(guó)情報(bào)高級(jí)研究計(jì)劃局發(fā)起了“基于群體智慧的事件估計(jì)”項(xiàng)目，該項(xiàng)目融合專家群體研判，預(yù)測(cè)效果顯著；2016 年美國(guó)情報(bào)高級(jí)研究計(jì)劃局資助的“混合預(yù)測(cè)挑戰(zhàn)”項(xiàng)目利用人機(jī)協(xié)同的方法對(duì)地緣政治事件進(jìn)行預(yù)測(cè)。近些年來(lái)，美國(guó)國(guó)家科學(xué)基金會(huì)也資助了一批關(guān)于人機(jī)協(xié)同決策理論和應(yīng)用方向的研究，2019 年的“面向醫(yī)療決策制定的人機(jī)合作研究”項(xiàng)目和“AI-DCL：基于人在決策回路中的人工智能系統(tǒng)偏見(jiàn)治理”項(xiàng)目。在歐洲，相關(guān)研究同樣也受到政府支持和鼓勵(lì)，2018 年歐盟資助了“推動(dòng)面向?qū)W校教育的具有類人社交能力的直覺(jué)式人機(jī)交互”項(xiàng)目，其目標(biāo)之一是探索機(jī)器人與人的虛擬角色的外表、行為、感知的相互關(guān)系等基礎(chǔ)問(wèn)題。此外，2018 年英國(guó)工程與物理科學(xué)委員會(huì)資助了“人機(jī)合作中的信任”項(xiàng)目，其目標(biāo)之一是通過(guò)交叉學(xué)科方法將人與智能體交互以及信息可視化技術(shù)整合到人工智能的規(guī)劃研究中，從而使人與人工智能的協(xié)作進(jìn)入到新發(fā)展階段。

隨著大數(shù)據(jù)和人工智能技術(shù)的進(jìn)一步發(fā)展，機(jī)器行為與人機(jī)協(xié)同決策也逐漸受到大量學(xué)者的關(guān)注。SHIRADO et al.[1]和AWAD et al.[2]先后在《Nature》上發(fā)表論文，認(rèn)為與簡(jiǎn)單機(jī)器人的交互可以增加人類協(xié)調(diào)性，機(jī)器與人類合作可達(dá)到人類之間合作的水平。2019 年4 月24 日，《Nature》刊發(fā)了MIT 媒體實(shí)驗(yàn)室領(lǐng)銜撰寫的，來(lái)自美國(guó)、德國(guó)、法國(guó)、英國(guó)和加拿大等國(guó)33 位作者參與的題為“Machine Behavior”的綜述文章，提出了機(jī)器行為學(xué)這一跨學(xué)科的新興領(lǐng)域，認(rèn)為廣義的機(jī)器行為包括人機(jī)協(xié)同過(guò)程了出現(xiàn)的一系列合作、競(jìng)爭(zhēng)和協(xié)調(diào)行為[3]，標(biāo)志著相關(guān)探索已成為國(guó)際跨學(xué)科研究的焦點(diǎn)。近5 年來(lái)，《Nature》和《Science》等綜合性期刊已發(fā)表20 余篇相關(guān)論文[4-5]，《MIS Quarterly》等管理學(xué)期刊已發(fā)表20 余篇相關(guān)論文[6-9]，《自動(dòng)化學(xué)報(bào)》和《軟件學(xué)報(bào)》等中文頂級(jí)期刊已發(fā)表10 余篇相關(guān)論文[10-11]，這體現(xiàn)了機(jī)器行為與人機(jī)協(xié)同決策在醫(yī)療健康、應(yīng)急管理、交通系統(tǒng)和政策智能等領(lǐng)域起到重要作用，也反映了機(jī)器行為與人機(jī)協(xié)同決策本身具有的學(xué)科交互的研究特點(diǎn)。

1.2 發(fā)展態(tài)勢(shì)

在機(jī)器行為與人機(jī)協(xié)同決策的相關(guān)研究中，棋牌類的人機(jī)博弈、社交媒體中的信息傳播、基于算法的定價(jià)和交易、人機(jī)談判、供應(yīng)鏈決策等研究已經(jīng)取得一系列重要的理論和技術(shù)成果?？傮w而言，已有研究聚焦于特定任務(wù)，在技術(shù)層面設(shè)計(jì)面向特定功能的智能體和算法，但仍缺乏跨學(xué)科、體系化的頂層設(shè)計(jì)和部署，對(duì)深層科學(xué)問(wèn)題的研究還處于起步階段。近年來(lái)，大數(shù)據(jù)和人工智能的飛速發(fā)展，一方面大量擴(kuò)充了交叉關(guān)聯(lián)的海量數(shù)據(jù)和復(fù)雜多樣的應(yīng)用場(chǎng)景，另一方面促進(jìn)了深度強(qiáng)化學(xué)習(xí)、因果發(fā)現(xiàn)和推理、圖神經(jīng)網(wǎng)絡(luò)等基礎(chǔ)理論和方法的提升，這為機(jī)器行為與人機(jī)協(xié)同決策研究帶來(lái)新的機(jī)遇。該領(lǐng)域未來(lái)的發(fā)展趨勢(shì)和研究熱點(diǎn)有以下三方面。

(1)在研究機(jī)器行為的機(jī)理和演化中，充分考慮法律制度、倫理規(guī)范和文化等因素的影響。已有相關(guān)研究主要面向結(jié)構(gòu)化的簡(jiǎn)單應(yīng)用場(chǎng)景，未來(lái)研究需要面向真實(shí)復(fù)雜的管理決策場(chǎng)景，將法律制度、倫理規(guī)范和文化等融合到機(jī)器行為的機(jī)理、發(fā)展、適應(yīng)性、群體演化等方面的建模中。

(2)研究人機(jī)協(xié)同決策中機(jī)器行為與人的行為的交互機(jī)理和相互影響，尤其是機(jī)器行為對(duì)人的塑造和影響。隨著人工智能系統(tǒng)在生產(chǎn)和生活中的廣泛應(yīng)用，人機(jī)協(xié)同決策會(huì)對(duì)參與其中的個(gè)人或群體提出特定的要求，機(jī)器行為也可能導(dǎo)致一些新的社會(huì)現(xiàn)象或問(wèn)題，對(duì)人的心理、行為、生活和工作等產(chǎn)生影響。

(3)針對(duì)不同的管理應(yīng)用場(chǎng)景，研究相應(yīng)的新型人機(jī)協(xié)同決策理論和技術(shù)。雖然已有研究涉及人類的政治、經(jīng)濟(jì)、醫(yī)療和教育娛樂(lè)等各個(gè)領(lǐng)域，但是還存在大量的有重大價(jià)值和應(yīng)用前景的場(chǎng)景尚未涉及，對(duì)應(yīng)的人機(jī)交互機(jī)制和人機(jī)協(xié)同決策機(jī)制還有待深入挖掘。

2 中國(guó)發(fā)展基礎(chǔ)和優(yōu)勢(shì)

機(jī)器行為與人機(jī)協(xié)同決策的相關(guān)研究也受到中國(guó)學(xué)者的高度重視。20 世紀(jì)90 年代，錢學(xué)森等[12]和戴汝為[13]提出了開(kāi)放復(fù)雜巨系統(tǒng)理論和從定性到定量的綜合集成研討體系，其核心是將專家智慧與機(jī)器智能有機(jī)地結(jié)合起來(lái)，這為本領(lǐng)域在中國(guó)的發(fā)展奠定了基礎(chǔ)。

近年來(lái)，隨著腦科學(xué)和人工智能技術(shù)的進(jìn)步，中國(guó)越來(lái)越多的研究機(jī)構(gòu)對(duì)機(jī)器行為與人機(jī)協(xié)同決策進(jìn)行了相關(guān)研究。2015 年中國(guó)科學(xué)院成立腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心，其研究?jī)?nèi)容之一為人機(jī)智能協(xié)同。2017 年，中國(guó)科學(xué)院、清華大學(xué)、北京大學(xué)、復(fù)旦大學(xué)、浙江大學(xué)、上海交通大學(xué)、西安交通大學(xué)、東南大學(xué)、廈門大學(xué)、微軟亞洲研究院、曠視科技等高校、科研機(jī)構(gòu)和企業(yè)的學(xué)者參加了中國(guó)科協(xié)新觀點(diǎn)新學(xué)說(shuō)學(xué)術(shù)沙龍“人機(jī)協(xié)同的混合增強(qiáng)智能”，有效地傳遞了人機(jī)協(xié)同的混合增強(qiáng)智能的理念，表明混合智能將成為新一代人工智能的一個(gè)重要部分。此外，機(jī)器行為與人機(jī)協(xié)同決策也逐漸受到工業(yè)界的關(guān)注，2016 年微軟亞洲研究院開(kāi)展的“HI+AI：人機(jī)協(xié)同，賦能未來(lái)”項(xiàng)目，強(qiáng)調(diào)人機(jī)協(xié)同在人工智能發(fā)展中的關(guān)鍵作用；2018 年阿里巴巴提出“人機(jī)協(xié)同”智能服務(wù)解決方案。

機(jī)器行為與人機(jī)協(xié)同決策的相關(guān)研究同樣受到政府的支持和鼓勵(lì)。2019 年5 月，習(xí)近平總書記在致第三屆世界智能大會(huì)的信中強(qiáng)調(diào)，在包括腦科學(xué)等新理論、新技術(shù)驅(qū)動(dòng)下，人工智能呈現(xiàn)出深度學(xué)習(xí)、跨界融合和人機(jī)協(xié)同等新特征，正在對(duì)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步等方面產(chǎn)生重大而深遠(yuǎn)的影響。開(kāi)展腦科學(xué)和類腦研究，借鑒腦處理信息的特點(diǎn)推進(jìn)人工智能的發(fā)展，是實(shí)現(xiàn)智能科技快速發(fā)展的關(guān)鍵環(huán)節(jié)。近些年，國(guó)家自然科學(xué)基金委員會(huì)(以下簡(jiǎn)稱基金委)資助了一批關(guān)于人機(jī)協(xié)同決策方法和應(yīng)用方向的研究，如2017 年資助了 “多源數(shù)據(jù)融合與人機(jī)混合實(shí)驗(yàn)驅(qū)動(dòng)的兩級(jí)電力市場(chǎng)全景式建模與決策理論研究”項(xiàng)目，2019 年資助了“腦機(jī)混合智能”項(xiàng)目。此外，基金委資助了一批相關(guān)的青年科學(xué)基金項(xiàng)目和面上項(xiàng)目。

在各類基金的支持下，中國(guó)學(xué)者在該領(lǐng)域取得了初步成果，已有人機(jī)協(xié)同決策的相關(guān)研究成果發(fā)表在中國(guó)和國(guó)際高水平期刊上，中國(guó)期刊包括《自動(dòng)化學(xué)報(bào)》《軟件學(xué)報(bào)》《Frontiers of Information Technology& Electronic Engineering》 等， 國(guó)際期刊包括《 MIS Quarterly》 《 Decision Support Systems》 《 IEEE Transactions on Neural Systems and Rehabilitation Engineering》《European Journal of Operational Research》《International Journal of Production Research》等。就研究領(lǐng)域而言，已有研究主要集中在理論探討和系統(tǒng)設(shè)計(jì)，應(yīng)用方面主要集中于人機(jī)談判、供應(yīng)鏈決策、船舶自動(dòng)避碰和制造業(yè)等方向。

整體而言，中國(guó)科研力量在該研究領(lǐng)域已具備堅(jiān)實(shí)基礎(chǔ)，隨著進(jìn)一步的成長(zhǎng)和壯大，有希望在該領(lǐng)域做出國(guó)際領(lǐng)先的成果，引領(lǐng)該領(lǐng)域的快速發(fā)展。

3 主要研究方向和典型科學(xué)問(wèn)題

對(duì)于機(jī)器行為與人機(jī)協(xié)同決策理論和方法，主要研究方向包括管理決策環(huán)境下的機(jī)器行為模式及其演化、人機(jī)協(xié)同中人的行為塑造和特征、人機(jī)協(xié)同決策的新型模式和管理場(chǎng)景、基于人機(jī)協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新4 個(gè)方面，它們之間的相互關(guān)系見(jiàn)圖1。這4 個(gè)研究方向從整體上覆蓋了機(jī)器行為與人機(jī)協(xié)同決策的微觀、中觀和宏觀3 個(gè)層次，管理決策環(huán)境下的機(jī)器行為模式及其演化側(cè)重于研究人機(jī)協(xié)同決策中機(jī)器的行為模式，人機(jī)協(xié)同中人的行為塑造和特征重點(diǎn)研究人的行為塑造和特征。由于在人機(jī)協(xié)同決策中人機(jī)之間的交互作用，這兩個(gè)方向的研究有一定交互。在這兩個(gè)研究方向的基礎(chǔ)上，第3 個(gè)研究方向側(cè)重于人機(jī)協(xié)同決策中的新型模式和管理場(chǎng)景，最后一個(gè)研究方向重點(diǎn)關(guān)注人機(jī)協(xié)同決策理論和方法在生產(chǎn)和生活中的具體應(yīng)用，主要研究基于人機(jī)協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新。

圖1 主要研究方向的關(guān)系Figure 1 Relations of the Main Research Directions

3.1 管理決策環(huán)境下的機(jī)器行為模式及其演化

在管理決策場(chǎng)景中，簡(jiǎn)單設(shè)定機(jī)器針對(duì)特定目標(biāo)能夠達(dá)到最優(yōu)性能未必是最佳選擇。在特定的社會(huì)文化背景下，人機(jī)協(xié)同可能產(chǎn)生復(fù)雜的社會(huì)聯(lián)動(dòng)效應(yīng)，對(duì)這些次生效應(yīng)的評(píng)估或預(yù)期將對(duì)機(jī)器行為的可能模式及其演化路徑造成影響。此外，法律制度、倫理規(guī)范和決策文化也對(duì)機(jī)器行為構(gòu)成實(shí)質(zhì)性的約束，如法律和倫理對(duì)獲取和使用訓(xùn)練數(shù)據(jù)集會(huì)直接影響機(jī)器可能產(chǎn)生的行為，對(duì)機(jī)器行為可解釋性的需求也會(huì)制約機(jī)器行為的復(fù)雜性。探討這些約束條件下機(jī)器行為的模式和可能的演化路徑具有重要的研究意義。

典型科學(xué)問(wèn)題舉例：特定管理決策環(huán)境下機(jī)器產(chǎn)生特定行為的內(nèi)在機(jī)理，機(jī)器行為的傳播復(fù)制和突變，機(jī)器行為的發(fā)展及其驅(qū)動(dòng)因素，機(jī)器行為的適應(yīng)性，集群機(jī)器行為特征及產(chǎn)生機(jī)理，集群機(jī)器的協(xié)同和管理等。

3.2 人機(jī)協(xié)同中人的行為塑造和特征

人機(jī)協(xié)同決策環(huán)境對(duì)參與決策的個(gè)體提出了更高的要求，需要參與決策的個(gè)體對(duì)機(jī)器行為有一定的理解，以形成高效協(xié)同。近年來(lái)，以深度學(xué)習(xí)為代表的人工智能技術(shù)在多個(gè)特定領(lǐng)域取得了突出進(jìn)展，但其“黑盒”特征也阻礙了其進(jìn)一步的發(fā)展和使用。為解決這些新技術(shù)催生的人機(jī)協(xié)同問(wèn)題，從機(jī)器行為的角度，需構(gòu)建更易理解的可解釋性人工智能；從人和組織的角度，需要從決策流程和方法、人員培訓(xùn)和組織決策文化等多個(gè)方面保障人機(jī)協(xié)同的順利實(shí)施。這個(gè)過(guò)程將會(huì)影響參與人的行為，同時(shí)也需要考慮人的行為對(duì)過(guò)程可能造成的影響。

典型科學(xué)問(wèn)題舉例：人機(jī)協(xié)同決策中的參與者角色確定與任務(wù)分工，人員培訓(xùn)及其評(píng)價(jià)方法，人機(jī)協(xié)同決策算法模型，人機(jī)協(xié)同決策中的算法厭惡及其規(guī)避措施，人機(jī)協(xié)同決策中的交互優(yōu)化，機(jī)器行為對(duì)人類決策行為的長(zhǎng)期影響等。

3.3 人機(jī)協(xié)同決策的新型模式和管理場(chǎng)景

在很多管理決策場(chǎng)景中，機(jī)器智能的作用形式、貢獻(xiàn)度因場(chǎng)景和相關(guān)特征統(tǒng)計(jì)分布的不同而存在差異，人與機(jī)器的協(xié)同也存在不同的組合機(jī)制和形式。如一些場(chǎng)景下需要高強(qiáng)度的人力監(jiān)督和監(jiān)管，并利用群體智慧對(duì)機(jī)器進(jìn)行在線培訓(xùn)；另外一些場(chǎng)景下則需要人機(jī)交互學(xué)習(xí)，充分利用機(jī)制設(shè)計(jì)、團(tuán)隊(duì)和制度，以保證高效持續(xù)的人機(jī)協(xié)同。本方向的問(wèn)題需要綜合多個(gè)學(xué)科進(jìn)行系統(tǒng)的理論和實(shí)證研究。

典型科學(xué)問(wèn)題舉例：人機(jī)協(xié)同決策的典型場(chǎng)景及其分類，人機(jī)信任和合作的影響因素，人機(jī)協(xié)同決策模式及其效果的實(shí)證，人機(jī)協(xié)同的群體智慧決策方法，人機(jī)協(xié)同機(jī)制設(shè)計(jì)，人機(jī)協(xié)同決策行為的長(zhǎng)期演變等。

3.4 基于人機(jī)協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新

在人機(jī)協(xié)同決策環(huán)境中，企業(yè)需要挖掘、預(yù)測(cè)消費(fèi)者的內(nèi)在和潛在需求，而不只是簡(jiǎn)單地滿足表層和顯性需求。同時(shí)，企業(yè)的產(chǎn)品設(shè)計(jì)和制造過(guò)程、服務(wù)流程將需要更加智能化，需精準(zhǔn)理解消費(fèi)群體結(jié)構(gòu)和行為以及個(gè)體行為、需求和偏好。此外，人機(jī)協(xié)同決策還可能催生數(shù)據(jù)驅(qū)動(dòng)的風(fēng)險(xiǎn)識(shí)別、政策影響評(píng)估及效果預(yù)測(cè)、大規(guī)模模擬推演系統(tǒng)等新的產(chǎn)品和服務(wù)形態(tài)。

典型科學(xué)問(wèn)題舉例：基于人機(jī)協(xié)同的計(jì)算廣告投放機(jī)制，融合人機(jī)行為的自動(dòng)推薦方法，基于人機(jī)協(xié)同的新一代電子商務(wù)，大數(shù)據(jù)驅(qū)動(dòng)的群體行為計(jì)算實(shí)驗(yàn)，人機(jī)協(xié)同環(huán)境下的產(chǎn)品和服務(wù)模式創(chuàng)新，新能源政策推演和風(fēng)險(xiǎn)分析等。

4 結(jié)束語(yǔ)

隨著大數(shù)據(jù)和人工智能技術(shù)在眾多行業(yè)的普及，研究人工智能如何與人類共存、交互、協(xié)同的機(jī)器行為學(xué)作為一門新學(xué)科逐漸興起。以人機(jī)協(xié)同為核心的機(jī)器行為學(xué)在管理和決策領(lǐng)域具有巨大的應(yīng)用潛力，同時(shí)也面臨人機(jī)融合帶來(lái)的行為復(fù)雜性、機(jī)器智能的弱可解釋性、人與機(jī)器表達(dá)和解決問(wèn)題的差異性等多方面的挑戰(zhàn)。相關(guān)研究在中國(guó)處于快速起步階段，需要深入探索管理決策環(huán)境下的機(jī)器行為模式及其演化、人機(jī)協(xié)同中人的行為塑造和特征、人機(jī)協(xié)同決策的新型模式和管理場(chǎng)景、基于人機(jī)協(xié)同決策的產(chǎn)品和服務(wù)創(chuàng)新。今后仍需進(jìn)一步提煉新的關(guān)鍵科學(xué)問(wèn)題，規(guī)劃和推進(jìn)相關(guān)項(xiàng)目的實(shí)施和人才隊(duì)伍的培養(yǎng)，以推動(dòng)機(jī)器行為與人機(jī)協(xié)同決策理論和應(yīng)用的健康發(fā)展，為國(guó)家發(fā)展人工智能的戰(zhàn)略目標(biāo)夯實(shí)理論和技術(shù)基礎(chǔ)。

致謝：

感謝霍紅、李林靜、魏一鳴(依姓氏拼音排序)等各位專家參與本次“機(jī)器行為與人機(jī)協(xié)同決策理論和方法”優(yōu)先領(lǐng)域討論并提出真知灼見(jiàn)，這些建議和意見(jiàn)對(duì)本文尤其是其中第三部分關(guān)鍵科學(xué)問(wèn)題具有很大幫助。