理性認(rèn)識(shí)智能化戰(zhàn)爭(zhēng)的關(guān)鍵和要點(diǎn)

戰(zhàn)爭(zhēng)形態(tài)與社會(huì)形態(tài)緊密相關(guān)。在工業(yè)時(shí)代，戰(zhàn)爭(zhēng)形態(tài)是機(jī)械化；在信息時(shí)代，戰(zhàn)爭(zhēng)形態(tài)是信息化。當(dāng)前，人類正在進(jìn)入智能時(shí)代，戰(zhàn)爭(zhēng)形態(tài)也在向智能化演變，這是一個(gè)復(fù)雜、長(zhǎng)期、漸進(jìn)的過(guò)程。當(dāng)智能技術(shù)全面影響生產(chǎn)、生活各個(gè)方面的時(shí)候，人們對(duì)智能技術(shù)的發(fā)展及其影響，未免產(chǎn)生旺盛的想象。然而，“兵者，國(guó)之大事，死生之地，存亡之道，不可不察”，理性認(rèn)識(shí)智能化戰(zhàn)爭(zhēng)的關(guān)鍵和要點(diǎn)，尤為重要。

智能技術(shù)是智能化戰(zhàn)爭(zhēng)的核心推動(dòng)

人與動(dòng)物的本質(zhì)區(qū)別是人可以制造和使用工具。工具即完成某項(xiàng)工作的器具。器具本質(zhì)上是人的意識(shí)和技能的外化，即人為完成某項(xiàng)工作所需借助的原始的或經(jīng)人為改造、制造的器物，它是人的意識(shí)、技能的具象化、實(shí)物化，是技術(shù)的固化和具體化。1977年，世界知識(shí)產(chǎn)權(quán)組織給技術(shù)下的定義是：技術(shù)是制造一種產(chǎn)品的系統(tǒng)知識(shí)。工具是技術(shù)的載體，技術(shù)是工具的靈魂。人類社會(huì)時(shí)代分期的標(biāo)準(zhǔn)就是技術(shù)的具象化，即工具，如舊石器時(shí)代、新石器時(shí)代、青銅時(shí)代、鐵器時(shí)代等。蒸汽機(jī)是現(xiàn)代科學(xué)技術(shù)的代表，推動(dòng)時(shí)代進(jìn)入機(jī)械化和工業(yè)化，經(jīng)信息化時(shí)代，社會(huì)正向智能化時(shí)代演變。

軍事是社會(huì)領(lǐng)域之一。社會(huì)形態(tài)的演變必然推動(dòng)戰(zhàn)爭(zhēng)形態(tài)的發(fā)展。在蒸汽機(jī)推動(dòng)人類進(jìn)入工業(yè)化社會(huì)的同時(shí)，蒸汽機(jī)驅(qū)動(dòng)的戰(zhàn)車、軍艦等，推動(dòng)戰(zhàn)爭(zhēng)進(jìn)入機(jī)械化。在計(jì)算機(jī)、網(wǎng)絡(luò)推動(dòng)人類進(jìn)入信息化社會(huì)時(shí)，情報(bào)偵察、預(yù)警探測(cè)、指揮控制、后勤保障等網(wǎng)絡(luò)信息系統(tǒng)，推動(dòng)戰(zhàn)爭(zhēng)進(jìn)入信息化。在智能技術(shù)推動(dòng)社會(huì)進(jìn)入智能化之際，無(wú)人機(jī)、無(wú)人戰(zhàn)車、無(wú)人艦艇，以及以大模型為基礎(chǔ)的智能化系統(tǒng)，推動(dòng)戰(zhàn)爭(zhēng)進(jìn)入智能化。智能技術(shù)已經(jīng)全面進(jìn)入并顯著影響戰(zhàn)爭(zhēng)形態(tài)的各個(gè)方面和領(lǐng)域，包括武器彈藥、軍隊(duì)編制、戰(zhàn)場(chǎng)對(duì)抗等，它們的綜合作用，實(shí)質(zhì)性推動(dòng)了智能化戰(zhàn)爭(zhēng)形態(tài)的發(fā)展。

在武器彈藥方面，智能技術(shù)的承載平臺(tái)已經(jīng)在陸?？崭骶S空間全面發(fā)展。例如，美軍戰(zhàn)略無(wú)人機(jī)已經(jīng)從第一代的偵察探測(cè)的全球鷹無(wú)人機(jī)，發(fā)展到察打一體的MQ-9無(wú)人機(jī)。2023年6月22日，印度總理莫迪與美國(guó)時(shí)任總統(tǒng)拜登在華盛頓發(fā)布《美印聯(lián)合聲明》，其中“歡迎印度購(gòu)買美國(guó)通用原子公司生產(chǎn)的MQ-9B無(wú)人機(jī)”被作為一個(gè)專門條款列入。一款無(wú)人機(jī)被寫入兩國(guó)聯(lián)合聲明，足以證明其已經(jīng)達(dá)到了影響國(guó)家戰(zhàn)略和對(duì)外關(guān)系的程度。

戰(zhàn)役戰(zhàn)術(shù)無(wú)人機(jī)的發(fā)展更加普遍。2001年，美軍在阿富汗戰(zhàn)爭(zhēng)中用捕食者無(wú)人機(jī)發(fā)射海爾法導(dǎo)彈，擊斃了“基地”組織二號(hào)人物穆罕默德·阿提夫，開創(chuàng)了用加載武器的無(wú)人機(jī)執(zhí)行對(duì)地攻擊任務(wù)的先河，成為無(wú)人機(jī)作戰(zhàn)史上的一個(gè)重要節(jié)點(diǎn)。此后，不僅美軍無(wú)人機(jī)加速發(fā)展，而且后繼者如雨后春筍：土耳其的Bayraktar-TB系列無(wú)人機(jī)異軍突起、英國(guó)的不死鳥無(wú)人機(jī)、法國(guó)的瑪爾特MKII無(wú)人機(jī)、加拿大的哨兵無(wú)人直升機(jī)、以色列的先鋒無(wú)人機(jī)、俄羅斯的天竺葵無(wú)人機(jī)、伊朗的沙赫德無(wú)人機(jī)等都閃亮登場(chǎng)。迄今，無(wú)人機(jī)已經(jīng)經(jīng)歷了從單一功能到察打一體、經(jīng)網(wǎng)絡(luò)化使用和“蜂群戰(zhàn)術(shù)”、再到“忠誠(chéng)僚機(jī)”與人機(jī)協(xié)同的發(fā)展過(guò)程。

無(wú)人平臺(tái)在戰(zhàn)場(chǎng)上的作用主要是投送彈藥。當(dāng)無(wú)人機(jī)作為一種作戰(zhàn)平臺(tái)被大量使用時(shí)，必然要有與之適配的彈藥。迄今，不少?gòu)椝師o(wú)需改裝或進(jìn)行少量改裝即可供無(wú)人機(jī)掛載，其成本低、見(jiàn)效快。如美國(guó)的海爾法導(dǎo)彈和長(zhǎng)釘空地導(dǎo)彈、英國(guó)的輕型多用途導(dǎo)彈、以色列的長(zhǎng)釘-LR導(dǎo)彈等。

按照投射方式，無(wú)人機(jī)彈藥可分為導(dǎo)彈、制導(dǎo)炸彈、制導(dǎo)火箭彈、制導(dǎo)迫擊炮彈、制導(dǎo)子彈藥等；按照重量，可分為重型（250千克級(jí)及以上）、中型（50千克級(jí)）、輕型（25千克級(jí)及以下）等。其中，重型彈藥主要由戰(zhàn)略無(wú)人機(jī)攜帶，中型和輕型彈藥更適合中小型無(wú)人機(jī)掛載。

任何一種武器裝備的大量使用并在戰(zhàn)場(chǎng)上發(fā)揮重要作用，都會(huì)影響作戰(zhàn)力量的編成。目前，無(wú)人作戰(zhàn)部隊(duì)、分隊(duì)已經(jīng)在多國(guó)出現(xiàn)并用于實(shí)戰(zhàn)。

美軍旅級(jí)部隊(duì)編配的機(jī)器人自主系統(tǒng)排主要裝備無(wú)人機(jī)、地面無(wú)人車輛或機(jī)器人。美陸軍已經(jīng)建成和使用兩個(gè)機(jī)器人自主系統(tǒng)排，一個(gè)部署在第82空降師，另一個(gè)部署在陸軍卓越機(jī)動(dòng)中心用于作戰(zhàn)實(shí)驗(yàn)。2021年10月27日，在美中央司令部第5艦隊(duì)的“新視野”演習(xí)中，參演力量包括MANTAS T12戰(zhàn)術(shù)自主無(wú)人水面艇、V-BAT無(wú)人機(jī)等。2023年夏，美海軍宣布建成第一支無(wú)人水面艦艇中隊(duì)。

俄羅斯的無(wú)人作戰(zhàn)編制力量發(fā)展計(jì)劃與美國(guó)大致同步。2021年3月，俄國(guó)防部宣布將在所有空降兵部隊(duì)內(nèi)，配置無(wú)人機(jī)分隊(duì)。每個(gè)空降師、空中突擊師、獨(dú)立空降旅內(nèi)配置無(wú)人機(jī)連。2021年4月，俄羅斯宣布將建設(shè)首支攻擊型機(jī)器人部隊(duì)，其組成包括5套天王星-9機(jī)器人系統(tǒng)、20輛無(wú)人戰(zhàn)車。天王星-9是一款多功能戰(zhàn)斗平臺(tái)，裝備2A72型30毫米機(jī)關(guān)炮、7.62毫米車載機(jī)槍、阿塔卡反坦克導(dǎo)彈等。

歐洲各國(guó)軍隊(duì)、日本自衛(wèi)隊(duì)、韓國(guó)軍隊(duì)近年來(lái)也在大力發(fā)展獨(dú)立編成的無(wú)人作戰(zhàn)力量編隊(duì)。日本防衛(wèi)省計(jì)劃分三步組建無(wú)人機(jī)中隊(duì)。第一階段，推出無(wú)人遙控戰(zhàn)機(jī)，實(shí)現(xiàn)遠(yuǎn)程控制；第二階段，讓1架有人戰(zhàn)機(jī)控制數(shù)架無(wú)人戰(zhàn)機(jī)，進(jìn)行編隊(duì)協(xié)同作戰(zhàn)；第三階段，形成完全自主的無(wú)人戰(zhàn)機(jī)中隊(duì)，在2035年前實(shí)現(xiàn)作戰(zhàn)部署。

在戰(zhàn)場(chǎng)對(duì)抗方面，無(wú)人與反無(wú)人作戰(zhàn)呈現(xiàn)此消彼長(zhǎng)、水漲船高的趨勢(shì)。正在持續(xù)的烏克蘭危機(jī)是當(dāng)今世界最大規(guī)模，也是最先進(jìn)和最現(xiàn)實(shí)的無(wú)人與反無(wú)人對(duì)抗。整體弱勢(shì)的烏軍與相對(duì)強(qiáng)大的俄軍進(jìn)行對(duì)壘的基本依托之一，就是進(jìn)行無(wú)人機(jī)攻擊，并能夠反無(wú)人機(jī)。美國(guó)、英國(guó)、澳大利亞等將最新的反無(wú)人機(jī)電子戰(zhàn)系統(tǒng)交付烏軍，在實(shí)戰(zhàn)中使用并得到檢驗(yàn)。

戰(zhàn)爭(zhēng)本質(zhì)和決定性因素并未改變

技術(shù)的發(fā)展成為戰(zhàn)爭(zhēng)的“整容術(shù)”，即技術(shù)更多地改變的是戰(zhàn)爭(zhēng)的外觀，而不是內(nèi)在的本質(zhì)。不管智能技術(shù)如何發(fā)展，戰(zhàn)場(chǎng)形態(tài)如何演變，戰(zhàn)爭(zhēng)是政治的繼續(xù)，人是戰(zhàn)爭(zhēng)的決定性因素。這些對(duì)戰(zhàn)爭(zhēng)屬性的基本論斷不會(huì)被改變。

智能化戰(zhàn)爭(zhēng)仍然是政治的繼續(xù)，是為了達(dá)成政治目標(biāo)。同時(shí)，和其他時(shí)代的戰(zhàn)爭(zhēng)一樣，它不是單獨(dú)地達(dá)成政治目標(biāo)，與經(jīng)濟(jì)、外交等各種因素相互作用，共同達(dá)成政治目標(biāo)。既然如此，這些要素之間互為依托、互相協(xié)調(diào)，又互相制約的復(fù)雜關(guān)系就不會(huì)改變。俄烏沖突一開始，美國(guó)就率歐洲國(guó)家、北約盟國(guó)，甚至全球盟國(guó)，共同組成援烏集團(tuán)。他們采取的行動(dòng)包括武器支援、經(jīng)濟(jì)和金融制裁，即使是打得最激烈緊張的關(guān)口，雙邊、多邊談判也沒(méi)有停止，隔空喊話、打打談?wù)劇⒄務(wù)劥虼虺蔀槌B(tài)。

智能化戰(zhàn)爭(zhēng)從空間領(lǐng)域上說(shuō)，也沒(méi)有改變。從美國(guó)推出網(wǎng)絡(luò)中心戰(zhàn)理論開始，就把作戰(zhàn)域界定為包括陸?？仗煸趦?nèi)的物理域，包括網(wǎng)絡(luò)、電磁空間在內(nèi)的信息域，和包括人的心理、思維、認(rèn)知空間在內(nèi)的認(rèn)知域。智能化技術(shù)使得認(rèn)知戰(zhàn)以前所未有的形式展開，多種多樣、異?；钴S，但智能沒(méi)有成為一個(gè)新的空間領(lǐng)域。它的存在、作用體現(xiàn)在滲透進(jìn)入物理域、信息域、認(rèn)知域等各領(lǐng)域。

與此同時(shí)，無(wú)論智能技術(shù)怎樣發(fā)達(dá)，怎樣應(yīng)用于情報(bào)處理和輔助決策，永遠(yuǎn)不會(huì)改變戰(zhàn)爭(zhēng)是充滿蓋然性的領(lǐng)域這一論斷，克勞塞維茨所說(shuō)的“戰(zhàn)爭(zhēng)迷霧”也永遠(yuǎn)不會(huì)消除。甚至，智能技術(shù)可能會(huì)加大戰(zhàn)爭(zhēng)迷霧，甚至本身成為戰(zhàn)爭(zhēng)迷霧的一部分。因?yàn)橹悄芗夹g(shù)既可用來(lái)廓清戰(zhàn)爭(zhēng)迷霧，也可用來(lái)制造戰(zhàn)爭(zhēng)迷霧。

只要戰(zhàn)爭(zhēng)充滿蓋然性，存在戰(zhàn)爭(zhēng)迷霧，人就永遠(yuǎn)是戰(zhàn)爭(zhēng)的決定性因素。因?yàn)槔鍛?zhàn)爭(zhēng)迷霧最可靠的手段和途徑，是人的主觀能動(dòng)性。智能技術(shù)無(wú)論多么發(fā)達(dá)，至少迄今不具有真正的創(chuàng)新能力。克服戰(zhàn)爭(zhēng)不確定性的最有力武器，是人的智慧。

說(shuō)智能技術(shù)迄今沒(méi)有真正的創(chuàng)新能力，依據(jù)是什么？以ChatGPT為代表的生成式人工智能，將人工智能與人們?nèi)粘Ｉ畹穆?lián)系推進(jìn)了一大步。但是，將生成式人工智能的作用拔高，甚至絕對(duì)化，是不切實(shí)際的?？陀^地說(shuō)，現(xiàn)有的所有生成式人工智能工具，本質(zhì)上仍然僅是輔助工具，即它提供的，僅是資料、參考，而不是結(jié)論。

首先，現(xiàn)在所有的人工智能系統(tǒng)，它所具有的任何能力，都是研究人員賦予它的。而且，人類能夠賦予人工智能系統(tǒng)的，僅是人類不僅具有，而且能夠用人類已經(jīng)掌握的工具、語(yǔ)言進(jìn)行精確描述，變成數(shù)學(xué)公式、數(shù)據(jù)模型的那部分智能。例如，國(guó)際象棋、圍棋，不僅規(guī)則明晰、嚴(yán)密，而且每一步的價(jià)值，以及下一步可能下在哪里，都可以預(yù)測(cè)和計(jì)算。然而，人類的軍事智慧，很多并非科學(xué)，而是藝術(shù)，它的產(chǎn)生過(guò)程與原理，人類自身都沒(méi)有認(rèn)識(shí)清楚，更不可能賦予某個(gè)人工智能系統(tǒng)。

其次，人工智能與人類相比，最大的區(qū)別是它缺乏自主意志。人類認(rèn)識(shí)世界、改造世界的源動(dòng)力來(lái)自哪里，至今仍有爭(zhēng)議。弗洛伊德認(rèn)為來(lái)自人體釋放的激素，即所謂“力比多”。人類有自身的源動(dòng)力，這沒(méi)有爭(zhēng)議。人工智能與人相比，最大的缺陷是它本身沒(méi)有意志，也就沒(méi)有認(rèn)識(shí)世界、改造世界的源動(dòng)力。它本身并不會(huì)產(chǎn)生欲望，也就不知道自己要去干什么？現(xiàn)在的人工智能有自我學(xué)習(xí)的能力，但它的這種學(xué)習(xí)能力，包括學(xué)習(xí)的方法等，都來(lái)自人類賦予。這就從根本上決定了，它只是人類的工具。

最后，人工智能缺乏真情實(shí)感和真正的創(chuàng)新能力。由于人工智能缺乏自主意志和“力比多”，因此，也不可能產(chǎn)生即時(shí)即地的愛(ài)憎好惡和其他情感，因此，那種鮮活、飽滿的生命所具有的光彩、活力、精神，人工智能是無(wú)法具有的。即使是對(duì)事物進(jìn)行分析、綜合，也只能按照既定的公式、算法、程序設(shè)定展開，無(wú)法產(chǎn)生真正的創(chuàng)新思維。

軍事指揮上的很多杰作，正是不按常規(guī)出牌所產(chǎn)生的。如抗戰(zhàn)時(shí)期劉伯承元帥的七亙村二次設(shè)伏，正是《孫子兵法》中“戰(zhàn)勝不復(fù)”的反用。解放戰(zhàn)爭(zhēng)粟裕大將敢于“百萬(wàn)軍中取上將首級(jí)”，在孟良崮殲滅敵整編第74師，正是超出常規(guī)，也正好出于敵人的意料之外。

目前，智能化戰(zhàn)爭(zhēng)形態(tài)尚在演變，成熟的智能化戰(zhàn)爭(zhēng)尚未到來(lái)。然而，完全可以預(yù)計(jì)，即使戰(zhàn)爭(zhēng)形態(tài)完全實(shí)現(xiàn)智能化，人是戰(zhàn)爭(zhēng)的主導(dǎo)因素和決定性因素，這一點(diǎn)永遠(yuǎn)不會(huì)改變。

為智能化戰(zhàn)爭(zhēng)制定規(guī)則是當(dāng)務(wù)之急

核武器出現(xiàn)以來(lái)，鑒于其巨大的破壞力，國(guó)際社會(huì)共同確立了《不擴(kuò)散核武器條約》《全面禁止核試驗(yàn)條約》《新削減戰(zhàn)略武器條約》《中導(dǎo)條約》《開放天空條約》等一系列開放簽署、雙邊或多邊核軍控條約，才確保了核大戰(zhàn)的災(zāi)難沒(méi)有降臨。智能技術(shù)在軍事領(lǐng)域的應(yīng)用，使得智能武器成為現(xiàn)實(shí)，不僅包括陸?？諢o(wú)人作戰(zhàn)平臺(tái)，還包括以云計(jì)算、大模型為依托的智能化系統(tǒng)，其危害甚于核武器。因此，必須為智能技術(shù)的軍事應(yīng)用制定規(guī)則，日益成為國(guó)際社會(huì)的廣泛共識(shí)。

由于智能技術(shù)在軍事領(lǐng)域的應(yīng)用是一個(gè)全新的事物，為其制定規(guī)則也客觀上是一個(gè)探究的過(guò)程。經(jīng)過(guò)國(guó)際社會(huì)的廣泛討論，逐漸在“負(fù)責(zé)、公平、可追蹤、可靠、可控”等五大原則上獲得共識(shí)。

“負(fù)責(zé)”原則主要含義是，人工智能是人的產(chǎn)物，人是能動(dòng)的、具有個(gè)人價(jià)值觀和情感好惡的責(zé)任主體。人工智能技術(shù)的決策者和開發(fā)專家，必然體現(xiàn)人的主體作用，他們理所當(dāng)然地應(yīng)該為自己的決定和作為造成的結(jié)果負(fù)責(zé)。以自動(dòng)駕駛為例，美國(guó)已經(jīng)出現(xiàn)多例自動(dòng)駕駛系統(tǒng)導(dǎo)致的車禍。如果是由智能系統(tǒng)代替人來(lái)進(jìn)行決策、采取行動(dòng)，則應(yīng)由提供駕駛系統(tǒng)的一方承擔(dān)責(zé)任；如果是由駕駛員做出決策、采取行動(dòng)，則應(yīng)由駕駛員承擔(dān)責(zé)任。軍用人工智能系統(tǒng)同樣應(yīng)該明確這樣的責(zé)任區(qū)分，體現(xiàn)和遵循“負(fù)責(zé)”原則。在軍事應(yīng)用中，因?yàn)樵斐傻暮蠊赡芫哂袣缧?，因此，“?fù)責(zé)”成為第一原則。

“公平”原則的主要含義是，對(duì)人而言，不同領(lǐng)域、不同職級(jí)的所有人在人工智能面前是平等的，不應(yīng)有區(qū)別對(duì)待。人工智能進(jìn)行分析判斷的依據(jù)只可能是來(lái)自各種途徑的數(shù)字、圖像、視頻等數(shù)據(jù)，以及進(jìn)行人工智能技術(shù)和系統(tǒng)開發(fā)的專家所采用的數(shù)學(xué)模型。因此，人工智能得出的結(jié)論永遠(yuǎn)只能是概率性的。例如，智能無(wú)人機(jī)依據(jù)機(jī)載傳感器所搜集的偵察數(shù)據(jù)進(jìn)行目標(biāo)判別會(huì)產(chǎn)生誤判，人工智能可能永遠(yuǎn)無(wú)法避免類似的技術(shù)缺陷。人工智能系統(tǒng)無(wú)差別地向人機(jī)界面提供它的處理結(jié)果，人依據(jù)結(jié)果做出判斷、采取行動(dòng)，機(jī)會(huì)也是公平的。

“可追蹤”原則的含義是，不管是純技術(shù)過(guò)程還是人機(jī)交互過(guò)程，人工智能系統(tǒng)都必須是可追溯和可審計(jì)的。對(duì)于人工智能可能造成的負(fù)面影響，應(yīng)當(dāng)事先予以識(shí)別、評(píng)估并進(jìn)行有效防范。對(duì)于各種作戰(zhàn)需求之間所需的權(quán)衡，應(yīng)當(dāng)以達(dá)成最佳綜合效能為目標(biāo)。為此，人工智能系統(tǒng)要如實(shí)記錄生成決定的整個(gè)過(guò)程和系統(tǒng)所做的決定，包括數(shù)據(jù)收集、數(shù)據(jù)標(biāo)記以及所用算法等。同時(shí)，智能系統(tǒng)應(yīng)當(dāng)提供決策過(guò)程、選擇理由等，不僅要確保其數(shù)據(jù)和系統(tǒng)的透明度，而且要確保其數(shù)學(xué)模型的透明度。

“可靠”原則的含義是，人工智能系統(tǒng)在使用過(guò)程中對(duì)使用者而言是安全、可靠和不作惡的。人類使用人工智能技術(shù)與系統(tǒng)的初衷是給人帶來(lái)福祉和便利，而不是使得自身的處境面臨不確定的風(fēng)險(xiǎn)。為確保人工智能的可靠性，首先，應(yīng)要求其所使用的數(shù)學(xué)模型和算法具有可靠性和安全性，能夠應(yīng)對(duì)和處理智能系統(tǒng)整個(gè)生命周期內(nèi)自身可能發(fā)生的錯(cuò)誤和結(jié)果；其次，要求人工智能系統(tǒng)能夠抵御來(lái)自外部的各種攻擊和干擾，例如能夠抵御公開的或隱蔽的網(wǎng)絡(luò)攻擊行為；最后，智能系統(tǒng)的準(zhǔn)確性達(dá)到一定的程度，將錯(cuò)誤降到最低，且它的每一個(gè)結(jié)果應(yīng)該是可重復(fù)的，以便于復(fù)盤和檢驗(yàn)。

“可控”原則的含義是，不管人工智能系統(tǒng)的功能如何強(qiáng)大、技術(shù)如何發(fā)展，它的作用和能力應(yīng)該永遠(yuǎn)置于人的控制之下。人工智能的“失控”危機(jī)來(lái)自兩個(gè)方面，一是開發(fā)者對(duì)于智能系統(tǒng)的過(guò)分授權(quán)，二是因?yàn)殚_發(fā)者難以避免的技術(shù)錯(cuò)誤。如果說(shuō)過(guò)分授權(quán)主要源于人的主觀決定的話，那么，技術(shù)失誤就具有不可知性。美軍在伊拉克戰(zhàn)場(chǎng)使用的智能機(jī)器人就有失控向己方開火的先例。貫徹“可控”原則的努力，一是嚴(yán)格限定對(duì)人工智能的授權(quán)，人工智能是否具有破壞性，決定于人是否給它授權(quán)；二是加強(qiáng)對(duì)技術(shù)失誤的警惕、督查和檢驗(yàn)，將給智能系統(tǒng)頒發(fā)“準(zhǔn)生證”和出廠前安全檢驗(yàn)作為關(guān)鍵環(huán)節(jié)予以高度重視。

然而，在人工智能技術(shù)推動(dòng)戰(zhàn)爭(zhēng)形態(tài)向智能化演變之際，人類面臨前所未有的挑戰(zhàn)。2025年2月，全球人工智能開發(fā)的重要責(zé)任方谷歌刪除了此前堅(jiān)守的“不開發(fā)用于武器的智能系統(tǒng)”的承諾。這不僅可能為人工智能用于殺人這一此前科技界的禁忌大開方便之門，甚至可能引發(fā)群相仿效。為智能化武器的開發(fā)和使用制定類似規(guī)范核武器研發(fā)的規(guī)則，已經(jīng)日益成為當(dāng)務(wù)之急。

責(zé)任編輯：馬 祿