消防監(jiān)督中應(yīng)用人工智能面臨的法律風(fēng)險(xiǎn)與對(duì)策

摘要：“人工智能+”時(shí)代，DeepSeek等生成式人工智能的推廣，各地“AI公務(wù)員”陸續(xù)上線(xiàn)，多地政府宣布政務(wù)平臺(tái)接入人工智能，這些探索實(shí)踐為消防監(jiān)督模式的發(fā)展創(chuàng)新提供了借鑒。人工智能的快速發(fā)展將有力提升消防監(jiān)督自動(dòng)化、智能化和精確化水平。但現(xiàn)行法律體系尚未形成與之適配的規(guī)范框架。基于此，探索人工智能在消防監(jiān)督中的應(yīng)用場(chǎng)景，分析人工智能在消防監(jiān)督中可能面臨的法律風(fēng)險(xiǎn)，指出人工智能在消防監(jiān)督中的權(quán)責(zé)，提出應(yīng)對(duì)策略及建議，旨在有效防范、化解、應(yīng)對(duì)法律風(fēng)險(xiǎn)，促進(jìn)消防監(jiān)督事業(yè)高質(zhì)量發(fā)展。

關(guān)鍵詞：人工智能；消防執(zhí)法；法律挑戰(zhàn)；解決對(duì)策

科技進(jìn)步給人類(lèi)社會(huì)帶來(lái)了深遠(yuǎn)影響，人工智能技術(shù)的廣泛應(yīng)用正在重塑各行各業(yè)的發(fā)展格局。人工智能嵌入行政執(zhí)法是政府治理模式現(xiàn)代化發(fā)展的必然要求。在“人工智能+”建設(shè)背景下，消防監(jiān)督作為行政執(zhí)法的重要領(lǐng)域，人工智能的應(yīng)用為信息處理、監(jiān)督檢查和決策制定等關(guān)鍵環(huán)節(jié)帶來(lái)了創(chuàng)新機(jī)遇和嚴(yán)峻挑戰(zhàn)。為推動(dòng)國(guó)家治理體系和治理能力現(xiàn)代化目標(biāo)的實(shí)現(xiàn)，應(yīng)當(dāng)從多個(gè)維度構(gòu)建人工智能參與消防監(jiān)督的全鏈條風(fēng)險(xiǎn)防范應(yīng)對(duì)機(jī)制，以提升行政執(zhí)法工作效率和效能。

1 人工智能在消防監(jiān)督中的可應(yīng)用場(chǎng)景

1.1" 信息處理自動(dòng)化

信息處理行為是所有實(shí)體性行政行為的前提與基礎(chǔ)。從行政過(guò)程的角度來(lái)看，行政機(jī)關(guān)的信息處理行為可進(jìn)一步細(xì)分為信息收集（采集）行為、信息管理行為、信息利用（使用）行為與信息公開(kāi)行為4種[1]。當(dāng)前的信息處理方式存在一些短板。一方面，信息處理過(guò)程耗時(shí)耗力，行政機(jī)關(guān)需投入大量的人力物力進(jìn)行審查核對(duì)；另一方面，受客觀(guān)條件限制，行政機(jī)關(guān)全面、及時(shí)獲取消防監(jiān)督所需信息的能力有待提高。相比之下，人工智能在信息處理行為上具有顯著優(yōu)勢(shì)。在信息收集（采集）行為上，人工智能能夠以遠(yuǎn)超人類(lèi)的速度分析和處理大量數(shù)據(jù)，從中提取有價(jià)值的信息。在信息管理行為上，對(duì)于采集的證據(jù)資料，人工智能可根據(jù)違法類(lèi)型、情節(jié)程度、免責(zé)事項(xiàng)等標(biāo)準(zhǔn)進(jìn)行歸納整理，構(gòu)建大數(shù)據(jù)庫(kù)，為精準(zhǔn)、高效地實(shí)施消防監(jiān)督提供有力支持。

1.2" 監(jiān)督檢查智能化

在大數(shù)據(jù)時(shí)代，政務(wù)信息服務(wù)平臺(tái)一體化為人工智能的應(yīng)用與發(fā)展提供了豐富的數(shù)據(jù)資源。借助機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法，匯總分析各類(lèi)與消防監(jiān)督相關(guān)的信息，如演練檔案記錄、消防制度制定情況等，人工智能能夠自動(dòng)學(xué)習(xí)和識(shí)別風(fēng)險(xiǎn)特征，對(duì)各類(lèi)監(jiān)管對(duì)象開(kāi)展風(fēng)險(xiǎn)評(píng)估，并實(shí)行分級(jí)預(yù)警。例如，對(duì)于消防設(shè)施老化嚴(yán)重、消防制度不健全、用火用電頻繁的區(qū)域或主體，及時(shí)發(fā)出高風(fēng)險(xiǎn)預(yù)警，提醒行業(yè)監(jiān)管部門(mén)予以重點(diǎn)關(guān)注。

1.3" 執(zhí)法決策精準(zhǔn)化

執(zhí)法決策精準(zhǔn)化要求認(rèn)定事實(shí)精準(zhǔn)、定位性質(zhì)精準(zhǔn)、適用法律精準(zhǔn)?！秶?guó)務(wù)院辦公廳關(guān)于全面推行行政執(zhí)法公示制度執(zhí)法全過(guò)程記錄制度重大執(zhí)法決定法制審核制度的指導(dǎo)意見(jiàn)》（國(guó)辦發(fā)〔2018〕118號(hào)）提出，要積極推進(jìn)人工智能技術(shù)在行政執(zhí)法實(shí)踐中的運(yùn)用。人工智能憑借高效的數(shù)據(jù)處理能力，能夠顯著減少消防監(jiān)督執(zhí)法中人工判斷的主觀(guān)偏差，精準(zhǔn)鎖定違法行為的事實(shí)、性質(zhì)、情節(jié)、危害程度和判定依據(jù)，為實(shí)現(xiàn)消防監(jiān)督執(zhí)法決策的高效與精確創(chuàng)造了可能。

2 人工智能在消防監(jiān)督中面臨的法律風(fēng)險(xiǎn)

2.1" 缺乏法律依據(jù)

現(xiàn)行的《中華人民共和國(guó)行政處罰法》《中華人民共和國(guó)行政復(fù)議法》《中華人民共和國(guó)行政訴訟法》等行政法律體系，在算法決策的效力認(rèn)定、人工智能應(yīng)用標(biāo)準(zhǔn)等方面有待進(jìn)一步完善。消防監(jiān)督法律法規(guī)在適配人工智能應(yīng)用時(shí)，往往存在制度斷層。人工智能在判斷違法行為、收集證據(jù)、生成文書(shū)等消防監(jiān)督執(zhí)法行為的合法合規(guī)性上普遍面臨法律依據(jù)不足的困境，這就導(dǎo)致人工智能技術(shù)應(yīng)用與當(dāng)前立法覆蓋廣度之間形成難以調(diào)和的結(jié)構(gòu)性矛盾，阻礙了人工智能在消防監(jiān)督領(lǐng)域的應(yīng)用和發(fā)展。

2.2" 責(zé)任主體難界定

人工智能決策參與消防監(jiān)督的過(guò)程，既涉及調(diào)查取證、審查復(fù)核等多個(gè)環(huán)節(jié)，也涵蓋算法設(shè)計(jì)者、數(shù)據(jù)提供方、系統(tǒng)使用人員等多個(gè)主體。一旦出現(xiàn)錯(cuò)誤或失誤，責(zé)任歸屬的認(rèn)定將變得異常復(fù)雜。因此，在執(zhí)法實(shí)踐中，確定對(duì)應(yīng)責(zé)任主體存在較大難度。當(dāng)人工智能提供的行政決定處理意見(jiàn)出現(xiàn)大范圍偏差或重大錯(cuò)誤而導(dǎo)致行政相對(duì)人遭受不公平對(duì)待時(shí)，由哪方主體承擔(dān)相應(yīng)法律責(zé)任在現(xiàn)行法律體系中尚無(wú)明確規(guī)定。

2.3" 數(shù)據(jù)安全存在隱患

人工智能技術(shù)應(yīng)用于消防監(jiān)督的數(shù)據(jù)采集環(huán)節(jié)，需要收集、分析和處理大量的信息數(shù)據(jù)，信息數(shù)據(jù)中可能涉及國(guó)家秘密、商業(yè)秘密和個(gè)人隱私等敏感信息。如果保護(hù)措施不到位，可能會(huì)導(dǎo)致泄密事件，給經(jīng)營(yíng)主體和個(gè)人造成名譽(yù)損害、經(jīng)濟(jì)損失或合規(guī)風(fēng)險(xiǎn)，涉嫌違反《中華人民共和國(guó)保守國(guó)家秘密法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》，情節(jié)嚴(yán)重的甚至?xí)|犯《中華人民共和國(guó)刑法》。此外，當(dāng)惡意攻擊者侵入人工智能系統(tǒng)，非法篡改或竊取重要數(shù)據(jù)時(shí)，也會(huì)引發(fā)不容忽視的數(shù)據(jù)安全問(wèn)題，這可能涉嫌違反《中華人民共和國(guó)網(wǎng)絡(luò)安全法》[2]。

2.4" 算法的法律屬性不確定

算法是人工智能的靈魂，人工智能的決策機(jī)制依賴(lài)較為復(fù)雜的算法模型，行政相對(duì)人可能難以理解人工智能作出決策的判斷過(guò)程和法律依據(jù)，極易引發(fā)爭(zhēng)議沖突和矛盾糾紛。此時(shí)，行政機(jī)關(guān)可能無(wú)法提供符合行政法理論體系的可理解性解釋?zhuān)瑢?dǎo)致《中華人民共和國(guó)行政處罰法》第四十一條規(guī)定的告知義務(wù)難以履行，造成消防監(jiān)督執(zhí)法工作舉步維艱、陷入困境，顯著增加行政復(fù)議或行政訴訟風(fēng)險(xiǎn)。

3 人工智能在消防監(jiān)督中的權(quán)責(zé)

3.1" 主體資格爭(zhēng)議

我國(guó)法律框架下人工智能的法律地位呈現(xiàn)“工具性主體”悖論，主要表現(xiàn)在法律人格擬制與行政監(jiān)管效能的沖突。對(duì)于人工智能的法律地位，按照將人工智能視為主體或客體，法學(xué)界存在兩種不同觀(guān)點(diǎn)。主體論學(xué)說(shuō)認(rèn)為，人工智能適用《中華人民共和國(guó)行政處罰法》第十七條至第二十一條的“行政行為主體”要件，應(yīng)通過(guò)法律擬制賦予人工智能一定的主體資格，例如，智能機(jī)器人“阿爾法狗”打敗世界圍棋冠軍以及機(jī)器人“索菲亞”在沙特獲得公民資格?？腕w論學(xué)說(shuō)認(rèn)為，人工智能應(yīng)當(dāng)作為法律關(guān)系中的法律客體和工具存在。人工智能的使用是研發(fā)者、制造者和使用者的法律行為，是主體行為借助的工具。2017年，微軟智能機(jī)器人“小冰”的原創(chuàng)詩(shī)集《陽(yáng)光失了玻璃窗》正式出版，但由于微軟“小冰”不具備主體資格，因此無(wú)法獲得著作權(quán)的主體資格，其著作權(quán)只能由“小冰”發(fā)明者來(lái)享有。

3.2" 權(quán)力屬性類(lèi)型

隨著人工智能技術(shù)不斷迭代進(jìn)步，在消防監(jiān)督領(lǐng)域，一個(gè)令人深思的問(wèn)題是：人工智能是否享有行政權(quán)？有學(xué)者認(rèn)為，人工智能算法權(quán)力泛化使得自動(dòng)化行政逐漸呈現(xiàn)出預(yù)先設(shè)定的算法程序取代法律規(guī)定的趨勢(shì)，從而導(dǎo)致依法行政原則日漸式微，相對(duì)人陳述、申辯權(quán)等程序性權(quán)利被懸置[3]。應(yīng)用人工智能開(kāi)展消防監(jiān)督執(zhí)法，意味著將行政權(quán)交予人工智能，此舉存在顛覆傳統(tǒng)行政權(quán)屬性的潛在可能。在執(zhí)法實(shí)踐中，部分執(zhí)法機(jī)關(guān)將裁量基準(zhǔn)轉(zhuǎn)化為算法規(guī)則，通過(guò)人工智能確保裁量標(biāo)準(zhǔn)統(tǒng)一，變相地賦予人工智能以行政執(zhí)法權(quán)。例如，人工智能在交通事故的責(zé)任認(rèn)定中可依據(jù)歷史案例庫(kù)和裁量基準(zhǔn)快速匹配處罰幅度，從而高效作出行政處罰決定。

3.3" 責(zé)任梯度認(rèn)定

國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》將明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任列入未來(lái)發(fā)展的一項(xiàng)重點(diǎn)任務(wù)。筆者認(rèn)為，人工智能不具有自然人的認(rèn)知和心智水平，其應(yīng)用于消防監(jiān)督領(lǐng)域是基于預(yù)先設(shè)計(jì)的程序和已有數(shù)據(jù)庫(kù)進(jìn)行計(jì)算；也未擁有獨(dú)立的財(cái)產(chǎn)，只是被使用的執(zhí)法工具，因此不應(yīng)當(dāng)由人工智能承擔(dān)消防監(jiān)督執(zhí)法責(zé)任。況且，行政執(zhí)法是對(duì)行政權(quán)的行使，其直接責(zé)任主體應(yīng)當(dāng)是行政機(jī)關(guān)。當(dāng)然，這并不意味著由行政機(jī)關(guān)承擔(dān)所有責(zé)任?；谛姓欣碚摵托姓穬斬?zé)任制度，在行政機(jī)關(guān)對(duì)行政相對(duì)人承擔(dān)賠償責(zé)任后，根據(jù)致?lián)p因素來(lái)源，應(yīng)當(dāng)依法責(zé)令人工智能設(shè)計(jì)者、有故意或重大過(guò)失的消防監(jiān)督執(zhí)法人員承擔(dān)部分或全部賠償費(fèi)用。

4 應(yīng)對(duì)策略及建議

4.1" 加強(qiáng)人工智能立法保障

人工智能技術(shù)的快速發(fā)展帶來(lái)了一系列法律、倫理和社會(huì)問(wèn)題，如數(shù)據(jù)隱私保護(hù)、算法偏見(jiàn)、責(zé)任歸屬等。在未來(lái)人工智能可能廣泛融入消防監(jiān)督的背景下，強(qiáng)化行政法體系下人工智能相關(guān)條款的立法保障成為防范火災(zāi)風(fēng)險(xiǎn)、提升安全治理效能的關(guān)鍵路徑。對(duì)此，可以采取如下措施：首先，要加強(qiáng)立法保障，在《中華人民共和國(guó)消防法》等法律法規(guī)中增設(shè)人工智能技術(shù)應(yīng)用專(zhuān)章，構(gòu)建適配性法律框架。其次，要完善監(jiān)管體系，針對(duì)人工智能在消防監(jiān)督領(lǐng)域的應(yīng)用場(chǎng)景建立差異化監(jiān)管機(jī)制，加強(qiáng)對(duì)高低大化等重要場(chǎng)所應(yīng)用人工智能開(kāi)展消防監(jiān)督前的安全風(fēng)險(xiǎn)評(píng)估，提高人工智能消防監(jiān)管能力。最后，要明確消防部門(mén)、人工智能研發(fā)者、使用單位等相關(guān)主體的法定權(quán)利、義務(wù)，確立行為的合法邊界及法律責(zé)任，防止人工智能失控漏管。

4.2" 堅(jiān)持以人為本的角色定位

人工智能不具備人類(lèi)積累社會(huì)經(jīng)驗(yàn)、感知證據(jù)、理解案件事實(shí)的能力。在消防監(jiān)督中確定人工智能的角色定位應(yīng)堅(jiān)持“以人為本”的根本理念。當(dāng)人工智能還處于較低發(fā)展水平的階段，需要消防監(jiān)督執(zhí)法人員全程發(fā)揮主導(dǎo)作用，對(duì)人工智能應(yīng)用于消防監(jiān)督的各個(gè)環(huán)節(jié)進(jìn)行全面把控，以此確定執(zhí)法類(lèi)型、方式和程度。例如，在案件事實(shí)清楚、證據(jù)充分、爭(zhēng)議較小的簡(jiǎn)單的消防監(jiān)督執(zhí)法案件中，可讓人工智能自主決策生成執(zhí)法結(jié)論；而在事實(shí)認(rèn)定復(fù)雜、法律適用疑難或涉及多方利益關(guān)系的消防監(jiān)督執(zhí)法案件中，執(zhí)法人員必須提前介入，嚴(yán)禁完全放任人工智能自主執(zhí)法。

4.3" 彌補(bǔ)技術(shù)安全漏洞

人工智能在應(yīng)用于消防監(jiān)督后可能難以從外部及時(shí)發(fā)現(xiàn)潛在的技術(shù)安全漏洞，也缺乏有效渠道進(jìn)行糾正。消防部門(mén)作為主要應(yīng)用者，需加強(qiáng)內(nèi)部網(wǎng)絡(luò)的信息安全建設(shè)，構(gòu)筑更加牢固的防火墻，完善網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)，確保消防監(jiān)督信息的保密性、完整性和可用性。數(shù)據(jù)采集者要高度重視消防監(jiān)督數(shù)據(jù)的安全性，規(guī)范數(shù)據(jù)的收集與儲(chǔ)存方式，加強(qiáng)數(shù)據(jù)庫(kù)的安全建設(shè)，從源頭上降低數(shù)據(jù)安全風(fēng)險(xiǎn)，保障數(shù)據(jù)的安全可靠。開(kāi)發(fā)者要加強(qiáng)對(duì)人工智能消防監(jiān)督系統(tǒng)的安全檢測(cè)和風(fēng)險(xiǎn)預(yù)警工作，通過(guò)持續(xù)的技術(shù)創(chuàng)新和算法修復(fù)，最大程度地彌補(bǔ)人工智能存在的安全漏洞，保障人工智能系統(tǒng)的穩(wěn)定運(yùn)行，防止因技術(shù)漏洞引發(fā)的執(zhí)法錯(cuò)誤和信息泄露等問(wèn)題。

4.4" 加強(qiáng)消防監(jiān)督數(shù)據(jù)質(zhì)量把關(guān)

人工智能算法訓(xùn)練依賴(lài)歷史數(shù)據(jù)，而歷史數(shù)據(jù)常常蘊(yùn)含歧視性偏見(jiàn)，這導(dǎo)致人工智能面對(duì)消防監(jiān)督對(duì)象時(shí)在性別、種族、年齡等維度上可能產(chǎn)生不公正決策，弱勢(shì)群體更易成為監(jiān)控和錯(cuò)誤風(fēng)險(xiǎn)評(píng)估對(duì)象，挑戰(zhàn)了平等權(quán)和非歧視原則。對(duì)此，應(yīng)加強(qiáng)消防監(jiān)督基礎(chǔ)信息平臺(tái)建設(shè)，利用人工智能強(qiáng)大的數(shù)據(jù)處理能力，收集特定消防監(jiān)督領(lǐng)域的數(shù)據(jù)信息，以增強(qiáng)數(shù)據(jù)資源的代表性，擴(kuò)大覆蓋范圍。針對(duì)數(shù)據(jù)本身可能隱匿的社會(huì)偏見(jiàn)，可采用算法監(jiān)測(cè)的技術(shù)治理手段，通過(guò)對(duì)數(shù)據(jù)和算法的監(jiān)測(cè)和分析，及時(shí)發(fā)現(xiàn)和糾正潛在偏見(jiàn)，確保消防監(jiān)督執(zhí)法決策的公正性、客觀(guān)性和準(zhǔn)確性[4]。

5 結(jié)束語(yǔ)

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，新一代人工智能的快速發(fā)展與應(yīng)用，為消防監(jiān)督事業(yè)帶來(lái)前所未有的變革和發(fā)展機(jī)遇?；诖?，要大力推動(dòng)人工智能立法保障，全面加強(qiáng)人工智能學(xué)科教育，提高對(duì)人工智能技術(shù)的認(rèn)知與應(yīng)用能力，強(qiáng)化風(fēng)險(xiǎn)防范，力求實(shí)現(xiàn)科技發(fā)展與法治建設(shè)的相互契合，以及消防監(jiān)督和技術(shù)進(jìn)步的和諧統(tǒng)一。

參考文獻(xiàn)

[1]黃宇驍.行政機(jī)關(guān)信息管理行為的司法規(guī)制[J].行政法學(xué)研究，2024（3）：69-82.

[2]劉紀(jì)鋮.人工智能大模型引發(fā)的數(shù)據(jù)安全治理挑戰(zhàn)及其應(yīng)對(duì)策略研究[J].保密科學(xué)技術(shù)，2024（1）：12-16.

[3]羅世杰，賀國(guó)榮.生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化因應(yīng)[J].金融發(fā)展研究，2023（11）：82-90.

[4]邢超，趙凱.人工智能參與行政執(zhí)法的風(fēng)險(xiǎn)與法律規(guī)制[J].法制博覽，2022（18）：25-27.