人工智能在公共管理中應(yīng)用的風(fēng)險探析

朱子葉

摘要：人工智能技術(shù)的快速發(fā)展，推動了公共管理方式創(chuàng)新，同時產(chǎn)生一定應(yīng)用風(fēng)險，如基礎(chǔ)設(shè)施層、算法層、應(yīng)用層出現(xiàn)的部分風(fēng)險。本文就人工智能在公共管理中應(yīng)用的風(fēng)險探析。

關(guān)鍵詞：人工智能;公共管理;應(yīng)用風(fēng)險

1.引言

人工智能在公共管理應(yīng)用初期，管理者不僅需發(fā)掘新技術(shù)的應(yīng)用紅利，同時需對新技術(shù)的應(yīng)用風(fēng)險進(jìn)行評估，及時對其風(fēng)險漏洞進(jìn)行處理，保證公共管理工作的整體開展安全性與可靠性。為達(dá)到人工智能技術(shù)預(yù)期應(yīng)用價值，需對其應(yīng)用風(fēng)險進(jìn)行針對性分析，進(jìn)而合理優(yōu)化完善。

2.基礎(chǔ)設(shè)施層，數(shù)據(jù)安全風(fēng)險

在現(xiàn)代社會公共管理過程中，人工智能技術(shù)主要依靠基礎(chǔ)設(shè)施，即大數(shù)據(jù)平臺、儲存平臺、調(diào)度系統(tǒng)、運算系統(tǒng)。通過對公共大數(shù)據(jù)進(jìn)行分析可知，海量的公共大數(shù)據(jù)、高質(zhì)量、多領(lǐng)域的數(shù)據(jù)資料，則可以客觀真實的反饋公共事務(wù)的復(fù)雜關(guān)系，進(jìn)而訓(xùn)練得出高精度的智能算法，為公共管理提供真實、可行、客觀的分析參考結(jié)果。為達(dá)到預(yù)期公共管理效果，需在實際公共管理過程中，將相關(guān)公共信息進(jìn)行量化處理，為人工智能處理提供數(shù)據(jù)支持[1]。

如政府進(jìn)行智慧政務(wù)平臺搭建時，需對政務(wù)工作開展模式進(jìn)行改革創(chuàng)新，合理應(yīng)用現(xiàn)代網(wǎng)絡(luò)信息技術(shù)，使得用戶“足不出戶”利用手機(jī)終端完成事務(wù)辦理，而用戶開展政務(wù)辦理時，則會產(chǎn)生一定公共數(shù)據(jù)，智慧政務(wù)平臺將對數(shù)據(jù)信息進(jìn)行收集整理。部分政務(wù)系統(tǒng)管理時，設(shè)定人臉識別閘機(jī)，預(yù)先對政務(wù)工作人員的人臉信息進(jìn)行采集，將其個人信息轉(zhuǎn)化為代碼程序，為后續(xù)政務(wù)系統(tǒng)運行鋪墊基礎(chǔ)。2020年伊始出現(xiàn)的新冠疫情，給公共事務(wù)開展造成直接沖擊，為保證社會公共服務(wù)的正常運行，相關(guān)公共服務(wù)部門推出在線辦公、在線會議等工作模式，加速了公共管理實踐決策端到服務(wù)端的轉(zhuǎn)變。

3.算法層，風(fēng)險解析

3.1算法監(jiān)管風(fēng)險

在算法層運行過程中，由于監(jiān)管力度不足，導(dǎo)致算法監(jiān)管風(fēng)險的增加，如部分地區(qū)的無人駕駛、無人售貨、隱私合規(guī)等，給市場運行監(jiān)管造成一定難度。因為，人工智能在公共管理工作中應(yīng)用時，將出現(xiàn)產(chǎn)品許可、研發(fā)監(jiān)督、侵權(quán)責(zé)任等不同監(jiān)管問題。

在人工智能技術(shù)研發(fā)過程中，可能會涉及到技術(shù)專利，因此使得外部人員介入監(jiān)管的成本非常高昂，無法在算法出現(xiàn)重大問題前進(jìn)行預(yù)防，給公共管理工作造成一定影響。由于智能算法的設(shè)計特殊性，無法簡要進(jìn)行設(shè)計程序解釋，導(dǎo)致智能算法監(jiān)管工作出現(xiàn)短板。人工智能算法運行時，算法運算與推理機(jī)制都處于密封的“黑盒”當(dāng)中，公共管理人員與監(jiān)管方案只可以輸入數(shù)據(jù)，由算法進(jìn)行自主訓(xùn)練，直到最終輸出數(shù)據(jù)運算結(jié)果，而監(jiān)管方與管理方，則無法了解算法的訓(xùn)練學(xué)習(xí)模式與內(nèi)在邏輯體系。鑒于算法黑盒運行過程的不可解釋性，無法滿足公共管理的監(jiān)管基本要求，使得算法結(jié)果的整體可靠性與可信度降低[2]。

3.2算法偏見風(fēng)險

在算法輸入大數(shù)據(jù)平臺時，可能會帶有一定算法偏見，而公共管理部門無法覺察到算法偏見，導(dǎo)致部分信息量輸入到智能算法系統(tǒng)當(dāng)中，算法程序則會對輸入的數(shù)據(jù)信息進(jìn)行深度挖掘，使得人工智能“學(xué)習(xí)”過程中產(chǎn)生一定算法偏見，該偏見問題的存在，將導(dǎo)致人工智能做出錯誤判斷，進(jìn)而衍生出算法偏見風(fēng)險。

算法設(shè)計者精心設(shè)計的算法系統(tǒng)，本人認(rèn)為算法系統(tǒng)完美無缺，但由于智能算法沒有得到同行專家審查，并沒有對算法的偏見性進(jìn)行考察，且未設(shè)計抵御偏見算法的相關(guān)機(jī)制，導(dǎo)致算法偏見風(fēng)險一旦出現(xiàn)，則無法進(jìn)行很好解決。在實際算法應(yīng)用過程中，工程師將目標(biāo)任務(wù)轉(zhuǎn)化為智能算法可識別的程序代碼，在代碼程序設(shè)定時，將具有很強(qiáng)的主觀意識，進(jìn)而導(dǎo)致輸出結(jié)果受到一定影響。在算法程序設(shè)定過程中，出資利益集團(tuán)為保證核心利益，將引導(dǎo)算法出現(xiàn)一定偏好，導(dǎo)致智能算法成為資本操控與政治內(nèi)嵌的助手，進(jìn)而對公共管理系統(tǒng)進(jìn)行操控，引導(dǎo)人民大眾的盲目信任，不利于社會可持續(xù)穩(wěn)定發(fā)展。

3.3技術(shù)精度風(fēng)險

人工智能技術(shù)基于特殊算法形成應(yīng)用價值，但由于算法技術(shù)方案的差異性，無法保證算法方案的可靠性，導(dǎo)致算法層，出現(xiàn)技術(shù)精度風(fēng)險。在人工智能技術(shù)開發(fā)過程中，基于實驗室的良好條件完成算法運行，但并不表示算法技術(shù)方案，在現(xiàn)實復(fù)雜環(huán)境中應(yīng)用具有一定可靠性。由此可見，人工智能技術(shù)的應(yīng)用穩(wěn)定性仍需考證。

在公共管理服務(wù)合作過程中，由于合作雙方的視域鴻溝，導(dǎo)致無法對人工智能技術(shù)穩(wěn)定性與可靠性進(jìn)行全面評估，給后續(xù)公共管理工作埋下安全隱患。同時，公共管理部門缺乏技術(shù)創(chuàng)新意識，沒有打造核心工程師團(tuán)隊，導(dǎo)致無法對人工智能技術(shù)進(jìn)行科學(xué)評估，進(jìn)而引發(fā)人工智能技術(shù)精度風(fēng)險。

4.應(yīng)用層，風(fēng)險剖析

公共管理應(yīng)用層出現(xiàn)的風(fēng)險，主要是基礎(chǔ)設(shè)施層與算法層，產(chǎn)生的風(fēng)險傳導(dǎo)形成應(yīng)用層風(fēng)險。筆者以隱私泄露風(fēng)險為例分析，基礎(chǔ)設(shè)施層的用戶隱私數(shù)據(jù)，遭到黑客攻擊后，將可能受到算法層相關(guān)利益集團(tuán)的操控，對用戶的隱私進(jìn)行截取，導(dǎo)致用戶應(yīng)用隱私不斷泄漏。

5.結(jié)束語

綜上，文中對人工智能技術(shù)，在公共管理中的應(yīng)用風(fēng)險進(jìn)行分析。筆者基于基礎(chǔ)設(shè)施層、算法層、應(yīng)用層進(jìn)行風(fēng)險闡述，旨在說明人工智能技術(shù)應(yīng)用的實際效果。未來人工智能技術(shù)應(yīng)用過程中，應(yīng)當(dāng)對人工智能技術(shù)進(jìn)行不斷完善，保證人工智能技術(shù)應(yīng)用的可靠性與安全性，推動我國人工智能技術(shù)的可持續(xù)發(fā)展，使其發(fā)揮出一定社會公共服務(wù)價值。

參考文獻(xiàn)：

[1]胡象明，陳一帆.人工智能在公共管理中應(yīng)用的風(fēng)險分析[J].科技智囊，2020（01）：66-70.

[2]鮑源濤.淺談人工智能在公共管理中的應(yīng)用[J].中國新通信，2019，21（01）：138.