AI大模型背景下數(shù)字治理的技術(shù)創(chuàng)新與風(fēng)險(xiǎn)應(yīng)對(duì)研究

AI大模型發(fā)展起源于自然語(yǔ)言處理領(lǐng)域。AI大模型可從參數(shù)規(guī)模、從模態(tài)支持以及從應(yīng)用領(lǐng)域四個(gè)方面來進(jìn)行劃分，其中，從參數(shù)規(guī)模上看，經(jīng)歷了預(yù)訓(xùn)練模型、大規(guī)模預(yù)訓(xùn)練模型、超大規(guī)模預(yù)訓(xùn)練模型三個(gè)階段；從模態(tài)支持上看，AI大模型可分為自然語(yǔ)言處理大模型，CV大模型、科學(xué)計(jì)算大模型等；從應(yīng)用領(lǐng)域上看，大模型可分為通用大模型和行業(yè)大模型兩種。AI大模型具備數(shù)據(jù)巨量、通用泛化、多態(tài)融合、自監(jiān)督學(xué)習(xí)等核心特征。

當(dāng)前，我國(guó)城市治理進(jìn)入全新階段，治理理念、治理技術(shù)、治理空間、治理數(shù)據(jù)化等正發(fā)生顯著變化。但隨著互聯(lián)網(wǎng)的快速發(fā)展，傳統(tǒng)的治理模式已無法滿足需求，變革治理模式迫在眉睫，AI大模型的關(guān)鍵技術(shù)及核心特征為解決以上問題提供了新思路。

一、我國(guó)數(shù)字治理發(fā)展現(xiàn)狀

當(dāng)前我國(guó)數(shù)字治理呈現(xiàn)出四大態(tài)勢(shì)：治理理念轉(zhuǎn)向服務(wù)、治理技術(shù)不斷創(chuàng)新、治理空間去邊界化、治理數(shù)據(jù)化態(tài)勢(shì)明顯。治理理念轉(zhuǎn)向服務(wù)，現(xiàn)階段的城市治理更關(guān)注市民的個(gè)性化需求，“管理+服務(wù)”雙融合的場(chǎng)景在不斷衍生與創(chuàng)新。治理技術(shù)不斷創(chuàng)新，新一代信息技術(shù)快速發(fā)展，推進(jìn)城市治理從數(shù)字化到智能化到智慧化的不斷升級(jí)，實(shí)現(xiàn)了從問題式治理向預(yù)防式治理的轉(zhuǎn)變。治理空間去邊界化，在數(shù)字化時(shí)代，城市內(nèi)和城市間的概念模糊，城市間實(shí)體和虛擬聯(lián)系度更加高效，要素流動(dòng)更加頻繁，高速流動(dòng)在增強(qiáng)了社會(huì)發(fā)展活力的同時(shí)，也加劇了社會(huì)治理的復(fù)雜度。治理數(shù)據(jù)化態(tài)勢(shì)明顯，數(shù)據(jù)正在重新定義城市，城市的交通、能源、商業(yè)等運(yùn)行模式正在被數(shù)據(jù)重塑，數(shù)據(jù)正在重新優(yōu)化和配置城市的發(fā)展空間與資源要素。

當(dāng)前城市數(shù)字治理建設(shè)取得了積極成效，但也面臨著一些困難和挑戰(zhàn)。一是城市擴(kuò)張帶來的治理問題；二是城市數(shù)字治理過程中衍生的新問題。從城市發(fā)展來看，“城市病”嚴(yán)重制約著城市的可持續(xù)發(fā)展，衍生出系列現(xiàn)實(shí)問題，加重了城市治理的任務(wù)與壓力；數(shù)字治理過程中，存在著“信息孤島”“數(shù)據(jù)煙囪”等問題，內(nèi)容不互通、數(shù)據(jù)不兼容，難以進(jìn)行有效整合并發(fā)揮作用。此外，還包括個(gè)人隱私保護(hù)、數(shù)據(jù)倫理等問題。

二、AI大模型賦能數(shù)字治理創(chuàng)新發(fā)展路徑

AI大模型賦能城市數(shù)字治理可以總結(jié)為“1+3+4”模式，從“模型+平臺(tái)+應(yīng)用” 三個(gè)層級(jí)分別發(fā)力，形成良性循環(huán)的智能化生態(tài)共同體。3大模型能力引擎：主要包含基礎(chǔ)、任務(wù)、行業(yè)大模型。1大核心賦能平臺(tái)：GPTAl應(yīng)用賦能平臺(tái)將大模型落地研發(fā)標(biāo)準(zhǔn)化，推動(dòng)AI廣泛落地，提高場(chǎng)景應(yīng)用精度；4類AI賦能應(yīng)用：圍繞產(chǎn)業(yè)升級(jí)、公共服務(wù)、數(shù)字政府、城市治理等四大領(lǐng)域，發(fā)展各類AI特色應(yīng)用。

推進(jìn)AI大模型+公共服務(wù)，精準(zhǔn)推送“一站式”服務(wù)。依托plugin，打造市民服務(wù)“一語(yǔ)通辦”。依托AI大模型的文字、語(yǔ)音和圖片處理的多模態(tài)能力，以及政務(wù)大數(shù)據(jù)底座，在上下文學(xué)習(xí)、人類反饋強(qiáng)化學(xué)習(xí)和第三方服務(wù)Plugin技術(shù)的加持下，提供政務(wù)服務(wù)“一語(yǔ)通辦”。AI大模型賦能政策精準(zhǔn)觸達(dá)。運(yùn)用大數(shù)據(jù)精準(zhǔn)匹配“政策要求-個(gè)體條件”，對(duì)滿足條件的個(gè)體實(shí)行“免申即享”，以反饋促進(jìn)激勵(lì)調(diào)整，以評(píng)估推動(dòng)政策優(yōu)化。AI大模型賦能智慧旅游。搭建“蟻群算法”規(guī)劃景區(qū)最優(yōu)路線，利用“分層聚類分析算法” 推薦景點(diǎn)、餐飲、住宿，利用“時(shí)間序列分析算法”預(yù)測(cè)景區(qū)人數(shù)。

推進(jìn)AI大模型+平安城市，健全完善“無死角”安防。構(gòu)建CityGPT城市大模型應(yīng)用平臺(tái)，實(shí)現(xiàn)城市運(yùn)行狀態(tài)的多尺度、高仿真、動(dòng)態(tài)化、交互式的精細(xì)模擬，提供核心技術(shù)使能、資源融合共享、模型靈活配置、數(shù)據(jù)分析研判等應(yīng)用支撐能力。AI繪制城市“運(yùn)行畫像”，整合城市中多樣元素的實(shí)時(shí)狀態(tài)，探索繪制城市“運(yùn)行畫像”場(chǎng)景，并進(jìn)行可視化展示，實(shí)時(shí)反映城市發(fā)展過程中的問題。構(gòu)建“城市慧眼”實(shí)現(xiàn)“云端統(tǒng)覽”，定制物品識(shí)別、區(qū)域識(shí)別、時(shí)間識(shí)別等多種算法，針對(duì)單張圖片或?qū)崟r(shí)視頻流，快速識(shí)別出多個(gè)場(chǎng)景，精準(zhǔn)鑒別違規(guī)事件并報(bào)警。探索城區(qū)更新“未來之眼”，選擇試點(diǎn)區(qū)域，整合形成規(guī)劃管控“一張圖”，運(yùn)用平臺(tái)模擬規(guī)劃建成后的社區(qū)運(yùn)行狀態(tài)，歸納總結(jié)規(guī)劃意圖實(shí)現(xiàn)程度和缺陷，基于體檢結(jié)果及時(shí)改進(jìn)規(guī)劃設(shè)計(jì)方案。AI助力城市“雙碳”行動(dòng)，通過深度學(xué)習(xí)、運(yùn)籌學(xué)等綜合技術(shù)構(gòu)建AI綜合能源調(diào)度中心，優(yōu)化整體能源管理，使能源使用達(dá)到“快、準(zhǔn)、優(yōu)”的效果。

推進(jìn)AI大模型+數(shù)字政府，打造“更聰明”政務(wù)體系。AI助力智能公文處理，在公文生成、公文審批、公文閱讀等環(huán)節(jié)嵌入AI技術(shù)，實(shí)現(xiàn)智能糾錯(cuò)、智能批辦、輔助批注、自動(dòng)總結(jié)等，持續(xù)優(yōu)化公文處理流程。RPA助力“最多報(bào)一次”。建立標(biāo)準(zhǔn)化的報(bào)表編制、審核規(guī)則，利用RPA技術(shù)將編制、審核規(guī)則及標(biāo)準(zhǔn)化流程寫入報(bào)表機(jī)器人程序中，實(shí)現(xiàn)催報(bào)的全覆蓋、自動(dòng)化處理，審核的全流程、智能化核驗(yàn)。推進(jìn)AI數(shù)字人+政務(wù)服務(wù)互動(dòng)，綜合計(jì)算機(jī)視覺、音頻識(shí)別、語(yǔ)音識(shí)別等技術(shù)打造虛擬人平臺(tái)，為用戶展示各類信息，實(shí)現(xiàn)人機(jī)互動(dòng)。

推進(jìn)AI大模型+經(jīng)濟(jì)運(yùn)行，充當(dāng)產(chǎn)業(yè)升級(jí)“倍增器”。以AI大模型推進(jìn)智慧金融，打通金融機(jī)構(gòu)數(shù)據(jù)、征信機(jī)構(gòu)數(shù)據(jù)、政府部門數(shù)據(jù)、大型企業(yè)數(shù)據(jù)等，利用大數(shù)據(jù)與機(jī)器學(xué)習(xí)模型綜合量化評(píng)價(jià)客戶風(fēng)險(xiǎn)，形成審批決策。AI大模型精準(zhǔn)服務(wù)企業(yè)，生成樓宇經(jīng)濟(jì)“一張圖”，基于全量數(shù)據(jù)構(gòu)建企業(yè)風(fēng)險(xiǎn)評(píng)估“冒煙指數(shù)”模型，及時(shí)掌握市場(chǎng)主體經(jīng)營(yíng)行為、規(guī)律與特征。

三、AI大模型數(shù)字治理風(fēng)險(xiǎn)分析和應(yīng)對(duì)策略

人工智能技術(shù)在推動(dòng)政府?dāng)?shù)字化轉(zhuǎn)型的同時(shí)，在技術(shù)、應(yīng)用及倫理等方面尚存在一定的風(fēng)險(xiǎn)挑戰(zhàn)。一是算法濫用引發(fā)安全風(fēng)險(xiǎn)，人工智能技術(shù)仍處于初級(jí)階段，可能存在技術(shù)漏洞；二是算法歧視引發(fā)公平風(fēng)險(xiǎn)，人工智能算法中可能內(nèi)嵌“歧視”，致使決策結(jié)果有失公允；三是過度依賴導(dǎo)致“信息繭房”，同時(shí)，人工智能應(yīng)用伴生的主體責(zé)任難認(rèn)定風(fēng)險(xiǎn)。

（一）探索構(gòu)建一套倫理約束體系

遵循“公平正義、造福人類”理念，探索構(gòu)建一套人工智能倫理規(guī)范體系，明晰道德邊界，構(gòu)建AI倫理的落地機(jī)制和體系，引導(dǎo)人工智能創(chuàng)新。探索發(fā)揮倫理規(guī)范對(duì)人工智能社會(huì)關(guān)系的調(diào)整功能，對(duì)機(jī)器人預(yù)設(shè)道德準(zhǔn)則，為產(chǎn)品本身進(jìn)行倫理指引；規(guī)定人工智能技術(shù)研發(fā)及應(yīng)用的道德規(guī)范，對(duì)科研人員進(jìn)行倫理約束。探索制定《機(jī)器人倫理章程》，設(shè)計(jì)倫理框架，為機(jī)器人預(yù)設(shè)道德準(zhǔn)則；強(qiáng)化科技專家的社會(huì)責(zé)任，為人工智能研發(fā)、應(yīng)用提供道德指引。

（二）探索構(gòu)建一套技術(shù)應(yīng)對(duì)手段

建立綜合治理機(jī)制，一是對(duì)AI治理推進(jìn)精準(zhǔn)敏捷監(jiān)管。對(duì)人工智能技術(shù)設(shè)定“紅線”區(qū)，嚴(yán)格研制開發(fā)底線，并進(jìn)行應(yīng)用的限定。其次，在對(duì)AI應(yīng)用分級(jí)分類的基礎(chǔ)上，采取分散化、差異化的監(jiān)管，針對(duì)算法推薦服務(wù)、深度合成、自動(dòng)駕駛等不同AI應(yīng)用分別制定監(jiān)管規(guī)則。

（三）探索建立一套法律制度規(guī)范

在頂層規(guī)劃層面，統(tǒng)籌規(guī)劃、系統(tǒng)構(gòu)建AI產(chǎn)業(yè)規(guī)范及保障體系，強(qiáng)化數(shù)據(jù)產(chǎn)權(quán)問題研究，規(guī)范數(shù)據(jù)權(quán)屬、使用、交易、共享機(jī)制，解決數(shù)據(jù)所有權(quán)、使用權(quán)、收益權(quán)等問題。在行業(yè)應(yīng)用層面，推動(dòng)自動(dòng)駕駛、智能醫(yī)療、智能制造、服務(wù)機(jī)器人等重點(diǎn)領(lǐng)域及應(yīng)用場(chǎng)景的規(guī)則指定，加強(qiáng)對(duì)產(chǎn)品和服務(wù)的風(fēng)險(xiǎn)檢測(cè)，構(gòu)建AI責(zé)任劃分體系，探索有效的監(jiān)管路徑。在AI監(jiān)管方面，建立和暢通人工智能產(chǎn)品的投訴舉報(bào)等監(jiān)管機(jī)制，鼓勵(lì)第三方機(jī)構(gòu)依托標(biāo)準(zhǔn)開展評(píng)測(cè)。

（四）探索構(gòu)建一套多元共治模式

積極探索打造多元主體參與、協(xié)同共治的治理機(jī)制，鼓勵(lì)政府、企業(yè)、行業(yè)組織、學(xué)術(shù)團(tuán)體、用戶或消費(fèi)者、社會(huì)公眾等多元主體共同參與。政府層面要承擔(dān)起對(duì)人工智能技術(shù)及服務(wù)監(jiān)管管理的職責(zé)，為人工智能營(yíng)造良好的發(fā)展環(huán)境；行業(yè)組織可以通過制定技術(shù)標(biāo)準(zhǔn)、倡導(dǎo)行業(yè)自律等方式推動(dòng)人工智能規(guī)范發(fā)展；科技企業(yè)實(shí)現(xiàn)自我治理和自律管理，積極落實(shí)“倫理先行”理念；公眾是治理過程中的重要參與者，可以適當(dāng)介入到治理監(jiān)督過程中，維護(hù)自身合法權(quán)益。

作者單位：寧波市數(shù)據(jù)服務(wù)中心