[摘"要]當(dāng)前以ChatGPT、DeepSeek等為代表的大模型領(lǐng)域科技創(chuàng)新與應(yīng)用發(fā)展異常活躍,并引發(fā)通用人工智能的新一輪發(fā)展浪潮。大模型在電子商務(wù)、金融投資顧問等場景表現(xiàn)出廣闊發(fā)展前景的同時,也引發(fā)了新的治理挑戰(zhàn),探討大模型治理策略與模式對推動大模型高質(zhì)量可持續(xù)發(fā)展具有重要的理論價值與實踐意義。文章從場景驅(qū)動視角出發(fā),根據(jù)場景屬性將大模型應(yīng)用場景劃分為商業(yè)應(yīng)用、公商混合以及公共服務(wù)三種類型,探討了大模型在具體場景應(yīng)用的正負(fù)外部性影響,進(jìn)而提出發(fā)展和規(guī)制視角下針對具體場景的技術(shù)價值創(chuàng)造、風(fēng)險防范化解、技術(shù)信任構(gòu)建等具體治理策略,進(jìn)一步深入分析了基于場景適配的大模型治理模式,包括適應(yīng)性治理、實驗性治理等六種,從而將上述治理策略轉(zhuǎn)化為具體場景的實際行動。研究為從場景驅(qū)動視角出發(fā),更加精準(zhǔn)有效地對大模型在具體場景的治理提供了理論依據(jù)和實踐指導(dǎo)。
[關(guān)鍵詞]場景驅(qū)動;大模型;場景屬性;治理策略;治理模式
[中圖分類號]F49;F0629;F204"[文獻(xiàn)標(biāo)識碼]A"[文章編號]"1673-0461(2025)05-0027-07
一、引言
以ChatGPT、DeepSeek等為代表的大模型使用超大規(guī)模參數(shù)和海量訓(xùn)練數(shù)據(jù),涌現(xiàn)出強(qiáng)大的信息加工、薈萃、整合和生成能力。尤其作為一家中國的初創(chuàng)AI企業(yè),與OpenAI開發(fā)的ChatGPT相比,DeepSeek不僅在技術(shù)上實現(xiàn)了重要突破——用純深度學(xué)習(xí)方法讓大模型自發(fā)涌現(xiàn)出推理能力,還大幅降低了推理模型的成本,其新模型DeepSeekR1以十分之一的成本達(dá)到了GPTo1級別的表現(xiàn),引發(fā)海外AI圈的廣泛討論。大模型在電子商務(wù)、金融投資顧問(簡稱金融投顧)、醫(yī)療健康等場景表現(xiàn)出廣闊應(yīng)用前景,也引發(fā)了治理挑戰(zhàn)。大模型治理已經(jīng)從理念探討走到了實踐探索前沿,成為國際社會共同關(guān)注的熱點議題。歐盟提出《通用數(shù)據(jù)保護(hù)條例》《人工智能法案》等旨在確保人工智能安全、透明和可信賴的指導(dǎo)原則和法規(guī)[1],并將根據(jù)《人工智能法案》設(shè)立歐洲人工智能辦公室,全面負(fù)責(zé)監(jiān)督和確保相關(guān)法律的順利實施、協(xié)調(diào)聯(lián)合調(diào)查等事務(wù)。美國頒布《人工智能權(quán)利法案藍(lán)圖》《人工智能風(fēng)險管理框架》等政策,注重在傳統(tǒng)法律框架下探索有效靈活的執(zhí)法手段,如運(yùn)用傳統(tǒng)體系打擊大模型應(yīng)用過程中出現(xiàn)的詐騙、惡意競爭等行為。德國和日本分別提出風(fēng)險鏈模型和VCIO模型,從而基于風(fēng)險分級分類的方式對大模型進(jìn)行治理。后發(fā)國家立法注重與已有法律框架的互操作性,如加拿大的《人工智能和數(shù)據(jù)法案》指出該法案在關(guān)鍵定義、概念、風(fēng)險監(jiān)管路徑等方面,均注重與人工智能領(lǐng)域國際規(guī)范接軌①。
中國高度重視大模型的治理并對此做出一系列部署。2023年4月,習(xí)近平總書記在主持召開中共中央政治局會議時指出:“要重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風(fēng)險。”2023年7月,國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部等部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,將信息內(nèi)容安全作為治理重點,相關(guān)條款可分為績效標(biāo)準(zhǔn)、設(shè)計標(biāo)準(zhǔn)、內(nèi)部管理型標(biāo)準(zhǔn),以匹配大模型的不可控性、快速迭代性、大數(shù)據(jù)特性[2]。2023年10月,國家網(wǎng)信辦發(fā)布《全球人工智能治理倡議》,旨在人工智能治理中加強(qiáng)信息交流和技術(shù)合作,共同做好風(fēng)險防范,形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范,不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。大模型與應(yīng)用場景結(jié)合才能發(fā)揮最大作用,但從目前大模型在典型場景的實際應(yīng)用情況來看,大模型在電子商務(wù)、金融投顧等場景應(yīng)用過程中,不僅面臨治理策略落地實操性欠缺,同時也面臨治理模式單一、場景適配程度低,以及治理效果有限等問題。如何從場景驅(qū)動視角出發(fā),探尋大模型在不同場景治理的準(zhǔn)確定位,構(gòu)建與大模型不同場景高度適配的治理策略和治理模式愈加重要且迫切。
二、大模型應(yīng)用的場景分類及影響分析
(一)大模型的典型場景應(yīng)用及分類
國內(nèi)外學(xué)者主要圍繞大模型應(yīng)用較為廣泛的電子商務(wù)、金融投顧、醫(yī)療健康、教育應(yīng)用以及政務(wù)服務(wù)場景進(jìn)行探討。在電子商務(wù)場景,大模型一方面通過視覺生成算法形成商品3D立體模型、打造數(shù)字人等為電商帶來極致的感官體驗和豐富的應(yīng)用場景,另一方面通過分析銷售大數(shù)據(jù)和消費(fèi)者偏好生成精準(zhǔn)用戶畫像,助力精準(zhǔn)營銷[3];在金融投顧場景,大模型已成為金融領(lǐng)域數(shù)字化轉(zhuǎn)型的重要支柱,ChatGPT作為高效的自然語言處理工具正被廣泛采用[4],如金融風(fēng)險管理[5]、金融科學(xué)研究[6]等;在醫(yī)療健康場景,大模型賦能醫(yī)療健康諸多環(huán)節(jié),推動醫(yī)療服務(wù)水平和質(zhì)量大幅提升,同時圍繞法律、政策的監(jiān)管框架正在形成[7];在教育應(yīng)用場景,基于大模型啟發(fā)性內(nèi)容生成、對話情境理解、序列任務(wù)執(zhí)行和程序語言解析四大核心能力,拓展學(xué)習(xí)資源與方法,為智能家教與在線教育提供技術(shù)支撐,甚至引發(fā)教育形態(tài)變革和重塑[8];在政務(wù)服務(wù)場景,大模型正在成為塑造政務(wù)服務(wù)智能體的新型引擎,驅(qū)動政務(wù)服務(wù)的智能化與需求革命,同時對大模型輔助行政決策帶來的問題也應(yīng)加強(qiáng)法律規(guī)制[9]。
2019年世界和平論壇,很多學(xué)者主張對人工智能典型場景進(jìn)行劃分,以幫助人類更好理解人工智能在什么情況下能做什么。本研究根據(jù)應(yīng)用場景的商業(yè)與公共屬性,將其劃分為商業(yè)應(yīng)用場景、公商混合場景以及公共服務(wù)場景三類:①商業(yè)應(yīng)用場景是指借助大模型通過提供更精準(zhǔn)的預(yù)測、更高效的決策支持和更智能化的服務(wù)來加快業(yè)務(wù)增長和效率提升。以電子商務(wù)和金融投顧為代表,大模型加持下的電子商務(wù)呈現(xiàn)虛實交融、沉浸體驗的特征,正在加速商品3D模型、虛擬主播甚至虛擬貨場的構(gòu)建,通過與AR、VR技術(shù)有效結(jié)合,實現(xiàn)視聽等多種感官的沉浸式購物體驗。金融投顧場景具有數(shù)據(jù)資產(chǎn)化、敏感化的特征,大模型節(jié)約了人力成本、降低了投資門檻,同時通過自動化處理海量復(fù)雜的金融數(shù)據(jù),分析客戶投資目標(biāo)、風(fēng)險偏好等,提供更加精準(zhǔn)的投資組合建議[10]。②公商混合場景是指借助大模型能力兼顧商業(yè)價值獲取和公共服務(wù)問題的解決。以醫(yī)療健康為代表,大模型賦能下醫(yī)療健康場景更加凸顯生命至上、注重隱私的特征,大模型通過加速新型藥物研發(fā)進(jìn)程、輔助醫(yī)療診斷、康復(fù)治療等諸多環(huán)節(jié),推動醫(yī)療服務(wù)水平和質(zhì)量的大幅提升[11-12]。③公共服務(wù)場景是指借助大模型改善和革新公共服務(wù),以更高效、更公平地滿足公眾需求。以教育應(yīng)用和政務(wù)服務(wù)為代表,教育應(yīng)用場景特征集中體現(xiàn)為核心價值觀、理性德性,大模型對教學(xué)、學(xué)習(xí)以及育人方面帶來重大影響,包括助力建構(gòu)多元化、智能化、綜合化的教學(xué)體系,打造泛在化、個性化、協(xié)作化的學(xué)習(xí)形態(tài),重塑知識為基、能力為重、價值為先的育人內(nèi)涵[13-14]。政務(wù)服務(wù)場景具有公平正義、精準(zhǔn)高效的特征,大模型促進(jìn)政務(wù)情境的自動化與虛實共生,引發(fā)服務(wù)供給的智能化與需求革命,正在成為塑造政務(wù)服務(wù)智能體的新型引擎[9]。大模型典型場景分類、特征及應(yīng)用影響如表1。
(二)大模型場景應(yīng)用的變革性影響
大模型在電子商務(wù)、金融投顧等場景實際應(yīng)用過程中,既帶來了技術(shù)革新、效率提升等正外部性影響,同時也引發(fā)了數(shù)據(jù)安全風(fēng)險、倫理道德失范、結(jié)構(gòu)性失衡等負(fù)外部性影響。
1大模型在商業(yè)應(yīng)用場景的正負(fù)外部性影響
隨著數(shù)字技術(shù)應(yīng)用和消費(fèi)升級加快,追求沉浸式的購物體驗成為電子商務(wù)場景的發(fā)展趨勢,大模型正加速商品3D模型、數(shù)字人等虛擬貨場建設(shè),并融合AR/VR等技術(shù),賦能線上商城和線下秀場的加速演變,為消費(fèi)者提供多感官交互的極致體驗,如2021年7月,阿里巴巴首次展示了其虛擬現(xiàn)實計劃“Buy+”,并提供360度虛擬的購物現(xiàn)場開放購物體驗②,但同時可能引發(fā)隱私泄露擔(dān)憂、加劇市場不平等性等,其伴隨的負(fù)面影響不可忽視。大模型通過對金融咨詢、金融產(chǎn)品等深度學(xué)習(xí)與內(nèi)容生成,提升金融機(jī)構(gòu)的運(yùn)營效率和服務(wù)質(zhì)量,通過對復(fù)雜金融數(shù)據(jù)的分析幫助投資者理解市場動態(tài),識別潛在風(fēng)險和機(jī)會,做出更明智的投資決策,基于大模型的服務(wù)還可以覆蓋到之前難以觸及的“長尾客戶”群體,實現(xiàn)普惠金融的目標(biāo),同時也帶來了過度依賴、權(quán)責(zé)不明以及監(jiān)管困境等挑戰(zhàn)。
2大模型在公商混合場景的正負(fù)外部性影響
醫(yī)療行業(yè)面臨醫(yī)療資源分布不均、診斷過程過度依賴醫(yī)生經(jīng)驗和個人判斷等問題,大模型能分析海量醫(yī)學(xué)影像數(shù)據(jù),如X光片、MRI掃描結(jié)果等,幫助醫(yī)生更快識別病變部位并提供初步診斷意見,通過模擬分子結(jié)構(gòu)預(yù)測化合物活性、篩選潛在有效藥物成分,從而降低新藥研發(fā)成本,以及從非結(jié)構(gòu)化的文本數(shù)據(jù)中抽取有價值的信息支持醫(yī)學(xué)研究等。同時,如何保護(hù)患者隱私、大模型醫(yī)療技術(shù)標(biāo)準(zhǔn)與互操作性,以及大模型與醫(yī)生責(zé)任邊界確定等問題依然需要深入探討。
3大模型在公共服務(wù)場景的正負(fù)外部性影響
我國教育體系正面臨教育資源分布不均、教師工作負(fù)擔(dān)過重、學(xué)生獲取知識方式多元化等挑戰(zhàn)。大模型為教育行業(yè)帶來新機(jī)遇,通過數(shù)據(jù)分析實現(xiàn)對學(xué)生學(xué)習(xí)行為的個性化追蹤,幫助教師及時了解學(xué)生學(xué)習(xí)進(jìn)度和薄弱環(huán)節(jié),提供針對性輔導(dǎo)支持,借助自動化工具節(jié)省教師大量時間,使其專注于教學(xué)質(zhì)量提升和學(xué)生潛能挖掘,在線教育平臺結(jié)合大模型讓偏遠(yuǎn)地區(qū)學(xué)生能享受優(yōu)質(zhì)教育資源,打破教育資源地域分布不均,如科大訊飛推出星火大模型、AI學(xué)習(xí)機(jī)等在內(nèi)的科創(chuàng)教育產(chǎn)品。此外,由大模型導(dǎo)致的學(xué)生獲取知識差異加大、教師與大模型關(guān)系該如何平衡等都是需要進(jìn)一步考慮和解決的問題。當(dāng)前,政務(wù)服務(wù)面臨從信息數(shù)據(jù)匱乏到信息數(shù)據(jù)爆炸,需對公共屬性的海量數(shù)據(jù)進(jìn)行處理和回應(yīng)的時代性變遷,大模型能夠?qū)φ?wù)數(shù)據(jù)進(jìn)行深度挖掘、自然語言處理、人工神經(jīng)網(wǎng)絡(luò)分析和機(jī)器學(xué)習(xí),最終優(yōu)化政務(wù)服務(wù)的運(yùn)作方式與運(yùn)作流程。大模型通過虛擬空間場景、組織與資源要素集成等驅(qū)動政務(wù)服務(wù)生態(tài)系統(tǒng)的構(gòu)建[9],但同時要全方位考慮大模型驅(qū)動政務(wù)服務(wù)過程中引發(fā)的信息安全、知識產(chǎn)權(quán)、人類主體地位等風(fēng)險的影響。
三、基于場景類型的大模型治理策略
大模型治理與發(fā)揮其溢出帶動的“頭雁效應(yīng)”同等重要,更是推動其持續(xù)健康發(fā)展,為人類社會帶來更多福祉的應(yīng)有之義。不同場景類型對治理活動有其內(nèi)在具體要求,因此治理策略因場景類型不同而相異。
(一)大模型商業(yè)應(yīng)用場景的治理策略
對商業(yè)應(yīng)用場景而言,實現(xiàn)價值創(chuàng)造是其首要目標(biāo),目前大模型創(chuàng)造的價值有限,對此類場景以采取價值創(chuàng)造為愿景、風(fēng)險防控為底線的治理策略。例如,大模型能夠為電子商務(wù)和金融投顧場景的企業(yè)提供更高質(zhì)量的產(chǎn)品與服務(wù),提升收入和盈利能力,應(yīng)持續(xù)激發(fā)其價值創(chuàng)造能力,同時還應(yīng)筑牢數(shù)字安全底線,防范大模型商業(yè)應(yīng)用場景引發(fā)的系統(tǒng)性風(fēng)險,如算法歧視、市場操縱、法律監(jiān)管缺位等。
(二)大模型公商混合場景的治理策略
對公商混合場景而言,其可采取以信任構(gòu)建為抓手、多邊平衡為保障的治理策略。醫(yī)療健康場景兼具公共服務(wù)和商業(yè)應(yīng)用屬性,不僅通過遠(yuǎn)程醫(yī)療服務(wù)、優(yōu)化醫(yī)療資源分配等提升了公共醫(yī)療服務(wù)水平和覆蓋范圍,而且市場潛力巨大,但也帶來不少棘手的風(fēng)險。醫(yī)療健康場景對技術(shù)要求極為嚴(yán)苛,因此確保大模型在診斷、治療、健康管理等方面的安全性、可靠性、可解釋性和公平性等至關(guān)重要,同時醫(yī)療健康關(guān)乎病患生命健康,必須嚴(yán)格遵循一系列技術(shù)、安全及倫理規(guī)范,采取最高等級的風(fēng)險應(yīng)對策略。
(三)大模型公共服務(wù)場景的治理策略
對公共服務(wù)場景而言,安全穩(wěn)定是其治理首要目標(biāo),可采取以系統(tǒng)安全為前提、質(zhì)效提升為目標(biāo)的治理策略。例如,教育應(yīng)用場景需要培養(yǎng)學(xué)生的德性品德,以實現(xiàn)教育事業(yè)的根本價值目標(biāo),大模型在教育場景可采取價值觀念引導(dǎo)策略,堅守倫理道德原則,確保教育變革的健康化發(fā)展。此外,雖然大模型能為教育主體提供自動生成學(xué)習(xí)成果、打造更為安全且有創(chuàng)意的學(xué)習(xí)環(huán)境,但目前受眾偏向優(yōu)質(zhì)資源地區(qū),因此應(yīng)采取普惠個性推廣策略以便推動大模型覆蓋更多地區(qū)與群體。政務(wù)服務(wù)場景治理則應(yīng)著重體現(xiàn)確保系統(tǒng)安全和促進(jìn)服務(wù)的公平正義、精準(zhǔn)高效,因此適宜采取公共安全對齊策略與公平效率提升策略。
整體而言,基于場景分類的治理策略可分為發(fā)展型和規(guī)制型,其中發(fā)展型策略包括技術(shù)價值創(chuàng)造、技術(shù)信任構(gòu)建、普惠個性推廣、公平效率提升,規(guī)制型策略包括風(fēng)險防范化解、價值觀念引導(dǎo)、公共安全對齊,這些策略根據(jù)場景分類應(yīng)用到具體實踐之中(見表2)。
四、基于場景適配的大模型治理模式
在明確治理策略基礎(chǔ)上需進(jìn)一步討論包括治理工具和決策方式在內(nèi)的治理模式,從而將治理策略轉(zhuǎn)化為實際行動。近年來,數(shù)字技術(shù)發(fā)展與應(yīng)用的風(fēng)險日益顯現(xiàn),學(xué)界提出適應(yīng)性治理、實驗性治理、預(yù)見性治理、試探性治理、敏捷性治理、自反性治理等模式并被廣泛用于解釋各類新興技術(shù)的治理實踐(見表3)。①適應(yīng)性治理以管理制度變遷來應(yīng)對環(huán)境變化產(chǎn)生的復(fù)雜性與不確定性,其基礎(chǔ)是反應(yīng)的多樣性,行為主體通過反應(yīng)、醞釀、準(zhǔn)備、先發(fā)制人等各種行動和步驟,不斷接受各種內(nèi)外挑戰(zhàn)并進(jìn)行調(diào)整。適應(yīng)性治理的關(guān)鍵特征是在不同規(guī)模上的合作、彈性和基于學(xué)習(xí)的議題管理[15]。②實驗性治理本質(zhì)上是一種遞歸決策,即多個公共行動主體為達(dá)成某種政策目標(biāo),在統(tǒng)一框架下分散決策、彼此互動,在不斷的評估中共同學(xué)習(xí),并根據(jù)自身環(huán)境及條件修正各自行動方案[16-17]。③預(yù)見性治理強(qiáng)調(diào)通過對未來的預(yù)測和前瞻性策略,主動應(yīng)對潛在挑戰(zhàn),在問題出現(xiàn)前或在問題成為危機(jī)前進(jìn)行有效控制。預(yù)見性治理要求多方參與并建立行動者遠(yuǎn)見、參與及整合能力,借助大數(shù)據(jù)、云計算等技術(shù)手段更加準(zhǔn)確地預(yù)測變化與趨勢分析[18]。④試探性治理指的是與確定性治理過程分解式的線性治理方式相對應(yīng),嘗試通過循環(huán)迭代的方式來管理復(fù)雜性、不確定性問題的治理模式。試探性治理從技術(shù)與制度協(xié)同演化關(guān)系切入,形成了辯證的試探性治理模式,表現(xiàn)為及時、合理地配置技術(shù)工具和制度工具,靈活漸進(jìn)地處置問題[19]。⑤敏捷性
治理強(qiáng)調(diào)多元主體的共同參與和合作,同時注重政策工具的快速反應(yīng)和適應(yīng)性演化,以及政府作為權(quán)威主體在其中扮演的主導(dǎo)性角色[20]。敏捷性治理實施需要監(jiān)管者與被監(jiān)管者形成相互依賴的互動關(guān)系,對產(chǎn)業(yè)發(fā)展過程風(fēng)險進(jìn)行及時評估,采取引導(dǎo)性、指向性而非懲罰式、選擇式的監(jiān)管行為[21]。⑥自反性治理特點就是它關(guān)注自身,治理過程也可以成為被調(diào)整的對象。這意味著它要對治理本身的基礎(chǔ)與過程,包括概念、理論、實踐、程序、制度等進(jìn)行不斷質(zhì)疑,并尋求更好的替代者[22]。
(一)大模型商業(yè)應(yīng)用場景的治理模式
發(fā)展視角下,電子商務(wù)和金融投顧場景的治理以釋放技術(shù)價值創(chuàng)造能力為發(fā)力點,根據(jù)適應(yīng)性治理可從政策制定、人才培養(yǎng)、應(yīng)用推廣以及資金支持等方面做出回應(yīng),如明確大模型發(fā)展目標(biāo)并將其納入國家或地區(qū)科技發(fā)展規(guī)劃,加大人才培養(yǎng),支持AI基礎(chǔ)研究、推動產(chǎn)學(xué)研合作、示范項目推廣等,以持續(xù)激發(fā)與釋放大模型的價值創(chuàng)造能力;規(guī)制視角下,實驗性治理涵蓋試點、篩選和擴(kuò)散的動態(tài)過程,認(rèn)為中央與地方通過融合式共同學(xué)習(xí)對公共政策進(jìn)行驗證、強(qiáng)化或糾偏,實現(xiàn)對大模型在電商與金融場景的風(fēng)險治理。例如,我國一些地方市場監(jiān)管部門推出基于大數(shù)據(jù)分析的“四色預(yù)警”機(jī)制以降低購物風(fēng)險,中國人民銀行下發(fā)《金融領(lǐng)域科技倫理指引》對金融機(jī)構(gòu)在采用大模型時的倫理原則提出了要求,浙江數(shù)字金融科技聯(lián)合會設(shè)立金融科技倫理(專業(yè))委員會等,實驗性治理能夠在政策出臺后進(jìn)行試驗期,通過各方反饋來衡量規(guī)范的合理性,并為風(fēng)險治理留下試錯空間。
(二)大模型公商混合場景的治理模式
發(fā)展視角下,預(yù)見性治理是大模型在醫(yī)療健康場景主動構(gòu)建技術(shù)信任的合適模式,預(yù)見性治理強(qiáng)調(diào)通過技術(shù)監(jiān)測、透明度、可靠性驗證等方式建立對技術(shù)的信任,包括但不限于采用對大模型技術(shù)引入、應(yīng)用及患者反饋的長期監(jiān)測,公開算法邏輯、必要的數(shù)據(jù)來源和處理過程,以及通過第三方認(rèn)證或標(biāo)準(zhǔn)化測試驗證大模型系統(tǒng)性能與可靠性等。此外,形成由醫(yī)療機(jī)構(gòu)、技術(shù)開發(fā)者、患者代表、倫理專家等多方參與的治理結(jié)構(gòu)對技術(shù)信任機(jī)制的長期穩(wěn)定至關(guān)重要。規(guī)制視角下,試探性治理秉持彈性思維觀念,把歷史分析和辨證思考引入治理過程,及時合理地配置技術(shù)工具和制度工具,如定期或?qū)崟r評估誤診風(fēng)險、醫(yī)療合規(guī)性監(jiān)督等,是防范化解大模型在醫(yī)療健康場景風(fēng)險的理想選擇。
(三)大模型公共服務(wù)場景的治理模式
發(fā)展視角下,實驗性治理通過試點項目改進(jìn)教育方法并推動教育治理能力現(xiàn)代化,為后續(xù)促進(jìn)大模型惠及更多教育群體、更加個性化學(xué)習(xí)奠定前期基礎(chǔ),如清華大學(xué)于2023年9月28日正式啟動“清華大學(xué)人工智能賦能教學(xué)試點課程工作方案”,根據(jù)不同學(xué)科特點開發(fā)大語言模型的垂直應(yīng)用,打造智能助教、知識圖譜等多元化教學(xué)場景,并深入觀察和分析大模型與教育教學(xué)融合所帶來的深遠(yuǎn)影響;規(guī)制視角下,教育應(yīng)用場景以預(yù)見性治理為指導(dǎo),聯(lián)合教育部門、技術(shù)開發(fā)者以及教育工作者等,共同探討制定覆蓋隱私權(quán)、公平等倫理道德準(zhǔn)則,通過將社會主義核心價值觀等嵌入到教育場景諸多環(huán)節(jié)、技術(shù)與人文關(guān)懷相結(jié)合等方式,有效防范化解大模型教育場景的倫理道德風(fēng)險。
發(fā)展視角下,針對大模型在政務(wù)服務(wù)場景的效率、公正透明等問題,自反性治理在大模型政務(wù)服務(wù)應(yīng)用全過程中涉及政府、組織和個人,在擁有必要知識與能力基礎(chǔ)上,通過協(xié)商、對話等方式,前瞻性地重塑問題解決程序并持續(xù)反思與改進(jìn);規(guī)制視角下,敏捷性治理為大模型在政務(wù)服務(wù)場景的風(fēng)險問題提供有力支撐,其根本原因在于大模型雖然使政務(wù)服務(wù)能在多數(shù)據(jù)源、多類型與巨量的數(shù)據(jù)形式與內(nèi)容中學(xué)習(xí),并生成回應(yīng)公眾訴求和需求的政務(wù)結(jié)果,但這種模式也使得數(shù)據(jù)信息安全涉及范圍更廣、鏈條與環(huán)節(jié)更長,亟須借助敏捷性治理的分類思路,對政務(wù)場景中的隱私泄露、知識產(chǎn)權(quán)等問題進(jìn)行分類研判,以應(yīng)對紛繁復(fù)雜的政務(wù)治理情形,當(dāng)風(fēng)險對象發(fā)生變化時及時調(diào)整治理工具與策略,從而實現(xiàn)敏捷回應(yīng)。
五、研究結(jié)論與啟示
(一)研究結(jié)論及貢獻(xiàn)
本文梳理了大模型在電子商務(wù)、金融投顧等場景應(yīng)用,以及帶來的變革性影響,并從場景驅(qū)動視角出發(fā),深入探討了大模型的治理策略與治理模式,主要研究結(jié)論如下:
第一,根據(jù)大模型應(yīng)用的場景屬性,將其劃分為商業(yè)應(yīng)用場景、公商混合場景以及公共服務(wù)場景,大模型在不同場景應(yīng)用過程中兼具正負(fù)外部性影響。具體而言,商業(yè)應(yīng)用場景是指借助大模型通過提供更精準(zhǔn)的預(yù)測、更高效的決策支持和更智能化的服務(wù)來加快業(yè)務(wù)增長和效率提升,如電子商務(wù)和金融投顧。公商混合場景是指借助大模型能力兼顧商業(yè)價值獲取和公共服務(wù)問題的解決,如醫(yī)療健康。公共服務(wù)場景是指借助大模型改善和革新公共服務(wù),以更高效、更公平地滿足公眾需求,如教育應(yīng)用和政務(wù)服務(wù)。大模型在電子商務(wù)、金融投顧等場景應(yīng)用過程中,帶來技術(shù)革新、效率提升等正外部性影響的同時,也引發(fā)了數(shù)據(jù)安全風(fēng)險、倫理道德失范、結(jié)構(gòu)性失衡等負(fù)外部性影響。
第二,鑒于大模型場景應(yīng)用帶來的正負(fù)外部性影響,其治理應(yīng)從發(fā)展和規(guī)制的雙重視角切入,從而確保大模型發(fā)展符合人類福祉、防范化解大模型風(fēng)險挑戰(zhàn)。不同場景類型對治理有其內(nèi)在要求,治理策略也因場景類型不同而相異,其中商業(yè)應(yīng)用場景可采取以價值創(chuàng)造為愿景、風(fēng)險防控為底線的治理策略,公商混合場景可采取以信任構(gòu)建為抓手、多邊價值平衡為保障的治理策略,公共服務(wù)場景可采取以系統(tǒng)安全為前提、以質(zhì)效提升為目標(biāo)的治理策略。
第三,大模型治理模式選擇需要適配不同場景類型,并將治理策略轉(zhuǎn)化為具體實際行動。具體而言:①以電子商務(wù)和金融投顧為代表的商業(yè)應(yīng)用場景應(yīng)采取適應(yīng)性治理和實驗性治理模式。適應(yīng)性治理從政策制定、人才培養(yǎng)、應(yīng)用推廣等方面激發(fā)與釋放大模型在電商與金融場景的價值創(chuàng)造能力,實驗性治理能夠在政策出臺后進(jìn)行驗證、強(qiáng)化或糾偏,助力大模型在電商與金融場景的風(fēng)險治理。②以醫(yī)療健康為代表的公商混合場景應(yīng)采取預(yù)見性治理和試探性治理模式。預(yù)見性治理通過技術(shù)監(jiān)測、透明度、可靠性驗證等方式建立對技術(shù)的信任,成為大模型在醫(yī)療健康場景主動構(gòu)建技術(shù)信任的理想選擇;試探性治理把歷史分析和辨證思考引入治理過程,及時合理地配置技術(shù)工具和制度工具,防范化解大模型在醫(yī)療健康場景的風(fēng)險。③以教育應(yīng)用和政務(wù)服務(wù)為代表的公共服務(wù)場景應(yīng)采取實驗性治理、預(yù)見性治理、自反性治理以及敏捷性治理模式。實驗性治理通過試點項目改進(jìn)教育方法并推動教育治理能力現(xiàn)代化,為后續(xù)促進(jìn)大模型惠及更多群體、更加個性化學(xué)習(xí)奠定基礎(chǔ);預(yù)見性治理聯(lián)合利益相關(guān)者共同探討制定覆蓋隱私權(quán)、公平等倫理道德準(zhǔn)則,有效防范化解教育場景的倫理道德風(fēng)險;自反性治理通過協(xié)商、對話等方式重塑問題解決程序并持續(xù)反思與改進(jìn),提升政務(wù)服務(wù)公平性與效率性;而借助敏捷性治理的分類思路能應(yīng)對紛繁復(fù)雜的政務(wù)服務(wù)治理情形。
本文理論貢獻(xiàn)主要體現(xiàn)為:其一,根據(jù)場景屬性將大模型應(yīng)用場景歸納為商業(yè)應(yīng)用、公商混合以及公共服務(wù)三種類型,為大模型應(yīng)用場景分類提供了參考依據(jù);其二,從場景驅(qū)動視角出發(fā),同時兼顧大模型在不同類型場景應(yīng)用的正負(fù)外部性影響,分別提出針對商業(yè)應(yīng)用場景、公商混合場景以及公共服務(wù)場景的具體治理策略和治理模式,為大模型典型場景應(yīng)用的治理提供了適配性更強(qiáng)的理論支撐,助力治理效能提升。
(二)實踐啟示與研究展望
本文的實踐啟示有兩點:第一,為政府部門電子商務(wù)、金融投顧等不同場景的大模型治理的政策設(shè)計提供思路啟示,如有組織地推動大模型應(yīng)用場景創(chuàng)新,從“資源性支持”向“場景機(jī)會支持”轉(zhuǎn)變等。第二,服務(wù)于大模型在不同場景的健康有序發(fā)展。本研究提出針對商業(yè)應(yīng)用、公商混合以及公共服務(wù)場景的大模型治理策略與模式,為電子商務(wù)、金融投顧等場景采用大模型的相關(guān)產(chǎn)業(yè)主體放大深化大模型正外部性影響、防范化解負(fù)外部性影響提供了策略和行為上的參考依據(jù)。
由于大模型仍處于飛速發(fā)展階段,大模型的場景應(yīng)用及治理屬于新興議題,本文雖然從場景視角出發(fā)對大模型的治理策略與模式進(jìn)行了初步探討,但在實踐中大模型治理的實施涉及技術(shù)能力、多元主體、多目標(biāo)平衡以及國際合作等因素。面向未來,應(yīng)梳理大模型核心技術(shù)能力、多元治理主體協(xié)同、兼顧多目標(biāo)平衡,并且加強(qiáng)全球合作與對話,持續(xù)拓展和構(gòu)建面向更豐富場景、包容共享的大模型治理體系。
[注"釋]
①
資料來源:中國信息通信研究院、中國科學(xué)院。
②"資料來源:中國信息通信研究院和京東探索研究院。[BFQ][ZK)]
[參考文獻(xiàn)]
[1]施錦誠,王國豫,王迎春."ESG視角下人工智能大模型風(fēng)險識別與治理模型[J].中國科學(xué)院院刊,"2024,39"(11):1845-1859.
[2]張學(xué)府.生成式人工智能服務(wù)信息內(nèi)容安全的三類標(biāo)準(zhǔn)——基于《生成式人工智能服務(wù)管理暫行辦法》的分析[J].中國行政管理,"2024,"41(4):120-128.
[3]JUSTIN"P,"AKIKO"U,"CHARLES"D.ChatGPT"and"consumers:"benefits,"pitfalls"and"future"research"agenda[J]."International"journal"of"consumer"studies."2023,47(4):1213-1225.
[4]汪壽陽,李明琛,楊昆,等.ChatGPT+金融:八個值得關(guān)注的研究方向與問題[J].管理評論,2023,35(4):3-11.
[5]GEORGE"A"S,"GEORGE"A"H,"MARTIN"A"S"G."A"review"of"ChatGPT"AI’s"impact"on"several"business"sectors[J]."Partners"universal"international"innovation"journal,"2023,1(1):9-23.
[6]WANG"X,"LIN"X,"SHAO"B."Artificial"intelligence"changes"the"way"we"work:"a"close"look"at"innovating"with"chatbots[J]."Journal"of"the"association"for"information"science"and"technology,"2023,74(3):339-353.
[7]SALLAM"M."ChatGPT"utility"in"healthcare"education,"research,"and"practice:"systematic"review"on"the"promising"perspectives"and"valid"concerns[J]."Healthcare,2023,11(6):887-907.
[8]盧宇,余京蕾,陳鵬鶴,等.生成式人工智能的教育應(yīng)用與展望——以ChatGPT系統(tǒng)為例[J].中國遠(yuǎn)程教育,2023,43(4):24-31.
[9]汪波,牛朝文.從ChatGPT到GovGPT:生成式人工智能驅(qū)動的政務(wù)服務(wù)生態(tài)系統(tǒng)構(gòu)建[J].電子政務(wù),2023,20(9):25-38.
[10]劉安平,金昕,胡國強(qiáng).人工智能大模型綜述及金融應(yīng)用展望[J].人工智能,"2023,12(2):29-40.
[11]張君冬,劉江峰,王震宇,等.用戶響應(yīng)式場景下大模型驅(qū)動的AI問答研究:以醫(yī)療分診為例"[J].情報理論與實踐,2025,48(2):188-197.
[12]顧東曉,黃智勇,朱凱旋,等.醫(yī)療健康大模型知識體系構(gòu)建、服務(wù)應(yīng)用與風(fēng)險協(xié)同治理[J/OL].情報科學(xué),"1-29(2024-09-25)[2025-01-26]."http://knscnkinet/kcms/detail/221264G2202409250948002html.
[13]盧宇,余京蕾,陳鵬鶴,等.多模態(tài)大模型的教育應(yīng)用研究與展望[J].電化教育研究,"2023,44(6):38-44.
[14]吳砥,李環(huán),陳旭.人工智能通用大模型教育應(yīng)用影響探析[J].開放教育研究,"2023,29(2):19-25.
[15]CHAFFIN"B"C,"GOSNELL"H,"COSENS"B"A."A"decade"of"adaptive"governance"scholarship:"synthesis"and"future"directions[J]."Ecology"amp;"society,"2014,19(3):56-69.
[16]SABEL"C,"SIMON"W"H."Minimalism"and"experimentalism"in"the"administrative"state[J]."Social"science"electronic"publishing,"2011,100(1):53-93.
[17]KUMM"M."Constitutionalism"and"experimentalist"governance[J]."Regulation"amp;"governance,"2012,6(3):401-409.
[18]GUSTON"D"H."Understanding"“anticipatory"governance”[J]."Social"studies"of"science,"2014,"44(2):218.
[19]李沖,李霞.人工智能風(fēng)險的試探性治理:概念框架與案例解析[J].中國軟科學(xué),2024,40(4):91-101.
[20]WANG"C,MEDAGLIA"R,ZHENG"L."Towards"a"typology"of"adaptive"governance"in"the"digital"government"context:"the"role"of"decisionmaking"and"accountability[J]."Government"information"quarterly,"2018,35(2):306-322.
[21]MERGEL"I,"GONG"Y,"BERTOT"J."Agile"government:"systematic"literature"review"and"future"research[J]."Government"information"quarterly,"2018,"35(2):291-298.
[22]DRYZEK"J,"PICKERING"J."Deliberation"as"a"catalyst"for"reflexive"environmental"governance[J]."Ecological"economics,"2017,37(131):353-360.
Governance"Strategies"and"Model"Selection"of"Large"Models"
from"a"Scenariodriven"Perspective
Li"Shaoshuai
(Tsinghua"University,"Beijing"100084,"China)
Abstract:Technological"innovation"and"application"development"in"the"field"of"large"model,"represented"by"ChatGPT,DeepSeek,"are"exceptionally"active,"triggering"a"new"wave"of"development"in"general"artificial"intelligence."The"large"model"has"shown"broad"development"prospects"in"ecommerce,"financial"advisory"and"other"scenarios,"but"it"has"also"triggered"new"governance"challenges."Exploring"the"governance"strategies"and"models"of"large"model"has"important"theoretical"value"and"practical"significance"for"promoting"highquality"and"sustainable"development."This"paper"starts"from"scenariodriven"perspective"and"divides"the"application"context"of"large"model"into"three"types:"commercial"applications,"mixed"public"and"commercial"applications,"and"public"services."It"explores"the"positive"and"negative"external"impact"of"large"models"in"specific"scenarios,"and"proposes"specific"governance"strategies"for"creating"technological"value,"preventing"and"resolving"risks,"and"building"technological"trust"in"specific"context"from"the"perspective"of"development"and"regulation."The"study"further"indepth"analyzes"the"governance"models"of"large"models"based"on"scenario"adaptation,"including"six"governance"models"such"as"adaptive"governance"and"experimental"governance,"thereby"transforming"the"above"governance"strategies"into"concrete"actions"in"specific"scenarios."The"research"provides"theoretical"basis"and"practical"guidance"for"more"precise"and"effective"governance"of"large"models"in"specific"scenarios.
Key"words:scenariodriven;large"model;scenario"properties;governance"strategy;governance"model
(責(zé)任編輯:李"萌)