數(shù)智賦能國家創(chuàng)新體系優(yōu)化的內(nèi)在邏輯、可能風(fēng)險與綜合規(guī)制

張娟 張翠梅

關(guān)鍵詞：生成式人工智能；國家創(chuàng)新體系；法制；數(shù)據(jù)權(quán)；文化安全

當(dāng)前，人類社會已邁入以人工智能為引領(lǐng)的數(shù)智時代，并開始觸達(dá)數(shù)智賦能的前沿。面對數(shù)智潮流，國家創(chuàng)新體系各環(huán)節(jié)與數(shù)智技術(shù)如何相互融合，加速國家創(chuàng)新體系優(yōu)化進(jìn)程，是關(guān)乎國家創(chuàng)新事業(yè)長足發(fā)展的必經(jīng)之路。數(shù)智賦能時代，探索“數(shù)智技術(shù)+國家創(chuàng)新體系”深度融合的新范式，是對國家創(chuàng)新體系優(yōu)化的概括提煉。人工智能作為提高新興科技競爭力的著力點，貫穿于制造強國、科技強國建設(shè)。以ChatGPT為代表的新一代生成式人工智能，在技術(shù)上突破了以往弱人工智能的不足。我國在相關(guān)領(lǐng)域亦布局較早，成效顯著，這為我國建設(shè)科技強國開辟出新的強勁路徑。在應(yīng)用場景層面，人工智能在行政管理、醫(yī)療教育、智慧司法、自動駕駛以及智能供應(yīng)鏈等方面體現(xiàn)出強大的創(chuàng)新能力，即人工智能不僅自身具備生成創(chuàng)新性產(chǎn)品的能力，而且能夠推動人工智能使用者的創(chuàng)新，通過在各領(lǐng)域、各層面產(chǎn)出創(chuàng)新產(chǎn)品和創(chuàng)新服務(wù)，可以有力地促進(jìn)國家創(chuàng)新體系的整體優(yōu)化。應(yīng)當(dāng)注意的是，以ChatGPT為代表的新一代生成式人工智能雖然具有較大的應(yīng)用優(yōu)勢，但其作為一項新興事物，不可避免地帶來應(yīng)用風(fēng)險，比如，人工智能技術(shù)應(yīng)用背后所蘊含的意識形態(tài)問題?；诖耍訡hatGPT為代表的新一代生成式人工智能為例，深入研究生成式人工智能基于何種方式助力國家創(chuàng)新體系優(yōu)化、深入剖析人工智能應(yīng)用過程中的風(fēng)險和隱患，由此提出符合法治規(guī)律且具有針對性的解決方案，促進(jìn)人工智能應(yīng)用風(fēng)險的有效化解，充分發(fā)揮數(shù)智賦能對于創(chuàng)新國家目標(biāo)實現(xiàn)的重要意義，以期為國家創(chuàng)新體系提質(zhì)增效和高質(zhì)量發(fā)展提供理論和實踐引領(lǐng)。

一、數(shù)智賦能國家創(chuàng)新體系優(yōu)化的內(nèi)在邏輯

以ChatGPT為代表的新一代生成式人工智能的飛速發(fā)展與應(yīng)用，催生了醫(yī)療、教育等多領(lǐng)域的變革。①依據(jù)《人工智能生成內(nèi)容（AIGC）白皮書（2022年）》②，人工智能生成內(nèi)容具備產(chǎn)生數(shù)億萬元經(jīng)濟(jì)價值的潛力，隨著人工智能生成內(nèi)容的發(fā)展深入，將推動資產(chǎn)服務(wù)的跟進(jìn)，通過對人工生成內(nèi)容進(jìn)行合規(guī)評估、交易服務(wù)、產(chǎn)權(quán)保護(hù)以及資產(chǎn)管理等形成完整的人工智能生成內(nèi)容生態(tài)鏈，并對其進(jìn)行價值重塑，由此充分發(fā)揮人工智能生成內(nèi)容的商業(yè)潛力。由此可見，以ChatGPT為代表的新一代生成式人工智能具有巨大的經(jīng)濟(jì)價值和廣泛的應(yīng)用場景，可以為優(yōu)化國家創(chuàng)新體系注入強勁動力。

（一）傳統(tǒng)要素的優(yōu)化：數(shù)智賦能國家創(chuàng)新體系整體高效

進(jìn)入新時代以來，建立健全國家創(chuàng)新體系，需要完善的社會主義市場經(jīng)濟(jì)制度予以保障。在國家創(chuàng)新體系優(yōu)化過程中，以ChatGPT為代表的新一代生成式人工智能可以為其注入強大的市場能動，即人工智能“通過垂直和橫向互補性拓展創(chuàng)新與生產(chǎn)率提升空間，對經(jīng)濟(jì)持續(xù)增長有重要作用”③。具體來講，主要表現(xiàn)為四個方面。一是，新一代生成式人工智能可以快速推進(jìn)科技創(chuàng)新。新一代人工智能可以提升人工智能模型與算法，更加準(zhǔn)確、高效地完成自然語言識別、語音與圖像識別等復(fù)雜任務(wù)，從而為交通、醫(yī)療、科研等領(lǐng)域提供相對完善的解決方案。如此，可以促進(jìn)各行業(yè)、各領(lǐng)域工作人員在實踐中的創(chuàng)新，加速科技成果的轉(zhuǎn)化與應(yīng)用，進(jìn)而助力國家創(chuàng)新體系的完善與發(fā)展。二是，新一代生成式人工智能可以促進(jìn)數(shù)字經(jīng)濟(jì)的繁榮發(fā)展。在人工智能技術(shù)飛速發(fā)展的背景下，以數(shù)據(jù)要素為核心的智能金融、智慧物流、大數(shù)據(jù)分析等產(chǎn)業(yè)迅速發(fā)展。以ChatGPT為代表的新一代生成式人工智能可以高效處理并分析海量數(shù)據(jù)，通過提取海量數(shù)據(jù)中具有價值的信息，為數(shù)字經(jīng)濟(jì)的發(fā)展注入強勁動力，進(jìn)而優(yōu)化國家創(chuàng)新體系在數(shù)字化領(lǐng)域中的布局。三是，新一代生成式人工智能可以推進(jìn)部分產(chǎn)業(yè)的轉(zhuǎn)型升級。以ChatGPT為代表的新一代生成式人工智能技術(shù)在傳統(tǒng)產(chǎn)業(yè)中的深入應(yīng)用，將會引發(fā)傳統(tǒng)行業(yè)的重大變革，推動傳統(tǒng)企業(yè)向自動化、智能化轉(zhuǎn)型。比如在制造行業(yè)，人工智能技術(shù)的深入應(yīng)用能夠?qū)崿F(xiàn)智能物流、智能制造的突破，有效提高企業(yè)的產(chǎn)品質(zhì)量和生產(chǎn)效率，加速勞動密集型產(chǎn)業(yè)轉(zhuǎn)向技術(shù)密集型產(chǎn)業(yè)，實現(xiàn)傳統(tǒng)產(chǎn)業(yè)的轉(zhuǎn)型與升級。四是，新一代生成式人工智能可以促進(jìn)人才培養(yǎng)、優(yōu)化科研環(huán)境。以ChatGPT為代表的新一代生成式人工智能的理論與技術(shù)研究，需要完善人工智能領(lǐng)域的人才支持政策、加強人才培養(yǎng)與人才引進(jìn)，為生成式人工智能人才提供強有力的政策、平臺與環(huán)境保障，充分吸引國內(nèi)外優(yōu)秀的人工智能人才，不斷壯大國家創(chuàng)新體系的人才隊伍。

新一代生成式人工智能介入國家創(chuàng)新體系優(yōu)化的經(jīng)濟(jì)依托主要表現(xiàn)為以下幾個方面。首先，提高數(shù)字內(nèi)容的生產(chǎn)質(zhì)量與效率。所謂數(shù)字內(nèi)容，主要指運用數(shù)字技術(shù)生產(chǎn)、使用和傳播的多類型內(nèi)容，比如視頻、音頻、圖像、文本等。數(shù)字內(nèi)容不僅是數(shù)字經(jīng)濟(jì)的重要部分，而且也是支撐國家創(chuàng)新體系的關(guān)鍵。如前所述，結(jié)合用戶的需求與偏好，以ChatGPT為代表的新一代生成式人工智能可以迅速生成具有個性化定制屬性的數(shù)字內(nèi)容，并且數(shù)字內(nèi)容具備較高的準(zhǔn)確性、真實性和創(chuàng)造性，可以在很大程度上滿足不同行業(yè)和領(lǐng)域?qū)χR獲取、信息傳播以及娛樂消費的需求，有效降低了數(shù)字內(nèi)容的生產(chǎn)成本，從整體上提高了數(shù)字內(nèi)容的生成質(zhì)量和生成效率。其次，推進(jìn)數(shù)字技術(shù)深度融入實體產(chǎn)業(yè)。結(jié)合實體產(chǎn)業(yè)的需求和特點，以ChatGPT為代表的新一代生成式人工智能可以生成與應(yīng)用場景和目標(biāo)相契合的數(shù)字內(nèi)容，比如數(shù)據(jù)、模型、代碼等，同時能夠與實體產(chǎn)業(yè)開展雙向的互動交流與反饋。人工智能生成的數(shù)字內(nèi)容不僅夠增強實體產(chǎn)業(yè)的生產(chǎn)力、降低生產(chǎn)風(fēng)險、提升產(chǎn)業(yè)價值，而且能夠助力實體產(chǎn)業(yè)向網(wǎng)絡(luò)化、數(shù)字化以及智能化方向轉(zhuǎn)型升級。最后，拓展數(shù)字經(jīng)濟(jì)發(fā)展空間，激發(fā)數(shù)字經(jīng)濟(jì)發(fā)展?jié)摿?。結(jié)合市場需求和變化，以ChatGPT為代表的新一代生成式人工智能可以生成數(shù)字產(chǎn)品、數(shù)字服務(wù)等兼具創(chuàng)新性和競爭力的數(shù)字化內(nèi)容，并且能夠?qū)崿F(xiàn)與用戶的智能化交流互動。人工智能所生成的數(shù)字內(nèi)容，不僅能夠推動形成新的商業(yè)模式、價值鏈以及生態(tài)圈，而且能夠推進(jìn)數(shù)字經(jīng)濟(jì)領(lǐng)域與其他領(lǐng)域協(xié)同發(fā)展。

（二）管理要素的優(yōu)化：數(shù)智賦能國家創(chuàng)新體系拓展統(tǒng)籌

“人工智能驅(qū)動政務(wù)服務(wù)創(chuàng)新是數(shù)字政府的重要內(nèi)容”①，在行政管理領(lǐng)域，推進(jìn)ChatGPT在智能政務(wù)領(lǐng)域的應(yīng)用，能夠提高工作效率，降低行政成本，強化科學(xué)行政。②以ChatGPT為代表的新一代生成式人工智能的應(yīng)用，不僅為行政管理的變革帶來重要機遇，還為優(yōu)化國家創(chuàng)新體系提供了新的手段和路徑。在行政管理領(lǐng)域，以ChatGPT為代表的新一代人工智能的功能效用主要表現(xiàn)為三個方面。一是，新一代生成式人工智能可以進(jìn)行數(shù)據(jù)分析并為相關(guān)決策提供支持。在國家創(chuàng)新體系優(yōu)化過程中，政府部門往往需要處理海量的信息數(shù)據(jù)，比如技術(shù)創(chuàng)新引導(dǎo)、科研項目評估等。政府通過應(yīng)用以ChatGPT為代表的新一代生成式人工智能，可以對海量數(shù)據(jù)進(jìn)行快速、有效的處理和分析，并對具有價值的信息進(jìn)行提取，從而可以為決策者提供具有科學(xué)性、合理性的建議，如此也能夠減少主觀因素對決策的干擾。二是，在數(shù)字領(lǐng)域方面，以ChatGPT為代表的新一代生成式人工智能掀起了重大變革，③即生成式人工智能可以作為智能助手，通過自動完成會議安排、文件整理等具有重復(fù)性、繁瑣性的行政任務(wù)，有效節(jié)省行政管理人員的時間成本和人力資源成本，提高行政管理工作的質(zhì)量和效率。新一代生成式人工智能除了在行政管理領(lǐng)域扮演著重要角色，還在優(yōu)化國家創(chuàng)新體系中發(fā)揮著關(guān)鍵作用。比如，對于科研項目評估和資助決策事項，新一代生成式人工智能基于對海量數(shù)據(jù)的分析，形成科研項目評估報告，同時對科研項目的創(chuàng)新性和重要性等方面進(jìn)行全面評估，不僅有效減輕評估人員的工作負(fù)擔(dān)，而且極大增強了評估結(jié)果的客觀性與公正性。新一代生成式人工智能介入國家創(chuàng)新體系優(yōu)化的行政優(yōu)化主要表現(xiàn)為以下幾個方面。

首先，新一代生成式人工智能作為“數(shù)字運營官”，可以向政府內(nèi)部提供決策管理支持。結(jié)合政府內(nèi)部的信息數(shù)據(jù)，以ChatGPT為代表的新一代生成式人工智能可以生成分析報告、工作計劃和決策建議等內(nèi)容，并能夠與政府相關(guān)工作人員進(jìn)行智能化交流與協(xié)作。生成式人工智能在行政管理領(lǐng)域的應(yīng)用，不僅可以提高政府內(nèi)部的數(shù)據(jù)利用率、增強溝通效果、優(yōu)化決策流程，而且能夠節(jié)省人力資源成本、提高文檔制作質(zhì)量和速度，促進(jìn)行政管理的科學(xué)性、高效性和透明度。其次，新一代生成式人工智能作為“數(shù)字助理”，可以向政府外部提供公共服務(wù)支持。結(jié)合政府的外部需求和反饋，以ChatGPT為代表的新一代生成式人工智能可以生成咨詢回答、宣傳教育、服務(wù)指南等內(nèi)容，并且可以與社會公共進(jìn)行智能化互動，發(fā)揮引導(dǎo)作用。生成式人工智能針對不同的用戶和場合，可以生成差異化的語氣和表達(dá)方式，比如簡潔或者詳細(xì)、禮貌或者親切等，滿足不同用戶所期待的情感，如此也可以極大減輕人工客服的工作壓力，提高回答的客觀性、準(zhǔn)確性與多樣性。最后，新一代生成式人工智能作為“數(shù)字創(chuàng)造者”，可以向社會提供創(chuàng)新資源支持。結(jié)合社會的創(chuàng)新需求與潛力，以ChatGPT為代表的新一代生成式人工智能可以生成創(chuàng)業(yè)平臺、創(chuàng)新產(chǎn)品、創(chuàng)新方案等內(nèi)容，并且能夠與創(chuàng)新主體進(jìn)行智能化匹配。新一代生成式人工智能不僅能夠幫助社會拓展創(chuàng)新空間、提高創(chuàng)新活力、增加創(chuàng)新價值，從而實現(xiàn)開放、協(xié)同、多元的創(chuàng)新生態(tài)，而且能夠針對不同領(lǐng)域和目標(biāo)，生成代碼、音樂、文學(xué)等不同類型和風(fēng)格的內(nèi)容，以此滿足不同主體的創(chuàng)新需求和偏好。

（三）創(chuàng)新要素的優(yōu)化：數(shù)智賦能國家創(chuàng)新體系新著力點

國家創(chuàng)新體系優(yōu)化的最終目的還是在于促進(jìn)創(chuàng)新能力和資源向創(chuàng)新成果轉(zhuǎn)化。人工智能的介入賦能了創(chuàng)新主體、新增了創(chuàng)新要素、重塑了創(chuàng)新網(wǎng)絡(luò)和創(chuàng)新機制，最終都體現(xiàn)為創(chuàng)新成果的持續(xù)產(chǎn)出。新一代生成式人工智能賦能國家創(chuàng)新體系優(yōu)化是一種跨領(lǐng)域、跨行業(yè)、跨界別的全面優(yōu)化，有助于推動國家創(chuàng)新體系全領(lǐng)域的成果轉(zhuǎn)化和價值提升。主要體現(xiàn)在以下幾個方面。

第一，在國家戰(zhàn)略層面明確創(chuàng)新體系優(yōu)化的成果轉(zhuǎn)化方向，新一代生成式人工智能能夠打破信息壁壘和層級壁壘，為創(chuàng)新成果的研發(fā)和轉(zhuǎn)化提供信息支持和決策支持。著眼于國家發(fā)展目標(biāo)和現(xiàn)實需求，新一代生成式人工智能能夠收集和分析國內(nèi)外形勢變化情況數(shù)據(jù)，在此基礎(chǔ)上挖掘和預(yù)測各個領(lǐng)域的創(chuàng)新方向，自動整合并生成戰(zhàn)略規(guī)劃、政策建議、行動方案等內(nèi)容；其還可以根據(jù)情況變化實時調(diào)整戰(zhàn)略規(guī)劃和決策策略，及時溝通相關(guān)部門并推動協(xié)調(diào)配合，從而實現(xiàn)整體戰(zhàn)略的動態(tài)優(yōu)化和適應(yīng)性調(diào)整。例如，在科技領(lǐng)域，根據(jù)國家科技發(fā)展目標(biāo)和現(xiàn)實需求，尤其是面對西方國家“卡脖子”的情況，新一代人工智能會在收集和分析各國科技領(lǐng)域發(fā)展情況的基礎(chǔ)上自動生成針對性較強的科技政策建議、科技項目方案，乃至科技戰(zhàn)略規(guī)劃等內(nèi)容，并在政策、方案、戰(zhàn)略規(guī)劃實施的過程中密切關(guān)注國內(nèi)外科技形勢變化和數(shù)據(jù)反饋，實時調(diào)整和更新建議，有助于確?？蒲袆?chuàng)新的方向性。

第二，在產(chǎn)業(yè)發(fā)展層面提升創(chuàng)新體系優(yōu)化的成果轉(zhuǎn)化速率，新一代生成式人工智能能夠及時、準(zhǔn)確地把握產(chǎn)業(yè)發(fā)展機遇，為創(chuàng)新成果的研發(fā)和轉(zhuǎn)化提供市場方向和投入定位。就國家創(chuàng)新體系優(yōu)化下的全面的產(chǎn)業(yè)發(fā)展而言，其能夠同時容納和分析的產(chǎn)業(yè)數(shù)量遠(yuǎn)超一般人工智能，不僅能根據(jù)數(shù)字經(jīng)濟(jì)發(fā)展趨勢和市場需求，自動生成數(shù)字經(jīng)濟(jì)分析、數(shù)字經(jīng)濟(jì)預(yù)測、數(shù)字經(jīng)濟(jì)建議等內(nèi)容；還能根據(jù)不同產(chǎn)業(yè)特點和條件，自動生成某一產(chǎn)業(yè)發(fā)展的相關(guān)分析、預(yù)測和建議，包括產(chǎn)品設(shè)計、服務(wù)方案、營銷策略等內(nèi)容；還可以支撐和維系國家部門與不同產(chǎn)業(yè)的企業(yè)、產(chǎn)業(yè)內(nèi)外相關(guān)企業(yè)的智能協(xié)作和協(xié)調(diào)溝通。由此，國家創(chuàng)新體系優(yōu)化從戰(zhàn)略、政策、方案走向產(chǎn)業(yè)變革、企業(yè)創(chuàng)新、產(chǎn)品創(chuàng)造的流程得到簡化，創(chuàng)新思維、能力和資源向創(chuàng)新成果轉(zhuǎn)化的速度提高，創(chuàng)新成果數(shù)量也將不斷增加。例如，目前有很多自動生成網(wǎng)站、APP、小程序等數(shù)字產(chǎn)品已經(jīng)出現(xiàn)，不同產(chǎn)業(yè)的企業(yè)都可在相關(guān)平臺獲得設(shè)計、營銷等服務(wù)。

第三，在社會生活層面塑造創(chuàng)新體系優(yōu)化的成果轉(zhuǎn)化需求，新一代生成式人工智能能夠精準(zhǔn)地抓取用戶的個性化需求和社會的群體化需要，為增強創(chuàng)新成果的衍生價值提供用戶粘性和技術(shù)支持。新一代生成式人工智能在滿足個人服務(wù)需求方面具有巨大的潛力，例如，可以根據(jù)個人輸入和偏好，自動生成文書模板、疑問咨詢、服務(wù)指南、教育培訓(xùn)等內(nèi)容，①尤其是教育培訓(xùn)方面，能在相關(guān)群體之間進(jìn)行引導(dǎo)和維持智能互動。②而當(dāng)這種互動模式出現(xiàn)在創(chuàng)新體系優(yōu)化之中，一方面，相當(dāng)于社會民眾能直接從需求一側(cè)向國家、政府和企業(yè)提出要求，而這供需兩端連接過程被壓縮進(jìn)而扁平化溝通模式，對企業(yè)創(chuàng)新能力提出了新的要求。例如，面對民眾的醫(yī)療、旅游、教育咨詢等需求，智能系統(tǒng)平臺是否能在給出答案的同時鏈接到相關(guān)服務(wù)；另一方面，一旦社會民眾習(xí)慣于這種智能互動和引導(dǎo)，習(xí)慣于快速反饋和產(chǎn)出的創(chuàng)新服務(wù)或產(chǎn)品，那么其就會期待類似服務(wù)出現(xiàn)在更多產(chǎn)業(yè)和行業(yè)之中。由此，國家、產(chǎn)業(yè)和企業(yè)都應(yīng)當(dāng)遵循技術(shù)和經(jīng)濟(jì)發(fā)展規(guī)律，響應(yīng)社會民眾需求，積極加入到這種快速反饋和產(chǎn)出的互動模式中來，讓這種供需智能互聯(lián)的新模式最終成為創(chuàng)新體系優(yōu)化的關(guān)鍵支撐。

二、數(shù)智賦能國家創(chuàng)新體系優(yōu)化的可能風(fēng)險

相較于傳統(tǒng)的人工智能技術(shù)，新一代生成式人工智能展現(xiàn)出了更為強大的創(chuàng)新能力，不僅在技術(shù)創(chuàng)新上有著顯著的優(yōu)勢，而且其創(chuàng)造或協(xié)助人類生產(chǎn)的數(shù)字化內(nèi)容也在多個層面上有助于推動國家創(chuàng)新體系的深度優(yōu)化和升級。然而，正如許多技術(shù)在誕生之初所面臨的挑戰(zhàn)一樣，生成式人工智能在技術(shù)上的新穎性所帶來的諸多問題也暴露出法律規(guī)制的滯后現(xiàn)象，這在很大程度上限制了其發(fā)展?jié)摿Φ某浞滞诰?。因此，針對生成式人工智能?yīng)用于社會生產(chǎn)生活各方面所帶來的問題，理應(yīng)在法律法規(guī)的框架下采取針對性措施，在實現(xiàn)生成式人工智能可持續(xù)發(fā)展的基礎(chǔ)上，確保生成式人工智能能夠在規(guī)范的法治環(huán)境下為社會帶來更多的福祉。

（一）算法黑箱風(fēng)險

1.數(shù)據(jù)權(quán)的侵?jǐn)_

新一代生成式人工智能在應(yīng)用過程中存在兩個重大數(shù)據(jù)風(fēng)險——創(chuàng)新數(shù)據(jù)泄露和創(chuàng)新數(shù)據(jù)濫用，而這兩個風(fēng)險都會嚴(yán)重危害個人隱私權(quán)益，甚至可能對經(jīng)濟(jì)社會發(fā)展和國家安全構(gòu)成威脅。在創(chuàng)新數(shù)據(jù)泄露問題上，以ChatGPT為代表的新一代生成式人工智能在創(chuàng)設(shè)之初，就一直籠罩在數(shù)據(jù)泄露嚴(yán)重和隱私保護(hù)不力的質(zhì)疑之中。①這主要是因為，新一代生成式人工智能的算法需要依賴海量的數(shù)據(jù)庫，而這些數(shù)據(jù)庫中包含的往往是用戶在瀏覽互聯(lián)網(wǎng)以及在使用移動互聯(lián)應(yīng)用過程中遺留的，這使得ChatGPT難以避免地保留了一些真實用戶的個人信息，一旦用戶的問題觸發(fā)了ChatGPT的這部分記憶，就可能會透露出一些本不該泄露的隱私內(nèi)容。需要注意的是，ChatGPT包含大量個人隱私外，也涉及了商業(yè)秘密甚至與國家機密相關(guān)的信息。以ChatGPT為例，這種新一代生成式人工智能在進(jìn)行數(shù)據(jù)處理時，無法判斷信息的敏感性和重要性，僅僅將其視為算法的輸入，無法對各種私密信息進(jìn)行有效過濾和保護(hù)，從而可能導(dǎo)致這些重要數(shù)據(jù)在算法模型運算過程中，以算法結(jié)果的形式流入到公共社會之中，形成所謂的數(shù)據(jù)泄露。基于此，中國支付清算協(xié)會在2023年4月發(fā)布了《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，明確指出ChatGPT在隱私保護(hù)、數(shù)據(jù)利用以及跨境數(shù)據(jù)流動方面存在一定的安全風(fēng)險，需要采取一定的手段以提升支付清算行業(yè)的數(shù)據(jù)安全管理水平。該倡議的出臺表明，監(jiān)管部門已經(jīng)高度關(guān)注新一代人工智能對金融行業(yè)數(shù)據(jù)安全的潛在影響。這也提醒銀行及支付機構(gòu)必須提前做好應(yīng)對準(zhǔn)備，建立健全數(shù)據(jù)安全管理制度，采取有效措施降低創(chuàng)新數(shù)據(jù)泄露風(fēng)險，保障客戶信息安全。

在創(chuàng)新數(shù)據(jù)濫用方面，以ChatGPT為標(biāo)志的新一代生成式人工智能在運用數(shù)據(jù)過程中，面臨著合規(guī)性和準(zhǔn)確性的挑戰(zhàn)。這兩種風(fēng)險與此類人工智能應(yīng)用在處理和使用數(shù)據(jù)時的復(fù)雜性密切相關(guān)。具體來說，其一，合規(guī)性風(fēng)險主要體現(xiàn)在知情同意方面。以ChatGPT為代表的新一代生成式人工智能需要對數(shù)據(jù)庫中的大量文本進(jìn)行訓(xùn)練，通過不斷的試錯來優(yōu)化模型，使模型能夠?qū)π律挛镞M(jìn)行自主判斷。但是這一訓(xùn)練過程所用到的數(shù)據(jù)集可能仍然含有個人或商業(yè)機密信息。而這些信息的提供者在最初提供數(shù)據(jù)時，其知情同意的范圍顯然不包括允許將信息用于模型的再訓(xùn)練。因此，在未經(jīng)提供者進(jìn)一步同意的情況下，將包含個人或商業(yè)信息的數(shù)據(jù)集用于模型訓(xùn)練，可能違反《個人信息保護(hù)法》中有關(guān)知情同意的規(guī)定。其二，準(zhǔn)確性風(fēng)險主要來源于訓(xùn)練數(shù)據(jù)的局限性。任何訓(xùn)練集的數(shù)據(jù)都難以做到面面俱到，覆蓋所有的應(yīng)用場景。以ChatGPT為例，其訓(xùn)練數(shù)據(jù)集主要來源于網(wǎng)絡(luò)上已發(fā)表的各類文字內(nèi)容，對某些尚未廣泛記錄的新生事物的理解可能存在局限。在這些領(lǐng)域，ChatGPT的輸出可能反映訓(xùn)練數(shù)據(jù)的局限，無法提供準(zhǔn)確可靠的信息。因此，這種準(zhǔn)確性風(fēng)險也會導(dǎo)致模型對新興事物或場景的判斷存在偏差。①基于此，創(chuàng)新數(shù)據(jù)的泄露可能會為不法分子窺探我國科技創(chuàng)新戰(zhàn)略規(guī)劃、關(guān)鍵數(shù)據(jù)和涉密領(lǐng)域提供可乘之機，一定程度上威脅我國的數(shù)據(jù)主權(quán)和國家安全。同時，創(chuàng)新數(shù)據(jù)的濫用可能會為重點行業(yè)和關(guān)鍵領(lǐng)域的科技創(chuàng)新進(jìn)程提供滯后或虛假的數(shù)據(jù)信息，導(dǎo)致技術(shù)漏洞彌補出現(xiàn)錯誤、關(guān)鍵技術(shù)難以實現(xiàn)有效突破，無效甚至錯誤的科技資源投入不僅會耗費科技創(chuàng)新成本，還會阻礙我國的科技創(chuàng)新進(jìn)程，嚴(yán)重制約國家創(chuàng)新體系的建設(shè)和完善。

2.倫理危機的具體化

盡管新一代生成式人工智能在很多方面都展現(xiàn)出了強大的能力，但由于算法黑箱的存在，使得這些技術(shù)在透明性和可解釋性方面仍顯不足，這也帶來了在人類社會中潛在的支配風(fēng)險。在計算機科學(xué)領(lǐng)域，算法被認(rèn)為是實現(xiàn)特定任務(wù)的控制結(jié)構(gòu)。②然而，這些控制結(jié)構(gòu)不僅僅局限于計算機內(nèi)部的電流和代碼，還是由于人類對算法結(jié)果的高度依賴性，使得算法對社會生活方式和社會運行結(jié)果產(chǎn)生深遠(yuǎn)影響，這也表明算法具有社會權(quán)力屬性。③基于此，利用算法以及像ChatGPT這樣的新一代生成式人工智能對社會實現(xiàn)支配的風(fēng)險，很可能通過算法黑箱得以實現(xiàn)。算法黑箱意味著算法內(nèi)部的工作原理和過程難以解釋和理解，這使得人工智能的決策邏輯變得模糊不清。而ChatGPT類生成式人工智能的發(fā)展正是源于深度學(xué)習(xí)的技術(shù)邏輯，即通過大規(guī)模數(shù)據(jù)庫和反復(fù)的數(shù)據(jù)計算，經(jīng)歷無數(shù)次的肯定和否定反饋后逐漸形成了自我判斷的能力和意識。在這種識別過程中，以ChatGPT為代表的新一代生成式人工智能的算法采用了模塊化控制方式，這種模塊化控制方式將一切的運作邏輯都隱藏在算法的“隱層”中，使得人類無法完全洞悉算法的運作邏輯，令人類對算法的控制在某種程度上陷入了“算法黑箱”的困境，④即人類無從知曉算法輸入的數(shù)據(jù)與輸出結(jié)果之間的實際關(guān)系，使得以ChatGPT為代表的新一代生成式人工智能在一定程度上呈現(xiàn)出了不良的支配和控制。算法的深度嵌入無形中會增加創(chuàng)新主體對算法技術(shù)的依賴性和信任度，而過度依賴算法則會削弱創(chuàng)新主體的創(chuàng)新意識，降低其參與技術(shù)創(chuàng)新和成果轉(zhuǎn)化的積極性，主體性地位意識的弱化和喪失會使技術(shù)研發(fā)與成果應(yīng)用之間的關(guān)系鏈條斷裂，進(jìn)而降低創(chuàng)新成果的創(chuàng)造性、新穎性和實用性，甚至?xí)?dǎo)致某行業(yè)、某地區(qū)、全國性的創(chuàng)新能力滯后。

ChatGPT類生成式人工智能在展示全新應(yīng)用前景的情況下，同時也帶來了一些應(yīng)用問題，主要涵蓋了算法偏見與歧視、算法模型濫用以及算法的可問責(zé)性不足三個方面。其一，就算法偏見與歧視而言，人工智能在訓(xùn)練過程中所使用的數(shù)據(jù)會直接影響最終的運算結(jié)果和行為輸出。如果訓(xùn)練數(shù)據(jù)對某些群體存在偏見，模型運算的結(jié)果也會反映這種偏見。例如，如果訓(xùn)練數(shù)據(jù)中對某個族裔的描述多帶有負(fù)面色彩，模型生成的內(nèi)容在提到該族裔時也可能帶有歧視。此外，數(shù)據(jù)采樣本身也可能存在選擇偏誤。如果訓(xùn)練數(shù)據(jù)對某些群體的代表性不足，模型對這些群體的理解也會受到限制。這種算法偏見和歧視的情況，可能導(dǎo)致人工智能的公正性和公平性受到質(zhì)疑。特別是在當(dāng)今逐漸重視平等權(quán)益的社會環(huán)境下，生成式人工智能在算法上的偏見與歧視問題可能會引發(fā)廣泛的社會關(guān)注和批評。其二，關(guān)于算法模型濫用的問題。ChatGPT類生成式人工智能所擁有的強大模仿功能使得其可以復(fù)制任何人的語言風(fēng)格和表達(dá)習(xí)慣。如果有人惡意將這一功能用于不法行為，例如，利用語言模型生成虛假新聞、利用圖像生成技術(shù)制作深度假視頻、通過語音合成技術(shù)進(jìn)行詐騙等，則可能對社會利益造成嚴(yán)重?fù)p害。其三，是在算法的可問責(zé)性上，新一代生成式人工智能的復(fù)雜性和可解釋性不足，使得證明其運行與實際損害之間的因果關(guān)系變得極其困難。在現(xiàn)有的法律制度下，對于算法和控制者的問責(zé)通常需要證明這一因果關(guān)系，然而由于人工智能算法的透明性和可解釋性問題，這一證明過程變得十分困難。①另外，由于新一代生成式人工智能仍處于試驗階段，其對社會公眾的實際損害也難以證明。即使在確實造成實際損害的情況下，受害者可能也會因為公共利益維護(hù)的搭便車效應(yīng)，而選擇放棄尋求救濟(jì)。

（二）共識缺失風(fēng)險

1.文化安全的失穩(wěn)

不穩(wěn)定且不可控的信息環(huán)境，不利于創(chuàng)新與合作。網(wǎng)絡(luò)空間高度開放自由，AIGC在信息流分析和操作方面的卓越性能，反而使其成為虛假信息傳播、輿論操控和網(wǎng)絡(luò)濫用的潛在源頭，②從而對網(wǎng)絡(luò)空間輿論安全構(gòu)成潛在威脅。一方面，AIGC應(yīng)用所需的大規(guī)模數(shù)據(jù)收集和分析，會涵蓋敏感的個人信息、商業(yè)機密和國家安全等相關(guān)信息，這些信息一旦被濫用或泄露，危及到國家安全和個人權(quán)利。另一方面，網(wǎng)絡(luò)攻擊組織利用AIGC快速生成的方式，使網(wǎng)絡(luò)空間中充斥著大量信息，信息真實性和可信度則難以確定；AIGC這種不規(guī)則性使這種工具的應(yīng)用無法被傳統(tǒng)輿論控制機制覆蓋，而資本則可以輕易滲透其中，這使得網(wǎng)絡(luò)輿論和信息環(huán)境變得更加混亂復(fù)雜和不可預(yù)測，這樣的環(huán)境是虛假信息、信息操作和網(wǎng)絡(luò)濫用的溫床，久而久之，其破壞力不僅影響國家創(chuàng)新體系中信息的質(zhì)量和準(zhǔn)確性，進(jìn)而損害國家創(chuàng)新體系的效率和可持續(xù)性，甚至可能對國家信息生態(tài)系統(tǒng)和社會穩(wěn)定造成不可逆的沖擊。

進(jìn)一步地，目前AIGC的使用不受國界限制，這使得國內(nèi)外敵對勢力能夠跨越國際界限，通過網(wǎng)絡(luò)渠道散布有害信息，在互聯(lián)網(wǎng)上制造和強化意識形態(tài)分歧，煽動社會和政治動蕩，意在削弱民眾對國家法律、政策法規(guī)、核心價值觀和意識形態(tài)的認(rèn)同，從而瓦解國家創(chuàng)新體系的基礎(chǔ)，以達(dá)到攻擊我國政治制度和法律體系的目的。

除了輿論安全和法律意識形態(tài)領(lǐng)域，ALGC在社會文化領(lǐng)域也存在意識形態(tài)的解構(gòu)風(fēng)險。不同國家的社會文化不同，不同國家對倫理道德、社會規(guī)范、審美取向、價值觀念等方面都有不同的看法。AIGC算法和數(shù)據(jù)集可能會反映出某些社會文化意識形態(tài)的偏見。一方面，AIGC系統(tǒng)可能會受到開發(fā)國家文化的影響，因為許多AI系統(tǒng)的數(shù)據(jù)集和算法是從這些國家的信息中衍生出來的。這可能導(dǎo)致在全球范圍內(nèi)的文化侵蝕，以及對其他文化的誤解或歧視。另一方面，不同國家和社會的倫理觀念可能會導(dǎo)致AIGC系統(tǒng)的應(yīng)用差異。一個國家的AIGC系統(tǒng)可能會在另一個國家被認(rèn)為違反倫理準(zhǔn)則。例如，人臉識別技術(shù)在某些國家被廣泛使用，而在其他國家則被視為侵犯隱私和人權(quán)的手段。這種差異可能引發(fā)國際爭端，損害國際關(guān)系。除此之外，AIGC的算法還可能會體現(xiàn)更大范圍內(nèi)的對性別、種族或社會的偏見，導(dǎo)致不公平的或有爭議的結(jié)論或決策。

2“. 數(shù)字霸權(quán)”的擴張

全球科技巨頭如谷歌、臉書、亞馬遜等公司，目前都擁有巨大的“數(shù)字霸權(quán)”。這些公司掌握了大量用戶數(shù)據(jù)和包括AIGC在內(nèi)的先進(jìn)人工智能技術(shù)，使其能夠影響人們的信息獲取和意識形態(tài)傳播方式，這實質(zhì)上是一種“數(shù)字霸權(quán)”。

“數(shù)字霸權(quán)”的直接表現(xiàn)，即這些公司在掌握了大部分互聯(lián)網(wǎng)上的用戶交流（包括社交媒體、搜索引擎和新聞平臺）后，能夠塑造用戶的信息獲取體驗，潛在地影響用戶的意識形態(tài)。但足以影響用戶的意識形態(tài)后，這些公司可以選擇性地傳播或抑制特定信息，從而影響公眾的看法、價值觀和政治取向，這就進(jìn)一步對用戶的意識形態(tài)進(jìn)行操縱，通過操縱信息傳播和意識形態(tài)，以符合其商業(yè)或政治目標(biāo)。這種操縱可能導(dǎo)致信息的偏見和極化，甚至可能影響國家的社會和政治穩(wěn)定。

而“數(shù)字霸權(quán)”公司的商業(yè)目標(biāo)和政治立場，可能與國家的創(chuàng)新目標(biāo)和政策并不一致。當(dāng)這種不一致性附加上濫用“數(shù)字霸權(quán)”的行為，這種操縱風(fēng)險不僅包括對信息的過濾，還包括對信息的強化，以滿足特定立場或信仰。這就可能導(dǎo)致信息的極端化、偏見和社會分裂，例如，“數(shù)字霸權(quán)”公司可能會調(diào)整算法，以將特定政治或社會觀點推送給用戶，從而強化這些觀點，而抑制反對觀點。這種操作可能導(dǎo)致社會對立和極化，影響國家的社會和政治穩(wěn)定。

創(chuàng)新過程中，AIGC“數(shù)字霸權(quán)”引發(fā)意識形態(tài)操縱風(fēng)險，除了上述AIGC技術(shù)提供端通過“數(shù)字霸權(quán)”操縱造成的信息的偏見極化外，還存在著由數(shù)字化社交媒體和互聯(lián)網(wǎng)信息的使用者，在使用過程中逐漸自主產(chǎn)生的意識形態(tài)偏見。

在當(dāng)下AIGC“數(shù)字霸權(quán)”環(huán)境中，個體在數(shù)字化社交媒體和互聯(lián)網(wǎng)上的信息獲取和暴露受到過濾、篩選和個性化定制的情況，往往是由個人使用搜索引擎、社交媒體平臺和算法驅(qū)動的信息推薦系統(tǒng)，這些系統(tǒng)根據(jù)個體的歷史行為和偏好向其提供內(nèi)容。久而久之，個體只看與自己觀點一致的信息，而不容易接觸到多樣化的觀點，信息的偏見和極化會削弱個體對不同觀點和事實的理解。①

（三）規(guī)則失效風(fēng)險

1.創(chuàng)新成果版權(quán)歸屬較難認(rèn)定

新一代生成式人工智能的飛速發(fā)展，催生了愈發(fā)強烈的知識產(chǎn)權(quán)保護(hù)需求。盧純昕、楊利華等學(xué)者提出，基于促進(jìn)人工智能創(chuàng)新與產(chǎn)業(yè)發(fā)展角度的考量，應(yīng)當(dāng)對人工智能創(chuàng)造物予以著作權(quán)保護(hù)，由此實現(xiàn)對人工智能創(chuàng)造者和實施者勞動成果的充分保障。②王遷、易繼明等學(xué)者持反對觀點，認(rèn)為雖然人工智能技術(shù)已經(jīng)發(fā)展到生成式階段，但并不具備自主意識和獨立思維，不能將其生成過程視作創(chuàng)新，因此較難將人工智能生成物歸為作品范疇。③但筆者認(rèn)為，持反對觀點學(xué)者的理由仍然屬于傳統(tǒng)工業(yè)時代下的認(rèn)知，隨著人類進(jìn)入數(shù)字時代，生產(chǎn)和生活方式也逐漸呈現(xiàn)出數(shù)字化趨勢，新一代生成式人工智能不僅改變了社會運行模式，而且確實生成了諸多具有價值且傳統(tǒng)工業(yè)時代不曾具有的新型產(chǎn)品，提高了人類的社會生活水平，具有保護(hù)的必要性。此外，從新一代生成式人工智能內(nèi)容生成的原理來看，其基于反復(fù)學(xué)習(xí)、反復(fù)試錯，從而得出結(jié)論，這一過程本身是創(chuàng)造的過程，符合獨創(chuàng)性特征，應(yīng)當(dāng)納入著作權(quán)法保護(hù)的范疇。著作權(quán)法的立法原旨就在于通過完成對版權(quán)作品的規(guī)范保護(hù)實現(xiàn)對于著作權(quán)人的創(chuàng)作激勵，在此視域下，創(chuàng)新成果版權(quán)歸屬存在爭議無疑會降低著作權(quán)人的創(chuàng)作積極性，甚至在科技成果轉(zhuǎn)化過程中會將著作權(quán)主體和使用主體等關(guān)聯(lián)主體卷入復(fù)雜的知識產(chǎn)權(quán)糾紛，糾紛解決的程序成本和風(fēng)險成本大幅增加，不僅會使科技創(chuàng)新成果失去市場優(yōu)勢地位，還會削減科技創(chuàng)新成果的衍生價值，甚至使得相關(guān)科技成果夭折，無法成功完成轉(zhuǎn)化應(yīng)用。

應(yīng)當(dāng)注意的是，在現(xiàn)有法律制度框架下，如果將新一代生成式人工智能創(chuàng)作物予以著作權(quán)法保護(hù)，仍然較難解決著作權(quán)的歸屬問題。具體來看，學(xué)界對于人工智能創(chuàng)作物的歸屬問題主要有以下觀點。有學(xué)者認(rèn)為，即使新一代生成式人工智能創(chuàng)作物屬于作品，但由于生成式人工智能不具備法律主體地位，因而不具有著作權(quán)上的主體資格。還有學(xué)者認(rèn)為，在數(shù)字時代背景下，新一代生成式人工智能更新了社會運行模式，具備一定的自主意識和獨立思維，可以作為新型法律主體而成為人工智能創(chuàng)作物的權(quán)利歸屬者。此外，還有部分學(xué)者持折中主義觀點，即不突破現(xiàn)行法律關(guān)于法律主體范圍之規(guī)定，而運用解釋論方法對現(xiàn)行《著作權(quán)法》進(jìn)行解釋，將新一代生成式人工智能創(chuàng)作物的權(quán)利分別歸屬于相應(yīng)的生產(chǎn)者、使用者或是提供者。由此可見，當(dāng)前理論界對現(xiàn)行法律主體資格范圍的認(rèn)知有所差異，使得新一代生成式人工智能創(chuàng)作物的權(quán)利歸屬較難達(dá)成共識。

2.創(chuàng)新成果可專利性認(rèn)定較難

新一代生成式人工智能主要在三個層面沖擊了現(xiàn)行專利制度，由此導(dǎo)致其創(chuàng)新成果較難認(rèn)定為具有可專利性。首先，新一代生成式人工智能技術(shù)沖擊了“人類發(fā)明中心主義”邏輯。我國現(xiàn)行專利法制度是以遵循“人類發(fā)明中心主義”為前提，這意味著，只有自然人才可以獲取專利授權(quán)，行使相關(guān)權(quán)利并履行相應(yīng)義務(wù)。如果將新一代生成式人工智能認(rèn)定為專利權(quán)主體，則突破了現(xiàn)行專利法之規(guī)則。其次，新一代生成式人工智能技術(shù)沖擊了“勞動理論”觀念。依據(jù)傳統(tǒng)觀點，專利權(quán)人通過支配身體、付出勞動成果等方式，將其智力延伸到創(chuàng)造領(lǐng)域，而創(chuàng)造出發(fā)明成果，故應(yīng)當(dāng)予以專利法保護(hù)。然而，新一代生成式人工智能技術(shù)無需身體上的支配與付出，其主要是基于數(shù)字化、電子化的演算而成，并且與身體勞動相比，生成式人工智能的邊際成本幾乎為零，這與“勞動觀念”具有明顯差異，因此較難運用“勞動理論”對人工智能生成物予以專利法保護(hù)。最后，新一代生成式人工智能沖擊了專利法上的“平衡邏輯”。新一代生成式人工智能具備強大的運算能力和極高的生成效率，如果運用專利法予以保護(hù)，那么極易造成專利客體數(shù)量在市場中大幅度增長，出現(xiàn)“專利叢林”問題，不利于社會公眾對相關(guān)成果的獲取與使用，致使個人利益與公共利益出現(xiàn)失衡。此外，新一代生成式人工智能技術(shù)的應(yīng)用，極大降低了發(fā)明創(chuàng)作的研發(fā)成本以及市場風(fēng)險。但生成式人工智能的控制者具有較強的市場激勵，使得專利法制度的市場激勵作用會降低或者喪失，甚至?xí)?dǎo)致生成式人工智能控制者傾向于坐享專利壟斷利益而怠于科技創(chuàng)新。因此，如果對生成式人工智能生成物過度地予以專利法保護(hù)，并不利于促進(jìn)科學(xué)技術(shù)的創(chuàng)新，反而會造成一定程度的公共利益損失。

三、數(shù)智賦能國家創(chuàng)新體系優(yōu)化的綜合規(guī)制

如今，以新一代生成式人工智能為代表的數(shù)字經(jīng)濟(jì)與數(shù)字技術(shù)成為現(xiàn)實經(jīng)驗活動最富有價值潛力的部分，因此在促進(jìn)國家創(chuàng)新體系進(jìn)一步優(yōu)化時，應(yīng)當(dāng)秉持的原則是通過法律規(guī)制，在最小風(fēng)險條件下利用人工智能技術(shù)。這就需要從技術(shù)本身出發(fā)，從技術(shù)運用到產(chǎn)品的生成再至成果的轉(zhuǎn)換，通過法治的方式化解其中存在的風(fēng)險，加強機制保障，最終實現(xiàn)國家創(chuàng)新體系深度優(yōu)化的目標(biāo)。

（一）以數(shù)據(jù)保護(hù)為基礎(chǔ)

1.健全人工智能數(shù)據(jù)安全法律治理

為了進(jìn)一步完善人工智能數(shù)據(jù)安全治理的法律規(guī)范體系，應(yīng)當(dāng)從法律規(guī)范和法律實踐兩個維度并行。從健全法律規(guī)范角度來看，要從數(shù)據(jù)安全和使用標(biāo)準(zhǔn)等方面完善人工智能研發(fā)應(yīng)用的規(guī)范化建設(shè)。在“科研-商業(yè)轉(zhuǎn)化”流程下，從適用范圍、環(huán)境和算法等不同環(huán)節(jié)細(xì)化人工智能研發(fā)應(yīng)用的數(shù)據(jù)安全要求。同時，設(shè)立數(shù)據(jù)安全、隱私保護(hù)的數(shù)據(jù)安全標(biāo)準(zhǔn)，以基礎(chǔ)的技術(shù)要求為參考依據(jù)，劃分?jǐn)?shù)據(jù)的安全保護(hù)等級，以分類分級保護(hù)的方式細(xì)化數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)。比如歐洲議會（European Parliament）通過的《關(guān)于“歐洲議會和理事會條例：制定人工智能的統(tǒng)一規(guī)則（人工智能法案）并修訂某些聯(lián)盟立法”的提案》就從風(fēng)險分級的思路，將人工智能技術(shù)劃分為不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和輕微風(fēng)險四種類型加以管理，且每一類目都有核心的法律追求以保全其清晰度。比如說法案從保護(hù)消費者以及用戶完整的“心理特征”以及打擊數(shù)據(jù)不公的核心目的出發(fā)，精準(zhǔn)地將包括人工智能中涉及利用人的潛意識、利用特定群體的脆弱性、社會信用分級以及實時遠(yuǎn)程生物識別的技術(shù)與服務(wù)納入不可接受的風(fēng)險清單中。而宏觀上建立對人工智能技術(shù)的分級分類法律管控制度，有利于執(zhí)法者與人工智能供應(yīng)商分別在行動時有所憑依，其效果類似于我國國務(wù)院所推出的“權(quán)利清單”，使得人工智能的法律監(jiān)管更為清晰明朗。

從具體的法律實踐角度看，在制定相關(guān)法律法規(guī)的過程中，首先，要注意部門行業(yè)之間的協(xié)同配合。在具體的法律實踐上，人工智能的立法及其他法律實踐活動必須要合理考量行業(yè)性質(zhì)與要求因地制宜進(jìn)行調(diào)整，同時其整體性的管束辦法也必然需要各部門之間的共同參與，比如2023年由國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》就由網(wǎng)信辦、國家發(fā)展與改革委員會（發(fā)改委）、教育部、科學(xué)技術(shù)部（科技部）、工信部以及公安部聯(lián)合發(fā)布。其次，要關(guān)注具體使用場景的重點立法。人工智能是一種高精尖技術(shù)，其應(yīng)用場景從最開始的文本對話、文案寫作，到后來的圖像生成、視頻創(chuàng)作、音樂創(chuàng)作、特定實驗（蛋白質(zhì)序列）模擬類以及代碼編寫協(xié)助等，使用場景與技術(shù)更新是在始終變動中的。因此在考慮使用法律規(guī)制人工智能的數(shù)據(jù)風(fēng)險時，必須從當(dāng)下的使用場景作為思考起點。最后，要繼續(xù)沿用“階梯式”的法律監(jiān)管方式，為成熟的綜合性人工智能法律法規(guī)留出空間。由于當(dāng)下的生成式人工智能技術(shù)尚處于不斷探索新領(lǐng)域和內(nèi)容高速成長的關(guān)鍵時期，距離完全成熟的人工智能業(yè)態(tài)還存在著很大的差距。因此，法律制度實踐也應(yīng)當(dāng)為其發(fā)展留下一定的空間。具體來說，可以采用階梯式的法律監(jiān)管方式，由省部級聯(lián)合某一行業(yè)領(lǐng)域進(jìn)行先軍式的立法試驗，在某一行業(yè)領(lǐng)域的人工智能技術(shù)業(yè)態(tài)穩(wěn)定后由中央總結(jié)地方和部門經(jīng)驗，再補充上位法。

2.完善以算法監(jiān)管為核心的安全保障體系

模型監(jiān)管主要聚焦在訓(xùn)練數(shù)據(jù)、算法設(shè)計和模型生成和優(yōu)化上，圍繞這幾個維度，重點關(guān)注模型是否存在AI歧視、模型本身存在的風(fēng)險、知識產(chǎn)權(quán)侵權(quán)、個人信息侵權(quán)問題以及訓(xùn)練數(shù)據(jù)的真實、準(zhǔn)確、客觀、多樣。

在訓(xùn)練數(shù)據(jù)方面，生成式人工智能的算法以深度學(xué)習(xí)模型作為AI的語言預(yù)處理手段，其核心的技術(shù)特征就在于通過爬取超大規(guī)模數(shù)據(jù)進(jìn)行訓(xùn)練。超大規(guī)模的訓(xùn)練參數(shù)數(shù)據(jù)可能存在以下合規(guī)問題：（1）超大規(guī)模的數(shù)據(jù)爬取有較高可能性涉及個人信息侵權(quán)或者知識產(chǎn)權(quán)侵權(quán)的現(xiàn)象；（2）當(dāng)算法訓(xùn)練數(shù)據(jù)極端增加，巨大規(guī)模的參數(shù)雖然的確提高了決策準(zhǔn)確性，但由于可能的微調(diào)數(shù)據(jù)的行為，以及對數(shù)據(jù)清洗的難度增加，這就導(dǎo)致算法可解釋的流失。算法本質(zhì)是為了快速處理數(shù)據(jù)而準(zhǔn)備的一套邏輯步驟，當(dāng)算法從一種簡單的底層規(guī)則演變?yōu)閺?fù)雜的計算方式，重新拆解算法合規(guī)性的難度就因此增加。尤其生成式人工智能所依托的深度學(xué)習(xí)模型是典型的黑箱算法，目前的技術(shù)條件無法對其進(jìn)行全面解釋，其一定程度上的不可解釋性也就在某些方面客觀上逃避了應(yīng)該有的法律追問。

為有效化解算法潛在的技術(shù)風(fēng)險和制度風(fēng)險，應(yīng)當(dāng)從法律規(guī)制和技術(shù)規(guī)制兩個角度出發(fā)，完善對算法的系統(tǒng)化規(guī)制。從技術(shù)規(guī)制的角度出發(fā)，協(xié)調(diào)增強算法監(jiān)管制度的體系建構(gòu)，監(jiān)管部門應(yīng)該對算法的數(shù)據(jù)使用、應(yīng)用場景、影響效果等開展日常監(jiān)測工作，感知算法應(yīng)用帶來的網(wǎng)絡(luò)傳播趨勢、市場規(guī)則變化、網(wǎng)民行為等信息，預(yù)警算法應(yīng)用可能產(chǎn)生的不規(guī)范、不公平、不公正等隱患，發(fā)現(xiàn)算法應(yīng)用安全問題。從對算法的主要編制主體——企業(yè)入手，應(yīng)當(dāng)從法律層面確定企業(yè)主體履行算法披露、糾偏、報告的責(zé)任，并合理運用審計制度倒逼企業(yè)建立內(nèi)部算法登記制度，部分開放算法開發(fā)和修正的信息，從而實現(xiàn)算法的相對透明。

（二）以共識凝練為補充

1.核心價值觀條款設(shè)置的必要性

對人工智能進(jìn)行價值規(guī)制的必要性在于，權(quán)力的實現(xiàn)依賴于對信息傳播的控制，通過這種控制進(jìn)而在最大范圍內(nèi)“制造同意”，而人工智能的算法主導(dǎo)了數(shù)字時代的信息傳播，進(jìn)而影響到人們的思想觀念和價值屬性。①人工智能盡管更多地表現(xiàn)為一種技術(shù)手段，但從其功能和效用而言也具備了一定的權(quán)力屬性。因此，以一定的價值理念對人工智能的設(shè)計者及其算法邏輯進(jìn)行價值塑造，將這種價值理念融入人工智能的設(shè)計中就顯得尤為必要。黨的二十大報告指出，“社會主義核心價值觀是凝聚人心、匯聚民力的強大力量”，“把社會主義核心價值觀融入法治建設(shè)、融入社會發(fā)展、融入日常生活”。②通過對人工智能設(shè)計者進(jìn)行社會主義價值觀的理論塑造，能夠使其立足于中國實際，在程序的邏輯設(shè)計上能夠以國家和人民利益作為智能產(chǎn)品的出點發(fā)，由此能夠避免人工智能技術(shù)可能產(chǎn)生的思想異化趨勢。

2.技術(shù)手段條款運用的必要性

以社會主義核心價值觀作為規(guī)避技術(shù)異化的價值基礎(chǔ)，對于科技發(fā)展而言具有宏觀的方向指引作用，但這并不能在具體層面實現(xiàn)對技術(shù)異化的規(guī)避。從馬克思主義的理論視角出發(fā)，科學(xué)和自然力總是作為資本的力量與工人相對，科學(xué)及其應(yīng)用進(jìn)入勞動的一切地方，都表現(xiàn)為被并入資本的東西。③因此，科學(xué)技術(shù)作為一種工具并非是中立的，蘊含了資本的生產(chǎn)邏輯。在我國的現(xiàn)實語境下，一方面，智能化在技術(shù)層面的推進(jìn)往往依賴于私營企業(yè)；另一方面，市場經(jīng)濟(jì)的大背景又賦予這些企業(yè)追求利益的合法權(quán)利。因此，缺乏技術(shù)監(jiān)管的人工智能很容易成為企業(yè)追求利潤的工具，具有更多經(jīng)濟(jì)效益的群體的訴求往往會被重視，而老人、孩童等群體在智能化時代的權(quán)利往往被忽視。因此，人工智能及其技術(shù)賦能的實現(xiàn)要以數(shù)智善治為目的，從制度層面加強數(shù)據(jù)的保護(hù)和安全制度建設(shè)，從技術(shù)保障層面落實數(shù)據(jù)安全的保障措施，④以此避免技術(shù)異化可能帶來的消極后果。例如，在數(shù)據(jù)權(quán)利主體的司法救濟(jì)路徑中，可以通過技術(shù)手段實現(xiàn)權(quán)益侵害風(fēng)險的識別和證據(jù)留存，完成對于數(shù)字弱勢群體的傾斜保護(hù)，降低數(shù)據(jù)權(quán)利主體對因果關(guān)系的證明負(fù)擔(dān)，平衡其與算法平臺的訴訟地位。通過價值和技術(shù)手段兩個層面的規(guī)制，最大限度避免人工智能可能帶來的負(fù)面效果。

（三）以知識產(chǎn)權(quán)為要點

1.人工智能作為成果產(chǎn)權(quán)歸屬之明確

僵化性和滯后性是法律不可避免的特征。人工智能的發(fā)展對法律的影響尤其體現(xiàn)在知識產(chǎn)權(quán)領(lǐng)域，具體而言涉及兩個層面。一方面是人工智能的主體在知識產(chǎn)權(quán)層面的界定。傳統(tǒng)知識產(chǎn)權(quán)的主體制度一般以自然人為原點進(jìn)行建構(gòu)，人工智能的出現(xiàn)及其創(chuàng)造作品的能力對著作權(quán)作者、專利發(fā)明人等的主體界定產(chǎn)生了規(guī)制上的模糊地帶，并引發(fā)了一系列知識產(chǎn)權(quán)主體界定的爭議。⑤另一方面是人工智能創(chuàng)造物的知識產(chǎn)權(quán)問題。如果對其虛擬作品的生產(chǎn)和運用不加以規(guī)制，便會造成海量符合標(biāo)準(zhǔn)卻無實際價值的知識產(chǎn)權(quán)成果，同時會在知識產(chǎn)權(quán)層面對人類主體帶來極大的秩序沖擊。因此，面對人工智能在作品產(chǎn)出上的特點，應(yīng)當(dāng)在知識產(chǎn)權(quán)取得標(biāo)準(zhǔn)、設(shè)計人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬機制及其限制規(guī)則等層面設(shè)置相應(yīng)的標(biāo)準(zhǔn)①，彌補法律體系的空缺。

2.注重人工智能成果轉(zhuǎn)化過程的法律構(gòu)建

人工智能的發(fā)展及其成果產(chǎn)出之所以能在人類社會中激起波瀾，歸根到底源于其成果在實踐層面的轉(zhuǎn)化運用。黨的二十大報告指出，要“提高科技成果轉(zhuǎn)化和產(chǎn)業(yè)化水平”②，這既是國家科技創(chuàng)新體系的關(guān)鍵環(huán)節(jié)，同時還關(guān)涉人工智能領(lǐng)域?qū)ι鐣a(chǎn)力和生產(chǎn)效率的推動。所謂科技成果轉(zhuǎn)化，“是指為提高生產(chǎn)力水平而對科技成果所進(jìn)行的后續(xù)試驗、開發(fā)、應(yīng)用、推廣直至形成新技術(shù)、新工藝、新材料、新產(chǎn)品，發(fā)展新產(chǎn)業(yè)等活動”③。要想處理好人工智能科技成果的轉(zhuǎn)化需要處理好兩個層面的問題。一是如何提高人工智能的技術(shù)轉(zhuǎn)化效率。目前我國科學(xué)技術(shù)成果的轉(zhuǎn)化面臨科技轉(zhuǎn)化主體的能力不強、技術(shù)轉(zhuǎn)化的渠道和模式不夠通暢以及成果轉(zhuǎn)化激勵不足等問題④，這降低了人工智能領(lǐng)域技術(shù)創(chuàng)新的積極性，不利于該行業(yè)的長期穩(wěn)健發(fā)展。二是要處理好科技成果轉(zhuǎn)化“如何做”的問題，缺乏此方面的規(guī)定，科技成果轉(zhuǎn)化在具體操作層面便會陷入無序狀態(tài)。因此，政府應(yīng)該發(fā)揮好法律制度制定的牽頭作用，在尊重市場秩序的前提下完善科技成果轉(zhuǎn)化的規(guī)范設(shè)計。只有通過健全的法律制度來保障各類主體協(xié)作關(guān)系的順暢、科技成果的高效流轉(zhuǎn)，才能推動國家創(chuàng)新體系的良性循環(huán)，進(jìn)而實現(xiàn)以科技創(chuàng)新推動社會經(jīng)濟(jì)發(fā)展的最終目的。⑤

（四）以產(chǎn)業(yè)結(jié)構(gòu)為依托

1.開放交互的制度完善

人工智能技術(shù)已成為當(dāng)今時代國際競爭的重要籌碼，作為全球新一輪科技革命和產(chǎn)業(yè)變革的風(fēng)向標(biāo)，人工智能技術(shù)的掌握程度直接決定未來一段時期內(nèi)國際競爭表現(xiàn)和國內(nèi)經(jīng)濟(jì)發(fā)展面貌。世界上主要發(fā)達(dá)國家紛紛開拓人工智能產(chǎn)業(yè)，這也使得人工智能技術(shù)創(chuàng)新引來井噴式變革。不過，各個國家對人工智能產(chǎn)業(yè)發(fā)展的側(cè)重點各有不同。例如作為一直以來全球科技引領(lǐng)者的美國，在人工智能領(lǐng)域主要以企業(yè)為創(chuàng)新主體，美國人工智能企業(yè)多緊密貼合市場需求，因而在技術(shù)創(chuàng)新價值上的重要性程度較高。老牌工業(yè)強國德國對人工智能技術(shù)的發(fā)展囿于其制造業(yè)場景，所以在市場利益的轉(zhuǎn)化上不甚顯著，但在人工智能理論研究與技術(shù)實踐方面則具備了較高水平。我國由于一直受科教興國等戰(zhàn)略的支撐，對人工智能技術(shù)長期以來極為重視，這也令我國在人工智能賽道上位居世界前列。與美國不同，我國人工智能創(chuàng)新往往由高校作為發(fā)起主體，在人工智能專利的申請數(shù)量上具備優(yōu)勢地位。但同樣受制于高校與企業(yè)的聯(lián)系程度不足的現(xiàn)實，我國人工智能市場創(chuàng)新的價值性還存在較大提升空間。在技術(shù)研究領(lǐng)域方面，我國將人工智能技術(shù)與互聯(lián)網(wǎng)緊密結(jié)合，深度發(fā)展智能汽車、智能無人機等新興人工智能領(lǐng)域，這比美、德等國重點關(guān)注傳統(tǒng)人工智能領(lǐng)域具備更強勁的后發(fā)優(yōu)勢。鑒于國內(nèi)外人工智能技術(shù)研究與市場化的多樣性，我國不僅要更為注重國內(nèi)人工智能技術(shù)的創(chuàng)新和市場培育，也要適時尋找加強對外輸出的契機，通過與世界各大經(jīng)濟(jì)體之間的技術(shù)和市場合作，進(jìn)一步培養(yǎng)國外市場消費習(xí)慣、擴大市場份額以及優(yōu)化自身關(guān)鍵技術(shù)。

2.成果轉(zhuǎn)化的順暢機制

我國人工智能創(chuàng)新主體主要來自于高校等科研院所，企業(yè)對人工智能科技成果創(chuàng)新力提供有限，因此導(dǎo)致我國人工智能科技成果市場化和產(chǎn)業(yè)化程度不足的現(xiàn)狀。從美國人工智能產(chǎn)業(yè)發(fā)展經(jīng)驗來看，要想擴大人工智能科技成果的市場轉(zhuǎn)化，根本在于以市場需求為導(dǎo)向。因此，應(yīng)當(dāng)充分提升科技企業(yè)，尤其是人工智能科技企業(yè)的創(chuàng)新能力，通過高校與企業(yè)更為密切的聯(lián)系，提高人工智能科技成果市場轉(zhuǎn)化率。以市場需求為導(dǎo)向意味著將人工智能科技發(fā)展方向交由市場引導(dǎo)，在進(jìn)一步降低交易成本的條件下提升人工智能技術(shù)創(chuàng)新的市場轉(zhuǎn)化率。同時，要促進(jìn)數(shù)字創(chuàng)新技術(shù)與實體產(chǎn)業(yè)的融合銜接，政府可以為以企業(yè)為主導(dǎo)的產(chǎn)學(xué)研深度融合提供政策扶持和資金支持，政府可以作為中介或橋梁促進(jìn)資金鏈、人才鏈、技術(shù)鏈、產(chǎn)業(yè)鏈的雙向銜接和深度融合，促成科技成果的市場化轉(zhuǎn)化，從而反哺科技創(chuàng)新成果研發(fā)過程，形成科技研發(fā)、轉(zhuǎn)化、運用的產(chǎn)業(yè)閉環(huán)，螺旋式提升國家整體創(chuàng)新能力。通過建立以高校、政府、企業(yè)為主體的三方共建機制，深化產(chǎn)學(xué)研的融合進(jìn)程，推動科技創(chuàng)新成果轉(zhuǎn)化為實際生產(chǎn)力，在完善國家創(chuàng)新體系的同時實現(xiàn)經(jīng)濟(jì)總量的穩(wěn)步提升。

（五）以人才配套為輔助

1.健全人工智能人才培養(yǎng)體系

人工智能人才的自主培養(yǎng)關(guān)系到我國工程教育由“大”向“強”的根本轉(zhuǎn)變。當(dāng)前，我國工程教育規(guī)模已居世界第一，但“大而不強”的現(xiàn)狀依然成為阻礙我國科技創(chuàng)新的重要掣肘因素之一。人工智能技術(shù)作為未來很長一段時期內(nèi)全球科技變革的主陣地，是實現(xiàn)我國科技發(fā)展“彎道超車”的歷史機遇。因此，完善人工智能人才培養(yǎng)就成為當(dāng)下我國人工智能技術(shù)發(fā)展的核心命題。面對未來的科技趨勢，我國必須實現(xiàn)人工智能技術(shù)應(yīng)用人才、技術(shù)創(chuàng)新人才以及技術(shù)管理人才的三層次培養(yǎng)體系。技術(shù)應(yīng)用人才是人工智能人才的基本需求，其培養(yǎng)目標(biāo)在于既需要掌握專業(yè)的人工智能技術(shù)，也需要具備將所學(xué)人工智能技術(shù)應(yīng)用于具體產(chǎn)業(yè)實踐的能力。技術(shù)創(chuàng)新人才是我國人工智能技術(shù)發(fā)展可持續(xù)化的根本驅(qū)動。在人工智能市場化方面需要充分提供各類人工智能技術(shù)的應(yīng)用方案，以引領(lǐng)產(chǎn)業(yè)發(fā)展。在人工智能技術(shù)創(chuàng)新方面則需要創(chuàng)新融合人工智能技術(shù)與傳統(tǒng)產(chǎn)業(yè)，賦能傳統(tǒng)產(chǎn)業(yè)催生新業(yè)態(tài)。技術(shù)管理人才是我國人工智能產(chǎn)業(yè)市場化的重要推動力。通過培養(yǎng)技術(shù)管理人才，可以有效打通人工智能企業(yè)和組織上下游的信息交互，提升業(yè)務(wù)交流、生產(chǎn)銷售等效率。另外，鼓勵人才的聯(lián)合培養(yǎng)與對外交流，破解科技創(chuàng)新的難點和瓶頸也構(gòu)成我國人工智能人才培養(yǎng)體系的重要環(huán)節(jié)。

2.完善人工智能國際高層次人才引進(jìn)

前文已經(jīng)提及，相對于美國，我國人工智能科技成果的市場價值重要性程度存在明顯不足，這主要是由于我國人工智能專利的技術(shù)重要程度和創(chuàng)新性低，與其它專利技術(shù)關(guān)聯(lián)性不強，技術(shù)價值偏低所導(dǎo)致的。①因此，從人工智能人才培養(yǎng)的角度來看，除了要加快對本土人才的創(chuàng)新培養(yǎng)，同樣應(yīng)當(dāng)注重對國際人工智能高層次創(chuàng)新人才的引進(jìn)。完善對于國際人工智能人才的引進(jìn)機制，需要營造正向、公正、透明的科技創(chuàng)新環(huán)境，提高相關(guān)人才的薪酬待遇，加大前沿技術(shù)的研發(fā)力度，從而吸引全球頂尖人工智能人才加入我國人工智能科技創(chuàng)新的興趣。政府層面也應(yīng)鼓勵高校、企業(yè)、科研機構(gòu)等單位對國際人工智能人才的引進(jìn)，為其提供政策支持和資金支持。

結(jié)語

新一代生成式人工智能對于國家創(chuàng)新體系具有直接而深遠(yuǎn)的影響。與個案式考察相比，法學(xué)領(lǐng)域長期忽視的重要方面是產(chǎn)業(yè)結(jié)構(gòu)、成果轉(zhuǎn)化以及市場完善等更為具體的法律構(gòu)建。這種具體性不同于個案審查中的抽象玄奧，個案審查往往涉及各種復(fù)雜的價值判斷，需要借助哲學(xué)、倫理學(xué)等外部資源，并在整個體系中精妙且小心地運用。在產(chǎn)業(yè)、成果和市場等方面的法律構(gòu)建屬于立法論的范疇，而這一方面一直是法學(xué)界長期忽略的邊緣領(lǐng)域。然而，正是這些方面構(gòu)成了當(dāng)前最為緊迫、亟待建設(shè)的法學(xué)內(nèi)容。因此，新一代生成式人工智能與國家創(chuàng)新體系的緊密耦合，迫切需要在特定、目前尚未完備但未來必將完善的法律框架下進(jìn)行審慎考慮和規(guī)劃。從產(chǎn)業(yè)結(jié)構(gòu)的角度看，新一代生成式人工智能的發(fā)展需要法律體系對其進(jìn)行引導(dǎo)和規(guī)范。制定相應(yīng)法規(guī)，明確產(chǎn)業(yè)發(fā)展的方向、步驟以及各方責(zé)任，有助于確保人工智能產(chǎn)業(yè)的可持續(xù)、健康發(fā)展。成果轉(zhuǎn)化方面，法律應(yīng)當(dāng)為技術(shù)成果的轉(zhuǎn)化提供明確的法律途徑和保障機制，以促進(jìn)科研成果更好地服務(wù)社會。另外，針對市場完善，法學(xué)應(yīng)當(dāng)著眼于構(gòu)建一個適應(yīng)人工智能發(fā)展的市場法規(guī)框架，包括知識產(chǎn)權(quán)保護(hù)、競爭政策、數(shù)據(jù)隱私等方面的法律機制，以保障市場的公平、透明和有序運行。這不僅有助于激發(fā)創(chuàng)新活力，還能夠建立起一個健康的市場生態(tài)系統(tǒng)?？傮w而言，新一代生成式人工智能對于國家創(chuàng)新體系來說是一項重要的推動力量，但其蓬勃發(fā)展需要一個明確而完善的法律框架的支持。只有通過法律的精準(zhǔn)構(gòu)建，才能夠?qū)崿F(xiàn)人工智能在創(chuàng)新體系中的有序、高效運作，為國家科技發(fā)展注入新的活力。