生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的合規(guī)管理研究

羅世杰　賀國(guó)榮

關(guān)鍵詞：生成式AI；算法訓(xùn)練風(fēng)險(xiǎn)；風(fēng)險(xiǎn)治理；合規(guī)管理；算法合規(guī)

中圖分類號(hào)：TP18；D922.1 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1672-626X（2023）06-0106-10

2022年底，OpenAI正式推出其研發(fā)的智能對(duì)話機(jī)器人ChatGPT，并迅速在全球范圍內(nèi)爆火。2023年4月，其再度推出GPT-4，并公布其將聯(lián)網(wǎng)，意味著生成式AI技術(shù)再達(dá)高峰。生成式AI技術(shù)流程大致可以分為訓(xùn)練和生成兩個(gè)部分，通過學(xué)習(xí)大量數(shù)據(jù)并進(jìn)行模型訓(xùn)練，能夠自動(dòng)生成符合特定領(lǐng)域規(guī)律的全新內(nèi)容。生成式AI算法訓(xùn)練具有前所未有的獨(dú)特性——其訓(xùn)練過程自主性較強(qiáng)、訓(xùn)練結(jié)果可控性較低，訓(xùn)練階段的效果直接影響模型的優(yōu)劣，從而左右生成數(shù)據(jù)的質(zhì)量①。但生成式AI技術(shù)的研發(fā)與應(yīng)用也是一把雙刃劍：一方面，ChatGPT等一系列生成式大語言模型的研發(fā)與應(yīng)用意味著生成式AI技術(shù)達(dá)到領(lǐng)域前沿，其技術(shù)價(jià)值豐富、應(yīng)用場(chǎng)景廣泛，將大力促進(jìn)經(jīng)濟(jì)和社會(huì)發(fā)展；另一方面，其崛起也引發(fā)諸多負(fù)外部性，既包括知識(shí)產(chǎn)權(quán)歸屬、商業(yè)秘密保護(hù)、數(shù)據(jù)與算法安全等法律問題，還包括就業(yè)替代、人類主權(quán)失范等倫理問題。

在此背景下，我國(guó)已展開相關(guān)立法活動(dòng)：2023年6月，《人工智能法草案》預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議；同年7月，出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《服務(wù)辦法》）。這說明我國(guó)即將進(jìn)入人工智能強(qiáng)監(jiān)管時(shí)代，而生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的防范與規(guī)制也一躍成為全新且熱潮的法律課題。

一、生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的類型化梳理

在生成式AI技術(shù)不斷升級(jí)并被廣泛應(yīng)用背景下，作為其核心的算法模型訓(xùn)練是法律風(fēng)險(xiǎn)密集的環(huán)節(jié)。生成式AI算法訓(xùn)練以數(shù)據(jù)、算法、算力以及算法標(biāo)注等重要元素為基礎(chǔ)，其訓(xùn)練全過程（計(jì)劃、過程與結(jié)果）可能引發(fā)各類風(fēng)險(xiǎn)。以GPT-4為例說明，生成式AI算法訓(xùn)練引發(fā)的風(fēng)險(xiǎn)包括如下幾類：

（一）生成式AI 算法訓(xùn)練的數(shù)據(jù)合法性與質(zhì)量風(fēng)險(xiǎn)

其一，生成式AI算法訓(xùn)練的數(shù)據(jù)獲取途徑合法性問題。一方面，在生成式AI算法訓(xùn)練過程中，易出現(xiàn)數(shù)據(jù)獲取途徑不透明問題。目前GPT-4算法模型仍系“算法黑箱”，OpenAI沒有向外界披露其所使用數(shù)據(jù)的來源。且隨著GPT-4的訓(xùn)練數(shù)據(jù)庫(kù)聯(lián)網(wǎng)，其違法違規(guī)抓取互聯(lián)網(wǎng)信息以獲得訓(xùn)練數(shù)據(jù)的風(fēng)險(xiǎn)增大。另一方面，生成式AI算法訓(xùn)練易引發(fā)違法抓取個(gè)人數(shù)據(jù)問題。在個(gè)人數(shù)據(jù)安全層面，生成式AI可能未經(jīng)用戶同意就進(jìn)行大量抓取。此外，GPT-4的“預(yù)學(xué)習(xí)”無需人工介入、標(biāo)注和監(jiān)督，導(dǎo)致GPT-4在獲取預(yù)訓(xùn)練數(shù)據(jù)的效率上很難受人的干預(yù)和調(diào)控，因而違法抓取個(gè)人數(shù)據(jù)的情況無可避免[1]。

其二，生成式AI算法訓(xùn)練階段生成的數(shù)據(jù)合法性與質(zhì)量問題。一方面，算法訓(xùn)練生成的數(shù)據(jù)遭遇極大合法性挑戰(zhàn)。由于用于算法訓(xùn)練的數(shù)據(jù)可能不準(zhǔn)確或存在傾向性，故難以保證其合法性，導(dǎo)致生成的數(shù)據(jù)也極有可能具有“毒性”[2]。易言之，GPT-4的算法訓(xùn)練所需數(shù)據(jù)量極大，而該部分?jǐn)?shù)據(jù)通常涉及隱私、權(quán)屬、公平競(jìng)爭(zhēng)等問題，很可能違背相關(guān)法律和倫理規(guī)范。若對(duì)所獲數(shù)據(jù)內(nèi)容的合法性和合規(guī)性不予置評(píng)和糾正，基于其進(jìn)行的算法訓(xùn)練也會(huì)類似“蝴蝶效應(yīng)”繼續(xù)生成不合法數(shù)據(jù)。另一方面，“毒樹之果”②效應(yīng)蔓延至生成式AI算法訓(xùn)練過程中的數(shù)據(jù)質(zhì)量方面，用低質(zhì)量數(shù)據(jù)生成低質(zhì)量數(shù)據(jù)的情況無可避免。同時(shí)，也有可能本不屬于低質(zhì)量的數(shù)據(jù)在訓(xùn)練過程中被“污染”變成低質(zhì)量數(shù)據(jù)。

其三，生成式AI算法訓(xùn)練所涉數(shù)據(jù)的泄露與濫用問題。一方面，生成式AI在算法訓(xùn)練過程中，極易遭受數(shù)據(jù)泄露問題，這種數(shù)據(jù)泄露可能系人為，也可能系算法訓(xùn)練技術(shù)本身問題。且隨著愈來愈多領(lǐng)域?qū)ι墒紸I加以應(yīng)用，尤其在算法訓(xùn)練的過程中，數(shù)據(jù)泄露成為一大隱患。因?yàn)閿?shù)據(jù)作為重要生產(chǎn)要素，一旦泄露將給企業(yè)、行業(yè)帶來重大損失。另一方面，生成式算法訓(xùn)練所需數(shù)據(jù)面臨被濫用問題。由于生成式AI的算法訓(xùn)練過程具有強(qiáng)大的模仿與生成能力，不法分子可能利用其整合與生成虛假信息，引發(fā)社會(huì)安全與經(jīng)濟(jì)效益問題。且即使是零碎信息，GPT-4也可能將其與其他類型數(shù)據(jù)拼合在一起進(jìn)行挖掘分析，從而推斷出關(guān)系國(guó)家安全、公共安全、個(gè)人和組織合法權(quán)益的信息[3]。從而可能影響到國(guó)家、社會(huì)和個(gè)人利益安全。

（二）生成式AI 算法訓(xùn)練的偏差（錯(cuò)誤）、歧視與偏見風(fēng)險(xiǎn)

生成式AI算法訓(xùn)練在“預(yù)學(xué)習(xí)”時(shí)沒有過濾機(jī)制和人工監(jiān)管，導(dǎo)致其在算法訓(xùn)練過程中，可能生成虛假或不良信息，也可能產(chǎn)生算法歧視、偏見風(fēng)險(xiǎn)。

其一，生成式AI算法訓(xùn)練引發(fā)信息鏈條式虛假或低質(zhì)量的潛在風(fēng)險(xiǎn)。一方面，如前文所述，GPT-4模型在“預(yù)學(xué)習(xí)”時(shí)沒有人工監(jiān)督，獲取的數(shù)據(jù)未經(jīng)過實(shí)質(zhì)性篩查和挑選，數(shù)據(jù)在源頭處即存在內(nèi)容不合法（規(guī)）、虛假或錯(cuò)誤問題，從而影響模型訓(xùn)練結(jié)果的正確性和中立性。另一方面，盡管OpenAI在開發(fā)GPT-4時(shí)已經(jīng)極力避免輸出帶有偏離社會(huì)價(jià)值觀導(dǎo)向的內(nèi)容，但在GPT-4算法訓(xùn)練過程中，其可能遭遇惡意“投毒”，導(dǎo)致訓(xùn)練出的算法模型遭到污染，也會(huì)誘使其通過訓(xùn)練得到的語言模型輸出不良或虛假數(shù)據(jù)，形成連環(huán)效應(yīng)[4]。此外，在生成式AI算法訓(xùn)練場(chǎng)景中，算法標(biāo)注是實(shí)現(xiàn)大規(guī)模訓(xùn)練數(shù)據(jù)機(jī)器學(xué)習(xí)的關(guān)鍵所在。所謂“算法標(biāo)注”，即對(duì)生成式AI原始數(shù)據(jù)集進(jìn)行標(biāo)注、分類、分析和清洗，以助力訓(xùn)練機(jī)器學(xué)習(xí)算法和人工智能模型[5]。而在生成式AI算法標(biāo)注場(chǎng)域中，存在標(biāo)注內(nèi)容不合規(guī)、標(biāo)注規(guī)則本身違法或標(biāo)注人員不符要求等風(fēng)險(xiǎn)，從而導(dǎo)致算法訓(xùn)練過程與結(jié)果出現(xiàn)內(nèi)容與價(jià)值偏移。

其二，在生成式AI算法訓(xùn)練的動(dòng)態(tài)風(fēng)險(xiǎn)場(chǎng)域下，算法歧視和偏見風(fēng)險(xiǎn)亦暗潮涌動(dòng)。有學(xué)者認(rèn)為，在生成式AI時(shí)代，算法歧視存在朝“無意識(shí)”轉(zhuǎn)變的可能性甚至是趨勢(shì)[6]。而本文討論的算法歧視與偏見風(fēng)險(xiǎn)主要指被訓(xùn)練出來的生成式AI算法模型帶有對(duì)國(guó)別、種族、職業(yè)、年齡、性別甚至是數(shù)字窮富差距的甄別與擇“強(qiáng)”傾斜[7]。這種歧視與偏見一方面來自于生成式AI算法訓(xùn)練標(biāo)注者的歧視因素，另一方面則來自于生成式AI本身的技術(shù)中立性異化[8]。生成式AI的算法訓(xùn)練本質(zhì)是利用算法對(duì)大量的數(shù)據(jù)進(jìn)行處理，但生成式AI算法模型本身還不能對(duì)數(shù)據(jù)進(jìn)行查證與甄別，常常可能生成看似準(zhǔn)確但本質(zhì)錯(cuò)誤的誤導(dǎo)性內(nèi)容。而且，生成式AI算法訓(xùn)練技術(shù)本身無法完全避免社會(huì)偏見和價(jià)值觀傾向，從而可能固化社會(huì)偏見和歧視[2]。

（三）生成式AI 算法訓(xùn)練易觸碰反壟斷紅線

其一，生成式AI技術(shù)層面的壟斷。GPT-4的發(fā)布在各個(gè)領(lǐng)域引起了巨大的轟動(dòng)。在某些領(lǐng)域，其已經(jīng)顯露絕對(duì)優(yōu)勢(shì)，或者說“AI霸權(quán)”。OpenAI為維護(hù)其已經(jīng)占據(jù)的優(yōu)勢(shì)地位，繼續(xù)研發(fā)升級(jí)模型算法和優(yōu)化性能，從而進(jìn)一步鞏固其領(lǐng)先地位，擴(kuò)大“雪球效應(yīng)”，以此實(shí)現(xiàn)技術(shù)市場(chǎng)壟斷。正如美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）下屬的競(jìng)爭(zhēng)局表示③，生成式AI依賴于一系列必要的投入。如果一家公司或少數(shù)幾家公司控制著這些重要投入中的一種或幾種，他們也許能夠利用控制權(quán)來抑制或扭曲生成式AI技術(shù)市場(chǎng)的競(jìng)爭(zhēng)，控制整個(gè)生成式AI技術(shù)市場(chǎng)的進(jìn)入與退出。

其二，算法訓(xùn)練過程中的數(shù)據(jù)壟斷。盡管數(shù)據(jù)系非競(jìng)爭(zhēng)性產(chǎn)物，但在其釋放經(jīng)濟(jì)價(jià)值的過程中，具有較高效益的數(shù)據(jù)作為稀缺資源必然造成競(jìng)爭(zhēng)現(xiàn)場(chǎng)。在生成式AI算法訓(xùn)練所涉及的數(shù)據(jù)獲取、訓(xùn)練或輸出等環(huán)節(jié)，競(jìng)爭(zhēng)壁壘都有出現(xiàn)的可能性，形成數(shù)據(jù)壟斷[9]。即生成式AI算法訓(xùn)練需要海量數(shù)據(jù)，如果該數(shù)據(jù)來自于一個(gè)特定的數(shù)據(jù)集中，那么可能會(huì)存在壟斷風(fēng)險(xiǎn)，包括數(shù)據(jù)集中和數(shù)據(jù)共享中的壟斷風(fēng)險(xiǎn)。

二、生成式AI算法訓(xùn)練風(fēng)險(xiǎn)引入合規(guī)管理的必要性證成

生成式AI算法訓(xùn)練風(fēng)險(xiǎn)被認(rèn)為是生成式AI企業(yè)算法訓(xùn)練活動(dòng)產(chǎn)生的顯著負(fù)外部性，對(duì)涉及的數(shù)據(jù)與算法安全、數(shù)字經(jīng)濟(jì)以及相關(guān)法律制度造成沖擊。從法學(xué)角度上看，負(fù)外部性是一個(gè)法律主體在享受權(quán)利時(shí)將相對(duì)應(yīng)應(yīng)當(dāng)承擔(dān)的義務(wù)和責(zé)任施加給其他主體[10]。為應(yīng)對(duì)這一負(fù)外部性，學(xué)者們已提出了一定的對(duì)策建議，有的基于風(fēng)險(xiǎn)治理視角的路徑，提出通過對(duì)生成式AI進(jìn)行風(fēng)險(xiǎn)定級(jí)進(jìn)而監(jiān)管其算法模型[11]；有的基于主體治理視角的路徑，提出以生成式AI算法主體責(zé)任機(jī)制奠定我國(guó)生成式AI算法問責(zé)機(jī)制的運(yùn)作基礎(chǔ)，具體包括備案、解釋以及問責(zé)[12～13]；有的基于應(yīng)用治理視角的路徑，指出不以出臺(tái)生成式AI專門規(guī)制法為目的，而是在其具體應(yīng)用場(chǎng)域中以單行法律和法規(guī)的形式施以針對(duì)性治理等[14]。

然而上述措施被單獨(dú)或空泛使用時(shí)可能遭遇事前防范不足、事后規(guī)制滯后的治理困境，且其均基于“硬法”規(guī)制視角，缺乏從法律主體自治角度提出“軟法”治理之策[15]?；诖?，本文擬從合規(guī)管理視角提出生成式AI企業(yè)算法訓(xùn)練合規(guī)管理，其蘊(yùn)含的依法治理和包容治理相結(jié)合的法律治理功能可以實(shí)現(xiàn)生成式AI算法訓(xùn)練法律風(fēng)險(xiǎn)治理之目標(biāo)，促進(jìn)生成式AI算法模型訓(xùn)練的良性發(fā)展。

（一）生成式AI 算法訓(xùn)練風(fēng)險(xiǎn)的依法治理

當(dāng)?shù)貢r(shí)間2023年6月14日，歐洲議會(huì)投票通過了《人工智能法案》，對(duì)ChatGPT等生成式AI工具提出了新的算法訓(xùn)練透明度、安全性等要求[16]，相關(guān)企業(yè)應(yīng)依法合規(guī)進(jìn)行算法訓(xùn)練，算是打開了生成式AI算法訓(xùn)練依法治理之路。這對(duì)我國(guó)生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理具有重要參考意義。生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的產(chǎn)生直接影響生成式AI技術(shù)的健康發(fā)展，因此有必要在實(shí)現(xiàn)算法向善治理的目標(biāo)基底上尋求依法治理路徑，對(duì)算法訓(xùn)練風(fēng)險(xiǎn)進(jìn)行約束與防范[17]。具體到生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理，不僅要確立法律在生成式AI研發(fā)、生產(chǎn)、運(yùn)用中的權(quán)威性，而且要提升其研發(fā)、生產(chǎn)、運(yùn)用企業(yè)及其員工按照人工智能相關(guān)法律規(guī)范行事的行為習(xí)慣[18]。

企業(yè)出于防范法律風(fēng)險(xiǎn)的目的自主選擇合規(guī)之路，按理說沒有必要再將建立合規(guī)計(jì)劃和實(shí)施合規(guī)管理作為企業(yè)法律義務(wù)[19]。但是，在依法治理生成式AI算法訓(xùn)練風(fēng)險(xiǎn)過程中，法律規(guī)范的行為規(guī)范功能必不可少。當(dāng)前算法訓(xùn)練風(fēng)險(xiǎn)治理的法律路徑主要有兩種，即“硬法”和“軟法”治理。本文所討論的生成式AI算法訓(xùn)練合規(guī)管理，即屬于“硬法”與“軟法”協(xié)調(diào)治理的范疇。具言之，一是算法訓(xùn)練風(fēng)險(xiǎn)的“硬法”治理，“硬法”視角下的生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理主要體現(xiàn)為行為規(guī)制與法律權(quán)利義務(wù)的配置。“硬法”路徑在功能定位上側(cè)重于制裁與懲罰，主要通過命令來強(qiáng)迫算法訓(xùn)練主體作出某種行為選擇，其大多表現(xiàn)為剛性的強(qiáng)行性規(guī)范，內(nèi)容具有明確性和穩(wěn)定性[20]。“硬法”規(guī)范可以給生成式AI算法訓(xùn)練主體的算法訓(xùn)練合規(guī)管理提出依法建設(shè)要求，使其實(shí)施得到強(qiáng)制性保障。二是算法訓(xùn)練風(fēng)險(xiǎn)的“軟法”治理，即那些效力結(jié)構(gòu)未必完整、不需要依靠國(guó)家強(qiáng)制力才能保障實(shí)施，但是能夠產(chǎn)生實(shí)際治理效益的法律規(guī)范?！败浄ā笨梢詾樯墒紸I企業(yè)實(shí)現(xiàn)算法訓(xùn)練合規(guī)管理提供目標(biāo)清晰、操作性強(qiáng)的具體指引，使其合規(guī)建設(shè)實(shí)現(xiàn)“硬法”與“軟法”依據(jù)的雙重滿足。故而在當(dāng)前積極推進(jìn)企業(yè)合規(guī)背景下，要發(fā)揮法律規(guī)范對(duì)生成式AI企業(yè)及其員工算法訓(xùn)練行為的指引功能，離不開企業(yè)合規(guī)管理體系的構(gòu)建。

（二）生成式AI 算法訓(xùn)練風(fēng)險(xiǎn)的包容治理

《服務(wù)辦法》第3條明確規(guī)定：“國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管?！边@一規(guī)定明確我國(guó)對(duì)生成式AI的治理模式是“包容性法律治理”。包容性治理包括“包容”和“治理”兩個(gè)關(guān)鍵內(nèi)核[21]。社會(huì)治理角度的包容性治理指通過制度的安排，能夠確保所有公民平等參與政策的制定，并享有平等分配資源權(quán)利的過程[22]。延伸到法律治理領(lǐng)域，就包容性治理主體而言，是指不故意排斥法律治理的主體，廣泛吸收多元個(gè)體參與法律治理機(jī)制。換言之，多元主體的合作共治是包容治理在社會(huì)治理層面的必然要求。故在生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的治理維度，包容治理就要求積極引入社會(huì)、企業(yè)等多方主體參與，形成政府領(lǐng)導(dǎo)下的多元主體包容共治格局。其包括以下三個(gè)方面：

一是生成式AI企業(yè)自治。以算法訓(xùn)練合規(guī)管理為依托，參考美國(guó)對(duì)生成式AI算法訓(xùn)練遵循相對(duì)寬松的治理策略，其并沒有一味地出臺(tái)嚴(yán)密的法案來對(duì)生成式AI的算法訓(xùn)練活動(dòng)進(jìn)行規(guī)制和限制，而是采取基于“市場(chǎng)自由”的治理路徑[23]。即基于生成式AI企業(yè)具有“市場(chǎng)自由”，美國(guó)政府并不要求其進(jìn)行算法訓(xùn)練設(shè)計(jì)時(shí)必須引入或刪除某種設(shè)計(jì)要素或訓(xùn)練數(shù)據(jù)，也不要求作為“人的集合”的生成式AI企業(yè)進(jìn)行算法訓(xùn)練內(nèi)容聯(lián)網(wǎng)審查。二是行政監(jiān)管。當(dāng)生成式AI企業(yè)在算法訓(xùn)練合規(guī)義務(wù)履行階段出現(xiàn)或可能出現(xiàn)合規(guī)風(fēng)險(xiǎn)時(shí)，需要介入其“看門人”的角色，對(duì)義務(wù)主體進(jìn)行專門監(jiān)管，促使其算法訓(xùn)練活動(dòng)回歸合規(guī)與合法軌道[24]。即在生成式AI監(jiān)管的法律框架下，行政監(jiān)管部門應(yīng)當(dāng)承擔(dān)起生成式AI企業(yè)算法訓(xùn)練合規(guī)管理義務(wù)履行的監(jiān)管角色。三是社會(huì)參與監(jiān)督。公眾參與對(duì)實(shí)現(xiàn)算法訓(xùn)練合規(guī)的功能和作用不言而喻。社會(huì)大眾是生成式AI算法訓(xùn)練活動(dòng)的受眾和成本與利益的承擔(dān)者，擁有對(duì)義務(wù)主體的算法訓(xùn)練合規(guī)管理過程與效果的監(jiān)督、討論、意見反饋等權(quán)利。

三、生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)

目的是一切法律規(guī)范的締造者[25]。如僅將生成式AI算法訓(xùn)練合規(guī)管理作為實(shí)驗(yàn)室工具，即生成式AI企業(yè)關(guān)于正確進(jìn)行算法訓(xùn)練的內(nèi)部指引和規(guī)定，但并不作為法律客體呈現(xiàn)，也就無所謂構(gòu)建其法律體系。然而，本文系出于生成式AI算法訓(xùn)練風(fēng)險(xiǎn)的依法治理和合法治理需求，并對(duì)其合規(guī)管理的依法建設(shè)進(jìn)行證成和構(gòu)建，故有必要認(rèn)識(shí)到：此處的合規(guī)管理，并不是企業(yè)“自?shī)首詷贰钡墓ぞ?，即并非只是用來?duì)企業(yè)成員進(jìn)行內(nèi)部約束的手段。其是被用于算法訓(xùn)練風(fēng)險(xiǎn)治理、帶有法律色彩的工具，應(yīng)當(dāng)被賦予法律涵義——合規(guī)法律義務(wù)以及不履行合規(guī)義務(wù)的法律責(zé)任。即應(yīng)在現(xiàn)有生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)體系中剖析出其義務(wù)主體及具體的合規(guī)監(jiān)管要求。

（一）生成式AI 算法訓(xùn)練合規(guī)管理的法律制度體系

生成式AI算法訓(xùn)練合規(guī)管理的“規(guī)”不僅包括企業(yè)內(nèi)部管理規(guī)定，更應(yīng)涵蓋法律法規(guī)和其他規(guī)范性文件的相關(guān)規(guī)定。我國(guó)目前生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理的相關(guān)法律依據(jù)還較少，僅零星見于《服務(wù)辦法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)反壟斷法》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律以及一些專門規(guī)制算法的監(jiān)管法規(guī)如《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的具體條文中。

而在生成式AI算法訓(xùn)練合規(guī)管理的企業(yè)方案構(gòu)建和具體實(shí)施上，我國(guó)已經(jīng)發(fā)布的《中央企業(yè)合規(guī)管理指引（試行）》《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法》《企業(yè)知識(shí)產(chǎn)權(quán)合規(guī)標(biāo)準(zhǔn)指引（試行）》《企業(yè)境外經(jīng)營(yíng)合規(guī)管理指引》《中央企業(yè)合規(guī)管理辦法》《經(jīng)營(yíng)者反壟斷合規(guī)指南》《合規(guī)管理體系要求及使用指南》等文件，能夠?yàn)槠涮峁┲匾獏⒖肌?/p>

（二）生成式AI 算法訓(xùn)練合規(guī)管理的法定義務(wù)主體

確定生成式AI算法訓(xùn)練合規(guī)管理的法定義務(wù)主體具有不可或缺的作用。生成式AI算法訓(xùn)練合規(guī)管理的法定義務(wù)主體范疇可根據(jù)以上生成式AI算法訓(xùn)練相關(guān)法律法規(guī)來確定?！斗?wù)辦法》給我國(guó)生成式AI的合規(guī)主體指明了大致方向和基本定義，即“利用生成式人工智能算法提供聊天和文本、圖像、聲音生成等服務(wù)的組織”，但是生成式AI算法訓(xùn)練合規(guī)管理的義務(wù)主體應(yīng)在此輪廓下進(jìn)行以下兩方面的辨析：

其一，將義務(wù)主體中的“服務(wù)提供者”范疇限縮到“提供生成式AI算法訓(xùn)練活動(dòng)的供應(yīng)商和第三方服務(wù)機(jī)構(gòu)”。其中，供應(yīng)商是進(jìn)行生成式人工智能算法訓(xùn)練活動(dòng)的最主要提供者，需要對(duì)算法訓(xùn)練的質(zhì)量和可靠性負(fù)責(zé)。在算法訓(xùn)練過程中，供應(yīng)商需要確保算法的準(zhǔn)確性和效率，同時(shí)也需要遵守相關(guān)的法律法規(guī)和標(biāo)準(zhǔn)，以確保算法的訓(xùn)練過程和行為符合監(jiān)管要求；而第三方服務(wù)機(jī)構(gòu)是協(xié)助供應(yīng)商進(jìn)行算法訓(xùn)練的服務(wù)提供商。這些服務(wù)機(jī)構(gòu)需遵守算法訓(xùn)練領(lǐng)域相關(guān)的法律法規(guī)和標(biāo)準(zhǔn)，以確保其算法訓(xùn)練活動(dòng)符合監(jiān)管要求。

其二，借鑒美國(guó)2022年《算法責(zé)任法案》將“個(gè)人”納入算法責(zé)任主體的做法和規(guī)定④，應(yīng)將“從事生成式AI算法訓(xùn)練活動(dòng)的個(gè)人”也納入義務(wù)主體的范圍。即雖然在法律的制度和實(shí)施層面，認(rèn)為企業(yè)主體才是對(duì)外承擔(dān)算法訓(xùn)練合規(guī)責(zé)任主體，但是在算法訓(xùn)練合規(guī)具體實(shí)踐中，企業(yè)主體內(nèi)部須對(duì)“從事生成式AI算法訓(xùn)練活動(dòng)”的個(gè)人進(jìn)行合規(guī)義務(wù)的“分配”與“監(jiān)督”，納入企業(yè)內(nèi)部合規(guī)管理機(jī)制，相關(guān)個(gè)人實(shí)際上也將對(duì)生成式AI算法企業(yè)合規(guī)風(fēng)險(xiǎn)承擔(dān)責(zé)任和不利后果。當(dāng)然，將“從事生成式AI算法訓(xùn)練活動(dòng)的個(gè)人”納入義務(wù)主體的基礎(chǔ)在于法律法規(guī)的明文規(guī)定或者企業(yè)內(nèi)部算法訓(xùn)練合規(guī)的管理制度與細(xì)則的明確規(guī)定。所以為更好地對(duì)生成式AI算法訓(xùn)練風(fēng)險(xiǎn)進(jìn)行治理，需要進(jìn)一步出臺(tái)相關(guān)合規(guī)監(jiān)管法規(guī)；生成式AI也應(yīng)當(dāng)盡快確立算法訓(xùn)練合規(guī)管理制度和細(xì)則，以確定個(gè)人義務(wù)主體。

（三）生成式AI 算法訓(xùn)練合規(guī)管理的法律監(jiān)管要求

相比域外生成式AI算法訓(xùn)練的治理行動(dòng)，我國(guó)走在了前列，如《服務(wù)辦法》的迅速出臺(tái)。本文特對(duì)《服務(wù)辦法》中生成式AI算法訓(xùn)練的相關(guān)監(jiān)管規(guī)定進(jìn)行共性梳理與要點(diǎn)分析，結(jié)合域外相關(guān)制度經(jīng)驗(yàn)，探討生成式AI企業(yè)算法訓(xùn)練合規(guī)管理依法建設(shè)的法律監(jiān)管要求。

其一，算法訓(xùn)練的數(shù)據(jù)合規(guī)建設(shè)要求。生成式AI企業(yè)應(yīng)當(dāng)對(duì)算法訓(xùn)練階段所涉及被獲取、整合、訓(xùn)練、輸出的全部數(shù)據(jù)的合法性與安全性負(fù)責(zé)并做好合規(guī)建設(shè)。具體應(yīng)滿足以下要求：符合算法訓(xùn)練活動(dòng)安全相關(guān)法律法規(guī)的要求；不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容；數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、法規(guī)規(guī)定的其他情形；保證算法訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性。

其二，算法訓(xùn)練的人工標(biāo)注合規(guī)建設(shè)要求。對(duì)算法訓(xùn)練中體現(xiàn)人類偏好的人工標(biāo)注的要求和約束必不可少。當(dāng)算法訓(xùn)練中采用人工標(biāo)注時(shí)，生成式AI企業(yè)應(yīng)當(dāng)制定清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，并抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

其三，算法訓(xùn)練的行為標(biāo)準(zhǔn)合規(guī)建設(shè)要求。為更好地對(duì)生成式AI企業(yè)的算法訓(xùn)練合規(guī)管理標(biāo)準(zhǔn)提出要求，應(yīng)當(dāng)從糾偏與歸正兩個(gè)方面對(duì)其進(jìn)行展開，即生成式AI企業(yè)應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制以實(shí)現(xiàn)算法訓(xùn)練行為糾偏，應(yīng)通過算法模型優(yōu)化訓(xùn)練來作出算法訓(xùn)練行為歸正。

四、生成式AI算法訓(xùn)練合規(guī)管理的依法建設(shè)

當(dāng)前學(xué)界對(duì)于企業(yè)合規(guī)作用機(jī)理的探討主要分為“外部應(yīng)對(duì)”和“內(nèi)生驅(qū)動(dòng)”[26]。無論是由“外部應(yīng)對(duì)”走向“內(nèi)生驅(qū)動(dòng)”，還是以“內(nèi)生驅(qū)動(dòng)”配合“外部應(yīng)對(duì)”，具體到生成式AI算法訓(xùn)練合規(guī)管理領(lǐng)域，都應(yīng)從“內(nèi)外有別”轉(zhuǎn)至“內(nèi)外協(xié)調(diào)”思路，即應(yīng)力求在企業(yè)自行依法建設(shè)內(nèi)部合規(guī)體系的同時(shí)，兼顧其與外部行政監(jiān)管與激勵(lì)的協(xié)調(diào)。故而要求生成式AI企業(yè)必須建立內(nèi)涵豐富、體系完整且適應(yīng)自身需求的制度程序并探索出能夠促進(jìn)該體系有效實(shí)施的合規(guī)措施與舉動(dòng)[27]。同時(shí)國(guó)家和政府層面還應(yīng)配合和保障生成式AI企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理，即探索出一條內(nèi)外雙面向、完備的算法訓(xùn)練合規(guī)管理的依法建設(shè)進(jìn)路。

（一）生成式AI 算法訓(xùn)練合規(guī)管理的企業(yè)實(shí)施

1. 生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施原則

企業(yè)合規(guī)管理，既要合行業(yè)之規(guī)、企業(yè)之規(guī)，又要合法律之規(guī)以及道德之規(guī)。生成式AI企業(yè)如何準(zhǔn)確、有效實(shí)施算法訓(xùn)練合規(guī)管理呢？即生成式AI企業(yè)在被施加算法訓(xùn)練合規(guī)管理的法定義務(wù)后，必須依法建設(shè)算法訓(xùn)練風(fēng)險(xiǎn)的合規(guī)管理實(shí)施體系與機(jī)制。生成式AI企業(yè)在具體實(shí)施算法訓(xùn)練合規(guī)管理方案前，應(yīng)確定合規(guī)管理的實(shí)施原則。這套實(shí)施原則來源于前述法律對(duì)于算法訓(xùn)練合規(guī)管理的監(jiān)管要求以及生成式AI企業(yè)自身在算法訓(xùn)練合規(guī)管理中的實(shí)際需求。

生成式AI算法訓(xùn)練合規(guī)管理的實(shí)施原則主要包括三個(gè)方面。一是生成式AI算法訓(xùn)練計(jì)劃合規(guī)管理，要求生成式AI算法訓(xùn)練主體在訓(xùn)練模型設(shè)計(jì)與計(jì)劃之初就應(yīng)合理地預(yù)測(cè)和預(yù)防風(fēng)險(xiǎn)。具體包括：生成式AI企業(yè)算法訓(xùn)練計(jì)劃的事前審查與批準(zhǔn)；向公眾提供服務(wù)前應(yīng)做好事前審批合規(guī)建設(shè)以及應(yīng)提供可以影響用戶信任、選擇的必要信息。二是生成式AI算法訓(xùn)練過程合規(guī)管理，要求生成式AI算法訓(xùn)練主體在算法訓(xùn)練過程中對(duì)風(fēng)險(xiǎn)進(jìn)行把控與控制。生成式AI企業(yè)應(yīng)確定好在算法訓(xùn)練過程中本企業(yè)以及具體崗位的合規(guī)義務(wù)及履行標(biāo)準(zhǔn)，如對(duì)算法訓(xùn)練的重點(diǎn)環(huán)節(jié)進(jìn)行分類，然后對(duì)每個(gè)階段的崗位合規(guī)義務(wù)、合規(guī)義務(wù)來源、合規(guī)風(fēng)險(xiǎn)描述以及風(fēng)險(xiǎn)后果和應(yīng)對(duì)措施進(jìn)行安排，并按部就班根據(jù)標(biāo)準(zhǔn)完成。三是生成式AI算法訓(xùn)練結(jié)果合規(guī)管理，要求生成式AI算法訓(xùn)練主體對(duì)算法訓(xùn)練結(jié)果的風(fēng)險(xiǎn)承擔(dān)責(zé)任，采取合規(guī)措施盡量減小損害與算法訓(xùn)練的負(fù)外部性。生成式AI企業(yè)應(yīng)對(duì)算法訓(xùn)練結(jié)果負(fù)責(zé)，對(duì)其進(jìn)行合規(guī)化評(píng)價(jià)和處置。具體包括：實(shí)名認(rèn)證與算法防沉迷合規(guī)；后端處理合規(guī)；通過模型算法優(yōu)化訓(xùn)練等方式防止再次生成以及暫停或者終止服務(wù)，等等。

2. 生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施方案

其一，構(gòu)建算法訓(xùn)練合規(guī)管理基礎(chǔ)性平臺(tái)?；A(chǔ)性合規(guī)平臺(tái)的構(gòu)建是生成式AI企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理的基礎(chǔ)，其主要包括算法訓(xùn)練基礎(chǔ)性合規(guī)要素和專門性合規(guī)要素兩個(gè)方面內(nèi)容的確立。首先是算法訓(xùn)練基礎(chǔ)性合規(guī)要素的構(gòu)建。一個(gè)企業(yè)構(gòu)建任何一項(xiàng)合規(guī)計(jì)劃，都應(yīng)引入必要的基礎(chǔ)性合規(guī)要素[28]。生成式AI企業(yè)的算法訓(xùn)練合規(guī)管理計(jì)劃也應(yīng)當(dāng)在建立起合規(guī)管理基礎(chǔ)性平臺(tái)的前提下，展開專項(xiàng)合規(guī)管理和內(nèi)部監(jiān)督。而這里所述的基礎(chǔ)性平臺(tái)，應(yīng)當(dāng)將與生成式AI算法訓(xùn)練合規(guī)管理相關(guān)的制度型要素建立起來，并使之在合規(guī)管理中得到實(shí)際的運(yùn)作和生效，有力防范違法違規(guī)的算法訓(xùn)練行為[29]。基礎(chǔ)性合規(guī)要素在生成式AI算法訓(xùn)練合規(guī)管理體系中可以發(fā)揮合規(guī)管理制度平臺(tái)的作用，幫助生成式AI企業(yè)確立算法訓(xùn)練合規(guī)管理理念和基本準(zhǔn)則，并配置預(yù)防算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)、監(jiān)控算法訓(xùn)練合規(guī)管理和應(yīng)對(duì)算法訓(xùn)練違規(guī)行為的相應(yīng)管理程序。然后是算法訓(xùn)練專門性合規(guī)要素的確定。當(dāng)生成式AI企業(yè)確定了基礎(chǔ)性合規(guī)要素之后，還需要確定算法訓(xùn)練專門性合規(guī)要素。即生成式AI企業(yè)針對(duì)特殊的算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)，為防止發(fā)生特定的違法違規(guī)事件而建立的專門性合規(guī)管理制度，其處于核心性和保障性地位，包括算法訓(xùn)練合規(guī)政策、算法訓(xùn)練培訓(xùn)內(nèi)容、算法訓(xùn)練崗位合規(guī)手冊(cè)和職責(zé)安排以及算法訓(xùn)練合規(guī)持續(xù)改進(jìn)機(jī)制等在內(nèi)的各項(xiàng)要素。在算法訓(xùn)練合規(guī)管理體系中引入專門性算法訓(xùn)練合規(guī)要素，可促使生成式AI企業(yè)在因算法訓(xùn)練不合規(guī)而受到相應(yīng)約束或者制裁后，進(jìn)一步完善算法訓(xùn)練合規(guī)管理，預(yù)防相應(yīng)特定約束或者制裁的再次發(fā)生。

其二，對(duì)算法訓(xùn)練全流程合規(guī)風(fēng)險(xiǎn)的處理。生成式AI企業(yè)在進(jìn)行算法訓(xùn)練的過程中，應(yīng)及時(shí)、全面地識(shí)別可能出現(xiàn)的各項(xiàng)合規(guī)風(fēng)險(xiǎn)并盡可能作出合規(guī)預(yù)防與處置。最保險(xiǎn)和全面的措施，即在生成式AI企業(yè)內(nèi)部構(gòu)建算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)處理機(jī)制。首先是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)識(shí)別環(huán)節(jié)。合規(guī)風(fēng)險(xiǎn)識(shí)別是生成式AI企業(yè)算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)預(yù)防與治理的邏輯起點(diǎn)。這一環(huán)節(jié)主要是查找與識(shí)別在算法訓(xùn)練鏈條中可能出現(xiàn)的合規(guī)風(fēng)險(xiǎn)，經(jīng)由事前調(diào)查只做出客觀的判斷，履行提示注意義務(wù)，而不作進(jìn)一步的價(jià)值評(píng)價(jià)。需要特別注意的是，該環(huán)節(jié)識(shí)別的應(yīng)為具體、客觀存在且具備重要性的算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)。其次是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)評(píng)估環(huán)節(jié)。風(fēng)險(xiǎn)評(píng)估是生成式AI企業(yè)算法訓(xùn)練合規(guī)體系功能得以實(shí)現(xiàn)的核心部分。如果說生成式AI企業(yè)內(nèi)部算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)的識(shí)別環(huán)節(jié)是“一兜子”操作，那么評(píng)估環(huán)節(jié)就是將“一兜子”里的風(fēng)險(xiǎn)進(jìn)行“篩選”，將對(duì)企業(yè)內(nèi)部有重大影響和對(duì)外部具有顯著負(fù)外部性的算法訓(xùn)練風(fēng)險(xiǎn)挑選出來，以進(jìn)行下一環(huán)節(jié)的風(fēng)險(xiǎn)處置。最后是算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)應(yīng)對(duì)環(huán)節(jié)。風(fēng)險(xiǎn)應(yīng)對(duì)環(huán)節(jié)是生成式AI企業(yè)算法訓(xùn)練內(nèi)部合規(guī)治理機(jī)制運(yùn)行的后置保障。這一環(huán)節(jié)是生成式AI企業(yè)把握前述被識(shí)別與評(píng)價(jià)的重要風(fēng)險(xiǎn)，采取可行度高的調(diào)節(jié)舉措，建立生成式AI算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)處置機(jī)制。

（二）生成式AI 算法訓(xùn)練合規(guī)管理的行政監(jiān)管

相較于對(duì)內(nèi)面向的生成式AI企業(yè)自主履行算法訓(xùn)練合規(guī)義務(wù)，對(duì)外面向的行政機(jī)制可以充分發(fā)揮其監(jiān)管（約束）與激勵(lì)功能，一方面以提高成本或增加責(zé)任的方式促使企業(yè)實(shí)施算法訓(xùn)練合規(guī)管理，另一方面以增大效益或減輕責(zé)任的方式激勵(lì)企業(yè)建設(shè)算法訓(xùn)練合規(guī)管理。行政監(jiān)管具體包括以下措施：

1. 生成式AI企業(yè)算法訓(xùn)練的專門備案

算法備案制度是“有效市場(chǎng)與有為政府相結(jié)合”的治理原則在互聯(lián)網(wǎng)和算法領(lǐng)域的拓展和創(chuàng)新，是在數(shù)字法治的實(shí)踐背景下推進(jìn)算法治理的一項(xiàng)重要舉措[30]。算法訓(xùn)練專項(xiàng)備案環(huán)節(jié)系針對(duì)算法訓(xùn)練計(jì)劃和實(shí)施過程而言：生成式AI企業(yè)在算法訓(xùn)練合規(guī)管理的計(jì)劃和過程中，需要對(duì)外配合行政監(jiān)管程序、進(jìn)行算法訓(xùn)練計(jì)劃與過程中相關(guān)信息的報(bào)備與披露。

其一，首次備案。當(dāng)生成式AI企業(yè)設(shè)計(jì)完成算法訓(xùn)練計(jì)劃時(shí)，即應(yīng)進(jìn)入備案程序，此為首次備案。首次備案主要應(yīng)考慮其范圍和內(nèi)容。范圍方面，要考慮的因素包括是否具有備案的必要性、是否具有備案的可操作性以及一般追責(zé)方式是否能夠滿足相關(guān)的維權(quán)需求。內(nèi)容方面，本文認(rèn)為除已有的算法主體信息、算法信息、產(chǎn)品及功能信息等三項(xiàng)算法備案通用信息以外，還應(yīng)包括一些算法訓(xùn)練特定內(nèi)容，如算法訓(xùn)練合規(guī)管理計(jì)劃的整體方案、方案實(shí)施步驟以及方案安全評(píng)估情況信息，生成式AI企業(yè)內(nèi)部算法訓(xùn)練合規(guī)實(shí)施的關(guān)鍵環(huán)節(jié)等。

其二，變更備案。生成式AI企業(yè)在算法訓(xùn)練過程中，若算法訓(xùn)練實(shí)施與計(jì)劃方案有重大變化時(shí)，應(yīng)將變化后的方案以及與原方案出入較大的對(duì)比信息提交備案。而這種“重大變化”應(yīng)在首次備案時(shí)，就已經(jīng)一同上傳備案系統(tǒng)并通過備案主管部門的審核。若備案主管部門認(rèn)為生成式AI企業(yè)實(shí)施算法訓(xùn)練過程中實(shí)際系“重大變化”但未記載于首次備案記錄中的，可自行決定是否要求生成式AI企業(yè)進(jìn)行變更備案。

2. 生成式AI企業(yè)算法訓(xùn)練的專項(xiàng)審計(jì)

存在重大風(fēng)險(xiǎn)甚至可能影響國(guó)家安全的項(xiàng)目，都可以納入審計(jì)范疇，域外有此先例，如英國(guó)、荷蘭最高審計(jì)機(jī)關(guān)均對(duì)政府部門的模型算法進(jìn)行審計(jì)[31]。我國(guó)已開始有這方面的行動(dòng)，2023年8月3日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《個(gè)人信息保護(hù)合規(guī)審計(jì)管理辦法（征求意見稿）》公開征求意見，首次正式提出“個(gè)人信息保護(hù)合規(guī)審計(jì)”，也為我國(guó)算法訓(xùn)練合規(guī)審計(jì)的設(shè)立提供思路與參考。有鑒于此，需要從以下兩個(gè)方面展開對(duì)其算法訓(xùn)練合規(guī)專項(xiàng)審計(jì)項(xiàng)目的設(shè)立。

其一，內(nèi)部審計(jì)。這是針對(duì)企業(yè)內(nèi)部而言，即生成式AI企業(yè)自行開展算法訓(xùn)練合規(guī)審計(jì)，根據(jù)實(shí)際情況，由其內(nèi)部機(jī)構(gòu)或委托專業(yè)機(jī)構(gòu)展開。其可以深入算法訓(xùn)練的整個(gè)運(yùn)行過程，訪問、審查算法訓(xùn)練的數(shù)據(jù)，測(cè)試算法訓(xùn)練過程，審查算法訓(xùn)練的數(shù)據(jù)參與集、參數(shù)信息等重要信息以及整合外部審計(jì)無法得到的算法訓(xùn)練過程中的細(xì)節(jié)，從而精確地對(duì)算法訓(xùn)練合規(guī)風(fēng)險(xiǎn)進(jìn)行識(shí)別與把控。

其二，外部審計(jì)。這是針對(duì)企業(yè)外部而言，包括國(guó)家審計(jì)和社會(huì)審計(jì)。國(guó)家審計(jì)，即履行生成式AI算法訓(xùn)練合規(guī)監(jiān)管職責(zé)的部門在履行職責(zé)過程中，發(fā)現(xiàn)生成式AI算法訓(xùn)練活動(dòng)存在較大風(fēng)險(xiǎn)或者發(fā)生安全事件的，可以要求生成式AI企業(yè)委任專業(yè)機(jī)構(gòu)對(duì)其算法訓(xùn)練活動(dòng)進(jìn)行合規(guī)審計(jì)。而社會(huì)審計(jì)，是社會(huì)類審計(jì)機(jī)構(gòu)“參與式審計(jì)”生成式AI企業(yè)算法訓(xùn)練合規(guī)建設(shè)與管理情況[32]。相比內(nèi)部審計(jì)和國(guó)家審計(jì)，其更具變通性，系前兩者的有益拓展與補(bǔ)償，能夠有效監(jiān)督生成式AI企業(yè)履行算法訓(xùn)練合規(guī)義務(wù)，形成合規(guī)審計(jì)合力。

（三）生成式AI 算法訓(xùn)練合規(guī)管理的行政激勵(lì)

有學(xué)者認(rèn)為，企業(yè)如果能夠建立優(yōu)良的合規(guī)管理機(jī)制，更加可能與行政機(jī)關(guān)達(dá)成行政和解協(xié)議[33]。因?yàn)榧ぐl(fā)企業(yè)內(nèi)部驅(qū)動(dòng)力是促使算法訓(xùn)練合規(guī)管理依法建設(shè)和落實(shí)的關(guān)鍵。故而目前針對(duì)生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的行政執(zhí)法需要由主動(dòng)執(zhí)法向被動(dòng)執(zhí)法轉(zhuǎn)變，這就需要在行政執(zhí)法環(huán)節(jié)，通過與生成式AI企業(yè)達(dá)成行政和解協(xié)議或者給予其行政處罰減免等方式來推動(dòng)其實(shí)施算法訓(xùn)練合規(guī)管理[34]。

其一，與生成式AI企業(yè)達(dá)成行政和解協(xié)議來促使其履行算法訓(xùn)練合規(guī)管理義務(wù)。在美國(guó)，行政和解協(xié)議的使用更加常見，例如美國(guó)證券交易委員會(huì)（SEC）對(duì)企業(yè)涉嫌違法違規(guī)的案件，95%都是以行政和解的方式處理的[35]。具體到算法訓(xùn)練合規(guī)管理的行政領(lǐng)域而言，國(guó)家行政監(jiān)管部門起草生成式AI算法訓(xùn)練行政合規(guī)指南，在允許監(jiān)管部門與生成式AI企業(yè)達(dá)成行政和解協(xié)議的前提下，企業(yè)按照和解協(xié)議內(nèi)容自行完成算法訓(xùn)練合規(guī)管理義務(wù)的積極履行或者對(duì)違規(guī)行為進(jìn)行整改，然后就可以根據(jù)和解協(xié)議不再對(duì)其行政處置。

其二，給予生成式AI企業(yè)行政處罰減免以激勵(lì)其實(shí)施算法訓(xùn)練合規(guī)管理?，F(xiàn)行法律應(yīng)當(dāng)在已有的行政和解基礎(chǔ)上，進(jìn)一步增設(shè)算法訓(xùn)練合規(guī)激勵(lì)的“軟法”條款，明確將生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施作為行政免予處罰的依據(jù)，建立相應(yīng)的附條件免予處罰制度[36]。

五、結(jié)論與啟示

隨著生成式AI的迅猛發(fā)展，其未來應(yīng)用場(chǎng)景充滿無限的可能，不僅改變?nèi)藗兊纳罘绞胶退季S模式，而且將對(duì)技術(shù)躍遷和人類社會(huì)產(chǎn)生巨大影響。目前已有部分行業(yè)著手進(jìn)行生成式AI在各個(gè)場(chǎng)景的研發(fā)與應(yīng)用，如生成式AI金融服務(wù)、生成式AI醫(yī)療客服和生成式AI監(jiān)管科技等。但是技術(shù)的的開發(fā)與使用始終伴有風(fēng)險(xiǎn)，需要對(duì)其進(jìn)行善治。我國(guó)雖然針對(duì)生成式AI技術(shù)的應(yīng)用專門出臺(tái)了《服務(wù)辦法》，但是總體持包容性法律治理的態(tài)度，支持治理主體、治理方式和治理結(jié)果的包容性和多元化。本文立足生成式AI算法訓(xùn)練的內(nèi)發(fā)性與自主性，并結(jié)合合規(guī)依法建設(shè)的經(jīng)驗(yàn)，從現(xiàn)實(shí)需求與理論層面證成了生成式AI算法訓(xùn)練風(fēng)險(xiǎn)引入合規(guī)管理的必要性、合理性與可行性。但當(dāng)前我國(guó)存在對(duì)其制度供給不足的困境，故需要結(jié)合法律解釋的功能，將生成式AI算法訓(xùn)練合規(guī)管理的法律依據(jù)進(jìn)行梳理：不僅將生成式AI算法訓(xùn)練合規(guī)作為一種法定義務(wù)進(jìn)行考察，并且將目前生成式AI算法訓(xùn)練合規(guī)管理相關(guān)法律體系以及全面監(jiān)管要求進(jìn)行特別地整理與說明。據(jù)此構(gòu)建生成式AI企業(yè)內(nèi)外雙重面向的算法訓(xùn)練合規(guī)管理的依法建設(shè)機(jī)制，即包括生成式AI企業(yè)算法訓(xùn)練合規(guī)管理的實(shí)施方案以及其外部合規(guī)監(jiān)管與激勵(lì)。誠(chéng)然，現(xiàn)階段我們正在逐漸走向強(qiáng)人工智能時(shí)代，且技術(shù)將持續(xù)不斷地發(fā)展。不論是“人工智能法”的出臺(tái)，還是本文所述算法訓(xùn)練合規(guī)管理的依法建設(shè)，都不會(huì)是生成式AI算法訓(xùn)練風(fēng)險(xiǎn)治理的終點(diǎn)，而只是該征程的階段性成果，亟需更多法律化手段的出現(xiàn)，以實(shí)現(xiàn)對(duì)人工智能風(fēng)險(xiǎn)的防范與治理。