生成式人工智能的法律規(guī)制

摘 要：生成式人工智能在智能水平、自主性等方面獲得巨大提升，基于對(duì)其技術(shù)與人機(jī)關(guān)系特性以及法律問(wèn)題成因的分析可以發(fā)現(xiàn)，生成式人工智能在承繼以往人工智能宏觀、微觀法律問(wèn)題之外，又在技術(shù)層面、事實(shí)層面、價(jià)值層面產(chǎn)生大量新問(wèn)題。生成式人工智能法律規(guī)制應(yīng)當(dāng)確立局部替代人類、整體增強(qiáng)人類的價(jià)值理念，以監(jiān)管機(jī)制為中心，分階段采取強(qiáng)度不同的監(jiān)管模式，并將人類價(jià)值觀做技術(shù)嵌入。沿用《數(shù)據(jù)安全法》上的重要程度、危害程度作為人工智能分類分級(jí)的標(biāo)準(zhǔn)，建立分類分級(jí)機(jī)制以及技術(shù)標(biāo)準(zhǔn)機(jī)制。在此基礎(chǔ)上，根據(jù)生成式人工智能的技術(shù)流程，建立針對(duì)起始階段的研發(fā)機(jī)制、針對(duì)中間階段的應(yīng)用機(jī)制以及針對(duì)最終階段的責(zé)任機(jī)制，并配以強(qiáng)制責(zé)任保險(xiǎn)與社會(huì)救助基金機(jī)制。

關(guān)鍵詞：大語(yǔ)言模型；生成式人工智能；人機(jī)關(guān)系；法律規(guī)制；人工智能法

作者簡(jiǎn)介：姜灃格，山東工商學(xué)院法學(xué)院講師（煙臺(tái) 264005）；于海防，煙臺(tái)大學(xué)法學(xué)院、煙臺(tái)大學(xué)數(shù)字法治研究中心教授，通訊作者（煙臺(tái) 264005）

基金項(xiàng)目：山東省社會(huì)科學(xué)規(guī)劃專項(xiàng)“網(wǎng)絡(luò)格式締約中意思表示真實(shí)性的保障研究”（24CFZJ14）DOI編碼： 10.19667/j.cnki.cn23-1070/c.2025.02.011

一、問(wèn)題的提出

作為一種機(jī)器智能，人工智能的發(fā)展過(guò)程就是機(jī)器在增強(qiáng)人類的同時(shí)也在替代人類（勞動(dòng)）的過(guò)程。對(duì)相關(guān)問(wèn)題的研究，基礎(chǔ)始終在于人工智能技術(shù)與人機(jī)關(guān)系。二者的關(guān)系是，人機(jī)關(guān)系產(chǎn)生于技術(shù)與社會(huì)（包括法律在內(nèi)）的連接，而人工智能法律問(wèn)題其實(shí)就是人工智能技術(shù)與人機(jī)關(guān)系在法律上的投射，并且會(huì)隨著技術(shù)與人機(jī)關(guān)系的發(fā)展而發(fā)展。2023年11月1日，包括中國(guó)在內(nèi)的28個(gè)國(guó)家簽署了首個(gè)全球性人工智能聲明——《布萊切利宣言》，指出人工智能具有廣泛且重大的風(fēng)險(xiǎn)，各國(guó)應(yīng)當(dāng)斟酌國(guó)情，通過(guò)政策與法律予以解決。目前，歐盟制定了《人工智能法案》，對(duì)生成式人工智能作出專門(mén)規(guī)定，美國(guó)也正在進(jìn)行密集立法。我國(guó)已經(jīng)頒布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》），并啟動(dòng)了《人工智能法》的立法工作。①

從ChatGPT到Sora、DeepSeek，各類模型雖層出不窮，但仍主要基于Transformer結(jié)構(gòu)，生成式人工智能技術(shù)仍處于勃發(fā)初期，相關(guān)法律研究也處于起步階段。學(xué)界對(duì)生成式人工智能的監(jiān)管、治理、侵權(quán)、生成內(nèi)容保護(hù)等具體問(wèn)題展開(kāi)研究，但許多研究對(duì)基礎(chǔ)性的技術(shù)與人機(jī)關(guān)系探究不足，這會(huì)對(duì)問(wèn)題的分析、解決產(chǎn)生不利影響。例如，有學(xué)者提出改變我國(guó)原有的“技術(shù)支持者—服務(wù)提供者—內(nèi)容生產(chǎn)者”的監(jiān)管體系，建立“基礎(chǔ)模型—產(chǎn)品模型—服務(wù)應(yīng)用”的分層治理體系，②卻未充分認(rèn)識(shí)到生成式人工智能對(duì)此前人工智能的技術(shù)傳承與理念延續(xù)的重要性，造成新體系與原體系的分裂。有學(xué)者對(duì)生成式人工智能侵權(quán)的主體、客體進(jìn)行界定，③分析因果關(guān)系認(rèn)定的疑難，④卻未充分挖掘生成式人工智能與此前人工智能的差異以及這種差異在法律上所產(chǎn)生的影響。還有學(xué)者通過(guò)人機(jī)關(guān)系將技術(shù)與法律相連接，洞見(jiàn)本質(zhì)，但基于生成式人工智能塑造了“從以機(jī)器為中心轉(zhuǎn)向以人為中心”的人機(jī)共生新型關(guān)系，⑤甚至基于機(jī)器成為人的“共情伙伴”⑥進(jìn)行論述，對(duì)生成式人工智能技術(shù)與人機(jī)關(guān)系的認(rèn)識(shí)存在偏差，從而可能產(chǎn)生論證與結(jié)論的偏差。在這種情況下，十分有必要對(duì)包括技術(shù)與人機(jī)關(guān)系在內(nèi)的生成式人工智能法律規(guī)制的基礎(chǔ)問(wèn)題進(jìn)行綜合性研究。

二、生成式人工智能法律問(wèn)題的產(chǎn)生基礎(chǔ)與產(chǎn)生原因

自圖靈在1950年的《計(jì)算機(jī)器與智能》中提出人工智能的設(shè)想開(kāi)始，人工智能的技術(shù)目標(biāo)始終是通過(guò)提升機(jī)器智能使機(jī)器能夠替代人類從事相關(guān)勞動(dòng)或活動(dòng)，即以機(jī)器為中心、以替代人類（勞動(dòng)）為目標(biāo)。⑦這使得人工智能領(lǐng)域中的人機(jī)關(guān)系迥異于其他領(lǐng)域的人機(jī)關(guān)系，天然具有去人類化屬性與物本主義傾向。進(jìn)入21世紀(jì)后，人工智能的應(yīng)用不斷擴(kuò)張，其人機(jī)關(guān)系對(duì)社會(huì)關(guān)系的影響越來(lái)越大，進(jìn)而映射于法律，從而產(chǎn)生各種法律問(wèn)題。在不同的技術(shù)發(fā)展階段，人工智能技術(shù)與人機(jī)關(guān)系的具體特性會(huì)有所不同，所產(chǎn)生的法律問(wèn)題也會(huì)有所不同。因此，研究生成式人工智能的法律規(guī)制，需要以技術(shù)與人機(jī)關(guān)系⑧分析為基礎(chǔ)，尋找法律問(wèn)題的產(chǎn)生原因，以便對(duì)癥下藥。

（一）生成式人工智能的基本結(jié)構(gòu)與技術(shù)流程

生成式人工智能的本質(zhì)是將人類輸入（指令、詢問(wèn)等）通過(guò)機(jī)器處理后轉(zhuǎn)化為符合人類要求的機(jī)器輸出，涉及機(jī)器視覺(jué)、自然語(yǔ)言處理等多個(gè)技術(shù)領(lǐng)域。其中，自然語(yǔ)言處理因其巨大難度而被譽(yù)為“人工智能皇冠上的明珠”⑨。語(yǔ)言建模是自然語(yǔ)言處理的主要方法，主要經(jīng)歷了四個(gè)發(fā)展階段：統(tǒng)計(jì)語(yǔ)言模型（SLM）、神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型（NLM）、預(yù)訓(xùn)練語(yǔ)言模型（PLM）、大語(yǔ)言模型（LLM）。①各種技術(shù)雖路徑不同，但最終交匯于Google于2017年提出的Transformer結(jié)構(gòu)，②其將此前的語(yǔ)言模型、深度神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、詞向量、注意力機(jī)制、預(yù)訓(xùn)練等技術(shù)整合于一個(gè)結(jié)構(gòu)之中。較之此前的人工智能，生成式人工智能采取了新的結(jié)構(gòu)與技術(shù)流程，使技術(shù)效果得到巨大提升，也使人機(jī)關(guān)系產(chǎn)生了新的特性。

1. 基于Transformer的生成式人工智能的基本結(jié)構(gòu)

生成式人工智能是大語(yǔ)言模型的產(chǎn)物，目前的大語(yǔ)言模型基本上均基于Transformer結(jié)構(gòu)或其變種發(fā)展而來(lái)，或者與Transformer結(jié)構(gòu)相結(jié)合。③Transformer由編碼器（Encoder）與解碼器（Decoder）組成，雖然結(jié)構(gòu)復(fù)雜，但簡(jiǎn)單來(lái)說(shuō)，其先將人類自然語(yǔ)言轉(zhuǎn)化為向量數(shù)值，再通過(guò)層層網(wǎng)絡(luò)對(duì)數(shù)值進(jìn)行計(jì)算，最后通過(guò)概率計(jì)算，將處理結(jié)果轉(zhuǎn)換輸出為人可讀的內(nèi)容。此中，注意力機(jī)制具有重要作用，其模仿了人類在閱讀時(shí)會(huì)對(duì)句中某些詞語(yǔ)予以特別注意的特點(diǎn)，結(jié)合詞語(yǔ)的詞性及在句中的位置編碼，賦予不同的權(quán)重，從而可以更好地提取文本特征，使模型可全面捕捉、長(zhǎng)時(shí)記憶文本中的重要信息及特征。④較諸此前的卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)，Transformer大幅提升了對(duì)人類自然語(yǔ)言的“理解”與處理能力，因而除了可以運(yùn)用于從文本到文本的生成外，還可以運(yùn)用于從文本到圖像、視頻等的生成。ChatGPT、DeepSeek采用了Transformer解碼器部分，BERT采用了Transformer編碼器部分，并均做改進(jìn)與復(fù)雜化處理。此外，還存在采用“編碼器—解碼器”結(jié)構(gòu)的MASS、T5等模型。雖然Transformer結(jié)構(gòu)獲得巨大成功，但其在算力等方面的成本極高，并且在持續(xù)學(xué)習(xí)、可解釋性、超長(zhǎng)文本處理等方面存在缺陷。當(dāng)前，替代Transformer結(jié)構(gòu)的研究正處于發(fā)展中，如Mamba結(jié)構(gòu)。⑤

2. 生成式人工智能的技術(shù)流程

不論是從文本到文本、文本到圖像，還是從文本到音頻、視頻，基于大語(yǔ)言模型的生成式人工智能基本上均采取“預(yù)訓(xùn)練+微調(diào)”模式。生成式人工智能的技術(shù)流程大致如下。

第一，建立大語(yǔ)言模型并對(duì)初始模型進(jìn)行預(yù)訓(xùn)練。即使用海量語(yǔ)料庫(kù)、數(shù)據(jù)集，采取自監(jiān)督學(xué)習(xí)、反向傳播、損失計(jì)算等多種方式對(duì)初始模型進(jìn)行預(yù)訓(xùn)練，使其自動(dòng)優(yōu)化模型參數(shù)，⑥獲得知識(shí)以及解決任務(wù)的能力。借助超大規(guī)模語(yǔ)料訓(xùn)練，模型能夠記憶并處理海量人類知識(shí)，從而提升智能水平，提高對(duì)問(wèn)題、任務(wù)響應(yīng)的準(zhǔn)確率。

第二，對(duì)大語(yǔ)言模型進(jìn)行指令微調(diào)（Instruction Tuning）。在指令微調(diào)中，通過(guò)人類標(biāo)注的模板樣例、任務(wù)樣例等，將人類需求進(jìn)行標(biāo)準(zhǔn)化表示，⑦并作為指令下達(dá)給模型。模型通過(guò)學(xué)習(xí)樣例，習(xí)得人類問(wèn)答邏輯、價(jià)值偏好，由此提升性能并提高對(duì)未經(jīng)訓(xùn)練任務(wù)的泛化能力。⑧指令微調(diào)還引入了上下文學(xué)習(xí)（In-Context Learning，ICL）、思維鏈推理（Chain of Thought，CoT）等技術(shù)。基于人類提供的樣例，通過(guò)學(xué)習(xí)人類的上下文演示類比以及在算術(shù)、代碼、常識(shí)等方面的中間推理步驟，①模型在閱讀理解、符號(hào)推理、常識(shí)推理等方面的性能可以“自然地”顯著提高，并能在回答中呈現(xiàn)推理步驟。②

第三，對(duì)大語(yǔ)言模型進(jìn)行對(duì)齊微調(diào)（Alignment Tuning）。對(duì)齊微調(diào)的目的在于使模型減少有害、誤導(dǎo)、不真實(shí)、有偏見(jiàn)的內(nèi)容，令模型的輸出與人類的倫理、道德、價(jià)值觀等相對(duì)齊即保持一致。③但對(duì)齊微調(diào)難以解決所有問(wèn)題，模型仍可能輸出錯(cuò)誤或不當(dāng)內(nèi)容，且難以被充分解釋。在對(duì)齊微調(diào)中，主要使用基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）等方法，按照預(yù)設(shè)的對(duì)齊標(biāo)準(zhǔn)，根據(jù)人類標(biāo)注員對(duì)模型輸出內(nèi)容的反饋數(shù)據(jù)，建立相應(yīng)的獎(jiǎng)勵(lì)模型對(duì)模型進(jìn)行微調(diào)。④對(duì)齊微調(diào)會(huì)導(dǎo)致模型性能下降，但卻是將模型部署于人類社會(huì)所必須支付的代價(jià)。

第四，在現(xiàn)實(shí)世界中部署、應(yīng)用。經(jīng)過(guò)反復(fù)微調(diào)、測(cè)試、評(píng)估、迭代后，大語(yǔ)言模型投入使用成為生成式人工智能，基于人的提示（Prompt），自動(dòng)生成內(nèi)容。在實(shí)際部署后，還會(huì)根據(jù)反饋情況對(duì)大語(yǔ)言模型進(jìn)行調(diào)整。⑤大語(yǔ)言模型目前并不具備實(shí)時(shí)學(xué)習(xí)的能力，并且受規(guī)模與成本所限，無(wú)法隨時(shí)進(jìn)行調(diào)整，因此所發(fā)現(xiàn)的問(wèn)題通常不會(huì)得到立即解決。

可以看出，生成式人工智能傳承、融合了以往諸多人工智能技術(shù)，在新的技術(shù)結(jié)構(gòu)與流程之下，以機(jī)器為中心的特性得到進(jìn)一步加強(qiáng)。這將使機(jī)器產(chǎn)生更高的獨(dú)立性，雖然研發(fā)、訓(xùn)練過(guò)程繁復(fù)，但一旦完成，機(jī)器便會(huì)創(chuàng)造更大的價(jià)值，同時(shí)也會(huì)對(duì)人產(chǎn)生更強(qiáng)的“反控性”⑥。

（二）生成式人工智能的技術(shù)與人機(jī)關(guān)系新特性

較此前的人工智能，生成式人工智能在技術(shù)與人機(jī)關(guān)系上存在以下具有法律意義的新特性。

1. 智能水平與類人性提升顯著

大語(yǔ)言模型所使用的深度學(xué)習(xí)技術(shù)的自動(dòng)表示特征及分層抽象的思想，本就有益于在不同領(lǐng)域的任務(wù)和語(yǔ)言之間進(jìn)行泛化遷移，⑦而參數(shù)規(guī)模的擴(kuò)大與訓(xùn)練數(shù)據(jù)的增加又使大語(yǔ)言模型獲得了更高的泛化性與準(zhǔn)確性。⑧在此基礎(chǔ)上，通過(guò)采取上下文學(xué)習(xí)、思維鏈等微調(diào)方法，能夠令大語(yǔ)言模型的泛化性以及常識(shí)推理、復(fù)雜推理能力顯著提升。⑨這使得生成式人工智能具有極高的智能水平。生成式人工智能在“理解”方面進(jìn)步明顯，甚至在一些心智測(cè)試中超過(guò)了人類平均水平。⑩但從結(jié)構(gòu)與原理來(lái)看，人工智能是人“一般智力”實(shí)現(xiàn)和表達(dá)的技術(shù)，11而大語(yǔ)言模型通過(guò)詞嵌入將人類自然語(yǔ)言轉(zhuǎn)換為數(shù)值，后續(xù)的處理過(guò)程就是數(shù)值計(jì)算的過(guò)程。在自然語(yǔ)義獲取上，大語(yǔ)言模型仍是通過(guò)數(shù)值計(jì)算來(lái)分析不同詞語(yǔ)在詞向量空間中的遠(yuǎn)近關(guān)系，而不是如人類一般的學(xué)習(xí)、領(lǐng)會(huì)。因此，生成式人工智能的確表現(xiàn)出類人“理解”，但不是如人類一樣理解，而是在計(jì)算、識(shí)別、映射。

2. 具有涌現(xiàn)能力，但機(jī)理不明

當(dāng)大語(yǔ)言模型足夠龐大，在使用上下文學(xué)習(xí)、思維鏈推理后，只需借助簡(jiǎn)單的人類示例，模型便被激發(fā)出涌現(xiàn)能力，即“在較小規(guī)模模型中不存在但在大規(guī)模模型中存在的能力”①。智能涌現(xiàn)使生成式人工智能能夠如同人類一樣進(jìn)行上下文分析、多步驟推理，從而提升執(zhí)行未經(jīng)訓(xùn)練任務(wù)的能力。例如，GPT-4涌現(xiàn)出此前人工智能普遍欠缺的常識(shí)能力，②能夠基于常識(shí)而進(jìn)行判斷、推理。不過(guò)，大語(yǔ)言模型出現(xiàn)涌現(xiàn)能力的原因、運(yùn)行機(jī)理目前仍不得而知，③且難以預(yù)測(cè)，④只是推測(cè)與代碼訓(xùn)練有關(guān)。⑤涌現(xiàn)能力在提升機(jī)器性能的同時(shí)，也擴(kuò)大了風(fēng)險(xiǎn)與不確定性，增加了人類對(duì)機(jī)器的預(yù)見(jiàn)、控制難度。

3. 初步具備通用人工智能的特點(diǎn)

微軟在《通用人工智能的火花：GPT-4的早期實(shí)驗(yàn)》的報(bào)告中，基于與人類智能的比較實(shí)驗(yàn)，指出GPT-4較ChatGPT以及此前其他人工智能表現(xiàn)出更多的通用智能，能夠推理、計(jì)劃、快速學(xué)習(xí)、汲取經(jīng)驗(yàn)、擁有常識(shí)，在諸多領(lǐng)域的任務(wù)中表現(xiàn)出接近人類的水平，能夠執(zhí)行超出狹義人工智能系統(tǒng)典型范圍的任務(wù)，應(yīng)將GPT-4視為通用人工智能的早期但仍不完整的版本。⑥自然語(yǔ)言是人類智能的核心表征，屬于通用智能，是各種人類行為的基礎(chǔ)。大語(yǔ)言模型以自然語(yǔ)言處理為核心，具有與生俱來(lái)的通用性、擴(kuò)展性、泛化性，可泛領(lǐng)域地執(zhí)行以“理解”自然語(yǔ)言為基礎(chǔ)的各種任務(wù)。這種兼具通用性與專用性的特點(diǎn)使得生成式人工智能迥異于以往的人工智能。

4. 黑箱化更加嚴(yán)重，可解釋性進(jìn)一步降低

深度神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)天生具有黑箱（Black Box）特性，其內(nèi)部工作原理和決策過(guò)程難以被簡(jiǎn)單理解。⑦大語(yǔ)言模型是一個(gè)規(guī)模更大的黑箱，⑧系統(tǒng)復(fù)雜而不透明，人類很難理解和分析，⑨模型也無(wú)法做到自我解釋。⑩例如，思維鏈技術(shù)可以列出推理過(guò)程，但推理過(guò)程的形成卻難以解釋。此外，對(duì)大語(yǔ)言模型涌現(xiàn)能力的形成原因、運(yùn)作機(jī)理仍不清楚，那么對(duì)基于涌現(xiàn)能力所生成內(nèi)容的可解釋性便幾近于無(wú)。因此，生成式人工智能在性能提升的同時(shí)，可解釋性進(jìn)一步降低，這會(huì)導(dǎo)致可信性下降。歐盟《人工智能法案》第13條要求高風(fēng)險(xiǎn)人工智能系統(tǒng)在運(yùn)行上應(yīng)具有充分的透明度，從而使用戶可以解釋系統(tǒng)的輸出并適當(dāng)使用。然而，即使透明，也不意味著人工智能便是可解釋的。我國(guó)《暫行辦法》第4條便未做過(guò)高要求，而只是規(guī)定提升生成式人工智能服務(wù)的透明度。在筆者看來(lái)，通過(guò)人類對(duì)人工智能進(jìn)行普遍性解釋既不可能，也不現(xiàn)實(shí)，可行之計(jì)可能在于發(fā)展可解釋人工智能技術(shù)（Explainable Artificial Intelligence，XAI），通過(guò)人工智能來(lái)解釋人工智能?？山忉屓斯ぶ悄芗夹g(shù)源于人工智能的黑箱化特性，目的在于顯示人工智能的內(nèi)部過(guò)程并解釋其如何做出決定，①服務(wù)于人機(jī)互動(dòng)，有利于確定研發(fā)者、使用者、監(jiān)管者以及受影響者相互間的關(guān)系，應(yīng)受到立法關(guān)注。

5. 存在機(jī)器幻覺(jué)現(xiàn)象

生成式人工智能存在“生成與特定來(lái)源相關(guān)但無(wú)意義或不真實(shí)的內(nèi)容”的機(jī)器幻覺(jué)現(xiàn)象，可能導(dǎo)致危險(xiǎn)的發(fā)生，②例如對(duì)藥品說(shuō)明書(shū)翻譯錯(cuò)誤會(huì)產(chǎn)生嚴(yán)重后果。機(jī)器幻覺(jué)包括本質(zhì)性幻覺(jué)（所生成的內(nèi)容與源內(nèi)容相矛盾）與外在幻覺(jué)（所生成的內(nèi)容無(wú)法驗(yàn)證為真實(shí)），在人機(jī)對(duì)話、文本總結(jié)、機(jī)器翻譯、推理以及機(jī)器視覺(jué)等領(lǐng)域均有體現(xiàn)。③機(jī)器幻覺(jué)的發(fā)生原因尚難解釋，只是推測(cè)可能與模型架構(gòu)、訓(xùn)練方式、訓(xùn)練數(shù)據(jù)甚至是簡(jiǎn)單的解碼錯(cuò)誤等原因有關(guān)。④基于長(zhǎng)尾效應(yīng)，⑤即便機(jī)器幻覺(jué)可以被改善，機(jī)器也不能對(duì)所有問(wèn)題均作出正確響應(yīng)，尤其是在罕見(jiàn)、少見(jiàn)或意外問(wèn)題的場(chǎng)合。在應(yīng)用中，生成式人工智能可能會(huì)生成不真實(shí)、不準(zhǔn)確的內(nèi)容，一旦人類錯(cuò)誤信賴將可能產(chǎn)生損害。

6. 自動(dòng)性、自主性上升，深度介入人類主觀領(lǐng)域，人類作用進(jìn)一步降低

人工智能替代人類的程度越來(lái)越深，哲學(xué)、倫理學(xué)、法學(xué)、社會(huì)學(xué)等學(xué)科越來(lái)越關(guān)注其在倫理、道德、價(jià)值觀（以下統(tǒng)稱價(jià)值觀）等人類主觀領(lǐng)域所引發(fā)的問(wèn)題。生成式人工智能的運(yùn)用較此前更加廣泛、深入，一旦遵循錯(cuò)誤或不當(dāng)?shù)膬r(jià)值觀，將產(chǎn)生嚴(yán)重后果。需要注意的是，雖然目前大語(yǔ)言模型均需進(jìn)行人工對(duì)齊微調(diào)，以使其遵循人類的價(jià)值觀，但研發(fā)者一直在追求降低人類參與度的方法，采取少樣本學(xué)習(xí)、零樣本學(xué)習(xí)等降低成本、提高自動(dòng)性與自主性的技術(shù)，甚至取消人工數(shù)據(jù)標(biāo)注，由模型自動(dòng)標(biāo)注、自我調(diào)優(yōu)、自行識(shí)別和修復(fù)錯(cuò)誤，⑥從而實(shí)現(xiàn)機(jī)器的自我調(diào)整。⑦在ChatGPT之后出現(xiàn)的AutoGPT等所謂“自主智能體”實(shí)現(xiàn)了更高程度的自動(dòng)性、自主性，無(wú)需人類干預(yù)，便可自動(dòng)規(guī)劃、執(zhí)行任務(wù)。人類作用日益下降，符合人工智能的技術(shù)發(fā)展趨勢(shì)，但在涉及人類主觀領(lǐng)域時(shí)，有必要通過(guò)立法保障人類在人工智能技術(shù)流程中的核心地位與掌控能力，確立價(jià)值觀嵌入規(guī)則，對(duì)人工智能的過(guò)度自主性施加必要限制。我國(guó)《暫行辦法》以及《新一代人工智能倫理規(guī)范》《科技倫理審查辦法（試行）》對(duì)價(jià)值觀問(wèn)題有所涉及，但不夠詳細(xì)、具體，且均未涉及對(duì)人工智能自主性的控制問(wèn)題。

（三）生成式人工智能法律問(wèn)題的產(chǎn)生原因

OpenAI、微軟等研發(fā)公司作為生成式人工智能的開(kāi)創(chuàng)者，為降低人類社會(huì)的接受難度，專門(mén)指出生成式人工智能的目標(biāo)并非替代人類，而是增強(qiáng)人類，尤其是增強(qiáng)人類解決問(wèn)題的能力與創(chuàng)造力，但也承認(rèn)人工智能會(huì)令工作實(shí)現(xiàn)自動(dòng)化，導(dǎo)致勞動(dòng)力遷移、加劇不平等、產(chǎn)生群體性影響，并產(chǎn)生人工智能鴻溝。①在筆者看來(lái)，這種宣傳并不會(huì)改變問(wèn)題的本質(zhì)，生成式人工智能在技術(shù)上與事實(shí)上仍然以機(jī)器為中心，以替代人類為目標(biāo)，并且還加深了替代人類的范圍與水平，目前已經(jīng)在數(shù)據(jù)處理、影視制作、游戲制作、軟件生產(chǎn)、平面模特、翻譯、銷售等領(lǐng)域大量替代了人類崗位。此外，目前的生成式人工智能為非具身的，但正在與機(jī)器人、汽車等相結(jié)合而向具身方向發(fā)展，我國(guó)2025年《政府工作報(bào)告》也提出培育具身智能產(chǎn)業(yè)，這將產(chǎn)生更強(qiáng)的通用性，②使生成式人工智能從網(wǎng)絡(luò)世界進(jìn)入實(shí)體世界，對(duì)人類社會(huì)形成更大沖擊。

法以人為中心，以社會(huì)關(guān)系為調(diào)整對(duì)象，當(dāng)人工智能替代人類參與勞動(dòng)或各種活動(dòng)時(shí)，其技術(shù)與人機(jī)關(guān)系特性便會(huì)向人際關(guān)系、社會(huì)關(guān)系傳遞，投射于以人為中心的法律，催生出各種法律問(wèn)題，因此人工智能法律問(wèn)題其實(shí)就是人工智能技術(shù)與人機(jī)關(guān)系在法律上的投影。生成式人工智能較此前的人工智能具有巨大進(jìn)步，人機(jī)關(guān)系也具有新特性，去人類化屬性與物本主義傾向更為明顯。在生成式人工智能逐漸超越人類智能且應(yīng)用不斷擴(kuò)張的背景下，生成式人工智能在人際關(guān)系、社會(huì)關(guān)系中的地位與作用會(huì)越來(lái)越重要，也會(huì)越來(lái)越多地參與到法律事實(shí)的產(chǎn)生、變更、消滅中去，相關(guān)關(guān)系、法律事實(shí)便會(huì)越來(lái)越多地受到其技術(shù)與人機(jī)關(guān)系特性的影響，從而產(chǎn)生諸多問(wèn)題。

三、生成式人工智能法律問(wèn)題的表現(xiàn)與解決方向

由前文分析可以看出，生成式人工智能法律問(wèn)題的產(chǎn)生基礎(chǔ)、背景、原因較此前并無(wú)本質(zhì)差異，仍然遵循“技術(shù)→人機(jī)關(guān)系→人際關(guān)系→社會(huì)關(guān)系→法律問(wèn)題”逐層遞進(jìn)的邏輯。這意味著，生成式人工智能會(huì)承繼此前的人工智能法律問(wèn)題。但生成式人工智能又是人工智能發(fā)展的新階段，在技術(shù)結(jié)構(gòu)、流程以及人機(jī)關(guān)系上出現(xiàn)了鮮明的新特性，加深了替代人類的程度，這必然會(huì)產(chǎn)生新的問(wèn)題。

（一）生成式人工智能法律問(wèn)題的表現(xiàn)

1. 生成式人工智能承繼的法律問(wèn)題

在宏觀方面，此前的人工智能法律問(wèn)題主要有四。人工智能法律規(guī)制應(yīng)當(dāng)遵循何種價(jià)值取向；人工智能可以替代人類，那么應(yīng)否賦予其主體資格；使用人工智能替代人類從事各種活動(dòng)是否正當(dāng)、適法（即領(lǐng)域準(zhǔn)入），應(yīng)遵循何種規(guī)則；人工智能替代人類實(shí)施行為而產(chǎn)生的責(zé)任應(yīng)如何認(rèn)定。③在微觀方面，此前的人工智能法律問(wèn)題主要表現(xiàn)為因人工智能技術(shù)的運(yùn)用而在民商法、經(jīng)濟(jì)法、行政法、刑法、訴訟法、國(guó)際法等法域產(chǎn)生的具體問(wèn)題，包括自動(dòng)化意思表示、自動(dòng)駕駛、機(jī)器董事、人工智能生成內(nèi)容、深度偽造、內(nèi)容治理、虛擬人、數(shù)據(jù)、個(gè)人信息、新型犯罪、司法審判、歧視、偏見(jiàn)、跨國(guó)服務(wù)等。在生成式人工智能中，此前的宏觀、微觀法律問(wèn)題依然存在，并且因技術(shù)的提升與應(yīng)用領(lǐng)域的拓展深化，這些問(wèn)題會(huì)進(jìn)一步復(fù)雜化。

2. 生成式人工智能促生的新法律問(wèn)題

生成式人工智能的技術(shù)與人機(jī)關(guān)系新特性還會(huì)引發(fā)新的法律問(wèn)題。以問(wèn)題成因?yàn)闃?biāo)準(zhǔn)，這些問(wèn)題大致可分為三類。第一，基于生成式人工智能的技術(shù)特性而產(chǎn)生的技術(shù)層面的法律問(wèn)題；第二，基于生成式人工智能的人機(jī)關(guān)系特性而產(chǎn)生的事實(shí)層面的法律問(wèn)題；第三，生成式人工智能在技術(shù)層面與事實(shí)層面均與人類倫理、道德、價(jià)值觀有著密切關(guān)聯(lián)，由此而產(chǎn)生價(jià)值層面的法律問(wèn)題。①

（1）技術(shù)層面的法律問(wèn)題

生成式人工智能在技術(shù)層面的法律問(wèn)題主要圍繞著生成式人工智能建模、預(yù)訓(xùn)練、微調(diào)、部署的技術(shù)流程而產(chǎn)生。

第一，在建模階段，核心法律問(wèn)題主要有二。其一，如何對(duì)人工智能系統(tǒng)進(jìn)行分類分級(jí)進(jìn)而分層治理。由于生成式人工智能以大語(yǔ)言模型為基礎(chǔ)，因此大語(yǔ)言模型應(yīng)當(dāng)成為法律規(guī)制的主要對(duì)象。分屬不同類型、級(jí)別的大語(yǔ)言模型、生成式人工智能的研發(fā)會(huì)產(chǎn)生不同的義務(wù)，立法應(yīng)當(dāng)考慮某些類型、級(jí)別（如具有高風(fēng)險(xiǎn)）的大語(yǔ)言模型、生成式人工智能在建模階段便需接受相應(yīng)的規(guī)制，授權(quán)行政機(jī)關(guān)在建模階段便展開(kāi)監(jiān)管。其二，如何平衡人工智能發(fā)展與人工智能可解釋性之間的矛盾。人工智能的黑箱化特性與人類所需要的可解釋性之間存在沖突，但生成式人工智能的生成結(jié)果仍應(yīng)具有適度的可溯性，以便確定輸入與輸出間的邏輯關(guān)系，否則難以保障對(duì)于人類而言應(yīng)有的確定性。除對(duì)建模、對(duì)齊優(yōu)化等作出規(guī)定外，還可以考慮對(duì)可解釋人工智能技術(shù)（XAI）作出規(guī)定，對(duì)其解釋結(jié)果賦予一定的法律效力。

第二，在預(yù)訓(xùn)練階段，核心法律問(wèn)題主要與用于訓(xùn)練的數(shù)據(jù)集有關(guān)，主要涉及三個(gè)方面。其一，數(shù)據(jù)集篩選問(wèn)題。預(yù)訓(xùn)練數(shù)據(jù)集在很大程度上決定了生成式人工智能的性能、水準(zhǔn)以及部署領(lǐng)域，相關(guān)法律問(wèn)題主要表現(xiàn)為訓(xùn)練、微調(diào)、測(cè)試、驗(yàn)證等環(huán)節(jié)數(shù)據(jù)集篩選規(guī)則的確立，這涉及數(shù)據(jù)集本身的倫理、道德、價(jià)值傾向以及所記錄信息的準(zhǔn)確性、多樣性等因素。②《暫行辦法》第4條從結(jié)果的角度規(guī)定生成式人工智能的生成內(nèi)容應(yīng)當(dāng)具有正確的價(jià)值觀，避免歧視，對(duì)數(shù)據(jù)集篩選具有規(guī)范意義，但缺少對(duì)社會(huì)性倫理、道德方面的要求。《暫行辦法》第7條要求依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性，涉及數(shù)據(jù)集篩選，但所作規(guī)定過(guò)于簡(jiǎn)單，并且僅涉及訓(xùn)練數(shù)據(jù)，而未將測(cè)試數(shù)據(jù)、驗(yàn)證數(shù)據(jù)涵蓋在內(nèi)。其二，知識(shí)產(chǎn)權(quán)、競(jìng)爭(zhēng)、壟斷等問(wèn)題。生成式人工智能的數(shù)據(jù)訓(xùn)練是一種知識(shí)訓(xùn)練，其應(yīng)用也是一種以知識(shí)為基礎(chǔ)的內(nèi)容生成，因此生成式人工智能會(huì)產(chǎn)生大量的知識(shí)產(chǎn)權(quán)問(wèn)題。例如，將作品、表演等轉(zhuǎn)化為數(shù)據(jù)集用于模型訓(xùn)練是版權(quán)法未涵蓋的使用方式，應(yīng)否創(chuàng)設(shè)新的權(quán)利類型？如何平衡公共利益與權(quán)利人私益的關(guān)系？③生成式人工智能的研發(fā)、訓(xùn)練仰仗于大規(guī)模的資金投入，隨著其應(yīng)用范圍、重要程度的上升，作為研發(fā)者的大企業(yè)對(duì)經(jīng)濟(jì)活動(dòng)、社會(huì)活動(dòng)甚至個(gè)人活動(dòng)的控制力也會(huì)相應(yīng)上升，由此產(chǎn)生競(jìng)爭(zhēng)、壟斷問(wèn)題以及相應(yīng)的社會(huì)問(wèn)題、政治問(wèn)題。④其三，隱私、個(gè)人信息、商業(yè)秘密等信息保護(hù)問(wèn)題。模型訓(xùn)練并不是公開(kāi)進(jìn)行的，相關(guān)數(shù)據(jù)可能在未經(jīng)同意的情況下便直接用于模型訓(xùn)練，權(quán)利主體卻難以查知，并且系統(tǒng)會(huì)收集、積累大量信息，擴(kuò)大了隱私、個(gè)人信息、商業(yè)秘密等受侵害的風(fēng)險(xiǎn)，進(jìn)而產(chǎn)生法律問(wèn)題。①

第三，在微調(diào)階段，除上述數(shù)據(jù)集問(wèn)題外，主要涉及對(duì)人類價(jià)值觀的保障，對(duì)“人在環(huán)路”的要求以及強(qiáng)化呈現(xiàn)推理步驟以增強(qiáng)可解釋性等問(wèn)題。具體包括下列問(wèn)題：在法律層面，應(yīng)當(dāng)如何詳細(xì)確定價(jià)值觀？②如何根據(jù)價(jià)值觀來(lái)設(shè)定模型對(duì)齊標(biāo)準(zhǔn)、微調(diào)數(shù)據(jù)集、測(cè)試數(shù)據(jù)集，如何保障人工智能不偏離正確方向？應(yīng)當(dāng)設(shè)定何種條件、程序來(lái)挑選微調(diào)的操作主體？應(yīng)否強(qiáng)制“人在環(huán)路”，即使?fàn)奚斯ぶ悄艿男阅芤苍谒幌?？③?yīng)否禁止無(wú)人參與的全自動(dòng)微調(diào)？應(yīng)否要求必須呈現(xiàn)生成內(nèi)容的生成過(guò)程、步驟，生成內(nèi)容的可解釋性需要達(dá)到何種程度？這些問(wèn)題其實(shí)是生成式人工智能價(jià)值層面法律問(wèn)題在微調(diào)階段的技術(shù)性體現(xiàn)。

第四，在部署之后，生成式人工智能的法律問(wèn)題便與所應(yīng)用的領(lǐng)域與所執(zhí)行的任務(wù)有關(guān)，包括前文所指出的自動(dòng)化意思表示、人工智能生成內(nèi)容、數(shù)據(jù)、內(nèi)容治理等一系列具體問(wèn)題，需要具體情況具體分析。以人工智能生成內(nèi)容為例，機(jī)器所生成的內(nèi)容極大地借鑒了預(yù)訓(xùn)練數(shù)據(jù)集（即人類以往創(chuàng)造的知識(shí)），那么人的“提示”與機(jī)器的“生成”是否構(gòu)成傳統(tǒng)法意義上的“創(chuàng)造”？是否需要修正傳統(tǒng)的“創(chuàng)造”概念以適應(yīng)知識(shí)產(chǎn)品的提示式創(chuàng)制？人機(jī)合作所“創(chuàng)造”的內(nèi)容又應(yīng)在多大程度上得到保護(hù)？鑒于知識(shí)產(chǎn)品的提示式創(chuàng)制具有通用性，傳統(tǒng)知識(shí)產(chǎn)權(quán)理論、規(guī)則會(huì)遭遇巨大挑戰(zhàn)。

除上述問(wèn)題外，還有一個(gè)問(wèn)題需要關(guān)注，即對(duì)生成式人工智能自身的保護(hù)問(wèn)題。在“制造”生成式人工智能的過(guò)程中，使用了人類以往創(chuàng)造的大量知識(shí)，若對(duì)生成式人工智能施加過(guò)多保護(hù)，會(huì)令研發(fā)者獲得不當(dāng)利益。筆者認(rèn)為，對(duì)生成式人工智能的算法部分應(yīng)當(dāng)予以充分保護(hù)，但就基于數(shù)據(jù)訓(xùn)練所產(chǎn)生的部分不應(yīng)獲得保護(hù)或只應(yīng)獲得限制性保護(hù)。

（2）事實(shí)層面的法律問(wèn)題

生成式人工智能在事實(shí)層面的法律問(wèn)題主要基于它的機(jī)器學(xué)習(xí)、涌現(xiàn)能力、機(jī)器幻覺(jué)、黑箱化等人機(jī)關(guān)系事實(shí)特性而產(chǎn)生。生成式人工智能在智能水平、類人性、自動(dòng)性、自主性方面的進(jìn)步，會(huì)極大拓展人工智能應(yīng)用領(lǐng)域，使機(jī)器能夠更好地替代人類實(shí)施各種行為。然而，機(jī)器學(xué)習(xí)雖系模仿人類而來(lái)，但在海量的參數(shù)、數(shù)據(jù)之下，生成式人工智能因何而在訓(xùn)練、學(xué)習(xí)之后產(chǎn)生某種能力，對(duì)人類而言是不透明的。機(jī)器幻覺(jué)、黑箱化現(xiàn)象伴生于整個(gè)技術(shù)流程，令機(jī)器所生成內(nèi)容的真實(shí)性、準(zhǔn)確性難以得到保證，機(jī)器所做響應(yīng)、所實(shí)施行為的邏輯無(wú)法被徹底回溯，可解釋性極弱，這帶來(lái)了巨大的不確定性與失控的風(fēng)險(xiǎn)，由此而產(chǎn)生機(jī)器所造成的風(fēng)險(xiǎn)、損失、責(zé)任如何分配的問(wèn)題。

從技術(shù)流程與人機(jī)關(guān)系特性可以看出，在生成式人工智能部署之后，風(fēng)險(xiǎn)、損失、責(zé)任雖會(huì)因攻擊、使用不當(dāng)、有意規(guī)避等人為因素而產(chǎn)生，但主要因技術(shù)因素而產(chǎn)生，尤其是在生成式人工智能自主或半自主執(zhí)行任務(wù)時(shí)，例如無(wú)人駕駛、醫(yī)療機(jī)器人診療等。從人類族群利益以及控制風(fēng)險(xiǎn)等角度出發(fā)，不能賦予機(jī)器以主體資格，因此也就不能向機(jī)器追責(zé)。那么，如何將因機(jī)器所引發(fā)的技術(shù)性的風(fēng)險(xiǎn)、損失、責(zé)任在人類主體間進(jìn)行分配？例如，人基于機(jī)器的錯(cuò)誤回答而實(shí)施侵權(quán)行為、錯(cuò)誤投資、不當(dāng)診療，但人難以分辨機(jī)器的回答是否錯(cuò)誤，將責(zé)任歸咎于人的基礎(chǔ)何在？機(jī)器的自主操作偏離人的意思而作出錯(cuò)誤的意思表示、履行行為，損失應(yīng)如何分擔(dān)？在機(jī)器的行為難以作出符合人類邏輯的解釋時(shí)，如何分配所產(chǎn)生的損害？機(jī)器自主執(zhí)行的行為可能構(gòu)成犯罪行為，在無(wú)法向機(jī)器追責(zé)的情況下，應(yīng)否由人來(lái)承擔(dān)刑事責(zé)任？在機(jī)器于人機(jī)關(guān)系中越來(lái)越主動(dòng)的背景下，應(yīng)當(dāng)以何種邏輯向人類主體追責(zé)或者分配風(fēng)險(xiǎn)？這對(duì)法律上的歸責(zé)、應(yīng)當(dāng)預(yù)見(jiàn)、合理信賴、因果關(guān)系、一般理性人等理論、規(guī)則會(huì)產(chǎn)生巨大影響。

（3）價(jià)值層面的法律問(wèn)題

人工智能技術(shù)與其他技術(shù)的關(guān)鍵區(qū)別在于，人工智能始終以替代人類為目標(biāo)，意在使機(jī)器成為獨(dú)立的行動(dòng)體。人工智能在“獨(dú)立地”替代人類或指導(dǎo)人類實(shí)施行為時(shí)，必然會(huì)與人類價(jià)值觀產(chǎn)生密切關(guān)聯(lián)，這一關(guān)聯(lián)會(huì)隨著人工智能的智能水平、自主性的提升以及應(yīng)用領(lǐng)域的擴(kuò)展而不斷加深。對(duì)生成式人工智能而言，其已開(kāi)始深度介入人類主觀領(lǐng)域，在此前的偏見(jiàn)、歧視等問(wèn)題之外，還產(chǎn)生了一系列價(jià)值性的法律問(wèn)題。第一，不同民族、國(guó)家有著不同的價(jià)值觀（包括倫理、道德），本國(guó)的人工智能應(yīng)當(dāng)體現(xiàn)哪些，在跨國(guó)調(diào)用人工智能服務(wù)時(shí)如何解決沖突？第二，在建模、預(yù)訓(xùn)練階段便需體現(xiàn)價(jià)值觀，還是說(shuō)僅需在后期進(jìn)行對(duì)齊優(yōu)化？第三，研發(fā)者是否有權(quán)決定向人工智能輸入的價(jià)值觀？第四，在建立數(shù)據(jù)安全官機(jī)制之余，法律應(yīng)否建立價(jià)值安全官機(jī)制？第五，解決這些問(wèn)題應(yīng)當(dāng)采取何種立法技術(shù)？此外，生成式人工智能還會(huì)對(duì)人類社會(huì)的宏觀秩序產(chǎn)生巨大影響，例如在生物領(lǐng)域產(chǎn)生超人類的問(wèn)題，在教育領(lǐng)域產(chǎn)生如何適應(yīng)知識(shí)生成自動(dòng)化的問(wèn)題，①在勞動(dòng)領(lǐng)域產(chǎn)生尊嚴(yán)、公平、勞動(dòng)歧視等問(wèn)題，在司法領(lǐng)域產(chǎn)生機(jī)器應(yīng)否擁有決策權(quán)的問(wèn)題，在輿論領(lǐng)域產(chǎn)生話語(yǔ)權(quán)、社會(huì)動(dòng)員、內(nèi)容治理等問(wèn)題。不過(guò)，生成式人工智能在價(jià)值層面的法律問(wèn)題有別于在技術(shù)層面、事實(shí)層面的法律問(wèn)題，技術(shù)性、經(jīng)濟(jì)性、道德性、政治性等多方面因素混合介入，②其本質(zhì)是政治問(wèn)題、社會(huì)問(wèn)題、倫理問(wèn)題，只是最終通過(guò)法律制度予以落實(shí)。

（二）生成式人工智能法律問(wèn)題的解決方向

人工智能學(xué)術(shù)界、產(chǎn)業(yè)界對(duì)于應(yīng)否發(fā)展生成式人工智能爭(zhēng)議激烈，有支持者，有反對(duì)者，還有中立者，③其所爭(zhēng)議的其實(shí)是人類社會(huì)對(duì)生成式人工智能應(yīng)持何種價(jià)值取向，這也是生成式人工智能法律規(guī)制的前提性問(wèn)題。④生成式人工智能是借助人機(jī)關(guān)系而使技術(shù)與社會(huì)相連，人機(jī)關(guān)系是問(wèn)題處理根本之所在。一旦在人機(jī)關(guān)系意義上確立人類社會(huì)對(duì)生成式人工智能的價(jià)值取向，生成式人工智能法律問(wèn)題的解決方向便得以確立。

科技行為是人類有意識(shí)的實(shí)踐活動(dòng)，其中滲透著主體的價(jià)值判斷與取舍，具有很強(qiáng)的倫理負(fù)載。⑤生成式人工智能不是技術(shù)中性的，同時(shí)具有正價(jià)值與負(fù)價(jià)值，影響人類社會(huì)的構(gòu)造與秩序并產(chǎn)生復(fù)雜的連鎖反應(yīng)“。對(duì)技術(shù)正價(jià)值的最大可能性發(fā)揮和對(duì)負(fù)價(jià)值的有效規(guī)避是人類對(duì)技術(shù)的期待與追求”⑥，包括我國(guó)在內(nèi)，多個(gè)國(guó)家、國(guó)際組織為此而對(duì)人工智能提出了各種發(fā)展理念，如安全、可控、可靠、道德、公平、和諧、向善、誠(chéng)實(shí)、透明、可信賴、負(fù)責(zé)任、多樣性等。這些理念均與人機(jī)關(guān)系相關(guān)，目的均在于貫徹“以人為本”，發(fā)揮人工智能技術(shù)的正價(jià)值，抑制負(fù)價(jià)值。聯(lián)合國(guó)2023年的《全球數(shù)字契約——為所有人創(chuàng)造開(kāi)放、自由、安全的數(shù)字未來(lái)》中也貫徹了這種思想，提出確保人工智能及其他新興技術(shù)的設(shè)計(jì)、使用應(yīng)當(dāng)透明、可靠、安全并處于負(fù)責(zé)任的人類控制之下，確保人工智能系統(tǒng)安全、公平、可問(wèn)責(zé)、透明、可解釋、可信并與人類價(jià)值觀相一致?！恫既R切利宣言》還提出對(duì)人工智能進(jìn)行適當(dāng)?shù)娜祟惐O(jiān)督。從人機(jī)關(guān)系的角度來(lái)看，生成式人工智能的發(fā)展應(yīng)當(dāng)是一種受到控制的發(fā)展，而不能任由其不受控制地替代人類。也就是說(shuō)，人工智能對(duì)人類的替代應(yīng)是局部的，而不能是整體的或者過(guò)大范圍的，否則極可能產(chǎn)生人類社會(huì)不能承受之重。因此，結(jié)合人工智能替代人類的技術(shù)本性、受控發(fā)展的理念以及倫理觀念，對(duì)包括大語(yǔ)言模型、生成式人工智能在內(nèi)的各種人工智能技術(shù)進(jìn)行法律規(guī)制，應(yīng)當(dāng)立基于以人為本，采取局部替代人類、整體增強(qiáng)人類的價(jià)值取向。①一方面，這種價(jià)值取向認(rèn)可人工智能的正價(jià)值，通過(guò)發(fā)展人工智能技術(shù)，增加社會(huì)福祉，促進(jìn)社會(huì)進(jìn)步。另一方面，這種價(jià)值取向抑制人工智能的負(fù)價(jià)值，前置性地施加以人為本的整體價(jià)值負(fù)載，適度矯正人工智能替代人類的理念與技術(shù)。事實(shí)上，我國(guó)在《新一代人工智能治理原則》《新一代人工智能倫理規(guī)范》中所提出的各種治理原則、倫理規(guī)范均可在局部替代人類、整體增強(qiáng)人類的價(jià)值取向下尋得依據(jù)，亦可以視為這一價(jià)值取向的具體體現(xiàn)。

生成式人工智能在技術(shù)層面的法律問(wèn)題其實(shí)屬于表層問(wèn)題，在事實(shí)層面的法律問(wèn)題屬于深層問(wèn)題，在價(jià)值層面的法律問(wèn)題屬于更深層的問(wèn)題，三者有著自淺入深、由表及里且相互關(guān)聯(lián)的關(guān)系。一旦確立了公認(rèn)的價(jià)值取向，便可以之為基礎(chǔ)并行解決各層面的問(wèn)題，而不必逐層解決。在局部替代人類、整體增強(qiáng)人類的價(jià)值取向下，不論是解決哪一層面的問(wèn)題，關(guān)鍵均在于，在促進(jìn)生成式人工智能技術(shù)發(fā)展的同時(shí)予以引導(dǎo)、調(diào)制、限制，以人類的參與、監(jiān)督來(lái)限制去人類化屬性，以人本主義理念來(lái)限制物本主義傾向，通過(guò)價(jià)值取向、治理原則、治理機(jī)制的細(xì)化，保障生成式人工智能由人類控制，實(shí)現(xiàn)生成式人工智能在人類社會(huì)的“軟著陸”，避免其以機(jī)器為中心、以替代人類為目標(biāo)的特性過(guò)度沖擊人類社會(huì)秩序。

四、生成式人工智能法律規(guī)制的核心機(jī)制

生成式人工智能法律問(wèn)題紛繁蕪雜，當(dāng)下迫在眉睫的是針對(duì)關(guān)鍵環(huán)節(jié)建立法律機(jī)制，進(jìn)而以這些機(jī)制作為基點(diǎn)，逐步推進(jìn)問(wèn)題的解決。筆者認(rèn)為，從整體上看，生成式人工智能法律規(guī)制應(yīng)以監(jiān)管機(jī)制為中心，貫徹始終，以分類分級(jí)、技術(shù)標(biāo)準(zhǔn)機(jī)制為基礎(chǔ)，支撐其他機(jī)制的運(yùn)行。而根據(jù)生成式人工智能的技術(shù)流程，應(yīng)當(dāng)針對(duì)起始階段建立研發(fā)機(jī)制，針對(duì)中間階段建立應(yīng)用機(jī)制，針對(duì)最終階段建立責(zé)任機(jī)制，如此則涵蓋了生成式人工智能的全生命周期，并涵攝其所產(chǎn)生的主要法律問(wèn)題。這些法律機(jī)制內(nèi)容繁雜，以下就機(jī)制建立原因以及機(jī)制要點(diǎn)進(jìn)行闡述。另外，生成式人工智能與此前的人工智能一脈相承，其法律規(guī)制不應(yīng)是單獨(dú)的，因此對(duì)相關(guān)問(wèn)題的討論應(yīng)置于人工智能的整體框架之內(nèi)。

（一）生成式人工智能監(jiān)管機(jī)制

1. 生成式人工智能法律規(guī)制應(yīng)當(dāng)以監(jiān)管為中心

筆者認(rèn)為，生成式人工智能法律規(guī)制應(yīng)當(dāng)以監(jiān)管為中心。原因在于：第一，生成式人工智能技術(shù)對(duì)人類社會(huì)具有一定的危險(xiǎn)性，并且會(huì)借助網(wǎng)絡(luò)迅速擴(kuò)散，產(chǎn)生連鎖反應(yīng)，人類個(gè)體或群體的力量不足以作出有效應(yīng)對(duì)，只能通過(guò)政府對(duì)技術(shù)研發(fā)與應(yīng)用進(jìn)行妥當(dāng)控制。前文所分析的技術(shù)層面與價(jià)值層面的法律問(wèn)題，主要依靠監(jiān)管機(jī)制來(lái)解決。第二，在法律上，相較于通常的事后救濟(jì)、責(zé)任承擔(dān)，由政府通過(guò)行政手段，對(duì)技術(shù)研發(fā)與應(yīng)用進(jìn)行事前、事中、事后的監(jiān)管無(wú)疑更有效率。監(jiān)管部門(mén)可以密切跟蹤技術(shù)發(fā)展，對(duì)研發(fā)者、應(yīng)用者的行為保持常態(tài)化管理，迅速發(fā)現(xiàn)問(wèn)題并做出反應(yīng)，其他方式無(wú)法起到這種作用。第三，面對(duì)日新月異的人工智能技術(shù)，在人機(jī)關(guān)系方面必須堅(jiān)持整體增強(qiáng)人類的取向，必須保證機(jī)器處于受控與安全的狀態(tài)，與人類價(jià)值觀保持對(duì)齊，而這一整體性目標(biāo)只能通過(guò)政府監(jiān)管來(lái)實(shí)現(xiàn)。第四，監(jiān)管機(jī)制并非只是簡(jiǎn)單地賦予政府以監(jiān)管權(quán)力，而是涵蓋大量規(guī)則，設(shè)置各種指標(biāo)、標(biāo)準(zhǔn)、義務(wù)。這些指標(biāo)、標(biāo)準(zhǔn)、義務(wù)既是形成正當(dāng)秩序的基礎(chǔ)，也是研發(fā)、應(yīng)用、責(zé)任等機(jī)制的運(yùn)行基礎(chǔ)，還是各部門(mén)法在內(nèi)部解決各種問(wèn)題的基礎(chǔ)。因此，監(jiān)管機(jī)制其實(shí)是在局部替代人類、整體增強(qiáng)人類之價(jià)值取向下，對(duì)生成式人工智能在人機(jī)關(guān)系中具體應(yīng)居于何種地位的回答與維持，應(yīng)當(dāng)成為法律規(guī)制的中心。

2. 分階段采取強(qiáng)度不同的監(jiān)管模式與監(jiān)管內(nèi)容

我國(guó)《新一代人工智能發(fā)展規(guī)劃》將發(fā)展人工智能提升到國(guó)家戰(zhàn)略的層面，如果對(duì)人工智能實(shí)施過(guò)度管制，可能會(huì)在世界競(jìng)爭(zhēng)中落于下風(fēng)，并在全產(chǎn)業(yè)鏈產(chǎn)生不良反應(yīng)。同時(shí)，只有擁有領(lǐng)先的技術(shù)優(yōu)勢(shì)，中華倫理、價(jià)值觀才能在世界人工智能領(lǐng)域占有一席之地。然而，對(duì)人工智能的風(fēng)險(xiǎn)又不能置之不理。因此，對(duì)生成式人工智能的監(jiān)管，應(yīng)當(dāng)是在促進(jìn)發(fā)展的同時(shí)又予以必要的限制，防范技術(shù)風(fēng)險(xiǎn)又不妨礙技術(shù)創(chuàng)新?！稌盒修k法》第3條提出的“發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合”的原則頗值贊同，也應(yīng)當(dāng)成為我國(guó)《人工智能法》的基本原則。生成式人工智能勢(shì)必經(jīng)歷爆發(fā)式發(fā)展、穩(wěn)步發(fā)展的過(guò)程，我國(guó)不應(yīng)采取如歐盟《人工智能法案》中“一步到位”式的強(qiáng)監(jiān)管，而應(yīng)隨技術(shù)的發(fā)展，硬法與軟法相結(jié)合，①分階段采取強(qiáng)度不同的監(jiān)管模式。在當(dāng)前階段，我國(guó)宜采取“促進(jìn)為主、管制為輔”的弱監(jiān)管模式，將我國(guó)《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》中抽象的治理原則予以具體化，硬法與軟法相結(jié)合，通過(guò)設(shè)置技術(shù)委員會(huì)等方式進(jìn)行各界協(xié)同治理，適度規(guī)范技術(shù)發(fā)展，防范壟斷，救濟(jì)損害，弱化不良影響。將來(lái)，我國(guó)應(yīng)對(duì)生成式人工智能采取強(qiáng)監(jiān)管?！稌盒修k法》所采取的便是弱監(jiān)管模式，在目前的技術(shù)發(fā)展階段是適當(dāng)?shù)模稌盒修k法》在通用人工智能、價(jià)值觀、人類監(jiān)督、監(jiān)管措施、法律責(zé)任等方面的規(guī)定存在不足，難以應(yīng)對(duì)生成式人工智能技術(shù)的危險(xiǎn)性以及對(duì)社會(huì)的沖擊。需要注意的是，生成式人工智能技術(shù)并不是中性的，不論何種階段的監(jiān)管，均應(yīng)監(jiān)督人工智能技術(shù)在整體增強(qiáng)人類的框架內(nèi)發(fā)展，保障基本倫理、道德、價(jià)值因素的貫徹，防范潛在危害，警惕他國(guó)價(jià)值輸出。②

（二）生成式人工智能分類分級(jí)機(jī)制與技術(shù)標(biāo)準(zhǔn)機(jī)制

人工智能的分類分級(jí)、技術(shù)標(biāo)準(zhǔn)機(jī)制是監(jiān)管、研發(fā)、應(yīng)用、責(zé)任、保險(xiǎn)等機(jī)制的運(yùn)行基礎(chǔ)，可為多學(xué)科研究確立共同的出發(fā)點(diǎn)，推進(jìn)人工智能在技術(shù)、事實(shí)、價(jià)值三個(gè)層面的法律問(wèn)題的解決。人工智能的分類分級(jí)與技術(shù)標(biāo)準(zhǔn)機(jī)制涵蓋了生成式人工智能的分類分級(jí)與技術(shù)標(biāo)準(zhǔn)。

歐盟《人工智能法案》基于人工智能的分類而進(jìn)行整體架構(gòu)，其按照對(duì)人的健康、安全、基本權(quán)利造成損害風(fēng)險(xiǎn)的不同，對(duì)人工智能進(jìn)行分類。具有不可接受風(fēng)險(xiǎn)的人工智能被禁止，具有最低或最小風(fēng)險(xiǎn)的人工智能除了在透明度方面外基本不受監(jiān)管，而高風(fēng)險(xiǎn)的人工智能則是監(jiān)管的重點(diǎn)。在此框架內(nèi)，歐盟《人工智能法案》還對(duì)通用人工智能模型、系統(tǒng)③作出專門(mén)規(guī)定。從我國(guó)法的角度來(lái)看，歐盟所規(guī)定的其實(shí)僅是人工智能的分級(jí)，類似于我國(guó)《網(wǎng)絡(luò)安全法》第21條中的網(wǎng)絡(luò)安全等級(jí)，即其只分級(jí)未分類，或者說(shuō)以分級(jí)代替分類。然而，人工智能適用廣泛，在社交、藝術(shù)、娛樂(lè)、輿論、教育、政務(wù)、金融、司法、交通等不同領(lǐng)域中，對(duì)不同人工智能在準(zhǔn)入、透明度、準(zhǔn)確性等方面的要求存在差異，監(jiān)管與責(zé)任認(rèn)定的邏輯也不盡相同，既要分類，也要分級(jí)。人工智能與數(shù)據(jù)密不可分且有共通之處，筆者認(rèn)為，可以參考《數(shù)據(jù)安全法》第21條的規(guī)定，將重要程度、危害程度沿用為人工智能分類分級(jí)的標(biāo)準(zhǔn)，這種復(fù)合性標(biāo)準(zhǔn)較歐盟所采取的單純的風(fēng)險(xiǎn)標(biāo)準(zhǔn)更為合理，且不會(huì)與我國(guó)的數(shù)據(jù)分類分級(jí)機(jī)制相抵牾，可以保障具體場(chǎng)景中法律適用效果的統(tǒng)一性。在對(duì)人工智能進(jìn)行分類分級(jí)時(shí)，還應(yīng)考慮到人工智能責(zé)任機(jī)制的后續(xù)運(yùn)行，而不能如《暫行辦法》一樣僅考慮監(jiān)管。

人工智能技術(shù)標(biāo)準(zhǔn)機(jī)制的核心在于確保人類利益、技術(shù)安全、用戶權(quán)利。雖然對(duì)倫理規(guī)范的遵循、對(duì)人類尊嚴(yán)及多樣性的尊重等問(wèn)題一時(shí)難以解決，無(wú)法全面體現(xiàn)于技術(shù)標(biāo)準(zhǔn)中，但非歧視、透明度、用戶數(shù)據(jù)保護(hù)、避免大規(guī)模侵權(quán)、可解釋性等卻是可以通過(guò)技術(shù)標(biāo)準(zhǔn)來(lái)體現(xiàn)的。筆者認(rèn)為，可以考慮將預(yù)訓(xùn)練數(shù)據(jù)集篩選、測(cè)試與驗(yàn)證數(shù)據(jù)集建立、開(kāi)發(fā)與測(cè)試記錄保存、系統(tǒng)適度透明、人類監(jiān)督、適度解釋、可供追溯、可確保退出、主動(dòng)告知、數(shù)據(jù)完整、隱私保護(hù)、敏感數(shù)據(jù)保護(hù)、權(quán)限管理、身份識(shí)別、防篡改、安全保障等內(nèi)容納入技術(shù)標(biāo)準(zhǔn)機(jī)制。

（三）生成式人工智能研發(fā)機(jī)制與應(yīng)用機(jī)制

人工智能不良行為的產(chǎn)生既有內(nèi)部原因，也有外部原因。前者主要表現(xiàn)為人工智能的算法開(kāi)發(fā)（包括模型建構(gòu)）、數(shù)據(jù)訓(xùn)練、對(duì)齊優(yōu)化等，后者主要表現(xiàn)為人工智能的部署、指令、使用方式、外部攻擊等。針對(duì)二者，法律應(yīng)當(dāng)前置以整體增強(qiáng)人類的價(jià)值理念，堅(jiān)持以人為本，分別建立研發(fā)機(jī)制與應(yīng)用機(jī)制。

在研發(fā)上，即便科技具備內(nèi)在的發(fā)展邏輯，也不能自主地展開(kāi)，而是要受到社會(huì)的制約和規(guī)定的，①生成式人工智能研發(fā)機(jī)制所體現(xiàn)的便是社會(huì)對(duì)其的制約和規(guī)定。在目的上，研發(fā)機(jī)制的建立是為了使大語(yǔ)言模型、生成式人工智能（涵蓋算法、訓(xùn)練數(shù)據(jù)等）具體符合人工智能的治理原則，使其處于安全可控的狀態(tài)。在內(nèi)容上，研發(fā)機(jī)制涵攝科技倫理，既設(shè)定一般性的研發(fā)規(guī)范，也為研發(fā)者（包括研發(fā)組織與具體人員）設(shè)定具體的行為規(guī)范。具體而言，第一，應(yīng)當(dāng)平衡創(chuàng)新與管制，在分類分級(jí)的基礎(chǔ)上，對(duì)人工智能的研發(fā)進(jìn)行區(qū)別治理。第二，應(yīng)當(dāng)設(shè)置研發(fā)禁區(qū)，要求相應(yīng)類型、級(jí)別的人工智能的研發(fā)者建立規(guī)范的內(nèi)部流程。第三，在設(shè)定抽象的倫理規(guī)范之余，還應(yīng)當(dāng)通過(guò)具體的研發(fā)指引等來(lái)規(guī)范研發(fā)行為，并配以相應(yīng)的義務(wù)與責(zé)任，以便從源頭上減少人工智能后續(xù)的不當(dāng)應(yīng)用、不良行為。第四，算法與數(shù)據(jù)是人工智能研發(fā)的核心，并且二者均會(huì)帶有價(jià)值偏好，②對(duì)人工智能的訓(xùn)練與后續(xù)應(yīng)用會(huì)產(chǎn)生重大影響，法律應(yīng)當(dāng)通過(guò)“人在環(huán)路”、價(jià)值觀嵌入等規(guī)則適度規(guī)范算法開(kāi)發(fā)與數(shù)據(jù)訓(xùn)練，保障人類在零樣本學(xué)習(xí)、對(duì)齊、評(píng)估等環(huán)節(jié)的參與與監(jiān)督，保持對(duì)技術(shù)自動(dòng)性、自主性的適度干預(yù)。第五，法律應(yīng)當(dāng)要求人工智能在研發(fā)上保持與現(xiàn)有技術(shù)水平相應(yīng)的透明性、可解釋性，盡量消解因黑箱化產(chǎn)生的風(fēng)險(xiǎn)。需要指出的是，研發(fā)機(jī)制會(huì)涉及大量?jī)r(jià)值性法律問(wèn)題，有的適合由法律作出規(guī)定，有的則不適合。因此，研發(fā)機(jī)制需要融通硬法規(guī)制與軟法調(diào)制，通過(guò)法律法規(guī)、規(guī)章、部門(mén)規(guī)范性文件以及技術(shù)標(biāo)準(zhǔn)等多種途徑共同建立，并推動(dòng)行業(yè)自律、協(xié)同共治，保障人工智能在可控框架內(nèi)發(fā)展。

在應(yīng)用（包括部署）方面，應(yīng)當(dāng)在分類分級(jí)的基礎(chǔ)上，建立教育、法律、生物、醫(yī)療、兵器、輿論等敏感領(lǐng)域中的通用人工智能、專用人工智能應(yīng)用機(jī)制。應(yīng)用機(jī)制涵蓋準(zhǔn)入、部署、使用等方面，目的主要在于防范系統(tǒng)性、結(jié)構(gòu)化風(fēng)險(xiǎn)，保障人類的最高決策權(quán)，維護(hù)人工智能應(yīng)用秩序。在敏感領(lǐng)域中，若無(wú)法保障機(jī)器決策的高度透明性與可解釋性，人工智能只能做輔助性使用，甚至不允許使用。以課堂教學(xué)為例，監(jiān)管部門(mén)應(yīng)當(dāng)針對(duì)不同教育階段、學(xué)科建立相應(yīng)的測(cè)試數(shù)據(jù)集，根據(jù)具體情況設(shè)定相應(yīng)的閾值，對(duì)人工智能進(jìn)行評(píng)估。只有通過(guò)測(cè)試的人工智能方能獲得準(zhǔn)入許可。而在課堂教學(xué)中，人工智能的使用也應(yīng)是受限的，不可濫用。監(jiān)管部門(mén)還應(yīng)當(dāng)對(duì)人工智能的使用保持常態(tài)化的測(cè)試、評(píng)估，跟蹤監(jiān)管。在其他敏感領(lǐng)域，亦同此理。

（四）生成式人工智能責(zé)任機(jī)制

不論是在技術(shù)層面、事實(shí)層面還是在價(jià)值層面，責(zé)任機(jī)制均是（生成式）人工智能核心問(wèn)題之一，包括行政、刑事、民事三個(gè)部分。行政部分與刑事部分的主要意義在于通過(guò)向研發(fā)者、部署者、使用者分配公法責(zé)任，來(lái)規(guī)范人工智能的研發(fā)、應(yīng)用。民事部分的主要意義在于風(fēng)險(xiǎn)分配與損害救濟(jì)，民事部分居于基礎(chǔ)地位，且以侵權(quán)責(zé)任為主，是解決人工智能事實(shí)層面法律問(wèn)題的關(guān)鍵。人工智能侵權(quán)責(zé)任牽涉歸責(zé)、損害認(rèn)定、因果關(guān)系、責(zé)任類型、免責(zé)事由、舉證責(zé)任分配、多數(shù)人侵權(quán)等一系列復(fù)雜問(wèn)題，而歸責(zé)問(wèn)題無(wú)疑是其中的前提性問(wèn)題。囿于篇幅，本文僅就此問(wèn)題發(fā)表初步看法。

傳統(tǒng)法基于主客二分建立相應(yīng)的責(zé)任體系，人為行為主體，并順理成章地成為責(zé)任主體。然而在人工智能領(lǐng)域中，尤其是隨著生成式人工智能的崛起，機(jī)器的智能水平、自動(dòng)性、自主性得到巨大提升，人機(jī)關(guān)系開(kāi)始從“人—機(jī)”向“機(jī)—人”發(fā)展，①逐漸出現(xiàn)主客翻轉(zhuǎn)的現(xiàn)象，人要接受機(jī)器的決策，甚至可能成為人工智能行為的“客體”。例如，從機(jī)器輔助人類駕駛過(guò)渡到機(jī)器替代人類駕駛，從“理性人”向“理性車”發(fā)展；②醫(yī)生按照醫(yī)療人工智能的指示進(jìn)行治療。機(jī)器具備了學(xué)習(xí)能力，其行為會(huì)超出研發(fā)者的設(shè)計(jì)與預(yù)計(jì)，在一些場(chǎng)合，機(jī)器會(huì)替代人類成為事實(shí)上的行為“主體”，而責(zé)任卻仍需由人來(lái)承擔(dān)。因此，歸責(zé)的核心在于如何合理地將生成式人工智能技術(shù)流程中的責(zé)任歸咎于相應(yīng)的人類主體。

筆者認(rèn)為，第一，生成式人工智能在具身性、應(yīng)用領(lǐng)域等方面有異，其智能水平、能力、風(fēng)險(xiǎn)有著從低到高的階段性、級(jí)別性的差異，并且責(zé)任主體具有多元化的特點(diǎn)，涵蓋研發(fā)者、提供者、銷售者、部署者、使用者等不同類型的主體。以人工智能研發(fā)者與使用者為例，明顯不能對(duì)二者在任何場(chǎng)景中均實(shí)施相同的歸責(zé)原則。因此，不能如學(xué)界一些觀點(diǎn)認(rèn)為的統(tǒng)一采取過(guò)錯(cuò)責(zé)任、③過(guò)錯(cuò)推定責(zé)任④或無(wú)過(guò)錯(cuò)責(zé)任，⑤而應(yīng)區(qū)分責(zé)任類型、責(zé)任主體進(jìn)行多元?dú)w責(zé)。第二，為了進(jìn)行多元?dú)w責(zé)，需將人工智能侵權(quán)責(zé)任予以類型化區(qū)分。由于人工智能被用于代替人類勞動(dòng)，其行為與人類行為具有平行性，因此可以沿用《民法典》上的一般侵權(quán)責(zé)任與特殊侵權(quán)責(zé)任的分類，將人工智能侵權(quán)責(zé)任劃分為人工智能一般侵權(quán)責(zé)任與人工智能特殊侵權(quán)責(zé)任，分別研究、確立其歸責(zé)原則。第三，在整體上，作為機(jī)器的人工智能具有危險(xiǎn)性，在傳統(tǒng)法上，其無(wú)疑與危險(xiǎn)責(zé)任最為契合。應(yīng)當(dāng)主要依托危險(xiǎn)責(zé)任，并主要借助對(duì)危險(xiǎn)責(zé)任中的產(chǎn)品責(zé)任的改造來(lái)規(guī)制人工智能侵權(quán)。這意味著對(duì)人工智能的研發(fā)者、提供者、部署者等技術(shù)性、商業(yè)性主體應(yīng)主要采取無(wú)過(guò)錯(cuò)責(zé)任，并借助產(chǎn)品缺陷認(rèn)定、證據(jù)開(kāi)示、抗辯事由、責(zé)任限額規(guī)則以及設(shè)立保險(xiǎn)、國(guó)家救助基金等方式實(shí)現(xiàn)在產(chǎn)業(yè)發(fā)展與權(quán)利救濟(jì)之間的平衡，在不同技術(shù)發(fā)展階段采取不同的平衡方式。此中關(guān)鍵在于產(chǎn)品缺陷認(rèn)定規(guī)則，例如在因機(jī)器學(xué)習(xí)、涌現(xiàn)能力、機(jī)器幻覺(jué)、無(wú)法解釋等技術(shù)原因而產(chǎn)生損害時(shí)，應(yīng)否認(rèn)定存在產(chǎn)品缺陷。第四，在《民法典》已作規(guī)定的機(jī)動(dòng)車交通事故責(zé)任、醫(yī)療損害責(zé)任、環(huán)境污染責(zé)任、高度危險(xiǎn)責(zé)任等特殊侵權(quán)責(zé)任以及其他法所規(guī)定的如個(gè)人信息侵權(quán)責(zé)任等場(chǎng)合，應(yīng)當(dāng)結(jié)合人工智能在相應(yīng)領(lǐng)域中的研發(fā)、部署、使用，分別確定相應(yīng)的歸責(zé)原則。在這些類型的侵權(quán)責(zé)任中，無(wú)過(guò)錯(cuò)責(zé)任、過(guò)錯(cuò)推定責(zé)任以及過(guò)錯(cuò)責(zé)任均可能采取。例如，在人工智能醫(yī)療損害責(zé)任中，對(duì)作為人工智能使用者的醫(yī)院勢(shì)必不能實(shí)行無(wú)過(guò)錯(cuò)責(zé)任，而應(yīng)主要實(shí)行過(guò)錯(cuò)責(zé)任。人工智能產(chǎn)品侵權(quán)責(zé)任規(guī)則與其他人工智能特殊侵權(quán)責(zé)任為一般法與特別法的關(guān)系，按照特別法優(yōu)于一般法的原則進(jìn)行法律適用，即人工智能產(chǎn)品責(zé)任居于兜底地位。第五，在人工智能一般侵權(quán)責(zé)任，歸責(zé)需要區(qū)分技術(shù)性、商業(yè)性主體與使用者。對(duì)人工智能的技術(shù)性、商業(yè)性主體，往往可以按照人工智能產(chǎn)品侵權(quán)責(zé)任進(jìn)行歸責(zé)，無(wú)人工智能一般侵權(quán)責(zé)任的適用余地。對(duì)人工智能使用者（特殊侵權(quán)責(zé)任類型外的使用者）不應(yīng)采取無(wú)過(guò)錯(cuò)責(zé)任或過(guò)錯(cuò)推定責(zé)任，而應(yīng)當(dāng)采取過(guò)錯(cuò)責(zé)任。

上述多元?dú)w責(zé)方法依托傳統(tǒng)法，以人為本、以技為用，遵循局部替代人類、整體增強(qiáng)人類的價(jià)值取向，符合當(dāng)下（生成式）人工智能的技術(shù)與人機(jī)關(guān)系特性，在以機(jī)器為中心的技術(shù)與以人為中心的責(zé)任之間建立連接。當(dāng)然，這種連接是否合理，有待進(jìn)一步研究。不過(guò)，不論采取何種連接方法，對(duì)歸責(zé)原則、因果關(guān)系、與有過(guò)失、多數(shù)人侵權(quán)、責(zé)任形式等問(wèn)題的研究均應(yīng)當(dāng)在人機(jī)連接的基礎(chǔ)上展開(kāi)。

① 按照國(guó)務(wù)院辦公廳《關(guān)于印發(fā)國(guó)務(wù)院2023年度立法工作計(jì)劃的通知》，人工智能法草案在2023年預(yù)備提請(qǐng)全國(guó)人大常委會(huì)審議，不過(guò)此草案目前仍未形成。

② 參見(jiàn)張凌寒：《生成式人工智能的法律定位與分層治理》，《現(xiàn)代法學(xué)》2023年第4期，第137—139頁(yè)。

③ 參見(jiàn)王利明：《生成式人工智能侵權(quán)的法律應(yīng)對(duì)》，《中國(guó)應(yīng)用法學(xué)》2023年第5期，第28—31頁(yè)。

④ 參見(jiàn)徐偉：《生成式人工智能侵權(quán)中因果關(guān)系認(rèn)定的迷思與出路》，《數(shù)字法治》2023年第3期，第134—138頁(yè)。

⑤ 參見(jiàn)陳永偉：《超越ChatGPT：生成式AI的機(jī)遇、風(fēng)險(xiǎn)與挑戰(zhàn)》，《山東大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2023年第3期，第132頁(yè)；韓旭至：《生成式人工智能治理的邏輯更新與路徑優(yōu)化——以人機(jī)關(guān)系為視角》，《行政法學(xué)研究》2023年第6期，第32頁(yè)。

⑥ 參見(jiàn)王洋、閆海：《生成式人工智能的風(fēng)險(xiǎn)迭代與規(guī)制革新——以ChatGPT為例》，《理論月刊》2023年第6期，第16頁(yè)。

⑦ 從20世紀(jì)的博弈、問(wèn)題求解、機(jī)器翻譯、機(jī)器視覺(jué)、專家系統(tǒng)到21世紀(jì)的自動(dòng)駕駛、機(jī)器人、智能醫(yī)療、決策系統(tǒng)、群智能，不論是采取符號(hào)主義范式，還是采取聯(lián)接主義、進(jìn)化主義范式，人工智能的目的均是提升機(jī)器智能，利用機(jī)器從事本由人類從事的活動(dòng)。

⑧ 本文在廣泛意義上使用“人機(jī)關(guān)系”，包括在人機(jī)互動(dòng)中機(jī)器所具有的會(huì)對(duì)人機(jī)關(guān)系產(chǎn)生影響的特性。

⑨ 參見(jiàn)江洋洋、金伯、張寶昌：《深度學(xué)習(xí)在自然語(yǔ)言處理領(lǐng)域的研究進(jìn)展》，《計(jì)算機(jī)工程與應(yīng)用》2021年第22期，第2頁(yè)。

① See Zhao，Wayne Xin，et al. A Survey of Large Language Models. in arXiv preprint arXiv：2303.18223，2023，pp.1-2.

② See Cao，Yihan，et al. A Comprehensive Survey of AI-Generated Content： A History of Generative AI from GAN to Chat？ GPT. in arXiv preprint arXiv：2303.04226，2023，p.2.

③ 從文本到圖像、從文本到視頻的生成式人工智能（如Stable Diffusion）使用擴(kuò)散模型，而其擴(kuò)散模型使用了Trans？ former。Google于2023年12月6日所發(fā)布的據(jù)稱性能超過(guò)GPT-4的多模態(tài)大語(yǔ)言模型Gemini仍然是基于Transformer的擴(kuò)散模型。OpenAI于2024年2月16日發(fā)布的Sora也使用了Transformer。

④ 參見(jiàn)陳德光、馬金林、馬自萍、周潔：《自然語(yǔ)言處理預(yù)訓(xùn)練技術(shù)綜述》，《計(jì)算機(jī)科學(xué)與探索》2021年第8期，第1360頁(yè)。

⑤ See Albert Gu，Tri Dao. Mamba： Linear-Time Sequence Modeling with Selective State Spaces. in arXiv preprint arXiv：2312.00752，2023，pp.1-3.

⑥ 參見(jiàn)盧經(jīng)緯等：《問(wèn)答ChatGPT之后：超大預(yù)訓(xùn)練模型的機(jī)遇和挑戰(zhàn)》，《自動(dòng)化學(xué)報(bào)》2023年第4期，第709頁(yè)。

⑦ See Lou，Renze，et al. Is Prompt All You Need？No. A Comprehensive and Broader View of Instruction Learning. in arX？ iv preprint arXiv：2303.10475，2023，pp.2-9.

⑧ See Chung，Hyung Won，et al. Scaling Instruction-finetuned Language Models. in arXiv preprint arXiv：2210.11416，2022，pp.14，25-28.

① See Wei，Jason，et al. Chain of Thought Prompting Elicits Reasoning in Large Language Models. in arXiv preprint arXiv：2201.11903，2022，pp.7-8.

② See Chung，Hyung Won，et al. Scaling Instruction-finetuned Language Models. in arXiv preprint arXiv：2210.11416，2022，pp.1-9.

③ See Ouyang，Long，et al. Training Language Models to Follow Instructions with Human Feedback.in Advances in Neural Information Processing Systems，2022，Vol.35，pp.27731-27736.

④ 人類設(shè)計(jì)獎(jiǎng)勵(lì)模型，使語(yǔ)言模型根據(jù)得分高低自行調(diào)整生成策略，增強(qiáng)對(duì)話的連貫性、多樣性，符合人類的價(jià)值偏好。

⑤ 參見(jiàn)盧經(jīng)緯等：《問(wèn)答ChatGPT之后：超大預(yù)訓(xùn)練模型的機(jī)遇和挑戰(zhàn)》，《自動(dòng)化學(xué)報(bào)》2023年第4期，第710頁(yè)。

⑥ 參見(jiàn)謝玉進(jìn)：《人機(jī)互動(dòng)演進(jìn)的哲學(xué)解讀》，《學(xué)術(shù)論壇》2009年第7期，第12頁(yè)。

⑦ 參見(jiàn)奚雪峰、周國(guó)棟：《面向自然語(yǔ)言處理的深度學(xué)習(xí)研究》，《自動(dòng)化學(xué)報(bào)》2016年第10期，第1462頁(yè)。

⑧ 參見(jiàn)王海寧：《自然語(yǔ)言處理技術(shù)發(fā)展》，《中興通訊技術(shù)》2022年第2期，第63頁(yè)。

⑨ See Chung，Hyung Won，et al. Scaling Instruction-finetuned Language Models. in arXiv preprint arXiv：2210.11416，2022，pp.12-13.

⑩ See Rahimi Moghaddam，Shima，et al. Boosting Theory-of-Mind Performance in Large Language Models via Prompting. in arXiv preprint arXiv：2304.11490，2023，p.1.

11 參見(jiàn)涂良川、錢(qián)燕茹：《人工智能奇點(diǎn)論的技術(shù)敘事及其哲學(xué)追問(wèn)》，《東北師大學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2022年第6期，第62頁(yè)。

① See Wei J，Tay Y，Bommasani R，et al. Emergent Abilities of Large Language Models. in arXiv preprint arXiv：2206.07682，2022，p.2.

② See Bubeck，S.，et al. Sparks of Artificial General Intelligence： Early Experiments with GPT-4. in arXiv preprint arXiv：2303.12712，2023，pp.4-6.

③ See Bubeck，S.，et al. Sparks of Artificial General Intelligence： Early Experiments with GPT-4. in arXiv preprint arXiv：2303.12712，2023，p.6.

④ See Wei J，Tay Y，Bommasani R，et al. Emergent Abilities of Large Language Models. in arXiv preprint arXiv：2206.07682，2022. p.11.

⑤ 有研究推測(cè)，智能涌現(xiàn)的產(chǎn)生是因?yàn)橛糜谟?xùn)練的軟件代碼數(shù)據(jù)具有良好的算法邏輯和編程流程。See Zhao，Wayne Xin，et al. A Survey of Large Language Models. in arXiv preprint arXiv：2303.18223，2023，p.45.

⑥ See Bubeck，S.，et al. Sparks of Artificial General Intelligence： Early Experiments with GPT-4. in arXiv preprint arXiv：2303.12712，2023，pp.1-9.

⑦ 符號(hào)主義范式將規(guī)則轉(zhuǎn)化為符號(hào)，人類通過(guò)反向回溯的方法在一定程度上可以解釋輸入與輸出間的關(guān)系、系統(tǒng)的工作過(guò)程，但使用深度神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)的聯(lián)接主義范式卻很難做到這一點(diǎn)，輸入層與輸出層是相對(duì)確定的，但之間存在隱藏層，且層數(shù)可能極深，這導(dǎo)致可解釋性很低。

⑧ See Ouyang，Long，et al. Training Language Models to Follow Instructions with Human Feedback.in Advances in Neural Information Processing Systems，2022，Vol.35，p. 27749.

⑨ See Kaur，Davinder，et al. Trustworthy Artificial Intelligence： a Review. in ACM Computing Surveys（CSUR），2022，Vol.55，No. 2，p.8.

⑩ 參見(jiàn)郝雅茹、董力、許可等：《預(yù)訓(xùn)練語(yǔ)言模型的可解釋性研究進(jìn)展》，《廣西師范大學(xué)學(xué)報(bào)（自然科學(xué)版）》2022年第5期，第60頁(yè)。

① See Minh，D.Wang，et al. Explainable Artificial Intelligence： a Comprehensive Review. in Artificial Intelligence Review，2022，Vol.55，p.3503.

② See OpenAI. GPT-4 Technical Report. in arXiv preprint arXiv：2303.08774，2023，p.67.

③ See Ji，Ziwei，et al. Survey of Hallucination in Natural Language Generation. in ACM Computing Surveys（CSUR），2023，No. 12，pp.13-30.

④ See Ji，Ziwei，et al. Survey of Hallucination in Natural Language Generation. in ACM Computing Surveys（CSUR），2023，Issue 12，p.4.

⑤ 對(duì)于人工智能系統(tǒng)中的長(zhǎng)尾效應(yīng)問(wèn)題，詳見(jiàn)梅拉妮？米歇爾：《AI 3.0》，成都：四川科學(xué)技術(shù)出版社，2021年，第109—115頁(yè)。

⑥ See Peng，Baolin，et al. Instruction Tuning with GPT-4. in arXiv preprint arXiv：2304.03277，2023，pp.1-4.

⑦ See Sun，Zhiqing，et al. Principle-Driven Self-Alignment of Language Models from Scratch with Minimal Human Super？ vision. in arXiv preprint arXiv：2305.03047，2023，p.2.

① See OpenAI. GPT-4 Technical Report. in arXiv preprint arXiv：2303.08774，2023，p.18；Bubeck，S.，et al. Sparks of Arti？ ficial General Intelligence： Early Experiments with GPT-4. in arXiv preprint arXiv：2303.12712，2023，p.82.

② See Driess，Danny，et al. Palm-e： An Embodied Multimodal Language Model. in arXiv preprint arXiv：2303.03378，2023，pp.1，10.

③ 關(guān)于人工智能宏觀法律問(wèn)題的歸納，可參見(jiàn)于海防：《人工智能法律規(guī)制的價(jià)值取向與邏輯前提——在替代人類與增強(qiáng)人類之間》，《法學(xué)》2019年第6期，第22—23頁(yè)。

① 需要說(shuō)明的是，這只是一個(gè)宏觀上的大致分類，這三類法律問(wèn)題存在重疊之處，需要進(jìn)一步研究。

② 例如，不可以將戲劇作品的內(nèi)容作為事實(shí)性的數(shù)據(jù)來(lái)源，不可以使用有違倫常、反社會(huì)的作品進(jìn)行預(yù)訓(xùn)練，以免模型產(chǎn)生錯(cuò)誤。

③ 筆者認(rèn)為，有必要?jiǎng)?chuàng)設(shè)訓(xùn)練權(quán)或者說(shuō)數(shù)據(jù)訓(xùn)練權(quán)。原因在于，將作品、錄音錄像制品等轉(zhuǎn)化為用于模型訓(xùn)練的語(yǔ)料，此種新型使用方式在大語(yǔ)言模型中已經(jīng)相當(dāng)普遍，應(yīng)當(dāng)創(chuàng)設(shè)訓(xùn)練權(quán)，以保護(hù)版權(quán)人、鄰接權(quán)人的正當(dāng)利益。在此基礎(chǔ)上，再通過(guò)合理使用、法定許可或其他規(guī)則對(duì)訓(xùn)練權(quán)進(jìn)行適度限制。

④ 擁有廣泛受眾和雄厚資本支持的創(chuàng)新企業(yè)會(huì)蠶食權(quán)力和資源，政府和法律已不再擁有相較于傳統(tǒng)企業(yè)那樣核心的位置。參見(jiàn)劉岳川：《科技創(chuàng)新的法律規(guī)制》，《華東政法大學(xué)學(xué)報(bào)》2023年第3期，第41頁(yè)。

① 對(duì)于生成式人工智能所涉及的知識(shí)產(chǎn)權(quán)、競(jìng)爭(zhēng)、個(gè)人信息等法律問(wèn)題，可參見(jiàn)陳兵：《促進(jìn)生成式人工智能規(guī)范發(fā)展的法治考量及實(shí)踐架構(gòu)——兼評(píng)〈生成式人工智能服務(wù)管理暫行辦法〉相關(guān)條款》，《中國(guó)應(yīng)用法學(xué)》2023年第4期，第109—111頁(yè)。

② 《暫行辦法》第4條對(duì)價(jià)值觀的規(guī)定并未涉及中國(guó)傳統(tǒng)意義上的“禮”方面的倫理道德。并且，在立法上可以“等”來(lái)兜底，但在向人工智能輸入時(shí)，卻不能依賴“等”，而必須作出詳細(xì)、明確的要求。

③ 《暫行辦法》第8條對(duì)數(shù)據(jù)標(biāo)注以及標(biāo)注人員的培訓(xùn)、監(jiān)督作出簡(jiǎn)單規(guī)定，但未提出“人在環(huán)路”或類似要求。歐盟《人工智能法案》第14條規(guī)定了人類對(duì)人工智能系統(tǒng)的監(jiān)督作出，但未予細(xì)化。

① 參見(jiàn)段偉文：《積極應(yīng)對(duì)ChatGPT的倫理挑戰(zhàn)》，《中國(guó)社會(huì)科學(xué)報(bào)》2023年3月7日，第7版。

② 參見(jiàn)俞鼎：《“有意義的人類控制”：一項(xiàng)新的人工智能倫理治理原則》，《中國(guó)社會(huì)科學(xué)報(bào)》2022年12月27日，第6版。

③ 參見(jiàn)郭春鎮(zhèn)：《生成式AI的融貫性法律治理——以生成式預(yù)訓(xùn)練模型（GPT）為例》，《現(xiàn)代法學(xué)》2023年第3期，第92頁(yè)。

④ 應(yīng)否發(fā)展生成式人工智能是一個(gè)多學(xué)科交叉的復(fù)雜問(wèn)題，本文不予過(guò)多涉及，而是基于我國(guó)的人工智能戰(zhàn)略進(jìn)行討論。

⑤ 參見(jiàn)李玲芬：《現(xiàn)代科技的倫理維度》，《貴州社會(huì)科學(xué)》2005年第6期，第77頁(yè)。

⑥ 文祥、易顯飛：《論人本視角下的人工智能技術(shù)哲學(xué)研究》，《湖南人文科技學(xué)院學(xué)報(bào)》2018年第1期，第41頁(yè)。

① 關(guān)于人工智能法律規(guī)制的價(jià)值取向問(wèn)題，詳細(xì)論證可參于海防：《人工智能法律規(guī)制的價(jià)值取向與邏輯前提——在替代人類與增強(qiáng)人類之間》，《法學(xué)》2019年第6期，第23—25頁(yè)。

① 參見(jiàn)宋保振、秦瑞標(biāo)：《論生成式人工智能應(yīng)用風(fēng)險(xiǎn)的法律規(guī)制》，《上海政法學(xué)院學(xué)報(bào)》2023年第6期，第117頁(yè)。

② 參見(jiàn)金晶：《歐盟的規(guī)則，全球的標(biāo)準(zhǔn)？數(shù)據(jù)跨境流動(dòng)監(jiān)管的“逐頂競(jìng)爭(zhēng)”》，《中外法學(xué)》2023年第1期，第51頁(yè)。

③ 歐盟《人工智能法案》區(qū)分人工智能模型與人工智能系統(tǒng)，通用人工智能模型可以在經(jīng)過(guò)修改、微調(diào)以及增加組件后成為人工智能系統(tǒng)。歐盟《人工智能法案》第53條為通用人工智能模型提供者設(shè)定了諸多義務(wù)。

① 參見(jiàn)胡明艷、曹南燕：《人類進(jìn)化的新階段——淺述關(guān)于 NBIC會(huì)聚技術(shù)增強(qiáng)人類的爭(zhēng)論》，《自然辯證法研究》2009年第6期，第106—112頁(yè)。

② 參見(jiàn)潘宇翔：《大數(shù)據(jù)時(shí)代的信息倫理與人工智能倫理——第四屆全國(guó)賽博倫理學(xué)暨人工智能倫理學(xué)研討會(huì)綜述》，《倫理學(xué)研究》2018年第2期，第111頁(yè)。

① 這種人機(jī)關(guān)系的差異是智能增強(qiáng)技術(shù)與人工智能技術(shù)的核心差異。也正是基于此，法律在解決計(jì)算機(jī)、網(wǎng)絡(luò)、電子商務(wù)等典型的智能增強(qiáng)問(wèn)題時(shí)不存在太大難度，在解決人工智能問(wèn)題時(shí)卻存在較大難度。

② 參見(jiàn)鄭志峰：《自動(dòng)駕駛汽車交通事故責(zé)任的立法論與解釋論——以民法典相關(guān)內(nèi)容為視角》，《東方法學(xué)》2021年第3期，第166頁(yè)。

③ 參見(jiàn)王利明：《生成式人工智能侵權(quán)的法律應(yīng)對(duì)》，《中國(guó)應(yīng)用法學(xué)》2023年第5期，第32頁(yè)。

④ 參見(jiàn)周學(xué)峰：《生成式人工智能侵權(quán)責(zé)任探析》，《比較法研究》2023年第4期，第127頁(yè)。

⑤ 參見(jiàn)徐偉：《生成式人工智能服務(wù)提供者侵權(quán)歸責(zé)原則之辨》，《法制與社會(huì)發(fā)展》2024年第3期，第197頁(yè)。

[責(zé)任編輯 李宏弢]

Basic Issues and Core Mechanisms of Legal Regulation of Generative Artificial Intelligence

——From the Perspective of Technology and Human-Machine Relationship

JIANG Feng-ge， YU Hai-fang

Abstract： Generative Artificial Intelligence （AI） has achieved significant improvements in aspects such as intelligence level and autonomy. Based on the analysis of the characteristics of technology and humanmachine relationship as well as the causes of the legal issues， it can be found that generative AI has generated a large number of new problems at the technical， factual， and value levels in addition to inheriting the previous macro and micro legal issues of AI. The legal regulation of generative AI should establish the principle of replacing human beings partly and enhancing human beings integrally. With the supervision mechanism as the center， the regulation should adopt supervision modes of different intensities in stages and embed human val？ ues technically. Following the importance degree and harm degree of the Data Security Law as the criteria for classification and grading of AI， the classification and grading mechanism as well as the technical standard mechanism should be established. On this basis， according to the technological process of generative AI， a research and development mechanism for the initial stage， an application mechanism for the intermediate stage， and a liability mechanism for the final stage are established， supplemented by the mechanisms of com？ pulsory liability insurance and social assistance fund.

Key words： Large language model， generative artificial intelligence， human-machine relationship， legal regu？ lation， AI Law