我國Chat GPT 類產(chǎn)品運行中的風(fēng)險和風(fēng)險規(guī)制問題研究

張晨曦 廣東理工學(xué)院馬克思主義學(xué)院

一、Chat GPT 類產(chǎn)品合規(guī)治理

(一)人工智能產(chǎn)品律法的發(fā)展歷程

2012 年影音圖像識別技術(shù)和識別精度的提升，讓人們能夠更加便捷地使用軟件將影音圖像進(jìn)行深度合成，比如人工智能換臉技術(shù)，就是將一個人的肖像剪切到另外一個人的頭上。但換臉技術(shù)會產(chǎn)生一些道德倫理方面的問題，甚至?xí)胁环ǚ肿永闷溥M(jìn)行犯罪活動。我國目前對于人工智能這一方面的法規(guī)只有一些零星的規(guī)定，未能形成系統(tǒng)性的法律法規(guī)體系，導(dǎo)致犯罪分子的定罪較為困難。下面五部法規(guī)為我國目前對人工智能監(jiān)管方面進(jìn)行合規(guī)治理的依據(jù)：

1.《網(wǎng)絡(luò)音頻信息服務(wù)管理規(guī)定》由網(wǎng)信辦、文旅部和廣電總局聯(lián)合發(fā)布，2020 年1 月1 日起實施。該規(guī)定第十條(具有媒體屬性或者社會動員功能的音視頻信息服務(wù))和第十一條(生成內(nèi)容標(biāo)識和不得發(fā)布虛假信息)對人工智能生成內(nèi)容的音頻方面做出了規(guī)定。

2.《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》由網(wǎng)信辦發(fā)布，2020年3 月1 日起實施。該規(guī)定第二十三條指出，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。該規(guī)定對網(wǎng)絡(luò)信息生成內(nèi)容生態(tài)進(jìn)行了約束，人工智能利用深度學(xué)習(xí)、機器學(xué)習(xí)和網(wǎng)絡(luò)虛擬技術(shù)所生成的內(nèi)容都要符合相關(guān)主管部門的規(guī)定。

3.《民法典》第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)?！睹穹ǖ洹返谝磺Я愣龡l規(guī)定，對自然人聲音的保護，參照適用肖像權(quán)保護的有關(guān)規(guī)定。上述規(guī)定適用于人的肖像權(quán)和聲音的保護。

4.《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》由網(wǎng)信辦、公安部、工信部和市場監(jiān)督管理總局聯(lián)合發(fā)布，2022 年3 月1 日起實施。該規(guī)定第二條、第九條和第十三條，均對合成內(nèi)容做出了規(guī)定，特別是規(guī)范了算法的適用范疇。

5.《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》由網(wǎng)信辦、工信部和公安部聯(lián)合發(fā)布，2023 年1 月10 日起實施。該文件對于深度合成服務(wù)和產(chǎn)品提出了全方位的合規(guī)要求，是我國當(dāng)前人工智能內(nèi)容以及人工智能發(fā)布平臺進(jìn)行合規(guī)治理最核心的一個依據(jù)，也就是深度合成內(nèi)容的一個管理規(guī)定。

(二)產(chǎn)品的牌照和備案

我國實行行業(yè)準(zhǔn)入制度，在互聯(lián)網(wǎng)行業(yè)內(nèi)，互聯(lián)網(wǎng)產(chǎn)品在上市的時候需要滿足基礎(chǔ)牌照的要求。我國的主管機關(guān)對于互聯(lián)網(wǎng)平臺的治理會提出的很高的一些要求，那么存在Chat GPT 類產(chǎn)品的平臺或者軟件運營者又都需要滿足哪些基礎(chǔ)的要求？另外，互聯(lián)網(wǎng)平臺一般除了主營業(yè)務(wù)之外，其他旁支業(yè)務(wù)也會不斷地進(jìn)行擴大與發(fā)展，衍生出更多的業(yè)務(wù)線，但基礎(chǔ)要求的前提是其生成的內(nèi)容是一些相對簡單的文字類的解釋，并且其問答的性質(zhì)是能不具有文化屬性的，所以業(yè)務(wù)的升級，則又需要滿足哪些要求？

1.產(chǎn)品上線的基礎(chǔ)要求

(1)基礎(chǔ)牌照。人工智能學(xué)習(xí)所需要的內(nèi)容和輸出的內(nèi)容均屬于互聯(lián)網(wǎng)信息。按照《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第七條從事經(jīng)營性互聯(lián)網(wǎng)信息服務(wù)，應(yīng)向電信管理機構(gòu)或者國務(wù)院信息產(chǎn)業(yè)主管部門申請辦理互聯(lián)網(wǎng)信息服務(wù)增值電信業(yè)務(wù)經(jīng)營許可證。Chat GPT 類產(chǎn)品則適用《電信業(yè)務(wù)分類目錄》B 類增值電信業(yè)務(wù)項下的B21(在線數(shù)據(jù)處理和交易處理業(yè)務(wù))和B25(信息服務(wù)業(yè)務(wù)，包括信息發(fā)布平臺和遞送服務(wù)、信息檢索查詢服務(wù)、信息社區(qū)平臺服務(wù)、信息即時交互服務(wù)、信息保護和處理服務(wù)等)許可證。一個目的是在兩個監(jiān)管機構(gòu)存檔，讓他們知道這個網(wǎng)站誰在做，做什么，如何聯(lián)系；另一個目的則是為將來的業(yè)務(wù)發(fā)展預(yù)留空間。

(2)算法備案。人工智能的深度合成內(nèi)容有清晰的規(guī)定，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十九條指出，具有輿論屬性和或社會動員能力的深度合成服務(wù)提供者，應(yīng)該履行算法備案、變更、注銷手續(xù)。所以互聯(lián)網(wǎng)平臺只要具有社會輿論性質(zhì)或是具有社會動員能力，產(chǎn)品上線以及運營都需要經(jīng)過該規(guī)定進(jìn)行備案。

(3)安全評估。在互聯(lián)網(wǎng)平臺上線產(chǎn)品前，除了需要遵守《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》《個人信息保護法》外，還需要遵循《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》第三條，聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)依照本規(guī)定自行開展安全評估，并對評估結(jié)果負(fù)責(zé)。

綜上所述，我國互聯(lián)網(wǎng)平臺上線Chat GPT 類產(chǎn)品時，需要首先申請對應(yīng)的互聯(lián)網(wǎng)信息服務(wù)增值電信業(yè)務(wù)經(jīng)營許可證，其次是將算法進(jìn)行備案，最后是根據(jù)三大法規(guī)及評估規(guī)定進(jìn)行安全評估，均通過后方可上線產(chǎn)品。

2.業(yè)務(wù)升級的進(jìn)階要求

(1)網(wǎng)絡(luò)文化經(jīng)營許可證。在互聯(lián)網(wǎng)技術(shù)和媒體發(fā)展推動下，網(wǎng)絡(luò)文藝蓬勃發(fā)展，網(wǎng)絡(luò)文學(xué)、網(wǎng)絡(luò)影視、網(wǎng)絡(luò)綜藝、網(wǎng)絡(luò)比賽、網(wǎng)絡(luò)動漫、網(wǎng)絡(luò)音樂、短視頻等文化藝術(shù)類創(chuàng)作不斷迸發(fā)。如果Chat GPT 類產(chǎn)品的平臺進(jìn)行了以盈利為目地的營業(yè)性互聯(lián)網(wǎng)文藝活動，向上網(wǎng)客戶收費或是網(wǎng)絡(luò)技術(shù)、廣告宣傳、冠名贊助等方法獲得權(quán)益，展出互聯(lián)網(wǎng)文化產(chǎn)品以及服務(wù)項目的主題活動，就需要辦理《網(wǎng)絡(luò)文化經(jīng)營許可證》。

(2)網(wǎng)絡(luò)出版服務(wù)許可證。傳統(tǒng)的圖書和音像制品是以物質(zhì)的形式存在，并且是通過出版社、報紙、期刊、唱片公司進(jìn)行發(fā)行，具有版權(quán)，受到法律的保護。經(jīng)過互聯(lián)網(wǎng)的發(fā)展，大部分圖書和音響制品不再需要通過其他渠道進(jìn)行發(fā)行，直接上傳至平臺即可，載體從實物轉(zhuǎn)化成數(shù)據(jù)，需要獲取網(wǎng)絡(luò)出版的版權(quán)。所以Chat GPT 類產(chǎn)品的平臺發(fā)展不能缺少《網(wǎng)絡(luò)出版服務(wù)許可證》。

(3)信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證。網(wǎng)絡(luò)視聽節(jié)目比網(wǎng)絡(luò)文化涵蓋面更廣，包括網(wǎng)絡(luò)劇、網(wǎng)絡(luò)電影、紀(jì)錄片、文藝、娛樂、科技、財經(jīng)、體育、教育、原創(chuàng)試聽節(jié)目等。如今Chat GPT 的接收與輸出也在從圖文類正在向影像類發(fā)展，所以也需要《信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證》來支撐其發(fā)展。該證在我國申請難度大，但含金量極高。

(4)互聯(lián)網(wǎng)新聞信息服務(wù)許可證。用戶在使用Chat GPT的時候會為其提供一些新聞事件的報導(dǎo)或是讓其輸出，相當(dāng)于向社會公眾提供了互聯(lián)網(wǎng)的新聞信息服務(wù)，所以應(yīng)當(dāng)取得《互聯(lián)網(wǎng)新聞信息服務(wù)許可》，才可開展互聯(lián)網(wǎng)新聞信息服務(wù)活動。

(5)數(shù)據(jù)安全評估。Chat GPT 的本質(zhì)是一個大的語言模型，之所以Chat GPT 能夠以人類自然語言的形式輸出，是因為它靠的是對于海量內(nèi)容進(jìn)行分析所得出來的人類語言的相關(guān)規(guī)則。因為有數(shù)據(jù)的交互，所以這里就涉及到數(shù)據(jù)安全的問題。用戶使用產(chǎn)品的時候，會遺留大量的個人信息，比如所填寫電話的實名信息、接入Chat GPT 時的網(wǎng)絡(luò)IP、個人語言習(xí)慣等。根據(jù)《網(wǎng)絡(luò)安全法》標(biāo)準(zhǔn)要求，需要分析網(wǎng)絡(luò)運營者相關(guān)活動存在的數(shù)據(jù)安全風(fēng)險，并對其進(jìn)行評估。

綜上所述，我國互聯(lián)網(wǎng)平臺Chat GPT 類產(chǎn)品業(yè)務(wù)升級時，應(yīng)該根據(jù)拓展的業(yè)務(wù)類型，開具相應(yīng)的資質(zhì)許可證明及備案，并且進(jìn)行數(shù)據(jù)的安全評估，方可繼續(xù)發(fā)展。

二、Chat GPT 類產(chǎn)品運營風(fēng)險防控

Chat GPT 類產(chǎn)品主要包含兩個端口，一個是輸入端，另外一個是輸出端。輸入端包含兩種：第一種是用戶的交互型的輸入；第二種是爬蟲主動抓取網(wǎng)上的各種信息，是最主要的輸入來源。輸出端的輸出則為人工智能以自然語言文字或影音圖像為形式給用戶的反饋。Chat GPT 通過分析輸入端的信息進(jìn)行信息檢索，使用爬蟲來抓取網(wǎng)絡(luò)上的各種信息數(shù)據(jù)，并對信息進(jìn)行自然語言的加工，在輸出端輸出。比如，用戶詢問關(guān)于秦國的歷史問題，Chat GPT 將用戶輸入信息上傳至后端檢索關(guān)于秦國的發(fā)展歷程、相關(guān)事件、關(guān)鍵人物、時代典故等進(jìn)行綜合分析，形成一個清晰完整的脈絡(luò)，用自然語言加工后輸出你所需要的回答。如果沒有這些基礎(chǔ)前提，是無法滿足用戶需求的。Chat GPT 不斷循環(huán)上述過程，將每次檢索的內(nèi)容和用戶的反饋存入數(shù)據(jù)庫，從而達(dá)到學(xué)習(xí)的目的。我們主要探討的是以下兩點：輸入端通過爬蟲所抓取的內(nèi)容所獲得信息，這個行為存在什么問題和運營風(fēng)險？輸出端所輸出的內(nèi)容是否存在侵權(quán)、違法信息所在？

(一)輸入端

輸入端通過用戶的交互型輸入從風(fēng)險角度來分析，用戶把相關(guān)內(nèi)容提供給供給Chat GPT類產(chǎn)品去進(jìn)行學(xué)習(xí)知識，尤其是專業(yè)論文方面的知識，是一個比較好的方式，所以這種輸入方式風(fēng)險較小?；诨ヂ?lián)網(wǎng)互聯(lián)、互通、公開的基礎(chǔ)理念，Robert 協(xié)議里面沒有明令禁止爬蟲抓取相關(guān)的規(guī)定，所以原則上搜索引擎就可以對數(shù)據(jù)(如：網(wǎng)絡(luò)上的文本數(shù)據(jù)、社交媒體數(shù)據(jù)、問答網(wǎng)站數(shù)據(jù)、新聞?wù)緮?shù)據(jù)、文學(xué)作品數(shù)據(jù)等)通過爬蟲抓取，建立共存共融的網(wǎng)絡(luò)生態(tài)環(huán)境。

上述理念雖然很好，但是這會出現(xiàn)一個互聯(lián)網(wǎng)平臺流量無法變現(xiàn)的問題，出現(xiàn)破壞互聯(lián)網(wǎng)生態(tài)的風(fēng)險。常規(guī)的搜索引擎為互聯(lián)網(wǎng)平臺做信息定位，用戶通過搜索引擎的定位訪問互聯(lián)網(wǎng)平臺，為后者帶來流量。任何虛擬產(chǎn)業(yè)都需要有實體產(chǎn)業(yè)的支撐，實體產(chǎn)業(yè)通過互聯(lián)網(wǎng)平臺投放的大量廣告來增大銷售量，而后返利給互聯(lián)網(wǎng)平臺和搜索引擎，從而形成一種共存共融的產(chǎn)業(yè)鏈。但Chat GPT 類產(chǎn)品的出現(xiàn)打破了這條產(chǎn)業(yè)鏈，它通過爬蟲直接獲取互聯(lián)網(wǎng)平臺的數(shù)據(jù)，雖然通過搜索引擎進(jìn)入了該網(wǎng)站，但是不會引導(dǎo)用戶進(jìn)入其中。所以最終結(jié)果是搜索引擎無法引導(dǎo)真實的流量，實體產(chǎn)業(yè)無法通過互聯(lián)網(wǎng)平臺的廣告增加銷售量，最終導(dǎo)致該產(chǎn)業(yè)鏈的總資金減少，形成三者俱敗的局面。

輸入端除了上述的問題以外，往更深層次去探究其風(fēng)險，互聯(lián)網(wǎng)平臺會因為無法獲取公共流量帶來的紅利，打破互聯(lián)網(wǎng)互聯(lián)、互通、公開的理念，封鎖自身的信息，搭建自己的信息孤島，最終破壞了互聯(lián)網(wǎng)生態(tài)。例如，QQ 和微信是同一個公司的兩款通訊類產(chǎn)品，他們之間的聯(lián)系緊密，只要是微信能夠使用的程序，無需額外的渠道去進(jìn)行對接，直接在QQ 打開也能夠使用，反之亦然。但是微信和短視頻平臺卻無法做到，短視頻用戶想要分享視頻給微信用戶，短視頻用戶需要下載視頻或者微信用戶要打開相應(yīng)的短視頻APP 才能夠觀看，也就是需要額外的渠道進(jìn)行連接兩個平臺。這就是Chat GPT 類產(chǎn)品在運營中所存在的風(fēng)險，讓信息孤島加快形成，大大降低了互聯(lián)網(wǎng)的傳輸效率，違背了互聯(lián)網(wǎng)互通有無的宗旨。

(二)輸出端

輸出端的問題主要圍繞其輸出的內(nèi)容來開展。

第一，著作權(quán)侵權(quán)。Chat GPT 類產(chǎn)品使用的模式，一定是構(gòu)成侵權(quán)的。這就涉及到后端的分析，也就是Chat GPT 抓取進(jìn)行學(xué)習(xí)這個行為原則上會和后端結(jié)合在一起，并不是孤立的概念。如果從孤立的角度來分析，那就是其是否影響了轉(zhuǎn)換性的使用。比如某出版社將紙質(zhì)書籍收錄進(jìn)了書籍管理系統(tǒng)里面進(jìn)行線上售賣，它是不構(gòu)成侵權(quán)的，因為該出版社擁有該圖書的版權(quán)。但是Chat GPT 類產(chǎn)品在引用這些書籍的時候是沒有版權(quán)的，所以其輸出內(nèi)容(文字、音頻、圖片、視頻)和方式會很大程度上決定它是否著作權(quán)侵權(quán)，這就是商業(yè)風(fēng)險所在。

第二，不正當(dāng)競爭。任何網(wǎng)站和平臺的運營都需要大量的資金投入進(jìn)行開發(fā)，并且許多網(wǎng)站需要雇傭大量的創(chuàng)作者為網(wǎng)站創(chuàng)作內(nèi)容，并且經(jīng)過長時間的產(chǎn)出，才能穩(wěn)定其發(fā)展。但是Chat GPT 只需要使用爬蟲，便可以極低的成本快速將其創(chuàng)作內(nèi)容全部抓取，除了涉嫌侵犯著作權(quán)之外，還構(gòu)成不正當(dāng)競爭。

第三，個人信息侵權(quán)?；趥€人信息保護法，信息主體可以行使遺忘權(quán)，要求相關(guān)平臺刪除已經(jīng)被發(fā)布在網(wǎng)絡(luò)上有關(guān)自身不符的信息，以及此前收集的個人信息。Chat GPT 類產(chǎn)品是在你不知情的情況下將數(shù)據(jù)存放至數(shù)據(jù)庫，如果沒有關(guān)鍵詞檢索它是不會輸出相關(guān)的內(nèi)容，所以難以界定是否侵犯該權(quán)力。

三、Chat GPT 類產(chǎn)品生成內(nèi)容的法律保護

無論是Chat GPT 產(chǎn)品的研發(fā)者，還是用戶將其作為輔助工具去創(chuàng)作，過程都會進(jìn)行勞動力的投入。我國法律進(jìn)行保護的前提是具有勞動力價值的投入，無論是物質(zhì)，還是精神層面損耗，它都需要有對等的等價物的概念，才能夠受到法律的保護。我們將圍繞這幾個關(guān)鍵問題展開論述：Chat GPT 類產(chǎn)品生成的文章、影音圖像等內(nèi)容能否受到法律保護？Chat GPT 產(chǎn)品的本身是否受到法律保護？Chat GPT 產(chǎn)品的著作權(quán)人使用其進(jìn)行創(chuàng)作，生成的內(nèi)容是否歸屬于著作權(quán)人？

我國法律保護的是人的權(quán)力，而不是人工智能的權(quán)力。根據(jù)《著作權(quán)法實施條例》第二條規(guī)定，“著作權(quán)法所稱作品，是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨創(chuàng)性并能以某種有形形式復(fù)制的智力成果”。該條例表明了著作權(quán)法保護的客體是自然人通過智慧勞動創(chuàng)作出具有獨創(chuàng)性的作品。人工智能雖然可以模擬人的智力活動進(jìn)行創(chuàng)作，并且生成內(nèi)容與自然人創(chuàng)作的作品大同小異，但是該創(chuàng)作是依賴于算法的機械運算，所以不能與人類智力勞動相提并論。綜上所述，Chat GPT類產(chǎn)品生成的內(nèi)容不存在于法律保護的范疇之中。

Chat GPT 是人類智慧勞動所創(chuàng)造出來的產(chǎn)物，屬于計算機類軟件作品。根據(jù)《中華人民共和國著作權(quán)法》第三條規(guī)定，“本法所稱的作品，是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨創(chuàng)性并能以一定形式表現(xiàn)的智力成果”。其中包含計算機軟件，所以只要是軟件的著作權(quán)人或者其受讓者，都享有軟件著作權(quán)的各項權(quán)利，也表明Chat GPT 產(chǎn)品本身受到法律保護。

Chat GPT 產(chǎn)品的著作權(quán)人使用其進(jìn)行創(chuàng)作，不符合主客體屬性邏輯，生成的內(nèi)容也并非創(chuàng)作者的主觀意志。Chat GPT 產(chǎn)品被軟件制作者創(chuàng)作出來，則有一個明確的主體與客體，制作者為主體創(chuàng)作了客體Chat GPT 產(chǎn)品。Chat GPT創(chuàng)作過程中再將其視為創(chuàng)作主體，這就意味著Chat GPT 同時具有了主體與客體屬性，形成了二元對立的局面，從而無法判斷是否符合法律法規(guī)。除此之外，按照著作權(quán)體系的基本觀點，獨創(chuàng)性應(yīng)當(dāng)反映作者個性、作者思想和情感的表達(dá)。從Chat GPT 的創(chuàng)作流程來看，Chat GPT 使用者只是發(fā)出指令，并未參與生成內(nèi)容的形成，使用者并不一定知道最終生成內(nèi)容是以什么，所以Chat GPT 所生成內(nèi)并非創(chuàng)作者或者使用者思想、情感的表達(dá)。綜合來說，很難在現(xiàn)法律體系中處理涉Chat GPT類產(chǎn)品生成內(nèi)容的相關(guān)問題。

Chat GPT 的誕生及其初步應(yīng)用，表現(xiàn)出自然語言的大模型已經(jīng)具備了人工智能生成內(nèi)容(AIGC)面向通用型人工智能(AGI)的一些特征，在眾多行業(yè)領(lǐng)域有著廣泛的應(yīng)用潛力，技術(shù)持續(xù)發(fā)展和社會廣泛運用已是大勢所趨，有潛力成為計算機領(lǐng)域最偉大的成就之一，并成為技術(shù)領(lǐng)域的重要力量。國內(nèi)想要創(chuàng)造出Chat GPT 類產(chǎn)品到上線還有很長的路要走，但我們也要對未來保持審慎客觀的態(tài)度去面對它。