ChatGPT應(yīng)用的合規(guī)風(fēng)險(xiǎn)與相關(guān)啟示

文/胡靜 張鈺坤 編輯/王亞亞

ChatGPT（Chat Generative Pre-trained Transformer）本身并非一個(gè)外顯的前端產(chǎn)品，而是使用Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)、基于大量預(yù)訓(xùn)練自然語言處理模型，在多種任務(wù)類型上對自然語言進(jìn)行微調(diào)，從而生成高質(zhì)量自然語言文本的聊天機(jī)器人或技術(shù)應(yīng)用。該產(chǎn)品由美國OpenAI公司于2022年11月30日發(fā)布，隨后引起全球關(guān)注。ChatGPT在問答、客戶服務(wù)、教育輔導(dǎo)、娛樂、自動化任務(wù)、文書翻譯等各個(gè)方面的優(yōu)異表現(xiàn)引起了全球范圍內(nèi)對其技術(shù)、倫理、合規(guī)性的大范圍討論。

2022年12月，為加快構(gòu)建數(shù)據(jù)基礎(chǔ)制度，充分發(fā)揮我國海量數(shù)據(jù)規(guī)模和豐富應(yīng)用場景優(yōu)勢，激活數(shù)據(jù)要素潛能，做強(qiáng)做優(yōu)做大數(shù)字經(jīng)濟(jì)，《中共中央 國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》正式發(fā)布。作為當(dāng)下我國市場經(jīng)濟(jì)發(fā)展進(jìn)程中的新型生產(chǎn)要素，數(shù)據(jù)要素是數(shù)字化、網(wǎng)絡(luò)化、智能化的基礎(chǔ)，它不僅快速融入生產(chǎn)、分配、流通、消費(fèi)和社會服務(wù)管理等各環(huán)節(jié)當(dāng)中，而且深刻改變著生產(chǎn)方式、生活方式和社會治理方式。ChatGPT是近年來影響范圍最大的標(biāo)志性技術(shù)，作為分析“數(shù)據(jù)要素”與“合規(guī)”之間關(guān)系的切入點(diǎn)，筆者擬探討以數(shù)據(jù)作為生產(chǎn)要素的新興技術(shù)在我國現(xiàn)行法律體系下的合規(guī)風(fēng)險(xiǎn)以及相關(guān)啟示。

ChatGPT的工作原理及適用場景

作為信息載體，數(shù)據(jù)具有流動性，并在其流動過程中進(jìn)一步發(fā)揮價(jià)值。數(shù)據(jù)全生命周期的流程同樣適用于ChatGPT對數(shù)據(jù)的處理。從法律角度，還原ChatGPT工作原理，有助于判斷其合規(guī)風(fēng)險(xiǎn)。

ChatGPT工作原理如下：一是在預(yù)先訓(xùn)練階段，ChatGPT通過學(xué)習(xí)大量的文本語料來構(gòu)建語言模型。這些語料包括各種文本，如新聞、小說、博客等。通過對語料的學(xué)習(xí)，ChatGPT可以捕捉語言的語法、語義和慣用法。二是預(yù)處理，ChatGPT的輸入是自然語言文本，因此需要進(jìn)行一些預(yù)處理，例如分詞、詞干提取、停用詞去除等，以便模型可以更好地理解文本的含義。三是建立模型，ChatGPT是一種基于深度學(xué)習(xí)的預(yù)訓(xùn)練語言模型，它使用了多層的Transformer網(wǎng)絡(luò)，并在大規(guī)模文本數(shù)據(jù)上進(jìn)行了預(yù)訓(xùn)練。模型的輸入是一個(gè)文本序列，輸出是一個(gè)概率分布，表示在當(dāng)前上下文中下一個(gè)詞的出現(xiàn)概率。四是微調(diào)模型，開發(fā)者需要提供一個(gè)特定領(lǐng)域的文本數(shù)據(jù)集，例如對話數(shù)據(jù)、問答數(shù)據(jù)等，在此基礎(chǔ)上對ChatGPT模型進(jìn)行微調(diào)。微調(diào)的目的是讓模型更好地適應(yīng)特定的任務(wù)和領(lǐng)域，如回答特定問題、支持客戶服務(wù)等。五是生成文本，在得到微調(diào)后的ChatGPT模型之后，可以使用其來生成自然語言文本。輸入一個(gè)上下文序列，模型會輸出一個(gè)概率分布，表示在此上下文中下一個(gè)詞的出現(xiàn)概率，開發(fā)者可以根據(jù)需求選擇概率最高的詞作為下一個(gè)詞，不斷生成文本，直到達(dá)到預(yù)定的長度或滿足特定條件。

所有互聯(lián)網(wǎng)信息服務(wù)產(chǎn)品都有其預(yù)設(shè)的使用場景及使用功能?；贑hatGPT技術(shù)所設(shè)計(jì)的服務(wù)提供形式為對話（Chat），目前ChatGPT主要應(yīng)用場景及功能如下：

一是問答系統(tǒng)。ChatGPT可以用于構(gòu)建智能問答系統(tǒng)，如智能客服、智能助手等。用戶可以通過輸入問題來獲取答案，ChatGPT會根據(jù)問題進(jìn)行推理，給出最相關(guān)的答案。

二是文本生成。ChatGPT可以用于生成各種類型的文本，如文章、摘要、標(biāo)題等。開發(fā)者可以通過微調(diào)ChatGPT模型來控制生成的文本風(fēng)格和內(nèi)容。

三是機(jī)器翻譯。ChatGPT可以用于機(jī)器翻譯，例如將一種語言的文本翻譯成另一種語言的文本。機(jī)器翻譯需要大量的語言模型和語料庫，ChatGPT可以通過微調(diào)來適應(yīng)不同的語言和領(lǐng)域。

四是語音識別。ChatGPT可以用于語音識別，如將音頻文件轉(zhuǎn)換成文本。語音識別需要對語音信號進(jìn)行預(yù)處理和特征提取，ChatGPT可以通過微調(diào)來適應(yīng)不同的語音信號和語音場景。

五是情感分析。ChatGPT可以用于情感分析，如自動判斷一段文本的情感傾向。情感分析需要對文本語義進(jìn)行理解和分析，ChatGPT可以通過微調(diào)來適應(yīng)不同的情感表達(dá)和語境。

由此可見，目前ChatGPT適用的應(yīng)用場景，主要是通過文本內(nèi)容輸出的形式提供服務(wù)。通常來說，人工智能是指能夠在有限的或沒有人類干預(yù)的情況下，自行執(zhí)行被認(rèn)為需要人類智慧的任務(wù)的機(jī)器和系統(tǒng)。而與之對應(yīng)的，人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC），泛指運(yùn)用人工智能技術(shù)生成的內(nèi)容，包括人工智能技術(shù)直接生成的內(nèi)容，以及在人工智能技術(shù)直接生成的內(nèi)容的基礎(chǔ)上，后期經(jīng)過人為修改后最終形成的內(nèi)容。ChatGPT生成的內(nèi)容屬于AIGC。

潛在的合規(guī)風(fēng)險(xiǎn)以及相關(guān)監(jiān)管規(guī)定

一是算法合規(guī)。近年來，推薦算法逐漸成為數(shù)據(jù)合規(guī)領(lǐng)域的一個(gè)重要問題，呈現(xiàn)于各類法律實(shí)踐以及社會實(shí)踐當(dāng)中。2021年12月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下稱《算法推薦管理規(guī)定》）。根據(jù)《算法推薦管理規(guī)定》第二條第二款規(guī)定，“應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息?！被趯ι鲜鲆?guī)定的文理解釋，ChatGPT所應(yīng)用的生成合成類算法技術(shù)無疑屬于算法推薦技術(shù)之一，根據(jù)《算法推薦管理規(guī)定》的要求，ChatGPT及同質(zhì)產(chǎn)品需滿足算法審核評估、顯著標(biāo)識、算法可解釋、內(nèi)容審查、確保用戶自主決定權(quán)、備案及安全評估等方面的合規(guī)要求。

根據(jù)《算法推薦管理規(guī)定》的要求，ChatGPT及同質(zhì)產(chǎn)品需滿足算法審核評估、顯著標(biāo)識、算法可解釋等方面的合規(guī)要求。

根據(jù)我國2023年1月10日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《深度合成規(guī)定》）第二十三條第一款規(guī)定，“深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)?！盋hatGPT通過大量訓(xùn)練數(shù)據(jù)開展算法訓(xùn)練，采用深度神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)語言的結(jié)構(gòu)和規(guī)則，從而能夠生成自然流暢的文本和語句，這一工作原理與上述規(guī)定相吻合。依據(jù)《深度合成規(guī)定》，企業(yè)在通過ChatGPT及同質(zhì)產(chǎn)品直接或間接提供服務(wù)時(shí)，應(yīng)當(dāng)履行算法合規(guī)義務(wù)。目前，《深度合成規(guī)定》中所規(guī)定的合規(guī)義務(wù)包括但不限于信息安全主體責(zé)任、個(gè)人信息保護(hù)義務(wù)、內(nèi)容審核義務(wù)、訓(xùn)練數(shù)據(jù)管理義務(wù)、算法定期評估義務(wù)等。

二是個(gè)人信息保護(hù)。《個(gè)人信息保護(hù)法》是我國關(guān)于個(gè)人信息主體及其個(gè)人信息權(quán)益保障的首要法律。從個(gè)人信息保護(hù)合規(guī)的角度來看，ChatGPT的主要合規(guī)風(fēng)險(xiǎn)包括個(gè)人信息權(quán)益響應(yīng)風(fēng)險(xiǎn)以及數(shù)據(jù)來源風(fēng)險(xiǎn)。ChatGPT基本功能是聊天及對話，這一強(qiáng)大功能來自算法訓(xùn)練，在訓(xùn)練過程中將不可避免地涉及對用戶聊天信息等隱私個(gè)人信息的收集，也難以避免使用用戶聊天記錄進(jìn)行算法訓(xùn)練。結(jié)合“算法黑箱”的特性，用戶在使用ChatGPT過程中所提供的個(gè)人信息上附著的個(gè)人信息法定權(quán)益，如撤回、修改、刪除的權(quán)利等，將難以得到保障。在ChatGPT對于用戶個(gè)人信息的收集與處理的場景下，這些個(gè)人信息不僅作為單次服務(wù)本身的基礎(chǔ)要素，也會被用于對算法的訓(xùn)練。這些個(gè)人信息的權(quán)益響應(yīng)、響應(yīng)模式以及消散在網(wǎng)絡(luò)空間中的個(gè)人信息所附著的權(quán)益，現(xiàn)階段都難以通過有實(shí)質(zhì)性幫助的便捷方式得到保障。

此外，ChatGPT還面臨著數(shù)據(jù)來源的合規(guī)性風(fēng)險(xiǎn)。ChatGPT中所內(nèi)生的算法需要通過大量的訓(xùn)練數(shù)據(jù)“滋養(yǎng)”從而達(dá)到最終效果，其訓(xùn)練數(shù)據(jù)中涉及的“個(gè)人信息”的處理和使用也存在違反我國《個(gè)人信息保護(hù)法》中的“最小必要”原則要求的風(fēng)險(xiǎn)。

三是著作權(quán)保護(hù)。著作權(quán)的歸屬問題是ChatGPT問世之后，首先進(jìn)入視野并受到大范圍討論的問題。我國《著作權(quán)法實(shí)施條例（2013修訂）》第二條規(guī)定：“著作權(quán)法所稱作品，是指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以某種有形形式復(fù)制的智力成果?！备鶕?jù)該條款，AIGC是否屬于著作權(quán)法意義上的作品，還是需要從其本質(zhì)出發(fā)進(jìn)行分析。對此，學(xué)界以及實(shí)踐中眾說紛紜，就基本判斷標(biāo)準(zhǔn)而言，AIGC只有在滿足獨(dú)創(chuàng)性、有形性、可復(fù)制性與智力成果四個(gè)要件的情況下才能構(gòu)成著作權(quán)法所保護(hù)的作品。目前AIGC的構(gòu)成要件爭議主要圍繞在“創(chuàng)作主體是否滿足關(guān)于作者的主體要求”以及“內(nèi)容本身是否滿足獨(dú)創(chuàng)性要素”兩者上。在我國著作權(quán)法中，作品必須滿足人類為創(chuàng)作主體的要求，在AIGC場景下，人類參與創(chuàng)作的成分越少，則越難以被定義為作品，反之，則越容易被界定為是作品。

此外，就訓(xùn)練數(shù)據(jù)的合規(guī)性而言，訓(xùn)練數(shù)據(jù)庫還需要避免侵害第三方著作權(quán)。因?yàn)榇祟愃惴ㄓ?xùn)練難以避免地涉及使用大量受到著作權(quán)法保護(hù)的作品，該等訓(xùn)練數(shù)據(jù)合規(guī)性所造成的著作權(quán)侵權(quán)風(fēng)險(xiǎn)，包括但不限于：（1）生成物的復(fù)制權(quán)、改編權(quán)、署名權(quán)風(fēng)險(xiǎn)。目前我國對合理使用仍采取封閉模式規(guī)制，并未承認(rèn)文本挖掘構(gòu)成合理使用，因此文本挖掘可能侵犯文字作品的復(fù)制權(quán)、改編權(quán)、署名權(quán)等著作權(quán)。（2）數(shù)據(jù)來源的訓(xùn)練素材侵害第三方著作權(quán)之風(fēng)險(xiǎn)。著作權(quán)侵權(quán)、改編權(quán)、匯編權(quán)等二次創(chuàng)作許可都是ChatGPT運(yùn)用場景下對于公開數(shù)據(jù)抓取的潛在風(fēng)險(xiǎn)。（3）著作權(quán)歸屬風(fēng)險(xiǎn)。目前，對于AIGC的著作權(quán)歸屬尚未出現(xiàn)明確的定論，大批量或者專業(yè)使用ChatGPT或同類技術(shù)生成“作品”可能面臨權(quán)屬不明的合規(guī)風(fēng)險(xiǎn)。

AIGC只有在滿足獨(dú)創(chuàng)性、有形性、可復(fù)制性與智力成果四個(gè)要件的情況下才能構(gòu)成著作權(quán)法所保護(hù)的作品。

四是反壟斷風(fēng)險(xiǎn)。目前，根據(jù)學(xué)界以及實(shí)務(wù)界的討論，以ChatGPT為代表的算法技術(shù)應(yīng)用所可能涉及的潛在反壟斷風(fēng)險(xiǎn)主要有兩類。一是算法價(jià)格歧視造成的超級平臺壟斷，用消費(fèi)者數(shù)據(jù)進(jìn)行消費(fèi)習(xí)慣分析，其目的在于對交易相對方（消費(fèi)者）采取有針對性的算法壟斷定價(jià)。二是人工智能達(dá)成壟斷協(xié)議，即價(jià)格算法合謀。這種價(jià)格算法合謀主要包括明示價(jià)格算法合謀、默示價(jià)格算法合謀、虛擬合謀三種主要類型，明示價(jià)格算法合謀是指經(jīng)營者通過明示的協(xié)商溝通，就價(jià)格算法達(dá)成合謀以期實(shí)現(xiàn)價(jià)格壟斷，價(jià)格算法是實(shí)現(xiàn)與維持合謀之工具；默示價(jià)格算法合謀是指經(jīng)營者之間不存在明示的意思聯(lián)絡(luò)，而通過認(rèn)可相互之間的依賴性以實(shí)現(xiàn)和維持合謀，價(jià)格算法則是經(jīng)營者認(rèn)可相互依賴性的關(guān)鍵工具；虛擬合謀是指即便經(jīng)營者并無合謀意圖，其采用的價(jià)格算法會在無需人為干預(yù)的狀態(tài)下進(jìn)行高效的反復(fù)試驗(yàn)，最終達(dá)成經(jīng)營者之間的合作性均衡，實(shí)現(xiàn)合謀的效果而損害消費(fèi)者利益。

五是其他風(fēng)險(xiǎn)。ChatGPT還可能涉及到內(nèi)容合規(guī)風(fēng)險(xiǎn)，即ChatGPT生成的內(nèi)容可能包含違法信息的答復(fù)，這將對內(nèi)容審核提出較高要求。同時(shí)，未成年人保護(hù)問題也不可忽視，未成年人保護(hù)義務(wù)是國際環(huán)境中公認(rèn)的重點(diǎn)事項(xiàng)。從個(gè)人信息處理到內(nèi)容產(chǎn)出，我國現(xiàn)行有效立法對于未成年人的相關(guān)保護(hù)亦具有較高要求的合規(guī)義務(wù)。此外，也可能存在反不正當(dāng)方面的合規(guī)風(fēng)險(xiǎn)。目前，數(shù)據(jù)背后所代表的企業(yè)合法利益以及商業(yè)價(jià)值正逐漸被法律界認(rèn)可。《反不正當(dāng)競爭法》的最新修訂草案征求意見稿中指出，經(jīng)營者不得以不正當(dāng)?shù)姆绞将@取或者使用經(jīng)營者的商業(yè)數(shù)據(jù)。因此，圍繞爬蟲技術(shù)以及機(jī)器人流程自動化技術(shù)為基礎(chǔ)的數(shù)據(jù)來源合規(guī)性，勢必成為大量訓(xùn)練數(shù)據(jù)的主要合規(guī)風(fēng)險(xiǎn)點(diǎn)之一。

企業(yè)開展類ChatGPT業(yè)務(wù)的合規(guī)啟示

包括ChatGPT在內(nèi)的人工智能產(chǎn)品合規(guī)之路任重道遠(yuǎn)。盡管我國目前尚無國家層面上的人工智能產(chǎn)業(yè)立法，但地方已經(jīng)有相關(guān)的立法嘗試，如《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》。隨著人工智能技術(shù)的不斷發(fā)展，我國相關(guān)法律規(guī)定也將逐步完善。

結(jié)合上文所述的以ChatGPT為代表的人工智能技術(shù)在應(yīng)用層面的潛在法律風(fēng)險(xiǎn)，筆者對市場主體開展類ChatGPT業(yè)務(wù)有以下合規(guī)指導(dǎo)建議：

一是在人工智能項(xiàng)目開展前期就進(jìn)行風(fēng)險(xiǎn)控制。人工智能技術(shù)使用者可以通過定向邀請、局部試點(diǎn)的方式，采取“用戶體驗(yàn)計(jì)劃”等靈活形式開展相關(guān)項(xiàng)目，以確保使用的人工智能技術(shù)/服務(wù)能夠得到充分測試，幫助企業(yè)發(fā)現(xiàn)可能涉及的合規(guī)/技術(shù)問題，并做到一定程度的成本控制。根據(jù)《算法推薦管理規(guī)定》，開展算法進(jìn)行動態(tài)自評估是我國現(xiàn)行規(guī)范下的合規(guī)要求。在算法遞進(jìn)升級或者業(yè)務(wù)方向調(diào)整的過程中，公司宜設(shè)立相關(guān)的算法定期評估機(jī)制，以保證對于合規(guī)風(fēng)險(xiǎn)的及時(shí)識別以及有效處理。

二是針對外部供應(yīng)商，公司可采取協(xié)議控制措施以及開展技術(shù)檢測，以有效防范合規(guī)風(fēng)險(xiǎn)。在各類業(yè)務(wù)或者服務(wù)采購當(dāng)中，對于數(shù)據(jù)合規(guī)或上述顯著合規(guī)風(fēng)險(xiǎn)的協(xié)議控制都將是直觀有效的風(fēng)險(xiǎn)控制手段。此外，技術(shù)層面的網(wǎng)絡(luò)安全或者數(shù)據(jù)安全檢測，也可以很好地從實(shí)踐層面保證公司在人工智能業(yè)務(wù)開展過程中不會因供應(yīng)商的服務(wù)、質(zhì)量問題而導(dǎo)致項(xiàng)目合規(guī)風(fēng)險(xiǎn)敞口明顯擴(kuò)大。

三是對于用戶端，企業(yè)關(guān)于人工智能技術(shù)應(yīng)用的風(fēng)險(xiǎn)提示以及隱私提示必不可少。在特定的功能場景以及頁面下，顯著、明確、合法、有效的風(fēng)險(xiǎn)提示以及隱私提示，也是《算法推薦管理規(guī)定》明確規(guī)定的合規(guī)舉措。

四是企業(yè)可對數(shù)據(jù)來源的合規(guī)性予以把控，并定期開展合規(guī)性評估。為滿足特定業(yè)務(wù)開展所需的訓(xùn)練數(shù)據(jù)，公司可對數(shù)據(jù)來源設(shè)置控制機(jī)制以及合規(guī)評審制度，并從多個(gè)角度出發(fā)，對于數(shù)據(jù)類型、數(shù)據(jù)來源主體、數(shù)據(jù)獲取方式、數(shù)據(jù)獲取頻率、數(shù)據(jù)獲取量級進(jìn)行綜合評估，從而避免該等風(fēng)險(xiǎn)敞口的不合理擴(kuò)大。

五是若涉及境外人工智能業(yè)務(wù)的開展，公司需要充分考慮境外特定業(yè)務(wù)覆蓋區(qū)域的法規(guī)、風(fēng)俗、道德與國內(nèi)的差異，包括在特定數(shù)據(jù)處理方面的規(guī)定。此外，在人工智能技術(shù)服務(wù)提供過程中，企業(yè)需要充分考慮境外關(guān)于性別、年齡、地域、學(xué)歷、種族等多樣性因素，并配套個(gè)人信息保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全的制度搭建。