ChatGPT帶來的法律挑戰(zhàn)

劉彥華

ChatGPT對我們的法律體系規(guī)則、權(quán)利保障以及司法救濟(jì)等提出了一系列的挑戰(zhàn)，可以說，挑戰(zhàn)無處不在。

科技創(chuàng)新下不斷涌現(xiàn)的新技術(shù)、新業(yè)態(tài)、新模式，一直在對現(xiàn)有法律制度提出新的挑戰(zhàn)。近期爆火的ChatGPT究竟帶來了哪些法律挑戰(zhàn)？我們應(yīng)該如何應(yīng)對呢？帶著一系列問題，《小康》雜志、中國小康網(wǎng)記者對北京大成律師事務(wù)所高級合伙人錢衛(wèi)清、杭州溪塔科技有限公司副總裁錢靖進(jìn)行了采訪。

變革正在發(fā)生

《小康》·中國小康網(wǎng)：對于ChatGPT，微軟公司創(chuàng)始人比爾·蓋茨評價它出現(xiàn)的重大歷史意義不亞于互聯(lián)網(wǎng)和個人電腦的誕生，但也有人認(rèn)為它只是一個工具。請問您對此如何評價？

錢靖：我認(rèn)為稱其是一種顛覆性發(fā)展并不為過。ChatGPT是一種基于新型神經(jīng)網(wǎng)絡(luò)框架發(fā)展出來的技術(shù)，不同于以往我們比較熟悉的RNN循環(huán)神經(jīng)網(wǎng)絡(luò)和CNN卷積神經(jīng)網(wǎng)絡(luò)框架，它的技術(shù)核心是Transformer。這種神經(jīng)網(wǎng)絡(luò)架構(gòu)的核心特點(diǎn)在于自注意力機(jī)制（self-attention），它可以根據(jù)輸入的文本序列中不同位置之間的相對距離，動態(tài)地計(jì)算出每個位置與其他位置的注意力權(quán)重，從而可以捕捉文本中不同位置的互相依賴關(guān)系。這種機(jī)制具有更好的并行處理能力，在處理長文本時具有更好的效果。

在Transformer的發(fā)展過程中，出現(xiàn)了Bert和GPT兩種基本訓(xùn)練模型。GPT也就是Generative?Pre-Training，是一種預(yù)訓(xùn)練模型，開發(fā)者使用了海量優(yōu)質(zhì)的語料庫對它進(jìn)行預(yù)訓(xùn)練，最后取得了非常好的泛化使用效果。也就是說它是一個比較通用化的人工智能。在GPT的基礎(chǔ)上，通過更高質(zhì)量更專業(yè)的語料庫的微調(diào)，便形成了GPT-3以及現(xiàn)在大家看到的ChatGPT。這種技術(shù)是目前我們看到的最接近能夠通過圖靈測試水平的一種技術(shù)，人們在與之對話的時候，已經(jīng)很難分辨出是在和一個機(jī)器對話還是在和一個人對話。

另外，在使用ChatGPT的過程中，人們也越來越發(fā)現(xiàn)它具有很強(qiáng)的實(shí)用性，這一點(diǎn)也與以往的人工智能軟件有很大不同。

因此，稱其為一種顛覆性的技術(shù)發(fā)展并不為過。它的使用人數(shù)增長非常迅猛，很多人愿意為之付費(fèi)，去解決現(xiàn)實(shí)生活和工作中的一些問題。

錢衛(wèi)清：在我看來，ChatGPT將從某種程度上改變我們的生活方式、工作模式以及整個產(chǎn)業(yè)的運(yùn)行模式。它代表了一種數(shù)字文明、一種人機(jī)互動合作的新方式。至于具體它能夠給整個人類社會帶來什么樣的變革，現(xiàn)在還有待觀察。

挑戰(zhàn)無處不在

《小康》·中國小康網(wǎng)：ChatGPT在給人們的生活增添樂趣、提供便利的同時，其信息真?zhèn)巍⒅R產(chǎn)權(quán)等法律風(fēng)險也愈發(fā)受到關(guān)注。據(jù)您分析，ChatGPT這樣的人工智能暗藏的法律風(fēng)險隱患和挑戰(zhàn)主要有哪些？

錢衛(wèi)清：法律具有滯后性，必然是一個事物發(fā)展到一定程度后，積累了各種糾紛，涉及各種權(quán)益爭議，然后才會上升到法律層面。目前我國還沒有專門針對ChatGPT的相關(guān)法律制度，對應(yīng)對這樣的技術(shù)創(chuàng)新也還沒有做好準(zhǔn)備。

據(jù)我分析，就目前的法律來看，ChatGPT對我們的法律體系規(guī)則、權(quán)利保障以及司法救濟(jì)等提出了一系列的挑戰(zhàn)，可以說挑戰(zhàn)無處不在。

具體主要表現(xiàn)在以下幾個方面：

首先，這種人工智能的行為性質(zhì)，包括它的開發(fā)方、使用方和一般老百姓在運(yùn)營過程中會形成一種什么樣的法律關(guān)系，現(xiàn)在還不清晰。

其次，因?yàn)檫@項(xiàng)技術(shù)背后涉及的是海量數(shù)據(jù)的抓取，這將導(dǎo)致其涉及的各種權(quán)利、數(shù)據(jù)抓取是否經(jīng)過對方授權(quán)、獲取信息的渠道范圍是否合理等都難以判斷。并且，整套技術(shù)提供的服務(wù)內(nèi)容，包括圖片、文字以及各種信息和解決方案，由于它的來源是基于大數(shù)據(jù)，它的初始權(quán)利又從哪里來也都無法判斷。

再次，由于ChatGPT能夠自動生成內(nèi)容，著作權(quán)也是一大問題。ChatGPT在生成內(nèi)容的過程中，涉及了誰的著作權(quán)、權(quán)利來源、權(quán)利主體、著作權(quán)的復(fù)制權(quán)使用權(quán)等等是否合理合規(guī)，是否涉及抄襲，目前這些問題還都沒辦法做出準(zhǔn)確判斷。

另外，ChatGPT的權(quán)利邊界在哪里，信息打散后人們?nèi)绾稳ブ鲝堊约旱臋?quán)益，它的合理使用如何界定，等等，這一系列問題目前也還沒有辦法解決。由此，還將產(chǎn)生另一個問題，即技術(shù)發(fā)展方是否應(yīng)該去承擔(dān)這份責(zé)任、如何承擔(dān)，等等。這些對現(xiàn)有法律而言都是巨大挑戰(zhàn)和難題。

《小康》·中國小康網(wǎng)：從技術(shù)角度分析的話，為什么會出現(xiàn)這么多法律上的難點(diǎn)和盲點(diǎn)？

錢靖：ChatGPT這種人工智能技術(shù)，根據(jù)它的基本原理，它實(shí)際上很大程度上是一個黑箱，人們能夠看到的是輸入和輸出兩端，但它中間的工作原理和機(jī)制我們并不清楚。它的結(jié)果是靠算力“燒”出來的，但為什么是這樣的結(jié)果，它并沒有一些經(jīng)驗(yàn)性的總結(jié)，這也是它的處理方式和人類能夠理解的處理方式不太一樣的地方。在這里面，它沒有一個特別穩(wěn)固的中間載體，使得我們可以用一些傳統(tǒng)的法律概念去進(jìn)行保護(hù)。

在這種情況下，我們只能去抓它的兩頭，即輸入和輸出。這里面就會涉及到著作權(quán)的保護(hù)，知識產(chǎn)權(quán)的基本思路是用法律保護(hù)去換取人們的信息公開，從而有益于全人類。如果沒有這樣的法益保護(hù)，人們就會嚴(yán)格控制信息的擴(kuò)散，不利于全人類信息共享。因此，我們的想法是，希望通過技術(shù)上的一些處理和法律上的一些要求，去創(chuàng)造這個技術(shù)的市場。簡單說就是，我們是否能夠去要求這項(xiàng)技術(shù)的發(fā)展方去提供ChatGPT究竟使用了哪些語料庫、涉及哪些著作權(quán)等這樣的信息，從而使得著作權(quán)人有可能去主張自己的權(quán)利。

提高個人法律意識迫在眉睫

《小康》·中國小康網(wǎng)：面對這樣一項(xiàng)技術(shù)，面對這樣一個時代，我們個人如何有效地維護(hù)自身的權(quán)利？

錢衛(wèi)清：對個人來說，首先要有一個權(quán)利意識。大數(shù)據(jù)時代，我們每個人的行為，包括點(diǎn)外賣、出行等等，這些數(shù)據(jù)被一些平臺收集后變成了他們的權(quán)利，好像和我們個人沒關(guān)系了。但這是不對的。尤其是在未來人工智能時代和數(shù)據(jù)時代，我們要有權(quán)利意識。當(dāng)然，這有個前提，就是這種權(quán)利通過什么媒介什么方法來實(shí)現(xiàn)它，也是需要思考的一個問題。總得來說，就是要提高個人的權(quán)利意識、法律意識、維權(quán)意識。

另外，涉及具體權(quán)利的話，它還有一個法律賦予我們的隱私保護(hù)、信息安全等這些相關(guān)權(quán)利的救濟(jì)權(quán)，同一行業(yè)監(jiān)管的標(biāo)準(zhǔn)是什么，這都需要通過典型個案進(jìn)行提升，然后上升為法律規(guī)則。

《小康》·中國小康網(wǎng)：如何深化對ChatGPT的使用將會受到現(xiàn)有法律制度的制約。請問對于如何適時地制定什么樣的法律法規(guī)，構(gòu)建什么樣的法律規(guī)范體系，您有什么樣的看法和建議？

錢衛(wèi)清：首先，從法律上，我們要認(rèn)可它就是一個工具，不能因?yàn)榘l(fā)生了一些侵權(quán)等行為就禁止其發(fā)展。其次就是我們應(yīng)該去研究認(rèn)識人工智能這樣的技術(shù)帶來的權(quán)利義務(wù)變遷的規(guī)律，司法通過個案等進(jìn)行有限度的介入，逐漸形成規(guī)則，完善立法，讓老百姓知道這里面的權(quán)利邊界在哪里，既有利于平臺建設(shè)，又有助于人們權(quán)利保護(hù)，其中的利益平衡非?？简?yàn)我們的司法智慧?，F(xiàn)在我們還需要一些時間。

錢靖：我經(jīng)常說的一句話是，在鐵絲網(wǎng)出現(xiàn)之前，人們是很難去劃分一個牧場的土地所有權(quán)。也就是我們需要借助一個低成本的技術(shù)手段去主張自己的權(quán)利，當(dāng)人們維護(hù)自己權(quán)益的成本過高時，實(shí)際上是很難真正維護(hù)自己的權(quán)利?，F(xiàn)在人工智能的發(fā)展已經(jīng)達(dá)到了一定水平，對于商業(yè)主體而言，它已經(jīng)具有了較強(qiáng)的盈利能力，但對我們個人來講，個人信息、隱私保護(hù)、著作權(quán)等如何去維護(hù)還是一個問題。

在我們看來，區(qū)塊鏈可能是一個比較好的解決方案，它可以幫助人們低成本的溯源數(shù)據(jù)，并向司法系統(tǒng)證明自己的數(shù)據(jù)是否受到侵害、被誰侵害等。以著作權(quán)為例。著作權(quán)保護(hù)在當(dāng)今信息爆炸的時代是越來越難的。著作權(quán)備案登記的效力，因?yàn)椴蛔鰧?shí)質(zhì)審查，也一再受到質(zhì)疑。為了保護(hù)大家的著作權(quán)，最好在創(chuàng)作完成后，第一時間選擇可靠的區(qū)塊鏈網(wǎng)絡(luò)做好存證登記，這個已經(jīng)是必備的動作了。

《小康》·中國小康網(wǎng)：目前，全球已有多國大學(xué)、科研機(jī)構(gòu)發(fā)布明確的人工智能禁令，禁止學(xué)生和論文合著者使用ChatGPT這樣的工具完成作業(yè)和論文寫作。請問在您看來，現(xiàn)階段，這樣的做法值得肯定和推廣嗎？

錢靖：對于學(xué)校學(xué)生完成作業(yè)而言，這個我理解主要是為了鍛煉學(xué)生的搜索、理解和推理能力。但是我很懷疑這個禁令的執(zhí)行效果。如果事實(shí)上很難審查作業(yè)的結(jié)果是否來自ChatGPT的協(xié)助，那么這種禁令只會起到反效果，反而造成不公平。我的觀點(diǎn)是堵不如疏，不如在學(xué)校開設(shè)ChatGPT使用的課程，由老師帶領(lǐng)學(xué)生去一起探索使用這個工具的邊界。經(jīng)過探索后，我們再回過頭來判斷應(yīng)該怎樣去限制，或者哪些地方可以使用，哪些地方不應(yīng)該使用，這可能是一個更好的選擇。

錢衛(wèi)清：一味的禁止并不合適。首先，它是一個新生事物，某種意義上代表著生產(chǎn)力的提升，有利于經(jīng)濟(jì)發(fā)展，我們應(yīng)該擁抱它，而不是一味阻止。學(xué)校的做法可能更多的是擔(dān)心影響學(xué)生的思維能力訓(xùn)練，但換個角度來說，要想用好這種工具，也需要一定的能力，這反而可能倒逼學(xué)生的思辨能力、認(rèn)知能力、提出問題的能力的提升。當(dāng)知識的獲取變得很容易的時候，這種思辨、提問的能力提升反而可能成為今后學(xué)生的一個核心競爭力。

轉(zhuǎn)換思維，積極擁抱新技術(shù)

《小康》·中國小康網(wǎng)：科技的每一次重大迭代都會引起人類的興奮與恐慌。請問您如何預(yù)判ChatGPT這類人工智能的下一步發(fā)展？

錢衛(wèi)清：ChatGPT是一個內(nèi)容生成的工具，現(xiàn)在是3.0，未來還會有4.0，5.0，它可以替代部分簡單的腦力勞動，提升腦力勞動的效率，也會替代部分行業(yè)的一些崗位，淘汰一批人。這是一個艱難的選擇。對于一個國家來說，技術(shù)的進(jìn)步將大大推動經(jīng)濟(jì)發(fā)展、文化發(fā)展、治理結(jié)構(gòu)以及各個行業(yè)的更新?lián)Q代和數(shù)字化、智能化。但對個人來講，時代的一?；?，落在每個人的肩頭都是一座山。技術(shù)進(jìn)步具有兩面性，有推動生產(chǎn)力發(fā)展的積極一面，也有職業(yè)替代造成失業(yè)這樣的負(fù)面影響。我們個人沒辦法抗拒技術(shù)的進(jìn)步，只能轉(zhuǎn)換思維，積極適應(yīng)、學(xué)習(xí)、使用它，讓它變成我們提高工作效率、改進(jìn)工作方法的一個工具和伙伴。

錢靖：首先，ChatGPT的發(fā)展會非常迅速，因?yàn)樗呀?jīng)形成了商業(yè)上的閉環(huán)，有了可靠的估值模型，可以有很好的產(chǎn)出。所以后面會有大量的資本和新的數(shù)據(jù)進(jìn)入這個領(lǐng)域。包括我們看到的各類競品的開發(fā)投入，都在緊鑼密鼓的上馬當(dāng)中。

其次，人工智能的發(fā)展會提供很大的人的便利，進(jìn)一步把人從簡單勞動中解放出來。這個有很多不同的看法，有些人認(rèn)為人工智能別名大失業(yè)；也有人認(rèn)為人工智能會讓硅基文明取代碳基文明。但是，其實(shí)類似的革命性的技術(shù)進(jìn)步在過去發(fā)生過不止一次。那么最近的這一次人工智能的技術(shù)革命可能會先把低端白領(lǐng)工作給解放出來，推動人們更多地從事高級的創(chuàng)造性的工作。對于個人來說，需要轉(zhuǎn)換賽道；對于產(chǎn)業(yè)而言，這是個降本增效的必經(jīng)之路；對于國家而言，需要做好掉隊(duì)人群的社會保障工作。

最后，要做好面對人工智能的保護(hù)工作。除了提高保護(hù)自己的意識之外，也要熟悉和使用很多技術(shù)工具來保護(hù)自己，形成可信的價值傳遞。區(qū)塊鏈很多情況下可以起到這樣的作用。在一個信用被人工智能大量掠奪和沖淡的時代，區(qū)塊鏈可以起到價值錨定的作用，成為傳遞信用的島嶼。有了矛，就要準(zhǔn)備好盾，事物就是這樣一層層遞進(jìn)發(fā)展的。