AI技術(shù)發(fā)展迅速,但AI造謠、侵權(quán)、詐騙等問題也隨之而來。國內(nèi)外出臺了一系列政策法規(guī),歐美側(cè)重不同,中國也加快推動人工智能立法。專家表示,立法需要長期治理的思維,不宜急功近利
從2023年初ChatGPT驚艷問世,到2024年初Sora引起全球關(guān)注,人工智能(AI)技術(shù)發(fā)展的腳步日益加快。不過與此同時(shí),AI造謠、AI侵權(quán)、AI詐騙等亂象也紛至沓來。
近年來,一些企業(yè)和個人為賺取平臺流量補(bǔ)貼,利用AI造謠現(xiàn)象頻發(fā),且傳播速度極快,一些謠言造成不小的社會恐慌和危害。公安部近日公布的依法打擊“網(wǎng)絡(luò)水軍”違法犯罪10起典型案例中,包括有公司利用AI工具編造謠言信息并批量發(fā)布。
不可否認(rèn),人工智能在提供便利的同時(shí),AI工具大幅降低了造謠的制造成本。
清華大學(xué)新聞與傳播學(xué)院新媒體研究中心2024年4月發(fā)布的一份研究報(bào)告顯示,近兩年的AI謠言中,經(jīng)濟(jì)與企業(yè)類謠言占比最高,達(dá)43.71%;近一年來,經(jīng)濟(jì)與企業(yè)類AI謠言量增速高達(dá)99.91%,其中餐飲外賣、快遞配送等行業(yè)更是AI謠言重災(zāi)區(qū)。
AI造謠呈現(xiàn)出門檻低、批量化、識別難等特點(diǎn)。與此同時(shí),人工智能帶來的諸如算法黑箱、歧視偏見等社會問題也開始凸顯。如何加強(qiáng)更有效的監(jiān)管,首當(dāng)其沖的就是人工智能的立法。
目前,國內(nèi)外出臺了一系列確保人工智能安全、促進(jìn)人工智能在公共管理、社會服務(wù)等典型場景應(yīng)用的政策法規(guī),這些政策法規(guī)逐漸形成了算法透明度、高風(fēng)險(xiǎn)產(chǎn)品備案、風(fēng)險(xiǎn)監(jiān)測、用戶權(quán)益保護(hù)、訓(xùn)練數(shù)據(jù)合規(guī)、算力設(shè)施共享、高價(jià)值數(shù)據(jù)資源供給等一系列典型制度,基本確立了未來人工智能法要解決的主要制度。
歐美立法側(cè)重不同
在已發(fā)布的美歐法案中,業(yè)內(nèi)分析認(rèn)為,兩者各有側(cè)重,美國更重公平隱私,歐盟更重風(fēng)險(xiǎn)管控。
2022年10月4日美國發(fā)布《人工智能權(quán)利法案藍(lán)圖》,提出通過“建立安全和高效的系統(tǒng)、避免算法歧視、保護(hù)數(shù)據(jù)隱私、及時(shí)履行通知與解釋義務(wù)、準(zhǔn)備替補(bǔ)方案與退出機(jī)制”五項(xiàng)原則,預(yù)防濫用人工智能技術(shù)帶來的風(fēng)險(xiǎn)。
隨后在2023年1月,美國國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》;2024年5月,美國參議院發(fā)布了第一版人工智能發(fā)展政策路線圖。
2021年,歐盟委員會提出全球首部監(jiān)管人工智能的法律草案,此后歐洲議會和歐盟理事會就草案進(jìn)行多輪修訂和討論。在ChatGPT等生成式人工智能應(yīng)用橫空出世后,歐盟立法者緊急商討了原版本草案中未涵蓋的問題。
2023年6月,歐洲議會投票通過了《人工智能法案》(以下簡稱《法案》)的談判授權(quán)草案,新《法案》的監(jiān)管思路是以橫向監(jiān)管為基礎(chǔ),以風(fēng)險(xiǎn)規(guī)制為主要方式,同時(shí)兼顧監(jiān)管與發(fā)展的動態(tài)平衡。
2024年3月,歐洲議會正式通過歐盟《法案》。8月,《法案》正式生效?!斗ò浮芬?guī)定,所有的人工智能交互產(chǎn)品和結(jié)果必須進(jìn)行標(biāo)注,其中一些條款規(guī)定,聊天機(jī)器人等人工智能系統(tǒng)必須明確告知用戶他們在與機(jī)器互動,人工智能技術(shù)提供商必須確保合成的音頻、視頻、文本和圖像內(nèi)容能被檢測為人工智能生成的內(nèi)容。
此外,該《法案》涉及一些人工行業(yè)“合規(guī)”的新規(guī)定,包括谷歌、亞馬遜和Meta等美國主要科技公司在歐盟運(yùn)營必須適應(yīng)新的監(jiān)管環(huán)境。目前,Meta的人工智能模型在歐盟已受到限制,其他違反《法案》的公司也將面臨重罰。
對于違反《法案》中關(guān)于禁止使用AI的規(guī)定,最高罰款為3500萬歐元或全球年?duì)I業(yè)額的7%(以較高者為準(zhǔn))。根據(jù)歐盟委員會的一項(xiàng)研究,42%的歐洲企業(yè)已經(jīng)使用至少一種AI技術(shù)。電商行業(yè)在這一應(yīng)用中處于領(lǐng)先地位,因此更容易受到監(jiān)管變化的影響。
事實(shí)上,歐盟《法案》規(guī)定了屬人、屬地和實(shí)質(zhì)判斷等多個管轄標(biāo)準(zhǔn),只要對歐盟市場提供產(chǎn)品或者開展服務(wù),或其產(chǎn)品的輸出物有可能在歐盟被銷售,甚至位于歐洲的用戶可能因使用其產(chǎn)品受到不利影響,均受其管轄。
除去歐美立法之外,在亞洲,韓國國民議會通過了《人工智能發(fā)展與信任基礎(chǔ)創(chuàng)建法》(簡稱《AI框架法案》),主要聚焦建設(shè)治理體系、支持產(chǎn)業(yè)發(fā)展、防范可能風(fēng)險(xiǎn)這三大方面?!禔I框架法案》預(yù)計(jì)在明年初得到內(nèi)閣會議通過后在2026年1月開始實(shí)施。韓國也因此成為歐盟后全球第二個通過“人工智能法案”的國家或地區(qū)。
我國立法“三步走”
相比國外立法情況,近些年,國內(nèi)眾多學(xué)界、業(yè)界人士也開始越來越多地探討我國是否需要加快推動人工智能立法,以促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。
事實(shí)上,早在2017年,《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》就提出人工智能立法“三步走”戰(zhàn)略目標(biāo),其核心要義是構(gòu)建完善的“人工智能法律體系”。我國連續(xù)兩年(2023、2024年)將“人工智能法草案”列入國務(wù)院立法工作計(jì)劃。
在人工智能綜合立法方面,2022年《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》先后頒布,以促進(jìn)發(fā)展為主兼顧安全治理的立法思路做出了地方探索。
在特定技術(shù)方向立法方面,中央網(wǎng)信辦2021年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,對算法技術(shù)治理進(jìn)行了深入探索,并對高風(fēng)險(xiǎn)算法采取備案檢查的措施。
此外,最高人民法院針對人臉識別技術(shù)發(fā)布的相關(guān)規(guī)定,為人臉識別技術(shù)的規(guī)制提供了法律依據(jù)。
2022年11月,由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的人工智能技術(shù)治理做出探索,并前瞻性地為ChatGPT等生成式人工智能技術(shù)的顛覆性應(yīng)用提供了安全保障規(guī)則。
2023年8月,《生成式人工智能服務(wù)管理暫行辦法》開始施行,中國由此成為首個為生成式大模型專門立法的國家。
2024年4月,中央網(wǎng)信辦秘書局發(fā)布《關(guān)于開展“清朗·整治‘自媒體’無底線博流量”專項(xiàng)行動的通知》,要求加強(qiáng)信息來源標(biāo)注展示。使用AI等技術(shù)生成信息的,必須明確標(biāo)注系技術(shù)生成。發(fā)布含有虛構(gòu)、演繹等內(nèi)容的,必須明確加注虛構(gòu)標(biāo)簽。針對疑似使用AI技術(shù)的內(nèi)容,一些平臺會在下方貼上“內(nèi)容疑似AI生成,請謹(jǐn)慎甄別”的提示,并對包含虛構(gòu)、演繹等環(huán)節(jié)的內(nèi)容,明確加注虛構(gòu)標(biāo)簽,對違規(guī)賬號采取“封號”等舉措。部分大模型開發(fā)者也表示,會通過后臺設(shè)置的方式,對通過大模型生成的內(nèi)容打上水印,告知用戶。
此外,中國學(xué)術(shù)界已經(jīng)先后推出《人工智能示范法(專家建議稿)》《人工智能法(學(xué)者建議稿)》兩項(xiàng)成果,前者又分為1.0、2.0兩版本。兩部建議稿旨在推動討論、凝聚共識,為我國人工智能立法提供參考。
立法需樹立長期治理思維
數(shù)據(jù)顯示,人工智能核心產(chǎn)業(yè)規(guī)模已超5000億元,企業(yè)數(shù)量超過4300家,正在形成從基礎(chǔ)支撐、核心技術(shù)到行業(yè)應(yīng)有的產(chǎn)業(yè)鏈條,不斷促進(jìn)企業(yè)突破既有生產(chǎn)邊界,向產(chǎn)業(yè)鏈上、下游延伸、拓展,推動中端設(shè)備產(chǎn)品及服務(wù)的智能化。
在人工智能治理方面,世界各國既有合作,也有競爭,既有共識,更有分歧,無論是理論研究,還是制度構(gòu)建,都面臨選擇困惑。
中國法學(xué)會副會長姜偉表示,人工智能立法也需要一個認(rèn)識逐步深化的過程,需要樹立長期治理的思維,不宜急功近利、畢其功于一役,更不能采用激進(jìn)的方式解決。
北京郵電大學(xué)人工智能學(xué)院人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉表示,現(xiàn)在,中國和美國遲遲未出臺針對人工智能的相關(guān)法規(guī),原因之一就是當(dāng)前人工智能技術(shù)發(fā)展飛快,立法不慎可能會帶來負(fù)面影響。不管是美國、歐盟還是中國,“誰率先提出一個能被廣泛接受的新標(biāo)準(zhǔn)、新理念,誰就會在未來的市場競爭中更具優(yōu)勢”。
中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒認(rèn)為,就具體治理規(guī)則而言,中國和歐盟在價(jià)值文化、監(jiān)管體系、產(chǎn)業(yè)生態(tài)等方面均存在一定差異性,尤其是中國的人工智能產(chǎn)業(yè)具有獨(dú)特的國際生態(tài)地位,是人工智能領(lǐng)域“領(lǐng)先的追趕者”。我國在制定人工智能治理規(guī)則時(shí)要謹(jǐn)慎照搬國外的人工智能治理制度,應(yīng)提出有別于歐盟立法思路的中國方案,避免法律與產(chǎn)業(yè)實(shí)踐的懸隔。
中國人民公安大學(xué)數(shù)據(jù)法學(xué)研究院院長、教授蘇宇指出,在國內(nèi)有關(guān)人工智能法治的學(xué)術(shù)討論中,人工智能法的調(diào)整對象往往被有意或無意地假定為生成式人工智能乃至大模型,而實(shí)際上這只是整個人工智能的一個局部,遠(yuǎn)難覆蓋人工智能技術(shù)與應(yīng)用之全貌,以此為模板設(shè)計(jì)人工智能法律體系,極易出現(xiàn)“掛一漏萬”或“削足適履”的后果。對此,應(yīng)當(dāng)根據(jù)人工智能不同技術(shù)路線的特點(diǎn),推行多層級分支式治理架構(gòu),構(gòu)筑我國人工智能法律治理的基本框架。