韓國(guó)通過(guò)《人工智能基本法》

2024年12月26日，韓國(guó)國(guó)會(huì)全體會(huì)議經(jīng)表決通過(guò)《旨在構(gòu)建人工智能發(fā)展與信賴基礎(chǔ)的人工智能基本法》（以下簡(jiǎn)稱《人工智能基本法》），使韓國(guó)成為繼歐盟之后，第二個(gè)制定人工智能基本法的國(guó)家。據(jù)悉，該法案將在國(guó)會(huì)表決公布后1年，即2026年1月開始正式施行。

韓國(guó)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀

韓國(guó)政府高度重視人工智能的發(fā)展，2019年12月韓國(guó)政府公布了《人工智能國(guó)家戰(zhàn)略》，旨在凝聚國(guó)家力量、發(fā)揮自身優(yōu)勢(shì)，加快經(jīng)濟(jì)和社會(huì)的創(chuàng)新發(fā)展，為產(chǎn)業(yè)注入新的活力，實(shí)現(xiàn)從“IT強(qiáng)國(guó)”到“人工智能強(qiáng)國(guó)”的轉(zhuǎn)變。2024年8月，韓國(guó)進(jìn)一步出臺(tái)第一期《國(guó)家戰(zhàn)略技術(shù)培育基本計(jì)劃（2024—2028）》，其中涉及人工智能的50項(xiàng)重點(diǎn)技術(shù)。據(jù)相關(guān)報(bào)道，至2023年，已有超過(guò)80%的韓國(guó)人工智能相關(guān)公司產(chǎn)生了營(yíng)收，在2020年至2023年期間韓國(guó)人工智能公司的營(yíng)收增長(zhǎng)了超過(guò)100%；同時(shí)，在研發(fā)上的投入，近3年平均每年增長(zhǎng)17%。

全球人工智能治理浪潮等待迫切回應(yīng)。歐盟《人工智能法案》、美國(guó)《人工智能權(quán)利法案》等國(guó)際立法加速推進(jìn)，旨在搶占人工智能倫理與規(guī)則制定的主導(dǎo)權(quán)。韓國(guó)作為科技強(qiáng)國(guó)，需通過(guò)立法回應(yīng)國(guó)際規(guī)范，避免在全球競(jìng)爭(zhēng)中落后。

《人工智能基本法》的主要內(nèi)容

韓國(guó)《人工智能基本法》以“發(fā)展與規(guī)制并重”為核心邏輯，既要抓住技術(shù)紅利推動(dòng)產(chǎn)業(yè)升級(jí)，又要通過(guò)法律框架防范風(fēng)險(xiǎn)、保障民生，同時(shí)在國(guó)際競(jìng)爭(zhēng)中確立規(guī)則話語(yǔ)權(quán)，從而構(gòu)建安全、可信、包容的人工智能社會(huì)。

該法案主要包括以下內(nèi)容：

為人工智能全面治理建立相關(guān)組織體系。根據(jù)《人工智能基本法》，韓國(guó)將設(shè)立如下三個(gè)機(jī)構(gòu)：國(guó)家人工智能委員會(huì)，在總統(tǒng)領(lǐng)導(dǎo)下設(shè)立，負(fù)責(zé)審議和決定與人工智能發(fā)展和建立信任基礎(chǔ)的重大政策有關(guān)的事項(xiàng)，為人工智能基本計(jì)劃等具體舉措的實(shí)施提供宏觀方向引領(lǐng)和戰(zhàn)略布局。人工智能政策中心，隸屬于科技通信部，負(fù)責(zé)為人工智能總體規(guī)劃提供專業(yè)技能支持、研究分析人工智能的社會(huì)影響并協(xié)助相關(guān)政策的制定和業(yè)務(wù)延伸。人工智能安全研究所，以保護(hù)公眾生命、身體及財(cái)產(chǎn)安全為核心，承擔(dān)人工智能安全技術(shù)研究、風(fēng)險(xiǎn)評(píng)估標(biāo)準(zhǔn)制定、安全事故應(yīng)急處理等工作，為人工智能技術(shù)的安全應(yīng)用提供技術(shù)與監(jiān)管支持，確保人工智能在安全可控的框架內(nèi)發(fā)展。

為人工智能技術(shù)開發(fā)和產(chǎn)業(yè)培育提供合作支持。技術(shù)創(chuàng)新支持：通過(guò)提供研發(fā)資金、搭建數(shù)據(jù)共享與管理平臺(tái)等方式，支持與推進(jìn)有關(guān)促進(jìn)人工智能技術(shù)研發(fā)、應(yīng)用與傳播的項(xiàng)目落地；制定人工智能技術(shù)標(biāo)準(zhǔn)、進(jìn)行標(biāo)準(zhǔn)化研發(fā)、推動(dòng)標(biāo)準(zhǔn)化項(xiàng)目，提升跨行業(yè)技術(shù)應(yīng)用的兼容性與安全性。產(chǎn)業(yè)生態(tài)構(gòu)建：為中小企業(yè)提供技術(shù)咨詢、融資支持，降低技術(shù)應(yīng)用門檻；設(shè)立人工智能產(chǎn)業(yè)集群，集中資源培育高附加值產(chǎn)業(yè)，如智能醫(yī)療、自動(dòng)駕駛等。人才與國(guó)際合作：培養(yǎng)和支持人工智能和人工智能技術(shù)相關(guān)專業(yè)人才，吸引海外專家與外資投資，支持企業(yè)參與人工智能國(guó)際標(biāo)準(zhǔn)制定，提升全球競(jìng)爭(zhēng)力。

提出人工智能管理原則及風(fēng)險(xiǎn)防范、責(zé)任追究機(jī)制。倫理與透明度要求：制定 AI 倫理原則，強(qiáng)調(diào)安全性、公平性和人類尊嚴(yán)；強(qiáng)制標(biāo)注生成式人工智能內(nèi)容來(lái)源，防止虛假信息傳播。風(fēng)險(xiǎn)分級(jí)管控：明確“高影響人工智能”的定義（對(duì)人類生命、身體健康或基本權(quán)利產(chǎn)生重大影響或存在潛在風(fēng)險(xiǎn)的人工智能系統(tǒng)），對(duì)醫(yī)療、交通等領(lǐng)域?qū)嵤﹪?yán)格安全評(píng)估，要求企業(yè)建立風(fēng)險(xiǎn)監(jiān)測(cè)與應(yīng)急響應(yīng)體系。責(zé)任追溯機(jī)制：賦予政府調(diào)查權(quán)，對(duì)違規(guī)企業(yè)可責(zé)令整改或處罰，最高達(dá)3000萬(wàn)韓元罰款；對(duì)于未在韓國(guó)設(shè)立實(shí)體的境外人工智能服務(wù)方，要求設(shè)立境內(nèi)代表處并落實(shí)同等法律義務(wù)。

《人工智能基本法》的影響與面臨的挑戰(zhàn)

《人工智能基本法》的通過(guò)是韓國(guó)為應(yīng)對(duì)人工智能技術(shù)顛覆性變革的系統(tǒng)性回應(yīng)，將對(duì)韓國(guó)整體社會(huì)產(chǎn)生深刻影響。

保護(hù)公眾權(quán)益、增強(qiáng)公眾信任。一方面，明確禁止被視為對(duì)人們的安全、生計(jì)和基本權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)，這能夠有效避免利用人工智能剝削弱勢(shì)群體或操縱人類的行為；另一方面，對(duì)高影響人工智能規(guī)定嚴(yán)格的確認(rèn)程序與經(jīng)營(yíng)者義務(wù)，對(duì)人工智能應(yīng)用提出透明度與安全性要求，防止公眾隱私或個(gè)人信息被濫用，甚至遭受深度偽造技術(shù)的傷害。

規(guī)范行業(yè)秩序、促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。通過(guò)制定與更新人工智能基本計(jì)劃、推動(dòng)人工智能園區(qū)與數(shù)據(jù)中心建設(shè)等方式，為產(chǎn)業(yè)發(fā)展提供方向和資源；培育技術(shù)人才、扶持中小企業(yè)發(fā)展，促進(jìn)人工智能產(chǎn)業(yè)繁榮，為相關(guān)技術(shù)應(yīng)用筑牢安全防線，確保技術(shù)在安全可靠的前提下服務(wù)社會(huì)。

助力國(guó)際合作與競(jìng)爭(zhēng)。韓國(guó)以該法案為契機(jī)，積極參與全球人工智能治理，在國(guó)際規(guī)則制定中爭(zhēng)取話語(yǔ)權(quán)；該法的實(shí)施還可能降低相關(guān)企業(yè)成本，激勵(lì)更多投資和創(chuàng)新，提升韓國(guó)人工智能產(chǎn)業(yè)在全球的競(jìng)爭(zhēng)力。

然而，法案的全面實(shí)施依然面臨諸多困難與挑戰(zhàn)。

產(chǎn)業(yè)促進(jìn)與安全監(jiān)管存在內(nèi)在矛盾。一些業(yè)內(nèi)人士認(rèn)為對(duì)人工智能技術(shù)的過(guò)度監(jiān)管可能會(huì)阻礙創(chuàng)新，而政策制定者則認(rèn)為需要專門的立法來(lái)規(guī)制這項(xiàng)技術(shù)；法案本身也更偏向產(chǎn)業(yè)利益，對(duì)高影響人工智能雖有規(guī)制但缺乏針對(duì)特定領(lǐng)域的禁止性條款（如國(guó)防軍事領(lǐng)域），處罰力度（最高3000萬(wàn)韓元）也不算太大且未區(qū)分企業(yè)規(guī)模設(shè)定梯度處罰標(biāo)準(zhǔn)，可能導(dǎo)致“大企業(yè)違規(guī)收益高于違規(guī)處罰”的局面。

法律自身滯后性與技術(shù)快速迭代之間的沖突。該法案雖給予下位法調(diào)整空間，但未明確相關(guān)技術(shù)標(biāo)準(zhǔn)的更新頻率，可能難以應(yīng)對(duì)快速演進(jìn)的人工智能技術(shù)。此外，韓國(guó)未將監(jiān)管沙盒納入法律框架，可能導(dǎo)致企業(yè)在醫(yī)療診斷、自動(dòng)駕駛的高新技術(shù)領(lǐng)域創(chuàng)新缺乏安全的測(cè)試環(huán)境，從而造成風(fēng)險(xiǎn)評(píng)估與技術(shù)落地相脫節(jié)。

公眾信任與行業(yè)接受度的雙重挑戰(zhàn)。法律對(duì)“高影響人工智能”雖然規(guī)定了事前審查、安全性、可靠性保障等各種義務(wù)，但其具體內(nèi)容大部分委托給實(shí)施令，當(dāng)實(shí)施令中規(guī)定了企業(yè)難以實(shí)際履行的義務(wù)或不明確的標(biāo)準(zhǔn)時(shí)，可能導(dǎo)致企業(yè)通過(guò)模糊解釋逃避責(zé)任，或者因企業(yè)不適應(yīng)從長(zhǎng)期寬松的運(yùn)營(yíng)環(huán)境向相對(duì)嚴(yán)格的監(jiān)管環(huán)境轉(zhuǎn)變，通過(guò)游說(shuō)延緩合規(guī)進(jìn)程。

執(zhí)行資源與跨部門協(xié)作的結(jié)構(gòu)性缺陷。成功實(shí)施《人工智能法案》將需要仔細(xì)規(guī)劃、政府機(jī)構(gòu)和私營(yíng)部門之間的有效協(xié)調(diào)，科學(xué)技術(shù)信息通信部（MSIT）作為牽頭部門，需協(xié)調(diào)二十多個(gè)中央機(jī)構(gòu)，地方政府的人才資源缺乏或?qū)?dǎo)致政策執(zhí)行碎片化。以人工智能教育領(lǐng)域?yàn)槔?，根?jù)相關(guān)媒體報(bào)道，人工智能教科書推廣面臨行政程序、技術(shù)問(wèn)題等多重阻礙，韓國(guó)AI教科書整體普及率仍停留在較低水平，反映出公共部門在技術(shù)應(yīng)用中的資源瓶頸。

編輯：沈析宇" " 175556274@qq.com