謀定而動(dòng)：布局AI產(chǎn)業(yè)法治重點(diǎn)領(lǐng)域

文/王樺宇 智惠

人工智能（AI）不僅僅是一項(xiàng)技術(shù)，也是全面數(shù)字時(shí)代到來(lái)的重要標(biāo)志?！渡虾Ｊ写龠M(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》（以下簡(jiǎn)稱《條例》）的立法，是上海市人工智能產(chǎn)業(yè)迅速發(fā)展的客觀寫(xiě)照和必然要求，也是上海市人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的催化劑和穩(wěn)定器。為了使數(shù)字時(shí)代的經(jīng)濟(jì)社會(huì)保持健康穩(wěn)定發(fā)展，有必要對(duì)人工智能行業(yè)標(biāo)準(zhǔn)、隱私權(quán)保護(hù)和主體責(zé)任等重點(diǎn)領(lǐng)域法律問(wèn)題做進(jìn)一步研究，推動(dòng)人工智能在“以人為本，科技向善”的原則基礎(chǔ)上高質(zhì)量發(fā)展，從而最終建成具有國(guó)際影響力的人工智能“上海高地”。

AI行業(yè)標(biāo)準(zhǔn)的法律問(wèn)題

根據(jù)《條例》第37條規(guī)定，上海市政府應(yīng)當(dāng)支持本市人工智能企業(yè)與相關(guān)行業(yè)組織在人工智能國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)制定中發(fā)揮引領(lǐng)作用，參與算法性能、數(shù)據(jù)安全、隱私保護(hù)、產(chǎn)品兼容性、性能測(cè)試等方面技術(shù)標(biāo)準(zhǔn)的制定。上海市市場(chǎng)監(jiān)管部門是人工智能地方標(biāo)準(zhǔn)的制定主體，指導(dǎo)上海市人工智能標(biāo)準(zhǔn)化技術(shù)委員會(huì)加強(qiáng)相關(guān)地方標(biāo)準(zhǔn)技術(shù)歸口工作；同時(shí)，上海市市場(chǎng)監(jiān)管、上海市經(jīng)濟(jì)和信息化委員會(huì)（以下簡(jiǎn)稱“市經(jīng)信委”）等部門應(yīng)當(dāng)引導(dǎo)人工智能企業(yè)與相關(guān)行業(yè)組織先行研究制定與人工智能相關(guān)的企業(yè)標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)。經(jīng)自愿申請(qǐng)和第三方機(jī)構(gòu)評(píng)價(jià)，符合國(guó)內(nèi)領(lǐng)先、國(guó)際先進(jìn)要求的，可以在標(biāo)準(zhǔn)文本上使用人工智能“上海標(biāo)準(zhǔn)”的專門標(biāo)識(shí)。從上述立法內(nèi)容來(lái)看，《條例》中的人工智能標(biāo)準(zhǔn)涉及國(guó)家、地方、行業(yè)、技術(shù)標(biāo)準(zhǔn)等多維度且涉及職能部門、行業(yè)組織等多方面主體，對(duì)上海市人工智能產(chǎn)業(yè)發(fā)展有著較為深入且長(zhǎng)遠(yuǎn)的規(guī)劃：一方面，人工智能作為國(guó)家重點(diǎn)推動(dòng)的新興產(chǎn)業(yè)，國(guó)家、行業(yè)標(biāo)準(zhǔn)的制定是產(chǎn)業(yè)健康發(fā)展不可或缺的基礎(chǔ)性因素，也是我國(guó)科技創(chuàng)新和體制機(jī)制創(chuàng)新的重要突破口，需要加快推進(jìn)不同層次相關(guān)標(biāo)準(zhǔn)的制定；另一方面，集成電路、生物醫(yī)藥、人工智能，是上海正在著力打造的三大先導(dǎo)產(chǎn)業(yè)，上海作為全國(guó)科技產(chǎn)業(yè)前沿的先行示范區(qū)，可根據(jù)本市人工智能產(chǎn)業(yè)發(fā)展實(shí)際，先行制定人工智能行業(yè)的地方性標(biāo)準(zhǔn)。

人工智能產(chǎn)業(yè)仍然處于“摸著石頭過(guò)河”的探索階段 （圖/IC photos）

筆者認(rèn)為，在行業(yè)標(biāo)準(zhǔn)制定過(guò)程中，需要重點(diǎn)把握幾個(gè)方面的關(guān)系：一是中央與地方政府權(quán)限的關(guān)系?！稐l例》是針對(duì)人工智能產(chǎn)業(yè)發(fā)展的地方性立法，地方政府可以支持企業(yè)與行業(yè)組織參與國(guó)家和行業(yè)標(biāo)準(zhǔn)制定過(guò)程并發(fā)揮引領(lǐng)作用，但國(guó)家和行業(yè)標(biāo)準(zhǔn)制定仍屬于中央事權(quán)。二是創(chuàng)新發(fā)展與規(guī)范引領(lǐng)的關(guān)系。上海市市場(chǎng)監(jiān)管部門可以制定人工智能的地方標(biāo)準(zhǔn)，同時(shí)需要對(duì)人工智能的創(chuàng)新發(fā)展進(jìn)行有效監(jiān)管；既要鼓勵(lì)“先行先試”允許“容錯(cuò)免責(zé)”，也要堅(jiān)決制止“風(fēng)險(xiǎn)失控”。三是市場(chǎng)主導(dǎo)和政府促進(jìn)的關(guān)系。人工智能產(chǎn)業(yè)的發(fā)展在本質(zhì)上仍是由作為市場(chǎng)主體的企業(yè)在自我創(chuàng)新中加以推動(dòng)，得找符合先進(jìn)性要求的企業(yè)在適格第三方機(jī)構(gòu)認(rèn)可下自主選擇“上海標(biāo)準(zhǔn)”的專門標(biāo)識(shí)（政府對(duì)此予以認(rèn)可、鼓勵(lì)和保障）。

AI的社會(huì)應(yīng)用與數(shù)據(jù)權(quán)益保護(hù)

人工智能的發(fā)展與數(shù)字經(jīng)濟(jì)息息相關(guān)，涉及大量數(shù)據(jù)的存儲(chǔ)與運(yùn)用。人工智能在經(jīng)濟(jì)發(fā)展、民生服務(wù)和城市治理等多個(gè)方面發(fā)揮著重要作用，人工智能處理的數(shù)據(jù)顯現(xiàn)出很強(qiáng)的社會(huì)應(yīng)用價(jià)值，人們享受著信息數(shù)字化帶來(lái)的諸多便利?！稐l例》在第4章“應(yīng)有賦能”中分“一般規(guī)定”“經(jīng)濟(jì)應(yīng)用”“生活應(yīng)用”“城市治理應(yīng)用”對(duì)人工智能的應(yīng)用做了較為具體的規(guī)定，明確提出建立人工智能應(yīng)用場(chǎng)景開(kāi)發(fā)制度，促進(jìn)場(chǎng)景培育、發(fā)現(xiàn)、實(shí)施和示范性場(chǎng)景推廣，并對(duì)人工智能的商業(yè)應(yīng)用和公共應(yīng)用進(jìn)行了區(qū)分規(guī)范和分類治理。同時(shí)，《條例》在第5章“產(chǎn)業(yè)治理與安全”對(duì)人工智能的安全性做了較為具體的規(guī)定，并明確提出設(shè)立人工智能倫理專家委員會(huì)。

從《條例》第4章規(guī)定的內(nèi)容來(lái)看，上海市正推動(dòng)人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域的規(guī)?；瘧?yīng)用，加快數(shù)字化轉(zhuǎn)型——要求市經(jīng)信委會(huì)同相關(guān)部門制定并定期更新人工智能示范應(yīng)用清單，指導(dǎo)有關(guān)方面加強(qiáng)人工智能在經(jīng)濟(jì)、生活、城市治理等領(lǐng)域的應(yīng)用。這也說(shuō)明，在人工智能的社會(huì)應(yīng)用和示范使用中，上海市對(duì)公共數(shù)據(jù)的開(kāi)放使用持積極態(tài)度，既包括主動(dòng)公開(kāi)數(shù)據(jù)，也包括申請(qǐng)數(shù)據(jù)公開(kāi)的公平使用制度。《上海市數(shù)據(jù)條例》第38條規(guī)定了對(duì)公共數(shù)據(jù)的管理以共享為原則，以不共享為例外的指導(dǎo)原則。從人工智能的產(chǎn)業(yè)發(fā)展來(lái)看，所涉及的數(shù)據(jù)除了公共數(shù)據(jù)以外還有自然人的個(gè)人信息人格權(quán)益，以及自然人、法人和非法人組織在使用、加工等數(shù)據(jù)處理活動(dòng)和進(jìn)行數(shù)據(jù)創(chuàng)新中形成的法定或者約定的財(cái)產(chǎn)權(quán)益。這些數(shù)據(jù)權(quán)益需要在人工智能產(chǎn)業(yè)發(fā)展過(guò)程中得到充分有效的保障。

《上海市數(shù)據(jù)條例》第17條規(guī)定，自然人、法人和非法人組織開(kāi)展數(shù)據(jù)處理活動(dòng)、行使相關(guān)數(shù)據(jù)權(quán)益，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德，誠(chéng)實(shí)守信，不得危害國(guó)家安全和公共利益，不得損害他人的合法權(quán)益。這與《條例》第67條規(guī)定的相關(guān)主體開(kāi)展人工智能研發(fā)和應(yīng)用應(yīng)當(dāng)遵循法律法規(guī)規(guī)定，不得從事侵犯國(guó)家安全、社會(huì)公共安全以及侵害用戶數(shù)據(jù)財(cái)產(chǎn)權(quán)益和個(gè)人隱私的規(guī)定高度一致。在推動(dòng)經(jīng)濟(jì)社會(huì)法治化治理進(jìn)程中，在促進(jìn)人工智能產(chǎn)業(yè)發(fā)展的同時(shí)，尤其需要注意數(shù)據(jù)權(quán)益的充分有效保護(hù)：要制定人工智能領(lǐng)域的數(shù)據(jù)權(quán)益保護(hù)示范規(guī)則，在人工智能發(fā)展初始階段就制定人工智能領(lǐng)域特別是示范場(chǎng)景下的具體數(shù)據(jù)使用和權(quán)益保護(hù)規(guī)范，制定具體的數(shù)據(jù)資源開(kāi)發(fā)和權(quán)益保障實(shí)施細(xì)則。加強(qiáng)人工智能場(chǎng)景下個(gè)人信息特別是隱私權(quán)保護(hù)的執(zhí)行力度。在各類各項(xiàng)數(shù)據(jù)中，個(gè)人信息是更為重要的數(shù)據(jù)財(cái)產(chǎn)，其具有人格權(quán)的基本屬性，在法律法規(guī)保護(hù)位階上需要更加重視，落實(shí)對(duì)個(gè)人信息數(shù)據(jù)更為嚴(yán)格的管理。

AI法律主體及責(zé)任研究

人工智能的產(chǎn)業(yè)發(fā)展需要注重針對(duì)潛在危險(xiǎn)的防范和控制，相關(guān)部門需要依法對(duì)人工智能應(yīng)用開(kāi)展安全檢查和監(jiān)管，并依照法律法規(guī)的規(guī)定追究相應(yīng)主體的法律責(zé)任?！稐l例》設(shè)立“產(chǎn)業(yè)治理與安全”專章，在堅(jiān)持總體國(guó)家安全觀的基礎(chǔ)上，統(tǒng)籌人工智能產(chǎn)業(yè)發(fā)展與安全，保障產(chǎn)業(yè)鏈、供應(yīng)鏈安全。《條例》第65條還明確規(guī)定，上海市人民政府及有關(guān)部門應(yīng)當(dāng)順應(yīng)人工智能快速迭代的特點(diǎn)，積極探索分級(jí)治理和沙盒監(jiān)管的新模式……

需要特別指出的是，在現(xiàn)有法律法規(guī)框架下，人工智能的法律主體和法律責(zé)任制度及其適用還存在一些爭(zhēng)議。在學(xué)理上，人工智能主體是否具有法律上的主體地位亦不存在定論，人工智能產(chǎn)業(yè)發(fā)展過(guò)程中的責(zé)任承擔(dān)主體和責(zé)任追究機(jī)制可以由各地探索在合理權(quán)限內(nèi)、因地制宜地加以制定。《條例》第67條規(guī)定了相關(guān)主體開(kāi)展人工智能研發(fā)和應(yīng)用過(guò)程中禁止從事的事項(xiàng)，從側(cè)面可以推知《條例》本身不認(rèn)可人工智能在法律上的主體地位，人工智能產(chǎn)業(yè)造成損害后責(zé)任的承擔(dān)應(yīng)當(dāng)歸于從事人工智能研發(fā)和應(yīng)用的主體。在此前提下，人工智能的侵權(quán)責(zé)任分為人工智能本身的設(shè)計(jì)缺陷或者是管理人員自身的故意或者過(guò)失造成的損害。另外，倘若是第三人操控人工智能造成損害，則應(yīng)當(dāng)界定這一操控是否非法，即是否存在授權(quán)行為，以此確定最終責(zé)任承擔(dān)的主體。

當(dāng)然，由于人工智能產(chǎn)業(yè)仍然處于“摸著石頭過(guò)河”的探索階段，基于促進(jìn)發(fā)展與法治規(guī)范并行的指導(dǎo)原則，地方政府在執(zhí)行地方性法規(guī)和追究相關(guān)主體責(zé)任方面可以采取適當(dāng)寬容的態(tài)度，建立與實(shí)際情況相匹配的容錯(cuò)機(jī)制。這是一種產(chǎn)業(yè)法治化治理的新路徑。除去高風(fēng)險(xiǎn)領(lǐng)域設(shè)置嚴(yán)格的清單式管理和嚴(yán)格責(zé)任外，對(duì)于人工智能產(chǎn)業(yè)的發(fā)展應(yīng)當(dāng)在分級(jí)治理和沙盒監(jiān)管等制度上加大執(zhí)法力度，在確保相關(guān)主體權(quán)益和社會(huì)倫理的基礎(chǔ)上，最大程度激發(fā)市場(chǎng)主體活力，以促進(jìn)人工智能產(chǎn)業(yè)健康有序地創(chuàng)新發(fā)展。