既要人工智能高效發(fā)展還要符合倫理，該怎么做？

曹建峰

近年來，人工智能技術(shù)發(fā)展取得了極大的進(jìn)步，在一些領(lǐng)域甚至超越了人類自身的認(rèn)知能力。人工智能也從一個純粹的技術(shù)領(lǐng)域一躍成為社會各界共同關(guān)注的話題。各國紛紛出臺人工智能戰(zhàn)略，加強頂層設(shè)計，人工智能由此成為國際競爭的新焦點。人工智能的跨學(xué)科研究迅速興起，尤其是國內(nèi)的法學(xué)界出現(xiàn)了人工智能法律研究的熱潮，但卻沒有學(xué)者嘗試從法律上對人工智能的概念進(jìn)行界定，導(dǎo)致各種研究頗具自說自話的色彩，缺乏統(tǒng)一的認(rèn)知基礎(chǔ)。此外，社會公眾由于對人工智能技術(shù)缺乏足夠的了解，生發(fā)了人工智能取代人類工作、超級智能威脅人類生存等擔(dān)憂。

那么，人工智能法律能否成為一門顯學(xué)？現(xiàn)在又有哪些新的問題需要研究和應(yīng)對？對此，微軟總法律顧問BradSmith曾有精辟論述。他寫道，未來會產(chǎn)生所謂的「人工智能法律」這一全新的法律領(lǐng)域嗎？今天，人工智能法律和1998年的時候隱私法剛興起時的境況差不多。一些既有的法律已經(jīng)適用于人工智能，尤其是侵權(quán)法和隱私法。在一些特定的領(lǐng)域比如自動駕駛汽車等，開始出現(xiàn)新的監(jiān)管。但是，人工智能法律尚未作為一個獨立的領(lǐng)域存在。到2038年的時候，我敢肯定這一狀況將有所改變。那時候，不僅有從事人工智能法律的執(zhí)業(yè)律師，而且這些律師和其他所有律師都將依賴人工智能來輔助其執(zhí)業(yè)。因此，真正的問題不是是否會出現(xiàn)人工智能法律，而是其如何出現(xiàn)，以及在什么期限內(nèi)出現(xiàn)。

人工智能法律問題的三個層面

這一預(yù)測在某種程度上可以給當(dāng)前的人工智能法律研究背書，即學(xué)者的研究并非鏡花水月，空中樓閣，而是服務(wù)于未來將可能產(chǎn)生的一個全新的法律領(lǐng)域。綜觀目前的人工智能法律研究，主要存在法律人格、正義與平等、安全與認(rèn)證、隱私與權(quán)力、責(zé)任、知識產(chǎn)權(quán)歸屬、競爭與消費者保護(hù)、人工智能產(chǎn)品監(jiān)管、自主武器等九個主題，這些主題可被抽象為三個層面。

其一，權(quán)利的挑戰(zhàn)。在以機器學(xué)習(xí)為代表的現(xiàn)代人工智能系統(tǒng)出現(xiàn)之前，人類是這個星球上唯一具有行為能力的主體，國家和公司作為法律上擬制的人，其自身不具有行為能力，需要由人類主體來代表。人工智能，作為通過一個評估過程自主作出選擇的非自然實體（即機器），開始表現(xiàn)出像人一樣的行為能力，例如達(dá)成交易、批準(zhǔn)貸款、駕駛汽車、創(chuàng)作內(nèi)容，等等。因此其一方面帶來主體地位的挑戰(zhàn)，另一方面帶來創(chuàng)造成果歸屬和保護(hù)的挑戰(zhàn)。其二，責(zé)任的挑戰(zhàn)。以自動駕駛為例，其自主性和不可預(yù)測性斬斷了人類與事故之間的因果關(guān)系。其三，倫理的挑戰(zhàn)。體現(xiàn)為兩個方面：一是技術(shù)應(yīng)用的邊界問題，例如將人工智能應(yīng)用于人類增強或者武器和戰(zhàn)爭的限度在哪里;二是技術(shù)發(fā)展可能改變?nèi)祟悅惱?，依然以自動駕駛汽車為例，隨著自動駕駛系統(tǒng)的安全性能不斷提高，當(dāng)其顯著超越人類駕駛水平之時，是否有必要重新考慮人類駕駛汽車活動的道德性。

人工智能治理的三點認(rèn)知

在計算機與信息技術(shù)的發(fā)展史上，網(wǎng)絡(luò)法經(jīng)歷了三次重大轉(zhuǎn)變，每個階段都有其特殊的問題并產(chǎn)生了相應(yīng)的法律規(guī)制。第一階段的關(guān)注焦點是計算機，各國圍繞計算機的安全、犯罪、欺詐、濫用等問題制定了一系列法律，這個階段的典型立法包括美國1984年的《計算機欺詐與濫用法案》等?；ヂ?lián)網(wǎng)興起之后，網(wǎng)絡(luò)法發(fā)展到第二階段，信息大爆炸趨勢下，信息成為關(guān)注焦點，法律規(guī)制圍繞信息的隱私、保護(hù)、傳播、濫用等問題展開，這個階段的立法包括歐盟1995年的《個人數(shù)據(jù)保護(hù)指令》、美國1996年的《通信規(guī)范法》等。當(dāng)前，網(wǎng)絡(luò)法已經(jīng)發(fā)展到了第三階段，作為關(guān)注焦點的數(shù)據(jù)和人工智能算法帶來新的問題，預(yù)計將出現(xiàn)一系列人工智能法律，例如歐盟的GDPR已經(jīng)針對人工智能應(yīng)用進(jìn)行了制度安排，歐盟議會發(fā)布的《算法責(zé)任與透明治理框架》則在考慮建立算法治理框架。就人工智能治理而言，本文提出三點認(rèn)知。

其一，數(shù)據(jù)保護(hù)方面，明確企業(yè)間數(shù)據(jù)獲取與利用的基本規(guī)則，加強對企業(yè)數(shù)據(jù)資產(chǎn)及其合法利益的保護(hù)。人工智能的發(fā)展應(yīng)用離不開數(shù)據(jù)，數(shù)據(jù)已經(jīng)成為「新石油」，只有加強保護(hù)企業(yè)數(shù)據(jù)權(quán)益，才能為人工智能創(chuàng)新發(fā)展提供堅實的基礎(chǔ)。我國法院在諸多涉及數(shù)據(jù)獲取與利用的不正當(dāng)競爭案件中認(rèn)為，企業(yè)對其投入勞動采集、加工、整理、生成的數(shù)據(jù)享有財產(chǎn)性權(quán)益，典型的案件包括陽光訴霸才、大眾點評訴愛幫網(wǎng)、鋼聯(lián)訴縱橫/拓迪、大眾點評訴百度、微博訴脈脈、酷米客訴車來了、淘寶訴美景、同花順公司訴燈塔公司等。其實早在InternationalNewsService訴AssociatedPress一案中，美國最高法院就認(rèn)為，信息、設(shè)計等無形物可以因勞動、金錢等投入而產(chǎn)生一種“準(zhǔn)財產(chǎn)權(quán)”（quasi-propertyright），從而可以基于反不正當(dāng)競爭法禁止他人不當(dāng)盜用。

根據(jù)國內(nèi)外相關(guān)司法判例，不當(dāng)獲取與利用數(shù)據(jù)主要有兩種方式：一是未經(jīng)許可或超出許可，采取侵入的方式獲取非公開數(shù)據(jù)，通常表現(xiàn)為侵入服務(wù)器、破解或規(guī)避技術(shù)措施或者使用他人ID、密碼等;二是采取爬蟲等手段復(fù)制、抓取數(shù)據(jù)，一般針對公開數(shù)據(jù)。根據(jù)前述判例，法院在認(rèn)定這些行為的不正當(dāng)性時一般采取兩個測試標(biāo)準(zhǔn)：一是實質(zhì)替代標(biāo)準(zhǔn)，即將獲取的數(shù)據(jù)用于足以產(chǎn)生替代效果的競爭性產(chǎn)品、服務(wù)，此標(biāo)準(zhǔn)主要體現(xiàn)在大眾點評系列案件中。二是正當(dāng)商業(yè)利益標(biāo)準(zhǔn)，其出發(fā)點是企業(yè)對其投入勞動搜集、獲取、加工、整理、生成的數(shù)據(jù)和數(shù)據(jù)產(chǎn)品享有競爭法上的財產(chǎn)性利益，他人未經(jīng)授權(quán)予以利用具有不正當(dāng)性。例如，在奮韓網(wǎng)訴58同城案中，法院認(rèn)定58同城網(wǎng)站偽裝個人名義在網(wǎng)站上發(fā)布復(fù)制于奮韓網(wǎng)的侵權(quán)信息，未付出相應(yīng)勞動即將他人成果據(jù)為己有，其行為掠奪了奮韓網(wǎng)流量、影響經(jīng)營利益，嚴(yán)重?fù)p害了韓華公司的合法權(quán)益，違背誠實信用原則及公認(rèn)的商業(yè)道德，構(gòu)成不正當(dāng)競爭。

其二，人工智能治理方面，考慮采取包容審慎、靈活有彈性的規(guī)制方式。一方面，需要為自動駕駛汽車等人工智能新事物革除既有的監(jiān)管法律政策障礙，例如關(guān)于駕駛?cè)说姆梢?、高速公路測試限制等，避免過時的法律要求阻礙人工智能創(chuàng)新發(fā)展。因為隨著人工智能技術(shù)持續(xù)滲透到各行各業(yè)，帶來新的產(chǎn)品和服務(wù)，未來新事物與舊制度的沖突會越來越多，呼吁監(jiān)管法律政策的革新和創(chuàng)新。另一方面，由于技術(shù)以及商業(yè)模式快速發(fā)展和迭代，草率的立法不可能期待會產(chǎn)生正面的效果，而且成文或?qū)ｉT的立法恐難跟上技術(shù)步伐，故應(yīng)避免嚴(yán)格、細(xì)致的法律要求，而是可以采取事后監(jiān)管、追責(zé)或者通過出臺標(biāo)準(zhǔn)、行業(yè)公約、倫理框架、最佳實踐、技術(shù)指南等“軟法”性質(zhì)的規(guī)范來調(diào)整人工智能的發(fā)展應(yīng)用，支持行業(yè)自律。這意味著敏捷靈活的政策路徑，例如中國國家新一代人工智能治理專業(yè)委員會6月17日發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》也提出了敏捷治理的原則。