• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論公司法的數(shù)字化改革:來自AI董事的新挑戰(zhàn)

    2025-01-28 00:00:00劉俊海
    江淮論壇 2025年1期
    關(guān)鍵詞:人工智能

    摘要:公司法改革的數(shù)字化方向不可逆轉(zhuǎn)。我國《公司法》未明文禁止非自然人主體擔(dān)任董事,AI董事走向公司治理舞臺并不存在不可逾越的制度障礙。為降低AI董事的設(shè)置與運行成本,建議允許法人擔(dān)任董事,賦予適格AI董事法律人格,AI既可進入董事會、監(jiān)事會與管理層,亦可在機構(gòu)投資者擔(dān)任基金經(jīng)理。公司是否聘用、如何聘用AI董事,均屬公司自治范圍。鑒于AI董事履職時會滋生技術(shù)、倫理與法律的風(fēng)險,股東會的權(quán)力機構(gòu)地位不應(yīng)被AI取代,一旦AI董事失靈或異化,股東會有權(quán)啟動緊急備災(zāi)系統(tǒng)。AI董事肩負著與自然人董事相同的信托義務(wù),也應(yīng)弘揚企業(yè)家精神。建議統(tǒng)一法人化AI董事的市場準入門檻,夯實技術(shù)與信用根基,建立法人化AI董事登記制度,增強信息公示公信效力。

    關(guān)鍵詞:AI董事;法人董事;人工智能;公司法;股東中心主義

    中圖分類號:C913.991" " 文獻標志碼:A" " 文章編號:1001-862X(2025)01-0126-011

    作為新質(zhì)生產(chǎn)力的領(lǐng)跑者,AI(人工智能)技術(shù)已經(jīng)在生產(chǎn)、貿(mào)易、醫(yī)療、教育、金融管理與司法等領(lǐng)域大顯身手。世界經(jīng)濟論壇2015年曾預(yù)言,全球公司治理將在2026年歷經(jīng)機器人進入董事會的轉(zhuǎn)折點。這意味著人類董事與AI董事共享決策權(quán)將成為新常態(tài)。我國香港地區(qū)的風(fēng)險投資公司Deep Knowledge Ventures" 2014年任命的名為“VITAL”的算法董事堪稱全球AI董事鼻祖。(1) VITAL在考慮有關(guān)數(shù)據(jù)和信息的基礎(chǔ)上決定是否投資特定目標公司,業(yè)績斐然。許多基金管理公司(BlackRock, EQT Ventures, QuantumLight Capital,NN Investment Partners)步其后塵,倚重AI開展核心財務(wù)決策。2016年,芬蘭上市公司Tieto任命名為“Alicia T.”的AI加入新數(shù)據(jù)驅(qū)動型業(yè)務(wù)管理團隊,擁有投票權(quán),旨在打造由優(yōu)秀人才和AI組成的團隊,追求數(shù)據(jù)驅(qū)動世界的重大機遇。(2)2022年,波蘭朗姆酒公司Dictador任命全球首位實驗性AI首席執(zhí)行官“Mika”,負責(zé)投資計劃、對外溝通、戰(zhàn)略規(guī)劃。(3)

    黨的二十屆三中全會強調(diào):“完善生成式人工智能發(fā)展和管理機制”,“完善中國特色現(xiàn)代企業(yè)制度,弘揚企業(yè)家精神”。這為推動我國公司治理市場化、法治化、全球化與數(shù)字化改革指明了方向。傳統(tǒng)公司法以自然人擔(dān)任董事、監(jiān)事、高級管理人員(以下簡稱“董監(jiān)高”)作為公司治理預(yù)設(shè)前提。鑒于AI進入公司經(jīng)營管理與治理平臺的常態(tài)化前景可期,確認AI董事的法律地位具有現(xiàn)實意義與學(xué)術(shù)價值。

    一、AI董事對標董事任職門檻的顯著優(yōu)勢

    AI董事的正當性與合法性在法學(xué)界聚訟紛紜。有為者,方有位。AI董事的適格性歸根結(jié)底取決于其行為能力與核心競爭力。從我國《公司法》規(guī)定的董監(jiān)高的任職資格(第178條規(guī)定的消極資格要件)和義務(wù)(第179條至第191條規(guī)定的義務(wù)與責(zé)任)來看,理性董監(jiān)高的任職門檻集中體現(xiàn)為“四商合一”的基本素養(yǎng):自覺信仰與敬畏法律的法商、踐行最佳商業(yè)倫理的德商、不斷創(chuàng)新的智商、受人尊敬與信賴的情商。因此,AI董事是否滿足“四商合一”的法定門檻,是公司法是否能夠確認其董事資格的關(guān)鍵要素。

    (一)AI董事的法商優(yōu)勢

    法商思維要求董事善于管控法律風(fēng)險、捍衛(wèi)法律價值、遵循法律原則、善用法律邏輯、定位法律角色、梳理法律關(guān)系、尋求法律方案、發(fā)現(xiàn)法律智慧、注重法律細節(jié)、遵守法律儀式。與肉身董事相比,AI董事的尊法依規(guī)能力具有天然優(yōu)勢。其一,與自然人董事相比,擁有算力優(yōu)勢的AI董事對公司事前、事中與事后面臨的法律風(fēng)險更敏感,既能精準有效地識別風(fēng)險,也能從容不迫地按照既定優(yōu)先序啟用風(fēng)險控制工具箱。實際上,算法的開發(fā)與運行成本比技術(shù)創(chuàng)新與商業(yè)判斷的成本更低廉、收益更明顯、風(fēng)險更可控。其二,無欲則剛的AI董事天然缺乏追求私利的沖動,能夠心無旁騖地遵循規(guī)則行事。他們捍衛(wèi)法律權(quán)威的立場更堅定,維護公司及其全體股東利益的態(tài)度更堅決,更不容易被圍獵或收買。其三,AI董事沒有世俗羈絆,能夠有效避免人情因素的干擾。其四,尊崇規(guī)則的AI董事天然契合與加持法治,而疏遠與弱化人治。公司治理最缺乏的董事人才是將法治意識入腦入心、推動公司行穩(wěn)致遠的奉法者。其五,尊法依規(guī)是龐大的數(shù)字工程,盡管監(jiān)管依規(guī)日趨復(fù)雜精細,崇尚規(guī)則、擅長算法作業(yè)的AI董事卻能得心應(yīng)手。

    (二)AI董事的德商優(yōu)勢

    法治與倫理如鳥之雙翼、車之兩輪,相輔相成,良性互動。就德商而言,AI董事踐行商業(yè)倫理的意識有望超越自然人董事。其一,AI董事不具個人私利,不會陷入利益沖突。制度再完美無缺,亦難根除與馴服人性中的貪婪、懶惰等弱點,而AI董事的出現(xiàn)有助于根除自然人固有的非理性基因與道德風(fēng)險。其二,AI董事缺乏關(guān)聯(lián)人紐帶,在履職時能夠避免不透明、不嚴謹?shù)年P(guān)聯(lián)交易。其三,AI董事算法可植入高水準的商業(yè)倫理基因,全面善待股東、職工、債權(quán)人、供應(yīng)商、消費者、社區(qū)居民、自然資源與生態(tài)環(huán)境等利益相關(guān)者。[1]不過,AI董事的德商基因在相當程度上受制于研發(fā)者的技術(shù)倫理水準。多個國家以及國際組織相繼發(fā)布對于AI倫理規(guī)制的規(guī)范。例如2023年9月7日,我國科技部等部門印發(fā)了《科技倫理審查辦法(試行)》,歐盟2019年發(fā)布了《可信賴人工智能倫理指南》。在全球與國內(nèi)倫理標準的加持與約束之下,茁壯成長的AI董事有望滿足并超越自然人董事的德商標準。

    (三)AI董事的智商優(yōu)勢

    智商是終身學(xué)習(xí)、持續(xù)創(chuàng)新、破解難題、戰(zhàn)勝挑戰(zhàn)的創(chuàng)造力。智商不是與生俱來的,也不是靜止不變的,其具有強大的可塑性。AI邁入人工通用智能(AGI)時代,已在兩方面趕超人類智慧,至少不分伯仲:一是在執(zhí)行復(fù)雜任務(wù)時不再依賴嚴格的外部提示或特定指令;二是有能力從經(jīng)驗與知識的積累中持續(xù)深度學(xué)習(xí),不斷增長智慧。AI董事的智商有望超越自然人董事。其一,與特定歷史時期的特定人類群體相比,AI蘊含無限智慧的增長潛能。當然,放置于特定階段和時期,AI終究是有限智慧,而非終極智慧、絕對權(quán)威與至善美德的化身。其二,就工作體能而言,不知疲倦、全天候工作、不計回報、永不退休的AI董事對于排山倒海的高壓挑戰(zhàn)能夠進退裕如,游刃有余。其三,就決策精準度而言,AI董事的超級算力使其具備作出科學(xué)精準決策的能力。其四,就自我突破能力而言,AI董事超速精準的大數(shù)據(jù)分析能力、樂在其中的終身持續(xù)深度學(xué)習(xí)能力,使肉身董事難以望其項背。其五,就心理素質(zhì)而言,合格AI在市場的驚濤駭浪(包括金融危機、經(jīng)濟危機、政治危機與社會危機)面前,具備沉著應(yīng)對的戰(zhàn)略決策能力,而自然人難以擺脫習(xí)慣性或間歇性的非理性思維方式。

    (四)AI董事的情商優(yōu)勢

    情商是行為人對他人乃至宇宙萬物的共情心與同理心,以及獲得相對人與公眾內(nèi)心尊重與信賴的人際溝通能力。情商高的董事始終具有溫度、厚度與可信度。相較于自然人董事而言,AI董事的情商似乎乏善可陳,殊不知,AI董事也有值得公司利益相關(guān)者尊重與信賴的美德。其一,AI董事的法商、德商、智商優(yōu)勢會自然而然地轉(zhuǎn)化為情商。其二,AI董事不存在監(jiān)守自盜的道德風(fēng)險。其三,AI董事亦有同理心。同理心似乎并非區(qū)分人類與仿生人的試金石。一些頭部科技公司也預(yù)言AI未來的突破重點是為其賦予情感。[2]其四,AI董事的情商深植于對公司使命與存在價值的深刻理解。AI董事有能力在追求公司營利最大化目標的同時,關(guān)愛中小股東以及其他利益相關(guān)者,并致力于在利益沖突時迅速提取公司利益相關(guān)者的最大核心利益公約數(shù),凝聚最大共識。其五,增強AI技術(shù)的可信賴度已成國際共識。不過,AI系統(tǒng)本身要值得信賴,作為系統(tǒng)生命周期所有流程的參與者也必須具有可信度。

    二、AI董事的法律主體資格之爭

    既然實然現(xiàn)象并不簡單等同于應(yīng)然規(guī)范,對實然現(xiàn)象的客觀描述就不能代替對應(yīng)然制度的價值判斷。若公司法規(guī)定的董事范圍不拘泥于自然人,則AI可以名正言順地成為適格董事;否則,AI在解釋論上無法成為適格董事,只能坐等立法者的鼎新革舊。因此,反思現(xiàn)行公司法對自然人董事的立法態(tài)度,有助于精準評估AI成為公司董事時面臨的制度障礙。

    (一)董事僅限于自然人的傳統(tǒng)制度羈絆及其松綁

    環(huán)顧全球,多數(shù)立法例仍將董事資格限定于自然人。英國《2006年公司法》第155條曾要求公司至少有一名自然人董事;自然人擔(dān)任董事職位時,若以單一公司或以其他方式擔(dān)任職務(wù),亦滿足該要求。2015 年英國《小微企業(yè)與就業(yè)法》第87條第4項改弦易轍,刪除第155條,增設(shè)第156A條,禁止法人擔(dān)任董事。該條款自2024年3月4日起生效。 法國、荷蘭、比利時、西班牙等歐陸國家開始承認法人董事,但德國依舊保守。德國《有限責(zé)任公司法》第6條第2項規(guī)定,只有具備完全法律行為能力的自然人才能擔(dān)任董事;《股份法》第76條第3條亦規(guī)定只有具有法律行為能力、不受任何限制的自然人才能成為董事會成員。

    美國《模范商事公司法》第8.03(a)條允許任何公司(包括上市公司)的董事會由一名或多名個人(individuals)組成。2023年版《特拉華州普通公司法》第141條第2項亦要求董事會由一名或一名以上董事組成,且每位董事須為自然人(natural person)?!皞€人”與“自然人”雖用詞不同,但含義相同。這意味著,董事僅限于有血有肉的自然人。既然公司法明文要求董事僅限于自然人,AI董事的名分確認就存在制度障礙。遂有學(xué)者主張修改《特拉華州普通公司法》,允許AI系統(tǒng)擔(dān)任董事,授予AI法人資格(legal personality)。(4)該建議迄今尚未被采納的原因很多。一是對AI董事的適格性與問責(zé)機制尚存認識分歧;二是現(xiàn)行公司法對人類歷史上推行的資本人格化(確認公司為法人)的第一次制度創(chuàng)新的負面作用(如股東濫用公司法律人格、逃避債務(wù)與稅收的行為)仍心有余悸,對技術(shù)人格化(確認AI技術(shù)為法人)的第二次制度創(chuàng)新更是戰(zhàn)戰(zhàn)兢兢,如履薄冰;三是各國立法者都不愿意成為“第一個吃螃蟹”的制度試錯者。

    (二)允許法人擔(dān)任董事的制度創(chuàng)新

    在法人制度尤其是公司制度高度發(fā)達的今天,不少法域開始突破董事僅限于自然人的金科玉律,允許與鼓勵法人擔(dān)任董事?!斗▏谭ǖ洹?001年增設(shè)的第225-20條規(guī)定了法人董事制度:“法人可以被任命為董事。在任命時,法人必須指定一名常駐代表。該代表應(yīng)遵守相同的條件和義務(wù),并承擔(dān)與其以自己名義擔(dān)任董事時相同的民事和刑事責(zé)任,但不影響其所代表的法人所應(yīng)承擔(dān)的連帶責(zé)任?!币滥康慕忉?,受法人董事之托而擔(dān)任常駐代表的主體只能是自然人?!逗商m民法典》第2:11條也允許執(zhí)法人擔(dān)任董事,并明確了法人董事的問責(zé)制度:“法人因其擔(dān)任另一法人的董事身份而承擔(dān)責(zé)任時,在產(chǎn)生該責(zé)任時擔(dān)任法人董事之董事亦應(yīng)承擔(dān)連帶責(zé)任?!?《比利時公司法》第7:85條第1款與之相若。該法第 2:55條與《西班牙公司法》第 212 條都允許法人出任董事,且要求指定自然人作為法人董事代表。

    我國香港地區(qū)《公司條例》對法人董事制度采取了雙軌制。就公眾公司而言,該條例第456條第2款禁止法人團體(body corporate)擔(dān)任公眾公司、屬某個有上市公司為成員的公司集團的成員的私人公司及擔(dān)保有限公司的董事;第3款明確任何違反第2款而作出的委任均屬無效。就私人公司而言,該條例第457條要求私人公司須有最少一名自然人董事,第643條要求私人公司董事登記冊載有每名董事的以下詳情:(a) 如有關(guān)董事是自然人,其現(xiàn)時的名字及姓氏、前用名字或姓氏及別名,通常住址及通訊地址,身份證號碼或所持有的任何護照的號碼及簽發(fā)國家;(b) 如有關(guān)董事是法人團體,其法人名稱及注冊辦事處或主要辦事處的地址。

    有論者指出,世界首位AI董事VITAL的法律地位迄今尚未獲得香港地區(qū)《公司條例》的確認,它在法律上被其他人類董事僅視為“具有觀察員地位的董事會成員”。(5)殊不知,《公司條例》第456條并未禁止法人團體擔(dān)任非上市的私人公司的董事,也未明文允許AI成為適格董事。相反,該條例第643條允許法人團體擔(dān)任私人公司董事?;凇胺o禁止即自由”的理念,倘若VITAL所在公司并非公眾公司而系私人公司,倘若VITAL也具備法人資格,則香港地區(qū)《公司條例》并不禁止VITAL成為適格的法人董事。

    允許法人董事的制度創(chuàng)新對全球公司法大膽解縛、允許AI董事進入董事會具有啟發(fā)意義。這種全新共識可運用三段論表述如下:法人有資格擔(dān)任董事(大前提),AI是法人(小前提),AI可任董事(結(jié)論)。前已述及,我國《公司法》第178條并未禁止法人擔(dān)任董事。法人董事制度有助于降低自然人董事作為股東代表的履職風(fēng)險、強化董事?lián)?zé)能力、破解一仆難侍兩主的道德困境,堪稱一舉多得。

    (三)法律應(yīng)否確認AI法人資格的立法論之爭

    我國近年來的數(shù)字法研究主要聚焦于產(chǎn)權(quán)與交易維度,但對新型數(shù)字主體尤其是AI的獨立法人地位仍缺乏深入研究。而國外法學(xué)界對于AI的法律主體資格問題的研究成果較為豐富。

    早在1992年,美國洛約拉法學(xué)院教授索倫(Lawrence B.Solum)就敏銳地意識到AI的法律人格不容忽視,并在《論AI的法律人格》一文中慨嘆:“我們的人格理論無法為處于法律地位邊界的深水區(qū)提供先驗圖表。對于AI是否應(yīng)被授予某種形式的法人資格問題,在我們的生命形式面臨生死攸關(guān)的挑戰(zhàn)之前,我們無法給出答案。但是,當我們每天與AI的接觸確實提出了人格問題時,它們可能會改變我們回答問題的方式”(6)。 受迪克的科幻小說的啟發(fā),美國南卡羅來納法學(xué)院教授哈伯德(F.Patrick Hubbard)指出,計算機系統(tǒng)只要具備以下三大能力,就應(yīng)被授予合法的人格權(quán):一是與環(huán)境互動并參與復(fù)雜思考和交流的能力,二是關(guān)注實現(xiàn)其人生計劃的自我意識, 三是至少基于互惠的自身利益而與他人生活在社區(qū)中的能力。為證成人格能力測試,他還探討了自由人格理論的性質(zhì)和基礎(chǔ),檢視了是否對測試合格者授予自主地位的原因,提出了根據(jù)現(xiàn)有和潛在技術(shù)可能被授予自我所有權(quán)的人工創(chuàng)造的四種范式(公司、改良人類、改良動物與機器)。(7)佛羅里達大學(xué)萊文法學(xué)院教授瑞依(Robert J.Rhee)主張,當AI獲得自我意識、能動性和獨特智能時,就將獲得本體論人格(ontological personhood),法律可以賦予AI法人地位,就像過去賦予傳統(tǒng)商業(yè)公司人格地位一樣,而不再將AI作為財產(chǎn)納入公司法邊界之內(nèi)。(8) 美國佛羅里達州立大學(xué)法學(xué)院教授拜仁(Shawn Bayern)率先探討了比特幣等獨立財富軟件管理自主企業(yè)的可能性,鑒于軟件可以自負其責(zé)地開展經(jīng)營,無需依賴傳統(tǒng)金融系統(tǒng)中介或現(xiàn)有自然人或法人的財產(chǎn),他主張法律自治實體(如無人有限責(zé)任公司)是事實上業(yè)已存在的自治系統(tǒng)可以采用的有效法律結(jié)構(gòu)。(9) 英國倫敦大學(xué)教授佩特林(Martin Petrin)認為,AI管理將對公司目標進行更復(fù)雜和精確的校準,提高追求目標的清晰度和透明度,股東和管理層之間的代理成本難題可以通過AI管理予以解決。接踵而來的核心議題就是,研發(fā)用于設(shè)計、控制和追究算法責(zé)任的事前標準。(10)

    也有悲觀主義者。澳大利亞蒙納士大學(xué)商學(xué)院講師瑞奇(Sergio Alberto Gramitto Ricci)反對AI被任命為人工董事或取代人類董事會,認為AI董事無法在混合董事會中與人類董事整合。理由是,AI的使用將伴隨著無法克服的不負責(zé)任的風(fēng)險,并可能扭曲人類董事自由、獨立的判斷。人類董事要么對超級智能AI機器言聽計從,要么認真解釋自己比 AI更了解決策的原因。無論AI是否被授予法律人格,除非 AI 具有意識和良知,AI機器或人工董事都無法被追責(zé)。(11)這些風(fēng)險的分析確實有客觀的依據(jù),但是發(fā)展總是伴隨風(fēng)險的存在,殊不知,AI董事取代自然人董事是市場選擇與公司自治的結(jié)果,而不是法律或政府強制的結(jié)果。

    美國有些州近年來已承認由智能合約運營的去中心化自治組織DAO(Decentralized Autonomous Organization)的法人地位。懷俄明州率先在2021年允許DAO注冊為有限責(zé)任公司(LLC),取得法人資格。2023年,佛蒙特州亦步亦趨,猶他州更允許創(chuàng)建具有法人資格的有限責(zé)任去中心化自治組織(LLDAO)。股東可享受有限責(zé)任待遇,但須將附屬章程(bylaw)提交公司監(jiān)管機構(gòu)備案。嚴格說來,支撐DAO的自治運營的法律基礎(chǔ)是凝聚各方當事人承諾中業(yè)已明確約定的智能合同,而非AI董事享有的相機行事、臨機處置的決策權(quán)、執(zhí)行權(quán)與監(jiān)督權(quán)。雖然DAO法人地位的確立并不意味著AI董事法人地位的確立,但上述各州對LLC與DAO的制度融合試驗預(yù)示著董事會制度與AI技術(shù)的融合也并非不可能。

    從法律人格的外延來看,法律授予AI獨立法律人格的選項其實并不拘泥于傳統(tǒng)的公司法人。2014年版《布萊克法律詞典》將“人(person)” 定義為“生物人(a human being)”,將“擬制人(artificial person)”定義為“一是由法律創(chuàng)建并被賦予人類某些法律權(quán)利和義務(wù)的實體,例如公司;二是為實現(xiàn)法律推理的目的,或多或少地被視為人的真實或虛構(gòu)的存在”;將“實體(entity)”定義為“具有區(qū)別于其成員或所有權(quán)人的法律身份的組織”。法律的職責(zé)是賦予市場自由與公司創(chuàng)新,而不是相反。因此,立法者有權(quán)基于公序良俗或公共政策而擬制出第二種意義上的法律人格。

    (四)我國《公司法》第178條的目的解釋

    我國《公司法》第178條規(guī)定了不得擔(dān)任董監(jiān)高的五項消極要件。該條款似乎僅允許自然人董事,而不允許法人董事或AI董事。但此非正解。其一,從文義解釋看,該條款既未明文將董事限定于自然人,亦未明文禁止法人等主體擔(dān)任董事。其二,第1款第1項禁止無民事行為能力人或限制民事行為能力人擔(dān)任董事,但“民事行為能力”并非自然人所專屬。法人亦有民事行為能力。其三,《公司法》第178條第1款第2項提及的貪污、賄賂、侵占財產(chǎn)、挪用財產(chǎn)等犯罪主體主要是自然人,但不限于自然人。因為《刑法》第30、31條規(guī)定了單位犯罪。其四,該條第1款第3項提及的對公司、企業(yè)的破產(chǎn)負有“個人責(zé)任”的董事或廠長、經(jīng)理,第4項提及的因違法被吊銷營業(yè)執(zhí)照、責(zé)令關(guān)閉的公司、企業(yè)的法定代表人并負有“個人責(zé)任”者,第4項提及的因所負數(shù)額較大債務(wù)到期未清償被列為失信被執(zhí)行人的“個人”確系針對自然人出任董事的資格而量身定制,立法者無需在這三種場合提及法人。其五,《公司法》未明確要求董監(jiān)高必須由自然人出任,亦未禁止非自然人董事。這絕非法律漏洞,更非無心之失,而是為新生事物預(yù)留制度空間的先見之明。

    自然人雖系傳統(tǒng)董事范疇中的經(jīng)典類型,但并非董事的唯一類型。既然公司及其全體股東基于理性自治而自主選擇AI董事、取代自然人董事,公司法就要與時俱進,玉成其事。法人或AI擔(dān)任董事在我國《公司法》框架下皆無法律障礙。但因立法者未明列自然人之外的法律主體,在實踐中仍會仁智互見。

    三、AI在董事會治理結(jié)構(gòu)中的法律角色選擇

    法律人格制度的演變歸根結(jié)底取決于生產(chǎn)力的發(fā)達程度與市場經(jīng)濟基礎(chǔ)的內(nèi)在需求。因此,是否授予AI法律人格的立法決策取決于制度需求及其運行的成本效益權(quán)衡。無論基于AI作為人類追求幸福的手段的工具(客體)主義認識論,抑或基于AI與人類眾生平等的本體(主體)主義認識論,順乎AI技術(shù)創(chuàng)新的歷史潮流,確認AI的法律主體地位,積極審慎地發(fā)揮AI在公司治理中的功能,似乎都不存在價值觀層面的認知障礙。

    (一)AI董事法律人格的多元化類型

    AI董事獲取的法律人格形式存在靈活多樣的制度設(shè)計方案。第一選擇是將AI董事納入法人范疇。法人也是人,是法律擬制的法律人格。我國《民法典》將民事主體分為自然人、法人和非法人組織三類?!睹穹ǖ洹返?7條確認:“法人是具有民事權(quán)利能力和民事行為能力,依法獨立享有民事權(quán)利和承擔(dān)民事義務(wù)的組織”。據(jù)此,適格的AI董事作為法人,具有獨立的權(quán)利能力、行為能力、訴訟或仲裁能力,獨立享有民事權(quán)益(如實體權(quán)利、訴權(quán)與仲裁權(quán)),獨立承擔(dān)法律責(zé)任(包括民事責(zé)任、行政處罰、刑事責(zé)任與信用制裁)。

    第二選擇是將AI董事參酌自然人處理,由公司法賦予其準自然人的法律人格待遇。鑒于“自然人”的外延寬于“公民”的概念,為預(yù)防AI董事不當染指公法生活,AI董事的法律人格宜準用民商法中的自然人制度。

    第三選擇是將AI董事參酌信托財產(chǎn)處理,由AI董事的研發(fā)商或供應(yīng)商以自己的名義、但為了AI董事的利益而行使權(quán)利、履行義務(wù)。我國《信托法》第37條確認信托財產(chǎn)的獨立性,強調(diào)嚴格區(qū)分受托人的固有財產(chǎn)與信托財產(chǎn),并強調(diào)基于信托財產(chǎn)的民事責(zé)任的獨立性。信托法思路有助于限定AI董事的義務(wù)、責(zé)任與風(fēng)險的范圍,預(yù)防公司、受托人因AI董事的履職過錯而蒙受不測。但待解問題有三:一是要明確AI董事信托財產(chǎn)的受益人究竟是誰;二是AI董事的信托財產(chǎn)地位亟待夯實,信托財產(chǎn)的獨立地位與其說是獨立主體,不如說是獨立客體;三是制度運行成本需要控制,由于信托財產(chǎn)管理離不開受托人(管理人或托管人),管理費或托管費成本不可小覷。

    第四選擇是否定AI董事的法律人格或獨立財產(chǎn)地位,而將其視為研發(fā)商或供應(yīng)商對公司提供的服務(wù)產(chǎn)品。若公司、股東或債權(quán)人等利益相關(guān)者因AI董事軟件的使用而遭受損害,直接對研發(fā)商或供應(yīng)商主張侵權(quán)責(zé)任(包括但不限于產(chǎn)品責(zé)任)。

    上述四個思路各有其美,無法簡單斷言孰優(yōu)孰劣。與其交給立法者預(yù)先強制作出單一選擇,不如留待公司及其全體股東的理性自治。章程自治優(yōu)于法律強制。若公司對此舉棋不定,法人型AI董事不失為化繁為簡的默認菜單。

    (二)法人化AI董事的市場準入門檻

    《民法典》第58條要求法人有自己的名稱、組織機構(gòu)、住所、財產(chǎn)或者經(jīng)費;法人成立的具體條件和程序,依照法律、行政法規(guī)的規(guī)定;設(shè)立法人,法律、行政法規(guī)規(guī)定須經(jīng)有關(guān)機關(guān)批準的,依照其規(guī)定。該條款為立法者精準設(shè)定法人化AI董事的市場準入門檻預(yù)留了制度接口。為鼓勵競爭、打破壟斷,法人化AI董事宜采登記(注冊)制,不宜設(shè)立行政許可、采行批準(核準)制。建議制定《公司數(shù)字化促進法》或《AI董事法》。為降低制度成本,法人化AI董事為公司,并受《公司法》調(diào)整。為確保AI董事的“優(yōu)生優(yōu)育”,立法者可規(guī)定法人化AI董事必須滿足的法定門檻,包括實體要件(技術(shù)的可行性、倫理性、安全性與可持續(xù)性;技術(shù)風(fēng)險與法律風(fēng)險的防控能力)與程序門檻(注冊與公示程序)。

    信用是法人化AI董事賴以存在與發(fā)展壯大的前提與基礎(chǔ),包括資本信用、資產(chǎn)信用與人格信用三個維度。為預(yù)防AI董事破壞公司發(fā)展、危害交易安全,法人化AI董事的設(shè)立人應(yīng)認繳并實繳與法人化AI董事履職風(fēng)險相適應(yīng)的注冊資本。注冊資本可采認繳制,但須遵守《公司法》第47條規(guī)定的最長五年的法定實繳期限與第54條規(guī)定的出資加速到期規(guī)則。倘若注冊資本金額顯著過低、構(gòu)成股權(quán)資本顯著不足的情形,或者即使認繳注冊資本金額不菲,但若逾期未能實繳,債權(quán)人有權(quán)訴請法院揭開法人化AI董事的法人面紗,并由設(shè)立人對AI董事債務(wù)承擔(dān)連帶責(zé)任。

    四、賦予AI董事獨立法律人格的多元化立法方案

    應(yīng)否、如何賦予AI董事法律人格,既是法律決策與政治決策,也是技術(shù)決策與商業(yè)決策。這取決于立法者的開放包容,也取決于公司的理性自治。前者需要凝聚社會各界對公共政策的共識,后者離不開股東權(quán)衡股東中心主義價值觀與公司社會責(zé)任倫理的商業(yè)判斷。國家意志與公司意思相輔相成,不可或缺。

    (一)設(shè)立可資公司自由選擇的AI董事模式

    理性自治是公司行穩(wěn)致遠、步入善治境界的不二法門。公司可自主選擇AI賦能董事會的多元化模式。以AI參與公司治理的自主性與能動性為準,AI進入董事會可分為事務(wù)型、咨詢型、人機共治型與AI自主型四種模式。

    在事務(wù)型模式下,AI負責(zé)完成公司確定的產(chǎn)品生產(chǎn)或日常事務(wù)性管理工作,無咨詢建議權(quán),更無決策權(quán)。對于核心商業(yè)模式嚴重依賴AI技術(shù)的公司,董事會應(yīng)下設(shè)AI委員會與首席AI官,以有效管控AI技術(shù)異化或失靈的風(fēng)險。在咨詢型(人主機輔)模式下,AI為董事會或其下屬專門委員會決策提供咨詢建議,旨在強化董事會決策功能。董事會成員依然是自然人。AI雖系決策輔助工具,但并不分享決策權(quán)。在人機共治型模式下,AI僅占董事會及其專門委員會的部分席位(二分之一或三分之一),與自然人董事共同履職,行使治理參與權(quán)的具體方式可由章程自由設(shè)計。AI董事可兼任董事長,負責(zé)召集與支持董事會會議,行事表決權(quán)。在AI自主型模式下,AI全面掌控董事會及其下屬專門委員會的機構(gòu)及其職責(zé),董事會不設(shè)自然人董事。AI董事是由特定研發(fā)商研發(fā)的單一AI產(chǎn)品,抑或多家研發(fā)商研發(fā)的多個AI,亦委諸公司自治。

    但必須強調(diào)的是,AI行使的公司治理權(quán)再大,也無權(quán)僭越股東主權(quán)。我國《公司法》第68條規(guī)定“股東會是公司的權(quán)力機構(gòu)”,既確認了股東會中心主義治理模式,也夯實了股東中心主義價值觀。股東與董事高管之間存在委托代理關(guān)系。公司經(jīng)營管理權(quán)實乃被代理人股東授予代理人的代理權(quán)。但為降低成本、提高效率,股東會有權(quán)通過章程或股東會決議授權(quán)AI董事會行使本屬股東會、管理層享有的決策權(quán)與執(zhí)行權(quán)。AI的卓越領(lǐng)導(dǎo)力可以滲透于對外投資與并購交易的盡職調(diào)查、審慎決策、平等談判、契約起草與履約風(fēng)險評估等環(huán)節(jié)。AI代表公司的業(yè)務(wù)執(zhí)行活動創(chuàng)設(shè)的法律關(guān)系與法律后果直接約束公司。

    (二)穩(wěn)中求進的試點漸進模式

    公司倘若對以上四種模式的選擇舉棋不定,可先行試點觀察比較人機治理模式的不同效果。公司在自然人主導(dǎo)的董事會、監(jiān)事會正常運行的同時同步模擬運行AI治理模式。兩套治理體系比肩而立,平行運轉(zhuǎn)。股東會可在理性評估治理實效的基礎(chǔ)上作出適合公司自身情況的睿智選擇。若人不如機,公司應(yīng)降薪、換將、追責(zé),直接導(dǎo)入AI治理模式。若機不如人甚至給公司造成損失,公司可繼續(xù)采用自然人治理模式,并追究AI研發(fā)商、供應(yīng)商的產(chǎn)品責(zé)任。

    我們對AI董事既不能消極抵制,也不能揠苗助長。因為,人類董事與人工董事之選擇不是國家強制的結(jié)果,而是市場競爭的結(jié)果。公司既可將公司治理權(quán)力授予自然人董監(jiān)高,也可將其授予AI,促進AI董事、AI監(jiān)事與AI高管的健康成長。公司即使用AI董事取代自然人董事,但若AI董事缺乏競爭力、辜負公司及其股東們的信賴,自然人董事仍會榮耀回歸。即使由人類董事與AI董事組成的復(fù)合董事會成為未來董事會的主流模式,也不排除其他模式的自由探索與大膽嘗試。

    (三)法人化AI董事的技術(shù)安全標準

    在全球多邊組織層面,七國集團(G7)在2023年達成了《人工智能國際指導(dǎo)原則》。歐洲理事會2024年5月通過了全球首部在其46個成員國具有法律拘束力的AI國際公約《人工智能與人權(quán)、民主和法治框架公約》。歐盟和美國目前在雙邊技術(shù)伙伴關(guān)系(貿(mào)易和技術(shù)理事會)的基礎(chǔ)上尋求就支撐值得信賴和負責(zé)任的AI原則達成共識。

    我國應(yīng)鼓勵A(yù)I董事制度創(chuàng)新,基于服務(wù)型政府理念,監(jiān)管者應(yīng)科學(xué)確定AI董事依規(guī)高效履職的強制性技術(shù)標準,并鼓勵A(yù)I行業(yè)自我加壓、不斷提高AI董事的履職標準。研發(fā)商要致力于為不同產(chǎn)業(yè)與規(guī)模的公司量身定制個性化的AI董事應(yīng)用程序。市場失靈時,監(jiān)管者不失靈。一旦市場機制失靈、異化或濫用,監(jiān)管者必須挺身而出,維護市場秩序,激活市場機能,踐行契約正義,促進公平交易,鼓勵自由競爭。監(jiān)管旨在維護市場,而非取代市場,包括事前、事中與事后三層次。[3]這就需要監(jiān)管者在市場無形之手失靈時發(fā)揮有形之手的市場康復(fù)功能,并在謙抑性與能動性之間保持動態(tài)平衡。

    (四)法人化AI董事登記制度

    公司登記制度是公司法的核心制度,橫跨公司法與行政法兩大板塊,覆蓋公司全生命周期(含設(shè)立登記、變更登記與注銷登記),事關(guān)投資興業(yè)、并購重組、公司退出、公司治理、股權(quán)保護、股權(quán)流轉(zhuǎn)、交易安全與公司利益相關(guān)者的安危,也是法人化AI董事制度得以維系的壓艙石。為充分尊重交易伙伴的知情權(quán)、選擇權(quán)與安全保障權(quán),AI董事自身要登記,聘用AI董事的公司也須登記。

    登記信息具有保護善意第三人合理信賴、對抗非善意第三人道德風(fēng)險的雙重公示公信效力。外觀主義不是例外規(guī)則,而系一般原則。為精準識別善意相對人,建議采取理性人標準為主、主觀標準為輔的折中標準,將理性人界定為具有通常智商、情商、法商與德商的普通人。推進AI董事登記事項的統(tǒng)一化、系統(tǒng)化、開放化、數(shù)字化與透明化。將公司登記事項細化為絕對必要登記、相對必要登記與任意登記三類事項?;诘怯?、公示與查詢“三同時”原則,構(gòu)建公眾友好型AI董事登記信息公示平臺。《公司法》有十次提及國家企業(yè)信用信息公示系統(tǒng)(簡稱“企信網(wǎng)”)。但目前企信網(wǎng)的美中不足是不新、不準、不全。因此,確保AI董事公示事項的真實性、準確性與完整性,AI董事及其設(shè)立人與采用公司都責(zé)無旁貸。

    (五)法人化AI董事的精準追責(zé)制度

    黨的二十屆三中全會通過的《中共中央關(guān)于進一步全面深化改革、推進中國式現(xiàn)代化的決定》再次強調(diào):“完善中國特色現(xiàn)代企業(yè)制度,弘揚企業(yè)家精神?!薄豆痉ā穼ⅰ巴晟浦袊厣F(xiàn)代企業(yè)制度,弘揚企業(yè)家精神”納入《公司法》立法宗旨,還同步設(shè)計了董監(jiān)高的權(quán)利、權(quán)力、義務(wù)與責(zé)任?;谧匀蝗硕屡cAI董事一視同仁的平等原則,企業(yè)家精神也平等適用于AI董事。

    AI董事違反對公司的信托義務(wù)時,依《公司法》第188條對公司擔(dān)責(zé);侵害股東權(quán)益時,依《公司法》第190條對股東擔(dān)責(zé);因故意或重大過失的履職行為給他人造成損害時,依《公司法》第191條對第三人擔(dān)責(zé)。既要健全公平問責(zé)規(guī)范體系,也要建立合理減免責(zé)任制度。AI董事問責(zé)能力取決于其職位的含權(quán)量、實際控制力與影響力,也取決于所在公司治理的實況。為鼓勵A(yù)I董事善意冒險,民事責(zé)任追究應(yīng)以過錯責(zé)任為主、嚴格責(zé)任為例外;有限責(zé)任為主、無限責(zé)任為輔。[4]為精準識別AI董事的過錯,建議采取法商、德商、智商、情商合一的理性AI董事標準。為預(yù)防問責(zé)亂象,應(yīng)以責(zé)任自負為主、連帶責(zé)任為輔。董監(jiān)高對第三人不負責(zé)任為原則,例外負責(zé)為例外。為精準問責(zé),建議精準甄別AI董事個人責(zé)任與公司法人責(zé)任。為鼓勵A(yù)I董事銳意進取、善意試錯,建議導(dǎo)入商事判斷規(guī)則(BJR),并允許公司自主豁免或減輕AI董事責(zé)任。

    (六)法人化AI董事的責(zé)任保險制度

    有人指出,損害賠償責(zé)任是在董事會中使用AI的主要障礙。(11)不少企業(yè)家在創(chuàng)建和使用AI和ML(機器學(xué)習(xí))技術(shù)時對此類風(fēng)險渾然不知,現(xiàn)有法律補救措施(版權(quán)、追責(zé)和反黑客法)亦于事無補。為緩解該擔(dān)憂,有人提出了開發(fā)AI/ML保險的對策。(12)

    我國2023年《獨立董事管理辦法》第40條允許上市公司建立獨董責(zé)任保險制度,降低獨董正常履職可能引致的風(fēng)險。在這一歷史背景下,2023年《公司法》第193條允許各類公司在董事任職期間為其因履職而承擔(dān)的賠償責(zé)任投保責(zé)任險?!豆痉ā吩试S而不強制公司投保董事責(zé)任險的態(tài)度有利有弊。利在于:公司為董事投保責(zé)任險具有合法性與正當性。若公司自愿為AI董事投保責(zé)任險,少數(shù)股東即使反對,也無法撼動責(zé)任險的效力。弊在于:推進董事責(zé)任保險的力度失之于柔。若公司消極抵制董事責(zé)任險,AI董事就無權(quán)強制公司購買責(zé)任保險。但不強制的立法理由也很充分:公司的類型、規(guī)模與股權(quán)結(jié)構(gòu)千差萬別,立法者無法采取“一刀切”政策。

    為解除AI董事后顧之憂、保障受害人及時足額獲償、促進責(zé)任險市場可持續(xù)發(fā)展,建議國家金融監(jiān)督管理總局明確AI董事責(zé)任險產(chǎn)品的核心要素,合理界定免賠條款適用范圍。董事責(zé)任險僅覆蓋AI董事違反勤勉義務(wù)的責(zé)任。違反忠誠義務(wù)的惡意背信屬保險責(zé)任除外條款,否則,會助長見利忘義的道德風(fēng)險。鑒于責(zé)任險覆蓋的董事疏忽懈怠具有可責(zé)難性,責(zé)任險合同應(yīng)約定保險公司在向權(quán)利人支付保險賠償金時先行扣除被保險AI董事的自負賠償額。借鑒德國《股份法》第93條第2項,建議預(yù)扣額不低于權(quán)利人獲賠總額的10%。

    為落實股東中心主義價值觀,建議章程將AI董事責(zé)任險的購買決策權(quán)回歸股東會。鑒于《公司法》第193條僅提及董事責(zé)任險,疏漏了監(jiān)事與高管責(zé)任險;建議AI監(jiān)事與AI高管一體納入責(zé)任保險。對于尚不具備法律人格的AI董事服務(wù)軟件而言,若AI董事服務(wù)軟件存在重大設(shè)計缺陷或運行維護缺陷,研發(fā)商或供應(yīng)商應(yīng)當對采用該軟件的受害公司承擔(dān)產(chǎn)品責(zé)任。《民法典》第1202條至1207條專章規(guī)定的產(chǎn)品責(zé)任也適用于AI董事服務(wù)軟件存在缺陷致人損害的侵權(quán)責(zé)任(包括賠償、停止侵害、排除妨礙、消除危險、停止銷售、警示、召回)。為降低產(chǎn)品責(zé)任風(fēng)險,研發(fā)商或者供應(yīng)商也可自主購買產(chǎn)品責(zé)任險。為避免風(fēng)險外溢,聘用AI董事服務(wù)軟件的公司群體亦可在保險市場之外另辟蹊徑。為抱團取暖、以應(yīng)不測,他們可聯(lián)合斥資建立AI董事風(fēng)險專項基金。

    五、結(jié) 語

    技術(shù)與規(guī)則乃公司善治的兩翼。AI董事具有自然人董事無可企及的超級技術(shù)優(yōu)勢,具備理性董事的完全行為能力與“四商合一”的基本素養(yǎng),有助于推進公司治理現(xiàn)代化,提升公司競爭力,是公司法護佑下的科技創(chuàng)新反哺公司制度文明的寶藏。鑒于我國《公司法》并未明文禁止非自然人主體(包括法人)擔(dān)任董事,AI董事走向公司治理舞臺并不存在不可逾越的制度障礙。AI既可進入董事會、監(jiān)事會與管理層,也可在機構(gòu)投資者(如基金管理公司、信托公司)的平臺上大展宏圖。證券投資基金的基金經(jīng)理由AI擔(dān)任的夢想不再遙遠。

    競爭是公司治理的活力之源。公司究竟是否采用、如何聘用AI董事,均屬公司理性自治范圍,最終取決于股東們的最高意志。股東會的權(quán)力機構(gòu)地位無法也不應(yīng)被AI取代。其法律邏輯在于股東中心主義價值觀、股東會中心助理治理模式、公司的營利性以及股東作為剩余索取權(quán)人與最終控制權(quán)人的固有法律地位。一旦AI董事失靈或異化,股東會有權(quán)啟動緊急備災(zāi)系統(tǒng),包括作出緊急股東會決議、組建臨時自然人董事會、臨時托管董事會職責(zé)等方案。

    AI董事肩負著與自然人董事相同的信托義務(wù)(忠實勤勉義務(wù)),也要弘揚企業(yè)家精神。鑒于AI董事履職時會滋生技術(shù)、倫理與法律的風(fēng)險,有必要興利除弊。建議統(tǒng)一法人化AI董事的市場準入門檻,設(shè)定強制性技術(shù)標準,夯實其資本信用、資產(chǎn)信用與人格信用,建立法人化AI董事登記制度,推進AI董事登記事項的統(tǒng)一化、系統(tǒng)化、開放化、數(shù)字化與透明化,增強AI董事登記信息的公示公信效力。

    注釋:

    (1)參見John Armour amp; Horst Eidenmüller.Self-Driving Corporations? Harvard Business Law Review,Vol.10,pp.87-116 (2020).

    (2)參見Tieto . The First Nordic Company to Appoint Artificial Intelligence to the Leadership Team of the New Data-Driven Businesses Unit,Business Wire 2016,https://www.businesswire.com/news/home/2016

    1016005092/en/Tieto-Nordic-Company-Appoint-Artificial-Intelligence-Leadership.

    (3)參見Dictador.The First Robot CEO in a Global Company,https://dictador.com/the-first-robot-ceo-in-a- global-company/;https://dictador.com/#media-about-us.

    (4)參見Sergio Alberto Gramitto Ricci. Artificial Agents in Corporate Boardrooms,Cornell Law Review,pp.869-908 (2020).

    (5)參見Florian M?觟slein. Robots in the Boardroom:Artificial Intelligence and Corporate Law,Oxford Buisness Law Blog(Nov.16,2017),pp.1-19,https://blogs.law.ox.ac.uk/business-law-blog/blog/2017/11/robots-boardroom-artificial-intelligence-and-corporate-law.

    (6)參見Lawrence B.Solum. Legal Personhood for Artificial Intelligences, N.C.L.Rev.1231-1287 (1992).https://scholarship.law.unc.edu/nclr/vol70/iss4/4.

    (7)參見F.Patrick Hubbard. Do Androids Dream? Personhood and Intelligent Artifacts,Temple Law Review 2010,Vol.83,405-474.

    (8)參見Robert J.Rhee. Do AIs Dream of Electric Boards? Nw.U.L.Rev.Vol.119,No.4,2024,pp.1-65.

    (9)參見Shawn Bayern,Of Bitcoins. Independently Wealthy Software,and the Zero Member LLC,Nw. U. L. Rev.1485-1500 (2014).

    (10)參見Martin Petrin. Corporate Management in the Age of AI, Colum. Bus. L. Rev. 965-1030(2019).

    (11)參見Sergio Alberto Gramitto Ricci. Artificial Agents in Corporate Boardrooms,Cornell L. Rev. 869 -908(2020).

    (12)參見Ram Shankar Siva Kumar amp; Frank Nagle.The Case for AI Insurance,Harvard Business Review,Apr.29,2020,https://hbr.org/2020/04/the-case-for-AI-insurance.

    參考文獻:

    [1]劉俊海.論公司社會責(zé)任的制度創(chuàng)新[J].比較法研究,2021(5):21-41.

    [2]盧楨.人工智能寫詩難以企及“詩”的人文內(nèi)核[N].光明日報,2024-09-28(9).

    [3]劉俊海.論要素市場化配置的法治保障體系[J].蘭州大學(xué)學(xué)報(社會科學(xué)版),2020(5):35-37.

    [4]劉俊海.董事責(zé)任制度重構(gòu):精準問責(zé)、合理容錯、寬容失敗——以弘揚企業(yè)家精神為視角[J].交大法學(xué),2023(3):94-119.

    (責(zé)任編輯 吳 楠)

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    韩国av在线不卡| 国产精品99久久久久久久久| 午夜福利高清视频| 精品一区二区免费观看| 99久久无色码亚洲精品果冻| 内地一区二区视频在线| 赤兔流量卡办理| 国产精品一区二区性色av| 欧美日韩精品成人综合77777| 国产一区二区激情短视频| 欧美一级a爱片免费观看看| 国产伦精品一区二区三区四那| 九九在线视频观看精品| 免费电影在线观看免费观看| 最近手机中文字幕大全| 国产精品蜜桃在线观看 | 色哟哟哟哟哟哟| 久久精品夜夜夜夜夜久久蜜豆| 天美传媒精品一区二区| 国产精品久久久久久久久免| 中国美白少妇内射xxxbb| 韩国av在线不卡| 天堂av国产一区二区熟女人妻| 午夜福利在线观看免费完整高清在 | 一区二区三区免费毛片| 亚洲天堂国产精品一区在线| 亚洲第一区二区三区不卡| 久久精品国产亚洲av香蕉五月| 亚洲av第一区精品v没综合| 一进一出抽搐动态| 日韩在线高清观看一区二区三区| 欧美+亚洲+日韩+国产| 99在线人妻在线中文字幕| 高清毛片免费观看视频网站| 乱码一卡2卡4卡精品| av天堂中文字幕网| 国产一区二区在线观看日韩| 色播亚洲综合网| 中出人妻视频一区二区| 欧美激情久久久久久爽电影| 国产午夜精品久久久久久一区二区三区| 国产成人精品婷婷| 能在线免费观看的黄片| 亚洲欧美成人精品一区二区| 黄片无遮挡物在线观看| 日本av手机在线免费观看| 成年免费大片在线观看| 天天一区二区日本电影三级| 久久这里只有精品中国| 午夜老司机福利剧场| 高清毛片免费看| 亚洲av二区三区四区| 男女下面进入的视频免费午夜| 69人妻影院| 久久久国产成人精品二区| 亚洲无线观看免费| 黄片无遮挡物在线观看| 最近中文字幕高清免费大全6| 亚洲一区高清亚洲精品| 黄色一级大片看看| 国产精品一及| 精品人妻熟女av久视频| 国产午夜精品论理片| 自拍偷自拍亚洲精品老妇| 我要看日韩黄色一级片| 国产一级毛片在线| h日本视频在线播放| 亚洲欧洲国产日韩| 国产亚洲av嫩草精品影院| 亚洲在线观看片| 国产极品精品免费视频能看的| www.色视频.com| 丝袜美腿在线中文| 男女那种视频在线观看| 永久网站在线| 欧美一区二区国产精品久久精品| 成人鲁丝片一二三区免费| 熟妇人妻久久中文字幕3abv| 国产伦精品一区二区三区视频9| videossex国产| 国产 一区 欧美 日韩| av.在线天堂| 国产成年人精品一区二区| 久久九九热精品免费| 啦啦啦观看免费观看视频高清| 国产成人精品久久久久久| 久久精品影院6| 成人性生交大片免费视频hd| 尾随美女入室| 日韩欧美精品v在线| 日韩成人av中文字幕在线观看| 麻豆精品久久久久久蜜桃| 国产精品永久免费网站| 不卡视频在线观看欧美| 日韩中字成人| 久久久久久大精品| 秋霞在线观看毛片| 欧美不卡视频在线免费观看| 97超视频在线观看视频| 久久久久性生活片| 国产免费男女视频| 高清日韩中文字幕在线| 中文字幕精品亚洲无线码一区| 日韩在线高清观看一区二区三区| 亚洲成人中文字幕在线播放| 成人无遮挡网站| 乱码一卡2卡4卡精品| 亚洲一区二区三区色噜噜| 国产一区二区在线av高清观看| 国产麻豆成人av免费视频| 久久久欧美国产精品| 蜜臀久久99精品久久宅男| 免费观看人在逋| 成人亚洲精品av一区二区| 国语自产精品视频在线第100页| 看非洲黑人一级黄片| 亚洲五月天丁香| 免费黄网站久久成人精品| 一级黄色大片毛片| 国产黄a三级三级三级人| 最近2019中文字幕mv第一页| 成人高潮视频无遮挡免费网站| 亚洲国产精品sss在线观看| 69人妻影院| 国内久久婷婷六月综合欲色啪| 国产精品久久久久久久电影| 成年女人永久免费观看视频| 精品日产1卡2卡| 国语自产精品视频在线第100页| 丰满人妻一区二区三区视频av| 亚洲国产精品成人久久小说 | 嫩草影院新地址| 亚洲国产精品国产精品| 亚洲激情五月婷婷啪啪| 亚洲精品影视一区二区三区av| 国产精品麻豆人妻色哟哟久久 | 全区人妻精品视频| 亚洲熟妇中文字幕五十中出| 成人二区视频| 亚洲第一区二区三区不卡| 男女边吃奶边做爰视频| 人妻久久中文字幕网| 小说图片视频综合网站| 精品久久国产蜜桃| 别揉我奶头 嗯啊视频| 你懂的网址亚洲精品在线观看 | 可以在线观看的亚洲视频| 欧美日韩国产亚洲二区| 国产精品国产三级国产av玫瑰| 亚洲欧美中文字幕日韩二区| 成人高潮视频无遮挡免费网站| 国产私拍福利视频在线观看| 青春草国产在线视频 | 久久久精品欧美日韩精品| 91精品国产九色| 三级男女做爰猛烈吃奶摸视频| 国产精品一区二区三区四区久久| 麻豆精品久久久久久蜜桃| 成人高潮视频无遮挡免费网站| 亚洲av.av天堂| 亚洲欧美中文字幕日韩二区| 欧美人与善性xxx| 婷婷六月久久综合丁香| 国内精品宾馆在线| 亚洲最大成人中文| АⅤ资源中文在线天堂| 国产91av在线免费观看| 天天躁夜夜躁狠狠久久av| 超碰av人人做人人爽久久| 欧美高清性xxxxhd video| 午夜福利在线观看免费完整高清在 | 午夜久久久久精精品| 日韩欧美 国产精品| 国产精品精品国产色婷婷| 亚洲人成网站在线播| av.在线天堂| 我要看日韩黄色一级片| 十八禁国产超污无遮挡网站| 日韩一本色道免费dvd| 国产黄色小视频在线观看| 直男gayav资源| 身体一侧抽搐| 一区二区三区四区激情视频 | 中国国产av一级| 校园春色视频在线观看| 欧美又色又爽又黄视频| 亚洲四区av| 中文资源天堂在线| 国产精品国产三级国产av玫瑰| 精品无人区乱码1区二区| 欧美不卡视频在线免费观看| 色综合站精品国产| 国产av一区在线观看免费| 一进一出抽搐gif免费好疼| 亚洲av一区综合| 天堂影院成人在线观看| 国产精品无大码| 国产成人影院久久av| 中文字幕av在线有码专区| 婷婷色综合大香蕉| 国产美女午夜福利| 女同久久另类99精品国产91| 一个人免费在线观看电影| 国产在视频线在精品| 大型黄色视频在线免费观看| 亚洲av熟女| 久久久久久久亚洲中文字幕| 成人国产麻豆网| 国产淫片久久久久久久久| 精品少妇黑人巨大在线播放 | 男人的好看免费观看在线视频| 欧美高清成人免费视频www| 久久亚洲精品不卡| 夜夜夜夜夜久久久久| 熟女电影av网| 色播亚洲综合网| 国产激情偷乱视频一区二区| 国产成人91sexporn| 欧美xxxx性猛交bbbb| 久久久久久久久久久免费av| 久久综合国产亚洲精品| 99热精品在线国产| 一区福利在线观看| 久久精品夜色国产| 永久网站在线| 97热精品久久久久久| 亚洲国产日韩欧美精品在线观看| 国产精品免费一区二区三区在线| 特大巨黑吊av在线直播| 亚洲真实伦在线观看| 日韩高清综合在线| 看免费成人av毛片| or卡值多少钱| 成人欧美大片| 免费电影在线观看免费观看| 欧美极品一区二区三区四区| 亚洲自拍偷在线| 男人和女人高潮做爰伦理| 精品少妇黑人巨大在线播放 | 可以在线观看的亚洲视频| 日韩国内少妇激情av| 深夜a级毛片| 春色校园在线视频观看| 国产精品不卡视频一区二区| 黄片无遮挡物在线观看| 久99久视频精品免费| 伦理电影大哥的女人| 亚洲内射少妇av| 国产久久久一区二区三区| 日韩一本色道免费dvd| 日韩欧美精品免费久久| 伦精品一区二区三区| 天堂√8在线中文| 亚洲人成网站在线播| 2022亚洲国产成人精品| 精品一区二区三区视频在线| 国产熟女欧美一区二区| 日日摸夜夜添夜夜爱| 国产在线男女| 亚洲av成人av| 中文在线观看免费www的网站| 中文欧美无线码| 国产精品嫩草影院av在线观看| 天天一区二区日本电影三级| 美女xxoo啪啪120秒动态图| 亚洲在线自拍视频| 久久精品国产清高在天天线| 国产精品久久电影中文字幕| 中文欧美无线码| 亚洲欧美中文字幕日韩二区| 亚洲中文字幕一区二区三区有码在线看| 女人十人毛片免费观看3o分钟| 看片在线看免费视频| 色综合亚洲欧美另类图片| 国产精品一二三区在线看| 永久网站在线| 美女cb高潮喷水在线观看| 搞女人的毛片| 淫秽高清视频在线观看| 免费人成在线观看视频色| 菩萨蛮人人尽说江南好唐韦庄 | 老女人水多毛片| 深夜a级毛片| 一进一出抽搐动态| 一区二区三区高清视频在线| 午夜福利在线观看吧| 熟妇人妻久久中文字幕3abv| 欧美性感艳星| 人人妻人人看人人澡| 亚州av有码| 免费黄网站久久成人精品| 久久99蜜桃精品久久| 成人av在线播放网站| av天堂中文字幕网| 亚洲精品影视一区二区三区av| 欧美激情国产日韩精品一区| 色综合站精品国产| 午夜视频国产福利| 97在线视频观看| 成人美女网站在线观看视频| 国产精品国产三级国产av玫瑰| 国产精品久久电影中文字幕| 少妇丰满av| 美女高潮的动态| 一进一出抽搐gif免费好疼| 亚洲精品国产av成人精品| 久久久久久久久久久免费av| 午夜亚洲福利在线播放| 国产精品不卡视频一区二区| 久久久精品欧美日韩精品| 国产精品电影一区二区三区| 变态另类丝袜制服| 亚洲丝袜综合中文字幕| 有码 亚洲区| 国产成人精品一,二区 | 日韩成人伦理影院| 欧美性猛交╳xxx乱大交人| 成人综合一区亚洲| 亚洲av免费在线观看| 亚洲美女搞黄在线观看| 国产精品av视频在线免费观看| 欧美又色又爽又黄视频| 日韩 亚洲 欧美在线| 午夜福利在线观看免费完整高清在 | 久久久久久久久中文| av又黄又爽大尺度在线免费看 | 啦啦啦韩国在线观看视频| av免费在线看不卡| 精品久久久久久久久久久久久| 国产不卡一卡二| 亚洲精品456在线播放app| 日产精品乱码卡一卡2卡三| 精品人妻熟女av久视频| 久久精品人妻少妇| 热99re8久久精品国产| 人妻夜夜爽99麻豆av| 免费观看的影片在线观看| 美女脱内裤让男人舔精品视频 | 国产精品99久久久久久久久| 欧美日韩乱码在线| 精品少妇黑人巨大在线播放 | 性欧美人与动物交配| 亚洲精品久久久久久婷婷小说 | 极品教师在线视频| 婷婷色综合大香蕉| 成年av动漫网址| eeuss影院久久| 成人鲁丝片一二三区免费| 只有这里有精品99| 久久精品国产99精品国产亚洲性色| 亚洲精品自拍成人| 简卡轻食公司| 波多野结衣高清无吗| 国产人妻一区二区三区在| 悠悠久久av| 亚洲自偷自拍三级| 国产综合懂色| 美女黄网站色视频| 真实男女啪啪啪动态图| 亚洲av男天堂| 真实男女啪啪啪动态图| 又粗又硬又长又爽又黄的视频 | 久久亚洲精品不卡| 99久久成人亚洲精品观看| 亚洲欧洲国产日韩| 天堂影院成人在线观看| 国产精品免费一区二区三区在线| 天堂网av新在线| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 蜜臀久久99精品久久宅男| 午夜激情欧美在线| 欧美日本亚洲视频在线播放| 99久国产av精品| 91av网一区二区| 美女高潮的动态| 亚洲自拍偷在线| 久久久国产成人精品二区| 国产精品福利在线免费观看| 蜜桃亚洲精品一区二区三区| 成人国产麻豆网| 亚洲图色成人| 91麻豆精品激情在线观看国产| 一本精品99久久精品77| 亚洲熟妇中文字幕五十中出| 看片在线看免费视频| 久久久精品94久久精品| 日日摸夜夜添夜夜添av毛片| 69人妻影院| 岛国毛片在线播放| 午夜福利在线观看吧| 99视频精品全部免费 在线| 一边摸一边抽搐一进一小说| 日本黄大片高清| 精品欧美国产一区二区三| 国产女主播在线喷水免费视频网站 | 国产成年人精品一区二区| 天堂网av新在线| 少妇的逼好多水| 青春草视频在线免费观看| 国产黄a三级三级三级人| 99久久精品一区二区三区| 久久久久久久午夜电影| 91精品一卡2卡3卡4卡| 久久综合国产亚洲精品| 婷婷亚洲欧美| 亚洲精品国产av成人精品| 国产一级毛片七仙女欲春2| 在现免费观看毛片| 亚洲在线自拍视频| 成人国产麻豆网| 国产精品久久电影中文字幕| 99久久精品热视频| 国产精品久久久久久久久免| 蜜臀久久99精品久久宅男| 成人鲁丝片一二三区免费| 婷婷色综合大香蕉| 午夜久久久久精精品| 国产高清视频在线观看网站| 中文字幕av在线有码专区| 黄色视频,在线免费观看| 国产成人一区二区在线| 亚洲aⅴ乱码一区二区在线播放| 网址你懂的国产日韩在线| 成人无遮挡网站| 天堂中文最新版在线下载 | 免费av不卡在线播放| 一本久久中文字幕| 91久久精品电影网| 欧美丝袜亚洲另类| 日本与韩国留学比较| 国产一级毛片在线| 美女国产视频在线观看| 国产高清三级在线| 亚洲无线在线观看| 久久久久国产网址| 最近手机中文字幕大全| 在线观看av片永久免费下载| 久久久国产成人精品二区| 男人舔女人下体高潮全视频| 十八禁国产超污无遮挡网站| 成人特级av手机在线观看| 欧美+日韩+精品| 99国产精品一区二区蜜桃av| 熟女电影av网| 久久精品夜色国产| eeuss影院久久| 午夜久久久久精精品| 国产av不卡久久| 国产色婷婷99| 变态另类丝袜制服| 欧美人与善性xxx| 毛片一级片免费看久久久久| 亚洲成人av在线免费| 18禁裸乳无遮挡免费网站照片| 国产免费一级a男人的天堂| 秋霞在线观看毛片| 日韩精品有码人妻一区| 中文字幕av在线有码专区| 亚洲最大成人av| 亚洲在久久综合| 欧美成人一区二区免费高清观看| 日韩欧美 国产精品| 亚洲成a人片在线一区二区| 亚洲成人中文字幕在线播放| 久久人妻av系列| 国产一区二区激情短视频| 成人永久免费在线观看视频| 一区二区三区免费毛片| 两个人的视频大全免费| 免费在线观看成人毛片| av免费观看日本| 国产综合懂色| 黄色视频,在线免费观看| 国产成人freesex在线| 中国美女看黄片| 国产精品一区二区性色av| 欧美色欧美亚洲另类二区| 欧美日韩精品成人综合77777| 亚洲天堂国产精品一区在线| 亚洲精品国产成人久久av| 久久鲁丝午夜福利片| 一本久久中文字幕| 91午夜精品亚洲一区二区三区| 嘟嘟电影网在线观看| 丰满的人妻完整版| 国产伦精品一区二区三区四那| 日韩成人av中文字幕在线观看| 在线a可以看的网站| 久久九九热精品免费| 日本五十路高清| 精品久久久久久成人av| 中文精品一卡2卡3卡4更新| 亚洲精华国产精华液的使用体验 | 在线观看免费视频日本深夜| 国产成人91sexporn| 啦啦啦韩国在线观看视频| 一级毛片久久久久久久久女| 欧美最新免费一区二区三区| 国产成人aa在线观看| www日本黄色视频网| 日本一本二区三区精品| 91久久精品国产一区二区三区| 岛国毛片在线播放| 1024手机看黄色片| 国产三级在线视频| 国内久久婷婷六月综合欲色啪| 国产黄a三级三级三级人| 国产成人freesex在线| 99久久精品国产国产毛片| 日产精品乱码卡一卡2卡三| 别揉我奶头 嗯啊视频| 亚洲内射少妇av| 亚洲欧美日韩东京热| 一本久久精品| 人人妻人人澡欧美一区二区| 亚洲第一电影网av| a级毛片免费高清观看在线播放| 国产精品国产高清国产av| 亚洲欧美日韩高清专用| 美女大奶头视频| 国产亚洲av片在线观看秒播厂 | 久久久午夜欧美精品| 亚洲国产精品久久男人天堂| 久久久久久久午夜电影| 白带黄色成豆腐渣| 精品一区二区三区视频在线| 少妇被粗大猛烈的视频| 99精品在免费线老司机午夜| 丝袜美腿在线中文| 久久久久久九九精品二区国产| 久久草成人影院| 国产精品一区二区三区四区久久| 不卡视频在线观看欧美| 美女cb高潮喷水在线观看| 亚洲精品久久久久久婷婷小说 | 赤兔流量卡办理| 欧美成人a在线观看| 一区二区三区高清视频在线| 中文字幕免费在线视频6| 国产男人的电影天堂91| 人妻制服诱惑在线中文字幕| 在现免费观看毛片| 婷婷色综合大香蕉| 成人欧美大片| 国产精品久久久久久av不卡| 久久热精品热| 国内久久婷婷六月综合欲色啪| 淫秽高清视频在线观看| 欧美区成人在线视频| 99热全是精品| 日日撸夜夜添| 久久久久久久久久成人| 亚洲欧美日韩高清专用| 26uuu在线亚洲综合色| 成人一区二区视频在线观看| 免费搜索国产男女视频| 天天躁夜夜躁狠狠久久av| 国产久久久一区二区三区| 91久久精品国产一区二区三区| 变态另类成人亚洲欧美熟女| 少妇熟女欧美另类| 色吧在线观看| 亚洲在久久综合| av女优亚洲男人天堂| eeuss影院久久| 看片在线看免费视频| 欧美xxxx黑人xx丫x性爽| av在线观看视频网站免费| 国产精品麻豆人妻色哟哟久久 | a级毛片a级免费在线| 成人亚洲欧美一区二区av| 99热这里只有是精品在线观看| 爱豆传媒免费全集在线观看| 国产成人freesex在线| 能在线免费观看的黄片| 精品一区二区免费观看| 亚洲性久久影院| 麻豆国产av国片精品| 亚洲美女视频黄频| 亚洲欧美成人精品一区二区| 亚洲四区av| 男女下面进入的视频免费午夜| 看黄色毛片网站| 男人的好看免费观看在线视频| 哪个播放器可以免费观看大片| 成人欧美大片| 一边摸一边抽搐一进一小说| 国产精品无大码| 成人欧美大片| 一边摸一边抽搐一进一小说| 国产一区二区三区av在线 | 一夜夜www| 国内少妇人妻偷人精品xxx网站| 国产av一区在线观看免费| 青青草视频在线视频观看| 身体一侧抽搐| 久久精品国产亚洲av天美| 18禁在线播放成人免费| 亚洲成人久久性| 在线播放国产精品三级| 免费大片18禁| 欧美一区二区精品小视频在线| 亚洲国产精品久久男人天堂| 欧美一区二区亚洲| 精品一区二区三区人妻视频| 亚洲不卡免费看| 青青草视频在线视频观看| 一区二区三区高清视频在线| 在线播放国产精品三级| 一个人免费在线观看电影| 在线观看av片永久免费下载| 国产大屁股一区二区在线视频| 日日干狠狠操夜夜爽| 欧美又色又爽又黄视频| 欧美一级a爱片免费观看看|