• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字時代企業(yè)社會責(zé)任的理論拓補(bǔ)與實(shí)現(xiàn)路徑

    2018-02-11 00:59:18
    關(guān)鍵詞:規(guī)范責(zé)任數(shù)字

    自1956年達(dá)特茅斯會議①以來,數(shù)字技術(shù)獲得長足發(fā)展,互聯(lián)網(wǎng)成為維系社會正常運(yùn)作的重要基礎(chǔ)設(shè)施。信息不斷數(shù)據(jù)化,并經(jīng)由特定算法收集、儲存、整理、分析、運(yùn)用,數(shù)據(jù)的重要性被反復(fù)提及,其所附權(quán)利屬性被不斷證成且趨于達(dá)成共識。數(shù)字化、網(wǎng)絡(luò)化、智能化融合發(fā)展,人類開始步入數(shù)字時代。數(shù)字技術(shù)變革引起社會秩序與權(quán)義結(jié)構(gòu)顯著變化,大數(shù)據(jù)和人工智能引致監(jiān)管挑戰(zhàn),但技術(shù)本身并非法律可規(guī)制的對象,也不具備進(jìn)行規(guī)制的可能性,故需要轉(zhuǎn)換規(guī)制視野,針對特定主體的具體行為進(jìn)行制度設(shè)計(jì),以維系法效力的穩(wěn)定性、法價(jià)值的延續(xù)性和法規(guī)范的拓展性。

    具體而言,數(shù)字技術(shù)同人類社會聯(lián)系密切的根本動因在于其商業(yè)化實(shí)踐,企業(yè)基于經(jīng)濟(jì)理性大力發(fā)展數(shù)字技術(shù)②。然而技術(shù)本無善惡之分,但技術(shù)應(yīng)用卻能反映企業(yè)意志。備受關(guān)注的“劍橋分析事件”③表明企業(yè)有能力進(jìn)行反向操控,通過大數(shù)據(jù)分析進(jìn)行結(jié)果模擬與行為預(yù)測,籍此影響用戶行為,引起了各國政府和社會公眾對企業(yè)濫用數(shù)據(jù)信息和數(shù)字技術(shù)的憂慮,而我國企業(yè)家對個人隱私的漠然無疑加重了此種擔(dān)憂④。另一方面,經(jīng)濟(jì)學(xué)理論中的“一級價(jià)格歧視”因大數(shù)據(jù)技術(shù)具備了現(xiàn)實(shí)化可能。電商平臺的動態(tài)定價(jià)使得公眾提出“殺熟”質(zhì)疑⑤,單從經(jīng)濟(jì)學(xué)視閾審視,動態(tài)定價(jià)無疑既理性又經(jīng)濟(jì),但囿于交易雙方天然不信任、定價(jià)信息嚴(yán)重不對稱、技術(shù)實(shí)施難度不高,企業(yè)難以自證清白,亦無法消除惡意欺詐或不正當(dāng)競爭之嫌。作為一種常見的社會組織形式,企業(yè)具有社會性,既是經(jīng)濟(jì)人,也是社會人。需要明確的是,企業(yè)意志不可無限擴(kuò)張,否則極易觸動社會公共利益,亟需受到法律規(guī)范與道德準(zhǔn)則的雙重約束,承擔(dān)相應(yīng)的社會責(zé)任。故通過分析數(shù)字時代之特點(diǎn),對企業(yè)社會責(zé)任進(jìn)行理論拓補(bǔ),進(jìn)而探尋其實(shí)現(xiàn)路徑就顯得格外必要。

    一、數(shù)字時代重識企業(yè)社會責(zé)任

    企業(yè)社會責(zé)任⑥是企業(yè)法不斷發(fā)展、逐步完善的產(chǎn)物,是對以追求利潤最大化為唯一目的的企業(yè)傳統(tǒng)經(jīng)營理念的修正[1],主要是指企業(yè)在謀求股東利益最大化之外所負(fù)有的維護(hù)和增進(jìn)社會利益的義務(wù)[2]。企業(yè)社會責(zé)任理論希冀達(dá)致的最佳狀態(tài)系實(shí)現(xiàn)企業(yè)內(nèi)部利潤和外部利益的均衡和穩(wěn)定,意在化解企業(yè)正常經(jīng)營的負(fù)外部性,通過發(fā)展目標(biāo)的二元分化,破解單一追求誘致的市場失靈,契合并突出了經(jīng)濟(jì)法的社會本位特質(zhì)[3],體現(xiàn)出“人類的終極關(guān)懷”[4]。是故,如何將兩種相異理念最大化協(xié)同便成為破題關(guān)鍵。

    (一)企業(yè)社會責(zé)任的發(fā)展視野

    法學(xué)理論是系統(tǒng)性極強(qiáng)的邏輯架構(gòu),從規(guī)范的角度來看,其無法超脫于特定時空背景而單獨(dú)存在。企業(yè)社會責(zé)任理論的提出和構(gòu)建同經(jīng)濟(jì)社會發(fā)展?fàn)顩r密不可分,不同時期孕育的具體責(zé)任內(nèi)涵不同,所反映的政治、文化底蘊(yùn)也有差異,但無一不體現(xiàn)著時代特性。

    企業(yè)社會責(zé)任體系是開放的,既包括歷史向度,又包含發(fā)展視野,其內(nèi)涵與外延隨著時代變遷而逐步演進(jìn)、緩慢擴(kuò)張、持續(xù)細(xì)化,與理論研究同頻,與社會實(shí)踐同調(diào)。一般認(rèn)為,早期的企業(yè)社會責(zé)任理念可溯源至古代商業(yè)社會的商人社會責(zé)任觀,現(xiàn)代意義上的企業(yè)社會責(zé)任則是經(jīng)由多德與伯利的學(xué)術(shù)論爭獲得廣泛認(rèn)同。但通過梳理立法背景,可知現(xiàn)代企業(yè)社會責(zé)任制度的建立是從反壟斷立法開始[5]。1890年美國頒布的《謝爾曼法》被視為全世界最早的反壟斷立法,其主要推動緣由系因企業(yè)規(guī)模的快速擴(kuò)張破壞了正常市場競爭秩序,大企業(yè)憑借其既有優(yōu)勢或外部條件完成或試圖完成市場獨(dú)占,其他企業(yè)的正常經(jīng)營遭遇壁壘,消費(fèi)者亦無法獲益。市場競爭秩序本身即是一種社會公共利益,反壟斷法通過敦促企業(yè)履行法律制度層面的剛性企業(yè)社會責(zé)任以避免造成實(shí)質(zhì)性損害。另一方面,企業(yè)社會責(zé)任是經(jīng)濟(jì)法回應(yīng)型立法模式的具體呈現(xiàn),系針對社會發(fā)展現(xiàn)實(shí)所作的審慎制度供給。如現(xiàn)階段的企業(yè)社會責(zé)任涵攝了勞動者權(quán)益維護(hù)、消費(fèi)者權(quán)利保護(hù)、自然資源和環(huán)境合理利用、社區(qū)公平發(fā)展等多個面向,責(zé)任內(nèi)容、價(jià)值理念與承擔(dān)形式與原初概念相較變化明顯。發(fā)展視野意味著企業(yè)社會責(zé)任具有高度適應(yīng)性,可以在社會演進(jìn)的過程中不間歇地進(jìn)行邏輯周延、理論修復(fù)與方向矯正,從股東利益最大化到全體利益攸關(guān)方的利益最大化,再到近年來“以社會目標(biāo)為宗旨、以商業(yè)運(yùn)營為手段”的社會企業(yè)[6]不斷涌現(xiàn),無一不體現(xiàn)出企業(yè)社會責(zé)任的包容與延展。

    (二)企業(yè)社會責(zé)任的現(xiàn)實(shí)挑戰(zhàn)

    企業(yè)社會責(zé)任的發(fā)展視野決定了其必須有效應(yīng)對來自于社會經(jīng)濟(jì)發(fā)展?fàn)顩r的現(xiàn)實(shí)挑戰(zhàn)。在數(shù)字時代,個人權(quán)利配置、多方利益關(guān)系同傳統(tǒng)法律規(guī)制模式不相適應(yīng),社會關(guān)系與商業(yè)模式被不斷重構(gòu),大數(shù)據(jù)和人工智能的影響日漸深遠(yuǎn)。要正確認(rèn)識企業(yè)社會責(zé)任的現(xiàn)實(shí)挑戰(zhàn),需要準(zhǔn)確界分大數(shù)據(jù)和人工智能,廓清二者的實(shí)質(zhì)關(guān)聯(lián),著重考量應(yīng)以何標(biāo)準(zhǔn)進(jìn)行類型化處理。

    從形式上看,大數(shù)據(jù)和人工智能分屬不同技術(shù)類型,前者強(qiáng)調(diào)對海量數(shù)據(jù)的收集、分析與運(yùn)用,后者則偏向于模仿或替代人類智能進(jìn)行學(xué)習(xí)、判斷和決策。但事實(shí)上,大數(shù)據(jù)和人工智能并非相距甚遠(yuǎn)的獨(dú)立概念,二者協(xié)同引領(lǐng)數(shù)字時代的科技創(chuàng)新與技術(shù)革命,共同構(gòu)成社會平穩(wěn)發(fā)展和經(jīng)濟(jì)高速增長的新興引擎。一方面,游離狀態(tài)的零星數(shù)據(jù)難以界定其價(jià)值幾許,只有經(jīng)過聚合分析、深度挖掘的海量數(shù)據(jù)方可稱之具備實(shí)際功用。大數(shù)據(jù)尋求“數(shù)據(jù)全本”而非“數(shù)據(jù)樣本”,試圖用全面分析取代抽樣分析,傳統(tǒng)低效的數(shù)據(jù)處理手段無法滿足需要或?qū)崿F(xiàn)成本過高,必須借助智能算法處理規(guī)模龐大、來源多樣、即時生成的數(shù)據(jù)化信息。而現(xiàn)階段的人工智能顯然并不屬于理想觀念中的人工智能,僅停留在工具理性層面,未充分發(fā)揮出模仿人類智能的潛質(zhì),也遠(yuǎn)未實(shí)現(xiàn)意志自由,嚴(yán)格來講應(yīng)涵攝在弱人工智能范疇,系“能夠在給定問題的前提下通過深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)尋求最優(yōu)解的智能算法”[7]。從此角度出發(fā),現(xiàn)階段的人工智能實(shí)乃協(xié)助實(shí)現(xiàn)大數(shù)據(jù)分析的方式方法。另一方面,人工智能的功能內(nèi)核系隱藏于外化形式之下的算法程式,無論是“深度學(xué)習(xí)”還是“機(jī)器學(xué)習(xí)”均是如此,但無論算法構(gòu)造多精密、程式設(shè)計(jì)多巧妙,都無法逾越人工智能的認(rèn)知論基礎(chǔ),難以在缺乏海量數(shù)據(jù)化信息的情況下實(shí)現(xiàn)人工智能的“認(rèn)知可計(jì)算化”目標(biāo)。大數(shù)據(jù)提供的技術(shù)支撐使得“機(jī)器學(xué)習(xí)”具備實(shí)踐基礎(chǔ),人工智能方有實(shí)現(xiàn)可能。從此角度著眼,可知大數(shù)據(jù)是人工智能的重要分析工具。

    由上易知,大數(shù)據(jù)和人工智能相互勾連且深度交融,人為隔斷處理不符合法學(xué)研究內(nèi)在的科學(xué)意蘊(yùn),此種狀況下,將二者視為整體進(jìn)行統(tǒng)合考量更順應(yīng)企業(yè)社會責(zé)任的發(fā)展視野。從觀念層面著手,將大數(shù)據(jù)和人工智能的外在表現(xiàn)形式和內(nèi)在實(shí)質(zhì)本源進(jìn)行剝離,可以發(fā)現(xiàn)數(shù)據(jù)與算法共同為二者提供底層支撐,而邏輯融貫后更可發(fā)覺數(shù)據(jù)與算法方是數(shù)字時代的核心要義,深刻影響著面向未來的科技變革、追逐利潤的商業(yè)決策以及偏好穩(wěn)定的社會秩序,故企業(yè)社會責(zé)任的現(xiàn)實(shí)挑戰(zhàn)來自于“數(shù)據(jù)量化”與“算法統(tǒng)治”。

    (三)企業(yè)社會責(zé)任的效能不足

    黨的十八屆四中全會指出,法律的生命力在于實(shí)施,法律的權(quán)威也在于實(shí)施。與此同理,企業(yè)社會責(zé)任理論若要發(fā)揮全部效能,其關(guān)鍵突破口應(yīng)在落實(shí)層面尋覓,需要確保企業(yè)真正承擔(dān)起相應(yīng)的社會責(zé)任。企業(yè)社會責(zé)任游走在法律責(zé)任與道德準(zhǔn)則之間,其落實(shí)離不開法律責(zé)任的硬約束,也離不開道德準(zhǔn)則的軟約束[8]。然而,僅對落實(shí)作此考量已然不易,遑論尚需契合經(jīng)濟(jì)人的理性假設(shè)、滿足正當(dāng)?shù)纳鐣?shí)踐需求,將企業(yè)社會責(zé)任理論全盤落在實(shí)處幾無可能,故其效能總是處于虧損不滿的狀態(tài)。

    效能不足僅是企業(yè)社會責(zé)任理論的實(shí)踐樣態(tài),并不妨礙我們在進(jìn)行法學(xué)理論研究時保持必要的邏輯周延,故審視數(shù)字時代企業(yè)社會責(zé)任的制度規(guī)范系題中應(yīng)有之義。經(jīng)過規(guī)范檢索,可以發(fā)現(xiàn)如下三個方面的問題⑦:其一,法律規(guī)范缺乏系統(tǒng)性?,F(xiàn)階段,我國與企業(yè)社會責(zé)任有關(guān)的法律規(guī)范較為分散且層級不一,缺乏系統(tǒng)性。所涉規(guī)范大多僅有一個或兩個條文直接使用“社會責(zé)任”一詞,如《公司法》第五條、《合伙企業(yè)法》第七條、《民法總則》第八十六條、《網(wǎng)絡(luò)安全法》第九條等?!懂a(chǎn)品質(zhì)量法》《勞動法》《環(huán)境保護(hù)法》等部門法對企業(yè)社會責(zé)任的具體內(nèi)容進(jìn)行了細(xì)化,但其僅可對相關(guān)領(lǐng)域產(chǎn)生積極作用。此外,大量行政法規(guī)、司法文件、部委規(guī)章、地方性法規(guī)和其他規(guī)范性文件均有淺層次地提及企業(yè)社會責(zé)任。其二,法律規(guī)定過于原則化?,F(xiàn)有規(guī)范大多停留在宣示性條款層面,沒有明確企業(yè)社會責(zé)任的內(nèi)涵與外延,也沒有明晰履行程序,僅具有倡導(dǎo)性,不具備實(shí)踐操作或直接適用的可能。其三,有效的監(jiān)管機(jī)制缺位。現(xiàn)有法律規(guī)范并未構(gòu)建企業(yè)社會責(zé)任監(jiān)管機(jī)制,監(jiān)管主體與監(jiān)管責(zé)任缺位使得企業(yè)履行社會責(zé)任流于形式,無法形成有效的制度激勵。“中國企業(yè)社會責(zé)任的發(fā)展與西方企業(yè)社會責(zé)任理論是一脈相承的,基于中國社會經(jīng)濟(jì)的階段發(fā)展背景,它又具有顯著的本土特征”[9],可以明確的是,我國企業(yè)社會責(zé)任的法制化水平和標(biāo)準(zhǔn)化程度與域外實(shí)踐差距明顯,且企業(yè)的實(shí)際履行狀況亦有較大提升空間。

    二、數(shù)字時代企業(yè)社會責(zé)任理論的拓補(bǔ)維度

    數(shù)字時代,技術(shù)創(chuàng)新成為經(jīng)濟(jì)增長的首要賦能要素,企業(yè)憑借著自身對數(shù)據(jù)和算法的掌控開展商業(yè)實(shí)踐,為日常生活增添了諸多便利,但同時也意味著企業(yè)對私人領(lǐng)域的全面介入。數(shù)字創(chuàng)造價(jià)值但卻沒有溫度,為維護(hù)新形勢下的社會公益,增進(jìn)整體福利,對企業(yè)社會責(zé)任理論進(jìn)行拓展補(bǔ)充極為必要,從以下三個維度著手較為妥當(dāng)。

    (一)數(shù)據(jù)之維

    數(shù)據(jù)的本質(zhì)是以比特為度量單位的僅由0和1構(gòu)成的二進(jìn)制代碼,其能夠被算法程式處理,可存儲于計(jì)算機(jī)或流通在網(wǎng)絡(luò)上,但并不可單獨(dú)存在。數(shù)據(jù)與信息的關(guān)系緊密,信息是數(shù)據(jù)的承載內(nèi)容,數(shù)據(jù)是信息的表現(xiàn)形式,無法將數(shù)據(jù)與信息加以分離而抽象地討論數(shù)據(jù)上的權(quán)利[10],未反映任何信息的數(shù)據(jù)毫無意義,法律也毋需對其調(diào)整規(guī)范。之所以將數(shù)據(jù)維度置于拓補(bǔ)企業(yè)社會責(zé)任理論的首要位置,主要是基于數(shù)據(jù)在數(shù)字時代的獨(dú)特地位。如前所述,數(shù)據(jù)是數(shù)字經(jīng)濟(jì)的關(guān)鍵生產(chǎn)要素,與傳統(tǒng)經(jīng)濟(jì)中人力要素和實(shí)物要素齊頭并進(jìn),甚至更為重要,無論是大數(shù)據(jù)還是人工智能均不能脫離數(shù)據(jù)的影響范圍。一方面,大數(shù)據(jù)分析需要海量基礎(chǔ)數(shù)據(jù),調(diào)試人工智能同樣需要盡可能充足的“樣本庫”。另一方面,大數(shù)據(jù)雖追求海量數(shù)據(jù)的原始價(jià)值,但更重視數(shù)據(jù)分析產(chǎn)生的增值價(jià)值。而作為人工智能的核心技術(shù),機(jī)器學(xué)習(xí)被認(rèn)為是“基于數(shù)據(jù)構(gòu)建模型,以計(jì)算的手段模擬人類智能活動”[11]。

    對數(shù)據(jù)而言,企業(yè)應(yīng)否承擔(dān)社會責(zé)任?又應(yīng)從何處著手?要解答這兩個問題,需要重新審視數(shù)據(jù)權(quán)利配置、著重考量數(shù)據(jù)保護(hù)進(jìn)路。亞當(dāng)·斯密認(rèn)為,經(jīng)濟(jì)人具有利己本性,而此種特性最終會增進(jìn)社會公益。企業(yè)之所以愿意耗費(fèi)巨額成本收集個人數(shù)據(jù)、投入大量資源提高數(shù)據(jù)分析能力,直接動因便在于其欲通過構(gòu)建數(shù)據(jù)優(yōu)勢獲取超額利潤。為推動數(shù)字技術(shù)長遠(yuǎn)發(fā)展,實(shí)現(xiàn)數(shù)字繁榮與經(jīng)濟(jì)高效的良好局面,需要將數(shù)據(jù)權(quán)利配置給企業(yè),鼓勵企業(yè)實(shí)行積極的數(shù)據(jù)政策,確保利益反饋機(jī)制正常運(yùn)行,保護(hù)企業(yè)數(shù)據(jù)的財(cái)產(chǎn)性權(quán)益。企業(yè)數(shù)據(jù)權(quán)利與個人數(shù)據(jù)權(quán)利分屬不同主體,權(quán)利內(nèi)涵有著明顯差異,也存在一定程度的沖突對立?,F(xiàn)階段,企業(yè)通常以提供免費(fèi)服務(wù)的方式吸引用戶,用戶通過“數(shù)據(jù)支付”享受生活便利,“數(shù)據(jù)產(chǎn)出者”與“數(shù)據(jù)消費(fèi)者”歸為同一主體,但此種模式下企業(yè)缺乏進(jìn)行自我約束的動力,在收集數(shù)據(jù)時無法合理預(yù)計(jì)未來用途,存在因過度索取而損害個人數(shù)據(jù)權(quán)益的可能,亟需對此進(jìn)行有效限制。需要明確的是,個人數(shù)據(jù)事關(guān)多方主體和多元利益,個人、企業(yè)和政府各有訴求,人格尊嚴(yán)和自由、商業(yè)價(jià)值、公共價(jià)值在其中犬牙交錯[12],在進(jìn)行個人數(shù)據(jù)保護(hù)時必須進(jìn)行利益平衡,不能無限擴(kuò)張個人數(shù)據(jù)的權(quán)利邊界,妨害數(shù)據(jù)正常的流動、分享與利用[13],進(jìn)而間接阻礙技術(shù)創(chuàng)新之路,但也絕不允許企業(yè)肆意侵害用戶的個人數(shù)據(jù)權(quán)利。

    基于不同利益主體的良性博弈,個人數(shù)據(jù)的法律保護(hù)可以選擇傳統(tǒng)觀念中的人格權(quán)保護(hù)進(jìn)路或財(cái)產(chǎn)權(quán)保護(hù)進(jìn)路,抑或?qū)⒍呒右越y(tǒng)合考量,也可以借鑒歐盟《一般數(shù)據(jù)保護(hù)條例》所采用的“強(qiáng)化數(shù)據(jù)主體的數(shù)據(jù)控制權(quán)”式規(guī)制路徑,這僅是規(guī)制邏輯自洽后的表達(dá)方式抉擇,但數(shù)據(jù)保護(hù)本身并不是一個簡單的法律問題,其關(guān)涉數(shù)字時代經(jīng)濟(jì)社會發(fā)展的各個方面。在制度設(shè)計(jì)時,除對企業(yè)收集、儲存、使用個人數(shù)據(jù)的行為提出基本要求外,還可以從“數(shù)據(jù)掌控者”一側(cè)入手,賦予企業(yè)更高的數(shù)據(jù)倫理標(biāo)準(zhǔn),法律責(zé)任和道德準(zhǔn)則同時發(fā)力,讓企業(yè)社會責(zé)任成為個人數(shù)據(jù)保護(hù)的另一落腳點(diǎn)。

    (二)算法之維

    從某種意義上講,數(shù)字時代是人類被算法統(tǒng)治的時代。萬物皆可數(shù)據(jù)化,一切皆可被算法處理,算法預(yù)測著人類的未來,也影響著人們的行為模式、交往方式、決策方式、商業(yè)模式和社會秩序生成機(jī)制[14]。在此過程中,企業(yè)投入了充足的資本和人力,不斷開發(fā)、調(diào)試、完善算法程式,不斷將認(rèn)知科學(xué)與計(jì)算科學(xué)融貫交叉,加快了技術(shù)創(chuàng)新步伐、滿足了社會變遷需要、提高了整體福利水平。企業(yè)是逐利的,使用算法僅是其為擴(kuò)展受眾、鞏固市場、獲取利潤的一條捷徑,為避免企業(yè)憑借算法優(yōu)勢謀取不正當(dāng)利益,加重各利益相關(guān)方間權(quán)義結(jié)構(gòu)的不對稱程度,對算法進(jìn)行規(guī)制具有正當(dāng)性、合理性和急迫性。政府應(yīng)通過合理的制度安排引導(dǎo)、約束算法的發(fā)展方向和價(jià)值遵循,通過法律的社會控制在此情景下成本較高且效用甚微,企業(yè)社會責(zé)任反而可以較好配適,故將算法維度列為拓展補(bǔ)充理論視閾的第二順位。

    對算法進(jìn)行法律規(guī)制的難度較大,主要原因在于算法的特殊性。其一,算法結(jié)果不可預(yù)知。一般來講,算法為實(shí)現(xiàn)特定結(jié)果而服務(wù),其代碼架構(gòu)與程式設(shè)計(jì)相對明確和穩(wěn)定,但在數(shù)字時代,事實(shí)并非如此,“我們無法真正預(yù)測未來,因?yàn)榭萍及l(fā)展并不會帶來確定的結(jié)果”[15],個性化推薦與自動化決策即是典型案例。為實(shí)現(xiàn)真正意義上的“深度學(xué)習(xí)”或“機(jī)器學(xué)習(xí)”,使算法能夠盡可能地模仿和替代人類智能,需要同時調(diào)用智能化算法與非智能化算法,并促使二者協(xié)同共進(jìn),但此種模式下的算法結(jié)果會被輸入數(shù)據(jù)、參考變量、調(diào)試進(jìn)度與運(yùn)算經(jīng)驗(yàn)反復(fù)影響,根本無法被企業(yè)合理預(yù)計(jì)。只有監(jiān)督學(xué)習(xí)狀態(tài)下的算法才會被企業(yè)徹底掌控,現(xiàn)階段大量采用的貝葉斯算法、類推算法和神經(jīng)網(wǎng)絡(luò)算法各有其特點(diǎn)與優(yōu)勢,但相通點(diǎn)在于“人類無法控制機(jī)器學(xué)習(xí)的結(jié)果”[16]。其二,算法代碼不可解釋。數(shù)字時代的算法屬于典型的黑箱,信息不對稱且流程不透明。算法程式得以正常運(yùn)行的技術(shù)基礎(chǔ)是計(jì)算機(jī)運(yùn)算能力的顯著提高,并行處理海量數(shù)據(jù)和同時開展復(fù)雜運(yùn)算成為可能,但這兩項(xiàng)要求明顯超過人類大腦的可接受程度與可承載水平,算法因此不具有可讀性。算法代碼的自然語言處理是另一大難題,智能化算法的自我完善也加大了處理難度,架構(gòu)者與設(shè)計(jì)者已然無法使用通俗易懂的自然語言對算法代碼的原理、目的和實(shí)現(xiàn)路徑進(jìn)行闡釋或開源,法院或監(jiān)管者只能依據(jù)其最終表現(xiàn)出來的模式加以判斷[17]。在現(xiàn)行制度框架下,算法代碼屬于典型的商業(yè)秘密,一經(jīng)開示即遭受價(jià)值減損之效果,雖然業(yè)界存在算法代碼開源的趨勢,但總體來講推行程度不高且已公開內(nèi)容并非商用算法的前沿、核心板塊,企業(yè)不愿公開、公權(quán)不能強(qiáng)制構(gòu)成算法代碼不可解釋的另一層內(nèi)涵。

    (三)社會治理之維

    政府與市場的邊界問題長期以來飽受爭議,合理、清晰且不被逾越的邊界是為理想狀態(tài),經(jīng)濟(jì)學(xué)與法學(xué)對此有著較多討論,但在傳統(tǒng)語境中,政府被視為利維坦式的巨大機(jī)器,相關(guān)研究也多集中于防止公權(quán)濫用、保護(hù)私權(quán)行使、維護(hù)企業(yè)自治等方向,但隨著我國經(jīng)濟(jì)形勢、利益格局、思想觀念、社會結(jié)構(gòu)、文化氛圍發(fā)生深刻變化,社會治理出現(xiàn)新情況與新問題,企業(yè)似乎成為更能影響公眾行為的主體,亟需推進(jìn)社會治理創(chuàng)新,打造共建、共治、共享的社會治理格局,法學(xué)研究需要對此進(jìn)行制度探索與理論匡正。

    數(shù)字時代,技術(shù)變革對社會治理結(jié)構(gòu)與秩序生成機(jī)制產(chǎn)生深遠(yuǎn)影響,收集信息能力、分析數(shù)據(jù)水平和行為預(yù)測準(zhǔn)度直接決定著我國加強(qiáng)和創(chuàng)新社會治理工作的質(zhì)量和效率。一方面,政府因公權(quán)力的強(qiáng)制實(shí)施效果在諸多方面擁有顯著優(yōu)勢,但受制于相對落后的分析工具和技術(shù)手段,政府實(shí)質(zhì)上在更多領(lǐng)域呈現(xiàn)出明顯弱勢,這顯然并不利于推進(jìn)我國社會治理工作現(xiàn)代化、精細(xì)化、智能化和專業(yè)化。對此,企業(yè)可以憑借其技術(shù)優(yōu)勢、數(shù)據(jù)優(yōu)勢和算法優(yōu)勢參與社會治理,協(xié)助政府更好地行使公共管理職能,進(jìn)而提升全社會的整體福利水準(zhǔn)。近些年,我國正著力打造精簡高效的服務(wù)型政府,政企合作、公私合作或政府購買社會服務(wù)的案例逐年增多,大數(shù)據(jù)和人工智能在政務(wù)處理、信息傳遞、風(fēng)險(xiǎn)預(yù)測、安全防控、交通調(diào)度和精準(zhǔn)扶貧等方面均有不俗表現(xiàn),最高人民法院在本輪司法改革中大力推行的各類數(shù)據(jù)交互平臺與智慧審理系統(tǒng)便集中體現(xiàn)了這一點(diǎn)。另一方面,企業(yè)參與社會治理并非其當(dāng)然義務(wù),除為獲取政策支持、資金扶持和鞏固技術(shù)優(yōu)勢外,應(yīng)將其視作數(shù)字時代企業(yè)社會責(zé)任的新內(nèi)涵,即依法有序參與社會公共事務(wù),更多地強(qiáng)調(diào)企業(yè)作為重要社會主體的責(zé)任擔(dān)當(dāng)。與此相對應(yīng),政府和社會公眾向企業(yè)提出了更多要求,也應(yīng)當(dāng)將其納入理論拓補(bǔ)范疇,一是盡可能消除技術(shù)偏差、邏輯錯誤與算法歧視帶來的實(shí)質(zhì)侵害,二是避免商業(yè)利益偏好影響社會治理效果,三是在技術(shù)允許的情況下著重實(shí)現(xiàn)公平正義,提高社會整體福利水平與經(jīng)濟(jì)運(yùn)行效率。

    三、數(shù)字時代企業(yè)社會責(zé)任的實(shí)現(xiàn)路徑

    在明確數(shù)字時代企業(yè)社會責(zé)任理論的拓補(bǔ)維度之后,需要根據(jù)時代特征、技術(shù)特性與實(shí)踐儲備,探索數(shù)據(jù)、算法和社會治理三個維度下企業(yè)社會責(zé)任的實(shí)現(xiàn)路徑,將法學(xué)研究的重心轉(zhuǎn)移至企業(yè)社會責(zé)任的有效落實(shí)方式之上,這也是拓展補(bǔ)充企業(yè)社會責(zé)任理論后的必然邏輯延伸,可以重點(diǎn)關(guān)注以下四點(diǎn)。

    (一)明晰企業(yè)社會責(zé)任的入法范圍

    一般認(rèn)為,推動企業(yè)社會責(zé)任落實(shí)首先需要完善法律規(guī)范,主要是指加快企業(yè)社會責(zé)任領(lǐng)域的專門立法,進(jìn)一步明晰責(zé)任主體、責(zé)任類型、承擔(dān)方式、歸責(zé)原則、違法后果、激勵手段等具體內(nèi)容。“法律權(quán)利必然以道德權(quán)利為基礎(chǔ),法體系必須以開放性的態(tài)度保持對道德權(quán)利的尊重”[18],法律規(guī)定的是社會可以容忍的最低限度的道德倫理,故法律制度層面的剛性企業(yè)社會責(zé)任是政府與公眾要求企業(yè)必須嚴(yán)格遵守的責(zé)任內(nèi)容。將企業(yè)社會責(zé)任寫入法律是必要的,但正如奧卡姆剃刀定律所言,如無必要、勿增實(shí)體,并非所有的企業(yè)社會責(zé)任均需以法律文本的形式出現(xiàn),部分責(zé)任內(nèi)容其實(shí)更適合通過軟法規(guī)范或道德準(zhǔn)則進(jìn)行落實(shí),成本更低且效率更高。在此邏輯下,首先需要明晰的是企業(yè)社會責(zé)任的入法范圍,做好政府、公眾和企業(yè)三者間的利益平衡。

    其一,數(shù)字時代最為基礎(chǔ)和關(guān)鍵的生產(chǎn)要素是數(shù)據(jù),個人數(shù)據(jù)保護(hù)和企業(yè)數(shù)據(jù)保護(hù)均屬于關(guān)涉重大的基礎(chǔ)性問題,亟需迅速推進(jìn)相關(guān)立法,妥善開展法律保護(hù)。況且,這兩個領(lǐng)域的理論研究成果較為豐富,存在充足的域外立法實(shí)踐可供參考,業(yè)已受到我國立法者的高度關(guān)注,其中《個人信息保護(hù)法》已被寫入第十三屆全國人大常委會立法規(guī)劃,制定條件相對成熟,短期內(nèi)推動立法較為可行。需要明確的是,法律應(yīng)當(dāng)對數(shù)據(jù)保護(hù)的基本問題和基礎(chǔ)要求進(jìn)行規(guī)定,其標(biāo)準(zhǔn)是不損害個人或企業(yè)基本的合法權(quán)益,絕非通過高標(biāo)準(zhǔn)與嚴(yán)要求阻礙數(shù)據(jù)的正常流轉(zhuǎn)及合理利用。其二,算法作為數(shù)字時代重要的生產(chǎn)工具,需要法律規(guī)范為其劃定明確的運(yùn)行邊界,但規(guī)制對象應(yīng)當(dāng)是研發(fā)算法的企業(yè),而絕非算法本身。囿于立法者對算法無法進(jìn)行必要的研讀和理解,再加之受制于未來視野與立法技術(shù),法律規(guī)范無法準(zhǔn)確預(yù)測算法的發(fā)展趨勢,僅可將涉及人類尊嚴(yán)、社會基本秩序的無爭議事項(xiàng)用負(fù)面清單的形式加以列明。此外,還可以完善侵權(quán)責(zé)任體系,要求企業(yè)對算法造成的損害承擔(dān)嚴(yán)格責(zé)任,引導(dǎo)其選擇更有預(yù)見性、更可控的算法[19]。其三,企業(yè)社會責(zé)任是一種應(yīng)用于商業(yè)實(shí)踐的企業(yè)治理理念,企業(yè)治理層能否按照法律規(guī)定和商業(yè)倫理為決策行為,最終決定了企業(yè)社會責(zé)任能否真正落實(shí)[20]??梢酝ㄟ^行政法規(guī)或部門規(guī)章的形式,要求企業(yè)在治理層中設(shè)置社會責(zé)任委員會或社會責(zé)任專員,使其在進(jìn)行商業(yè)決策時將應(yīng)承擔(dān)的數(shù)據(jù)、算法、社會治理三個維度的社會責(zé)任納入考量范疇,平衡多元主體的利益結(jié)構(gòu),甚至約束私人利益使之服務(wù)于公共利益[21]。

    (二)細(xì)化企業(yè)社會責(zé)任的軟法規(guī)范

    一般來講,企業(yè)社會責(zé)任落實(shí)的關(guān)鍵在于法律規(guī)范的責(zé)任追究機(jī)制,但與倫理準(zhǔn)則的無限性相比,法律規(guī)范適宜確定的企業(yè)社會責(zé)任相對有限。為取得良好的實(shí)施效果,需要將部分企業(yè)社會責(zé)任上升為軟法責(zé)任[22],培育企業(yè)社會責(zé)任的軟法規(guī)制機(jī)制[23]。

    軟法規(guī)范的特點(diǎn)在于效力的非強(qiáng)制性和主體的非威權(quán)性,其作用效果介于倫理道德和法律責(zé)任之間,故可以將不便于通過法律規(guī)范進(jìn)行強(qiáng)制性規(guī)定的內(nèi)容以軟法形式加以確定,利用行業(yè)共同體的約束機(jī)制與引導(dǎo)機(jī)制敦促企業(yè)自覺承擔(dān)最大限度的社會責(zé)任。要充分發(fā)揮軟法規(guī)范的作用,需要盡可能地細(xì)化相關(guān)規(guī)則,為企業(yè)履行社會責(zé)任提供明確指引,不能將宣示性規(guī)定作為軟法規(guī)范的主要內(nèi)容,否則極易因欠缺具體內(nèi)容導(dǎo)致軟法規(guī)范名存實(shí)亡。一方面,細(xì)化軟法規(guī)范需要達(dá)成行業(yè)共識或基本共識,將符合共同價(jià)值和內(nèi)在秩序的企業(yè)社會責(zé)任明確下來,最終形成被共同體廣泛認(rèn)可的制度約束。軟法規(guī)范的具體內(nèi)容需要同我國數(shù)字技術(shù)的具體實(shí)踐相結(jié)合,需要著重考量數(shù)據(jù)、算法和社會治理三個維度,總體價(jià)值理念是在促進(jìn)數(shù)字技術(shù)發(fā)展的同時增進(jìn)社會整體福利,可作適當(dāng)超前的制度安排,但不應(yīng)過分壓制技術(shù)革新,更不能籍此損害各利益相關(guān)方的合法權(quán)益。另一方面,為使軟法規(guī)范發(fā)揮預(yù)期效用,需要強(qiáng)調(diào)企業(yè)社會責(zé)任的履行標(biāo)準(zhǔn),并采用強(qiáng)制報(bào)告與強(qiáng)制性規(guī)范[24]。此外,還需要完善配套的信息披露機(jī)制和聲譽(yù)約束機(jī)制,二者均是非正式社會控制的核心構(gòu)成,企業(yè)可以借助適當(dāng)?shù)睦娣答伵c聲譽(yù)激勵提高自身經(jīng)營能力,促使其主動切合軟法規(guī)范之要求,并積極承擔(dān)更高水準(zhǔn)的企業(yè)社會責(zé)任。

    (三)區(qū)分企業(yè)社會責(zé)任的承受力度

    數(shù)字時代的關(guān)鍵在于不斷進(jìn)行技術(shù)創(chuàng)新,通過技術(shù)迭代實(shí)現(xiàn)動能轉(zhuǎn)換,大數(shù)據(jù)和人工智能的發(fā)展軌跡深刻反映出了此項(xiàng)特征。諸如蘋果、谷歌、騰訊、阿里等大企業(yè)在資本、資源、政策、營運(yùn)、市場和聲譽(yù)等方面擁有顯著優(yōu)勢,能夠迅速投入人力物力進(jìn)行技術(shù)研發(fā),易實(shí)現(xiàn)規(guī)模效益、更具有競爭能力,甚至經(jīng)常出現(xiàn)大企業(yè)對初創(chuàng)企業(yè)的收購、并購或股權(quán)投資。但在數(shù)字時代,上述優(yōu)勢并不發(fā)揮決定性作用,初創(chuàng)企業(yè)往往可以通過優(yōu)化服務(wù)模式、提供差異化產(chǎn)品、降低使用難度、提高性價(jià)比等手段快速獲取用戶并迅速實(shí)現(xiàn)盈利,近年來與數(shù)字技術(shù)相關(guān)的獨(dú)角獸企業(yè)均具有較高估值即是最佳注解。從此角度來看,企業(yè)規(guī)模大小并不會直接導(dǎo)致發(fā)展機(jī)會存在差異,技術(shù)研發(fā)能力與產(chǎn)品推廣水平反而會帶來競爭優(yōu)勢,也更易推動技術(shù)變革,初創(chuàng)企業(yè)往往占據(jù)有利地位。

    但因大企業(yè)在數(shù)字經(jīng)濟(jì)發(fā)展初期創(chuàng)立,不充分的規(guī)制手段與不完善的制度規(guī)則促使其迅速成為受益者,甚至于主導(dǎo)或影響了企業(yè)社會責(zé)任法律規(guī)范或軟法規(guī)范的制定全程。若讓初創(chuàng)企業(yè)承擔(dān)與大企業(yè)相同水平的社會責(zé)任,業(yè)務(wù)開展成本較高、運(yùn)營費(fèi)用負(fù)擔(dān)較重,對其來講既不合理也不公平,但若使二者的承受力度差異過大,又極易導(dǎo)致企業(yè)社會責(zé)任流于形式,更不符合制度設(shè)計(jì)初衷。故需合理區(qū)分不同規(guī)模企業(yè)間的差異化承受力度,除法律規(guī)范的基本要求外,可以給初創(chuàng)企業(yè)提供較為寬松的社會責(zé)任承擔(dān)氛圍,毋需對其過度苛責(zé),但此種特殊對待必須得到行業(yè)認(rèn)可,也需要政府、公眾予以認(rèn)同。

    (四)實(shí)現(xiàn)企業(yè)社會責(zé)任的代碼嵌入

    數(shù)字時代占據(jù)主導(dǎo)地位的是算法程式,而構(gòu)成算法程式的是代碼。一方面,因?yàn)榇a可以有效執(zhí)行相關(guān)規(guī)則,代碼具有法律化傾向,在數(shù)字時代,代碼成為規(guī)范用戶行為的主要方式,企業(yè)通過預(yù)先設(shè)置代碼規(guī)則對用戶行為加以限制或?qū)κ录呦蜃鞒鰶Q定,防止人們違反技術(shù)規(guī)則或雙方約定。例如在智能合約或區(qū)塊鏈領(lǐng)域,代碼構(gòu)成了產(chǎn)品的基本規(guī)則框架,毋需人為干預(yù)或進(jìn)行審判即可發(fā)揮作用。另一方面,法律具有代碼化傾向。法律規(guī)范通過事后救濟(jì)發(fā)揮作用,被認(rèn)為實(shí)施成本較高,而技術(shù)規(guī)則卻能以代碼的形式事先預(yù)防不良后果,故可以試圖將法律規(guī)范轉(zhuǎn)化為技術(shù)規(guī)則,通過代碼自動化執(zhí)行法律規(guī)范,進(jìn)而獲得更高的運(yùn)作效率、達(dá)到更高的透明程度。

    企業(yè)社會責(zé)任的傳統(tǒng)規(guī)制模式無法有效應(yīng)對數(shù)字時代的法律挑戰(zhàn),不能及時阻止損害擴(kuò)大,亦無法有效驗(yàn)證企業(yè)是否實(shí)際履行社會責(zé)任。在此狀況下,亟需推進(jìn)規(guī)制方法現(xiàn)代化,盡快實(shí)現(xiàn)范式轉(zhuǎn)換,將原本規(guī)定在法律規(guī)范和軟法規(guī)范中的企業(yè)社會責(zé)任條文悉數(shù)代碼化,并交由企業(yè)將其作為底層代碼無縫嵌入目標(biāo)算法,效果穩(wěn)定且內(nèi)容不可更改。嵌入企業(yè)社會責(zé)任代碼后,其直接阻礙的是智能化算法可能出現(xiàn)的不可控狀況,防止因算法缺陷或算法惡意造成嚴(yán)重人身損害或重大財(cái)產(chǎn)損失。企業(yè)社會責(zé)任代碼可以被用于判定算法程式是否符合企業(yè)社會責(zé)任的“硬約束”或“軟約束”,也可以被用于檢測算法程式是否存在繞過企業(yè)社會責(zé)任代碼的情形,還可以承擔(dān)起算法程式違反企業(yè)社會責(zé)任技術(shù)標(biāo)準(zhǔn)后的預(yù)警職責(zé)。此外,政府、用戶或第三方機(jī)構(gòu)(主要指行業(yè)協(xié)會)能夠通過特殊驗(yàn)證手段對企業(yè)在該算法程式中履行社會責(zé)任的實(shí)際狀況進(jìn)行識別或認(rèn)證,進(jìn)而推定載有該算法程式的大數(shù)據(jù)或人工智能產(chǎn)品是否能夠讓人放心使用??傮w來講,通過代碼嵌入,可實(shí)現(xiàn)對企業(yè)履行社會責(zé)任的動態(tài)把控,彌補(bǔ)了法律規(guī)范模糊性伴隨著的缺陷,也為軟法規(guī)范的落實(shí)提供了有效路徑。

    注釋

    ① 一般認(rèn)為,人工智能源起于1956年召開于美國達(dá)特茅斯學(xué)院的人工智能夏季研討會(Summer Research Project on Artificial Intelligence),麥卡錫等人提交報(bào)告稱“……用機(jī)器對學(xué)習(xí)等可以精確描述的智力特征進(jìn)行模擬。研究如何讓機(jī)器使用語言、抽象思考并形成概念,解決那些暫時僅可由人類解決的問題,并自我改善……”,參見http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html,訪問于2018年11月20日。

    ② 作為社會經(jīng)濟(jì)發(fā)展的重要推動力量,設(shè)立企業(yè)的終極目標(biāo)是實(shí)現(xiàn)自身利潤最大化,為達(dá)成該目標(biāo),企業(yè)需要盡可能的拓展盈利渠道、控制營運(yùn)成本或提高運(yùn)作效率,但在外部環(huán)境較為恒定、內(nèi)部基礎(chǔ)不發(fā)生顯著變動的情況下,積極推動、開發(fā)、應(yīng)用新技術(shù)成為實(shí)現(xiàn)企業(yè)健康發(fā)展的必然選擇。

    ③ 商業(yè)化營運(yùn)的政治數(shù)據(jù)分析公司劍橋分析(Cambridge Analytica)在未獲得充分授權(quán)的情況下,利用第三方軟件違規(guī)收集8700萬Facebook用戶的個人數(shù)據(jù),將大數(shù)據(jù)分析結(jié)果直接用于制定極具針對性的政治活動策略,并涉嫌以此項(xiàng)技術(shù)干擾2016年美國總統(tǒng)大選。

    ④ 百度集團(tuán)董事長李彥宏在中國發(fā)展高層論壇2018年會上表示:“中國用戶更加開放,對隱私問題沒那么敏感,在很多情況下愿意用隱私交換便捷性和效率?!眳⒁奾ttp://finance.sina.com.cn/meeting/2018-03-26/docifysqfnf8646820.shtml,訪問于2018年11月20日。

    ⑤ 公眾對于電子商務(wù)平臺大數(shù)據(jù)殺熟的質(zhì)疑主要集中在即時出行、網(wǎng)絡(luò)購物、旅游出行等領(lǐng)域。此外,《中國青年報(bào)》曾對2008名受訪者進(jìn)行調(diào)查,63.4%的受訪者認(rèn)為互聯(lián)網(wǎng)企業(yè)利用大數(shù)據(jù)“殺熟”情況普遍;51.3%的受訪者遇到過互聯(lián)網(wǎng)企業(yè)利用大數(shù)據(jù)“殺熟”的情況;59.2%的受訪者指出大數(shù)據(jù)面前信息嚴(yán)重不對稱,消費(fèi)者處于弱勢;59.1%的受訪者希望價(jià)格主管部門進(jìn)一步立法規(guī)范互聯(lián)網(wǎng)企業(yè)歧視性定價(jià)行為。參見http://zqb.cyol.com/html/2018-03/15/nw.D110000zgqnb_20180315_1-07.htm,訪問于2018年11月20日。

    ⑥ 關(guān)于企業(yè)社會責(zé)任理論的涵攝范圍,學(xué)界暫未達(dá)成一致意見,為便于讀者理解并使邏輯嚴(yán)密,特在此進(jìn)行說明:本文所指稱的企業(yè)社會責(zé)任取廣義概念,既包括法律制度層面的剛性企業(yè)社會責(zé)任,也包括倫理道德層面的軟性企業(yè)社會責(zé)任,還包括游走于二者之間的軟法規(guī)范層面的企業(yè)社會責(zé)任。

    ⑦ 因所涉法律規(guī)范眾多,為保證準(zhǔn)確性與時效性,筆者使用北京威科亞太信息技術(shù)有限公司開發(fā)的專業(yè)法律信息數(shù)據(jù)庫“威科先行”進(jìn)行檢索,訪問域名為http://law.wkinfo.com.cn。此外,為增強(qiáng)可讀性,文中將相關(guān)法律規(guī)范的名稱進(jìn)行了簡化處理。

    猜你喜歡
    規(guī)范責(zé)任數(shù)字
    來稿規(guī)范
    來稿規(guī)范
    PDCA法在除顫儀規(guī)范操作中的應(yīng)用
    來稿規(guī)范
    使命在心 責(zé)任在肩
    每個人都該承擔(dān)起自己的責(zé)任
    新民周刊(2020年5期)2020-02-20 14:29:44
    答數(shù)字
    數(shù)字看G20
    期望囑托責(zé)任
    中國火炬(2014年12期)2014-07-25 10:38:05
    成雙成對
    精品国产一区二区三区久久久樱花 | 80岁老熟妇乱子伦牲交| 少妇丰满av| 国产精品99久久久久久久久| 久久这里有精品视频免费| 最近最新中文字幕大全电影3| 18禁裸乳无遮挡免费网站照片| 国产黄片视频在线免费观看| 又粗又硬又长又爽又黄的视频| 久久久久精品久久久久真实原创| 永久网站在线| 国产又色又爽无遮挡免| 亚洲四区av| 亚洲婷婷狠狠爱综合网| 成人午夜精彩视频在线观看| 又黄又爽又刺激的免费视频.| av卡一久久| 日韩大片免费观看网站| 网址你懂的国产日韩在线| 内地一区二区视频在线| 国产美女午夜福利| 久久久精品94久久精品| 三级国产精品欧美在线观看| 精品不卡国产一区二区三区| 国产成人午夜福利电影在线观看| 联通29元200g的流量卡| 如何舔出高潮| 99久国产av精品国产电影| 亚洲国产精品sss在线观看| 波野结衣二区三区在线| 观看免费一级毛片| 51国产日韩欧美| 日本一二三区视频观看| 18禁裸乳无遮挡免费网站照片| 色哟哟·www| 国产真实伦视频高清在线观看| 白带黄色成豆腐渣| 97超碰精品成人国产| 国产色爽女视频免费观看| 少妇熟女欧美另类| 听说在线观看完整版免费高清| 最新中文字幕久久久久| 色网站视频免费| 午夜免费观看性视频| 精品久久久久久久久久久久久| 大香蕉97超碰在线| 午夜福利在线观看吧| 听说在线观看完整版免费高清| 亚洲av男天堂| 精品久久久久久电影网| 国产精品久久久久久久电影| 国产成人午夜福利电影在线观看| 51国产日韩欧美| 18禁裸乳无遮挡免费网站照片| 日韩强制内射视频| 一级a做视频免费观看| 日韩欧美精品v在线| 亚洲欧美一区二区三区黑人 | 青春草国产在线视频| 校园人妻丝袜中文字幕| 亚洲精品成人久久久久久| 日本黄大片高清| 国产高潮美女av| 一本久久精品| 人人妻人人澡人人爽人人夜夜 | 国产伦精品一区二区三区四那| 国产乱来视频区| 久久久色成人| 久久久精品欧美日韩精品| 日韩伦理黄色片| 午夜福利高清视频| 日日啪夜夜撸| 亚洲精品aⅴ在线观看| 久久久久国产网址| 亚洲在线观看片| 国产精品一二三区在线看| 久久精品国产亚洲网站| 免费观看的影片在线观看| 免费观看性生交大片5| 亚洲欧美日韩卡通动漫| 国产精品三级大全| 亚洲国产精品专区欧美| 亚洲熟女精品中文字幕| 成人亚洲精品一区在线观看 | 午夜福利在线观看吧| 丰满乱子伦码专区| 舔av片在线| 国内揄拍国产精品人妻在线| 成人毛片60女人毛片免费| 日本熟妇午夜| 久久久久久久久久久丰满| 高清毛片免费看| 麻豆精品久久久久久蜜桃| 亚洲四区av| av卡一久久| a级毛片免费高清观看在线播放| 成人特级av手机在线观看| 婷婷六月久久综合丁香| 我的老师免费观看完整版| 永久网站在线| 日本免费在线观看一区| 国产精品一区二区在线观看99 | 免费观看精品视频网站| 欧美97在线视频| 免费看av在线观看网站| 大香蕉97超碰在线| 18禁在线无遮挡免费观看视频| 欧美xxxx黑人xx丫x性爽| 嫩草影院新地址| 丰满乱子伦码专区| 日韩av免费高清视频| 久久久久久国产a免费观看| 99久久中文字幕三级久久日本| 日韩精品青青久久久久久| 欧美日韩一区二区视频在线观看视频在线 | 男女那种视频在线观看| 女人被狂操c到高潮| 老女人水多毛片| 国产大屁股一区二区在线视频| 国产亚洲精品久久久com| 久久99热这里只频精品6学生| 国产综合精华液| 麻豆国产97在线/欧美| 国产精品一区二区三区四区久久| 欧美bdsm另类| 一边亲一边摸免费视频| www.色视频.com| 国产av在哪里看| 国产老妇女一区| 97超碰精品成人国产| 亚洲丝袜综合中文字幕| 国产成人a区在线观看| 真实男女啪啪啪动态图| 午夜福利成人在线免费观看| 成人av在线播放网站| 18禁在线播放成人免费| 国产成人a∨麻豆精品| 国产高清国产精品国产三级 | 草草在线视频免费看| 日韩精品青青久久久久久| 男女啪啪激烈高潮av片| 永久免费av网站大全| 天堂网av新在线| 亚洲人与动物交配视频| 亚洲国产最新在线播放| 亚洲欧美日韩卡通动漫| 美女cb高潮喷水在线观看| 久久6这里有精品| 亚洲欧美一区二区三区黑人 | 久久久久九九精品影院| 久久久国产一区二区| 在线a可以看的网站| 欧美最新免费一区二区三区| 免费看不卡的av| 观看免费一级毛片| 天堂俺去俺来也www色官网 | 在线观看免费高清a一片| 我的女老师完整版在线观看| 国产av在哪里看| 亚洲激情五月婷婷啪啪| 亚洲精品一区蜜桃| 国产在线一区二区三区精| 国产精品伦人一区二区| 国产人妻一区二区三区在| 五月天丁香电影| 在线免费十八禁| 久久久久网色| 最近2019中文字幕mv第一页| 最近2019中文字幕mv第一页| 亚洲国产精品成人久久小说| 丰满少妇做爰视频| 一区二区三区四区激情视频| 深爱激情五月婷婷| 日本猛色少妇xxxxx猛交久久| 国产成人精品婷婷| 日韩av免费高清视频| 欧美另类一区| 国产男人的电影天堂91| 欧美精品国产亚洲| 日韩三级伦理在线观看| xxx大片免费视频| 26uuu在线亚洲综合色| 黄片wwwwww| 国产真实伦视频高清在线观看| av播播在线观看一区| 国产精品福利在线免费观看| 国产永久视频网站| 午夜福利在线观看免费完整高清在| av福利片在线观看| 老司机影院毛片| 亚洲经典国产精华液单| 国产在视频线在精品| 尤物成人国产欧美一区二区三区| 久热久热在线精品观看| 亚洲成人久久爱视频| 久久久久九九精品影院| 亚洲av免费高清在线观看| 五月天丁香电影| 午夜精品在线福利| 午夜激情欧美在线| 国产成人aa在线观看| 在线观看人妻少妇| av专区在线播放| 精品久久久久久久人妻蜜臀av| 人人妻人人看人人澡| 人人妻人人看人人澡| 成年版毛片免费区| 精品酒店卫生间| 欧美高清成人免费视频www| 精品国内亚洲2022精品成人| 欧美潮喷喷水| 成年女人在线观看亚洲视频 | 色尼玛亚洲综合影院| 欧美高清成人免费视频www| 熟妇人妻久久中文字幕3abv| 午夜福利网站1000一区二区三区| 国产一区二区三区av在线| 欧美精品国产亚洲| 一区二区三区免费毛片| 久久精品国产亚洲网站| 久久精品熟女亚洲av麻豆精品 | 欧美不卡视频在线免费观看| 久久久午夜欧美精品| 亚洲自偷自拍三级| 日日摸夜夜添夜夜爱| 成人av在线播放网站| 色尼玛亚洲综合影院| 色5月婷婷丁香| 精品人妻偷拍中文字幕| 亚洲精品乱久久久久久| 一区二区三区四区激情视频| 午夜福利视频精品| 亚洲精品国产av蜜桃| 日韩av在线大香蕉| 97精品久久久久久久久久精品| 日本黄大片高清| 国产高清不卡午夜福利| 熟女电影av网| 久久久亚洲精品成人影院| 自拍偷自拍亚洲精品老妇| 亚洲真实伦在线观看| 亚洲精品日韩在线中文字幕| 免费观看a级毛片全部| 日韩精品有码人妻一区| 最近最新中文字幕免费大全7| 天堂√8在线中文| or卡值多少钱| 偷拍熟女少妇极品色| 好男人视频免费观看在线| 毛片女人毛片| 乱系列少妇在线播放| 麻豆av噜噜一区二区三区| 啦啦啦啦在线视频资源| 亚洲精品456在线播放app| 中文字幕亚洲精品专区| 中文字幕人妻熟人妻熟丝袜美| 十八禁国产超污无遮挡网站| 国产日韩欧美在线精品| 亚洲精华国产精华液的使用体验| 内射极品少妇av片p| 亚洲经典国产精华液单| 国产午夜福利久久久久久| 国产av在哪里看| 热99在线观看视频| 欧美精品国产亚洲| a级毛片免费高清观看在线播放| 成人午夜高清在线视频| 国产老妇伦熟女老妇高清| 日韩欧美三级三区| 一边亲一边摸免费视频| 国产综合精华液| 欧美成人a在线观看| 人妻少妇偷人精品九色| 免费看av在线观看网站| 日韩欧美国产在线观看| 亚洲精品国产av蜜桃| 亚洲最大成人手机在线| 国产视频内射| 免费黄网站久久成人精品| 精品一区二区三卡| 国产伦在线观看视频一区| 黄色日韩在线| 亚洲精品视频女| 久久精品夜夜夜夜夜久久蜜豆| 精品久久久久久电影网| 日韩欧美三级三区| 青春草亚洲视频在线观看| 亚洲精品影视一区二区三区av| 禁无遮挡网站| 免费在线观看成人毛片| 中文字幕人妻熟人妻熟丝袜美| 80岁老熟妇乱子伦牲交| 亚洲最大成人中文| 亚洲av日韩在线播放| 精品人妻偷拍中文字幕| 自拍偷自拍亚洲精品老妇| 丰满人妻一区二区三区视频av| 亚洲精品国产成人久久av| 成人无遮挡网站| 一二三四中文在线观看免费高清| 一个人观看的视频www高清免费观看| 能在线免费观看的黄片| 国产亚洲一区二区精品| 国产一级毛片在线| 中文字幕免费在线视频6| 欧美一级a爱片免费观看看| 特级一级黄色大片| 日本-黄色视频高清免费观看| 亚洲乱码一区二区免费版| 久久精品国产自在天天线| 亚洲综合色惰| 激情 狠狠 欧美| 欧美成人一区二区免费高清观看| 秋霞在线观看毛片| 欧美极品一区二区三区四区| 日韩视频在线欧美| 国产精品.久久久| av网站免费在线观看视频 | 91aial.com中文字幕在线观看| 亚洲欧美精品自产自拍| av在线观看视频网站免费| 亚洲国产av新网站| 久久久久久国产a免费观看| 搡老乐熟女国产| 国产精品久久久久久av不卡| 亚洲精品国产av蜜桃| 国产探花在线观看一区二区| 亚洲第一区二区三区不卡| 亚洲精品,欧美精品| 99久久中文字幕三级久久日本| 美女cb高潮喷水在线观看| 国产精品伦人一区二区| 免费大片黄手机在线观看| 国产永久视频网站| 亚洲伊人久久精品综合| 色哟哟·www| 91在线精品国自产拍蜜月| 在现免费观看毛片| 麻豆精品久久久久久蜜桃| 久久久久久久国产电影| 91av网一区二区| 高清日韩中文字幕在线| 日本一二三区视频观看| 欧美3d第一页| 国产日韩欧美在线精品| 少妇熟女aⅴ在线视频| 日韩精品青青久久久久久| 日韩大片免费观看网站| 日本爱情动作片www.在线观看| 好男人在线观看高清免费视频| 女的被弄到高潮叫床怎么办| 欧美成人午夜免费资源| 日韩一区二区视频免费看| 黄色配什么色好看| 蜜臀久久99精品久久宅男| 亚洲av.av天堂| 观看美女的网站| 国内精品宾馆在线| 久久草成人影院| 波多野结衣巨乳人妻| 亚洲电影在线观看av| av免费观看日本| 成人特级av手机在线观看| 丰满少妇做爰视频| 久久99热6这里只有精品| 欧美潮喷喷水| 亚洲经典国产精华液单| 国产三级在线视频| 亚洲国产欧美在线一区| 一区二区三区免费毛片| 99热这里只有是精品在线观看| 美女被艹到高潮喷水动态| 看十八女毛片水多多多| 日韩精品青青久久久久久| 99热网站在线观看| av在线播放精品| 在线免费十八禁| 内地一区二区视频在线| 少妇的逼水好多| 夜夜看夜夜爽夜夜摸| 色综合亚洲欧美另类图片| 听说在线观看完整版免费高清| 最近手机中文字幕大全| 国产一级毛片在线| 久久久久久久久中文| 青春草视频在线免费观看| 岛国毛片在线播放| 22中文网久久字幕| 99久久精品热视频| 噜噜噜噜噜久久久久久91| 免费观看的影片在线观看| 免费黄网站久久成人精品| 国产成人午夜福利电影在线观看| 日本-黄色视频高清免费观看| 91av网一区二区| 成人漫画全彩无遮挡| 欧美xxxx性猛交bbbb| 亚洲在线观看片| 波野结衣二区三区在线| 亚洲乱码一区二区免费版| 国产一区二区亚洲精品在线观看| 美女cb高潮喷水在线观看| 亚洲久久久久久中文字幕| 国产在线男女| 日本黄大片高清| 国产成人免费观看mmmm| 亚洲精品影视一区二区三区av| 又爽又黄无遮挡网站| 尾随美女入室| 国产爱豆传媒在线观看| 国产精品人妻久久久影院| videossex国产| 色视频www国产| 亚洲人成网站在线观看播放| 纵有疾风起免费观看全集完整版 | 久久久欧美国产精品| 国产午夜福利久久久久久| 亚洲av一区综合| 中文字幕久久专区| 亚洲自拍偷在线| 午夜福利视频精品| 午夜视频国产福利| 菩萨蛮人人尽说江南好唐韦庄| 最近的中文字幕免费完整| www.av在线官网国产| 国产成年人精品一区二区| 成人二区视频| 肉色欧美久久久久久久蜜桃 | 久久久精品94久久精品| 免费黄网站久久成人精品| 亚洲激情五月婷婷啪啪| av国产久精品久网站免费入址| 日韩欧美一区视频在线观看 | 日日干狠狠操夜夜爽| 日韩 亚洲 欧美在线| 男人狂女人下面高潮的视频| 国产在线男女| 纵有疾风起免费观看全集完整版 | 久久精品人妻少妇| 五月玫瑰六月丁香| 一本久久精品| 精品久久久久久久久久久久久| av天堂中文字幕网| 日韩中字成人| 在线观看免费高清a一片| 欧美成人精品欧美一级黄| 国产成人一区二区在线| 日产精品乱码卡一卡2卡三| 麻豆国产97在线/欧美| 亚洲精品日本国产第一区| 国产色婷婷99| ponron亚洲| 国产成人福利小说| 国产乱来视频区| 国产精品人妻久久久久久| 亚洲欧美精品专区久久| 搡老乐熟女国产| 男人狂女人下面高潮的视频| 色综合亚洲欧美另类图片| 中国国产av一级| 午夜福利在线观看吧| 亚洲精品乱码久久久v下载方式| 自拍偷自拍亚洲精品老妇| 天堂av国产一区二区熟女人妻| 亚洲国产高清在线一区二区三| 精品午夜福利在线看| 亚洲国产精品成人久久小说| 啦啦啦韩国在线观看视频| 欧美三级亚洲精品| 亚洲av福利一区| 极品教师在线视频| 身体一侧抽搐| 91精品伊人久久大香线蕉| 成人综合一区亚洲| 国产爱豆传媒在线观看| 国产视频首页在线观看| 一级黄片播放器| 国产亚洲精品av在线| 国产亚洲5aaaaa淫片| 日韩强制内射视频| 久久人人爽人人片av| 午夜免费男女啪啪视频观看| 久久久久久久亚洲中文字幕| 日韩国内少妇激情av| 深夜a级毛片| 亚洲av电影在线观看一区二区三区 | 一级片'在线观看视频| 国产国拍精品亚洲av在线观看| 久久久色成人| av在线老鸭窝| 在线天堂最新版资源| xxx大片免费视频| 日本欧美国产在线视频| 国产久久久一区二区三区| 午夜免费观看性视频| 国产女主播在线喷水免费视频网站 | 极品少妇高潮喷水抽搐| 九草在线视频观看| 国产精品福利在线免费观看| 激情 狠狠 欧美| 国产69精品久久久久777片| 欧美高清成人免费视频www| 国产极品天堂在线| 搡老乐熟女国产| 久久国内精品自在自线图片| 秋霞伦理黄片| 亚洲成人精品中文字幕电影| 久久97久久精品| 丝瓜视频免费看黄片| 成人亚洲欧美一区二区av| 国产不卡一卡二| 亚洲高清免费不卡视频| 一级黄片播放器| 天天一区二区日本电影三级| 国产成人免费观看mmmm| 久99久视频精品免费| 欧美激情国产日韩精品一区| 精品一区二区免费观看| 99久国产av精品国产电影| 国产成人午夜福利电影在线观看| 男女边摸边吃奶| 69人妻影院| 国产精品久久久久久精品电影小说 | 黄色欧美视频在线观看| 寂寞人妻少妇视频99o| 有码 亚洲区| 美女高潮的动态| 久久精品熟女亚洲av麻豆精品 | 亚洲高清免费不卡视频| 韩国av在线不卡| 天天一区二区日本电影三级| 18禁在线播放成人免费| 中文字幕久久专区| 国产精品久久久久久精品电影| 亚洲不卡免费看| av.在线天堂| 青春草亚洲视频在线观看| 能在线免费观看的黄片| 亚洲国产日韩欧美精品在线观看| 黄片wwwwww| 午夜免费激情av| 一级爰片在线观看| 午夜福利在线在线| 超碰av人人做人人爽久久| 欧美日韩亚洲高清精品| 小蜜桃在线观看免费完整版高清| 精品久久国产蜜桃| 大又大粗又爽又黄少妇毛片口| 免费不卡的大黄色大毛片视频在线观看 | 日本色播在线视频| 欧美xxxx黑人xx丫x性爽| 成年女人在线观看亚洲视频 | 日韩一区二区三区影片| 久久精品人妻少妇| 午夜爱爱视频在线播放| 熟妇人妻久久中文字幕3abv| 亚洲精品乱码久久久v下载方式| 亚洲自拍偷在线| 三级国产精品片| 久久精品人妻少妇| 最近2019中文字幕mv第一页| 午夜福利在线观看免费完整高清在| 国产成人a∨麻豆精品| 三级男女做爰猛烈吃奶摸视频| 69av精品久久久久久| 亚洲国产日韩欧美精品在线观看| 一级二级三级毛片免费看| 午夜免费男女啪啪视频观看| 九色成人免费人妻av| 亚洲在线自拍视频| 亚洲av福利一区| 99热这里只有是精品50| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产av在哪里看| 精品久久久久久久末码| 国产精品一区二区三区四区免费观看| 69av精品久久久久久| 九草在线视频观看| 日韩成人av中文字幕在线观看| 日日摸夜夜添夜夜添av毛片| 丰满乱子伦码专区| 天堂av国产一区二区熟女人妻| 亚洲国产欧美在线一区| 亚洲三级黄色毛片| 床上黄色一级片| 日韩电影二区| 夫妻午夜视频| 大又大粗又爽又黄少妇毛片口| 日韩大片免费观看网站| 久久久久久久久久久丰满| 99热网站在线观看| 伊人久久国产一区二区| 美女主播在线视频| 九九爱精品视频在线观看| 日韩制服骚丝袜av| 亚洲精品乱码久久久v下载方式| 丰满人妻一区二区三区视频av| 亚洲美女搞黄在线观看| 久久这里只有精品中国| 十八禁国产超污无遮挡网站| 国产成年人精品一区二区| 久久精品国产鲁丝片午夜精品| 国产欧美另类精品又又久久亚洲欧美| 一级爰片在线观看| 国产视频首页在线观看| 亚洲在久久综合| 丝袜美腿在线中文| 国产高清不卡午夜福利| 一本一本综合久久| 日韩av在线免费看完整版不卡| a级毛色黄片| av免费观看日本| 直男gayav资源| av又黄又爽大尺度在线免费看| a级一级毛片免费在线观看|