• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    教育數據治理的倫理框架:價值、向度與路徑

    2020-10-09 10:17:12謝娟
    現代遠程教育研究 2020年5期

    謝娟

    摘要:大數據時代,數據驅動已成為教育治理現代化的主導形式。教育數據治理作為一個具有跨學科解釋力的核心概念,體現了數據治理與教育治理在手段與目的上、數據驅動與教育自發(fā)在治理理念上的交融。教育數據治理離不開倫理道德的觀照與潤澤,其內蘊的道德合理性和倫理價值,促使倫理治理成為必需。為建立教育數據治理的倫理秩序,制度與德性是兩個不可缺少的倫理向度。其中,制度倫理是指對社會規(guī)范和運行規(guī)則的倫理反思和要求,體現為對教育數據治理相關制度建設的規(guī)約;德性倫理是指主體對自身的生存意義、精神歸屬、處世方式的反思和體認,體現為教育數據治理主體的精神品質和道德境界;兩者相互促進,共同構成教育數據治理的倫理向度。在推進教育數據治理的過程中,可以通過數據收集階段的倫理嵌入、數據分析階段的倫理調適和教育決策階段的倫理評估等倫理路徑,積極應對數據采集、算法應用、決策制定中潛在的倫理風險,以促進和諧治理的倫理秩序之生成。

    關鍵詞:教育數據治理;倫理框架;倫理價值;倫理向度;倫理路徑

    中圖分類號:G434 ? 文獻標識碼:A ? ?文章編號:1009-5195(2020)05-0015-10 ?doi10.3969/j.issn.1009-5195.2020.05.002

    大數據時代,教育數據以前所未有的速度持續(xù)產生并亟待服務于教育改革,面向教育的數據治理迫在眉睫。不寧唯是,進入教育信息化2.0時代,推進大數據驅動的教育治理已成共識。由此催生的“教育數據治理”近幾年已成為教育大數據領域的研究熱點和重點。然而,教育治理的數據主義傾向、數據治理的人文缺失等現象不斷涌現,成為教育數據治理的重要障礙,也暴露出該領域研究中的倫理缺位問題。那么,教育數據治理內蘊怎樣的倫理價值?有無適合的倫理向度以引領分析?治理過程又當如何進行倫理規(guī)約?當追問走向深層時,對教育數據治理及其倫理爭論也將愈發(fā)激烈。本文嘗試從倫理價值、倫理向度和倫理路徑等理論角度對教育數據治理進行倫理探尋,以引發(fā)更廣泛思考。

    一、教育數據治理的概念及其倫理價值

    從語義上看,教育數據治理既是教育的數據治理,也是教育數據的治理。教育治理是多元主體共同管理教育公共事務的過程,其最終目標是建立高效、公平、自由、有序的教育新格局(褚宏啟,2014)。數據治理是對數據進行優(yōu)化、保護和利用的過程,目標是從數據中獲取最大價值(曹建軍等,2017)。二者在大數據時代得以迅速發(fā)展,促成了數據驅動的教育治理和面向教育的數據治理在內容和理念上的不斷融合。教育的育人屬性與數據的技術本質同時存在,注定教育數據治理具有獨特的概念內涵及倫理價值。

    1.教育數據治理的概念闡釋

    (1)相關研究梳理

    關于數據驅動的教育治理等相關研究興起于2014年左右。有學者聚焦以大數據為基礎的現代教育治理與決策趨勢(陳霜葉等,2014),基于數據可視化、學習預測分析等大數據技術來分析教育管理實踐的數據驅動治理模式(Williamson,2016),探討教育治理面臨的數據意識薄弱、共享障礙、制度不足等挑戰(zhàn)(姚松,2016;王永顏,2017;Piattoeva et al.,2020)。還有學者從數據分析、數據應用、數據共享、數據反饋、數據推送等方面論證大數據與教育治理的契合之處(申霞等,2018),提出優(yōu)化大數據相關制度、發(fā)展數據素養(yǎng)、建立治理評價指標、更新數據技術等教育治理途徑(楊現民等,2020;宋宇等,2020)。

    隨著教育大數據的發(fā)展,面向教育的數據治理研究首先在高等教育領域興起。數據治理作為高等教育治理的一部分,是提高大學教育質量、大學決策科學性、大學管理效率的需要(許曉東等,2015)。國外的一些大學將信息治理擴展到數據治理,揭示了高等教育數據治理的發(fā)展趨勢(Jim et al.,2018),其中美國通用教育數據標準在教育數據治理中發(fā)揮了重要作用,啟示高等教育數據治理要規(guī)劃數據架構、納入多元主體、推進標準建設與實施(許曉東等,2019)。之后,教育領域數據治理的學理分析、基本思路和實踐路徑逐漸明了(張培等,2020)。

    顯然,無論是數據驅動的教育治理,還是面向教育的數據治理,二者在研究內容上存在交叉重合的現象,研究目標均指向教育治理現代化。尤其近年來,有關“教育治理現代化”“教育大數據”等研究成果不斷涌現,彌合了傳統(tǒng)教育治理和大數據時代教育治理的界限,一個具有跨學科解釋力的核心概念——“教育數據治理”應運而生。教育數據治理就是教育行政主管部門或教育機構為了充分發(fā)揮數據價值,圍繞教育數據,在體制與機制、政策與規(guī)則、技術與行為等方面的行動集合(徐峰等,2018)。該概念常被用來表達數據驅動的教育治理和面向教育的數據治理的融合之意,如成人教育數據治理(馬啟鵬等,2019)、人工智能時代的教育數據治理(田賢鵬,2020)等??梢?,學界對教育數據治理的認識雖在技術手段等內容層面初步形成共識,但對其概念內涵的探究仍需深入,研究視角上也缺少倫理學等哲學觀照。

    (2)教育數據治理的概念界定

    “治理”是各種公共或私人的個人和機構管理其共同事務、使不同利益得以調和的持續(xù)過程,以維持秩序、滿足公眾需要為主要目的(俞可平,1999)。一方面,從治理的本質出發(fā),教育數據治理是基于數據應用的教育治理,是對教育數據行為的治理,政府、企業(yè)、社會組織等都可以利用數據參與教育治理,從而調和教育利益、滿足公眾的教育需要。另一方面,從治理的體系來看,教育數據治理不僅應該包括數據獲取、數據分析、數據解釋和預測等數據治理階段,而且還應含有教育制度、教育價值和教育政策等教育治理的組成結構(陳金芳等,2016)。因此,教育數據治理作為教育治理和數據治理交互相融的系統(tǒng)過程,就是從教育的價值追求出發(fā),依據相關教育制度,開展數據的收集、挖掘和分析工作,通過科學的解釋和預測,做出符合教育價值的決策,從而解決教育問題,達到教育治理的目的。

    具體而言,教育數據治理的內涵是數據驅動的教育治理和面向教育的數據治理的融合。這種融合是為了調和教育利益相關者之間的矛盾,通過數據治理的手段,作出滿足公眾教育需求的決策,達到育人的價值追求。治理的過程遵循提出問題、分析問題、解決問題的思路展開:通過充分收集教育數據而確定教育問題;通過揭示教育數據之間的相關關系而分析教育活動;通過呈現數據分析結果,協商制定教育決策以提出解決方案??梢姡鳛槭侄蔚臄祿卫砼c作為目的的教育治理相互融合,構成了教育數據治理的內涵,而與教育治理和數據治理有關的體系、方法、程序等內容范疇,均屬于教育數據治理的外延部分。

    總之,作為一種綜合治理模式,教育數據治理不僅起到了連接數據治理和教育治理的橋梁作用,調和了數據效益目標和教育價值目標,而且還擔負了協調跨機構、跨部門開展合作治理的重任,最終指向科學合理的教育決策。為實現教育決策的手段善與目的善、公共善與公民權等倫理訴求,教育數據治理的道德合理性及其內在的倫理價值必須彰顯出來。

    2.教育數據治理的倫理價值審視

    教育數據一般指向教育中的人,或者通過數據而生成的與人有關的信息要素,如身份信息、思維習慣、性格特點、行為偏好、學習表現等,不僅關涉安全、隱私等數據倫理問題,而且與以人為本、人的全面發(fā)展等教育倫理要素息息相關。教育數據治理一旦失去規(guī)范,諸如師生數據信息被公開叫賣、數據隱私被侵犯等現象便會頻繁發(fā)生,數據壟斷、授權應用場景受限等諸多問題便會不斷出現(田賢鵬,2020)。所以,教育數據治理離不開倫理道德的觀照與潤澤,其中的道德理由或合理性便是開啟教育數據治理之倫理探尋的邏輯起點。

    (1)教育數據治理的道德合理性

    如果說教育數據的產生是因為信息技術的應用而被動生成,具有客觀性,那么對教育數據的收集、分析、利用等治理行為則明顯具有主觀性,負有倫理價值,能夠進行道德分析。因而,對治理主體的治理行為進行治理目的層面的分析,正是對教育數據治理的道德合理性之追尋。

    縱觀已有研究,隨著大數據、人工智能等新一代信息技術與教育的融合應用,教育大數據、人工智能教育應用的倫理研究蓬勃發(fā)展,為教育數據治理的倫理探究做好了鋪墊。國際著名信息倫理學家尤瑞恩·范登·霍文等(2014)指出數據收集主要是政府部門和商業(yè)機構的工作。他們進行教育數據治理的基本理由有二:一是教育行政部門為了更好地為公民提供積極主動的教育服務,同時有效識別“搭便車者”相關信息,遏制“搭便車行為”,維護公共利益,因而必須對教育數據進行獲取和分析以便做出決策;二是教育商業(yè)機構為了更好地向客戶提供教育服務,應對信任危機和交易風險,以及維護商業(yè)利益,因而有必要識別、獲取、利用、共享客戶的教育信息、交易記錄等數據。從這個角度來講,教育數據治理的主體可以分為政府部門和教育商業(yè)團體兩大群體。除此之外,從利益相關者的角度來看,數據主體還可以劃分為大數據收集者、大數據使用者和大數據生產者三類,他們之間構成道德相關關系,對大數據引發(fā)的超網絡道德連鎖效應共同負有倫理責任(Zwitter,2015)。

    可見,教育數據的收集者、使用者和生產者構成了教育利益相關者,他們通過教育活動和數據技術手段的相互影響而形成某種倫理關系,共同協商作出合乎倫理的教育決策,從而維護各自利益。所以,不管是教育主體的數據治理行為,還是數據主體的教育治理行為,其根本目的都是通過數據的收集、分析等手段來調和不同主體之間的利益關系,從而滿足公眾的教育需要。換言之,教育數據治理一方面是為了維護治理主體的利益,如政府部門維護公共教育利益、商業(yè)機構維護商業(yè)利益;另一方面是為了更好地服務于治理對象,如政府為大眾提供教育服務、商業(yè)機構為客戶提供教育服務。在此道德合理性支配下的治理,從教育需求出發(fā),通過數據治理手段,達到解決教育問題的目的,才是合乎倫理的,如此教育數據治理的倫理內涵才得以彰顯。

    (2)教育數據治理的倫理價值

    教育數據治理內在的人文主義價值理性和數據主義技術理性兩種價值取向,使其倫理內涵突出表現在教育倫理和數據倫理上。一方面,教育數據治理的落腳點是教育治理,以解決教育問題、促進教育發(fā)展為根本目標,與教育倫理的向善追求相一致。教育倫理關注教育權、教育責任、教育角色和教育德性(樊浩等,2000),以善惡為價值取向,引導和約束人們以善律教(于永昌,2008),遵循以人為本、教育公正、和諧發(fā)展、民主協商等倫理原則(李廷憲,2010)。所以,教育數據治理應當遵循教育倫理精神,保證治理主體擔負教育責任、治理過程遵循以善律教、治理對象得以受益發(fā)展、治理結果符合教育目標。另一方面,教育數據治理的數據治理屬性,在一定程度上倡導了數據主義的價值導向。數據主義主張數據流最大化和信息自由是至善(尤瓦爾·赫拉利,2017),這是技術至上主義在大數據時代的形態(tài)(李倫,2018)。對數據的癡迷可能導致反烏托邦的結果,對教育產生深遠影響(Watson,2019)??梢?,數據本身負荷的這種意向性,容易使教育數據治理滑入數據依賴、數據盲從的技術邏輯,從而推崇問題解決的效率向度而遮蔽了教育的人文訴求。以技術的客觀中立性來保證數據收集、處理的客觀中立性是不可能的(楊子飛,2016),必須在數據倫理的規(guī)范約束下對數據行為進行道德審視。因此,教育數據治理既要遵循教育倫理的引導與要求,也要接受數據倫理的規(guī)定與約束。

    隨著大數據倫理的發(fā)展,技術哲學、信息倫理等領域對數據倫理的研究,以及教育領域對教育大數據倫理的探索,促進了教育領域數據倫理的發(fā)展,教育數據倫理研究已經開啟。教育數據倫理的基本問題包括教育數據的價值定位、教育主體的數據權利、教育數據的教育效用(劉三女牙等,2017),同時教育數據在教育倫理、責任倫理、權利倫理、制度倫理等維度上表現出有用無害、責任擔當、數據權利、制度保障等倫理訴求(戚萬學等,2019)??梢?,以教育倫理和數據倫理為分析框架的教育數據倫理,旨在調和不同主體因價值沖突而引起的理念矛盾,指導人們理性評價教育數據行為中的道德問題,對有爭議的事實或價值做出邏輯論證,從而解決數據不當獲取、隱私泄露、所有權不明、個體名譽受損等倫理問題。換言之,教育數據倫理以提高數據主體的道德能力、規(guī)范數據行為的道德落實、塑造數據對象的道德情感、增強數據結果的道德意義為目標追求,為教育數據治理掃清了倫理障礙,正好體現了教育數據治理的倫理價值。

    然而,綜觀大數據及其教育應用有關的倫理研究,多是從具體倫理困境入手,針對個人隱私、信息安全、數據公平等倫理形態(tài)(董軍等,2017)以及公私領域判定不清、知情同意機制缺失、數據不當利用等典型倫理問題(陳一,2019)進行分析,缺少系統(tǒng)的倫理概括和明確的方向指引,容易造成倫理研究的碎片化和重復性。為系統(tǒng)建立教育數據治理的倫理秩序并推動該領域的道德建設,當務之急是明確倫理向度和設計倫理路徑。

    二、教育數據治理的倫理向度

    教育數據倫理本身預設了教育價值的合理性及其道德責任。然而,大數據技術應用帶來的數據倫理困境不斷滲透于教育,增加了治理進程中教育本質背離和道德責任遮蔽的風險,易于引發(fā)倫理關系失調、倫理規(guī)范失控、倫理行為異化等現實困境。為擔負道德義務、沖破倫理困境,相應倫理秩序必須理順并建立。倫理秩序分為倫理規(guī)范秩序和道德心靈秩序,前者依靠制度倫理的力量,其核心是“應該怎樣”;后者依靠道德精神的力量,其核心是“我要怎樣”(肖祥,2017)。對教育數據治理而言,倫理制度是客觀的,規(guī)范的是治理對象的權利享有和制度保障;道德精神是主觀的,引導的是治理主體確保治理行為有用向善的責任擔當,屬于德性倫理的范疇。因此,建立教育數據治理的倫理秩序,就要建立多元主體的協作制度,以及增強治理主體的道德能力和教育責任。這正是制度倫理和德性倫理對教育數據治理的價值引導。實際上,道德建設的根本任務是在制度倫理和倫理制度的基礎上塑造德性倫理(呂耀懷,2000)。對事物的道德狀況進行客觀評價并探尋道德建設的合理途徑,至少要從社會制度倫理和個人德性倫理兩個基本方面出發(fā),這是區(qū)分當代道德問題的兩個重大維度(陳澤環(huán),2009)。所以,要想比較客觀地認清教育數據治理實踐的道德狀況和倫理秩序,就要超越單向的倫理分析思路,不僅考查社會制度倫理方面的問題,還要關注個人德性方面的倫理問題。換言之,制度倫理和德性倫理是教育數據治理的兩個基本倫理向度。

    1.制度倫理向度

    制度是指有組織的、整套的社會規(guī)范系列和體系,制度倫理是對社會規(guī)范和運行規(guī)則的倫理反思和要求,以及對倫理的制度化、規(guī)范化的思考與建構(倪愫襄,2018)。教育數據治理不僅需要制度的規(guī)范,更需要制度倫理的指引。

    其一,制度內蘊公平正義的倫理價值,具有規(guī)范、引導、協調的倫理功能。制度從非個人關系角度表達權利與義務的關系,由一系列內在相關的規(guī)則或規(guī)范構成,具有規(guī)范人的行動之善、人的道德之形成和道德正氣之弘揚的倫理功能(段治乾,2005)。在教育數據治理體系中,治理主體應該或不該做什么、負有的權利與責任有哪些、治理行為背后的影響是什么,這些內容都應由相應的制度所規(guī)定。從應然角度講,教育數據的治理主體和治理對象應當處于一種平等并相互促進的倫理關系之中,治理主體通過數據收集、數據分析等手段來改進教育活動,從而反哺治理對象;治理對象通過自我成長與發(fā)展、享有數據權利等方式來完善數據,從而滿足治理需要。然而,現實中知情同意、權利保障等機制的缺失,常常使治理主體與治理對象之間的關系呈現出“控制與被控制”的失調狀態(tài);育人為本、責權分工的不充分,造成教育倫理與數據倫理的規(guī)范沖突;對數據應用權限、隱私界限等規(guī)定的不統(tǒng)一,帶來泄露身份信息、侵犯隱私權利等行為異化。這些問題都需要制度來調適。只有建立了相應的制度體系,才能更好地促進教育大數據的法治監(jiān)管、社會監(jiān)督和行業(yè)自律(戚萬學等,2019)。

    其二,制度形成過程實際上是對教育數據治理體系及其運行機制進行倫理思考和道德判斷的過程。從制度生成的角度來看,制度由正式制度、非正式制度和實施機制共同組成(康永久,2003)。事實上,制度本身是一個制度化的過程。在教育數據治理的制度化過程中,一方面,相關政策法規(guī)不斷制定出來,使得教育數據治理行為有規(guī)可循,正式制度逐漸形成,成為約束治理行為的重要內容;與此同時,一些得到公眾認可的教育觀念、意識形態(tài)等行為規(guī)范,在正式制度無法定義的場合起到規(guī)范教育數據治理行為的作用;不僅如此,在保證制度運行的過程中,作為“元制度”的實施機制得以成型,發(fā)揮了指導、監(jiān)督、評價的作用。另一方面,在制度建設過程中,對數據工程師、教育者、管理人員等不同治理主體的倫理要求不斷形成共識,關于公益教育數據和商業(yè)教育數據的收集、分析、利用等行為規(guī)范逐漸明晰,治理對象的數據權與教育權得以融合,從而形成宏觀或微觀的治理秩序。這樣既能保證教育數據治理制度本身的道德要求,又能促成對該制度運行中一系列環(huán)節(jié)的道德評判。

    其三,制度的內容為教育數據治理提供了系統(tǒng)的倫理策略。教育數據治理首先應該從屬于一般的教育制度,這是由內在的教育屬性決定的;同時還應該服從于信息治理相關制度,這是由外在的數據手段決定的。因此,教育數據治理相關制度內容應該包括對教育治理和數據治理全過程的約束和規(guī)范,主要有:一是教育數據的公開制度,主要解決政府部門、商業(yè)機構等治理主體向社會或用戶開放或披露教育數據的范圍、權限等問題;二是教育數據收集與利用制度,主要保障公益性教育數據和商業(yè)性教育數據的收集、開發(fā)、利用等過程規(guī)范問題;三是教育數據的共享制度,主要規(guī)范政府性質的教育數據、科學性質的教育數據、文化性質的教育數據等不同類型數據的共享機制問題;四是數據素養(yǎng)教育制度,主要通過數據素養(yǎng)、媒介素養(yǎng)等信息素養(yǎng)教育手段,提高人們的數據智慧水平;五是制度運用和執(zhí)行的保障機制,如制度的實施細則、監(jiān)督手段、評估方案、反饋策略等。以上制度內容體系為防控隱私泄露、保障數據安全等倫理問題指明了方向。可見,制度作為表達倫理要求的重要方式,帶來了解決倫理問題的策略體系。從某種程度上說,教育數據治理相關制度就是指導處理各種倫理問題的方法集成。

    2.德性倫理向度

    德性是一種獲得性人類品質,德性的擁有和踐行使人們能夠獲得實踐的內在利益(A.麥金太爾,1995)。德性倫理是指主體對自身的生存意義、精神歸屬、處世方式以及某種倫理精神體認后所形成的精神品質和道德境界(楊清榮,2001)。德性倫理是對個體的道德約束,側重于個體或共同體之道德品質的形成,這是教育數據治理應遵循的另一倫理向度,主要體現在治理主體的精神品質和道德境界上。教育數據治理主體的道德品質是在大數據時代背景、教育文化傳統(tǒng)和教育大數據的應用情境中得以自覺形成,以尋求科學的數據治理和教育目標的達成為精神慰藉,最終與制度倫理共同發(fā)揮作用。教育數據治理在德性倫理向度上的具體內涵包括以下三個方面:

    第一,教育數據治理的德性倫理以治理主體為基本對象。教育數據治理作為一種利益調整機制,擁有多元治理主體,主要由教育治理機構和數據治理機構兩個利益相關方通過參與決策、監(jiān)督管理、調節(jié)約束,來維護自身利益和共同利益。通常,教育治理主體主要由政府行政系統(tǒng)、社會組織或法人團體、公民個人等組成。數據治理相關方來自運營、銷售、人力資源、財務的領導們,以及信息技術部門、客戶、合作伙伴、監(jiān)管部門、數據工作人員等(Suer,2019)。這些參與教育數據的生成、采集、使用、研究和利用的治理者通過協作而形成共同體,以實現教育目的為目標,共同承擔相應的責任與義務。所以,教育數據共同體及其成員的道德品質構成了教育數據治理的德性倫理。

    第二,教育數據治理主體的德性倫理是在領略教育數據倫理精神之后的道德意識建構和個人修養(yǎng)完善,具有自律性和自覺性的特點,突出表現為態(tài)度、良心、作風等方面。治理主體表現出來的內在穩(wěn)定行為傾向就是治理態(tài)度。積極的治理態(tài)度一經形成便會成為習慣性反應,對教育數據治理行為具有重要的引導作用。而良心作為道德意識的一部分,是治理主體判斷自身行為的“道德律”,成為履行治理義務的內在精神力量。另外,良好的工作作風是德性倫理的外在表現,有助于改善治理主體間的倫理關系,能夠潛移默化地協調組織機構之間的沖突??傊滦允亲寕€體高尚并使其實踐活動完美的品質,是人之為人的內在規(guī)定(李蘭芬等,2005)。只有治理主體端正治理態(tài)度,建構治理良心,形成良好作風,具備完善的道德意識和高尚的個人修養(yǎng),才不會違背教育規(guī)律或數據規(guī)范而做出損害教育數據治理的不道德行為。

    第三,教育數據治理的德性倫理必須與制度倫理共同發(fā)揮作用。制度倫理與德性倫理的關系是相互支撐、統(tǒng)一契合的。一方面,治理主體的德性水平直接影響教育數據治理制度的實現。如果治理主體缺少德性,那么無論制度如何周全,都不可能對教育數據治理行為產生理想的作用。作為治理共同體德性水平的集中表現,良好的精神風貌有助于制度的健康運行,而低下的德性水平則會瓦解和腐蝕教育數據治理相關制度。另一方面,僅僅通過治理主體德性水平的提高也不可能推動治理工作的順利開展。教育數據治理相關制度通過調節(jié)人們的行為,將隱含的教育倫理精神和數據倫理規(guī)范實體化,這樣不僅能夠提升治理主體的德性水平,而且有助于治理共同體形成明確的道德觀念,從而促進每一個共同體成員的德性成長。

    總之,從倫理的角度來講,教育數據治理是制度倫理和德性倫理的統(tǒng)一體。制度建設能夠為教育數據治理提供制度資源,德性建設將使提高教育數據治理效率成為可能。因此,找準教育數據治理的價值坐標,建立與大數據時代相適應的教育數據倫理精神,并將之納入制度體系,通過制度的潛移默化來提高人們的德性水平,這一思路應成為提高教育數據治理有效性的重要方向。

    三、教育數據治理的倫理路徑

    制度倫理和德性倫理在宏觀上為教育數據治理指明了倫理發(fā)展的方向和途徑。從治理過程來看,教育數據治理至少應包括收集數據以確定教育問題、分析數據以闡釋教育意義、協商做出教育決策三個基本階段。這是按照提出問題、分析問題、解決問題的邏輯展開的,也是數據治理與教育治理融合的結果。為實現教育數據治理的倫理價值訴求,有必要遵循制度倫理和德性倫理的基本向度,繼續(xù)對數據收集、數據分析和教育決策等具體治理環(huán)節(jié)進行從手段到目的的倫理規(guī)約,以探尋一條具體的倫理路徑。

    1.數據收集階段的倫理嵌入

    在教育數據治理過程中,數據收集是極為重要的一個環(huán)節(jié),在很大程度上決定了治理的方向和結果。數據收集又叫數據采集,是從各種教育平臺及相關電子終端的運行或檢測數據中,獲得教育數據并得出有價值的信息。在此階段,關于教育數據的收集范圍及規(guī)模、數據權利的歸屬及邊界、數據使用的權責及期限等問題得以初步明確,教育數據治理的行為意向也基本形成。所以,對數據收集階段進行倫理考量,把教育價值和技術規(guī)范嵌入其中,就意味著教育數據治理一開始便負載了特定的倫理價值,有助于治理環(huán)節(jié)的有序展開。

    首先,在數據收集目標中嵌入教育數據治理的倫理目標。為了限定教育數據的收集范圍和劃定相應的數據收集行為界限,在數據收集階段不僅要遵循權責統(tǒng)一的數據倫理規(guī)范,糾偏數據主義至上傾向,以確保治理手段具有倫理性;而且要遵循教育求善和育人的倫理前提,避免陷入無教育或反教育狀態(tài),以確保教育數據收集行為不對教育構成傷害。這一過程可以通過價值敏感設計的方法,把人們所能接受的道德價值觀整合進技術之中(Van den Hoven,2007),從而完成治理目標的道德價值滲透。對數據理念和教育理念的價值調和,是數據收集行為應遵循的最基本的道德義務,也是教育數據治理對倫理價值的終極追求。只有嵌入了倫理目標,才能指引數據收集在教育理性的軌道中前行。

    其次,在數據收集過程中嵌入教育數據治理的倫理向度。在數據生成與整理過程中應當建立面向教育領導、行政人員、管理者和教師等不同人群的數據制度,使用數據問責的手段促進各級部門數據制度的形成(Selwyn,2016)。為了滿足治理的具體需求,誰來收集數據、收集哪些數據等基本問題應該在數據收集前被預定義,并根據數據的不同類型及應用目的,從制度倫理的角度建立層級系列的數據收集規(guī)范,以保證數據收集的質量和效率。制定教育數據收集規(guī)范需要明確以下內容:規(guī)范的適用范圍和目的;數據采集對象、責任主體;數據收集的技術方法、工具系統(tǒng);具體的數據內容、數據格式、數據標準;收集后的數據傳送方式等。同時,從德性倫理的角度,提高數據收集人員及數據提供者的道德覺悟和權責意識,完善自律公約,促進教育素養(yǎng)和數據素養(yǎng)的有效融合,從而為后續(xù)治理環(huán)節(jié)創(chuàng)造良好的治理環(huán)境和道德風氣。

    最后,在數據收集主體中嵌入倫理責任。一方面,要明確數據收集者的倫理責任。作為擁有數據收集權的責任主體,教育數據收集者不僅要具備保證數據質量、保障數據安全等義務,而且要擔負起向數據提供者告知數據權利、保證數據共享合法性,以及解釋數據收集之后的存儲、整合、呈現、歸檔、使用、傳播、二次利用、刪除、清理、銷毀等相關安排的責任;不僅要承擔教育使命、社會責任、職業(yè)道德等倫理責任,而且要對數據收集行為帶來的后果承擔法律責任。另一方面,要維護教育數據提供者的數據權利。這就需要改變以往不公開收集數據的做法,尊重數據提供者的數據財產權和數據人格權。在數據收集之前,必須向數據提供方告知其擁有同意或禁止自身數據被收集、被使用、被謀利所對應的采集權、使用權和效益權,對數據收集和使用的過程與目的的知情權,敏感數據不被侵犯、披露、惡意使用的隱私權,以及對數據進行刪除、銷毀的修改權。

    2.數據分析階段的倫理調適

    教育數據收集完成之后便轉入數據分析階段,以分析結果的高準確率為最高追求。這里的數據分析也叫數據處理,實際上是一系列數據行為的總稱,一般包括存儲管理、數據倉庫、聯機分析、數據挖掘、商務智能、大數據分析6個過程(李志剛,2012)。其中,算法驅動是該階段的突出特點,即通過預先設定的算法,對大數據進行深度挖掘和超級計算,以實現從教育數據到教育意義的分析和闡釋。算法驅動是教育數據分析的技術本質。算法是解決問題的計算程序,它通過對教育數據的挖掘和分析,自動生成關于教育的畫像。這看似是一個“客觀中立”的過程,卻面臨激烈的倫理爭論——數據是否代表客觀事實、分析是否帶有偏見、是否存在主觀的“數據清理”(郭小平等,2019)。數據處理環(huán)節(jié)涉及的算法倫理是構成大數據倫理治理體系的主要內容(徐圣龍,2019)。這警示我們要對教育數據分析階段的算法倫理問題進行調適。

    對算法進行倫理規(guī)約就是在設計理念和應用方式上調適算法帶來的倫理沖突。一方面,從技術倫理的內在規(guī)范和價值判斷出發(fā),把可理解和值得信任作為對算法設計的基本共識和倫理要求,在教育情境分析的基礎上,依據具體的數據倫理理論進行編寫,消除主觀偏見及權力操縱,從而調適算法在設計理念上的沖突。例如,可以通過跨領域協作、兼顧少數群體公平、與相關利益者合作、識別算法何時不合適、增加公眾批評等5個步驟來保證算法的合理性(Kusner et al.,2020)。這個過程需要加強教育數據治理共同體與社會公眾的溝通交流,通過信息科學、教育科學、科技倫理等多領域的合作,組織公眾參與算法設計,以共同治理來減少算法設計中的偏見和歧視。

    另一方面,建立多級互促的監(jiān)管模式,通過算法設計人員的自我管理、政府部門等相關組織的監(jiān)管、媒體與公眾的監(jiān)督等途徑,消除算法獨裁,避免算法黑箱,追問算法輸出結果的教育價值。算法在數據分析中的作用機制通常是隱蔽的。當算法應用于教育時,算法處理教育問題的邏輯很難被發(fā)現,人們被動接受算法輸出結果,面臨從根本上失去教育自由和教育民主的風險(譚維智,2019)。所以,除了要強化教育數據治理共同體及其成員的內在道德約束之外,還應該加強對算法應用的監(jiān)管力度。數據分析階段對算法應用負有監(jiān)督責任的至少有三級主體:算法設計群體作為自律主體,是監(jiān)管的基礎;政府與相關教育組織是監(jiān)管主體,指引監(jiān)管的方向;媒體與社會公眾是監(jiān)督主體,提供監(jiān)管的動力。多級主體之間協調配合、互相促進,實現對算法應用的共同監(jiān)督??傊?,只有對算法設計與應用進行倫理規(guī)約與監(jiān)管,才能有效避免算法帶來的數據分析困境,保證分析結果的客觀公正。

    3.教育決策階段的倫理評估

    數據經過分析處理后,隨即進入教育決策階段。這是控制數據后果的最關鍵環(huán)節(jié)。這里的教育決策是指決策者依據經濟效果、教育效果以及倫理后果,對基于數據分析結果作出的備選方案、可接受方案、滿意方案進行抉擇的過程。確切地說,這是技術決策與教育決策的融合,具有“協商性”——由教育決策部門與數據治理機構等決策主體通過協商而做出解決教育問題的決定。這里的決策主體,既包括技術決策者,也包括教育決策者。技術決策者通常包括管理者(來自政府或者企業(yè)的利益相關者)、技術專家以及受技術決策影響的社會公眾(高楊帆,2012)。因此,教育數據治理的決策者既包括數據機構的管理者、數據專家、數據提供者及相關社會公眾,又包括教育管理者、教育專家以及接受教育的社會公眾,他們共同組成教育決策群體,承擔教育決策任務及相應的責任。

    一般來說,社會經濟或人類框架中的決策應該包括理性、主觀和倫理三個影響因素(Brans,2002)。然而,決策者難免優(yōu)先考慮市場效益、技術可行等因素,而忽略倫理因素,因而可能會影響到教育決策的倫理性。為確保教育決策的倫理性,需要對其進行倫理評估。對教育決策進行倫理評估,也有助于促成教育數據治理之滿意方案的形成。教育決策的倫理性突出表現為以人為本、教育公正、教育利益至上等方面。對教育決策進行倫理評估,就是引導決策者在設計備選方案、確定備選方案、選擇可接受方案、確定滿意方案等實施過程中,遵循教育公平、多方利益均衡、權責明確、符合規(guī)范等倫理原則。根據教育決策主體的不同分工,對教育決策階段的倫理評估可以按照以下四個過程進行:第一,在設計備選方案階段,以相關社會公眾為主導,通過充分的意見征詢和倫理引導,完成備選方案的設計;第二,在確定備選方案階段,以數據倫理專家和教育倫理專家組成的倫理委員會為主導,通過效應預測和問題澄清,確定備選方案的倫理水平;第三,在選擇可接受方案階段,以數據專家和教育專家為主導,通過權衡利益關系和調節(jié)倫理沖突,修改并篩選出可接受的方案;第四,在確定滿意方案階段,以教育管理者為主導,通過明確各決策主體的責任歸屬,做出各利益相關方均滿意的最優(yōu)方案。另外,在倫理評估過程中要避免出現兩個問題:一是凡是技術上能夠完成的事情都應該做,二是追求最大的效率與產出。第一個問題容易迫使教育決策在倫理價值上作出無原則的退讓,第二個問題可能使教育數據治理淪為單純追求效率的數據機器而喪失教育的本性。

    總之,對教育決策階段進行倫理評估,其基本出發(fā)點是承認“技術悖論”的存在,即認為數據治理的后果可能與其要實現的教育目的相背離或不一致。對決策進行倫理判斷,有助于警惕無約束、無節(jié)制、不合理的數據治理帶給教育的不利后果。教育數據治理的決策者要善于運用倫理分析的思維來衡量決策的倫理價值,使所做決策建立在教育向善的基礎上。至此,教育數據治理順利進入教育問題解決階段。

    四、結束語

    長期以來的實踐路向使教育大數據研究缺少形而上層面的分析,在一定程度上阻礙了對大數據時代教育治理問題的多視角、系統(tǒng)性詮釋(謝娟,2019)。不同于以往研究從治理的技術方案等角度展開論述,本文從倫理價值、倫理向度和倫理路徑三個方面,層層遞進地勾勒出教育數據治理的倫理框架,期望為相關倫理問題的應對提供一種分析思路。教育數據治理內蘊的道德合理性和倫理價值,促使倫理治理成為必需。制度倫理提醒我們要加快教育數據治理相關制度建設,德性倫理啟示我們要提升公民的數據素養(yǎng)和道德水平。倫理嵌入、倫理調適、倫理評估等具體路徑指引我們要培養(yǎng)治理共同體的“群體倫理意識”和“個體道德意識”來保障治理實踐的順利開展。在對制度和德性兩個倫理向度以及數據收集、數據分析和教育決策三個階段倫理路徑的探尋中,恰好與當前教育數據治理存在的體制機制不健全、治理主體數據能力低下、專業(yè)人才短缺等現實挑戰(zhàn),以及為此而提出的優(yōu)化制度保障、實施數據素養(yǎng)提升工程、組建治理共同體等路徑(楊現民等,2020),和人工智能時代教育數據治理遭遇的隱私保護制度缺失等現實困境,以及重構數據治理的制度倫理規(guī)范、強化師生數據安全保護意識等變革路徑(田賢鵬,2020),不期而遇并做出呼應,體現了本研究的實踐意義。

    大數據時代,數據為本已經成為現代教育的重要裝置和主導、監(jiān)控教育的新型權力,體現出對教育過程、教育質量、教育行為的全景化監(jiān)控的教育景觀(金生鈜,2019)。從治理的角度來看,當我們按照物化的方式,對人的品質素養(yǎng)、生命價值、發(fā)展可能性進行數據化描述與分析的時候,是否在給人以尊重與承認?數據的符號化在多大程度上遮蔽了教育的價值與意義?教育被數據化的合理性限度在哪里?對這些隱憂的追思,更是倫理學對教育數據治理的熱切召喚,仍需繼續(xù)深入探尋。

    參考文獻:

    [1][荷]尤瑞恩·范登·霍文,[澳]約翰·維克特(2014). 信息技術與道德哲學[M]. 趙迎歡,宋吉鑫,張勤. 北京:科學出版社:251.

    [2][美]A.麥金太爾(1995). 德性之后[M]. 龔群,戴揚毅等. 北京:中國社會科學出版社:241.

    [3][以]尤瓦爾·赫拉利(2017). 未來簡史[M]. 林俊宏. 北京:中信出版集團:345.

    [4]曹建軍,刁興春(2017).數據質量導論[M].北京:國防工業(yè)出版社:295.

    [5]陳金芳,萬作芳(2016).教育治理體系與治理能力現代化的幾點思考[J].教育研究,37(10):25-31.

    [6]陳霜葉,孟瀏今,張海燕(2014).大數據時代的教育政策證據:以證據為本理念對中國教育治理現代化與決策科學化的啟示[J].全球教育展望,43(2):121-128.

    [7]陳一(2019).網絡研究中的數據倫理問題研究進展[J].信息資源管理學報,9(2):58-65.

    [8]陳澤環(huán)(2009).道德結構與倫理學:當代實踐哲學的思考[M].上海:上海人民出版社:18.

    [9]褚宏啟(2014).教育治理:以共治求善治[J].教育研究,35(10):4-11.

    [10]董軍,程昊(2017).大數據技術的倫理風險及其控制——基于國內大數據倫理問題研究的分析[J].自然辯證法研究,33(11):80-85.

    [11]段治乾(2005).教育制度倫理研究[M].鄭州:河南人民出版社:37.

    [12]樊浩,田海平(2000).教育倫理[M].南京:南京大學出版社:55.

    [13]高楊帆(2012).論技術決策及其倫理意義[J].倫理學研究,(5):64-68.

    [14]郭小平,秦藝軒(2019).解構智能傳播的數據神話:算法偏見的成因與風險治理路徑[J].現代傳播(中國傳媒大學學報),41(9):19-24.

    [15]金生鈜(2019).大數據教育測評的規(guī)訓隱憂——對教育工具化的哲學審視[J].教育研究,40(8):33-41.

    [16]康永久(2003).教育制度的生成與變革:新制度教育學論綱[M].北京:教育科學出版社:101-102.

    [17]李蘭芬,王國銀(2005).德性倫理:人類的自我關懷[J].哲學動態(tài),(12):40-45.

    [18]李倫(2018).“楚門效應”:數據巨機器的“意識形態(tài)”——數據主義與基于權利的數據倫理[J].探索與爭鳴,(5):29-31.

    [19]李廷憲(2010).教育倫理學的體系與案例[M].蕪湖:安徽師范大學出版社:47.

    [20]李志剛(2012).大數據:大價值、大機遇、大變革[M].北京:電子工業(yè)出版社:99.

    [21]劉三女牙,楊宗凱,李卿(2017).教育數據倫理:大數據時代教育的新挑戰(zhàn)[J].教育研究,38(4):15-20.

    [22]呂耀懷(2000).道德建設:從制度倫理、倫理制度到德性倫理[J].學習與探索,(1):63-69.

    [23]馬啟鵬,劉澤琳,陳麗珍(2019).利益相關者視域下的成人教育數據治理省思[J].教育發(fā)展研究,39(3):71-77.

    [24]倪愫襄(2018).倫理學簡論[M].武漢:武漢大學出版社:163.

    [25]戚萬學,謝娟(2019).教育大數據的倫理訴求及其實現[J].教育研究,40(7):26-35.

    [26]申霞,夏豪杰(2018).大數據背景下教育治理運行機制現代化[J].教育研究與實驗,(6):17-22.

    [27]宋宇,盧曉中(2020).大數據驅動下區(qū)域教育治理探析[J].教育研究與實驗,(1):36-39.

    [28]Suer, M. (2019). 數據治理為什么很重要,誰應該負責?[N].計算機世界,2019-05-27(002).

    [29]譚維智(2019).人工智能教育應用的算法風險[J].開放教育研究,25(6):20-30.

    [30]田賢鵬(2020).隱私保護與開放共享:人工智能時代的教育數據治理變革[J].電化教育研究,41(5):33-38.

    [31]王永顏(2017).大數據與教育治理現代化[J].教育研究與實驗,(2):41-43.

    [32]肖祥(2017).馬克思主義政治倫理思想與當代倫理道德問題研究[M].廣州:暨南大學出版社:111.

    [33]謝娟(2019).教育大數據哲學研究的現狀與基本思路[J].現代遠程教育研究,31(3):70-77.

    [34]徐峰,吳旻瑜,徐萱等(2018).教育數據治理:問題、思考與對策[J].開放教育研究,24(2):107-112.

    [35]徐圣龍(2019).“公共的”與“存在于公共空間的”——大數據的倫理進路[J].哲學動態(tài),(8):86-94.

    [36]許曉東,彭嫻,周可(2019).美國通用教育數據標準對我國高等教育數據治理的啟示[J].高等工程教育研究,(1):103-108.

    [37]許曉東,王錦華,卞良等(2015).高等教育的數據治理研究[J].高等工程教育研究,(5):25-30.

    [38]楊清榮(2001).略論制度倫理與德性倫理的關系[J].道德與文明,(6):15-18.

    [39]楊現民,郭利明,王東麗等(2020).數據驅動教育治理現代化:實踐框架、現實挑戰(zhàn)與實施路徑[J].現代遠程教育研究,32(2):73-84.

    [40]楊子飛(2016).“第三洞穴”與“數據主義”——論大數據社會科學的內在矛盾[J].自然辯證法研究,32(8):63-67.

    [41]姚松(2016).大數據時代教育治理轉型的前瞻性分析:機遇、挑戰(zhàn)及演進邏輯[J].現代遠程教育研究,(4):32-41.

    [42]于永昌(2008).教育倫理[M].沈陽:沈陽出版社:14.

    [43]俞可平(1999).治理和善治引論[J].馬克思主義與現實,(5):37-41.

    [44]張培,夏海鷹(2020).教育領域數據治理的基本思路與實踐路徑[J].現代教育技術,30(5):19-25.

    [45]Brans, J. P. (2002). Ethics and Decision[J]. European Journal of Operational Research,136(2): 340-352.

    [46]Jim, C. K., & Chang, H. (2018). The Current State of Data Governance in Higher Education[J]. Proceedings of the Association for Information Science and Technology,55(1):198-206.

    [47]Kusner, M. J., & Loftus, J. R. (2020). The Long Road to Fairer Algorithms[J].Nature: International Weekly Journal of Science, 578 (7793):34-36.

    [48]Piattoeva, N., & Boden, R. (2020). Escaping Numbers? The Ambiguities of the Governance of Education Through Data[J]. International Studies in Sociology of Education, 29(1-2).

    [49]Selwyn, N. (2016). Theres so Much Data: Exploring the Realities of Data-Based School Governance[J]. European Educational Research Journal, 15(1): 54-68.

    [50]Van den Hoven, J. (2007). ICT and Value Sensitive Design[C]// Goujon, P., Lavelle, S., & Duquenoy, P. et al.(eds.). The Information Society: Innovations, Legitimacy, Ethics and Democracy. Boston: Springer:67-72.

    [51]Watson, C. (2019). From Accountability to Digital Data: The Rise and Rise of Educational Governance[J]. Review of Education,7(2):390-427.

    [52]Williamson, B. (2016). Digital Education Governance: Data Visualization, Predictive Analytics, and“Real-time” Policy Instruments[J]. Journal of Education Policy, 31(2):123-141.

    [53]Zwitter, A. (2015). Big Data Ethics[J]. Big Data & Society, 1(2):1-6.

    收稿日期 2020-06-13責任編輯 劉選

    Abstract:In the era of big data, data driving has become the dominant mode of educational governance modernization. As a core concept with interdisciplinary explanatory power, educational data governance embodies the combination of data governance and education governance in terms of means and purposes, as well as the integration of data driving and education autonomy in governance concepts. It needs the consideration of ethics, whose inherent moral rationality and ethical value make ethical governance necessary. In order to establish an ethical order, institution and virtue are two indispensable ethical dimensions for educational data governance. Institutional ethics refers to the reflection and requirements of social norms and operational rules, which is embodied in the statute of the system construction related to educational data governance. Virtue ethics refers to the reflection and recognition of the subjects own survival significance, spiritual belonging and way of life, which is reflected in the spiritual quality and moral realm of the subject of educational data governance. Institutional ethics and virtue ethics promote each other and constitute the ethical dimension of educational data governance. In the process of promoting educational data governance, the potential ethical risks brought by data collection, algorithm application and decision-making can be dealt with by ethical embedding in data collection stage, ethical adjustment in data analysis stage, and ethical evaluation in education decision-making stage, so as to promote the generation of ethical order of harmonious governance.

    Keywords: ?Educational Data Governance; Ethical Framework; Ethical Value; Ethical Dimension; Ethical Path

    亚洲熟女毛片儿| 欧美人与性动交α欧美精品济南到| 在线看三级毛片| 观看免费一级毛片| 日本黄色视频三级网站网址| 亚洲男人天堂网一区| 丝袜美腿诱惑在线| 成年女人毛片免费观看观看9| 亚洲欧美日韩高清在线视频| 精品少妇一区二区三区视频日本电影| 久久婷婷人人爽人人干人人爱| 久久精品国产亚洲av高清一级| 国产国语露脸激情在线看| 国产在线精品亚洲第一网站| 亚洲精品国产区一区二| 国产三级黄色录像| 久99久视频精品免费| 久久热在线av| 悠悠久久av| 免费电影在线观看免费观看| 国产色视频综合| 在线播放国产精品三级| 午夜两性在线视频| www.999成人在线观看| 视频在线观看一区二区三区| 国产在线精品亚洲第一网站| 午夜福利高清视频| 哪里可以看免费的av片| 欧美乱妇无乱码| 午夜久久久久精精品| 婷婷精品国产亚洲av| 国产又色又爽无遮挡免费看| 老鸭窝网址在线观看| 久久草成人影院| 99久久99久久久精品蜜桃| 999久久久精品免费观看国产| 国产免费av片在线观看野外av| 中文字幕另类日韩欧美亚洲嫩草| 老司机午夜福利在线观看视频| 黑人操中国人逼视频| 韩国精品一区二区三区| 中文字幕另类日韩欧美亚洲嫩草| 精品久久久久久成人av| 亚洲人成网站在线播放欧美日韩| 亚洲精品美女久久久久99蜜臀| 18禁裸乳无遮挡免费网站照片 | 男人舔奶头视频| 久久久久久国产a免费观看| 久久香蕉激情| 波多野结衣巨乳人妻| 午夜福利高清视频| 亚洲av电影在线进入| 国产国语露脸激情在线看| 国产精品野战在线观看| 韩国精品一区二区三区| 俄罗斯特黄特色一大片| 国产精品久久电影中文字幕| 成人特级黄色片久久久久久久| 色综合亚洲欧美另类图片| 日本 欧美在线| 高清在线国产一区| 身体一侧抽搐| 久久久国产精品麻豆| 操出白浆在线播放| 美国免费a级毛片| 村上凉子中文字幕在线| 最近最新免费中文字幕在线| 午夜久久久在线观看| 白带黄色成豆腐渣| 国产精品久久久av美女十八| 中亚洲国语对白在线视频| 亚洲国产精品久久男人天堂| 欧美日韩黄片免| 亚洲久久久国产精品| 真人一进一出gif抽搐免费| 国内精品久久久久精免费| 色哟哟哟哟哟哟| 哪里可以看免费的av片| 十分钟在线观看高清视频www| 国产伦在线观看视频一区| 亚洲自拍偷在线| 18禁美女被吸乳视频| 成年女人毛片免费观看观看9| 色婷婷久久久亚洲欧美| 国产一卡二卡三卡精品| 欧美日韩一级在线毛片| 欧美日本视频| 男女做爰动态图高潮gif福利片| 久久亚洲真实| 免费在线观看日本一区| 午夜影院日韩av| 性色av乱码一区二区三区2| 久久久久国产一级毛片高清牌| 欧美精品啪啪一区二区三区| 香蕉av资源在线| 久久久久九九精品影院| 热re99久久国产66热| 2021天堂中文幕一二区在线观 | 久久香蕉精品热| 亚洲国产欧洲综合997久久, | 亚洲中文av在线| 欧美色视频一区免费| 日日爽夜夜爽网站| 美女大奶头视频| 亚洲aⅴ乱码一区二区在线播放 | 国产亚洲av高清不卡| 美女高潮喷水抽搐中文字幕| av福利片在线| 国产成+人综合+亚洲专区| 久久国产乱子伦精品免费另类| 亚洲精品中文字幕一二三四区| www.精华液| 又紧又爽又黄一区二区| 久久香蕉国产精品| 国产v大片淫在线免费观看| 国产精品国产高清国产av| 日韩欧美一区视频在线观看| 1024手机看黄色片| 国产成+人综合+亚洲专区| 男女下面进入的视频免费午夜 | 日韩国内少妇激情av| 久久狼人影院| 欧美乱妇无乱码| 中文字幕高清在线视频| 男人舔女人下体高潮全视频| 两性夫妻黄色片| 精品久久久久久久人妻蜜臀av| 人人妻人人澡欧美一区二区| 丝袜人妻中文字幕| 中文字幕高清在线视频| 国产高清激情床上av| 桃红色精品国产亚洲av| 亚洲av片天天在线观看| 美女大奶头视频| 久久天躁狠狠躁夜夜2o2o| 久久国产精品人妻蜜桃| 韩国精品一区二区三区| 18美女黄网站色大片免费观看| 黄色a级毛片大全视频| 天天躁夜夜躁狠狠躁躁| 一级片免费观看大全| 日韩欧美国产在线观看| 日本五十路高清| 狠狠狠狠99中文字幕| 国产片内射在线| 国产成人欧美| 久久中文字幕一级| 久久午夜综合久久蜜桃| 村上凉子中文字幕在线| 在线观看午夜福利视频| 在线观看舔阴道视频| 国产又色又爽无遮挡免费看| 黄片大片在线免费观看| 国产成+人综合+亚洲专区| 久热这里只有精品99| 两性夫妻黄色片| 欧美日本视频| 在线永久观看黄色视频| 国内精品久久久久久久电影| 国产精品98久久久久久宅男小说| 成人亚洲精品一区在线观看| 精品欧美一区二区三区在线| 老熟妇仑乱视频hdxx| 少妇裸体淫交视频免费看高清 | 国产精品电影一区二区三区| 99re在线观看精品视频| 久久久久九九精品影院| 免费在线观看视频国产中文字幕亚洲| 男女床上黄色一级片免费看| 国产v大片淫在线免费观看| 亚洲中文字幕日韩| 搡老妇女老女人老熟妇| 看免费av毛片| 日韩精品免费视频一区二区三区| 精品无人区乱码1区二区| 亚洲av五月六月丁香网| 嫩草影院精品99| 国产成人啪精品午夜网站| 国产成人欧美| 最近最新免费中文字幕在线| 女人爽到高潮嗷嗷叫在线视频| 亚洲片人在线观看| 国产成人av教育| 白带黄色成豆腐渣| 国产精品精品国产色婷婷| 亚洲第一电影网av| 2021天堂中文幕一二区在线观 | www.自偷自拍.com| 18禁裸乳无遮挡免费网站照片 | 亚洲av成人av| 人妻久久中文字幕网| 亚洲精品中文字幕在线视频| 免费搜索国产男女视频| 欧美日本视频| 天堂√8在线中文| 熟女少妇亚洲综合色aaa.| 精品不卡国产一区二区三区| 搡老妇女老女人老熟妇| 一区二区三区国产精品乱码| 久久久久久久久久黄片| 国产亚洲欧美精品永久| 人人妻,人人澡人人爽秒播| 一个人观看的视频www高清免费观看 | 欧美日韩亚洲综合一区二区三区_| 午夜久久久在线观看| 国产午夜福利久久久久久| 俄罗斯特黄特色一大片| 欧美大码av| 免费看a级黄色片| www.www免费av| 亚洲av片天天在线观看| 丰满的人妻完整版| 99久久综合精品五月天人人| 亚洲av成人不卡在线观看播放网| 最近最新免费中文字幕在线| 日韩国内少妇激情av| 天堂动漫精品| 级片在线观看| 亚洲第一av免费看| aaaaa片日本免费| 亚洲人成网站在线播放欧美日韩| 男女之事视频高清在线观看| 看黄色毛片网站| 搡老岳熟女国产| 午夜精品在线福利| 黄色成人免费大全| 性色av乱码一区二区三区2| 亚洲欧美日韩高清在线视频| avwww免费| 三级毛片av免费| 侵犯人妻中文字幕一二三四区| 久久久国产精品麻豆| 正在播放国产对白刺激| 巨乳人妻的诱惑在线观看| 别揉我奶头~嗯~啊~动态视频| 欧美日韩瑟瑟在线播放| 免费高清在线观看日韩| 看免费av毛片| 一进一出好大好爽视频| 成年免费大片在线观看| 国产99白浆流出| 日本免费a在线| 中文字幕久久专区| 他把我摸到了高潮在线观看| 亚洲avbb在线观看| 2021天堂中文幕一二区在线观 | 日韩精品青青久久久久久| 一边摸一边抽搐一进一小说| 白带黄色成豆腐渣| 性色av乱码一区二区三区2| 啦啦啦观看免费观看视频高清| 巨乳人妻的诱惑在线观看| 一级作爱视频免费观看| 亚洲三区欧美一区| 亚洲五月天丁香| 一级毛片女人18水好多| 亚洲激情在线av| 欧美黄色淫秽网站| 99国产极品粉嫩在线观看| 久久九九热精品免费| 少妇熟女aⅴ在线视频| 国产av不卡久久| 国产v大片淫在线免费观看| 午夜福利高清视频| 亚洲色图 男人天堂 中文字幕| 成年版毛片免费区| а√天堂www在线а√下载| 成人欧美大片| 亚洲国产欧洲综合997久久, | 天堂动漫精品| 欧美国产日韩亚洲一区| 在线观看一区二区三区| 亚洲第一欧美日韩一区二区三区| 天天躁夜夜躁狠狠躁躁| 精品熟女少妇八av免费久了| 亚洲熟女毛片儿| 两个人视频免费观看高清| 色综合婷婷激情| 深夜精品福利| 久久人妻av系列| 国产又色又爽无遮挡免费看| 国产v大片淫在线免费观看| 嫩草影视91久久| 制服诱惑二区| 夜夜看夜夜爽夜夜摸| 亚洲黑人精品在线| 精品国产国语对白av| 亚洲精品美女久久久久99蜜臀| 国产精品 欧美亚洲| 亚洲国产毛片av蜜桃av| 首页视频小说图片口味搜索| 亚洲 国产 在线| 国产色视频综合| 一级a爱视频在线免费观看| 国产亚洲精品久久久久5区| 成人欧美大片| 国产一区二区在线av高清观看| 最近最新中文字幕大全电影3 | 欧美黄色淫秽网站| 男人舔奶头视频| 国产熟女午夜一区二区三区| 悠悠久久av| 久久久久九九精品影院| 亚洲成人免费电影在线观看| 免费看十八禁软件| 在线观看免费视频日本深夜| 母亲3免费完整高清在线观看| 国产亚洲精品一区二区www| 亚洲中文av在线| 高潮久久久久久久久久久不卡| 在线永久观看黄色视频| 国产av一区在线观看免费| 欧美在线黄色| 成人三级做爰电影| 精华霜和精华液先用哪个| 亚洲人成伊人成综合网2020| av天堂在线播放| 日韩有码中文字幕| 伊人久久大香线蕉亚洲五| 麻豆成人午夜福利视频| 亚洲中文字幕一区二区三区有码在线看 | 村上凉子中文字幕在线| 桃色一区二区三区在线观看| 91成人精品电影| 99久久国产精品久久久| 99久久久亚洲精品蜜臀av| 国产精华一区二区三区| 亚洲精品在线美女| 最近在线观看免费完整版| 黄色成人免费大全| 亚洲精品久久国产高清桃花| 亚洲国产精品合色在线| 免费人成视频x8x8入口观看| 曰老女人黄片| 欧美黑人巨大hd| 白带黄色成豆腐渣| 精品久久久久久久末码| 黄色成人免费大全| 精品久久久久久久末码| 午夜两性在线视频| 给我免费播放毛片高清在线观看| 成人特级黄色片久久久久久久| 亚洲精品久久国产高清桃花| 亚洲三区欧美一区| 一本一本综合久久| 色哟哟哟哟哟哟| 午夜精品在线福利| 一进一出抽搐gif免费好疼| 麻豆国产av国片精品| 夜夜看夜夜爽夜夜摸| a在线观看视频网站| 国产精品亚洲一级av第二区| 国产亚洲av嫩草精品影院| 夜夜看夜夜爽夜夜摸| a在线观看视频网站| 精品少妇一区二区三区视频日本电影| 午夜免费激情av| 麻豆成人av在线观看| 男女视频在线观看网站免费 | 亚洲片人在线观看| 日本在线视频免费播放| 18禁黄网站禁片免费观看直播| 欧美丝袜亚洲另类 | 亚洲一区中文字幕在线| 母亲3免费完整高清在线观看| 亚洲自偷自拍图片 自拍| 欧美性猛交╳xxx乱大交人| 亚洲av片天天在线观看| 日韩欧美免费精品| 日韩精品中文字幕看吧| 男女视频在线观看网站免费 | 国产欧美日韩一区二区三| 伦理电影免费视频| 男女床上黄色一级片免费看| 可以在线观看毛片的网站| 国产精品久久久人人做人人爽| 午夜成年电影在线免费观看| 午夜免费观看网址| 啦啦啦观看免费观看视频高清| 免费高清视频大片| 久久久久久久久中文| 亚洲av日韩精品久久久久久密| xxx96com| 亚洲精品国产精品久久久不卡| 免费观看精品视频网站| 欧美激情极品国产一区二区三区| 亚洲午夜理论影院| 91av网站免费观看| 国产精品国产高清国产av| 免费人成视频x8x8入口观看| 亚洲人成网站在线播放欧美日韩| 国产av又大| 一进一出抽搐gif免费好疼| bbb黄色大片| 午夜免费成人在线视频| 欧美成人免费av一区二区三区| 亚洲第一av免费看| 国产片内射在线| 黄片小视频在线播放| 黄色a级毛片大全视频| 免费高清视频大片| 国产亚洲精品综合一区在线观看 | 午夜福利欧美成人| 婷婷丁香在线五月| 一区二区日韩欧美中文字幕| 久久人妻av系列| 一二三四社区在线视频社区8| 中文字幕久久专区| 日韩视频一区二区在线观看| 天天一区二区日本电影三级| 欧美成人一区二区免费高清观看 | 亚洲午夜精品一区,二区,三区| 男女视频在线观看网站免费 | 国产单亲对白刺激| 午夜a级毛片| 美女扒开内裤让男人捅视频| 在线免费观看的www视频| 久久久久久久久免费视频了| 亚洲中文av在线| 国产亚洲精品av在线| 国产伦人伦偷精品视频| 黄色成人免费大全| 最近在线观看免费完整版| 日韩国内少妇激情av| 狠狠狠狠99中文字幕| 国产精品1区2区在线观看.| 丝袜人妻中文字幕| 久久久久久九九精品二区国产 | 女人爽到高潮嗷嗷叫在线视频| 18禁美女被吸乳视频| 国产黄片美女视频| 禁无遮挡网站| 久久久久久人人人人人| 国产精品亚洲av一区麻豆| 午夜a级毛片| 成人18禁高潮啪啪吃奶动态图| 99热只有精品国产| 久久国产亚洲av麻豆专区| 久久久精品欧美日韩精品| 中文资源天堂在线| 欧美黑人巨大hd| 动漫黄色视频在线观看| 午夜激情福利司机影院| 国产不卡一卡二| 欧美大码av| 变态另类丝袜制服| 欧美 亚洲 国产 日韩一| 亚洲五月天丁香| 国产一级毛片七仙女欲春2 | 久久精品aⅴ一区二区三区四区| 日韩欧美国产在线观看| 女性生殖器流出的白浆| 女性被躁到高潮视频| 亚洲精品久久国产高清桃花| 午夜视频精品福利| 亚洲一区高清亚洲精品| 草草在线视频免费看| 夜夜躁狠狠躁天天躁| 国产精品爽爽va在线观看网站 | 亚洲性夜色夜夜综合| 欧美性长视频在线观看| 18禁裸乳无遮挡免费网站照片 | 久久久久精品国产欧美久久久| 宅男免费午夜| 精品高清国产在线一区| 日韩av在线大香蕉| 动漫黄色视频在线观看| 97超级碰碰碰精品色视频在线观看| 久久狼人影院| 制服人妻中文乱码| 一个人免费在线观看的高清视频| 亚洲色图av天堂| 国产精华一区二区三区| 日本五十路高清| 国产亚洲欧美精品永久| www.999成人在线观看| 9191精品国产免费久久| a级毛片在线看网站| 每晚都被弄得嗷嗷叫到高潮| 可以免费在线观看a视频的电影网站| 午夜福利一区二区在线看| 精品国产乱子伦一区二区三区| 天天添夜夜摸| 侵犯人妻中文字幕一二三四区| av福利片在线| 日韩 欧美 亚洲 中文字幕| xxx96com| 亚洲九九香蕉| 变态另类成人亚洲欧美熟女| 欧美日韩一级在线毛片| 欧美日本亚洲视频在线播放| 色av中文字幕| 长腿黑丝高跟| 欧美国产精品va在线观看不卡| 在线观看午夜福利视频| 亚洲av成人不卡在线观看播放网| √禁漫天堂资源中文www| 久久久水蜜桃国产精品网| 女人爽到高潮嗷嗷叫在线视频| 亚洲精品中文字幕一二三四区| 一区二区三区激情视频| 国产区一区二久久| 亚洲激情在线av| 色播在线永久视频| 国产精品久久视频播放| 欧美+亚洲+日韩+国产| 亚洲男人的天堂狠狠| 长腿黑丝高跟| 久久久久国产精品人妻aⅴ院| 国产色视频综合| 久久人人精品亚洲av| 国产片内射在线| 色综合站精品国产| 白带黄色成豆腐渣| 可以在线观看的亚洲视频| 国产又色又爽无遮挡免费看| 成人一区二区视频在线观看| 99国产精品一区二区蜜桃av| 成人特级黄色片久久久久久久| xxxwww97欧美| 亚洲,欧美精品.| 色综合婷婷激情| 久久精品91无色码中文字幕| 午夜福利在线在线| 在线播放国产精品三级| 免费高清在线观看日韩| 国产亚洲av高清不卡| 在线看三级毛片| 1024香蕉在线观看| 一本综合久久免费| 香蕉国产在线看| 亚洲国产毛片av蜜桃av| 怎么达到女性高潮| 99国产精品一区二区蜜桃av| 久久久久久九九精品二区国产 | 久久国产精品影院| 国内精品久久久久久久电影| 久久精品国产清高在天天线| 女人爽到高潮嗷嗷叫在线视频| www.www免费av| 国产野战对白在线观看| 精品一区二区三区av网在线观看| 51午夜福利影视在线观看| 欧美亚洲日本最大视频资源| 成熟少妇高潮喷水视频| av有码第一页| 一级a爱视频在线免费观看| 99热6这里只有精品| 久久精品国产亚洲av香蕉五月| 精品高清国产在线一区| 又大又爽又粗| 男女午夜视频在线观看| 观看免费一级毛片| 国产伦人伦偷精品视频| 12—13女人毛片做爰片一| 美女扒开内裤让男人捅视频| 欧美黑人欧美精品刺激| 欧美 亚洲 国产 日韩一| 好男人在线观看高清免费视频 | 91老司机精品| 国产黄色小视频在线观看| 久久婷婷成人综合色麻豆| 欧美另类亚洲清纯唯美| 久久久久久大精品| 国产视频一区二区在线看| 在线av久久热| 亚洲成av片中文字幕在线观看| 色婷婷久久久亚洲欧美| bbb黄色大片| 国产精品久久久人人做人人爽| 9191精品国产免费久久| 高清毛片免费观看视频网站| 成人三级黄色视频| 怎么达到女性高潮| 老鸭窝网址在线观看| 波多野结衣高清无吗| 久久国产精品人妻蜜桃| 欧美成人性av电影在线观看| 大型黄色视频在线免费观看| 亚洲天堂国产精品一区在线| 欧美日韩乱码在线| 欧美一区二区精品小视频在线| 日韩欧美在线二视频| 亚洲性夜色夜夜综合| 亚洲精品国产区一区二| 精品日产1卡2卡| 成人免费观看视频高清| 变态另类成人亚洲欧美熟女| 性欧美人与动物交配| 亚洲精品粉嫩美女一区| 在线观看66精品国产| 首页视频小说图片口味搜索| 啦啦啦 在线观看视频| 少妇 在线观看| 成人国语在线视频| 国产一区二区在线av高清观看| 又紧又爽又黄一区二区| 国产成人欧美在线观看| 亚洲熟妇熟女久久| 黑人巨大精品欧美一区二区mp4| 少妇的丰满在线观看| 国产亚洲欧美在线一区二区| 午夜两性在线视频| 色av中文字幕| 成在线人永久免费视频| 黄色 视频免费看| 国产片内射在线| 精品免费久久久久久久清纯| 好男人电影高清在线观看| 制服人妻中文乱码| 国产成人精品无人区| 神马国产精品三级电影在线观看 | 不卡一级毛片| 国产激情久久老熟女| or卡值多少钱|