• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    信息安全技術在教育數(shù)據(jù)安全與隱私中的應用分析

    2019-06-17 06:31:00劉夢君姜雨薇等
    中國電化教育 2019年6期
    關鍵詞:教育信息化

    劉夢君 姜雨薇等

    摘要:合理運用信息安全技術保障教育用戶在教育網(wǎng)絡空間上的數(shù)據(jù)與隱私安全,事關網(wǎng)絡空間國家主權(quán)安全、教育用戶人身和精神基本人權(quán)安全。該文從教育視角下的信息安全技術體系出發(fā),解剖了教育安全與教育數(shù)據(jù)安全的辯證關系,闡明了教育數(shù)據(jù)安全與隱私的內(nèi)涵與特點;梳理了有關教育數(shù)據(jù)安全與隱私保護的當前研究進展與現(xiàn)狀;明確了教育數(shù)據(jù)安全與隱私保護目標,并針對性地總結(jié)一般應用信息安全技術進行教育數(shù)據(jù)安全與隱私保護的流程;指出了信息安全技術在教育數(shù)據(jù)安全與隱私保護領域深入應用面臨的挑戰(zhàn)。最后展望了信息安全技術教育應用發(fā)展方向。

    關鍵詞:教育信息化;教育信息系統(tǒng)安全;教育數(shù)據(jù)安全與隱私;學習安全與隱私

    中圖分類號:G434 文獻標識碼:A

    一、引言

    經(jīng)過政府和業(yè)界多年不遺余力地推進教育信息化,大量存儲在網(wǎng)絡空間上的教育信息系統(tǒng)用戶的個人隱私數(shù)據(jù),帶來諸多意想不到安全威脅,引起了各方的高度關注。《中華人民共和國網(wǎng)絡安全法》的頒布,標志著對網(wǎng)絡空問上的信息系統(tǒng)安全的重視已經(jīng)上升到國家戰(zhàn)略。教育作為國運興衰之所系,其在網(wǎng)絡空間上的安全保障重要性不言而喻。美國政府為此頒布諸如《家庭教育權(quán)和隱私權(quán)法案》等一系列法典,嚴格保障學習者數(shù)據(jù)與隱私安全。微觀上,圍繞如何在網(wǎng)絡空間中保護學習者個人數(shù)據(jù)和隱私安全,國內(nèi)外研究者在各個層面進行了探討。李青和李瑩瑩從管理手段出發(fā),提出了立法、倫理約束、行業(yè)自律、政府監(jiān)管等對應策略,以促進形成良好的數(shù)據(jù)利用氛圍。楊現(xiàn)民等認為要加強教育數(shù)據(jù)安全與運營監(jiān)管,并系統(tǒng)地提出從體制、機制、技術、方法等多個層面制定《教育大數(shù)據(jù)安全管理辦法》的管理細則。Pardo等提出同時從法律和技術層面來保障學習者對數(shù)據(jù)的控制權(quán),控制數(shù)據(jù)的訪問權(quán),明確問責機制和評估原則。法律層面,徐鵬等指出應該從法律出發(fā)來保護教育大數(shù)據(jù)的安全,限制如今各類教育數(shù)據(jù)挖掘技術和學習分析技術的濫用。倫理層面,Rubel等認為在進行學習分析時要充分考慮到倫理問題,在教育數(shù)據(jù)的采集上必須明確數(shù)據(jù)的收集范圍和保障學習者的自主權(quán)。技術層面,李青等提出以區(qū)塊鏈技術對于推動教育的開放和公信力,構(gòu)建去中心化安全的全球知識庫。雖然不同的研究者提出解決問題的策略及角度不盡相同,但都認為從技術手段保護學習者的個人數(shù)據(jù)和隱私安全十分必要。

    從技術角度來看,教育數(shù)據(jù)安全與隱私可從數(shù)據(jù)與學習者關聯(lián)程度分為4個層級。如圖1所示,第一層是數(shù)據(jù)的物理存儲媒介安全,如存儲設備的防災防盜等;第二層是存儲設備本身系統(tǒng)運行功能的安全,如操作系統(tǒng)的安全;第三層是數(shù)據(jù)內(nèi)容安全,包括數(shù)據(jù)不被外界篡改、刪除,數(shù)據(jù)內(nèi)容表示的教育信息不被外界知曉;以及最上面的第四層,數(shù)據(jù)內(nèi)容隱含的學習者隱私等背景信息不被泄露。而在網(wǎng)絡空問中,最容易威脅到學習者個體的便是三、四層上的數(shù)據(jù)及隱私泄漏安全,這也是本文論述的信息安全技術關注的重點。

    二、教育數(shù)據(jù)安全與隱私的問題及內(nèi)涵

    (一)教育數(shù)據(jù)安全與隱私問題的產(chǎn)生

    教育數(shù)據(jù)安全與隱私風險產(chǎn)生的根源來自于教育信息化。早期的教育數(shù)據(jù)類型多為靜態(tài)數(shù)據(jù),形式和內(nèi)容較為單一(一般僅為學習者的個人學籍和成績等教學管理及教育活動產(chǎn)生的數(shù)據(jù)信息),信息化程度低,加之人們對個人信息安全可能會造成的不良影響沒有充分的認識,因此,對于教育數(shù)據(jù)的安全與隱私問題關注度低。進入互聯(lián)網(wǎng)時代尤其是移動互聯(lián)網(wǎng)時代以來,移動通信技術、物聯(lián)網(wǎng)、web2.0技術等快速發(fā)展。一方面,越來越多的學習資源被投放到網(wǎng)絡平臺上,學習者們在使用平臺學習時,留下了大量的個人和學習記錄信息。如此高信息量的學習者數(shù)據(jù),會引發(fā)一些別有用心之人竊取數(shù)據(jù)用于非法用途的心思。另一方面教育數(shù)據(jù)隱含著學習者的行為、方式、成果、動機等等零碎的信息,當采用合適的數(shù)據(jù)分析與挖掘技術時,這些零碎的信息就會相互作用和組合成新的更有價值的數(shù)據(jù)鏈,產(chǎn)生學習者本身都意識不到的隱私。

    然而,解決教育信息化過程中的安全問題并不能照搬現(xiàn)有信息系統(tǒng)的安全保護技術措施。作為信息技術的一種行業(yè)應用,教育信息系統(tǒng)在同樣存在著其它信息系統(tǒng)面臨的安全問題的同時,還面臨著如下幾方面的相對特殊的問題:(1)信息安全保障人才相對缺乏問題。廣大鄉(xiāng)村、偏遠落后地區(qū)的教育信息系統(tǒng)因為規(guī)模小,所配屬信息維護人員多由未受過專業(yè)培訓的教師兼任。這種人才資源上的不足,很容易使得信息系統(tǒng)受到入侵和破壞,泄露和污染學生數(shù)據(jù)。(2)用戶安全經(jīng)驗缺失問題,教育信息系統(tǒng)的用戶多是未成年或涉世不深的學生,因而更容易被別有用心之人利用諸多欺騙手段竊取敏感信息。(3)管理者安全意識淡薄問題。目前的教學及管理人員普遍缺乏安全意識,未能充分認識到學生日常的個人、生活、學習記錄對學生信息安全的重要性,導致在不經(jīng)意間泄露了學生敏感信息。這幾方面的問題,很大程度上,并不能通過管理、自律、法律法規(guī)手段完全解決,必須使用技術手段補足支撐。

    (二)教育數(shù)據(jù)安全與隱私的理論內(nèi)涵

    由于信息已經(jīng)成為經(jīng)濟社會發(fā)展的一項重要戰(zhàn)略資源,事關一國網(wǎng)絡空間主權(quán)安全,各國對于網(wǎng)絡空間上信息的獲取、使用及控制十分嚴格。信息系統(tǒng)的安全問題最早源自微型計算機系統(tǒng)安全,隨著計算機網(wǎng)絡的發(fā)展,安全邊界拓展到了網(wǎng)絡空間上。Blakley等對于信息安全的定義是:防止對數(shù)據(jù)未經(jīng)授權(quán)的訪問、使用、披露、破壞、修改和刪除。信息安全的目標是在保障數(shù)據(jù)的機密性和完整性的同時,保持數(shù)據(jù)的可用性,而信息安全技術是指為了達到上述信息安全目標而采取的一系列技術手段。

    相對于信息系統(tǒng)的安全,教育領域中一直就有安全的概念。早在2005年,教育部就向各高校、中小學下發(fā)了《教育系統(tǒng)突發(fā)公共事件應急預案》。預案中教育安全的內(nèi)容包括:自然災害安全、事故災難安全、公共衛(wèi)生安全、突發(fā)社會安全、考試安全這五大安全。前四項對應著人身安全、后一項對應著教育信息系統(tǒng)用戶數(shù)據(jù)安全。而隨著信息化的推進,一方面前五大安全都進行了信息化改造;另一方面許多教學活動也遷移到信息系統(tǒng)上開展,于是,網(wǎng)絡與信息安全亦于2015年被增補進應急預案中。由此可見,教育安全一直是教育管理部門關注的重點,只有切實保障教育用戶在教育信息系統(tǒng)全過程的安全,才能更好地開展后續(xù)教育活動。

    在教育信息系統(tǒng)中,信息安全技術無論是在用戶人身安全層面,還是在用戶數(shù)據(jù)安全層面,都有著重要作用(如圖2所示)。這兩個層面的研究都是為了更好地讓學習者擁有安全的受教育環(huán)境。所不同的是,前一個層面的安全觀念因為影響直接、繼承諸多傳統(tǒng)觀念,因而能夠被人們感同身受。而后一個層面的安全,概念上較為抽象,直觀上不易接觸,需要通過一定的事件,才有可能對外呈現(xiàn)。因而在人們的觀念當中,對其嚴重性認識多有不足。而這種認識上的陌生,一旦出現(xiàn)安全事件,將會借助信息化平臺快速傳播,造成全社會范圍內(nèi)的恐慌。因而,信息安全技術在學習者數(shù)據(jù)安全層面上的應用,不僅是推動教育安全的必要保障,亦是推動網(wǎng)絡空間安全這一虛擬空間主權(quán)觀念在廣大國民認知中的一個重要契機。

    三、教育數(shù)據(jù)安全與隱私保護典型技術及應用研究現(xiàn)狀

    (一)教育信息系統(tǒng)安全保障可用的典型信息安全技術

    目前常用的信息安全技術包括接入控制技術、攻擊防護技術、加密技術、隱私保護技術等,如下表所示。隨著網(wǎng)絡空間內(nèi)的安全攻擊類型越來越復雜,研究多技術合成、抗攻擊能力更強的信息安全技術,成為新的安全技術發(fā)展趨勢,也是高起點保障教育信息系統(tǒng)安全新的契機。

    (二)信息安全技術教育數(shù)據(jù)安全與隱私保護應用研究現(xiàn)狀

    國內(nèi)外關于教育數(shù)據(jù)安全與隱私的研究多側(cè)重于倫理道德上的剖析,從技術視角分析教育數(shù)據(jù)安全與隱私的研究不多,且較為零散。通過對相關研究進行整理和分析后發(fā)現(xiàn),當前使用信息安全技術對教育信息系統(tǒng)的安全與隱私的相關研究主要分為以下五個方面。

    1.教育信息業(yè)務系統(tǒng)數(shù)據(jù)安全模型研究

    理想中安全的教育信息系統(tǒng)應該不具有任何安全短板。按照教育數(shù)據(jù)安全使用周期內(nèi)的要求,從底層的網(wǎng)絡接入,到系統(tǒng)運行,到數(shù)據(jù)存儲,傳輸乃至應用全流程都應該進行完備的安全防護。但在具體的教育業(yè)務系統(tǒng),需要根據(jù)業(yè)務系統(tǒng)自身的安全需求,進行安全功能上的精心取舍,因此具體的安全模型和框架就需要研究者和業(yè)界因地制宜進行設計。研究者們分別根據(jù)移動在線學習、教育云、教育大數(shù)據(jù)分析、教育區(qū)塊鏈上業(yè)務系統(tǒng)的安全風險和安全需求設計了一系列針對性的安全模型和框架。

    2.教育信息系統(tǒng)文件安全保障方案設計研究

    教育信息化普及深入,推動各教育相關機構(gòu)辦公朝著無紙化、無介質(zhì)化方向穩(wěn)步發(fā)展。但無紙化的發(fā)展,使得教育活動文件脫離了主管單位物理控制,產(chǎn)生了文件濫用,權(quán)限失控,版權(quán)不明,內(nèi)容失真等諸多問題。對于教育活動文件安全,研究者們重點關注了跨高校學生檔案文件共享安全,高校學生電子學歷文件安全,學生作業(yè)和教師評閱后的文檔存在的篡改和泄露學生隱私問題等幾方面問題。

    3.在線學習系統(tǒng)的數(shù)據(jù)安全與隱私保障技術研究

    在線學習改變傳統(tǒng)的師講生學的教學模式、擺脫了傳統(tǒng)教學受固定時間、地點、學習過程單向和串行授課的約束,使得碎片化學習、協(xié)作學習、泛在學習、終身學習成為可能。但從知識產(chǎn)權(quán)、數(shù)據(jù)安全和學習者個人隱私角度來看,在線學習又將學習者和教育機構(gòu)推向了危機的前沿。圍繞著保障在線學習安全與隱私,研究者們使用信息安全技術一方面進行了接入應用系統(tǒng)的用戶身份驗證,確保只有合法的用戶進入在線學習系統(tǒng)。使用技術從簡單的靜態(tài)口令,動態(tài)口令,到復雜的生物特征,乃至最新的區(qū)塊鏈技術。另一方面則對進入系統(tǒng)使用過程中的數(shù)據(jù)安全與個人隱私保護展開了相關研究。

    4.在線考試系統(tǒng)安全保障技術研究

    在線考試系統(tǒng)的出現(xiàn),極大簡化了考試準備工作,大幅提高了后續(xù)的批閱、統(tǒng)計、分析和存檔管理效率,將會成為未來智慧教育的重要組成部分,但它面臨著試題和考生答題內(nèi)容被泄露和篡改,考生作弊的問題。因此在線考試系統(tǒng)的安全研究工作主要圍繞兩方面展開,一是通過各種身份驗證技術驗證應試者是考生本人,防止作弊;二是使用試題數(shù)據(jù)加密和簽名技術,保證試題和考生答卷內(nèi)容的機密性和完整性。

    5.學習數(shù)據(jù)分析與挖掘中的安全與隱私保護技術研究

    學習數(shù)據(jù)分析與挖掘?qū)τ诤罄m(xù)學生的培養(yǎng)發(fā)展,提高教學質(zhì)量,并應用于各類獎懲計劃有重要作用。但學生記錄數(shù)據(jù)涉及到個人隱私,不能簡單對外公布。因此如何在保護學生個人隱私同時,對學習記錄數(shù)據(jù)進行有效挖掘,成為擺在推動學習數(shù)據(jù)挖掘前的主要問題。學習數(shù)據(jù)隱私挖掘經(jīng)歷了一個經(jīng)驗安全到理論安全的過程。在第一階段的經(jīng)驗安全保障階段,使用各種匿名技術,對學習數(shù)據(jù)中個體敏感屬性進行匿名化處理。隨后,伴隨著隱私保護技術的發(fā)展,理論安全的差分隱私技術被提了出來并應用到了各類學習數(shù)據(jù)挖掘應用當中。

    四、基于信息安全技術的教育數(shù)據(jù)安全與隱私保護

    (一)信息安全技術保障教育數(shù)據(jù)安全與隱私的模型

    典型教育信息系統(tǒng)里面包含著學習者、教師、教學管理人員和系統(tǒng)運維人員4方面用戶。這4方面用戶對于教育數(shù)據(jù)而言既有可能是合法用戶,也有可能是安全威脅。教育數(shù)據(jù)安全與隱私保護的目標是通過接入控制、攻擊防護、數(shù)據(jù)加密、隱私保護等信息安全技術:在學習者合法使用教育信息平臺的同時,保護學習記錄和個人信息等數(shù)據(jù)安全的隱私,同時阻止和檢測出對他人數(shù)據(jù)的非法訪問;為教師提供合法的信息化教學輔助的同時,防止其教學資源和成果被人非法竊取,并盡可能減小其對學生數(shù)據(jù)有意無意的非法獲取;為管理人員提供合法的信息化管理輔助同時,阻止并檢測出其有意無意間泄露用戶數(shù)據(jù)及隱私;為系統(tǒng)運維人員提供維護系統(tǒng)接口同時,阻止并能檢測出對教育業(yè)務數(shù)據(jù)的訪問記錄。簡而言之,讓上述4方用戶在保障教育數(shù)據(jù)安全同時,依然能夠開展正常的教、學、管、維活動,形成一個教育數(shù)據(jù)安全共同體。

    (二)信息安全技術保障教育數(shù)據(jù)安全與隱私的框架

    信息系統(tǒng)安全遵循木桶理論,即系統(tǒng)的安全程度高低由最薄弱環(huán)節(jié)決定。因此,理論安全的教育信息系統(tǒng)任一環(huán)節(jié)上的安全都需要得到最大化的加強。一個安全的教育信息系統(tǒng)需要解決三個環(huán)節(jié)上的安全問題,即:安全地“采和傳”、安全地“存”、安全地“用”。即系統(tǒng)內(nèi)的數(shù)據(jù)生成及流動過程中不被泄露或非法篡改,存放在系統(tǒng)期間不被泄露或非法修改,使用時候不被泄露或非法篡改。具體保護流程如圖3所示。

    在教育數(shù)據(jù)采集和傳輸過程中,需要根據(jù)所面臨的安全威脅,來決定使用一種或者幾種信息安全技術的組合,構(gòu)建安全的數(shù)據(jù)采集與傳輸方案。當想阻止可靠的設備傳輸數(shù)據(jù)內(nèi)容被泄露時(如音視頻設備錄制數(shù)據(jù),固定點采集活動數(shù)據(jù)),通常由交互發(fā)起方使用對稱密鑰,對交互數(shù)據(jù)進行加密后發(fā)送給另一方。當想阻止篡改通信數(shù)據(jù)或者抵賴數(shù)據(jù)來源時(如學習者準備提交給系統(tǒng)的學習行為數(shù)據(jù)),則由交互發(fā)起方,使用基于哈希函數(shù)和非對稱加密技術的數(shù)字簽名技術,對交互數(shù)據(jù)生成簽名,另一方則使用交互發(fā)起方公開密鑰,驗證簽名來判斷原始數(shù)據(jù)有無被篡改。如想同時防止數(shù)據(jù)泄漏和數(shù)據(jù)被篡改(如學習者的個人資料數(shù)據(jù)),則由交互發(fā)起方先對原始數(shù)據(jù)使用對稱密碼加密,然后使用哈希函數(shù)生成摘要,再使用非對稱的私密密鑰生成簽名,然后將密文和簽名一同發(fā)送給交互另一方,另一方驗證簽名后再解密數(shù)據(jù)。以上數(shù)據(jù)泄漏都是針對有權(quán)限接觸到用戶數(shù)據(jù)的管理者外的人員,如果還想防止個人敏感數(shù)據(jù)(如教學評價數(shù)據(jù),投票調(diào)查數(shù)據(jù))被管理者知曉,則需要使用個人隱私保護技術對個人敏感數(shù)據(jù)進行隱私消除處理,再傳輸給平臺。

    在教育數(shù)據(jù)存儲安全保障中,需要根據(jù)系統(tǒng)自身所擁有的資源來決定使用一種或者幾種信息安全技術的組合,構(gòu)建安全的數(shù)據(jù)存儲方案。當教育信息系統(tǒng)主管單位有充足資源時(如大型高校和大型在線教育平臺),一般自建硬件平臺和防火墻、入侵檢測、病毒查殺維護等子系統(tǒng),此時教育數(shù)據(jù)存儲在系統(tǒng)運營方自有平臺上,因此存儲時,數(shù)據(jù)一般不會加密。當教育信息系統(tǒng)沒有充足資源時(如廣大中小學和小型的在線學習平臺),一般使用大型第三方的云存儲服務,云服務提供商會提供防火墻、入侵檢測、病毒查殺等服務。此時,由于數(shù)據(jù)脫離了教育信息系統(tǒng)主管方控制,數(shù)據(jù)內(nèi)容有泄露和被篡改風險,需要對數(shù)據(jù)進行對稱加密,并生成哈希摘要后簽名。系統(tǒng)主管方只需要用一臺小型的安全設備做好加解密密鑰、簽名數(shù)據(jù)的存儲及管理,而這臺設備只對系統(tǒng)運維人員開放。

    在教育數(shù)據(jù)使用安全保障中,需要根據(jù)業(yè)務的類型和運行機制,來決定使用一種或者幾種信息安全技術的組合,構(gòu)建安全的數(shù)據(jù)使用方案。數(shù)據(jù)的使用有兩種類型,一種是用戶去信息系統(tǒng)查詢,如學生查詢自己課程考試成績。另一種是系統(tǒng)主動對外公開,如學生考試成績的及格人數(shù)、最高分、最低分、平均分等統(tǒng)計信息。對于前一種數(shù)據(jù)的使用,在系統(tǒng)宏觀層面設置身份認證機制,用戶在進入業(yè)務系統(tǒng)時,需要輸入密碼、權(quán)限卡片、手機驗證碼、臉紋、指紋等驗證手段中的一種或幾種,進行身份驗證,通過后方能進入系統(tǒng)。而后對具體的數(shù)據(jù),使用訪問控制技術,劃定細分的訪問權(quán)限。只有授權(quán)的用戶拿到數(shù)據(jù)才能夠解密,未授權(quán)用戶,即使拿到數(shù)據(jù),也無法獲悉內(nèi)容。對于后一種數(shù)據(jù),系統(tǒng)在向外公開時,需要先去除身份標識符,而后添加差分隱私噪聲值,再對外發(fā)布。數(shù)據(jù)的使用還需要和數(shù)據(jù)的存儲方式關聯(lián)。對于存儲在第三方云服務平臺上的數(shù)據(jù),需要使用可搜索加密技術、代理重加密、代理簽名技術對數(shù)據(jù)進行處理后存儲,使得數(shù)據(jù)加密存儲后,還可被用戶檢索及云平臺協(xié)助驗證有無被外界篡改。

    五、信息安全技術深入教育應用的挑戰(zhàn)

    隨著教育信息系統(tǒng)的泛在化、網(wǎng)絡化,智能化的深入發(fā)展,教育信息系統(tǒng)內(nèi)用戶的數(shù)據(jù)安全及隱私越來越容易被破壞和泄露,信息安全技術的全面深入教育應用勢在必行。然而信息安全技術不是功能性技術,而是一種防御性技術,它的引入,會給現(xiàn)有教育信息化系統(tǒng)帶來一系列技術和社會問題的挑戰(zhàn)。

    (一)數(shù)據(jù)安全與隱私的防御性處理與教育信息系統(tǒng)使用快捷性之間的矛盾

    要保障教育數(shù)據(jù)的安全與隱私,勢必要在數(shù)據(jù)的采集和傳輸、處理及使用時,使用加密、簽名等技術,對數(shù)據(jù)進行一系列的加、解密和簽名計算、驗證等安全處理。一方面在教育信息系統(tǒng)內(nèi)部,數(shù)據(jù)的安全處理流程,會增加數(shù)據(jù)流轉(zhuǎn)過程中的時間,也就相應地增加了用戶使用系統(tǒng)的等待時間;另一方面,在教育信息系統(tǒng)外部,用戶想要接入系統(tǒng)訪問和編輯各類數(shù)據(jù),需要掌握包括系統(tǒng)口令、身份認證、權(quán)限驗證等各類安全防護操作知識與技巧,需要耗費大量的時間和分散使用精力。因而,數(shù)據(jù)的安全與隱私保障機制,會給系統(tǒng)用戶帶來諸多的不快捷。

    然而,教育信息系統(tǒng)的建設初衷是為包括教、管人員和學生在內(nèi)的教育用戶,在日常的教與學相關活動中,提供信息化輔助,減少教育用戶在與教與學無關的程序性事務上的時間和精力消耗,提高教與學的效率。因此,系統(tǒng)使用的快捷性是教育信息系統(tǒng)一個核心要求。

    總而言之,數(shù)據(jù)安全與隱私的處理需要耗費時間、安全機制的學習和使用需要耗費和分散精力,這就與教育信息系統(tǒng)服務教與學、提高教與學效率、方便教育用戶的建設初衷之間,形成了難以調(diào)和的結(jié)構(gòu)性矛盾。不安全的教育信息系統(tǒng)無人敢用,不便捷的教育信息系統(tǒng)無人愿用,如何有效化解這種矛盾,對信息安全技術能否深入教育應用提出了一個挑戰(zhàn)。

    (二)數(shù)據(jù)安全與隱私的封閉性要求與教育數(shù)據(jù)開放共享性之間的矛盾

    要保障教育數(shù)據(jù)的安全與隱私,勢必要使用訪問控制、權(quán)限控制、接入控制等技術,盡可能減少外界對數(shù)據(jù)的訪問頻率、頻次和渠道,并讓數(shù)據(jù)在盡可能小的范圍內(nèi)流通。數(shù)據(jù)的訪問頻率越高、頻次越大,數(shù)據(jù)因有意或者無意暴露的可能性越大;訪問的渠道越多,如既可以在教育系統(tǒng)內(nèi)網(wǎng)訪問,又可以在公網(wǎng)訪問,因某一條渠道出現(xiàn)問題,造成整個系統(tǒng)不安全的可能性越大。數(shù)據(jù)的流通范圍越大,混雜的各類用戶越多,越難以監(jiān)控管理,如學生基本信息是只有班主任可見,比相關班級全體老師可見要安全,本校老師可見比外校老師可見安全。

    然而,一方面,教育信息化2.0的核心特點便是借助大數(shù)據(jù)分析和處理、人工智能等等新興技術,開展學習分析、深度學習、協(xié)同學習、個性化推薦和學習評測等智慧學習研究與應用。這些研究與應用得以開展的必要條件是獲取和利用海量的教育用戶數(shù)據(jù),以盡可能準確地得出教育用戶的狀態(tài)和特征,而這種數(shù)據(jù)訪問需求的頻率、頻次、角度和范圍都是難以確定的,因此需要有自由的數(shù)據(jù)訪問權(quán)限。另一方面,現(xiàn)實中教育資源的不均衡、不合理分布,又需要讓每—個受教育者,能夠獲取同等的教育資源,也即每一個受教育者都應該有平等權(quán)利訪問國家資源建設的任一教育信息系統(tǒng)數(shù)據(jù)。

    總之,數(shù)據(jù)的安全與隱私需要盡可能對數(shù)據(jù)進行封閉性處理,減少與外界的聯(lián)系,并縮減與外界的接觸面。而教育信息化2.0對教育信息系統(tǒng)的智能化發(fā)展要求,又需要消除數(shù)據(jù)訪問邊界和障礙,教育的公平性甚至要求對教育數(shù)據(jù)進行主動開放。這當中的矛盾是散播面大、不封閉的教育信息系統(tǒng)不敢用,不開放的教育信息系統(tǒng)又不能使用。如何有效解決這種安全與隱私要求上的封閉性和應用功能乃至社會發(fā)展的開放性要求之間的沖突,是信息安全技術深入教育應用的又一挑戰(zhàn)。

    (三)數(shù)據(jù)安全與隱私的匿名性要求與教育數(shù)據(jù)社會公信力之間的矛盾

    要保障數(shù)據(jù)的安全與隱私,勢必要使用數(shù)據(jù)隱私保護技術,盡可能少地對外披露數(shù)據(jù)的內(nèi)容,公開較為模糊甚至某種程度上的假數(shù)據(jù)。一方面,在教育信息系統(tǒng)中,數(shù)據(jù)往往是復合且相互關聯(lián)的,如學生的成績數(shù)據(jù)中會蘊含基本學籍信息,班級成績表中含有全班同學的成績數(shù)據(jù)。在系統(tǒng)對外披露這些數(shù)據(jù)時,需要盡可能少地披露數(shù)據(jù)內(nèi)容,如學生只能查詢到自己的成績,對外發(fā)布的成績數(shù)據(jù)不應包含學生學號和姓名信息,這時往往會去掉學生姓名或掩蓋部分學號,或者用一個只有學生本人知道的代號,這種公開模糊數(shù)據(jù)或者假數(shù)據(jù)的目的是盡可能增強數(shù)據(jù)的匿名性。另一方面,許多情況下,用戶并不希望被他人知道自己訪問了哪些內(nèi)容,做了哪些事務,如在教學評價和同伴互評的應用中,這些數(shù)據(jù)的公開,往往會對用戶造成不利影響。

    然而,教育公平性對教育數(shù)據(jù)有著嚴格的真實性與公正性要求,真實性要求對數(shù)據(jù)不能進行修改,公正性要求對數(shù)據(jù)不能隱瞞,即所有相關數(shù)據(jù)必須完全公開,并能夠被用來確認教育用戶本人和他人信息。這種真實性和公正性在事關教育用戶核心利益的事項中(如學生成績、考生成績、電子投票結(jié)果的發(fā)布),直接關乎教育數(shù)據(jù)主管機構(gòu)的社會公信力,輕則引發(fā)用戶問的不滿,重則導致社會群體事件。

    總之,數(shù)據(jù)安全與隱私需要盡可能地減少對數(shù)據(jù)內(nèi)容和用戶身份的披露,以提高數(shù)據(jù)的匿名性,而教育數(shù)據(jù)的社會公信力,又要求使用更多與數(shù)據(jù)內(nèi)容關聯(lián)性不大的數(shù)據(jù)信息來確保數(shù)據(jù)的真實性和公正性。這兩者帶來的沖突是不匿名的數(shù)據(jù)泄露用戶隱私、無人敢用,而不完全公開的數(shù)據(jù)經(jīng)不起檢驗、沒有社會公信力,沒有使用價值。如何解決這種數(shù)據(jù)匿名性和公信力之間的沖突,是信息安全技術深入教育應用的又一挑戰(zhàn)。

    六、結(jié)論與建議

    教育信息化的發(fā)展已經(jīng)進入深水期,教育數(shù)據(jù)安全與隱私已經(jīng)引起了各方注意,且信息安全技術自身已經(jīng)有一定發(fā)展。但在信息安全技術深度融入教育應用的目標和當前并不理想的研究及應用現(xiàn)狀問,橫亙著一系列技術和社會問題的挑戰(zhàn)需要面對。面對如此紛雜的應用挑戰(zhàn),本研究對未來信息安全技術深入教育應用做出如下展望。

    (一)信息安全技術的使用權(quán)和決定權(quán)分離

    在教育信息系統(tǒng)中應用信息安全技術,為避免對用戶正常的使用過程造成干擾,帶來不便性,應當將信息安全技術的使用權(quán)和決定權(quán)分離。也即是說,在信息安全技術保障教育數(shù)據(jù)安全與隱私過程中,系統(tǒng)使用了哪些信息安全技術,怎樣使用這些安全技術,用戶并不用關心,用戶所需要關心的是決定是否使用系統(tǒng)推薦的安全技術來解決數(shù)據(jù)會面臨哪些風險。因為用戶使用教育信息系統(tǒng)主要是用來完成功能性需求,而不是安全技術的防御性需求。而面臨哪些安全風險,應該采取哪些安全措施,則應由教育信息系統(tǒng)提供并且承擔責任。一旦用戶決定使用安全措施,則所有的安全相關處理應盡可能在后臺處理,使用諸如人臉、紅外乃至基于大數(shù)據(jù)統(tǒng)計分析的信息安全技術,進行相關安全性處理,盡可能減少用戶刻意的參與,而一旦用戶的參與不可避免,則應當使用圖形可視化、乃至智能語音提示交互式的操作進行??傊?,技術歸系統(tǒng),決定在用戶,如此,可有效降低信息安全技術使用對用戶造成的不便捷干擾,提高用戶的使用意愿。

    (二)數(shù)據(jù)安全共享的權(quán)責利對等原則

    在教育信息系統(tǒng)中,用戶之所以使用信息安全技術對數(shù)據(jù)進行封閉化管理與使用,不愿意將數(shù)據(jù)對外開放共享,主要是基于對數(shù)據(jù)使用的權(quán)責利不清晰的擔憂,因此,有必要對此進行明確。用戶對數(shù)據(jù)共享具體的擔憂,一方面是自己付出了大量精力和資源建設的數(shù)據(jù)內(nèi)容,一旦對外公布,有可能引發(fā)產(chǎn)權(quán)糾紛,在沒有明確的產(chǎn)權(quán)收益前,不愿意對外開放。對此,要做的是建立和完善教育數(shù)據(jù)知識產(chǎn)權(quán)認定機制,充分尊重數(shù)據(jù)建設者對此數(shù)據(jù)的所有權(quán),并在此技術上使用數(shù)字簽名或數(shù)字水印技術加以保證;二是共享出去的數(shù)據(jù)內(nèi)容被人泄露、剽竊、或用于盈利。對此,需要明確誰使用,誰分享收益,誰泄密,誰負責的權(quán)責利對等原則,并使用可追蹤來源的數(shù)字水印技術,對不同的渠道和個體施加不同的信息安全標記,將數(shù)據(jù)從一開始的無序開放到遇到安全問題的完全關閉到明確權(quán)責利的有序開放。

    (三)數(shù)據(jù)匿名性與公正性獨立第三方認證

    在教育信息系統(tǒng)中,對于事關用戶核心權(quán)益的教育數(shù)據(jù),如考試、考評成績數(shù)據(jù),應當推行獨立第三方認證并發(fā)布的機制。教育信息系統(tǒng)之所以要對數(shù)據(jù)進行匿名化處理,主要目的是為了保護用戶隱私。然而,用戶隱私泄露危害短期內(nèi)并不會立刻出現(xiàn),但在成績數(shù)據(jù)帶來的直接短期收益下,用戶卻希望公開所有原始數(shù)據(jù)。這當中的問題在于教育數(shù)據(jù)管理者,既是數(shù)據(jù)的生成、處理者,又是數(shù)據(jù)的監(jiān)督者。這種監(jiān)督與被監(jiān)督角色集于一身,既難以確保自身不出現(xiàn)問題,也難以對外令人信服。而推行獨立第三方認證,對教育數(shù)據(jù)管理者對數(shù)據(jù)的采集、匿名化處理進行全過程監(jiān)督,而最終將簽名的匿名化數(shù)據(jù)交由第三方發(fā)布。如此這般,將數(shù)據(jù)真實性和公正性的監(jiān)督角色交由與教育數(shù)據(jù)利益無關的獨立第三方來確保,就避免了數(shù)據(jù)管理者自身內(nèi)部出問題以及匿名化數(shù)據(jù)的真實性問題。相應地,外界對于數(shù)據(jù)的公正性也就有了基本的信任基礎,而數(shù)據(jù)的匿名性同時也得到了保證。

    概述之,“中國教育現(xiàn)代化2035”這一教育現(xiàn)代化階段性工作能否穩(wěn)步推進,教育數(shù)據(jù)安全是其中一項不可或缺的因素。站在歷史發(fā)展的角度,第三次工業(yè)革命是信息傳遞途徑的革命,正在爆發(fā)的第四次工業(yè)革命是數(shù)據(jù)消化吸收方式革命。在這場浩浩蕩蕩的世界變革大勢中,教育是確保中華民族立于世界民族之林的根本基石,教育信息化是構(gòu)筑這一基石的良工利器,而教育數(shù)據(jù)安全與隱私保護是防止這一良工利器反噬的必要護具。相信教育數(shù)據(jù)以及學習者隱私在信息安全技術的保駕護航下,教育現(xiàn)代化一定能夠穩(wěn)步健康發(fā)展。

    猜你喜歡
    教育信息化
    教育信息化及對教育技術培訓內(nèi)容的思考
    青年時代(2016年27期)2016-12-08 22:25:13
    拒絕“花哨”,重拾“得體”
    考試周刊(2016年91期)2016-12-08 21:33:05
    “互聯(lián)網(wǎng)+”背景下高職院校數(shù)字校園建設的探索與實踐
    基于翻轉(zhuǎn)課堂的大學英語混合式教學模式探究
    人間(2016年30期)2016-12-03 22:19:16
    信息化教育在高職教育教學改革中的作用
    求知導刊(2016年30期)2016-12-03 10:38:19
    如何加強校園信息化建設創(chuàng)學校發(fā)展提速平臺
    基于虛擬仿真技術的地方高校實驗教學探討
    信息技術與教學難以深度融合的成因及解決途徑探析
    科技資訊(2016年19期)2016-11-15 10:19:53
    榆林學院智慧校園系統(tǒng)架構(gòu)的分析與設計
    高職學院信息化建設中面臨的問題和思考
    科技視界(2016年22期)2016-10-18 17:29:57
    麻豆国产97在线/欧美| 蜜桃亚洲精品一区二区三区| 最近中文字幕高清免费大全6| 久久久精品94久久精品| 伦理电影免费视频| 成人特级av手机在线观看| 99热网站在线观看| 最近最新中文字幕免费大全7| 草草在线视频免费看| 久久99蜜桃精品久久| 午夜福利网站1000一区二区三区| 成人亚洲欧美一区二区av| 色综合色国产| 黄色配什么色好看| 国产av精品麻豆| 欧美激情国产日韩精品一区| 亚洲精品一二三| 国产精品人妻久久久久久| 成人高潮视频无遮挡免费网站| 亚洲av中文字字幕乱码综合| 久久精品国产鲁丝片午夜精品| 国产欧美日韩一区二区三区在线 | 欧美精品人与动牲交sv欧美| 人妻夜夜爽99麻豆av| 91久久精品电影网| 婷婷色麻豆天堂久久| 欧美精品人与动牲交sv欧美| 亚洲精品aⅴ在线观看| 中文字幕av成人在线电影| 三级国产精品欧美在线观看| 你懂的网址亚洲精品在线观看| 欧美三级亚洲精品| 国产有黄有色有爽视频| 99视频精品全部免费 在线| 99精国产麻豆久久婷婷| 高清黄色对白视频在线免费看 | 国产黄色免费在线视频| 久久99蜜桃精品久久| 亚洲成人中文字幕在线播放| 日韩伦理黄色片| 亚洲综合色惰| 国产亚洲91精品色在线| 一边亲一边摸免费视频| 91久久精品国产一区二区三区| 黑人猛操日本美女一级片| 日韩强制内射视频| 日日摸夜夜添夜夜爱| av卡一久久| 最近手机中文字幕大全| 国产成人aa在线观看| 欧美精品亚洲一区二区| 最近2019中文字幕mv第一页| 国产精品国产三级国产专区5o| 嘟嘟电影网在线观看| 国产爽快片一区二区三区| 新久久久久国产一级毛片| 国产成人精品一,二区| 男女无遮挡免费网站观看| av专区在线播放| 伦精品一区二区三区| av天堂中文字幕网| 久久久亚洲精品成人影院| 国产黄频视频在线观看| 一区二区av电影网| 成人18禁高潮啪啪吃奶动态图 | 最近最新中文字幕大全电影3| 又黄又爽又刺激的免费视频.| 在线观看一区二区三区激情| 精品亚洲成国产av| av专区在线播放| 久久久久久久久久成人| 男女无遮挡免费网站观看| 人妻一区二区av| 看十八女毛片水多多多| 久久久亚洲精品成人影院| av国产免费在线观看| 国产成人免费观看mmmm| 国内揄拍国产精品人妻在线| 我的女老师完整版在线观看| 久久久久久伊人网av| 黑人高潮一二区| 狂野欧美激情性xxxx在线观看| 亚洲欧美日韩卡通动漫| 日本欧美国产在线视频| 久久精品久久久久久久性| 一个人免费看片子| 尾随美女入室| 久久久久久久久久人人人人人人| 久久精品人妻少妇| 午夜福利在线在线| 亚洲美女视频黄频| 国精品久久久久久国模美| 国产精品女同一区二区软件| 日日摸夜夜添夜夜爱| 国内精品宾馆在线| 美女视频免费永久观看网站| 高清在线视频一区二区三区| 国产免费又黄又爽又色| 黄色配什么色好看| 日韩欧美 国产精品| 男女下面进入的视频免费午夜| 少妇的逼好多水| 一区二区三区免费毛片| 国产黄色视频一区二区在线观看| 在线亚洲精品国产二区图片欧美 | 有码 亚洲区| 久久韩国三级中文字幕| 最近2019中文字幕mv第一页| 亚洲国产成人一精品久久久| 久久久久久久亚洲中文字幕| 久久久欧美国产精品| 看免费成人av毛片| 久久久久久九九精品二区国产| 少妇人妻一区二区三区视频| 亚洲综合色惰| 国产精品欧美亚洲77777| av在线播放精品| 国产成人aa在线观看| 九九爱精品视频在线观看| 国产视频内射| 欧美丝袜亚洲另类| 国产在线一区二区三区精| a级一级毛片免费在线观看| 五月开心婷婷网| 91久久精品电影网| 成人黄色视频免费在线看| 亚洲精品色激情综合| 深爱激情五月婷婷| 欧美xxxx黑人xx丫x性爽| 99热全是精品| tube8黄色片| 看免费成人av毛片| 男人舔奶头视频| 亚洲自偷自拍三级| 欧美成人一区二区免费高清观看| 久久精品夜色国产| 久久精品国产鲁丝片午夜精品| 赤兔流量卡办理| 国产高清不卡午夜福利| 国产乱人视频| 草草在线视频免费看| 在线观看国产h片| 高清不卡的av网站| 各种免费的搞黄视频| 如何舔出高潮| 韩国av在线不卡| 国语对白做爰xxxⅹ性视频网站| 亚洲国产高清在线一区二区三| 国产高清不卡午夜福利| 全区人妻精品视频| 国产精品福利在线免费观看| xxx大片免费视频| 欧美成人a在线观看| 日韩一区二区三区影片| 国产大屁股一区二区在线视频| 高清视频免费观看一区二区| 纵有疾风起免费观看全集完整版| 亚洲怡红院男人天堂| 欧美日韩视频高清一区二区三区二| 一本久久精品| 欧美 日韩 精品 国产| 国产伦精品一区二区三区四那| 亚洲成色77777| av免费观看日本| 精品久久久久久久久av| 久久6这里有精品| 亚洲精品成人av观看孕妇| 精品亚洲成国产av| 一个人看视频在线观看www免费| 交换朋友夫妻互换小说| 免费播放大片免费观看视频在线观看| 欧美少妇被猛烈插入视频| 18禁在线无遮挡免费观看视频| 麻豆精品久久久久久蜜桃| 又黄又爽又刺激的免费视频.| 国产成人一区二区在线| 九九在线视频观看精品| 一区在线观看完整版| 欧美精品国产亚洲| 在线观看免费高清a一片| 三级国产精品片| 80岁老熟妇乱子伦牲交| av.在线天堂| 亚洲av成人精品一二三区| 久久综合国产亚洲精品| 亚洲国产色片| 中文字幕人妻熟人妻熟丝袜美| 伊人久久精品亚洲午夜| 寂寞人妻少妇视频99o| 久久久成人免费电影| 校园人妻丝袜中文字幕| 97精品久久久久久久久久精品| 国产日韩欧美亚洲二区| 亚洲精华国产精华液的使用体验| 国产精品久久久久久久电影| 深夜a级毛片| a级毛片免费高清观看在线播放| 久久国内精品自在自线图片| 九九爱精品视频在线观看| 中文资源天堂在线| 纯流量卡能插随身wifi吗| 国产久久久一区二区三区| 99re6热这里在线精品视频| 男女边摸边吃奶| 亚洲自偷自拍三级| 国模一区二区三区四区视频| 欧美高清性xxxxhd video| 欧美+日韩+精品| 亚洲av中文av极速乱| 国产欧美另类精品又又久久亚洲欧美| 毛片一级片免费看久久久久| 国产人妻一区二区三区在| 高清在线视频一区二区三区| 成人亚洲精品一区在线观看 | xxx大片免费视频| 亚洲婷婷狠狠爱综合网| 亚洲精品456在线播放app| 少妇的逼水好多| 成人毛片60女人毛片免费| 成人国产av品久久久| 中国三级夫妇交换| 国产精品久久久久久av不卡| 国产精品99久久99久久久不卡 | 成人美女网站在线观看视频| 大香蕉久久网| 国产一区二区在线观看日韩| 超碰av人人做人人爽久久| 成年人午夜在线观看视频| 乱码一卡2卡4卡精品| 精品熟女少妇av免费看| 精品一区二区免费观看| 一级毛片我不卡| 欧美高清性xxxxhd video| 欧美日韩综合久久久久久| 爱豆传媒免费全集在线观看| 在线观看免费高清a一片| 欧美丝袜亚洲另类| 精品少妇黑人巨大在线播放| 国产真实伦视频高清在线观看| 国产精品女同一区二区软件| 久久精品久久久久久久性| 中国美白少妇内射xxxbb| 免费观看a级毛片全部| 综合色丁香网| 中文字幕制服av| kizo精华| 日韩一本色道免费dvd| 国国产精品蜜臀av免费| 老司机影院成人| 丝袜喷水一区| 三级国产精品欧美在线观看| 777米奇影视久久| 男人和女人高潮做爰伦理| tube8黄色片| 精品国产露脸久久av麻豆| 97超视频在线观看视频| 春色校园在线视频观看| 日本欧美视频一区| 纵有疾风起免费观看全集完整版| 久久人人爽人人爽人人片va| 亚洲欧美中文字幕日韩二区| 成年女人在线观看亚洲视频| 边亲边吃奶的免费视频| 一级a做视频免费观看| 最近手机中文字幕大全| 国产精品麻豆人妻色哟哟久久| 国产女主播在线喷水免费视频网站| 2018国产大陆天天弄谢| 美女福利国产在线 | www.av在线官网国产| 视频区图区小说| 国产免费视频播放在线视频| 在线亚洲精品国产二区图片欧美 | 在现免费观看毛片| 国产欧美日韩精品一区二区| 22中文网久久字幕| 噜噜噜噜噜久久久久久91| 久久99热6这里只有精品| 亚洲欧美日韩东京热| 成人国产麻豆网| 亚洲va在线va天堂va国产| 国产 一区 欧美 日韩| 国产精品一区二区性色av| 中国三级夫妇交换| 女性被躁到高潮视频| 国产欧美日韩精品一区二区| 亚洲精品视频女| 深爱激情五月婷婷| 免费看av在线观看网站| 黄色一级大片看看| 中国三级夫妇交换| 亚洲精品成人av观看孕妇| 人妻一区二区av| 黄片wwwwww| 国产在视频线精品| 成人一区二区视频在线观看| 成人毛片a级毛片在线播放| 噜噜噜噜噜久久久久久91| 嘟嘟电影网在线观看| 国产有黄有色有爽视频| 九色成人免费人妻av| 久久精品久久久久久久性| 亚洲中文av在线| 丰满人妻一区二区三区视频av| 国产精品一区www在线观看| 97超碰精品成人国产| 欧美bdsm另类| 国产精品久久久久成人av| 久久这里有精品视频免费| 少妇人妻一区二区三区视频| 男男h啪啪无遮挡| 一个人免费看片子| 欧美精品一区二区大全| 国产精品女同一区二区软件| 在线观看人妻少妇| 亚洲精品乱码久久久久久按摩| 一级毛片久久久久久久久女| 亚洲av在线观看美女高潮| 日本-黄色视频高清免费观看| 成人亚洲精品一区在线观看 | 精品一区在线观看国产| 久久精品久久久久久久性| h日本视频在线播放| 日韩中文字幕视频在线看片 | freevideosex欧美| 偷拍熟女少妇极品色| 狠狠精品人妻久久久久久综合| 欧美区成人在线视频| 国产亚洲91精品色在线| 国产精品一二三区在线看| 久久鲁丝午夜福利片| 99热网站在线观看| 国产片特级美女逼逼视频| 午夜视频国产福利| 精品人妻视频免费看| 亚洲成人手机| 日韩电影二区| av免费观看日本| av不卡在线播放| 欧美日本视频| 精品一区二区免费观看| av女优亚洲男人天堂| 欧美老熟妇乱子伦牲交| 久久久成人免费电影| 亚洲欧美一区二区三区国产| 99re6热这里在线精品视频| 日韩不卡一区二区三区视频在线| 色婷婷久久久亚洲欧美| 精品少妇黑人巨大在线播放| 免费不卡的大黄色大毛片视频在线观看| 啦啦啦啦在线视频资源| 天堂中文最新版在线下载| 免费大片18禁| 观看免费一级毛片| 国产 一区精品| 久久99热这里只频精品6学生| 亚洲av成人精品一区久久| 两个人的视频大全免费| 丰满迷人的少妇在线观看| 亚洲图色成人| 日韩欧美 国产精品| 99九九线精品视频在线观看视频| 中文在线观看免费www的网站| av播播在线观看一区| 日本欧美国产在线视频| 国产探花极品一区二区| 国产精品国产三级国产av玫瑰| 国产精品久久久久久精品古装| 国产高清不卡午夜福利| 免费av中文字幕在线| av在线app专区| 国产精品福利在线免费观看| 女性被躁到高潮视频| 女人久久www免费人成看片| 国产视频首页在线观看| 特大巨黑吊av在线直播| 国产免费福利视频在线观看| 人人妻人人添人人爽欧美一区卜 | 成人亚洲精品一区在线观看 | 国产亚洲一区二区精品| 伦精品一区二区三区| 久久久国产一区二区| 亚洲国产成人一精品久久久| 成人毛片60女人毛片免费| av在线播放精品| 在线观看一区二区三区激情| 亚洲一区二区三区欧美精品| 国产精品熟女久久久久浪| 久久久久国产网址| 夫妻午夜视频| 亚洲国产毛片av蜜桃av| 少妇人妻一区二区三区视频| 中文乱码字字幕精品一区二区三区| 久久鲁丝午夜福利片| 亚洲精品国产成人久久av| 夜夜爽夜夜爽视频| 日韩人妻高清精品专区| 日韩欧美精品免费久久| 久久婷婷青草| 久久久亚洲精品成人影院| 校园人妻丝袜中文字幕| 中文字幕免费在线视频6| 亚洲在久久综合| av又黄又爽大尺度在线免费看| 晚上一个人看的免费电影| 日韩av不卡免费在线播放| 嫩草影院入口| 91狼人影院| av免费在线看不卡| 精品一区二区三区视频在线| 十八禁网站网址无遮挡 | 精品一区二区免费观看| 少妇熟女欧美另类| .国产精品久久| 2018国产大陆天天弄谢| 嘟嘟电影网在线观看| 成人亚洲欧美一区二区av| 丰满迷人的少妇在线观看| 国产日韩欧美在线精品| 亚洲欧美成人综合另类久久久| 下体分泌物呈黄色| av福利片在线观看| 亚洲精品国产色婷婷电影| 国产乱人偷精品视频| 国产一区二区三区av在线| 女性被躁到高潮视频| 亚洲最大成人中文| 国产精品欧美亚洲77777| 深夜a级毛片| 日韩中字成人| 97在线人人人人妻| 极品教师在线视频| 丝袜喷水一区| 久热这里只有精品99| 熟女电影av网| 国产午夜精品一二区理论片| 黄色视频在线播放观看不卡| 欧美3d第一页| 精品一品国产午夜福利视频| 日韩伦理黄色片| 99热6这里只有精品| 国产高清不卡午夜福利| 国产有黄有色有爽视频| 高清日韩中文字幕在线| 国产精品久久久久久久久免| 欧美三级亚洲精品| 天美传媒精品一区二区| 亚洲人成网站在线观看播放| 精品午夜福利在线看| 熟妇人妻不卡中文字幕| 精品人妻视频免费看| 久久久久国产精品人妻一区二区| 九九在线视频观看精品| 久久国产亚洲av麻豆专区| 日韩一区二区视频免费看| xxx大片免费视频| 国产亚洲av片在线观看秒播厂| 精品久久久久久久久亚洲| 在线免费十八禁| 国产熟女欧美一区二区| 亚洲欧美日韩卡通动漫| 午夜免费男女啪啪视频观看| 久久人人爽人人爽人人片va| 亚洲精品一区蜜桃| 久久国产乱子免费精品| 日韩一区二区三区影片| 三级国产精品欧美在线观看| 一区二区三区乱码不卡18| 日韩,欧美,国产一区二区三区| 搡老乐熟女国产| 99久久精品一区二区三区| 亚洲av福利一区| 伊人久久国产一区二区| 日韩伦理黄色片| 香蕉精品网在线| 亚洲精品日韩在线中文字幕| 最后的刺客免费高清国语| 久久鲁丝午夜福利片| 中国国产av一级| 久久久精品免费免费高清| 国产成人精品婷婷| 国产爽快片一区二区三区| 亚洲欧美精品专区久久| 亚洲欧美日韩另类电影网站 | 日本黄色日本黄色录像| 亚洲精品国产色婷婷电影| 夜夜爽夜夜爽视频| 草草在线视频免费看| 国产v大片淫在线免费观看| 日韩av在线免费看完整版不卡| 久久国内精品自在自线图片| 精品国产一区二区三区久久久樱花 | 中文天堂在线官网| 麻豆成人午夜福利视频| 亚洲成人av在线免费| 国产成人a∨麻豆精品| 国产成人freesex在线| 青青草视频在线视频观看| 久热这里只有精品99| 精品久久久久久久久av| 在线观看人妻少妇| 国产伦精品一区二区三区视频9| 妹子高潮喷水视频| 91久久精品电影网| 色婷婷久久久亚洲欧美| 精品熟女少妇av免费看| 2021少妇久久久久久久久久久| 欧美日韩综合久久久久久| 亚洲色图综合在线观看| 国产探花极品一区二区| 亚洲av电影在线观看一区二区三区| 老师上课跳d突然被开到最大视频| 日韩伦理黄色片| 欧美日韩亚洲高清精品| 亚洲电影在线观看av| 91久久精品国产一区二区成人| 久久精品国产亚洲av涩爱| 男女边吃奶边做爰视频| 国产淫语在线视频| 一级a做视频免费观看| 国产精品国产av在线观看| 亚洲精品乱久久久久久| 中文字幕人妻熟人妻熟丝袜美| 精品久久久久久久久亚洲| 午夜免费男女啪啪视频观看| 国产成人91sexporn| 在线观看人妻少妇| 色吧在线观看| 国产亚洲av片在线观看秒播厂| 精品国产三级普通话版| 日本黄色片子视频| 在线天堂最新版资源| 久久 成人 亚洲| 老司机影院毛片| 91精品国产国语对白视频| 成人免费观看视频高清| 少妇裸体淫交视频免费看高清| 联通29元200g的流量卡| 99久久中文字幕三级久久日本| 亚洲精品第二区| 亚洲精品自拍成人| 国产视频内射| 亚洲av国产av综合av卡| 亚洲欧美日韩另类电影网站 | 欧美日韩精品成人综合77777| 妹子高潮喷水视频| 91aial.com中文字幕在线观看| 韩国av在线不卡| 蜜臀久久99精品久久宅男| 天堂俺去俺来也www色官网| 免费高清在线观看视频在线观看| 成人二区视频| 日本色播在线视频| 亚洲图色成人| 高清日韩中文字幕在线| 老熟女久久久| 日韩制服骚丝袜av| 观看免费一级毛片| 99久久中文字幕三级久久日本| 观看免费一级毛片| 久久久久久伊人网av| 夜夜爽夜夜爽视频| 亚洲内射少妇av| av视频免费观看在线观看| 久久影院123| 人妻一区二区av| 日本爱情动作片www.在线观看| 五月开心婷婷网| 久久午夜福利片| 人体艺术视频欧美日本| 毛片女人毛片| 交换朋友夫妻互换小说| 国产老妇伦熟女老妇高清| 黑丝袜美女国产一区| 国产免费一区二区三区四区乱码| 99精国产麻豆久久婷婷| 日韩欧美精品免费久久| av在线蜜桃| 亚洲欧美日韩另类电影网站 | 国产精品女同一区二区软件| 免费看光身美女| 大片免费播放器 马上看| av.在线天堂| 人妻少妇偷人精品九色| 亚洲精品自拍成人| 啦啦啦啦在线视频资源| 黄片wwwwww| 久久精品国产鲁丝片午夜精品| 丰满人妻一区二区三区视频av| 久久久久久久亚洲中文字幕| 亚洲欧洲日产国产| 亚洲精品一二三| 亚洲色图综合在线观看| 美女脱内裤让男人舔精品视频| 中文字幕精品免费在线观看视频 | 亚洲激情五月婷婷啪啪| 建设人人有责人人尽责人人享有的 | 熟女电影av网| 中文乱码字字幕精品一区二区三区| 欧美精品人与动牲交sv欧美| 麻豆乱淫一区二区| 美女主播在线视频| 亚洲av在线观看美女高潮| 亚洲精品乱久久久久久| 涩涩av久久男人的天堂| 97在线视频观看| 久久av网站| 一区二区三区四区激情视频| 久久国产精品大桥未久av | 亚洲精品日本国产第一区| 久久久久久九九精品二区国产| 久久人人爽人人片av| 最黄视频免费看| 国产高清三级在线| 日韩av免费高清视频|