• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能教育的算法風(fēng)險(xiǎn)與善治

    2022-02-26 23:28:09馮永剛趙丹丹
    關(guān)鍵詞:道德人工智能算法

    馮永剛 趙丹丹

    (山東師范大學(xué),山東 濟(jì)南 250014)

    進(jìn)入21 世紀(jì)以來(lái),以互聯(lián)網(wǎng)普及作為發(fā)展紐帶,在物聯(lián)網(wǎng)、云計(jì)算、5G、虛擬現(xiàn)實(shí)技術(shù)的烘托下,爆炸式增長(zhǎng)的大數(shù)據(jù)引發(fā)了社會(huì)結(jié)構(gòu)新的變革。伴隨數(shù)據(jù)處理與應(yīng)用能力的不斷提升,人工智能逐漸滲透到人類生產(chǎn)和生活的各個(gè)領(lǐng)域,驅(qū)使人類社會(huì)邁入了人工智能時(shí)代。當(dāng)前,人工智能教育已是教育創(chuàng)新發(fā)展的趨勢(shì),人們期望通過(guò)人工智能與教育的深度融合化解棘手的教育問(wèn)題,以實(shí)現(xiàn)人類能力的智慧打造,助力教育教學(xué)高質(zhì)量發(fā)展。在人工智能教育的發(fā)展中,算法和大數(shù)據(jù)的雙向聯(lián)合是其核心驅(qū)動(dòng)力,算法更是人工智能教育發(fā)展的基礎(chǔ)。[1]通過(guò)算法將教育數(shù)據(jù)轉(zhuǎn)化為易處理、易計(jì)算的數(shù)學(xué)問(wèn)題,克服了人類思維的局限性,給人類帶來(lái)的便捷是顯而易見(jiàn)的。在當(dāng)今社會(huì),人類的每時(shí)每刻都直接或間接地與算法相關(guān),甚至有人預(yù)測(cè):“如果所有算法都突然停止運(yùn)轉(zhuǎn),那么就是人類的世界末日?!盵2]然而,我們必須清醒地意識(shí)到,“算法絕非中立、公正的,隨著算法全面滲透生活世界,算法歧視現(xiàn)象高發(fā),已不容漠視”[3]。加之,教育因 “人” 而復(fù)雜,并非全部能夠物化為數(shù)字模型,使用算法將教育進(jìn)行完全量化與預(yù)測(cè)的做法,勢(shì)必會(huì)背離教育的動(dòng)態(tài)性、多元性特質(zhì),造成一定的算法風(fēng)險(xiǎn)。因此,厘清人工智能教育的算法風(fēng)險(xiǎn)及其成因,并積極規(guī)避,方可確保人工智能教育為人類帶來(lái)福祉。

    一、人工智能教育的算法風(fēng)險(xiǎn)

    在人工智能教育看來(lái),所有的教育都是“可算度的教育”。算法被視為以特定函數(shù)的代碼值進(jìn)入輸入端并在有限時(shí)間內(nèi)通過(guò)算法路徑輸出能夠解決目的性問(wèn)題的方案?!八惴ㄊ菫閷?shí)現(xiàn)某個(gè)任務(wù)而構(gòu)造的簡(jiǎn)單指令集。在日常用語(yǔ)中,算法有時(shí)稱為過(guò)程或處方?!盵4]在人工智能教育運(yùn)用中,算法是指按照預(yù)先目標(biāo)設(shè)定,通過(guò)機(jī)器學(xué)習(xí)、訓(xùn)練操作等一系列步驟模擬人類的思維過(guò)程和行為方式,以算法箱子輸入端和輸出端的既定數(shù)據(jù)運(yùn)算模擬人類神經(jīng)工作、協(xié)助人們處理繁雜事務(wù)的過(guò)程。隨著人工智能教育的快速發(fā)展,一時(shí)間,教育領(lǐng)域被算法優(yōu)勢(shì)填充,“一切皆可計(jì)算” 的算法崇拜伴隨著這種氛圍應(yīng)運(yùn)而生,算法逐漸成為教育權(quán)威的代言人。[5]當(dāng)然,沉浸在人工智能教育 “熱” 的同時(shí),我們也要對(duì)人工智能教育面臨的風(fēng)險(xiǎn)進(jìn)行“冷” 思考。誠(chéng)如聯(lián)合國(guó)教科文組織的警示,人工智能會(huì)給教育帶來(lái)壓力和挑戰(zhàn),[6]人工智能教育的算法風(fēng)險(xiǎn)也值得我們警惕。

    1.算法的既定性導(dǎo)致教育被淺層化的風(fēng)險(xiǎn)

    在人工智能時(shí)代,算法的工作機(jī)理是固定函數(shù)公式下的智能運(yùn)算和機(jī)器學(xué)習(xí),函數(shù)一經(jīng)輸入便被既定的計(jì)算步驟所固化。因此,算法具有天然的既定性基因。莫里斯·克萊因(Morris Kline)表示,數(shù)學(xué)的成功之處在于以長(zhǎng)度、質(zhì)量、時(shí)間等量化的概念形式來(lái)看待世界物質(zhì),但是數(shù)學(xué)符號(hào)并不能夠表達(dá)一切,比如某些豐富多彩的體驗(yàn)是數(shù)學(xué)符號(hào)所不能企及的。[7]如同人的身高并不能夠代表整個(gè)人一樣,在預(yù)設(shè)教育目標(biāo)下的既定性算法也不能夠代表整個(gè)教育過(guò)程。教育是一個(gè)復(fù)雜的社會(huì)活動(dòng),面對(duì)的是不同的教育群體、多元的教育訴求,是在動(dòng)態(tài)中不斷生成的,絕非按部就班、機(jī)械劃一。人工智能教育依托算法對(duì)學(xué)校管理、教師教學(xué)、學(xué)生學(xué)習(xí)的過(guò)程進(jìn)行量化分析,其所使用的信息多是教育對(duì)象或教育現(xiàn)象的淺層數(shù)據(jù),而并非是能反映教育本質(zhì)的深層數(shù)據(jù)。算法模型對(duì)教育事實(shí)或教育現(xiàn)象的既定化分析,易遺失教育過(guò)程中最為豐富的元素,如學(xué)生的道德感、好奇心和探究欲等,引發(fā)教育過(guò)程的淺層化和表面化。

    值得注意的是,既定的算法模型所設(shè)計(jì)出的虛擬仿真學(xué)習(xí)空間、模擬訓(xùn)練等并不能夠等同生動(dòng)形象的真實(shí)學(xué)習(xí)情境。在算法創(chuàng)造的教育空間中,學(xué)生并不會(huì)像機(jī)器那樣按照既定路徑運(yùn)作,教師也無(wú)法脫離自身環(huán)境而單純依靠算法設(shè)計(jì)進(jìn)行 “流水作業(yè)”,教學(xué)成為套路固定、路徑生硬的 “游戲”;學(xué)生僅能夠獲得淺層的顯性知識(shí),而那些緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)都將難以得到發(fā)展,走馬觀花式的學(xué)習(xí)無(wú)異于飲鴆止渴,難以促進(jìn)學(xué)生的全面發(fā)展、終身發(fā)展。

    2.“黑箱” 效應(yīng)下催生教育被隱形控制的風(fēng)險(xiǎn)

    算法 “黑箱” 是指由于技術(shù)本身的復(fù)雜性,在算法的輸入端與輸出端之間存在著無(wú)法洞悉或未知的區(qū)域。一方面,“黑箱” 意味著我們難以理解算法內(nèi)部的邏輯與生產(chǎn)方法;另一方面,“黑箱” 也代表著其本身的復(fù)雜性導(dǎo)致設(shè)計(jì)者難以洞識(shí)其運(yùn)動(dòng)機(jī)制。正如盧克·多梅爾(Luke Dormehl)所說(shuō),我們所處的人工智能環(huán)境是依托于算法和大數(shù)據(jù)而生的,“技術(shù)對(duì)人類的理解越來(lái)越深刻,而人們卻越來(lái)越難以理解、把控技術(shù)”[8]。當(dāng)算法應(yīng)用于教育領(lǐng)域時(shí),面對(duì)機(jī)器學(xué)習(xí)技術(shù)的迅速發(fā)展,人工智能教育能夠進(jìn)行自我改進(jìn)和自我優(yōu)化等一系列內(nèi)在的、不為人知的更新過(guò)程,我們同樣難以理解、詮釋算法處理教育問(wèn)題時(shí)的邏輯機(jī)理和運(yùn)作路徑。人工智能算法將自身的工作邏輯應(yīng)用于教育全過(guò)程,利用自己所演化的規(guī)則實(shí)現(xiàn)學(xué)生分析、教師分析和問(wèn)題處理等,而在整個(gè)教育過(guò)程中的學(xué)生、教師甚至設(shè)計(jì)者等卻并不能夠?qū)ζ涔ぷ鬟壿嬜龅?“盡知”:學(xué)生無(wú)法判定算法的自動(dòng)推薦是否反映客觀事實(shí)、是否真正符合自身需求;教師無(wú)法判定依據(jù)算法得出的既定結(jié)果是否真正適合學(xué)生發(fā)展、是否真正能夠正向解決教育問(wèn)題;設(shè)計(jì)者無(wú)法肯定算法所算出的確定結(jié)果是否符合預(yù)期數(shù)據(jù)設(shè)定,等等。

    在算法 “黑箱” 效應(yīng)下,參與者對(duì)算法路徑、工作邏輯的無(wú)法盡知令我們落入被動(dòng)方位,只能被動(dòng)地接受算法輸出的固定結(jié)果。在不知道其工作邏輯、不確定計(jì)算結(jié)果是否適切教育問(wèn)題的情況下,貿(mào)然將其應(yīng)用于教育這一培養(yǎng)人的社會(huì)實(shí)踐活動(dòng)之中,其中所蘊(yùn)藏的風(fēng)險(xiǎn)難以想象,易致教育成為一個(gè)失去方向、沒(méi)有活力、缺失靈動(dòng)的機(jī)械執(zhí)行過(guò)程。教育參與者在“黑箱” 效應(yīng)的遮蓋下,一知半解地按照算法既定結(jié)果亦步亦趨,教育的自主性正在逐漸被隱形消解。

    3.算法偏見(jiàn)下加劇了教育不公的風(fēng)險(xiǎn)

    教育公平是社會(huì)公平的子系統(tǒng),是實(shí)現(xiàn)社會(huì)公平 “最偉大的工具”[9]。隨著時(shí)代變遷,人類社會(huì)在教育公平的道路上曲折前行。在人工智能時(shí)代,算法作為一把 “雙刃劍”,可極大地促進(jìn)教育公平的發(fā)展步伐,與此同時(shí),算法又以某一種方式加劇了教育的不公。這集中體現(xiàn)為算法偏見(jiàn)所帶來(lái)的教育不公風(fēng)險(xiǎn)。算法是依賴數(shù)據(jù)和規(guī)則的,而數(shù)據(jù)樣本是經(jīng)過(guò)提煉選取的,在這一過(guò)程中會(huì)去除各種 “噪音” 數(shù)據(jù),再賦予其看似合理的樣本數(shù)據(jù),將其納入算法模型。加之算法偏見(jiàn)亦有其隱蔽的形成路徑,因此,看得見(jiàn)的、可計(jì)算的數(shù)據(jù)被裝入算法盒子,而看不見(jiàn)的、難處理的數(shù)據(jù)被剔除,在這些數(shù)據(jù)的取舍之間就產(chǎn)生了算法偏見(jiàn),造成了結(jié)果狹隘。地區(qū)的教育信息化水平影響著人工智能教育的普及、深入程度,必然會(huì)拉大富裕地區(qū)與貧瘠地區(qū)受教育水平的差距,尤其是對(duì)算法偏見(jiàn)的認(rèn)識(shí)和處理水平,會(huì)影響教育機(jī)會(huì)公平、教育過(guò)程公平,拉垮教育結(jié)果公平。

    算法偏見(jiàn)下,打開算法盒子看得到的是符合設(shè)計(jì)者、使用者的主觀數(shù)據(jù)與程序,關(guān)閉盒子輸出的卻是代表客觀性的大眾結(jié)果。[10]如果算法存在偏見(jiàn),那么將會(huì)產(chǎn)生嚴(yán)重的不公后果,尤其是針對(duì)貧困社區(qū)、弱勢(shì)群體而言。教育領(lǐng)域同樣存在性別、種族、家庭環(huán)境、教育條件等參差不齊的背景樣本。面對(duì)這些大量的樣本,難以對(duì)其進(jìn)行全面評(píng)估或預(yù)測(cè),甚至難以帶入算法中進(jìn)行結(jié)果分析。同樣,教育過(guò)程中所產(chǎn)生的情感、態(tài)度和價(jià)值觀等緘默數(shù)據(jù),也難以被量化為顯性數(shù)據(jù)并加以分析,而這些不能被妥善植入算法的數(shù)據(jù)樣本,卻在極大程度上代表和體現(xiàn)著教育的公平、公正、關(guān)愛(ài)、尊重等。算法偏見(jiàn)的過(guò)濾,使得富有人文價(jià)值的數(shù)據(jù)被消解在外,教育不公不可避免地被放大,“數(shù)據(jù)鴻溝” 在算法偏見(jiàn)的加持下被拉大,教育天平進(jìn)一步被拉扯傾斜,從而加劇教育公平的風(fēng)險(xiǎn)。

    4.算法的大規(guī)模應(yīng)用易引發(fā)教育同質(zhì)化的風(fēng)險(xiǎn)

    人工智能時(shí)代,算法的大規(guī)模應(yīng)用推動(dòng)了技術(shù)的飛速提升?!凹夹g(shù)在追求效率的同時(shí)總是在謀求擴(kuò)大受眾規(guī)模?!盵11]算法的大規(guī)模運(yùn)用表現(xiàn)在教育領(lǐng)域更是多種多樣,大到智慧教育的生態(tài)研究、多元學(xué)習(xí)情境下教育規(guī)律的探討,小到個(gè)性化學(xué)習(xí)的支持服務(wù)、基于教育數(shù)據(jù)的學(xué)習(xí)分析與測(cè)評(píng)、自動(dòng)化決策系統(tǒng)、智能教育產(chǎn)品,都是以算法為模型的多種教育信息科技的表現(xiàn)形式。不可否認(rèn)的是,算法通過(guò) “智能導(dǎo)師系統(tǒng)、自動(dòng)化測(cè)評(píng)系統(tǒng)、教育游戲、教育機(jī)器人”[12]等的應(yīng)用對(duì)教育個(gè)性化帶來(lái)了極大的推動(dòng),促進(jìn)了教師指導(dǎo)的個(gè)性化、學(xué)生學(xué)習(xí)的個(gè)性化。

    但是,算法的大規(guī)模應(yīng)用極易導(dǎo)致教育的程式化,使越來(lái)越多的人和教育機(jī)構(gòu)癡迷于算法規(guī)?;⒘炕鶐?lái)的利益,以推送算法的形式將 “人” 物化、將教育公式化,以同一的教育算法推送相同的教學(xué)資源、學(xué)習(xí)計(jì)劃等,這在一定程度上加劇了教育結(jié)果的同質(zhì)化。利用機(jī)器學(xué)習(xí)分類算法,將受眾分流到不同地點(diǎn)、不同時(shí)間段、不同層次的做法,從表面上看,似乎實(shí)現(xiàn)了教育的優(yōu)質(zhì)分層,實(shí)則不然。面對(duì)擁有不同學(xué)科背景、認(rèn)知程度不一的受教育者,算法的規(guī)模化、流水線使用必然會(huì)強(qiáng)化學(xué)生的規(guī)?;?“生產(chǎn)”,導(dǎo)致辦學(xué)模式單一化、學(xué)生單維同質(zhì)化生長(zhǎng)、教育一律性發(fā)展,引發(fā)教育反特色化、合眾化、趨同化的風(fēng)險(xiǎn),因?yàn)?“即使是優(yōu)質(zhì)的教育算法,一旦大規(guī)模使用,也會(huì)帶來(lái)湮滅學(xué)生個(gè)性的風(fēng)險(xiǎn)”[13]。同時(shí),我們也不能忽視人工智能教育應(yīng)用在一定程度上削弱了教師的指導(dǎo)性、學(xué)生的自主選擇性,使其成為固化學(xué)生思維、限制學(xué)生多樣發(fā)展的 “殺傷性”智能武器。

    二、人工智能教育算法風(fēng)險(xiǎn)究因

    深究算法風(fēng)險(xiǎn)的根由,有助于我們把握人工智能教育應(yīng)用的邊界與局限,促進(jìn)人工智能教育更好地適應(yīng)和滿足人的發(fā)展需求。

    1.算法的路徑固定化與學(xué)生個(gè)性化發(fā)展之間的矛盾

    算法是依據(jù)預(yù)設(shè)的數(shù)學(xué)公式進(jìn)行輸入、計(jì)算、輸出信息的運(yùn)行過(guò)程,其工作路徑是固化的。算法的路徑固定化與學(xué)生的個(gè)性化發(fā)展之間的矛盾是教育被淺層化風(fēng)險(xiǎn)的主要原因。算法使每個(gè)學(xué)生都被度量化,他們不再是一個(gè)鮮活的、有機(jī)的和內(nèi)在的整體,而是被拆解成一個(gè)個(gè)便于計(jì)算和處理的數(shù)字格、被細(xì)化為 “用數(shù)據(jù)表示的物理形態(tài)的人”[14]、被打上不同的標(biāo)記名片,接受不同數(shù)量的、所謂的個(gè)性化推薦信息資源。實(shí)質(zhì)上,真正的學(xué)生個(gè)性化發(fā)展是依據(jù)學(xué)生的學(xué)習(xí)動(dòng)機(jī)、好奇心、興趣等來(lái)調(diào)動(dòng)學(xué)生的主體性,激發(fā)其內(nèi)在潛能,而非通過(guò)算法公式化地向其推薦固定內(nèi)容。在算法固定的工作模式下,每個(gè)學(xué)生好比被獨(dú)立放進(jìn)單間的信息素,被既定算法和固定工作路徑分開處理。這將加大學(xué)生之間的知識(shí)區(qū)隔,阻礙其信息交流、情感溝通、共同體建立等,將學(xué)生個(gè)性化發(fā)展扭曲為學(xué)生發(fā)展隔斷化。學(xué)生的個(gè)性化發(fā)展不是固定化的、公式化的,而是思辨能力、理解能力、合作能力等多方因素通力合作所達(dá)到的和諧景象,這顯然是固定規(guī)則下的算法無(wú)法企及的。

    2.算法的模糊性與教育的公共性之間的對(duì)峙

    算法 “黑箱” 意味著算法輸入端與輸出端之間有著難以洞悉的復(fù)雜結(jié)構(gòu),算法具有模糊性、難解釋性的特質(zhì)。算法的模糊性來(lái)源于算法自身的復(fù)雜性與相對(duì)獨(dú)立性,難以被解釋,更難以被理解。另外,在人工智能高速發(fā)展的背景下,機(jī)器學(xué)習(xí)的能力日益強(qiáng)化。通過(guò)機(jī)器自身的深度學(xué)習(xí),其算法發(fā)展的程度與所優(yōu)化的區(qū)域,甚至連算法的初始設(shè)計(jì)者都難以獲悉,這在一定程度上強(qiáng)化了模糊性。而教育是公共性的實(shí)踐活動(dòng),公共性是教育的內(nèi)在屬性。教育是公益而非私人的事業(yè),具有顯著的公開、公益和公平的公共性品格?!啊病?意味著向任何人的審視開放,而私人則意味著一個(gè)由家人和朋友構(gòu)成的、受到遮蔽的生活區(qū)域。”[15]算法的模糊性與教育的公共性形成明顯反差。同時(shí),“黑箱” 效應(yīng)下算法的難解釋性,對(duì)教育者、受教育者等教育主體甚至社會(huì)公眾而言,意味著他們非但難以了解其工作的基本機(jī)制,甚或?qū)逃顒?dòng) “一概不知”,這有悖于教育的公開性。此外,算法的模糊性又在一定程度上強(qiáng)化了教育的排他性和私有化,引起了某些人對(duì)結(jié)果的早先獲知甚至滋生預(yù)先篡改和占有的問(wèn)題,掩蔽了教育的公共性。

    3.算法的數(shù)據(jù)依賴性與教育多維性之間的拉鋸

    在人工智能教育應(yīng)用中,算法通過(guò)數(shù)據(jù)搜集、數(shù)據(jù)清洗、數(shù)據(jù)審查、數(shù)據(jù)分割等各種數(shù)據(jù)處理來(lái)發(fā)揮作用,因此,算法具有較強(qiáng)的數(shù)據(jù)依賴性,且數(shù)據(jù)分布本身就帶有一定的偏見(jiàn)性。[16]而教育是動(dòng)態(tài)的、多維的。教育的存在意義與價(jià)值在于促進(jìn)人的全面而有個(gè)性的發(fā)展,這必然要求智能教育應(yīng)用結(jié)果的多元化。而算法模型的建立需要使用過(guò)去的數(shù)據(jù)變量進(jìn)行分析,將教師的教育行為、學(xué)生的學(xué)習(xí)行為等“過(guò)時(shí)” 的數(shù)據(jù)作為輸入數(shù)據(jù),用以解決新鮮的教育問(wèn)題,數(shù)據(jù)與發(fā)展存在著時(shí)差問(wèn)題。如根據(jù)相關(guān)學(xué)者對(duì)高校成績(jī)數(shù)據(jù)的研究顯示,算法的使用上具有利用不充分、分析不深入等問(wèn)題。[17]在數(shù)據(jù)收集與數(shù)據(jù)輸入的過(guò)程中,對(duì)數(shù)據(jù)處理的精準(zhǔn)度越高,數(shù)據(jù)處理的時(shí)間就會(huì)越長(zhǎng),其延時(shí)性就表現(xiàn)得越為明顯。同時(shí),在教育的動(dòng)態(tài)發(fā)生過(guò)程中,會(huì)涌現(xiàn)出較多的非事先預(yù)知的“意外情景”,如思維轉(zhuǎn)換、情感升華、直覺(jué)靈感和頓悟等質(zhì)變現(xiàn)象。這些變化都是難以從過(guò)往數(shù)據(jù)中推測(cè)預(yù)判,即利用已經(jīng)存在的 “信息足跡” 難以預(yù)判到教育過(guò)程的質(zhì)變現(xiàn)象,引發(fā)算法數(shù)據(jù)依賴性與教育多維性的拉鋸表現(xiàn)。

    4.算法的確定性與教育過(guò)程的不確定性互相博弈

    教育具有顯而易見(jiàn)的復(fù)雜性與不確定性。[18]教育對(duì)象的差異性、教育手段的多元化、教育情境的多變性等一系列因素都是教育不確定性的強(qiáng)化劑,彰顯著教育活動(dòng)的獨(dú)特性的同時(shí)也給教育蒙上了神秘色彩。固定性是算法的內(nèi)在特質(zhì),需要從明確的目標(biāo)出發(fā),以固定的算法公式求得預(yù)設(shè)目標(biāo)的達(dá)成,以確定的輸入數(shù)據(jù)求得肯定、客觀的輸出結(jié)果。所以,算法的確定性在一定程度上與教育的不確定性有著難以調(diào)節(jié)的博弈現(xiàn)象。算法固定的、公式化的計(jì)算模式,難以與教育進(jìn)程中個(gè)體隨時(shí)產(chǎn)生的動(dòng)機(jī)、情感、好奇心等不定因素建立即時(shí)性的關(guān)聯(lián),教育活動(dòng)中時(shí)刻涌現(xiàn) “一石激起千層浪” 的伴隨性數(shù)據(jù)在一定程度上消解了算法的確定性權(quán)威。誠(chéng)然,算法力圖將教育領(lǐng)域的各項(xiàng)不確定因素轉(zhuǎn)化為確定性的數(shù)據(jù)形式,而確定性在一定程度上代表著人工智能應(yīng)用于教育追求真善美目標(biāo)的明確性,其必要性是毋庸置疑的。然而,教育真善美的標(biāo)準(zhǔn)究竟是什么?這不是算法的確定性所能確證的。而這種不確定性本身也是教育多維、多變和多樣的典型映射,如此,動(dòng)態(tài)多變的教育活動(dòng)與算法的確定性之間的摩擦、沖突及對(duì)抗自是難免。

    三、善治人工智能教育算法風(fēng)險(xiǎn)的路徑

    隨著人工智能教育的縱深發(fā)展,教育數(shù)據(jù)不斷堆疊,深度學(xué)習(xí)持續(xù)推進(jìn),算法所帶的偏見(jiàn)、風(fēng)險(xiǎn)等也會(huì)呈現(xiàn)出強(qiáng)化與放大的苗頭。因此,通過(guò)有力的善法對(duì)算法所帶來(lái)的風(fēng)險(xiǎn)加以防治就顯得日益重要且迫切。因此,要將道德嵌入算法,建立合乎道德要求、協(xié)助人們進(jìn)行道德決策的道德算法,促逼算法從善。道德算法的建立,能夠保持人工智能教育應(yīng)用中算法的審慎使用,有效規(guī)避算法引發(fā)的教育風(fēng)險(xiǎn),極大發(fā)揮算法對(duì)教育的優(yōu)質(zhì)作用[19],指向 “一切為了人類利益” 的目的,從而有效規(guī)避算法風(fēng)險(xiǎn),更好地發(fā)揮算法的正向功能,為人類帶來(lái)更多的利益和福祉。

    1.優(yōu)化算法設(shè)計(jì),以價(jià)值理性引領(lǐng)人工智能教育的深層化發(fā)展

    通過(guò)優(yōu)化算法設(shè)計(jì)提升算法應(yīng)用中的價(jià)值理性與人文精神,是防范人工智能教育應(yīng)用中算法風(fēng)險(xiǎn)的價(jià)值指南。從算法設(shè)計(jì)意圖和最終目的入手,以扎實(shí)的算法價(jià)值根基、人的主體性地位打破淺表化的發(fā)展局限,引領(lǐng)人工智能教育的深層發(fā)展,尊重人工智能教育應(yīng)用中教師與學(xué)生的主體地位,提升人工智能教育算法的風(fēng)險(xiǎn)規(guī)避力,從技術(shù)源頭加強(qiáng)人工智能教育的深度,從而走出應(yīng)用淺表化的陷阱。

    一方面,以道德算法筑牢算法的價(jià)值根基,促進(jìn)人工智能教育行穩(wěn)致遠(yuǎn)。人工智能時(shí)代,算法在技術(shù)支撐下亦帶來(lái)巨大的資本收入,因此,算法在一定程度上也是資本與技術(shù)的化身。為了防止技術(shù)理性對(duì)價(jià)值理性的僭越,人工智能教育應(yīng)加強(qiáng)算法設(shè)計(jì)環(huán)節(jié)中的道德性與人文性精神,以價(jià)值理性為主導(dǎo),以技術(shù)理性為輔助,賦予算法設(shè)計(jì)意圖正當(dāng)性。要加強(qiáng)人工智能教育應(yīng)用的源頭設(shè)計(jì)把關(guān),定期對(duì)教育算法技術(shù)人員進(jìn)行倫理與科技的話題教育,嚴(yán)把信息篩選、算法設(shè)計(jì)等過(guò)程,強(qiáng)化算法設(shè)計(jì)者的價(jià)值理性思想,激發(fā)算法 “育人為本” 的責(zé)任意識(shí),明確自身的算法設(shè)計(jì)對(duì)教育發(fā)展、社會(huì)發(fā)展的影響意義,以道德算法扎穩(wěn)算法的價(jià)值根基,通過(guò)算法的正當(dāng)性確保人工智能教育縱深推進(jìn)。

    另一方面,確保技術(shù)應(yīng)用中人的主體性,以人的能動(dòng)性促進(jìn)教育的深層化發(fā)展。無(wú)論何種智能技術(shù),都是以服務(wù)人、發(fā)展人和解放人為最終目的。在當(dāng)今時(shí)代,不乏技術(shù)運(yùn)用者有迫切攫取眼前利益而置人的道德與價(jià)值于不顧的短視行為,長(zhǎng)此以往,必然會(huì)導(dǎo)致價(jià)值理性消解、技術(shù)理性霸權(quán)的失衡現(xiàn)象。因此,要打破技術(shù)霸權(quán)的華麗包裝,以工具性教育回歸主體性教育,要尊重人的主體地位并發(fā)揮人的主體性作用,構(gòu)建以人為中心的智能教育場(chǎng)域,[20]以學(xué)生的情感、態(tài)度、價(jià)值等深層次的發(fā)展和教師的教育智慧、專業(yè)能力等的不斷提升作為人工智能教育算法設(shè)計(jì)之引領(lǐng)。在算法設(shè)計(jì)中,要以生為本,深度挖掘緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)的深層性、本質(zhì)性的數(shù)據(jù)資源,如將基于內(nèi)容、協(xié)同過(guò)濾、綜合的三種傳統(tǒng)推薦算法轉(zhuǎn)為基于排序?qū)W習(xí)的推薦算法,補(bǔ)充傳統(tǒng)三種算法推薦內(nèi)容各有偏差的問(wèn)題,將真正的學(xué)生個(gè)性化發(fā)展融入推薦公式的編制,促進(jìn)學(xué)生主體從淺表化知識(shí)學(xué)習(xí)向順應(yīng)、同化不斷發(fā)展的進(jìn)階學(xué)習(xí)轉(zhuǎn)化[21],增強(qiáng)信息推薦主體適切性,助推人工智能教育的深度發(fā)展。

    2.增加算法的透明度,提升人工智能教育的自主性

    為了加強(qiáng)算法治理,人們?cè)絹?lái)越重視算法透明性原則對(duì)算法 “黑箱” 的克制作用。誠(chéng)如凱文·凱利(Kevin Kelly)所言:“技術(shù)只有透明才能獲益。”[22]增加算法的透明度可有效消解人工智能教育應(yīng)用中 “算法黑箱” 所帶來(lái)的內(nèi)容遮蓋,提升人工智能教育的自主支持性,保持社會(huì)公眾對(duì)教育的公平與道義的持有與把控。

    一方面,加強(qiáng)教育數(shù)據(jù)操作的自主可查性,以數(shù)據(jù)透明突破教育被隱形控制的桎梏。算法對(duì)大數(shù)據(jù)的強(qiáng)依賴性決定了規(guī)避 “算法” 風(fēng)險(xiǎn)需要從數(shù)據(jù)樣本作出調(diào)整,加強(qiáng)數(shù)據(jù)的透明性,確保教育數(shù)據(jù)來(lái)源可查、教育數(shù)據(jù)內(nèi)容可查、教育數(shù)據(jù)處理可查,斬?cái)嘟逃浑[形控制的源頭。教育數(shù)據(jù)的可查性需要算法設(shè)計(jì)者對(duì)教育數(shù)據(jù)來(lái)源、篩選、處理步驟等做好嚴(yán)格記錄與及時(shí)備份,如明確標(biāo)注數(shù)據(jù)采集樣本所在年級(jí)、年齡、學(xué)習(xí)水平、學(xué)習(xí)習(xí)慣、數(shù)據(jù)采集時(shí)間與所在地等相關(guān)信息,了解算法可能存在的偏差及潛在危害,以保證后期對(duì)數(shù)據(jù)審查與復(fù)核等步驟的可控性、可查性。同時(shí),確保數(shù)據(jù)的備份記錄具有合法的可訪問(wèn)性與不可篡改性,以嚴(yán)格、環(huán)環(huán)相扣的數(shù)據(jù)記錄審查環(huán)節(jié)保障數(shù)據(jù)隱私與安全性,使數(shù)據(jù)獲取、篩選等痕跡以備份方式被清晰保存,保證數(shù)據(jù)的完全真實(shí)與不可偽造。

    另一方面,堅(jiān)持可解釋性原則,增加算法的自主支持性??山忉屝允撬惴ㄍ该鞯氖滓瓌t?!拌b于智能算法日益決定著各種決策的結(jié)果,人們需要建構(gòu)技術(shù)公平規(guī)范體系,通過(guò)程序設(shè)計(jì)來(lái)保障公平的實(shí)現(xiàn),并借助于技術(shù)程序的正當(dāng)性來(lái)強(qiáng)化智能決策系統(tǒng)的透明性、可審查性和可解釋性?!盵23]要明確算法設(shè)計(jì)者對(duì)教育問(wèn)題處理的算法邏輯解釋義務(wù),尤其是對(duì)教育數(shù)據(jù)的目標(biāo)預(yù)設(shè)、選取原則與技術(shù)原理等進(jìn)行解釋,提升人們對(duì)算法的理論認(rèn)同,獲得他們對(duì)算法運(yùn)用的態(tài)度支持。同時(shí),設(shè)立專門的教育審計(jì)機(jī)構(gòu),對(duì)人工智能教育應(yīng)用中的算法進(jìn)行審計(jì),避免一些商業(yè)類教育機(jī)構(gòu)以競(jìng)爭(zhēng)獲利而故意掩蓋不合理算法的不當(dāng)行為,如一些教育機(jī)構(gòu)或某些學(xué)校為謀取招生量、提高教育獲利等操縱算法黑箱、營(yíng)造算法神秘性的不良行徑,在技術(shù)運(yùn)用中真正使人成為自身行動(dòng)的主體,為自主創(chuàng)新激發(fā)活力,不斷提升教育的自主性。

    3.減少算法偏見(jiàn)滋生,以道德決策推進(jìn)人工智能教育的公平

    算法是由設(shè)計(jì)者所編寫的。設(shè)計(jì)者將倫理維度納入人工智能教育的決策設(shè)計(jì),是形成道德決策的內(nèi)在要求。同時(shí),教育主體對(duì)算法的了解與認(rèn)識(shí)直接影響到算法在教育領(lǐng)域的應(yīng)用程度。教育主體對(duì)算法的無(wú)知與偏見(jiàn)會(huì)在極大程度上影響人工智能教育應(yīng)用的效果與公平程度。因此,減少算法偏見(jiàn)滋生需增強(qiáng)主體的算法認(rèn)知,以道德決策發(fā)揮算法在解決教育問(wèn)題中的積極作用,強(qiáng)化人工智能教育的抗風(fēng)險(xiǎn)性,力促教育公平的實(shí)現(xiàn)。

    一方面,將道德規(guī)則嵌入算法之中,以道德物化推動(dòng)道德決策。道德物化是由維貝克(Peter-Paul Verbeek)所提出的將技術(shù)道德化的方法。在人工智能算法 “物” 的設(shè)計(jì)環(huán)節(jié)中嵌入人類所公認(rèn)執(zhí)行的道德準(zhǔn)則,即將道德嵌入產(chǎn)品,使人工智能教育應(yīng)用中的使用者不得不遵守倫理道德,從設(shè)計(jì)源頭上規(guī)約人類的行為操作。[24]據(jù)此,要將道德規(guī)則清晰轉(zhuǎn)化為算法形式,以道德物化形成道德算法,使算法自身符合道德倫理規(guī)范,協(xié)助教育者針對(duì)突發(fā)問(wèn)題情境作出更及時(shí)、準(zhǔn)確、全面的教育決策,從而有效促使教育者教育行為、教育策略的合道德化。

    另一方面,加強(qiáng)技術(shù)使用者的道德意識(shí),令道德決策貫穿教育教學(xué)全過(guò)程。道德算法是道德決策的遵循與依據(jù),引導(dǎo)教育者進(jìn)行科學(xué)、公正、合理的決策。據(jù)此,要增強(qiáng)技術(shù)使用者的道德意識(shí)與道德理念,使道德嵌入算法,切實(shí)推動(dòng)道德決策落地。這就要加強(qiáng)教育使用者的技術(shù)道德、規(guī)則意識(shí)、法治觀念,從技術(shù)使用的源頭保障人工智能教育具備道德基因。同時(shí),教育者將算法運(yùn)用于教育時(shí),要秉持 “以人為本” 的治理意識(shí),堅(jiān)定育人為本的初心,深入了解算法世界的 “游戲規(guī)則”,掙脫算法所帶來(lái)的束縛與控制,保持自身作為教育者的優(yōu)勢(shì)主導(dǎo)地位,將自身的教育智慧與人工智能相結(jié)合,獲取教育“美美與共” 的景象。[25]

    4.確立算法問(wèn)責(zé)機(jī)制,以制度保障人工智能教育發(fā)展的多元性

    制度具有營(yíng)造秩序和提升效率的功能。[26]化解人工智能教育的 “算法” 風(fēng)險(xiǎn),需要建立精準(zhǔn)的問(wèn)責(zé)機(jī)制,在合理的制度框架下最大限度發(fā)揮算法設(shè)計(jì)者、使用者的權(quán)限,從源頭上規(guī)避算法引發(fā)的教育同質(zhì)化風(fēng)險(xiǎn),釋放張力,激發(fā)活力,推進(jìn)人工智能教育的多樣性發(fā)展。一如貝克(Ulrich Bec)所指出:“風(fēng)險(xiǎn)概念表明人們創(chuàng)造了一種文明,以便使自己的決定將會(huì)造成的不可預(yù)見(jiàn)的后果具備可預(yù)見(jiàn)性,從而控制不可控的事情,通過(guò)采取預(yù)防性行動(dòng)以及相應(yīng)的制度化措施來(lái)戰(zhàn)勝種種副作用?!盵27]

    一方面,建立精準(zhǔn)追責(zé)機(jī)制,以明確的責(zé)任主體釋放人工智能教育的發(fā)展活力。面對(duì)算法帶來(lái)的教育同質(zhì)化風(fēng)險(xiǎn),應(yīng)在政府立法部門與教育主導(dǎo)部門的合作下建立與之對(duì)應(yīng)的破解體系,以法律法規(guī)保障教育的自主性發(fā)展,打破教育的同質(zhì)化風(fēng)險(xiǎn)。如依托人工智能教育大背景,鼓勵(lì)各級(jí)各類高等教育院校特色化發(fā)展、激勵(lì)基礎(chǔ)教育學(xué)校突出本土特色,以學(xué)校辦學(xué)特色作為打破教育趨同化的先鋒隊(duì),帶領(lǐng)不同區(qū)域、不同類型、不同層次、不同形式的教育特色化、優(yōu)質(zhì)化發(fā)展。另外,需要彌補(bǔ)教育法律中人工智能教育相關(guān)內(nèi)容的規(guī)則監(jiān)控,明確人工智能教育應(yīng)用中設(shè)計(jì)者、使用者、推廣者等各方的法律責(zé)任、權(quán)利與義務(wù),在合法規(guī)則下最大限度地增強(qiáng)算法的實(shí)用度和開放性,彰顯發(fā)展活力,增加教育的開放性和多樣性。

    另一方面,嚴(yán)格糾錯(cuò)處罰,以制度執(zhí)行力激活人工智能教育的張力。除了法律綱領(lǐng)的強(qiáng)制把控,還需要提升教育算法的制度執(zhí)行力度,真正實(shí)現(xiàn)高監(jiān)管低風(fēng)險(xiǎn)的把控效果,嚴(yán)格懲治跨越道德甚至法律底線的過(guò)錯(cuò)行為。要細(xì)化對(duì)教育信息獲取、教育信息使用等的制度保障,對(duì)出現(xiàn)的個(gè)人教育信息商業(yè)化使用、個(gè)人生物信息販賣等問(wèn)題,要在制度執(zhí)行層面加強(qiáng)信息管控力度,嚴(yán)格、透明地處理 “信息犯罪” 案件。加強(qiáng)教育行業(yè)的市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn),由政府強(qiáng)制執(zhí)行責(zé)任糾紛、進(jìn)行過(guò)錯(cuò)處罰,最大限度地把控教育教學(xué)全過(guò)程中各方的責(zé)任邊界與嚴(yán)格處罰力度,在精準(zhǔn)追責(zé)與糾錯(cuò)補(bǔ)償?shù)碾p效施力下,讓算法在教育領(lǐng)域更加公正透明運(yùn)行,在開放中增強(qiáng)教育的發(fā)展動(dòng)力與活力。

    猜你喜歡
    道德人工智能算法
    頭上的星空與心中的道德律
    十幾歲(2021年24期)2021-11-18 02:18:40
    基于MapReduce的改進(jìn)Eclat算法
    跟蹤導(dǎo)練(五)(2)
    Travellng thg World Full—time for Rree
    道德是否必需?——《海狼》對(duì)道德虛無(wú)主義的思考
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    進(jìn)位加法的兩種算法
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    99久久99久久久精品蜜桃| 亚洲国产日韩一区二区| 欧美激情高清一区二区三区| 美女主播在线视频| 黑人猛操日本美女一级片| 99国产精品99久久久久| 成年女人毛片免费观看观看9 | 超碰97精品在线观看| 日本欧美视频一区| 狠狠婷婷综合久久久久久88av| 最黄视频免费看| 国产一区二区 视频在线| 国产精品一区二区精品视频观看| 国产免费又黄又爽又色| 国产成人精品久久久久久| 性少妇av在线| 99久久99久久久精品蜜桃| 18禁观看日本| 女人久久www免费人成看片| 成人手机av| 在线av久久热| 亚洲中文日韩欧美视频| 成年av动漫网址| 久久久久国产精品人妻一区二区| 国产真人三级小视频在线观看| 丝袜美腿诱惑在线| av片东京热男人的天堂| 欧美日韩国产mv在线观看视频| 在线亚洲精品国产二区图片欧美| www.av在线官网国产| 日本av免费视频播放| 久久午夜综合久久蜜桃| 一区二区三区激情视频| 免费在线观看完整版高清| 新久久久久国产一级毛片| 国产成人一区二区在线| 日韩大码丰满熟妇| 欧美中文综合在线视频| 高清欧美精品videossex| 十八禁高潮呻吟视频| 性高湖久久久久久久久免费观看| 最黄视频免费看| 精品少妇久久久久久888优播| 丰满饥渴人妻一区二区三| 宅男免费午夜| 亚洲人成电影观看| 色视频在线一区二区三区| 国产无遮挡羞羞视频在线观看| 1024香蕉在线观看| 在线观看免费日韩欧美大片| 黄色a级毛片大全视频| 日韩一区二区三区影片| 91麻豆精品激情在线观看国产 | 国产激情久久老熟女| 99国产精品一区二区三区| 国产精品麻豆人妻色哟哟久久| 国产男女超爽视频在线观看| 精品久久久久久电影网| 亚洲精品国产av成人精品| 精品亚洲成国产av| 18禁观看日本| 久久av网站| 这个男人来自地球电影免费观看| av天堂久久9| 日韩一区二区三区影片| 亚洲精品美女久久久久99蜜臀 | 日本五十路高清| 成人亚洲欧美一区二区av| 精品一区二区三区四区五区乱码 | 高清视频免费观看一区二区| 免费观看a级毛片全部| 精品少妇久久久久久888优播| 丝袜在线中文字幕| 视频区欧美日本亚洲| 人人妻人人澡人人看| 精品少妇内射三级| 午夜福利视频在线观看免费| 国产成人精品无人区| 日韩av免费高清视频| 午夜激情av网站| 日韩欧美一区视频在线观看| 天天躁夜夜躁狠狠久久av| 激情五月婷婷亚洲| 久久久精品区二区三区| 大香蕉久久网| 成人国语在线视频| 日韩一区二区三区影片| 一二三四社区在线视频社区8| 嫁个100分男人电影在线观看 | 99精国产麻豆久久婷婷| 国产97色在线日韩免费| 国产精品久久久久久精品电影小说| 一区福利在线观看| 亚洲精品日韩在线中文字幕| 久久99热这里只频精品6学生| √禁漫天堂资源中文www| 欧美日韩av久久| 精品一区二区三卡| 在线观看免费日韩欧美大片| 在线观看免费高清a一片| 老熟女久久久| 欧美xxⅹ黑人| 高清av免费在线| 国产97色在线日韩免费| 天天躁日日躁夜夜躁夜夜| 国产野战对白在线观看| 精品福利永久在线观看| 男女高潮啪啪啪动态图| 在线观看www视频免费| 国产欧美日韩精品亚洲av| 国产一区二区三区av在线| 亚洲精品av麻豆狂野| 自线自在国产av| 国产熟女欧美一区二区| 色综合欧美亚洲国产小说| 国产精品免费视频内射| 久久久久精品人妻al黑| 女人精品久久久久毛片| 黄色 视频免费看| 岛国毛片在线播放| 久久久久久亚洲精品国产蜜桃av| 黄色视频在线播放观看不卡| 赤兔流量卡办理| 国产黄频视频在线观看| 亚洲av片天天在线观看| 精品视频人人做人人爽| 青草久久国产| 国产成人a∨麻豆精品| 在线观看人妻少妇| 欧美精品一区二区大全| 国产成人av激情在线播放| 久久久久久久大尺度免费视频| 国产免费现黄频在线看| 又粗又硬又长又爽又黄的视频| 97精品久久久久久久久久精品| 国产精品二区激情视频| 两人在一起打扑克的视频| 不卡av一区二区三区| 80岁老熟妇乱子伦牲交| 操出白浆在线播放| 天天躁日日躁夜夜躁夜夜| 成年动漫av网址| 一区二区三区精品91| 1024香蕉在线观看| 精品一区二区三区四区五区乱码 | 看十八女毛片水多多多| xxx大片免费视频| 国产亚洲av高清不卡| 亚洲中文av在线| 日本vs欧美在线观看视频| 不卡av一区二区三区| 赤兔流量卡办理| 麻豆国产av国片精品| 色播在线永久视频| 两个人免费观看高清视频| 中文欧美无线码| 91精品伊人久久大香线蕉| 国产在线观看jvid| 国产精品成人在线| 大片免费播放器 马上看| 国产免费又黄又爽又色| 一区在线观看完整版| 色播在线永久视频| 久久久欧美国产精品| 69精品国产乱码久久久| 男男h啪啪无遮挡| 在线观看一区二区三区激情| 色综合欧美亚洲国产小说| 国产黄色视频一区二区在线观看| 国产一区二区激情短视频 | 亚洲自偷自拍图片 自拍| 国产又色又爽无遮挡免| 老司机午夜十八禁免费视频| 亚洲欧美一区二区三区国产| 久久久国产精品麻豆| 精品欧美一区二区三区在线| 国产精品国产三级国产专区5o| 亚洲中文av在线| 亚洲成国产人片在线观看| 国产精品99久久99久久久不卡| 久久精品国产亚洲av涩爱| 老司机午夜十八禁免费视频| 麻豆乱淫一区二区| 视频区欧美日本亚洲| 2018国产大陆天天弄谢| 中文字幕制服av| 亚洲欧美精品自产自拍| 色视频在线一区二区三区| 精品亚洲成国产av| 如日韩欧美国产精品一区二区三区| 王馨瑶露胸无遮挡在线观看| 国产欧美日韩一区二区三 | 一级片'在线观看视频| 啦啦啦啦在线视频资源| 成年美女黄网站色视频大全免费| 黑人欧美特级aaaaaa片| 国产成人系列免费观看| 亚洲一卡2卡3卡4卡5卡精品中文| a级毛片黄视频| 看免费成人av毛片| 91麻豆av在线| 久久久久久久国产电影| 免费看十八禁软件| 一区二区三区乱码不卡18| 成人午夜精彩视频在线观看| 美女主播在线视频| 狂野欧美激情性bbbbbb| 成在线人永久免费视频| 国产亚洲午夜精品一区二区久久| 乱人伦中国视频| 一级片免费观看大全| 亚洲,一卡二卡三卡| 精品一区二区三卡| 一区二区av电影网| 欧美成人午夜精品| 国产亚洲精品久久久久5区| av天堂久久9| 精品亚洲成a人片在线观看| 亚洲av国产av综合av卡| 超碰成人久久| 19禁男女啪啪无遮挡网站| 久久久国产一区二区| 亚洲国产欧美日韩在线播放| 久久久久久久久久久久大奶| 一本综合久久免费| 岛国毛片在线播放| 在线观看国产h片| 十八禁高潮呻吟视频| 欧美日韩成人在线一区二区| 欧美性长视频在线观看| 成人免费观看视频高清| 在线观看国产h片| 一个人免费看片子| 精品国产乱码久久久久久小说| 欧美日韩精品网址| 大陆偷拍与自拍| av天堂久久9| 无遮挡黄片免费观看| 久久九九热精品免费| 又黄又粗又硬又大视频| 国产三级黄色录像| 亚洲国产精品一区三区| 精品一品国产午夜福利视频| 桃花免费在线播放| 黄色 视频免费看| 麻豆av在线久日| 欧美乱码精品一区二区三区| a级片在线免费高清观看视频| 日韩大片免费观看网站| 91字幕亚洲| 国产成人影院久久av| 国产免费一区二区三区四区乱码| 国产精品二区激情视频| 欧美少妇被猛烈插入视频| 亚洲伊人色综图| av网站免费在线观看视频| 午夜日韩欧美国产| 丝瓜视频免费看黄片| 日韩一本色道免费dvd| 一级毛片我不卡| 深夜精品福利| 久久久久精品国产欧美久久久 | 国产欧美日韩一区二区三 | 在线观看国产h片| 国产精品久久久av美女十八| 亚洲伊人久久精品综合| 晚上一个人看的免费电影| 日韩av在线免费看完整版不卡| 亚洲欧美一区二区三区久久| 女人久久www免费人成看片| 丰满人妻熟妇乱又伦精品不卡| 在线观看人妻少妇| 亚洲伊人久久精品综合| 成年av动漫网址| 大香蕉久久成人网| 老司机在亚洲福利影院| 性色av乱码一区二区三区2| av在线播放精品| 国产又色又爽无遮挡免| 欧美国产精品一级二级三级| 国产淫语在线视频| 各种免费的搞黄视频| 18禁观看日本| 最黄视频免费看| 麻豆乱淫一区二区| 视频在线观看一区二区三区| 黄色视频在线播放观看不卡| 中文字幕另类日韩欧美亚洲嫩草| 精品高清国产在线一区| 久久人妻福利社区极品人妻图片 | 国产一区二区三区av在线| 777久久人妻少妇嫩草av网站| 国产熟女欧美一区二区| 咕卡用的链子| 啦啦啦 在线观看视频| 久久久久精品国产欧美久久久 | 国产精品二区激情视频| 久久热在线av| 91麻豆精品激情在线观看国产 | 丝袜脚勾引网站| 丝袜美腿诱惑在线| 欧美日韩国产mv在线观看视频| 成年人免费黄色播放视频| 国产视频首页在线观看| 国产av一区二区精品久久| xxx大片免费视频| av天堂在线播放| 久9热在线精品视频| 久久精品亚洲熟妇少妇任你| 中文字幕另类日韩欧美亚洲嫩草| 人妻人人澡人人爽人人| 天天添夜夜摸| 一区二区三区四区激情视频| 久久久久精品人妻al黑| 看免费av毛片| 一二三四社区在线视频社区8| 亚洲欧洲精品一区二区精品久久久| 国产真人三级小视频在线观看| 国产成人免费观看mmmm| 免费观看a级毛片全部| 欧美成人午夜精品| 亚洲人成电影观看| 建设人人有责人人尽责人人享有的| 99国产精品一区二区蜜桃av | 成年美女黄网站色视频大全免费| 无限看片的www在线观看| 国产精品一区二区在线观看99| 看免费av毛片| 国产精品麻豆人妻色哟哟久久| 日本av免费视频播放| 手机成人av网站| 看十八女毛片水多多多| 黑人猛操日本美女一级片| a 毛片基地| 亚洲色图 男人天堂 中文字幕| 国产精品偷伦视频观看了| 一本综合久久免费| 午夜免费男女啪啪视频观看| 精品国产乱码久久久久久小说| 欧美日韩av久久| 啦啦啦 在线观看视频| 成人国语在线视频| 欧美黑人欧美精品刺激| 成人亚洲欧美一区二区av| 国产黄色免费在线视频| 最新的欧美精品一区二区| 天天躁狠狠躁夜夜躁狠狠躁| 久久久久久久久久久久大奶| 久久精品久久精品一区二区三区| 亚洲专区中文字幕在线| 欧美黑人精品巨大| 日本色播在线视频| 热99国产精品久久久久久7| 美女午夜性视频免费| 18在线观看网站| svipshipincom国产片| 午夜影院在线不卡| 国产97色在线日韩免费| 亚洲精品第二区| 国产精品一区二区在线观看99| 久久久久精品国产欧美久久久 | 久久99一区二区三区| av国产精品久久久久影院| 国产午夜精品一二区理论片| 少妇人妻 视频| 一二三四在线观看免费中文在| 成年人免费黄色播放视频| 又粗又硬又长又爽又黄的视频| 一区二区三区激情视频| 成在线人永久免费视频| 中文字幕高清在线视频| 少妇被粗大的猛进出69影院| 黄色片一级片一级黄色片| 一级黄色大片毛片| 亚洲av美国av| 欧美久久黑人一区二区| 国产精品国产三级国产专区5o| 国产亚洲欧美在线一区二区| 少妇的丰满在线观看| 国产精品久久久久久精品古装| 90打野战视频偷拍视频| 久久ye,这里只有精品| 日韩一区二区三区影片| 国产不卡av网站在线观看| 亚洲国产av新网站| 国产亚洲av高清不卡| 一级毛片黄色毛片免费观看视频| 久久青草综合色| 国产精品香港三级国产av潘金莲 | 亚洲欧美一区二区三区国产| 午夜影院在线不卡| 久久精品亚洲av国产电影网| 又黄又粗又硬又大视频| 19禁男女啪啪无遮挡网站| 成人影院久久| 免费少妇av软件| 在线观看人妻少妇| 欧美激情极品国产一区二区三区| 欧美中文综合在线视频| 亚洲欧美日韩另类电影网站| 一级黄色大片毛片| 久久中文字幕一级| 校园人妻丝袜中文字幕| 亚洲伊人久久精品综合| 久久热在线av| 国产真人三级小视频在线观看| 亚洲国产成人一精品久久久| 777久久人妻少妇嫩草av网站| 日本色播在线视频| 午夜91福利影院| 亚洲,欧美,日韩| 亚洲精品久久成人aⅴ小说| 亚洲七黄色美女视频| 国产视频首页在线观看| 搡老岳熟女国产| 在线av久久热| 亚洲 国产 在线| 日韩一本色道免费dvd| 色综合欧美亚洲国产小说| 晚上一个人看的免费电影| 男女下面插进去视频免费观看| 黄色毛片三级朝国网站| 超碰97精品在线观看| 嫩草影视91久久| 人成视频在线观看免费观看| 久久 成人 亚洲| 国产91精品成人一区二区三区 | 这个男人来自地球电影免费观看| 国产1区2区3区精品| 午夜激情av网站| a 毛片基地| 黄色视频不卡| 亚洲伊人久久精品综合| 国产精品九九99| 日韩伦理黄色片| 女人爽到高潮嗷嗷叫在线视频| 大陆偷拍与自拍| 国产av国产精品国产| 国产av一区二区精品久久| 99热网站在线观看| 悠悠久久av| 一级,二级,三级黄色视频| av国产精品久久久久影院| 天天躁日日躁夜夜躁夜夜| 国产在线视频一区二区| 亚洲人成电影免费在线| 青草久久国产| 婷婷色综合www| 色视频在线一区二区三区| 纯流量卡能插随身wifi吗| 少妇裸体淫交视频免费看高清 | 国产精品久久久久久精品电影小说| 国产精品.久久久| 国产麻豆69| 亚洲欧美激情在线| 久久中文字幕一级| 国产1区2区3区精品| 人妻一区二区av| 午夜久久久在线观看| 亚洲成人免费电影在线观看 | 成年人午夜在线观看视频| 午夜福利影视在线免费观看| 国产欧美日韩一区二区三 | 国产97色在线日韩免费| 亚洲少妇的诱惑av| 菩萨蛮人人尽说江南好唐韦庄| 成年av动漫网址| 日韩伦理黄色片| 91字幕亚洲| 国产欧美日韩综合在线一区二区| 婷婷成人精品国产| 在线观看免费日韩欧美大片| 黄色 视频免费看| av片东京热男人的天堂| 欧美变态另类bdsm刘玥| 国产1区2区3区精品| 狠狠婷婷综合久久久久久88av| 久久久久国产精品人妻一区二区| 日本色播在线视频| 国产精品麻豆人妻色哟哟久久| 亚洲欧洲日产国产| 在线天堂中文资源库| 我要看黄色一级片免费的| 色精品久久人妻99蜜桃| 男男h啪啪无遮挡| 狠狠婷婷综合久久久久久88av| 国产黄色视频一区二区在线观看| 99热国产这里只有精品6| 亚洲欧美色中文字幕在线| 亚洲欧洲精品一区二区精品久久久| 黄色视频不卡| 日韩免费高清中文字幕av| 国产黄色免费在线视频| 少妇粗大呻吟视频| 777米奇影视久久| 热99久久久久精品小说推荐| 日日夜夜操网爽| 国产成人精品久久久久久| 国产精品一二三区在线看| 香蕉丝袜av| 狂野欧美激情性bbbbbb| 黄色片一级片一级黄色片| 久久狼人影院| 黄片播放在线免费| 精品人妻熟女毛片av久久网站| 色视频在线一区二区三区| 亚洲成色77777| 黄色视频在线播放观看不卡| 男的添女的下面高潮视频| a级毛片黄视频| 日韩大码丰满熟妇| 在线亚洲精品国产二区图片欧美| 可以免费在线观看a视频的电影网站| 久久天堂一区二区三区四区| 好男人视频免费观看在线| cao死你这个sao货| 三上悠亚av全集在线观看| av又黄又爽大尺度在线免费看| 国产成人一区二区在线| av国产久精品久网站免费入址| 99国产精品一区二区蜜桃av | 亚洲免费av在线视频| 久久毛片免费看一区二区三区| 国产成人a∨麻豆精品| 亚洲黑人精品在线| 男人舔女人的私密视频| √禁漫天堂资源中文www| www.av在线官网国产| 亚洲精品日本国产第一区| 日本色播在线视频| 男人添女人高潮全过程视频| 啦啦啦在线免费观看视频4| 51午夜福利影视在线观看| 午夜两性在线视频| 久久久久久亚洲精品国产蜜桃av| 热99久久久久精品小说推荐| 日韩大码丰满熟妇| 丁香六月天网| 久久99热这里只频精品6学生| 欧美激情高清一区二区三区| 妹子高潮喷水视频| 18禁裸乳无遮挡动漫免费视频| 人妻一区二区av| 男女边摸边吃奶| 成年av动漫网址| 欧美另类一区| 色网站视频免费| 国产亚洲一区二区精品| 可以免费在线观看a视频的电影网站| 亚洲,欧美,日韩| 在现免费观看毛片| 香蕉国产在线看| 欧美在线黄色| 国精品久久久久久国模美| 国产精品久久久久久人妻精品电影 | 色综合欧美亚洲国产小说| 欧美日本中文国产一区发布| 下体分泌物呈黄色| 精品一区二区三区四区五区乱码 | 欧美日韩亚洲国产一区二区在线观看 | 成人黄色视频免费在线看| 国产精品久久久av美女十八| av国产精品久久久久影院| 国产精品久久久久久人妻精品电影 | 久久国产亚洲av麻豆专区| 人成视频在线观看免费观看| 嫩草影视91久久| 久久ye,这里只有精品| 香蕉丝袜av| 黄色 视频免费看| 日本猛色少妇xxxxx猛交久久| 成人亚洲精品一区在线观看| 日韩一区二区三区影片| 日韩中文字幕视频在线看片| 在线天堂中文资源库| 水蜜桃什么品种好| e午夜精品久久久久久久| 男女床上黄色一级片免费看| 亚洲精品日本国产第一区| 国产国语露脸激情在线看| 久久毛片免费看一区二区三区| 一本久久精品| 观看av在线不卡| 丝袜脚勾引网站| 日韩一卡2卡3卡4卡2021年| 国产成人一区二区在线| 成年人午夜在线观看视频| 一区二区av电影网| 国产伦理片在线播放av一区| 女性被躁到高潮视频| 国产成人av教育| 国产伦理片在线播放av一区| 国产老妇伦熟女老妇高清| 国产成人av教育| 免费在线观看完整版高清| 亚洲精品日本国产第一区| 午夜老司机福利片| 午夜福利,免费看| 国产精品久久久久久精品电影小说| 国产一区二区在线观看av| 国产成人一区二区在线| 亚洲国产精品成人久久小说| 国产麻豆69| 在线精品无人区一区二区三| 午夜激情av网站| 成人国语在线视频| 国产精品九九99| 亚洲中文字幕日韩| 高清av免费在线| 最近中文字幕2019免费版| 蜜桃国产av成人99| 久久久精品94久久精品| 国产免费现黄频在线看| 超碰97精品在线观看| 免费av中文字幕在线|