• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能教育的算法風(fēng)險(xiǎn)與善治

    2022-02-26 23:28:09馮永剛趙丹丹
    關(guān)鍵詞:道德人工智能算法

    馮永剛 趙丹丹

    (山東師范大學(xué),山東 濟(jì)南 250014)

    進(jìn)入21 世紀(jì)以來(lái),以互聯(lián)網(wǎng)普及作為發(fā)展紐帶,在物聯(lián)網(wǎng)、云計(jì)算、5G、虛擬現(xiàn)實(shí)技術(shù)的烘托下,爆炸式增長(zhǎng)的大數(shù)據(jù)引發(fā)了社會(huì)結(jié)構(gòu)新的變革。伴隨數(shù)據(jù)處理與應(yīng)用能力的不斷提升,人工智能逐漸滲透到人類生產(chǎn)和生活的各個(gè)領(lǐng)域,驅(qū)使人類社會(huì)邁入了人工智能時(shí)代。當(dāng)前,人工智能教育已是教育創(chuàng)新發(fā)展的趨勢(shì),人們期望通過(guò)人工智能與教育的深度融合化解棘手的教育問(wèn)題,以實(shí)現(xiàn)人類能力的智慧打造,助力教育教學(xué)高質(zhì)量發(fā)展。在人工智能教育的發(fā)展中,算法和大數(shù)據(jù)的雙向聯(lián)合是其核心驅(qū)動(dòng)力,算法更是人工智能教育發(fā)展的基礎(chǔ)。[1]通過(guò)算法將教育數(shù)據(jù)轉(zhuǎn)化為易處理、易計(jì)算的數(shù)學(xué)問(wèn)題,克服了人類思維的局限性,給人類帶來(lái)的便捷是顯而易見(jiàn)的。在當(dāng)今社會(huì),人類的每時(shí)每刻都直接或間接地與算法相關(guān),甚至有人預(yù)測(cè):“如果所有算法都突然停止運(yùn)轉(zhuǎn),那么就是人類的世界末日?!盵2]然而,我們必須清醒地意識(shí)到,“算法絕非中立、公正的,隨著算法全面滲透生活世界,算法歧視現(xiàn)象高發(fā),已不容漠視”[3]。加之,教育因 “人” 而復(fù)雜,并非全部能夠物化為數(shù)字模型,使用算法將教育進(jìn)行完全量化與預(yù)測(cè)的做法,勢(shì)必會(huì)背離教育的動(dòng)態(tài)性、多元性特質(zhì),造成一定的算法風(fēng)險(xiǎn)。因此,厘清人工智能教育的算法風(fēng)險(xiǎn)及其成因,并積極規(guī)避,方可確保人工智能教育為人類帶來(lái)福祉。

    一、人工智能教育的算法風(fēng)險(xiǎn)

    在人工智能教育看來(lái),所有的教育都是“可算度的教育”。算法被視為以特定函數(shù)的代碼值進(jìn)入輸入端并在有限時(shí)間內(nèi)通過(guò)算法路徑輸出能夠解決目的性問(wèn)題的方案?!八惴ㄊ菫閷?shí)現(xiàn)某個(gè)任務(wù)而構(gòu)造的簡(jiǎn)單指令集。在日常用語(yǔ)中,算法有時(shí)稱為過(guò)程或處方?!盵4]在人工智能教育運(yùn)用中,算法是指按照預(yù)先目標(biāo)設(shè)定,通過(guò)機(jī)器學(xué)習(xí)、訓(xùn)練操作等一系列步驟模擬人類的思維過(guò)程和行為方式,以算法箱子輸入端和輸出端的既定數(shù)據(jù)運(yùn)算模擬人類神經(jīng)工作、協(xié)助人們處理繁雜事務(wù)的過(guò)程。隨著人工智能教育的快速發(fā)展,一時(shí)間,教育領(lǐng)域被算法優(yōu)勢(shì)填充,“一切皆可計(jì)算” 的算法崇拜伴隨著這種氛圍應(yīng)運(yùn)而生,算法逐漸成為教育權(quán)威的代言人。[5]當(dāng)然,沉浸在人工智能教育 “熱” 的同時(shí),我們也要對(duì)人工智能教育面臨的風(fēng)險(xiǎn)進(jìn)行“冷” 思考。誠(chéng)如聯(lián)合國(guó)教科文組織的警示,人工智能會(huì)給教育帶來(lái)壓力和挑戰(zhàn),[6]人工智能教育的算法風(fēng)險(xiǎn)也值得我們警惕。

    1.算法的既定性導(dǎo)致教育被淺層化的風(fēng)險(xiǎn)

    在人工智能時(shí)代,算法的工作機(jī)理是固定函數(shù)公式下的智能運(yùn)算和機(jī)器學(xué)習(xí),函數(shù)一經(jīng)輸入便被既定的計(jì)算步驟所固化。因此,算法具有天然的既定性基因。莫里斯·克萊因(Morris Kline)表示,數(shù)學(xué)的成功之處在于以長(zhǎng)度、質(zhì)量、時(shí)間等量化的概念形式來(lái)看待世界物質(zhì),但是數(shù)學(xué)符號(hào)并不能夠表達(dá)一切,比如某些豐富多彩的體驗(yàn)是數(shù)學(xué)符號(hào)所不能企及的。[7]如同人的身高并不能夠代表整個(gè)人一樣,在預(yù)設(shè)教育目標(biāo)下的既定性算法也不能夠代表整個(gè)教育過(guò)程。教育是一個(gè)復(fù)雜的社會(huì)活動(dòng),面對(duì)的是不同的教育群體、多元的教育訴求,是在動(dòng)態(tài)中不斷生成的,絕非按部就班、機(jī)械劃一。人工智能教育依托算法對(duì)學(xué)校管理、教師教學(xué)、學(xué)生學(xué)習(xí)的過(guò)程進(jìn)行量化分析,其所使用的信息多是教育對(duì)象或教育現(xiàn)象的淺層數(shù)據(jù),而并非是能反映教育本質(zhì)的深層數(shù)據(jù)。算法模型對(duì)教育事實(shí)或教育現(xiàn)象的既定化分析,易遺失教育過(guò)程中最為豐富的元素,如學(xué)生的道德感、好奇心和探究欲等,引發(fā)教育過(guò)程的淺層化和表面化。

    值得注意的是,既定的算法模型所設(shè)計(jì)出的虛擬仿真學(xué)習(xí)空間、模擬訓(xùn)練等并不能夠等同生動(dòng)形象的真實(shí)學(xué)習(xí)情境。在算法創(chuàng)造的教育空間中,學(xué)生并不會(huì)像機(jī)器那樣按照既定路徑運(yùn)作,教師也無(wú)法脫離自身環(huán)境而單純依靠算法設(shè)計(jì)進(jìn)行 “流水作業(yè)”,教學(xué)成為套路固定、路徑生硬的 “游戲”;學(xué)生僅能夠獲得淺層的顯性知識(shí),而那些緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)都將難以得到發(fā)展,走馬觀花式的學(xué)習(xí)無(wú)異于飲鴆止渴,難以促進(jìn)學(xué)生的全面發(fā)展、終身發(fā)展。

    2.“黑箱” 效應(yīng)下催生教育被隱形控制的風(fēng)險(xiǎn)

    算法 “黑箱” 是指由于技術(shù)本身的復(fù)雜性,在算法的輸入端與輸出端之間存在著無(wú)法洞悉或未知的區(qū)域。一方面,“黑箱” 意味著我們難以理解算法內(nèi)部的邏輯與生產(chǎn)方法;另一方面,“黑箱” 也代表著其本身的復(fù)雜性導(dǎo)致設(shè)計(jì)者難以洞識(shí)其運(yùn)動(dòng)機(jī)制。正如盧克·多梅爾(Luke Dormehl)所說(shuō),我們所處的人工智能環(huán)境是依托于算法和大數(shù)據(jù)而生的,“技術(shù)對(duì)人類的理解越來(lái)越深刻,而人們卻越來(lái)越難以理解、把控技術(shù)”[8]。當(dāng)算法應(yīng)用于教育領(lǐng)域時(shí),面對(duì)機(jī)器學(xué)習(xí)技術(shù)的迅速發(fā)展,人工智能教育能夠進(jìn)行自我改進(jìn)和自我優(yōu)化等一系列內(nèi)在的、不為人知的更新過(guò)程,我們同樣難以理解、詮釋算法處理教育問(wèn)題時(shí)的邏輯機(jī)理和運(yùn)作路徑。人工智能算法將自身的工作邏輯應(yīng)用于教育全過(guò)程,利用自己所演化的規(guī)則實(shí)現(xiàn)學(xué)生分析、教師分析和問(wèn)題處理等,而在整個(gè)教育過(guò)程中的學(xué)生、教師甚至設(shè)計(jì)者等卻并不能夠?qū)ζ涔ぷ鬟壿嬜龅?“盡知”:學(xué)生無(wú)法判定算法的自動(dòng)推薦是否反映客觀事實(shí)、是否真正符合自身需求;教師無(wú)法判定依據(jù)算法得出的既定結(jié)果是否真正適合學(xué)生發(fā)展、是否真正能夠正向解決教育問(wèn)題;設(shè)計(jì)者無(wú)法肯定算法所算出的確定結(jié)果是否符合預(yù)期數(shù)據(jù)設(shè)定,等等。

    在算法 “黑箱” 效應(yīng)下,參與者對(duì)算法路徑、工作邏輯的無(wú)法盡知令我們落入被動(dòng)方位,只能被動(dòng)地接受算法輸出的固定結(jié)果。在不知道其工作邏輯、不確定計(jì)算結(jié)果是否適切教育問(wèn)題的情況下,貿(mào)然將其應(yīng)用于教育這一培養(yǎng)人的社會(huì)實(shí)踐活動(dòng)之中,其中所蘊(yùn)藏的風(fēng)險(xiǎn)難以想象,易致教育成為一個(gè)失去方向、沒(méi)有活力、缺失靈動(dòng)的機(jī)械執(zhí)行過(guò)程。教育參與者在“黑箱” 效應(yīng)的遮蓋下,一知半解地按照算法既定結(jié)果亦步亦趨,教育的自主性正在逐漸被隱形消解。

    3.算法偏見(jiàn)下加劇了教育不公的風(fēng)險(xiǎn)

    教育公平是社會(huì)公平的子系統(tǒng),是實(shí)現(xiàn)社會(huì)公平 “最偉大的工具”[9]。隨著時(shí)代變遷,人類社會(huì)在教育公平的道路上曲折前行。在人工智能時(shí)代,算法作為一把 “雙刃劍”,可極大地促進(jìn)教育公平的發(fā)展步伐,與此同時(shí),算法又以某一種方式加劇了教育的不公。這集中體現(xiàn)為算法偏見(jiàn)所帶來(lái)的教育不公風(fēng)險(xiǎn)。算法是依賴數(shù)據(jù)和規(guī)則的,而數(shù)據(jù)樣本是經(jīng)過(guò)提煉選取的,在這一過(guò)程中會(huì)去除各種 “噪音” 數(shù)據(jù),再賦予其看似合理的樣本數(shù)據(jù),將其納入算法模型。加之算法偏見(jiàn)亦有其隱蔽的形成路徑,因此,看得見(jiàn)的、可計(jì)算的數(shù)據(jù)被裝入算法盒子,而看不見(jiàn)的、難處理的數(shù)據(jù)被剔除,在這些數(shù)據(jù)的取舍之間就產(chǎn)生了算法偏見(jiàn),造成了結(jié)果狹隘。地區(qū)的教育信息化水平影響著人工智能教育的普及、深入程度,必然會(huì)拉大富裕地區(qū)與貧瘠地區(qū)受教育水平的差距,尤其是對(duì)算法偏見(jiàn)的認(rèn)識(shí)和處理水平,會(huì)影響教育機(jī)會(huì)公平、教育過(guò)程公平,拉垮教育結(jié)果公平。

    算法偏見(jiàn)下,打開算法盒子看得到的是符合設(shè)計(jì)者、使用者的主觀數(shù)據(jù)與程序,關(guān)閉盒子輸出的卻是代表客觀性的大眾結(jié)果。[10]如果算法存在偏見(jiàn),那么將會(huì)產(chǎn)生嚴(yán)重的不公后果,尤其是針對(duì)貧困社區(qū)、弱勢(shì)群體而言。教育領(lǐng)域同樣存在性別、種族、家庭環(huán)境、教育條件等參差不齊的背景樣本。面對(duì)這些大量的樣本,難以對(duì)其進(jìn)行全面評(píng)估或預(yù)測(cè),甚至難以帶入算法中進(jìn)行結(jié)果分析。同樣,教育過(guò)程中所產(chǎn)生的情感、態(tài)度和價(jià)值觀等緘默數(shù)據(jù),也難以被量化為顯性數(shù)據(jù)并加以分析,而這些不能被妥善植入算法的數(shù)據(jù)樣本,卻在極大程度上代表和體現(xiàn)著教育的公平、公正、關(guān)愛(ài)、尊重等。算法偏見(jiàn)的過(guò)濾,使得富有人文價(jià)值的數(shù)據(jù)被消解在外,教育不公不可避免地被放大,“數(shù)據(jù)鴻溝” 在算法偏見(jiàn)的加持下被拉大,教育天平進(jìn)一步被拉扯傾斜,從而加劇教育公平的風(fēng)險(xiǎn)。

    4.算法的大規(guī)模應(yīng)用易引發(fā)教育同質(zhì)化的風(fēng)險(xiǎn)

    人工智能時(shí)代,算法的大規(guī)模應(yīng)用推動(dòng)了技術(shù)的飛速提升?!凹夹g(shù)在追求效率的同時(shí)總是在謀求擴(kuò)大受眾規(guī)模?!盵11]算法的大規(guī)模運(yùn)用表現(xiàn)在教育領(lǐng)域更是多種多樣,大到智慧教育的生態(tài)研究、多元學(xué)習(xí)情境下教育規(guī)律的探討,小到個(gè)性化學(xué)習(xí)的支持服務(wù)、基于教育數(shù)據(jù)的學(xué)習(xí)分析與測(cè)評(píng)、自動(dòng)化決策系統(tǒng)、智能教育產(chǎn)品,都是以算法為模型的多種教育信息科技的表現(xiàn)形式。不可否認(rèn)的是,算法通過(guò) “智能導(dǎo)師系統(tǒng)、自動(dòng)化測(cè)評(píng)系統(tǒng)、教育游戲、教育機(jī)器人”[12]等的應(yīng)用對(duì)教育個(gè)性化帶來(lái)了極大的推動(dòng),促進(jìn)了教師指導(dǎo)的個(gè)性化、學(xué)生學(xué)習(xí)的個(gè)性化。

    但是,算法的大規(guī)模應(yīng)用極易導(dǎo)致教育的程式化,使越來(lái)越多的人和教育機(jī)構(gòu)癡迷于算法規(guī)?;⒘炕鶐?lái)的利益,以推送算法的形式將 “人” 物化、將教育公式化,以同一的教育算法推送相同的教學(xué)資源、學(xué)習(xí)計(jì)劃等,這在一定程度上加劇了教育結(jié)果的同質(zhì)化。利用機(jī)器學(xué)習(xí)分類算法,將受眾分流到不同地點(diǎn)、不同時(shí)間段、不同層次的做法,從表面上看,似乎實(shí)現(xiàn)了教育的優(yōu)質(zhì)分層,實(shí)則不然。面對(duì)擁有不同學(xué)科背景、認(rèn)知程度不一的受教育者,算法的規(guī)模化、流水線使用必然會(huì)強(qiáng)化學(xué)生的規(guī)?;?“生產(chǎn)”,導(dǎo)致辦學(xué)模式單一化、學(xué)生單維同質(zhì)化生長(zhǎng)、教育一律性發(fā)展,引發(fā)教育反特色化、合眾化、趨同化的風(fēng)險(xiǎn),因?yàn)?“即使是優(yōu)質(zhì)的教育算法,一旦大規(guī)模使用,也會(huì)帶來(lái)湮滅學(xué)生個(gè)性的風(fēng)險(xiǎn)”[13]。同時(shí),我們也不能忽視人工智能教育應(yīng)用在一定程度上削弱了教師的指導(dǎo)性、學(xué)生的自主選擇性,使其成為固化學(xué)生思維、限制學(xué)生多樣發(fā)展的 “殺傷性”智能武器。

    二、人工智能教育算法風(fēng)險(xiǎn)究因

    深究算法風(fēng)險(xiǎn)的根由,有助于我們把握人工智能教育應(yīng)用的邊界與局限,促進(jìn)人工智能教育更好地適應(yīng)和滿足人的發(fā)展需求。

    1.算法的路徑固定化與學(xué)生個(gè)性化發(fā)展之間的矛盾

    算法是依據(jù)預(yù)設(shè)的數(shù)學(xué)公式進(jìn)行輸入、計(jì)算、輸出信息的運(yùn)行過(guò)程,其工作路徑是固化的。算法的路徑固定化與學(xué)生的個(gè)性化發(fā)展之間的矛盾是教育被淺層化風(fēng)險(xiǎn)的主要原因。算法使每個(gè)學(xué)生都被度量化,他們不再是一個(gè)鮮活的、有機(jī)的和內(nèi)在的整體,而是被拆解成一個(gè)個(gè)便于計(jì)算和處理的數(shù)字格、被細(xì)化為 “用數(shù)據(jù)表示的物理形態(tài)的人”[14]、被打上不同的標(biāo)記名片,接受不同數(shù)量的、所謂的個(gè)性化推薦信息資源。實(shí)質(zhì)上,真正的學(xué)生個(gè)性化發(fā)展是依據(jù)學(xué)生的學(xué)習(xí)動(dòng)機(jī)、好奇心、興趣等來(lái)調(diào)動(dòng)學(xué)生的主體性,激發(fā)其內(nèi)在潛能,而非通過(guò)算法公式化地向其推薦固定內(nèi)容。在算法固定的工作模式下,每個(gè)學(xué)生好比被獨(dú)立放進(jìn)單間的信息素,被既定算法和固定工作路徑分開處理。這將加大學(xué)生之間的知識(shí)區(qū)隔,阻礙其信息交流、情感溝通、共同體建立等,將學(xué)生個(gè)性化發(fā)展扭曲為學(xué)生發(fā)展隔斷化。學(xué)生的個(gè)性化發(fā)展不是固定化的、公式化的,而是思辨能力、理解能力、合作能力等多方因素通力合作所達(dá)到的和諧景象,這顯然是固定規(guī)則下的算法無(wú)法企及的。

    2.算法的模糊性與教育的公共性之間的對(duì)峙

    算法 “黑箱” 意味著算法輸入端與輸出端之間有著難以洞悉的復(fù)雜結(jié)構(gòu),算法具有模糊性、難解釋性的特質(zhì)。算法的模糊性來(lái)源于算法自身的復(fù)雜性與相對(duì)獨(dú)立性,難以被解釋,更難以被理解。另外,在人工智能高速發(fā)展的背景下,機(jī)器學(xué)習(xí)的能力日益強(qiáng)化。通過(guò)機(jī)器自身的深度學(xué)習(xí),其算法發(fā)展的程度與所優(yōu)化的區(qū)域,甚至連算法的初始設(shè)計(jì)者都難以獲悉,這在一定程度上強(qiáng)化了模糊性。而教育是公共性的實(shí)踐活動(dòng),公共性是教育的內(nèi)在屬性。教育是公益而非私人的事業(yè),具有顯著的公開、公益和公平的公共性品格?!啊病?意味著向任何人的審視開放,而私人則意味著一個(gè)由家人和朋友構(gòu)成的、受到遮蔽的生活區(qū)域。”[15]算法的模糊性與教育的公共性形成明顯反差。同時(shí),“黑箱” 效應(yīng)下算法的難解釋性,對(duì)教育者、受教育者等教育主體甚至社會(huì)公眾而言,意味著他們非但難以了解其工作的基本機(jī)制,甚或?qū)逃顒?dòng) “一概不知”,這有悖于教育的公開性。此外,算法的模糊性又在一定程度上強(qiáng)化了教育的排他性和私有化,引起了某些人對(duì)結(jié)果的早先獲知甚至滋生預(yù)先篡改和占有的問(wèn)題,掩蔽了教育的公共性。

    3.算法的數(shù)據(jù)依賴性與教育多維性之間的拉鋸

    在人工智能教育應(yīng)用中,算法通過(guò)數(shù)據(jù)搜集、數(shù)據(jù)清洗、數(shù)據(jù)審查、數(shù)據(jù)分割等各種數(shù)據(jù)處理來(lái)發(fā)揮作用,因此,算法具有較強(qiáng)的數(shù)據(jù)依賴性,且數(shù)據(jù)分布本身就帶有一定的偏見(jiàn)性。[16]而教育是動(dòng)態(tài)的、多維的。教育的存在意義與價(jià)值在于促進(jìn)人的全面而有個(gè)性的發(fā)展,這必然要求智能教育應(yīng)用結(jié)果的多元化。而算法模型的建立需要使用過(guò)去的數(shù)據(jù)變量進(jìn)行分析,將教師的教育行為、學(xué)生的學(xué)習(xí)行為等“過(guò)時(shí)” 的數(shù)據(jù)作為輸入數(shù)據(jù),用以解決新鮮的教育問(wèn)題,數(shù)據(jù)與發(fā)展存在著時(shí)差問(wèn)題。如根據(jù)相關(guān)學(xué)者對(duì)高校成績(jī)數(shù)據(jù)的研究顯示,算法的使用上具有利用不充分、分析不深入等問(wèn)題。[17]在數(shù)據(jù)收集與數(shù)據(jù)輸入的過(guò)程中,對(duì)數(shù)據(jù)處理的精準(zhǔn)度越高,數(shù)據(jù)處理的時(shí)間就會(huì)越長(zhǎng),其延時(shí)性就表現(xiàn)得越為明顯。同時(shí),在教育的動(dòng)態(tài)發(fā)生過(guò)程中,會(huì)涌現(xiàn)出較多的非事先預(yù)知的“意外情景”,如思維轉(zhuǎn)換、情感升華、直覺(jué)靈感和頓悟等質(zhì)變現(xiàn)象。這些變化都是難以從過(guò)往數(shù)據(jù)中推測(cè)預(yù)判,即利用已經(jīng)存在的 “信息足跡” 難以預(yù)判到教育過(guò)程的質(zhì)變現(xiàn)象,引發(fā)算法數(shù)據(jù)依賴性與教育多維性的拉鋸表現(xiàn)。

    4.算法的確定性與教育過(guò)程的不確定性互相博弈

    教育具有顯而易見(jiàn)的復(fù)雜性與不確定性。[18]教育對(duì)象的差異性、教育手段的多元化、教育情境的多變性等一系列因素都是教育不確定性的強(qiáng)化劑,彰顯著教育活動(dòng)的獨(dú)特性的同時(shí)也給教育蒙上了神秘色彩。固定性是算法的內(nèi)在特質(zhì),需要從明確的目標(biāo)出發(fā),以固定的算法公式求得預(yù)設(shè)目標(biāo)的達(dá)成,以確定的輸入數(shù)據(jù)求得肯定、客觀的輸出結(jié)果。所以,算法的確定性在一定程度上與教育的不確定性有著難以調(diào)節(jié)的博弈現(xiàn)象。算法固定的、公式化的計(jì)算模式,難以與教育進(jìn)程中個(gè)體隨時(shí)產(chǎn)生的動(dòng)機(jī)、情感、好奇心等不定因素建立即時(shí)性的關(guān)聯(lián),教育活動(dòng)中時(shí)刻涌現(xiàn) “一石激起千層浪” 的伴隨性數(shù)據(jù)在一定程度上消解了算法的確定性權(quán)威。誠(chéng)然,算法力圖將教育領(lǐng)域的各項(xiàng)不確定因素轉(zhuǎn)化為確定性的數(shù)據(jù)形式,而確定性在一定程度上代表著人工智能應(yīng)用于教育追求真善美目標(biāo)的明確性,其必要性是毋庸置疑的。然而,教育真善美的標(biāo)準(zhǔn)究竟是什么?這不是算法的確定性所能確證的。而這種不確定性本身也是教育多維、多變和多樣的典型映射,如此,動(dòng)態(tài)多變的教育活動(dòng)與算法的確定性之間的摩擦、沖突及對(duì)抗自是難免。

    三、善治人工智能教育算法風(fēng)險(xiǎn)的路徑

    隨著人工智能教育的縱深發(fā)展,教育數(shù)據(jù)不斷堆疊,深度學(xué)習(xí)持續(xù)推進(jìn),算法所帶的偏見(jiàn)、風(fēng)險(xiǎn)等也會(huì)呈現(xiàn)出強(qiáng)化與放大的苗頭。因此,通過(guò)有力的善法對(duì)算法所帶來(lái)的風(fēng)險(xiǎn)加以防治就顯得日益重要且迫切。因此,要將道德嵌入算法,建立合乎道德要求、協(xié)助人們進(jìn)行道德決策的道德算法,促逼算法從善。道德算法的建立,能夠保持人工智能教育應(yīng)用中算法的審慎使用,有效規(guī)避算法引發(fā)的教育風(fēng)險(xiǎn),極大發(fā)揮算法對(duì)教育的優(yōu)質(zhì)作用[19],指向 “一切為了人類利益” 的目的,從而有效規(guī)避算法風(fēng)險(xiǎn),更好地發(fā)揮算法的正向功能,為人類帶來(lái)更多的利益和福祉。

    1.優(yōu)化算法設(shè)計(jì),以價(jià)值理性引領(lǐng)人工智能教育的深層化發(fā)展

    通過(guò)優(yōu)化算法設(shè)計(jì)提升算法應(yīng)用中的價(jià)值理性與人文精神,是防范人工智能教育應(yīng)用中算法風(fēng)險(xiǎn)的價(jià)值指南。從算法設(shè)計(jì)意圖和最終目的入手,以扎實(shí)的算法價(jià)值根基、人的主體性地位打破淺表化的發(fā)展局限,引領(lǐng)人工智能教育的深層發(fā)展,尊重人工智能教育應(yīng)用中教師與學(xué)生的主體地位,提升人工智能教育算法的風(fēng)險(xiǎn)規(guī)避力,從技術(shù)源頭加強(qiáng)人工智能教育的深度,從而走出應(yīng)用淺表化的陷阱。

    一方面,以道德算法筑牢算法的價(jià)值根基,促進(jìn)人工智能教育行穩(wěn)致遠(yuǎn)。人工智能時(shí)代,算法在技術(shù)支撐下亦帶來(lái)巨大的資本收入,因此,算法在一定程度上也是資本與技術(shù)的化身。為了防止技術(shù)理性對(duì)價(jià)值理性的僭越,人工智能教育應(yīng)加強(qiáng)算法設(shè)計(jì)環(huán)節(jié)中的道德性與人文性精神,以價(jià)值理性為主導(dǎo),以技術(shù)理性為輔助,賦予算法設(shè)計(jì)意圖正當(dāng)性。要加強(qiáng)人工智能教育應(yīng)用的源頭設(shè)計(jì)把關(guān),定期對(duì)教育算法技術(shù)人員進(jìn)行倫理與科技的話題教育,嚴(yán)把信息篩選、算法設(shè)計(jì)等過(guò)程,強(qiáng)化算法設(shè)計(jì)者的價(jià)值理性思想,激發(fā)算法 “育人為本” 的責(zé)任意識(shí),明確自身的算法設(shè)計(jì)對(duì)教育發(fā)展、社會(huì)發(fā)展的影響意義,以道德算法扎穩(wěn)算法的價(jià)值根基,通過(guò)算法的正當(dāng)性確保人工智能教育縱深推進(jìn)。

    另一方面,確保技術(shù)應(yīng)用中人的主體性,以人的能動(dòng)性促進(jìn)教育的深層化發(fā)展。無(wú)論何種智能技術(shù),都是以服務(wù)人、發(fā)展人和解放人為最終目的。在當(dāng)今時(shí)代,不乏技術(shù)運(yùn)用者有迫切攫取眼前利益而置人的道德與價(jià)值于不顧的短視行為,長(zhǎng)此以往,必然會(huì)導(dǎo)致價(jià)值理性消解、技術(shù)理性霸權(quán)的失衡現(xiàn)象。因此,要打破技術(shù)霸權(quán)的華麗包裝,以工具性教育回歸主體性教育,要尊重人的主體地位并發(fā)揮人的主體性作用,構(gòu)建以人為中心的智能教育場(chǎng)域,[20]以學(xué)生的情感、態(tài)度、價(jià)值等深層次的發(fā)展和教師的教育智慧、專業(yè)能力等的不斷提升作為人工智能教育算法設(shè)計(jì)之引領(lǐng)。在算法設(shè)計(jì)中,要以生為本,深度挖掘緘默的活動(dòng)經(jīng)驗(yàn)、內(nèi)心活動(dòng)、邏輯思維等高階活動(dòng)的深層性、本質(zhì)性的數(shù)據(jù)資源,如將基于內(nèi)容、協(xié)同過(guò)濾、綜合的三種傳統(tǒng)推薦算法轉(zhuǎn)為基于排序?qū)W習(xí)的推薦算法,補(bǔ)充傳統(tǒng)三種算法推薦內(nèi)容各有偏差的問(wèn)題,將真正的學(xué)生個(gè)性化發(fā)展融入推薦公式的編制,促進(jìn)學(xué)生主體從淺表化知識(shí)學(xué)習(xí)向順應(yīng)、同化不斷發(fā)展的進(jìn)階學(xué)習(xí)轉(zhuǎn)化[21],增強(qiáng)信息推薦主體適切性,助推人工智能教育的深度發(fā)展。

    2.增加算法的透明度,提升人工智能教育的自主性

    為了加強(qiáng)算法治理,人們?cè)絹?lái)越重視算法透明性原則對(duì)算法 “黑箱” 的克制作用。誠(chéng)如凱文·凱利(Kevin Kelly)所言:“技術(shù)只有透明才能獲益。”[22]增加算法的透明度可有效消解人工智能教育應(yīng)用中 “算法黑箱” 所帶來(lái)的內(nèi)容遮蓋,提升人工智能教育的自主支持性,保持社會(huì)公眾對(duì)教育的公平與道義的持有與把控。

    一方面,加強(qiáng)教育數(shù)據(jù)操作的自主可查性,以數(shù)據(jù)透明突破教育被隱形控制的桎梏。算法對(duì)大數(shù)據(jù)的強(qiáng)依賴性決定了規(guī)避 “算法” 風(fēng)險(xiǎn)需要從數(shù)據(jù)樣本作出調(diào)整,加強(qiáng)數(shù)據(jù)的透明性,確保教育數(shù)據(jù)來(lái)源可查、教育數(shù)據(jù)內(nèi)容可查、教育數(shù)據(jù)處理可查,斬?cái)嘟逃浑[形控制的源頭。教育數(shù)據(jù)的可查性需要算法設(shè)計(jì)者對(duì)教育數(shù)據(jù)來(lái)源、篩選、處理步驟等做好嚴(yán)格記錄與及時(shí)備份,如明確標(biāo)注數(shù)據(jù)采集樣本所在年級(jí)、年齡、學(xué)習(xí)水平、學(xué)習(xí)習(xí)慣、數(shù)據(jù)采集時(shí)間與所在地等相關(guān)信息,了解算法可能存在的偏差及潛在危害,以保證后期對(duì)數(shù)據(jù)審查與復(fù)核等步驟的可控性、可查性。同時(shí),確保數(shù)據(jù)的備份記錄具有合法的可訪問(wèn)性與不可篡改性,以嚴(yán)格、環(huán)環(huán)相扣的數(shù)據(jù)記錄審查環(huán)節(jié)保障數(shù)據(jù)隱私與安全性,使數(shù)據(jù)獲取、篩選等痕跡以備份方式被清晰保存,保證數(shù)據(jù)的完全真實(shí)與不可偽造。

    另一方面,堅(jiān)持可解釋性原則,增加算法的自主支持性??山忉屝允撬惴ㄍ该鞯氖滓瓌t?!拌b于智能算法日益決定著各種決策的結(jié)果,人們需要建構(gòu)技術(shù)公平規(guī)范體系,通過(guò)程序設(shè)計(jì)來(lái)保障公平的實(shí)現(xiàn),并借助于技術(shù)程序的正當(dāng)性來(lái)強(qiáng)化智能決策系統(tǒng)的透明性、可審查性和可解釋性?!盵23]要明確算法設(shè)計(jì)者對(duì)教育問(wèn)題處理的算法邏輯解釋義務(wù),尤其是對(duì)教育數(shù)據(jù)的目標(biāo)預(yù)設(shè)、選取原則與技術(shù)原理等進(jìn)行解釋,提升人們對(duì)算法的理論認(rèn)同,獲得他們對(duì)算法運(yùn)用的態(tài)度支持。同時(shí),設(shè)立專門的教育審計(jì)機(jī)構(gòu),對(duì)人工智能教育應(yīng)用中的算法進(jìn)行審計(jì),避免一些商業(yè)類教育機(jī)構(gòu)以競(jìng)爭(zhēng)獲利而故意掩蓋不合理算法的不當(dāng)行為,如一些教育機(jī)構(gòu)或某些學(xué)校為謀取招生量、提高教育獲利等操縱算法黑箱、營(yíng)造算法神秘性的不良行徑,在技術(shù)運(yùn)用中真正使人成為自身行動(dòng)的主體,為自主創(chuàng)新激發(fā)活力,不斷提升教育的自主性。

    3.減少算法偏見(jiàn)滋生,以道德決策推進(jìn)人工智能教育的公平

    算法是由設(shè)計(jì)者所編寫的。設(shè)計(jì)者將倫理維度納入人工智能教育的決策設(shè)計(jì),是形成道德決策的內(nèi)在要求。同時(shí),教育主體對(duì)算法的了解與認(rèn)識(shí)直接影響到算法在教育領(lǐng)域的應(yīng)用程度。教育主體對(duì)算法的無(wú)知與偏見(jiàn)會(huì)在極大程度上影響人工智能教育應(yīng)用的效果與公平程度。因此,減少算法偏見(jiàn)滋生需增強(qiáng)主體的算法認(rèn)知,以道德決策發(fā)揮算法在解決教育問(wèn)題中的積極作用,強(qiáng)化人工智能教育的抗風(fēng)險(xiǎn)性,力促教育公平的實(shí)現(xiàn)。

    一方面,將道德規(guī)則嵌入算法之中,以道德物化推動(dòng)道德決策。道德物化是由維貝克(Peter-Paul Verbeek)所提出的將技術(shù)道德化的方法。在人工智能算法 “物” 的設(shè)計(jì)環(huán)節(jié)中嵌入人類所公認(rèn)執(zhí)行的道德準(zhǔn)則,即將道德嵌入產(chǎn)品,使人工智能教育應(yīng)用中的使用者不得不遵守倫理道德,從設(shè)計(jì)源頭上規(guī)約人類的行為操作。[24]據(jù)此,要將道德規(guī)則清晰轉(zhuǎn)化為算法形式,以道德物化形成道德算法,使算法自身符合道德倫理規(guī)范,協(xié)助教育者針對(duì)突發(fā)問(wèn)題情境作出更及時(shí)、準(zhǔn)確、全面的教育決策,從而有效促使教育者教育行為、教育策略的合道德化。

    另一方面,加強(qiáng)技術(shù)使用者的道德意識(shí),令道德決策貫穿教育教學(xué)全過(guò)程。道德算法是道德決策的遵循與依據(jù),引導(dǎo)教育者進(jìn)行科學(xué)、公正、合理的決策。據(jù)此,要增強(qiáng)技術(shù)使用者的道德意識(shí)與道德理念,使道德嵌入算法,切實(shí)推動(dòng)道德決策落地。這就要加強(qiáng)教育使用者的技術(shù)道德、規(guī)則意識(shí)、法治觀念,從技術(shù)使用的源頭保障人工智能教育具備道德基因。同時(shí),教育者將算法運(yùn)用于教育時(shí),要秉持 “以人為本” 的治理意識(shí),堅(jiān)定育人為本的初心,深入了解算法世界的 “游戲規(guī)則”,掙脫算法所帶來(lái)的束縛與控制,保持自身作為教育者的優(yōu)勢(shì)主導(dǎo)地位,將自身的教育智慧與人工智能相結(jié)合,獲取教育“美美與共” 的景象。[25]

    4.確立算法問(wèn)責(zé)機(jī)制,以制度保障人工智能教育發(fā)展的多元性

    制度具有營(yíng)造秩序和提升效率的功能。[26]化解人工智能教育的 “算法” 風(fēng)險(xiǎn),需要建立精準(zhǔn)的問(wèn)責(zé)機(jī)制,在合理的制度框架下最大限度發(fā)揮算法設(shè)計(jì)者、使用者的權(quán)限,從源頭上規(guī)避算法引發(fā)的教育同質(zhì)化風(fēng)險(xiǎn),釋放張力,激發(fā)活力,推進(jìn)人工智能教育的多樣性發(fā)展。一如貝克(Ulrich Bec)所指出:“風(fēng)險(xiǎn)概念表明人們創(chuàng)造了一種文明,以便使自己的決定將會(huì)造成的不可預(yù)見(jiàn)的后果具備可預(yù)見(jiàn)性,從而控制不可控的事情,通過(guò)采取預(yù)防性行動(dòng)以及相應(yīng)的制度化措施來(lái)戰(zhàn)勝種種副作用?!盵27]

    一方面,建立精準(zhǔn)追責(zé)機(jī)制,以明確的責(zé)任主體釋放人工智能教育的發(fā)展活力。面對(duì)算法帶來(lái)的教育同質(zhì)化風(fēng)險(xiǎn),應(yīng)在政府立法部門與教育主導(dǎo)部門的合作下建立與之對(duì)應(yīng)的破解體系,以法律法規(guī)保障教育的自主性發(fā)展,打破教育的同質(zhì)化風(fēng)險(xiǎn)。如依托人工智能教育大背景,鼓勵(lì)各級(jí)各類高等教育院校特色化發(fā)展、激勵(lì)基礎(chǔ)教育學(xué)校突出本土特色,以學(xué)校辦學(xué)特色作為打破教育趨同化的先鋒隊(duì),帶領(lǐng)不同區(qū)域、不同類型、不同層次、不同形式的教育特色化、優(yōu)質(zhì)化發(fā)展。另外,需要彌補(bǔ)教育法律中人工智能教育相關(guān)內(nèi)容的規(guī)則監(jiān)控,明確人工智能教育應(yīng)用中設(shè)計(jì)者、使用者、推廣者等各方的法律責(zé)任、權(quán)利與義務(wù),在合法規(guī)則下最大限度地增強(qiáng)算法的實(shí)用度和開放性,彰顯發(fā)展活力,增加教育的開放性和多樣性。

    另一方面,嚴(yán)格糾錯(cuò)處罰,以制度執(zhí)行力激活人工智能教育的張力。除了法律綱領(lǐng)的強(qiáng)制把控,還需要提升教育算法的制度執(zhí)行力度,真正實(shí)現(xiàn)高監(jiān)管低風(fēng)險(xiǎn)的把控效果,嚴(yán)格懲治跨越道德甚至法律底線的過(guò)錯(cuò)行為。要細(xì)化對(duì)教育信息獲取、教育信息使用等的制度保障,對(duì)出現(xiàn)的個(gè)人教育信息商業(yè)化使用、個(gè)人生物信息販賣等問(wèn)題,要在制度執(zhí)行層面加強(qiáng)信息管控力度,嚴(yán)格、透明地處理 “信息犯罪” 案件。加強(qiáng)教育行業(yè)的市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn),由政府強(qiáng)制執(zhí)行責(zé)任糾紛、進(jìn)行過(guò)錯(cuò)處罰,最大限度地把控教育教學(xué)全過(guò)程中各方的責(zé)任邊界與嚴(yán)格處罰力度,在精準(zhǔn)追責(zé)與糾錯(cuò)補(bǔ)償?shù)碾p效施力下,讓算法在教育領(lǐng)域更加公正透明運(yùn)行,在開放中增強(qiáng)教育的發(fā)展動(dòng)力與活力。

    猜你喜歡
    道德人工智能算法
    頭上的星空與心中的道德律
    十幾歲(2021年24期)2021-11-18 02:18:40
    基于MapReduce的改進(jìn)Eclat算法
    跟蹤導(dǎo)練(五)(2)
    Travellng thg World Full—time for Rree
    道德是否必需?——《海狼》對(duì)道德虛無(wú)主義的思考
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    進(jìn)位加法的兩種算法
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    欧美日韩视频精品一区| 最后的刺客免费高清国语| 日韩免费高清中文字幕av| 亚洲四区av| 久久久久久久大尺度免费视频| 国产xxxxx性猛交| kizo精华| 国产男女超爽视频在线观看| 一级片免费观看大全| 欧美精品一区二区大全| 久久久国产一区二区| av国产久精品久网站免费入址| 成人二区视频| 免费看光身美女| 亚洲精品视频女| 国产精品人妻久久久影院| 9191精品国产免费久久| 伊人久久国产一区二区| 久久久久久久久久久免费av| 一区在线观看完整版| 男女国产视频网站| 99热全是精品| 宅男免费午夜| 只有这里有精品99| 综合色丁香网| 激情视频va一区二区三区| 在线观看免费视频网站a站| 亚洲第一区二区三区不卡| 人人妻人人澡人人看| 校园人妻丝袜中文字幕| 国产一级毛片在线| 性高湖久久久久久久久免费观看| 极品人妻少妇av视频| 久久精品久久精品一区二区三区| 久久久久久人人人人人| 日韩熟女老妇一区二区性免费视频| 黄片无遮挡物在线观看| 成人影院久久| 韩国高清视频一区二区三区| 高清视频免费观看一区二区| 日韩伦理黄色片| 青青草视频在线视频观看| 欧美xxxx性猛交bbbb| 久久婷婷青草| av在线观看视频网站免费| 国产片内射在线| 曰老女人黄片| av视频免费观看在线观看| 满18在线观看网站| 18在线观看网站| 久久99蜜桃精品久久| 一级,二级,三级黄色视频| 2022亚洲国产成人精品| 久久97久久精品| 99九九在线精品视频| 高清欧美精品videossex| 热99国产精品久久久久久7| 日韩一区二区三区影片| 国产精品一二三区在线看| 五月天丁香电影| 咕卡用的链子| 又黄又粗又硬又大视频| 国产日韩欧美视频二区| 成年av动漫网址| 欧美日韩亚洲高清精品| 免费观看av网站的网址| 亚洲精品自拍成人| 国产永久视频网站| 看免费成人av毛片| 91成人精品电影| www日本在线高清视频| 久久热在线av| 国产欧美日韩综合在线一区二区| 岛国毛片在线播放| 日韩一区二区三区影片| 在线观看美女被高潮喷水网站| freevideosex欧美| 欧美+日韩+精品| 久久狼人影院| 自线自在国产av| 美女内射精品一级片tv| 免费观看a级毛片全部| 亚洲性久久影院| 另类精品久久| 亚洲婷婷狠狠爱综合网| 免费不卡的大黄色大毛片视频在线观看| 国产免费一级a男人的天堂| 午夜免费男女啪啪视频观看| 欧美人与善性xxx| 少妇高潮的动态图| 黑丝袜美女国产一区| 一级毛片黄色毛片免费观看视频| 色网站视频免费| 黄片无遮挡物在线观看| 日韩不卡一区二区三区视频在线| av又黄又爽大尺度在线免费看| 91久久精品国产一区二区三区| 精品一区在线观看国产| 久久久精品94久久精品| 久久精品国产亚洲av天美| 免费在线观看完整版高清| 欧美精品高潮呻吟av久久| 国产av码专区亚洲av| 人人妻人人澡人人爽人人夜夜| 亚洲精品乱码久久久久久按摩| 亚洲av男天堂| 五月玫瑰六月丁香| 亚洲欧洲日产国产| 少妇猛男粗大的猛烈进出视频| 国产亚洲精品久久久com| 在线免费观看不下载黄p国产| 巨乳人妻的诱惑在线观看| 亚洲丝袜综合中文字幕| 九草在线视频观看| 午夜日本视频在线| 男女高潮啪啪啪动态图| 中文字幕精品免费在线观看视频 | 妹子高潮喷水视频| 亚洲国产成人一精品久久久| 少妇的逼水好多| 欧美日本中文国产一区发布| 午夜福利在线观看免费完整高清在| 男女啪啪激烈高潮av片| 亚洲成国产人片在线观看| 9191精品国产免费久久| 狂野欧美激情性bbbbbb| 熟妇人妻不卡中文字幕| 看免费成人av毛片| 亚洲av成人精品一二三区| 国精品久久久久久国模美| 成年av动漫网址| 久久国产精品大桥未久av| 国产一区二区在线观看av| 一级毛片我不卡| 国产日韩欧美亚洲二区| 免费观看av网站的网址| 国产成人精品婷婷| 国产精品99久久99久久久不卡 | 久久久久网色| 国产色婷婷99| 国产成人精品久久久久久| av福利片在线| 综合色丁香网| 亚洲综合精品二区| 男女高潮啪啪啪动态图| 黄片无遮挡物在线观看| 精品国产乱码久久久久久小说| 大码成人一级视频| 国产精品欧美亚洲77777| 啦啦啦中文免费视频观看日本| 成人无遮挡网站| a级毛色黄片| 一个人免费看片子| 宅男免费午夜| 日本免费在线观看一区| 91aial.com中文字幕在线观看| 亚洲精品乱久久久久久| av不卡在线播放| 国产淫语在线视频| 91国产中文字幕| 美女内射精品一级片tv| a级片在线免费高清观看视频| 欧美bdsm另类| 欧美国产精品va在线观看不卡| 人妻 亚洲 视频| 午夜日本视频在线| 亚洲精品av麻豆狂野| 亚洲av在线观看美女高潮| 亚洲第一区二区三区不卡| 搡老乐熟女国产| 国产欧美日韩一区二区三区在线| 纵有疾风起免费观看全集完整版| 中国国产av一级| 三上悠亚av全集在线观看| 99国产综合亚洲精品| 黑人猛操日本美女一级片| 欧美日韩亚洲高清精品| 男女啪啪激烈高潮av片| 亚洲高清免费不卡视频| 日韩电影二区| 国产一区二区在线观看日韩| 国产老妇伦熟女老妇高清| 亚洲人成网站在线观看播放| 精品国产乱码久久久久久小说| 国产高清国产精品国产三级| 999精品在线视频| 伦理电影大哥的女人| www.色视频.com| 热99国产精品久久久久久7| 九草在线视频观看| 亚洲天堂av无毛| 国产免费视频播放在线视频| 另类亚洲欧美激情| 成人国语在线视频| 亚洲精品456在线播放app| 99国产综合亚洲精品| 亚洲欧洲日产国产| 亚洲国产精品国产精品| 2022亚洲国产成人精品| 国产成人免费无遮挡视频| 午夜福利视频在线观看免费| 黄片无遮挡物在线观看| 国产片特级美女逼逼视频| 中国美白少妇内射xxxbb| 国产极品粉嫩免费观看在线| 少妇 在线观看| 国产在线免费精品| 国产精品欧美亚洲77777| 女人被躁到高潮嗷嗷叫费观| 成人毛片a级毛片在线播放| 久久久久久久精品精品| 男女无遮挡免费网站观看| 成人手机av| 9191精品国产免费久久| 亚洲成av片中文字幕在线观看 | 亚洲av福利一区| a级毛色黄片| 99国产综合亚洲精品| 搡老乐熟女国产| 亚洲少妇的诱惑av| 哪个播放器可以免费观看大片| 美国免费a级毛片| 美女中出高潮动态图| 日本色播在线视频| 在线 av 中文字幕| 亚洲经典国产精华液单| 美女xxoo啪啪120秒动态图| 久久精品国产鲁丝片午夜精品| 人成视频在线观看免费观看| 久久韩国三级中文字幕| 国产精品人妻久久久久久| 精品一区二区免费观看| 欧美亚洲日本最大视频资源| 人成视频在线观看免费观看| 最后的刺客免费高清国语| 国产av一区二区精品久久| 久久精品国产自在天天线| 99久国产av精品国产电影| 深夜精品福利| 一级毛片电影观看| 国产一区有黄有色的免费视频| 欧美精品一区二区免费开放| 久久久久精品性色| 全区人妻精品视频| 午夜福利视频精品| 色5月婷婷丁香| 爱豆传媒免费全集在线观看| 国产欧美日韩一区二区三区在线| 亚洲精品,欧美精品| 国产精品久久久久成人av| 中国美白少妇内射xxxbb| 一本色道久久久久久精品综合| 国产无遮挡羞羞视频在线观看| 99视频精品全部免费 在线| av一本久久久久| 欧美成人午夜免费资源| 亚洲熟女精品中文字幕| 少妇熟女欧美另类| 亚洲av欧美aⅴ国产| 大片免费播放器 马上看| 少妇的逼水好多| 99久久中文字幕三级久久日本| 麻豆乱淫一区二区| 成人毛片60女人毛片免费| 国产1区2区3区精品| 热99久久久久精品小说推荐| 精品久久蜜臀av无| 内地一区二区视频在线| 中文欧美无线码| 国内精品宾馆在线| 亚洲av电影在线进入| 亚洲情色 制服丝袜| 欧美97在线视频| 日韩伦理黄色片| 九色亚洲精品在线播放| 肉色欧美久久久久久久蜜桃| 美女福利国产在线| 在线精品无人区一区二区三| 激情五月婷婷亚洲| 成人综合一区亚洲| 一级毛片 在线播放| 另类精品久久| 久久久久久久久久久免费av| 最近最新中文字幕大全免费视频 | 9色porny在线观看| 国国产精品蜜臀av免费| 999精品在线视频| 欧美日韩综合久久久久久| www.色视频.com| 黄色视频在线播放观看不卡| 国产欧美亚洲国产| 女人精品久久久久毛片| 国产成人aa在线观看| 十八禁网站网址无遮挡| 精品久久久久久电影网| 久久久久精品性色| 亚洲久久久国产精品| 中国三级夫妇交换| 免费黄色在线免费观看| 日韩,欧美,国产一区二区三区| 成人国产麻豆网| 美国免费a级毛片| 两个人免费观看高清视频| 超色免费av| 视频中文字幕在线观看| 亚洲精品中文字幕在线视频| www.av在线官网国产| 日日撸夜夜添| 国产精品99久久99久久久不卡 | 大片电影免费在线观看免费| 99热6这里只有精品| 在线天堂中文资源库| 亚洲一级一片aⅴ在线观看| 在线免费观看不下载黄p国产| 看十八女毛片水多多多| 国产精品三级大全| 天堂俺去俺来也www色官网| 亚洲经典国产精华液单| 国产精品三级大全| 国产成人欧美| 99视频精品全部免费 在线| 日本猛色少妇xxxxx猛交久久| 在线 av 中文字幕| 久久久久精品人妻al黑| 亚洲一级一片aⅴ在线观看| 人妻系列 视频| 伦理电影大哥的女人| 五月玫瑰六月丁香| 激情视频va一区二区三区| 捣出白浆h1v1| 一级毛片 在线播放| 国产黄色视频一区二区在线观看| 成人免费观看视频高清| 最黄视频免费看| 18禁在线无遮挡免费观看视频| 亚洲三级黄色毛片| 亚洲熟女精品中文字幕| www日本在线高清视频| 国产午夜精品一二区理论片| 亚洲人成77777在线视频| 男女国产视频网站| 亚洲精品国产av蜜桃| 久久久亚洲精品成人影院| 午夜91福利影院| 久久久欧美国产精品| 成人国产麻豆网| 秋霞在线观看毛片| 亚洲成色77777| 中文精品一卡2卡3卡4更新| 欧美成人午夜精品| 色网站视频免费| 久久人人爽av亚洲精品天堂| 国产日韩欧美在线精品| 欧美bdsm另类| 国产 精品1| 插逼视频在线观看| 久久久久人妻精品一区果冻| 久久久a久久爽久久v久久| 男的添女的下面高潮视频| 精品一区在线观看国产| 婷婷色av中文字幕| 岛国毛片在线播放| 亚洲综合色网址| 内地一区二区视频在线| 欧美精品一区二区大全| 在线观看免费高清a一片| 人妻 亚洲 视频| 亚洲av.av天堂| 国产亚洲一区二区精品| 国产av精品麻豆| 国国产精品蜜臀av免费| 亚洲少妇的诱惑av| 国产黄频视频在线观看| 精品国产国语对白av| 免费人成在线观看视频色| 精品一区二区免费观看| 亚洲成人一二三区av| 久久99一区二区三区| 欧美日韩国产mv在线观看视频| 久久精品熟女亚洲av麻豆精品| 久久这里只有精品19| 中文乱码字字幕精品一区二区三区| av有码第一页| 一级毛片电影观看| 国产高清三级在线| 亚洲精品乱码久久久久久按摩| 高清欧美精品videossex| 成人午夜精彩视频在线观看| 久久久久久伊人网av| 国产精品国产三级国产专区5o| 人体艺术视频欧美日本| 国产综合精华液| 国产一区有黄有色的免费视频| 69精品国产乱码久久久| 人人妻人人添人人爽欧美一区卜| 免费黄频网站在线观看国产| 婷婷色麻豆天堂久久| 好男人视频免费观看在线| 赤兔流量卡办理| 欧美bdsm另类| 侵犯人妻中文字幕一二三四区| 国产白丝娇喘喷水9色精品| 一边亲一边摸免费视频| 欧美 日韩 精品 国产| 亚洲第一区二区三区不卡| 亚洲 欧美一区二区三区| 午夜福利乱码中文字幕| 国产熟女午夜一区二区三区| 亚洲国产精品成人久久小说| 亚洲经典国产精华液单| av一本久久久久| 国产亚洲av片在线观看秒播厂| 久久99蜜桃精品久久| 热99国产精品久久久久久7| 久久久久久久久久人人人人人人| 看免费av毛片| 国产精品国产av在线观看| av免费在线看不卡| 久久99热6这里只有精品| 大话2 男鬼变身卡| 一级毛片我不卡| 日韩,欧美,国产一区二区三区| 欧美精品av麻豆av| 免费人成在线观看视频色| 女人精品久久久久毛片| 久久久久久人妻| 亚洲美女黄色视频免费看| 97人妻天天添夜夜摸| 在线天堂最新版资源| 青青草视频在线视频观看| 精品人妻一区二区三区麻豆| 啦啦啦在线观看免费高清www| 午夜免费观看性视频| 制服人妻中文乱码| 岛国毛片在线播放| 午夜福利影视在线免费观看| 欧美精品一区二区大全| 欧美成人午夜精品| 国产极品粉嫩免费观看在线| 国产高清三级在线| 国产片内射在线| 亚洲,欧美,日韩| 国产免费视频播放在线视频| 午夜福利在线观看免费完整高清在| 欧美日韩av久久| av在线观看视频网站免费| 香蕉精品网在线| 国产极品粉嫩免费观看在线| 久久久国产欧美日韩av| 免费av中文字幕在线| 欧美老熟妇乱子伦牲交| 少妇猛男粗大的猛烈进出视频| 99视频精品全部免费 在线| 中文乱码字字幕精品一区二区三区| 日韩av在线免费看完整版不卡| 欧美3d第一页| 视频区图区小说| 国产一区有黄有色的免费视频| 男女边吃奶边做爰视频| 不卡视频在线观看欧美| 日韩免费高清中文字幕av| 人成视频在线观看免费观看| 性色av一级| 少妇被粗大猛烈的视频| 亚洲国产毛片av蜜桃av| 免费av中文字幕在线| 亚洲在久久综合| 国产精品久久久久久av不卡| 男女下面插进去视频免费观看 | 一级片免费观看大全| 日韩一区二区三区影片| 亚洲av成人精品一二三区| 在线观看一区二区三区激情| 成人18禁高潮啪啪吃奶动态图| 高清av免费在线| 99久久中文字幕三级久久日本| 国产色爽女视频免费观看| 日本猛色少妇xxxxx猛交久久| a级片在线免费高清观看视频| 久久97久久精品| 在线天堂最新版资源| 黄色视频在线播放观看不卡| 国产精品一国产av| 乱码一卡2卡4卡精品| 亚洲欧洲日产国产| 捣出白浆h1v1| 又黄又粗又硬又大视频| 日韩人妻精品一区2区三区| 少妇人妻精品综合一区二区| 制服诱惑二区| 国产亚洲av片在线观看秒播厂| 欧美国产精品一级二级三级| 99re6热这里在线精品视频| 精品少妇内射三级| 亚洲一码二码三码区别大吗| 999精品在线视频| 成人国产av品久久久| 男男h啪啪无遮挡| 肉色欧美久久久久久久蜜桃| 国产精品国产三级国产专区5o| 人人妻人人澡人人看| 精品国产一区二区三区四区第35| 在线观看美女被高潮喷水网站| 黑丝袜美女国产一区| 亚洲精品乱久久久久久| 亚洲,欧美精品.| av国产久精品久网站免费入址| 寂寞人妻少妇视频99o| 久久99热6这里只有精品| www.色视频.com| 午夜视频国产福利| 中文字幕av电影在线播放| 男女免费视频国产| 美女视频免费永久观看网站| 国产一区亚洲一区在线观看| 亚洲,欧美,日韩| 亚洲欧美清纯卡通| 亚洲精品日韩在线中文字幕| 亚洲国产成人一精品久久久| 高清av免费在线| 亚洲国产日韩一区二区| 国产老妇伦熟女老妇高清| 午夜av观看不卡| 国产精品久久久av美女十八| 人人妻人人添人人爽欧美一区卜| 免费观看av网站的网址| 亚洲精品中文字幕在线视频| 精品午夜福利在线看| 亚洲久久久国产精品| 我要看黄色一级片免费的| 久久99蜜桃精品久久| 免费黄频网站在线观看国产| 人人澡人人妻人| 狠狠婷婷综合久久久久久88av| 青春草国产在线视频| 精品一区二区三区四区五区乱码 | av福利片在线| 青春草视频在线免费观看| av国产精品久久久久影院| 久久99一区二区三区| 欧美成人精品欧美一级黄| 午夜激情久久久久久久| 不卡视频在线观看欧美| 精品一区二区三区视频在线| 免费在线观看黄色视频的| 精品一品国产午夜福利视频| 少妇猛男粗大的猛烈进出视频| 中文天堂在线官网| 中文字幕制服av| 啦啦啦在线观看免费高清www| 国产一区二区三区综合在线观看 | 国产精品偷伦视频观看了| 在线观看人妻少妇| 搡老乐熟女国产| 久久国产精品大桥未久av| 麻豆乱淫一区二区| 国产精品国产三级国产av玫瑰| 伦精品一区二区三区| 免费日韩欧美在线观看| 久久精品国产自在天天线| h视频一区二区三区| 国产精品久久久久久av不卡| 这个男人来自地球电影免费观看 | 国产精品蜜桃在线观看| 亚洲av福利一区| 精品人妻熟女毛片av久久网站| 大香蕉97超碰在线| 中文字幕人妻熟女乱码| 美女中出高潮动态图| 久久97久久精品| 日韩人妻精品一区2区三区| 亚洲av在线观看美女高潮| 亚洲国产精品一区三区| 亚洲欧美精品自产自拍| 久久久久久久国产电影| 伦理电影免费视频| 色网站视频免费| 另类精品久久| 各种免费的搞黄视频| 两个人免费观看高清视频| 亚洲av电影在线观看一区二区三区| 伦精品一区二区三区| 美女福利国产在线| av.在线天堂| 日本欧美国产在线视频| 日韩人妻精品一区2区三区| 丰满饥渴人妻一区二区三| 五月伊人婷婷丁香| 国产欧美日韩一区二区三区在线| 国产成人91sexporn| 亚洲三级黄色毛片| 久久影院123| 高清视频免费观看一区二区| 在线观看免费高清a一片| 一级毛片黄色毛片免费观看视频| 久久久久精品性色| av播播在线观看一区| 亚洲美女搞黄在线观看| 亚洲av福利一区| 亚洲欧美成人精品一区二区| 亚洲,一卡二卡三卡| 日本免费在线观看一区| 亚洲人与动物交配视频| 观看av在线不卡| 久久久a久久爽久久v久久| 激情五月婷婷亚洲| 精品少妇黑人巨大在线播放| 99九九在线精品视频| 午夜福利在线观看免费完整高清在| 免费黄色在线免费观看| 欧美bdsm另类| 日本欧美视频一区| 成人漫画全彩无遮挡| 成年美女黄网站色视频大全免费| 男人舔女人的私密视频|