• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能賦能高等教育治理:國(guó)際經(jīng)驗(yàn)與中國(guó)選擇

    2024-12-05 00:00:00楊寧霞唐愛民
    電化教育研究 2024年11期

    [摘 要] 人工智能已成為高等教育治理的關(guān)鍵技術(shù)工具,然而,在人工智能賦能高等教育治理的實(shí)踐中仍面臨政策制度和資源配置滯后、戰(zhàn)略規(guī)劃與文化建設(shè)欠缺、人際關(guān)系和技術(shù)工具被異化等現(xiàn)實(shí)挑戰(zhàn)。為此,研究采用比較研究方法,關(guān)注并總結(jié)了近年來世界各國(guó)的治理實(shí)踐:政府高度重視人工智能背景下的高等教育外部治理以“御外”;大學(xué)積極推進(jìn)人工智能加持下的高等教育內(nèi)部治理以“安內(nèi)”;各方協(xié)同力行人工智能教育應(yīng)用的倫理治理以“規(guī)制”?;诖?,中國(guó)應(yīng)借鑒國(guó)際經(jīng)驗(yàn)作出人工智能賦能高等教育治理的中國(guó)選擇:導(dǎo)控智能技術(shù),構(gòu)建契合時(shí)代語境的外部治理體系;拓展新質(zhì)勢(shì)能,激發(fā)高等教育內(nèi)部治理動(dòng)力;注重國(guó)內(nèi)外合作,強(qiáng)化人工智能的倫理治理規(guī)范,進(jìn)而形成中國(guó)特色的高等教育治理現(xiàn)代化方案。

    [關(guān)鍵詞] 人工智能; 高等教育治理; 外部治理; 內(nèi)部治理; 倫理治理

    [中圖分類號(hào)] G434 [文獻(xiàn)標(biāo)志碼] A

    [作者簡(jiǎn)介] 楊寧霞(1983—),女,山東濱州人。副教授,博士研究生,主要從事教育管理與比較教育研究。E-mail:sdbzynx@163.com。

    一、引 言

    “治理”是高等教育的運(yùn)行核心,通過確立秩序?qū)崿F(xiàn)人才培養(yǎng)、科學(xué)研究和社會(huì)服務(wù)的目標(biāo),向內(nèi)關(guān)注大學(xué)價(jià)值、決策和資源配置,向外關(guān)注大學(xué)與政府、產(chǎn)業(yè)及社區(qū)的關(guān)系[1]。自黨的十八屆三中全會(huì)提出“國(guó)家治理體系與治理能力現(xiàn)代化”重要概念以來,有關(guān)高等教育治理的研究得到蓬勃發(fā)展。數(shù)字化時(shí)代,人工智能為高等教育治理提供了更多工具和資源,拓寬了治理效能的提升空間,增益了高等教育的變革維度。學(xué)界也對(duì)嵌入人工智能的高等教育及其治理展開“百家爭(zhēng)鳴”式的討論:南旭光等闡釋了社會(huì)智能化對(duì)高等教育治理形態(tài)的影響[2];張海生指出,需以“技術(shù)—制度”平衡促進(jìn)人工智能賦能大學(xué)治理[3]。然而,國(guó)內(nèi)學(xué)界對(duì)人工智能賦能高等教育治理的國(guó)際案例關(guān)注不足,且現(xiàn)有研究多集中于教育的宏大敘事,國(guó)際視野下的相關(guān)研究和審思困乏?;诖?,本研究以高等教育治理為對(duì)象,聚焦人工智能賦能高等教育治理問題,指出人工智能賦能高等教育治理面臨的現(xiàn)實(shí)挑戰(zhàn),分析發(fā)達(dá)國(guó)家的實(shí)踐案例,總結(jié)國(guó)際經(jīng)驗(yàn),并嘗試提出適合我國(guó)當(dāng)下實(shí)踐圖景的高等教育治理路徑。

    二、人工智能的發(fā)展流脈及其與高等教育

    治理的交匯

    “人工智能”的提出可追溯至1956年的美國(guó)達(dá)特茅斯會(huì)議,會(huì)上麥卡錫首次引入“人工智能(Artificial Intelligence,AI)”這個(gè)詞匯,人類即進(jìn)入人工智能元年[4]。近幾年,人工智能已逐步嵌入教育、經(jīng)濟(jì)、管理等諸多領(lǐng)域中,并加快了不同領(lǐng)域的現(xiàn)代化進(jìn)程。本研究從廣義上界定人工智能,認(rèn)為它是一種專注于研究和開發(fā)用于模擬、拓展和延伸人類智能的不同方法、理論和應(yīng)用系統(tǒng)的新型科學(xué)技術(shù)[5]。要探討人工智能與高等教育治理之間的關(guān)系,就要從人工智能技術(shù)的發(fā)展軌跡中找尋問題的本因。

    (一)人工智能的形成:“強(qiáng)化人類智能”抑或“強(qiáng)人工智能”

    基于歷時(shí)態(tài)的考察,一個(gè)國(guó)家的技術(shù)水平能夠?qū)ζ渲卫硭狡饹Q定性作用,并提升其對(duì)科學(xué)與技術(shù)的深入理解和實(shí)際應(yīng)用。自20世紀(jì)60年代,學(xué)術(shù)界開始對(duì)人工智能的未來趨勢(shì)進(jìn)行預(yù)測(cè)和深入探討,關(guān)于對(duì)人工智能持樂觀還是悲觀態(tài)度的爭(zhēng)論甚囂塵上。樂觀派代表馬文·明斯基認(rèn)為,人類大腦中的所有行為,無論是邏輯、整合、評(píng)判、決策、情感還是觀點(diǎn),都可以被提煉、總結(jié)并概括為各種符號(hào)、象征、編碼和數(shù)據(jù)[6]。悲觀主義者則強(qiáng)調(diào),人類心靈的形式化、組合化和表現(xiàn)化面臨著重重挑戰(zhàn)。雖然智能機(jī)器的多個(gè)組件能夠獨(dú)立地進(jìn)行模擬和構(gòu)建,但它們無法通過深度、系統(tǒng)和非機(jī)械性的手段來滿足更高級(jí)別的特性需求[7]。到了20世紀(jì)70年代,強(qiáng)化人類智能(Intelligence Augmentation,IA)與強(qiáng)人工智能(Strong Artificial Intelligence,SAI)之間出現(xiàn)分歧。強(qiáng)化人類智能的擁護(hù)者們堅(jiān)信,人工智能的未來將以機(jī)器為輔助,實(shí)現(xiàn)人與機(jī)器的交互,支持并推動(dòng)人類的工作;而強(qiáng)人工智能的擁護(hù)者們則預(yù)期人工智能有潛力超越甚至取代人類。隨著人工智能技術(shù)的不斷進(jìn)步和完善,兩個(gè)派別的主要爭(zhēng)論點(diǎn)是:它們的最終追求是為人類提供服務(wù)并為人類作出貢獻(xiàn),還是追求科技的持續(xù)進(jìn)步和機(jī)器的持續(xù)增強(qiáng)[8]。進(jìn)入21世紀(jì),強(qiáng)人工智能的風(fēng)險(xiǎn)逐漸成為社會(huì)廣泛討論的話題。斯蒂芬·霍金認(rèn)為:“制造出一臺(tái)人工智能機(jī)器人無疑將成為人類歷史的一個(gè)重要標(biāo)志,但遺憾的是,這可能標(biāo)志著人類歷史的終結(jié)。”[9]由此可見,人工智能技術(shù)的發(fā)展勢(shì)如破竹,但其應(yīng)用進(jìn)程并不順利。

    (二)人工智能的運(yùn)行:從國(guó)家治理到社會(huì)治理

    毋庸諱言,每個(gè)國(guó)家在其發(fā)展歷程中都會(huì)經(jīng)歷一個(gè)“治理化”的時(shí)期,這最終導(dǎo)致“治理術(shù)”的形成。“治理術(shù)”尤為強(qiáng)調(diào)國(guó)家在行使權(quán)力時(shí),不只是簡(jiǎn)單地采取暴力手段,而應(yīng)結(jié)合技術(shù)、權(quán)力和知識(shí)來對(duì)社會(huì)展開行之有效的導(dǎo)控和形塑[10]。對(duì)此,福柯指出,現(xiàn)代社會(huì)已然實(shí)現(xiàn)了從“規(guī)訓(xùn)”到“導(dǎo)控”的社會(huì)轉(zhuǎn)軌,并透過技術(shù)、知識(shí)等手段對(duì)人展開全方位的操控[11]。

    人工智能技術(shù)的普及和運(yùn)作持續(xù)促進(jìn)國(guó)家、社會(huì)以及技術(shù)之間的緊密聯(lián)系,并由此延展出不同層面的探究。一方面,人工智能對(duì)國(guó)家治理社會(huì)的輔助作用。人工智能與政府之間的關(guān)系伴隨時(shí)間的推移而日益緊密,人工智能的算法功能對(duì)國(guó)家數(shù)字化治理的助推也到達(dá)了一個(gè)新的階段,使政府的精準(zhǔn)化治理能力得到提升,促進(jìn)了國(guó)家治理與社會(huì)治理的有機(jī)協(xié)同[12]。另一方面,人工智能技術(shù)在提升社會(huì)治理水平的同時(shí)會(huì)引發(fā)其他社會(huì)風(fēng)險(xiǎn)。有學(xué)者指出,人工智能技術(shù)的進(jìn)步和加強(qiáng)將對(duì)個(gè)體和集體的行為模式產(chǎn)生影響,可能導(dǎo)致替代治理主體的危機(jī)、治理行為的價(jià)值觀缺失以及治理責(zé)任的不明確性等問題[13]。

    (三)人工智能的融滲:從教育治理到高等教育治理

    人工智能在帶有特定政治特質(zhì)的“場(chǎng)域”中起關(guān)鍵作用,它從宏觀“教育治理”逐漸滲透到中觀“高等教育治理”中,對(duì)教育領(lǐng)域的各種治理行為產(chǎn)生了深遠(yuǎn)的影響。人工智能要在教育領(lǐng)域取得成功,它不僅需要與現(xiàn)代國(guó)家的治理結(jié)構(gòu)相適應(yīng)和整合,還必須在社會(huì)系統(tǒng)中得到應(yīng)用,并深入到人們學(xué)習(xí)與工作的交互行為中。“高等教育治理”作為國(guó)家、社會(huì)和高校之間互動(dòng)關(guān)系的衍生物,是學(xué)界常說常新的主題。就高等教育治理而言,人工智能的出現(xiàn)能夠不斷提升其數(shù)字化、精準(zhǔn)化和智慧化程度[14],對(duì)于高等教育治理場(chǎng)域的行動(dòng)者具有內(nèi)在的動(dòng)力價(jià)值。不僅如此,人工智能為高等教育治理的決策、執(zhí)行和反饋提供精準(zhǔn)、動(dòng)態(tài)、可視化的大數(shù)據(jù)信息,讓高等教育治理更加高效,治理體系更為完善[15]。盡管人工智能的正面效應(yīng)已逐漸在教育領(lǐng)域中擴(kuò)散開來,但實(shí)際上兩者尚未實(shí)現(xiàn)充分融合。當(dāng)前,理論層面頂層設(shè)計(jì)不足,實(shí)踐層面應(yīng)用指南和監(jiān)管工具缺乏,影響人工智能與教育治理的深度融合[16]。

    顯然,目前學(xué)界的研究往往更偏向于從宏觀的視角去研究人工智能,但將人工智能與高等教育治理實(shí)踐相結(jié)合的研究較少。本研究將從人工智能的應(yīng)用出發(fā),以高等教育治理新的話語結(jié)構(gòu)為載體,探討人工智能賦能高等教育治理的現(xiàn)實(shí)挑戰(zhàn),以及國(guó)際經(jīng)驗(yàn)對(duì)中國(guó)運(yùn)用人工智能賦能高等教育治理的現(xiàn)實(shí)啟示。

    三、人工智能賦能高等教育治理的現(xiàn)實(shí)挑戰(zhàn)

    雖然人工智能在技術(shù)層面是價(jià)值中立的,但考慮到高等教育治理實(shí)踐的復(fù)雜性以及技術(shù)自身的多樣性,在實(shí)際應(yīng)用時(shí),需明確當(dāng)前高等教育治理體系與人工智能技術(shù)之間的張力,明晰人工智能應(yīng)用于高等教育治理的現(xiàn)實(shí)挑戰(zhàn)。

    (一)政策制度和資源配置的滯后:人工智能賦能高等教育治理的外部風(fēng)險(xiǎn)

    技術(shù)的快節(jié)奏更新與政策的慢節(jié)奏完善給高等教育外部治理帶來挑戰(zhàn)。

    1. 政策生成位序滯后

    人工智能領(lǐng)域新的算法、模型和應(yīng)用不斷涌現(xiàn),技術(shù)更新的速度非???,從“阿爾法狗”打敗人類棋手,到ChatGPT和Sora在教育領(lǐng)域廣泛應(yīng)用,只用了不到十年的時(shí)間。不斷涌現(xiàn)的新技術(shù)給高等教育治理提供新的應(yīng)用程序、創(chuàng)設(shè)新的應(yīng)用場(chǎng)景、提供更多范式可能。然而,好政策的生成卻存在天然的位序滯后,政策制定及完善需經(jīng)過較長(zhǎng)的周期。我國(guó)非常重視人工智能相關(guān)政策的制定,近年來出臺(tái)了《高等學(xué)校人工智能創(chuàng)新行動(dòng)計(jì)劃》《生成式人工智能服務(wù)管理暫行辦法》等新政,但制度的設(shè)計(jì)、機(jī)制的構(gòu)建、監(jiān)管體系的完善難以與人工智能技術(shù)的快速迭代步調(diào)一致,致使高等教育的治理效果在技術(shù)浪潮的涌動(dòng)中顯得差強(qiáng)人意。

    2. 資源調(diào)配掣制難為

    在資源調(diào)配方面,我國(guó)早在2017年就發(fā)布《新一代人工智能發(fā)展規(guī)劃》,提出建立財(cái)政引導(dǎo)、市場(chǎng)主導(dǎo)的資金支持機(jī)制,優(yōu)化布局建設(shè)人工智能創(chuàng)新基地,統(tǒng)籌國(guó)際國(guó)內(nèi)創(chuàng)新資源等措施[17]。然而,公共資金投入數(shù)額尚不及歐美發(fā)達(dá)國(guó)家。數(shù)據(jù)、算力、專業(yè)知識(shí)等資源的協(xié)同和調(diào)配尚不充足,并且與發(fā)達(dá)國(guó)家相比,我國(guó)在頂尖人工智能人才儲(chǔ)備和培養(yǎng)上仍有明顯差距。

    (二)戰(zhàn)略規(guī)劃和文化建設(shè)的欠缺:人工智能賦能高等教育治理的內(nèi)部隱憂

    高等教育已步入智能時(shí)代,然而大學(xué)在戰(zhàn)略規(guī)劃與文化建設(shè)方面的步伐卻未能與人工智能技術(shù)的發(fā)展同步。

    1. 大學(xué)規(guī)劃對(duì)人工智能技術(shù)的關(guān)照不足

    在戰(zhàn)略規(guī)劃21567743a8bae1f040a4e3ce62857414層面,部分大學(xué)對(duì)于人工智能技術(shù)的未來走向及其深遠(yuǎn)影響認(rèn)識(shí)不足,導(dǎo)致其在規(guī)劃布局時(shí)對(duì)技術(shù)工具的籌劃不夠周密,缺乏前瞻性與適應(yīng)性。尤其是在人力、財(cái)力和技術(shù)等資源相對(duì)缺乏的地方高校,其戰(zhàn)略規(guī)劃在人工智能技術(shù)方面的考量往往瞻前顧后、止步不前,多局限于碎片化的探索。在實(shí)踐層面,大學(xué)戰(zhàn)略規(guī)劃對(duì)人工智能技術(shù)在教學(xué)、科研和管理方面應(yīng)用的指導(dǎo)力度不大。另外,面對(duì)需參與大學(xué)內(nèi)部治理的技術(shù)企業(yè)、行業(yè)專家等新興主體,決策者未能做到充分的信任,使得大學(xué)內(nèi)部治理缺乏多元主體的參與和反饋。

    2. 文化建設(shè)滯后于社會(huì)的智能化演進(jìn)

    眾所周知,完善的基礎(chǔ)設(shè)施、堅(jiān)實(shí)的數(shù)據(jù)底座、先進(jìn)的技術(shù)手段是數(shù)智物質(zhì)文化基礎(chǔ)?,F(xiàn)實(shí)情況卻是,許多大學(xué)因資源的局限而難以配備高速的網(wǎng)絡(luò)基礎(chǔ)設(shè)施、先進(jìn)的數(shù)據(jù)處理工具及自適應(yīng)的學(xué)習(xí)系統(tǒng)等,其物質(zhì)文化基石并不穩(wěn)固。另外,大學(xué)開放包容的數(shù)智文化氛圍尚未形成,大學(xué)內(nèi)部的知識(shí)壁壘、信息孤島和溝通裂谷等問題阻礙信息共享和跨學(xué)科合作,影響數(shù)智文化的深層次構(gòu)建。此外,有的大學(xué)在數(shù)據(jù)倫理、隱私保護(hù)和信息安全等方面缺乏明確的價(jià)值指導(dǎo),使人工智能技術(shù)的應(yīng)用存在操作不當(dāng)和數(shù)據(jù)濫用的風(fēng)險(xiǎn),這不僅有損數(shù)智文化的健康發(fā)展,也對(duì)大學(xué)的社會(huì)責(zé)任和道德形象形成挑戰(zhàn)。

    (三)人際關(guān)系與技術(shù)工具被異化:人工智能賦能高等教育治理的倫理風(fēng)險(xiǎn)

    人工智能迅猛發(fā)展,其在高等教育治理中的“越界”之勢(shì)漸顯,引發(fā)一系列倫理風(fēng)險(xiǎn)。

    1. 數(shù)據(jù)依賴與人際疏離:高等教育治理的人文挑戰(zhàn)

    一方面,當(dāng)治理模式過度倚重算法與數(shù)據(jù)時(shí),人與其本質(zhì)可能被迫疏離。個(gè)體不再被視作具有獨(dú)特生命價(jià)值的存在,而化為數(shù)據(jù)治理的對(duì)象,甚至淪為數(shù)據(jù)的堆砌。在此過程中,個(gè)人隱私被泄露、權(quán)利被忽略甚至被當(dāng)作資源進(jìn)入市場(chǎng)流通變得司空見慣。此外,人類對(duì)技術(shù)的過度依賴可能引發(fā)技術(shù)反噬,導(dǎo)致人的勝任力下降,進(jìn)而削弱高等教育的基層治理能力。另一方面,人際關(guān)系紐帶亦面臨削弱之虞。人工智能技術(shù)普及易使人際交往被智能程序取代。人與人之間基于事件和話語的互動(dòng)減少,基于情感和道德的聯(lián)結(jié)變得脆弱。師生、同事、部門之間的社會(huì)性紐帶在技術(shù)的沖擊下面臨解體。

    2. 技術(shù)偏見與黑箱決策:高等教育公平的新興威脅

    人工智能在高等教育治理中的融入,亟須關(guān)注算法偏見及其對(duì)教育公平的潛在侵蝕。數(shù)據(jù)集與算法設(shè)計(jì)的固有偏見若未經(jīng)審慎考量,將不可避免地滲透到治理實(shí)踐中,或?qū)⑴で逃?。另外,技術(shù)加持下的治理“黑箱”會(huì)進(jìn)一步削弱教育決策的透明度與民主性。算法決策的不透明性為權(quán)力與技術(shù)的掌控者提供了躲避監(jiān)督的暗角,剝蝕傳統(tǒng)的民主決策機(jī)制。再則,技術(shù)鴻溝問題亦對(duì)高等教育的均衡發(fā)展構(gòu)成挑戰(zhàn)。資源匱乏的大學(xué)面臨技術(shù)落后的困境,難以與技術(shù)先進(jìn)的同儕競(jìng)爭(zhēng),這將加劇教育不公,催生教育“內(nèi)卷”。

    四、人工智能賦能高等教育治理的國(guó)際經(jīng)驗(yàn)

    人工智能帶來的挑戰(zhàn)不容忽視,但簡(jiǎn)單的拿來主義可能導(dǎo)致顧此失彼,當(dāng)務(wù)之急應(yīng)該是審思人工智能在高等教育治理中的適用情況,研究如何借鑒有益經(jīng)驗(yàn)指引我國(guó)實(shí)踐。

    (一)“御外”:政府高度重視人工智能背景下的高等教育外部治理

    科技是第一生產(chǎn)力,高等教育作為人工智能的研發(fā)陣地之一,是先進(jìn)生產(chǎn)力的重要載體。因而,意圖搶占未來發(fā)展先機(jī)的各國(guó)政府越來越重視對(duì)高等教育的外部治理。

    1. 研究與政策良性互動(dòng)

    有的國(guó)家或地區(qū)以人工智能的發(fā)展和應(yīng)用為旨?xì)w,政策出臺(tái)前強(qiáng)化調(diào)研和報(bào)告的指導(dǎo),并增強(qiáng)其與政策的連貫性互動(dòng),為政策的制定提供依據(jù),有效規(guī)避政策在初始定位上可能存在的滯后。

    例如,2016年,美國(guó)白宮密集發(fā)布《為人工智能的未來做好準(zhǔn)備》《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃》《人工智能、自動(dòng)化與經(jīng)濟(jì)》三份報(bào)告,在此基礎(chǔ)上發(fā)布《美國(guó)人工智能倡議》《人工智能教育戰(zhàn)略》等政策,促進(jìn)人工智能賦能高等教育治理。此外,有關(guān)機(jī)構(gòu)就人工智能問題發(fā)布政策評(píng)估報(bào)告,并對(duì)未來發(fā)展提出適切性建議。2023年5月,美國(guó)教育部教育技術(shù)辦公室發(fā)布《人工智能與教學(xué)的未來》報(bào)告,支持包括高等教育在內(nèi)的整個(gè)教育系統(tǒng)創(chuàng)新,促進(jìn)人工智能在教育中的深度發(fā)展[18]。2020年2月,歐盟委員會(huì)發(fā)布《人工智能白皮書》,提倡建立“可信賴人工智能框架”[19]。文件為歐盟在人工智能領(lǐng)域的政策制定提供了依據(jù)。其對(duì)人工智能技術(shù)的風(fēng)險(xiǎn)分級(jí)管理倡議,在2023年12月的《人工智能法》中得到落實(shí)。近年,英國(guó)則更關(guān)注生成式人工智能在教育中的應(yīng)用。2023年11月發(fā)布的《生成式人工智能在教育中的應(yīng)用》報(bào)告,強(qiáng)調(diào)生成式人工智能的教育潛力[20]。2024年1月,數(shù)字戰(zhàn)略司和政府開放創(chuàng)新團(tuán)隊(duì)在《教育中的生成式人工智能》中進(jìn)一步分析其機(jī)遇與風(fēng)險(xiǎn)[21]。2024年2月,英國(guó)高等教育質(zhì)量保障署發(fā)布《質(zhì)量指南針》,針對(duì)生成式人工智能的具體影響,提出課程與評(píng)估機(jī)制的改進(jìn)建議[22]。

    2. 資源投入體現(xiàn)教育優(yōu)先

    多國(guó)政府以保障本國(guó)人工智能技術(shù)的先進(jìn)性為目的,對(duì)資源投入進(jìn)行整體規(guī)劃,加大高等教育領(lǐng)域的投資力度。例如:2021年7月,美國(guó)國(guó)家科學(xué)基金會(huì)宣布向人工智能領(lǐng)域投資2.2億美元,其中投入到高等教育機(jī)構(gòu)的份額占有不小比重[23];2018年11月,法國(guó)高等教育、研究與創(chuàng)新部計(jì)劃從2018年到2022年投入20億歐元資金,圍繞構(gòu)建跨學(xué)科人工智能網(wǎng)絡(luò)、建設(shè)世界一流的人工智能研發(fā)中心、加強(qiáng)教育和人才培養(yǎng)等方面進(jìn)行系統(tǒng)部署[24];2023年8月,德國(guó)聯(lián)邦教育部推出《人工智能行動(dòng)計(jì)劃》,預(yù)計(jì)超過16億歐元的公共資金將用于人工智能研究,教育系統(tǒng)人工智能的實(shí)證研究、教育系統(tǒng)人工智能技術(shù)的設(shè)計(jì)被定為重點(diǎn)投資項(xiàng)目[25]。

    (二)“安內(nèi)”:大學(xué)積極推進(jìn)人工智能加持下的高等教育內(nèi)部治理

    在國(guó)外,人工智能已經(jīng)在高等教育的內(nèi)部治理中廣泛應(yīng)用,并形成了各具特色的治理案例。

    1. 大學(xué)規(guī)劃積極應(yīng)用人工智能技術(shù)

    2024年2月,美國(guó)高等教育信息化協(xié)會(huì)的一項(xiàng)研究顯示,絕大多數(shù)美國(guó)院校正在研究與人工智能相關(guān)的戰(zhàn)略。73%的受訪院校把學(xué)生使用人工智能數(shù)量的增長(zhǎng)視為戰(zhàn)略規(guī)劃的驅(qū)動(dòng)因素[26]。在校生數(shù)量龐大的亞利桑那州立大學(xué)采用紐頓(Knewton)公司的自適應(yīng)學(xué)習(xí)平臺(tái),為學(xué)生提供個(gè)性化學(xué)習(xí)規(guī)劃,解決了學(xué)生數(shù)量與學(xué)業(yè)質(zhì)量之間的矛盾[27]。澳大利亞堪培拉大學(xué)開發(fā)的聊天機(jī)器人幫助解決學(xué)生信息查詢困難。迪肯大學(xué)也為學(xué)生定制了智能程序,提供日程管理、圖書館座位預(yù)訂、校園活動(dòng)更新等個(gè)性化服務(wù)。聊天機(jī)器人是目前高等教育中使用最廣泛的智能工具,美國(guó)、法國(guó)、阿根廷、緬甸等國(guó)家的大學(xué)生都在使用[28]。

    2. 形成新質(zhì)物質(zhì)文化和開放包容的數(shù)智文化

    人工智能不斷進(jìn)步所帶來的技術(shù)資源,無疑將重構(gòu)高等教育領(lǐng)域的物質(zhì)文化。人工智能以聲音、圖像、視頻等新質(zhì)物質(zhì)文化使教學(xué)場(chǎng)景更加豐富多樣。大語言模型(Large Language Model,LLM)以其強(qiáng)大的語言理解和處理能力為高等教育治理的物質(zhì)文化延異出新的維度。大語言模型不僅能高效整合海量信息,疊加檢索增強(qiáng)生成(Retrieval-augmented Generation,RAG)技術(shù)后還能確保信息的準(zhǔn)確性,讓管理者、教師、學(xué)生等更迅速、準(zhǔn)確地獲取所需信息,為決策的制定、教育工作的開展提供強(qiáng)大支撐。在美國(guó)印第安納大學(xué)與普渡大學(xué)印第安納波利斯聯(lián)合分校,嵌入式人工智能助手,24小時(shí)隨時(shí)響應(yīng)為學(xué)生提供不間斷的幫助。在歐盟“伊拉斯謨+”計(jì)劃的資助下,歐洲五所大學(xué)成立歐洲大學(xué)聯(lián)盟。該聯(lián)盟開發(fā)了一個(gè)基于人工智能的虛擬式教學(xué)空間,旨在重新設(shè)計(jì)未來的大學(xué),創(chuàng)建跨越式校園[29]。

    強(qiáng)人工智能的誕生使高等教育治理文化更加開放包容。亞利桑那州立大學(xué)是應(yīng)用強(qiáng)人工智能的先鋒高校之一,該大學(xué)甚至設(shè)有人工智能加速執(zhí)行主任崗位。學(xué)校經(jīng)過小范圍測(cè)試后,于2023年10月推出一個(gè)支持檢索增強(qiáng)生成功能的工具箱,鼓勵(lì)教師在教學(xué)中使用大語言模型。該校領(lǐng)導(dǎo)層表示人工智能已經(jīng)對(duì)學(xué)校的教育及其治理產(chǎn)生了積極影響[30]。

    (三)“規(guī)制”:多方協(xié)同力行人工智能教育應(yīng)用的倫理治理

    人工智能被技術(shù)賦予獨(dú)特的“擬倫理角色”,這使得人們對(duì)其成為高等教育的變革者角色寄予厚望。然而,它也會(huì)帶來數(shù)據(jù)濫用、偏見復(fù)制等風(fēng)險(xiǎn)[28]。因此,世界各國(guó)在國(guó)際組織的協(xié)同下,正在為高等教育治理實(shí)踐創(chuàng)造必要的法律、道德框架。2021年8月,聯(lián)合國(guó)教科文組織發(fā)布《人工智能與教育:政策制定者指南》鼓勵(lì)教育決策者就人工智能政策展開對(duì)話[31]。2021年11月,聯(lián)合國(guó)教科文組織通過《人工智能倫理問題建議書》賦予人工智能四大倫理價(jià)值,并強(qiáng)調(diào)在教育中運(yùn)用人工智能應(yīng)遵循以人為本原則,實(shí)現(xiàn)包容、公正和可持續(xù)的未來[32]。2023年6月,歐洲議會(huì)通過《人工智能法》提案,將人工智能系統(tǒng)的風(fēng)險(xiǎn)劃分成四種類型,并針對(duì)不同類型實(shí)施不同的監(jiān)管措施。該法律增加對(duì)生成式人工智能的規(guī)制,并將教育領(lǐng)域人工智能的應(yīng)用定為“高風(fēng)險(xiǎn)”,提出其必須遵守風(fēng)險(xiǎn)評(píng)估、確保透明度和提交日志記錄等安全要求[33]。

    五、人工智能賦能高等教育治理的中國(guó)選擇

    世界各國(guó)在人工智能賦能高等教育治理方面業(yè)已形成豐富的實(shí)踐經(jīng)驗(yàn),而我國(guó)的高等教育治理實(shí)踐尚未與人工智能技術(shù)深度融合,其價(jià)值還有待進(jìn)一步發(fā)掘。因此,我國(guó)可科學(xué)地借鑒國(guó)外經(jīng)驗(yàn),從以下三方面探索中國(guó)的路徑選擇。

    (一)導(dǎo)控智能技術(shù):構(gòu)建契合時(shí)代語境的外部治理體系

    人工智能的應(yīng)用已勢(shì)不可擋,我國(guó)應(yīng)審視高等教育治理的時(shí)代方位并施加外在推動(dòng)力,使高等教育治理主動(dòng)適應(yīng)數(shù)智時(shí)代,構(gòu)建契合時(shí)代語境的高等教育外部治理體系。

    首先,政府和研究機(jī)構(gòu)要加強(qiáng)政策研究和實(shí)地調(diào)研。可借鑒國(guó)外做法,加強(qiáng)對(duì)人工智能技術(shù)的調(diào)研和分析,及時(shí)發(fā)布相關(guān)報(bào)告和政策建議,引導(dǎo)人工智能技術(shù)在高等教育領(lǐng)域的應(yīng)用,保障相關(guān)政策的科學(xué)性和適切性。同時(shí),政府應(yīng)加強(qiáng)與大學(xué)和科研機(jī)構(gòu)的合作,促進(jìn)政策制定與實(shí)踐結(jié)合,建立政策落實(shí)的監(jiān)督和評(píng)估機(jī)制,確保政策能夠有效推動(dòng)人工智能賦能高等教育治理。

    其次,注重校企資源協(xié)同,優(yōu)化資源配置。加大公共資金投入的同時(shí),注重區(qū)域公平,使資金向落后地區(qū)高校適當(dāng)傾斜。還需深化產(chǎn)教融合,整合社會(huì)資源,構(gòu)建協(xié)同發(fā)展格局。

    最后,重視人才培養(yǎng)和跨學(xué)科合作。建設(shè)像麻省理工學(xué)院、斯坦福大學(xué)這樣世界一流的人工智能研發(fā)中心和教育基地,加強(qiáng)教育領(lǐng)域人工智能技術(shù)的研發(fā)和人才的培養(yǎng)。

    (二)拓展新質(zhì)勢(shì)能:激發(fā)高等教育的內(nèi)部治理動(dòng)力

    技術(shù)不斷迭代升級(jí),弱人工智能向強(qiáng)人工智能的躍遷形塑了高等教育治理的“高位格”環(huán)境,人工智能技術(shù)不斷下沉融滲至組織體系、教學(xué)空間等微觀層面并改變著高等教育的文化氛圍。因此,我國(guó)要抓住機(jī)遇激發(fā)高等教育的內(nèi)部治理動(dòng)力。

    首先,制定融合人工智能技術(shù)的新質(zhì)戰(zhàn)略規(guī)劃。加強(qiáng)對(duì)人工智能技術(shù)的研究和應(yīng)用,將其納入大學(xué)的戰(zhàn)略規(guī)劃中。引導(dǎo)管理層對(duì)人工智能持謹(jǐn)慎且樂觀的態(tài)度,提升大學(xué)管理人員的人工智能素養(yǎng),推動(dòng)技術(shù)在治理中發(fā)揮作用,提升大學(xué)內(nèi)部治理效能。借鑒美國(guó)、澳大利亞的經(jīng)驗(yàn),開發(fā)自適應(yīng)學(xué)習(xí)平臺(tái)或校本機(jī)器人,為學(xué)生提供學(xué)習(xí)建議和幫助,也為教師教學(xué)和學(xué)校管理提供精準(zhǔn)科學(xué)的數(shù)據(jù)支撐。

    其次,合理運(yùn)用人工智能技術(shù)資源形塑新質(zhì)治理空間。人工智能可深度融合虛擬現(xiàn)實(shí)、深度學(xué)習(xí)等技術(shù),助力高等教育突破傳統(tǒng),拓展出專業(yè)化、虛擬化、智能化的教學(xué)、管理和研究空間??山梃b歐盟的經(jīng)驗(yàn),建設(shè)混合式跨地區(qū)大學(xué)聯(lián)盟,促進(jìn)高等教育資源強(qiáng)強(qiáng)融合,打破大學(xué)圍墻建構(gòu)高等教育治理的賽博空間。

    最后,建設(shè)開放包容的數(shù)智文化。一方面,要在高等教育場(chǎng)域加強(qiáng)智能化基礎(chǔ)設(shè)施建設(shè),形成以教育為旨?xì)w的新質(zhì)器物文化??煞e極開發(fā)自主知識(shí)產(chǎn)權(quán)的教育專用大型語言模型,如華東師范大學(xué)的EduChat。另一方面,構(gòu)建開放包容的數(shù)智文化。技術(shù)浪潮已勢(shì)不可擋,更需要我們形成數(shù)智文化自覺,以開放包容的文化迎接“技術(shù)奇點(diǎn)”的到來。

    (三)注重內(nèi)外協(xié)作:強(qiáng)化人工智能的倫理治理規(guī)范

    要真正實(shí)現(xiàn)人工智能為高等教育賦能,還應(yīng)加強(qiáng)對(duì)人工智能本身的治理以規(guī)避其可能帶來的風(fēng)險(xiǎn)。

    一方面,注重國(guó)際合作。首先,積極參與聯(lián)合國(guó)教科文組織、世界經(jīng)濟(jì)合作與發(fā)展組織等國(guó)際機(jī)構(gòu)的原則與框架制定,與國(guó)際社會(huì)一同應(yīng)對(duì)算法偏見、隱私泄露、數(shù)據(jù)壟斷等風(fēng)險(xiǎn)。其次,深入研究國(guó)際組織的原則和框架,分析其對(duì)我國(guó)人工智能應(yīng)用產(chǎn)生的影響,避免落入霸權(quán)國(guó)家的符號(hào)陷阱。在此過程中,要特別關(guān)注國(guó)內(nèi)高等教育治理的現(xiàn)實(shí)需求,通過深度調(diào)研和評(píng)估,確保引入的國(guó)際原則能夠有效地服務(wù)于我國(guó)高等教育信息化建設(shè)和治理體系優(yōu)化。另外,還應(yīng)借鑒歐盟成員國(guó)的經(jīng)驗(yàn),積極在國(guó)際合作中發(fā)聲,爭(zhēng)取主動(dòng)權(quán),樹立大國(guó)形象,為推動(dòng)人工智能治理國(guó)際化、法制化貢獻(xiàn)中國(guó)力量。

    另一方面,加強(qiáng)國(guó)內(nèi)規(guī)約。首先,我國(guó)政府可以針對(duì)人工智能在高等教育中的應(yīng)用,制定專門的政策和法規(guī)。同時(shí),審辨地吸收聯(lián)合國(guó)教科文組織《人工智能倫理問題建議書》、歐盟《人工智能法》等指導(dǎo)方針,構(gòu)建具有中國(guó)特色、契合中國(guó)高等教育實(shí)際的規(guī)則體系。其次,我國(guó)教育職能部門、研究機(jī)構(gòu)和大學(xué)可合作建立專業(yè)的評(píng)估和監(jiān)管機(jī)構(gòu),加強(qiáng)對(duì)人工智能的評(píng)估和監(jiān)測(cè),以保證其符合教育教學(xué)規(guī)律,并及時(shí)發(fā)現(xiàn)和糾正問題。最后,高等教育領(lǐng)域還應(yīng)建立人機(jī)結(jié)合的決策機(jī)制,確保人和人工智能都在決策中發(fā)揮應(yīng)有的作用,保證人工智能的應(yīng)用與高等教育的目標(biāo)一致,并定期公布有關(guān)信息,接受社會(huì)的監(jiān)督。

    [參考文獻(xiàn)]

    [1] 伊安·奧斯丁,格倫·瓊斯. 高等教育治理——全球視野、理論與實(shí)踐[M]. 孟彥,劉益東,譯. 北京:學(xué)苑出版社,2020:1-5.

    [2] 南旭光,張培. 智能化時(shí)代我國(guó)高等教育治理變革研究[J]. 中國(guó)電化教育,2018(6):1-7.

    [3] 張海生. 人工智能賦能大學(xué)治理:多重效應(yīng)與治理效能轉(zhuǎn)化[J]. 重慶高教研究, 2024,12(2):25-36.

    [4] 李陶深. 人工智能[M]. 重慶:重慶大學(xué)出版社,2002:4.

    [5] 侯耀文. 人工智能“類人化”的人學(xué)反思[J]. 中國(guó)高校社會(huì)科學(xué),2024(3):73-83,158.

    [6] MARVIN M. Form and content in computer science[J]. Journal of the association for computing machinery, 1970(2):197-215.

    [7] LUCAS J R. Minds, machines and godel[M]. Cambridge: Cambridge University Press, 1961:112-127.

    [8] 王彥雨. 學(xué)界關(guān)于“超級(jí)AI”的論爭(zhēng)及其實(shí)現(xiàn)的可能路徑[J]. 未來與發(fā)展,2017(8):22-31.

    [9] HAWKING S. This is the most dangerous time for our planet[EB/OL]. (2016-12-01)[2024-03-21]. https://www.theguardian.com/commentisfree/2016/dec/01/stephen-hawking-dangerous-time-planet-inequality.

    [10] DEREK K. Be heading the king and enthroning the market: a critique of Foucauldian governmentality[J]. Science &society, 1999(2):173-202.

    [11] 包亞明. 當(dāng)代思想家訪談錄[M]. 嚴(yán)鋒,譯. 上海:上海人民出版社,1997:158.

    [12] 許勇,黃福壽. 人工智能賦能國(guó)家治理的雙向制度建構(gòu)[J]. 西南民族大學(xué)學(xué)報(bào)(人文社會(huì)科學(xué)版),2023(12):198-206.

    [13] 張鋌. 人工智能嵌入社會(huì)治理的風(fēng)險(xiǎn)及其規(guī)避[J]. 浙江工商大學(xué)學(xué)報(bào),2022(3):120-126.

    [14] 趙春霞. 大數(shù)據(jù)智能化:高等教育治理現(xiàn)代化的實(shí)踐進(jìn)路[J]. 江蘇高教,2021(11):81-85.

    [15] 王彥雷. 人工智能與高等教育發(fā)展范式轉(zhuǎn)型研究[J]. 高等理科教育,2020(3):73-78.

    [16] 蘭國(guó)帥,杜水蓮,肖琪,等. 國(guó)際人工智能教育治理政策規(guī)劃和創(chuàng)新路徑研究——首屆人工智能安全峰會(huì)《布萊奇利宣言》要點(diǎn)與思考[J]. 中國(guó)教育信息化,2024,30(3):43-51.

    [17] 國(guó)務(wù)院. 國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[EB/OL]. (2017-07-08)[2024-05-10]. https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

    [18] Office of Educational Technology. Artificial intelligence and future of teaching and learning: insights and recommendations[R]. Washington, DC: U.S. Department of Education, 2023:10.

    [19] Commission Européenne. Livre Blanc intelligence artificielle une approche européenne axée sur l'excellence et la confiance [EB/OL]. (2020-02-19)[2024-05-28]. https://commission.europa.eu/document/download/d2ec4039-c5be-423a-81ef-b9e44e79825b_fr?filename=commission-white-paper-artificial-intelligence-feb2020_fr.pdf.

    [20] U.K. Department for Education. Generative artificial intelligence (AI)in education[EB/OL]. (2023-10-26)[2024-04-01]. https://www.gov.uk/government/publications/generative-artificial-intelligence-in-education/generative-artificial-intelligence-ai-in-education.

    [21] The Open Innovation Team and Department for Education. Generative AI in education: educator and expert views[EB/OL]. (2024-01-24)[2024-04-01]. https://www.gov.uk/government/publications/generative-ai-in-education-educator-and-expert-views.

    [22] Quality Assurance Agency for Higher Education. Quality compass.[EB/OL]. (2024-02-19)[2024-04-06]. https://www.qaa.ac.uk/docs/qaa/news/quality-compass-navigating-the-complexities-of-the-artificial-intelligence-era-in-higher-education.pdf.

    [23] National Science Foundation. NSF partnerships expand national AI research institutes to 40 States [EB/OL]. (2021-07-29)[2024-04-07]. https://www.hpcwire.com/off-the-wire/nsf-partnerships-expand-national-ai-research-institutes-to-40-states/.

    [24] Ministère de l’Enseignement Supérieur, de la Recherche et de l’Innovation. La stratégie IA, pour faire de la France un acteur majeur de l’intelligence artificielle[EB/OL]. (2018-11-28)[2024-04-07]. https://www.enseignementsup-recherche.gouv.fr/fr/la-strategie-ia-pour-faire-de-la-france-un-acteur-majeur-de-l-intelligence-artificielle-49298.

    [25] Bundesministerium für Bildung und Forschung. Aktionsplan künstliche intelligenz [EB/OL]. (2023-11-07)[2024-04-09]. https://www.bmbf.de/SharedDocs/Downloads/de/2023/230823-executive-summary-ki-aktionsplan.pdf?__blob=publicationFile&v=1.

    [26] ROBERT J. 2024 EDUCAUSE AI landscape study[EB/OL]. (2024-02-26)[2024-04-12]. https://www.educause.edu/ecar/research-publications/2024/2024-educause-ai-landscape-study/introduction-and-key-findings.

    [27] 葉小敏. 美國(guó)Knewton自適應(yīng)學(xué)習(xí)平臺(tái)研究[D]. 重慶:西南大學(xué),2019.

    [28] ALMARAZ-MENE?譙DEZ F, MAZ-MACHADO A, L?魷PEZ-ESTEBAN C, ALMARAZ-L?魷PEZ C. Strategy, policy, practice, and governance for AI in higher Education Institutions [M]. Hershey: IGI Global, 2022:58,18.

    [29] EDUCAUSE. 2022 EDUCAUSE horizon report, teaching and learning edition [R]. Boulder: EDUCAUSE, 2022.

    [30] EXTANCE A. ChatGPT has entered the classroom: how LLMs could transform education[J]. Nature 2023:474-477.

    [31] 聯(lián)合國(guó)教科文組織. 人工智能與教育:政策制定者指南[M]. 北京:教育科學(xué)出版社,2021:32.

    [32] UNESCO. Recommendation on the ethics of artificial intelligence[EB/OL]. (2021-11-24)[2024-06-02]. https://unesdoc.unesco.org/ark:XXy1uHpG7XlWGyq1A+YI1g==/48223/pf0000380455.

    [33] 劉子婧. 歐盟《人工智能法》:演進(jìn)、規(guī)則與啟示[J]. 德國(guó)研究,2024,39(3):101-128,151.

    Artificial Intelligence Empowering Higher Education Governance:

    International Experience and Chinese Choice

    YANG Ningxia1, TANG Aimin2

    (1.Shandong University of Aeronautics, College of Cabin Attendant, Binzhou Shandong 256600;

    2.College of Education, Qufu Normal University, Qufu Shandong 273165)

    [Abstract] Artificial Intelligence (AI) has become a key technological tool for higher education governance. However, in the practice of AI-enabled higher education governance, there are still realistic challenges such as lagging policy systems and resource allocation, lack of strategic planning and cultural construction, and alienation of interpersonal relationships and technological tools. Therefore, this study uses a comparative research method to focuscRRIAK9l9qq9b1/NrTlAxQ== on and summarize the governance practices of countries around the world in recent years, and has found that the government attaches great importance to the external governance of higher education under the background of artificial intelligence in order to " protect against external threats", universities actively promote the internal governance under the support of artificial intelligence in order to "stabilize the internal environment", and all parties work together to implement the ethical governance of the educational application of artificial intelligence for "regulatory control". Based on this, China should learn from international experience to make the Chinese choice for AI-enabled higher education governance: guiding and controlling intelligent technology to build an external governance system that fits the context of the times; expanding the new qualitative potentials to stimulate the internal governance dynamics of higher education; paying attention to domestic and international cooperation to strengthen the ethical governance norms of artificial intelligence. Thereby, a modernization plan of higher education governance with Chinese characteristics can be formed.

    [Keywords] Artificial Intelligence; Higher Education Governance; External Governance; Internal Governance; Ethical Governance

    DOI:10.13811/j.cnki.eer.2024.11.006

    基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金“十四五”規(guī)劃2024年度教育學(xué)一般課題“中國(guó)傳統(tǒng)德育智慧及時(shí)代轉(zhuǎn)化研究”(課題編號(hào):BEA240070)

    简卡轻食公司| 五月开心婷婷网| 成年美女黄网站色视频大全免费 | 亚洲av国产av综合av卡| av.在线天堂| 女的被弄到高潮叫床怎么办| 一级毛片我不卡| 3wmmmm亚洲av在线观看| 3wmmmm亚洲av在线观看| 亚洲国产精品专区欧美| 精品熟女少妇av免费看| 一级毛片黄色毛片免费观看视频| 国产精品国产av在线观看| 高清在线视频一区二区三区| 日日摸夜夜添夜夜爱| 亚洲伊人久久精品综合| 国产成人免费观看mmmm| 日韩制服骚丝袜av| 色94色欧美一区二区| 女性生殖器流出的白浆| 色94色欧美一区二区| 99视频精品全部免费 在线| 一级毛片黄色毛片免费观看视频| 美女脱内裤让男人舔精品视频| 亚洲熟女精品中文字幕| 亚洲国产精品一区二区三区在线| 国产av码专区亚洲av| 国产av码专区亚洲av| 男女免费视频国产| 亚洲av欧美aⅴ国产| 午夜福利网站1000一区二区三区| 欧美精品人与动牲交sv欧美| 欧美精品人与动牲交sv欧美| 亚洲精品视频女| 两个人的视频大全免费| 亚洲av日韩在线播放| 成人毛片60女人毛片免费| 亚洲无线观看免费| 亚洲国产日韩一区二区| 黄色配什么色好看| 亚洲av二区三区四区| 一级毛片黄色毛片免费观看视频| 99国产综合亚洲精品| 免费观看av网站的网址| 熟女电影av网| 精品人妻偷拍中文字幕| 日本av免费视频播放| 少妇被粗大猛烈的视频| 久久久久精品久久久久真实原创| 精品一区二区免费观看| 亚洲国产av影院在线观看| 99热网站在线观看| 亚洲国产欧美在线一区| 免费久久久久久久精品成人欧美视频 | 看免费成人av毛片| kizo精华| 99re6热这里在线精品视频| 女人久久www免费人成看片| 伊人久久精品亚洲午夜| 色94色欧美一区二区| 久久人妻熟女aⅴ| 天天操日日干夜夜撸| av在线观看视频网站免费| 男人操女人黄网站| 国产一区二区在线观看av| xxx大片免费视频| 一边亲一边摸免费视频| 夫妻午夜视频| 男女高潮啪啪啪动态图| 免费大片18禁| 亚洲av电影在线观看一区二区三区| 超色免费av| 亚洲精品日韩av片在线观看| 亚洲美女视频黄频| 熟女电影av网| 99精国产麻豆久久婷婷| 久久av网站| 久久久久久久久久成人| 人人妻人人澡人人爽人人夜夜| 久久99一区二区三区| 欧美亚洲 丝袜 人妻 在线| 成人黄色视频免费在线看| 最近最新中文字幕免费大全7| 亚洲综合色网址| 国产国拍精品亚洲av在线观看| 日韩av免费高清视频| 最近中文字幕高清免费大全6| 色视频在线一区二区三区| 午夜福利视频精品| 国产免费视频播放在线视频| 欧美日韩国产mv在线观看视频| 99久久精品国产国产毛片| 国产精品嫩草影院av在线观看| 99热全是精品| 久久久久久久国产电影| 精品久久久噜噜| 日日摸夜夜添夜夜添av毛片| 一个人看视频在线观看www免费| 99精国产麻豆久久婷婷| 亚洲精品乱码久久久久久按摩| 国产黄色免费在线视频| 日本色播在线视频| 日韩三级伦理在线观看| 亚洲精品国产色婷婷电影| 嫩草影院入口| 少妇人妻精品综合一区二区| 午夜精品国产一区二区电影| 日韩电影二区| 秋霞伦理黄片| 日韩,欧美,国产一区二区三区| 99精国产麻豆久久婷婷| 91午夜精品亚洲一区二区三区| 五月伊人婷婷丁香| 亚洲精品乱久久久久久| 欧美另类一区| 久久青草综合色| 2021少妇久久久久久久久久久| 最近2019中文字幕mv第一页| 欧美日韩亚洲高清精品| 免费黄频网站在线观看国产| 欧美激情 高清一区二区三区| 美女脱内裤让男人舔精品视频| 亚洲激情五月婷婷啪啪| 99热国产这里只有精品6| 国产黄色视频一区二区在线观看| 亚洲国产欧美日韩在线播放| 亚洲国产毛片av蜜桃av| 伊人久久精品亚洲午夜| 亚洲精品aⅴ在线观看| 最黄视频免费看| 少妇的逼好多水| 午夜福利视频精品| 麻豆精品久久久久久蜜桃| 特大巨黑吊av在线直播| 少妇精品久久久久久久| 91精品三级在线观看| 欧美三级亚洲精品| 国产精品偷伦视频观看了| 97超视频在线观看视频| 丰满迷人的少妇在线观看| 亚洲av免费高清在线观看| 欧美成人精品欧美一级黄| 国产色婷婷99| 亚洲久久久国产精品| 国产黄色免费在线视频| 免费不卡的大黄色大毛片视频在线观看| 久久人人爽av亚洲精品天堂| 一本大道久久a久久精品| 亚洲不卡免费看| 蜜桃在线观看..| 亚洲第一区二区三区不卡| 国产精品偷伦视频观看了| 色吧在线观看| 久久精品久久精品一区二区三区| 狂野欧美白嫩少妇大欣赏| 自线自在国产av| 亚洲欧美成人精品一区二区| 黑丝袜美女国产一区| 国产 一区精品| 精品久久久久久久久av| 在线观看免费高清a一片| 欧美亚洲日本最大视频资源| 考比视频在线观看| 美女脱内裤让男人舔精品视频| 亚洲美女黄色视频免费看| 国产片内射在线| 国产精品嫩草影院av在线观看| 国产日韩欧美亚洲二区| 伊人久久精品亚洲午夜| 亚洲精品日韩在线中文字幕| 免费不卡的大黄色大毛片视频在线观看| 一级二级三级毛片免费看| 中文乱码字字幕精品一区二区三区| 18禁观看日本| 亚洲性久久影院| 伊人亚洲综合成人网| 美女国产视频在线观看| 天堂8中文在线网| 99热全是精品| 秋霞伦理黄片| 寂寞人妻少妇视频99o| 少妇人妻久久综合中文| 日本av手机在线免费观看| 中国国产av一级| 精品一区二区免费观看| 女的被弄到高潮叫床怎么办| 汤姆久久久久久久影院中文字幕| 国产精品国产三级国产专区5o| 人妻夜夜爽99麻豆av| 亚洲少妇的诱惑av| 日日摸夜夜添夜夜添av毛片| 三级国产精品欧美在线观看| 久久久久久久久大av| 国产免费视频播放在线视频| 韩国高清视频一区二区三区| 精品久久久噜噜| 最近中文字幕2019免费版| 欧美bdsm另类| 一级a做视频免费观看| 最近手机中文字幕大全| 亚洲精品乱码久久久v下载方式| 亚洲性久久影院| 久久热精品热| 国产成人精品婷婷| 国产在视频线精品| 久久久久久久久久久丰满| 久久久久久久久久久免费av| 欧美日韩视频精品一区| 制服人妻中文乱码| 下体分泌物呈黄色| 亚洲三级黄色毛片| 黑丝袜美女国产一区| 99热国产这里只有精品6| 欧美性感艳星| 男人爽女人下面视频在线观看| 亚洲不卡免费看| 看免费成人av毛片| 中文欧美无线码| 狂野欧美激情性xxxx在线观看| 中文字幕精品免费在线观看视频 | 日本爱情动作片www.在线观看| 三级国产精品片| 久久这里有精品视频免费| 大话2 男鬼变身卡| 久久久久久久久大av| 国产成人免费无遮挡视频| 久久99热6这里只有精品| 日韩精品免费视频一区二区三区 | 熟女av电影| 18在线观看网站| 亚洲av电影在线观看一区二区三区| 性色avwww在线观看| 中文字幕人妻熟人妻熟丝袜美| .国产精品久久| 日本午夜av视频| 欧美国产精品一级二级三级| 午夜激情av网站| 精品国产乱码久久久久久小说| 最黄视频免费看| 日本爱情动作片www.在线观看| 婷婷色av中文字幕| 色5月婷婷丁香| 最新的欧美精品一区二区| 国产亚洲午夜精品一区二区久久| 国产精品久久久久久av不卡| 飞空精品影院首页| 十八禁网站网址无遮挡| 91aial.com中文字幕在线观看| 成人影院久久| 简卡轻食公司| 欧美97在线视频| 满18在线观看网站| 少妇人妻久久综合中文| 亚洲高清免费不卡视频| 精品99又大又爽又粗少妇毛片| 亚洲精品美女久久av网站| 国产精品一国产av| 亚洲av电影在线观看一区二区三区| 秋霞在线观看毛片| 国产精品不卡视频一区二区| 亚洲精品乱码久久久久久按摩| 国产成人精品婷婷| 夜夜骑夜夜射夜夜干| 精品亚洲成国产av| 国产精品一区二区在线观看99| 亚洲av成人精品一二三区| 午夜福利视频精品| 少妇精品久久久久久久| 成年美女黄网站色视频大全免费 | 亚洲国产欧美日韩在线播放| 亚洲在久久综合| 亚洲熟女精品中文字幕| 亚洲,一卡二卡三卡| 国产乱来视频区| 考比视频在线观看| 国产免费一级a男人的天堂| 欧美精品国产亚洲| 一区二区三区免费毛片| 免费黄网站久久成人精品| 国产成人午夜福利电影在线观看| 亚洲精品aⅴ在线观看| 亚洲欧洲日产国产| 国产 精品1| 男人添女人高潮全过程视频| 2022亚洲国产成人精品| 欧美性感艳星| 另类精品久久| 日日摸夜夜添夜夜添av毛片| 国产精品偷伦视频观看了| 日韩成人av中文字幕在线观看| 另类精品久久| 欧美日本中文国产一区发布| 日韩伦理黄色片| 91精品国产国语对白视频| 涩涩av久久男人的天堂| 亚洲第一区二区三区不卡| 啦啦啦在线观看免费高清www| 狂野欧美白嫩少妇大欣赏| 日日摸夜夜添夜夜添av毛片| 日本色播在线视频| 亚洲婷婷狠狠爱综合网| 国产精品麻豆人妻色哟哟久久| 日本-黄色视频高清免费观看| 久久久久视频综合| 在现免费观看毛片| 国产av一区二区精品久久| 亚洲精品自拍成人| 成人漫画全彩无遮挡| 亚洲精品456在线播放app| 亚洲精品美女久久av网站| 国产午夜精品久久久久久一区二区三区| 有码 亚洲区| 国产精品久久久久久精品电影小说| tube8黄色片| 永久免费av网站大全| 久久久国产一区二区| 久久久久久久精品精品| 青春草国产在线视频| 亚洲,欧美,日韩| 菩萨蛮人人尽说江南好唐韦庄| 免费久久久久久久精品成人欧美视频 | 久久久久久人妻| 性高湖久久久久久久久免费观看| 日韩精品有码人妻一区| 人妻人人澡人人爽人人| 一级毛片aaaaaa免费看小| 欧美亚洲 丝袜 人妻 在线| 日日摸夜夜添夜夜爱| 国产色爽女视频免费观看| 成人亚洲精品一区在线观看| 色婷婷av一区二区三区视频| 丰满少妇做爰视频| 三上悠亚av全集在线观看| 高清午夜精品一区二区三区| 欧美另类一区| 嘟嘟电影网在线观看| 欧美日韩综合久久久久久| 少妇的逼好多水| 免费看av在线观看网站| av有码第一页| 最近最新中文字幕免费大全7| 午夜激情福利司机影院| 伦精品一区二区三区| 一区二区av电影网| 国产亚洲精品久久久com| 亚洲欧美成人精品一区二区| 99热国产这里只有精品6| 夜夜骑夜夜射夜夜干| 国产不卡av网站在线观看| 亚洲精品,欧美精品| 日日爽夜夜爽网站| 国产高清三级在线| 男的添女的下面高潮视频| 国产高清有码在线观看视频| 乱人伦中国视频| 欧美日韩成人在线一区二区| 99久久综合免费| h视频一区二区三区| 成人手机av| 日韩欧美精品免费久久| av专区在线播放| 亚洲熟女精品中文字幕| 一本久久精品| 免费看不卡的av| 国产伦精品一区二区三区视频9| 最近中文字幕高清免费大全6| 在线观看人妻少妇| 欧美日韩成人在线一区二区| 国产日韩欧美亚洲二区| 日本黄大片高清| 中文字幕最新亚洲高清| 国产深夜福利视频在线观看| 狠狠婷婷综合久久久久久88av| 多毛熟女@视频| 熟妇人妻不卡中文字幕| 纵有疾风起免费观看全集完整版| 久久人人爽av亚洲精品天堂| 久久精品国产a三级三级三级| 久久久久久久久久久久大奶| 黄色怎么调成土黄色| 自线自在国产av| 亚洲av中文av极速乱| 91久久精品国产一区二区成人| 夜夜爽夜夜爽视频| 日本午夜av视频| 最近手机中文字幕大全| 91精品一卡2卡3卡4卡| 国产国语露脸激情在线看| 欧美日韩av久久| 亚洲在久久综合| av又黄又爽大尺度在线免费看| 国产黄色视频一区二区在线观看| 国产精品一区二区三区四区免费观看| 亚州av有码| 亚洲精品中文字幕在线视频| 全区人妻精品视频| 中文字幕最新亚洲高清| 欧美成人精品欧美一级黄| 亚洲欧美一区二区三区黑人 | 大香蕉久久网| 又粗又硬又长又爽又黄的视频| 久久精品久久久久久久性| 大陆偷拍与自拍| 成人漫画全彩无遮挡| 精品亚洲成国产av| 蜜臀久久99精品久久宅男| 99九九在线精品视频| 欧美激情 高清一区二区三区| 美女国产视频在线观看| 午夜激情av网站| 大香蕉久久网| 国产精品一区二区在线不卡| 亚洲国产精品成人久久小说| 伊人久久精品亚洲午夜| 成人国产av品久久久| 日韩伦理黄色片| 久久精品夜色国产| 99国产综合亚洲精品| 丰满迷人的少妇在线观看| 久久久久久久亚洲中文字幕| 精品国产乱码久久久久久小说| 狂野欧美白嫩少妇大欣赏| 狠狠婷婷综合久久久久久88av| 亚洲,一卡二卡三卡| 免费看不卡的av| 亚洲av福利一区| 国产欧美日韩一区二区三区在线 | 精品一区二区三区视频在线| 成年人免费黄色播放视频| xxx大片免费视频| 亚洲av不卡在线观看| 国产熟女欧美一区二区| 日本av手机在线免费观看| 一级毛片aaaaaa免费看小| 最新中文字幕久久久久| 日本黄色片子视频| 男女免费视频国产| av国产精品久久久久影院| 80岁老熟妇乱子伦牲交| 国产国语露脸激情在线看| 日韩亚洲欧美综合| 看十八女毛片水多多多| 久久ye,这里只有精品| 久久久久久久久久久丰满| av在线观看视频网站免费| 一区二区三区四区激情视频| 亚洲三级黄色毛片| 亚洲国产av影院在线观看| 51国产日韩欧美| 一级毛片黄色毛片免费观看视频| 综合色丁香网| 国产色爽女视频免费观看| 国产 一区精品| 久久国内精品自在自线图片| 高清视频免费观看一区二区| 久久久国产一区二区| 亚洲精品日韩av片在线观看| av福利片在线| 狂野欧美激情性bbbbbb| 国产精品一区二区三区四区免费观看| xxx大片免费视频| 欧美成人精品欧美一级黄| 久久热精品热| 久久午夜福利片| 国产欧美亚洲国产| 夫妻午夜视频| 亚洲图色成人| 亚洲精品乱码久久久久久按摩| 国产精品熟女久久久久浪| 亚洲,欧美,日韩| 夫妻午夜视频| 精品亚洲成国产av| 国产欧美日韩综合在线一区二区| 久久人人爽人人片av| 久久久国产精品麻豆| 青春草亚洲视频在线观看| 久久国产精品男人的天堂亚洲 | 一级毛片 在线播放| 中文字幕亚洲精品专区| a级毛片在线看网站| 久久99热这里只频精品6学生| 日韩欧美一区视频在线观看| 一级毛片 在线播放| 中文字幕免费在线视频6| 亚洲av中文av极速乱| 美女国产高潮福利片在线看| 日本免费在线观看一区| 大片免费播放器 马上看| 亚洲性久久影院| 亚洲欧洲精品一区二区精品久久久 | 另类精品久久| 九九在线视频观看精品| 久久97久久精品| 久久久久久久久久成人| 国产片内射在线| 精品人妻在线不人妻| av又黄又爽大尺度在线免费看| 久久久久网色| 国产熟女欧美一区二区| 少妇猛男粗大的猛烈进出视频| 在线精品无人区一区二区三| 精品一区在线观看国产| 国产色爽女视频免费观看| 草草在线视频免费看| 亚洲成人一二三区av| 纵有疾风起免费观看全集完整版| 亚洲欧美清纯卡通| 久久久久久久久久人人人人人人| xxxhd国产人妻xxx| 精品人妻在线不人妻| 亚洲综合色网址| 亚洲欧美色中文字幕在线| 久久久久久久久大av| 久久精品国产鲁丝片午夜精品| 日韩中字成人| 啦啦啦啦在线视频资源| 亚洲av国产av综合av卡| 午夜激情av网站| 日韩人妻高清精品专区| 国产老妇伦熟女老妇高清| 日本-黄色视频高清免费观看| 美女cb高潮喷水在线观看| 日韩熟女老妇一区二区性免费视频| 亚洲,一卡二卡三卡| 欧美日本中文国产一区发布| 美女xxoo啪啪120秒动态图| 考比视频在线观看| 国产片内射在线| 男女无遮挡免费网站观看| 国产成人精品婷婷| 国产乱人偷精品视频| 亚洲av成人精品一二三区| 亚洲精品乱码久久久v下载方式| 观看av在线不卡| 天堂俺去俺来也www色官网| 日产精品乱码卡一卡2卡三| 国产精品99久久99久久久不卡 | 欧美日韩在线观看h| 国产视频内射| 国产极品天堂在线| 人妻系列 视频| 视频在线观看一区二区三区| 99热6这里只有精品| 大香蕉久久成人网| 国产亚洲一区二区精品| 人妻夜夜爽99麻豆av| 黄色视频在线播放观看不卡| 国产免费福利视频在线观看| 亚洲四区av| 男女免费视频国产| 精品久久久精品久久久| 中文字幕人妻丝袜制服| 春色校园在线视频观看| 午夜福利在线观看免费完整高清在| 亚洲色图综合在线观看| 人妻制服诱惑在线中文字幕| 国精品久久久久久国模美| 色94色欧美一区二区| 亚洲婷婷狠狠爱综合网| 欧美日韩综合久久久久久| 一级毛片我不卡| 国产有黄有色有爽视频| 免费观看的影片在线观看| 高清黄色对白视频在线免费看| 亚洲欧美中文字幕日韩二区| 成人毛片60女人毛片免费| 中文乱码字字幕精品一区二区三区| 国产永久视频网站| 少妇熟女欧美另类| 久久99精品国语久久久| 性色av一级| 亚洲天堂av无毛| 自线自在国产av| 中国三级夫妇交换| 天天影视国产精品| 97超视频在线观看视频| 久久婷婷青草| 亚洲av电影在线观看一区二区三区| 国产在线视频一区二区| 91精品伊人久久大香线蕉| 久久国产精品大桥未久av| 亚洲av免费高清在线观看| 亚洲精品aⅴ在线观看| 狂野欧美白嫩少妇大欣赏| 久久99蜜桃精品久久| 在线观看www视频免费| 一区在线观看完整版| 九九爱精品视频在线观看| 桃花免费在线播放| 久久婷婷青草| 黑人欧美特级aaaaaa片| 免费大片黄手机在线观看| 国产免费一区二区三区四区乱码| 久久久久久久久久人人人人人人| 我要看黄色一级片免费的| 国产精品 国内视频| 在线观看www视频免费| 国产一区二区在线观看日韩| 高清毛片免费看| 777米奇影视久久| 蜜桃久久精品国产亚洲av| 各种免费的搞黄视频| 大又大粗又爽又黄少妇毛片口| 亚洲精品国产色婷婷电影| 久久鲁丝午夜福利片| 性色avwww在线观看| 亚洲精品aⅴ在线观看| a 毛片基地| 中文欧美无线码| 九九爱精品视频在线观看| 中国三级夫妇交换| 99久久精品一区二区三区| 久久综合国产亚洲精品| 国产精品.久久久| 日韩欧美精品免费久久|