• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字經(jīng)濟(jì)背景下人工智能發(fā)展對女性就業(yè)影響的研究

    2024-06-03 14:46:06牛建國夏飛龍蔣鑫
    當(dāng)代經(jīng)濟(jì)管理 2024年6期
    關(guān)鍵詞:勞動力市場人工智能

    牛建國 夏飛龍 蔣鑫

    [摘?要]人工智能正在從根本上改變生產(chǎn)和生活方式,但其潛在影響在很大程度上仍然是抽象和不確定的。一方面,人工智能非帕累托式技術(shù)進(jìn)步對包括女性在內(nèi)的就業(yè)市場產(chǎn)生顯著、多維度沖擊,人工智能系統(tǒng)對性別偏見的“再生產(chǎn)”將提高女性就業(yè)門檻;另一方面,人工智能技術(shù)發(fā)展可抑制“貪婪”工作的負(fù)外部性,增加靈活性供給,降低女性選擇成本,人工智能發(fā)展引致的“情感經(jīng)濟(jì)”傾向于強(qiáng)化女性在情感、社交技能方面的稟賦優(yōu)勢,提升其在就業(yè)市場中的地位。在與人工智能的“競賽”中,應(yīng)加速產(chǎn)業(yè)轉(zhuǎn)型升級、加快崗位和勞動任務(wù)調(diào)整、促進(jìn)高質(zhì)量女性就業(yè),塑造適應(yīng)新技術(shù)發(fā)展、面向人工智能未來的女性教育和培訓(xùn)體系,優(yōu)化生育政策激勵、完善社會化服務(wù),探索高質(zhì)量人工智能治理、積極參與全球人工智能治理合作。

    [關(guān)鍵詞]人工智能;勞動力市場;女性就業(yè)

    [中圖分類號]??F249.2;F49[文獻(xiàn)標(biāo)識碼]??A[文章編號]??1673-0461(2024)06-0087-10

    2016年3月,DeepMind公司研發(fā)的AlphaGo擊敗世界頂級圍棋選手李世石。在這場人類與算法的歷史性較量中,人類首次負(fù)于被算法武裝的機(jī)器,這一事件在動搖了人類智慧優(yōu)越感的同時,也將人類與機(jī)器的“競賽”推向了一個新的階段。2022年底,OpenAI公司推出的ChatGPT3又一次擴(kuò)展了人類對“高階”人工智能應(yīng)用前景的想象邊界,世界已經(jīng)被人工智能的無限可能性所吸引,人們對人工智能變革潛力的興趣和認(rèn)可度不斷提高。與此同時,我國人工智能市場規(guī)模也正經(jīng)歷著快速增長,2017年至2021年期間的年均復(fù)合增長率(CAGR)達(dá)到30.5%[1]。

    我國在全球人工智能領(lǐng)域處于第一方陣,并已形成了人工智能技術(shù)發(fā)展的良好基礎(chǔ)。國務(wù)院在2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》(國發(fā)〔2017〕35號)中明確指出,人工智能業(yè)已成為國際競爭的新焦點(diǎn),其作為經(jīng)濟(jì)發(fā)展的新引擎、新一輪產(chǎn)業(yè)變革的核心推動力量,在重構(gòu)經(jīng)濟(jì)活動、生產(chǎn)方式、生活方式和思維模式等方面發(fā)揮重要作用。此規(guī)劃同時指出,作為影響面廣泛的顛覆性技術(shù),人工智能發(fā)展存在不確定性,可能對包括就業(yè)在內(nèi)的諸多方面產(chǎn)生重大影響。2023年11月2日,《布萊奇利宣言》的發(fā)布則集中體現(xiàn)了全球?qū)τ谌斯ぶ悄馨l(fā)展?jié)摿εc風(fēng)險的普遍關(guān)切。

    實(shí)際上,人工智能技術(shù)令人矚目的發(fā)展與快速迭代已經(jīng)引發(fā)了人們關(guān)于技術(shù)進(jìn)步對勞動力市場影響的重新關(guān)注。人工智能和智能自動化技術(shù)的進(jìn)步也日益引發(fā)人們對失業(yè)和不平等程度加劇的擔(dān)憂,其中,人工智能技術(shù)的發(fā)展與應(yīng)用對女性就業(yè)的影響是該領(lǐng)域研究的重要議題之一。從人工智能技術(shù)應(yīng)用落地來看,當(dāng)前各行業(yè)傾向于引入最能服務(wù)于其核心功能的人工智能產(chǎn)品,例如,制造業(yè)和分銷運(yùn)輸業(yè)主要引入物理機(jī)器人和自動駕駛系統(tǒng)。而自然語言處理能力則被那些日常工作中需要處理大量文檔、資料、運(yùn)營數(shù)據(jù)的職業(yè)活動所采用,這包括商業(yè)、法律、金融服務(wù)、醫(yī)療保健、計算機(jī)和信息等行業(yè)。隨著人工智能技術(shù)創(chuàng)新迭代和應(yīng)用普及,人工智能對就業(yè)市場的影響持續(xù)擴(kuò)大和深入。本文將主要從經(jīng)濟(jì)學(xué)視角,圍繞人工智能創(chuàng)新的技術(shù)屬性、算法的性別歧視、人工智能技術(shù)對女性就業(yè)選擇的影響,以及人工智能技術(shù)未來發(fā)展趨勢下的女性就業(yè)地位等方面進(jìn)行探討,以期豐富和深化相關(guān)領(lǐng)域的研究。

    一、文獻(xiàn)綜述

    從經(jīng)濟(jì)學(xué)視角看,技術(shù)創(chuàng)新發(fā)展對就業(yè)市場的影響通常體現(xiàn)為兩類效應(yīng),即就業(yè)替代效應(yīng)和就業(yè)創(chuàng)造效應(yīng)[2]。進(jìn)一步而言,對就業(yè)市場的影響又可以分為總量和結(jié)構(gòu)兩個主要維度。針對總量的研究通常在宏觀框架下結(jié)合經(jīng)濟(jì)增長、社會福利、收入平等問題進(jìn)行探討;而針對結(jié)構(gòu)的研究討論又可以從產(chǎn)業(yè)、勞動者技能、工作任務(wù)屬性、區(qū)域、性別等視角進(jìn)行細(xì)分。

    (一)人工智能技術(shù)與就業(yè)總量

    對技術(shù)創(chuàng)新發(fā)展持樂觀態(tài)度的研究普遍強(qiáng)調(diào)就業(yè)創(chuàng)造效應(yīng)。人工智能技術(shù)創(chuàng)新雖然替代部分“傳統(tǒng)”就業(yè)崗位,但同時也催生了新的就業(yè)崗位,總體上表現(xiàn)為對就業(yè)的拉動和對就業(yè)崗位的增量補(bǔ)充[3-5],這一點(diǎn)從長期來看似乎更為顯著[6]。創(chuàng)造效應(yīng)的機(jī)制在于人工智能技術(shù)可以提高勞動生產(chǎn)率、促進(jìn)資本積累,以及創(chuàng)造新的勞動任務(wù)形式,并在刺激經(jīng)濟(jì)增長的同時擴(kuò)大了就業(yè)需求,而其中新任務(wù)創(chuàng)造對就業(yè)需求的拉動作用更為突出[7]。部分學(xué)者雖然對就業(yè)總量的長期狀況并不悲觀,但在收入增長及收入差距方面則表現(xiàn)得較為謹(jǐn)慎。AUTOR和SALOMONS[8]認(rèn)為,雖然技術(shù)進(jìn)步正在增加就業(yè),但對于勞動力份額,情況并非如此。與此同時,人工智能發(fā)展表現(xiàn)出通用目的技術(shù)(General?Purpose?Technologies)特征,其所引致的就業(yè)“擠出”效應(yīng)也不容忽視[9]。

    強(qiáng)調(diào)人工智能技術(shù)發(fā)展對就業(yè)替代作用的研究更多地關(guān)注傳統(tǒng)行業(yè)(如制造業(yè))所面臨的就業(yè)挑戰(zhàn)。多數(shù)研究認(rèn)為,雖然存在行業(yè)間的異質(zhì)性,但總體上智能工業(yè)機(jī)器人應(yīng)用推廣所產(chǎn)生的就業(yè)替代效應(yīng)是顯著的[10-11]。強(qiáng)調(diào)就業(yè)替代效應(yīng)的觀點(diǎn)認(rèn)為,人工智能技術(shù)不同于其他新興技術(shù),不會僅僅局限于單一領(lǐng)域,它會“入侵”各行各業(yè),將直接對數(shù)百個行業(yè)以及數(shù)百萬個崗位帶來沖擊[12],替代對象不僅包括體力勞動者,還會對具有認(rèn)知屬性的崗位帶來挑戰(zhàn)。人工智能技術(shù)發(fā)展的目標(biāo)似乎非常明確,就是接管人類的工作任務(wù),這直接會導(dǎo)致就業(yè)機(jī)會的減少。

    (二)人工智能技術(shù)與就業(yè)結(jié)構(gòu)、任務(wù)屬性

    技術(shù)進(jìn)步推動產(chǎn)業(yè)結(jié)構(gòu)調(diào)整,產(chǎn)業(yè)結(jié)構(gòu)的調(diào)整進(jìn)而導(dǎo)致勞動力要素在不同產(chǎn)業(yè)間動態(tài)配置。人工智能技術(shù)的深入滲透與融合催生新興行業(yè),促進(jìn)傳統(tǒng)行業(yè)勞動力的就業(yè)轉(zhuǎn)移,然后又加速產(chǎn)業(yè)結(jié)構(gòu)的調(diào)整進(jìn)程[13]?;谌螽a(chǎn)業(yè)劃分視角,目前第一產(chǎn)業(yè)的就業(yè)總量受人工智能技術(shù)影響尚不明顯[10],這與人工智能在第一產(chǎn)業(yè)推廣應(yīng)用的現(xiàn)狀有關(guān),但該影響可能會逐漸加強(qiáng)[14]。相較于第一產(chǎn)業(yè),人工智能技術(shù)對第二產(chǎn)業(yè)和第三產(chǎn)業(yè)的影響卻是顯著的。制造業(yè)中首先是勞動密集型和資本密集型行業(yè),由于自動化和智能化技術(shù)的不斷采用(如智能機(jī)器人等),對其勞動力需求結(jié)構(gòu)產(chǎn)生了重要影響[15-16]。當(dāng)前,人工智能技術(shù)的就業(yè)創(chuàng)造效應(yīng)在第三產(chǎn)業(yè)表現(xiàn)較為突出。

    人工智能技術(shù)對不同類型的勞動力及勞動任務(wù)屬性存在異質(zhì)性影響。孫雪等[17]基于中國省級面板數(shù)據(jù)的實(shí)證研究顯示,人工智能應(yīng)用可促進(jìn)教育型和創(chuàng)業(yè)型勞動力就業(yè),而對技術(shù)型勞動力的就業(yè)則存在抑制作用。王林輝等[18]則指出,年齡越大、受教育年限越短的勞動者被替代風(fēng)險越高。研究還發(fā)現(xiàn),人工智能技術(shù)職業(yè)替代風(fēng)險受工作任務(wù)屬性的影響,思維類屬性的工作更易被替代,因而拓展職業(yè)技能寬度則是降低可替代風(fēng)險的途徑之一。

    (三)人工智能技術(shù)與女性就業(yè)

    總體而言,過往的三次科技革命均顯著提升了女性的勞動參與度,在提升女性就業(yè)率的同時也不同程度地提高了女性的工資收入[19],就業(yè)的性別參與差距趨于縮小。而作為第四次技術(shù)革命代表的人工智能技術(shù)對就業(yè)市場的性別影響似乎更為復(fù)雜,國際勞工組織(ILO)最近的一份研究[20]指出,雖然整體上人工智能對就業(yè)的創(chuàng)造效應(yīng)更大,但在替代效應(yīng)中自動化對女性就業(yè)占比的影響是成倍的。目前,在人工智能對女性就業(yè)影響的相關(guān)研究中,勞動技能屬性和算法歧視是討論較為集中的領(lǐng)域。

    李建奇[21]將理工科技能和社交技能界定為非常規(guī)技能,體力技能為常規(guī)技能,前者與數(shù)字化互補(bǔ),后者則與數(shù)字化互斥。研究認(rèn)為,相較男性,數(shù)字化對女性就業(yè)有著更為顯著的促進(jìn)作用,原因在于女性更能勝任非常規(guī)技能。而隆云滔等[22]則認(rèn)為,在我國由于女性大多從事重復(fù)性工作,這類工作正是人工智能機(jī)器人取代的對象,所以女性受到的沖擊應(yīng)相對更大,這一觀點(diǎn)在某種程度上得到了朱軼[23]實(shí)證分析結(jié)果的支持。朱軼的實(shí)證研究結(jié)果顯示,隨著數(shù)字化技術(shù)普及和人工智能技術(shù)應(yīng)用,與女性相比,男性在就業(yè)上受益更大,就業(yè)率的性別差異擴(kuò)大。同時,由于人工智能技術(shù)的底層邏輯是基于大數(shù)據(jù)(大模型)的算法,人工智能系統(tǒng)及其“黑匣子”算法可能會對性別平等構(gòu)成重大挑戰(zhàn)[24]。人工智能系統(tǒng)中的性別偏見導(dǎo)致女性資源、信息和機(jī)會的分配不公平[25]。

    綜上,關(guān)于人工智能技術(shù)發(fā)展如何影響女性就業(yè)的研究仍然處于探討階段,這與人工智能技術(shù)仍處于加速迭代的發(fā)展階段有著密切關(guān)系。人工智能首先表現(xiàn)出一種具有通用目的技術(shù)屬性的技術(shù)創(chuàng)新和進(jìn)步,目前從技術(shù)進(jìn)步視角出發(fā)的研究主要是圍繞兩個因素展開分析:一是技術(shù)創(chuàng)新如何直接塑造就業(yè)以及影響勞動力在增值中所占份額;二是該影響在就業(yè)和勞動力份額方面的間接效應(yīng)。不過,人工智能技術(shù)與以往技術(shù)革命中涌現(xiàn)出的通用目的技術(shù)存在著重要區(qū)別,這一點(diǎn)削弱了基于歷史數(shù)據(jù)的研究結(jié)論的現(xiàn)實(shí)解釋力以及對未來發(fā)展趨勢的預(yù)見程度。

    二、就業(yè)市場的沖擊:人工智能技術(shù)創(chuàng)新的非帕累托進(jìn)步

    “人工智能”這個概念由約翰·麥卡錫在1956年的達(dá)特茅斯會議上首先提出。數(shù)字經(jīng)濟(jì)背景下,人工智能技術(shù)創(chuàng)新發(fā)展突飛猛進(jìn),人工智能應(yīng)用、泛化和遷移加速。人類歷史上的第一次工業(yè)革命在其發(fā)軔100多年后才擴(kuò)展到西歐、美國以外的國家和地區(qū),但人工智能技術(shù)卻幾乎于同一階段在全球范圍內(nèi)開始落地。工業(yè)革命中,機(jī)器是技術(shù)創(chuàng)新的物化形式,因其本身就是“能工巧匠”而直接替代了勞動者[26]。針對機(jī)器換人,大衛(wèi)·李嘉圖[27]后期觀點(diǎn)認(rèn)為這種替代對勞動者是有害的,這一觀點(diǎn)似乎給予“盧德派”以理論上的支持。而當(dāng)下快速發(fā)展的人工智能技術(shù)顯現(xiàn)出比過往技術(shù)革命中所形成的通用目的技術(shù)更為突出的顛覆性。

    (一)技術(shù)創(chuàng)新與進(jìn)步并非遵循帕累托最優(yōu)原則

    技術(shù)進(jìn)步可以被視為對生產(chǎn)可能性邊界的跨越。單純市場選擇下的技術(shù)進(jìn)步,其發(fā)展速度與方向通常并非最優(yōu)。人類發(fā)展中相當(dāng)漫長的一段歷史是在所謂的“馬爾薩斯階段”度過的,其主要特征是絕大多數(shù)人口生活水平停留在維持生計狀態(tài)。工業(yè)革命改變了世界,那些高收入國家開啟了快速增長階段,人類幸運(yùn)地擺脫了馬爾薩斯約束。然而,從歷史發(fā)展看,由技術(shù)創(chuàng)新和應(yīng)用推動的工業(yè)革命并非帕累托式的技術(shù)進(jìn)步。那些最終被證明對整個社會有益的創(chuàng)新,往往并不能使每個人受益,在過渡期內(nèi)還可能帶來明顯的斷層。KORINEK和STIGLITZ[28]指出,在合理的經(jīng)濟(jì)學(xué)假設(shè)下,市場選擇的技術(shù)進(jìn)步速度和方向通常是次優(yōu)的。創(chuàng)新的分配效應(yīng)可以被視為準(zhǔn)租金生產(chǎn)——除了為創(chuàng)新者帶來直接收益外,創(chuàng)新還會導(dǎo)致要素需求的變化,例如:降低對非熟練勞動力的需求,同時提高對熟練勞動力的需求,受影響的勞動者會經(jīng)歷收益或損失。該過程中的贏家,例如:新技術(shù)應(yīng)用下的技術(shù)工人在沒有為創(chuàng)新作出貢獻(xiàn)的情況下卻獲得了新技術(shù)所帶來的收益,即獲得了準(zhǔn)租金,而失敗者(被淘汰者)則經(jīng)歷沒有任何過錯的損失。

    (二)人工智能技術(shù)進(jìn)步的就業(yè)替代效應(yīng)具有更為復(fù)雜的特征

    市場競爭推動技術(shù)創(chuàng)新的直接目標(biāo)是提高生產(chǎn)率,而創(chuàng)新在分配方面的影響通常是不會被考慮在內(nèi)的。于是,市場自然偏向于產(chǎn)生大量的旨在節(jié)省要素投入的創(chuàng)新,勞動力要素是其中之一。希克斯在研究各要素之間相互關(guān)系時刻畫了三種要素偏向的(非依附性)技術(shù)進(jìn)步,其中導(dǎo)致勞動力相對份額減少的技術(shù)變革被稱為資本偏向型;在此基礎(chǔ)上,如果它導(dǎo)致非熟練勞動力的比例下降,則稱為技能偏向型;如果它導(dǎo)致工資的絕對減少,則被稱為勞動節(jié)約型[29]。如果機(jī)器可以從事傳統(tǒng)上由人類勞動完成的所有任務(wù),并且如果它們可以以更低的成本做到這一點(diǎn),那么傳統(tǒng)意義上的勞動最終將變得多余。雖然20世紀(jì)早期、中期甚至后期的技術(shù)進(jìn)步主要集中在體力勞動者身上,即早期的技術(shù)進(jìn)步降低了從事簡單勞動的勞動力,但是,21世紀(jì)以來的技術(shù)發(fā)展,特別是機(jī)器學(xué)習(xí)的快速迭代,被“貶值”的勞動力范圍正在進(jìn)一步擴(kuò)大。那種認(rèn)為人工智能的影響主要針對的是重復(fù)性、常規(guī)性工作任務(wù)的觀點(diǎn)需要進(jìn)一步探討。OECD的一份研究報告[30]指出,近年來,人工智能在諸如感知速度、演繹推理等認(rèn)知性任務(wù)(非常規(guī)性任務(wù))中取得快速進(jìn)展。這導(dǎo)致人工智能大量應(yīng)用于高技能崗位,如高級商務(wù)管理、法律等。但需要強(qiáng)調(diào)的是,早期技術(shù)進(jìn)步推動的經(jīng)濟(jì)轉(zhuǎn)型,從農(nóng)村到工業(yè)化與城市化,其總體發(fā)展方向是趨向平等的社會,或者說是某種程度上促進(jìn)差異的收斂。這主要是由于早期技術(shù)推動的轉(zhuǎn)型提升了非熟練勞動力的相對生產(chǎn)率,且工業(yè)化、城市化發(fā)展快速普及了教育。

    (三)人工智能技術(shù)推動的經(jīng)濟(jì)和社會轉(zhuǎn)型對女性就業(yè)帶來挑戰(zhàn)

    相關(guān)研究對未來幾十年可能被人工智能及自動化取代的工作進(jìn)行了預(yù)測,雖然各種預(yù)測結(jié)果之間的差距較大——如OECD的預(yù)測結(jié)果是被取代的工作崗位占總體工作崗位的14%,而麥肯錫全球研究所的預(yù)測則是50%。即使是較低的預(yù)測數(shù)字也會產(chǎn)生重大影響,特別是當(dāng)這些影響很有可能集中到某些行業(yè)和某些群體時,其中女性群體面臨的挑戰(zhàn)更為突出。2019年麥肯錫發(fā)布的一份關(guān)于女性未來工作的報告指出,由于受人工智能支持的自動化技術(shù)的影響,全球?qū)⒂??000萬到1.6億位女性需要在2030年前進(jìn)行“轉(zhuǎn)崗”,否則將會面臨或者接受更低薪酬,或者離開勞動力市場的選擇。部分相關(guān)研究進(jìn)一步指出,人工智能的影響具有高度的性別偏向性,例如:自動化人工智能對就業(yè)人數(shù)的影響的方面,女性受沖擊的比例是平均值的兩倍以上——無論是在低收入還是高收入國家,數(shù)據(jù)顯示的結(jié)果基本一致[20]。這勢必進(jìn)一步惡化長期存在的性別就業(yè)鴻溝問題,而就業(yè)市場的“性別鴻溝”有損于社會整體福利。2016年歐盟發(fā)布的《性別就業(yè)鴻溝》報告中估算了歐盟成員國因存在性別就業(yè)鴻溝所導(dǎo)致的經(jīng)濟(jì)損失,2013年因女性就業(yè)率低于男性造成的總資源成本和公共財政成本超過3?700億歐元,相當(dāng)于當(dāng)年歐盟成員國GDP的2.8%。

    人工智能技術(shù)創(chuàng)新所推動的技術(shù)進(jìn)步在很大程度上呈現(xiàn)出非帕累托效應(yīng),而對于女性而言,人工智能技術(shù)發(fā)展與應(yīng)用所帶來的就業(yè)影響不僅體現(xiàn)在人工智能對就業(yè)市場的整體沖擊方面,還體現(xiàn)在一種更為隱性的挑戰(zhàn)上。

    三、缺失的女性視角:人工智能系統(tǒng)的性別偏見“再生產(chǎn)”

    算法、算力和大數(shù)據(jù)是當(dāng)前人工智能發(fā)展的三大支撐。大數(shù)據(jù)是現(xiàn)實(shí)社會的特殊映像集合,人工智能算法隱含制定者與參與者的觀念,這導(dǎo)致關(guān)于女性和男性及其在社會中的任務(wù)、角色的定型觀念實(shí)際上已經(jīng)反映在了工程實(shí)驗(yàn)室設(shè)計的機(jī)器中。不僅如此,人工智能模型還可以強(qiáng)化和放大現(xiàn)實(shí)社會中的性別偏見。

    (一)人工智能系統(tǒng)存在性別偏見

    人工智能自被正式提出后,其發(fā)展也從知識驅(qū)動模式迭代到數(shù)據(jù)驅(qū)動模式,并正進(jìn)入“知識+數(shù)據(jù)”雙核驅(qū)動模式的發(fā)展階段。人工智能系統(tǒng)使用算法來解釋結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)。這些算法類似于“配方”,包括制定問題的目標(biāo),組織、處理以及分析數(shù)據(jù)集的邏輯步驟順序。隨著人工智能技術(shù)的普及,關(guān)于人工智能的公平性和透明度方面的研究呈爆發(fā)式增長,人工智能系統(tǒng)的公平性和偏見問題已經(jīng)轉(zhuǎn)變?yōu)橐粋€具有廣泛影響的主流研究課題。人工智能系統(tǒng)偏誤主要源于數(shù)據(jù)、算法和其本身的不透明性。在數(shù)據(jù)驅(qū)動模式下,人工智能應(yīng)用的質(zhì)量主要取決于訓(xùn)練數(shù)據(jù)的質(zhì)量、算法、設(shè)計(語音、形狀等特征的體現(xiàn))以及系統(tǒng)在特定語境中的實(shí)現(xiàn)。算法和人工智能系統(tǒng)這兩個貌似代表技術(shù)理性的術(shù)語實(shí)際上掩蓋了文化、社會和政治價值觀以及隨之而來的潛在歧視和偏見。因此簡單地認(rèn)為人工智能技術(shù)是客觀的或中立的,其觀點(diǎn)本身就是有偏的。ONEIL[31]更為尖銳地指出:算法只不過是用編程語言制定的觀點(diǎn)。

    基于社會學(xué)視角,性別強(qiáng)調(diào)的是一種歷史上繼承的、社會建構(gòu)的、規(guī)范化的行為、特征與外在表現(xiàn),這些共同將人定義為女性或男性,或作為(一種)需要抵制的框架。技術(shù)設(shè)計經(jīng)常捕捉和復(fù)制對性別與種族的控制和限制性概念,然后反復(fù)強(qiáng)化。試圖從人工智能系統(tǒng)中“剝離”性別和種族的嘗試往往會誤解性別和種族是什么,將它們視為可隔離的屬性,而不是更廣泛的權(quán)利系統(tǒng)。伯克利哈斯公平、性別和領(lǐng)導(dǎo)力中心追蹤人工智能系統(tǒng)中可能存在的偏誤,他們在1988年至2021年的不同行業(yè)中發(fā)現(xiàn)133個系統(tǒng)存在偏差,而幾乎每兩個偏差中就有一個表現(xiàn)出性別偏見。人工智能系統(tǒng)中的性別偏見將導(dǎo)致在資源、信息和機(jī)會分配方面對女性的不公平,包括由人工智能技術(shù)驅(qū)動的基于性別歧視的篩選系統(tǒng)、基于種族歧視的商業(yè)人臉識別系統(tǒng),以及基于社會經(jīng)濟(jì)地位和種族偏見的臨床健康手段等。一個典型的事例是,亞馬遜為選擇優(yōu)秀軟件工程師而推出了一個帶有人工智能性質(zhì)的招聘算法,后因該人工智能系統(tǒng)被發(fā)現(xiàn)有意降低女性求職者的招聘優(yōu)先級而備受指責(zé)并最終放棄。

    (二)人工智能系統(tǒng)對性別偏見的“再生產(chǎn)”

    相關(guān)研究進(jìn)一步發(fā)現(xiàn),人工智能系統(tǒng)可以放大甚至產(chǎn)生新的基于性別的偏見。人工智能系統(tǒng)模型反映且放大了人類社會的已有偏見,并生成了關(guān)于外部世界的錯誤信息。有偏見的數(shù)據(jù)集放大了性別、種族不平等,并將過去和現(xiàn)在的偏見投射到未來[32]。例如:多模態(tài)語言-視覺模型在圖像分類和從文本描述中創(chuàng)建圖像等任務(wù)上創(chuàng)造了新的紀(jì)錄,但它們也在其輸出中反映了社會固有觀念和偏見。更值得關(guān)注的是,雖然大型語言模型正在不斷創(chuàng)造技術(shù)基準(zhǔn)的新紀(jì)錄,但新數(shù)據(jù)顯示大型模型也更能反映出訓(xùn)練數(shù)據(jù)的偏見。對比2018年最先進(jìn)的1.17億參數(shù)的模型,2021年開發(fā)的一個2?800億參數(shù)的模型所引發(fā)的毒性(Elicited?Toxicity)增加了29%。隨著時間的推移,這些系統(tǒng)的能力明顯增強(qiáng),但伴隨而來的是其潛在的偏見程度也在增加[33]。此外,人工智能系統(tǒng)可能會產(chǎn)生新的基于性別的偏見和歧視,即使它們是根據(jù)性別中立的特征進(jìn)行訓(xùn)練的。當(dāng)算法用表面上中立的特征代替受保護(hù)類別時,就會發(fā)生“代理歧視”。例如:科學(xué)、技術(shù)、工程和數(shù)學(xué)(Science,?Technology,?Engineering?and?Mathematics,縮寫為“STEM”)領(lǐng)域的工作機(jī)會更有可能展示給男性,而不是女性,即使這些廣告明確指出不分性別。這實(shí)際上會導(dǎo)致女性的“崗位隔離”或“職業(yè)隔離”。

    (三)現(xiàn)有法規(guī)仍無法有效回應(yīng)人工智能型性別歧視

    人工智能系統(tǒng)及其“黑匣子”算法,通常以工業(yè)規(guī)模生產(chǎn)形式內(nèi)置于機(jī)構(gòu)決策的后端,對那些影響其生活和機(jī)會的人來說是看不見和不知道的,這將對性別平等構(gòu)成重大挑戰(zhàn)。這種潛在的性別不平等極易構(gòu)建成為一個難以破除的惡性循環(huán),使現(xiàn)有有害的刻板印象以及偏見永久化。性別歧視問題是研究勞動力市場的一個重要視角,也是各國法律逐步重視與規(guī)制的重要領(lǐng)域。就當(dāng)前而言,包括數(shù)據(jù)保護(hù)、反歧視、反壟斷、消費(fèi)者法規(guī)在內(nèi)的現(xiàn)有法律框架針對人工智能系統(tǒng)(特別是人工智能驅(qū)動的性別差異方面)仍存在著較大的適用性問題?,F(xiàn)有反就業(yè)歧視法主要包括的“不打探”“不考慮”“不卸責(zé)”等規(guī)則均無法很好地應(yīng)對算法歧視[34]。在沒有執(zhí)行機(jī)制的情況下,自我強(qiáng)加的標(biāo)準(zhǔn)和抽象道德系統(tǒng)的擴(kuò)散不足以解決人工智能驅(qū)動的性別歧視所帶來的復(fù)雜監(jiān)管問題。

    總之,在人工智能技術(shù)發(fā)展中,女性視角的缺失為性別偏見與歧視提供了空間,這將導(dǎo)致女性就業(yè)門檻的提高。不過,在克勞迪婭·戈爾?。–LAUDIA?GOLDIN)看來,對于高等教育普及率較高的國家,相較就業(yè)市場的性別歧視,其他變量影響似乎更為顯著。

    四、家庭還是職場:人工智能技術(shù)發(fā)展趨勢下的女性就業(yè)選擇

    受教育程度的性別差異曾長期被認(rèn)為是就業(yè)性別差異的重要原因。隨著教育普及程度持續(xù)提高以及現(xiàn)代教育中的性別平等政策,接受高等教育的女性比例不斷提升。以我國為例,根據(jù)國家統(tǒng)計局公布的數(shù)據(jù)測算,2021年我國大專及以上人口中,男性占比52%,女性占比48%。如果以連續(xù)接受教育情況下完成大專教育通常在20歲及以上為前提,2021年我國女性人口中具有大專及以上教育程度的占比為22.25%,男性則為23.6%,在性別上兩項(xiàng)數(shù)據(jù)基本持平。2020年我國高等教育階段成人本??圃谛#┥?,女性占比58.0%,在普通本??浦羞@一比例為51.0%,而在研究生中該比例為50.9%,均略高于男性。同樣,在高收入國家中,接受高等教育的男女比例已經(jīng)沒有明顯差異。在這樣的背景下,GOLDIN?CLAUDIA[35]提出“貪婪的工作”是影響女性職業(yè)選擇的重要影響因素。

    (一)分析女性職業(yè)選擇的新視角

    戈爾丁在研究中沿用加里·貝克爾的分析范式,但提出了新的研究視角。貝克爾對經(jīng)濟(jì)分析的貢獻(xiàn)之一是在勞動經(jīng)濟(jì)領(lǐng)域,特別是家庭范疇內(nèi)采用了原本只應(yīng)用于廠商和消費(fèi)者的微觀經(jīng)濟(jì)學(xué)分析框架。在貝克爾的理論中,家庭如同企業(yè)一樣是一個生產(chǎn)單位,不同成員的生產(chǎn)要素投入會帶來包括子女、技能、健康、聲譽(yù)等家庭產(chǎn)出。約束因素主要來源于貨幣和時間,家庭決策是在貨幣和時間兩個約束因素下的權(quán)衡,當(dāng)貨幣和時間既定時,為了實(shí)現(xiàn)最大化家庭效用(產(chǎn)出),家庭成員需要對有限資源進(jìn)行最優(yōu)化配置。當(dāng)前關(guān)于數(shù)字經(jīng)濟(jì)、人工智能與女性就業(yè)問題的研究雖然也充分考慮到了所謂的“生育懲罰”問題,但在擴(kuò)展女性就業(yè)方面更多的是從數(shù)字經(jīng)濟(jì)、人工智能是否提供靈活就業(yè)機(jī)會的角度進(jìn)行討論,而所謂靈活就業(yè)機(jī)會的增加也在很大程度上混淆了工作與家庭的邊界。

    戈爾丁把研究對象聚焦在美國百年間受過高等教育的女性,依據(jù)出生年代分為五組,也可以稱為五個階段,進(jìn)而對比分析五組女性們在家庭和事業(yè)兩者間的選擇。戈爾丁為每個階段的女性自身以及對婚育、事業(yè)的態(tài)度與選擇進(jìn)行了量化比較。如果從這些描述性特征和量化指標(biāo)看,我國目前大體屬于戈爾丁所劃分的五個發(fā)展階段中的第四個階段,因此其研究具有參考價值。戈爾丁指出,從歷史來看,技術(shù)進(jìn)步對勞動任務(wù)屬性的改變、醫(yī)療和藥物研發(fā)為女性推遲婚姻和生育提供了更大的選擇空間,促進(jìn)了女性走向獨(dú)立和進(jìn)一步擺脫來自事業(yè)和家庭的阻力。此外,隨著女性接受高等教育的比例不斷提升(甚至高于男性),她們在兼顧事業(yè)和家庭方面的能力也隨之不斷加強(qiáng),但是她們的收入和事業(yè)成就仍然與男性存在較大差距。戈爾丁認(rèn)為,出現(xiàn)這種現(xiàn)象的主要原因并非源于女性在工作中受到顯著的不平等待遇,也非源于女性在職位選擇時出現(xiàn)明顯偏差所致,而是直接源于女性權(quán)衡家庭利益后的自主選擇。也即,女性選擇縮減了自己的職業(yè)生涯。在這里,我們不能排除貝克爾強(qiáng)調(diào)的“家庭中的利他主義”[36]因素對女性選擇的影響,但戈爾丁提出了一個新的概念“貪婪的工作”(Greedy?Work)及研究視角。

    (二)“貪婪的工作”導(dǎo)致女性回歸傳統(tǒng)性別角色

    戈爾丁所提出的“貪婪的工作”是個多維度的概念,涉及到工作時長、工作強(qiáng)度以及工作任務(wù)的完成期限等,它的重要特征是如果員工可以承諾隨叫隨到、隨時待命,雖然他(們)投入的時間可能多出一倍,但其工資收入通常遠(yuǎn)高于一倍,即可以理解為隨勞動投入時間程度不同薪酬發(fā)生非線性變化,這里的勞動時間投入顯然具有一定的排他性。相反,那些無法承諾投入額外時間的員工,如有子女需要照料或需要承擔(dān)其他家庭責(zé)任,就很難在工作上隨叫隨到,其工作所得相較于前者則會不成比例地縮減。前后兩種情況下的工資收入差異不是基于固定薪酬標(biāo)準(zhǔn)計算出來的。這實(shí)際上是在貝克爾家庭決策的分析框架內(nèi)增加了一個變量,戈爾丁認(rèn)為這應(yīng)該是主要的影響變量。將此變量置于貝克爾的研究框架中,女性(特別是已婚女性)在進(jìn)行家庭和事業(yè)的決策時,面對的是一個非線性求解問題,這增加了決策的難度,相較線性決策,它更傾向于讓女性選擇留在家庭中。這一變量也勢必會影響到女性在婚育方面的選擇。戈爾丁認(rèn)為“貪婪的工作”促使男性和女性回歸到傳統(tǒng)的性別角色。

    (三)人工智能技術(shù)增加工作靈活性供給、降低供給成本

    現(xiàn)代女性更為普遍地希望能夠兼顧事業(yè)和家庭,希望既能夠在就業(yè)市場中打拼,得到應(yīng)該有的回報,同時又可以擁有一個穩(wěn)定合宜的家庭。基于戈爾丁研究,一項(xiàng)重要的解決方案自然就指向如何降低工作的“貪婪度”。換一個角度即可以理解為,如果工作性質(zhì)具有(或者說雇主能夠提供)更多的“靈活性”,就可以有效地抵消“貪婪的工作”所產(chǎn)生的外部效應(yīng)。工作能否提供足夠的靈活性,使得女性在需要時可以照顧家庭,將直接影響女性在職場和家庭之間的選擇。其結(jié)果不僅關(guān)系到更好地兼顧生活和工作,還關(guān)系到就業(yè)市場中的性別平等。那么人工智能技術(shù)的發(fā)展和應(yīng)用是否有助于實(shí)現(xiàn)這種工作上的“靈活性”呢?戈爾丁分析了美國的藥劑師職業(yè),她發(fā)現(xiàn)該崗位上的男性和女性員工在各方面的差距非常細(xì)微,原因在于藥劑師崗位上的數(shù)字化普及率和業(yè)務(wù)覆蓋率較高,人工智能普及和利用的基礎(chǔ)較好,具體配方標(biāo)準(zhǔn)、注意事項(xiàng)等均可在智能系統(tǒng)中明確得到回應(yīng),因此并不需要該崗位的人員做到“隨叫隨到”。從技術(shù)特點(diǎn)和發(fā)展趨勢而言,人工智能不僅能夠促進(jìn)原有職業(yè)崗位更具有靈活性(這里的“靈活性”是與戈爾丁的“貪婪的工作”相對應(yīng)的概念),而且還會催生出靈活性的新職業(yè)、新崗位?;谥袊⒂^層面調(diào)查數(shù)據(jù)的研究也支持人工智能技術(shù)在重塑職業(yè)任務(wù)過程中促進(jìn)了工作任務(wù)向靈活性方向發(fā)展的結(jié)論[37]。

    此外,人工智能發(fā)展將進(jìn)一步降低“靈活性”的供給成本。雇主為提供“靈活性”所要承擔(dān)的成本以及員工愿意接受的對價也是權(quán)衡中涉及的重要因素。由于行業(yè)和企業(yè)類型、規(guī)模的差異,這種權(quán)衡的具體情景會比較復(fù)雜。但總體而言,一方面,人工智能技術(shù)創(chuàng)新及其快速迭代本身有利于降低工作崗位對特定人員的依賴性,降低“隨叫隨到”的需求;另一方面,人工智能本身的應(yīng)用成本也呈現(xiàn)快速下降的趨勢,斯坦福大學(xué)人文智能中心(HAI)2022年人工智能指數(shù)報告中指出,自2018年,用于人工智能訓(xùn)練的成本已經(jīng)降低了63.6%,訓(xùn)練時間更是縮短了94.4%。而智能機(jī)器人手臂的價格也出現(xiàn)大幅降低,以中等價位的機(jī)器手臂為例,平均單價已由2017年的4.2萬美金降到2021年的2.26萬美金,下降幅度為46.2%。人工智能技術(shù)發(fā)展和普及對于應(yīng)用成本的持續(xù)降低是完全可以預(yù)期的,企業(yè)從“信息化”到“數(shù)字化”再到“數(shù)智化”的轉(zhuǎn)型也是大勢所趨。因此,“貪婪的工作”對現(xiàn)代女性在事業(yè)和家庭之間進(jìn)行選擇時的負(fù)外部性,將有希望得到持續(xù)糾正。與此同時,當(dāng)我們把目光投向人工智能技術(shù)的未來,其發(fā)展趨勢或?qū)⑼怀雠栽谇楦信c人際關(guān)系方面的稟賦優(yōu)勢,進(jìn)而影響就業(yè)市場中的性別結(jié)構(gòu)。

    五、亞當(dāng)·斯密的晚餐:人工智能或?qū)⒋呱蜆I(yè)的女性時代

    在經(jīng)濟(jì)學(xué)領(lǐng)域中,任何對“經(jīng)濟(jì)人”假設(shè)的質(zhì)疑都不會繞過亞當(dāng)·斯密和《國富論》,即便是基于性別視角。凱特琳·馬歇爾(KATRINE?MARAL)[38]從性別(女性)平等出發(fā),批判斯密提出的“經(jīng)濟(jì)人”假設(shè)充斥著所謂理性的自利動機(jī)和“男性特質(zhì)”。進(jìn)入數(shù)字經(jīng)濟(jì)時代,人工智能技術(shù)的發(fā)展方向與趨勢使我們有理由相信人類本身在感性認(rèn)知與人際交流方面的自然稟賦將成為“人類智能”與人工智能之間的最后一條護(hù)城河,而這一點(diǎn)對就業(yè)市場中的女性地位或?qū)a(chǎn)生重要影響。

    (一)“斯密晚餐”的雙重隱喻

    亞當(dāng)·斯密[39]在《國富論》中為進(jìn)一步說明“經(jīng)濟(jì)人”假設(shè),以日常生活的晚餐為例,“我們期望的晚餐并非來自屠夫、醬酒師和面包師的恩惠,而是來自他們對自身利益的關(guān)切”。由于斯密終身未婚并始終由其母親照顧起居,凱特琳·馬歇爾借這個晚餐的例子質(zhì)疑斯密該如何用“經(jīng)濟(jì)人”的自利動機(jī)解釋母親給予的親情陪伴與關(guān)愛,當(dāng)然還有母親每日親手為其準(zhǔn)備的晚餐。如果置于一個更大的社會框架中討論,凱特琳·馬歇爾的質(zhì)疑有其合理性,但具體到亞當(dāng)·斯密,就必須將他的《道德情操論》一并考慮進(jìn)來?!秶徽摗泛汀兜赖虑椴僬摗返母陌嫘抻喒ぷ魇窃诮惶嬷羞M(jìn)行的,《道德情操論》第六版出版幾個月之后,亞當(dāng)·斯密于愛丁堡辭世。在亞當(dāng)·斯密這里,兩部著作的重要性不分仲伯?!皩λ姑芏裕?jīng)濟(jì)生活同時是一個有關(guān)情操的問題……情操是經(jīng)濟(jì)奮斗的目標(biāo)?!保?0]亞當(dāng)·斯密一面在《國富論》中開篇談分工,另一面在《道德情操論》中開篇“論同情”。他認(rèn)為[41]:“無論人們會認(rèn)為某人怎樣自私,這個人的天賦中總是明顯地存在著這樣一些本性,這些本性使他關(guān)心別人的命運(yùn),把別人的幸??闯墒亲约旱氖虑椤薄斑@種本性就是憐憫或同情”。他進(jìn)一步強(qiáng)調(diào),“不管同情的原因是什么,或者它是怎樣產(chǎn)生的,再也沒有比滿懷激情地看到別人的同感更使我們高興”。實(shí)際上,亞當(dāng)·斯密手中的硬幣一面鑄有“理智”(完全理性),另一面印有“情感”。前者作為一種理論假設(shè)給到了“經(jīng)濟(jì)人”,后者留給了真實(shí)存在的“自然人”。于是亞當(dāng)·斯密的晚餐則至少也具有了另一層隱喻。就提供晚餐而言,合理的推測是,即便技術(shù)(如人工智能廚師)可以替代“母親”為其準(zhǔn)備晚餐,斯密仍然會堅定地選擇母親,除非出于對母親身體的體恤而做出自我選擇的“犧牲”。母親的廚藝在這里似乎并不是那么重要,重要的是母親的晚餐承載和融入了體貼與親情,與母親共進(jìn)晚餐的過程充滿了人類不可或缺的情感互動。從這個角度來講,情感交流的需求與供給以及由此衍生出的社會交往技能或許是人類與人工智能技術(shù)替代可能性之間的最后一道籬笆。

    (二)人工智能技術(shù)發(fā)展推動“情感經(jīng)濟(jì)”的到來

    關(guān)于人工智能技術(shù)能走多遠(yuǎn),在多大程度上追趕甚至超越人類智能這類問題,布萊恩約弗森和麥卡菲[42]是這樣表述的:對于數(shù)字化的所有事情,最明智的做法就是“永遠(yuǎn)也不要說絕不會”。自從進(jìn)入信息技術(shù)和互聯(lián)網(wǎng)快速發(fā)展階段,諸如“共享經(jīng)濟(jì)”“平臺經(jīng)濟(jì)”“意愿經(jīng)濟(jì)”等概念不斷被提出,它們不僅反映了信息和互聯(lián)網(wǎng)的技術(shù)性特征,同時也表現(xiàn)為不同生意模式和經(jīng)濟(jì)形態(tài)的出現(xiàn)。如“共享經(jīng)濟(jì)”強(qiáng)調(diào)的是通過“共享”使用權(quán),提高資源、資產(chǎn)、商品和服務(wù)等的利用效率,同時降低使用成本;“平臺經(jīng)濟(jì)”則是強(qiáng)調(diào)一種具有雙邊市場效應(yīng)的市場經(jīng)濟(jì)組織形式;而“意愿經(jīng)濟(jì)”某種程度上是“注意力經(jīng)濟(jì)”的升級版,強(qiáng)調(diào)以需求為導(dǎo)向、圍繞消費(fèi)者意向進(jìn)行經(jīng)營,以需求為導(dǎo)向,變賣家廣告為買家廣告。當(dāng)下,對于人工智能將深刻地改變?nèi)藗兊纳a(chǎn)和生活方式這一命題已經(jīng)不再有太多爭議,而隨著人工智能向人類智能逼近,“情感經(jīng)濟(jì)”的出場或?qū)⒉贿h(yuǎn)。

    “情感經(jīng)濟(jì)”是指人們的就業(yè)和收入更多依靠情感任務(wù)的經(jīng)濟(jì)活動形態(tài)。按照拉斯特和黃明蕙[43]的觀點(diǎn),情感經(jīng)濟(jì)的產(chǎn)生是人工智能技術(shù)發(fā)展推進(jìn)的結(jié)果,在某種程度上可以說是被動產(chǎn)生的。如果把早期的自動化界定為人工智能的“機(jī)械”階段,這可以算作人工智能的初級形式,表現(xiàn)為最低限度的機(jī)器學(xué)習(xí)和適應(yīng)。這種機(jī)械人工智能可以更多地承擔(dān)人們的機(jī)械性工作任務(wù),于是將人們從“體力經(jīng)濟(jì)”階段推進(jìn)到更加重視和依賴思考性任務(wù)的“思維經(jīng)濟(jì)”階段。但隨著具有思維能力的人工智能技術(shù)獲得長足進(jìn)步,這種包括了分析智能和直覺智能的思維型人工智能又開始進(jìn)一步承擔(dān)越來越多的思考任務(wù),需要做這種思考的人數(shù)將傾向于減少,人們的思考能力或?qū)⒈幌魅?,進(jìn)而轉(zhuǎn)向更加注重情感和感受。對應(yīng)到經(jīng)濟(jì)活動形態(tài)的演化,則有了“情感經(jīng)濟(jì)”的出現(xiàn)。在這個階段,人們的工作性質(zhì)將發(fā)生變化,譬如客服崗位,人工客服已經(jīng)呈現(xiàn)日益減少的趨勢,這是人工智能替代效應(yīng)的體現(xiàn),但同時,原人工客服面臨著提升技能的需要,他們將被要求更專注于涉及判斷力、直覺、情感、同理心和人際關(guān)系技巧的工作任務(wù)。

    (三)情感經(jīng)濟(jì)或?qū)⒏淖兣栽诰蜆I(yè)市場中的地位

    情感經(jīng)濟(jì)形態(tài)中人們所依賴的情感任務(wù)是指工作任務(wù)中所涉及的“軟”的方面,例如:與人溝通、建立和維持關(guān)系、影響他人等。情感經(jīng)濟(jì)的突出特點(diǎn)是人與人工智能機(jī)器之間的分工,即人類負(fù)責(zé)情感型的工作,機(jī)器負(fù)責(zé)思維型的工作。這種分工在某種程度上改變了《國富論》中提出的勞動分工的發(fā)展路徑,具有一定的顛覆性質(zhì),但并沒有遠(yuǎn)離《道德情操論》的核心。情感經(jīng)濟(jì)形態(tài)所強(qiáng)調(diào)的最重要的技能,可以概括為一種“共情能力”。與被智能技術(shù)加持的機(jī)器競賽,人類需要爭分奪秒地去做自己相對擅長的事情,也就是涉及情感和人際關(guān)系的工作。就平均水平而言,女性相對于男性在“共情能力”方面具有較明顯的優(yōu)勢,這很大一部分來自“自然稟賦”。情感經(jīng)濟(jì)雖然是在討論人工智能技術(shù)所可能引起的顛覆性變革與人類發(fā)展未來的語境下提出的,但就其本身而言,有其客觀存在的現(xiàn)實(shí)基礎(chǔ)。以美國高技能男性和女性就業(yè)市場為例,CORTES等[44]研究發(fā)現(xiàn),1980年以來,盡管受過高等教育的女性供給大于男性,但這些女性的就業(yè)概率是提高的,對女性技能需求的相對增加是由于社交技能在這些職業(yè)中的重要性日益增加的緣故。DEMING[45]研究也發(fā)現(xiàn),勞動力市場越來越重視社交技能?;诿绹鴦趧恿κ袌鰯?shù)據(jù)測算,1980—2012年,高度社交互動技能需要型工作占比增長了近12%,而單純的STEM職業(yè)在同一時期卻出現(xiàn)了3.3%幅度的萎縮,勞動力市場對于“STEM+社交技能”復(fù)合型能力的勞動力就業(yè)需求及其相應(yīng)工資的增長尤為強(qiáng)勁。因此,情感經(jīng)濟(jì)可能帶來的一個結(jié)果是,女性在未來經(jīng)濟(jì)活動中的地位將變得更加重要。在情感經(jīng)濟(jì)階段,人工智能將擔(dān)當(dāng)思考的主力軍,“人類智能”將成為情感的主力軍,而女性將扮演更為重要的角色。

    六、結(jié)語

    本文嘗試就人工智能技術(shù)發(fā)展對女性就業(yè)的若干影響進(jìn)行了討論。就技術(shù)創(chuàng)新本身而言,其發(fā)展具有明顯的效率追逐偏好,所謂帕累托最優(yōu)并非自由市場環(huán)境下技術(shù)創(chuàng)新本身的追求,對包括女性在內(nèi)的就業(yè)市場整體的不均衡性沖擊將不可避免。相對于男性而言,面臨人工智能技術(shù)發(fā)展,女性在就業(yè)市場中還面臨著人工智能算法所“再生產(chǎn)”的隱性歧視,女性視角的缺失,將抬高女性就業(yè)門檻。此外,人工智能技術(shù)發(fā)展又傾向于逐步削弱工作的“貪婪”程度,增加工作的“靈活性”供給,這將有利于女性更好地平衡家庭生活與職業(yè)生涯。從技術(shù)發(fā)展趨勢看,人工智能將有可能深度替代除了人類情感交流之外的工作任務(wù),女性或?qū)⒁驗(yàn)樵谇楦?、社交技能方面的稟賦優(yōu)勢而提升其在就業(yè)市場中的地位。

    過往提示我們,新技術(shù)總是促使社會和政府面臨選擇,而現(xiàn)實(shí)中技術(shù)進(jìn)步的方向和速度本身同樣體現(xiàn)了政策取向。進(jìn)入人工智能發(fā)展階段,政策制定和實(shí)施本身也在對未來工作進(jìn)行某種程度的塑造?;诒疚牡挠懻摵头治觯幸韵轮饕呓ㄗh:

    第一,加速產(chǎn)業(yè)轉(zhuǎn)型升級與現(xiàn)代化產(chǎn)業(yè)體系建設(shè)、促進(jìn)高質(zhì)量女性就業(yè)。目前,人工智能技術(shù)的應(yīng)用已經(jīng)對部分產(chǎn)業(yè)中帶有重復(fù)性、常規(guī)性的勞動任務(wù)產(chǎn)生了明顯的替代效應(yīng),這在一定程度上也是對發(fā)展中國家傳統(tǒng)比較優(yōu)勢的挑戰(zhàn)。我國雖然已經(jīng)進(jìn)入中等收入國家行列,但由于產(chǎn)業(yè)門類廣、不同行業(yè)的發(fā)展水平與發(fā)展階段千差萬別,各區(qū)域間發(fā)展水平不均衡,導(dǎo)致勞動力市場結(jié)構(gòu)復(fù)雜,其中女性勞動者相對男性勞動者而言,更多集中于那些更易被人工智能技術(shù)所替代的行業(yè)和崗位。因此,應(yīng)順應(yīng)技術(shù)發(fā)展趨勢,通過加速傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級和現(xiàn)代產(chǎn)業(yè)體系建設(shè)推動勞動力市場結(jié)構(gòu)調(diào)整,促進(jìn)女性勞動者行業(yè)間轉(zhuǎn)移流動,實(shí)現(xiàn)更為順利的“轉(zhuǎn)崗”。

    第二,塑造適應(yīng)新技術(shù)發(fā)展、面向人工智能未來的女性教育培訓(xùn)體系。這里主要包括兩個維度:一是有效提升女性在STEM和ICT(Information?Communication?Technology)教育中的占比,即削弱和破除性別方面的“學(xué)科隔離”;二是構(gòu)建和強(qiáng)化“人工智能+”復(fù)合型女性人才培養(yǎng)機(jī)制。目前看來,人工智能總體上對高技能勞動者更為友好,其中尤其是對STEM和ICT領(lǐng)域的勞動需求旺盛且薪酬具有優(yōu)勢,但由于包括女性自身選擇偏好在內(nèi)的各種因素影響,女性選擇STEM和ICT相關(guān)教育的占比遠(yuǎn)低于男性,這個問題帶有全球性。為此,對現(xiàn)有教育培訓(xùn)體系要面向數(shù)字技術(shù)特別是人工智能技術(shù)未來發(fā)展方面進(jìn)行調(diào)整,同時強(qiáng)化基于STEM教育的復(fù)合型女性人才培養(yǎng)。

    第三,優(yōu)化生育政策激勵、提升社會化服務(wù)供給質(zhì)量。由于人工智能的沖擊具有不確定性和顛覆性,因此,就全局而言,應(yīng)加快完善社會保障體系,構(gòu)建可以兜底人工智能沖擊的社會安全網(wǎng)。這方面國際上已經(jīng)出現(xiàn)了一些初期嘗試,如“全民基本收入(Universal?Basic?Income)”。對于女性而言,在婚育、家庭和事業(yè)之間的權(quán)衡結(jié)果直接影響女性在就業(yè)市場中的表現(xiàn)。應(yīng)在積極優(yōu)化生育政策激勵的同時,盡快完善社會化服務(wù)體系,不斷提升高質(zhì)量社會化服務(wù)供給能力,助力更多的女性更為從容地進(jìn)行家庭和事業(yè)之間的權(quán)衡,在更好地實(shí)現(xiàn)自身價值的同時,為社會作出更多的貢獻(xiàn)。

    第四,深化人工智能影響研究、積極探索高質(zhì)量人工智能治理。總體來講,全球?qū)θ斯ぶ悄苡绊懙难芯咳蕴幱诔跗冢鄳?yīng)的監(jiān)管研究和治理活動更是剛剛起步。雖然針對人工智能技術(shù)所表現(xiàn)出的性別歧視問題已經(jīng)引起較為廣泛的注意,但這個領(lǐng)域的相關(guān)立法遠(yuǎn)未完善,原法律框架在適用性方面存在諸多缺陷。同時,人工智能治理已經(jīng)成為全球性普遍關(guān)注的問題,在英國布萊奇利園舉行的全球人工智能安全峰會就是這方面的集中體現(xiàn)。在人工智能全球化發(fā)展的背景下,積極參與人工智能治理的全球合作、相互借鑒是探索和實(shí)現(xiàn)高質(zhì)量治理的重要途徑。

    [參考文獻(xiàn)]

    [1]趙志君,莊馨予.中國人工智能高質(zhì)量發(fā)展:現(xiàn)狀、問題與方略[J].改革,2023(9):11-20.

    [2]AGHION?P,HOWITT?P.?Growth?and?unemployment?[J].?Review?of?economic?studies,?1994,?61(3):477-494.

    [3]ACEMOGLU?D,RESTREPO?P.?The?race?between?man?and?machine:?implications?of?technology?for?growth,?factor?shares,?and?employment?[J].?American?economic?review,?2018,108(6):1488-1542.

    [4]蔡昉.經(jīng)濟(jì)學(xué)如何迎接新技術(shù)革命?[J].勞動經(jīng)濟(jì)研究,2019(2):3-20.

    [5]AGHION?P,?CELINE?ANTONIN,?SIMON?BUNEL,?et?al.?What?are?the?labor?and?product?market?effects?of?automation??New?evidence?from?France[Z].?CEPR?working?paper,?No.14443,?2020.

    [6]TRAJTENBERG?M.?AI?as?the?next?GPT:?a?politicaleconomy?perspective[Z].?NBER?working?paper,?No.24245,?2020.

    [7]ACEMOGLU?D,RESTREPO?P.?Artificial?intelligence,?automation?and?work?[Z].?NBER?working?paper,?No.24196,2018.

    [8]AUTOR?DAVID,??SALOMONS?ANNA.?Is?automation?labor?sharedisplacing??Productivity?growth,?employment,?and?the?labor?share?[Z].?Brookings?papers?on?economic?activity,?2018.

    [9]曹前滿.高質(zhì)量就業(yè)的支撐條件與現(xiàn)實(shí)困惑:技術(shù)依賴與勞動排斥[J].經(jīng)濟(jì)學(xué)家,2021(4):41-51.

    [10]FREY?C?B,?OSBORNE?M?A.?The?future?of?employment:?how?susceptible?are?jobs?to?computerisation??[J].?Technological?forecasting?and?social?change,?2017(114):?254-280.

    [11]余玲錚,魏下海,孫中偉,等.工業(yè)機(jī)器人、工作任務(wù)與非常規(guī)能力溢價——來自制造業(yè)“企業(yè)—工人”匹配調(diào)查的證據(jù)[J].管理世界,?2021,37(1):47-59.

    [12]李開復(fù),陳楸帆.AI未來進(jìn)行式[M].杭州:浙江人民出版社,2022:348-349.

    [13]SUSSKIND?R,SUSSKIND?D.?The?future?of?the?professions[J].?Proceedings?of?the?American?philosophical?society,?2018,162(2):125-138.

    [14]王軍,常紅.人工智能對勞動力市場影響研究進(jìn)展[J].?經(jīng)濟(jì)學(xué)動態(tài),2021(8):146-160.

    [15]GRAETZ?G,MICHAELS?G.?Robots?at?work[J].?Review?of?economics?and?statistics,?2018,100(5):753-768.

    [16]李磊,王小霞,包群.機(jī)器人的就業(yè)效應(yīng):機(jī)制與中國經(jīng)驗(yàn)[J].管理世界,2021(9):104-119.

    [17]孫雪,宋宇,趙培雅.人工智能對異質(zhì)勞動力就業(yè)的影響[J].經(jīng)濟(jì)問題探索,2022(2):171-190.

    [18]王林輝,胡晟明,董直慶.人工智能技術(shù)、任務(wù)屬性與職業(yè)可替代風(fēng)險:來自微觀層面的經(jīng)驗(yàn)證據(jù)[J].管理世界,2022(7):60-79.

    [19]GALOR?ODED.?From?stagnation?to?growth:?unified?growth?theory[Z].?CEPR?discussion?paper,?No.4581,2004.

    [20]GMYREK?P,?BERG?J?M,?BESCOND?D.?Generative?AI?and?jobs:?a?global?analysis?of?potential?effects?on?job?quantity?and?quality[Z].?ILO?working?paper,No.?96?(Geneva,?ILO),?2023.

    [21]李建奇.數(shù)字化變革、非常規(guī)技能溢價與女性就業(yè)[J].財經(jīng)研究,2022(7):48-62.

    [22]隆云滔,劉海波,蔡躍洲.人工智能技術(shù)對勞動力就業(yè)的影響——基于文獻(xiàn)綜述的視角[J].中國軟科學(xué),2020(12):56-64.

    [23]朱軼.技術(shù)進(jìn)步是否加劇了性別就業(yè)差距?[J].現(xiàn)代財經(jīng),2020(10):96-113.

    [24]ELIZABETH?COOMBS,?HALEFOM?ABRAHA.?Governance?of?AI?and?gender:?building?on?international?human?rights?law?and?relevant?regional?frameworks[C]//Handbook?on?the?politics?and?governance?of?big?data?and?artificial?intelligence.?Edward?Elgar?publishing,2023:?211-243.

    [25]SMITH?G,?RUSTAGI?I.?When?good?algorithms?go?sexist:?why?and?how?to?advance?AI?gender?equity?[EB/OL].?(2021-05-31)[2023-12-01].?https://doi.org/10.48558/A179-B138.

    [26]馬克思,恩格斯.馬克思恩格斯選集?(第2卷)?[M].?北京:人民出版社,2012:774-775.

    [27]大衛(wèi)·李嘉圖.政治經(jīng)濟(jì)學(xué)及賦稅原理[M].北京:華夏出版社,2013:276.

    [28]KORINEK?A,?STIGLITZ?J?E.?Artificial?intelligence?and?its?implications?for?income?distribution?and?unemployment[Z].?NBER?working?paper,?No.24174,?2017.

    [29]KORINEK?ANTON,?MARTIN?SCHINDLER,?JOSEPH?E.?et?al.?Technological?progress,?artificial?intelligence,?and?inclusive?growth?[Z].?IMF?working?paper,?2021.

    [30]OECD.?Artificial?intelligence?and?employment:?new?evidence?from?occupation?most?exposed?to?AI?[EB/OL].?[2023-10-25].?http://www.oecd.org/futureofwork/.

    [31]ONEIL?C.?Weapons?of?math?destruction:?how?big?data?increases?inequality?and?threatens?democracy[M].?New?York:Crown?Publishing,?2016:53.

    [32]COLLETT?C,?DILLON?S.?AI?and?gender:?four?proposals?for?future?research[R].?Cambridge:?the?Leverhulme?Center?for?the?Future?of?Intelligence,2019.

    [33]DANIEL?ZHANG,?NESTOR?MASLEJ,?ERIK?BRYNJOLFSSON,?et?al.?The?AI?index?2022?annual?report[R].?Palo?Alto:?Stanford?University,?2022.

    [34]閻天.女性就業(yè)中的算法歧視:緣起、挑戰(zhàn)與應(yīng)對[J].婦女研究論叢,2021(5):64-72.

    [35]GOLDIN?CLAUDIA.?Career?and?family:?womens?centurylong?journey?toward?equity[M].?Princeton,?New?Jersey:?Princeton?University?Press,?2021:105.

    [36]加里·斯坦利·貝克爾.家庭論[M].北京:商務(wù)印書館,2011:325.

    [37]王林輝,錢圓圓,周慧琳,等.人工智能技術(shù)沖擊和中國職業(yè)變遷方向[J].管理世界,2023(11):74-93.

    [38]凱特琳·馬歇爾.誰煮了亞當(dāng)·斯密的晚餐:女性與經(jīng)濟(jì)學(xué)的故事[M].合肥:中國科學(xué)技術(shù)大學(xué)出版社,2019:43.

    [39]亞當(dāng)·斯密.國富論[M].北京:華夏出版社,2005:14.

    [40]艾瑪·羅斯柴爾德.經(jīng)濟(jì)情操論:亞當(dāng)·斯密、孔多塞與啟蒙運(yùn)動[M].北京:社會科學(xué)文獻(xiàn)出版社,2013:3.

    [41]亞當(dāng)·斯密.道德情操論[M].北京:商務(wù)印書館,1997:5-13.

    [42]埃里克·布萊恩約弗森,安德魯·麥卡菲.第二次機(jī)器革命[M].北京:中信出版社,2016:343.

    [43]羅蘭·T.拉斯特,?黃明蕙.情感經(jīng)濟(jì)[M].?北京:中譯出版社,2022:4.

    [44]CORTES?G?M,?NIR?JAIMOVICH,?HENRY?E?SIU.?The?“end?of?men”?and?rise?of?women?in?the?highskilled?labor?market?[Z].?NBER?working?paper,?No.24274,2018.

    [45]DEMING?DAVID?J.?The?growing?importance?of?social?skills?in?the?labor?market[J].?Quarterly?journal?of?economics,?2017,?132(4):1593-1640.

    Research?on?the?Impact?of?Artificial?Intelligence?Development?on?Womens

    Employment?in?the?Context?of?Digital?Economy

    Niu??Jianguo1,??Xia??Feilong2,??Jiang??Xin3

    (1.?School?of?Economics,?Shandong?Womens?University,?Jinan?250300,?China;

    2.?School?of?Economics?and?Management,?Yunnan?Normal?University,?Kunming?650500,?China;

    3.?Party?School?of?the?Yunnan?Committee?of?the?CPC(Yunnan?Academy??of??Governance),?Kunming?650111,?China)

    Abstract:??AI?is?fundamentally?changing?production?mode?and?lifestyles,?but?its?potential?impact?remains?largely?abstract?and?uncertain.?On?the?one?hand,?the?nonPareto?technological?progress?of?AI?has?a?significant?and?multidimensional?impact?on?the?job?market,?including?the?jobs?of?women,?and?the?“reproduction”?of?gender?bias?by?AI?will?raise?the?threshold?for?womens?employment.?On?the?other?hand,?AI?can?reduce?the?externality?of?“greedy?work”,?increase?the?supply?of?“flexibility”,?and?reduce?the?cost?of?womens?choice,?while?the?“emotional?economy”?caused?by?the?development?of?artificial?intelligence?tends?to?strengthen?womens?endowment?advantages?in?emotional?and?social?skills,?and?improve?their?position?in?the?job?market.?In?the?“competition”?with?AI,?it?is?necessary?to?accelerate?industrial?transformation?and?upgrading,?accelerate?the?adjustment?of?positions?and?labor?tasks,?promote?highquality?womens?employment,?shape?a?womens?education?and?training?system?that?adapts?to?the?development?of?new?technologies?and?faces?the?future?of?artificial?intelligence,?optimizes?fertility?policy?incentives,?improves?socialized?services,?explores?highquality?artificial?intelligence?governance?and?actively?participates?in?global?AI?governance.

    Key?words:artificial?intelligence;?labor?market;?womens?employment

    (責(zé)任編輯:蔡曉芹)

    猜你喜歡
    勞動力市場人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    淺析延遲退休對我國經(jīng)濟(jì)的影響
    商情(2016年39期)2016-11-21 08:43:15
    城鄉(xiāng)勞動力結(jié)構(gòu)變遷影響因素透析
    人民論壇(2016年26期)2016-10-12 11:18:04
    下一幕,人工智能!
    下一幕,人工智能!
    關(guān)于盤錦市勞動力市場、人才市場整合問題研究
    中國市場(2016年27期)2016-07-16 04:38:42
    淺談中國勞動力市場結(jié)構(gòu)轉(zhuǎn)型的挑戰(zhàn)
    商(2016年18期)2016-06-20 15:03:16
    亚洲av成人av| 又紧又爽又黄一区二区| 久久久久久免费高清国产稀缺| 日韩成人在线观看一区二区三区| 女性生殖器流出的白浆| 精品久久久久久电影网| 不卡av一区二区三区| 男人舔女人的私密视频| 中文字幕人妻丝袜一区二区| 电影成人av| 极品人妻少妇av视频| 看免费av毛片| 亚洲三区欧美一区| 久久久久精品人妻al黑| 操出白浆在线播放| 91在线观看av| 韩国精品一区二区三区| 国产男女超爽视频在线观看| 久久久国产成人精品二区 | 91在线观看av| av中文乱码字幕在线| 中文字幕人妻丝袜一区二区| av福利片在线| 9191精品国产免费久久| 丝瓜视频免费看黄片| 亚洲精品美女久久av网站| 又大又爽又粗| 50天的宝宝边吃奶边哭怎么回事| 一进一出抽搐gif免费好疼 | 黄色片一级片一级黄色片| 国产精品一区二区在线不卡| 999久久久精品免费观看国产| 国产不卡av网站在线观看| 亚洲国产欧美一区二区综合| 91大片在线观看| 国产精品免费视频内射| 亚洲久久久国产精品| 国产精华一区二区三区| 国产精品电影一区二区三区 | 十分钟在线观看高清视频www| 中文字幕高清在线视频| 精品亚洲成国产av| 精品国产一区二区三区久久久樱花| 国产麻豆69| 国产成人免费无遮挡视频| 久久婷婷成人综合色麻豆| 在线免费观看的www视频| 99riav亚洲国产免费| 伦理电影免费视频| 久久婷婷成人综合色麻豆| 午夜日韩欧美国产| 老熟妇乱子伦视频在线观看| 欧美av亚洲av综合av国产av| 亚洲性夜色夜夜综合| 免费在线观看黄色视频的| 人妻丰满熟妇av一区二区三区 | 久久久久久久精品吃奶| 欧洲精品卡2卡3卡4卡5卡区| 国产精品98久久久久久宅男小说| 免费在线观看完整版高清| 这个男人来自地球电影免费观看| 午夜免费鲁丝| 乱人伦中国视频| 成在线人永久免费视频| 老司机午夜福利在线观看视频| 高清欧美精品videossex| 久久久国产欧美日韩av| 天天操日日干夜夜撸| 欧美中文综合在线视频| 一边摸一边做爽爽视频免费| 国产一区二区三区综合在线观看| 很黄的视频免费| 韩国av一区二区三区四区| 男女午夜视频在线观看| 久久久久久久精品吃奶| 午夜久久久在线观看| 亚洲色图av天堂| 日韩欧美一区二区三区在线观看 | www日本在线高清视频| 亚洲第一av免费看| 亚洲黑人精品在线| svipshipincom国产片| 国产精品1区2区在线观看. | 国产精品永久免费网站| 天堂俺去俺来也www色官网| 黄片小视频在线播放| 国产色视频综合| 精品久久久久久久久久免费视频 | 色在线成人网| 久久亚洲真实| 最新美女视频免费是黄的| 亚洲精品在线美女| 黄色视频不卡| 18禁裸乳无遮挡动漫免费视频| av不卡在线播放| 99re在线观看精品视频| 在线观看免费日韩欧美大片| av国产精品久久久久影院| 一进一出抽搐gif免费好疼 | 人妻久久中文字幕网| 欧美日韩精品网址| 天堂√8在线中文| 女警被强在线播放| 美女国产高潮福利片在线看| 免费在线观看完整版高清| 男人操女人黄网站| 一本综合久久免费| 国产真人三级小视频在线观看| 精品福利永久在线观看| 欧美大码av| 老司机靠b影院| 久久久久久久午夜电影 | 一本大道久久a久久精品| 美女午夜性视频免费| 老鸭窝网址在线观看| 丰满迷人的少妇在线观看| 飞空精品影院首页| 久久精品国产亚洲av高清一级| 午夜久久久在线观看| 国产亚洲一区二区精品| 免费高清在线观看日韩| 国产精品永久免费网站| 韩国精品一区二区三区| 一级片免费观看大全| 丰满人妻熟妇乱又伦精品不卡| 成人特级黄色片久久久久久久| www.999成人在线观看| 久久久精品国产亚洲av高清涩受| 九色亚洲精品在线播放| 岛国毛片在线播放| 777米奇影视久久| 无人区码免费观看不卡| 欧美日韩av久久| 丰满的人妻完整版| 操出白浆在线播放| 97人妻天天添夜夜摸| 亚洲,欧美精品.| 亚洲人成电影免费在线| 成年人午夜在线观看视频| 国产免费av片在线观看野外av| 国产精品成人在线| 欧美乱码精品一区二区三区| 午夜福利,免费看| 国产欧美日韩综合在线一区二区| 老司机亚洲免费影院| 少妇被粗大的猛进出69影院| 女警被强在线播放| 757午夜福利合集在线观看| 欧美午夜高清在线| 日韩一卡2卡3卡4卡2021年| 久久精品亚洲熟妇少妇任你| 精品人妻熟女毛片av久久网站| 麻豆国产av国片精品| 丝袜美足系列| 国产不卡av网站在线观看| 欧美日韩福利视频一区二区| 国产精品99久久99久久久不卡| 亚洲,欧美精品.| 国产成人一区二区三区免费视频网站| 色老头精品视频在线观看| 欧美激情 高清一区二区三区| 国产欧美日韩综合在线一区二区| 水蜜桃什么品种好| 露出奶头的视频| 久久久国产一区二区| 在线观看www视频免费| 日韩熟女老妇一区二区性免费视频| 老司机午夜福利在线观看视频| 国产精品亚洲一级av第二区| 欧美激情高清一区二区三区| 夜夜躁狠狠躁天天躁| av线在线观看网站| 母亲3免费完整高清在线观看| 9色porny在线观看| 精品亚洲成a人片在线观看| 一级片免费观看大全| 一级毛片女人18水好多| 欧美黑人精品巨大| 极品人妻少妇av视频| 水蜜桃什么品种好| 大香蕉久久网| 中出人妻视频一区二区| 久久人人97超碰香蕉20202| 99国产精品一区二区蜜桃av | 精品久久久久久久毛片微露脸| 欧美另类亚洲清纯唯美| 丝袜在线中文字幕| av超薄肉色丝袜交足视频| 亚洲 欧美一区二区三区| 久久国产乱子伦精品免费另类| 这个男人来自地球电影免费观看| 又黄又粗又硬又大视频| 国产精品九九99| 大码成人一级视频| 少妇粗大呻吟视频| 一边摸一边抽搐一进一小说 | 亚洲av欧美aⅴ国产| 一级毛片女人18水好多| 丁香欧美五月| 91国产中文字幕| 精品久久久精品久久久| 天堂√8在线中文| 777米奇影视久久| 黄色 视频免费看| 日本a在线网址| 人妻丰满熟妇av一区二区三区 | 久久这里只有精品19| 色老头精品视频在线观看| 久久久水蜜桃国产精品网| 亚洲第一欧美日韩一区二区三区| 三上悠亚av全集在线观看| 精品免费久久久久久久清纯 | 91av网站免费观看| 日日夜夜操网爽| 啦啦啦免费观看视频1| 欧美精品一区二区免费开放| 曰老女人黄片| 久久国产精品大桥未久av| 搡老乐熟女国产| 精品亚洲成国产av| 视频区图区小说| 九色亚洲精品在线播放| 一夜夜www| 怎么达到女性高潮| a级片在线免费高清观看视频| 精品无人区乱码1区二区| 少妇 在线观看| 99精国产麻豆久久婷婷| 窝窝影院91人妻| 亚洲精品久久成人aⅴ小说| 99热国产这里只有精品6| 国产精品1区2区在线观看. | 午夜91福利影院| 热99久久久久精品小说推荐| 自拍欧美九色日韩亚洲蝌蚪91| 久久久精品区二区三区| 久久亚洲真实| 在线十欧美十亚洲十日本专区| 久久久久精品人妻al黑| 制服人妻中文乱码| 日韩 欧美 亚洲 中文字幕| 免费在线观看黄色视频的| 亚洲精品一卡2卡三卡4卡5卡| 露出奶头的视频| 国产日韩一区二区三区精品不卡| 一区二区日韩欧美中文字幕| 亚洲第一欧美日韩一区二区三区| 亚洲少妇的诱惑av| 午夜精品在线福利| 国产亚洲av高清不卡| 免费女性裸体啪啪无遮挡网站| 一级毛片女人18水好多| 午夜福利,免费看| av网站在线播放免费| 大型黄色视频在线免费观看| 国产av又大| 97人妻天天添夜夜摸| 免费高清在线观看日韩| 在线观看免费高清a一片| 亚洲视频免费观看视频| 国产亚洲欧美精品永久| 亚洲欧美色中文字幕在线| 精品熟女少妇八av免费久了| 在线观看66精品国产| 性色av乱码一区二区三区2| 看免费av毛片| 亚洲熟妇中文字幕五十中出 | 国产精品98久久久久久宅男小说| 最近最新中文字幕大全免费视频| 香蕉久久夜色| 午夜福利在线免费观看网站| 中文字幕av电影在线播放| 亚洲视频免费观看视频| 成人18禁在线播放| 国产高清激情床上av| 夜夜夜夜夜久久久久| 身体一侧抽搐| 男人的好看免费观看在线视频 | 久久久精品免费免费高清| 亚洲欧美激情综合另类| 丝瓜视频免费看黄片| 久久九九热精品免费| 午夜激情av网站| 久久人妻福利社区极品人妻图片| 亚洲欧美一区二区三区久久| 19禁男女啪啪无遮挡网站| 国产精品免费大片| 国产又色又爽无遮挡免费看| 免费在线观看亚洲国产| e午夜精品久久久久久久| 天堂俺去俺来也www色官网| 人成视频在线观看免费观看| 欧美 亚洲 国产 日韩一| 国产午夜精品久久久久久| 久久国产精品人妻蜜桃| 午夜免费观看网址| 亚洲avbb在线观看| 精品国产超薄肉色丝袜足j| 乱人伦中国视频| av国产精品久久久久影院| 身体一侧抽搐| 午夜福利在线免费观看网站| 成人手机av| 精品久久久精品久久久| av视频免费观看在线观看| av网站免费在线观看视频| 免费av中文字幕在线| 亚洲国产精品合色在线| 国产高清激情床上av| a在线观看视频网站| 欧美日韩瑟瑟在线播放| 男女之事视频高清在线观看| 超碰成人久久| 99国产综合亚洲精品| 免费一级毛片在线播放高清视频 | 每晚都被弄得嗷嗷叫到高潮| 欧美人与性动交α欧美精品济南到| 亚洲成人免费电影在线观看| 超色免费av| 欧美日韩精品网址| 亚洲精华国产精华精| 757午夜福利合集在线观看| 欧美日韩亚洲综合一区二区三区_| 真人做人爱边吃奶动态| 视频区欧美日本亚洲| 国产99久久九九免费精品| 欧美黄色片欧美黄色片| 黄片播放在线免费| 久久久久精品人妻al黑| 淫妇啪啪啪对白视频| 他把我摸到了高潮在线观看| 免费不卡黄色视频| 国产乱人伦免费视频| 涩涩av久久男人的天堂| 美女高潮喷水抽搐中文字幕| 成人手机av| 黄片播放在线免费| 中文字幕精品免费在线观看视频| 日韩 欧美 亚洲 中文字幕| 久久精品成人免费网站| 久久青草综合色| 日本欧美视频一区| 免费看十八禁软件| 国精品久久久久久国模美| 亚洲 国产 在线| 大型av网站在线播放| 久久热在线av| 亚洲伊人色综图| 久久精品成人免费网站| 亚洲成人手机| 日韩欧美一区二区三区在线观看 | 男男h啪啪无遮挡| 国产淫语在线视频| 久久香蕉激情| 亚洲中文日韩欧美视频| 黄色女人牲交| 视频区图区小说| 九色亚洲精品在线播放| 丝袜美腿诱惑在线| 一级毛片女人18水好多| 国产一区二区激情短视频| 日日夜夜操网爽| 19禁男女啪啪无遮挡网站| 免费观看精品视频网站| 大香蕉久久网| 亚洲欧美一区二区三区久久| 黄频高清免费视频| 亚洲一区二区三区不卡视频| 91av网站免费观看| 色婷婷久久久亚洲欧美| 亚洲五月天丁香| 国产精品免费视频内射| 一区二区三区精品91| 午夜两性在线视频| 69精品国产乱码久久久| 国产深夜福利视频在线观看| 国产精品亚洲av一区麻豆| 亚洲国产精品sss在线观看 | 亚洲精品久久午夜乱码| 成人免费观看视频高清| 韩国av一区二区三区四区| 亚洲九九香蕉| 国产精品国产高清国产av | 国产99白浆流出| 香蕉国产在线看| 亚洲精品中文字幕在线视频| 18禁黄网站禁片午夜丰满| www.自偷自拍.com| 国产亚洲欧美98| tube8黄色片| 少妇的丰满在线观看| 天天影视国产精品| 国产成人啪精品午夜网站| 亚洲片人在线观看| 久久午夜综合久久蜜桃| 国产欧美日韩精品亚洲av| 日日摸夜夜添夜夜添小说| 成人亚洲精品一区在线观看| 欧美人与性动交α欧美软件| 中亚洲国语对白在线视频| 亚洲欧美日韩另类电影网站| 又大又爽又粗| 一进一出抽搐gif免费好疼 | 高清欧美精品videossex| 性色av乱码一区二区三区2| 亚洲一区中文字幕在线| 十八禁人妻一区二区| 亚洲熟女毛片儿| 国产av又大| 国产欧美日韩一区二区三区在线| 亚洲成a人片在线一区二区| 国产一区有黄有色的免费视频| 成熟少妇高潮喷水视频| 1024香蕉在线观看| 国产精品电影一区二区三区 | 国产乱人伦免费视频| 亚洲一区二区三区欧美精品| 丝袜在线中文字幕| 亚洲欧美激情综合另类| 精品国产一区二区三区四区第35| 欧美精品av麻豆av| 捣出白浆h1v1| 在线观看舔阴道视频| 黄频高清免费视频| 亚洲欧美日韩另类电影网站| 亚洲一卡2卡3卡4卡5卡精品中文| 91字幕亚洲| 免费不卡黄色视频| 精品一品国产午夜福利视频| 人人澡人人妻人| 亚洲精品粉嫩美女一区| 国产成+人综合+亚洲专区| 国产成人精品久久二区二区91| 变态另类成人亚洲欧美熟女 | 色精品久久人妻99蜜桃| 身体一侧抽搐| 操美女的视频在线观看| 亚洲片人在线观看| 我的亚洲天堂| 一个人免费在线观看的高清视频| 超碰成人久久| 欧美亚洲 丝袜 人妻 在线| 国产无遮挡羞羞视频在线观看| 欧美日韩福利视频一区二区| 天天躁狠狠躁夜夜躁狠狠躁| svipshipincom国产片| 日本精品一区二区三区蜜桃| 亚洲av片天天在线观看| 国产成人精品久久二区二区91| 精品少妇一区二区三区视频日本电影| 如日韩欧美国产精品一区二区三区| 亚洲 国产 在线| 18禁裸乳无遮挡动漫免费视频| 一区二区日韩欧美中文字幕| 欧美最黄视频在线播放免费 | 在线观看午夜福利视频| 老熟妇仑乱视频hdxx| 日本撒尿小便嘘嘘汇集6| 国产xxxxx性猛交| 91精品三级在线观看| 中文字幕最新亚洲高清| 久久久久久久午夜电影 | 精品国产一区二区三区四区第35| xxx96com| 午夜福利在线免费观看网站| 老司机在亚洲福利影院| 男人操女人黄网站| 村上凉子中文字幕在线| 国产成人啪精品午夜网站| 欧美黑人欧美精品刺激| 好看av亚洲va欧美ⅴa在| 亚洲黑人精品在线| 每晚都被弄得嗷嗷叫到高潮| 国产单亲对白刺激| 黄片小视频在线播放| 美女福利国产在线| 男女下面插进去视频免费观看| 亚洲成人免费电影在线观看| 免费在线观看亚洲国产| 久久精品国产亚洲av香蕉五月 | 叶爱在线成人免费视频播放| 午夜激情av网站| 欧美日韩视频精品一区| 久久国产乱子伦精品免费另类| www.熟女人妻精品国产| 美女高潮到喷水免费观看| 无限看片的www在线观看| 国产精品久久视频播放| 纯流量卡能插随身wifi吗| 久久久久视频综合| 亚洲成人国产一区在线观看| 热re99久久国产66热| 天天操日日干夜夜撸| 亚洲精品中文字幕在线视频| 国产单亲对白刺激| 亚洲av美国av| 在线观看舔阴道视频| 亚洲精华国产精华精| 纯流量卡能插随身wifi吗| 大码成人一级视频| 国产精品二区激情视频| 国产免费男女视频| 国产精品偷伦视频观看了| 精品人妻1区二区| 法律面前人人平等表现在哪些方面| 捣出白浆h1v1| 欧美日韩国产mv在线观看视频| 久久亚洲真实| 大型黄色视频在线免费观看| 亚洲国产中文字幕在线视频| 国产欧美日韩精品亚洲av| 色播在线永久视频| 麻豆av在线久日| 91字幕亚洲| 法律面前人人平等表现在哪些方面| 在线天堂中文资源库| 亚洲va日本ⅴa欧美va伊人久久| 在线观看免费日韩欧美大片| 亚洲美女黄片视频| 国产精品一区二区免费欧美| 欧美日韩乱码在线| 欧美日韩黄片免| 亚洲精品乱久久久久久| 亚洲av美国av| 欧美 亚洲 国产 日韩一| 久久九九热精品免费| 无遮挡黄片免费观看| 欧美大码av| 极品教师在线免费播放| 一区二区三区激情视频| 国产成人免费观看mmmm| 亚洲av美国av| 亚洲va日本ⅴa欧美va伊人久久| 欧美成狂野欧美在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲欧美日韩高清在线视频| 男女免费视频国产| 国产精品综合久久久久久久免费 | 中亚洲国语对白在线视频| 伊人久久大香线蕉亚洲五| 国产激情久久老熟女| av有码第一页| 一级a爱视频在线免费观看| 人人妻人人澡人人看| 人妻 亚洲 视频| xxxhd国产人妻xxx| 人成视频在线观看免费观看| 亚洲 国产 在线| 国产精品永久免费网站| 成在线人永久免费视频| 建设人人有责人人尽责人人享有的| 老司机午夜十八禁免费视频| 热99久久久久精品小说推荐| 天天躁日日躁夜夜躁夜夜| 国产精华一区二区三区| 国产精品久久久av美女十八| av国产精品久久久久影院| 亚洲av欧美aⅴ国产| 久久人人97超碰香蕉20202| 国内久久婷婷六月综合欲色啪| 成人亚洲精品一区在线观看| 一边摸一边做爽爽视频免费| 首页视频小说图片口味搜索| 亚洲av成人av| 岛国在线观看网站| 无人区码免费观看不卡| 国产欧美日韩一区二区三| 女人爽到高潮嗷嗷叫在线视频| 91国产中文字幕| 国产xxxxx性猛交| 久久国产亚洲av麻豆专区| 中国美女看黄片| 亚洲成人免费av在线播放| 黄色怎么调成土黄色| 在线看a的网站| ponron亚洲| 免费av中文字幕在线| 99精国产麻豆久久婷婷| 欧美日韩黄片免| 熟女少妇亚洲综合色aaa.| 90打野战视频偷拍视频| 建设人人有责人人尽责人人享有的| 可以免费在线观看a视频的电影网站| 亚洲成av片中文字幕在线观看| 欧美激情久久久久久爽电影 | 免费观看a级毛片全部| 欧美黑人精品巨大| 天天躁日日躁夜夜躁夜夜| 成人黄色视频免费在线看| 国产主播在线观看一区二区| 欧美乱码精品一区二区三区| 一区在线观看完整版| 一区二区日韩欧美中文字幕| 搡老熟女国产l中国老女人| 国产av又大| 久热这里只有精品99| 一本综合久久免费| 中文字幕人妻熟女乱码| 在线永久观看黄色视频| 欧美 亚洲 国产 日韩一| 18禁黄网站禁片午夜丰满| 亚洲第一青青草原| www日本在线高清视频| 日本wwww免费看| 中文字幕人妻丝袜一区二区| 老熟妇乱子伦视频在线观看| 免费不卡黄色视频| 欧美日本中文国产一区发布| 欧美日韩av久久| 亚洲免费av在线视频| 精品人妻熟女毛片av久久网站| 黄色成人免费大全| 欧美丝袜亚洲另类 | 国产精品免费一区二区三区在线 | 久久中文字幕一级|