• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    智能知識生產(chǎn)模式的本質(zhì)特征和社會驅(qū)動*

    2022-11-24 17:54:07劉日明劉小濤
    社會科學 2022年8期
    關(guān)鍵詞:人工智能智能生產(chǎn)

    劉日明 劉小濤

    人工智能技術(shù)的應(yīng)用,在許多方面給社會知識生產(chǎn)帶來了巨大影響,包括知識生產(chǎn)的內(nèi)容、知識生產(chǎn)的方法和過程、知識探索所處的社會情境、生產(chǎn)組織的方式、知識的獎勵體制、知識的質(zhì)量監(jiān)控機制等。從影響的社會廣度和深度來看,以人工智能技術(shù)的應(yīng)用為特征的知識生產(chǎn)已經(jīng)構(gòu)成一種知識生產(chǎn)模式,即智能知識生產(chǎn)模式。這一模式必將產(chǎn)生越來越廣泛和越來越重要的社會影響,因此,系統(tǒng)地描述、分析這一生產(chǎn)模式的特點,就成為迫切的理智要求和社會實踐任務(wù)。

    這里,我們嘗試分析、比較傳統(tǒng)知識生產(chǎn)模式和智能知識生產(chǎn)模式的一些重要差異,并援引人工智能哲學和科學知識社會學的理論資源,進一步討論智能知識生產(chǎn)的特征和社會因素對智能知識生產(chǎn)的影響。因為這種模式的證實性證據(jù)非常豐富,而且仍然在迅速發(fā)展變化,所以要全面匯集材料進行分析就需要一個宏大的研究計劃。作為初步的嘗試,我們將滿足于援引有限的材料來提出一些觀察或判斷,并簡要提示一些需要深入討論的方向。

    論文的結(jié)構(gòu)安排如下:首先,通過比較三種知識生產(chǎn)模式,我們嘗試勾畫智能知識生產(chǎn)模式的概念內(nèi)涵和覆蓋范圍,闡明這一模式和兩種傳統(tǒng)知識生產(chǎn)模式之間的突出差異。其次,從馮·諾伊曼關(guān)于人腦語言和計算機語言具有不同的邏輯深度和計算深度的觀察來看,我們建議為智能知識生產(chǎn)的特點提供更具深度的理解。再次,援引科學知識社會學的思想資源,特別是一些有人類學特征的進路的研究結(jié)果,我們希望表明,社會因素會一般性地影響知識生產(chǎn)的內(nèi)容和組織方式,彌散、多元的智能知識生產(chǎn)模式會大規(guī)模地向各專業(yè)領(lǐng)域擴散,大規(guī)模的公眾介入會使得智能知識生產(chǎn)的結(jié)果具有人類學特征,不過,其智能特征更敏感于社會政治經(jīng)濟因素。因此,對更容易受社會因素影響的智能知識生產(chǎn),施加科學的決策約束程序尤其必要。

    要預先說明的是,在術(shù)語上,我們將遵從科學知識社會學的通行用法,在最一般的意義上使用“知識”這一概念,它既包括科學知識,也包括人文學科和社會性知識。另外,這里所說的“模式”,是一種類似于庫恩的“范式”概念的用法(而不是在“范例”這個較窄的意義上),它抽象地指一種目標、方法、程序、規(guī)范和價值的綜合。①庫恩:《科學革命的結(jié)構(gòu)》,金吾倫、胡新和譯,北京:北京大學出版社2003 年。

    一、與傳統(tǒng)知識生產(chǎn)模式的比較

    20 世紀末,在頗負盛名的《知識生產(chǎn)的新模式》一書里,科學哲學家邁克爾·吉本斯等人勾勒了兩種知識生產(chǎn)模式:模式1 為傳統(tǒng)的以個體探究為主的生產(chǎn)模式;模式2 為政府干預、應(yīng)用導向為特征的生產(chǎn)模式。根據(jù)吉本斯的分析,模式1 和模式2 的差別具體而清晰:

    在模式1 中,設(shè)置和解決問題的情景主要由一個特定共同體的學術(shù)興趣所主導。而模式2 中,知識處理則是在一種應(yīng)用的情境中進行的。模式1 的知識生產(chǎn)是基于學科的,而模式2 則是跨學科的。模式1 以同質(zhì)性為特征,而模式2 則是異質(zhì)性的。在組織上,模式1是等級制的,而且傾向于維持這一形式,而模式2 則是非等級化的異質(zhì)性的、多變的。兩種模式也有不同的質(zhì)量控制方式,與模式1 相比,模式2 的知識生產(chǎn)擔當了更多社會責任且更加具有反思性。模式2 涵蓋了范圍更廣的、臨時性的、混雜的從業(yè)者,他們在一些由特定的、本土的語境所定義的問題上進行合作。②邁克爾· 吉本斯等:《知識生產(chǎn)的新模式:當代社會科學與研究的動力學》,陳洪捷、沈文欽等譯,北京:北京大學出版社2011 年,第 3 頁。

    吉本斯的觀察重點在于描畫這兩種模式的特征,并揭示這兩種模式所呈現(xiàn)出的系統(tǒng)性差異,包括研究動機和研究過程的組織等。如果以典型案例來幫助闡釋的話,顯然,牛頓、愛因斯坦的物理學研究是模式1 的典型情形,而現(xiàn)代應(yīng)用科學和工程科學,比如以曼哈頓計劃為代表的化學工程或登月計劃等航天工程,則是模式2 的典型情形。

    如何理解這兩種知識生產(chǎn)模式的運作,吉本斯的分析富有啟發(fā)意義。這兩種模式已經(jīng)獲得許多研究者的認同。事實上,這兩種模式有一定的共性,即相對而言是中心化的。比如,模式1 會形成所謂的“智力中心”,即以杰出的科學家(或維護某一研究范式的代表性科學家)為中心,而其他的知識生產(chǎn)者或相關(guān)生產(chǎn)過程都圍繞這個中心展開。模式2 則會形成“需求中心”,即圍繞位于中心的需求發(fā)出方(如政府的特定需要)來展開知識的生產(chǎn),其典型案例就是曼哈頓計劃。

    以一定的抽象眼光看,吉本斯關(guān)于兩種模式之間差異的討論提供了一個參考系,有助于識別出當代一種新的知識生產(chǎn)模式,即以計算機、互聯(lián)網(wǎng)和智能手機等信息基礎(chǔ)設(shè)施的廣泛利用和以“深度學習”算法等信息技術(shù)的應(yīng)用為突出特征的智能知識生產(chǎn)模式,我們可以稱之為模式3。這種知識生產(chǎn)模式的典型案例是基于大數(shù)據(jù)加工和機器學習算法的人工智能領(lǐng)域的一些進展。

    在過去的十余年里,因為機器學習領(lǐng)域出現(xiàn)的一些新算法,人工智能的應(yīng)用大大拓展。應(yīng)用這些算法的系統(tǒng)既可以從輸入的經(jīng)驗數(shù)據(jù)學習,也可以在任務(wù)執(zhí)行的過程中自主學習來改善行為表現(xiàn),在科學研究、醫(yī)療、弈棋、語言識別、產(chǎn)品推薦、詐騙識別等領(lǐng)域都有出色表現(xiàn)。以深度學習算法為例,除了阿爾法圍棋(AlphaGo)的驚艷表現(xiàn)以外,這一算法在預測藥物分子結(jié)構(gòu)、圖像識別、語音識別、自然語言理解等領(lǐng)域也取得了一些令人矚目的成就。③Yann LeCun, Yoshua Bengio and Geoffrey Hinton, “Deep Learning”, Nature, Vol.521, 2015, pp.436-444.

    從較寬泛的“知識生產(chǎn)”概念來看,“智能知識生產(chǎn)”的涵蓋面還要廣一些。它包括運用軟件機器人進行輔助的科研活動,甚至個體天文愛好者用天文望遠鏡進行的觀測、事故現(xiàn)場旁觀者的影音錄像以及日常觀鳥愛好者的隨手拍攝等。在這些智能設(shè)施、大數(shù)據(jù)和算法得到應(yīng)用的領(lǐng)域,新的知識生產(chǎn)模式也得到充分體現(xiàn)。而且,從科學知識社會學的視角看,我們有足夠充分的理由認為,在知識生產(chǎn)的情境、生產(chǎn)過程和知識的內(nèi)容等方面,這一新模式都表現(xiàn)出一些獨特的特征。

    智能知識生產(chǎn)模式最突出的定義性特征是人工智能技術(shù)的應(yīng)用使其具有了“智能”的特點。不管是阿爾法圍棋的成績,還是算法在預測藥物分子結(jié)構(gòu)上的應(yīng)用,在這些知識生產(chǎn)活動中,算法和軟件都以極高的效率完成了一些超出一般人類計算能力的任務(wù)。這個特點使之明顯區(qū)別于依賴科學家的計算、推理等人類認知能力的傳統(tǒng)知識生產(chǎn)模式。

    這一新模式還有更多與傳統(tǒng)知識生產(chǎn)模式不同的方面。比如,較之深受傳統(tǒng)學科背景約束的知識生產(chǎn),智能知識生產(chǎn)的問題情境和組織要更為靈活多樣。智能知識生產(chǎn)活動需要解決的問題情境未必一定出于學科興趣或科學家個人興趣,也不是必須由政府主導決定。它可能出于某個單一的學科背景,也可能需要跨學科研究與合作;在組織形式上,它可以出于組織嚴密的垂直管理(比如某軍工項目),也可以因企業(yè)甚至公眾的參與而極為扁平和松散。①NASA 執(zhí)行的“開普勒計劃”(Kepler Mission)是公眾參與大型科研計劃的典型案例。參見譚力揚:《大數(shù)據(jù)中的算法化常規(guī)科學及其反常:以疑似“戴森球”的發(fā)現(xiàn)為例》,《自然辯證法通訊》2018 年第2 期。

    同樣以人們熟悉的阿爾法圍棋為例來闡釋。阿爾法圍棋是谷歌(Google)旗下的Deepmind 公司團隊開發(fā)的人工智能機器人。這種機器人的研發(fā)雖然有人工智能研究的動機,但并不純粹出于學科興趣;公司研發(fā)團隊的組織形式區(qū)別于傳統(tǒng)的科學家研究團隊或者政府組織的項目團隊。另外,研發(fā)結(jié)果的質(zhì)量控制和評估主要根據(jù)應(yīng)用情境中解決問題的能力來考量,并不或者說較少考慮它的學科價值。②就阿爾法圍棋案例來說,這一點或許可以討論,因為“深度學習”算法是機器學習領(lǐng)域的一個重要進步。

    特別值得強調(diào)的是,與傳統(tǒng)知識生產(chǎn)模式相比,智能知識生產(chǎn)有彌散和多元的特點。這一特點表現(xiàn)在兩個方面:一是知識來源的分散和多元化;二是知識生產(chǎn)者的分散和多元化。從知識來源的角度看,由于新型模式所依賴的人工智能技術(shù),以及為該技術(shù)提供輸入的大數(shù)據(jù)技術(shù),其知識的來源(即數(shù)據(jù))不但從量上而且從來源的途徑類型上都有極大拓展,甚至還能接納一些傳統(tǒng)模式所排斥的來源。比如,它會接受并處理各種攝像器材上傳的拍攝數(shù)據(jù),特別是一些非官方和非專業(yè)的、片段式的拍攝數(shù)據(jù),包括那些事故現(xiàn)場旁觀者的影音錄像、個體天文愛好者用家用天文望遠鏡進行的觀測和拍攝、日常觀鳥或野營愛好者的隨手拍攝等。

    從知識生產(chǎn)者的角度來看,其分散與多元化趨勢也有明確體現(xiàn)。隨著人工智能技術(shù)的推廣與普遍使用,除了人類以及人類組織之外,任何一個存在人工智能制品的角落都可能進行知識生產(chǎn),而且,這些生產(chǎn)會以傳統(tǒng)的人類生產(chǎn)者難以預料的角度介入和滲透到既有的知識體系之中。比如,即使是在以人類駕駛者為主導的汽車駕駛過程中,當代的新型汽車很可能已經(jīng)不再完全依賴人類來感知駕駛場景并進行相應(yīng)的推理與決策,而是大量地運用人工智能與相關(guān)的信息收集、處理技術(shù)來提供輔助。而且,這樣的人工智能處理元件現(xiàn)在已經(jīng)普遍存在于人類制造與應(yīng)用的絕大多數(shù)機械——特別是運用了電子技術(shù)的機械之中。這就使得知識生產(chǎn)的承載者不再是個別的科學家,或圍繞著某些中心(如政府)運作的專家團隊;一些性能足夠強大但分散于民用設(shè)備中的人工智能裝置足以完成同等的甚至質(zhì)量更高的知識生產(chǎn)任務(wù)。

    人工智能技術(shù)與分散、多元化的知識來源(即大數(shù)據(jù)技術(shù)提供的數(shù)據(jù)輸入)相結(jié)合,將對某些專業(yè)領(lǐng)域甚至學科專業(yè)壁壘造成沖擊效應(yīng)。畢竟,阿爾法圍棋的設(shè)計者未必需要特別高明的圍棋知識;③Silver D, Schrittwieser J, Simonyan K, et al., “Mastering the Game of Go Without Human Knowledge”, Nature, Vol.550, 2017, pp.354-359.長于數(shù)據(jù)挖掘和分析的技術(shù)專家也可能未必熟悉數(shù)據(jù)所涉及的學科領(lǐng)域。也許,大學、研究機構(gòu)等傳統(tǒng)知識生產(chǎn)機構(gòu)和政府部門、企業(yè)、民眾之間的知識交互,會不斷促進跨學科合作,在新知識生產(chǎn)模式里產(chǎn)生更多還不能預料的積極作用。

    需要補充說明的是,智能知識生產(chǎn)模式和所謂的科學發(fā)現(xiàn)的“第四范式”有些區(qū)別。圖靈獎得主蒂姆·格雷曾熱烈地歡迎科學發(fā)現(xiàn)的“第四范式”,即數(shù)據(jù)密集型的科學發(fā)現(xiàn)范式。他主要從科學家如何獲得科學發(fā)現(xiàn)這一視角,通過比較科學家的工作方式來區(qū)分四種范式。簡言之,“第一范式”指訴諸經(jīng)驗觀察和對現(xiàn)象的描述;“第二范式”則依賴于理論的概括和推理;“第三范式”是用計算機進行模擬試驗;“第四范式”則著重于數(shù)據(jù)挖掘和處理。①Hey, T., Tansley, S., Tolle, K., “Jim Gray on Science: A Transformed Scientific Method”, Hey, T., Tansley S., Tolle, K. (eds), The Fourth Paradigm: Data-Intensive Scienti c Discovery, Washington: Microsoft Research, 2009, p.xviii.

    作為方法論的多元論者,在意圖上,我們不是想刻畫個體科學家工作方式上的改變,而是要從知識社會學的角度,一般性地審視特定社會范圍內(nèi)突出的知識生產(chǎn)模式。換言之,格雷的區(qū)分主要是一個科學方法論區(qū)分;而對模式3 的刻畫則是要識別當代很多重要的知識生產(chǎn)活動的知識社會學特征。相應(yīng)地,模式3 在范圍上較“第四范式”更為寬廣,盡管著重數(shù)據(jù)挖掘和處理的“第四范式”確實是我們所說的智能知識模式中的突出情形。比如,不妨考慮一下阿爾法圍棋,或者一個嵌入了功利主義原則的自動駕駛程序;②Luis Moniz Pereira, Ari Saptawijaya, Programming Machine Ethics, Switzerland: Springer International Publishing, 2016, pp.8-9.顯然,在較嚴格的意義上,它們都不算科學發(fā)現(xiàn),不過,在寬泛的涵義上,可以將它們視為智能知識生產(chǎn)活動的案例。

    另外,將智能知識生產(chǎn)模式與模式1 和模式2 進行比較,容易讓人誤以為這是一種在各個方面都有別于前述兩種知識生產(chǎn)模式的嶄新模式。實際情況并非如此,它們并非在每個方面都截然不同。從研究興趣或動機來講,人工智能技術(shù)既可以應(yīng)用于基于個人興趣的某一特定學科領(lǐng)域,也可以應(yīng)用于政府主導的、大型跨學科研究項目;從組織上講,它可以在過度組織、等級制嚴格的組織結(jié)構(gòu)中執(zhí)行,也可以在扁平的、非等級制的合作過程中進行。

    二、智能知識生產(chǎn)的特征

    智能知識生產(chǎn)模式有自身的特點,這些特點對于理解信息技術(shù)時代的知識生產(chǎn)和質(zhì)量控制尤其重要。關(guān)于智能知識的生產(chǎn)及智能知識的構(gòu)成和評估,科學哲學家還沒有獲得共識。對智能知識生產(chǎn)模式的認識,在一定程度上依賴于如何對現(xiàn)象進行描述,以及如何識別現(xiàn)象的核心特征。

    在計算機應(yīng)用的早期階段,馮·諾伊曼就提出了計算機語言和人腦語言有不同的“邏輯深度”和“計算深度”。其中,邏輯深度指的是為完成問題的求解過程所需要進行的初等運算的數(shù)目;計算深度則指的是計算機執(zhí)行的串行運算的長度。③馮· 諾伊曼:《計算機與人腦》,甘子玉譯,北京:北京大學出版社2010 年,第74—78 頁。根據(jù)馮·諾伊曼的看法,正是計算機語言的特點,使得加工結(jié)果能獲得極高的算術(shù)準確度和邏輯可靠性。與之相比,人腦系統(tǒng)使用的語言只有很小的邏輯深度和算術(shù)深度,“它在一個相當?shù)偷臏蚀_度水平上,進行非常復雜的工作”。④根據(jù)馮·諾伊曼的判斷,人腦“只可能達到2 位至3 位十進制數(shù)字的準確度水平”。參見馮·諾伊曼:《計算機與人腦》,第74 頁。

    馮·諾伊曼的觀察對于識別智能知識生產(chǎn)模式的本質(zhì)特征起到了關(guān)鍵作用。首先,也是最重要的,智能知識生產(chǎn)模式的第一個特征是廣泛利用計算機系統(tǒng)。給定計算機具有區(qū)別于人腦的邏輯深度和計算深度,這一知識生產(chǎn)模式的運作過程和結(jié)果都有不同于傳統(tǒng)知識生產(chǎn)模式的地方。比如,計算機能迅速處理非常龐大的數(shù)據(jù),而且進行邏輯運算的失誤概率非常低(盡管不是零)。

    隨著計算機計算能力的提高,人腦和計算機之間在準確度和可靠性上的對比愈加分明。這在模式1 和模式3 的對比上有鮮明體現(xiàn)。傳統(tǒng)模式的知識生產(chǎn)需要充分利用人腦的抽象推理能力和創(chuàng)造性能力,但科學家常常只需要進行很簡單的數(shù)學計算或邏輯推理。雖然只要求很低的準確度,但研究者的個體特征、歷史文化因素等非理性因素也會對知識生產(chǎn)過程產(chǎn)生影響。相較而言,在智能知識生產(chǎn)模式里,計算機的復雜計算過程幾乎不能也不會被知識生產(chǎn)者完全理解;科學家的個體特征也不對計算過程的準確性產(chǎn)生任何積極或消極作用。更重要的是,計算機語言的準確性為信息(知識)的存儲和傳播提供了便捷渠道,各種信息基礎(chǔ)設(shè)施的有效運作,使得智能社會里趨體系化的知識生產(chǎn)模式得以形成。不過,要注意的是,僅憑是否利用了計算機的強大計算能力,還不足以在第二種知識生產(chǎn)模式和第三種知識生產(chǎn)模式之間劃出界限來;顯然,在曼哈頓計劃的執(zhí)行過程中,正是計算機的強大計算能力使得一些實驗計劃得以進行。

    其次,隨著信息技術(shù)的發(fā)展和信息基礎(chǔ)設(shè)施建設(shè)的升級,人們已習慣用“信息時代”來標識今天的時代特征。因此,智能知識生產(chǎn)模式的第二個特征,就是“信息時代”成為知識生產(chǎn)的突出社會環(huán)境;更具體地說,互聯(lián)網(wǎng)等信息基礎(chǔ)設(shè)施,以拍字節(jié)(petabytes)為單位的大數(shù)據(jù),還有云計算的強大分布式計算能力等,都已成為特定領(lǐng)域知識生產(chǎn)的關(guān)鍵要素,促進了知識的生產(chǎn)和流通。

    信息時代的大數(shù)據(jù),研究人員常將其特點歸納為“4V”,即規(guī)模性(volum e)、多樣性(variety)、高速性(velocity)和價值(value)。①馬世龍、烏尼日其其格、李小平:《大數(shù)據(jù)與深度學習綜述》,《智能系統(tǒng)學報》2016 年第6 期。大數(shù)據(jù)的這些特點被認為改變了科學研究的范式。②Hey, T., Tansley, S., Tolle, K., “Jim Gray on Science: A Transformed Scientific Method”, Hey, T., Tansley S., Tolle, K. (eds.),The Fourth Paradigm: Data-Intensive Scienti c Discovery, Washington: Microsoft Research, 2009, p.xviii.隨著各學科獲取的數(shù)據(jù)越來越多,科研人員對龐大數(shù)據(jù)的分析和處理必然依賴于高性能的計算機和特定的算法,于是,數(shù)據(jù)挖掘、機器學習等技術(shù)手段逐步成為獲得結(jié)果的通用研究手段。

    相應(yīng)地,智能知識生產(chǎn)模式的第三個特征就是算法等核心技術(shù)在知識生產(chǎn)中的突出作用。知識如何形成,一直是科學知識社會學的核心議題。著眼于智能知識生產(chǎn),不妨說,正是諸如“深度學習”這樣的能自主學習的算法,使得模式3 凸顯成為獨特的生產(chǎn)模式;盡管機器學習的成就并不局限于某一種算法。

    最后,從知識生產(chǎn)的社會組織來看,如前所述,因為計算機、智能手機等信息基礎(chǔ)設(shè)施的廣泛應(yīng)用,知識生產(chǎn)越來越呈現(xiàn)出彌散性、多元性和迅速增長的特點。特別是,在知識和數(shù)據(jù)具有商業(yè)價值的背景下,知識生產(chǎn)不再只局限于個體或者政府組織的探索活動,它們往往在一個更廣闊的、不限學科的社會經(jīng)濟情境中被創(chuàng)造出來。特別是,因為對經(jīng)濟利益或其他興趣的追求,傳統(tǒng)知識生產(chǎn)體制之外的個人、公司或企業(yè)等主體也以飽滿的熱情追逐著從數(shù)據(jù)中挖掘出來的有價值的信息。

    不妨以動物行為研究為例,來比較模式3 和模式1 的差異。早期的動物行為學家和達爾文一樣,以長期的實地觀察來贏得人們的尊重。他們的知識創(chuàng)造基于個人的辛勤工作和創(chuàng)造力,有時候也依賴于碰巧觀察到某類有趣的動物或動物行為。然而,隨著智能手機等信息基礎(chǔ)設(shè)施的廣泛分布,社會知識生產(chǎn)主體越來越彌散,偶然、碰巧的觀察的重要性在下降,因為有許多人在有意或無意地觀察并記錄有趣的動物行為,從而參與了知識生產(chǎn)。不管你是想了解白蟻蟻丘的結(jié)構(gòu),還是想獲得對螞蟻死亡漩渦的直接觀感,智能手機之類的發(fā)達的信息基礎(chǔ)設(shè)施和便捷的搜索渠道都能提供方便。

    三、來自科學知識社會學的啟發(fā)

    人工智能產(chǎn)生的許多哲學問題(主要是認識論問題和倫理問題),特別是像人工智能的可解釋性問題,數(shù)據(jù)歧視、認知不公、隱私保護等倫理問題,已得到較深入研究。③成素梅:《智能化社會的十大哲學挑戰(zhàn)》,《探索與爭鳴》2017 年第10 期;廖備水:《論新一代人工智能與邏輯學的交叉研究》,《中國社會科學》2022 年第3 期。相對而言,社會因素對智能知識生產(chǎn)模式的影響,還沒有獲得充分理解。接下來,我們主要從兩個方面進行討論:一是社會因素對智能知識生產(chǎn)的內(nèi)容的影響;二是社會因素對智能知識生產(chǎn)活動的組織方式的影響。

    科學知識社會學的研究已經(jīng)表明,科學知識的內(nèi)容與產(chǎn)出科學知識的社會因素和社會結(jié)構(gòu)之間有緊密關(guān)聯(lián)。這種關(guān)聯(lián)表現(xiàn)在三個維度:其一,特定時期的社會熱點議題和政治經(jīng)濟結(jié)構(gòu)與科學理論的內(nèi)容可能有很強的相關(guān)性,④Bloor, D., Knowledge and Social Imagery, London: Routledge & Kegan Paul, 1976.雖然研究者對這種聯(lián)系的性質(zhì)和強度有不同見解。其二,根據(jù)庫恩及其追隨者的看法,在既有證據(jù)不能充分決定理論選擇的情況下,社會因素往往會成為理論選擇的重要決定因素。⑤托馬斯·庫恩:《客觀性、價值判斷和理論選擇》,張志林主編:《當代哲學經(jīng)典·科學哲學卷》,北京:北京師范大學出版社2014 年。其三,有些研究者對知識生產(chǎn)的人類學特征做了細致考察,根據(jù)他們的建議,知識生產(chǎn)是建構(gòu)性的(而不是描述性的),因為知識生產(chǎn)活動總有科學家的決策負載(decision-laden),常常是特定時空中的社會協(xié)商的結(jié)果,而不完全取決于個體決策的邏輯。⑥Karin D. Knorr-Cetina, The Manufacture of Knowledge: An Essay on the Constructivist and Contextual Nature of Science, Oxford:Pergamon Press, 1981, p.152.

    這些不同維度的考慮對于理解智能知識生產(chǎn)的內(nèi)容有不同程度的助益。首先,布魯爾的重要洞察在于,特定時期的社會因素、政治經(jīng)濟因素影響科學理論的內(nèi)容。對于智能知識生產(chǎn)來說,情形也是如此。在傳統(tǒng)的生產(chǎn)模式里,知識創(chuàng)造的動力在很大程度上來源于理解自然和人類社會的求知欲。這種求知欲的驅(qū)動力仍然在傳統(tǒng)的知識生產(chǎn)機制內(nèi)起作用,不過,在更廣泛的社會范圍里,智能知識生產(chǎn)模式顯然更敏感于社會、政治、經(jīng)濟關(guān)注的焦點問題,比如醫(yī)療、生育、生物技術(shù)、環(huán)境等社會公共議題。

    以近幾年新冠肺炎疫情這一最突出的社會現(xiàn)象為例。在抗擊新型冠狀病毒肺炎疫情的過程中,人工智能已廣泛應(yīng)用于臨床醫(yī)學各領(lǐng)域,包擴放射影像診斷、疾病預測、疾病追蹤和藥物研發(fā)等。比如,人工智能可以快速從規(guī)模龐大的分子結(jié)構(gòu)數(shù)據(jù)庫中篩選出潛在藥物,極大地降低了藥物研發(fā)周期和成本,在藥物研發(fā)領(lǐng)域有巨大潛力。再如,在輔助診斷方面,在人工智能的幫助下,放射科醫(yī)生診斷COVID-19 的平均精確度從85%提升到了90%。①劉思遠、張麗軍、劉雷:《人工智能在抗擊新型冠狀病毒肺炎疫情中的應(yīng)用》,《中國醫(yī)學物理學雜志》2020 年第8 期。顯然,新冠肺炎疫情這一全球性公共衛(wèi)生危機,已使得疫情防治成為近三年來知識生產(chǎn)最密集的研究領(lǐng)域之一。

    其次,慮及人工智能的某些特征,庫恩的提醒有其認識論價值。深度學習等具備主動學習能力的算法,以及一些軟件機器人,早已經(jīng)深度參與知識生產(chǎn)活動。新冠肺炎疫情防治工作中存在許多證據(jù)不充分決定的情形,并沒有一個客觀的公共準則表或算法能代替人類的決策。比如,目前還沒有足夠好的治療特效藥物,大部分藥物臨床試驗的療效不佳;有時候胸部CT 掃描結(jié)果不足以幫助醫(yī)生做出精確判斷;傳染病模型的預測結(jié)果會有比較大的誤差等。在數(shù)據(jù)量極大且運算速度可以起作用的地方,人工智能提供了幫助。比如,谷歌Deepmind 公司開發(fā)的AlphaFold 深度學習系統(tǒng)快速預測了新型冠狀病毒(COVID-19)的蛋白質(zhì)結(jié)構(gòu),大大縮短了疫苗設(shè)計所需要的時間。②Alimadadi A, Aryal S, Manandhar I, et al., “Artificial Intelligence and Machine Learning to Fight COVID-19”, Physiol Genomics,2020, Vol.52, Iss.4, pp.200-202.然而,至少目前看來,許多問題能否解決在本質(zhì)上并非取決于數(shù)據(jù)大小或計算速度,人工智能的作用還極為有限。庫恩式的洞察,即心理因素、社會因素可以對相關(guān)理論選擇起決定作用,仍然是理解某些理論選擇的基礎(chǔ)模型。

    再次,從人類學進路來看,我們也可以獲得一些重要的啟示。盡管運用智能技術(shù)獲得的知識,本質(zhì)是基于具有不同算術(shù)深度和邏輯深度的語言所產(chǎn)出的知識結(jié)果,計算機的強大計算能力和深度學習等算法處理大數(shù)據(jù)的能力使得智能知識生產(chǎn)模式的產(chǎn)出結(jié)果有一些非人的特點。但是,它們?nèi)匀辉谝恍┲匾矫婢哂兄档脧娬{(diào)的人類學特征。特別是,如果人類學分析進路是對的,那么科學知識的客觀性在本質(zhì)上就是社會性。從知識“制造”的過程來看,科學家的目的和決策,科學家之間的信息溝通與交流,幾乎總是會使知識生產(chǎn)的結(jié)果具有人類決策負載。從知識生產(chǎn)結(jié)果的質(zhì)量控制和評估來看,智能知識生產(chǎn)的輸出結(jié)果的重要性也總是體現(xiàn)或反映了人類的興趣或關(guān)切。例如,某個醫(yī)療診斷是否應(yīng)該被采納,某種特定療效的藥物是否應(yīng)該用于臨床,裝備了某種敏感于倫理原則的自動駕駛程序是否可以準予應(yīng)用,等等。③白惠仁:《自動駕駛汽車的“道德”困境》,《科學學研究》2019 年第1 期。

    科學知識社會學的研究還表明,科學生產(chǎn)活動的組織方式受許多社會因素的影響和制約。在近代很長一段時間里,隨著現(xiàn)代大學的興起和擴張,知識生產(chǎn)主要由身處大學或研究機構(gòu)的科研人員承擔,而其產(chǎn)出結(jié)果的質(zhì)量控制一般由學術(shù)共同體或其他合法機構(gòu)(比如期刊和出版社)通過同行評議的方式來掌握。隨著智能知識生產(chǎn)模式的出現(xiàn),知識生產(chǎn)的動力機制、組織方式和質(zhì)量控制等問題已逐步凸顯為需要重新認識的議題。

    由于大學教育的普及,民眾的知識素養(yǎng)普遍提高,越來越多受過高等教育、有能力從事知識生產(chǎn)的人員流入政府部門、企業(yè)、專業(yè)團體或其他社會組織。隨著科學態(tài)度從大學向社會的不斷外溢,在互聯(lián)網(wǎng)及其他社交軟件的幫助下,人們對知識生產(chǎn)活動的關(guān)注度日益高漲,也有越來越強的參與意識和社會問責意識。在一定程度上,因為電子通信、智能技術(shù)的普遍應(yīng)用,以及公眾的廣泛參與,知識生產(chǎn)已經(jīng)形成一個彌散分布于整個智能化社會的體系。這一體系既包括現(xiàn)代大學和研究機構(gòu),也包括企業(yè)的實驗室、研究團隊、其他類型的機構(gòu)或研究中心,甚至還包括某些業(yè)余社會個體。在這一體系里,參與知識生產(chǎn)的場所的數(shù)量已經(jīng)遠遠超出傳統(tǒng)大學或科研機構(gòu)的數(shù)量,而且,知識在傳統(tǒng)知識生產(chǎn)機構(gòu)和社會之間的流通或獲取也愈趨便捷。體系里的組織和交流,比如成果的發(fā)表或傳播,有時候會繞過略顯僵化的傳統(tǒng)體制,它們未必會在傳統(tǒng)學術(shù)期刊發(fā)表,也未必經(jīng)過嚴格的同行評議。比如,維基百科、百度學術(shù)、知乎等網(wǎng)絡(luò)資源平臺就表現(xiàn)出這樣的特點。

    就動力機制而言,純粹的求知欲仍然在發(fā)揮作用,不過,智能知識生產(chǎn)模式的驅(qū)動機制更為復雜。相對而言,它較少受傳統(tǒng)的學科興趣驅(qū)動,而對特定時期突出的社會、政治、經(jīng)濟問題更敏感。出于商業(yè)利益的驅(qū)動或國際競爭的考慮,公司、企業(yè)的研發(fā)團隊往往成為更有能力承擔研究任務(wù)的主體;谷歌的阿爾法圍棋研究團隊、科大訊飛的自然語言處理研究團隊,是這類知識生產(chǎn)主體的典型代表。在組織形式上,智能生產(chǎn)模式里的知識生產(chǎn)往往不再是獨立的研究活動。①由位于日內(nèi)瓦的歐洲核研究組織(CERN)的實驗室指導的一個粒子物理學研究項目,研究成員包括100 多家研究機構(gòu)和2000余名物理學家。參見Christine M. Hine, New Infrastructures for Knowledge Production: Understanding E-science, Information Science Publishing, 2006, p.VI??茖W家日復一日的重復實驗,或者哲學家的反思和推理,這種傳統(tǒng)的知識生產(chǎn)主體形象已經(jīng)只存在于有限的范圍內(nèi)。智能知識生產(chǎn)模式的組織,相對要靈活得多,既可以通過項目制來進行組織,也可以是像維基百科那樣的大眾匿名貢獻。

    由于社會公眾教育程度和社會開放程度的提高,人們不僅熱情地關(guān)注、支持某些議題的研究,也反對、聲討某些越軌或有悖倫理的研究,以這樣的方式,越來越多的人實質(zhì)性地參與了研究目標的設(shè)定或者研究的倫理標準的設(shè)定。因而,智能知識生產(chǎn)模式的質(zhì)量控制,往往不再是取決于少數(shù)科學家或技術(shù)專家的事情;相較而言,知識生產(chǎn)越來越受更大范圍的多種因素影響,需要社會中的不同利益相關(guān)方的協(xié)商和談判。同時,人們普遍認識到,計算機不同于人腦。計算機的運作本身有其限制,比如,不能處理規(guī)范性問題或規(guī)則出錯的情形,智能知識的產(chǎn)出過程的“黑箱”特性,也還有超出人類認知能力把握的方面。在特定情境下,尤其是知識生產(chǎn)有重要社會后果的情境下,對知識產(chǎn)出結(jié)果的質(zhì)量評估需要人力干預和質(zhì)量控制,尤其要施加社會民主化約束以防止社會風險。在無人駕駛、醫(yī)療服務(wù)、環(huán)境問題,以及其他重要的智能知識應(yīng)用領(lǐng)域,社會民主決策程序的引入都非常必要。值得一提的是,在知識生產(chǎn)的質(zhì)量控制上,軟件機器人表現(xiàn)出強大功能,比如,由維吉爾·格里菲斯(Virgil Griffith)開發(fā)的維基掃描器(Wikiscanner)軟件,就對維護維基百科詞條內(nèi)容的質(zhì)量起到了重要作用;它能通過提高維基百科的透明度來防止一些惡意的篡改或編輯。

    另一個相對被忽視但特別值得討論的問題,是探索社會干預促進智能知識生產(chǎn)的機制和措施。詹姆士·布朗對社會干預促進科學的途徑做了討論。②Jams Robert Brown, “Social Factors in Science”, in A Companian to the Philosophy of Science, W. H. Newton-smith (eds.), Blackwell Publishers Inc, 2000, pp.442-443.吉本斯也曾呼吁,知識生產(chǎn)模式的轉(zhuǎn)變要求科技政策的轉(zhuǎn)變,即要從“為適應(yīng)科學發(fā)展而制定政策”轉(zhuǎn)向“為技術(shù)創(chuàng)新而制定政策”。③邁克爾· 吉本斯等:《知識生產(chǎn)的新模式:當代社會科學與研究的動力學》,第138 頁。鑒于智能知識生產(chǎn)模式的特點,也迫切需要社會科技政策做出相應(yīng)的前瞻性考慮。

    在智能知識生產(chǎn)模式里,主要的生產(chǎn)機構(gòu)有相互滲透、跨界融合的特點。一方面,大學和研究機構(gòu)仍然是穩(wěn)定的傳統(tǒng)研究力量;另一方面,市場主導的公司、企業(yè)還有其他一些社會個體也在持續(xù)發(fā)揮作用。尤其值得注意的是,因為商業(yè)利潤的吸引力,企業(yè)和跨國公司等市場主體有特別強烈的知識創(chuàng)新動力,已經(jīng)或正在成為主要的知識生產(chǎn)機構(gòu)。從知識生產(chǎn)的組織特點看,智能知識生產(chǎn)模式能更好激勵、促進穩(wěn)定的機構(gòu)和靈活的組織之間進行合作的制度和措施,應(yīng)該成為當下和未來的科技政策制定的核心考慮。傳統(tǒng)的嚴格單位管理的科技管理措施和科技政策有可能對智能知識生產(chǎn)模式的產(chǎn)出造成限制,特別是限制了專業(yè)人才和技術(shù)專家的活動范圍,或許新的生產(chǎn)模式要求新的、更動態(tài)化的組織模式和制度化模式。鑒于此,我國國務(wù)院2017 年印發(fā)的《新一代人工智能發(fā)展規(guī)劃》要求:“以提升新一代人工智能科技創(chuàng)新能力為主攻方向……構(gòu)筑知識群、技術(shù)群、產(chǎn)業(yè)群互動融合和人才、制度、文化相互支撐的生態(tài)系統(tǒng)?!雹佟缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》,《科技導報》2018 年第17 期。經(jīng)過數(shù)年建設(shè),在人工智能人才團隊建設(shè)、人工智能學科建設(shè)、產(chǎn)學研一體化的政策建設(shè)、培育智能經(jīng)濟等方面,我國已經(jīng)取得明顯進展。不過,目前來看,如何協(xié)調(diào)產(chǎn)業(yè)政策、創(chuàng)新政策與社會政策,將激勵和規(guī)制相結(jié)合,建立“開放協(xié)同的知識創(chuàng)新體系”,以最大限度地釋放智能模式下的社會知識創(chuàng)新活力,仍然還是要持續(xù)探索的問題。

    結(jié) 語

    在當代的知識生產(chǎn)中,以學術(shù)共同體的學術(shù)興趣主導的知識生產(chǎn)模式和國家主導的跨學科攻關(guān)模式都在發(fā)揮重要作用。在這兩種知識生產(chǎn)模式之外,還有一類特殊的知識生產(chǎn)情形,它利用了智能設(shè)備、互聯(lián)網(wǎng)等信息基礎(chǔ)設(shè)施和當代計算機的強大計算能力,特別是利用了基于前者獲得的大數(shù)據(jù)和一些新型算法。這種知識生產(chǎn)模式正在改變一些傳統(tǒng)的科研手段和工作范式,深刻塑造著現(xiàn)代社會和未來技術(shù)文明。

    “新的技術(shù)人類文明類型”是現(xiàn)代社會歷史性生成的結(jié)果,“無法脫離由商業(yè)、技術(shù)工業(yè)與資本文明共同提供的現(xiàn)實的與經(jīng)驗的基礎(chǔ)”。②劉日明:《馬克思的未來社會與新文明類型》,《哲學動態(tài)》2022 年第1 期。從當代知識生產(chǎn)的現(xiàn)實基礎(chǔ)和社會因素來看,智能知識生產(chǎn)模式的動機對社會實踐和社會生活的重要關(guān)切敏感。正如智能駕駛、軍事技術(shù)、醫(yī)療、環(huán)境、認知模擬等特別重要的社會生活領(lǐng)域或技術(shù)應(yīng)用領(lǐng)域,驅(qū)動著智能知識生產(chǎn)。智能知識生產(chǎn)的組織,一般來說,越來越不依賴于科學家個體,而往往是科學家團隊合作科研和決策的結(jié)果,因為相關(guān)問題的知識創(chuàng)新需要的知識背景和技術(shù)條件幾乎總是超出科學家個體的掌握程度。公眾教育程度的提高、科學態(tài)度的外溢、信息基礎(chǔ)設(shè)施的進步等因素,使得科研工作逐漸成為公眾越來越關(guān)注的活動,客觀上也要求擴大社會公眾對智能知識生產(chǎn)結(jié)果的評估和監(jiān)督。

    如果從更廣闊的背景來探討知識生產(chǎn)模式和社會因素之間的互動,那么會產(chǎn)生更多重要的、值得深入討論的問題。比如,如何在未來的國際競爭中,通過依賴于新知識生產(chǎn)的技術(shù)創(chuàng)新來實現(xiàn)競爭優(yōu)勢;如何有效發(fā)揮人工智能科技體系的作用和智能知識生產(chǎn)模式的效能,并將其更廣泛地利用于各個領(lǐng)域的知識生產(chǎn)等;這一類問題還迫切需要加以研究。

    猜你喜歡
    人工智能智能生產(chǎn)
    用舊的生產(chǎn)新的!
    “三夏”生產(chǎn) 如火如荼
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    智能前沿
    文苑(2018年23期)2018-12-14 01:06:06
    智能前沿
    文苑(2018年19期)2018-11-09 01:30:14
    智能前沿
    文苑(2018年17期)2018-11-09 01:29:26
    智能前沿
    文苑(2018年21期)2018-11-09 01:22:32
    人工智能與就業(yè)
    S-76D在華首架機實現(xiàn)生產(chǎn)交付
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    久久精品人人爽人人爽视色| 欧美 亚洲 国产 日韩一| 午夜两性在线视频| 一区二区日韩欧美中文字幕| 啪啪无遮挡十八禁网站| 成年女人毛片免费观看观看9| 日日摸夜夜添夜夜添小说| 亚洲熟女毛片儿| 美女大奶头视频| 嫩草影院精品99| 国产欧美日韩一区二区精品| 国产激情欧美一区二区| 嫩草影视91久久| 岛国视频午夜一区免费看| 欧美成人性av电影在线观看| av网站在线播放免费| 欧美乱码精品一区二区三区| 婷婷精品国产亚洲av在线| 99在线人妻在线中文字幕| 亚洲五月婷婷丁香| 精品国产乱子伦一区二区三区| 国产精品1区2区在线观看.| 国产xxxxx性猛交| 香蕉丝袜av| 日本vs欧美在线观看视频| 中文字幕av电影在线播放| 国产一区二区三区视频了| 日韩欧美三级三区| 真人一进一出gif抽搐免费| 久久影院123| 国产精品1区2区在线观看.| 国产高清激情床上av| 满18在线观看网站| 国产精品亚洲av一区麻豆| 热re99久久国产66热| 一进一出抽搐gif免费好疼 | 在线国产一区二区在线| 天天躁狠狠躁夜夜躁狠狠躁| 免费女性裸体啪啪无遮挡网站| 国产精品秋霞免费鲁丝片| 日日夜夜操网爽| 激情在线观看视频在线高清| 成人三级黄色视频| 亚洲国产精品一区二区三区在线| 久久草成人影院| 欧美乱色亚洲激情| 久热这里只有精品99| 99国产精品一区二区蜜桃av| 男女高潮啪啪啪动态图| 亚洲精品在线美女| 99国产精品免费福利视频| 大香蕉久久成人网| 国产激情欧美一区二区| 久久人人精品亚洲av| 成在线人永久免费视频| 国产精品亚洲av一区麻豆| 亚洲中文日韩欧美视频| av中文乱码字幕在线| 亚洲av电影在线进入| 美女 人体艺术 gogo| 男男h啪啪无遮挡| 精品电影一区二区在线| 视频区欧美日本亚洲| 日韩有码中文字幕| 中文字幕高清在线视频| 亚洲精品在线观看二区| 国产精品自产拍在线观看55亚洲| 老司机午夜福利在线观看视频| 高清欧美精品videossex| 亚洲自拍偷在线| 国产有黄有色有爽视频| 国产精品久久电影中文字幕| 久久香蕉精品热| 欧美老熟妇乱子伦牲交| 黄色成人免费大全| 欧美午夜高清在线| 99热国产这里只有精品6| 日日爽夜夜爽网站| www.自偷自拍.com| 性色av乱码一区二区三区2| www国产在线视频色| 亚洲va日本ⅴa欧美va伊人久久| 欧美av亚洲av综合av国产av| 老鸭窝网址在线观看| 免费av中文字幕在线| 少妇 在线观看| 1024香蕉在线观看| 亚洲五月婷婷丁香| 天堂影院成人在线观看| 免费一级毛片在线播放高清视频 | 日本三级黄在线观看| 桃色一区二区三区在线观看| 成人国语在线视频| 高清av免费在线| 我的亚洲天堂| 久久精品国产综合久久久| 亚洲午夜精品一区,二区,三区| 亚洲熟女毛片儿| 国产男靠女视频免费网站| 在线观看一区二区三区| 两性夫妻黄色片| 50天的宝宝边吃奶边哭怎么回事| 久久久久亚洲av毛片大全| av在线天堂中文字幕 | 午夜精品国产一区二区电影| 欧美日韩乱码在线| 伦理电影免费视频| 18禁观看日本| 天堂中文最新版在线下载| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲午夜精品一区,二区,三区| 丰满的人妻完整版| 日本一区二区免费在线视频| 欧美性长视频在线观看| 宅男免费午夜| 日韩一卡2卡3卡4卡2021年| 一本大道久久a久久精品| 久久狼人影院| 在线观看免费日韩欧美大片| 真人做人爱边吃奶动态| 美女大奶头视频| a级毛片在线看网站| 最新美女视频免费是黄的| 精品国产超薄肉色丝袜足j| av有码第一页| 熟女少妇亚洲综合色aaa.| 久热爱精品视频在线9| 亚洲第一青青草原| 性少妇av在线| 国产亚洲精品久久久久久毛片| 中文字幕人妻丝袜一区二区| 十分钟在线观看高清视频www| 亚洲av五月六月丁香网| 欧美日本中文国产一区发布| 色综合欧美亚洲国产小说| 一二三四在线观看免费中文在| 亚洲第一青青草原| 精品无人区乱码1区二区| 一本大道久久a久久精品| 国产主播在线观看一区二区| 亚洲人成电影免费在线| 午夜福利影视在线免费观看| 91麻豆精品激情在线观看国产 | 久久久久久久精品吃奶| 亚洲熟妇中文字幕五十中出 | 黑人猛操日本美女一级片| 中文字幕高清在线视频| 国产视频一区二区在线看| 国产亚洲精品第一综合不卡| 婷婷六月久久综合丁香| 叶爱在线成人免费视频播放| 如日韩欧美国产精品一区二区三区| 成人三级做爰电影| 亚洲精品久久午夜乱码| 国产精品乱码一区二三区的特点 | 国产av在哪里看| 亚洲九九香蕉| 黑人欧美特级aaaaaa片| 国产深夜福利视频在线观看| 日韩大码丰满熟妇| 好看av亚洲va欧美ⅴa在| 男人舔女人下体高潮全视频| 日韩有码中文字幕| 在线观看66精品国产| 日韩欧美三级三区| 欧美成人性av电影在线观看| 真人一进一出gif抽搐免费| 少妇的丰满在线观看| 热re99久久国产66热| 亚洲精品在线美女| 久久精品aⅴ一区二区三区四区| 欧美精品一区二区免费开放| 中文字幕精品免费在线观看视频| 久久亚洲精品不卡| 日韩一卡2卡3卡4卡2021年| 777久久人妻少妇嫩草av网站| 深夜精品福利| 精品午夜福利视频在线观看一区| 黄色 视频免费看| 久久人妻福利社区极品人妻图片| 淫妇啪啪啪对白视频| 波多野结衣高清无吗| 亚洲av熟女| 91老司机精品| 新久久久久国产一级毛片| 在线观看午夜福利视频| 日韩国内少妇激情av| 国产一卡二卡三卡精品| 欧美丝袜亚洲另类 | 国产精品国产av在线观看| 亚洲人成电影免费在线| 亚洲人成网站在线播放欧美日韩| 黄色视频,在线免费观看| 黑人猛操日本美女一级片| 日本免费一区二区三区高清不卡 | 亚洲avbb在线观看| 日韩精品青青久久久久久| 交换朋友夫妻互换小说| 色综合欧美亚洲国产小说| 欧美不卡视频在线免费观看 | 无限看片的www在线观看| 亚洲,欧美精品.| e午夜精品久久久久久久| 欧美不卡视频在线免费观看 | 欧美激情久久久久久爽电影 | 日韩有码中文字幕| 国产乱人伦免费视频| 亚洲精品美女久久av网站| 女人被狂操c到高潮| 在线观看免费视频日本深夜| av视频免费观看在线观看| 十八禁网站免费在线| 欧美久久黑人一区二区| 国产成人免费无遮挡视频| av天堂久久9| 欧美激情久久久久久爽电影 | 悠悠久久av| 女生性感内裤真人,穿戴方法视频| 一边摸一边抽搐一进一小说| 国产激情久久老熟女| 亚洲自偷自拍图片 自拍| 久久久久亚洲av毛片大全| 午夜福利免费观看在线| 热99re8久久精品国产| netflix在线观看网站| 久久婷婷成人综合色麻豆| 免费高清视频大片| 黄色丝袜av网址大全| 亚洲专区中文字幕在线| 在线观看午夜福利视频| 欧美激情久久久久久爽电影 | 极品人妻少妇av视频| 亚洲欧美日韩另类电影网站| 国产伦人伦偷精品视频| 一区二区三区国产精品乱码| 亚洲av美国av| 午夜成年电影在线免费观看| 亚洲国产毛片av蜜桃av| 欧美日韩福利视频一区二区| 亚洲成人免费电影在线观看| 国产伦人伦偷精品视频| 在线观看舔阴道视频| 国产精品免费一区二区三区在线| 久久精品国产99精品国产亚洲性色 | 91九色精品人成在线观看| 午夜免费观看网址| 亚洲欧美精品综合久久99| 12—13女人毛片做爰片一| 免费搜索国产男女视频| 无限看片的www在线观看| 成年人免费黄色播放视频| 日韩欧美在线二视频| 久久久久亚洲av毛片大全| 国产色视频综合| 激情在线观看视频在线高清| 性色av乱码一区二区三区2| 久久 成人 亚洲| 男女做爰动态图高潮gif福利片 | 精品国内亚洲2022精品成人| 午夜福利,免费看| 老司机午夜十八禁免费视频| 男人舔女人的私密视频| 久久午夜亚洲精品久久| 日本黄色视频三级网站网址| 又大又爽又粗| 亚洲av五月六月丁香网| 欧美成人性av电影在线观看| 中文字幕精品免费在线观看视频| 国产精品自产拍在线观看55亚洲| 一区二区三区国产精品乱码| 成年人免费黄色播放视频| 在线播放国产精品三级| 午夜福利欧美成人| 欧美中文日本在线观看视频| 亚洲伊人色综图| 成人黄色视频免费在线看| 一级a爱视频在线免费观看| 99国产综合亚洲精品| 亚洲欧洲精品一区二区精品久久久| 亚洲自拍偷在线| bbb黄色大片| 亚洲欧美激情在线| av有码第一页| 女人精品久久久久毛片| 色老头精品视频在线观看| 久久精品aⅴ一区二区三区四区| 久久香蕉激情| 精品国产超薄肉色丝袜足j| 母亲3免费完整高清在线观看| 久久精品亚洲精品国产色婷小说| 免费高清在线观看日韩| 91精品国产国语对白视频| 亚洲精品一二三| 99久久综合精品五月天人人| 无遮挡黄片免费观看| 日韩有码中文字幕| 日本免费一区二区三区高清不卡 | 亚洲精品久久午夜乱码| 日本精品一区二区三区蜜桃| 久久人妻av系列| 成人三级黄色视频| 亚洲色图 男人天堂 中文字幕| 男男h啪啪无遮挡| 欧美日韩黄片免| 久久精品影院6| 久久久久久亚洲精品国产蜜桃av| 久久精品亚洲熟妇少妇任你| 亚洲精品久久成人aⅴ小说| 亚洲人成电影观看| 人妻丰满熟妇av一区二区三区| 欧美亚洲日本最大视频资源| 国产成人精品在线电影| 一进一出抽搐动态| netflix在线观看网站| 午夜福利欧美成人| 桃红色精品国产亚洲av| 国产精品野战在线观看 | 日本撒尿小便嘘嘘汇集6| 高清欧美精品videossex| av视频免费观看在线观看| av福利片在线| 日韩中文字幕欧美一区二区| 日韩大码丰满熟妇| 麻豆成人av在线观看| av网站免费在线观看视频| 久久精品亚洲熟妇少妇任你| 亚洲av熟女| 日韩国内少妇激情av| 国产精品av久久久久免费| 色播在线永久视频| 大陆偷拍与自拍| 久久 成人 亚洲| 天堂√8在线中文| 最近最新中文字幕大全电影3 | 亚洲三区欧美一区| 大香蕉久久成人网| 亚洲一区二区三区色噜噜 | 日本wwww免费看| 老司机在亚洲福利影院| 在线视频色国产色| 亚洲欧美一区二区三区黑人| 亚洲avbb在线观看| 身体一侧抽搐| 精品久久久久久久毛片微露脸| 国产麻豆69| 老司机深夜福利视频在线观看| 黄片小视频在线播放| 久久九九热精品免费| 麻豆一二三区av精品| 好男人电影高清在线观看| 免费观看人在逋| 搡老乐熟女国产| 国产精品综合久久久久久久免费 | 在线观看免费视频网站a站| 女人被躁到高潮嗷嗷叫费观| 国产野战对白在线观看| 啪啪无遮挡十八禁网站| 免费av中文字幕在线| 波多野结衣高清无吗| 欧美日韩亚洲综合一区二区三区_| 国产单亲对白刺激| 欧美成人午夜精品| 精品久久久久久久毛片微露脸| 亚洲男人的天堂狠狠| 国产亚洲精品久久久久久毛片| 视频区欧美日本亚洲| 国产激情久久老熟女| 悠悠久久av| 亚洲一码二码三码区别大吗| xxxhd国产人妻xxx| 在线观看一区二区三区激情| 久9热在线精品视频| 欧美 亚洲 国产 日韩一| 国产欧美日韩一区二区三| 91麻豆av在线| 自线自在国产av| 啪啪无遮挡十八禁网站| 亚洲欧美精品综合一区二区三区| 日韩大码丰满熟妇| 免费在线观看影片大全网站| 美女 人体艺术 gogo| 99国产极品粉嫩在线观看| 精品一区二区三区四区五区乱码| 女人高潮潮喷娇喘18禁视频| 狂野欧美激情性xxxx| 国产成人系列免费观看| 欧美另类亚洲清纯唯美| 午夜免费观看网址| 免费在线观看日本一区| 视频区欧美日本亚洲| 91在线观看av| 亚洲七黄色美女视频| 老熟妇乱子伦视频在线观看| 亚洲一区二区三区欧美精品| 亚洲精品中文字幕在线视频| 午夜老司机福利片| 国产精品久久久av美女十八| 欧洲精品卡2卡3卡4卡5卡区| 午夜福利,免费看| 精品国产乱子伦一区二区三区| 国产一区二区三区综合在线观看| 99久久99久久久精品蜜桃| 91av网站免费观看| 欧美精品亚洲一区二区| 超色免费av| 亚洲一区二区三区色噜噜 | 精品久久久精品久久久| 男女下面插进去视频免费观看| 9热在线视频观看99| 久久亚洲真实| 中文亚洲av片在线观看爽| 香蕉国产在线看| 三上悠亚av全集在线观看| 亚洲欧美激情综合另类| 国产又色又爽无遮挡免费看| 久久国产精品人妻蜜桃| 国产黄a三级三级三级人| 男男h啪啪无遮挡| 叶爱在线成人免费视频播放| 亚洲一区中文字幕在线| 久久精品成人免费网站| 老汉色∧v一级毛片| 99久久国产精品久久久| 亚洲第一av免费看| 国内久久婷婷六月综合欲色啪| 在线免费观看的www视频| 免费在线观看日本一区| 欧美日韩亚洲综合一区二区三区_| 色婷婷久久久亚洲欧美| 免费看十八禁软件| 午夜精品国产一区二区电影| 亚洲一区高清亚洲精品| 精品一品国产午夜福利视频| xxx96com| 女性生殖器流出的白浆| 在线十欧美十亚洲十日本专区| 久久天躁狠狠躁夜夜2o2o| 精品一区二区三区视频在线观看免费 | 级片在线观看| 国产午夜精品久久久久久| 欧美日韩国产mv在线观看视频| 在线看a的网站| 一二三四在线观看免费中文在| 欧美黄色淫秽网站| 久久亚洲精品不卡| 一级毛片女人18水好多| 天天添夜夜摸| a级毛片黄视频| 午夜免费激情av| 免费在线观看影片大全网站| av片东京热男人的天堂| 一a级毛片在线观看| 最近最新中文字幕大全电影3 | 久久欧美精品欧美久久欧美| 欧美日韩亚洲国产一区二区在线观看| 免费在线观看完整版高清| av国产精品久久久久影院| av在线天堂中文字幕 | 中文字幕人妻丝袜制服| 国产精品1区2区在线观看.| tocl精华| 无遮挡黄片免费观看| 免费av中文字幕在线| 一二三四社区在线视频社区8| 9191精品国产免费久久| 老鸭窝网址在线观看| 国产一区二区三区视频了| 极品人妻少妇av视频| 国产不卡一卡二| 久久影院123| 亚洲av日韩精品久久久久久密| 99国产精品一区二区三区| 日韩高清综合在线| 国产深夜福利视频在线观看| 亚洲国产中文字幕在线视频| 国产一区二区三区综合在线观看| 欧美乱色亚洲激情| 十八禁人妻一区二区| 伊人久久大香线蕉亚洲五| 色综合欧美亚洲国产小说| 欧美激情 高清一区二区三区| 精品高清国产在线一区| 老鸭窝网址在线观看| 老司机靠b影院| e午夜精品久久久久久久| 80岁老熟妇乱子伦牲交| 真人做人爱边吃奶动态| 精品福利永久在线观看| 国产精品综合久久久久久久免费 | 黄片播放在线免费| 亚洲九九香蕉| 亚洲熟女毛片儿| 很黄的视频免费| 亚洲精品久久成人aⅴ小说| 亚洲精品久久午夜乱码| 黄频高清免费视频| 夜夜看夜夜爽夜夜摸 | 身体一侧抽搐| 可以免费在线观看a视频的电影网站| 亚洲激情在线av| 夜夜躁狠狠躁天天躁| 俄罗斯特黄特色一大片| 一二三四在线观看免费中文在| 操出白浆在线播放| av欧美777| 国产激情欧美一区二区| 久久久久久久精品吃奶| 国产高清视频在线播放一区| 成熟少妇高潮喷水视频| 在线天堂中文资源库| www日本在线高清视频| 国产av又大| 久久久国产欧美日韩av| 国产精品一区二区免费欧美| 中文字幕人妻丝袜制服| 超碰97精品在线观看| 久久久国产成人精品二区 | 搡老熟女国产l中国老女人| 中国美女看黄片| 精品电影一区二区在线| 欧洲精品卡2卡3卡4卡5卡区| 久久精品人人爽人人爽视色| 国产精品免费视频内射| 亚洲人成电影观看| 国产av在哪里看| 校园春色视频在线观看| 国产午夜精品久久久久久| 日韩精品中文字幕看吧| 欧美日韩一级在线毛片| 亚洲精品久久成人aⅴ小说| 黄色毛片三级朝国网站| 亚洲aⅴ乱码一区二区在线播放 | 亚洲国产中文字幕在线视频| 亚洲中文av在线| 国产免费男女视频| 青草久久国产| 国产又爽黄色视频| 一级毛片精品| 色精品久久人妻99蜜桃| 婷婷精品国产亚洲av在线| 成人影院久久| 国产精品av久久久久免费| 一区二区三区激情视频| 可以免费在线观看a视频的电影网站| 国产精品一区二区三区四区久久 | 夫妻午夜视频| 人人妻人人爽人人添夜夜欢视频| 脱女人内裤的视频| 久久久国产精品麻豆| 91在线观看av| 黄色视频,在线免费观看| 成人精品一区二区免费| av有码第一页| 精品卡一卡二卡四卡免费| 中文字幕另类日韩欧美亚洲嫩草| 国产伦一二天堂av在线观看| 亚洲精品粉嫩美女一区| 真人做人爱边吃奶动态| 99国产综合亚洲精品| www日本在线高清视频| 中亚洲国语对白在线视频| 在线观看免费视频日本深夜| 成人黄色视频免费在线看| 好男人电影高清在线观看| 国产亚洲欧美98| av在线播放免费不卡| svipshipincom国产片| 美女高潮喷水抽搐中文字幕| 欧美最黄视频在线播放免费 | av片东京热男人的天堂| 亚洲国产精品999在线| 色综合欧美亚洲国产小说| 一进一出好大好爽视频| 久久青草综合色| 91av网站免费观看| 在线观看66精品国产| 国产av又大| 久久久国产欧美日韩av| 久久青草综合色| a级毛片在线看网站| 最好的美女福利视频网| 久久久久精品国产欧美久久久| 日韩视频一区二区在线观看| 亚洲成人免费电影在线观看| 99久久综合精品五月天人人| 国产亚洲欧美在线一区二区| 在线观看66精品国产| 女人被狂操c到高潮| 国产黄a三级三级三级人| 少妇 在线观看| 国产单亲对白刺激| 国产三级黄色录像| 亚洲五月色婷婷综合| 少妇的丰满在线观看| 国产三级黄色录像| 黄网站色视频无遮挡免费观看| 桃色一区二区三区在线观看| av欧美777| 女人爽到高潮嗷嗷叫在线视频| 一区在线观看完整版| 国产精品久久久人人做人人爽| 久久精品亚洲精品国产色婷小说| av福利片在线| 1024香蕉在线观看| 欧美日韩瑟瑟在线播放| 黄色片一级片一级黄色片| 午夜福利,免费看| 亚洲av五月六月丁香网| 亚洲免费av在线视频| 亚洲熟妇熟女久久| 一级黄色大片毛片| 久久久久国产一级毛片高清牌| 国产免费现黄频在线看| 国产一区二区三区视频了| 丰满人妻熟妇乱又伦精品不卡|