• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    混合人-機(jī)行為與經(jīng)濟(jì)理論基礎(chǔ)研究的創(chuàng)新發(fā)展

    2020-04-14 04:42:31王國成
    人文雜志 2020年3期
    關(guān)鍵詞:機(jī)器人類算法

    王國成

    關(guān)鍵詞混合人-機(jī)行為 經(jīng)濟(jì)理論 基本行為假設(shè) 創(chuàng)新發(fā)展

    引言:經(jīng)濟(jì)學(xué)的發(fā)展能否柳暗花明?

    毋庸諱言,在當(dāng)今世界格局和全球經(jīng)濟(jì)日益復(fù)雜的背景下,現(xiàn)代西方主流經(jīng)濟(jì)學(xué)正在經(jīng)歷著前所未有的強烈沖擊和嚴(yán)峻挑戰(zhàn),苦苦尋求、切切期望蘊含生機(jī)的新方向和更為強勁的新動能。經(jīng)濟(jì)學(xué)理論的發(fā)展緣何陷入如此局面,前行的路上能否柳暗花明,究竟怎樣才能找到突破點?本文從微觀行為視角,在簡述人與自然交互的經(jīng)濟(jì)本質(zhì)、機(jī)器行為學(xué)概要的基礎(chǔ)上,探索以混合人-機(jī)行為為代表的人文-科技高度融合的跨學(xué)科認(rèn)知方法,借助人工智能等新的科技手段開辟經(jīng)濟(jì)學(xué)理論創(chuàng)新發(fā)展的新途徑。

    一、人與自然交互視閾下拓展經(jīng)濟(jì)理論基礎(chǔ)

    人類的生存和自我完善、社會的全面進(jìn)步,必然要以與自然界進(jìn)行物質(zhì)交換的經(jīng)濟(jì)活動為基礎(chǔ),而與之相應(yīng)的經(jīng)濟(jì)理論的創(chuàng)建和發(fā)展所選擇的研究視角、前提假設(shè)、切入點和著力點等都是源于對行為的抽象取舍,行為認(rèn)知的深度和廣度在實踐的檢驗中逐步演變成為構(gòu)筑理論體系的基石與內(nèi)核。然而,現(xiàn)如今高度抽象、單純固化的行為假設(shè)(理性或有限理性)的日漸式微,又在迫使人們重新審視和更加重視人與自然交互的經(jīng)濟(jì)行為本質(zhì)。

    1.現(xiàn)代經(jīng)濟(jì)學(xué)行為假設(shè)的價值觀和方法論

    深深烙有新古典派印痕的現(xiàn)代經(jīng)濟(jì)學(xué),為什么要以高度簡化和抽象的行為假設(shè)作為隱含前提和理論硬核,因其主旨和目標(biāo)是在“理性-均衡”的分析框架內(nèi)著重研究資源的優(yōu)化配置及相關(guān)問題;與價值觀相應(yīng)的理論特色和方法(論)選擇,人格物化和行為選擇空間的收窄,在聚焦問題的同時無疑也放大和突出了資本的主導(dǎo)作用及流動空間與可解析度。在應(yīng)用實踐中長期艱辛的摸索和徘徊之后理論瓶頸就卡在了基礎(chǔ)行為假設(shè)上,再找到全面替代的行為假設(shè)無疑是困難且毫無意義的。人為地習(xí)慣性地把人的屬性與物的屬性、人的行為與機(jī)器行為、個體決策與集體(群組)決策等分割剝離、因果歸屬、孤立地研究是不可取和不合宜的,因人與物有本質(zhì)的不同,且人的屬性只有在與物的交互中才能全面表現(xiàn)和被認(rèn)知。僵化的思維必然會被實踐所拋棄和淘汰,因無法演繹出主體自發(fā)內(nèi)生的行為演變及相互之間的傳導(dǎo)機(jī)理,無法建立起宏觀現(xiàn)象與微觀行為的內(nèi)在聯(lián)系,傳統(tǒng)的單一固化的基礎(chǔ)行為及相應(yīng)的一系列假設(shè)可能在演變成為經(jīng)濟(jì)學(xué)創(chuàng)新發(fā)展的樊籬和桎梏。而當(dāng)代蓬勃興起的頗具人文情懷的新的技術(shù)手段,如混合人-機(jī)行為等,或許會成為突破瓶頸、破解復(fù)雜決策行為奧秘的密鑰和有力工具;也只有借助機(jī)器,才能看清人的深層的行為本質(zhì)及其在經(jīng)濟(jì)社會活動中產(chǎn)生的作用,為大數(shù)據(jù)時代經(jīng)濟(jì)學(xué)(乃至整個人文社會科學(xué))的創(chuàng)新發(fā)展找到一條人文-科技高度融合的跨學(xué)科認(rèn)知方法的道路。

    當(dāng)然,理論的價值取向和方法(論)的選擇,必然是與社會經(jīng)濟(jì)發(fā)展和文明進(jìn)步階段、科技支撐和認(rèn)知水平相應(yīng)的,形成和鼎盛于特定歷史時期的經(jīng)濟(jì)理論體系由于本身的功利化和日益的教條化,注定是要固步自封的;雖然近年來也有對自身方法論的反思,但大都是畫地為牢、淺嘗輒止。任何經(jīng)濟(jì)活動都必然有特定利益取向的預(yù)期目的,相應(yīng)的經(jīng)濟(jì)理論和政策也必然有價值取向和方法(論)選擇,這實質(zhì)上是不同經(jīng)濟(jì)學(xué)流派對其所代表的社會群體的利益反映,真實用意是在用技術(shù)的中立性淡化和掩蓋思想上的傾向性與學(xué)術(shù)研究中的利益價值導(dǎo)向。而在微觀行為視點上盡可能客觀中立地反思自省,能否使經(jīng)濟(jì)學(xué)回歸本原、重振雄風(fēng)呢?

    2.經(jīng)濟(jì)活動的實質(zhì)是人與自然的交互行為

    經(jīng)濟(jì)是人類為增進(jìn)自身福祉和促進(jìn)社會發(fā)展而同自然界進(jìn)行物質(zhì)交換的各類相關(guān)活動,人類開展經(jīng)濟(jì)活動是為其生存發(fā)展提供必需的物質(zhì)基礎(chǔ),而其本身也是自然界中客觀存在的一簇物種(高級生物);但人類又是大自然中具有自身意識的統(tǒng)治者、具有主觀能動性的創(chuàng)造者,其有目的的活動在遵循自然規(guī)律的前提下又能主動地在一定程度上影響和改變著自然界,兩者在不斷的交互協(xié)同中共生共進(jìn)。不對人類行為的特色和本質(zhì)、響應(yīng)模式類型等有深刻的認(rèn)知和確切的刻畫,就不可能實現(xiàn)資源的優(yōu)化配置和市場均衡,就不可能真正把握住理論的創(chuàng)新發(fā)展,也就只能是在原有的框架內(nèi)兜圈圈、打轉(zhuǎn)轉(zhuǎn)或小打小鬧。

    人與自然交互的經(jīng)濟(jì)本質(zhì)決定了經(jīng)濟(jì)發(fā)展的根本動力和因素及發(fā)展目的。毫無疑問,人類是社會經(jīng)濟(jì)活動主體,人的行為是主導(dǎo)因素,增進(jìn)人類福祉是經(jīng)濟(jì)發(fā)展的源動力和一以貫之的目標(biāo)。人類社會的文明進(jìn)步,必然要以物質(zhì)財富為生存基礎(chǔ)和主要的價值實現(xiàn)方式,與此同時,物質(zhì)財富的積累也在推升人類的文明進(jìn)步。人類的美好愿望與可行的自然(外部)條件匹配結(jié)合,物質(zhì)財富的不斷豐富與人類行為的多樣化、生產(chǎn)力的發(fā)展、組織制度的變遷與演進(jìn)以及社會形態(tài)的更替相伴相隨、相互推進(jìn),使得人及社會在與自然界的和諧相處中得以更好地發(fā)展;勞動和生產(chǎn)方式及其創(chuàng)新推動技術(shù)進(jìn)步、決定社會形態(tài)和組織形式,有其本質(zhì)特征和內(nèi)在的規(guī)定性,展現(xiàn)出人類在與自然的交互中自覺地存在并主導(dǎo)著發(fā)展。

    3.拓展經(jīng)濟(jì)理論的微觀基礎(chǔ)

    經(jīng)濟(jì)學(xué)研究的主旨與焦點是人類在與自然界進(jìn)行物質(zhì)交換的實踐中如何有效地作為,而信息、技術(shù)、制度和社會政治環(huán)境變化等只是外部條件,所以理論關(guān)注重點應(yīng)該是行為,要選用由內(nèi)至外、上下貫通的技術(shù)路線;在一系列或明或暗的行為前提假設(shè)上建立的理論體系是理想化的基準(zhǔn)和參照系,而未必就是深入研究最合宜的方法和技術(shù),資源配置只是其中的部分內(nèi)容,要逐步由側(cè)重物盡其用到與人盡其才并行,實現(xiàn)經(jīng)濟(jì)學(xué)的行為復(fù)歸和升華。這就必須要深植和拓展行為假設(shè)與理論基礎(chǔ)。

    經(jīng)濟(jì)理論體系的微觀基礎(chǔ)包括三層(方面)含義:第一層是對微觀個體異質(zhì)行為的刻畫描述,包括行為主體、目標(biāo)、響應(yīng)模式和行動規(guī)則等,如稟賦、優(yōu)化、預(yù)期、決策和風(fēng)險態(tài)度等;第二層是微觀主體背景、相互之間的關(guān)聯(lián)與合理結(jié)構(gòu)及變化過程,包括信息、技術(shù)、制度、產(chǎn)業(yè)和市場結(jié)構(gòu)及社會網(wǎng)絡(luò)等對主體產(chǎn)生的影響;第三層是具有類同性、異質(zhì)性、關(guān)聯(lián)性和協(xié)同性的微觀個體行為與宏觀經(jīng)濟(jì)現(xiàn)象、形態(tài)和模式之問內(nèi)在的密切聯(lián)系,既要考慮到基礎(chǔ)假設(shè)與理論概念(術(shù)語)、范式和方法的聯(lián)系,也要有個量到總量的生成加總模式等。

    隨著人與自然交互的加深、物質(zhì)財富和文明積淀、科技進(jìn)步與認(rèn)知提升及路徑依賴,經(jīng)濟(jì)學(xué)的跨界交叉、深度融合的學(xué)科視野和基礎(chǔ)架構(gòu)到了必要反思自省的歷史關(guān)口,利己價值觀與仿自然科學(xué)和工程技術(shù)的方法、如此的單向線性思維和一系列前提假設(shè),既為構(gòu)建現(xiàn)代經(jīng)濟(jì)理論體系奠定了基礎(chǔ),框定了思維分析的樊籬,同時也隱含地為進(jìn)一步發(fā)展預(yù)留了突破點和方向;而聚焦和精深的行為研究,無疑是極其困難的,但這既是阻礙又是希望。

    二、機(jī)器行為學(xué)與混合人-機(jī)行為

    智能社會中暢想,自由王國里翱翔,全人類在共同構(gòu)筑著盡情地延伸自身器官和思維功能的夢想并為此付出不懈的追求,而經(jīng)濟(jì)學(xué)是其最敏感的觸角和最寬廣的通途。

    1.機(jī)器行為學(xué)緣何興起

    諾貝爾獎得主Herbert Simon 1969年在人工智能發(fā)展史上里程碑式的著作——《人工科學(xué)》(TheSciences of the Artifieal)中寫到:“自然科學(xué)是關(guān)于自然物體與現(xiàn)象的知識。我們想知道是不是有一種‘人工科學(xué),研究人造物和它們的現(xiàn)象?!毕嚓P(guān)領(lǐng)域的科學(xué)家們沿循這一思想,經(jīng)過多年的艱辛探索和積淀,如今正在創(chuàng)建一門新興的交叉學(xué)科——機(jī)器行為學(xué)(Machine Behavior)。這個學(xué)科主要研究智能機(jī)器,但是并不是只從傳統(tǒng)的工程機(jī)器的角度去理解它們,而是將其視為一系列有人類認(rèn)知、行為模式及生態(tài)反應(yīng)的主體。

    (1)新科技革命創(chuàng)造的全新時代

    在當(dāng)今新科技革命的大潮中,一個新的領(lǐng)域——機(jī)器行為學(xué)正在蓬勃興起,它通過跨學(xué)科研究機(jī)器行為及相關(guān)問題,來探索人工智能(AI)如何進(jìn)化以及對人類社會可能產(chǎn)生的影響,是最為領(lǐng)先、最有代表性、最具綜合性的專業(yè)領(lǐng)域,與計算機(jī)、AI和機(jī)器人等密切關(guān)聯(lián),但又各有特色、相互分立。機(jī)器行為學(xué)從人文與科技融合的角度去解釋智能機(jī)器的行為,將生命體的內(nèi)部特質(zhì)與外部環(huán)境演變相結(jié)合,完整深入地研究特定情境中的人類行為。相似的,要想了解和發(fā)展機(jī)器行為在人文社會科學(xué)研究中的應(yīng)用,也必須在算法中考慮主體行為發(fā)生的社會環(huán)境條件,專門研究虛擬的或者嵌入式的AI體(Artificial Intelligence Agents)的行為與塑造它們的人的行為之間的映射關(guān)系。當(dāng)專家們創(chuàng)造此類智能體來解決現(xiàn)實問題、進(jìn)一步滿足人類需求時,就需要更多地關(guān)注模型(映射)和算法如何實現(xiàn)人類的感觸-認(rèn)知-思維-決策-行動的功能。如可視技術(shù)在視覺分類、面部識別、自動駕駛、精準(zhǔn)導(dǎo)航、政治助選和社交媒體等方面都能達(dá)到預(yù)定目標(biāo),擴(kuò)展人類的福利。

    我們?yōu)楹我芯繖C(jī)器行為?主要動機(jī)有三:首先,人類的生存、生產(chǎn)和認(rèn)知方式與自然界交互的深度、廣度和頻度,以及探知自然界和把控自我的需求與能力都達(dá)到了前所未有的高度,但按傳統(tǒng)方式又處于難以跨越的境地;其次,新一輪科技革命的創(chuàng)新、突破和躍升及可能還會遇到的復(fù)雜困難,對人們生活的滲透和影響越來越廣泛,扮演著越來越重要的角色且具有不可阻擋的趨勢;再次,計算技術(shù)、互聯(lián)網(wǎng)和大數(shù)據(jù)及(類)智能算法的廣泛存在和復(fù)雜性給人類的發(fā)展帶來了極大的挑戰(zhàn)和誘惑。AI越來越多地融入社會生活,算法已經(jīng)由模仿逐步過渡到控制著人們的消費、生產(chǎn)、出行、交往、教育及撫養(yǎng)小孩和贍養(yǎng)老人之類等方方面面的日常行為。但還需要注意的是,理論研究和實踐中人類要想完全解釋和控制自動算法可能產(chǎn)生的種種輸出結(jié)果及細(xì)節(jié)過程、與智能算法的實時互動及可能對人類發(fā)展的階段和速度產(chǎn)生的系統(tǒng)性影響是很困難的,AI體在一定程度上模擬替代甚至勝過人的行為成為可能。不同領(lǐng)域里的學(xué)者和專家也在認(rèn)真思考和探討AI體能否超出創(chuàng)造者的預(yù)期和控制,并對可能的負(fù)面行為后果進(jìn)行預(yù)測,據(jù)此為人類敲響警鐘。

    新科技革命創(chuàng)造了一個全新的時代。如今,有著廣泛適應(yīng)性的算法正在社會中前所未有地得以應(yīng)用:在線定價算法給不同的用戶定價,算法交易軟件使得交易變得迅速便利;信用評分算法會影響銀行信貸決策;新聞排名算法和社交媒體機(jī)器人影響人們的所聽所看;無人駕駛車輛也在穿越我們的城市,共享交通算法會改變傳統(tǒng)車輛的行駛模式;機(jī)器會根據(jù)口頭命令做出反應(yīng),執(zhí)行常規(guī)家務(wù);在線約會服務(wù)中,算法負(fù)責(zé)促成浪漫的相會;等等??傊?,人類社會正在機(jī)器行為的友好輔助下邁入一個全新時代。

    (2)新科技與人類行為研究的新階段

    “變幻莫測”的人類行為及其與真實情景的互動,似乎成了當(dāng)今經(jīng)濟(jì)學(xué)及社會科學(xué)界創(chuàng)新發(fā)展的攔路虎和邏輯迷宮。①由AI驅(qū)動的機(jī)器正不斷塑造著我們與社會、經(jīng)濟(jì)、政治、文化及媒體的互動。了解AI系統(tǒng)的行為是應(yīng)用時揚長避短的基礎(chǔ),因此有必要把研究范圍從計算機(jī)學(xué)科拓展到多個學(xué)科,這是研究機(jī)器行為學(xué)的動機(jī)和初心。目前,單個AI體的復(fù)雜度已經(jīng)很高了,并且還在持續(xù)增長,雖然構(gòu)架它們的代碼和訓(xùn)練集可以高度濃縮和簡潔,但是訓(xùn)練后的模型就不可能再那么簡單了,這經(jīng)常導(dǎo)致思維的“黑箱(black boxes)或盲區(qū)”的產(chǎn)生。單從技術(shù)角度看,AI體接受輸入然后輸出,但即便是在“可解釋性(interpretability)”上的一些應(yīng)用場景已經(jīng)有了可喜進(jìn)展的現(xiàn)狀下,AI體實際產(chǎn)生這些輸出的過程仍是架構(gòu)它們的科學(xué)家自己也難解釋和完全控制的。

    一方面,AI體可以通過幫助和增強人類決策與執(zhí)行能力的方式擴(kuò)大社會福利,其產(chǎn)生的正面影響無處不在;但另一方面因如公平性、義務(wù)、透明性等安全性方面的挑戰(zhàn)和滯后的人類監(jiān)管而存在的潛在危害也是令人擔(dān)憂的事情。行為(機(jī)理)的復(fù)雜和模糊決定了算法的復(fù)雜性和不透明性,算法-行為的邏輯關(guān)系規(guī)則和符號程序加深了人類對自身行為的認(rèn)知和把控,但還遠(yuǎn)不可能盡如人愿。日益復(fù)雜的算法放大抑或掩蓋了人類估計和預(yù)測它們對個人和社會真實影響的難度。即便個別算法是相對簡單的,研究像AI系統(tǒng)這類多樣且廣泛的對象的行為也是件難以想象的困難事情。算法于人類的利弊皆有,AI體總體上正以意料之中和之外的方式影響和塑造人類的行為與社會結(jié)果。如AI體可被設(shè)計用來幫助孩子們學(xué)習(xí)成長,或是扶助老年人安度晚年;然而,如果在“意料之外的情況下”偏離了初衷,也會出現(xiàn)對孩子們的誤導(dǎo)和老年人的生活樂趣被限制等類似的情況。再如,不實之詞在一小部分人群內(nèi)的傳播可能在整個社會層面上掀不起什么風(fēng)浪,然而這類信息在AI平臺和社交媒體上的植入與擴(kuò)張,則會產(chǎn)生嚴(yán)重和惡劣的社會后果。但無論怎么說,信息、計算機(jī)、萬物互聯(lián)、大數(shù)據(jù)和AI等新一波高科技浪潮正在從根本上改變著人們的生活和認(rèn)知方式,也必然會在行為基點上對人文社會科學(xué)的研究產(chǎn)生重大影響。

    2.混合人-機(jī)行為與機(jī)器行為學(xué)研究范圍

    (1)機(jī)器行為學(xué)研究范圍

    按目前所構(gòu)建的研究框架,可對機(jī)器行為的研究內(nèi)容和范圍做大致的劃分:個體機(jī)器行為、群集機(jī)器行為和嵌入處在混合或異構(gòu)系統(tǒng)的人類社交環(huán)境中的混合人-機(jī)行為。

    個體機(jī)器行為強調(diào)針對個體行為的算法本身的研究,與數(shù)量金融、量化投資等建模實證方法相對應(yīng);群集機(jī)器行為可通過機(jī)器之問的相互作用模仿研究人類的社群交往行為,有動態(tài)演化博弈、行為/實驗金融、復(fù)雜網(wǎng)絡(luò)等基于策略行為的算法和并行分布的計算技術(shù)為支撐:這些都可以說是基于理論建模和經(jīng)驗數(shù)據(jù)驅(qū)動的技術(shù)方法。而混合人一機(jī)行為通過研究機(jī)器與人類之間的相互作用來揭示人與自然交互的內(nèi)在機(jī)理和方式。這三類機(jī)器行為研究能在很大程度上模擬解決現(xiàn)實經(jīng)濟(jì)(金融)中可能出現(xiàn)的諸多問題。在算法可直接對應(yīng)機(jī)器行為研究的基礎(chǔ)上,有機(jī)融入人的行為的機(jī)器群集研究或許有更大的用處。

    以金融交易為例,機(jī)器行為研究其獨特性。AI系統(tǒng)不一定面臨與生物種群相同的限制,機(jī)器行為可提供全新的能力。在金融交易環(huán)境中已經(jīng)觀察到一些非常有趣的算法集體行為。這些環(huán)境在很小的時間尺度上運行,因此算法交易者可以在任何人類交易者之前對市場情形和其他算法交易者做出策略事件效應(yīng)。在某些條件下,高頻能力交易會導(dǎo)致金融市場效率低下。除了前所未有的響應(yīng)速度之外,機(jī)器學(xué)習(xí)的廣泛使用、自主操作和大規(guī)模部署的能力使我們相信機(jī)器交易行為與人類交易者有本質(zhì)的不同。再如即時性全球通信,就能夠帶來全新的集體行為模式。相關(guān)研究還揭示出機(jī)器行為可以從這些復(fù)雜的相互作用系統(tǒng)中生成出人意料的特性。這些會與當(dāng)今的大數(shù)據(jù)、機(jī)器(深度)學(xué)習(xí)、區(qū)塊鏈及量子計算等技術(shù)自然對接。

    此外,這些金融算法和交易系統(tǒng)必須在某些歷史數(shù)據(jù)集上進(jìn)行訓(xùn)練,并對有限的各類預(yù)見情景作出反應(yīng),從而導(dǎo)致了難以對人與環(huán)境互反饋循環(huán)的設(shè)計中新出現(xiàn)和無法預(yù)見的情況作出反應(yīng)的問題。閃電崩盤等市場涌現(xiàn)是(交互)算法無意識后果的典型例子,對引出算法的相互作用是否會產(chǎn)生更大的市場危機(jī)這一問題,構(gòu)成了極大的挑戰(zhàn)。

    (2)混合人-機(jī)行為

    人類創(chuàng)造機(jī)器行為,機(jī)器改造人類行為。人類創(chuàng)造、影響和塑形智能機(jī)器的行為,智能機(jī)器也在輔助、改變和提升人類行為。與一般的人-機(jī)對話、人-機(jī)交互和人-機(jī)協(xié)同等有所不同,混合人-機(jī)行為將共性的與個性的、規(guī)則的與鮮活的行為屬性有機(jī)結(jié)合,類似于行為實驗的HS+CA、區(qū)塊鏈、020營銷行為和在線遠(yuǎn)程會診以及XR技術(shù)等,更加注重在行為基點上,對人類主體隨外界環(huán)境條件變化的有意識的綜合響應(yīng)、內(nèi)生的察覺認(rèn)知、主動學(xué)習(xí)和內(nèi)生的自我調(diào)適、思維決策等人的行動能力與機(jī)器行為實現(xiàn)方式的對接和轉(zhuǎn)換。

    將智能機(jī)器引入社會系統(tǒng),可以改變?nèi)祟愋叛龊托袨榈姆绞?,調(diào)節(jié)人們的社交互動,釀造在線信息,改變社會系統(tǒng)的關(guān)系和結(jié)構(gòu)。正如在工業(yè)過程中引入自動化一樣,智能機(jī)器在改進(jìn)現(xiàn)有問題的過程中也會產(chǎn)生不同的社會效應(yīng)。例如用于在線社交的匹配算法是否會改變社群形成過程和分布結(jié)果,或者新聞過濾算法是否會改變公眾輿論的影響效果,政府利用機(jī)器智能是否會提高治理效率、政治責(zé)任和透明度或公民參與度等。這個領(lǐng)域中的其他問題與機(jī)器行為以更基本的方式改變社會結(jié)構(gòu)的潛力有關(guān),也與幫助形成人類新的社會關(guān)系的AI系統(tǒng)是否能夠?qū)崿F(xiàn)集體協(xié)調(diào)行動等有密切關(guān)聯(lián)。最重要的根本性問題是,人類應(yīng)如何與智能機(jī)器協(xié)作,共同不斷地生產(chǎn)經(jīng)濟(jì)產(chǎn)品和服務(wù)以滿足人們?nèi)找嬖鲩L的社會需求。

    然而,在人-機(jī)協(xié)作的共同行為中,最終機(jī)器在長期內(nèi)進(jìn)行的迭代或增強,會改變?nèi)伺c機(jī)器的關(guān)系嗎?既根植真實行為及場景,又延伸和突破人類智慧的局限,人類與智能機(jī)器優(yōu)勢互補的混合人-機(jī)行為,在包容性、廣泛性和有效性方面明顯優(yōu)于個體和群集機(jī)器行為及原有分析方法。專家們已在致力研究從標(biāo)準(zhǔn)實驗室環(huán)境到更一般情形下的人-機(jī)交互,觀察到與簡單機(jī)器人的交互可以增加人類協(xié)調(diào)性,機(jī)器人也可以在與真人之間合作相媲美的水平上直接與人類合作,這迫切地需要進(jìn)一步理解人與自然的互反饋回路。此外,在機(jī)器行為生態(tài)學(xué)領(lǐng)域的各種類型的問題中,對于特別強調(diào)的人類社會交往方式,也有可能會被智能機(jī)器所影響,人們需要長期密切關(guān)注這類混合系統(tǒng)的動態(tài)演變。

    3.機(jī)器行為學(xué)的研究對象和跨學(xué)科研究方法(論)

    隨著勞動生產(chǎn)率和技術(shù)的提高,借助機(jī)器和其他手段模擬提升人類自身的思維與行為的專門研究及學(xué)科的出現(xiàn)是文明進(jìn)步之必然。在不斷復(fù)雜化的人-機(jī)混合系統(tǒng)的背景下,人類應(yīng)該/也肯定會始終占據(jù)主導(dǎo)地位。系統(tǒng)可從歷史經(jīng)驗、數(shù)據(jù)信息中自適應(yīng)性學(xué)習(xí)、修正謬誤、校準(zhǔn)方向,改進(jìn)數(shù)據(jù)收集處理機(jī)制和方法。在很多場景下,人們只能觀察到AI系統(tǒng)的輸入和輸出,而且數(shù)據(jù)集的維度魔咒和單向的數(shù)據(jù)量擴(kuò)張也會增加對AI的理解難度。即使模型和代碼開源,人們也不太可能完全控制和準(zhǔn)確預(yù)測出模型與系統(tǒng)的輸出。AI體在和周圍環(huán)境及其他智能單元相互作用的時候可以表現(xiàn)得很“特立獨行”,即便形成它的數(shù)學(xué)函數(shù)存在解析解,那么這個解析解也是普通人很難理解的。

    以真實人類行為為機(jī)器行為研究定向,借助智能機(jī)器可更好地理解行為產(chǎn)生的成因、機(jī)理及演化,提高行動力。為了研究和不斷提升機(jī)器在現(xiàn)實環(huán)境中的行為,透視“黑箱”算法,引領(lǐng)和掌控行為過程,機(jī)器行為學(xué)正在形成和實踐著自己特立的方法(論)。

    (1)問題導(dǎo)向,聚焦行為,融合貫通。人的有意識的目的是借助機(jī)器增強行為實現(xiàn)能力,機(jī)器行為在人類的創(chuàng)造和有意識主導(dǎo)下可局部地替代甚至超越人類現(xiàn)有能力。如此便目標(biāo)清晰、聚焦準(zhǔn)確、便于操控。但是這種做法現(xiàn)在還處于初級探索階段,又有數(shù)據(jù)的表現(xiàn)存在形式與版權(quán)限制、收集傳輸和加工處理利用方法等方面的局限,再加上機(jī)器行為學(xué)助推人文社會科學(xué)評價指標(biāo)的形成,人本主導(dǎo)和復(fù)歸、以行為作為主線融合貫通相關(guān)問題,應(yīng)該是機(jī)器行為學(xué)研究的根本和主旨。

    (2)行為視點上的跨學(xué)科整合。有關(guān)機(jī)器行為的問題跨越了各種傳統(tǒng)學(xué)科和主題,為了研究黑盒算法在現(xiàn)實環(huán)境中的行為,我們必須整合來自不同學(xué)科的知識和見解。人的行為是不分學(xué)科或者說是多學(xué)科綜合的,人的每一項次活動,都可能含有經(jīng)濟(jì)屬性、社會屬性、政治屬性等,以及生理、心理特征和活動客體的自然屬性等。那么,混合人-機(jī)行為的研究也必然是跨學(xué)科的,是大跨度深度交叉融合的。人文社會科學(xué)的所有分支,都是建立在行為起點上的,人類及人類社會是在不斷加深與自然界的交互中生存發(fā)展的,這就決定了機(jī)器行為學(xué)的研究方法必須是多學(xué)科、大門類、寬領(lǐng)域的學(xué)科架構(gòu)(見圖1),這同時也能大大激發(fā)人類智慧的適應(yīng)性和創(chuàng)造性。這種跨學(xué)科、多元化、包容性和內(nèi)生自發(fā)等屬性,是機(jī)器行為學(xué)研究顯著的方法特征。

    圖1機(jī)器行為學(xué)主架構(gòu)學(xué)科的跨界關(guān)聯(lián)圖

    (3)動態(tài)適應(yīng)性。機(jī)器行為是“可進(jìn)化的”,因其既穩(wěn)健又易修改(相對擾動信息)并且有望逐步接近人類主體的內(nèi)生綜合互反饋的適應(yīng)性進(jìn)化。機(jī)器行為內(nèi)置的靈活多變的算法是有目的地設(shè)計出來的,這區(qū)別于自然生物本能的長期、進(jìn)化性的演變。在當(dāng)今互聯(lián)互通的社會背景下,既要用自適應(yīng)的路徑依賴(path de-pendence)解釋一些令人費解的個體行為,更要用行為關(guān)聯(lián)(網(wǎng)絡(luò)連通)和總量生成(集聚涌現(xiàn))機(jī)理及社會網(wǎng)絡(luò)分析來揭示群體行為。在變化多端的真實環(huán)境中,如投資理財、無人駕駛和病人診療等,進(jìn)化中每一階段的算法從各個角度在被重復(fù)使用,但它在提高效率的同時又可能生成未來行為的局限,這使得在此基礎(chǔ)上對算法的更新升級成為必要和可能。人類環(huán)境通過改變算法的繼承體系來虛擬實現(xiàn),AI復(fù)制行為可能被開源軟件、網(wǎng)絡(luò)架構(gòu)的細(xì)節(jié)和各種可能的環(huán)境中潛在的訓(xùn)練數(shù)據(jù)集所促進(jìn),其中體現(xiàn)出的動態(tài)適應(yīng)性強烈地影響著算法的自動進(jìn)程以及AI和機(jī)器行為學(xué)的發(fā)展。

    4.機(jī)器行為學(xué)發(fā)展前景及應(yīng)用展望

    機(jī)器行為學(xué)主要通過研究AI算法的行為和特性等來更好地理解和引領(lǐng)人文社會系統(tǒng)的演進(jìn),人類可以從這些因素帶來的勞動的效率和決策的改進(jìn)中受益匪淺。了解和預(yù)見機(jī)器行為的發(fā)展前景,有助于最大限度地發(fā)揮AI對社會的潛在利益。

    首先,探索機(jī)器行為研究的正確發(fā)展道路。機(jī)器行為和動物、人類的行為有本質(zhì)不同,甚至有些可能是迥異的,因而應(yīng)避免過度單向地擬人擬獸,AI系統(tǒng)的研究必然會與生命系統(tǒng)的研究有所區(qū)別,即使現(xiàn)有的行為科學(xué)有助于機(jī)器行為研究,但機(jī)器可能表現(xiàn)出與生命不同的特質(zhì),也可能表現(xiàn)出某種“超人類”形式的智力和行為。順應(yīng)人類社會發(fā)展趨勢,未來能更客觀科學(xué)地為人與機(jī)器的行為定位,相互之間共生共進(jìn)的關(guān)系更趨于合理和協(xié)調(diào),更好地根據(jù)真實的生命系統(tǒng)設(shè)計、剖析和修改AI系統(tǒng),智能機(jī)器類的研究重點也會更多地關(guān)注能更好地適應(yīng)不同的真實環(huán)境下的算法行為,開辟機(jī)器行為健壯發(fā)展的新通途。

    其次,數(shù)據(jù)從觀念到技術(shù)全方位的轉(zhuǎn)變和提升。數(shù)據(jù)是由世界演變到人類認(rèn)知的橋梁媒介、映射方式和論道載體,針對機(jī)器行為的研究通常還需要現(xiàn)實條件下的行為實驗來研究人-機(jī)交互以自生產(chǎn)數(shù)據(jù),此類實驗的介入可能會全面改變系統(tǒng)的數(shù)據(jù)輸入和算法輸出行為,實時的鮮活數(shù)據(jù)與歷史的經(jīng)驗數(shù)據(jù)有機(jī)結(jié)合,在存在形態(tài)、獲取渠道、處理利用方式等方面將會發(fā)生根本性轉(zhuǎn)變,多視角、多層次和多粒度的高保真映射和模擬成為可能,由此實現(xiàn)微觀與宏觀、人-機(jī)、實-虛、人-物之間的雙向互反饋,通過分散描述和機(jī)理貫穿,以滿足理論體系的內(nèi)在一致性和動態(tài)適變性的邏輯前提。

    再次,跨界深耕的研究方法。機(jī)器行為學(xué)可以說是研究AI與人類共存共進(jìn)的學(xué)科及技術(shù),人為的可控實驗干預(yù)能更具針對性地研究現(xiàn)實環(huán)境中的人-機(jī)交互問題,改變系統(tǒng)的整體行為。從人-機(jī)關(guān)系演進(jìn)的視角看,傳統(tǒng)學(xué)科可能會被重新洗牌和劃分,決定性的理論基礎(chǔ)更需要拓疆?dāng)U土、深耕厚植。大數(shù)據(jù)、機(jī)器學(xué)習(xí)和AI等新一輪科技革命對經(jīng)濟(jì)學(xué)乃至所有人文社會科學(xué)研究、社會實踐帶來了革新挑戰(zhàn)和良好機(jī)遇,對機(jī)器行為的研究將需要學(xué)科問和各類機(jī)構(gòu)問的共同努力,應(yīng)積極面對挑戰(zhàn)、跨越障礙,吸納和包容原有相關(guān)學(xué)科,逐步設(shè)計和構(gòu)建大規(guī)模、多連通、動態(tài)調(diào)適、平等可信的跨學(xué)科研究平臺。

    最后,向善解決研究智能機(jī)器系統(tǒng)可能帶來的法律和道德問題。算法的可操控對社會經(jīng)濟(jì)秩序和公共規(guī)則的雙向作用會使某一部分人或社會群體的利益及“隱私”受損,這些會在逐步清晰和完善的邊界劃分下逐步改善。將AI直接“植入”日常生活中的潛在缺陷,人們已預(yù)見到并且在盡可能避免其副作用,否則機(jī)器行為研究所學(xué)帶來的好處可能會被淹沒和變性。實踐中這樣的倫理需要考慮和體現(xiàn)自身特點的標(biāo)準(zhǔn)化框架和實施中的認(rèn)真監(jiān)督。

    三、混合人-機(jī)行為的研究助推經(jīng)濟(jì)理論的創(chuàng)新發(fā)展

    混合人-機(jī)行為和機(jī)器行為研究無疑是為助推經(jīng)濟(jì)理論基礎(chǔ)研究的創(chuàng)新發(fā)展提供了有利契機(jī)和有力的技術(shù)手段,也是人類與自然界交互和自我認(rèn)知進(jìn)入新階段的重要標(biāo)志。

    1.混合人-機(jī)行為為拓寬和夯實微觀基礎(chǔ)創(chuàng)造了新的契機(jī)

    混合人-機(jī)系統(tǒng)的行為外化為深化和拓寬經(jīng)濟(jì)理論的微觀基礎(chǔ)開辟了新的通途,提供了更為有利的工具,有望在一定程度上解決人與自然的交互活動中行為的內(nèi)生、綜合和自主變化等問題。類似于機(jī)器學(xué)習(xí),機(jī)器行為著重研究怎樣使用計算機(jī)真實、實時地模擬或?qū)崿F(xiàn)人類行為,是多學(xué)科、多領(lǐng)域大跨度交叉的前沿研究領(lǐng)域之一,混合人-機(jī)器行為強調(diào)對機(jī)器和人之問相互作用的研究,是最具智能特征的A1分支學(xué)科。雖然機(jī)器行為學(xué)目前暫處于萌芽階段,但其所帶來的思想啟迪將會為發(fā)展混合智能和智慧奠定理論和技術(shù)基礎(chǔ)。人與機(jī)器的行為分界清楚但又不斷交互,你中有我,我中有你,滲透融合。人類行為和機(jī)器行為相互塑造、協(xié)同互動,人類可以創(chuàng)造智能機(jī)器,同時也在理解和接受智能機(jī)器來改變自身行為,這就為經(jīng)濟(jì)學(xué)和其他人文社會科學(xué)的研究開辟了新的視角和通途。

    任何宏觀現(xiàn)象、特征和規(guī)律,都是與一定的微觀背景、條件和基礎(chǔ)相應(yīng)的。機(jī)器行為實質(zhì)上是在一定程度上復(fù)現(xiàn)或預(yù)見了由微觀到宏觀生成過程中的特定環(huán)節(jié),由此使學(xué)習(xí)認(rèn)知和自我控制等人類行為得以提升。理論驅(qū)動的基于經(jīng)驗數(shù)據(jù)的計量經(jīng)濟(jì)建模和實證分析,與大數(shù)據(jù)和AI時代的行為建模實證分析,兩者本質(zhì)上是相通的,雖然存在著技術(shù)專用性上的差異,但可以說后者完全覆蓋前者,前者是后者的特例,它們在積蓄力量來突破傳統(tǒng)分析方法中情景設(shè)定、因素可分離的背景和前提條件所形成的“理性-均衡”分析框架。

    從人類發(fā)展史來看,任何的科技進(jìn)步或變革,都是源于人們的生活實踐和創(chuàng)造、都要匯聚成服務(wù)于人類社會發(fā)展和文明進(jìn)步的推動力,智能技術(shù)也概莫能外。而且人的大腦、認(rèn)知和意識,一定會自覺有效地運用新技術(shù),不斷引領(lǐng)和主導(dǎo)創(chuàng)造和推出更加新優(yōu)先進(jìn)的技術(shù),循環(huán)往復(fù)、逐步升級到人類社會文明的更高層次,而其中人與物的主動和被動的序關(guān)系是不會改變的。由人工科學(xué)到AI,再到人類智慧,可對抽象、僵化的邏輯體系及方法技術(shù)賦予鮮活的人文靈魂和社會精髓,或許此舉能辨清社會經(jīng)濟(jì)研究的癥結(jié)根源就在于行為盲區(qū)。

    2.應(yīng)用體驗

    近年來,我們通過深入分析微觀行為,借助計算實驗和情境模擬等技術(shù)手段,在收入分配和差距演變、公共治理與政策模擬、金融與資本等相關(guān)的決策問題和領(lǐng)域做了一些應(yīng)用嘗試。如對我國股市異質(zhì)投資行為的探討,在建立行為模型的基礎(chǔ)上,推廣異質(zhì)性預(yù)期方法,具體研究了投資者的沖動行為、羊群行為,機(jī)構(gòu)和散戶的政策響應(yīng)、情緒變動等微觀異質(zhì)行為與股價的暴漲暴跌、波動集聚、偏峰厚尾等股市“異象”之間的內(nèi)在對應(yīng)與傳導(dǎo)機(jī)理等,用HS行為實驗方法和市場交易數(shù)據(jù)為微觀主體分類、獲取和測定個體關(guān)鍵行為特征,為機(jī)器系統(tǒng)CA賦初始值和分層框定模型中參數(shù)變動范圍;然后,對虛擬主體CA用MATLAB和NetLogo等軟件進(jìn)行大規(guī)模、變步長、細(xì)粒度、多情景的模擬驗證和擬貝葉斯推斷,以識別與區(qū)分由個量到總量的加總生成類型。這類基于異質(zhì)行為的建模分析與數(shù)量金融、量化投資、金融工程以及單純的Agent建模模擬和大數(shù)據(jù)金融等理論建模、數(shù)據(jù)驅(qū)動、表象分析和經(jīng)驗推測類方法相比,更加自然、便利、高效和切實,很好地發(fā)揮了混合人-機(jī)行為的優(yōu)勢,在揭示市場運行內(nèi)在機(jī)理、破解復(fù)雜決策密碼等方面更為深入、合理和可信。

    在應(yīng)用實踐中初步感悟到:微觀主體行為的微小差異,可能導(dǎo)致宏觀層面的顯著波動和變化,這并非只是統(tǒng)計物理視角下非線性、混沌的蝴蝶效應(yīng)等,而是由特定環(huán)境中微觀主體的關(guān)鍵行為特征、多連通(互反饋)的網(wǎng)絡(luò)關(guān)聯(lián)機(jī)理影響和決定著的宏觀現(xiàn)象,這些又影響和形成了微觀主體所處的環(huán)境,這種循環(huán)有著內(nèi)在的必然性。按這樣通宏洞微的觀點、思路和方法,有望更貼切地解釋幾乎所有具有中國特色的現(xiàn)實問題。只有打開行為黑箱,由個量生成總量,揭示經(jīng)濟(jì)運行內(nèi)在機(jī)理、破解復(fù)雜決策奧秘,才能真正地促進(jìn)經(jīng)濟(jì)學(xué)及其他人文社會科學(xué)的科學(xué)化和基礎(chǔ)理論的實質(zhì)性創(chuàng)新發(fā)展。

    3.行為基點上的理論創(chuàng)新發(fā)展

    從本源上說,經(jīng)濟(jì)學(xué)乃至人文社會科學(xué)的所有分支,都發(fā)源于對人的行為的研究,相比較而言,經(jīng)濟(jì)學(xué)更多地關(guān)注人與自然的互動。于是乎,混合人-機(jī)行為與經(jīng)濟(jì)學(xué)研究有著天然的密切關(guān)聯(lián):行為目標(biāo)和相互規(guī)則清楚、可控可重復(fù)的行動可交由機(jī)器來實現(xiàn);而現(xiàn)實環(huán)境中有意識的、內(nèi)生自發(fā)多變的鮮活行為,還必須從人類真實主體中獲取?;旌先?機(jī)行為是模擬研究人與自然的協(xié)同交融、共激共進(jìn)關(guān)系等社會經(jīng)濟(jì)活動最好的實現(xiàn)方式,也是最有可能破解人類決策復(fù)雜奧秘的密鑰。人類肯定會在AI等自己創(chuàng)造的技術(shù)的支持輔助下,更好地完善和提升自身,也會在人與自然和技術(shù)的關(guān)系中始終占據(jù)主導(dǎo)地位。

    當(dāng)今社會正邁入智能時代,隨著文明進(jìn)步和科技發(fā)展,人類對美好夢想不懈追求,在經(jīng)濟(jì)社會實踐活動和理論探索中不斷開疆拓土、重新分工、效率躍升和認(rèn)知升華,思維觀念與方式、行為模式及能力都會發(fā)生重大或根本性轉(zhuǎn)變,但其在與自然界交互和科技進(jìn)步中的主體性與主導(dǎo)性只可能是更加協(xié)調(diào)和穩(wěn)固,相輔相成、共生共進(jìn),而不會改變和逆轉(zhuǎn)(見圖2)。在今后相當(dāng)長的一段時期內(nèi),人們會逐步認(rèn)識到混合人-機(jī)行為和機(jī)器行為學(xué)興起的必然性和重要意義,理論的創(chuàng)新發(fā)展取決于對行為的深化認(rèn)知,也必然要尋求和得益于混合人-機(jī)行為類技術(shù)的有力推動;孤立單純地考察抽象行為的意義式微,必須將人類行為放在相應(yīng)的物質(zhì)技術(shù)條件和社會經(jīng)濟(jì)環(huán)境中考察。就像數(shù)據(jù)與數(shù)據(jù)環(huán)境的關(guān)系那樣,通過特定環(huán)境下和背景中的真人實驗,獲取行為響應(yīng)模式,確定關(guān)鍵特征類型,作為二元變量初始值為智能機(jī)器的CA賦予自動執(zhí)行規(guī)則和屬性;借助機(jī)器行為挖掘人與自然交互的本質(zhì),發(fā)現(xiàn)真理,探究內(nèi)核、特質(zhì)和靈魂,揭示社會與自然交融的奧秘;更緊密地結(jié)合研究對象的環(huán)境狀況,推出更具針對性的政策措施;通過大數(shù)據(jù)直接便利的高保真映射(建模),擴(kuò)充真實復(fù)雜場景覆蓋,解釋現(xiàn)實“異象”的征兆、突變臨界狀態(tài)點的情緒、靈機(jī)一動等行為表現(xiàn)和選擇替代。伴隨多元方法論的融入,應(yīng)建立切實規(guī)范的社會科學(xué)評價體系,而經(jīng)濟(jì)研究的行為復(fù)歸和突破創(chuàng)新的根源性問題以及切實可行的著力點和展開途徑找準(zhǔn)了,就能順勢生成一個“完整的”人類社會。

    圖2人類與自然的交互演進(jìn)示意圖

    隨著人與自然交互的加深、拓展及能動性增強,對經(jīng)濟(jì)結(jié)構(gòu)優(yōu)化和高質(zhì)量協(xié)調(diào)發(fā)展、系統(tǒng)性風(fēng)險征兆的發(fā)現(xiàn)和更有針對性的防范應(yīng)對預(yù)案、助推式宏觀調(diào)控、踐行“五位一體”的新發(fā)展理念等我國社會經(jīng)濟(jì)發(fā)展中的一些緊迫、重大的現(xiàn)實問題,以及像資本市場上的心理恐慌、股價急劇攀升或斷崖式下跌、板塊逆市沖高等諸多市場形態(tài)和異象,能否在微觀行為層面和視點上,看清癥結(jié)根源和理清傳導(dǎo)機(jī)理,不僅是理論發(fā)展也是立場選擇的關(guān)坎與分水嶺,這需要跳出思維框架、拓寬夯實理論基礎(chǔ)、充實豐富研究內(nèi)容,如此方能促進(jìn)在應(yīng)用實踐中創(chuàng)建更接地氣、突顯特色的中國經(jīng)濟(jì)理論。

    總之,隨著混合人-機(jī)行為的研究和機(jī)器行為學(xué)的興起,人與機(jī)器的相依互激共進(jìn),一方面可大大延展和提升人類的思維功能和行動能力,另一方面也可為算法和自動程序賦予鮮活生動的人文靈魂,為深化行為研究、在行為基點上整合人文社會科學(xué)研究提供強有力的技術(shù)手段。

    作者單位:河北經(jīng)貿(mào)大學(xué)、中國社會科學(xué)院數(shù)量經(jīng)濟(jì)與技術(shù)經(jīng)濟(jì)研究所

    責(zé)任編輯:牛澤東

    猜你喜歡
    機(jī)器人類算法
    機(jī)器狗
    機(jī)器狗
    人類能否一覺到未來?
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    1100億個人類的清明
    進(jìn)位加法的兩種算法
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    一種改進(jìn)的整周模糊度去相關(guān)算法
    国产免费福利视频在线观看| 国产成人一区二区在线| 亚洲美女搞黄在线观看| 国产乱来视频区| 搡老乐熟女国产| 精品久久久久久电影网| 波野结衣二区三区在线| 亚洲第一区二区三区不卡| 日本免费在线观看一区| 最近中文字幕2019免费版| 日本-黄色视频高清免费观看| 性高湖久久久久久久久免费观看| 一个人看视频在线观看www免费| 国产又色又爽无遮挡免| 国产不卡av网站在线观看| 在线精品无人区一区二区三| 欧美人与善性xxx| 免费大片黄手机在线观看| 一个人看视频在线观看www免费| 午夜福利,免费看| 国产高清三级在线| 欧美成人午夜免费资源| 国产色爽女视频免费观看| 考比视频在线观看| 国产毛片在线视频| 国产成人精品在线电影| av有码第一页| 91精品三级在线观看| 免费高清在线观看日韩| 男的添女的下面高潮视频| 久久久午夜欧美精品| 亚洲av日韩在线播放| 蜜臀久久99精品久久宅男| 日产精品乱码卡一卡2卡三| 亚洲伊人久久精品综合| 国产精品无大码| 国产一区二区在线观看av| 男女国产视频网站| 观看美女的网站| 亚洲国产精品一区三区| 日日爽夜夜爽网站| 成年人午夜在线观看视频| 国产亚洲一区二区精品| av在线app专区| 成年女人在线观看亚洲视频| 午夜视频国产福利| 国产淫语在线视频| 天天影视国产精品| 亚洲精品久久成人aⅴ小说 | 国产欧美亚洲国产| 日韩,欧美,国产一区二区三区| 精品一区二区免费观看| 大陆偷拍与自拍| 国产爽快片一区二区三区| 丰满饥渴人妻一区二区三| 亚洲欧美日韩另类电影网站| 晚上一个人看的免费电影| 久久精品国产鲁丝片午夜精品| 亚洲国产毛片av蜜桃av| 一级爰片在线观看| www.av在线官网国产| 日韩,欧美,国产一区二区三区| 乱人伦中国视频| 少妇人妻精品综合一区二区| 国产极品天堂在线| 国产在线视频一区二区| 一级毛片aaaaaa免费看小| 国产成人精品福利久久| 国产熟女欧美一区二区| 国产永久视频网站| 亚洲av欧美aⅴ国产| 国产极品天堂在线| 亚洲国产av影院在线观看| 亚洲国产精品一区三区| 美女cb高潮喷水在线观看| 国产69精品久久久久777片| 97超碰精品成人国产| 五月开心婷婷网| 观看av在线不卡| 国产欧美日韩综合在线一区二区| av免费观看日本| 久久人人爽人人爽人人片va| 国产成人91sexporn| 男女国产视频网站| 男人爽女人下面视频在线观看| 国产精品久久久久久精品古装| 中文字幕制服av| 午夜视频国产福利| 久久人妻熟女aⅴ| 婷婷色麻豆天堂久久| 99热网站在线观看| 日韩强制内射视频| 亚洲欧美中文字幕日韩二区| 国产色爽女视频免费观看| 国产成人freesex在线| 我的老师免费观看完整版| 欧美bdsm另类| 2018国产大陆天天弄谢| 夫妻午夜视频| 一二三四中文在线观看免费高清| 女性被躁到高潮视频| av不卡在线播放| 亚洲精品456在线播放app| 成年女人在线观看亚洲视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 欧美+日韩+精品| 91精品一卡2卡3卡4卡| 亚洲欧美成人精品一区二区| 女性被躁到高潮视频| 如日韩欧美国产精品一区二区三区 | 黄色欧美视频在线观看| 精品亚洲成a人片在线观看| av在线老鸭窝| 老女人水多毛片| 国产成人精品一,二区| 久久久精品免费免费高清| 欧美日本中文国产一区发布| av视频免费观看在线观看| 欧美激情国产日韩精品一区| 新久久久久国产一级毛片| av黄色大香蕉| 99久久人妻综合| 99久久精品国产国产毛片| av不卡在线播放| 91精品国产九色| 免费黄色在线免费观看| 亚洲人与动物交配视频| 欧美日韩av久久| 中文乱码字字幕精品一区二区三区| av国产久精品久网站免费入址| 简卡轻食公司| 热re99久久精品国产66热6| 亚洲av不卡在线观看| 国产老妇伦熟女老妇高清| 久久精品久久精品一区二区三区| 午夜91福利影院| 综合色丁香网| 能在线免费看毛片的网站| 99九九在线精品视频| 最近手机中文字幕大全| 免费大片18禁| 国产精品免费大片| 日韩大片免费观看网站| 国产精品一区二区在线不卡| 国产高清有码在线观看视频| 在线观看免费高清a一片| a 毛片基地| 国产深夜福利视频在线观看| 久久这里有精品视频免费| 伦精品一区二区三区| 久久国产精品大桥未久av| 中文天堂在线官网| 欧美+日韩+精品| 亚洲国产精品国产精品| 精品少妇内射三级| 日韩成人av中文字幕在线观看| 欧美亚洲 丝袜 人妻 在线| 欧美日韩视频精品一区| 亚洲中文av在线| 夜夜看夜夜爽夜夜摸| 国产熟女欧美一区二区| 亚洲天堂av无毛| av在线观看视频网站免费| 亚洲激情五月婷婷啪啪| 国产欧美另类精品又又久久亚洲欧美| 在线观看三级黄色| 五月伊人婷婷丁香| 亚洲av福利一区| 久久久久久久精品精品| 国产在视频线精品| 欧美 日韩 精品 国产| 老司机亚洲免费影院| 性色avwww在线观看| 精品国产国语对白av| av卡一久久| 中文乱码字字幕精品一区二区三区| 热re99久久精品国产66热6| 国产精品麻豆人妻色哟哟久久| av视频免费观看在线观看| 青春草视频在线免费观看| 亚洲无线观看免费| 国产男女超爽视频在线观看| 视频在线观看一区二区三区| av播播在线观看一区| 最近最新中文字幕免费大全7| 成人国产av品久久久| 香蕉精品网在线| 久久久精品免费免费高清| 欧美变态另类bdsm刘玥| 亚洲欧美色中文字幕在线| 久久久国产欧美日韩av| 色5月婷婷丁香| 亚洲久久久国产精品| 九九在线视频观看精品| 免费人妻精品一区二区三区视频| 最黄视频免费看| 亚洲国产精品专区欧美| 边亲边吃奶的免费视频| 亚洲国产日韩一区二区| 欧美变态另类bdsm刘玥| 国产亚洲精品第一综合不卡 | 国产 精品1| 人人澡人人妻人| 亚州av有码| 91aial.com中文字幕在线观看| 久久人妻熟女aⅴ| 亚洲在久久综合| 男女无遮挡免费网站观看| 乱人伦中国视频| 老熟女久久久| 亚洲av在线观看美女高潮| av线在线观看网站| 午夜精品国产一区二区电影| 亚洲图色成人| 国产爽快片一区二区三区| 欧美老熟妇乱子伦牲交| 在线观看免费日韩欧美大片 | 老女人水多毛片| 久久久欧美国产精品| 男的添女的下面高潮视频| 久久久久视频综合| 日韩免费高清中文字幕av| 久久久久久久大尺度免费视频| tube8黄色片| 91精品一卡2卡3卡4卡| 99视频精品全部免费 在线| 如日韩欧美国产精品一区二区三区 | 成人综合一区亚洲| 熟女av电影| 国产亚洲精品第一综合不卡 | 日韩一区二区三区影片| 精品少妇久久久久久888优播| 久久久久人妻精品一区果冻| 国产精品国产三级国产av玫瑰| 两个人的视频大全免费| 日本午夜av视频| 国产黄色免费在线视频| 制服丝袜香蕉在线| 国产国拍精品亚洲av在线观看| 国产精品三级大全| 日本欧美国产在线视频| 99九九在线精品视频| 久久97久久精品| 成人18禁高潮啪啪吃奶动态图 | 久久午夜福利片| 建设人人有责人人尽责人人享有的| 国产色爽女视频免费观看| 全区人妻精品视频| 久久久久久久久久久久大奶| 国产免费一级a男人的天堂| 久久久久久伊人网av| 国产亚洲最大av| 人妻人人澡人人爽人人| 纯流量卡能插随身wifi吗| 亚洲在久久综合| 中文欧美无线码| 人人澡人人妻人| 一边摸一边做爽爽视频免费| 亚洲三级黄色毛片| 欧美xxⅹ黑人| 99久久中文字幕三级久久日本| 在线观看免费高清a一片| 特大巨黑吊av在线直播| av视频免费观看在线观看| 久久久久久久久久久久大奶| 少妇被粗大猛烈的视频| 国模一区二区三区四区视频| 尾随美女入室| 国产男女内射视频| 老女人水多毛片| 日本午夜av视频| 午夜激情福利司机影院| 国产成人精品久久久久久| 亚洲色图综合在线观看| 少妇的逼水好多| 色婷婷av一区二区三区视频| 18禁观看日本| 黄片无遮挡物在线观看| 最近的中文字幕免费完整| 免费观看在线日韩| 卡戴珊不雅视频在线播放| av视频免费观看在线观看| 成人国产av品久久久| 这个男人来自地球电影免费观看 | 2022亚洲国产成人精品| 一本久久精品| 久久国产精品大桥未久av| 亚洲国产精品一区三区| 日韩一区二区视频免费看| 成人国产麻豆网| 国产精品国产三级国产专区5o| 日本-黄色视频高清免费观看| 啦啦啦视频在线资源免费观看| 午夜视频国产福利| 欧美精品国产亚洲| 精品亚洲成国产av| 久久久久精品久久久久真实原创| 另类精品久久| 亚洲一区二区三区欧美精品| av女优亚洲男人天堂| 免费高清在线观看日韩| 91精品国产国语对白视频| 熟女av电影| 少妇的逼好多水| 99热这里只有精品一区| 街头女战士在线观看网站| 国内精品宾馆在线| 人体艺术视频欧美日本| av卡一久久| 99热这里只有精品一区| av.在线天堂| 中文字幕av电影在线播放| 久久久精品免费免费高清| 草草在线视频免费看| 国产视频内射| 成人毛片60女人毛片免费| 91久久精品国产一区二区成人| 中文字幕久久专区| 一本—道久久a久久精品蜜桃钙片| 亚洲精品中文字幕在线视频| 久久久午夜欧美精品| 亚洲四区av| 岛国毛片在线播放| 久久人人爽av亚洲精品天堂| 免费看不卡的av| 国产成人精品婷婷| 一级爰片在线观看| 成人国产av品久久久| 欧美精品一区二区免费开放| 亚洲欧美日韩另类电影网站| 亚洲精品视频女| a级毛片黄视频| 女人久久www免费人成看片| 青青草视频在线视频观看| 国产精品不卡视频一区二区| 亚洲国产精品一区三区| 国产伦理片在线播放av一区| 激情五月婷婷亚洲| 日本欧美视频一区| 美女国产视频在线观看| 乱人伦中国视频| 国产熟女午夜一区二区三区 | 亚洲美女视频黄频| 啦啦啦啦在线视频资源| 午夜日本视频在线| 日韩一区二区三区影片| 欧美精品一区二区免费开放| 韩国高清视频一区二区三区| 在线观看免费日韩欧美大片 | 黄片无遮挡物在线观看| a级毛色黄片| av网站免费在线观看视频| 一区二区三区乱码不卡18| 久久久久国产网址| 黄色怎么调成土黄色| 热99久久久久精品小说推荐| 男女边吃奶边做爰视频| 青春草视频在线免费观看| 大码成人一级视频| 美女中出高潮动态图| 五月玫瑰六月丁香| 久久狼人影院| 国产一区亚洲一区在线观看| 91成人精品电影| 精品国产乱码久久久久久小说| 婷婷成人精品国产| 91aial.com中文字幕在线观看| 少妇 在线观看| av网站免费在线观看视频| 久久国内精品自在自线图片| 在线天堂最新版资源| 亚洲高清免费不卡视频| av有码第一页| 国产精品久久久久久av不卡| 少妇高潮的动态图| 啦啦啦中文免费视频观看日本| 国产精品不卡视频一区二区| 久久午夜综合久久蜜桃| 18+在线观看网站| 大码成人一级视频| 成人综合一区亚洲| 国产精品欧美亚洲77777| 精品久久久噜噜| 免费不卡的大黄色大毛片视频在线观看| 国产乱人偷精品视频| 成年美女黄网站色视频大全免费 | 欧美激情国产日韩精品一区| 国产一区亚洲一区在线观看| 美女视频免费永久观看网站| 亚洲第一区二区三区不卡| 亚洲国产精品一区三区| 免费黄频网站在线观看国产| 午夜av观看不卡| 高清欧美精品videossex| 一个人看视频在线观看www免费| 国产亚洲欧美精品永久| 黑人巨大精品欧美一区二区蜜桃 | 少妇被粗大猛烈的视频| 亚洲五月色婷婷综合| 成人免费观看视频高清| 国产成人免费观看mmmm| 老司机亚洲免费影院| 久久精品熟女亚洲av麻豆精品| 亚洲色图 男人天堂 中文字幕 | 欧美另类一区| 伊人久久国产一区二区| 午夜av观看不卡| 亚洲精品中文字幕在线视频| 看非洲黑人一级黄片| 精品99又大又爽又粗少妇毛片| 少妇被粗大猛烈的视频| 国产乱人偷精品视频| 桃花免费在线播放| 男女无遮挡免费网站观看| 九色成人免费人妻av| 日韩精品免费视频一区二区三区 | 少妇猛男粗大的猛烈进出视频| 日韩,欧美,国产一区二区三区| 久久影院123| 国产精品不卡视频一区二区| 久久青草综合色| 少妇高潮的动态图| 免费观看的影片在线观看| 午夜福利在线观看免费完整高清在| 大香蕉97超碰在线| 欧美三级亚洲精品| 女性被躁到高潮视频| 亚洲精品乱码久久久久久按摩| 午夜激情福利司机影院| 亚洲精品日韩av片在线观看| 黑人巨大精品欧美一区二区蜜桃 | 99久国产av精品国产电影| 亚洲欧美一区二区三区黑人 | 能在线免费看毛片的网站| 国产熟女欧美一区二区| 国产精品久久久久久精品电影小说| 亚洲av中文av极速乱| 国产视频内射| 国产极品粉嫩免费观看在线 | 亚洲精品日韩av片在线观看| 欧美成人午夜免费资源| 爱豆传媒免费全集在线观看| 国产av一区二区精品久久| 久久影院123| 国产av一区二区精品久久| 亚洲精品乱久久久久久| 十八禁高潮呻吟视频| 国产欧美日韩综合在线一区二区| 成人二区视频| freevideosex欧美| 美女国产高潮福利片在线看| 插逼视频在线观看| 国精品久久久久久国模美| 在线观看免费视频网站a站| 桃花免费在线播放| 亚洲精品乱码久久久v下载方式| 成人黄色视频免费在线看| 亚洲精品国产av蜜桃| 亚洲天堂av无毛| 国产深夜福利视频在线观看| 中文字幕av电影在线播放| 岛国毛片在线播放| 婷婷色综合www| 亚洲av欧美aⅴ国产| 性色av一级| 国产国语露脸激情在线看| 中文字幕人妻熟人妻熟丝袜美| av又黄又爽大尺度在线免费看| 久热这里只有精品99| 9色porny在线观看| 五月开心婷婷网| 美女cb高潮喷水在线观看| 91久久精品电影网| 婷婷色av中文字幕| 国产成人免费观看mmmm| 午夜免费观看性视频| 一级二级三级毛片免费看| 色94色欧美一区二区| 国内精品宾馆在线| 免费高清在线观看视频在线观看| 三上悠亚av全集在线观看| 亚洲精品色激情综合| 两个人免费观看高清视频| 观看美女的网站| 免费高清在线观看日韩| 亚洲人与动物交配视频| 日韩中字成人| 久久久久久久亚洲中文字幕| 男女高潮啪啪啪动态图| 亚洲国产日韩一区二区| 免费观看的影片在线观看| 日韩av在线免费看完整版不卡| 妹子高潮喷水视频| 精品一区二区免费观看| 美女中出高潮动态图| 综合色丁香网| 国产熟女欧美一区二区| 午夜激情福利司机影院| 精品国产乱码久久久久久小说| 老女人水多毛片| 欧美另类一区| 成人亚洲精品一区在线观看| 热99国产精品久久久久久7| 日韩av在线免费看完整版不卡| 亚洲国产欧美日韩在线播放| 亚洲欧美成人综合另类久久久| 中文字幕制服av| 3wmmmm亚洲av在线观看| 国产一区有黄有色的免费视频| 亚州av有码| 亚洲国产毛片av蜜桃av| 中国三级夫妇交换| 18+在线观看网站| 国产免费视频播放在线视频| 国产免费一级a男人的天堂| 蜜桃国产av成人99| 亚洲精品乱久久久久久| 亚洲无线观看免费| 国产免费一区二区三区四区乱码| 成人毛片a级毛片在线播放| 人妻系列 视频| 欧美日韩精品成人综合77777| av在线老鸭窝| 久久久久人妻精品一区果冻| 黄色配什么色好看| 欧美 亚洲 国产 日韩一| 美女大奶头黄色视频| 国产69精品久久久久777片| 国产精品秋霞免费鲁丝片| 在线观看一区二区三区激情| 精品一区在线观看国产| 成人亚洲欧美一区二区av| 亚洲国产精品成人久久小说| 99热国产这里只有精品6| 国产精品麻豆人妻色哟哟久久| 久久人人爽av亚洲精品天堂| 国产av精品麻豆| 国产成人aa在线观看| 99热国产这里只有精品6| 欧美激情 高清一区二区三区| 久久久久人妻精品一区果冻| 波野结衣二区三区在线| 午夜激情福利司机影院| 亚洲怡红院男人天堂| 成年女人在线观看亚洲视频| 卡戴珊不雅视频在线播放| 天天躁夜夜躁狠狠久久av| 欧美 日韩 精品 国产| 亚洲av福利一区| 国产欧美亚洲国产| a级毛片黄视频| 美女主播在线视频| 日韩电影二区| 久久综合国产亚洲精品| 日本免费在线观看一区| 建设人人有责人人尽责人人享有的| 色吧在线观看| 日日摸夜夜添夜夜添av毛片| 一级毛片我不卡| 免费人妻精品一区二区三区视频| 国产亚洲精品第一综合不卡 | 国产精品一区www在线观看| 精品久久久久久久久亚洲| 欧美一级a爱片免费观看看| 精品少妇久久久久久888优播| 亚洲欧美精品自产自拍| 成人二区视频| 一级片'在线观看视频| 国产探花极品一区二区| 大香蕉97超碰在线| av免费观看日本| 成人综合一区亚洲| 午夜福利视频精品| 久久久亚洲精品成人影院| 99久久人妻综合| 97在线视频观看| 伦理电影大哥的女人| av女优亚洲男人天堂| 国产国语露脸激情在线看| h视频一区二区三区| 久久97久久精品| 22中文网久久字幕| 久久精品国产鲁丝片午夜精品| 男女国产视频网站| 你懂的网址亚洲精品在线观看| 亚洲成人一二三区av| 国产成人精品婷婷| 免费大片黄手机在线观看| 美女国产高潮福利片在线看| 最黄视频免费看| h视频一区二区三区| 嫩草影院入口| 最新的欧美精品一区二区| 中文字幕人妻熟人妻熟丝袜美| 久久综合国产亚洲精品| 亚洲国产精品一区二区三区在线| 国产精品久久久久久久久免| 精品久久久久久久久av| 波野结衣二区三区在线| 午夜激情福利司机影院| 成人国产av品久久久| 亚洲av成人精品一二三区| 成年女人在线观看亚洲视频| 久久 成人 亚洲| 亚洲精品aⅴ在线观看| 久久精品国产亚洲av天美| 国产日韩一区二区三区精品不卡 | 国精品久久久久久国模美| 中文天堂在线官网| 亚洲美女搞黄在线观看| 男女边吃奶边做爰视频| 成人亚洲精品一区在线观看| 熟女人妻精品中文字幕| 国产伦精品一区二区三区视频9| 另类亚洲欧美激情|