• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能政策:入門(mén)與路線(xiàn)圖①

    2019-04-08 01:21:22雷恩·卡羅
    求是學(xué)刊 2019年2期
    關(guān)鍵詞:機(jī)器學(xué)習(xí)人工智能

    雷恩·卡羅

    摘 要:新一輪人工智能熱潮至少有兩點(diǎn)獨(dú)特之處:一是得益于計(jì)算能力和訓(xùn)練數(shù)據(jù)的巨大增長(zhǎng),機(jī)器學(xué)習(xí)取得實(shí)質(zhì)性突破,促使人工智能的大規(guī)模應(yīng)用成為可能;二是決策者終于給予了密切的關(guān)注。當(dāng)前,人工智能引發(fā)了一系列嚴(yán)峻的政策挑戰(zhàn),包括公正與平等、武力使用、安全與認(rèn)證、隱私和權(quán)力、稅收和失業(yè)以及機(jī)構(gòu)配置與專(zhuān)業(yè)知識(shí)、投資和采購(gòu)、消除歸責(zé)的障礙、人工智能的心理模型等跨領(lǐng)域問(wèn)題。人工智能末日論反映了人類(lèi)對(duì)于人工智能等擬人化科技的特殊恐懼,在可預(yù)見(jiàn)的未來(lái)并不會(huì)真實(shí)發(fā)生。相反,對(duì)人工智能末日論投入過(guò)多的關(guān)注和資源,可能會(huì)分散決策者對(duì)于人工智能更直接的危害和挑戰(zhàn)的注意力,進(jìn)而阻礙有關(guān)人工智能對(duì)當(dāng)前社會(huì)影響的研究。

    關(guān)鍵詞:人工智能;政策挑戰(zhàn);機(jī)器學(xué)習(xí);人工智能末日論

    1 該文原載于《加州大學(xué)戴維斯分校法律評(píng)論》(UC Davis Law Reviews)2017年第51卷第2期。感謝作者對(duì)譯事的慷慨授權(quán)。摘要和關(guān)鍵詞由譯者整理添加。

    2 參見(jiàn)Cade Metz, In a Huge Breakthrough, Googles AI Beats a Top Player at the Game of Go, Wired, Jan. 27,2016。報(bào)道稱(chēng)經(jīng)過(guò)幾十年的努力,谷歌的人工智能終于在圍棋游戲中擊敗了人類(lèi)頂級(jí)選手。圍棋是一款有著2500年歷史,比象棋更為復(fù)雜的考驗(yàn)策略和直覺(jué)能力的游戲。

    3 參見(jiàn)Cathy ONeil,Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown,2016,p.27(作者將這種算法與大規(guī)模殺傷性武器相比較,認(rèn)為兩者都將帶來(lái)惡性循環(huán));Julia Angwin,et al., Machine Bias, Propublica, May 23, 2016(文章探討了算法在生成風(fēng)險(xiǎn)評(píng)估指數(shù)時(shí)所犯的錯(cuò)誤)。

    1 參見(jiàn)Martin Ford, Rise of the Robots: Technology and the Threat of a Jobless Future, Basic Books,2015:p.xvi(該書(shū)預(yù)測(cè),機(jī)器的角色將由工人的工具向工人本身進(jìn)化)。

    2 參見(jiàn)James Barrat, Our Final Invention: Artificial Intelligence and the End of the Human Era, Thomas Dunne Books,2013:p.5(該書(shū)作者認(rèn)為,“人類(lèi)將與這個(gè)問(wèn)題斗爭(zhēng)到底”)。

    3 See Batya Friedman,Helen Nissenbaum, “Bias in Computer Systems”, in ACM Transactions on Info. Sys.,1996,14,p.330.

    4 參見(jiàn)Harley Shaiken, A Robot Is After Your Job: New Technology Isnt a Panacea, N.Y. Times, Sept. 3, 1980。有關(guān)機(jī)器人取代人類(lèi)工作崗位的時(shí)間表,請(qǐng)參見(jiàn):Louis Anslow, Robots Have Been About to Take All the Jobs for More than 200 Years, Timeline,May 16, 2016。

    5 See Selmer Bringsjord,et al., Creativity, the Turing Test, and the (Better) Lovelace Test, in Minds and Machines,2001,11,p.5;Peter Stone,et al.,Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.50.

    6 參見(jiàn)Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,pp.50-51; Will Knight, Facebook Heads to Canada for the Next Big AI Breakthrough, MIT Tech. Rev.,Sept. 15, 2017(該文介紹了與加拿大有關(guān)的人工智能領(lǐng)軍人物以及技術(shù)突破)。

    7 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.14; National Science and Technology Council, Preparing for the Future of Artificial Intelligence,2016,p.6.

    8 See Louis Anslow, Robots Have Been About to Take All the Jobs for More than 200 Years, Timeline,May 16, 2016.

    9 不過(guò),肯尼迪總統(tǒng)發(fā)表了一篇關(guān)于“高效和強(qiáng)有力的政府領(lǐng)導(dǎo)”必要性的演講,以回應(yīng)“自動(dòng)化問(wèn)題”。參見(jiàn)John F. Kennedy, Remarks at the AFL-CIO Convention,June 7,1960。

    10 See Louis Anslow, Robots Have Been About to Take All the Jobs for More than 200 Years, Timeline,May 16, 2016.

    11 See Ted Cruz, Sen. Cruz Chairs First Congressional Hearing on Artificial Intelligence, Press Release, Nov. 30, 2016; The Transformative Impact of Robots and Automation: Hearing Before the J. Econ. Comm.,114th Cong.,2016.

    1 See National Science and Technology Council, Preparing for the Future of Artificial Intelligence,2016,p.12.

    2 See Iina Lietzen, Robots: Legal Affairs Committee Calls for EU-Wide Rules, European Parliament News, Jan.12,2017; Japan Ministry of Econ., Trade and Indus., Robotics Policy Office Is to Be Established in METI, July 1, 2015.

    3 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.51.

    4 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.51.

    5 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.51; National Science and Technology Council, Preparing for the Future of Artificial Intelligence,2016,p.25.

    6 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.51.

    7 參見(jiàn)Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,pp.6-9。最初,學(xué)界區(qū)分“弱人工智能(weak AI或narrow AI)”和“強(qiáng)人工智能(strong AI)”的概念,前者主要是解決單一問(wèn)題的智能,如下棋;而后者則是能夠像人類(lèi)一樣解決所有問(wèn)題的智能。今天,強(qiáng)人工智能的概念已經(jīng)讓位于“通用人工智能(artificial general intelligence,AGI)”的概念,指的能夠執(zhí)行不止一個(gè)領(lǐng)域的任務(wù)但并不需要解決所有認(rèn)知任務(wù)的智能。

    8 See National Science and Technology Council, Preparing for the Future of Artificial Intelligence,2016,p.8.

    1 See Harry Surden, “Machine Learning and Law”, in Wash. L. Rev.,2014,89,p.88.

    2 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.51.

    3 See Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,pp.14-15; National Science and Technology Council, Preparing for the Future of Artificial Intelligence,2016,pp.9-10.

    4 有一些私人機(jī)構(gòu)和公共研究室對(duì)于人工智能也十分敏感,包括艾倫人工智能研究所(Allen Institute for AI)和斯坦福研究所(Stanford Research Institute,簡(jiǎn)稱(chēng)“SRI”)。

    5 參見(jiàn)Jordan Pearson,Ubers AI Hub in Pittsburgh Gutted a University Lab — Now Its in Toronto, Vice Motherboard,May 9,2017[報(bào)告擔(dān)心Uber公司將會(huì)成為一家“從公共機(jī)構(gòu)吸取營(yíng)養(yǎng)(并由納稅人資助研究)的寄生蟲(chóng)”]。

    6 參見(jiàn)Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation,W. H. Freeman and Company,1976,pp.271-272(該文探討了資助人工智能研究的資金來(lái)源)。

    7 參見(jiàn)Vinod Iyengar, Why AI Consolidation Will Create the Worst Monopoly in U.S.History, Techcrunch,Aug.24, 2016.(文章分析了這些主要的科技公司是如何收購(gòu)那些具有前途的人工智能初創(chuàng)公司的);Quora, What Companies Are Winning the Race for Artificial Intelligence?, Forbes, Feb. 24,2017,當(dāng)然,也有一些致力于人工智能民主化的努力,包括資金充裕但非營(yíng)利性的機(jī)構(gòu)OpenAI。

    8 See Clay Dillow, Tired of Repetitive Arguing About Climate Change, Scientist Makes a Bot to Argue for Him, Popular Sci.,Nov. 3, 2010.

    9 See Cognitive Assistant that Learns and Organizes, SRI INTL,http://www.ai.sri.com/project/CALO(2017年10月18日訪(fǎng)問(wèn))。

    1 See Ryan Calo, “Robotics and the Lessons of Cyberlaw”, in Calif. L. Rev.,2015,103,p.532.

    2 See Matthew Hutson, Our Bots, Ourselves, Atlantic,Mar.3,2017.

    3 See “Ethics and Governance of Artificial Intelligence”, Mass. Inst. of Tech. Sch.of Architecture & Planning, https://www.media.mit.edu/groups/ethics-and-governance/ overview(2017年10月15日訪(fǎng)問(wèn))。

    4 參見(jiàn)IEEE, Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artifcial Intelligence and Autonomous Systems,2016,p.2。我作為法律委員會(huì)的成員參加了這項(xiàng)工作。IEEE, Ethically Aligned Design: A Vision for Prioritizing Human Wellbeing with Artifcial Intelligence and Autonomous Systems,2016,p.125.

    5 See José de Sousa e Brito, “Right, Duty, and Utility: From Bentham to Kant and from Mill to Aristotle”,in Revista Iberoamericana De Estudios Utilitaristas,2010, XVII/2,pp.91-92.

    6 根據(jù)哈特的觀(guān)點(diǎn),法律有一個(gè)“承認(rèn)規(guī)則(rule of recognition)”。參見(jiàn)H.L.A. Hart, The Concept of Law, 3rd edn, Oxford University Press,2012,p.100。

    7 See Matthew Hutson, Our Bots, Ourselves, Atlantic,Mar.3,2017.

    8 See Brian R. Cheffins, The History of Corporate Governance, in Douglas Michael Wright,et al. eds., The Oxford Handbook of Corporate Governance, Oxford University Press,2013,p.46.

    9 參見(jiàn)R.A.W. Rhodes, “The New Governance: Governing Without Government”, in Pol. Stud.,1996,44,p.657; Wendy Brown, Undoing the Demos: Neoliberalisms Stealth Revolution, Zone Books,2015:pp.122-123(文章注意到“幾乎所有的學(xué)者和定義都一致認(rèn)為,治理”涉及“網(wǎng)絡(luò)化、一體化、協(xié)作性、合作性、傳播性和至少部分自組織性”的控制)。

    1 ICANN和IETF是由美國(guó)政府資助設(shè)立的,但今天它們成為很大程度上獨(dú)立于國(guó)家控制的非營(yíng)利性組織。

    2 See R.A.W. Rhodes, “The New Governance: Governing Without Government”,in Pol. Stud.,1996,44:p.657; Wendy Brown, Undoing the Demos: Neoliberalisms Stealth Revolution, Zone Books,2015,pp.122-123.

    3 參見(jiàn)Rebecca Wexler, “Life, Liberty, and Trade Secrets: Intellectual Property in the Criminal Justice System”, in Stan. L. Rev.,2018,70,pp.1343-1429(除了其他方面之外,該文還澄清了公司不得援引商業(yè)秘密法以規(guī)避刑事案件的被告對(duì)其人工智能或算法系統(tǒng)進(jìn)行審查)。

    4 See Kate Crawford,et al.,The AI NOW Report: The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term,2016,pp.6-8.

    5 See “Fairness, Accountability, and Transparency in Machine Learning”, FAT/ML,http://www.fatml.org(2017年10月14日訪(fǎng)問(wèn)). See also Danielle Keats Citron, Technological Due Process,in Wash. U. L.Rev.,2008,85,pp.1249-1313(該文討論了“技術(shù)正當(dāng)程序”的概念)。

    6 See Adam Rose, Are Face-Detection Cameras Racist?, Time,Jan. 22, 2010.歐美對(duì)于中國(guó)人普遍有“瞇縫眼”的歧視性看法,這里的照相機(jī)軟件顯然也帶有這一偏見(jiàn)。——譯者注

    7 See Jessica Guynn, Google Photos Labeled Black People “Gorillas”, USA Today,July 1, 2015.

    8 See Aylin Caliskan,et al., “Semantics Derived Automatically from Language Corpora Contain Human-Like Biases”, in Science,2017,356,pp.183-184.

    1 See Julia Angwin,Terry Parris, Jr., Facebook Lets Advertisers Exclude Users by Race, Propublica,Oct. 28, 2016.

    2 See Julia Angwin,Jeff Larson, The Tiger Mom Tax: Asians Are Nearly Twice as Likely to Get a Higher Price from Princeton Review, Propublica,Sept. 1,2015.

    3 See Selina Cheng, An Algorithm Rejected an Asian Mans Passport Photo for Having “Closed Eyes”, Quartz,Dec. 7, 2016.

    4 參見(jiàn)Adam Hadhazy, Biased Bots: Artificial-Intelligence Systems Echo Human Prejudices, Princeton Univ.,Apr. 18, 2017。(“土耳其語(yǔ)中的‘o是一個(gè)中性的第三人稱(chēng)代詞。然而,在使用谷歌在線(xiàn)翻譯服務(wù)時(shí),‘o bir doktor和‘o birhem?ire卻翻譯成了‘他是一名醫(yī)生和‘她是一名護(hù)士”)參見(jiàn) Aylin Caliskan,et al., “Semantics Derived Automatically from Language Corpora Contain Human-Like Biases”, in Science,2017,356,pp.183-186(該文也探討了計(jì)算機(jī)系統(tǒng)中職業(yè)的性別歧視問(wèn)題)。

    5 See Adam Rose, Are Face-Detection Cameras Racist?, Time,Jan. 22, 2010.(探討了照相軟件中性能與種族的話(huà)題)

    6 See Jessica Saunders,et al., “Predictions Put into Practice: A Quasi Experimental Evaluation of Chicagos Predictive Policing Pilot”, in J. Experimental Criminology,2016,12,pp.350-351.

    7 See Kate Crawford,Ryan Calo, “There Is a Blind Spot in AI Research”, in Nature,2016,538,pp.311-312.

    8 See Kate Crawford,Ryan Calo, “There Is a Blind Spot in AI Research”, in Nature,2016,538,pp.311-312;Will Knight, The Financial World Wants to Open AIs Black Boxes, MIT Tech. Rev., Apr. 13, 2017.

    9 參見(jiàn)Solon Barocas, Andrew D. Selbst, “Big Datas Disparate Impact”,in Calif. L. Rev., 2016,104,pp.730-732(討論在數(shù)據(jù)挖掘的背景下適用反歧視法的優(yōu)缺點(diǎn))。

    10 參見(jiàn)Danielle Keats Citron, “Technological Due Process”,in Wash. U. L.Rev.,2008,85,pp.1249-1313(文章認(rèn)為人工智能決策會(huì)危害憲法正當(dāng)程序保證,并提倡采用新的“技術(shù)正當(dāng)程序”)。

    11 See Kate Crawford,Jason Schultz, “Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms”,in B.C. L. REV.,2014,55,p.110; Solon Barocas,Andrew D. Selbst, “Big Datas Disparate Impact”,in Calif. L. Rev., 2016,104,pp.730-732.

    1 參見(jiàn)Bryce Goodman,Seth Flaxman, European Union Regulations on Algorithmic Decision-Making and a “Right to Explanation”,ARXIV,Aug. 31, 2016。需要說(shuō)明的是,歐盟《一般數(shù)據(jù)保護(hù)條例》明確規(guī)定用戶(hù)有權(quán)要求數(shù)據(jù)控制者人工介入,但對(duì)于人工智能決策結(jié)果的解釋權(quán)問(wèn)題尚有爭(zhēng)議。——譯者注

    2 參見(jiàn)Jessica Saunders,et al., “Predictions Put into Practice: A Quasi Experimental Evaluation of Chicagos Predictive Policing Pilot”,in J. Experimental Criminology,2016,12,pp.350-351.(探討了預(yù)防性警務(wù)中的熱區(qū)問(wèn)題);Julia Angwin,et al., Machine Bias, Propublica,May 23, 2016(探討了在刑事責(zé)任認(rèn)定中使用算法的風(fēng)險(xiǎn)系數(shù)); Joseph Walker, State Parole Boards Use Software to Decide Which Inmates to Release, Wall St. J.,Oct. 11, 2013.

    3 參見(jiàn)Danielle Keats Citron, “Technological Due Process”,in Wash. U. L.Rev.,2008,85,pp.1249-1313.(探討了技術(shù)正當(dāng)程序的目標(biāo)); Kate Crawford, Jason Schultz, “Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms”,in B.C. L. REV.,2014,55,p.110(探討了正當(dāng)程序與大數(shù)據(jù));Joshua A. Kroll et al., Accountable Algorithms,in U. Pa. L. Rev.,2017,165,p.633(認(rèn)為當(dāng)前的決策程序并沒(méi)有跟上技術(shù)發(fā)展的腳步)。

    4 FED. R. CIV. P. 1. 我要感謝我的同事伊麗莎白·波特(Elizabeth Porter)。

    5 U.S. CONST. amend. VI(規(guī)定被告有權(quán)知曉指控的性質(zhì)和原因、與對(duì)他不利的證人面對(duì)面質(zhì)證、強(qiáng)制有利于他的證人作證以及得到律師的幫助,這一切都是迅速和公開(kāi)審判的一部分)。

    6 See Jason Millar,Ian Kerr, Delegation, Relinquishment, and Responsibility: The Prospect of Expert Robots, in Ryan Calo,et al. eds.,Robot Law,Edward Elgar Publishing, 2016,p.126.

    7 參見(jiàn)Jason Millar,Ian Kerr, Delegation, Relinquishment, and Responsibility: The Prospect of Expert Robots, in Ryan Calo,et al. eds.,Robot Law,Edward Elgar Publishing, 2016,p.126;Michael L. Rich, “Machine Learning, Automated Suspicion Algorithms, and the Fourth Amendment”, in U. Pa. L. Rev.,2016,164,pp.877-879(探討了新興技術(shù)與當(dāng)前憲法第四修正案審判的關(guān)系);Andrea Roth, “Machine Testimony”, in Yale L.J.,2017,126,p.1972(探討了機(jī)器作為證人的話(huà)題)。

    8 寬大規(guī)則要求法院嚴(yán)格限制刑事法規(guī)的解釋?zhuān)词沽⒎ㄒ鈭D似乎傾向于更廣泛的解讀。例如,在McBoyle v. United States, 283 U.S. 25,26 -27(1931)案中,法院就拒絕將“盜竊車(chē)輛”的法規(guī)擴(kuò)展到“盜竊飛機(jī)”上。有關(guān)將法律轉(zhuǎn)換為機(jī)器代碼的限制的討論,請(qǐng)參見(jiàn):Harry Surden,Mary-Anne Williams, “Technological Opacity,Predictability, and Self-Driving Cars”,in Cardozo L. Rev.,2016,38,pp.162-163。

    9 參見(jiàn)James H. Moor, “Are There Decisions Computers Should Never Make?”, in Nature & System,1979,1,p.226。下文有關(guān)武力使用的部分也反應(yīng)了這一擔(dān)憂(yōu)。

    10 See Kate Crawford,et al., The AI NOW Report: The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term,2016,pp.6-8;Danielle Keats Citron, “Technological Due Process”, in Wash. U. L.Rev.,2008,85,pp.1249-1313;“Fairness, Accountability, and Transparency in Machine Learning”, FAT/ML,http://www.fatml.org(2017年10月14日訪(fǎng)問(wèn))。

    1 See Jon Kleinberg,et al., Inherent Trade-Offs in the Fair Determination of Risk Scores, Proc. Innovations Theoretical Computer Sci.,2017,p.2.

    2 See Jon Kleinberg,et al., Inherent Trade-Offs in the Fair Determination of Risk Scores, Proc. Innovations Theoretical Computer Sci.,2017:p.1.

    3 需要注意的是,武力使用在更多的情況下不是軍事沖突。我們可能會(huì)追問(wèn),國(guó)內(nèi)巡邏人員、警察甚至私人保安使用武力是否恰當(dāng)。有關(guān)這些問(wèn)題的討論,請(qǐng)參見(jiàn):Elizabeth E. Joh, “Policing Police Robots”, in Ucla L. Rev. Discourse,2016,64:pp.530-542。

    4 See Heather M. Roff, Richard Moyes, Meaningful Human Control, Artifcial Intelligence and Autonomous Weapons,Article36,Apr.11,2016.

    5 參見(jiàn)Rebecca Crootof, “A Meaningful Floor for ‘Meaningful Human Control”, in Temp. Int L and Comp. L.J.,2016,30:p.54(“對(duì)于‘有意義的人類(lèi)控制的實(shí)際要求并沒(méi)有達(dá)成一致”)。

    6 肯尼斯·安德森(Kenneth Anderson)和馬修·瓦克斯曼(Matthew Waxman)為人工智能武器的現(xiàn)實(shí)政治做出了重要貢獻(xiàn)。參見(jiàn)Kenneth Anderson, Matthew Waxman, Law and Ethics for Autonomous Weapon Systems: Why a Ban Wont Work and How the Laws of War Can, Hoover Inst.,Apr. 9, 2013。(主張自主性武器既是大家所追求的,同時(shí)也是不可避免的)

    7 See Kenneth Anderson, Matthew Waxman, Law and Ethics for Autonomous Weapon Systems: Why a Ban Wont Work and How the Laws of War Can, Hoover Inst.,Apr. 9, 2013.

    8 參見(jiàn)John Naughton, Death by Drone Strike, Dished Out by Algorithm, Guardian,F(xiàn)eb. 21,2016(“美國(guó)中央情報(bào)局和國(guó)家安全局前任局長(zhǎng)邁克爾·海登(Michael Hayden)將軍說(shuō)道:‘我們根據(jù)元數(shù)據(jù)殺人”)。

    1 參見(jiàn)M.C. Elish, Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction, We Robot 2016 Working Paper,2016,p.1;Madeleine Clare Elish, Tim Hwang, When Your Self-Driving Car Crashes, You Could Still Be the One Who Gets Sued, Quartz, July 25, 2015(這一推理同樣可以適用于自動(dòng)駕駛汽車(chē)的駕駛者)。

    2 See Henrik I. Christensen,et al., From Internet to Robotics:A Roadmap for US Robotics,2016:pp.105-109; Peter Stone,et al., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016,p.42.

    3 參見(jiàn)Self-Driving Vehicle Legislation: Hearing Before the Subcomm. on Digital Commerce and Consumer Prot. of the H. Comm. on Energy and Commerce, 115th Cong.,2017[提供了數(shù)字商務(wù)與消費(fèi)者保護(hù)委員會(huì)主席雷格·沃爾登(Greg Walden)先生的開(kāi)幕致辭]。

    4 參見(jiàn)Guido Calabresi, The Costs of Accidents: A Legal and Economic Analysis,Yale University Press,1970(討論了交通事故法裁判的不同政策)。

    5 參見(jiàn)Bryant Walker Smith,“How Governments Can Promote Automated Driving”,in N.M. L. Rev.,2017,47,p.101(探討了政府推動(dòng)自動(dòng)駕駛和社區(qū)條件準(zhǔn)備的不同路徑,以便在自動(dòng)駕駛汽車(chē)實(shí)現(xiàn)其道路價(jià)值時(shí)能夠無(wú)縫對(duì)接)。

    6 See Ryan Calo,The Case for a Federal Robotics Commission, Brookings Institution Center for Technology Innovation,2014,pp.9-10.

    1 See Bence Kolianyi,et al., Bots and Automation over Twitter during the Second U.S. Presidential Debate,Comprop Data Memo,2016.

    2 See Ryan Calo, “Robotics and the Lessons of Cyberlaw”, in Calif. L. Rev.,2015,103,pp.538-545.

    3 有關(guān)這個(gè)話(huà)題的論述,請(qǐng)參見(jiàn):Andrea Bertolini,et al., “On Robots and Insurance”, in Intl J. Soc. Robotics,2016,8,p.381(探討了保險(xiǎn)行業(yè)有必要對(duì)機(jī)器人作出回應(yīng))。

    4 See Henrik I. Christensen,et al., From Internet to Robotics: A Roadmap for US Robotics,2016,p.105.

    5 參見(jiàn)Mark Harris, Will You Need a New License to Operate a Self-Driving Car?, IEEE Spectrum,Mar. 2, 2015(探討了當(dāng)前有關(guān)自動(dòng)駕駛汽車(chē)“乘客”執(zhí)照許可計(jì)劃的不確定狀態(tài))。

    6 See Megan Molteni, Wellness Apps Evade the FDA, Only to Land in Court, Wired,Apr. 3, 2017.

    7 See Arezou Rezvani, “Robot Lawyer” Makes the Case Against Parking Tickets, NPR,Jan.16, 2017.

    8 參見(jiàn)Greg Allen,Taniel Chan,Artificial Intelligence and National Security, Belfer Center for Science and International Affairs,2017(探討了制定有關(guān)人工智能和國(guó)家安全政策的方法)。

    9 參見(jiàn)上文有關(guān)武力使用部分的討論。

    10 參見(jiàn)Ryan Calo, “Open Robotics”,in Md. L. Rev.,2011,70,pp.593-601(探討了機(jī)器人是如何有能力去引起物理性損害和損失的)。

    11 See Cyber Grand Challenge, DEF CON 24, https://www.defcon.org/html/defcon-24/dc-24-cgc.html(2017年9月18日訪(fǎng)問(wèn)); see also “Mayhem” Declared Preliminary Winner of Historic Cyber Grand Challenge, DEF. Advanced Res. Projects Agency,Aug. 4, 2016.

    1 例如,最重要的隱私法研討會(huì)——隱私法學(xué)者會(huì)議(Privacy Law Scholars Conference)——最近也舉行了10周年慶。當(dāng)然,有關(guān)隱私的討論還可以追溯到更早的時(shí)間。

    2 參見(jiàn)Neil M. Richards, “The Dangers of Surveillance”,in Harv. L. Rev.,2013,126,pp.1952-1958(提供了各種關(guān)于監(jiān)督機(jī)構(gòu)是如何使用監(jiān)視、敲詐、說(shuō)服手段,并將人們分類(lèi)管理的例子)。

    3 參見(jiàn)Margot E. Kaminski,et al., “Security and Privacy in the Digital Age: Averting Robot Eyes”,in Md. L. Rev.,2017,76,pp.983-1024(解釋了配置限制型人工智能的機(jī)器人的感官能力)。

    4 參見(jiàn)Kashmir Hill, How Target Figured Out A Teen Girl Was Pregnant Before Her Father Did, Forbes,F(xiàn)eb. 16, 2012。泰·扎斯凱(Tal Z. Zarsky)對(duì)于這一現(xiàn)象有著深入的研究。參見(jiàn)Tal Zarsky, Transparent Predictions,in U. ILL. L. REV.,2013,4,pp.1503-1569(描述了政府通過(guò)收集的數(shù)據(jù)努力預(yù)測(cè)的趨勢(shì)和行為類(lèi)型)。

    5 See Daniel J. Solove, “Privacy Self-Management and the Consent Dilemma”,in Harv. L. Rev.,2013,126,pp.1889-1893.

    6 See Daniel J. Solove, “Privacy and Power: Computer Databases and Metaphors for Information Privacy”,in Stan. L. Rev.,2000,53,pp.1424-1428; Tal Z. Zarsky, “Incompatible: The GDPR in the Age of Big Data”,in Seton Hall L. Rev.,2017,47,pp.1003-1009.

    7 例如,Decide.com是一款人工智能工具,可幫助消費(fèi)者決定何時(shí)購(gòu)買(mǎi)產(chǎn)品和服務(wù)。Decide.com最終被eBay收購(gòu)。John Cook, eBay Acquires Decide.com, Shopping Research Site Will Shut Down Sept. 30, Geekwire,Sept. 6, 2013.

    8 參見(jiàn)Ryan Calo, “Can Americans Resist Surveillance?”,in U. Chi. L. Rev.,2016,83,pp.23-43(文章分析了美國(guó)公民可以采取不同的方法來(lái)改革政府監(jiān)視和相關(guān)挑戰(zhàn))。

    9 See Joel Reidenberg, “Privacy in Public”, in U. MiamiI L. Rev.,2014,69,pp.143-147.

    1 法院和相關(guān)法規(guī)都傾向性地認(rèn)為,電子郵件等資訊的內(nèi)容信息相較于非內(nèi)容信息應(yīng)該得到更強(qiáng)保護(hù),后者包括發(fā)送的目的地、是否被加密、是否包含附件等等。Cf. Riley v. California, 134 S. Ct. 2473 (2014) (在一起逮捕事件中無(wú)證搜查和扣押一部手機(jī)的行為是無(wú)效的。)

    2 See Florida v. Jardines, 569 U.S. 1, 8-9 (2013).

    3 參見(jiàn)Orin S. Kerr, “Searches and Seizures in a Digital World”, in Harv. L. Rev.,2005,119,p.551(法院認(rèn)為直到信息出現(xiàn)在屏幕上讓人看到才構(gòu)成一個(gè)搜索,簡(jiǎn)單的計(jì)算機(jī)處理或傳輸?shù)接脖P(pán)的行為并不是)。

    4 See Christina M. Mulligan, “Perfect Enforcement of Law: When to Limit and When to Use Technology”, in Rich. J.L. and Tech.,2008,14,pp.78-102.

    5 See Ryan Calo, “Digital Market Manipulation”, in Geo. Wash. L. Rev.,2014,82,pp.1001-1002.

    6 參見(jiàn)Ian R. Kerr, Bots, Babes, and the Californication of Commerce,in U. Ottawal. and Tech. J.,2004,1,pp.312-317(預(yù)見(jiàn)性地描述了聊天機(jī)器人在線(xiàn)上貿(mào)易中扮演的角色)。

    7 See Ira S. Rubenstein, “Voter Privacy in the Age of Big Data”,in Wis. L. Rev.,2014,5,pp.866-867.

    8 See Amanda Levendowski, “How Copyright Law Can Fix Artificial Intelligences Implicit Bias Problem”, in Wash. L. Rev.,2018,93,pp.610-618.

    9 See Amanda Levendowski, “How Copyright Law Can Fix Artificial Intelligences Implicit Bias Problem”, in Wash. L. Rev.,2018,93,pp.610-618.

    10 參見(jiàn)Amanda Levendowski, “How Copyright Law Can Fix Artificial Intelligences Implicit Bias Problem”, in Wash. L. Rev.,2018,93,pp.606-609(部分歸因于大公司能夠獲得更多數(shù)據(jù)的事實(shí))。

    1 參見(jiàn)本文第一部分。

    2 See Jan Whittington,et al., Push, Pull, and Spill: A Transdisciplinary Case Study in Municipal Open Government,in Berkeley Tech. L.J.,2015,30,p.1904.

    3 參見(jiàn)Julia Powles,Hal Hodson, Google DeepMind and Healthcare in An Age of Algorithms, Health Tech.,Mar. 16, 2017(介紹了谷歌的Deepmind訪(fǎng)問(wèn)患者敏感信息的事件,以及英國(guó)政府是如何最大限度地限制訪(fǎng)問(wèn)的)。

    4 See Sorrell v. IMS Health Inc., 564 U.S. 552, 579-80 (2011).

    5 See James Vincent, Google Is Testing a New Way of Training its AI Algorithms Directly on Your Phone, Verge,Apr.10,2017; Cynthia Dwork, Differential Privacy, in Michele Bugliesi,et al. eds., Automata Languages and Programming,Springer,2006,pp.2-3.

    6 See Martin Ford, Rise of the Robots: Technology and the Threat of a Jobless Future,Basic Books,2015:p.xvi.(“機(jī)器本身正在成為工人……”)

    7 See Erik Brynjolfsson, Andrew McAfee,The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies,W. W. Norton and Company,2014,pp.126-128.

    8 See Exec. Office of the President, Artificial Intelligence, Automation, and the Economy,2016,pp.35-42.

    1 See Erik Brynjolfsson, Andrew McAfee,The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies,W. W. Norton and Company,2014,pp.134-138.

    2 See Queena Kim, As Our Jobs Are Automated, Some Say Well Need a Guaranteed Basic Income, NPR Weekend Edition,Sept.24,2016.

    3 我尤其想到的是羅伯特·希曼(Robert Seamans)在紐約大學(xué)斯特恩商學(xué)院所做的工作。參見(jiàn)Robert Seamans, We Wont Even Know If a Robot Takes Your Job, Forbes,Jan.11,2017。

    4 See “Treasury Responds to Suggestion that Robots Pay Income Tax”, in Tax Notes,1984,25,p.20.(“無(wú)生命體無(wú)需進(jìn)行所得稅申報(bào)”)

    5 See Kevin J. Delaney, The Robot that Takes Your Job Should Pay Taxes, Says Bill Gates, Quartz,F(xiàn)eb.17, 2017.

    6 See Steve Cousins, Is a “Robot Tax” Really an “Innovation Penalty”?, Techcrunch,Apr. 22, 2017.

    7 See Ronald Collins,David Skover, Robotica:Speech Rights and Artificial Intelligence,Cambridge University Press,2018;Annemarie Bridy, “Coding Creativity: Copyright and the Artificially Intelligent Author”, in Stan. Tech. L. Rev.,2012,5,pp.21-27; James Grimmelmann, “Copyright for Literate Robots”,in Iowa L. Rev., 2016, 101,p.670.

    8 參見(jiàn)本文第三部分。

    9 New State Ice Co. v. Liebmann, 285 U.S. 262, 311 (1932)[布蘭迪斯(Brandeis)法官發(fā)表了反對(duì)意見(jiàn))(闡述了州作為民主實(shí)驗(yàn)室的經(jīng)典概念]。

    1 See Andrew Tutt, “An FDA for Algorithms”,in Admin. L. Rev.,2017,69,pp.91-106.

    2 See Orin S. Kerr, “The Next Generation Communications Privacy Act”,in U. Pa. L.Rev.,2014,162,pp.375-390.

    3 See Woodrow Hartzog, “Unfair and Deceptive Robots”,in Md. L. Rev.,2015,74,pp.812-814.

    4 See Ryan Calo,The Case for a Federal Robotics Commission, Brookings Institution Center for Technology Innovation,2014,p.4.

    5 See Ryan Calo,The Case for a Federal Robotics Commission, Brookings Institution Center for Technology Innovation,2014,pp.6-10(列舉了州政府或聯(lián)邦政府在缺乏專(zhuān)業(yè)知識(shí)的情況下應(yīng)對(duì)新技術(shù)的各種困難)。

    6 See Ryan Calo,The Case for a Federal Robotics Commission, Brookings Institution Center for Technology Innovation,2014,p.3;Tom Krazit, Updated: Washingtons Sen. Cantwell Prepping Bill Calling for AI Committee, Geekwire,July 10, 2017.

    7 See Networking and Information Technology Research and Development Subcommittee of National Science and Technology Council,The National Artificial Intelligence Research and Development Strategic Plan,2016,pp.15-22.

    8 參見(jiàn)Bryant Walker Smith, “How Governments Can Promote Automated Driving”,in N.M. L. Rev.,2017,47,pp.118-119(探討了有關(guān)自動(dòng)駕駛汽車(chē)的采購(gòu));Jan Whittington,et al., “Push, Pull, and Spill: A Transdisciplinary Case Study in Municipal Open Government”,in Berkeley Tech. L.J.,2015,30,pp.1908-1909(探討了有關(guān)公開(kāi)的市政數(shù)據(jù)的采購(gòu))。

    1 See Loomis v. State, 881 N.W.2d 749, 759,Wis. 2016(雖然被告可能不會(huì)對(duì)算法本身提出質(zhì)疑,但他或她仍然可能會(huì)對(duì)結(jié)果分?jǐn)?shù)進(jìn)行審查和質(zhì)疑)。

    2 See Rebecca Wexler, When a Computer Program Keeps You in Jail, N.Y. Times,June 13, 2017.

    3 See Kate Crawford,et al.,The AI NOW Report: The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term,2016;Peter Stone,et al., Stanford Univ., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016.

    4 See Kate Crawford,et al.,The AI NOW Report: The Social and Economic Implications of Artificial Intelligence Technologies in the Near-Term,2016;Peter Stone,et al., Stanford Univ., Artificial Intelligence and Life in 2030: Report of the 2015 Study Panel,2016.

    5 參見(jiàn)本文第三部分。

    6 這里有一些例子可以追溯到機(jī)器人一詞的起源。See Danny Lewis, 78 Years Ago Today, BBC Aired the First Science Fiction Television Program,Smithsonian,F(xiàn)eb.11, 2016. 這里也有一些例子,比如德國(guó)無(wú)聲電影的代表《大都會(huì)》(1927年烏發(fā)影業(yè)),美國(guó)當(dāng)代電影《機(jī)械姬》(2014年環(huán)球影業(yè))。但是,并不是所有的情形都認(rèn)為機(jī)器人是壞人。例如,陪伴日本成年人童年的動(dòng)畫(huà)片《鐵臂阿童木》就是如此,里面的阿童木機(jī)器人就是一個(gè)英雄。Astro Boy [Mighty Atom] (Manga), Tezuka in English, http://tezukainenglish.com/wp/?page_id=138(2017年10月18日訪(fǎng)問(wèn))。

    7 See Kate Darling, “Whos Johnny?”: Anthropomorphic Framing in Human-Robot Interaction, Integration, and Policy, in Patrick Lin,et al. eds., Robot Ethics 2.0: From Autonomous Cars to Artificial Intelligence,Oxford University Press,2017,pp.173-188(探討了擬人化機(jī)器人的影響)。

    8 See Ryan Calo, “Digital Market Manipulation”,in Geo. Wash. L. Rev.,2014,82:pp.1001-1002;Ian R. Kerr, “Bots, Babes, and the Californication of Commerce”,in U. Ottawal. and Tech. J.,2004,1,pp.312-317;Christina M. Mulligan, “Perfect Enforcement of Law: When to Limit and When to Use Technology”, in Rich. J.L. and Tech.,2008,14,p.101.

    1 See Ryan Calo, “People Can Be So Fake: A New Dimension to Privacy and Technology Scholarship”,in Pa. St. L. Rev.,2009,114,pp.843-846.

    2 See Noel Sharkey,et al., Our Sexual Future with Robots: A Foundation for Responsible Robotics Consultation Report,2017,p.1.

    3 參見(jiàn)Kate Crawford,Ryan Calo, “There Is a Blind Spot in AI Research”,in Nature,2016,538,pp.311-312(“對(duì)人工智能未來(lái)影響的擔(dān)憂(yōu),正在分散研究人員對(duì)已經(jīng)應(yīng)用的系統(tǒng)的真正風(fēng)險(xiǎn)的注意力……”)。

    4 參見(jiàn)Sonali Kohli, Bill Gates Joins Elon Musk and Stephen Hawking in Saying Artificial Intelligence Is Scary, Quartz,Jan. 29, 2015(討論了有多少工業(yè)巨頭認(rèn)為人工智能將對(duì)人類(lèi)構(gòu)成威脅)。

    5 See generally Nick Bostrom, Superintelligence:Paths, Dangers, Strategies, Oxford University Press,2014(探討“人類(lèi)迄今為止面臨的最艱巨的挑戰(zhàn)”,并思考我們?cè)撊绾巫詈玫貞?yīng)對(duì))。

    6 參見(jiàn)Raffi Khatchadourian, The Doomsday Invention, New Yorker,Nov. 23,2015。在博斯特羅姆的其他作品中,他認(rèn)為我們很可能全部都活在由我們后代所創(chuàng)造的計(jì)算機(jī)虛擬世界中。Nick Bostrom, Are You Living in A Simulation?,in Phil. Q.,2003,53,p.211.這個(gè)觀(guān)點(diǎn)包含了一個(gè)有趣的悖論:如果人工智能在未來(lái)消滅了我們所有人,那么我們不可能生活在由我們后代所創(chuàng)造的計(jì)算機(jī)虛擬世界中。反之,如果我們真的生活在由我們后代所創(chuàng)造的計(jì)算機(jī)虛擬世界中,那么這意味著人工智能并沒(méi)有將我們?nèi)祟?lèi)全部消滅。我認(rèn)為,博斯特羅姆在這個(gè)問(wèn)題上可能犯了錯(cuò)誤。

    7 參見(jiàn)Erik Sofge, Why Artificial Intelligence Will Not Obliterate Humanity, Popular Sci.,Mar.19, 2015。澳大利亞計(jì)算機(jī)科學(xué)家瑪麗·安妮·威廉姆斯(Mary Anne Williams)曾經(jīng)對(duì)我說(shuō)過(guò):“自從20世紀(jì)50年代人工智能這一術(shù)語(yǔ)誕生以來(lái),我們一直在研究人工智能,現(xiàn)在機(jī)器人的智能只相當(dāng)于昆蟲(chóng)級(jí)別?!?/p>

    1 參見(jiàn)Connie Loizos, This Famous Roboticist Doesnt Think Elon Musk Understands AI, Techcrunch,July 19, 2017[引用羅德尼·布魯克斯(Rodney Brooks)的話(huà),人工智能杞人憂(yōu)天者“有一個(gè)共同點(diǎn):他們自己并不從事人工智能的研發(fā)工作”]。

    2 參見(jiàn)Dave Blanchard, Musks Warning Sparks Call for Regulating Artificial Intelligence,NPR,July 19, 2017(引用楊立坤的一項(xiàng)觀(guān)察,支配的欲望并不一定與智能關(guān)聯(lián))。

    3 參見(jiàn)Daniel Wilson, Robopocalypse: A Novel,Vintage,2012.威爾遜的書(shū)是令人興奮的,部分原因在于威爾遜接受過(guò)有關(guān)機(jī)器人方面的訓(xùn)練,并有意增加大量準(zhǔn)確的細(xì)節(jié)描寫(xiě),以使情節(jié)更加逼真。

    4 參見(jiàn)Nick Bostrom, Superintelligence:Paths, Dangers, Strategies,Oxford University Press,2015,p.123.

    5 參見(jiàn)Aristotle, Politics, B. Jowett trans., Clarendon Press,1885,p.17(描述了米達(dá)斯國(guó)王點(diǎn)石成金的失控力量);《幻想曲》(Fantasia,華特·迪斯尼公司1940年出品。一群神奇的魔法掃帚不停地給大鍋里加水,差一點(diǎn)把米老鼠給淹死)。我把米達(dá)斯國(guó)王比作加州大學(xué)伯克利分校著名的計(jì)算機(jī)科學(xué)家斯圖爾特·羅素(Stuart Russell)教授,他是為數(shù)不多與馬斯克等人一樣擔(dān)憂(yōu)人工智能威脅人類(lèi)能力的人工智能專(zhuān)家。

    6 See Daniel Suarez, Daemon, Signet Books,2009.

    7 See Bad Actors and Artificial Intelligence Workshop, The Future of Humanity Inst.,2017.

    8 參見(jiàn)Alan Moore, Watchmen, Turtleback Books, 1995,pp.382-390(書(shū)中描繪了一個(gè)惡棍工程師從人腦中克隆了一只摧毀紐約的巨大怪物之后引發(fā)的混亂)。

    9 參見(jiàn)“Past Events, The Future of Life Inst.”, https://futureoflife.org/past_events,2017年10月18日訪(fǎng)問(wèn)。考察未來(lái)生命研究院(Future of Life Institute)過(guò)往主辦的活動(dòng)就可發(fā)現(xiàn)這一點(diǎn),該組織致力于“維護(hù)生命和開(kāi)發(fā)有關(guān)未來(lái)的樂(lè)觀(guān)愿景,包括人類(lèi)考慮新技術(shù)和新挑戰(zhàn)指導(dǎo)自身方向的積極方式”。

    1 Skynet和HAL分別是科幻電影《終結(jié)者》和《2001:太空漫游》中致力于毀滅人類(lèi)的惡性超級(jí)智能?!g者注

    2 See Pedro Domingos, Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World, Brilliance Audio,2015,p.286.

    猜你喜歡
    機(jī)器學(xué)習(xí)人工智能
    我校新增“人工智能”本科專(zhuān)業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    基于詞典與機(jī)器學(xué)習(xí)的中文微博情感分析
    基于網(wǎng)絡(luò)搜索數(shù)據(jù)的平遙旅游客流量預(yù)測(cè)分析
    前綴字母為特征在維吾爾語(yǔ)文本情感分類(lèi)中的研究
    基于支持向量機(jī)的金融數(shù)據(jù)分析研究
    下一幕,人工智能!
    下一幕,人工智能!
    成人永久免费在线观看视频| 国内精品久久久久精免费| 国产欧美日韩一区二区精品| 久久亚洲真实| 一个人免费在线观看电影 | 久久国产乱子伦精品免费另类| 日本免费一区二区三区高清不卡| 国产精品98久久久久久宅男小说| 成人精品一区二区免费| 亚洲人成网站高清观看| 中文字幕最新亚洲高清| 久久久久性生活片| 久久久国产成人免费| 人成视频在线观看免费观看| 亚洲精品色激情综合| 岛国视频午夜一区免费看| 久久精品国产亚洲av香蕉五月| 此物有八面人人有两片| 在线观看www视频免费| 欧美精品亚洲一区二区| 在线十欧美十亚洲十日本专区| 午夜免费观看网址| 日韩欧美精品v在线| 久久久久久人人人人人| 国语自产精品视频在线第100页| 香蕉久久夜色| 50天的宝宝边吃奶边哭怎么回事| 最新在线观看一区二区三区| 午夜免费激情av| 精品国产乱码久久久久久男人| 久久久久久大精品| 久久久久久久久久黄片| 亚洲国产看品久久| 成人av一区二区三区在线看| 亚洲国产精品合色在线| 亚洲av片天天在线观看| 午夜精品一区二区三区免费看| 欧美国产日韩亚洲一区| 午夜老司机福利片| 操出白浆在线播放| 国产成人aa在线观看| 母亲3免费完整高清在线观看| 最近最新免费中文字幕在线| 亚洲七黄色美女视频| 最近最新免费中文字幕在线| 亚洲一码二码三码区别大吗| 中文字幕人成人乱码亚洲影| 麻豆久久精品国产亚洲av| 中文资源天堂在线| 国产亚洲精品av在线| 一级毛片高清免费大全| 亚洲国产欧美网| 亚洲欧美日韩高清在线视频| 国产aⅴ精品一区二区三区波| 久久久久国产一级毛片高清牌| xxxwww97欧美| 欧美日韩亚洲国产一区二区在线观看| 在线看三级毛片| 狂野欧美白嫩少妇大欣赏| 日韩有码中文字幕| 男女视频在线观看网站免费 | 午夜福利成人在线免费观看| 99久久国产精品久久久| 老汉色av国产亚洲站长工具| 麻豆成人午夜福利视频| 男人的好看免费观看在线视频 | 免费在线观看日本一区| 女警被强在线播放| 在线观看免费午夜福利视频| 国产视频内射| 欧美日韩亚洲国产一区二区在线观看| 国产精品久久电影中文字幕| 日本三级黄在线观看| 97超级碰碰碰精品色视频在线观看| av福利片在线| 中文字幕精品亚洲无线码一区| 女警被强在线播放| 最近在线观看免费完整版| 色播亚洲综合网| 成在线人永久免费视频| 国产精品精品国产色婷婷| 免费看美女性在线毛片视频| 日本免费a在线| 亚洲一码二码三码区别大吗| 亚洲国产精品成人综合色| 麻豆av在线久日| 久久午夜亚洲精品久久| 狂野欧美白嫩少妇大欣赏| 99精品久久久久人妻精品| 制服诱惑二区| 香蕉国产在线看| 青草久久国产| 男人的好看免费观看在线视频 | 人妻久久中文字幕网| 国内精品久久久久久久电影| www国产在线视频色| 成人三级做爰电影| 亚洲avbb在线观看| www.精华液| 久久久久久亚洲精品国产蜜桃av| 欧美成人免费av一区二区三区| 午夜成年电影在线免费观看| 成人亚洲精品av一区二区| 丰满人妻熟妇乱又伦精品不卡| 日本三级黄在线观看| 久久人妻av系列| 亚洲欧美日韩高清在线视频| 中文字幕久久专区| 观看免费一级毛片| 免费看日本二区| 高清在线国产一区| 成人一区二区视频在线观看| 欧美绝顶高潮抽搐喷水| 成年版毛片免费区| 99久久久亚洲精品蜜臀av| 亚洲av成人不卡在线观看播放网| 国产精品综合久久久久久久免费| 国内少妇人妻偷人精品xxx网站 | 神马国产精品三级电影在线观看 | 美女 人体艺术 gogo| 99久久综合精品五月天人人| 天堂影院成人在线观看| 亚洲av成人一区二区三| 国产精品99久久99久久久不卡| 亚洲精品中文字幕在线视频| 日韩精品青青久久久久久| 国产精品av视频在线免费观看| АⅤ资源中文在线天堂| 亚洲精品中文字幕一二三四区| 18美女黄网站色大片免费观看| 1024手机看黄色片| 欧美黄色淫秽网站| 50天的宝宝边吃奶边哭怎么回事| 亚洲欧美日韩东京热| 一边摸一边做爽爽视频免费| 欧美日韩黄片免| 亚洲乱码一区二区免费版| 男女做爰动态图高潮gif福利片| 日本精品一区二区三区蜜桃| 免费看美女性在线毛片视频| 亚洲五月婷婷丁香| 亚洲成a人片在线一区二区| 色av中文字幕| 夜夜躁狠狠躁天天躁| 亚洲va日本ⅴa欧美va伊人久久| 久久久久久免费高清国产稀缺| 99国产极品粉嫩在线观看| 一区福利在线观看| 国产午夜精品久久久久久| 欧美成人性av电影在线观看| 好男人在线观看高清免费视频| 欧美黄色淫秽网站| 最近最新中文字幕大全电影3| 久久久久免费精品人妻一区二区| 国产亚洲精品久久久久久毛片| 人人妻,人人澡人人爽秒播| 午夜福利欧美成人| 亚洲精品国产精品久久久不卡| 久久中文字幕一级| 最近在线观看免费完整版| 国产激情久久老熟女| 中文字幕av在线有码专区| 在线观看免费视频日本深夜| 99国产极品粉嫩在线观看| 久久天堂一区二区三区四区| 91成年电影在线观看| 久久久久国内视频| 精品久久蜜臀av无| 制服人妻中文乱码| 岛国在线观看网站| 欧美又色又爽又黄视频| 国产精品久久久人人做人人爽| 久久久精品欧美日韩精品| 麻豆国产av国片精品| 色综合欧美亚洲国产小说| 欧美最黄视频在线播放免费| 国内精品一区二区在线观看| 神马国产精品三级电影在线观看 | 精品午夜福利视频在线观看一区| 国内精品久久久久精免费| 亚洲av五月六月丁香网| 亚洲乱码一区二区免费版| 国产一区二区在线av高清观看| 中国美女看黄片| 国产97色在线日韩免费| 中文字幕久久专区| 国产亚洲av高清不卡| 丁香欧美五月| 舔av片在线| 别揉我奶头~嗯~啊~动态视频| 日韩欧美国产在线观看| 日韩国内少妇激情av| 天天躁夜夜躁狠狠躁躁| 美女黄网站色视频| 国产精品久久久久久人妻精品电影| 91国产中文字幕| 亚洲avbb在线观看| 国产成+人综合+亚洲专区| 我的老师免费观看完整版| 国产蜜桃级精品一区二区三区| 国产伦人伦偷精品视频| 亚洲人成网站在线播放欧美日韩| 女同久久另类99精品国产91| 99国产极品粉嫩在线观看| 在线免费观看的www视频| 国产成人精品无人区| 亚洲成a人片在线一区二区| 真人做人爱边吃奶动态| 精品国产超薄肉色丝袜足j| 久久精品国产亚洲av香蕉五月| 亚洲性夜色夜夜综合| 91国产中文字幕| 91大片在线观看| 777久久人妻少妇嫩草av网站| 村上凉子中文字幕在线| 19禁男女啪啪无遮挡网站| 18禁裸乳无遮挡免费网站照片| 欧美日韩亚洲国产一区二区在线观看| 在线国产一区二区在线| 亚洲色图 男人天堂 中文字幕| 99热6这里只有精品| 久久热在线av| av免费在线观看网站| av中文乱码字幕在线| 国产午夜精品久久久久久| 午夜精品在线福利| 色尼玛亚洲综合影院| 国产精品国产高清国产av| 精品人妻1区二区| 久久久水蜜桃国产精品网| 又大又爽又粗| 国产久久久一区二区三区| 黑人操中国人逼视频| 男人舔奶头视频| 日韩三级视频一区二区三区| 男人的好看免费观看在线视频 | 人人妻人人澡欧美一区二区| 91成年电影在线观看| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲人成网站高清观看| 精品国产超薄肉色丝袜足j| 美女黄网站色视频| 免费看十八禁软件| 亚洲国产精品久久男人天堂| 欧美激情久久久久久爽电影| 成人三级黄色视频| 国产精品精品国产色婷婷| 久久久精品国产亚洲av高清涩受| 啦啦啦观看免费观看视频高清| 亚洲人成网站在线播放欧美日韩| 久久婷婷人人爽人人干人人爱| 亚洲一码二码三码区别大吗| 国产成人欧美在线观看| 亚洲中文日韩欧美视频| 久久精品人妻少妇| 波多野结衣高清作品| cao死你这个sao货| 亚洲第一欧美日韩一区二区三区| 欧美最黄视频在线播放免费| 中文亚洲av片在线观看爽| 免费av毛片视频| 嫁个100分男人电影在线观看| 91麻豆av在线| 熟妇人妻久久中文字幕3abv| 亚洲真实伦在线观看| 听说在线观看完整版免费高清| 国内精品久久久久久久电影| 亚洲av片天天在线观看| 午夜福利高清视频| 国产黄a三级三级三级人| 老司机午夜十八禁免费视频| 亚洲中文日韩欧美视频| 亚洲 国产 在线| 欧美一区二区国产精品久久精品 | 亚洲 欧美一区二区三区| 麻豆久久精品国产亚洲av| 精品乱码久久久久久99久播| 中亚洲国语对白在线视频| 国产精品久久电影中文字幕| 一本大道久久a久久精品| 大型黄色视频在线免费观看| 90打野战视频偷拍视频| 非洲黑人性xxxx精品又粗又长| 啦啦啦韩国在线观看视频| 999精品在线视频| 久久久久久久午夜电影| 午夜老司机福利片| 欧美日本视频| 日本五十路高清| 少妇裸体淫交视频免费看高清 | 久久精品亚洲精品国产色婷小说| 女人高潮潮喷娇喘18禁视频| 一个人免费在线观看的高清视频| 久久香蕉激情| 看片在线看免费视频| 国产男靠女视频免费网站| 国产精品精品国产色婷婷| 两人在一起打扑克的视频| 国产伦在线观看视频一区| 天天躁狠狠躁夜夜躁狠狠躁| 国内毛片毛片毛片毛片毛片| 老司机午夜十八禁免费视频| 国产伦在线观看视频一区| 日韩欧美国产一区二区入口| 变态另类丝袜制服| 别揉我奶头~嗯~啊~动态视频| 精品久久久久久久久久免费视频| 在线观看www视频免费| АⅤ资源中文在线天堂| 99久久国产精品久久久| 国产亚洲精品av在线| 欧美日本亚洲视频在线播放| 黄频高清免费视频| 国产v大片淫在线免费观看| 色老头精品视频在线观看| av国产免费在线观看| 亚洲国产精品成人综合色| 色尼玛亚洲综合影院| 小说图片视频综合网站| 国产私拍福利视频在线观看| 国产精华一区二区三区| 精品国内亚洲2022精品成人| 12—13女人毛片做爰片一| 视频区欧美日本亚洲| 久久久久久亚洲精品国产蜜桃av| 国产成+人综合+亚洲专区| 欧美日本亚洲视频在线播放| av在线天堂中文字幕| 久久久国产成人精品二区| 国产精品99久久99久久久不卡| 久久精品aⅴ一区二区三区四区| 成年人黄色毛片网站| 波多野结衣巨乳人妻| 久久人人精品亚洲av| 69av精品久久久久久| 亚洲天堂国产精品一区在线| 在线观看免费视频日本深夜| 波多野结衣高清作品| 中文字幕精品亚洲无线码一区| 亚洲自偷自拍图片 自拍| 久久久国产欧美日韩av| 亚洲aⅴ乱码一区二区在线播放 | 99国产极品粉嫩在线观看| 亚洲精品国产精品久久久不卡| 两人在一起打扑克的视频| 99国产精品一区二区三区| 啦啦啦免费观看视频1| 18禁裸乳无遮挡免费网站照片| 国产激情欧美一区二区| 丝袜美腿诱惑在线| 老司机午夜十八禁免费视频| 日韩国内少妇激情av| 黄色女人牲交| 在线观看日韩欧美| 亚洲自偷自拍图片 自拍| 两个人免费观看高清视频| 1024手机看黄色片| 国产亚洲精品一区二区www| 草草在线视频免费看| 成人手机av| 丁香六月欧美| 日韩精品青青久久久久久| 男女之事视频高清在线观看| 精品久久蜜臀av无| 动漫黄色视频在线观看| 色综合站精品国产| 欧美中文综合在线视频| 国产精品综合久久久久久久免费| 黄频高清免费视频| 日韩欧美在线二视频| 精品少妇一区二区三区视频日本电影| 国产欧美日韩一区二区三| 亚洲人与动物交配视频| 日韩国内少妇激情av| 国产成年人精品一区二区| 桃色一区二区三区在线观看| 白带黄色成豆腐渣| 日本精品一区二区三区蜜桃| 亚洲一区高清亚洲精品| 一二三四在线观看免费中文在| 女生性感内裤真人,穿戴方法视频| 国产成人欧美在线观看| 精品国产超薄肉色丝袜足j| 黄频高清免费视频| 黑人欧美特级aaaaaa片| 最好的美女福利视频网| 又大又爽又粗| 不卡av一区二区三区| 亚洲,欧美精品.| 一进一出抽搐动态| 成人国产综合亚洲| 亚洲av成人av| 少妇的丰满在线观看| 我的老师免费观看完整版| 丝袜美腿诱惑在线| 久久久久久久久免费视频了| 99国产极品粉嫩在线观看| 亚洲精华国产精华精| 日韩欧美在线乱码| 香蕉av资源在线| 狂野欧美激情性xxxx| 小说图片视频综合网站| 亚洲男人天堂网一区| 久久久久久亚洲精品国产蜜桃av| 全区人妻精品视频| 一个人免费在线观看的高清视频| 欧美成人免费av一区二区三区| 精品一区二区三区视频在线观看免费| 国内毛片毛片毛片毛片毛片| 成熟少妇高潮喷水视频| 每晚都被弄得嗷嗷叫到高潮| 日本a在线网址| 啦啦啦观看免费观看视频高清| 亚洲自拍偷在线| 国产亚洲av嫩草精品影院| 亚洲专区字幕在线| 好看av亚洲va欧美ⅴa在| 国产一级毛片七仙女欲春2| 香蕉丝袜av| 欧美一级a爱片免费观看看 | 18禁黄网站禁片午夜丰满| av免费在线观看网站| 免费看美女性在线毛片视频| 淫妇啪啪啪对白视频| 男女下面进入的视频免费午夜| 久久香蕉激情| 欧美不卡视频在线免费观看 | 国产探花在线观看一区二区| 男人舔女人下体高潮全视频| 99久久国产精品久久久| 日本成人三级电影网站| 18禁美女被吸乳视频| 国产成人精品久久二区二区免费| 欧美午夜高清在线| 久久草成人影院| 小说图片视频综合网站| 听说在线观看完整版免费高清| 亚洲在线自拍视频| 日本 av在线| 亚洲人与动物交配视频| 熟女电影av网| 黄频高清免费视频| 99国产精品99久久久久| 欧美午夜高清在线| 亚洲欧美激情综合另类| 精品电影一区二区在线| 亚洲五月天丁香| 亚洲va日本ⅴa欧美va伊人久久| 亚洲av成人av| 亚洲欧洲精品一区二区精品久久久| 欧美av亚洲av综合av国产av| 日韩高清综合在线| 欧美 亚洲 国产 日韩一| 欧美黑人欧美精品刺激| 国产久久久一区二区三区| 久久人人精品亚洲av| 最近在线观看免费完整版| 女同久久另类99精品国产91| 一夜夜www| 一级毛片高清免费大全| 日本精品一区二区三区蜜桃| 欧美中文综合在线视频| 亚洲精品一区av在线观看| av福利片在线| 夜夜看夜夜爽夜夜摸| 最近最新免费中文字幕在线| 国产熟女xx| 91成年电影在线观看| 脱女人内裤的视频| 国产成人系列免费观看| 成年免费大片在线观看| 悠悠久久av| 俺也久久电影网| 精品不卡国产一区二区三区| 欧美成人性av电影在线观看| 亚洲国产日韩欧美精品在线观看 | 久久国产精品人妻蜜桃| 国产精品香港三级国产av潘金莲| 夜夜夜夜夜久久久久| 欧美又色又爽又黄视频| 久9热在线精品视频| 午夜两性在线视频| 男女视频在线观看网站免费 | 天天添夜夜摸| 可以在线观看毛片的网站| 久久精品夜夜夜夜夜久久蜜豆 | 成人一区二区视频在线观看| 他把我摸到了高潮在线观看| 美女扒开内裤让男人捅视频| 村上凉子中文字幕在线| 精品电影一区二区在线| 日韩大码丰满熟妇| 日韩精品中文字幕看吧| 国产精品精品国产色婷婷| 精品高清国产在线一区| 国产一区二区激情短视频| 99精品在免费线老司机午夜| 亚洲精品美女久久av网站| 九色国产91popny在线| 两个人免费观看高清视频| 亚洲avbb在线观看| 国产成人系列免费观看| 日本撒尿小便嘘嘘汇集6| 国内少妇人妻偷人精品xxx网站 | 禁无遮挡网站| 变态另类成人亚洲欧美熟女| 99国产精品一区二区蜜桃av| 亚洲自偷自拍图片 自拍| av在线天堂中文字幕| 成人精品一区二区免费| 亚洲中文av在线| 精品久久久久久久久久免费视频| 久久天堂一区二区三区四区| 国产久久久一区二区三区| 男人舔女人下体高潮全视频| 欧美色欧美亚洲另类二区| 久久精品人妻少妇| 日本一区二区免费在线视频| 身体一侧抽搐| 亚洲欧美日韩高清专用| 亚洲国产高清在线一区二区三| 精品久久久久久久末码| 天天一区二区日本电影三级| 午夜亚洲福利在线播放| 国产成+人综合+亚洲专区| 久久久久久大精品| 国产激情偷乱视频一区二区| 女生性感内裤真人,穿戴方法视频| 免费在线观看日本一区| 亚洲国产欧洲综合997久久,| 精品一区二区三区av网在线观看| 两个人免费观看高清视频| 亚洲av电影不卡..在线观看| 啦啦啦免费观看视频1| 国产97色在线日韩免费| 女人高潮潮喷娇喘18禁视频| 亚洲人成伊人成综合网2020| 又粗又爽又猛毛片免费看| 久久久国产成人免费| 999精品在线视频| 欧美成狂野欧美在线观看| 国产一区二区三区视频了| 两性夫妻黄色片| 日本熟妇午夜| 久久精品影院6| 淫妇啪啪啪对白视频| 色噜噜av男人的天堂激情| 在线观看免费午夜福利视频| 国产一级毛片七仙女欲春2| 一本一本综合久久| 国产一区二区三区视频了| 亚洲成av人片免费观看| 国产乱人伦免费视频| 亚洲黑人精品在线| 777久久人妻少妇嫩草av网站| 国产精品 国内视频| 国产精品一区二区精品视频观看| 欧美黑人巨大hd| 精品福利观看| 99久久无色码亚洲精品果冻| 亚洲精品一卡2卡三卡4卡5卡| 色精品久久人妻99蜜桃| 国产精品亚洲一级av第二区| 午夜福利视频1000在线观看| 中文亚洲av片在线观看爽| 亚洲成av人片免费观看| 999精品在线视频| 亚洲成人久久爱视频| 久久久久亚洲av毛片大全| 亚洲成a人片在线一区二区| 久久久国产欧美日韩av| 国产成人欧美在线观看| 国产一区二区在线观看日韩 | 动漫黄色视频在线观看| 午夜福利视频1000在线观看| 日本成人三级电影网站| 男女视频在线观看网站免费 | 宅男免费午夜| 最新在线观看一区二区三区| 国产亚洲精品久久久久久毛片| 听说在线观看完整版免费高清| 国产av一区在线观看免费| 波多野结衣高清无吗| 又大又爽又粗| 国产成+人综合+亚洲专区| 亚洲熟妇中文字幕五十中出| 日本三级黄在线观看| 亚洲精品久久成人aⅴ小说| 法律面前人人平等表现在哪些方面| 久久这里只有精品中国| 九色国产91popny在线| 久久香蕉国产精品| netflix在线观看网站| 欧美日韩乱码在线| 国产精品乱码一区二三区的特点| 岛国在线免费视频观看| 国产精品1区2区在线观看.| 91国产中文字幕| 欧美+亚洲+日韩+国产| 成年女人毛片免费观看观看9| 久久精品aⅴ一区二区三区四区| 欧美久久黑人一区二区| 国产av不卡久久| 91九色精品人成在线观看| 日韩av在线大香蕉| 一区二区三区激情视频| 亚洲成人久久爱视频| 久久久国产欧美日韩av| 国产精品 欧美亚洲| 一二三四社区在线视频社区8| 久久久久久久久中文| 亚洲七黄色美女视频| 久久香蕉精品热| 18禁黄网站禁片午夜丰满| 美女大奶头视频|