人工智能面臨的問(wèn)題、挑戰(zhàn)與倫理

李彥宏

我覺得AI應(yīng)該做的是讓它去幫助人和服務(wù)人，不應(yīng)該做的是讓它去傷害人和控制人。如果AI在某些方面，對(duì)人的正?；顒?dòng)產(chǎn)生了負(fù)面的影響，那我們也要去規(guī)范它。

作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，人工智能已上升為國(guó)家戰(zhàn)略。當(dāng)前，人工智能還處在發(fā)展初期，但在某些領(lǐng)域已經(jīng)接近甚至超過(guò)了人的能力，展現(xiàn)出巨大的變革力量。

所以我覺得我們需要從社會(huì)、政府和公眾的角度來(lái)考慮在人工智能這個(gè)技術(shù)的發(fā)展道路上什么是應(yīng)該做的，什么是不應(yīng)該做的，什么是好的，什么是壞的，我們及早地把它做一些規(guī)范，做一些預(yù)判，盡量避免人工智能向不好的方向發(fā)展。

比如怎么能夠避免大量的失業(yè)，怎么能夠保證數(shù)據(jù)的安全，怎么能夠不被黑客所攻擊等等，這些問(wèn)題我覺得需要及早地從一個(gè)全局的范圍來(lái)進(jìn)行考慮。

談人工智能行業(yè)中存在的問(wèn)題和挑戰(zhàn)

人工智能這個(gè)領(lǐng)域肯定是有泡沫的，而且泡沫還不小，但是我覺得這個(gè)也正常。因?yàn)槿魏我粋€(gè)新的趨勢(shì)到來(lái)的時(shí)候大家都會(huì)感興趣，一擁而上。無(wú)論是投資也好，創(chuàng)業(yè)也好，或者是大的公司研發(fā)方向的調(diào)整，都會(huì)向著這個(gè)新的趨勢(shì)去走，所以一定會(huì)產(chǎn)生一些泡沫，包括一些創(chuàng)業(yè)公司估值非常高，融資額度很大。這種大的公司，不管適不適合去做人工智能，也都在講人工智能，也把很多研發(fā)資源都投入到人工智能上。

為什么我認(rèn)為這是一個(gè)自然的過(guò)程？只有這樣大家都一起上的時(shí)候，才能夠推動(dòng)這個(gè)產(chǎn)業(yè)迅速地走向成熟。而這個(gè)走向成熟，或者是走向理性的過(guò)程，也是一個(gè)優(yōu)勝劣汰的過(guò)程，那些不適應(yīng)市場(chǎng)需求，跟不上時(shí)代步伐的公司會(huì)逐步地被淘汰掉，剩下的一定是一些少數(shù)的公司。不管是創(chuàng)業(yè)型的公司也好，大型的公司也好。比如一千個(gè)公司，最后剩下20個(gè)、30個(gè)，這些剩下的公司就會(huì)發(fā)展得很好，越變?cè)酱螅鼈兊募夹g(shù)，它們的產(chǎn)品就會(huì)被市場(chǎng)所接受，我覺得這是一個(gè)很自然的過(guò)程，而且應(yīng)該說(shuō)也是一個(gè)健康的過(guò)程。因?yàn)槟悴话压姷呐d趣調(diào)動(dòng)起來(lái)，沒有那么多資金投進(jìn)來(lái)，很多技術(shù)不可能那么快被開發(fā)出來(lái)。今天大家講的十個(gè)技術(shù)里面，可能有九個(gè)將來(lái)會(huì)證明其實(shí)沒什么價(jià)值，但是有一個(gè)技術(shù)最后慢慢被打磨成了一個(gè)非常有價(jià)值的技術(shù)，這個(gè)我覺得是一個(gè)自然的規(guī)律。我覺得大家也需要有這種心理準(zhǔn)備，今天很熱的一些公司，可能十個(gè)里面有九個(gè)在五年以后就不存在了。

我覺得大家對(duì)人工智能還是有很多誤解，兩方面的誤解都存在。有一些對(duì)技術(shù)發(fā)展速度比較樂(lè)觀的人他們開始擔(dān)心，人工智能一旦有了意志的話，會(huì)不會(huì)對(duì)人產(chǎn)生控制的能力，很多擔(dān)心的都是說(shuō)人工智能會(huì)超越人、控制人，在這方面有一些擔(dān)心。我覺得這個(gè)擔(dān)心其實(shí)是沒必要的，人工智能離這一步其實(shí)還非常非常遠(yuǎn)，我的判斷是永遠(yuǎn)達(dá)不到，非常遠(yuǎn)的意思就是我們不需要擔(dān)心。另外一個(gè)極端就是覺得，人工智能其實(shí)現(xiàn)在能做的有意義的事情還不夠多，這個(gè)市場(chǎng)還處在早期的階段，所以對(duì)它不夠重視，這個(gè)也挺危險(xiǎn)的。因?yàn)槲覀兛吹饺斯ぶ悄軐?duì)于人類社會(huì)的這種推動(dòng)作用是方方面面的，不僅僅是對(duì)消費(fèi)者在各個(gè)層面的推動(dòng)作用，比如說(shuō)信息自動(dòng)個(gè)性化的推薦，視頻的理解。更多的是在生產(chǎn)端，比如我們的生產(chǎn)制造，生產(chǎn)出來(lái)的鋼板有沒有瑕疵，組裝iPhone的時(shí)候，每一個(gè)零件是不是合格等等，其實(shí)確實(shí)在這一方面是可以大規(guī)模的提升生產(chǎn)效率的。如果一些企業(yè)不能夠及早地意識(shí)到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。所以兩個(gè)方面的誤解我覺得都有，既不能極其悲觀，認(rèn)為人工智能技術(shù)還在早期的階段，不需要現(xiàn)在去做很多準(zhǔn)備。但是也沒有必要把它夸大成有一天人類就面臨滅亡的危險(xiǎn)了，我覺得現(xiàn)在離那一步還非常非常遙遠(yuǎn)。

談AI倫理、人工智能對(duì)現(xiàn)有法律體系產(chǎn)生的挑戰(zhàn)及相關(guān)建議

我覺得AI的相關(guān)立法本身不應(yīng)該太超前，很多時(shí)候確實(shí)是新事物剛剛出現(xiàn)，讓它稍微跑一段然后再總結(jié)經(jīng)驗(yàn)，找到規(guī)律再來(lái)立法，這是第一。第二的話，就是在不同的領(lǐng)域，它可能涉及的立法都是不一樣的，比如說(shuō)像無(wú)人駕駛，那么在過(guò)去就沒有相關(guān)的法律，我們往五環(huán)上一跑，大家就說(shuō)違法了。但是這個(gè)事情一出來(lái)之后，其實(shí)北京市很重視，馬上市長(zhǎng)就召集交委開會(huì)，說(shuō)我們得解決這個(gè)問(wèn)題，到今天百度已經(jīng)拿到了50張左右的自動(dòng)駕駛測(cè)試車證，所以很快有相應(yīng)的法律來(lái)保障你的這種創(chuàng)新能夠有序。

剛才我們講到醫(yī)療方面，我也很希望做相關(guān)的立法，統(tǒng)一電子病歷的格式，必須要有什么樣的字段，要有什么樣的內(nèi)容，必須不同的醫(yī)院、不同的機(jī)構(gòu)之間進(jìn)行交換，那么必須要保護(hù)患者的隱私，你不能把什么樣的信息透露給什么人等等，這些我覺得都應(yīng)該通過(guò)立法的方式來(lái)解決。其實(shí)我只是舉了交通和醫(yī)療這兩個(gè)領(lǐng)域，比如說(shuō)在環(huán)保領(lǐng)域、金融領(lǐng)域，各個(gè)領(lǐng)域它可能都會(huì)遇到一些新的問(wèn)題，我覺得應(yīng)該去分析這些問(wèn)題，找到規(guī)律，然后做出相應(yīng)的立法。

我覺得AI應(yīng)該做的是讓它去幫助人和服務(wù)人，不應(yīng)該做的是讓它去傷害人和控制人。當(dāng)然我剛才講的，我認(rèn)為AI發(fā)展出來(lái)一個(gè)超能力、真正控制人類這個(gè)是不大現(xiàn)實(shí)的。但是跟所有其他技術(shù)一樣，如果我們不注意去控制它的話，就會(huì)出問(wèn)題的，就好像碰到高壓線會(huì)被電死，并不是說(shuō)電比人更聰明，而是這個(gè)技術(shù)在發(fā)展的過(guò)程當(dāng)中，它是有可能出事故的。在這一方面，我們要做相應(yīng)的預(yù)案，要去做防備的措施，不要讓它跑偏了。什么叫跑偏了？如果AI的能力出現(xiàn)了會(huì)傷害人的地方，那我們要趕緊往回拉一拉，要對(duì)它進(jìn)行控制。如果AI在某些方面，對(duì)人的這種正常的活動(dòng)產(chǎn)生了負(fù)面的影響，那我們也要去規(guī)范它。國(guó)際上其實(shí)有一些這種組織已經(jīng)在講我們不要去開發(fā)AI的武器，不要搞這種殺傷性的武器，這個(gè)我覺得就是一個(gè)很好的方向，我們不希望它用到不該用的地方去。該用的地方就是要去服務(wù)人，幫助人們做一些人們想做的事情。

我再舉一個(gè)醫(yī)療的例子，其實(shí)很多住院的病人出問(wèn)題是什么？就是他在病房里面摔倒沒有被人發(fā)現(xiàn)，沒有被及時(shí)的發(fā)現(xiàn)，這個(gè)時(shí)候有出問(wèn)題了。我們不可能放一個(gè)人24小時(shí)在任何一個(gè)病房里面看著這些病人。但是你可以放一些攝像頭，用AI的能力。我就干這一件事，我就監(jiān)控這個(gè)病人有沒有摔倒，這個(gè)是完全可以做的。類似于這樣的應(yīng)用場(chǎng)景，我們?nèi)ザ嗤诰?，讓它去服?wù)人，去幫助人。所以未來(lái)的AI主要的目的不是去替代人，而是幫助人，把人想做的工作做得更好，做得更高效。我覺得這是從AI倫理的角度，是這么一個(gè)思考。

談百度在人工智能行業(yè)的發(fā)展成果和優(yōu)勢(shì)釋放

2016年在烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)的時(shí)候，我說(shuō)過(guò)百度希望做人工智能這艘巨輪上的甲板，帶著大家往前走。我覺得目前百度實(shí)現(xiàn)了一小部分，因?yàn)槲覀儚哪莻€(gè)時(shí)候起，就一直在盡力地去建相應(yīng)的平臺(tái)，包括自動(dòng)駕駛的阿波羅平臺(tái)。阿波羅平臺(tái)今天大概有130多個(gè)合作伙伴，所有的合作伙伴他們大多數(shù)都是希望利用阿波羅平臺(tái)這種開源開放的能力，減少他們?cè)谧詣?dòng)駕駛方面的投入。世界著名的這些大的車廠、一級(jí)供應(yīng)商、一些自動(dòng)駕駛的芯片廠商都在這里面。還有深度學(xué)習(xí)的框架，我們叫PaddlePaddle，這個(gè)也是中國(guó)目前唯一一個(gè)有一定影響力的深度學(xué)習(xí)框架，這方面的開發(fā)者現(xiàn)在也非常多。而且我們不斷地在靠降低門檻，讓大家去更好地使用，我們?cè)谏厦嬖倬幰恍┖玫墓ぞ摺?/p>

現(xiàn)在就是說(shuō)，學(xué)術(shù)界用這種深度學(xué)習(xí)框架用得比較多，在工業(yè)界、商界用得還不夠多。之所以用得不夠多，還是因?yàn)樗T檻比較高，需要花很多時(shí)間去學(xué)習(xí)。那我們自己最近還搞了黃浦學(xué)院，教這些企業(yè)里面從事深度學(xué)習(xí)工作的技術(shù)人員，教他們?cè)趺锤玫纳鲜秩ミ\(yùn)用深度學(xué)習(xí)的能力，為他們的企業(yè)去創(chuàng)造價(jià)值。所以，百度這種平臺(tái)的能力，現(xiàn)在使用的人越來(lái)越多了，包括我們的度秘，我剛才講的小度在家，小度音箱這是我們第一方的硬件，端到端都是百度控制的。其實(shí)還有很多第三方，他們?cè)谑褂冒俣鹊娜斯ぶ悄軐?duì)話的能力，很多的手機(jī)，包括華為手機(jī)什么的，它的語(yǔ)音助手背后都是百度在提供的，每天也有很多人都在通過(guò)各種各樣不同的硬件形式來(lái)使用這種人工智能的能力。

為什么我說(shuō)只是實(shí)現(xiàn)了一小部分？因?yàn)檫€是不夠普及，還是使用的規(guī)模還不夠大，我覺得就是現(xiàn)狀這種規(guī)模再乘以十倍，才能夠讓大家有更明顯的感知。這其實(shí)不能說(shuō)是對(duì)百度員工提的KPI，更多的是一種價(jià)值觀，我們每一條產(chǎn)品線，不光是百度整個(gè)公司我們自己有這種使命、愿景、價(jià)值觀、戰(zhàn)略。