《人工智能時(shí)代》博弈不確定的未來

鄭渝川

享譽(yù)世界的頂尖級(jí)人工智能專家、斯坦福大學(xué)人工智能與倫理學(xué)教授杰瑞·卡普蘭曾創(chuàng)建過Go公司、Onsale（全球首家在線拍賣公司），設(shè)計(jì)了世界上首臺(tái)筆觸式計(jì)算機(jī)，在美國(guó)科學(xué)界、產(chǎn)業(yè)界和政界有著很強(qiáng)的影響力。他所著的《人工智能時(shí)代》一書，主要從人工智能和機(jī)器人所必然帶來的技術(shù)和社會(huì)風(fēng)險(xiǎn)入手，探討了應(yīng)對(duì)這些風(fēng)險(xiǎn)的可行之策。

谷歌研發(fā)的自動(dòng)駕駛汽車已經(jīng)累積了數(shù)十萬英里的安全駕駛記錄，預(yù)計(jì)數(shù)年內(nèi)，這種無需人類駕駛的車輛將廣泛投放市場(chǎng)。但隨之而來的一個(gè)倫理性問題是：如果無人駕駛汽車出了車禍，責(zé)任應(yīng)該歸結(jié)于誰？如果搭乘車主的無人駕駛汽車，正要經(jīng)過一座狹窄的橋，橋?qū)γ婧鋈婚_來了滿載兒童的校車，這座橋無法容載兩輛車，必須要有一輛車馬上掉下橋去，才能保障另一輛車的安全。那么，無人駕駛汽車是會(huì)毫不猶豫地沖上前去，為車主清除隱患，把校車撞下橋去呢，還是自殺性地開下橋，犧牲車主以保全更多兒童的性命安全？

類似的倫理疑問還包括：如果你或你的家人突發(fā)重病，但無人駕駛汽車卻拒絕超速趕往醫(yī)院，你該怎么辦？如果有家長(zhǎng)讓未成年的孩子喝酒，家傭機(jī)器人是否應(yīng)當(dāng)馬上啟動(dòng)報(bào)警程序？

人工智能時(shí)代已經(jīng)到來，機(jī)器人的智能化程度大幅提升，機(jī)器人已擁有了從經(jīng)驗(yàn)中自我學(xué)習(xí)的能力，還能對(duì)現(xiàn)實(shí)問題作出快速反應(yīng)。但有關(guān)人工智能、機(jī)器人的倫理性問題，卻比單純的技術(shù)問題更難得以解決。

在卡普蘭看來，相比于過去的智能化機(jī)器，機(jī)器學(xué)習(xí)已有了本質(zhì)的區(qū)別，已經(jīng)“發(fā)展出自己的直覺力，然后用直覺來行動(dòng)”，這也將使得機(jī)器人可以更為踴躍地進(jìn)入人類世界，接管過去僅能由人執(zhí)行完成的形形色色的工作。在過去，投放到醫(yī)學(xué)、工業(yè)等多種領(lǐng)域的機(jī)器人，都存在精準(zhǔn)性、力量性、持久性不足等問題，使得機(jī)器人適應(yīng)環(huán)境的能力較差，只能在啟動(dòng)之前盡可能精準(zhǔn)地設(shè)定，但隨著機(jī)器感知領(lǐng)域的突破和發(fā)展，“未來的機(jī)器人可以看到、聽到、做計(jì)劃，還能根據(jù)混亂而復(fù)雜的真實(shí)世界來挑戰(zhàn)自己”。

卡普蘭預(yù)言，終有一天，隨著傳感器、反應(yīng)器以及無線通信的不斷進(jìn)步，人工智能將以合成智能的方式，與人體甚至其他物體合而為一——“未來看起來會(huì)比你想象中的更像過去”。

智能時(shí)代毫無疑問會(huì)釋放出更多的技術(shù)紅利，但風(fēng)險(xiǎn)也不可小覷?？ㄆ仗m特意提到，隨著在金融交易中越來越多地加入人工智能，高頻交易程序一方面減少了市場(chǎng)震蕩，另一方面卻會(huì)將風(fēng)險(xiǎn)轉(zhuǎn)嫁給一般的交易者，讓交易者獲得的交易價(jià)格偏離于最佳價(jià)格。這種情況在商業(yè)領(lǐng)域中也有表現(xiàn)，比如全球知名電商企業(yè)亞馬遜通過復(fù)雜算法，使得不同顧客在不同時(shí)段獲得的報(bào)價(jià)各有不同，并通過智能化的購(gòu)買數(shù)據(jù)分析，推出更具誘惑力的促銷方案，誘導(dǎo)顧客購(gòu)買更多原本不需要購(gòu)買的、實(shí)際上也并不那么價(jià)廉物美的商品。從目前情況來看，在合成智能方面投入最多的企業(yè)，無不熱衷于將之應(yīng)用于操控用戶的注意力和購(gòu)買力。

更進(jìn)一步的風(fēng)險(xiǎn)在于，由于人工智能的設(shè)計(jì)僅僅服務(wù)于單一目的，因而未曾考慮是否存在副作用。比如，人工智能會(huì)搶在他人之前，（幫助主人）搶占車位，會(huì)在大蕭條之前惡意搶購(gòu)超市貨架上的所有應(yīng)急商品 ；與人對(duì)弈的機(jī)器人，不排除會(huì)使用“黑社會(huì)”式的手段，包括威脅對(duì)手的家人，破壞對(duì)手的交通工具。

要避免人工智能對(duì)社會(huì)體系甚至人類安全造成威脅，相關(guān)的智能設(shè)備、機(jī)器人開發(fā)和使用的倫理準(zhǔn)則及立法，都應(yīng)盡快提上議事日程；并且，在人工智能開發(fā)過程中，在增強(qiáng)單純的技術(shù)能力的同時(shí)，也應(yīng)嘗試賦予它一種人類式的“感受同情和憐憫的能力”。

《人工智能時(shí)代》一書還探討了人工智能時(shí)代將帶來的另外兩大風(fēng)險(xiǎn)：一是智能化潮流所可能造成的持續(xù)性失業(yè)，可能會(huì)急速擴(kuò)大赤貧群體，繼而引發(fā)社會(huì)震蕩；二是人工智能、機(jī)器人、大數(shù)據(jù)等新科技應(yīng)用，會(huì)進(jìn)一步加劇社會(huì)的貧富差距。

卡普蘭在書中指出，目前人們已經(jīng)意識(shí)到，因?yàn)槿斯ぶ悄艽蠓鹊靥岣吡俗詣?dòng)化作業(yè)的效能，從而產(chǎn)生了對(duì)工人的替代性，減少了工作機(jī)會(huì)；但人們大都還沒有意識(shí)到，“很多科技進(jìn)步會(huì)通過讓商家重組和重建運(yùn)營(yíng)方式來改變游戲規(guī)則。這樣的組織進(jìn)化和流程改進(jìn)不僅經(jīng)常會(huì)淘汰工作崗位，也會(huì)淘汰技能”——無論是藍(lán)領(lǐng)工作，還是律師、醫(yī)生等帶有很強(qiáng)專業(yè)性的技術(shù)崗位，傳統(tǒng)的技能都可能被智能化所替代，變得低效，這也將迫使學(xué)校和職業(yè)培訓(xùn)機(jī)構(gòu)改變課程體系，以確保（部分）學(xué)生、培訓(xùn)對(duì)象能夠擁有強(qiáng)于智能設(shè)備的技能，這就意味著，無法通過這種新型教育、培訓(xùn)課程檢驗(yàn)的人，將被未來的職場(chǎng)所拋棄。