“警惕人工智能”，我們能做些什么

方少芹等

最近讀謝熊貓君翻譯的《為什么最近有很多名人，如比爾·蓋茨、馬斯克、霍金等，讓人們警惕人工智能？》一文，心情非常復(fù)雜，一方面期待人工智能為生活帶來(lái)更多的便利，另一方面又擔(dān)憂人工智能可能帶來(lái)的生存危機(jī)。

為何人工智能專家、未來(lái)學(xué)家、思想家、科學(xué)家們要提醒人們警惕人工智能呢？如文章開(kāi)篇所言——我們正站在變革的邊緣，而這次變革將和人類的出現(xiàn)一般意義重大?！白兏锏倪吘墶敝傅氖侨斯ぶ悄軐?shí)力可能出現(xiàn)的變化。人工智能按實(shí)力可分為三大類：弱人工智能、強(qiáng)人工智能和超人工智能。

目前，弱人工智能在生活中隨處可見(jiàn)，強(qiáng)人工智能尚未實(shí)現(xiàn)，而引發(fā)眾大家焦慮的是未來(lái)可能實(shí)現(xiàn)的超人工智能。當(dāng)超人工智能出現(xiàn)時(shí)，人工智能系統(tǒng)的智能瞬間可達(dá)到普通人類的17萬(wàn)倍，這個(gè)級(jí)別的智能不是人類能夠理解的，“就好像蜜蜂不會(huì)理解凱恩斯經(jīng)濟(jì)學(xué)一樣”。那么，超人工智能可能在什么時(shí)候?qū)崿F(xiàn)呢？全世界的人工智能專家推測(cè)2060年將可能達(dá)成超人工智能。對(duì)人工智能的未來(lái)最有發(fā)言權(quán)的Ray Kurzweil甚至提出：“到了2045年，我們不但會(huì)有超人工智能，還會(huì)有一個(gè)完全不同的世界——奇點(diǎn)時(shí)代。”

Kurzweil的奇點(diǎn)時(shí)代是生物技術(shù)、納米技術(shù)和人工智能技術(shù)的共同革命造成的。當(dāng)我們擁有了超級(jí)智能和超級(jí)智能所能創(chuàng)造的技術(shù)，超人工智能便可以解決人類世界的所有問(wèn)題，從而幫助我們達(dá)到永生，當(dāng)然也可能使我們出現(xiàn)生存危機(jī)。也就是說(shuō)，當(dāng)超人工智能降臨時(shí)，掌握它的人將決定人類是永生還是滅絕。Kurzweil預(yù)言：“超人工智能正從多方的努力中出現(xiàn)，它將深深融入到我們文明的基建中。它會(huì)親密地被捆綁在我們的身體和大腦中，反映我們的價(jià)值，因?yàn)樗褪俏覀??！比欢艚?、比爾·蓋茨、馬斯克以及許多專家則擔(dān)心超人工智能是對(duì)人類最大的威脅，因?yàn)槌斯ぶ悄軙?huì)改變所有的事情，而我們對(duì)那個(gè)領(lǐng)域無(wú)法操控。

讀完這篇文章，我發(fā)現(xiàn)自己對(duì)強(qiáng)人工智能和超人工智能從最初的期盼變成深深的擔(dān)憂。這些年無(wú)論是在信息技術(shù)教學(xué)上還是在信息技術(shù)課外活動(dòng)的開(kāi)展上，我都一直在盡自己小小的力量推動(dòng)著人工智能在本地區(qū)中小學(xué)的普及?，F(xiàn)在，我該怎么做呢？目前，我能想到的是和伙伴們一起把這篇文章介紹給學(xué)生，讓他們及早了解人工智能潛在的危險(xiǎn)以便在未來(lái)做出積極的反應(yīng)。同時(shí)，我們要通過(guò)“生存危機(jī)”來(lái)引導(dǎo)有志于人工智能的學(xué)生樹(shù)立制造友善的超人工智能的價(jià)值觀，并在信息技術(shù)課上加大對(duì)學(xué)生計(jì)算思維培養(yǎng)的力度，從而讓學(xué)生擁有行走在智能社會(huì)的基本思想方法和程序設(shè)計(jì)能力。

（本文摘編自方少芹老師博客）