人與機(jī)器人

劉乃強(qiáng)

從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務(wù),而不是帶來人類的滅亡?

自從工業(yè)革命以來,人類對(duì)機(jī)器便開始有各種不同的恐懼?上世紀(jì)下半葉,人工智能,以及隨之而來的機(jī)器人不斷普及,其智力不斷提高,更引發(fā)科幻小說中不少遐想?最著名的,是十分有現(xiàn)實(shí)意義的機(jī)器人三條定律(Tree Laws of Robotics)?這三條定律最初于1942年由科幻小說大師阿士莫夫(Issac Asimov)提出的?

我最近接觸到一篇由電腦科技大師?美國Sun Microsystem的首席科學(xué)家和共同創(chuàng)辦人;Unix?Java和Jini的創(chuàng)造者,Bill Joy的十分重要文章,真有暮鼓晨鐘的感覺,和無比的危機(jī)感和迫切感?作為美國和全球科技尖端人士,Joy認(rèn)為21世紀(jì)的機(jī)器人?基因和納米科技的發(fā)展,將會(huì)指向一個(gè)“不需要我們(人類)的未來(Why the future doesn＇t need us)”?

對(duì)于高新科技的恐懼和抗拒,以前也曾出現(xiàn)過?但與20世紀(jì)的大規(guī)模殺傷性武器(weapons of mass destruction,WMD)等屬于核子?生物和化學(xué)(NBC)科技比較,基因?納米和機(jī)器人(GNR)科技屬于知識(shí)發(fā)動(dòng)大規(guī)模殺傷性(knowl-edge-enabled mass destruction,KMD)類型,特點(diǎn)在于:

GNR科技特色在于它能自我重復(fù)?繁殖,自我維護(hù)和改善?它有自己的“生命”?人類有能力創(chuàng)造這些“生命”,但對(duì)于這些“生命”出現(xiàn)之后的各種更復(fù)雜和嚴(yán)重的結(jié)果和影響,則束手無策,很容易失控,后果無從收拾?

GNR科技不是由國家主導(dǎo),集中和有控制地開發(fā),目標(biāo)不是國家安全,而是赤裸裸的市場動(dòng)力:貪婪?科技開發(fā)和生產(chǎn)無序?分散,而且彼此保密,容易失控而長期不被發(fā)覺,直至局面難以逆轉(zhuǎn)?

GNR科技由知識(shí)發(fā)動(dòng),通過基因?納米技術(shù),開發(fā)和生產(chǎn)的條件要求和成本十分低,只要擁有有關(guān)知識(shí),便很容易大量生產(chǎn),之后可大量地繁殖和自我繁殖?改良升級(jí)?

一方面,根據(jù)GNR科技目前發(fā)展的速度,估計(jì)不到2030年,十分廉價(jià)和具有人類智力水平的機(jī)器人將取代人類很多工作?到時(shí)將會(huì)出現(xiàn)兩種情況:一是機(jī)器人獲準(zhǔn)作所有決策,毋須人類監(jiān)控;二是人類依然有效監(jiān)控機(jī)器人?

第一種情況,人類將無法知道決策和結(jié)果是什么,完全為機(jī)器人所左右?人類當(dāng)然不會(huì)愚蠢至自動(dòng)放棄監(jiān)控,但當(dāng)機(jī)器人的能力越來越強(qiáng),人類會(huì)讓它們代我們作更多的決策,直至整個(gè)系統(tǒng)復(fù)雜到人類難以了解和操縱,機(jī)器人事實(shí)上掌控人類生活,而人類亦因?yàn)樘揽繖C(jī)器人,而不敢貿(mào)然關(guān)掉這系統(tǒng)?

第二個(gè)情況,一般群眾可控制他們擁有的機(jī)器人,如汽車?電腦等,但整個(gè)系統(tǒng)則由少數(shù)精英所操控?表面看來,這與今天的情況無異,但首先精英對(duì)群眾的控制能力大增,更重要的是人類的工作已經(jīng)不重要,群眾將成為系統(tǒng)中無用的負(fù)擔(dān)?少數(shù)精英可以殘酷毀滅絕大部分人類,或者可以通過各種手段,大降生殖率,直至只剩精英階層;又或可以慈愛地把群眾的生理?心理需要全部照顧,有如養(yǎng)寵物一樣?兩者都不是我們所想見到的發(fā)展?

事實(shí)上,Joy引述了許多科技界人士的權(quán)威意見,得到的結(jié)論是被人類設(shè)計(jì)得比自己更強(qiáng)的機(jī)器人,將于數(shù)十年內(nèi)會(huì)取代人類?至于根據(jù)市場優(yōu)勢取代進(jìn)化優(yōu)勢取向的發(fā)展,對(duì)現(xiàn)時(shí)有利人類和生物生存發(fā)展生態(tài)的毀滅性損害,更不在話下?

不論我們是否同意Joy的分析和結(jié)論,我們不能不嚴(yán)肅地面對(duì)GNR科技對(duì)人類生存和發(fā)展的巨大挑戰(zhàn)?從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務(wù),而不是帶來人類的滅亡?從國家民族角度,我們不能放任科技先進(jìn)的發(fā)達(dá)國家,繼續(xù)毫無限制地發(fā)展GNR科技,并且短期獲得甜頭,甚至以此壓抑我國的發(fā)展,最后還極有可能要讓我國人民無辜地被拖累,分享滅絕的惡果?中國如不鼓起勇氣抗衡,我們將無可選擇地被逼投入大量資源去從事最后結(jié)果是自我毀滅的科技競賽,情況比上世紀(jì)冷戰(zhàn)時(shí)代NBC科技的軍事競賽更惡劣?效果更嚴(yán)重?

因此,響應(yīng)歐美最尖端科技界對(duì)現(xiàn)時(shí)GNR科技無序發(fā)展的憂慮,既會(huì)得到廣大發(fā)展中國家的支持,而即使在美?歐?日等發(fā)達(dá)國家內(nèi)部,也會(huì)得到不少有識(shí)之士十分積極的回應(yīng),必將占領(lǐng)全球道德和智力制高點(diǎn)?