阮 煒 何曉陽
若要給“腦機相接”下個定義,不妨說它指人腦的自然思維能力與人造思維或類思維能力不經中介的結合,用以提高人腦或腦機的思維能力。它是人的腦神經系統與人造思維或類思維裝置的直接銜接,不同于人的自然思維能力通過觸覺器官或發(fā)聲器官而實現的與人造思維或類思維能力的結合,即人類當前使用電腦的情形。從目前掌握的情況來看,在發(fā)達國家,腦機相接大體上處于意念或構想階段,或至多處于初級實驗階段。但英國《星期日泰晤士報》一九九四年十二月十一日發(fā)表了“英國電信公司時間旅行者從二○二五年發(fā)出的明信片”一文,它預測,人類將在二○二五年實現腦機相接。
在現代社會,任何一項重大新技術的應用,都免不了隨之帶來一些社會倫理問題。如核能的軍事及和平應用產生了核倫理問題。醫(yī)學、生物、基因工程技術的飛速進步,又在諸如墮胎、人口控制、試管嬰兒、代理母親等問題上引發(fā)了激烈的倫理爭論。連太陽能的利用也迫使人增加法律條款,以確保在高樓大廈林立下,人們不至于為了各自究竟應分有多少陽光或陰影而發(fā)生爭吵。同樣地,人類對腦機相接的探索也可能導致社會問題。二○二五年定然不是遙遠的將來。對腦機相接可能導致的社會問題進行一些思考,大概并非為時過早。
意念當然不是憑空產生的。近二十年來,全球電腦日益普及,電腦應用范圍日益擴大,電腦每天在創(chuàng)造連宗教神跡都自愧不如的“奇跡”。腦機相接的意念就在這種情況下應運而生。當然,更重要的原因應當到電腦與人腦本質上的相似上去找。(感謝漢語,它的“電腦”與“人腦”具有“形合”關系;英語就未能提供這種方便,試想與humanbrains相應的electronicbrains多么笨拙,而computer從字形上實在難以使人聯想到“腦”。)這種相似性很明顯,如電腦和人腦都具有信息儲存、邏輯推理、數學運算的能力。近十年來,初級的電腦視覺思維能力已在普及,初級的電腦語言思維能力也在迅速得到開發(fā)。
如所皆知,電腦的某些局部能力極強,非人腦能及。它在某些方面精確而快速的思維或類思維能力,以及它的大型運算能力,更使人腦望塵莫及。這些能力在出現之前是不可想象的。但人腦畢竟是地球物種數十億年進化的結果。它的綜合思維能力、創(chuàng)造能力、應變能力極強,至少在目前看來非電腦所及。如果把當前電腦強大的局部能力與人腦的自然能力結合起來,能產生什么樣的結果呢?結果是難以預料、難以想象的,可能是好,也可能是壞,還可能是極壞。如果是極壞,則腦機相接的后果當不亞于核戰(zhàn)爭或核事故的后果,也就是說,在人類頭上已經懸著一柄達摩克利斯之劍的情勢下,在他們頭上再添一柄達摩克利斯之劍,使這個本來就充滿末世氣味的世界末世味更濃。
當然,作為人類能力的產物,電腦當前展示出來的一切能力從根本上說是人控制下的能力,或者用一種更樂觀的說法,是人類自然能力的延伸。換句話說,電腦具有合乎人類目的性這一特質,至少在目前如此。若要對人制造和使用電腦的目的或希望產生的結果加以正面描述,不妨說它們是:(1)把人從某些令人不愉快或枯燥繁重的腦力勞動中解放出來,(2)做一些人腦以其自然能力根本做不了的事,(3)其結果是,提高人駕馭自然、管理自然的能力或人的生產力,(4)最終意味著,擴大人與自然的物質-精神交流能力,以及更重要的,根本改變這種交流的品質,使人與自然高度地和諧一致。但這只是一廂情愿。
人能保證其“造物”不掙脫“造物主”目的性的韁繩嗎?
多年來流行這么一種說法或提出問題的方式,即電腦終將具有意志,其能力終將超過人腦,以至最終支配人類,奴役人類。瓶中的魔鬼既然鉆出來了,在威脅人,那么如何哄它重回瓶中呢?一個簡單化的說法或回答問題的便宜方式是,電腦既為人造,便終究受人駕馭。第二個說法根本取消了問題。它認為瓶中本來沒有魔鬼,技術可能帶來的社會問題根本不存在。
可是,問題明擺在那里,魔鬼蠢蠢欲動,隨時都想從瓶里鉆出來。
第二個說法表現出的樂觀主義覺悟,二十世紀上半葉英國著名作家阿爾道斯·赫胥黎(Aldous Huxley)知道了肯定會強烈抗議。希特勒被民主選舉上臺前的一九三二年,他出版了《美妙的新世界》(BraveNew World)一書。該書把技術統治下的人類未來描繪得十分灰暗。在他筆下“美妙”的人間地獄里,基因工程給獨裁者以極大的方便。借著基因工程,“頭”可以在工廠里隨心所欲地批量生產服服貼貼的奴隸,而具有獨立個性、自由意志和批判精神的個體是不可能有的,因為他們在基因層次上便被取消了存在的權利。
第二個說法表現出的樂觀主義覺悟,恐怕連兩百年前的人也會大吃一驚。詩人雪萊的夫人瑪麗·雪萊(Mary W.Shelley)早在一八一九年就出版了她的《弗蘭肯斯坦》(Frankenstein)。該書通常被視為科幻-倫理小說的鼻祖。在這部小說中,雪萊夫人塑造了弗蘭肯斯坦這個頗有諷刺意味的人物。他象征人的傲慢與僭妄。在他身上,人與神、造物主與受造之物似乎顛倒了位置。弗蘭肯斯坦之毀滅在親手制造的怪物手下,說明人在人本主義濫觴之后,一步步自我膨脹,企圖取神的地位而代之,最終只落得個災難性的下場。
人進化到二十世紀電腦問世的四十年代末,其自然思維能力似乎已發(fā)展到了頂點。自此,人的思維似乎已不可逆轉地與電腦聯系在一起了,也就是說,人的自然思維能力要進一步提高,已離不開電腦。如果說人屬物種形成后,花了數百萬年時間才達到這么一個思維層次,即弄清了3十2=5,那么在近代以后,人進入了一個思維能力飛速提高的時代。從一個思維層次到另一個思維層次的飛躍,往往只花一、兩百年甚至幾十年時間。電腦的問世更加劇了這種爆炸性局面,因為它使人信息處理能力爆炸性地增長起來。
但與此同時,人對電腦的依賴也日益嚴重,以至于這種人造的思維或類思維能力一旦削弱甚或摧毀,人的處境便不堪設想。這從電腦故障給人帶來的種種經濟損失中可以看到。現有核設施和核武器的操作高度依賴電腦。一旦電腦出了問題,其后果就不是簡單的經濟損失了。當然,你可以說,別那么聳人聽聞,可以對電腦“設密”嘛。那么假設有一家現代核電廠,其運行已離不開電腦管理系統。廠方要保護電腦即整個電廠的正常運作,對電腦層層設置密碼??蛇@只是從“軟件”的角度來解決問題。假如不用核武器,只派人用一顆常規(guī)炸彈把核電廠的電腦“硬件”加“軟件”統統炸掉,這又如何了得?如果說核能的駕馭過程中已經出現了災難性的情景,如廣島長崎和切爾諾貝利,那么誰能保證對人造思維或類思維能力的嚴重依賴不造成類似后果呢?
看來,還是不那么樂觀好。
那么具體說來,腦機相接可能帶來哪些后果呢?
讓想象的翅膀揚起來吧。設想在二○二五的某一天或二○二五年后若干世紀的第一天,電腦研究取得了突破性進展。人已經開發(fā)出一種紐扣大小的神奇硅片,它不僅能儲存一個人所需要的幼兒園到大學教育的所有信息,而且能夠方便地置入人的腦內或體內。更令人欣慰的是,它能被人腦完全接受,與人腦里已有的信息有機地整合在一起,并且,“紐扣”置入后,人腦還能繼續(xù)接受它所不包含,但在人的自然教育過程中卻必須攝入的信息。這樣,人在自然情形中要花近二十年時間才可完成的教育,轉瞬間便可完成了。
此故事并非全然是天方夜譚。比袖珍詞典還小的英漢電子詞典只值千把塊錢,早已進入商業(yè)應用階段,在一些學校的英語專業(yè)幾乎已是人手一部。老師念的英語單詞,學生手里的“電子鸚鵡”或“袖珍老師”也能尖聲尖氣地念。照此情形來看,上述“教育紐扣”的問世恐怕只是一個遲早的問題。
這聽起來確實“美妙”??赊q證法使人們不得不問這么一些社會問題:既有“教育紐扣”,那教師有何用?學校有何益?或者說一切現行的教育觀念、體制、設施和人員的意義何在?更遑論注射式的信息輸入方式會不會破壞人腦發(fā)育(假設人到二十二歲腦發(fā)育才最終完成)的自然的生物節(jié)律,整齊劃一地輸入和整齊劃一地接受會不會危害人的天然個性的形成。
那么讓想象之鳥飛得稍低一點吧。設想那“紐扣”不是純物理硅片,而是某種生物-電子的混合作品,或者干脆就是某種“基因腦”,置入后至少要花五年時間才能“生長”出人在自然過程中要花近二十年時間才能完成的教育。甚至置入后還可以取出來,或者裝上一個方便的生物-物理開關,或“基因開關”,讓“教育”什么的招之即來,揮之即去。
但只要有圖便宜的欲望,便逃避不了欲望帶來的問題。不同的,只是問題的大小和急緩程度。當然,問題的解決也可能采取另一種方式,即人的認識發(fā)生根本的變化,以至于現在認為是問題的,在“美妙的新世界”里根本不是問題??墒?,在短的時間內實現巨大的認識轉變及相應的社會轉型,這畢竟是難以辦到的。
人有這能力嗎?人有這運氣嗎?
這聽起來似乎太悲觀,似乎全無希望。但仍然有一線希望,那就是希望這一切不要發(fā)生得太快,讓人有充分時間思考和解決問題。
也就是說,如果某種“歷史必然性”使腦機相接像其他人造能力一樣,其勢不可阻擋,那么要解決探索中出現的問題,人采取什么樣的態(tài)度是至關重要的。態(tài)度可以決定回應挑戰(zhàn)的方式,回應挑戰(zhàn)的方式可以決定結果的好壞。
問題在于,一如以往的人性史所表明的那樣,人在商業(yè)利潤或物質利益的強大誘惑力面前的態(tài)度是:往往只盯著眼前局部的蠅頭小利不放,而置長遠、根本的整體利益于不顧。既然“教育紐扣”能賺錢,哪管它會導致什么社會危機。也就是說,追求商業(yè)利潤的強大動力完全可能使人采取錯誤的態(tài)度,失去對付新問題所需要的寶貴時間,即,在找到解決問題的方法之前,人已經因問題而自我毀滅了。
如果說“教育硅片”可能導致的危機終究只具有局部性,腦機相接可能帶來的其他問題卻具有更根本的性質。
如所周知,當今發(fā)達國家早已實現了國家間的電腦聯網,也就是說,一個電腦終端無論在何處,只要聯了網,就能夠向網內任何終端發(fā)送信息或自該終端獲取信息,哪怕該終端遠在幾千公里外的另一個國家或正飛往火星的飛船。最近幾年,各國更是在加緊發(fā)展“信息高速公路”。聯網的好處自不待言,但壞處也很明顯,比如,電腦病毒通過它能造成大范圍的破壞。假如連接人腦和電腦或生物電腦的生物-物理“開關”或“銜接點”這個問題解決不好,其在聯網狀態(tài)下的后果顯然是嚴重的,因為每個人腦或“腦-機”屆時可能像目前電腦聯網內的每個終端那樣,若不能合理合法地自由開啟或關閉自己,就可能遭受恐怖分子的信息侵犯或信息剝奪。而且,這種信息侵犯或信息剝奪可能在大范圍內發(fā)生,導致極其嚴重的后果。
例如,甲對乙懷有仇恨,要搞掉乙,他只需設法將乙的腦-機“開關”打開,給一個delete命令,將乙腦-機里的非電腦自然信息連同電腦信息一并抹去,而從理論講,乙又不可能將一秒鐘前還屬于自己的信息找回,那么,乙還有沒有他所固有的意識呢?乙還有沒有他原有的自我?也就是說,乙的靈魂是否還存在?乙是否還存在?
進而言之,國家A對國家B懷有仇恨,想消滅國家B。它不需從核潛艇上向國家B的目標發(fā)射裝有核彈頭的洲際導彈,只需設法將delete命令輸入國家B的每個腦-機,將里面的信息悉數消掉,或將某種致命腦-機病毒注其中,便可大功告成。
還可設想在未來的某一天,地球上的因緣情勢使獨裁者的崛起成為必然,這時,腦機相接的方便恐怕最明顯不過。獨裁者不需像赫胥黎小說中的“頭”那樣,在生物工廠里用基因工程生產政治奴隸。這種方法太笨,太慢。他只消給全國或全世界的腦-機輸入若干使其馴服聽話、服從命令的信息,一眨眼工夫便可以把一切“搞掂”。
另一種可能性是,由于某種非“人”為的原因,全世界的腦-機都中了病毒或出了性質相似的問題。這時,病毒是“殺”不死的,問題是解決不了的,因為消除病毒或解決問題的主體本身即腦-機出了問題。這樣,不用打第三次世界大戰(zhàn),人類便可完成自毀。
玩過電腦的人都知道,一部電腦有把自身所含信息“拷貝”到另一部電腦的能力。這種能力之快速、精確,遠非人的自然能力所能及。假如在未來“新世界”里,一個“人”或腦-機將另一個或無數個“人”或腦-機里的信息非法洗掉,并把自己的信息“拷”到這一個或無數個“人”或腦-機里。不用說被拷信息者或destination從前的身份意識不復存在,換成了完全不同的身份意識,就連拷信息者或source的身份也難以確定,至少已不同于當前人類所熟悉的個體身份概念了。從理論上講,精確復制的功能可以制造無限個內容全然相同的腦-機意識。
如此這般,到底誰是誰?
顯然,在腦機相接的探索過程中,需要解決的最關鍵的問題是:嚴格區(qū)分自然思維能力與非自然思維能力,就是說,在技術上嚴格保護人的自然意識,嚴格保護那個自然的“我”,嚴格區(qū)分自然意識與非自然意識。
由于世界上重大的經濟、軍事乃至政治、文化和教育設施的“硬件”系統在越來越大的程度上與電腦“軟件”系統聯成一片,腦機相接最終將意味著:在“新世界”,即使腦機相接的負面效應降至零,傳統意義上的主客體或主客觀的二分,或康德意義上的純形式與物自體的二分,黑格爾意義的思維與存在的二分,也仍然可能經歷重大的修正。
在探索中,如何保證傳統意義上的主體不泯滅在腦機相接中,如何保證傳統意義上的自我或個體身份意識不消融在某種既非主體性、又非客體性的狀態(tài)中,或某種無以名狀的情形中,是一個需加以解決的至關重大的問題。倘若這個問題解決不好,或在解決過程中出現重大失誤或事故,腦機相接便意味著:除核戰(zhàn)爭的可能性之外,人終將面臨第二個生存還是毀滅的臨界點。
如果不這么悲觀,而假設所遇到的一切問題都能妥善地解決,也就是說腦-機與腦-機竟能和平相處,準主體(或類主體)與準主體竟能相安無事,“人”或腦-機也仍然面臨著重新確立自我概念、意識概念、思維本質的大問題,面臨著重新界定與存在的關系這樣的大問題。
個體的有限性與存在的無限性之關系,已難以保持傳統的理解了。
簡言之,在“美妙”的腦-機世界里,“人”還是不是人,還是不是現在意義上的人,是一個未知數。在這個新存在的內涵充分顯示出來以前,暫且用“人-機”這個頗乏“品位”的字眼來稱呼之。
人是無所不能的。用電腦武裝起來的人更是無所不能。人-機則可能比神還神。但既然人可以淪為弗蘭肯斯坦,而且已實際經歷了廣島、長崎及切爾諾貝利,人-機又為何不能呢?
這聽起來似乎太悲觀,似乎全無希望。但仍然有一線希望,那就是希望這一切不要發(fā)生得太快,讓人——總是被商業(yè)沖動支配的人——有充分的時間思考問題和解決問題。