危險(xiǎn)的游戲

江恒

20世紀(jì)50年代，設(shè)計(jì)了現(xiàn)代計(jì)算機(jī)雛形的英國數(shù)學(xué)家圖靈，曾提出疑問：機(jī)器能否像人類一樣思考？如今隨著AI聊天機(jī)器人ChatGPT爆火，人們開始好奇這種假設(shè)是否已經(jīng)成真。

圖靈的疑問不是沒有道理，從古希臘鐵匠之神赫菲斯托斯擁有賦予金屬物品生命的能力，到19世紀(jì)詩人雪萊創(chuàng)作出由人工拼湊而成的科學(xué)怪人，機(jī)器能否變得像人一樣，能思考、有智慧，始終在人類的腦海里揮之不去。1950年，圖靈在發(fā)表的論文《計(jì)算機(jī)器與智能》中大膽預(yù)言，創(chuàng)造出擁有真正智能的機(jī)器存在可能性。

圖靈為此提出著名的“圖靈測(cè)試”，以最簡潔明了的方式來判定機(jī)器是否擁有智能，并在之后的數(shù)十年中被奉為測(cè)試人工智能的圭臬。其靈感來自維多利亞時(shí)代的“模仿游戲”，即通過對(duì)一個(gè)人提問，從回答來判斷對(duì)方是男是女。圖靈測(cè)試的具體做法是：人類詢問者通過鍵盤和屏幕與機(jī)器聊天，如果沒有辨別出對(duì)方是機(jī)器，并誤以為是在與人對(duì)話，就不得不承認(rèn)機(jī)器擁有人類的智能。

圖靈測(cè)試看似簡單，卻一直沒有機(jī)器取得突破。英國作家邁克爾·伍爾德里奇在《人工智能全傳》一書中提到，這導(dǎo)致有些機(jī)器設(shè)計(jì)者動(dòng)起了“小心思”，試圖用一些小技巧去迷惑人類詢問者，使他們相信正在與真人打交道。像20世紀(jì)60年代中期，美國科學(xué)家魏岑鮑姆創(chuàng)造的最早實(shí)現(xiàn)聊天功能的機(jī)器人艾麗莎，其扮演的角色是一名精神病醫(yī)生，向病人提出開放性問題，試圖讓病人敞開心扉。艾麗莎學(xué)習(xí)了一些關(guān)鍵詞，比如家人、朋友、孤獨(dú)和悲傷等，然后使用關(guān)聯(lián)了關(guān)鍵詞的腳本來提出后續(xù)問題。開場白看起來還不錯(cuò)，但幾句對(duì)話以后，這種互動(dòng)的膚淺性便暴露無遺。顯然，艾麗莎仍停留在機(jī)械式應(yīng)答的階段，根本沒有理解對(duì)話的意義。自此之后，“艾麗莎”就成了采用膚淺的小伎倆偽裝人工智能的代名詞。

2014年，一個(gè)名為尤金的俄羅斯機(jī)器人被認(rèn)為首次通過圖靈測(cè)試，雖然從嚴(yán)格意義上講也未真正過關(guān)。盡管在測(cè)試現(xiàn)場，有逾三成的裁判對(duì)尤金是人類深信不疑，但因?yàn)椴门械娜藬?shù)相對(duì)較少和過程中較高的判斷錯(cuò)誤率，無法可靠地反映出結(jié)果。更有甚者，一些機(jī)器為通過測(cè)試刻意作弊，比如在回答中模擬情緒或故意打錯(cuò)字等，使自己變得更像人類，測(cè)試結(jié)果均難具說服力。

隨著近年人工智能的飛躍式發(fā)展，情況正在發(fā)生改變。例如從亞馬遜智能助理，到打敗圍棋世界冠軍的“阿爾法狗”，再到聊天機(jī)器人ChatGPT，機(jī)器同人類的智能越發(fā)接近。用亞馬遜高級(jí)副總裁普拉薩德的話說，如今機(jī)器在聽、看和感受等很多方面取得了長足進(jìn)步，尤其記憶和檢索等能力要遠(yuǎn)高于人類。特別是ChatGPT，能寫會(huì)畫，智力水平絕不亞于人類，已不能僅靠文本交流來檢驗(yàn)機(jī)器是否具備智能。

對(duì)于外界擔(dān)心照此發(fā)展下去，機(jī)器可能如圖靈預(yù)言般擁有真正的智能，科學(xué)界認(rèn)為仍要取決于機(jī)器是否具備意識(shí)。如同英國科普作家喬爾·利維在《我們?yōu)楹稳绱诵惺隆芬粫校?0世紀(jì)80年代哲學(xué)家約翰·塞爾的“中文房間”實(shí)驗(yàn)為例，指出關(guān)鍵所在是機(jī)器有無能力知道言語、文字等符號(hào)的真正含義。該實(shí)驗(yàn)是將一個(gè)人關(guān)在一個(gè)密閉房間，由外面送進(jìn)寫有中文的紙條，雖然此人不懂中文，卻能靠中文字典理解并作答，最終令看到他回答的人誤以為他懂中文，實(shí)際上他一無所知。以此類推，機(jī)器就像接受實(shí)驗(yàn)的人，雖能對(duì)答如流，其實(shí)不明就里，這就是俗稱的“意識(shí)”難題。關(guān)注人工智能領(lǐng)域發(fā)展的英國《金融時(shí)報(bào)》專欄作家桑希爾，把意識(shí)形容為“人類最后的堡壘”，也是人工智能“最后的邊界”。

當(dāng)然，機(jī)器還面臨另一大挑戰(zhàn)，就是如何理解人類世界，以及支配其中許多約定俗成的規(guī)則。心理學(xué)家斯蒂芬·平克曾設(shè)計(jì)了一段簡短的對(duì)話。鮑勃：“我要離開你?！睈埯惤z：“她是誰？”對(duì)人類來說，理解這段對(duì)話背后的復(fù)雜含義輕而易舉，但怎么讓計(jì)算機(jī)編程明白卻并不容易，因?yàn)閷?duì)話貫穿了生活常識(shí)，以及倫理、欲望等因素。正如《人工智能全傳》中提到，要機(jī)器理解類似的場景并妥帖作答，到目前為止，還沒有一個(gè)成功的案例。

盡管如此，很多科學(xué)家仍存在顧慮。已故英國著名科學(xué)家霍金曾提醒人們，創(chuàng)造出媲美人類甚至超過人類的智能機(jī)器將要面對(duì)可怕的后果——它不僅會(huì)使數(shù)以百萬計(jì)的工作職位不復(fù)存在，還可能自行啟動(dòng)，以不斷加快的速度重新設(shè)計(jì)自己。而人類局限于緩慢的生物進(jìn)化過程，根本無法與其競爭，最終將被超越甚至毀滅。英國科學(xué)家洛夫洛克也斷言，人工智能在某個(gè)時(shí)候肯定會(huì)取代人類，他在《新星世：即將到來的超智能時(shí)代》一書中甚至描述道：“屆時(shí)半機(jī)器人會(huì)寫關(guān)于人類的小說來取樂?！惫嫒绱?，就應(yīng)驗(yàn)了圖靈的合作伙伴、英國數(shù)學(xué)家I.J.古德當(dāng)初的警告——人工智能是一場危險(xiǎn)的游戲。

（樂 成摘自《大公報(bào)》2023年3月30日，劉 璇圖）