AI機(jī)器人自創(chuàng)語言嚇壞開發(fā)者

海洋

最近，美國(guó)社交媒體臉書公司創(chuàng)始人馬克·扎克伯格與特斯拉公司首席執(zhí)行官埃隆·馬斯克激辯人工智能。后者稱人工智能為人類文明的威脅。不過，在臉書開發(fā)的聊天機(jī)器人自創(chuàng)出人類無法理解的語言后，或許扎克伯格也得同意馬斯克的觀點(diǎn)了。

據(jù)報(bào)道，近日臉書不得不關(guān)閉其人工智能系統(tǒng)，原因是聊天機(jī)器人開始用自創(chuàng)語言對(duì)話，全然無視程序員下達(dá)的指令。“由于情況失控”，研究人員只得終止人工智能系統(tǒng)的全部活動(dòng)。研究人員發(fā)現(xiàn)，機(jī)器人其實(shí)是在用一種更復(fù)雜的方式來處理手頭任務(wù)。

臉書的人工智能研究人員認(rèn)為，就像有時(shí)人們會(huì)“抄近道”用行話對(duì)話、以便快速解決問題一樣，人工智能機(jī)器人也會(huì)自創(chuàng)語言，做類似的事。人工智能可自創(chuàng)語言構(gòu)成新威脅，因?yàn)檫@將使研發(fā)人員在創(chuàng)造構(gòu)建人工神經(jīng)網(wǎng)絡(luò)時(shí)遭遇更大困難。目前尚不清楚人工智能機(jī)器人能否推翻操作人員的指令。endprint