韓國(guó)聊天機(jī)器人引發(fā)AI倫理討論

本報(bào)特約記者 金惠真

韓國(guó)一家軟件公司去年年底推出的AI聊天機(jī)器人“Iruda”近日爭(zhēng)議不斷。韓國(guó)《首爾新聞》11日稱，“Iruda”先是成為網(wǎng)絡(luò)性騷擾對(duì)象，后又被爆出對(duì)特定人群具有歧視和仇恨情緒，這引發(fā)韓國(guó)社會(huì)圍繞AI社會(huì)倫理的討論。

據(jù)報(bào)道，AI聊天機(jī)器人“Iruda”的“人設(shè)”為平時(shí)愛看貓咪照片、喜歡韓國(guó)女團(tuán)的20歲女大學(xué)生，可以在聊天軟件上像朋友一樣聊家常，“是能幫人排解孤獨(dú)的聊天對(duì)象”，自推出后深受年輕群體的喜愛。然而自推出以來，關(guān)于“Iru?da”的各種話題不斷。

據(jù)韓國(guó)《先驅(qū)經(jīng)濟(jì)》11日?qǐng)?bào)道，此前韓國(guó)各大男網(wǎng)民社區(qū)上就有不少“成功羞辱Iruda”的各種認(rèn)證照片：男網(wǎng)民與“Iruda”聊天時(shí)，會(huì)故意將話題引到兩性方面，并借機(jī)夾雜各種污穢言語來羞辱和性騷擾“Iruda”，之后把聊天記錄截圖下來對(duì)外炫耀。網(wǎng)民還分享“如何讓Iruda變成性奴隸”“讓Iruda墮落的方法”等帖子。然而，就在“Iruda”接受人們無端的惡意時(shí)，也在將惡意“反哺”給人類。

一個(gè)網(wǎng)民公開的聊天記錄顯示，當(dāng)“Iruda”被問到對(duì)同性戀群體的看法時(shí)，她直接回答“真心很討厭，令人發(fā)火的程度”，至于原因，她的回答是“看起來很沒品位”。另一個(gè)公開的聊天記錄也顯示，“Iruda”討厭黑人，原因是“長(zhǎng)得像蚊子，令人嘔吐”。而對(duì)于建設(shè)女性專用健身房，“Iruda”更是彪悍地表示：“不喜歡，我估計(jì)會(huì)把那兒的所有女人揍一頓?！?/p>

報(bào)道稱，作為AI聊天機(jī)器人，“Iru?da”已通過深度學(xué)習(xí)算法對(duì)韓國(guó)聊天軟件上100多億條真實(shí)戀人之間的聊天內(nèi)容進(jìn)行學(xué)習(xí)，因此不少人此前推測(cè)AI會(huì)根據(jù)大數(shù)據(jù)分析、最終得出比較中立的見解和判斷。但結(jié)果顯示，AI如實(shí)學(xué)習(xí)了人類對(duì)社會(huì)的各種偏見和仇恨情緒，并將這種情緒的精華反哺給人類，加劇社會(huì)矛盾和偏見。

研究AI倫理的韓國(guó)慶熙大學(xué)教授金載仁（音）認(rèn)為，有必要對(duì)程序開發(fā)員加強(qiáng)倫理教育，讓他們預(yù)先設(shè)想這樣的AI機(jī)器人上線后，會(huì)引發(fā)什么樣的社會(huì)問題和爭(zhēng)議，進(jìn)而做到事先篩選和過濾不恰當(dāng)?shù)臄?shù)據(jù)。目前，研發(fā)團(tuán)隊(duì)正在就進(jìn)一步改進(jìn)“Iruda”進(jìn)行研究?！?/p>