新聞學院課堂上的AI原則探討
——“我們的AI夢”2.0誕生記

□ 文/加藤隆則

內(nèi)容提要 本文介紹汕頭大學長江新聞與傳播學院的一位日籍老師與中國學生們的AI原則探討，作者與同學們一直討論“AI原則”，經(jīng)歷兩個學期，以“人與AI共生”為主題起草了五條大學生的愿望，到現(xiàn)在已經(jīng)誕生2.0版。

“研究人工智能（AI）就是重新認識人類自己”，這是我在課堂上一直強調(diào)的出發(fā)點。因為研發(fā)AI大幅地推動對智能、意識、感情等“心理論（mindtheory）”的深入研究，給人類帶來前所未有的研究成果。AI成為我們生活的重要部分，為了實現(xiàn)健全的AI發(fā)展，除了在科技開發(fā)或應(yīng)用的領(lǐng)域，還需要社會整體的參與，甚至每一個人都要面對“認識自己”的哲學經(jīng)典主題，其中不能忽視高校教育的重要性。2017年春季學期，我新開了課程“人工智能時代的媒體”，經(jīng)歷了兩個學期，我與同學們一直討論“AI原則”，以“人與AI共生”為主題起草了五條大學生的愿望，到現(xiàn)在已經(jīng)誕生2.0版。美國科幻作家艾薩克 ·阿西莫夫（Isaac Asimov）提出了“機器人三原則”，但我們要充分認識到AI的重要性，“AI原則”不能靠一個作家，需要來自不同層面的多元內(nèi)容。

一、研究AI 的出發(fā)點和意義

AI對未來社會發(fā)展影響重大，新聞學院的學生必須了解最前沿的事物，同時培養(yǎng)對AI的平衡態(tài)度，深刻認識媒體的新環(huán)境。在2017年秋季學期專業(yè)選修課“當前媒體議題研究”課程開課時，我決定將“AI”定為課程的主題。

在來汕大之前我作為記者一直關(guān)注AI領(lǐng)域的信息，閱讀了相關(guān)的書籍，包括認知科學、腦科學、機器人工學、心理學等，尤其是深入了解心身問題（mind-body problem），思考精神與身體的關(guān)系、理性與情感的關(guān)系。我們不是按照機器人算法來接受信息的，而是帶著意識、情感、記憶等主觀因素，與身體有密切的關(guān)系，還有與環(huán)境的互動。

當時有一位同學問我：“老師，為什么新聞學院的課程講AI呢？這不是理科的內(nèi)容嗎？”我回答說：“為什么不能講？我們是研究媒體的，媒體就是我們了解外部環(huán)境的渠道，在這個意義上已經(jīng)離不開AI，不懂AI無法掌握我們的媒體環(huán)境呀！”

當前AI的發(fā)展進入第三階段，研究領(lǐng)域也越來越擴大，不同的學術(shù)從不同的角度參與，跨學術(shù)的互動交流才會推動研究人類的健全發(fā)展。每個國家，每個企業(yè)都投入前所未有的人力與資金，百度CEO李彥宏在上海舉行的首屆世界人工智能大會上表示：“未來沒有任何一家企業(yè)可以宣稱與 AI 無關(guān)。一個真正的AI 化公司是三位一體的。它首先要具備 AI 思維，其次要擁有AI能力，第三還要遵循 AI 方面的倫理。”倫理需要哲學的基礎(chǔ)，科學、技術(shù)、哲學的三位一體才會有人類的平衡發(fā)展。

2017年谷歌DeepMind研發(fā)的AlphaGo戰(zhàn)勝圍棋世界冠軍柯潔九段，證明AI已經(jīng)發(fā)展到一個高峰，我在課堂上分享這條新聞的時候，就問學生：“這是AI的勝利嗎？”接著說，“不是，而是科學家的勝利，因為AI也是他們創(chuàng)造的?！蔽覀冃枰蕉摰乃季S方式，中國有“天人合一”的思想，應(yīng)該多關(guān)注自然界的互動性規(guī)律從而了解世界，才會掌握人與AI的共同發(fā) 展。

發(fā)明家Ray Kurzweil預測2045年通過與AI的結(jié)合，人類的肉體、知識能力將突破生物學界限，奇點（singularity）將到來，上課時的學生引用Singularity概念討論“AI會不會超過人”的時候，我特意提醒，“‘超過’是什么？人與AI憑什么標準競爭呢？”

AI是人創(chuàng)造的，不是競爭對手更不是敵人，那么“AI超過人”到底是什么概念？關(guān)于媒體上的所謂“熱點”，我們應(yīng)該保持清晰的思路。網(wǎng)上新聞中有很多“AI搶走工作”等引人注目的標題，但我們要用實事求是的眼睛來分析現(xiàn)在和將來，事情除了利弊兩面還有多面，不然容易產(chǎn)生“AI威脅論”等妖魔化AI的極端言論，阻礙年輕人全面思考。這就是在新聞學院的課堂上討論AI的意義所在，還是回到出發(fā)點——“研究AI就是重新認識自己”。

二、課程上的互動性探索

經(jīng)過16周的探索，2018年春季學期，“當前媒體議題研究”課程正式更名為“人工智能時代的媒體”。一直到2018年秋季學期，我?guī)ьI(lǐng)新的選課學生對AI進行進一步的研究。

課堂上，我經(jīng)常提到：“人與AI的區(qū)別就是人會自發(fā)提問，所以同學們要發(fā)揮人的特征！”我鼓勵學生一起研究AI的發(fā)展歷史與現(xiàn)狀，前提是應(yīng)采取開放、積極、全面的態(tài)度面對AI的發(fā)展。學生通過選取自己對AI領(lǐng)域感興趣的相關(guān)議題進行研究，在課上與老師同學進行交流，課堂報告的內(nèi)容涉及AI的多個方面。

結(jié)合新聞學院專業(yè)特色，學生探討了機器人寫稿、剪視頻、制作廣告等媒體行業(yè)的最新現(xiàn)象，思考將來的發(fā)展方向。他們認為機器新聞可以將記者從簡單繁瑣的工作中解放出來，讓記者擁有更多的時間和精力投入到深度報道中，創(chuàng)作出高質(zhì)量的新聞作品。

學生展現(xiàn)了AI在生活的各個領(lǐng)域的具體應(yīng)用，如自動駕駛、AI音箱、無人便利店、外賣、社交等，提出AI的發(fā)明是為了解放人，而不是束縛和威脅人類的發(fā)展。我曾經(jīng)讓學生和AI音箱相處一星期后分享自己的感想，他們提到這款音箱可以增強和舍友或者家里老年人之間的交流，其他同學也受到很大啟發(fā)。

針對AI可能帶來的風險，如大數(shù)據(jù)泄露、失業(yè)、失控等，他們大致相信人類可以用自己的行動去應(yīng)對，決定未來世界的形態(tài)，但還是很擔憂AI會給教育、醫(yī)療領(lǐng)域帶來不公平的差距，還擔心缺乏倫理道德的約束下AI會凸顯或固化人類的偏見，這都表明當代學生帶著強烈正義感的特征。

在探討AI在電影媒介中的呈現(xiàn)時，學生提出應(yīng)理性看待“AI威脅論”。如講述人類與AI相愛的《Her》和描述信息高度共享的生活的《The Circle》等，學生分析了上述電影，認為技術(shù)是中性的，人類通過技術(shù)獲取便利，也需要承擔它所帶來的隱患。其他同學以《銀翼殺手》《我，機器人》《超能查派》等各種電影作品為題材探討人與機器人的差異、兩者的關(guān)系，深入思考“智能、意識、感情是什么”的經(jīng)典主題。雖然目前的科學沒找到答案，但哲學給我們無限的思考空間。

2017年秋季課堂在回答“你想或不想讓AI做什么”的問題時，35位學生的期末論文中，“關(guān)懷”“陪伴”“情感”“記憶”等詞語多次出現(xiàn)。和技術(shù)本身“冷冰冰”的特性不同，學生們的思考體現(xiàn)出濃厚的人文關(guān)懷。豐富的課程產(chǎn)物為下學期的課程開展打下了堅實的基礎(chǔ)。

2018年秋季課堂上大家討論“我對AI的愿望”，提出多樣的視角。印象最深刻的是不少同學從獨生子女的立場來探索，有一位同學講，父母老了后，“多功能聯(lián)通的全能型AI能夠提高養(yǎng)老生活的質(zhì)量和便捷度，完成力所能及的家務(wù)，和他們聊天，檢測他們的身體情況等?！蔽覐耐瑢W的身上感受到孝順的傳統(tǒng)，AI與法律或倫理道德的問題上，不能忽略不同地域特有的文化背景。

好幾個同學提到哆啦A夢，使我感覺到現(xiàn)代年輕人的心態(tài)。其中有一位同學寫道：“我希望人工智能可以充當一個‘造夢者’的形象，就好像哆啦A夢，我覺得它就是一個‘夢想販賣機’，大雄本來是一個沒什么想法碌碌無為的人，但是哆啦A夢卻不斷給他提供了擁有夢想實現(xiàn)夢想的機會?！?/p>

三、全球與中國的大環(huán)境

2018年9月17日至19日，以“人工智能賦能新時代”為主題的首屆世界人工智能大會在上海舉行。主辦單位有國家發(fā)改委、科技部、工信部、網(wǎng)信辦、中國科學院、中國工程院等，大會首日的主論壇國內(nèi)互聯(lián)網(wǎng)三巨頭BAT創(chuàng)始人的發(fā)言，都說明中國的AI大環(huán)境已經(jīng)成 熟。

2018年3月5日，國務(wù)院總理李克強在2018年政府工作首條建議中指出要加強新一代AI研發(fā)應(yīng)用。從2017年首次列入政府工作報告，到2018年的政府工作首條建議，人工智能在促進新興產(chǎn)業(yè)發(fā)展、提高人民生活質(zhì)量上的作用越來越受到國家的重視。

習近平主席2018年11月5日在首屆中國國際進口博覽會開幕式上發(fā)表主旨演講中指出，這屆進口博覽會以“新時代，共享未來”為主題，同時強調(diào)“各國應(yīng)該把握新一輪科技革命和產(chǎn)業(yè)變革帶來的機遇，加強數(shù)字經(jīng)濟、人工智能、納米技術(shù)等前沿領(lǐng)域合作，共同打造新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式。”中國的AI發(fā)展離不開全球的共同開發(fā)。

2017年1月，“生命未來研究所”（Future of Life Institute，F(xiàn)LI）在美國加利福尼亞州阿西洛馬舉行Beneficial AI會議，概括了“阿西洛馬 AI原則”，列出了23條準則，讓未來人工智能的研究人員、科學家和立法者遵循，確保安全、倫理和有益。該組織收集了來自大學和公司的人工智能研究人員的意見，討論人工智能的未來及其應(yīng)如何監(jiān)管。

雖然已經(jīng)有專家的討論結(jié)果，但考慮到AI覆蓋到生活領(lǐng)域，它和人類有前所未有的緊密關(guān)系，甚至有“超越”可能性的討論，更多的群體要參與討論并回避脫離生活的極端現(xiàn)象是很重要的。

□ 2018年12月24日晚上，“AI時代的媒體”課堂場景。

四、圍繞“包容、合作、共享”擬定AI原則

2017年秋季學期的課堂給了我很大的啟發(fā)，有一位同學在期末論文中特意建議；為了警惕AI技術(shù)發(fā)展的“失控”局面，要盡早地給這門技術(shù)以及將來會出現(xiàn)的AI產(chǎn)物定下“規(guī)矩”、定下“原則”。

為了重新審視和探討人類與AI的關(guān)系，我在2018年春季的課上提出“我們需要一個AI原則”，并將起草“AI原則”作為該學期的課程目標。

“AI原則”的靈感來自于著名的“機器人三原則”。為避免人類被機器人傷害，美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）在1940年提出了“機器人三原則”，原則內(nèi)容為：

第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；

第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾；

第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。

與命令式的機器人三原則不同，AI原則的研究不僅是為了抵抗來自AI的威脅，更是希望發(fā)揮新聞學院學生獨特的專業(yè)視角，結(jié)合東方傳統(tǒng)文化教育背景，表達當代年輕群體對AI倫理規(guī)范的希冀和愿景。

在起草原則之前，學生先對AI技術(shù)與相關(guān)理論進行了初步學習，同時認識了人類的情感、身體和獨立思考的重要性。緊接著學生們分為六個小組，圍繞與AI相關(guān)的議題進行研究和匯報，分別是“AI發(fā)展的歷史與未來”“生活中的AI”“AI對就業(yè)的影響”“AI與媒體”“AI的風險”“AI與社 交”。

課堂討論展現(xiàn)出了多元觀點的碰撞。學生們發(fā)揮所學知識，多角度地探討了人類與AI的區(qū)別和聯(lián)系、AI的倫理道德規(guī)范、對AI的期待等話題。比起消極的負面情緒，他們對AI的發(fā)展更多持一種積極、自信、理性的態(tài)度，甚至有學生提出可以“站在AI的立場去思考它想要的‘AI原則’?！?/p>

我針對學生們的報告和討論成果，總結(jié)出了AI原則的三個關(guān)鍵詞：包容、合作、分享。每個小組根據(jù)研究主題的不同，也定了不同的關(guān)鍵詞作為AI原則起草的方向，分別為：協(xié)作、服務(wù)、平衡、交互、責任、不違反。

2018年春季學期起草了AI原則。比起命令式的原則或法條，AI原則更希望呈現(xiàn)的是年輕一代對AI真實的希冀和想法。為了更好地表達這份愿景，學生將“我們的AI夢”作為此次AI原則的命名，這也是互動性討論的重要成果。

五、大學生的“我們的AI夢2.0”

接下來2018年秋季學期，不同的學生從各方面的角度提修改建議，到年底“我們的AI夢2.0”誕生了。

“我們的AI夢2.0”共有五條解釋，完整版如下：

（一）我們希望AI能夠適度幫助人類主動追求幸福，尋找并實現(xiàn)夢想。

AI既能通過技術(shù)優(yōu)勢讓人類生活得更加便捷、快樂，又能通過個性化服務(wù)滿足個人的需求，包括鼓勵個體探索自我，追求夢想，并更多地關(guān)注人類的精神和情感需求。但人類不能過分依賴AI的幫助，否則會漸漸磨滅自身的創(chuàng)造力。

（二）當滿足第一條時，我們應(yīng)當創(chuàng)造對于AI有利的環(huán)境，支持AI的發(fā)展，且在透明化的條件下給予它更自由的發(fā)展空間。

AI的發(fā)展方向在于幫助人類更好地解決問題，人類在享受AI的成果時，也需要認可和支持AI，在互動過程中給予它更多的信任和包容性。同時要讓公眾看到具體詳細的過程，還要讓公眾看到如何發(fā)明它、如何使用它、如何監(jiān)管它。

（三）我們要求AI遵守人類道德價值觀，尊重并保護自然和生命，避免制造或加深不公平與偏見。

AI可以與我們共享生存環(huán)境，但它的活動需在不侵犯人類未來進步發(fā)展的前提下，以人類達成共識的價值觀為底線。人類也要對AI的發(fā)展進行正確的引導和監(jiān)督。

（四）我們認為在保護人類隱私權(quán)的前提下，AI可以在人類生活中擔任多元角色，并給予人類安全感。

根據(jù)人類對AI的不同需求，AI可以被定位成多元角色，如助手、伙伴、家人等，給人類提供幫助或陪伴。除了技術(shù)上的安全保障，AI還可以是可愛的“非類人”形象，通過具有人文關(guān)懷的服務(wù)來打破“冷冰冰”的形象，給人類安全感。

（五）我們相信研究AI的本質(zhì)是為了探索人類自身，以及AI與人類的共同發(fā)展。這點不隨AI技術(shù)的發(fā)展而改變。

人類和AI并不是對立關(guān)系，AI會成為人類研究自己、研究人與人之間互動關(guān)系的一面鏡子，可以幫助人類更好地認識和探索自身，增強人類的自信心，實現(xiàn)自省。AI可以通過反饋的方式加強與人類的交流，與人類共同發(fā)展、進步。當滿足前面的五條原則時，希望AI主動去從事有益于社會的活動。

除了上面的五條以外，2.0版的亮點在于“補充條款”。隨著AI的迅速發(fā)展，我們應(yīng)不停地更新注入新的理念。因此，我們不必要追求絕對的真理，這些固定思維反而容易排斥不同的意見，阻礙自由多元的思考。我們通過互相尊重的討論，交換更多元的意見，暫定最理想的原則，也給后代留下變更的余地。

所以我們采納學生們的“補充條款”建議與解釋，如下：

我們應(yīng)當定期檢視上述AI原則，并且根據(jù)AI不同階段的發(fā)展進行更?新。

AI發(fā)展更為迅速，可以說是日新月異，所以AI原則應(yīng)當是階段性的，不能一勞永逸地使用老原則，定期根據(jù)現(xiàn)實情況去檢視其適用性和實用性非常必要。如果要將遵守人類道德價值觀作為一個原則，可能需要監(jiān)控AI的人隨著時代的發(fā)展，不斷往AI系統(tǒng)注入新的道德價值觀。

作為整個原則的宏觀背景，第一條展現(xiàn)出年輕一代對AI發(fā)展樂觀、積極的態(tài)度，希望AI的技術(shù)優(yōu)勢可以更好地造福人類社會。修改后的版本加“適度”，因為人類對AI的過度依賴養(yǎng)成惰性，就會漸漸磨滅人類的創(chuàng)造力，所以要給對AI的求助需求設(shè)一個界限。

為了體現(xiàn)對AI的支持和包容性，第二條原則以第一條為前提，提出可以給予AI更自由的發(fā)展空間。但由于在科學領(lǐng)域發(fā)生過人類基因克隆問題等不透明的事件，學生們強烈要求一定的規(guī)則與條件，最看重的是信息的透明化，還有第四條中的保護隱私權(quán)，都反映新聞學院學生的特色。

對AI倫理道德的規(guī)范一直是課程討論的熱點話題，也是東方傳統(tǒng)文化背景中尤其重視的道德基準。第三條原則以人類達成共識的道德價值觀為AI活動的基本底線，并要求它尊重并保護自然和生命。

學生認為，根據(jù)個人不同的需求，AI可以承擔多元角色的任務(wù)，不需要限定一個標準。除此之外，他們希望AI能以可愛的“非類人”形象融入人類生活中，就如童年時期的哆啦A夢。

最后一條是對人類與AI關(guān)系的思考。學生提出，在人類研究AI的過程中，本質(zhì)上是在研究自己、研究人和人之間的互動關(guān)系“共生”，無論AI技術(shù)日后如何發(fā)展，應(yīng)該保持這份初心。有趣的是有一位同學特意提到“希望AI主動去從事有益于社會的活動”，得到大家的認可。

“我們的AI夢”作為汕頭大學長江新聞與傳播學院研究人工智能的課程成果，五條原則+補充條款的內(nèi)容均來自學生們在課程上的討論和匯報，如“探索自我”“個性化服務(wù)”“安全感”“自信心”“反饋”等用詞，反映了年輕人內(nèi)心獨特的聲音。汕大學生表示，在日益發(fā)展的人工智能領(lǐng)域，還有更多值得關(guān)注的問題，“我們的AI夢”只是一個開始，未來這門課程將繼續(xù)對AI進行研究和探索。 （作者加藤隆則是汕頭大學長江新聞與傳播學院教授。以上文章是100多位汕大長江新聞與傳播學院學生的成果，特別感謝付玉梅同學的貢獻）