人工智能與隱私博弈

【內(nèi)容提要】AI廣泛地應(yīng)用于日常生活，引發(fā)了公眾對(duì)AI公德、隱私和倫理的擔(dān)憂。研究選取中外兩個(gè)主要數(shù)據(jù)庫，進(jìn)行關(guān)鍵詞篩選，分別獲取了2009年-2018年十年間國(guó)內(nèi)外主題為人工智能和隱私的論文，采用數(shù)據(jù)分析軟件CiteSpace對(duì)這些數(shù)據(jù)進(jìn)行處理后得到熱點(diǎn)圖，解析圖片含義。

【關(guān)鍵詞】知識(shí)圖譜 "人工智能 "隱私 "CiteSpace "研究熱點(diǎn)

電子信息技術(shù)發(fā)展迅速，使整個(gè)社會(huì)結(jié)構(gòu)和運(yùn)行機(jī)制面臨解構(gòu)后重構(gòu)。大數(shù)據(jù)、云計(jì)算等技術(shù)沖擊了各行各業(yè)，所有領(lǐng)域都重新定位。人工智能迅速地在傳媒領(lǐng)域也找到了自己的一席之地。但同時(shí)給大眾帶來了不少的困擾，權(quán)利和義務(wù)之間的界限變得模糊，人類遇到了以下難題：該如何評(píng)判用戶隱私權(quán)的界限并保護(hù)用戶的利益？

一、引言

一方面，人工智能確實(shí)為很多領(lǐng)域搭建了便利的橋梁，給一些問題帶來了不可思議的解決方法。另一方面，眾多媒體平臺(tái)的用戶隱私泄露問題確實(shí)也頻頻發(fā)生，人們對(duì)此除了小心提防別無他法，反而變得草木皆兵。社交平臺(tái)的元老——Facebook主張“to a more open and connected world”，每天都會(huì)產(chǎn)生上億條的信息流。①這個(gè)社交平臺(tái)通過大數(shù)據(jù)將世界各地的用戶連接起來。它的數(shù)據(jù)庫使得地球成為了真正意義上的“地球村”，而Fackbook所擁有的用戶數(shù)據(jù)庫也是它變現(xiàn)的資本。與此同時(shí)，這樣的便利也催生了許多齷齪的交易。2018年3月，一些第三方集團(tuán)利用Facebook的數(shù)據(jù)來針對(duì)不同的用戶推送的不同的信息，從而誘導(dǎo)公民為候選人投票。同年9月，因平臺(tái)的安全系統(tǒng)出現(xiàn)漏洞，F(xiàn)acebook數(shù)據(jù)庫遭到了黑客入侵，最終有近1400萬用戶的隱私數(shù)據(jù)被黑客獲取。12月，F(xiàn)acebook自己又宣布了該APP程序中API（應(yīng)用程序接口）編碼漏洞極有可能影響到6800萬用戶的隱私照片泄露。這類隱私泄露事件不再是黑天鵝事件，往往一經(jīng)暴露產(chǎn)生非常嚴(yán)重的社會(huì)后果。

1956年，在達(dá)特茅斯學(xué)院青年學(xué)者的一次學(xué)術(shù)會(huì)議上，“AI”作為學(xué)術(shù)專用詞語被正式提出。20世紀(jì)80年代，隨著專家系統(tǒng)、神經(jīng)網(wǎng)絡(luò)反向傳播算法的突破，AI研究再次熱門起來。2014年，聊天程序“尤金·古特斯曼”通過了定義人工智能的“圖靈測(cè)試”，自此，人工智能迎來了它的春天。實(shí)際上，AI具有多樣性，已經(jīng)潛移默化地進(jìn)入我們?nèi)粘Ｉ?，與金融、交通、健康、教育、傳播等各個(gè)行業(yè)相結(jié)合。②

目前，人工智能與新聞傳播領(lǐng)域結(jié)合，從新聞制作和傳播的幾個(gè)步驟創(chuàng)新了傳媒方式，分別在新聞生產(chǎn)、媒介環(huán)境、新聞發(fā)布方式以及新聞表現(xiàn)形式等方面產(chǎn)生了變革，催生了新的應(yīng)用。媒體采用機(jī)器人記者來生產(chǎn)新聞，在大數(shù)據(jù)環(huán)境中結(jié)合云計(jì)算技術(shù)，塑造了新的傳媒生態(tài);越來越多的傳媒機(jī)構(gòu)使用推薦算法來迎合受眾口味，以便增加用戶黏度;相應(yīng)地，受眾也越來越注重體驗(yàn)感，很多專家將目光放到了沉浸式新聞上。人工智能數(shù)據(jù)挖掘幫助人們從浩繁的數(shù)據(jù)中獲取到他們想要的資訊，再結(jié)合數(shù)據(jù)分析模型來科學(xué)高效地分析內(nèi)容，使得網(wǎng)絡(luò)輿論監(jiān)控和情感分析更為靈動(dòng)。然而，技術(shù)是把雙刃劍，它給人們生活工作帶來便利的同時(shí)也帶走了人們的自由和權(quán)利。③如何更好地使用人工智能為我們生活服務(wù)，同時(shí)減少對(duì)人類隱私權(quán)利的侵害，本文將從學(xué)術(shù)熱點(diǎn)分析中尋找答案。

二、研究方法與數(shù)據(jù)獲取

知識(shí)圖譜的概念屬于科學(xué)計(jì)量學(xué)的范疇，主要是以科學(xué)知識(shí)為研究對(duì)象，通過科學(xué)的數(shù)學(xué)方程式表達(dá)其發(fā)展規(guī)律，顯示知識(shí)的進(jìn)程和結(jié)構(gòu)之間的關(guān)系。主要應(yīng)用于：明確各領(lǐng)域間的關(guān)鍵詞或主題詞及其內(nèi)部聯(lián)系;明確每個(gè)領(lǐng)域內(nèi)的知識(shí)輸入與輸出;領(lǐng)域發(fā)展的動(dòng)態(tài)化;信息生產(chǎn)和傳播中的經(jīng)濟(jì)因素評(píng)估;科學(xué)社會(huì)網(wǎng)絡(luò);明確戰(zhàn)略的作用和政府項(xiàng)目的應(yīng)用研究。目前業(yè)界常用的數(shù)據(jù)分析軟件有：Bibexecl、SPSS、SATI和CiteSpace等。④

本文的研究分析所用的軟件是應(yīng)用Java語言開發(fā)的可視化軟件 CiteSpace。Citespace建立在共引分析理論基礎(chǔ)上利用尋徑網(wǎng)絡(luò)等算法，對(duì)一定限定條件下收集的特定領(lǐng)域內(nèi)的大量文獻(xiàn)進(jìn)行統(tǒng)計(jì)，⑤能夠?qū)崿F(xiàn)將獲取的分開的毫無關(guān)系的數(shù)據(jù)實(shí)現(xiàn)可視化的關(guān)系圖譜的呈現(xiàn)。在可視化的圖片上可以探究領(lǐng)域內(nèi)的研究熱點(diǎn)并做進(jìn)一步的思考和展望。

CiteSpace相較于人工分析，主要有以下優(yōu)點(diǎn)：

1.避免研究者的主觀臆斷。

2.更直觀地看出領(lǐng)域內(nèi)的分析熱點(diǎn)和先前研究之間的關(guān)系，以便預(yù)測(cè)研究趨勢(shì)。

3.借助圖示直觀性展示和動(dòng)態(tài)性呈現(xiàn)。

經(jīng)分析可知，人工智能在新聞傳播領(lǐng)域的主要應(yīng)用為：推薦算法、機(jī)器人寫作、機(jī)器人記者、沉浸式新聞、數(shù)據(jù)挖掘和云計(jì)算等。本研究選取了Web of Science（WOS）核心合集為國(guó)外研究文獻(xiàn)的數(shù)據(jù)來源，在WOS主頁設(shè)置高級(jí)搜索，以“Artificial Intelligence”和“privacy”為基本檢索式，再輔以“Recommended Algorithm”“Robert Journalist”“Robert writing”“Immersive Journalism”“Data Mining”和“Cloud Computing”作為輔助檢索式，并設(shè)置檢索跨度為2009-2018年，得到135199篇文章，之后選用“領(lǐng)域中高被引文章”進(jìn)行篩選，最終有效文獻(xiàn)共770篇，檢索時(shí)間為2019年1月8日。

國(guó)內(nèi)數(shù)據(jù)庫則選用了中國(guó)知網(wǎng)，采用“人工智能”+“隱私”為主檢索式，“推薦算法”+“隱私”、“機(jī)器人記者”+“隱私”、“機(jī)器人寫作”+“隱私”、“沉浸式新聞”+“隱私”、“數(shù)據(jù)挖掘”+“隱私”、“云計(jì)算”+“隱私”為輔助檢索式，選擇發(fā)表時(shí)間為2009年1月1日至2018年12月31日間的論文，于2019年1月8日搜索后共得到1622篇文獻(xiàn)。

研究選取Citespace作為分析工具將WOS和知網(wǎng)上獲取的論文參數(shù)分別載入Citespace 中進(jìn)行信息可視化分析。以下為分析熱點(diǎn)圖譜的結(jié)果。

在CiteSpace的研究熱點(diǎn)圖譜上，節(jié)點(diǎn)的大小與關(guān)鍵字出現(xiàn)的頻次相關(guān)，節(jié)點(diǎn)越大代表關(guān)鍵字出現(xiàn)的頻次越多，反之則表示出現(xiàn)的頻次越少。在國(guó)外10年間研究熱點(diǎn)圖譜中有一個(gè)特別明顯的聚類是以Cloud Computing（云計(jì)算）為核心發(fā)散的知識(shí)網(wǎng)絡(luò)，其中還有System（系統(tǒng)）、model（模型）、algorithm（算法）、classfication（分類）、data mining（數(shù)據(jù)挖掘）、network（網(wǎng)絡(luò)）、neural network（神經(jīng)網(wǎng)絡(luò)）、big data（大數(shù)據(jù)）、optimization（優(yōu)化）、management（管理）、database（數(shù)據(jù)庫）和security（安全）等。其中cloud computing是處于紅黃色十字的中心，是citespace標(biāo)出的brust detection（突現(xiàn)詞），是指一個(gè)變量的值在短期內(nèi)有很大的變化?！霸啤笔且粋€(gè)包含大量虛擬資源的資源池，能夠幫助用戶在不了解技術(shù)原理的情況下獲取使用所需服務(wù)的技術(shù)。云計(jì)算以大量數(shù)據(jù)為中心，是數(shù)據(jù)密集型的超級(jí)計(jì)算，支持分布式計(jì)算、并行計(jì)算和網(wǎng)格計(jì)算。從圖譜來看2009年之后，“云計(jì)算”得到了大力發(fā)展。

國(guó)內(nèi)10年間研究熱點(diǎn)圖譜是以“隱私保護(hù)”為中心發(fā)散的，主要節(jié)點(diǎn)是“數(shù)據(jù)安全”“數(shù)據(jù)挖掘”“訪問控制”“差分隱私”“關(guān)聯(lián)規(guī)則”“云存儲(chǔ)”“安全多方計(jì)算”等。其中有兩個(gè)主要的突現(xiàn)詞，是“數(shù)據(jù)挖掘”和“隱私保護(hù)”，說明這兩個(gè)關(guān)鍵詞在短時(shí)間內(nèi)得到了集中大量研究。

在Citespace可視化軟件生成的數(shù)據(jù)表格中，標(biāo)有一些體現(xiàn)關(guān)鍵詞重要性的特征值，分別是：年份、頻率和中介中心性。一個(gè)節(jié)點(diǎn)的中介中心性是指網(wǎng)絡(luò)中所有的最短路徑中經(jīng)過該節(jié)點(diǎn)的數(shù)量，是網(wǎng)絡(luò)中節(jié)點(diǎn)在整體網(wǎng)絡(luò)中所起連接作用大小的度量。在進(jìn)行網(wǎng)絡(luò)圖譜分析時(shí)，中介中心性是度量網(wǎng)絡(luò)中節(jié)點(diǎn)重要性的一種方法。某個(gè)節(jié)點(diǎn)的中介中心性越高，說明它在網(wǎng)絡(luò)中最短路徑上出現(xiàn)的次數(shù)越多，其影響力和重要程度越大。上表分別選取了用CiteSpace得到的關(guān)于國(guó)內(nèi)外的每個(gè)年份節(jié)點(diǎn)的中介中心性排第一的熱點(diǎn)詞匯。

由圖表可以發(fā)現(xiàn)，國(guó)外的研究重點(diǎn)更加偏向于計(jì)算機(jī)技術(shù)的改進(jìn)和創(chuàng)新，而國(guó)內(nèi)的則偏向于信息處理技術(shù)的改善和創(chuàng)新。這些變化與時(shí)代特征以及國(guó)際國(guó)內(nèi)環(huán)境相關(guān)。觀察表格可知，2014年國(guó)內(nèi)外的研究熱點(diǎn)很一致，都是大數(shù)據(jù)，大數(shù)據(jù)的應(yīng)用和技術(shù)是誕生于互聯(lián)網(wǎng)快速發(fā)展的溫床中，起點(diǎn)是千禧年前后。⑥2012年，美英日澳等國(guó)相繼出臺(tái)多項(xiàng)政策來支持大數(shù)據(jù)應(yīng)用。2014年，全世界的大數(shù)據(jù)研究尚處于發(fā)展初期，中國(guó)的應(yīng)用更是剛剛起步;但是各個(gè)行業(yè)意識(shí)到大數(shù)據(jù)對(duì)數(shù)據(jù)獲取、分析等領(lǐng)域的廣泛滲透，紛紛投身大數(shù)據(jù)應(yīng)用。隨著移動(dòng)技術(shù)的快速發(fā)展，很多應(yīng)用軟件“入侵”了人們的日常生活。2017年，國(guó)外研究多次提到“China”的主要原因是，中國(guó)物聯(lián)網(wǎng)和社交通訊的進(jìn)步引起了他們的關(guān)注。物聯(lián)網(wǎng)（Internet to Things），一種具有預(yù)置協(xié)議用于連接物與互聯(lián)網(wǎng)的網(wǎng)絡(luò)，利用無線射頻等信息傳感器設(shè)備識(shí)別技術(shù)（RFID）、傳感器和二維碼等技術(shù)增加了物與人的聯(lián)系。中國(guó)在國(guó)內(nèi)政策的支持和國(guó)內(nèi)外環(huán)境推動(dòng)下，國(guó)內(nèi)物聯(lián)網(wǎng)產(chǎn)業(yè)和市場(chǎng)大力發(fā)展，在所有的發(fā)展中國(guó)家里擁有最發(fā)達(dá)的物聯(lián)網(wǎng)產(chǎn)業(yè)和相關(guān)的基礎(chǔ)設(shè)施。⑦但是在個(gè)人應(yīng)用和消費(fèi)領(lǐng)域，國(guó)內(nèi)物聯(lián)網(wǎng)的發(fā)展仍然緩慢，隱私風(fēng)險(xiǎn)極大地破壞了用戶的行為意圖。社交工具例如微信的很多附加功能也成為了學(xué)者們研究社會(huì)關(guān)系和新媒體功能的重點(diǎn)。微信的移動(dòng)應(yīng)用在改善健康行為方面具有潛力：⑧如朋友圈的微信步數(shù)排行榜刺激著人們?nèi)ゲ叫??？墒牵@種通過獲取用戶的數(shù)字信息的做法另一方面也存在隱患：用戶的隱私數(shù)據(jù)在不知覺中被收集過去，且不知道將會(huì)被作何用途。至2018年，國(guó)外關(guān)注的是authentication（身份驗(yàn)證），國(guó)內(nèi)則關(guān)注風(fēng)險(xiǎn)評(píng)估，這是分別從用戶安全角度和企業(yè)發(fā)展角度去考慮大數(shù)據(jù)安全問題的。Authentication是通過技術(shù)手段來保證用戶登錄和操作賬號(hào)時(shí)是本人或可信賴的終端進(jìn)行操作的，在一定程度上保護(hù)了用戶隱私。風(fēng)險(xiǎn)評(píng)估就是用量化手段去測(cè)量評(píng)價(jià)某一事件或事物所帶來的影響或損失的可能程度，這是企業(yè)主為了企業(yè)長(zhǎng)遠(yuǎn)發(fā)展而產(chǎn)生的行為。在液態(tài)化社會(huì)，社會(huì)關(guān)系和結(jié)構(gòu)變得脆弱，不僅勞資關(guān)系變得不堪一擊，信息的安全存儲(chǔ)也變得如履薄冰;一個(gè)黑客的入侵會(huì)導(dǎo)致用戶信息丟失，企業(yè)將會(huì)遭受巨大損失，故而有必要進(jìn)行風(fēng)險(xiǎn)評(píng)估，強(qiáng)化自我審查的習(xí)慣。

三、總結(jié)與展望

CiteSpace具有多種分析數(shù)據(jù)的功能，我們研究的最終目的是希望通過分析國(guó)內(nèi)外的人工智能和隱私之間的博弈來逐步實(shí)現(xiàn)個(gè)人信息的保護(hù)。在制作熱點(diǎn)圖的過程中發(fā)現(xiàn)為了降低數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)，國(guó)內(nèi)外主要使用兩個(gè)方式：從技術(shù)方面設(shè)置“防火墻”或者設(shè)立法律法規(guī)遏制不法分子侵害他人隱私。個(gè)人信息如何保護(hù)主要有兩個(gè)角度：從存取的角度來看，個(gè)人信息保護(hù)強(qiáng)調(diào)個(gè)人不能隨意地獲得、公開或者使用他人的個(gè)人數(shù)據(jù) ;而從處理的角度來看，個(gè)人信息保護(hù)強(qiáng)調(diào)當(dāng)事人可以依據(jù)一定的程序如使用、加工及轉(zhuǎn)移等方式來處理個(gè)人數(shù)據(jù)。⑨

在今后的研究中，筆者認(rèn)為可以在現(xiàn)有的基礎(chǔ)上從以下方面做出嘗試：

1.建立個(gè)人信息庫

現(xiàn)行的規(guī)章制度下，我們的個(gè)人信息是分散且不被重視的。經(jīng)常出現(xiàn)這樣的狀況：登錄一個(gè)應(yīng)用軟件填寫一次個(gè)人隱私信息，報(bào)名參與一個(gè)活動(dòng)又需要我們填寫自己的個(gè)人信息，而往往很多網(wǎng)站或者軟件我們并不會(huì)再次使用，但是作為用戶我們不知道自己的隱私數(shù)據(jù)被他人使用了哪些、也不知道他們會(huì)作何用處以及沒有一個(gè)渠道可以拒絕這類情況的發(fā)生。所以有關(guān)部門可以建立一個(gè)個(gè)人信息庫，一方面方便了企業(yè)在登記新用戶信息時(shí)的操作，另一方面也方便用戶查詢自己的信息是被哪些人所使用了。

2.完善人工智能行為規(guī)范和工作程序

應(yīng)該人機(jī)共同制作內(nèi)容，不能全部由機(jī)器來操作，人應(yīng)該發(fā)揮自己的主觀能動(dòng)性，去監(jiān)督機(jī)器。作為行業(yè)內(nèi)部人員，應(yīng)該完善算法，并提高自身產(chǎn)品的內(nèi)容，而不是讓技術(shù)凌駕于內(nèi)容之上;作為受眾，應(yīng)該提高素養(yǎng)，面對(duì)陷阱和危險(xiǎn)要有警惕心，政府應(yīng)該普及公眾認(rèn)知。

3.法規(guī)監(jiān)管齊用，形成良性循環(huán)

政府應(yīng)不斷完善法律法規(guī)的制定，堅(jiān)決抵制侵權(quán)行為的發(fā)生，減小傳播風(fēng)險(xiǎn)，塑造良好的社會(huì)風(fēng)氣。

從人工智能的概念被提出到現(xiàn)在，每次研究有進(jìn)展的時(shí)候，人們總會(huì)害怕機(jī)器會(huì)破壞人類社會(huì)的秩序。用戶隱私被侵犯，AI有部分的責(zé)任，人類本身也有責(zé)任。

首先行業(yè)內(nèi)部要清楚責(zé)任主體，明確規(guī)范。

企業(yè)設(shè)置訪問系統(tǒng)時(shí)應(yīng)該設(shè)計(jì)一個(gè)具有靈活性、可操作性和高質(zhì)量的系統(tǒng)。對(duì)有不同隱私需求的人設(shè)置不同的保護(hù)策略;保證數(shù)據(jù)的高質(zhì)量，不要重復(fù)存儲(chǔ)浪費(fèi)資源;系統(tǒng)應(yīng)該簡(jiǎn)單操作，不要因?yàn)檫^于復(fù)雜而使得用戶的操作存在隱私泄漏等問題。要責(zé)任明確到人，不能因?yàn)樨?zé)任主體設(shè)定的模糊而給不法分子可乘之機(jī)。

其次可以設(shè)定行業(yè)隱私法。在美國(guó)對(duì)特定類型的記錄有各自的行業(yè)法，如信用報(bào)告、視頻租用記錄以及敏感信息類如健康信息等，照顧到了特殊行業(yè)的數(shù)據(jù)存儲(chǔ)的特殊性。一個(gè)自律有能力的企業(yè)才能贏得用戶的信任。

固然，因?yàn)榛ヂ?lián)網(wǎng)和AI越來越普及和高能，使得很多研究?jī)?nèi)容面臨新的挑戰(zhàn);個(gè)人信息的定義變得更加復(fù)雜，社會(huì)情境變得多樣甚至融合在一起，很多隱私難以定義;因?yàn)榧夹g(shù)降權(quán)給大眾，加之網(wǎng)絡(luò)匿名性使得責(zé)任主體難以劃分;網(wǎng)絡(luò)個(gè)人信息保護(hù)與知識(shí)產(chǎn)權(quán)也會(huì)產(chǎn)生沖突。⑩但是適應(yīng)技術(shù)的潮流，制定合理科學(xué)的規(guī)范，使技術(shù)正確為人類所用，在技術(shù)進(jìn)步和用戶體驗(yàn)上實(shí)現(xiàn)雙贏，才是人工智能發(fā)展的有效路徑。

【本文受國(guó)家社會(huì)科學(xué)基金項(xiàng)目“傳媒公共文化服務(wù)制度建構(gòu)研究”（項(xiàng)目號(hào)13CXW015）和上海市部校共建項(xiàng)目“傳媒公共服務(wù)與輿論引導(dǎo)”共同資助】

注釋：

①江宇，沈凱蓉，藍(lán)杭輝.Facebook信息泄露事件影響及對(duì)我國(guó)征信監(jiān)管的啟示[J].征信，2018，36（11）：66-70.

②人工智能簡(jiǎn)史[J].農(nóng)業(yè)工程技術(shù)，2018，38（21）：15-18.

③王琦，張揚(yáng)，吳帥.論人工智能背景下新聞傳播的變革與反思[J].新聞前哨，2018（09）：38-39.

④陳悅，劉則淵.悄然興起的科學(xué)知識(shí)圖譜[J].科學(xué)學(xué)研究，2005（02）：149-154.

⑤范振強(qiáng)，郭雅欣.國(guó)外構(gòu)式語法研究的發(fā)展趨勢(shì)與前沿動(dòng)態(tài)——基于可視化技術(shù)的科學(xué)知識(shí)圖譜分析[J].北京科技大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018，34（06）：56-63.

⑥匡文波，黃琦翔.大數(shù)據(jù)熱的冷思考[J].國(guó)際新聞界，2016，38（08）：134-148.

⑦Kshetri，Nir. The evolution of the internet of things industry and market in China： An interplay of institutions， demands and supply[J]. TELECOMMUNICATIONS POLICY.2017，41（1）：49-67

⑧Chao He，Shiyan Wu，Yingying Zhao，Zheng Li，Yanyan Zhang，Jia Le，Lei Wang，Siyang Wan，Chang qing. Social Media-Promoted Weight Loss Among an Occupational Population： Cohort Study Using a WeChat Mobile Phone App-Based Campaign[J].JOURNAL OF MEDICAL INTERNET RESEARCH.2017，19（10）

⑨Wolfert "Sjaak， Ge Lan，Verdouw Cor. Big Data in Smart Farming - A review[J]. AGRICULTURAL SYSTEMS，2017（5），153：69-80

⑩石佳友.網(wǎng)絡(luò)環(huán)境下的個(gè)人信息保護(hù)立法[J].蘇州大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2012，33（06）：85-96.

作者簡(jiǎn)介：梅明麗，同濟(jì)大學(xué)藝術(shù)與傳媒學(xué)院副教授，博士;姚潤(rùn)璐，同濟(jì)大學(xué)藝術(shù)與傳媒學(xué)院新聞傳播學(xué)專業(yè)碩士研究生

編輯：王洪越