ChatGPT 在智能電視應(yīng)用中的安全性分析

李 珣，任艷麗，張 震

（1.國家工業(yè)信息安全發(fā)展研究中心，北京 100040；2. 北京洛斯達(dá)科技發(fā)展有限公司，北京 100089；3. 北京電子科技學(xué)院，北京 102627）

0 引言

智能電視已經(jīng)逐漸成為開放式應(yīng)用的智能化平臺，可實(shí)現(xiàn)雙向人機(jī)交互功能，滿足用戶的多樣化、個(gè)性化需求。人工智能（Artificial Intelligence，AI）技術(shù)使電視機(jī)能夠勝任一些通常需要人類智能才能完成的復(fù)雜工作，如語音控制和內(nèi)容檢索等。但受到之前人工智能技術(shù)水平的限制，其對指令的精準(zhǔn)處理不夠準(zhǔn)確，與電視內(nèi)容聯(lián)動(dòng)較弱，實(shí)際體驗(yàn)并不能令用戶滿意。隨著2023 年人工智能算法理論研究的深入和計(jì)算算力的快速發(fā)展，聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（Chat Generative Pre-trained Transformer，ChatGPT）開始進(jìn)入產(chǎn)業(yè)化應(yīng)用，豐富了“人機(jī)對話、智能控制、自動(dòng)運(yùn)行”的實(shí)際場景。其訓(xùn)練模型在動(dòng)作識別、實(shí)物測距、背景渲染等交互控制方面得到大幅度提升，已經(jīng)開始改寫以智能電視為代表的家電行業(yè)格局。

使用ChatGPT 技術(shù)的智能電視機(jī)的使用范圍大大超越了傳統(tǒng)電視機(jī)，已成為基于智能硬件的計(jì)算終端，顯著特點(diǎn)包括AI 能力提升、支持多種軟硬件平臺、應(yīng)用適配性高、提供軟件開發(fā)工具包（Software Development Kit，SDK），便于第三方快速開發(fā)應(yīng)用軟件。在實(shí)際體驗(yàn)方面，除了輔助用戶挑選播放內(nèi)容，其還能根據(jù)內(nèi)置的App 應(yīng)用進(jìn)行新聞瀏覽、互聯(lián)網(wǎng)購物、控制智能家居等。然而，其帶來的技術(shù)風(fēng)險(xiǎn)和隱私倫理問題同樣值得警惕。智能電視如今面臨的AI 安全問題，如同網(wǎng)絡(luò)信息安全一樣，需要納入技術(shù)應(yīng)用和產(chǎn)業(yè)應(yīng)用的范圍內(nèi)。

1 ChatGPT 應(yīng)用給智能電視帶來的安全風(fēng)險(xiǎn)

1.1 ChatGPT 技術(shù)本身的安全風(fēng)險(xiǎn)

ChatGPT 技術(shù)使用的人臉識別、語音識別、自然語言處理、文本生成、語言翻譯、內(nèi)容過濾及信息關(guān)聯(lián)等AI 技術(shù)已經(jīng)深刻影響智能電視的發(fā)展方向，給用戶操作帶來了便捷。然而，當(dāng)前主流的深度神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)具有“黑盒屬性”，導(dǎo)致基于該技術(shù)的AI 算法具有不可解釋性[1]，算法的健壯性、準(zhǔn)確率、生成合成信息的方法不對外公開，導(dǎo)致智能電視用戶無法了解其技術(shù)的安全性。例如，該技術(shù)是否對使用的第三方組件、固件及時(shí)進(jìn)行安全更新和漏洞修補(bǔ)，是否針對訓(xùn)練數(shù)據(jù)、測試數(shù)據(jù)、算法代碼及算法模型等安全需求進(jìn)行差異性設(shè)置，是否采取數(shù)據(jù)訪問控制策略防止非授權(quán)訪問，是否使用密碼技術(shù)對訓(xùn)練數(shù)據(jù)、測試數(shù)據(jù)、算法代碼及算法模型等進(jìn)行保護(hù)，是否對訓(xùn)練數(shù)據(jù)、測試數(shù)據(jù)的存儲、傳輸進(jìn)行加密保護(hù)等。可見，算法模型本身的安全性、可靠性問題會給電視用戶帶來直接風(fēng)險(xiǎn)。

此外，黑盒模型如果沒有經(jīng)過智能電視用戶大量的應(yīng)用測試，其存在的一些難以被發(fā)現(xiàn)的邏輯錯(cuò)誤會給安全應(yīng)用帶來不確定因素，可能會在智能電視產(chǎn)業(yè)應(yīng)用落地過程中出現(xiàn)各種安全隱患。

1.2 ChatGPT 技術(shù)帶來的應(yīng)用安全風(fēng)險(xiǎn)

ChatGPT 技術(shù)的成熟度取決于訓(xùn)練的規(guī)模，而訓(xùn)練數(shù)據(jù)恰好為某些惡意軟件帶來可乘之機(jī)，結(jié)構(gòu)性的算法漏洞、算法后門給黑客帶來了漏洞利用的可能。通過ChatGPT 技術(shù)推薦下載的App 應(yīng)用如果沒有經(jīng)過應(yīng)用市場的嚴(yán)格審核，會帶來風(fēng)險(xiǎn)極高的安全漏洞。例如，影響智能電視的高嚴(yán)重程度漏洞包括堆棧緩沖區(qū)溢出漏洞、目錄遍歷漏洞以及命令注入漏洞等，這些漏洞普遍存在于互聯(lián)網(wǎng)端，但隨著AI 技術(shù)的發(fā)展，已經(jīng)逐漸向智能電視端蔓延。這些惡意應(yīng)用可能被用于惡意目的，如制造破壞性的網(wǎng)絡(luò)攻擊或用于進(jìn)行欺詐活動(dòng)。此外，與大多數(shù)物聯(lián)網(wǎng)設(shè)備一樣，高端智能電視機(jī)包含的高性能圖形處理器（Graphics Processing Unit，GPU），甚至已被不法分子利用，成為新的“挖礦”載體[2]。如果ChatGPT 被用于惡意詐騙等不當(dāng)用途，將會給行業(yè)生態(tài)的健康發(fā)展帶來不利影響。

生成式AI 技術(shù)能夠通過自我學(xué)習(xí)，不斷改進(jìn)自身的性能。然而，這種自我學(xué)習(xí)也可能導(dǎo)致對應(yīng)用的失控，從而對智能電視的應(yīng)用安全造成二次威脅。

1.3 ChatGPT 技術(shù)帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)

人工智能的發(fā)展與大數(shù)據(jù)密切相關(guān)。要構(gòu)造能力更強(qiáng)的人工智能，需要更多、更關(guān)鍵以及更高價(jià)值的真實(shí)數(shù)據(jù)。然而，高價(jià)值數(shù)據(jù)往往與個(gè)人隱私信息甚至商業(yè)機(jī)密信息綁定。ChatGPT 技術(shù)在落地智能電視的過程中，可能在數(shù)據(jù)應(yīng)用或者流通環(huán)節(jié)造成信息泄露。例如，很多智能電視已經(jīng)可以通過內(nèi)置攝像頭的人臉識別功能實(shí)現(xiàn)App賬戶的登錄或者視頻聊天功能。人臉識別系統(tǒng)的精準(zhǔn)度依靠海量人臉數(shù)據(jù)進(jìn)行特征提取訓(xùn)練完成，盡管相關(guān)算法和技術(shù)已經(jīng)比較成熟，但黑產(chǎn)分子可利用漏洞進(jìn)行多種模式的繞過與攻擊，如對抗樣本攻擊，在人臉照片上添加少量干擾或?qū)寡a(bǔ)丁打印制作后模擬真人，就能欺騙人臉識別系統(tǒng)；或者加裝干擾因素，改變顏色、修改形狀，誤導(dǎo)感知和識別算法[3]。這些都是算法層的安全漏洞，存在巨大的安全隱患。

隨著ChatGPT 在智能電視的應(yīng)用，付費(fèi)軟件購買環(huán)節(jié)的風(fēng)險(xiǎn)更高。ChatGPT 技術(shù)能夠通過偽造下載地址，欺騙用戶提供隱私信息如銀行和支付密碼等信息，導(dǎo)致個(gè)人財(cái)產(chǎn)信息泄露[4]。

1.4 ChatGPT 技術(shù)帶來的知識產(chǎn)權(quán)風(fēng)險(xiǎn)

ChatGPT 通過抓取智能電視用戶使用習(xí)慣和互聯(lián)網(wǎng)上的內(nèi)容信息獲得其訓(xùn)練數(shù)據(jù)，可能并不合法。很多智能電視App 上的隱私政策條款明確說明數(shù)據(jù)不能被第三方收集，否則會涉及違反合同。但在實(shí)際訓(xùn)練過程中，ChatGPT 抓取的數(shù)據(jù)不可避免地會涉及對他人享有著作權(quán)的作品進(jìn)行復(fù)制使用，存在著作權(quán)侵權(quán)的風(fēng)險(xiǎn)。

此外，基礎(chǔ)模型降低了內(nèi)容創(chuàng)作的成本，使創(chuàng)造與原作品高度相似的深度偽造品變得更加容易。用戶可以通過語音指令或者文字輸入來描述自己的需求，ChatGPT 根據(jù)這些指令自動(dòng)剪輯并生成相應(yīng)的視頻片段，雖然用戶覺得智能，但是所生成的新內(nèi)容可能是基于已有語音和視頻再加工，通過智能電視應(yīng)用軟件為視頻添加文字、音樂、濾鏡等特性，利用自動(dòng)化的視頻剪輯和特效生成。這些對原始內(nèi)容的加工和發(fā)布，顯然會引起知識產(chǎn)權(quán)糾紛[5]。

2 應(yīng)用ChatGPT 技術(shù)的智能電視需采用的安全防范措施

2.1 選擇合適的ChatGPT 技術(shù)大模型

用對于智能電視來說，選擇ChatGPT 模型需要結(jié)合電視內(nèi)容推薦、語音控制及智能搜索等用戶個(gè)性化需求進(jìn)行綜合考慮，通過選擇合適的訓(xùn)練模型，分析和評估智能電視與用戶的對話場景、對話目的、數(shù)據(jù)量分析、交互質(zhì)量及資源消耗等多個(gè)方面，保證對話質(zhì)量和效果符合智能電視應(yīng)用預(yù)期。例如，選擇ChatGPT 模型時(shí)，結(jié)合智能電視內(nèi)置的智能語音助手、專用智能App 等應(yīng)用場景，根據(jù)對話中不同類型用戶喜好的節(jié)目內(nèi)容的大小和質(zhì)量，對模型的訓(xùn)練過程和參數(shù)進(jìn)行充分、詳細(xì)設(shè)置和調(diào)整，同時(shí)需要考慮網(wǎng)絡(luò)資源、中央處理器（Central Processing Unit，CPU）及電源消耗的問題[6]，針對目前智能電視應(yīng)用的互聯(lián)網(wǎng)帶寬和硬件進(jìn)行優(yōu)化，避免由于資源不足導(dǎo)致的交互應(yīng)用運(yùn)行卡頓，影響用戶體驗(yàn)。

2.2 建立針對ChatGPT 技術(shù)的“防火墻”

當(dāng)前，市面上多種智能電視的操作系統(tǒng)都基于安卓系統(tǒng)開發(fā)或定制，可以利用智能電視原廠自帶的應(yīng)用市場或者第三方軟件商店下載App，拓展視頻、娛樂、教育等互動(dòng)應(yīng)用。然而，目前ChatGPT 在智能電視等終端并無規(guī)范化應(yīng)用約束，利用其技術(shù)推薦的應(yīng)用，更容易受到網(wǎng)絡(luò)攻擊和惡意軟件的威脅。不法App 有可能通過病毒和惡意軟件竊取用戶的信息或者進(jìn)行有害的控制操作。對此，智能電視廠商應(yīng)在智能電視出廠時(shí)采取安全防護(hù)措施，如安裝殺毒軟件、防火墻等，并通過權(quán)限控制增強(qiáng)其應(yīng)用安全性。

2.3 做好針對ChatGPT 技術(shù)的數(shù)據(jù)保護(hù)

ChatGPT 技術(shù)的基礎(chǔ)在于人機(jī)交互，因此智能電視會即時(shí)或定期將用戶的日常交互數(shù)據(jù)上傳到云端，這意味著智能電視廠商或第三方可以通過收集用戶關(guān)注的內(nèi)容焦點(diǎn)和興趣愛好，分析家庭和個(gè)人收視率，利用用戶畫像優(yōu)化內(nèi)容推薦、廣告推送及應(yīng)用軟件下載等信息[3]。因此，智能電視廠商應(yīng)保障獲取用戶數(shù)據(jù)的正當(dāng)性、必要性以及合法性的具體邊界，用戶則需要清楚電視設(shè)備所收集和上傳的數(shù)據(jù)，最大限度地保護(hù)好個(gè)人隱私，維護(hù)好自己的隱私權(quán)和數(shù)據(jù)安全。

2.4 針對ChatGPT 技術(shù)做好知識產(chǎn)權(quán)保護(hù)

ChatGPT 技術(shù)可能被用于制作欺詐或侵權(quán)內(nèi)容，如盜版的影視作品或經(jīng)篡改的音頻或視頻，或者通過模型生成的內(nèi)容有可能會被用來冒用個(gè)人或組織，損害其聲譽(yù)或侵犯其公共形象權(quán)。因此，智能電視廠商需要做好電視內(nèi)容審核并配合廣電行業(yè)的版權(quán)管理，在內(nèi)容展示前采用技術(shù)手段確保其已獲得合法授權(quán)或使用不受著作權(quán)限制的數(shù)據(jù)源。

3 結(jié)語

近年來，隨著大數(shù)據(jù)的積累、理論算法的革新、計(jì)算能力的不斷提高以及互聯(lián)網(wǎng)技術(shù)的不斷完善，人工智能的研究與應(yīng)用進(jìn)入一個(gè)嶄新的發(fā)展階段，以ChatGPT 為代表的人工智能技術(shù)在智慧家電市場發(fā)展?jié)摿薮?。展望未來，采用ChatGPT 技術(shù)的智能電視能夠在保障信息安全、數(shù)據(jù)安全和知識產(chǎn)權(quán)安全的前提下，為用戶篩選更符合需求的信息、視頻及界面，結(jié)合虛擬現(xiàn)實(shí)（Virtual Reality，VR）等新技術(shù)，把畫面色彩、音響調(diào)節(jié)到用戶更身臨其境的設(shè)置，可以將智能電視升級為核心控制設(shè)備，與家庭其他智能設(shè)備互聯(lián)，甚至協(xié)助聯(lián)系產(chǎn)品維修服務(wù)，解決電視機(jī)故障。