金融領(lǐng)域生成式AI技術(shù)的應(yīng)用、風(fēng)險與應(yīng)對

摘要：生成式人工智能（AI）技術(shù)在金融領(lǐng)域的應(yīng)用正加速推進，同時也面臨數(shù)據(jù)合規(guī)、算法偏見、數(shù)字鴻溝等多維風(fēng)險。本文系統(tǒng)梳理了生成式AI的發(fā)展歷程及其在金融領(lǐng)域的應(yīng)用實踐，從數(shù)據(jù)、計算和應(yīng)用等層面分析了相關(guān)風(fēng)險，并結(jié)合中外監(jiān)管政策，提出構(gòu)建責(zé)任框架、提升算法透明度、強化數(shù)據(jù)治理等應(yīng)對建議，以期為金融行業(yè)安全應(yīng)用生成式AI提供參考。

關(guān)鍵詞：生成式AI 金融科技 安全風(fēng)險 數(shù)據(jù)合規(guī) 算法備案

人工智能（AI）技術(shù)的蓬勃發(fā)展推動著金融科技領(lǐng)域的快速迭代。生成式AI（Generative AI） 作為其重要分支，憑借自身強大的內(nèi)容生成能力掀起了新一輪智能化浪潮。

當(dāng)前，隨著數(shù)字化轉(zhuǎn)型的逐步深入，金融業(yè)依托領(lǐng)先的數(shù)字化水平，孵化出諸多智能、高效的應(yīng)用場景，從智能服務(wù)到風(fēng)險管控，從投資決策到內(nèi)部運營。AI技術(shù)快速重塑著金融行業(yè)的生產(chǎn)模式，賦能金融生產(chǎn)力提升。然而，不可忽視的是，一系列新型風(fēng)險也在悄然滋生，對金融監(jiān)管提出了新挑戰(zhàn)。下文將回顧生成式AI發(fā)展歷程及其在金融領(lǐng)域的應(yīng)用情況，并在探討其潛在風(fēng)險的基礎(chǔ)上，提出預(yù)防性管理建議，以期為金融行業(yè)提供參考，助力生成式AI技術(shù)在金融領(lǐng)域健康發(fā)展。

生成式AI的發(fā)展歷程

AI技術(shù)起源于20世紀(jì)50年代，隨著算法、算力、數(shù)據(jù)三要素產(chǎn)業(yè)的同步發(fā)展，逐漸從判別式AI（Discriminative AI）演進為生成式AI，其發(fā)展歷程主要可以分為四階段（見圖1）。

一是統(tǒng)計學(xué)習(xí)模型階段。自圖靈測試將AI技術(shù)引入公眾視野以來，人類一直在探索如何用機器掌握語言。在早期統(tǒng)計學(xué)習(xí)模型階段，研究主要集中于統(tǒng)計模型和概率推斷，以n元語法（n-gram）和馬爾可夫模型為代表，其通過計算數(shù)據(jù)集中的條件概率分布為分析、判斷和預(yù)測提供依據(jù)，強調(diào)規(guī)則判斷和邏輯推理。然而，此類模型受限于參數(shù)面臨指數(shù)級擴增問題，難以準(zhǔn)確估計高階語言模型，只能基于特定規(guī)則處理特定任務(wù)。

二是神經(jīng)網(wǎng)絡(luò)模型階段。在自然語言處理（NLP）領(lǐng)域，以詞嵌入（word embedding）和上下文語言建模為代表的神經(jīng)網(wǎng)絡(luò)模型的出現(xiàn)，標(biāo)志著AI模型的發(fā)展進入第二階段。該階段強調(diào)數(shù)據(jù)驅(qū)動和知識表示，開創(chuàng)了將語言模型應(yīng)用于表示學(xué)習(xí)（representation learning）的先河，為后續(xù)生成式AI模型的蓬勃發(fā)展奠定了堅實基礎(chǔ)。

三是深度學(xué)習(xí)模型階段。得益于計算能力的提升與大數(shù)據(jù)的廣泛應(yīng)用，深度學(xué)習(xí)技術(shù)迅速成熟，AI模型在文本處理方面的性能顯著提升。谷歌公司提出的Transformer模型在機器翻譯、文本摘要和問答等NLP任務(wù)上的性能顯著提升，成為NLP模型發(fā)展的重要轉(zhuǎn)折點?；赥ransformer架構(gòu)，業(yè)界演進出一系列如BERT、GPT-1/2等生成式預(yù)訓(xùn)練模型，奠定了生成式AI快速發(fā)展的基礎(chǔ)。同期研究也驗證了模型規(guī)模與性能提升的正相關(guān)性。

四是大語言模型階段。隨著AI模型的逐步擴增，模型參數(shù)從數(shù)億級別躍升至數(shù)千億甚至萬億級別，逐步演進為大規(guī)模語言模型（LLMs，以下簡稱“大模型”），極大提升了模型的表現(xiàn)力和推理能力。開放人工智能公司（OpenAI）推出的ChatGPT模型作為其中的代表，展現(xiàn)出卓越的連續(xù)對話能力和上下文理解能力。通過預(yù)訓(xùn)練和微調(diào)，大模型在各類任務(wù)中表現(xiàn)出優(yōu)秀通用性和適應(yīng)性，在圖像生成、代碼生成、音樂創(chuàng)作等多個領(lǐng)域拉開了生成式AI產(chǎn)業(yè)化發(fā)展的序幕。2024年，以深度求索（DeepSeek）為代表的混合專家系統(tǒng)（MoE）架構(gòu)模型，在大幅提升模型推理效率的同時降低了推理成本，為大模型技術(shù)更大規(guī)模的應(yīng)用奠定了基礎(chǔ)。

生成式AI在金融領(lǐng)域的應(yīng)用

金融業(yè)作為數(shù)據(jù)密集型產(chǎn)業(yè)，在日常業(yè)務(wù)中積累了海量用戶及交易數(shù)據(jù)，與AI技術(shù)應(yīng)用天然契合。國內(nèi)外金融機構(gòu)正在積極探索生成式AI在業(yè)務(wù)場景落地，主要可以分為智能服務(wù)、智能投研、金融風(fēng)控、生產(chǎn)賦能等4個領(lǐng)域（見圖2）。

（一）智能服務(wù)

生成式AI為智能服務(wù)領(lǐng)域注入新活力，推動著服務(wù)模式向更加人性化、個性化、智能化的方向發(fā)展。

在智能客服方面，生成式AI能夠提供全天候的不間斷服務(wù)，不受時間和地域限制，通過自然語言交互分析客戶的需求、偏好和風(fēng)險承受能力等信息，深入理解用戶需求特征，提供更為精細和個性化的解決方案。

在智能營銷方面，生成式AI能夠根據(jù)用戶畫像和行為數(shù)據(jù)，生成個性化的產(chǎn)品推薦和服務(wù)，實現(xiàn)精準(zhǔn)觸達和高效轉(zhuǎn)化。同時，生成式AI具備多語言支持的能力，能夠滿足全球客戶的多樣化需求，實現(xiàn)更大規(guī)模的并行服務(wù)，提升用戶體驗和服務(wù)效率。

（二）智能投研

在智能投研領(lǐng)域，生成式AI展現(xiàn)出巨大潛力，能夠為金融機構(gòu)提供更深入的行業(yè)洞察、更全面的信息，提升行業(yè)研究的效率和準(zhǔn)確性。通過實時分析市場行情、企業(yè)財報等數(shù)據(jù)，生成式AI能夠識別潛在的市場風(fēng)險和投資機會，并結(jié)合特定業(yè)務(wù)需求，生成直觀的市場趨勢分析和預(yù)測報告，幫助金融機構(gòu)作出更為科學(xué)準(zhǔn)確的市場判斷和投資決策。作為高效的自動化工具，生成式AI能夠幫助金融機構(gòu)擺脫龐雜的數(shù)據(jù)分析工作，大幅節(jié)約信息搜集時間，降本增效，從而帶來客觀的商業(yè)價值。

（三）金融風(fēng)控

生成式AI在金融風(fēng)控領(lǐng)域展現(xiàn)出巨大的應(yīng)用潛力，其強大的數(shù)據(jù)處理和學(xué)習(xí)能力可以顯著提升風(fēng)控模型的準(zhǔn)確性。通過學(xué)習(xí)海量的金融數(shù)據(jù)，以及建立更加復(fù)雜的風(fēng)險模型，生成式AI可以識別傳統(tǒng)模型難以檢測到的風(fēng)險信號和異常情況，預(yù)測信用風(fēng)險和欺詐行為，在遵守監(jiān)管要求的前提下，助力金融機構(gòu)合規(guī)管理創(chuàng)新，及時發(fā)現(xiàn)和應(yīng)對風(fēng)險，減少潛在的損失。通過構(gòu)建知識圖譜，生成式AI能夠幫助金融機構(gòu)精準(zhǔn)識別潛藏的灰黑色產(chǎn)業(yè)鏈1，反制和打擊不法行為，助力金融風(fēng)控從傳統(tǒng)的被動防控轉(zhuǎn)型為主動防御，維護金融體系穩(wěn)定運行。

（四）生產(chǎn)賦能

在內(nèi)部生產(chǎn)運營層面，生成式AI可以助力金融機構(gòu)簡化流程，提質(zhì)增效。一方面，生成式AI可以幫助開發(fā)人員快速生成代碼，提高開發(fā)效率，降低開發(fā)成本，加速產(chǎn)品研發(fā)和迭代，推動創(chuàng)新發(fā)展。另一方面，生成式AI能夠自動化完成諸多重復(fù)性工作，如快速生成金融報告、撰寫投資建議、響應(yīng)客戶服務(wù)等，降低人力成本，提高運營效率，推動金融機構(gòu)的數(shù)字化轉(zhuǎn)型升級。

生成式AI在金融領(lǐng)域應(yīng)用的主要風(fēng)險

生成式AI在金融領(lǐng)域的應(yīng)用面臨多維風(fēng)險，可歸納為數(shù)據(jù)安全、應(yīng)用效果和社會影響等3個層面。在數(shù)據(jù)安全層面，風(fēng)險集中于數(shù)據(jù)的獲取、處理與合規(guī)性，訓(xùn)練模型所依賴的金融數(shù)據(jù)可能涉及敏感信息或來源不明，存在侵犯隱私、數(shù)據(jù)泄露或濫用風(fēng)險。在應(yīng)用效果層面，生成式AI的“黑箱”特性使得決策邏輯難以解釋，可能輸出幻覺信息或固化算法偏見；訓(xùn)練數(shù)據(jù)投毒2會威脅內(nèi)容安全與結(jié)果公正性。在社會影響層面，對金融市場和社會發(fā)展而言，技術(shù)鴻溝會導(dǎo)致數(shù)字不平等，而缺乏監(jiān)管的數(shù)據(jù)壟斷可能破壞行業(yè)生態(tài)。

（一）數(shù)據(jù)安全層面

1.數(shù)據(jù)合規(guī)風(fēng)險

生成式AI模型的訓(xùn)練需要海量金融數(shù)據(jù)，如客戶信息、交易記錄、市場行情等，可能涉及敏感的個人信息和商業(yè)機密，在數(shù)據(jù)采集和使用過程中如未嚴(yán)格管控，會導(dǎo)致多種合規(guī)性風(fēng)險。

一是數(shù)據(jù)來源不明。生成式AI可以自行爬取訓(xùn)練數(shù)據(jù)，如果數(shù)據(jù)來源不合規(guī)，例如使用未經(jīng)授權(quán)或違規(guī)獲取的數(shù)據(jù)，可能構(gòu)成侵權(quán)甚至非法盜取數(shù)據(jù)行為。

二是侵犯個人隱私。在智能客服、風(fēng)險評估等應(yīng)用場景中，生成式AI會主動收集用戶個人信息。如果未經(jīng)用戶同意或未告知用戶使用目的，則會侵犯用戶個人隱私。

三是數(shù)據(jù)泄露和濫用。對模型的訓(xùn)練和應(yīng)用可能導(dǎo)致訓(xùn)練數(shù)據(jù)用于不當(dāng)用途，特定的訓(xùn)練方式甚至可能突破模型的自身規(guī)則限制，泄露未授權(quán)數(shù)據(jù)或輸出違規(guī)內(nèi)容，并由此帶來嚴(yán)重的經(jīng)濟損失和法律風(fēng)險。

2.內(nèi)容安全風(fēng)險

生成式AI模型的訓(xùn)練依賴于數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中包含虛假信息、惡意信息、違法信息等不當(dāng)內(nèi)容，可能導(dǎo)致模型生成的內(nèi)容存在安全風(fēng)險。例如，智能客服系統(tǒng)可能生成虛假信息，風(fēng)險評估模型可能生成帶有偏見的評估結(jié)果，投研模型可能生成誤導(dǎo)性投資建議，給客戶和機構(gòu)帶來不必要的損失。此外，生成式AI模型本身也可能被惡意“投毒”，導(dǎo)致其偏離既定的訓(xùn)練目標(biāo)和軌道，并給金融數(shù)據(jù)質(zhì)量和內(nèi)容審核管理帶來挑戰(zhàn)。

（二）應(yīng)用效果層面

1.模型透明度和可解釋性風(fēng)險

生成式AI模型的參數(shù)規(guī)模與復(fù)雜度遠高于傳統(tǒng)AI模型，其內(nèi)部運作機制難以作范式化說明，輸出結(jié)果的過程和邏輯更加難以解釋，這導(dǎo)致模型的決策過程缺乏透明度和可解釋性。這種“黑箱”現(xiàn)象使得金融機構(gòu)難以評估模型的可靠性，難以判斷模型決策是否合理，也難以解釋模型輸出結(jié)果的依據(jù)。例如，在進行風(fēng)險評估時，如果模型對某個客戶給出高風(fēng)險評級，但無法解釋其依據(jù)，那么金融機構(gòu)就無法判斷該評級是否合理，也無法向客戶解釋其被拒貸的原因。此外，缺乏透明度和可解釋性使得生成式AI在發(fā)生錯誤或造成損失時難以有效追責(zé)，給合規(guī)監(jiān)管帶來挑戰(zhàn)。

2.幻覺信息與算法偏見

生成式AI在金融決策中可能產(chǎn)生幻覺信息，即生成與現(xiàn)實世界事實或用戶輸入內(nèi)容不一致的結(jié)果。這是由于在訓(xùn)練過程中，模型所使用的數(shù)據(jù)是否存在缺陷難以分辨，如果使用了統(tǒng)計特征單一、集中的數(shù)據(jù)集，或者其他AI生成的已限定訓(xùn)練目標(biāo)的輸出數(shù)據(jù)，并在此基礎(chǔ)上疊加訓(xùn)練數(shù)據(jù)量有限，模型的特征就會貼近于訓(xùn)練輸入的數(shù)據(jù)特征，進而生成與事實不符的結(jié)果。同時，這類問題也會導(dǎo)致算法偏見。如果缺乏全面的數(shù)據(jù)清理和數(shù)據(jù)歸一化過程，在訓(xùn)練數(shù)據(jù)中存在的偏見可能被算法模型固化，進而演變?yōu)槿后w偏見，如出現(xiàn)性別歧視、種族歧視等問題，并在貸款審批、保險定價等領(lǐng)域歧視特定群體，沖擊普惠性和公平性原則。

（三）社會影響層面

1.數(shù)字鴻溝

生成式AI的應(yīng)用可能加劇社會中的數(shù)字不平等，產(chǎn)生新的技術(shù)鴻溝。例如，一些群體可能不具備使用生成式AI服務(wù)的條件，無法理解生成式AI的使用流程，被迫處于劣勢地位。另外，在信息不對稱問題上，金融機構(gòu)可以通過生成式AI收集和分析大量用戶級數(shù)據(jù)，而用戶往往對其自身信息的使用情況缺乏了解，導(dǎo)致信息的不平等分配進一步加劇，未受保護的個人數(shù)據(jù)可能導(dǎo)致“檸檬市場”（信息不對稱市場），破壞市場的整體信任和效率，造成市場失靈。

2.市場集中效應(yīng)與數(shù)據(jù)壟斷

生成式AI在金融市場的廣泛應(yīng)用，可能降低市場多樣性和適應(yīng)性，引發(fā)市場同質(zhì)化。當(dāng)金融機構(gòu)普遍依靠相似的算法和數(shù)據(jù)集進行決策時，投資行為會出現(xiàn)高度同質(zhì)化，引發(fā)市場波動性和系統(tǒng)性風(fēng)險。特別是在遭遇負面信息時，生成式AI可能同時作出賣出決策，觸發(fā)市場的急速下跌和“閃崩”事件，增加市場的脆弱性。此外，頭部企業(yè)更易獲取行業(yè)數(shù)據(jù)和前沿算法，訓(xùn)練出更優(yōu)秀的模型，在市場上占據(jù)主導(dǎo)地位進而吸引更多用戶，并形成數(shù)據(jù)和用戶量的正向循環(huán)，最終造成數(shù)據(jù)壟斷、阻礙行業(yè)健康發(fā)展。

對生成式AI的監(jiān)管要求及挑戰(zhàn)

（一）歐盟對生成式AI的監(jiān)管

歐盟的監(jiān)管體系強調(diào)預(yù)防性治理，采取了前瞻性和系統(tǒng)化的立法路徑，以《通用數(shù)據(jù)保護條例》（GDPR）為基礎(chǔ)、《人工智能法案》為核心，歐盟完成了從數(shù)據(jù)治理到算法治理的監(jiān)管升級?！度斯ぶ悄芊ò浮酚?021年由歐盟委員會提出，至2024年8月在歐盟范圍生效達成最終文本，是全球首部全面規(guī)范AI的立法文件。該法案創(chuàng)新性地采取基于風(fēng)險（risk-based）的分層監(jiān)管框架，按照風(fēng)險等級將AI劃分為四類：不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險和最小風(fēng)險。其中金融業(yè)AI應(yīng)用被明確歸類為高風(fēng)險領(lǐng)域，須受到嚴(yán)格監(jiān)管。

在監(jiān)管執(zhí)行層面，歐盟積極評估生成式AI技術(shù)對傳統(tǒng)銀行業(yè)務(wù)模式的沖擊，并深入探討生成式AI技術(shù)在金融行業(yè)中重新定義業(yè)務(wù)流程的方式及其對監(jiān)管框架構(gòu)成的挑戰(zhàn)，探討如何在不阻礙技術(shù)創(chuàng)新的同時，有效管理生成式AI帶來的新風(fēng)險，解決跨境數(shù)據(jù)流動所引發(fā)的法律與監(jiān)管問題，并在成員國之間實現(xiàn)監(jiān)管政策的協(xié)調(diào)與統(tǒng)一，在制度設(shè)計上具有全球領(lǐng)先性。不過，其基于靜態(tài)風(fēng)險評估的監(jiān)管框架難以適配技術(shù)的指數(shù)級進化，可能導(dǎo)致追趕式立法的困境。同時，算法透明性要求與商業(yè)秘密保護存在底層沖突，且缺乏有效的技術(shù)驗證手段。歐盟監(jiān)管體系在靈活性、執(zhí)行力與創(chuàng)新激勵之間仍需實現(xiàn)更為平衡的制度調(diào)適。

（二）美國對生成式AI的監(jiān)管

美國采用技術(shù)中性原則下的功能性監(jiān)管策略，形成“聯(lián)邦引導(dǎo)+行業(yè)自治”的混合治理體系，更為靈活和分散。與歐盟的統(tǒng)合立法不同，美國主要基于現(xiàn)有金融監(jiān)管框架應(yīng)對新興技術(shù)的挑戰(zhàn)，以確保監(jiān)管的連續(xù)性和效率。2023年10月，時任美國總統(tǒng)拜登簽署的《人工智能行政命令》成為這一體系的核心綱領(lǐng)。該行政命令要求AI開發(fā)者在模型達到特定能力（如用于國家安全、大規(guī)模虛假信息生成等）閾值時，必須向政府報告訓(xùn)練數(shù)據(jù)、模型能力、系統(tǒng)測試結(jié)果等關(guān)鍵信息，并配合進行安全評估。同時，行政命令強調(diào)保護公民隱私，促進公平、公正與透明，并鼓勵聯(lián)邦機構(gòu)制定行業(yè)標(biāo)準(zhǔn)。

在具體監(jiān)管執(zhí)行層面，美國采取多機構(gòu)協(xié)同機制。如國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布AI風(fēng)險管理框架（AI RMF），為企業(yè)提供自愿性合規(guī)指導(dǎo)；聯(lián)邦貿(mào)易委員會（FTC）針對生成式AI的虛假宣傳、不正當(dāng)用途等行為啟動執(zhí)法調(diào)查。此外，國會亦在推動《算法責(zé)任法案》《人工智能責(zé)任法案》等立法提案，但尚未全面通過。美國的監(jiān)管體系重在激勵創(chuàng)新與技術(shù)競爭力，監(jiān)管方式強調(diào)自愿性、責(zé)任共擔(dān)與多利益相關(guān)者合作。在生成式AI快速發(fā)展的背景下，美國監(jiān)管體系展現(xiàn)出適應(yīng)性強、路徑多元的特征，但聯(lián)邦與各州呈現(xiàn)碎片化管理、多頭監(jiān)管等問題，現(xiàn)有法規(guī)可能難以適應(yīng)生成式AI技術(shù)的動態(tài)變化。

（三）中國對生成式AI的監(jiān)管

我國在生成式AI監(jiān)管領(lǐng)域構(gòu)建了“發(fā)展與安全并重”特色治理體系，形成了“中央統(tǒng)籌、行業(yè)協(xié)同、技術(shù)賦能”的立體化監(jiān)管格局，體現(xiàn)出國家主導(dǎo)、審慎包容與動態(tài)調(diào)整相結(jié)合的監(jiān)管特征。其中，《中華人民共和國個人信息保護法》和《中華人民共和國數(shù)據(jù)安全法》兩部上位法明確規(guī)定了生成式AI在金融領(lǐng)域應(yīng)用的用戶數(shù)據(jù)使用規(guī)范，國家網(wǎng)信辦等三部委出臺的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對具有輿論屬性或者社會動員能力的生成式AI服務(wù)提出了安全評估和算法備案要求。

2023年8月，國家網(wǎng)信辦等七部委出臺的《生成式人工智能服務(wù)管理暫行辦法》正式實施，首次明確促進生成式AI技術(shù)發(fā)展的具體措施，規(guī)定了生成式AI服務(wù)的基本規(guī)范，強調(diào)促進AI創(chuàng)新與維護國家安全并重，同時規(guī)定了AI服務(wù)提供方的責(zé)任和義務(wù)，具體包括：一是確保用于訓(xùn)練的數(shù)據(jù)具有合法性、高質(zhì)量等特征，并及時進行算法糾偏；二是在提供AI相關(guān)服務(wù)時，需對生成和傳播內(nèi)容進行合規(guī)性評估，并確保服務(wù)穩(wěn)健性；三是服務(wù)提供方需對生成式AI開展算法備案、算法披露、安全評估等工作；四是建立切實可行的個人信息保護機制，遵循最小化、必要性等原則收集個人信息，確保數(shù)據(jù)正確地存儲和使用。

基于上述要求，在2022年8月—2024年12月，國家網(wǎng)信辦已發(fā)布了10批算法備案清單及9批深度合成類算法備案清單。截至2024年12月31日，共302款生成式AI服務(wù)在國家網(wǎng)信辦完成備案，預(yù)計未來備案工作將進一步深化。

在AI技術(shù)加速落地之際，標(biāo)準(zhǔn)化建設(shè)已成為推動行業(yè)高質(zhì)量發(fā)展的關(guān)鍵因素。2025年初，市場監(jiān)管總局與國家標(biāo)準(zhǔn)委發(fā)布《人工智能 大模型 第1部分：通用要求》、《人工智能 大模型 第2部分：評測指標(biāo)與方法》與《人工智能 大模型 第3部分：服務(wù)能力成熟度評估》系列標(biāo)準(zhǔn)（GB/T 45288）。這3個標(biāo)準(zhǔn)共同構(gòu)建了大模型的標(biāo)準(zhǔn)化體系，對推動我國生成式AI技術(shù)的發(fā)展、規(guī)范市場秩序、促進產(chǎn)業(yè)升級及提高國際競爭力，都具有深遠的意義。

針對生成式AI所生成的內(nèi)容，2025年3月，國家網(wǎng)信辦等四部委聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》，自2025年9月1日起施行。該辦法旨在規(guī)范AI生成的內(nèi)容，包括文本、圖像、音頻和視頻等多種形式，以提升內(nèi)容的透明度和可追溯性，保護公民、法人和其他組織的合法權(quán)益，維護社會公共利益。

對生成式AI安全風(fēng)險管理的思考與建議

從全球趨勢來看，AI與金融的深度結(jié)合是大勢所趨，中央金融工作會議也提出要做好包括數(shù)字金融在內(nèi)的“五篇大文章”。為促進生成式AI在金融科技領(lǐng)域的健康發(fā)展，可在責(zé)任劃分、市場環(huán)境、數(shù)據(jù)治理、技術(shù)生態(tài)等方面進一步優(yōu)化完善，支持金融行業(yè)規(guī)?；?、可持續(xù)應(yīng)用生成式AI，構(gòu)建安全、可控、可信的產(chǎn)業(yè)生態(tài)。

（一）構(gòu)建責(zé)任框架，明確責(zé)任主體

生成式AI在金融領(lǐng)域的應(yīng)用涉及算法開發(fā)者、使用者及管理者等多方主體，需要明確責(zé)任劃分，確保各個環(huán)節(jié)的參與者都能夠清晰了解自己的責(zé)任和義務(wù)。可面向金融服務(wù)領(lǐng)域的生成式AI應(yīng)用制定系統(tǒng)的管理框架，明確各方職責(zé)和權(quán)限，并建立相應(yīng)的制度和流程。同時，探索就算法責(zé)任制定相關(guān)法規(guī)，明確算法決策的責(zé)任人、責(zé)任如何追究等問題，以適應(yīng)AI系統(tǒng)決策的自主性和復(fù)雜性。

（二）提升算法多樣性與透明度，維護市場公正

生成式AI在金融領(lǐng)域應(yīng)用的同質(zhì)化會導(dǎo)致市場風(fēng)險集中，需要提升算法的多樣性和透明度，降低市場風(fēng)險，促進市場健康發(fā)展。可鼓勵金融機構(gòu)與市場參與者采用多樣化的算法模型和數(shù)據(jù)源，降低投資策略的趨同性，增加市場的多樣性和復(fù)雜性，促進市場的分散化，從而有效應(yīng)對信息不對稱和市場主導(dǎo)地位濫用等市場失靈問題。同時，實施更嚴(yán)格的披露要求，促使市場參與者公開AI模型的特性、數(shù)據(jù)來源及決策邏輯，提高市場的透明度，加大對市場操縱行為的管控力度。

（三）強化數(shù)據(jù)治理與數(shù)據(jù)合規(guī)，保障數(shù)據(jù)質(zhì)量

生成式AI的訓(xùn)練和應(yīng)用依賴于大量高質(zhì)量的數(shù)據(jù)，因此需要加強金融數(shù)據(jù)的治理與合規(guī)工作，確保數(shù)據(jù)的準(zhǔn)確性、完整性和安全性?？山⒑蛯嵤﹪?yán)格的數(shù)據(jù)質(zhì)量控制標(biāo)準(zhǔn)，以助力規(guī)范數(shù)據(jù)收集、處理和使用規(guī)則；可引入第三方審核機構(gòu)，對金融機構(gòu)定期進行數(shù)據(jù)審查和偏見檢測，以獨立、客觀的視角評估和監(jiān)督數(shù)據(jù)的質(zhì)量和偏見情況，維持?jǐn)?shù)據(jù)質(zhì)量合規(guī)標(biāo)準(zhǔn)的公平公正；可鼓勵或要求金融機構(gòu)和AI系統(tǒng)的開發(fā)者提高算法決策的透明度和可解釋性，通過開發(fā)和采用可解釋的AI技術(shù)，提高算法決策過程的解釋度和審查便利性。

（四）加強風(fēng)險監(jiān)測和預(yù)警，維護金融安全

應(yīng)健全生成式AI在金融領(lǐng)域應(yīng)用的安全監(jiān)測預(yù)警機制，研究制定相關(guān)應(yīng)用標(biāo)準(zhǔn)規(guī)則，統(tǒng)籌建設(shè)高效的監(jiān)測預(yù)警平臺，對生成式AI在金融領(lǐng)域的應(yīng)用進行實時監(jiān)測，及時發(fā)現(xiàn)潛在風(fēng)險。同時，金融機構(gòu)、科技公司等相關(guān)機構(gòu)可建立信息共享機制，及時了解生成式AI在金融領(lǐng)域的應(yīng)用情況，并及時發(fā)布風(fēng)險預(yù)警信息。此外，可制訂并完善應(yīng)急預(yù)案，以便在發(fā)生重大風(fēng)險事件時能夠及時采取措施、控制風(fēng)險，維護金融市場穩(wěn)定。

（五）推動國際合作，共建安全生態(tài)

生成式AI技術(shù)的發(fā)展和應(yīng)用離不開國際競爭與合作。在國際化的金融體系中，金融風(fēng)險也具有區(qū)域溢出效應(yīng)。加強國際合作，促進技術(shù)信息共享，有助于各方充分認識金融科技新興風(fēng)險。相關(guān)金融機構(gòu)和科技公司可積極開展國際合作，共同推動生成式AI技術(shù)的研發(fā)和應(yīng)用，這也是促進全球金融科技安全生態(tài)創(chuàng)新發(fā)展的必由之路。