陪伴型人工智能侵權(quán)問題研究

摘要：以算法為核心以情感識別功能為特色的陪伴型人工智能在社會生活中給人們帶來便利、填補精神需求的同時，其也引發(fā)了一系列侵權(quán)問題亟待解決。目前陪伴型人工智能所存在的侵權(quán)問題主要包括立法滯后性、泄露個人數(shù)據(jù)等隱私權(quán)侵權(quán)、侵權(quán)責任歸屬模糊問題以及其生成物著作權(quán)侵權(quán)問題。陪伴型人工智能直接與人類交互，發(fā)生侵權(quán)的危害大于一般人工智能，對此應當注意事前的預防和相關立法規(guī)則的完善、建立全面監(jiān)管機制減少算法黑箱和數(shù)據(jù)泄露、建立特殊登記制度明確責任主體、明確版權(quán)歸屬和侵權(quán)責任追究問題。只有技術發(fā)展與法律治理同時推進才能推動我國陪伴型人工智能的安全快速發(fā)展和法律體系的逐步完善。

關鍵詞：陪伴型人工智能；侵權(quán)；法律責任

中圖分類號：D9"""""""文獻標識碼：A""""""doi：10.19311/j.cnki.1672-3198.2025.06.060

1"問題的提出

陪伴型人工智能是以算法為核心技術，能夠通過語音識別、自然語言處理、視覺識別、人臉識別、情感分析等多項技術投其所好，根據(jù)人類的喜好和需求為人類提供多樣化、個性化的服務。它有著超出一般人工智能的算法能力，可以通過不斷地自我學習、自我更新來改進自己的理解能力、表達能力，為人們提供更加完美的交互體驗。陪伴型人工智能目前主要涉及家庭陪伴、教育陪伴、醫(yī)療陪伴、商務陪伴、娛樂陪伴等多個領域。

當前全球人工智能技術發(fā)展迅速，人工智能也是我國國家戰(zhàn)略布局的重要組成部分。2017年7月8日，國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，對人工智能及機器人產(chǎn)業(yè)的發(fā)展作出規(guī)劃部署，這也是我國目前為止對機器人產(chǎn)業(yè)最高層級的規(guī)劃?！兑?guī)劃》分析了人工智能的發(fā)展態(tài)勢，確立了指導思想基本原則，制定了三步走戰(zhàn)略，并對行業(yè)具體發(fā)展作出規(guī)劃。2024年全國兩會政府工作報告中強調(diào)了人工智能在推動經(jīng)濟社會發(fā)展中的重要作用，提出加大支持力度、推動技術發(fā)展、優(yōu)化產(chǎn)業(yè)布局等發(fā)展策略。隨著計算機在自然語言處理、語言識別和數(shù)據(jù)統(tǒng)計等方面能力的提高，目前國內(nèi)人工智能技術已經(jīng)廣泛運用到多個領域。在當前的社會經(jīng)濟環(huán)境中，人們生活節(jié)奏逐漸加快，時間變得寶貴，上班族青年人、空巢老年人等追求精神層面的情感陪伴的心理需求日益強烈，而陪伴型人工智能的出現(xiàn)恰好可以填補這一心理需求。陪伴型人工智能可以利用自然語言處理技術、情感交流技術與兒童或者孤獨老人對話、提供學習輔導、照顧病人監(jiān)測病人狀態(tài)、陪伴人們娛樂、提供情感支持和心理安慰，為人們的生活學習和工作都帶來了便利和樂趣。

然而，陪伴型人工智能技術的出現(xiàn)給人們帶來便利的同時，如此強大的功能會讓用戶在交互過程中對其專屬的陪伴型人工智能產(chǎn)生情感依賴，沖擊著傳統(tǒng)社會秩序和法律制度，其也引發(fā)了一系列法律問題，涉及隱私泄露、數(shù)據(jù)安全、法律地位、責任認定、知識產(chǎn)權(quán)等多個領域。特別是陪伴型人工智能引發(fā)的法律問題和一般人工智能引發(fā)的法律問題存在一定差異，這是因為情感依賴不同于通常的物質(zhì)或者心理依賴，它是陪伴型人工智能“精心設計”的運行規(guī)則下的風險產(chǎn)物[1]，其法律風險也高于一般人工智能。在發(fā)生侵權(quán)事件時，陪伴型人工智能不僅可能對用戶造成財產(chǎn)、隱私等實體損害，還可能造成精神損害[2]。由此可見，陪伴型人工智能的侵權(quán)法律問題具有一定的獨特性，需要進行專門的研究探討。陪伴型人工智能是人工智能的特殊類型，其與大類人工智能存在共通之處，但又具備自己的獨特之處需要我們單獨關注并深入研究。

2"陪伴型人工智能存在的侵權(quán)問題

2.1"陪伴型人工智能侵權(quán)法律規(guī)則存在滯后性

由于陪伴型人工智能的直接服務對象是人的情感，一旦發(fā)生侵權(quán)事件，陪伴型人工智能平臺失控的危害遠超一般人工智能，與之相關的人可能不僅會遭到財產(chǎn)方面的損失，更為重要的是可能在精神層面造成難以磨滅的傷害，即從社會事故成本角度來看，陪伴型人工智能的侵權(quán)結(jié)果成本過于龐大。正因此，比起事后追責，更應當關注事前的預防。人工智能發(fā)展迅速，目前我國針對陪伴型人工智能仍欠缺完善的侵權(quán)法律規(guī)則體系，相關立法存在滯后性。

2.2"算法的不透明性泄露個人數(shù)據(jù)

在關于人工智能的虛假信息等法律侵權(quán)研究方面，陪伴型人工智能作為用于為用戶提供情感支持、社交陪伴、教育輔助等方面的服務，與用戶建立親密聯(lián)系和情感聯(lián)系的特殊型人工智能，其對人們隱私信息、日常生活動態(tài)等內(nèi)容的捕獲比其他人工智能更為深入、頻繁。

“AI陪伴”軟件侵害人格權(quán)案件，該軟件允許用戶創(chuàng)建虛擬人物，并使用公眾人物的姓名和肖像。在未經(jīng)當事人同意的情況下，軟件中出現(xiàn)了以某公眾人物姓名和肖像為標識的“AI陪伴者”，允許用戶上傳大量該公眾人物的“表情包”，制作圖文互動內(nèi)容。北京互聯(lián)網(wǎng)法院判決該軟件與用戶共同侵犯了原告的肖像權(quán)，并要求賠償損失。2017"年國家質(zhì)監(jiān)局通過采樣檢查法學發(fā)現(xiàn)"80%的批次存在安全隱患，有安全隱患的攝像頭中存在"87.5%的批次樣品存在數(shù)據(jù)傳輸未加密的問題[3]，這極大地增加了個人隱私泄露、個人數(shù)據(jù)被不法分子竊取盜用或販賣的風險。以上案例體現(xiàn)了數(shù)據(jù)的收集與處理技術引發(fā)的隱私權(quán)侵權(quán)問題。陪伴型人工智能的獨特之處是人工智能系統(tǒng)可以與用戶直接交互，這可能導致個人隱私被泄露的概率上升。因為陪伴型人工智能對用戶的反饋機制背后涉及收集、訪問、存儲和處理大量用戶個人數(shù)據(jù)，如人臉、聲音、圖像和行為數(shù)據(jù)，算法的不透明性使得個人信息遭受不當使用的風險大大提高。軟件未經(jīng)用戶同意便交由第三方分析數(shù)據(jù)或者數(shù)據(jù)存儲與傳輸過程中未采取數(shù)據(jù)加密，會導致個人數(shù)據(jù)泄露或被非法利用，侵犯隱私權(quán)、財產(chǎn)權(quán)。

2.3"陪伴型人工智能致人損害責任歸屬不清晰

與其他人工智能不同，在處理陪伴型人工智能法律問題時需要考慮其與用戶之間聯(lián)系的特殊性，因此對陪伴型人工智能致人損害的責任歸屬問題展開研究非常必要。

人工智能技術已經(jīng)出現(xiàn)由于自身系統(tǒng)故障、缺陷或者操作失誤致人損害的情況，例如“全國首例機器人傷人事件”，工作人員操縱失誤使機器人“小胖”撞碎玻璃劃傷路人?；诖?，陪伴型人工智能一直與人類直接交互且技術更加復雜、自主性逐漸增強，在未來極大概率也會發(fā)生系統(tǒng)故障或缺陷等問題而致人損害。其發(fā)生故障致人損害具有不可預測性、侵權(quán)主客體多樣性、因果關系認定復雜，傳統(tǒng)民事責任的認定已經(jīng)不適合運用到陪伴型人工智能侵權(quán)的責任歸屬[4]。因此，應當提前關注陪伴型人工智能發(fā)生致人損害侵權(quán)時的責任歸屬問題。討論致人損害侵權(quán)責任歸屬問題首先要明確責任主體，陪伴型人工智能是否可以作為責任主體即陪伴型人工智能能否擁有和人類同等地位的法律主體。

陪伴型人工智能與傳統(tǒng)的可以由人類任意支配并可預知結(jié)果的機器不同，它具有一定的思考能力和自主能力，有些結(jié)果不能被人類所預知，甚至在某些方面可以指導人類或者超越人類，人類對于人工智能的掌控能力逐漸變?nèi)酢Ｔ谶@種情況下，就產(chǎn)生了陪伴型人工智能是否能進行主體的邏輯同構(gòu)對比疑問[5]。人之所以具有權(quán)利主體成為法律主體，是因為人具有權(quán)利能力，具有理性、自由意志和獨立思考的能力。陪伴型人工智能是否能夠成為法律主體的焦點其是否像人類一樣具有理性、自由意志和獨立思考的能力。若賦予陪伴型人工智能法律主體地位，將對傳統(tǒng)法律中的主體制度產(chǎn)生極大沖擊；若只是將其作為工具體，陪伴型人工智能可能面臨的侵權(quán)責任分配問題，包括自我故障或操作不當，致使用戶遭受人身、財產(chǎn)損害或者對個人隱私造成損害，此責任主體包括發(fā)明者、生產(chǎn)者、經(jīng)營者、使用者、所有者，應當如何確定責任主體、具體責任應當如何承擔，目前我國的法律體系中缺乏明確規(guī)定。

2.4"陪伴型人工智能生成物侵犯原作者著作權(quán)

陪伴型人工智能能夠創(chuàng)作出詩詞、音樂、文章等作品，因為陪伴型人工智能在數(shù)據(jù)收集階段積累和學習了大量相關素材。在創(chuàng)作輸出時通過對既存數(shù)據(jù)的檢索與重新整合可以創(chuàng)作出看似沒有任何抄襲的作品。它輸出的作品不是對既存數(shù)據(jù)的簡單地復制粘貼，這種作品是否可以被定義為原創(chuàng)性作品，這就涉及陪伴型人工智能生成物是否侵犯原作者著作權(quán)的問題。

陪伴型人工智能根據(jù)主人要求輸出的作品沒有標注參考文獻，沒有標注出處，人們很難判斷它是對他人未經(jīng)授權(quán)的作品的直接使用還是對既存數(shù)據(jù)中經(jīng)過授權(quán)的他人作品的模仿[6]。究其根源是因為算法的不公開不透明性導致外界不能得知它儲存的數(shù)據(jù)作品以及輸出作品依據(jù)的內(nèi)容，因此要判斷其生成物是否存在著作權(quán)侵權(quán)是非常困難的。侵犯原作者著作權(quán)的責任應當由技術開發(fā)者還是使用陪伴型人工智能的用戶承擔也是一個存在爭議的問題。從技術開發(fā)者角度來說，沒有輸入原作者作品的數(shù)據(jù)積累和訓練，陪伴型人工智能不可能創(chuàng)作出作品，故而應當由數(shù)據(jù)提供者承擔責任；從用戶角度來說，陪伴型人工智能創(chuàng)作的作品并非事先就在數(shù)據(jù)庫，若用戶沒有輸入關鍵詞要求它輸出作品，它就不會出現(xiàn)著作權(quán)侵權(quán)問題，故而應由用戶承擔責任。

3"應對陪伴型人工智能侵權(quán)問題的建議

學者們對人工智能侵權(quán)問題的研究大多集中于宏觀制度規(guī)制方面，很少對某一特定類型的人工智能進行深入的研究，尤其是對陪伴型人工智能基于現(xiàn)代社會發(fā)展人們精神情感追求的激增，以及人工智能的發(fā)展而衍生的極具特殊性的人工智能，學界對其侵權(quán)問題的研究存在空白。

3.1"完善侵權(quán)法律規(guī)則并設立立法先行試驗區(qū)

立法者應當將立法理念轉(zhuǎn)變?yōu)榍罢靶粤⒎?，深入考察陪伴型專門領域的人工智能發(fā)展現(xiàn)狀并把握社會的現(xiàn)實及潛在的需求，結(jié)合陪伴型人工智能潛在的侵權(quán)法律問題，作出利于我國陪伴型人工智能健康長遠發(fā)展的立法規(guī)則。盡管前瞻性立法是必要的，在沒有充分把握陪伴型人工智能技術的發(fā)展規(guī)律和準確預測對未來人類社會的影響前匆匆立法是不合理的，可以選擇重點城市設立立法先行試驗區(qū)[7]，之后在全國適用。

3.2"建立監(jiān)管和審查機制嚴格把控數(shù)據(jù)安全

建立全面監(jiān)管機制，包括對陪伴型人工智能設計、算法決策、數(shù)據(jù)收集、模型訓練等的全方位監(jiān)管，監(jiān)管其是否符合我國法律和國家、公共利益的需要，減少陪伴型人工智能出現(xiàn)不可預測的自主性行為。與此同時，相關監(jiān)管機構(gòu)建立事后審查制度定期審查前期監(jiān)管行為是否得到有效實施并審查算法歧視問題，確保算法公正合理運行，減少暗箱操控數(shù)據(jù)的行為和其他不利于消費者的違法行為的出現(xiàn)。賦予消費者數(shù)據(jù)限制處理權(quán)、拒絕權(quán)、自主決定權(quán)[8]，數(shù)據(jù)管理局在各企業(yè)內(nèi)設立數(shù)據(jù)審核監(jiān)管員加強個人數(shù)據(jù)加密，并確保數(shù)據(jù)處理過程符合相關的數(shù)據(jù)保護法律規(guī)定，發(fā)現(xiàn)問題及時修正。

3.3"建立獨特登記制度明確侵權(quán)責任歸屬

針對陪伴型人工智能能否作為法律主體并承擔法律責任的問題，筆者認為，陪伴型人工智能仍是以算法為核心，其輸出的內(nèi)容仍是由大量訓練數(shù)據(jù)驅(qū)動所導致。其次雖然它在某些領域可以自己創(chuàng)作、可以超越人類，但是這種能力不是由其本身所創(chuàng)造的，無論它的神經(jīng)網(wǎng)絡多么發(fā)達，只要脫離人類的訓練和決策、脫離數(shù)據(jù)則無法得出想要的答案即陪伴型人工智能仍然需要人的干預，不具有完全的獨立性、自主性和靈活性。另外，雖然陪伴型人工智能可以與人類進行情感交互，但存在道德缺陷、情感理解不充分的情況，不具備完全的主觀能動性，因此不應當賦予陪伴型人工智能獨立的法律地位，應當將其作為人類的工具?？梢灾贫ㄌ貏e的法律規(guī)則，在法律體系中明確陪伴型人工智能的工具體地位，并建立設計生產(chǎn)者、經(jīng)營者、所有者、使用者、維修者等人的登記制度，明確責任歸屬。這不僅有利于陪伴型人工智能技術的不斷創(chuàng)新，同時也可以作為受到損害的消費者請求損害賠償?shù)囊罁?jù)。

3.4"采用“通知—消除”規(guī)則救濟著作權(quán)侵權(quán)

陪伴型人工智能創(chuàng)作作品并非依據(jù)數(shù)據(jù)庫進行簡單的摘抄和重新組合，而是根據(jù)其強大的神經(jīng)網(wǎng)絡對數(shù)據(jù)庫的內(nèi)容進行檢索篩選后系統(tǒng)地分析學習，最后生成作品。它的自主性讓技術開發(fā)者也難以控制其創(chuàng)作的作品是否存在著作權(quán)侵權(quán)，因此技術開發(fā)者不存在直接過錯。而用戶想要讓它生成作品更不會預料到它的作品存在侵權(quán)問題，將責任歸結(jié)于用戶身上也是無稽之談。既然二者都無法追究責任，如何解決著作權(quán)侵權(quán)問題呢？筆者認為，服務運營者具有對輸出內(nèi)容監(jiān)管的責任和義務，若服務運營者沒有盡到此義務，應當對著作權(quán)侵權(quán)給原作者造成的實質(zhì)性損害承擔責任。對于僅供個人學習、生活使用或者欣賞應當認定為合理利用，沒有對他人著作權(quán)的合法權(quán)益造成損害的不應當追究侵權(quán)責任。其次，用戶若在不知情的情況下將陪伴型人工智能存在侵權(quán)的生成物對原作者的合法權(quán)益造成損害，應當通過“通知—消除”規(guī)則，要求陪伴型人工智能服務運營者消除侵權(quán)的影響，防止系統(tǒng)再次出現(xiàn)此類侵權(quán)作品，服務運營者對未及時采取消除措施造成的損害，擴大部分承擔賠償責任。

4"結(jié)論

自20世紀末以來，隨著人工智能技術不斷發(fā)展，人們對物質(zhì)精神的高質(zhì)量追求，以及老齡化問題的發(fā)展，人們對陪伴型人工智能的需求也日益增長。雖然陪伴型人工智能可以給人們帶來情感陪伴、娛樂、護理老人、監(jiān)測狀態(tài)等強大功能，但是由于其技術的復雜性和因果關系認定復雜、法律理論和制度滯后于實際發(fā)展情況等原因，出現(xiàn)了包括由算法的不透明性引發(fā)的泄露隱私和個人數(shù)據(jù)等隱私權(quán)侵權(quán)、由于技術復雜性引發(fā)侵權(quán)責任歸屬模糊問題以及其生成物的著作權(quán)侵權(quán)等侵權(quán)問題。陪伴型人工智能技術迅猛發(fā)展，未來的發(fā)展道路仍面臨很多亟待解決的法律問題，只有完善陪伴型人工智能法律規(guī)則，加強對陪伴型人工智能的全方位監(jiān)管，數(shù)據(jù)管理、控制與保護技術不斷提升，擺正陪伴型人工智能在當今社會所處的位置，明確責任歸屬，才能有效促進陪伴型人工智能的安全快速發(fā)展，促進社會不斷進步。

參考文獻

［1］唐婧.注意力經(jīng)濟下陪伴式人工智能平臺的侵權(quán)責任[J].網(wǎng)絡安全與數(shù)據(jù)治理，2023，42（10）：60-65.

[2]張健明，劉晴.智慧養(yǎng)老視域下老人隱私權(quán)保護的特殊性和復雜性研究[J].黑龍江社會科學，2019，（06）：71-76+160.

[3]朱靜潔.智能機器人致人損害民事責任的困境及其破解[J].理論月刊，2020，（01）：130-137.

[4]凌晨.有限理性存在者：智能機器人成為權(quán)利主體的理論基石[J].法學論壇，2024，39（01）：82-92.

[5]汪慶華，胡臨天.生成式人工智能責任機制的技術與法律建構(gòu)[J].中國法律評論，2024，（04）：114-130.

[6]方芳.論人工智能技術應用下的公民權(quán)利保障原則及其實現(xiàn)[J].人權(quán)研究（輯刊），2021，25（02）：213-235+525.

[7]卓加鵬，仲勇，陸婉清，等.人工智能時代的法律問題探討[J].中國科技資源導刊，2024，56（01）：31-38.

[8]楊顯濱.生成式人工智能服務提供者間接侵權(quán)責任的承擔與限制[J].法學家，2024，（03）：46-60+191-192.