人機(jī)協(xié)同智能對東北健康服務(wù)企業(yè)數(shù)智化轉(zhuǎn)型的促進(jìn)作用研究

解季非 張曉飛 馬露露

〔內(nèi)容提要〕人機(jī)協(xié)同智能擁有先進(jìn)的分析計算能力，并由人類對訓(xùn)練數(shù)據(jù)的準(zhǔn)確性和完整性負(fù)責(zé)，其發(fā)展反映了人工智能應(yīng)用于東北健康服務(wù)企業(yè)的前景。該技術(shù)有助于東北健康服務(wù)企業(yè)解決日益增長的復(fù)雜性和信息過載問題，實現(xiàn)持續(xù)護(hù)理和資源優(yōu)化配置，增加服務(wù)獲取機(jī)會和改善服務(wù)質(zhì)量。該技術(shù)需要服務(wù)人員的積極參與，全面了解機(jī)器運作的原理，算法的局限性，以及識別數(shù)據(jù)集偏差的必要性。通過互動，服務(wù)和分析人員將在批判性思維的基礎(chǔ)上建立信任，并識別機(jī)器輸出的價值。該技術(shù)當(dāng)前尤其適用于低復(fù)雜性的非緊急服務(wù)，以及風(fēng)險上升個體的識別。服務(wù)人員參與算法開發(fā)并努力提高其安全性和有效性，將推動該技術(shù)的應(yīng)用，進(jìn)而促進(jìn)東北健康服務(wù)企業(yè)的數(shù)智化轉(zhuǎn)型。

〔關(guān)鍵詞〕人機(jī)協(xié)同智能；人工智能；數(shù)智化轉(zhuǎn)型；健康服務(wù)

注：本文受河北省自然科學(xué)基金資助項目“服務(wù)化、數(shù)字化及其融合戰(zhàn)略對制造企業(yè)績效的影響研究”（項目編號：G2021501006）、遼寧省社會科學(xué)規(guī)劃基金項目“數(shù)字化、服務(wù)化背景下的遼寧制造企業(yè)績效提升戰(zhàn)略研究”（項目編號：L21BGL019）、中央高校基本科研業(yè)務(wù)費項目“數(shù)智化轉(zhuǎn)型背景下東北與京津冀康養(yǎng)服務(wù)業(yè)協(xié)同發(fā)展路徑研究”（項目編號：N2324003-07）資助。

人機(jī)協(xié)同智能擁有先進(jìn)的分析和計算能力，并由人類對訓(xùn)練數(shù)據(jù)的準(zhǔn)確性和完整性負(fù)責(zé)。人工智能是指由計算機(jī)系統(tǒng)執(zhí)行通常需要人類智能完成的任務(wù)。在人機(jī)協(xié)同智能中，人類用戶與算法協(xié)同工作，解釋人工智能輸出，共同提升智能化水平。不久的將來，人機(jī)協(xié)同智能將通過分析東北的海量健康服務(wù)數(shù)據(jù)點，以改變其健康服務(wù)數(shù)據(jù)管理。目前，放射學(xué)已經(jīng)被人機(jī)協(xié)同智能所改變，該技術(shù)使成像之外的信息攝入得以集成到多個專業(yè)的臨床護(hù)理中。重要的是，人機(jī)協(xié)同智能不同于人在回路（human-in-the-loop）機(jī)器學(xué)習(xí)，后者是指利用人工智能的快速檢測和計算能力，同時由人類參與算法開發(fā)過程，以彌補(bǔ)機(jī)器學(xué)習(xí)潛在的不足。即“人在回路”是利用人來改進(jìn)算法。相反，人機(jī)協(xié)同智能則是使用算法來提高而不是取代人類的敏銳性。

人機(jī)協(xié)同智能的應(yīng)用是東北健康服務(wù)業(yè)近期最為引人注目的愿景之一，人類的敏銳性與先進(jìn)技術(shù)相互作用，使東北地區(qū)的健康服務(wù)得以優(yōu)化。本文給出了人機(jī)協(xié)同智能的定義，并試圖解釋其出現(xiàn)的原因、帶來的挑戰(zhàn)，以及東北健康服務(wù)企業(yè)應(yīng)如何更好地利用其優(yōu)勢。本文說明了健康服務(wù)人員的責(zé)任及其與技術(shù)的互動如何產(chǎn)生信任，并為這些技術(shù)在東北健康服務(wù)實踐中的應(yīng)用制定了未來的路線圖。本文提供了應(yīng)用程序和技術(shù)的分類方法，可以為東北健康服務(wù)人員應(yīng)如何、何時，以及為什么對其產(chǎn)生信任提供見解。人機(jī)協(xié)同智能為健康服務(wù)如何嵌入數(shù)據(jù)技術(shù)提供了一種新的哲學(xué)，并可能發(fā)展成為一種現(xiàn)實的方法，以促進(jìn)東北健康服務(wù)企業(yè)的數(shù)智化轉(zhuǎn)型，同時改善其健康服務(wù)人員與客戶間的關(guān)系。

一、人機(jī)協(xié)同智能的出現(xiàn)及其作用

目前，專業(yè)服務(wù)人員的嚴(yán)重不足，使得東北地區(qū)日益增長的健康服務(wù)需求難以得到有效滿足。當(dāng)前東北的健康服務(wù)企業(yè)面臨著三方面的主要挑戰(zhàn)：一是解決日益增長的復(fù)雜性和指數(shù)級信息過載問題，二是實現(xiàn)持續(xù)護(hù)理模式和資源優(yōu)化配置，三是改善服務(wù)獲取機(jī)會和服務(wù)質(zhì)量。人機(jī)協(xié)同智能的應(yīng)用將有助于應(yīng)對這些挑戰(zhàn)，并優(yōu)化東北地區(qū)的健康服務(wù)。

（一）解決日益增長的復(fù)雜性和指數(shù)級信息過載問題

在健康服務(wù)中，客戶數(shù)據(jù)往往是差異化且非關(guān)聯(lián)的。東北地區(qū)客戶數(shù)據(jù)源的多樣性使得這一問題更加凸顯。通過應(yīng)用人工智能來收集和分析客戶數(shù)據(jù)，使得東北健康服務(wù)企業(yè)獲得了更多機(jī)會以全面了解客戶，進(jìn)而實現(xiàn)更高的服務(wù)水平。為了建立能夠有效并合乎道德準(zhǔn)則地利用協(xié)同信息的基礎(chǔ)設(shè)施，東北健康服務(wù)企業(yè)必須系統(tǒng)地創(chuàng)建標(biāo)準(zhǔn)化和透明化的數(shù)據(jù)。人機(jī)協(xié)同智能通過總結(jié)概括、風(fēng)險預(yù)測和模式識別，以及質(zhì)量指標(biāo)和注冊信息的數(shù)據(jù)抽象，提高了電子健康記錄的價值。健康服務(wù)決策支持系統(tǒng)利用客戶數(shù)據(jù)和操作指南來優(yōu)化服務(wù)。面對來自客戶健康服務(wù)報告、可穿戴設(shè)備、醫(yī)療級遠(yuǎn)程監(jiān)測，以及很快可能出現(xiàn)的環(huán)境連續(xù)數(shù)據(jù)集的海量數(shù)據(jù)，再加上科技進(jìn)步、操作指南和試驗的快速發(fā)展，東北健康服務(wù)企業(yè)只有在先進(jìn)計算機(jī)的支持下，才能提供最高質(zhì)量的健康服務(wù)。目前，東北地區(qū)的許多健康服務(wù)企業(yè)已經(jīng)不再僅僅是從健康記錄中獲取數(shù)據(jù)，而是創(chuàng)建了連接各種健康服務(wù)數(shù)據(jù)集的機(jī)構(gòu)數(shù)據(jù)湖，所有這些都是為了追求更好的健康服務(wù)和運營績效。這種數(shù)據(jù)聚合為其應(yīng)用人工智能解決方案提供了更多機(jī)會。健康數(shù)據(jù)社會決定因素的納入，進(jìn)一步支持東北地區(qū)的健康服務(wù)人員和領(lǐng)先的健康服務(wù)系統(tǒng)以人為中心設(shè)計解決方案，以增加獲得服務(wù)的機(jī)會和增強(qiáng)服務(wù)的連續(xù)性。為了最好地管理這些海量客戶信息流，數(shù)據(jù)分析對東北未來的健康服務(wù)實踐至關(guān)重要。

一旦收集到這些數(shù)據(jù)，過去幾十年里的科技進(jìn)步成果便可以文獻(xiàn)中證明的完全嚴(yán)謹(jǐn)?shù)姆绞綉?yīng)用于東北地區(qū)的健康服務(wù)客戶。數(shù)據(jù)分析和人機(jī)協(xié)同智能提供了一個獨特的機(jī)會，可以從根本上提升東北地區(qū)健康服務(wù)的基礎(chǔ)，并在健康服務(wù)人員與客戶的接觸中應(yīng)用科學(xué)嚴(yán)謹(jǐn)?shù)慕】捣?wù)知識。隨著東北地區(qū)健康問題和復(fù)雜性的增加以及專業(yè)健康服務(wù)人員的減少，運營的可持續(xù)性要求人工智能的參與，從而在常規(guī)服務(wù)的基礎(chǔ)上，為客戶提供創(chuàng)新的健康服務(wù)。

為了解決東北地區(qū)健康服務(wù)中日益增加的管理負(fù)擔(dān)，生成式人工智能值得特別關(guān)注。生成式人工智能是指使用大型語言模型來閱讀和搜索文本，以產(chǎn)生文本結(jié)果來聚焦問題。生成式人工智能在健康服務(wù)中的用途很多，但無論是通過電子健康記錄、獨立應(yīng)用程序還是聊天機(jī)器人，都會從文檔、信件、表格和提醒等管理任務(wù)開始，而最終可能會作為一種改進(jìn)的搜索工具，在健康服務(wù)點搜索相關(guān)信息以增強(qiáng)服務(wù)。安全性和責(zé)任感對于建立健康服務(wù)中生成式人工智能使用的框架至關(guān)重要，東北地區(qū)正在進(jìn)行的試點研究也有助于更好地評估生成式人工智能的能力和風(fēng)險。

生成式人工智能對于一項技術(shù)來說是獨特的，它不同于先前的技術(shù)進(jìn)步。生成式人工智能需要被應(yīng)用以實現(xiàn)技術(shù)進(jìn)步。到目前為止，人們一直很謹(jǐn)慎，不讓消費者或非專業(yè)人士見到“未完成”的技術(shù)工作。然而，技術(shù)領(lǐng)域正在發(fā)生變化。人們希望從ChatGPT和其他生成式人工智能模型中得到事實。然而，如果不允許技術(shù)在現(xiàn)實世界中使用，人們就無法對其進(jìn)行迭代以使其更加“安全”。因此，理解人工智能可以作為合作者，幫助人們獲得新想法，對某個主題進(jìn)行思考，或創(chuàng)建新的假設(shè)以檢驗，便是該技術(shù)的力量源泉。該項技術(shù)的力量不在于它能做大量的計算和評估，而在于它能為人類智能提供評估的能力，而真正的考驗在于它能否成功地整合新信息并迭代自己的程序。衡量這些技術(shù)力量的唯一方法就是使用它們，同時認(rèn)識到人們有責(zé)任通過人機(jī)協(xié)同智能的視角設(shè)計和測試其針對指數(shù)級信息過載的使用。

（二）實現(xiàn)持續(xù)護(hù)理模式和資源優(yōu)化配置

客戶偶發(fā)性的健康服務(wù)需求與持續(xù)性的健康服務(wù)體驗不同。與健康服務(wù)報告的結(jié)果測量和客戶門戶的異步通信使得東北的健康服務(wù)團(tuán)隊可以與客戶自由通信。混合健康服務(wù)，即通過電話或視頻進(jìn)行的面對面和虛擬同步訪問的結(jié)合，增強(qiáng)了東北地區(qū)健康服務(wù)的便利性，降低了獲得健康服務(wù)的成本，并使客戶得以在無威脅的環(huán)境中享受服務(wù)。數(shù)字跟蹤和可穿戴設(shè)備在東北的廣泛采用以及醫(yī)療級設(shè)備的增加，為有效的遠(yuǎn)程心血管護(hù)理的篩查、監(jiān)測和治療提供了重要支持。最后，客戶可以使用數(shù)字設(shè)備，并將數(shù)據(jù)呈現(xiàn)給健康服務(wù)人員進(jìn)行解釋和跟進(jìn)。

技術(shù)賦能的健康服務(wù)，包括內(nèi)置“人工智能”的數(shù)字健康技術(shù)，將東北有限數(shù)量的健康服務(wù)人員的覆蓋范圍擴(kuò)大到人們居住的社區(qū)，如果經(jīng)過深入思考和妥善部署，可以通過更多地獲得標(biāo)準(zhǔn)化的高質(zhì)量服務(wù)來提高東北地區(qū)健康服務(wù)的公平性。使用人工智能數(shù)字篩查機(jī)制管理慢性病有助于在早期識別疾病，優(yōu)化臨床工作程序，及時為客戶提供適當(dāng)?shù)馁Y源。那些需要長期服務(wù)的客戶，可以在家里使用上述的多種系統(tǒng)進(jìn)行健康管理。這使客戶得以在家里與他們的健康服務(wù)人員配合。此外，當(dāng)這些系統(tǒng)識別到客戶面臨的健康風(fēng)險在不斷上升，并且分析基礎(chǔ)設(shè)施可以識別潛在的疾病發(fā)展時，客戶可以更快地得到關(guān)注。在那些無法通過遠(yuǎn)程或虛擬服務(wù)來管理客戶，或需要在三級中心進(jìn)行干預(yù)的情況下，利用人工智能的機(jī)制使健康服務(wù)人員能夠了解如何引導(dǎo)客戶正確地進(jìn)行下一次檢測、找到正確的服務(wù)團(tuán)隊和來到最合適的服務(wù)地點。通過這種方式，對數(shù)據(jù)的持續(xù)分析為東北地區(qū)情況最緊急或最復(fù)雜的客戶提供了群體健康反饋、早期篩查和診斷以及恰當(dāng)?shù)馁Y源安排。

（三）改善服務(wù)獲取機(jī)會和服務(wù)質(zhì)量

人口健康分析使東北地區(qū)的健康服務(wù)人員能夠了解社區(qū)內(nèi)人員差異化的健康問題。如上所述，單個客戶的數(shù)據(jù)集可以跨客戶群體進(jìn)行鏈接。隨后，人工智能成為識別這些數(shù)據(jù)集中模式的強(qiáng)大工具，包括評估群體內(nèi)的結(jié)果，以識別異常值；遵循GDMT；以及在適當(dāng)情況下，遵循針對具有獨特風(fēng)險狀況的某些社區(qū)的指導(dǎo)方針。了解結(jié)果有助于復(fù)現(xiàn)最佳做法，并可以探究較差結(jié)果出現(xiàn)的根本原因。檢測與GDMT不一致的客戶成為縮小差距的第一步。最后，這套工具可以根據(jù)人口統(tǒng)計學(xué)、種族或生活方式因素，更仔細(xì)地觀察東北地區(qū)健康風(fēng)險較高的群體，使他們能夠更好地獲得健康服務(wù)。

為了使這些系統(tǒng)以最佳方式工作，必須確保在個人層面能夠公平地獲得這些技術(shù)。數(shù)字技術(shù)賦能的健康服務(wù)使客戶得以直接使用先進(jìn)技術(shù)，并獲得技術(shù)增強(qiáng)的數(shù)據(jù)分析和人口健康工作帶來的成效。在東北地區(qū)服務(wù)提供不足的社區(qū)，個人層面的準(zhǔn)入是復(fù)雜和多方面的。這將需要干預(yù)措施，包括改善連接性、設(shè)備和獲得低技術(shù)解決方案，從而在沒有本地基礎(chǔ)設(shè)施的情況下提供虛擬服務(wù)。在設(shè)計數(shù)字增強(qiáng)服務(wù)時，服務(wù)人員不可認(rèn)為某些社區(qū)無法使用設(shè)備或技術(shù)。雖然系統(tǒng)層面的準(zhǔn)入對于東北地區(qū)社區(qū)層面的數(shù)字技術(shù)采用是必要的，但寬帶接入并不是應(yīng)用這些技術(shù)的唯一障礙。技術(shù)含量較低的解決方案在增強(qiáng)訪問方面可以發(fā)揮作用，但不應(yīng)降低從數(shù)據(jù)中獲得見解的能力。

最后，為了使東北的健康服務(wù)系統(tǒng)能夠利用人工智能在不影響公平的情況下擴(kuò)大健康服務(wù)規(guī)模，必須有一個積極監(jiān)測偏差的框架。人工智能軟件的開發(fā)要求公平、操作容差和對于系統(tǒng)偏差的測量。當(dāng)這些機(jī)制涉及對弱勢群體影響的評估時，可以限制上游的偏差。參與這一過程的每個人都有責(zé)任推廣道德模式，包括健康服務(wù)人員、健康系統(tǒng)、技術(shù)部門的供應(yīng)商和監(jiān)管機(jī)構(gòu)。重要的是，人們應(yīng)認(rèn)識到健康的社會決定因素不是靜態(tài)的，而是可能隨著時間的推移而變化的，因而需要反復(fù)評估。之后，才得以設(shè)計出敏捷且與環(huán)境相符的基礎(chǔ)設(shè)施。

二、健康服務(wù)人員的責(zé)任與技術(shù)交互

為了實現(xiàn)人機(jī)協(xié)同智能的承諾，健康服務(wù)人員必須積極理解算法和人工智能在健康服務(wù)中的作用。市場上已經(jīng)存在大量的解決方案，消費者、健康服務(wù)領(lǐng)域的大型企業(yè)或早期采用者都可以直接使用。利用人機(jī)協(xié)同智能來提高健康檢測和風(fēng)險分層的準(zhǔn)確性和能力的新技術(shù)已經(jīng)并將繼續(xù)迅速興起。使用人工智能的健康服務(wù)數(shù)智化轉(zhuǎn)型要求服務(wù)人員提供快速反饋以確保安全性。隨著健康服務(wù)創(chuàng)新步伐的加快，服務(wù)人員和人工智能在人機(jī)協(xié)同智能構(gòu)建中的系統(tǒng)互動為維持安全、高質(zhì)量和最佳的客戶服務(wù)提供了關(guān)鍵資源。

如果沒有信任，這些技術(shù)將難以成功實施。如今的健康服務(wù)中存在著一個悖論：幾十年來，技術(shù)一直在健康服務(wù)中發(fā)揮著輔助作用，而最終用戶并不愿意接受人工智能服務(wù)。為了降低盲目遵循計算輸出的風(fēng)險，啟用人工智能的健康服務(wù)人員必須理解他們在道德使用人工智能方面的責(zé)任。人工智能不應(yīng)被獨立評估，而應(yīng)在健康服務(wù)人員、系統(tǒng)或企業(yè)使用該技術(shù)的背景下進(jìn)行評估。為了獲得更廣泛應(yīng)用所需的信任，人機(jī)協(xié)同智能取決于對數(shù)據(jù)和算法的負(fù)責(zé)任使用、人工智能賦能的勞動力以及技術(shù)局限性的透明度。

必須運用批判性思維技能來評估以人工智能為來源并創(chuàng)建的信息，并做出明智的決策。健康服務(wù)人員和企業(yè)需要工具和資源來驗證信息，例如與可信來源的鏈接，以持續(xù)監(jiān)測和訓(xùn)練人工智能模型，并根據(jù)需要糾正錯誤或偏差。龐大的真實世界數(shù)據(jù)集在訓(xùn)練準(zhǔn)確的人工智能模型和根據(jù)需要進(jìn)行再培訓(xùn)方面發(fā)揮著重要作用。人工智能生成的響應(yīng)可以被標(biāo)記，以便用戶理解驗證人工智能發(fā)現(xiàn)的必要性。

隨著人工智能在健康服務(wù)決策中的發(fā)展，可解釋性被認(rèn)為是提高人工智能透明度和信任度的一種機(jī)制?？山忉寵C(jī)器學(xué)習(xí)可以深入了解人工智能模型的行為。盡管機(jī)器學(xué)習(xí)工程師使用各種技術(shù)來理解模型的行為并對其進(jìn)行改進(jìn)，但在目前的形式下，可解釋人工智能并不是為健康服務(wù)最終用戶在護(hù)理時使用而設(shè)計的。在有組織框架來決定何時以及為什么需要解釋之前，可解釋機(jī)器學(xué)習(xí)對創(chuàng)建人工智能模型的工程師來說仍然是最有用的。

三、人機(jī)協(xié)同智能的應(yīng)用

隨著健康服務(wù)人員獲得信任，同時系統(tǒng)創(chuàng)建了基礎(chǔ)設(shè)施，人機(jī)協(xié)同智能在東北健康服務(wù)實踐中的應(yīng)用將不斷發(fā)展。東北地區(qū)的健康服務(wù)人員需要了解人工智能主要可用于哪些健康服務(wù)過程和提供哪些結(jié)果。可解釋性和對人機(jī)協(xié)同智能系統(tǒng)的熟悉有助于用戶學(xué)習(xí)該系統(tǒng)，同樣也有助于該系統(tǒng)更好地與健康服務(wù)人員的直覺保持一致。東北地區(qū)的健康服務(wù)人員需要經(jīng)驗和教學(xué)培訓(xùn)，才能在服務(wù)過程中適當(dāng)?shù)厥褂萌斯ぶ悄堋！皬男√幹帧钡闹腔鄯浅＿m用于該情境。一旦用戶利用人機(jī)協(xié)同智能進(jìn)行低復(fù)雜性、非緊急的服務(wù)，并了解系統(tǒng)如何做出決策，他們就會對這些系統(tǒng)產(chǎn)生適當(dāng)?shù)男湃?。隨著在低復(fù)雜性和非緊急環(huán)境中的成功，人們可以將注意力轉(zhuǎn)向更高風(fēng)險和更緊迫的問題。

人工智能賦能的健康服務(wù)解決方案在東北地區(qū)的實踐中被證明更高效，盡管在推廣這些技術(shù)方面仍然存在挑戰(zhàn)。例如，一項關(guān)于人工智能對左心室射血分?jǐn)?shù)的安全性和有效性的研究評估了人工智能決策支持與超聲醫(yī)師在回聲評估時間和準(zhǔn)確性方面的讀數(shù)。研究人員將3495名患者隨機(jī)分組，發(fā)現(xiàn)與使用人工智能評估的初始掃描更改報告的需要相比（16.8%），心臟病專家需要更頻繁地使用聲譜儀評估的掃描修改解釋（27.2%）。

為了創(chuàng)建在東北健康服務(wù)企業(yè)中提供服務(wù)支持的人機(jī)協(xié)同智能，服務(wù)人員必須參與算法開發(fā)，并且必須包含經(jīng)同行評審的服務(wù)指導(dǎo)。當(dāng)人工智能注意到新的趨勢、數(shù)據(jù)或研究時，健康服務(wù)人員的敏銳性有時可能會受到挑戰(zhàn)，但在其他時候，其專業(yè)知識將取代人工智能的能力。如果啟用人工智能的健康服務(wù)人員了解這兩種情況都在適當(dāng)?shù)捻憫?yīng)范圍內(nèi)，他們可以參與流程改進(jìn)，以迭代和改進(jìn)技術(shù)。迭代交互能夠進(jìn)一步訓(xùn)練算法，支持不適合給定情況的人工智能“忘記”部分，識別偏差或錯誤假設(shè)，并學(xué)習(xí)可能帶來服務(wù)洞察力的新分組。參與人機(jī)協(xié)同智能需要人工智能意識，而不是專業(yè)知識。重要的是，如果在健康服務(wù)領(lǐng)域使用人機(jī)協(xié)同智能，以人為中心的流程對于為東北地區(qū)已經(jīng)不堪重負(fù)的服務(wù)人員創(chuàng)造無縫體驗至關(guān)重要。

在個人層面，人機(jī)協(xié)同智能在東北健康服務(wù)實踐中的應(yīng)用有助于識別風(fēng)險上升的客戶，指導(dǎo)他們在適當(dāng)?shù)牡攸c及時得到服務(wù)。在東北地區(qū)的健康服務(wù)環(huán)境中，數(shù)據(jù)驅(qū)動的人機(jī)協(xié)同智能有助于滿足質(zhì)量和安全措施，如對不斷變化的模式的快速響應(yīng)。最后，人工智能擁有超越人類大腦的力量和速度。健康服務(wù)人員通過審查人機(jī)協(xié)同智能提供的不斷改進(jìn)的分析，指導(dǎo)個人和群體層面的服務(wù)過程，并指引其方向。健康服務(wù)的最終實施始終取決于服務(wù)團(tuán)隊，并與客戶共同做出決策。

研究人工智能在健康服務(wù)中的影響和局限性是人機(jī)協(xié)同智能應(yīng)用周期中必不可少的最終步驟。人工智能的安全和高質(zhì)量輸出要求開發(fā)人員和最終用戶就人機(jī)協(xié)同智能模型達(dá)成一致并定義可接受的誤差范圍，因為人工智能的計算能力會放大服務(wù)人員的成功和錯誤。觀察到的一組患者的效率和益處可能會對群體或系統(tǒng)的其他部分產(chǎn)生不利影響，因此測量輸出需要對下游影響進(jìn)行復(fù)雜的系統(tǒng)審查，并需要迭代評估和糾正的基礎(chǔ)設(shè)施。公開說明數(shù)字?jǐn)?shù)據(jù)和人工智能在健康服務(wù)中的局限性，有助于培養(yǎng)人們對新系統(tǒng)的信任，新系統(tǒng)剛剛開始被證明滿足基本健康服務(wù)需求的能力。

四、結(jié)論

精心創(chuàng)建和妥善部署的人機(jī)協(xié)同智能是健康服務(wù)創(chuàng)新的自然發(fā)展。技術(shù)與無技術(shù)護(hù)理的二分法概念在實踐中并不存在。健康服務(wù)人員在提供護(hù)理服務(wù)的同時，也經(jīng)常接觸技術(shù)。因此，不應(yīng)單獨評估技術(shù)，而應(yīng)在其運營的實際環(huán)境、系統(tǒng)或業(yè)務(wù)背景中進(jìn)行評估。人工智能有望改變?nèi)祟惤忉尨罅看竽X以前無法處理的數(shù)據(jù)的能力。人工智能對信息訪問的改進(jìn)提高了東北地區(qū)健康服務(wù)實踐的效率，并為客戶提供了更多精心策劃的信息。

無論是人腦還是人工智能算法都無法實現(xiàn)完美的準(zhǔn)確性和精確性。人工操作員可以用公正、公平的數(shù)據(jù)對系統(tǒng)進(jìn)行編程，以產(chǎn)生見解，然后運用個人判斷來決定下一步將會發(fā)生什么。最終用戶必須承認(rèn)人工智能的承諾和局限性，認(rèn)識到它永遠(yuǎn)不會有道德指南，并對用于訓(xùn)練算法的數(shù)據(jù)負(fù)責(zé)，同時公平地解釋輸出。必須制定管理該技術(shù)的使用和保護(hù)標(biāo)準(zhǔn)，以防止該技術(shù)造成的濫用和不良后果，并在健康服務(wù)中使用。通過認(rèn)識到人工智能技術(shù)的局限性，東北地區(qū)的服務(wù)人員和客戶可以更好地?fù)碛薪怄i這些技術(shù)的能力，以支持更高質(zhì)量和更公平的健康服務(wù)。

（作者單位：1.東北大學(xué)秦皇島分校管理學(xué)院；2.中國康養(yǎng)—東大研究院；3.河北科技師范學(xué)院數(shù)學(xué)與信息科技學(xué)院）