浪潮信息：以大模型賦能智能客服，實(shí)現(xiàn)服務(wù)運(yùn)營(yíng)的智能化

王永

在國(guó)內(nèi)大模型領(lǐng)域同不斷取得突破性進(jìn)展時(shí)，2021年浪潮信息就發(fā)布了當(dāng)時(shí)全球最大的中文AI訓(xùn)練模型“源”：各種詩(shī)文創(chuàng)作不在話下，玩轉(zhuǎn)劇本殺，懂心理學(xué)......然而，衡量技術(shù)是否存在商業(yè)價(jià)值的核心在于其是否能夠適用于企業(yè)數(shù)字化轉(zhuǎn)型的業(yè)務(wù)場(chǎng)景。因此在不斷創(chuàng)造神奇感知的同時(shí)，如何將大模型的智能落地在各行各業(yè)，創(chuàng)造更大的產(chǎn)業(yè)價(jià)值，才是重中之重。

目前，“源”已經(jīng)落地在浪潮信息的服務(wù)領(lǐng)域，成功打造出“智能客服大腦”。值得一提的是，由于浪潮信息自身IT業(yè)務(wù)的原因，服務(wù)工作多是專業(yè)和復(fù)雜的垂直領(lǐng)域，這雖加劇了與AI應(yīng)用結(jié)合的高難度和挑戰(zhàn)性，但也為AI的發(fā)展提供了豐富的應(yīng)用場(chǎng)景。

“從大模型的角度開看，尤其是落地到行業(yè)應(yīng)用里邊，需要跟行業(yè)業(yè)務(wù)相關(guān)的數(shù)據(jù)支持，智能客服就是一個(gè)很好的代表?！崩顺毙畔I軟件研發(fā)總監(jiān)吳韶華介紹道，大模型學(xué)習(xí)的知識(shí)主要是來(lái)自于互聯(lián)網(wǎng)上開源的各類對(duì)話、文檔以及百科類知識(shí)等，在專業(yè)性方面需要行業(yè)專門的知識(shí)來(lái)做支撐，這種支撐方式可以有兩種：大模型基于具體行業(yè)數(shù)據(jù)做微調(diào)以及采用外掛知識(shí)庫(kù)的形式，浪潮信息選擇的是第二種。“我們把行業(yè)數(shù)據(jù)編碼成具體的知識(shí)庫(kù)，在大模型在實(shí)際用的時(shí)候通過(guò)知識(shí)庫(kù)的形式來(lái)做有針對(duì)性的檢索以及知識(shí)的綜合，隨后將綜合之后的知識(shí)返回給終端用戶?！?/p>

那么如何針對(duì)已經(jīng)擁有的行業(yè)數(shù)據(jù)來(lái)構(gòu)建相關(guān)的知識(shí)庫(kù)？這兩個(gè)其實(shí)是相互連帶的問(wèn)題。事實(shí)上，行業(yè)數(shù)據(jù)，有相當(dāng)一部分是沒(méi)有經(jīng)過(guò)處理的數(shù)據(jù)，浪潮信息需要把這些數(shù)據(jù)抽取，形成知識(shí)庫(kù)。這些內(nèi)容通過(guò)浪潮信息在智能客戶方面的實(shí)踐，最終形成比較好的知識(shí)庫(kù)自動(dòng)化構(gòu)建的工具和方法。

當(dāng)大模型落地到具體應(yīng)用場(chǎng)景時(shí)，需要結(jié)合業(yè)務(wù)場(chǎng)景會(huì)做具體的適配，比如知識(shí)庫(kù)的知識(shí)編碼模型，由大模型蒸餾出來(lái)小模型，做知識(shí)編碼，通過(guò)蒸餾出來(lái)的具體小模型，它不僅可以非常有效的提升大模型的編碼效率，還可以針對(duì)編碼后的知識(shí)進(jìn)行二次檢索的精度。

“浪潮信息探索的基于外掛知識(shí)庫(kù)的方式，具有更強(qiáng)的特殊性——當(dāng)我們把行業(yè)知識(shí)統(tǒng)一聚合到知識(shí)庫(kù)，大模型的通用能力可以和行業(yè)知識(shí)形成一種松耦合。行業(yè)知識(shí)經(jīng)過(guò)檢索之后，反饋給大模型的是用戶的問(wèn)題強(qiáng)相關(guān)知識(shí)，利用大模型對(duì)知識(shí)的綜合的能力，反饋給用戶需要的回答。在這種情況下，行業(yè)的數(shù)據(jù)的更新，可以很方便的通過(guò)知識(shí)庫(kù)的更新來(lái)做，然后大批的能力可以持續(xù)的被復(fù)用到每一次知識(shí)庫(kù)的更新?！眳巧厝A表示，大模型基于行業(yè)數(shù)據(jù)庫(kù)的微調(diào)，浪潮信息也在探索，只不過(guò)會(huì)持續(xù)產(chǎn)生較高的開銷和成本。因此，浪潮信息當(dāng)前比較傾向于大模型在具體行業(yè)落地的時(shí)候，采用大模型外掛知識(shí)庫(kù)的形式，更好的將行業(yè)知識(shí)和大模型本身的能力進(jìn)行結(jié)合。

回到AI和業(yè)務(wù)場(chǎng)景如何形成良好的互動(dòng)的話題，服務(wù)作為一家公司重要的窗口業(yè)務(wù)部門，是和客戶交互最緊密的平臺(tái)，所以首先考慮是怎樣把實(shí)際業(yè)務(wù)和AI算法結(jié)合在一起。

“浪潮信息在IT的服務(wù)場(chǎng)景非常復(fù)雜，面對(duì)更多大量的B類客戶，我們也在討論是否需要花費(fèi)精力，做AI相關(guān)技術(shù)和算法的落地?！崩顺毙畔⒎?wù)總監(jiān)陳彬表示，從這幾年取得的成果來(lái)看，浪潮信息總結(jié)了兩個(gè)心得：因地制宜，按照公司的長(zhǎng)期目標(biāo)和實(shí)踐條件，堅(jiān)定不移的沿著AI方向和業(yè)務(wù)結(jié)合為目的落地；在具體落地時(shí)，小步快跑，前期找痛點(diǎn)、后期分階段。

以客服機(jī)器人為例，這是客戶服務(wù)的一個(gè)重要窗口。浪潮信息深知，不突破智能機(jī)器人的實(shí)際“智能”的瓶頸，僅僅是在形式上做“表面工夫”解決不了業(yè)務(wù)的痛點(diǎn)，因此，浪潮信息選擇用“源”嵌入智能客服底層，變革傳統(tǒng)模式并嘗試突破瓶頸，，下一步，浪潮信息將根據(jù)業(yè)務(wù)需求來(lái)拓展智能客服機(jī)器人的功能屬性，持續(xù)推進(jìn)服務(wù)智能化轉(zhuǎn)型。據(jù)了解，浪潮信息規(guī)劃在明年把AR等技術(shù)嵌入到整個(gè)服務(wù)的流程，進(jìn)一步夯實(shí)服務(wù)能力。

如今，浪潮信息智能客服在“源”的強(qiáng)智能的加持下，做到了解決問(wèn)題廣、客戶答案精準(zhǔn)專業(yè)以及交互貼心智能：智能客服能力覆蓋浪潮信息八大產(chǎn)品線，和客戶問(wèn)答的匹配率達(dá)到92%；同時(shí)，智能客服對(duì)常見的復(fù)雜問(wèn)題解決率達(dá)到了85%以上，平均解決率65%左右。此外，智能客服不僅支持圖片交流，還可以針對(duì)客戶輸入信息自動(dòng)查詢匹配，最大程度減少對(duì)話交流花費(fèi)的時(shí)間，原來(lái)和人工客服需要10分鐘才能解決的問(wèn)題，在智能客服中可能經(jīng)過(guò)三輪對(duì)話10秒鐘就解決了。

從模式上來(lái)看，不同于傳統(tǒng)智能客服多模型和多數(shù)據(jù)庫(kù)架構(gòu)，浪潮信息智能客服采用統(tǒng)一架構(gòu)，支持多種任務(wù)。“以往智能客服都是多模型和多數(shù)據(jù)庫(kù)，整個(gè)技術(shù)架構(gòu)比較復(fù)雜，維護(hù)難度較大，因此浪潮信息將智能客服升級(jí)為大模型驅(qū)動(dòng)，完成了從碎片級(jí)到集成化的躍升，也改變了在多個(gè)知識(shí)庫(kù)、多個(gè)模型之間進(jìn)行任務(wù)調(diào)度的情況?！标惐虮硎?，在成本上，通過(guò)大模型的引入直接省去知識(shí)庫(kù)的人工標(biāo)注的工作，同時(shí)智能客服大腦還支持對(duì)企業(yè)文檔、知識(shí)庫(kù)，對(duì)內(nèi)部的產(chǎn)品資料自動(dòng)學(xué)習(xí)能力，能夠時(shí)刻讓智能客服大腦保證專業(yè)知識(shí)的實(shí)時(shí)更新，做到更快的進(jìn)化學(xué)習(xí)。

目前，浪潮信息智能客服大腦以InService產(chǎn)品為載體對(duì)外提供服務(wù)。InService平臺(tái)是完全免費(fèi)開放給浪潮信息的客戶使用。同時(shí)，基于“源”大模型構(gòu)建智能客服大腦的流程、方法和經(jīng)驗(yàn)，浪潮信息形成了面向不同行業(yè)構(gòu)建“行業(yè)大腦”的解決方案，以標(biāo)準(zhǔn)化的流程，高效快捷的助力企業(yè)構(gòu)建精準(zhǔn)滿足自身客戶服務(wù)需求的智能大腦，來(lái)加速企業(yè)的數(shù)智化進(jìn)程推進(jìn)。

“‘源’在智能客服服務(wù)大腦以及在InService打造的過(guò)程中起到了隱性的作用，通俗的講就是powered by 源。這種狀態(tài)，InService平臺(tái)基于源的智能客服大腦助力各個(gè)環(huán)節(jié)有效的協(xié)同?！痹陉惐蚩磥?lái)，在InService客戶端，浪潮信息主要是利用自然語(yǔ)言理解的技術(shù)把龐大的客服知識(shí)庫(kù)轉(zhuǎn)化成客戶隨時(shí)能夠問(wèn)的服務(wù)專家，通過(guò)告警壓縮、性能預(yù)測(cè)、容量預(yù)測(cè)等多種能力來(lái)實(shí)現(xiàn)設(shè)備的實(shí)時(shí)在線管理，貫穿著客戶和客戶產(chǎn)品使用的全生命周期。保證設(shè)備穩(wěn)定不間斷運(yùn)行，滿足客戶在智能客服智能運(yùn)維智能在線管理的需求。

另一方面，InService的后臺(tái)也就是浪潮內(nèi)部的運(yùn)維端，能夠把客戶的需求精準(zhǔn)轉(zhuǎn)譯成資源的指令，協(xié)調(diào)各部分的大腦各部分的運(yùn)轉(zhuǎn)，并提供資源儲(chǔ)備的相關(guān)信息。準(zhǔn)確的診斷結(jié)果為智能調(diào)派、智能供應(yīng)鏈提供準(zhǔn)確的人機(jī)料法環(huán)觸發(fā)的指令，基于這種系統(tǒng)的準(zhǔn)確前瞻性的數(shù)據(jù)，把調(diào)度運(yùn)籌學(xué)和機(jī)器學(xué)習(xí)相結(jié)合，高效快速的調(diào)撥人和備件的資源，同時(shí)指導(dǎo)資源安排，補(bǔ)充備件或者人員進(jìn)行跨區(qū)調(diào)動(dòng)，實(shí)現(xiàn)服務(wù)運(yùn)營(yíng)的智能化。

整體上來(lái)看，浪潮服務(wù)體系涵蓋熱線、指揮、備件、實(shí)施、服務(wù)管理、渠道管理、技術(shù)管理等模塊，分別承擔(dān)海量服務(wù)接入、服務(wù)工程師調(diào)派、備件倉(cāng)儲(chǔ)調(diào)撥、現(xiàn)場(chǎng)服務(wù)實(shí)施、服務(wù)流程管控、服務(wù)商體系管理以及工程師培養(yǎng)和知識(shí)庫(kù)更新等核心要?jiǎng)?wù)。

目前，浪潮信息服務(wù)整體人員規(guī)模占浪潮信息總?cè)藛T規(guī)模的4%，與業(yè)內(nèi)15%到20%的占比相比，浪潮信息整體服務(wù)人員的ROI處在行業(yè)領(lǐng)先水平。而這背后，是浪潮信息多年來(lái)對(duì)于服務(wù)智能化轉(zhuǎn)型的堅(jiān)持與創(chuàng)新。