基于Rasa的任務型對話系統(tǒng)設計與實現(xiàn)

劉宇杰，陳家豪，宋 暉，周浩冉

（東華大學計算機科學與技術學院，上海 201620）

0 引言

近年來，隨著大數(shù)據(jù)理論和機器學習技術的發(fā)展，構建一個智能對話系統(tǒng)不再是一件難事。一方面，我們可以讓機器學習在給定輸入的情況下響應什么以及如何響應，這使我們能夠構建數(shù)據(jù)驅動、面向特定任務的對話系統(tǒng)。另一方面，機器學習技術已被證明能有效捕獲數(shù)據(jù)中的復雜模式，并為自然語言處理和推薦系統(tǒng)等眾多研究領域提供了強大動力。

對話系統(tǒng)按照對話的目標可以分為4類：任務型對話系統(tǒng)、閑聊型對話系統(tǒng)、問答型對話系統(tǒng)以及推薦型對話系統(tǒng)。任務型對話系統(tǒng)是通過自然語言交互的形式來幫助用戶完成某個特定的任務，如行程安排、網(wǎng)上訂票、訂餐服務等；閑聊型對話系統(tǒng)通常不會有明確的目標，其關注點在于生成流暢、合理且自然的回復，主要功能是消遣娛樂；問答型對話系統(tǒng)旨在基于特定的知識庫，回答用戶的問題，主要是用來幫助用戶獲取其關注的信息；而推薦型對話系統(tǒng)則可以看作問答型對話系統(tǒng)的一種，主要是利用人機交互在知識庫中查找最符合用戶需求的產(chǎn)品或服務。

本文主要針對任務型對話系統(tǒng)實現(xiàn)所需要的理論和技術展開論述，在此基礎上面向企業(yè)服務領域詳細介紹如何使用Rasa框架搭建對話系統(tǒng)，以及Rasa對話系統(tǒng)如何和其他部分協(xié)同完成一個完整的語音對話系統(tǒng)。

1 相關研究和技術

1.1 任務型對話系統(tǒng)

任務型對話系統(tǒng)又稱多輪對話系統(tǒng)，其目的是完成特定的需求和任務。早期的任務型對話系統(tǒng)主要通過語義理解等方法來確定用戶意圖，并且通過狀態(tài)追蹤和策略選擇等方法來確定如何進行答復。隨著人工智能技術的發(fā)展，越來越多的機器學習方法被應用于任務型對話系統(tǒng)，由此誕生了基于端到端（End-to-End）的任務型對話系統(tǒng)。

1.2 任務型對話系統(tǒng)實現(xiàn)方式

從實現(xiàn)技術上來看，任務型對話系統(tǒng)分為管 道（pipeline）方 法 和 端 到 端（End-to-End）方法。

1.2.1 管道方式

基于管道方法的任務型對話系統(tǒng)主要包括5部分：自動語音識別（automatic speech recog?nition，ASR）、自然語言理解（nature language understanding，NLU）、對話管理（dialogue man?agement，D M）、自然語言生成（natural language generation，NLG）和語音合成（Text To Speech，TTS），其流程如圖1所示。

圖1 任務型對話系統(tǒng)流程

管道方法一般是由各個模塊級聯(lián)而成，各模塊需要定義各自相應的接口模式，從而確定每個模塊的輸入輸出。在管道方法中，自然語言理解和對話管理這兩個模塊在整個方法中的邏輯聯(lián)系最緊密，是任務型對話系統(tǒng)的核心模塊。

（1）自然語言理解（natural language under?standing，NLU）。自然語言理解的目的是提取用戶的輸入為定義好的槽值和意圖，通常包括兩個任務：意圖識別和語義槽填充。意圖識別屬于分類任務，它根據(jù)用戶當前的輸入，使用機器學習中的分類方法推斷用戶的意圖屬于預定義的候選集中的哪一個。語義槽填充與領域識別不同，其本質上是一個序列標注問題，其目的是識別句中的語義槽和相應的值。

（2）對話管理（dialogue management，DM）。對話管理分為兩部分：對話狀態(tài)跟蹤（dialogue state tracking，DST）和對話策略優(yōu)化（dialogue policy optimization，DTO）。對話管理模塊的流程如圖2所示。

圖2 對話管理模塊流程

1）對話狀態(tài)跟蹤。對話狀態(tài)跟蹤方法會在每一輪對話完成后更新并輸出當前用戶對話狀態(tài)。其主要實現(xiàn)方法有基于規(guī)則的對話狀態(tài)跟蹤方法、基于統(tǒng)計方法的對話狀態(tài)跟蹤方法和基于神經(jīng)網(wǎng)絡的對話狀態(tài)跟蹤方法等。

2）對話策略優(yōu)化。對話策略是指根據(jù)當前的對話狀態(tài)選擇合適的策略，而后生成相應的回復。對話策略優(yōu)化的方法分為基于規(guī)則的方法和基于機器學習的方法兩種。

1.2.2 End-to-End方法

基于端到端的任務型對話系統(tǒng)和管道方法不同，其不通過各個子模塊的聯(lián)結來獲取回復，而是直接根據(jù)問題和系統(tǒng)回復去學習其中的映射關系。其方法可以大致分為兩類：基于檢索的方法和基于生成的方法。

2 系統(tǒng)設計與實現(xiàn)

本系統(tǒng)面向企業(yè)信息，為企業(yè)管理者提供數(shù)據(jù)查詢服務。下面先介紹Rasa框架以及如何基于Rasa框架根據(jù)企業(yè)數(shù)據(jù)來搭建對話系統(tǒng)，然后再介紹Rasa對話系統(tǒng)和其他系統(tǒng)之間如何交互。

2.1 Rasa框架

Rasa對話系統(tǒng)基于Rasa框架，Rasa是一個基于機器學習實現(xiàn)多輪對話的開源機器人框架。其中包含兩個主要模塊Rasa_nlu與Rasa_core和一些其他的工具模塊。Rasa_nlu模塊是自然語言理解模型集合，主要包括實體識別、意圖識別、特征提取、槽值提取等功能，主要完成對話系統(tǒng)中自然語言理解模塊的功能；Rasa_core模塊決定接下來系統(tǒng)對用戶的回復，即實現(xiàn)與用戶的交互邏輯，主要完成對話系統(tǒng)中對話管理模塊的功能。其主要文件及其作用如表1所示。

表1 Rasa對話系統(tǒng)主要文件及其作用

2.2 自然語言理解（NLU）模塊實現(xiàn)

針對企業(yè)服務領域數(shù)據(jù)，Rasa對話系統(tǒng)根據(jù)數(shù)據(jù)表常用字段在domain.yml文件中定義了24個意圖（包括打招呼、感謝、再見等系統(tǒng)意圖和具體查詢意圖）、28個實體和一些模板回復語句。根據(jù)意圖定義的自然語言理解（對應表1中的nlu.md）部分訓練數(shù)據(jù)示例如程序1所示。

以上述意圖為例，“##”后為意圖名稱,該意圖為查詢園區(qū)內/外資企業(yè)的數(shù)量；“-”后為該意圖具體訓練數(shù)據(jù)，數(shù)據(jù)采用實體標注的形式。小括號內為實體名，中括號內為實體具體值。

2.3 對話管理（DM）模塊實現(xiàn)

對話管理部分（對應表1中的story.md）訓練數(shù)據(jù)以故事形式給出，程序1對應的訓練數(shù)據(jù)示例如程序2所示。

以上述故事為例，“*”后為用戶意圖，“-”后表示系統(tǒng)的具體反饋動作，該示例表示系統(tǒng)識別到名稱為capital_nature的槽的具體值為外資，并且填充槽值后做出名為action_num?ber_foreign_capital_enterprises的反饋動作。

系統(tǒng)做出的反饋動作以類的形式定義，需要繼承Rasa對話系統(tǒng)提供的Action類并重寫其方法，需要重寫的方法如表2所示。

表2 Action類中需要重寫的方法

2.4 領域數(shù)據(jù)校正

針對識別后的公司名（公司簡稱）與數(shù)據(jù)庫中對應字段的匹配問題，系統(tǒng)使用基于動態(tài)規(guī)劃的拼音相似度和余弦相似度來聯(lián)合計算識別到的公司名和數(shù)據(jù)庫中公司名的相似度，并根據(jù)設定閾值確定數(shù)據(jù)庫中是否存在與識別到的公司名對應的數(shù)據(jù)。下面具體闡述系統(tǒng)使用的相似度計算方法。

將詞看作一個字符串序列，設搜索詞為，候選詞集合為｛，，，…，w｝，對于搜索詞和每一個候選詞w，設其長度分別為，，[][]為搜索詞從0位置到位置組成字符串與第k個候選詞w從0位置到位置組成字符串的相似度，則[][]為和w的相似度，動態(tài)規(guī)劃的邊界條件為[][0]=，[0][]=，其中0≤≤,0≤≤，其狀態(tài)轉移方程為：

公式（1）中，[][]可由以下三種情況轉移而來：

（1）[][]=[-1][]+1，表示搜索詞中0到1位置與當前候選詞w中0到位置的相似度加1（減少的位置字符，1可視為與空字符是否相等）。

（2）[][]=[][-1]+1，表示搜索詞中0到位置與當前候選詞w中0到-1位置的相似度加1（w減少的位置字符，1可視與空字符是否相等）。

（3）[][]=[][-1]+cost，表示搜索詞中0到-1位置與當前候選詞w中0到-1位置的相似度加cos（tcost為的位置字符和w的位置字符是否相等）。

由于字符相等cost取0，字符不等cost取1，所以上述三種情況取最小值（結果越小相似度越高），即為[][]當前結果，當=時，[][]即為當前兩個字符串的相似度。

算法會遍歷所有候選詞，使用上述方法找出和當前搜索詞相似度最高的前三個候選詞，分別再對每一個候選詞和搜索詞使用余弦相似度計算出聯(lián)合相似度，找出相似度最高的一組。如果相似度最高的候選詞大于設定閾值，那么認為候選詞與搜索詞匹配，否則認為無候選詞和搜索詞匹配。

在Rasa對話系統(tǒng)中使用該方法，雖然能在較大程度上解決公司名與數(shù)據(jù)庫中對應字段的匹配問題，但是由于算法復雜度較高，仍然存在當候選詞過多導致匹配速度變慢的問題。

2.5 對話系統(tǒng)設計

對話系統(tǒng)分為App端、Rasa對話系統(tǒng)和企業(yè)信息查詢系統(tǒng)。App端負責系統(tǒng)和用戶交互,并且把對話信息持久化到數(shù)據(jù)庫中；Rasa對話系統(tǒng)負責接收App端的用戶問題，經(jīng)過處理后將結果返回給App端；企業(yè)信息查詢系統(tǒng)負責查詢企業(yè)信息，并可以對查詢信息做簡單統(tǒng)計，對外提供接口供Rasa對話系統(tǒng)調用。系統(tǒng)之間各個部分交互如圖3所示。

圖3 對話系統(tǒng)交互

用戶在App輸入對話問題，App端通過Http Post請求將問題發(fā)送到Rasa對話系統(tǒng)，對話系統(tǒng)通過Flask框架接收請求并且將問題和用戶信息交給Rasa框架的NLU模塊，NLU模塊處理完成后將識別結果（意圖和實體）交給到Rasacore模塊，Rasa-core模塊選擇采取某個動作，再進入action模塊調用API（企業(yè)信息查詢系統(tǒng)）得到具體結果和tracker中的信息（用戶對話歷史和用戶狀態(tài)）一并返回給App端，App端顯示回答信息并將該輪對話和tracker中的信息持久化到數(shù)據(jù)庫中。

3 結語

隨著人工智能技術的不斷發(fā)展，人機對話系統(tǒng)對于社會發(fā)展的貢獻會更加顯著。任務型對話系統(tǒng)會和人工智能技術、大數(shù)據(jù)理論更加緊密結合，向更加成熟和穩(wěn)定的方向發(fā)展。

本文提出的任務型對話系統(tǒng)可以替代原有的需要人工操作的后臺管理系統(tǒng)，可以提高管理員進行企業(yè)管理時的效率。使用語音輸入來替代繁瑣的頁面操作，可以讓管理者從后臺管理中脫離出來，達到即說即用即查的效果；同時也為面向企業(yè)服務領域的任務型對話系統(tǒng)提出一個工業(yè)級別可實現(xiàn)的解決方案。