大語(yǔ)言模型在橋梁病害診斷和養(yǎng)護(hù)決策智能化應(yīng)用上的探索

摘 要：為了研究大語(yǔ)言模型在橋梁病害診斷以及養(yǎng)護(hù)決策推薦中的作用，基于LoRA技術(shù)對(duì)大語(yǔ)言模型進(jìn)行微調(diào)，采用LangChain應(yīng)用框架基于知識(shí)庫(kù)搭建了橋梁病害診斷及養(yǎng)護(hù)決策推薦系統(tǒng)，分別對(duì)比了僅微調(diào)模型情況下和微調(diào)模型結(jié)合知識(shí)庫(kù)情況下，系統(tǒng)生成的文本與目標(biāo)文本之間的差異。實(shí)驗(yàn)結(jié)果表明，僅微調(diào)模型時(shí)，可能存在隨意發(fā)揮的現(xiàn)象；當(dāng)采用LangChain應(yīng)用框架結(jié)合知識(shí)庫(kù)時(shí)，大語(yǔ)言模型可以很好地在相關(guān)問(wèn)題上進(jìn)行文本生成，具有較好的效果。表明大語(yǔ)言模型在橋梁病害診斷及養(yǎng)護(hù)決策智能化推薦方面具有良好的應(yīng)用前景，為公共基礎(chǔ)設(shè)施的智慧養(yǎng)護(hù)提供了新方向。

關(guān)鍵詞：大語(yǔ)言模型；LangChain應(yīng)用框架；知識(shí)庫(kù)；橋梁病害診斷；養(yǎng)護(hù)決策推薦系統(tǒng)；LoRA技術(shù)

中圖分類號(hào)：TP399 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：2095-1302（2024）10-00-05

0 引 言

隨著國(guó)內(nèi)城市化進(jìn)程的加速和區(qū)域經(jīng)濟(jì)的發(fā)展，公路橋梁的數(shù)量與日俱增。根據(jù)《交通運(yùn)輸行業(yè)發(fā)展統(tǒng)計(jì)公報(bào)》顯示，截至2022年底，我國(guó)公路橋梁的數(shù)量為103.23萬(wàn)座，特大橋8 816座，大橋15.96萬(wàn)座[1]。其中，約40%的在役橋梁服役年限超過(guò)20年。在長(zhǎng)期運(yùn)營(yíng)過(guò)程中橋梁結(jié)構(gòu)的性能狀態(tài)劣化，多種病害的出現(xiàn)將影響行車安全。近些年，數(shù)字化建設(shè)綱領(lǐng)性文件[2-4]要求大力發(fā)展智慧交通，推進(jìn)大數(shù)據(jù)、人工智能等新技術(shù)與交通行業(yè)的深度融合，給數(shù)字交通帶來(lái)了新的發(fā)展機(jī)遇。目前，對(duì)于人工智能在橋梁病害診斷和養(yǎng)護(hù)決策中的應(yīng)用研究是數(shù)字交通領(lǐng)域中的熱點(diǎn)。

國(guó)內(nèi)外相關(guān)學(xué)者主要對(duì)中小橋梁和城市橋梁的病害及其成因、養(yǎng)護(hù)措施等方面進(jìn)行了總結(jié)和研究。文獻(xiàn)[5]基于核心知識(shí)庫(kù)對(duì)梁式橋病害智能診斷和養(yǎng)護(hù)決策系統(tǒng)進(jìn)行了研究，匹配概率超過(guò)了80%。文獻(xiàn)[6]對(duì)城市橋梁的外觀檢查、震害調(diào)查等內(nèi)容進(jìn)行了研究，對(duì)橋梁養(yǎng)護(hù)工作進(jìn)行了總結(jié)。文獻(xiàn)[7]對(duì)簡(jiǎn)支梁橋、連續(xù)梁橋、拱橋等多種公路橋梁的典型病害和防治手段進(jìn)行了總結(jié)，并以圖文的形式加以說(shuō)明。浙江省交通運(yùn)輸廳主編的《中小跨徑橋梁典型病害防治手冊(cè)》[8]

針對(duì)中小跨徑橋梁的6種典型病害成因進(jìn)行分析，并提出了防治措施與加固方法。

綜上所述，既有的研究成果主要是針對(duì)典型橋梁的病害類型及其對(duì)應(yīng)的處治措施進(jìn)行了歸納總結(jié)，內(nèi)容涵蓋了各類常見(jiàn)上部結(jié)構(gòu)、下部結(jié)構(gòu)以及橋面系等。在當(dāng)前的橋梁養(yǎng)護(hù)行業(yè)中，中小跨徑的橋梁病害診斷主要依托工程師的經(jīng)驗(yàn)；當(dāng)工程師無(wú)法判斷時(shí)，需要咨詢行業(yè)專家，由他們給出相關(guān)的病害診斷結(jié)論和養(yǎng)護(hù)措施。這種方式也存在一些問(wèn)題，例如專業(yè)人員水平有限或者判斷失誤時(shí)，容易造成橋梁病害誤診。此外，若引入專家進(jìn)行咨詢，整體流程變得繁瑣，相關(guān)成本將會(huì)提高；同時(shí)，整體所花時(shí)間變長(zhǎng)，不利于對(duì)橋梁病害的及時(shí)處置。

近些年，語(yǔ)言模型得到了長(zhǎng)足的發(fā)展[9]，其中大語(yǔ)言模型在解決復(fù)雜問(wèn)題方面表現(xiàn)出驚人的能力[10]，特別是在智能問(wèn)答[11]、寫作等領(lǐng)域。從國(guó)內(nèi)研究來(lái)看，大語(yǔ)言模型的迭代升級(jí)以及智能應(yīng)用將是持續(xù)研究的熱點(diǎn)。對(duì)交通領(lǐng)域而言，人工智能技術(shù)的快速發(fā)展預(yù)期將在公路工程的設(shè)計(jì)、建設(shè)、運(yùn)營(yíng)、管理、養(yǎng)護(hù)等方面應(yīng)用，這與數(shù)字中國(guó)建設(shè)背景相契合。橋梁病害的識(shí)別、診斷以及養(yǎng)護(hù)措施的智能推薦等應(yīng)用也將在人工智能技術(shù)快速發(fā)展的機(jī)遇下，得到創(chuàng)新式發(fā)展。借助人工智能將大幅提高公路橋梁病害智能診斷的識(shí)別效率與養(yǎng)護(hù)決策的專業(yè)性、實(shí)時(shí)性以及準(zhǔn)確性。

鑒于此，本研發(fā)團(tuán)隊(duì)基于低秩自適應(yīng)（Low-Rank Adaptation， LoRA）的大語(yǔ)言模型微調(diào)方案以及LangChain應(yīng)用框架構(gòu)建橋梁病害診斷及養(yǎng)護(hù)決策智能化推薦系統(tǒng)，實(shí)現(xiàn)了大語(yǔ)言模型在橋梁病害診斷和養(yǎng)護(hù)決策推薦中的應(yīng)用。本文分別對(duì)微調(diào)的模型和微調(diào)并結(jié)合本地知識(shí)庫(kù)的模型進(jìn)行對(duì)比，通過(guò)語(yǔ)義相似性分析，對(duì)比兩種方法生成的文本與目標(biāo)文本的相似程度，確定適合橋梁病害診斷和養(yǎng)護(hù)推薦領(lǐng)域的應(yīng)用框架。最后，對(duì)大語(yǔ)言模型在橋梁病害診斷和養(yǎng)護(hù)決策推薦中的應(yīng)用做了探索，提高了橋梁診斷和養(yǎng)護(hù)決策的智能化水平。

1 大語(yǔ)言模型

1.1 模型對(duì)比

國(guó)內(nèi)外研究機(jī)構(gòu)推出了各種大語(yǔ)言模型，其中較為常見(jiàn)的大語(yǔ)言模型見(jiàn)表1所列。除了表中列出的之外，國(guó)內(nèi)的一些企業(yè)和高校也推出了各種大語(yǔ)言模型，例如科大訊飛的星火認(rèn)知大模型、復(fù)旦大學(xué)的MOSS模型等。此外，研究人員采用中文語(yǔ)料庫(kù)對(duì)LLaMA和Alpaca等模型進(jìn)行了微調(diào)，使其具有中文語(yǔ)言能力。

大語(yǔ)言模型的能力與參數(shù)量、訓(xùn)練方式等緊密相關(guān)。理論上，模型參數(shù)量越大，大語(yǔ)言模型的能力越強(qiáng)，然而過(guò)大的參數(shù)需要大量的顯存加載，難以在小型服務(wù)器上運(yùn)行。因此，本研究采用開(kāi)源的ChatGLM-6B模型。該模型的參數(shù)量約為60億，加載該模型時(shí)最低需要13 GB顯存，微調(diào)最低需要14 GB顯存。相較于其他模型，ChatGLM-6B對(duì)于硬件的要求較低，若采用量化后的模型，對(duì)于顯存的需求將進(jìn)一步降低。

1.2 大語(yǔ)言模型微調(diào)

大語(yǔ)言模型在大規(guī)模數(shù)據(jù)集上進(jìn)行訓(xùn)練后，具備一定的通用語(yǔ)言能力，但在具體領(lǐng)域內(nèi)應(yīng)用時(shí)（例如法律、金融、交通等行業(yè)），可能存在答非所問(wèn)的情況。為了使大語(yǔ)言模型在特定領(lǐng)域中能更好地適應(yīng)具體任務(wù)，采用微調(diào)的方式可以使模型快速獲得特定領(lǐng)域的相關(guān)內(nèi)容。

常見(jiàn)的大語(yǔ)言模型微調(diào)方式主要有全量微調(diào)、LoRA、P-Tuning V2、Freeze Tuning等。上述微調(diào)方式中，類P-Tuning方法雖然可以在大參數(shù)模型上取得較好的效果，但是都存在可解釋性差、收斂慢、微調(diào)不連續(xù)等現(xiàn)象，同時(shí)微調(diào)時(shí)對(duì)于計(jì)算機(jī)硬件的要求也較高。LoRA方法可以利用大語(yǔ)言模型內(nèi)在的低秩特性，通過(guò)增加旁路矩陣來(lái)模擬全訓(xùn)練，實(shí)現(xiàn)輕量級(jí)微調(diào)[12]。LoRA方法的示意圖如圖1所示。

由于A和B的秩遠(yuǎn)遠(yuǎn)小于d，模型微調(diào)過(guò)程中的訓(xùn)練參數(shù)將顯著降低。相比其他微調(diào)方式，LoRA方法可以在微調(diào)過(guò)程中只關(guān)注模型的特定部分，無(wú)需對(duì)整個(gè)模型進(jìn)行全面更新。通過(guò)利用模型的低秩結(jié)構(gòu)，LoRA方法在保持模型性能的同時(shí)，顯著降低了微調(diào)的計(jì)算成本。

值得注意的是，現(xiàn)階段的大語(yǔ)言模型微調(diào)可能存在原有模型能力丟失的現(xiàn)象，即可能導(dǎo)致后續(xù)問(wèn)答過(guò)程中胡言亂語(yǔ)、重復(fù)回答等現(xiàn)象。因此，單單依靠模型的微調(diào)還不足以滿足復(fù)雜任務(wù)的需求，還需要進(jìn)行人工對(duì)齊調(diào)優(yōu)。

2 本地知識(shí)庫(kù)構(gòu)建方法

由于人工對(duì)齊調(diào)優(yōu)需要原始數(shù)據(jù)集，同時(shí)調(diào)整過(guò)程難度高、工作量大，因此在實(shí)踐中很難采用人工對(duì)齊調(diào)優(yōu)的方式對(duì)微調(diào)后的大語(yǔ)言模型進(jìn)行優(yōu)化。為確保大語(yǔ)言模型在垂直領(lǐng)域內(nèi)具有良好的專業(yè)能力，構(gòu)建本地知識(shí)庫(kù)限制大語(yǔ)言模型自由發(fā)揮是一種可行的方法。

LangChain是一種基于大語(yǔ)言模型的應(yīng)用開(kāi)發(fā)框架，可以將外部數(shù)據(jù)和大語(yǔ)言模型相結(jié)合，這就使得基于外部數(shù)據(jù)讓大語(yǔ)言模型進(jìn)行智能問(wèn)答成為了可能。LangChain具備完整的工具、組件和接口，可以簡(jiǎn)化大語(yǔ)言模型應(yīng)用程序開(kāi)發(fā)的過(guò)程，采用LangChain構(gòu)建本地知識(shí)庫(kù)的具體流程如圖2所示。

采用大語(yǔ)言模型和LangChain框架進(jìn)行智能問(wèn)答的過(guò)程可以概括如下：

（1）將本地文檔進(jìn)行非結(jié)構(gòu)化加載，將其分割從而獲得文本塊；

（2）采用Embedding模型對(duì)文本塊進(jìn)行向量存儲(chǔ)，常用的Embedding模型有text2vec-large-chinese、m3e-large等；

（3）對(duì)輸入的問(wèn)題采用Embedding模型進(jìn)行向量抽取，獲得問(wèn)題向量；

（4）將問(wèn)題向量與存儲(chǔ)的向量進(jìn)行匹配，獲得相關(guān)的文本塊；

（5）根據(jù)提示詞模板生成相關(guān)提示詞，將提示詞傳遞給大語(yǔ)言模型，生成相應(yīng)的回答。

3 橋梁病害診斷和養(yǎng)護(hù)推薦系統(tǒng)構(gòu)建

3.1 方案構(gòu)建

對(duì)于橋梁病害診斷和養(yǎng)護(hù)決策推薦而言，工程師或者管理者獲得的答案需要足夠準(zhǔn)確，在充分發(fā)揮大語(yǔ)言模型本身優(yōu)勢(shì)的基礎(chǔ)上，本文將采用大語(yǔ)言模型微調(diào)和本地知識(shí)庫(kù)相結(jié)合的方法，確保大語(yǔ)言模型在完成下游任務(wù)時(shí)規(guī)范、準(zhǔn)確、完整。本文采用的方法主要包括以下幾個(gè)方面：

（1）基于文獻(xiàn)、規(guī)范、書(shū)籍等多方面內(nèi)容，獲得橋梁病害和養(yǎng)護(hù)的相關(guān)數(shù)據(jù)集；

（2）以清華大學(xué)KEG實(shí)驗(yàn)室和智譜AI聯(lián)合研發(fā)的開(kāi)源模型ChatGLM-6B作為測(cè)試模型，基于LoRA技術(shù)采用上述數(shù)據(jù)集對(duì)該大語(yǔ)言模型進(jìn)行微調(diào)；

（3）將ChatGLM-6B模型接入基于LangChain框架構(gòu)建的應(yīng)用程序中，并采用上述數(shù)據(jù)集生成本地知識(shí)庫(kù)；

（4）基于Sentence-transformer庫(kù)采用語(yǔ)義分析的方法篩選出Top k條與問(wèn)題最接近的答案作為參考依據(jù)，然后根據(jù)提示詞模板生成提示詞（Prompt），輸入大語(yǔ)言模型，生成最終的答案；

（5）為進(jìn)一步保證回答的可靠性，對(duì)于超出范圍的問(wèn)題，可以禁止模型自動(dòng)生成答案，避免誤導(dǎo)用戶。

系統(tǒng)方案設(shè)計(jì)如圖3所示。

3.2 計(jì)算參數(shù)及數(shù)據(jù)集

計(jì)算中采用的計(jì)算環(huán)境配置：CPU，Intel? Xeon? Silver 4216 CPU @ 2.10 GHz，64核，128線程；GPU，Tesla V100，2×32 GB；RAM，125 GB；Python 3.10，CUDA 11.7，操作系統(tǒng)為L(zhǎng)inux。

微調(diào)的數(shù)據(jù)集來(lái)源于橋梁病害和養(yǎng)護(hù)相關(guān)規(guī)范[13-15]、書(shū)籍[6-7， 16-17]等。為了便于測(cè)試微調(diào)的效果，采用3 355條問(wèn)答對(duì)，內(nèi)容涵蓋了典型橋梁的病害及其養(yǎng)護(hù)措施，總字?jǐn)?shù)約為40萬(wàn)字。大語(yǔ)言模型采用LoRA技術(shù)進(jìn)行微調(diào)，最大輸入/輸出序列長(zhǎng)度設(shè)置為256，每批次訓(xùn)練數(shù)據(jù)量（train_batch_size）設(shè)置為4，學(xué)習(xí)率設(shè)置為10-4，最大訓(xùn)練步數(shù)設(shè)置為3 000。根據(jù)上述參數(shù)和數(shù)據(jù)集進(jìn)行模型訓(xùn)練，每輪（Epoch）的訓(xùn)練損失和學(xué)習(xí)率如圖4所示。從圖4中可以看出，隨著訓(xùn)練的進(jìn)行，訓(xùn)練損失從3.4降至0.01， Epoch大于9時(shí)，訓(xùn)練損失基本穩(wěn)定，此時(shí)可以認(rèn)為訓(xùn)練已經(jīng)收斂；同時(shí)，學(xué)習(xí)率也隨著訓(xùn)練輪數(shù)的增加而逐漸趨向于0，代表模型已經(jīng)趨于最優(yōu)。

當(dāng)模型訓(xùn)練完成后，可以采用Gradio庫(kù)快速構(gòu)建基于網(wǎng)頁(yè)的可視化界面，用于進(jìn)行系統(tǒng)的輸入輸出測(cè)試。模型問(wèn)答界面如圖5所示。

4 模型評(píng)估及應(yīng)用

4.1 模型評(píng)估

為了對(duì)大語(yǔ)言模型的病害診斷和養(yǎng)護(hù)推薦效果進(jìn)行評(píng)估，本文基于余弦向量對(duì)生成的文本進(jìn)行語(yǔ)義相似度分析。該方法考慮了文本上下文嵌入的位置，計(jì)算數(shù)值越高說(shuō)明兩段文本的相似度越高。具體做法如下：

（1）對(duì)目標(biāo)文本和大語(yǔ)言模型生成的文本進(jìn)行編碼；

（2）計(jì)算特征向量；

（3）計(jì)算兩段文本之間的余弦相似度。

限于篇幅原因，本文從數(shù)據(jù)集中選取了5個(gè)不同類型的問(wèn)題作為語(yǔ)義分析的測(cè)試對(duì)象。

問(wèn)題如下：

（1）什么是涂層缺陷？

（2）什么是空心板板底縱向裂縫？

（3）對(duì)于主筋銹脹引起的空心板板底縱向裂縫，應(yīng)該怎么養(yǎng)護(hù)？

（4）板拱主拱圈縱向開(kāi)裂的病害特征有哪些？

（5）T梁底部橫向裂縫的病害特征是什么？

回答如下：

（1）涂層缺陷是鋼結(jié)構(gòu)表面涂層出現(xiàn)的留痕、氣泡、白化、起皺、起皮等現(xiàn)象；

（2）空心板板底縱向裂縫是沿著板底順橋向出現(xiàn)縱向開(kāi)裂的裂縫；

（3）對(duì)于主筋銹蝕嚴(yán)重的主梁，應(yīng)進(jìn)行更換，對(duì)于主筋銹蝕不嚴(yán)重的主梁，應(yīng)鑿除松散的混凝土，進(jìn)行鋼筋除銹和防銹處理，然后采用高強(qiáng)混凝土恢復(fù)保護(hù)層，視情況粘貼鋼板或者碳纖維布進(jìn)行加固補(bǔ)強(qiáng)；

（4）板拱主拱圈縱向開(kāi)裂的病害特征從裂縫的擴(kuò)展形式來(lái)看主要表現(xiàn)為兩種形式，即從拱腳處由下向上發(fā)展到拱圈的縱向裂縫（通常伴隨墩、臺(tái)帽或帽梁縱向裂縫的出現(xiàn)）和自拱頂向拱腳逐漸延伸的裂縫；

（5）T梁底部橫向裂縫主要分布于橋梁跨的L/4～3L/4處，通常會(huì)延伸至側(cè)面。

僅采用微調(diào)模型時(shí)，5個(gè)問(wèn)題對(duì)應(yīng)生成的文本如下：

（1）涂層缺陷是指涂層中存在缺陷、裂紋、起皮或剝落的現(xiàn)象。

（2）空心板板底縱向裂縫是指空心板底部混凝土出現(xiàn)縱向開(kāi)裂的現(xiàn)象。

（3）對(duì)于主筋銹脹引起的空心板板底縱向裂縫，首先要對(duì)銹脹原因進(jìn)行排查，然后采取相應(yīng)的措施進(jìn)行修復(fù)，如果裂縫較小，建議進(jìn)行封閉裂縫處理。如果裂縫較寬，建議對(duì)銹脹原因進(jìn)行進(jìn)一步排查，必要時(shí)除銹后再進(jìn)行混凝土恢復(fù)，并建議更換有保護(hù)層的鋼筋，避免進(jìn)一步開(kāi)裂。

（4）板拱主拱圈縱向開(kāi)裂的病害特征包括縱向裂縫和拱圈開(kāi)裂。

（5）T梁底部橫向裂縫的病害特征是裂縫發(fā)生于T梁底部的翼緣板和腹板位置，通常與翼緣板和腹板所受荷載大小相似。

當(dāng)采用微調(diào)模型結(jié)合知識(shí)庫(kù)時(shí)，5個(gè)問(wèn)題生成的文本分別為：

（1）涂層缺陷是鋼結(jié)構(gòu)表面涂層出現(xiàn)留痕、氣泡、白化、起皺、起皮等現(xiàn)象；

（2）空心板板底縱向裂縫是沿著板底順橋向出現(xiàn)縱向開(kāi)裂的裂縫；

（3）對(duì)于主筋銹脹引起的空心板板底縱向裂縫，直接采用粘貼鋼板或碳纖維布進(jìn)行加固補(bǔ)強(qiáng)；

（4）板拱主拱圈橫向整體性較差，容易出現(xiàn)縱向開(kāi)裂，裂縫形態(tài)為從拱腳由下而上發(fā)展到拱圈的縱向裂縫，通常伴隨墩、臺(tái)帽或帽梁縱向裂縫的出現(xiàn)；

（5）T梁底部橫向裂縫主要分布于橋梁跨的L/4～3L/4處，通常會(huì)延伸至側(cè)面。

對(duì)上述內(nèi)容進(jìn)行語(yǔ)義分析，其對(duì)比結(jié)果見(jiàn)表2所列。

從表2中可以看出，僅采用微調(diào)方式生成的文本與目標(biāo)文本的相似度較低，5個(gè)問(wèn)題的平均值為0.78；微調(diào)與本地知識(shí)庫(kù)相結(jié)合時(shí)，生成的文本與目標(biāo)文本的相似程度最高，

5個(gè)問(wèn)題的平均值高達(dá)0.92。此外，微調(diào)的模型還存在隨意發(fā)揮的特點(diǎn)，有時(shí)生成的文本與目標(biāo)文本偏差較大。這表明，微調(diào)加本地知識(shí)庫(kù)相結(jié)合的方法，更適用于對(duì)專業(yè)知識(shí)要求高的垂直領(lǐng)域。

4.2 模型應(yīng)用

當(dāng)橋梁的病害及養(yǎng)護(hù)措施數(shù)據(jù)積累到一定程度時(shí)，以微調(diào)的大語(yǔ)言模型結(jié)合本地的知識(shí)庫(kù)作為框架，可以開(kāi)展大語(yǔ)言模型在橋梁病害診斷及養(yǎng)護(hù)決策推薦上的應(yīng)用。將系統(tǒng)部署在手機(jī)設(shè)備等移動(dòng)終端上，具體的應(yīng)用場(chǎng)景可以包括以下幾種：

（1）針對(duì)觀測(cè)到的現(xiàn)象，以自然語(yǔ)言向系統(tǒng)提問(wèn)，獲取病害類型信息。當(dāng)工程人員在現(xiàn)場(chǎng)看到橋梁病害時(shí)，采用自然語(yǔ)言描述，系統(tǒng)根據(jù)描述自動(dòng)推薦可能的病害類型，以便工作人員第一時(shí)間明確病害的種類。

（2）針對(duì)常見(jiàn)的病害，以自然語(yǔ)言與系統(tǒng)交互，獲得病害的可能原因。輸入病害類型以及詳細(xì)的病害描述，結(jié)合該橋的歷史資料給出病害的原因。

（3）針對(duì)已知的病害，以自然語(yǔ)言向系統(tǒng)提問(wèn)，獲取病害對(duì)應(yīng)的養(yǎng)護(hù)措施。根據(jù)橋梁的歷史病害信息、歷史養(yǎng)護(hù)信息，推薦后續(xù)合理的養(yǎng)護(hù)措施。

此外，多模態(tài)的大語(yǔ)言模型還具有圖像、視頻等多源信息識(shí)別能力，后續(xù)可以將多模態(tài)模型基于病害圖片數(shù)據(jù)集進(jìn)行微調(diào)，進(jìn)一步加強(qiáng)大語(yǔ)言模型在橋梁病害診斷上的應(yīng)用，例如做到現(xiàn)場(chǎng)上傳病害圖片，獲得病害的詳細(xì)描述信息，這將大大簡(jiǎn)化病害識(shí)別、信息錄入等工作。

5 結(jié) 語(yǔ)

本文結(jié)合微調(diào)大語(yǔ)言模型和本地知識(shí)庫(kù)，實(shí)現(xiàn)了高效的橋梁病害診斷和養(yǎng)護(hù)決策推薦的實(shí)踐應(yīng)用，為橋梁等基礎(chǔ)設(shè)施的智能養(yǎng)護(hù)提供了一種新思路。采用本文方式，可以利用先進(jìn)的人工智能技術(shù)，降低橋梁病害診斷的難度，減少人員方面的投入。

參考文獻(xiàn)

[1]中華人民共和國(guó)中央人民政府. 2022年交通運(yùn)輸行業(yè)發(fā)展統(tǒng)計(jì)公報(bào)[EB/OL]. https：//www.gov.cn/govweb/lianbo/bumen/202306/content_6887539.htm.

[2]中華人民共和國(guó)中央人民政府. 中共中央 國(guó)務(wù)院印發(fā)《交通強(qiáng)國(guó)建設(shè)綱要》[EB/OL]. https：//www.gov.cn/gongbao/content/2019/content_5437132.htm.

[3]中華人民共和國(guó)中央人民政府. 交通運(yùn)輸部關(guān)于印發(fā)《推進(jìn)綜合交通運(yùn)輸大數(shù)據(jù)發(fā)展行動(dòng)綱要（2020—2025年）》的通知[EB/OL]. https：//www.gov.cn/xinwen/2019-12/16/content_5461503.htm.

[4]中華人民共和國(guó)中央人民政府. 中共中央 國(guó)務(wù)院印發(fā)《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》[EB/OL]. https：//www.gov.cn/xinwen/2023-02/27/content_5743484.htm.

[5]劉大洋，黃文韜，斯新華，等.橋梁病害智能診斷與養(yǎng)護(hù)決策系統(tǒng)研究[J].公路交通技術(shù)，2021，37（1）：101-105.

[6]宋波.圖說(shuō)城市橋梁病害與對(duì)策[M].西安：中國(guó)水利水電出版社，2014.

[7]金輝.公路橋梁典型病害診斷與處治圖解手冊(cè)[M].北京：人民交通出版社，2015.

[8]浙江省交通運(yùn)輸廳.中小跨徑橋梁典型病害防治手冊(cè)[M].北京：人民交通出版社，2011.

[9] ZHAO W X，ZHOU K，LI J，et al. A survey of large language models [J]. arXiv：2303.18223，2023.

[10] WEI J，TAY Y，BOMMASANI R，et al. Emergent abilities of large language models [J]. arXiv：2206.07682，2022.

[11]王翼虎，白海燕，孟旭陽(yáng).大語(yǔ)言模型在圖書(shū)館參考咨詢服務(wù)中的智能化實(shí)踐探索[J].情報(bào)理論與實(shí)踐，2023，46（8）：96-103.

[12] HU E J，SHEN Y，WALLIS P，et al. LoRA：Low-Rank Adaptation of large language models [J]. arXiv：2106.09685，2021.

[13] 交通運(yùn)輸部公路科學(xué)研究院. 公路橋梁技術(shù)狀況評(píng)定標(biāo)準(zhǔn)：JTG/T H21—2011 [S].北京：人民交通出版社，2011.

[14] 中交第一公路勘察設(shè)計(jì)研究院有限公司. 公路橋涵養(yǎng)護(hù)規(guī)范：JTG 5120-2021 [S].北京：人民交通出版社，2021.

[15]上海市市政工程管理處，上海土木工程學(xué)會(huì).上海城市橋梁養(yǎng)護(hù)技術(shù)手冊(cè)[Z]. 2006.

[16]黃官平，儲(chǔ)曉文.常規(guī)公路橋梁典型病害分析與養(yǎng)護(hù)對(duì)策[M].杭州：浙江大學(xué)出版社，2017.

[17]王水龍.橋梁病害[M].上海：上海大學(xué)出版社，2015.