摘"要:異常步態(tài)對(duì)行動(dòng)能力產(chǎn)生嚴(yán)重影響,因此,及時(shí)、自動(dòng)地檢測(cè)異常步態(tài)具有至關(guān)重要的意義。本文提出了一種基于BlazePose和隨機(jī)森林算法的人體異常步態(tài)檢測(cè)方法。先利用BlazePose算法提取RGB視頻中的人體骨骼關(guān)鍵點(diǎn),然后通過(guò)數(shù)據(jù)處理獲取7個(gè)關(guān)鍵的步態(tài)特征參數(shù)。最后采用隨機(jī)森林算法作為步態(tài)分類器,用于區(qū)分正常步態(tài)與異常步態(tài)。利用142例異常步態(tài)數(shù)據(jù)和257例正常步態(tài)數(shù)據(jù)對(duì)分類器進(jìn)行訓(xùn)練和測(cè)試評(píng)估,實(shí)驗(yàn)結(jié)果顯示準(zhǔn)確率和召回率分別達(dá)到97.5%和90%,表明該方法在異常步態(tài)檢測(cè)方面具備一定的可行性和實(shí)用價(jià)值。
關(guān)鍵詞:BlazePose;隨機(jī)森林;異常步態(tài)檢測(cè);數(shù)據(jù)處理
中圖分類號(hào):TP391.4""""""文獻(xiàn)標(biāo)識(shí)碼:A
Abnormal"Gait"Detection"Based"on"BlazePose"and"Random"Forest
HUANG"Zaorong1,WANG"Chunbao1,2,WEI"Jianjun1,YU"Xueshu1,TAN"Xiaohai1
(1."Guangxi"University"of"Science"and"Technology,"Liuzhou,Guangxi"545616"China;
2.Guangdong"Mingkai"Medical"Robot"Co.,"Ltd.,"Zhuhai,Guangdong"519075,"China)
Abstract:Abnormal"gait"significantly"affects"mobility,"making"timely"and"automatic"detection"of"abnormal"gait"critically"important."This"study"proposes"a"human"abnormal"gait"detection"method"based"on"BlazePose"and"the"random"forest"algorithm."Firstly,"the"BlazePose"algorithm"is"utilized"to"extract"skeletal"keypoints"of"thenbsp;human"body"from"RGB"videos."Next,"seven"key"gait"feature"parameters"are"obtained"through"data"processing."Finally,"the"random"forest"algorithm"is"employed"as"the"gait"classifier"to"differentiate"between"normal"and"abnormal"gaits."The"classifier"is"trained"and"evaluated"using"142"cases"of"abnormal"gait"data"and"257"cases"of"normal""gait"data."Experimental"results"show"an"accuracy"of"97.5%"and"a"recall"rate"of"90%,"indicating"that"the"proposed"method"exhibits"certain"feasibility"and"practical"value"in"the"field"of"abnormal"gait"detection.
Key"words:BlazePose;random"forest;abnormal"gait"detection;data"processing
隨著社會(huì)的不斷發(fā)展,人們對(duì)健康和生活質(zhì)量的關(guān)注度日益增加。然而,許多人由于年齡、疾病、受傷等原因可能出現(xiàn)異常步態(tài),尤其是老年人。異常步態(tài)往往暗示著身體機(jī)能下降或存在某些病癥,如步態(tài)速度降低可能是認(rèn)知能力下降的前兆[1],異常步態(tài)與腦血管疾病嚴(yán)重程度相關(guān)[2]等。因此,及時(shí)、自動(dòng)地檢測(cè)人體異常步態(tài)并進(jìn)行進(jìn)一步分析和診斷具有重要意義。
目前,步態(tài)檢測(cè)根據(jù)檢測(cè)設(shè)備主要分為接觸式和非接觸式兩種。接觸式方法利用可穿戴設(shè)備(如慣性傳感器IMU、壓力傳感器、加速度計(jì)等)采集運(yùn)動(dòng)信號(hào)進(jìn)行步態(tài)分析。例如,Vytautas等人[3]通過(guò)在鞋內(nèi)安裝壓力傳感器,分析足部壓力以獲取步速、步長(zhǎng)、足部重量分布和步態(tài)階段的時(shí)間等信息,從而檢測(cè)異常步態(tài),并實(shí)現(xiàn)了94%的準(zhǔn)確率。然而,這種需要安裝在鞋內(nèi)的傳感器方法在實(shí)際應(yīng)用中存在不便。另外,東京工業(yè)大學(xué)的一項(xiàng)研究[4]表明將IMU綁在小腿上進(jìn)行步態(tài)估計(jì)可以準(zhǔn)確反映多個(gè)空間步態(tài)參數(shù),如步幅和步速等。但接觸式方法需要將設(shè)備固定在測(cè)試者身上,這增加了醫(yī)務(wù)人員的負(fù)擔(dān),也可能限制患者的行動(dòng)能力。相比之下,利用攝像頭等非接觸式設(shè)備可以避免這些問(wèn)題。攝像頭主要分為帶深度信息的RGBD攝像頭、普通高清RGB攝像頭和手機(jī)攝像頭,這三類攝像頭在異常步態(tài)檢測(cè)研究中都有涉及。例如,Anthony等人[5]研究了Kinect攝像頭在異常步態(tài)檢測(cè)中的應(yīng)用,結(jié)果顯示識(shí)別成功率約為87%,這個(gè)結(jié)果在臨床環(huán)境中用于診斷與步態(tài)和姿勢(shì)障礙相關(guān)的疾病是可接受的。Wang等人[6]通過(guò)在機(jī)器人上安裝低成本的RGB攝像頭,使用基于視覺(jué)的人體姿態(tài)估計(jì)方法設(shè)計(jì)了一種新型的無(wú)標(biāo)記步態(tài)分析設(shè)備,主要步態(tài)參數(shù)包括內(nèi)翻/外翻和背屈/趾屈。實(shí)驗(yàn)表明,與基于深度相機(jī)或多相機(jī)運(yùn)動(dòng)捕捉系統(tǒng)的方法相比,使用單個(gè)RGB相機(jī)的方法以較小的硬件成本實(shí)現(xiàn)了具有競(jìng)爭(zhēng)力的性能。Aditya等人[7]通過(guò)智能手機(jī)攝像頭創(chuàng)建了基于OpenPose的無(wú)標(biāo)記步態(tài)分析系統(tǒng)(OMGait),使用OMGait測(cè)量了人體在不同照明和服裝條件下的踝關(guān)節(jié)點(diǎn)、膝關(guān)節(jié)點(diǎn)和髖關(guān)節(jié)點(diǎn)的屈伸角度。結(jié)果顯示,該系統(tǒng)足以測(cè)量腳踝、膝蓋和臀部的運(yùn)動(dòng)值,并且比Kinect系統(tǒng)表現(xiàn)更好??梢?jiàn),隨著技術(shù)的發(fā)展,普通攝像頭甚至手機(jī)攝像頭在異常步態(tài)檢測(cè)方面具有良好的檢測(cè)效果和成本優(yōu)勢(shì)。
本文采用普通攝像頭的非接觸式方法,提出了一種基于BlazePose的異常步態(tài)檢測(cè)方法,在自然場(chǎng)景下實(shí)現(xiàn)實(shí)時(shí)監(jiān)測(cè),并進(jìn)行了實(shí)驗(yàn)驗(yàn)證和分析。具體而言,本文利用BlazePose算法提取人體骨骼關(guān)鍵點(diǎn),并提取步態(tài)參數(shù),使用隨機(jī)森林算法作為分類器,對(duì)SAILTUG數(shù)據(jù)集進(jìn)行訓(xùn)練和驗(yàn)證,最終實(shí)現(xiàn)異常步態(tài)的檢測(cè)和分類。本文旨在證明該方法的有效性和實(shí)用性,并探討未來(lái)研究的方向和應(yīng)用前景。
整個(gè)步態(tài)檢測(cè)系統(tǒng)的框架如圖1所示,包括三個(gè)主要步驟:(1)人體骨骼關(guān)鍵點(diǎn)提??;(2)步態(tài)特征參數(shù)提取;(3)步態(tài)分類。
1"相關(guān)工作
1.1"人體姿態(tài)估計(jì)在步態(tài)識(shí)別中的應(yīng)用
人體姿態(tài)估計(jì)是計(jì)算機(jī)視覺(jué)領(lǐng)域的一個(gè)重要研究方向,并得到了廣泛應(yīng)用,包括動(dòng)作識(shí)別、運(yùn)動(dòng)捕捉、增強(qiáng)現(xiàn)實(shí)以及步態(tài)識(shí)別檢測(cè)等。然而,在步態(tài)識(shí)別中,人體姿態(tài)估計(jì)面臨著諸多挑戰(zhàn),如人體姿態(tài)變化、噪聲干擾以及實(shí)時(shí)性等問(wèn)題。因此,將人體姿態(tài)估計(jì)應(yīng)用于步態(tài)識(shí)別仍然是一個(gè)具有挑戰(zhàn)性的任務(wù)。
早期的步態(tài)檢測(cè)主要使用預(yù)定義的模型和統(tǒng)計(jì)學(xué)方法來(lái)描述人體步態(tài),但這些方法往往無(wú)法達(dá)到理想的效果[8]。隨著深度學(xué)習(xí)技術(shù)的發(fā)展,各種算法相繼被提出并得到應(yīng)用發(fā)展,比如DeepPose、CPM、SHN、OpenPose等[9]。這些方法都采用了相似的流程:首先通過(guò)多層卷積和池化操作提取輸入圖像的特征信息,然后通過(guò)一個(gè)或多個(gè)后續(xù)的回歸器或分類器預(yù)測(cè)人體關(guān)鍵點(diǎn)的位置或姿態(tài)。然而,這些算法通常需要大量的計(jì)算資源,并對(duì)硬件有較高的要求。
在2020年,谷歌公司提出了一種名為BlazePose的人體姿態(tài)估計(jì)神經(jīng)網(wǎng)絡(luò)架構(gòu)[10],BlazePose融合了熱圖技術(shù)和回歸關(guān)鍵點(diǎn)技術(shù),具有出色的性能。該方法在中端手機(jī)CPU上的速度比20核電腦CPU上的OpenPose快25~75倍,同時(shí)提供了更多的關(guān)鍵點(diǎn)數(shù)量(達(dá)到33個(gè))。盡管BlazePose在人體姿態(tài)估計(jì)領(lǐng)域取得了顯著的進(jìn)展,但目前在步態(tài)識(shí)別領(lǐng)域的應(yīng)用研究很少。2022年Liu等人[11]提出了一種基于BlazePose和LSTM(long"short"term"memory)的船員跌倒檢測(cè)方法。該方法通過(guò)BlazePose提取人體關(guān)鍵點(diǎn)信息,并使用LSTM對(duì)相關(guān)特征進(jìn)行分析。實(shí)驗(yàn)證明,該算法檢測(cè)海員跌倒行為的準(zhǔn)確率達(dá)到了100%,在CPU上的檢測(cè)幀率可達(dá)29"fps,滿足實(shí)時(shí)檢測(cè)需求。然而,與這項(xiàng)工作不同的是,我們研究的是異常步態(tài)檢測(cè)問(wèn)題,需要提取更多的關(guān)鍵點(diǎn)信息,并計(jì)算步態(tài)特征。基于此方法在硬件成本及識(shí)別精度與速度上的優(yōu)勢(shì),本文選擇使用BlazePose算法進(jìn)行人體骨骼關(guān)鍵點(diǎn)提取工作。
1.2"基于攝像頭的異常步態(tài)檢測(cè)
基于攝像頭的異常步態(tài)檢測(cè)是一種非侵入式的方法,通過(guò)從視頻中提取步態(tài)參數(shù)并使用分類器進(jìn)行判斷,可以識(shí)別異常步態(tài)。早在2006年,Stebbins等人[12]就開(kāi)始研究利用攝像頭系統(tǒng)(Vicon)進(jìn)行異常步態(tài)的視覺(jué)識(shí)別,并使用軟件進(jìn)行自動(dòng)評(píng)估異常情況。研究結(jié)果表明,這種方法在臨床上有助于解釋步態(tài)報(bào)告的一致性,并產(chǎn)生更一致的治療建議。
在傳統(tǒng)的人工步態(tài)評(píng)估中,醫(yī)生和治療師通常綜合考慮多種步態(tài)特征和標(biāo)準(zhǔn),以確定是否存在異常步態(tài)。然而,由于缺乏統(tǒng)一的步態(tài)特征參數(shù)標(biāo)準(zhǔn)來(lái)衡量異常步態(tài),使評(píng)估結(jié)果具有不一致性。步態(tài)特征參數(shù)分為動(dòng)力學(xué)、運(yùn)動(dòng)學(xué)和時(shí)空參數(shù)三種[13]?;跀z像頭的步態(tài)檢測(cè)主要使用運(yùn)動(dòng)學(xué)和時(shí)空參數(shù)。例如,Nguyen等人[14]提出了一種基于正常步態(tài)模型檢測(cè)異常步態(tài)的方法,從骨骼信息中提取了7個(gè)步態(tài)運(yùn)動(dòng)學(xué)參數(shù),如左髖角、右髖角、左膝角和右膝角等,總體準(zhǔn)確率達(dá)到90.12%。Ye等人[15]在完整的步態(tài)周期中提取了12個(gè)步態(tài)參數(shù),包括足距比、膝角比等,并使用多種分類算法進(jìn)行分類,發(fā)現(xiàn)NARXNN算法效果最好。Wang等人[16]在步態(tài)參數(shù)提取器中定義了9個(gè)步態(tài)參數(shù),包括站立時(shí)間、步長(zhǎng)、速度、左髖屈曲等,使用SVM算法作為分類器,并發(fā)現(xiàn)僅使用其中4個(gè)參數(shù)的組合效果比使用全部9個(gè)參數(shù)更好。
異常步態(tài)分類算法分為基于機(jī)器學(xué)習(xí)和基于深度學(xué)習(xí)兩類?;跈C(jī)器學(xué)習(xí)的步態(tài)分類算法主要包括支持向量機(jī)(SVM)、隨機(jī)森林(RF)和K最近鄰(KNN)等算法。而基于深度學(xué)習(xí)的步態(tài)算法主要涵蓋卷積神經(jīng)網(wǎng)絡(luò)(CNN)、長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(LSTM)和循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)等算法。Khokhlova等人[17]采用骨骼關(guān)節(jié)方向數(shù)據(jù)計(jì)算步態(tài)運(yùn)動(dòng)學(xué)參數(shù),并設(shè)計(jì)了一個(gè)LSTM集成模型來(lái)創(chuàng)建無(wú)監(jiān)督的步態(tài)分類器,取得了良好的效果。Chen等人[18]使用不同的分類器(包括SVM、KNN和RF)對(duì)提出的骨關(guān)節(jié)炎異常步態(tài)混合預(yù)測(cè)模型進(jìn)行分類,發(fā)現(xiàn)SVM具有最佳的分類效果,準(zhǔn)確率高達(dá)98.77%。Luo等人[19]基于隨機(jī)森林對(duì)正常步態(tài)與偏癱步態(tài)進(jìn)行分類,分析了步幅和步速等步態(tài)特征對(duì)偏癱分類的重要性,并取得了90.65%"的平均分類準(zhǔn)確率。由于隨機(jī)森林分類算法具有高準(zhǔn)確率和抗過(guò)擬合,以及可以對(duì)特征進(jìn)行重要性分析的特點(diǎn)[20],分類任務(wù)將使用隨機(jī)森林算法進(jìn)行。
2"人體骨骼關(guān)鍵點(diǎn)提取和數(shù)據(jù)預(yù)處理
2.1"人體骨骼關(guān)鍵點(diǎn)提取
此任務(wù)將采用BlazePose網(wǎng)絡(luò)來(lái)提取人體關(guān)鍵點(diǎn)信息。BlazePose是一種輕量級(jí)卷積神經(jīng)網(wǎng)絡(luò),推理過(guò)程中包含一個(gè)人體姿態(tài)檢測(cè)器和一個(gè)姿態(tài)跟蹤器(如圖2)。姿態(tài)跟蹤器預(yù)測(cè)關(guān)鍵點(diǎn)坐標(biāo)、當(dāng)前幀上的人的存在,以及當(dāng)前幀的感興趣區(qū)域。當(dāng)跟蹤器指示沒(méi)有人存在時(shí),在下一幀上重新運(yùn)行檢測(cè)器網(wǎng)絡(luò)。這樣可以使網(wǎng)絡(luò)在手機(jī)等設(shè)備上的運(yùn)行更加輕量級(jí)。
BlazePose網(wǎng)絡(luò)的訓(xùn)練過(guò)程主要包括關(guān)鍵點(diǎn)檢測(cè)和關(guān)鍵點(diǎn)回歸兩個(gè)部分。在網(wǎng)絡(luò)的訓(xùn)練過(guò)程中,采用了熱圖、偏移量和回歸相結(jié)合的方法來(lái)訓(xùn)練整個(gè)網(wǎng)絡(luò)。這一方法對(duì)應(yīng)于圖3中的熱圖(左)、偏移量(中)和回歸(右)。
BlazePose網(wǎng)絡(luò)在訓(xùn)練過(guò)程中首先利用熱圖和偏移量進(jìn)行訓(xùn)練。在回歸訓(xùn)練階段,網(wǎng)絡(luò)截?cái)嗔藞D3(左)的輸出分支。這種截?cái)嗖僮骷扔行У乩昧藷釄D來(lái)監(jiān)督訓(xùn)練過(guò)程,又在不損失準(zhǔn)確率的情況下提高了整個(gè)網(wǎng)絡(luò)的推理速度。相較于COCO"Pose的17個(gè)人體關(guān)鍵點(diǎn),BlazePose人體關(guān)鍵點(diǎn)提取網(wǎng)絡(luò)為每個(gè)人體預(yù)測(cè)了33個(gè)關(guān)鍵點(diǎn)(包括置信度)。這些關(guān)鍵點(diǎn)的拓?fù)浣Y(jié)構(gòu)和效果如圖4所示。與OpenPose和Kinect的拓?fù)浣Y(jié)構(gòu)相比,BlazePose僅利用面部、手和足部上最小數(shù)量的關(guān)鍵點(diǎn)來(lái)估計(jì)后續(xù)模型感興趣區(qū)域的旋轉(zhuǎn)、大小和位置。通過(guò)獲取更豐富的語(yǔ)義特征,本研究確保了步態(tài)參數(shù)的選擇多樣性。
2.2"數(shù)據(jù)預(yù)處理
在進(jìn)行姿態(tài)估計(jì)任務(wù)時(shí),從攝像頭或傳感器獲取的原始數(shù)據(jù)通常會(huì)受到多種干擾因素的影響,例如噪聲和抖動(dòng)。這些因素會(huì)降低數(shù)據(jù)的準(zhǔn)確率和精度。為了解決這個(gè)問(wèn)題,采用了一種常用的非線性數(shù)字信號(hào)處理方法,即中值濾波(median"filter),用于去除圖像和信號(hào)中的異常值。中值濾波的原理是對(duì)信號(hào)的每個(gè)采樣點(diǎn)周?chē)囊欢螀^(qū)域(例如一個(gè)平滑窗口)內(nèi)的所有數(shù)值進(jìn)行排序,并將其中位數(shù)作為該點(diǎn)的新值。中值濾波能有效地消除不同類型的噪聲,如椒鹽噪聲和高斯噪聲,而不會(huì)破壞信號(hào)中的邊緣和細(xì)節(jié)。在實(shí)驗(yàn)中觀察到關(guān)鍵點(diǎn)的x坐標(biāo)和y坐標(biāo)的值變化幅度不同,因此不宜采用相同的平滑窗口大小?;诮?jīng)驗(yàn),為不同的關(guān)鍵點(diǎn)的x坐標(biāo)和y坐標(biāo)選擇了不同的平滑窗口大小。以RAnkle_x(右腳踝的x坐標(biāo))和RAnkle_y(右腳踝的y坐標(biāo))為例,圖5展示了中值濾波的效果,其中RAnkle_x(y)曲線代表BlazePose識(shí)別出的右腳踝關(guān)鍵點(diǎn)的x(y)坐標(biāo),其余兩條曲線表示濾波后的數(shù)據(jù)。RAnkle_x_smooth平滑窗口為15,RAnkle_y_smooth平滑窗口為3。請(qǐng)注意,在此圖中,曲線的數(shù)據(jù)點(diǎn)每15個(gè)顯示一個(gè),并在濾波后曲線上做了一個(gè)小的負(fù)垂直偏移,以便清楚地顯示和比較。
3"步態(tài)參數(shù)提取
3.1"參數(shù)選擇與數(shù)據(jù)處理
根據(jù)先前的研究,結(jié)合異常步態(tài)形態(tài)提出了7個(gè)步態(tài)特征參數(shù)作為人體步態(tài)狀態(tài)的指標(biāo)。這些參數(shù)包括左步幅與左腿長(zhǎng)之比、右步幅與右腿長(zhǎng)之比、左髖屈曲角度、右髖屈曲角度、左膝屈曲角度、右膝屈曲角度和步數(shù)。將這些參數(shù)編號(hào)為G1~G7,并在表1中進(jìn)行詳細(xì)的描述。
在步態(tài)臨床研究中,由于需要正式許可和特殊實(shí)驗(yàn)室設(shè)置,以及難以接觸臨床環(huán)境,導(dǎo)致可用的異常步態(tài)評(píng)估數(shù)據(jù)集非常有限。然而,Wang等人[16]在臨床環(huán)境中收集了404名受試者進(jìn)行TUG(timed"upandgo)測(cè)試的視頻,我們將該視頻數(shù)據(jù)作為異常步態(tài)檢測(cè)的數(shù)據(jù)來(lái)源,并驗(yàn)證步態(tài)檢測(cè)方法的可靠性。
該數(shù)據(jù)集中的受試者需要完成TUG測(cè)試,其中包括從坐到站起、3米步行、轉(zhuǎn)身、3米步行向后、再次坐下這五個(gè)動(dòng)作。由于提出的步態(tài)參數(shù)只需關(guān)注步行過(guò)程,因此,在使用BlazePose識(shí)別人體關(guān)鍵點(diǎn)并進(jìn)行數(shù)據(jù)處理后,需要識(shí)別出開(kāi)始步行、結(jié)束步行、開(kāi)始步行向后、結(jié)束步行向后這四個(gè)時(shí)間點(diǎn)。為了準(zhǔn)確分割步態(tài)階段,選擇了具有明顯數(shù)據(jù)變化的踝關(guān)節(jié)關(guān)鍵點(diǎn)的數(shù)據(jù)作為分割依據(jù)。
由于攝像頭從側(cè)面拍攝受試者,在行走過(guò)程中,遠(yuǎn)離攝像頭的腳的部分會(huì)被另一只腳遮擋,導(dǎo)致腳相關(guān)關(guān)鍵點(diǎn)的識(shí)別精度較低。為提高數(shù)據(jù)準(zhǔn)確率,在計(jì)算步態(tài)參數(shù)時(shí),只考慮相對(duì)于攝像頭較近的腳的數(shù)據(jù)。例如,計(jì)算右步幅時(shí)只考慮受試者從左向右行走時(shí)右腳關(guān)鍵點(diǎn)的數(shù)據(jù)。根據(jù)數(shù)據(jù)預(yù)處理的結(jié)果,對(duì)踝關(guān)節(jié)關(guān)鍵點(diǎn)的數(shù)據(jù)進(jìn)行進(jìn)一步處理。以右踝關(guān)節(jié)點(diǎn)為例,首先由式(1)得到數(shù)據(jù)曲線的斜率。
ki="(yi+1-yi-1)/(xi+1-xi-1)"(1)
式中,ki為該點(diǎn)的斜率;i為該點(diǎn)的索引;x和y分別為數(shù)據(jù)點(diǎn)的橫縱坐標(biāo)。
然后由式(2)對(duì)斜率進(jìn)行閾值處理以消除異常數(shù)據(jù)的影響。根據(jù)經(jīng)驗(yàn)選擇閾值為0.5。
ti=0,kilt;0.5
1,ki≥0.5(2)
式中,ti為該點(diǎn)進(jìn)行閾值處理后的值。
對(duì)于左腳踝關(guān)節(jié)點(diǎn),則取閾值為-0.5。如圖6所示,閾值處理后的曲線中有5個(gè)大于閾值的波段,但其中有2個(gè)明顯不屬于步行過(guò)程,需要去除。通過(guò)波段寬度的大小來(lái)進(jìn)行判斷,根據(jù)實(shí)驗(yàn)結(jié)果選擇寬度閾值為5,由式(3)得到Pi。
Pi=0,n≤5
ti,ngt;5(3)
式中,Pi為該點(diǎn)信號(hào)判斷處理后的值;n表示波段寬度大小。
左踝關(guān)節(jié)點(diǎn)的處理方式相同。通過(guò)這些處理步驟可以確定TUG測(cè)試的5個(gè)階段中步行階段的開(kāi)始和結(jié)束。當(dāng)數(shù)據(jù)值從0變?yōu)?時(shí),表示開(kāi)始邁步;當(dāng)數(shù)據(jù)值從1變?yōu)?時(shí),表示邁步結(jié)束。右步幅的數(shù)量可以由波段的數(shù)量表示。例如在圖6(在此圖中,曲線的數(shù)據(jù)點(diǎn)每15個(gè)顯示一個(gè),并在閾值處理1和閾值處理2曲線上做了一個(gè)小的負(fù)垂直偏移,以便更清楚地顯示和比較)的閾值處理2曲線上,有3個(gè)波段,因此可以得到3個(gè)右步幅參數(shù)。這個(gè)信號(hào)檢測(cè)過(guò)程在后續(xù)步態(tài)參數(shù)計(jì)算中非常重要。
在得到步行階段之后,使用以下方法在其中提取G1~G7共7個(gè)參數(shù)。圖7直觀顯示了一個(gè)右步幅階段的相關(guān)參數(shù)。其中LR1、LR(H-K)、LR(K-A)、LR(H-S)分別表示右步幅長(zhǎng)度、大腿長(zhǎng)度、小腿長(zhǎng)度、肩部到髖關(guān)節(jié)的長(zhǎng)度。θRH、θRK分別表示右髖屈曲角度、右膝屈曲角度。請(qǐng)注意,在此圖中,相機(jī)位于拍攝對(duì)象的右側(cè)。因此,提取右腳相關(guān)關(guān)鍵點(diǎn)。
3.2"參數(shù)計(jì)算
3.2.1"G1和G2
G1是在受試者從右向左行走時(shí)由式(4)求得,G2是在受試者從左向右行走時(shí)由式(5)求得。腿長(zhǎng)由兩段長(zhǎng)度(髖關(guān)節(jié)到膝關(guān)節(jié)、膝關(guān)節(jié)到踝關(guān)節(jié)的長(zhǎng)度)相加得到,為減小誤差,這兩個(gè)數(shù)據(jù)在單個(gè)步幅階段中每幀計(jì)算得到后通過(guò)取眾數(shù)的方法求得。而單個(gè)步幅由一個(gè)步幅階段中的邁步起始點(diǎn)與邁步結(jié)束點(diǎn)兩點(diǎn)之間的歐式距離求得,以右步幅為例,可由式(6)求得。
G1=L左步幅L左腿長(zhǎng)=LL1+LL2+…·+LLn/n左LL(H-K)+LL(K-A)"(4)
G2=L右步幅L右腿長(zhǎng)=LR1+LR2+…+LRn/n右LR(H-K)+LR(K-A)""(5)
式中,LLn(LRn)表示第n個(gè)左(右)步幅數(shù)據(jù);LL(H-K)(LR(H-K))表示左(右)腳髖關(guān)節(jié)點(diǎn)與膝關(guān)節(jié)點(diǎn)的長(zhǎng)度;LL(K-A)(LR(K-A))表示左(右)腳膝關(guān)節(jié)點(diǎn)與踝關(guān)節(jié)點(diǎn)的長(zhǎng)度。
LRi=
RAxi-RAxi-12+RAyi-RAyi-12"(6)
式中,LRi表示右步幅長(zhǎng)度;RAx和RAy分別表示右腳踝關(guān)節(jié)點(diǎn)x和y的位置。
3.2.2"G3和G4
與前兩個(gè)參數(shù)一樣,G3是受試者從右向左行走時(shí)提取的,G4是受試者從左向右行走時(shí)提取的。并直接取序列的最大差值,如式(7)和式(8)所示。而具體的角度計(jì)算根據(jù)余弦定理求得,以右腳髖關(guān)節(jié)屈曲角度為例,由式(9)求得。
G3=θLHmax"-θLHmin"(7)
G4=θRHmax"-θRHmin""(8)
式中,θLHmax和θLHmin分別表示左腳髖關(guān)節(jié)屈曲最大和最小角度;θRHmax和θRHmin分別表示右腳髖關(guān)節(jié)屈曲最大和最小角度。
θRH=arcosL2R(H-K)+L2R(H-S)-L2R(S-K)
2×LR(H-K)×LR(H-S)(9)
式中,LR(H-K)、LR(H-S)和LR(S-K)分別表示右腳髖關(guān)節(jié)到膝關(guān)節(jié)的距離;髖關(guān)節(jié)到肩關(guān)節(jié)的距離和肩關(guān)節(jié)到膝關(guān)節(jié)的距離。
3.2.3"G5和G6
計(jì)算方法與G3和G4類似,如式(10)~式(12)所示。
G5=θLKmax"-θLKmin""(10)
G6=θRKmax"-θRKmin""(11)
式中,θLKmax和θLKmin分別表示左腳膝關(guān)節(jié)屈曲最大和最小角度;θRHmax和θRHmin表示右腳膝關(guān)節(jié)屈曲最大和最小角度。
θRK=arcosL2R(H-K)+L2R(K-A)-L2R(H-A)
2×LR(H-K)×LR(K-A)(12)
式中,LR(H-K)、LR(K-A)和LR(H-A)分別表示右腳髖關(guān)節(jié)到膝關(guān)節(jié)的距離、膝關(guān)節(jié)到踝關(guān)節(jié)的距離和髖關(guān)節(jié)到踝關(guān)節(jié)的距離。
3.2.4"G7
一個(gè)步幅表示走了兩步,所以步數(shù)可由左步幅和右步幅得到,如式(13)。
G7=2×G1+G2"(13)
4"步態(tài)分類
首先對(duì)數(shù)據(jù)集中的404個(gè)視頻樣本進(jìn)行詳細(xì)分析,剔除5個(gè)燈光閃爍或測(cè)試者未按規(guī)定路徑行走的樣本,得到399個(gè)符合要求的視頻樣本,其中異常與正常步態(tài)的數(shù)量分別為142和257。通過(guò)對(duì)樣本進(jìn)行步態(tài)特征參數(shù)的提取工作,得到一個(gè)包含399組步態(tài)特征參數(shù)的集合,記為P={P1,P2,…,Pk};Pk=(G1,G2,G3,G4,G5,G6,G7,n),其中k∈[1,399],n=0或1。這對(duì)應(yīng)于異常和正常兩個(gè)類別。
隨機(jī)森林是一種集成學(xué)習(xí)算法[21]。它通過(guò)構(gòu)建多個(gè)決策樹(shù)進(jìn)行預(yù)測(cè),并通過(guò)投票來(lái)集成它們的預(yù)測(cè)結(jié)果。該算法會(huì)對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行隨機(jī)采樣,同時(shí)隨機(jī)選擇特征,從而降低過(guò)擬合的風(fēng)險(xiǎn),提高預(yù)測(cè)的準(zhǔn)確率和穩(wěn)定性。
為了解各個(gè)參數(shù)對(duì)分類結(jié)果的貢獻(xiàn)程度,使用隨機(jī)森林算法對(duì)特征參數(shù)集合P進(jìn)行特征權(quán)重計(jì)算,結(jié)果如圖8所示。參數(shù)G7對(duì)分類的貢獻(xiàn)率最高,達(dá)到了31.7%,而參數(shù)G3的貢獻(xiàn)率僅為5.3%。這說(shuō)明步數(shù)(由參數(shù)G7表示)在分類任務(wù)中起到了重要作用,也間接驗(yàn)證了在固定距離內(nèi)行走的步數(shù)可以作為判斷步態(tài)異常的重要指標(biāo)。
分類評(píng)估指標(biāo)包括準(zhǔn)確率(accuracy)、召回率(recall)和AUROC(area"under"the"receiver"operating"characteristic"curve)。準(zhǔn)確率是指模型正確分類的樣本數(shù)占總樣本數(shù)的比例[如式(14)]。召回率是指在所有實(shí)際為正例的樣本中,被模型正確預(yù)測(cè)為正例的樣本所占的比例[如式(15)]。召回率衡量了模型對(duì)正例樣本的覆蓋能力。AUROC是ROC曲線下的面積,其取值范圍在0到1之間。它是評(píng)估二分類模型性能的指標(biāo)之一,用于衡量模型在不同閾值下分類的整體性能。
Accuracy=TP+TNTP+FP+FN+TN×100%(14)
Recall=TPTP+FN×100%(15)
為了評(píng)估不同步態(tài)特征參數(shù)對(duì)分類效果的貢獻(xiàn),對(duì)這些參數(shù)進(jìn)行組合處理,并使用隨機(jī)森林分類器進(jìn)行評(píng)估??偣灿?個(gè)參數(shù),因此可以得到27=128種不同的參數(shù)組合。得到的評(píng)估結(jié)果如圖9所示(按照準(zhǔn)確率從高到低排列,每2個(gè)參數(shù)組合數(shù)據(jù)只顯示1個(gè),以便清楚地顯示)。準(zhǔn)確率范圍在0.575至0.975之間,召回率范圍在0.2至0.9之間。這表明不同的參數(shù)組合對(duì)分類效果有著顯著影響,合理的步態(tài)參數(shù)組合可以得到較好的分類結(jié)果。
本文在采用隨機(jī)森林算法的同時(shí),添加決策樹(shù)(DT)[22]、K最近鄰(KNN)[23]、邏輯回歸(LR)[24]、樸素貝葉斯(NB)[25]、隨機(jī)梯度下降(SGD)[26]、支持向量機(jī)(SVM)[27]等先進(jìn)分類算法對(duì)步態(tài)進(jìn)行分類識(shí)別。在每次訓(xùn)練過(guò)程中將訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)按照8∶2的比例進(jìn)行隨機(jī)拆分。實(shí)驗(yàn)結(jié)果顯示在表2中,可以觀察到,隨機(jī)森林算法展現(xiàn)出最佳的分類效果,其準(zhǔn)確率達(dá)到97.5%,召回率為90%,AUROC為0.92。這表明隨機(jī)森林分類器在該問(wèn)題上具有較好的分類性能。
5"結(jié)"論
本文提出了一種基于BlazePose和隨機(jī)森林算法的異常步態(tài)檢測(cè)方法,利用BlazePose算法進(jìn)行人體骨骼關(guān)鍵點(diǎn)提取。提取了7個(gè)步態(tài)特征參數(shù)并進(jìn)行計(jì)算。利用隨機(jī)森林算法對(duì)SAILTUG數(shù)據(jù)集進(jìn)行分類實(shí)驗(yàn),實(shí)驗(yàn)結(jié)果表明,本文的方法能夠有效地檢測(cè)出正常與異常步態(tài),并具有較高的準(zhǔn)確率、召回率和AUROC值。這驗(yàn)證了該方法在步態(tài)識(shí)別檢測(cè)中的可行性。
通過(guò)與多種分類算法進(jìn)行比較,發(fā)現(xiàn)隨機(jī)森林算法在本方法中表現(xiàn)最佳。這為進(jìn)一步改進(jìn)和優(yōu)化步態(tài)異常檢測(cè)模型提供了有益的參考。此外也對(duì)不同步態(tài)特征參數(shù)的組合進(jìn)行了評(píng)估,發(fā)現(xiàn)不同的參數(shù)組合對(duì)分類效果產(chǎn)生較大影響。特別是步數(shù)這一參數(shù)在分類任務(wù)中起到了重要作用,可以作為判斷步態(tài)異常的重要指標(biāo)之一。
未來(lái)的研究可以探索優(yōu)化算法和模型,對(duì)步態(tài)參數(shù)進(jìn)行更深入的分析,以進(jìn)一步提升步態(tài)異常檢測(cè)的性能和精確度。此外,可以將異常步態(tài)檢測(cè)應(yīng)用于更廣泛的領(lǐng)域,如醫(yī)療和運(yùn)動(dòng)康復(fù)等,以促進(jìn)健康管理和康復(fù)治療的發(fā)展。
參考文獻(xiàn)
[1]"COHEN"A"J,VERGHESE"J,ZWERLING"L"J."Cognition"and"gait"in"older"people[J]."Maturitas,2016,93:73-77.
[2]"SHARMA"B,WANG"Meng,MCCREARY"C"R,et"al."Gait"and"falls"in"cerebral"small"vessel"disease:"a"systematic"review"and"metaanalysis[J]."Age"and"ageing,2023,52(3):1-12.
[3]"VYTAUTAS"B,ANDRIUS"D,JUSTE"R,et"al."Wearable"feet"pressure"sensor"for"human"gait"and"falling"diagnosis[J]."Sensors,2021,21(15):5240-5252.
[4]"MAO"Yufeng,TAIKI""O,HIROKI""O,et"al."Estimation"of"stridebystride"spatial"gait"parameters"using"inertial"measurement"unit"attached"to"the"shank"with"inverted"pendulummodel[J]."Scientific"Reports,2021,11(1):1-10.
[5]"ANTHONY"B,KONSTANTINOS"B,MAYSAM"A."A"review"on"the"use"of"microsoft"kinect"for"gait"abnormality"and"postural"disorder"assessment[J]."Journal"of"healthcare"engineering,2021,2021:1-19.
[6]"WANG"Ziyang,F(xiàn)ANI"D,IRINA"V,et"al."A"single"RGB"camera"based"gait"analysis"with"a"mobile"telerobot"for"healthcare[J]."Annual"International"Conference"of"the"IEEE"Engineering"in"Medicine"and"Biology"Society,2021,2021:6933-6936.
[7]"ADITYA"V,VENKATESWARAN"R,TATHAGATA"R,et"al."Development"of"a"robust,simple,and"affordable""human"gait"analysis"system"using"bottomup"pose"estimation"with"a"smartphone"camera[J]."Frontiers"in"Physiology,2022,12:784-865.
[8]"TAFAZZOLI"F,SAFABAKHSH"R."Modelbased"human"gait"recognition"using"leg"and"arm"movements[J]."Engineering"Applications"of"Artificial"Intelligence,2010,23(8):1237-1246.
[9]"曹曉瑜,夏端峰.基于深度學(xué)習(xí)的人體姿態(tài)估計(jì)方法綜述[J].現(xiàn)代信息科技,2022,6(23):1-6.
[10]BAZAREVSKY"V,GRISHCHENKO"I,RAVEENDRAN"K,et"al."BlazePose:ondevice"realtime"body"pose"tracking[J].2020.DOI:10.48550/arXiv.2006.10204.
[11]LIU"Wei,LIU"Xu,HU"Yuan,et"al."Fall"detection"for"shipboard"seafarers"based"on"optimized"BlazePose"and"LSTM[J]."Sensors,2022,22(14):5449-5467.
[12]STEBBIN"J,PITT"T,THEOLOGIS"T."Objective"identification"of"gait"abnormalities[J]."Gait"amp;"Posture,2006,24:47-49.
[13]田皓宇,馬昕,李貽斌.基于骨架信息的異常步態(tài)識(shí)別方法[J].吉林大學(xué)學(xué)報(bào)(工學(xué)版),2022,52(4):725-737.
[14]NGUYEN"T"N,HUYNH"H"H,MEUNIER"J,et"al."Skeletonbased"abnormal"gait"detection[J]."Sensors,2016.16(11):1792-1805.
[15]YE"Minxiang,YANG"Cheng,VLADIMIR"S,et"al."Distinct"feature"extraction"for"videobased"gait"phase"classification[J]."IEEE"Transactions"on"Multimedia,2019.22(5):1113-1125.
[16]WANG"Yanhong,ZOU"Qiaosha,TANG"Yanmin,et"al."Sail:a"deeplearningbased"system"for"automatic"gait""assessment"from"TUG"videos[J]."IEEE"Transactions"on"HumanMachine"Systems,2022,52(1):110-122.
[17]KHOKHLOVA"M,MIGNIOT"C,MOROZOV"A,et"al."Normal"and"pathological"gait"classification"LSTM"model[J]."Artif"IntellMed,2019,94:54-66.
[18]CHEN"Fang,CUI"Xiwen,ZHAO"Zhe,et"al."Gait"Acquisition"and"analysis"system"for"osteoarthritis"based"on"hybrid"Prediction"Model[J]."Computerized"Medical"Imaging"and"Graphics,2020,85:1-11.
[19]LUO"Guoliang,ZHU"Yean,WANG"Rui,et"al."Random"forest"based"classification"and"analysis"of"hemiplegiagait"using"lowcost"depth"cameras[J].Medical"amp;"Biological"Engineering"amp;"Computing,2020,58(2):373-382.
[20]呂紅燕,馮倩.隨機(jī)森林算法研究綜述[J].河北省科學(xué)院學(xué)報(bào),2019,36(3):37-41.
[21]HO"T"K."Random"decision"forests[J]."IEEE"Computer"Society,1995(1):278-282.
[22]QUINLAN"J"R."Induction"of"decision"trees[J]."Machine"Learning,1986,1(1):81-106.
[23]ALTMAN"N"S."An"introduction"to"kernel"and"nearest"neighbor"nonparametric"regression[J].The"American"Statistician,1992,46(3):175-185.
[24]WALKER"S"H,DUNCAN"D"B."Estimation"of"the"probability"of"an"event"as"a"function"of"several"independent"variables[J]."Biometrika,1967,54(1-2):167-179.
[25]MARON"M"E."Automatic"indexing:"an"experimental"inquiry[J]."Journal"of"the"Acm,1961,8(3):404-417.
[26]MONRO"R"S."A"stochastic"approximation"method[J]."Annals"of"Mathematical"Statistics,1951,22(3):400-407.
[27]CORTES"C,VAPNIK"V."Supportvector"networks[J]."Machine"Learning,1995,20(3):273-297.
計(jì)算技術(shù)與自動(dòng)化2024年2期