(19)國家知識產(chǎn)權(quán)局(12)發(fā)明專利(10)授權(quán)公告號CN115944302B(65)同一申請的已公布的文獻(xiàn)號(43)申請公布日2023.04.11(73)專利權(quán)人浙江大學(xué)地址310058浙江省杭州市西湖區(qū)余杭塘路866號(72)發(fā)明人劉華鋒彭建輝(74)專利代理機(jī)構(gòu)杭州天勤知識產(chǎn)權(quán)代理有限公司33224A61B5/346(2021.01)A61B5/00(2006.01)A61B5/318(2021.01)(54)發(fā)明名稱基于注意力機(jī)制的無監(jiān)督多模態(tài)心電圖異常檢測方法本發(fā)明公開了一種基于注意力機(jī)制的無監(jiān)督多模態(tài)心電圖異常檢測方法，根據(jù)體表電生理信號無監(jiān)督地自動進(jìn)行心電圖的異常檢測，模型在時(shí)序電信號的基礎(chǔ)上還考慮了頻域信號特性，通過對輸入信號編碼再解碼重構(gòu)出原始信號，當(dāng)重構(gòu)的時(shí)序信號與輸入時(shí)序信號差異大于一定時(shí)域與頻域信號進(jìn)行特征提取，在無監(jiān)督不使用標(biāo)簽的情況下，能夠區(qū)分正常與異常的ECG心拍數(shù)據(jù)；在有標(biāo)簽的心電圖數(shù)據(jù)有限的情況下，輔2所述重構(gòu)模型中的兩個(gè)編碼模塊結(jié)構(gòu)相同，但在訓(xùn)練過程中兩個(gè)編碼模塊輸出的編碼特征沿時(shí)間軸方向拼接，即拼接之后維度變?yōu)樵瓉淼膬杀?，輸入至模型中的心電時(shí)域序列和心電頻域序列需先進(jìn)行位置編PE(pos,2i+1)=cos(pos/1(5)將待檢測心電信號的時(shí)域序列和頻域序列輸入至訓(xùn)練好的重構(gòu)模型，根據(jù)模型輸若該重構(gòu)誤差大于設(shè)定閾值，則判定待檢測的心電信號存2.根據(jù)權(quán)利要求1所述的無監(jiān)督多模態(tài)心電圖異常檢測方法，其特征在于：所述步驟4.2將心電時(shí)域序列和心電頻域序列輸入至模型，模型正向傳播輸出得到對應(yīng)的重構(gòu)3結(jié)果即ECG波形序列，計(jì)算輸出的ECG波形序列與輸入的心電時(shí)域序列之間的損失函數(shù)L;4.3根據(jù)損失函數(shù)L利用優(yōu)化器通過梯度下降法對模型參數(shù)不斷迭代更新，直至損失函3.根據(jù)權(quán)利要求2所述的無監(jiān)督多模態(tài)心電圖異常檢測方法，其特征在于：所述損失函數(shù)L的表達(dá)式如下：其中：y;為輸出的ECG波形序列中第i個(gè)幅值，x:為輸入的心電時(shí)域序列中第i個(gè)幅值，n為心電時(shí)域序列的維度。4技術(shù)領(lǐng)域[0001]本發(fā)明屬于心臟電生理疾病預(yù)測技術(shù)領(lǐng)域，具體涉及一種基于注意力機(jī)制的無監(jiān)督多模態(tài)心電圖異常檢測方法。背景技術(shù)[0002]心血管疾病一系列心臟或者血管相關(guān)疾病總稱，一直都是威脅人類生命的主要疾病之一，其引起的死亡率仍占首位。ECG(心電信號)是人類最早研究并應(yīng)用于醫(yī)學(xué)臨床的生物信號之一，心電圖反映了人體心臟健康狀況，是臨床診斷心血管類疾病的重要依據(jù)。隨著心電圖數(shù)量的快速增長，利用AI算法輔助醫(yī)生進(jìn)行自動化異常診斷極為重要。[0003]現(xiàn)有的許多ECG自動診斷算法是基于專家醫(yī)生分析和標(biāo)注的數(shù)據(jù)進(jìn)行監(jiān)督學(xué)習(xí)得到的。但由于專家只能處理少量的心電圖數(shù)據(jù)，并且這些數(shù)據(jù)大都來自于同一種模式，因此基于監(jiān)督學(xué)習(xí)的自動診斷算法有其局限性。另外，標(biāo)簽數(shù)據(jù)中各類型標(biāo)簽的分布通常不平衡，這會對模型的診斷分析效果造成影響；未經(jīng)標(biāo)注的數(shù)據(jù)也是有價(jià)值的，它可以進(jìn)一步揭示患者心血管系統(tǒng)內(nèi)部的潛在病理信息。因此，研發(fā)一種能夠進(jìn)行無監(jiān)督診斷心電圖數(shù)據(jù)的算法是非常重要的。[0004]目前，現(xiàn)有的無監(jiān)督ECG異常檢測或分類方法大多都沒有充分利用和挖掘數(shù)據(jù)本身的特征，大致可分為兩類：一類是使用聚類算法來實(shí)現(xiàn)無監(jiān)督?jīng)Q策，例如文獻(xiàn)[AbawajyJH,KelarevAV,ChowdhuryM.MultistageclassificationofECGdata[J].Computer2013,112(3):720-730]使用高斯混合模型和K-means聚類算法，將ECG數(shù)據(jù)轉(zhuǎn)換為數(shù)值特征，從而完成異常分類。另一類是通過深度學(xué)習(xí)端到端地實(shí)現(xiàn)ECG的異常檢測，例如文獻(xiàn)[PereiraJ,SilveiraM.UnsupervisedreprdetectioninECGsequences[J].InternationalJournalofDataMiningandBioinformatics,2019,22(4):389-]在遞歸網(wǎng)絡(luò)作為自編碼器的基礎(chǔ)上，再對其編碼特征進(jìn)行解碼重構(gòu)輸入。盡管如此，但上述方法存在的缺陷是沒有充分利用和挖掘ECG的信息，模型缺乏結(jié)合更多維度的特征。發(fā)明內(nèi)容[0005]鑒于上述，本發(fā)明提供了一種基于注意力機(jī)制的無監(jiān)督多模態(tài)心電圖異常檢測方法，利用注意力機(jī)制去挖掘時(shí)域與頻域數(shù)據(jù)中的隱藏特征，無監(jiān)督地重構(gòu)時(shí)域輸入，能夠很好地解決含有標(biāo)簽的心電圖數(shù)據(jù)缺少，有監(jiān)督的模型難以取得廣泛的自動診斷效果的現(xiàn)[0006]一種基于注意力機(jī)制的無監(jiān)督多模態(tài)心電圖異常檢測方法，包括如下步驟：[0007](1)從病人體表采集多導(dǎo)聯(lián)心電信號，以每一個(gè)心跳周期為一組心電時(shí)域序列；[0008](2)對每組心電時(shí)域序列進(jìn)行歸一化處理以及頻域轉(zhuǎn)換，得到對應(yīng)的心電頻域序5[0009](3)構(gòu)建基于注意力機(jī)制的重構(gòu)模型，其包含兩個(gè)編碼模塊以及一個(gè)解碼模塊，兩個(gè)編碼模塊分別用于對心電時(shí)域序列和心電頻域序列進(jìn)行編碼，得到的編碼特征拼接后經(jīng)由解碼模塊解碼成與輸入維度一致的ECG波形序列；[0010](4)將心電時(shí)域序列和心電頻域序列成對逐一輸入至模型，以模型輸出的ECG波形序列與輸入心電時(shí)域序列平均誤差最小為損失函數(shù)，從而對模型進(jìn)行訓(xùn)練；[0011](5)將待檢測心電信號的時(shí)域序列和頻域序列輸入至訓(xùn)練好的重構(gòu)模型，根據(jù)模型輸出ECG波形序列與輸入心電時(shí)域序列之間的重構(gòu)誤差，判別待檢測的心電信號是否異[0012]進(jìn)一步地，所述步驟(2)中的歸一化處理采用最大-最小值歸一化策略，頻域轉(zhuǎn)換采用小波變換。[0013]進(jìn)一步地，所述重構(gòu)模型中的兩個(gè)編碼模塊結(jié)構(gòu)相同，但在訓(xùn)練過程中不共享權(quán)[0014]進(jìn)一步地，輸入至模型中的心電時(shí)域序列和心電頻域序列需先進(jìn)行位置編碼，即給序列中每一時(shí)刻對應(yīng)的幅值增添時(shí)間位置信息，具體如下：[0015]PECos,2z)=sin奇數(shù)位置增添的時(shí)間位置信息，pos表示序列中每一幅值對應(yīng)的時(shí)間點(diǎn)，d表示編碼的維度，i為自然數(shù)。[0018]進(jìn)一步地，所述編碼模塊采用多頭注意力機(jī)制以及殘差連接，其中多頭注意力機(jī)制由多個(gè)自注意力機(jī)制疊加形成；同時(shí)在編碼模塊前向傳播學(xué)習(xí)參數(shù)的過程中，對每層參數(shù)做了LayerNormalization,對每一層的激活值做了歸一化。[0019]進(jìn)一步地，所述自注意力機(jī)制的計(jì)算過程如下：[0024]其中：Attention(Q,K,V)為自注意力機(jī)制的輸出，embeding為經(jīng)位置編碼后的心電[0025]進(jìn)一步地，兩個(gè)編碼模塊輸出的編碼特征沿時(shí)間軸方向拼接，即拼接之后維度變?yōu)樵瓉淼膬杀?，進(jìn)而特征經(jīng)由解碼模塊線性映射層解碼成與輸入維度一致的ECG波形序列。[0026]進(jìn)一步地，所述步驟(4)中對模型進(jìn)行訓(xùn)練的過程如下：[0027]4.1初始化模型參數(shù)，包括每一層的偏置向量和權(quán)值矩陣、學(xué)習(xí)率以及優(yōu)化器；[0028]4.2將心電時(shí)域序列和心電頻域序列輸入至模型，模型正向傳播輸出得到對應(yīng)的重構(gòu)結(jié)果即ECG波形序列，計(jì)算輸出的ECG波形序列與輸入的心電時(shí)域序列之間的損失函數(shù)6[0032]其中：y,為輸出的ECG波形序列中第i個(gè)幅值，x:為輸入的心電時(shí)域序列中第i個(gè)幅根據(jù)統(tǒng)計(jì)學(xué)概率分布所設(shè)置即閾值為訓(xùn)練重構(gòu)誤差的均值與方差之和。[0035]本發(fā)明通過對ECG的時(shí)域與頻域信號進(jìn)行特征提取，在無監(jiān)督不使用標(biāo)簽的情況附圖說明數(shù)據(jù)。[0044]其中：x表示心電圖數(shù)據(jù)每個(gè)導(dǎo)聯(lián)上某一時(shí)刻的信號幅值，xm:n表示該導(dǎo)聯(lián)心跳信7果。8列幅值。[0079]為了驗(yàn)證本發(fā)明的有效性，我們使用公開心電圖