隱馬爾可夫模型hidden Markov modelHMM這個(gè)名字聽(tīng)起來(lái)像是概率論教材里最不好惹的那一章可如果你寫(xiě)過(guò)語(yǔ)音識(shí)別、做過(guò)中文分詞、跑過(guò)基因序列標(biāo)注回頭一看會(huì)發(fā)現(xiàn)早就跟它打過(guò)照面了。它的核心設(shè)定樸素得有點(diǎn)反直覺(jué)系統(tǒng)在背后按一條你根本看不見(jiàn)的狀態(tài)鏈悄悄演化每個(gè)時(shí)刻只吐給你一個(gè)觀(guān)測(cè)值你要靠這串觀(guān)測(cè)值去反推狀態(tài)是什么、參數(shù)該怎么估。這種看得見(jiàn)結(jié)果、看不見(jiàn)原因的結(jié)構(gòu)在現(xiàn)實(shí)里比比皆是——用戶(hù)點(diǎn)沒(méi)點(diǎn)廣告你能看到他心里想買(mǎi)什么你看不到設(shè)備報(bào)出來(lái)的溫度你能讀到內(nèi)部是正常運(yùn)轉(zhuǎn)還是已經(jīng)開(kāi)始劣化你不知道。我寫(xiě)這篇的動(dòng)機(jī)很簡(jiǎn)單。市面上講 HMM 的材料要么停在公式推導(dǎo)層面三個(gè)問(wèn)題列出來(lái)、公式貼上去就結(jié)束了讀者抄完公式不知道代碼該長(zhǎng)什么樣要么直接甩一句調(diào) hmmlearn 就行等到真出問(wèn)題——概率全部下溢成 0、模型收斂到一個(gè)明顯不合理的結(jié)果、狀態(tài)數(shù)怎么選——完全無(wú)從下手。我打算把這兩頭接上從為什么這個(gè)算法必須這么設(shè)計(jì)講到我的實(shí)際代碼長(zhǎng)什么樣中間那些只有踩過(guò)坑才知道的細(xì)節(jié)一個(gè)都不省。適合誰(shuí)看如果你已經(jīng)能看懂基本的條件概率和矩陣乘法想真正把 HMM 用起來(lái)這篇是給你寫(xiě)的。如果你只是想快速回顧一下公式也可以只看第 1 節(jié)和第 7 節(jié)一個(gè)幫你建立直覺(jué)一個(gè)幫你判斷這東西今天還值不值得用。1. 從看不見(jiàn)的狀態(tài)說(shuō)起HMM 要解決的到底是什么問(wèn)題1.1 兩個(gè)骰子的賭局先建立對(duì)隱藏狀態(tài)的物理直覺(jué)拋開(kāi)公式先想象一個(gè)場(chǎng)景。桌上有兩個(gè)骰子一個(gè)是正常骰子六個(gè)面概率均等另一個(gè)被做過(guò)手腳擲出 6 的概率是 0.5其余五個(gè)面平分剩下的 0.5。現(xiàn)在有人每次隨機(jī)挑一個(gè)骰子擲一次記下點(diǎn)數(shù)然后換不換骰子你也不知道——但你只能看到一長(zhǎng)串點(diǎn)數(shù)6 6 1 6 6 6 2 6 ...。問(wèn)題來(lái)了這串點(diǎn)數(shù)背后每一輪到底用的是哪個(gè)骰子你腦子里會(huì)自然冒出兩個(gè)判斷。第一連續(xù)看到好幾個(gè) 6那大概率是那個(gè)動(dòng)了手腳的骰子。第二骰子的切換本身也有慣性一個(gè)人不太可能每一輪都換著擲上一輪用了哪個(gè)這一輪繼續(xù)用的概率應(yīng)該更高。這兩個(gè)判斷恰好就是 HMM 的兩根支柱發(fā)射概率某個(gè)狀態(tài)下觀(guān)測(cè)值出現(xiàn)的可能性和轉(zhuǎn)移概率狀態(tài)與狀態(tài)之間的切換傾向。再換個(gè)更貼近應(yīng)用的例子。假設(shè)你有個(gè)朋友住在很遠(yuǎn)的地方每天只能在社交平臺(tái)上看到他發(fā)了什么——散步購(gòu)物打掃房間。你想知道他那邊天氣怎么樣但天氣預(yù)報(bào)你拿不到。這里晴/雨是隱藏狀態(tài)散步/購(gòu)物/打掃是你能看到的觀(guān)測(cè)。晴天的日子里他更可能去散步雨天的日子里他更可能待在家打掃。你手上有一串他的活動(dòng)記錄想反推這幾天的天氣序列。這就是 HMM 最典型的用法觀(guān)測(cè)序列已知狀態(tài)序列未知。我說(shuō)這兩個(gè)例子的意思是想強(qiáng)調(diào)一點(diǎn)HMM 不是先有數(shù)學(xué)再有應(yīng)用而是先有隱藏原因驅(qū)動(dòng)可見(jiàn)結(jié)果這類(lèi)問(wèn)題然后才被人用概率語(yǔ)言寫(xiě)下來(lái)的。很多人學(xué) HMM 卡住就是卡在直接看公式腦子里沒(méi)有一個(gè)具體場(chǎng)景在跑。你先把骰子或者天氣這個(gè)畫(huà)面刻進(jìn)腦子后面所有的 α、β、γ 都只是給這個(gè)畫(huà)面配上的符號(hào)而已。1.2 五個(gè)要素各自管什么π、A、B 的分工不能混一個(gè)標(biāo)準(zhǔn)的 HMM 由五樣?xùn)|西確定通常記成一個(gè)元組 λ (N, M, π, A, B)。N 是隱藏狀態(tài)的個(gè)數(shù)M 是觀(guān)測(cè)值的個(gè)數(shù)離散情形下就是詞典大小。剩下三個(gè)才是真正需要估的參數(shù)也是新手最容易混的地方。參數(shù)名稱(chēng)形狀物理含義約束π初始狀態(tài)分布長(zhǎng)度 N 的向量序列第一個(gè)時(shí)刻處于各狀態(tài)的概率非負(fù)和為 1A狀態(tài)轉(zhuǎn)移矩陣N × N 矩陣從狀態(tài) i 跳到狀態(tài) j 的概率 a_ij每行非負(fù)行和為 1B發(fā)射概率矩陣N × M 矩陣狀態(tài) i 下觀(guān)測(cè)到符號(hào) k 的概率 b_i(k)每行非負(fù)行和為 1這張表我建議你對(duì)著代碼多看幾遍因?yàn)榫懦傻膶?shí)現(xiàn) bug 都出在這三個(gè)矩陣的行列方向上。A 是行是當(dāng)前狀態(tài)、列是下一狀態(tài)也就是說(shuō)A[i][j]表示 i → jB 是行是狀態(tài)、列是觀(guān)測(cè)符號(hào)B[i][k]表示狀態(tài) i 生成符號(hào) k。一旦你把 A 寫(xiě)成了轉(zhuǎn)置前向算法照樣能跑出數(shù)字但那個(gè)數(shù)字是錯(cuò)的而且不會(huì)報(bào)錯(cuò)這才是最要命的。另外注意行和為 1 這個(gè)約束。π 是一個(gè)概率分布A 的每一行、B 的每一行都是一個(gè)概率分布。你在做參數(shù)更新比如 Baum-Welch或者手工調(diào)參的時(shí)候如果破壞了行歸一化整個(gè)模型就失去了概率解釋算出來(lái)的似然再也無(wú)法比較大小。我在代碼里習(xí)慣在每次參數(shù)更新后強(qiáng)制加一步歸一化寧可多一次除法也不留下臟參數(shù)。狀態(tài)數(shù) N 的選擇是個(gè)獨(dú)立話(huà)題第 5 節(jié)會(huì)專(zhuān)門(mén)講。這里先記住一個(gè)原則N 是你對(duì)系統(tǒng)內(nèi)部有幾種模式的先驗(yàn)假設(shè)它不是一個(gè)能靠數(shù)據(jù)自動(dòng)確定的量只能靠實(shí)驗(yàn)去試。1.3 三大問(wèn)題與算法對(duì)應(yīng)別把它們記成三個(gè)孤立知識(shí)點(diǎn)教科書(shū)里 HMM 一定會(huì)列出三個(gè)基本問(wèn)題很多人把它們當(dāng)作三個(gè)獨(dú)立的考點(diǎn)背下來(lái)其實(shí)它們是同一條流水線(xiàn)上的三道工序。問(wèn)題一句話(huà)描述經(jīng)典算法時(shí)間復(fù)雜度評(píng)估問(wèn)題給定 λ 和觀(guān)測(cè)序列 O算 P(O | λ)前向算法或前向-后向O(N2T)解碼問(wèn)題給定 λ 和 O找最可能的狀態(tài)序列 Q*Viterbi 算法O(N2T)學(xué)習(xí)問(wèn)題只給 O反推最合適的 λBaum-WelchEM 的一種特例O(N2T) 每輪它們的關(guān)系是這樣的學(xué)習(xí)問(wèn)題內(nèi)部要反復(fù)調(diào)用評(píng)估問(wèn)題來(lái)算似然和新舊參數(shù)而解碼問(wèn)題在訓(xùn)練完之后才用得上。所以真正動(dòng)手實(shí)現(xiàn)的時(shí)候順序一定是先寫(xiě)前向、再寫(xiě) Viterbi、最后寫(xiě) Baum-Welch。反過(guò)來(lái)寫(xiě)會(huì)非常痛苦因?yàn)?Baum-Welch 的正確性完全依賴(lài)前向和后向的中間結(jié)果而這兩個(gè)東西寫(xiě)錯(cuò)了訓(xùn)練出來(lái)的參數(shù)雖然能跑但毫無(wú)意義。還有個(gè)容易被忽略的點(diǎn)這三個(gè)問(wèn)題的復(fù)雜度都是 O(N2T)而不是 O(N^T)。這個(gè)差距是決定性的也是第 2 節(jié)要展開(kāi)的核心。簡(jiǎn)單說(shuō)如果復(fù)雜度是 N 的 T 次方那 HMM 根本不可能被用在真實(shí)數(shù)據(jù)上一條一百幀的語(yǔ)音就足以讓任何計(jì)算機(jī)算到天荒地老。2. 前向算法為什么不能暴力枚舉一次復(fù)雜度上的生死抉擇2.1 先算算暴力枚舉到底有多離譜要算 P(O | λ)最直覺(jué)的做法是把所有可能的狀態(tài)序列都列出來(lái)對(duì)每一條序列算這條序列產(chǎn)生這串觀(guān)測(cè)的概率最后加總。公式寫(xiě)出來(lái)很干凈P(O | λ) Σ_Q π_{q1} b_{q1}(o_1) a_{q1q2} b_{q2}(o_2) ... a_{q_{T-1}q_T} b_{qT}(o_T)問(wèn)題出在那個(gè) Σ_Q 上。Q 是長(zhǎng)度為 T 的狀態(tài)序列每個(gè)位置有 N 種取值所以一共有 N^T 條序列。每條序列要算 2T 次乘法?？偟挠?jì)算量是 O(T · N^T)。我們代入具體數(shù)字感受一下。假設(shè) N 3一個(gè)很小的模型T 100一百幀語(yǔ)音這在語(yǔ)音識(shí)別里算極短的。3 的 100 次方大約是 5×10^47。就算你的機(jī)器每秒能算十億次乘法也需要 10^31 秒。宇宙年齡才 4×10^17 秒。這個(gè)差距不是靠?jī)?yōu)化常數(shù)或者換硬件能彌補(bǔ)的它是量級(jí)上的不可能。提示這個(gè)指數(shù)爆炸是所有序列模型都要面對(duì)的第一道墻。前向算法、Viterbi、CTC 的前向后向本質(zhì)上都是在用動(dòng)態(tài)規(guī)劃把這堵墻推倒把指數(shù)復(fù)雜度壓成多項(xiàng)式復(fù)雜度。2.2 前向變量的遞推結(jié)構(gòu)把公共子問(wèn)題緩存下來(lái)關(guān)鍵洞察是不同路徑之間共享了大量前綴。比如兩條狀態(tài)序列1→2→1→3和1→2→1→2它們前三個(gè)位置完全一樣產(chǎn)生前三個(gè)觀(guān)測(cè)的概率也一樣只是最后一個(gè)位置分岔了。暴力枚舉會(huì)把這段前綴算兩遍而動(dòng)態(tài)規(guī)劃只算一遍。于是定義前向變量α_t(i) P(o_1, o_2, ..., o_t, q_t i | λ)讀法是到第 t 個(gè)時(shí)刻為止觀(guān)測(cè)序列是 o_1 到 o_t并且第 t 個(gè)時(shí)刻恰好處于狀態(tài) i 的聯(lián)合概率。注意這是聯(lián)合概率不是條件概率這一點(diǎn)很多資料講得不清楚導(dǎo)致后面跟 β 相乘的時(shí)候有人想不通為什么可以直接乘。遞推關(guān)系來(lái)自一個(gè)很自然的分解α_t(j) [ Σ_i α_{t-1}(i) · a_ij ] · b_j(o_t)翻譯成人話(huà)要想到達(dá)第 t 刻在狀態(tài) j 且看到了 o_t這個(gè)局面可以從上一刻的任意狀態(tài) i 出發(fā)跳過(guò)來(lái)概率是 α_{t-1}(i) · a_ij把所有 i 的可能性加起來(lái)再乘上在狀態(tài) j 下吐出觀(guān)測(cè) o_t的概率。初始條件是 α_1(i) π_i · b_i(o_1)終止時(shí) P(O | λ) Σ_i α_T(i)。復(fù)雜度一下就降到了 O(N2T)。還是 N 3、T 100計(jì)算量大概是 900 次乘法眨眼就完事了。從 10^47 到 900這就是動(dòng)態(tài)規(guī)劃在序列建模里的分量。2.3 數(shù)值下溢浮點(diǎn)數(shù)會(huì)在你毫無(wú)察覺(jué)的時(shí)候把結(jié)果抹成 0上面那段推導(dǎo)數(shù)學(xué)上完全正確但直接照著寫(xiě)代碼跑到 T 稍微大一點(diǎn)就會(huì)出事而且是那種結(jié)果直接變成 0.0的靜默錯(cuò)誤。原因是你一直在做連乘。α_1(i) 是個(gè)小于 1 的數(shù)每往前推一步就要乘一堆小于 1 的概率數(shù)值單調(diào)遞減。double 類(lèi)型能表示的最小正規(guī)格化數(shù)大約在 1e-308 量級(jí)一旦乘積掉到這個(gè)線(xiàn)以下就成了非規(guī)格化數(shù)再掉下去直接變成 0。粗略估算如果每一步平均乘一個(gè) 0.1 量級(jí)的因子那么大約 T 308 步之后α 就全線(xiàn)歸零了。后果不只是結(jié)果不準(zhǔn)而是整個(gè)后續(xù)計(jì)算全部失效。似然變成 0 意味著對(duì)數(shù)似然變成負(fù)無(wú)窮Baum-Welch 里 α · β 全是 0γ 做歸一化的時(shí)候是 0/0得到 NaNNaN 一旦進(jìn)入?yún)?shù)矩陣后面所有迭代都是 NaN。我見(jiàn)過(guò)不止一個(gè)項(xiàng)目在這上面浪費(fèi)了一整天以為是數(shù)據(jù)有問(wèn)題實(shí)際就是沒(méi)做數(shù)值處理。注意只要你的序列長(zhǎng)度可能超過(guò)幾十就一定要處理下溢。這不是優(yōu)化項(xiàng)是必選項(xiàng)。2.4 縮放因子與 log 域兩條路線(xiàn)的取舍主流解法有兩條。第一條是縮放因子法scaling也是教科書(shū)上最常推的做法。思路是每一步算完 α_t(i) 之后除以當(dāng)前時(shí)刻所有狀態(tài)的和 c_tc_t 1 / Σ_i α_t(i)α?_t(i) α_t(i) · c_t因?yàn)樽隽藲w一化α?_t(i) 的數(shù)值始終在 0 到 1 之間而且每時(shí)刻所有狀態(tài)的和恰好是 1永遠(yuǎn)不會(huì)下溢。同時(shí)這個(gè)過(guò)程可逆原始的似然滿(mǎn)足 P(O | λ) 1 / Π_t c_t取對(duì)數(shù)就是 log P(O | λ) -Σ_t log c_t。所以縮放不但解決了下溢還免費(fèi)給了你一個(gè)數(shù)值穩(wěn)定的對(duì)數(shù)似然。第二條是全程對(duì)數(shù)域log domain。把所有概率取對(duì)數(shù)乘法變加法加法用 log-sum-exp 處理。這條路的好處是不會(huì)下溢負(fù)數(shù)域可以到 -700 以下壞處是要自己實(shí)現(xiàn) log-sum-exp而且不能再用 numpy 的矩陣乘法直接操作——log(exp(a) exp(b))每次都要手工展開(kāi)代碼會(huì)變啰嗦。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景縮放因子法可復(fù)用矩陣乘法代碼簡(jiǎn)潔順帶得到對(duì)數(shù)似然概率本身接近 0 時(shí)縮放因子會(huì)很大絕大多數(shù)離散 HMM 實(shí)現(xiàn)對(duì)數(shù)域數(shù)值最穩(wěn)無(wú)下溢風(fēng)險(xiǎn)需要 log-sum-exp向量化困難序列超長(zhǎng)、或要做混合精度直接計(jì)算代碼最少必下溢只適合 T 20 的演示我個(gè)人的習(xí)慣是縮放法為主。Viterbi 那部分則直接全程對(duì)數(shù)域因?yàn)樗簧婕凹臃ê?max不需要 log-sum-exp天然適合對(duì)數(shù)域。這兩條路線(xiàn)在同一份代碼里并存其實(shí)非常自然后文第 6 節(jié)會(huì)給出完整實(shí)現(xiàn)。3. Viterbi 解碼從觀(guān)測(cè)序列反推最可能的狀態(tài)軌跡3.1 動(dòng)態(tài)規(guī)劃表里每一項(xiàng)代表什么評(píng)估問(wèn)題問(wèn)的是這串觀(guān)測(cè)整體出現(xiàn)的概率有多大解碼問(wèn)題問(wèn)的是最可能是哪條狀態(tài)鏈產(chǎn)生了它。這兩個(gè)問(wèn)題的目標(biāo)不同算法結(jié)構(gòu)卻驚人地相似只是把求和換成了取最大。Viterbi 定義了一個(gè)新變量δ_t(j) max over q_1..q_{t-1} of P(q_1, ..., q_{t-1}, q_t j, o_1, ..., o_t | λ)注意這里取的是路徑上的最大值而不是所有路徑的總和。遞推式寫(xiě)成δ_t(j) [ max_i δ_{t-1}(i) · a_ij ] · b_j(o_t)直覺(jué)上很好理解我要找一條最優(yōu)路徑走到第 t 刻在狀態(tài) j那么它的前綴一定是走到第 t-1 刻某個(gè)狀態(tài) i的最優(yōu)路徑。這是最優(yōu)子結(jié)構(gòu)也是動(dòng)態(tài)規(guī)劃能成立的前提。這里有一個(gè)必須點(diǎn)破的細(xì)節(jié)Viterbi 求出來(lái)的路徑不等于每個(gè)時(shí)刻單獨(dú)取最可能狀態(tài)拼起來(lái)的那條路徑。前者是所有時(shí)刻聯(lián)合起來(lái)最可能的整條路徑后者是逐點(diǎn)最大化邊緣概率。這兩個(gè)結(jié)果經(jīng)常會(huì)不一樣。當(dāng)年我第一次接觸這個(gè)區(qū)別時(shí)也覺(jué)得別扭但仔細(xì)想想就通了逐點(diǎn)最優(yōu)拼起來(lái)的那條路徑很可能包含了一個(gè)概率極低的轉(zhuǎn)移比如從狀態(tài) A 一步跳到狀態(tài) D而這種跳轉(zhuǎn)在實(shí)際模型里幾乎不會(huì)發(fā)生。聯(lián)合最優(yōu)則會(huì)繞開(kāi)它。3.2 回溯指針別忘了記下從哪來(lái)Viterbi 的實(shí)現(xiàn)必須維護(hù)兩張表一張存 δ 值一張存指針 ψ。ψ_t(j) 記錄的是在第 t 刻到達(dá)狀態(tài) j 的那條最優(yōu)路徑上一刻是從哪個(gè)狀態(tài)來(lái)的。為什么必須存指針因?yàn)閯?dòng)態(tài)規(guī)劃是自底向上填表的填到最后一刻你只知道終點(diǎn)在哪不知道路徑怎么走。沒(méi)有指針的話(huà)你得從頭重新推一遍那就退化成指數(shù)搜索了。存了指針最后從 δ_T 的最大值位置開(kāi)始一步步順著 ψ 往回跳就能在 O(T) 時(shí)間里還原完整路徑。我見(jiàn)過(guò)有人寫(xiě) Viterbi 只在最后對(duì) δ_T 取了個(gè) argmax 就當(dāng)成答案輸出那其實(shí)只輸出了最后一個(gè)時(shí)刻的狀態(tài)前面全是錯(cuò)的。這個(gè) bug 特別隱蔽因?yàn)檩敵鲩L(zhǎng)度對(duì)不上通常會(huì)被立刻發(fā)現(xiàn)但如果他恰好在最后加了個(gè) padding 或者只關(guān)心最后一個(gè)狀態(tài)就完全看不出來(lái)了。3.3 一段可以直接跑的 Viterbi 實(shí)現(xiàn)import numpy as np def viterbi(obs, pi, A, B): obs: 觀(guān)測(cè)序列元素為 0..M-1 的整數(shù) pi : (N,) 初始狀態(tài)分布 A : (N, N) 轉(zhuǎn)移矩陣A[i, j] P(i - j) B : (N, M) 發(fā)射矩陣B[i, k] P(觀(guān)測(cè) k | 狀態(tài) i) 返回: (最優(yōu)狀態(tài)路徑, 該路徑的對(duì)數(shù)概率) T len(obs) N len(pi) EPS 1e-300 log_pi np.log(pi EPS) log_A np.log(A EPS) log_B np.log(B EPS) delta np.full((T, N), -np.inf) psi np.zeros((T, N), dtypeint) # 初始化 delta[0] log_pi log_B[:, obs[0]] # 遞推 for t in range(1, T): for j in range(N): # 上一刻所有狀態(tài)轉(zhuǎn)移到 j 的候選值 candidates delta[t - 1] log_A[:, j] best_i int(np.argmax(candidates)) psi[t, j] best_i delta[t, j] candidates[best_i] log_B[j, obs[t]] # 回溯 path np.zeros(T, dtypeint) path[T - 1] int(np.argmax(delta[T - 1])) for t in range(T - 2, -1, -1): path[t] psi[t 1, path[t 1]] return path, delta[T - 1].max()代碼里有幾個(gè)地方值得單獨(dú)說(shuō)一下。第一加EPS再取對(duì)數(shù)。如果 A 或 B 里有精確的 0np.log(0) 會(huì)返回 -inf 并拋出運(yùn)行時(shí)警告。加上一個(gè)極小的正數(shù)就把 -inf 變成了一個(gè)很大的負(fù)數(shù)約 -690這在后續(xù)做加法時(shí)行為正確不會(huì)污染結(jié)果。這也是工程實(shí)踐和教科書(shū)推導(dǎo)的差別數(shù)學(xué)上 0 就是 0工程上你得給它一個(gè)地板值。第二delta初始化為 -inf 而不是 0。如果初始化成 0那些理論上不可能的狀態(tài)在第一天就會(huì)有個(gè) 0 的對(duì)數(shù)概率比真實(shí)可能狀態(tài)的負(fù)數(shù)值還大argmax 會(huì)直接選錯(cuò)。用一個(gè)明確的負(fù)無(wú)窮表示不可達(dá)語(yǔ)義才干凈。第三內(nèi)層循環(huán)里的delta[t-1] log_A[:, j]是向量化寫(xiě)法比再套一層 Python 循環(huán)快得多。別看 N 小的時(shí)候差別不明顯當(dāng) N 到幾十、T 到幾千的時(shí)候這個(gè)改寫(xiě)能帶來(lái)十倍以上的速度差異。3.4 Viterbi 與前向算法只差一個(gè)運(yùn)算符把兩個(gè)算法并排放在一起看你會(huì)發(fā)現(xiàn)它們的骨架幾乎完全一致。對(duì)比項(xiàng)前向算法Viterbi 算法中間量語(yǔ)義前綴聯(lián)合概率之和前綴路徑的最大概率遞推核心Σ_i α_{t-1}(i)·a_ijmax_i δ_{t-1}(i)·a_ij是否需要指針不需要需要 ψ 用于回溯數(shù)值處理縮放因子或?qū)?shù)域天然適合對(duì)數(shù)域輸出標(biāo)量 P(O|λ)狀態(tài)序列 路徑得分這個(gè)對(duì)比給我的啟發(fā)是很多看起來(lái)不同的算法骨子里是同一個(gè)動(dòng)態(tài)規(guī)劃框架只是聚合算子不同——求和得到的是整體可能性取最大得到的是最優(yōu)解。同樣的思路你在 CTC 的前向后向、條件隨機(jī)場(chǎng)的維特比解碼里都會(huì)再遇到一次。理解了這一層再看那些算法就不會(huì)覺(jué)得是一個(gè)個(gè)孤立的黑盒了。順帶提一個(gè)工程上的細(xì)節(jié)Viterbi 的輸出得分不是概率而是對(duì)數(shù)域上的路徑得分。你沒(méi)法拿它和 P(O|λ) 直接比大小也不應(yīng)該對(duì)它做 exp 之后再解釋成這條路徑的概率。它是最優(yōu)路徑的得分僅此而已。我見(jiàn)過(guò)有人拿這個(gè)分?jǐn)?shù)去做閾值判斷結(jié)果閾值怎么調(diào)都不對(duì)就是因?yàn)榛煜诉@兩個(gè)量。4. Baum-Welch 訓(xùn)練沒(méi)標(biāo)注數(shù)據(jù)時(shí)參數(shù)是怎么學(xué)出來(lái)的4.1 EM 的套路先猜?tīng)顟B(tài)再更新參數(shù)來(lái)回拉鋸前面兩節(jié)都假設(shè) λ (π, A, B) 已知?？涩F(xiàn)實(shí)里最常見(jiàn)的情況是你只有一堆觀(guān)測(cè)序列一個(gè)標(biāo)注都沒(méi)有。這時(shí)候要估參數(shù)靠的就是 Baum-Welch 算法。它的本質(zhì)是 EM期望最大化在 HMM 上的具體形式。EM 的思路可以粗暴地概括成一句話(huà)如果我大概知道狀態(tài)序列參數(shù)就好估如果我大概知道參數(shù)狀態(tài)序列就好猜。那就先隨便給個(gè)參數(shù)用參數(shù)猜?tīng)顟B(tài)再用猜出來(lái)的狀態(tài)更新參數(shù)反復(fù)來(lái)回。具體到 HMM這個(gè)猜是通過(guò)計(jì)算兩個(gè)后驗(yàn)量來(lái)完成的。γ_t(i) P(q_t i | O, λ)第 t 刻處于狀態(tài) i 的后驗(yàn)概率ξ_t(i, j) P(q_t i, q_{t1} j | O, λ)第 t 刻在 i、下一刻在 j 的后驗(yàn)概率這兩個(gè)量都可以從前向變量和后向變量直接算出來(lái)。后向變量 β_t(i) P(o_{t1}, ..., o_T | q_t i, λ)含義是給定第 t 刻在狀態(tài) i后面那串觀(guān)測(cè)出現(xiàn)的概率。有了它倆γ_t(i) α_t(i)·β_t(i) / P(O|λ) ξ_t(i, j) α_t(i)·a_ij·b_j(o_{t1})·β_{t1}(j) / P(O|λ)這里就能看出為什么前向和后向必須都用縮放后的版本分子分母里的縮放因子會(huì)精確地相互抵消而 P(O|λ) 用縮放因子算出來(lái)的對(duì)數(shù)似然對(duì)應(yīng)上整套推導(dǎo)是一致的。4.2 重估公式背后其實(shí)是很樸素的數(shù)數(shù)拿到 γ 和 ξ 之后參數(shù)更新公式長(zhǎng)這樣π?_i γ_1(i)a_ij Σ_{t1}^{T-1} ξ_t(i, j) / Σ_{t1}^{T-1} γ_t(i)b?_i(k) Σ_{t: o_t k} γ_t(i) / Σ_{t1}^{T} γ_t(i)別看符號(hào)多翻譯成人話(huà)非常直觀(guān)。a_ij 的分子是整個(gè)序列里從 i 跳到 j 的期望次數(shù)分母是整個(gè)序列里待在 i 的期望次數(shù)兩者一除就是待在 i 的時(shí)候往 j 走的比例。這和統(tǒng)計(jì)學(xué)里最原始的頻率估計(jì)完全是一個(gè)路子只不過(guò)因?yàn)闋顟B(tài)看不見(jiàn)我們用的是期望次數(shù)而不是實(shí)際次數(shù)。b?_i(k) 同理分子是期望在狀態(tài) i 并且觀(guān)測(cè)到符號(hào) k 的次數(shù)分母是期望待在狀態(tài) i 的總次數(shù)。π?_i 直接取第一時(shí)刻的狀態(tài)后驗(yàn)。我在紙上推第一遍的時(shí)候總覺(jué)得用估計(jì)出來(lái)的 γ 去更新參數(shù)這件事有點(diǎn)循環(huán)論證的味道。后來(lái)想明白了EM 每一步都保證似然不下降這是它有收斂性保證的原因所以這個(gè)循環(huán)是朝上走的不會(huì)越走越差。代價(jià)是它可能停在局部最優(yōu)這就引出了下一小節(jié)。4.3 初始化決定你能不能跳出局部最優(yōu)Baum-Welch 是局部?jī)?yōu)化算法初始值給得不好結(jié)果就會(huì)很差。幾種常見(jiàn)做法隨機(jī)初始化最省事但結(jié)果不穩(wěn)定。同一個(gè)模型跑兩次可能一次收斂到似然 -320另一次 -410。如果你在做實(shí)驗(yàn)對(duì)比這會(huì)讓你懷疑人生。我的做法是固定隨機(jī)種子并且至少跑三到五次取最好的那個(gè)。均勻初始化即 π 和 A 全填 1/N、B 全填 1/M然后在上面加一點(diǎn)小擾動(dòng)。不加擾動(dòng)的話(huà)所有狀態(tài)完全對(duì)稱(chēng)梯度方向可能也一樣導(dǎo)致多個(gè)狀態(tài)收斂到同一個(gè)解等于白設(shè)了那么多個(gè)狀態(tài)。這是個(gè)很容易忽略的坑你以為設(shè)了 5 個(gè)狀態(tài)訓(xùn)練完發(fā)現(xiàn) 5 行 B 幾乎一模一樣?；谙闰?yàn)知識(shí)的初始化在我做過(guò)的項(xiàng)目里效果最好。比如做設(shè)備狀態(tài)監(jiān)測(cè)我知道大概有正常、亞健康、異常三類(lèi)那我就可以讓 π 和 A 偏向正常狀態(tài)持續(xù)時(shí)間長(zhǎng)、異常狀態(tài)一旦進(jìn)入不太容易出來(lái)這種結(jié)構(gòu)。把領(lǐng)域知識(shí)編碼進(jìn)初始值往往比多跑幾十輪迭代更有用。還有一個(gè)技巧值得單獨(dú)提參數(shù)綁定與結(jié)構(gòu)化約束。如果你的應(yīng)用里能確信某些轉(zhuǎn)移概率應(yīng)該為 0比如狀態(tài)只能沿著 1→2→3 單向演進(jìn)那就把對(duì)應(yīng)的初始化值設(shè)成 0 并加地板值保護(hù)。這相當(dāng)于給模型加了個(gè)強(qiáng)先驗(yàn)?zāi)茱@著減少要估的參數(shù)數(shù)量在小數(shù)據(jù)上尤其有用。4.4 收斂判據(jù)什么時(shí)候該停手標(biāo)準(zhǔn)的停止條件是似然增量小于閾值比如連續(xù)兩輪的對(duì)數(shù)似然變化小于 1e-4 就停。但我實(shí)際用下來(lái)發(fā)現(xiàn)光看似然不夠還得盯兩個(gè)東西。第一是迭代次數(shù)上限。EM 在接近收斂的時(shí)候會(huì)變得非常慢一輪只漲 0.0001 的似然也能磨幾十輪。設(shè)一個(gè)比如 100 輪的上限能省下大量時(shí)間。第二是過(guò)擬合。如果訓(xùn)練數(shù)據(jù)很少而狀態(tài)數(shù)很多似然會(huì)一直漲但那是在記憶訓(xùn)練數(shù)據(jù)。判斷方法很簡(jiǎn)單留一小部分?jǐn)?shù)據(jù)做驗(yàn)證集看驗(yàn)證集似然什么時(shí)候開(kāi)始掉。掉頭的位置才是真正該停的地方。注意對(duì)數(shù)似然單調(diào)不降是 EM 在完全數(shù)據(jù)下的理論性質(zhì)。如果你發(fā)現(xiàn)似然在下降那說(shuō)明實(shí)現(xiàn)里有 bug最常見(jiàn)的是縮放因子沒(méi)處理好、γ 的歸一化用了錯(cuò)誤的軸、或者前后向的初始化邊界寫(xiě)錯(cuò)了。5. 把模型落到工程里觀(guān)測(cè)表示、平滑與狀態(tài)數(shù)5.1 連續(xù)觀(guān)測(cè)離散化的代價(jià)前面所有討論都假設(shè)觀(guān)測(cè)是離散符號(hào)。但現(xiàn)實(shí)數(shù)據(jù)大多是連續(xù)的語(yǔ)音的 MFCC 特征、傳感器的溫度讀數(shù)、金融的收益率。最省事的做法是先做向量量化VQ用一個(gè)聚類(lèi)算法把連續(xù)向量映射成若干個(gè)離散碼字然后套用離散 HMM。這么做的問(wèn)題很明顯量化誤差是硬損失。兩個(gè)相差很小的向量可能被分到不同碼字相差很大的也可能因?yàn)槁湓诰垲?lèi)邊界上被分到同一個(gè)。而且碼本大小 M 又成了一個(gè)要調(diào)的超參數(shù)M 太小丟信息M 太大則 B 矩陣參數(shù)量暴漲N × M在小數(shù)據(jù)上直接過(guò)擬合。我一般的判斷標(biāo)準(zhǔn)是如果特征維度低比如 1 到 3 維、數(shù)據(jù)量中等VQ 離散 HMM 夠用且實(shí)現(xiàn)簡(jiǎn)單如果特征維度高十幾維以上或者對(duì)精度有要求就別省這個(gè)事直接上連續(xù)觀(guān)測(cè)模型。5.2 GMM-HMM語(yǔ)音識(shí)別時(shí)代的經(jīng)典配置連續(xù)觀(guān)測(cè)下最常見(jiàn)的選擇是每個(gè)狀態(tài)配一個(gè)高斯混合模型也就是所謂的 GMM-HMM。此時(shí)發(fā)射概率不再是查表而是b_i(o) Σ_{m1}^{K} w_{im} · N(o | μ_{im}, Σ_{im})每個(gè)狀態(tài) i 有 K 個(gè)高斯分量每個(gè)分量有自己的權(quán)重、均值和協(xié)方差。參數(shù)量比離散情形大得多Baum-Welch 的更新公式也要相應(yīng)擴(kuò)展到每個(gè)觀(guān)測(cè)點(diǎn)對(duì)每個(gè)高斯分量各有一個(gè)后驗(yàn)責(zé)任度。這套結(jié)構(gòu)在上世紀(jì)九十年代到 2010 年代初是語(yǔ)音識(shí)別的主流直到被深度神經(jīng)網(wǎng)絡(luò)取代。如果你想找一份完整、嚴(yán)謹(jǐn)?shù)?GMM-HMM 推導(dǎo)那部分內(nèi)容量足夠單獨(dú)寫(xiě)一篇這里只提兩個(gè)我踩過(guò)的坑一是協(xié)方差矩陣的對(duì)角化假設(shè)。為了減少參數(shù)量實(shí)踐中幾乎都用對(duì)角協(xié)方差。這意味著你假設(shè)特征各維之間獨(dú)立。如果特征之間有強(qiáng)相關(guān)比如你直接塞了原始 MFCC 而沒(méi)有做 DCT 去相關(guān)這個(gè)假設(shè)會(huì)顯著傷害性能。二是方差地板。某些高斯分量的方差會(huì)在訓(xùn)練中越縮越小最后接近 0導(dǎo)致那個(gè)分量的似然在遇到稍微偏離均值的點(diǎn)時(shí)就變成天文數(shù)字把整個(gè)后驗(yàn)壓成獨(dú)熱向量。做法是給方差設(shè)一個(gè)下限比如特征全局方差的 1% 或者一個(gè)固定的小常數(shù)。5.3 零概率與平滑地板值該給多少離散 HMM 里如果某個(gè)觀(guān)測(cè)符號(hào)在訓(xùn)練數(shù)據(jù)中從未在某個(gè)狀態(tài)下出現(xiàn)過(guò)那 b_i(k) 的估計(jì)值就是 0。這會(huì)帶來(lái)兩個(gè)后果一是取對(duì)數(shù)變 -inf二是如果測(cè)試時(shí)真出現(xiàn)了這個(gè)符號(hào)整條路徑的得分直接變成負(fù)無(wú)窮模型完全無(wú)法處理。標(biāo)準(zhǔn)解法是拉普拉斯平滑分子加 1、分母加 Mb?_i(k) (count_i(k) 1) / (Σ_k count_i(k) M)如果 M 很大比如碼本有幾千個(gè)加 1 已經(jīng)不夠了更常用的是加一個(gè)更小的偽計(jì)數(shù)比如 0.01 或者 0.1。這個(gè)數(shù)怎么選我的經(jīng)驗(yàn)是先給 0.1 跑一輪看未登錄符號(hào)的處理是否正常再根據(jù)驗(yàn)證集表現(xiàn)微調(diào)。對(duì) A 矩陣其實(shí)也需要類(lèi)似處理只是問(wèn)題沒(méi)那么嚴(yán)重因?yàn)闋顟B(tài)數(shù)通常比觀(guān)測(cè)數(shù)少A 里出現(xiàn)零的概率低得多。但結(jié)構(gòu)化約束人為把某些 a_ij 設(shè)為 0的時(shí)候就要小心了這些人為的 0 不應(yīng)該被平滑掉需要在更新后重新置零。5.4 狀態(tài)數(shù)怎么選一個(gè)沒(méi)有標(biāo)準(zhǔn)答案的問(wèn)題這是 HMM 實(shí)踐里最玄學(xué)的一環(huán)。狀態(tài)數(shù)不是從數(shù)據(jù)里學(xué)出來(lái)的是你自己定的。我的做法一般是這樣數(shù)據(jù)規(guī)模建議狀態(tài)數(shù)范圍理由幾百幀2 - 4參數(shù)少避免過(guò)擬合幾千幀4 - 10能建模一定復(fù)雜度幾萬(wàn)幀以上10 - 30數(shù)據(jù)足以支撐參數(shù)估計(jì)有領(lǐng)域知識(shí)按物理含義定比如正常/預(yù)警/故障就是 3核心判斷方法是畫(huà)似然-狀態(tài)數(shù)曲線(xiàn)。狀態(tài)數(shù)從 2 加到 10看訓(xùn)練集似然和驗(yàn)證集似然各怎么變。如果驗(yàn)證集似然在某個(gè)點(diǎn)之后不再上升甚至下降那個(gè)點(diǎn)就是上限。如果訓(xùn)練集似然一直漲、驗(yàn)證集不漲說(shuō)明已經(jīng)過(guò)擬合了該選更小的狀態(tài)數(shù)。還有個(gè)更直觀(guān)的診斷方法訓(xùn)練完之后把 B 矩陣每一行打印出來(lái)或者畫(huà)成熱力圖看狀態(tài)之間有沒(méi)有明顯的差異。如果好幾個(gè)狀態(tài)的發(fā)射分布幾乎一樣說(shuō)明狀態(tài)數(shù)給多了或者初始化沒(méi)擾動(dòng)好那幾個(gè)狀態(tài)是冗余的。這個(gè)檢查我基本每次都會(huì)做比看數(shù)字直觀(guān)得多。6. 實(shí)戰(zhàn)從零寫(xiě)一個(gè)能用的 HMM 工具類(lèi)6.1 數(shù)據(jù)結(jié)構(gòu)與接口設(shè)計(jì)前面把三塊算法分別講完了這里把它們拼成一個(gè)完整的類(lèi)。接口設(shè)計(jì)上我堅(jiān)持兩點(diǎn)一是參數(shù)全部用 numpy 數(shù)組傳形狀固定為 π(N,)、A(N,N)、B(N,M)二是所有對(duì)外方法都返回對(duì)數(shù)域的數(shù)值避免調(diào)用者拿到一個(gè)已經(jīng)下溢成 0 的概率還不知道。import numpy as np EPS 1e-300 class DiscreteHMM: def __init__(self, n_states, n_obs, seed0): rng np.random.default_rng(seed) self.N n_states self.M n_obs # 均勻初始化 小擾動(dòng)避免狀態(tài)對(duì)稱(chēng) self.pi np.full(n_states, 1.0 / n_states) self.A np.full((n_states, n_states), 1.0 / n_states) self.B np.full((n_states, n_obs), 1.0 / n_obs) self.A rng.normal(0, 0.01, self.A.shape) self.B rng.normal(0, 0.01, self.B.shape) self._normalize() def _normalize(self): self.pi np.clip(self.pi, EPS, None) self.pi / self.pi.sum() self.A np.clip(self.A, EPS, None) self.A / self.A.sum(axis1, keepdimsTrue) self.B np.clip(self.B, EPS, None) self.B / self.B.sum(axis1, keepdimsTrue)_normalize這一步是整套代碼的安全網(wǎng)。不管前面的更新公式寫(xiě)了什么只要最后過(guò)一遍這個(gè)函數(shù)參數(shù)就一定滿(mǎn)足概率約束。我建議在每個(gè)對(duì)外修改參數(shù)的方法末尾都調(diào)它一次成本極低收益極高。6.2 前向、后向與 Baum-Welch 的實(shí)現(xiàn)要點(diǎn)def forward(self, obs): T len(obs) alpha np.zeros((T, self.N)) c np.zeros(T) alpha[0] self.pi * self.B[:, obs[0]] c[0] 1.0 / (alpha[0].sum() EPS) alpha[0] * c[0] for t in range(1, T): # alpha[t-1] 與 A 的轉(zhuǎn)置做乘法等價(jià)于 sum_i alpha[t-1,i] * A[i,j] alpha[t] (alpha[t - 1] self.A) * self.B[:, obs[t]] c[t] 1.0 / (alpha[t].sum() EPS) alpha[t] * c[t] log_prob -np.sum(np.log(c EPS)) return alpha, c, log_prob def backward(self, obs, c): T len(obs) beta np.zeros((T, self.N)) beta[T - 1] c[T - 1] for t in range(T - 2, -1, -1): beta[t] (self.A (self.B[:, obs[t 1]] * beta[t 1])) * c[t] return beta前向里的alpha[t-1] self.A是關(guān)鍵。alpha[t-1]是長(zhǎng)度 N 的行向量self.A是 N×N矩陣乘法的結(jié)果第 j 個(gè)分量正好是 Σ_i alpha[t-1,i]·A[i,j]一步到位把內(nèi)層循環(huán)消掉了。這個(gè)改寫(xiě)帶來(lái)的速度提升非常明顯值得記住。后向里的beta[T-1] c[T-1]容易寫(xiě)錯(cuò)。標(biāo)準(zhǔn)推導(dǎo)里如果前向做了縮放后向的初始化也必須用同樣的縮放因子才能保證 α_t · β_t 的乘積在縮放意義下自洽。很多人這里直接初始化成 1結(jié)果 γ 的歸一化之后數(shù)值看著差不多對(duì)但訓(xùn)練出來(lái)的參數(shù)總有點(diǎn)偏。def baum_welch_step(self, obs): T len(obs) alpha, c, log_prob self.forward(obs) beta self.backward(obs, c) gamma alpha * beta gamma / (gamma.sum(axis1, keepdimsTrue) EPS) # xi: (T-1, N, N) xi np.zeros((T - 1, self.N, self.N)) for t in range(T - 1): xi[t] (alpha[t][:, None] * self.A * self.B[:, obs[t 1]][None, :] * beta[t 1][None, :]) xi[t] / (xi[t].sum() EPS) new_pi gamma[0].copy() denom_A gamma[:-1].sum(axis0)[:, None] EPS new_A xi.sum(axis0) / denom_A denom_B gamma.sum(axis0)[:, None] EPS new_B np.zeros_like(self.B) obs_arr np.asarray(obs) for k in range(self.M): mask (obs_arr k) if mask.any(): new_B[:, k] gamma[mask].sum(axis0) new_B / denom_B return new_pi, new_A, new_B, log_probxi那段用的是廣播把 N×N 的中間結(jié)果一次算出來(lái)。如果寫(xiě)成兩層循環(huán)代碼可讀性其實(shí)更高但速度慢很多。我建議先用循環(huán)版本驗(yàn)證正確性確認(rèn)無(wú)誤后再換成廣播版本兩個(gè)版本的結(jié)果應(yīng)該逐元素一致這也是一種很好的自測(cè)手段。6.3 用天氣-活動(dòng)這組玩具數(shù)據(jù)做端到端驗(yàn)證現(xiàn)在造一組數(shù)據(jù)來(lái)跑通。隱藏狀態(tài)是天氣觀(guān)測(cè)是活動(dòng)。import numpy as np rng np.random.default_rng(42) # 真實(shí)參數(shù)只用于生成數(shù)據(jù)模型不知道 pi_true np.array([0.6, 0.4]) # 晴、雨 A_true np.array([[0.7, 0.3], [0.4, 0.6]]) B_true np.array([[0.6, 0.3, 0.1], # 晴: 散步/購(gòu)物/打掃 [0.1, 0.4, 0.5]]) # 雨: 散步/購(gòu)物/打掃 def sample_seq(T, pi, A, B): states, obs [], [] s rng.choice(len(pi), ppi) for _ in range(T): states.append(s) obs.append(rng.choice(B.shape[1], pB[s])) s rng.choice(A.shape[0], pA[s]) return np.array(states), np.array(obs) _, obs sample_seq(3000, pi_true, A_true, B_true) model DiscreteHMM(n_states2, n_obs3, seed7) prev None for it in range(50): new_pi, new_A, new_B, logp model.baum_welch_step(obs) model.pi, model.A, model.B new_pi, new_A, new_B model._normalize() if prev is not None and abs(logp - prev) 1e-4: print(f第 {it} 輪收斂, log P {logp:.2f}) break prev logp print(學(xué)到的 A:\n, np.round(model.A, 3)) print(學(xué)到的 B:\n, np.round(model.B, 3))跑出來(lái)的 A 和 B 不會(huì)和真實(shí)值完全一樣但結(jié)構(gòu)應(yīng)該對(duì)得上一個(gè)狀態(tài)的發(fā)射分布偏向散步另一個(gè)偏向打掃。這是無(wú)監(jiān)督學(xué)習(xí)的固有特性——狀態(tài)的編號(hào)是不可辨識(shí)的學(xué)出來(lái)的狀態(tài) 0 可能對(duì)應(yīng)真實(shí)的晴天也可能對(duì)應(yīng)雨天取決于初始化。所以比較結(jié)果的時(shí)候不要直接比矩陣要看兩個(gè)狀態(tài)的發(fā)射分布是否有明確區(qū)分。如果你希望狀態(tài)編號(hào)穩(wěn)定可以在訓(xùn)練完之后按某個(gè)規(guī)則重排比如按 B 的第一列大小排序。這個(gè)操作在需要跨實(shí)驗(yàn)對(duì)比的時(shí)候很有用。6.4 和現(xiàn)成庫(kù)對(duì)拍確認(rèn)自己沒(méi)寫(xiě)錯(cuò)從零實(shí)現(xiàn)最大的風(fēng)險(xiǎn)是跑出來(lái)了但數(shù)字不對(duì)。我強(qiáng)烈建議用一個(gè)成熟庫(kù)做交叉驗(yàn)證。Python 生態(tài)里常用的是 hmmlearn。這里有個(gè)很多人踩過(guò)的坑hmmlearn 在較新的版本里改了接口語(yǔ)義。老的MultinomialHMM在 0.3.0 之后表示的是多項(xiàng)分布輸入是計(jì)數(shù)對(duì)分類(lèi)觀(guān)測(cè)要用CategoricalHMM。如果你按老教程寫(xiě)MultinomialHMM會(huì)發(fā)現(xiàn)怎么都對(duì)不上甚至直接報(bào)錯(cuò)。from hmmlearn.hmm import CategoricalHMM ref CategoricalHMM(n_components2, n_iter50, random_state7) ref.fit(obs.reshape(-1, 1)) print(參考實(shí)現(xiàn) log 似然:, ref.score(obs.reshape(-1, 1))) print(參考實(shí)現(xiàn)的發(fā)射矩陣:\n, np.round(np.exp(ref.emissionprob_), 3))對(duì)拍的時(shí)候注意兩點(diǎn)。一是似然值不能直接比大小因?yàn)殡S機(jī)初始化和迭代輪數(shù)不同兩個(gè)實(shí)現(xiàn)會(huì)收斂到不同的局部最優(yōu)似然差幾個(gè)點(diǎn)很正常。二是要看結(jié)構(gòu)把兩個(gè)實(shí)現(xiàn)學(xué)出來(lái)的 B 矩陣按行排序后比較如果分布形態(tài)一致比如都是一個(gè)狀態(tài)偏散步、一個(gè)偏打掃說(shuō)明你的實(shí)現(xiàn)是對(duì)的。真正需要警惕的是量級(jí)誤差。如果你的實(shí)現(xiàn)算出來(lái)似然是 -20000參考實(shí)現(xiàn)是 -300那基本可以確定你的縮放或者歸一化寫(xiě)錯(cuò)了這時(shí)候就該回去逐行檢查forward和backward里 c 的用法。7. HMM 的邊界在哪里它輸給了誰(shuí)又在哪里還在贏7.1 觀(guān)測(cè)獨(dú)立假設(shè)是它的硬傷HMM 有兩個(gè)核心假設(shè)馬爾可夫性當(dāng)前狀態(tài)只依賴(lài)上一狀態(tài)和觀(guān)測(cè)獨(dú)立性當(dāng)前觀(guān)測(cè)只依賴(lài)當(dāng)前狀態(tài)。第二個(gè)假設(shè)在現(xiàn)實(shí)中經(jīng)常站不住。舉個(gè)具體的例子。做中文詞性標(biāo)注的時(shí)候一個(gè)詞的詞性顯然受到它前后若干個(gè)詞的影響而 HMM 的生成式結(jié)構(gòu)讓它在建模這種觀(guān)測(cè)之間的相互依賴(lài)時(shí)非常吃力。更麻煩的是HMM 是生成式模型它要對(duì) P(O) 建模也就是要建模任意觀(guān)測(cè)序列出現(xiàn)的概率。對(duì)于一個(gè)有幾十萬(wàn)詞的詞表這件事既沒(méi)必要也做不好。判別式模型比如條件隨機(jī)場(chǎng) CRF直接對(duì) P(Q|O) 建模繞開(kāi)了對(duì) P(O) 的建模還天然支持任意豐富的觀(guān)測(cè)特征——前后詞、詞的后綴、是否包含數(shù)字等等。這就是為什么在序列標(biāo)注任務(wù)上CRF 和后來(lái)的神經(jīng)網(wǎng)絡(luò)模型能全面壓過(guò) HMM。7.2 與主流序列模型的定位對(duì)比模型建模對(duì)象觀(guān)測(cè)特征訓(xùn)練方式典型強(qiáng)項(xiàng)HMMP(O, Q) 生成式僅當(dāng)前觀(guān)測(cè)無(wú)監(jiān)督 EM 或有監(jiān)督計(jì)數(shù)數(shù)據(jù)少、缺標(biāo)注、需要可解釋狀態(tài)CRFP(Q | O) 判別式任意上下文特征有監(jiān)督序列標(biāo)注精度CTCP(Q | O) 邊緣化對(duì)齊神經(jīng)網(wǎng)絡(luò)特征有監(jiān)督無(wú)需幀級(jí)對(duì)齊端到端語(yǔ)音識(shí)別序列到序列模型P(Q | O)神經(jīng)網(wǎng)絡(luò)特征有監(jiān)督長(zhǎng)距離依賴(lài)、生成任務(wù)這張表不是要評(píng)判誰(shuí)高誰(shuí)低而是想說(shuō)清楚一件事它們解決的約束條件不同。CRF 和神經(jīng)網(wǎng)絡(luò)模型精度更高但它們都需要大量標(biāo)注數(shù)據(jù)。如果你的場(chǎng)景里根本拿不到標(biāo)注HMM 這種能靠 EM 從無(wú)標(biāo)注數(shù)據(jù)里學(xué)出東西的能力就是別人替代不了的。7.3 今天還值得用 HMM 的幾類(lèi)場(chǎng)景說(shuō)了這么多它的短板但我在實(shí)際工作里并沒(méi)有把它徹底淘汰掉反而有幾類(lèi)場(chǎng)景還在持續(xù)使用。第一類(lèi)是數(shù)據(jù)量小又有強(qiáng)結(jié)構(gòu)先驗(yàn)的任務(wù)。比如工業(yè)設(shè)備的退化階段識(shí)別我大概知道健康狀態(tài)是緩慢變化的、故障狀態(tài)一旦進(jìn)入就不容易退出這種結(jié)構(gòu)可以直接寫(xiě)進(jìn) A 矩陣的初始值里。幾百條序列就夠訓(xùn)練出一個(gè)可用的模型換成神經(jīng)網(wǎng)絡(luò)早就過(guò)擬合了。第二類(lèi)是需要可解釋性的場(chǎng)合。HMM 學(xué)出來(lái)的狀態(tài)是有具體含義的——你打開(kāi) B 矩陣一看就知道狀態(tài) 2 是個(gè)高異常傾向的狀態(tài)。而在很多神經(jīng)網(wǎng)絡(luò)模型里你要額外做一大堆可解釋性工作還未必看得清楚。在需要給非技術(shù)同事解釋為什么系統(tǒng)判斷這個(gè)設(shè)備異常的時(shí)候HMM 的優(yōu)勢(shì)非常實(shí)在。第三類(lèi)是作為更強(qiáng)模型的組件。比如用 HMM 做初步的序列切分把長(zhǎng)序列分段之后交給下游模型處理或者用它生成偽標(biāo)簽再用這些偽標(biāo)簽去訓(xùn)練神經(jīng)網(wǎng)絡(luò)。這種用小模型撬動(dòng)大模型的用法我在數(shù)據(jù)標(biāo)注資源緊張的項(xiàng)目里用過(guò)幾次效果比直接硬上神經(jīng)網(wǎng)絡(luò)好。第四類(lèi)是快速原型驗(yàn)證。想驗(yàn)證一個(gè)序列建模的方向有沒(méi)有戲用 HMM 搭個(gè)基線(xiàn)只要幾十行代碼跑幾分鐘就出結(jié)果。對(duì)比之下搭一個(gè)神經(jīng)網(wǎng)絡(luò)基線(xiàn)可能要一兩天。先用最便宜的手段確認(rèn)問(wèn)題本身可解再?zèng)Q定要不要投入更多資源這個(gè)順序我建議一直保持。最后分享一個(gè)我在實(shí)際使用中的體會(huì)HMM 的調(diào)參重點(diǎn)從來(lái)不在算法本身而在狀態(tài)數(shù)的選擇和初始值的設(shè)置。算法是確定的代碼寫(xiě)對(duì)了就是對(duì)的但狀態(tài)數(shù)和初始值這兩個(gè)東西直接決定了你能不能用它解決問(wèn)題。我見(jiàn)過(guò)太多人在前向后向公式上反復(fù)糾結(jié)卻從來(lái)沒(méi)打印過(guò) B 矩陣看看到底學(xué)出了什么。多做幾次訓(xùn)完就打開(kāi)參數(shù)看一眼的動(dòng)作比多讀幾遍推導(dǎo)有用得多。