Python Viterbi算法

Eps*_*lon 1 python algorithm

下面的代码是我在此处发现的HMM模型中使用的Viterbi算法的Python实现。该链接还提供了一个测试案例。

在中__init__,我了解:

  • initialProb 是从给定状态开始的概率,
  • transProb 是在任何给定时间从一种状态迁移到另一种状态的概率,但是

我不明白的参数是obsProb。有人可以解释一下吗?

import numpy as np

'''
N: number of hidden states
'''
class Decoder(object):
def __init__(self, initialProb, transProb, obsProb):
    self.N = initialProb.shape[0]
    self.initialProb = initialProb
    self.transProb = transProb
    self.obsProb = obsProb
    assert self.initialProb.shape == (self.N, 1)
    assert self.transProb.shape == (self.N, self.N)
    assert self.obsProb.shape[0] == self.N

def Obs(self, obs):
    return self.obsProb[:, obs, None]

def Decode(self, obs):
    trellis = np.zeros((self.N, len(obs)))
    backpt = np.ones((self.N, len(obs)), 'int32') * -1

    # initialization
    trellis[:, 0] = np.squeeze(self.initialProb * self.Obs(obs[0]))

    for t in xrange(1, len(obs)):
        trellis[:, t] = (trellis[:, t-1, None].dot(self.Obs(obs[t]).T) * self.transProb).max(0)
        backpt[:, t] = (np.tile(trellis[:, t-1, None], [1, self.N]) * self.transProb).argmax(0)
    # termination
    tokens = [trellis[:, -1].argmax()]
    for i in xrange(len(obs)-1, 0, -1):
        tokens.append(backpt[tokens[-1], i])
    return tokens[::-1]
Run Code Online (Sandbox Code Playgroud)

m7t*_*hon 5

HMMN隐藏状态和M可能的离散观测值由下面的参数来定义:

  • initialProb(size的向量N):初始状态分布。该条目initialProb[i]是最初(在时间0)P(x_0 = i)处于状态的概率i
  • transProb(大小为Nx的矩阵N):转移概率矩阵。该条目transProb[i][j]是概率P(x_{t+1} = j | x_t = i)转变,从国家ij
  • obsProb(大小为Nx的矩阵M):发射概率矩阵。该条目obsProb[i][j]是从state P(y_t = j | x_t = i)发出符号的概率。ji

通常情况下,这些参数被命名\piTE分别,或者\piAB

顺便说一下,关于HMM的标准参考是Rabiner教程