香农的熵计算

Com*_*ser 4 statistics matlab probability information-theory

我有一个概率分布,定义了n可能状态的发生概率.

我想计算给定概率分布的香农熵值(以位为单位).

我可以wentropy(x,'shannon')用来获取值吗?如果可以,我可以在哪里定义系统可能的状态数?

cha*_*pjc 8

既然你已经有了概率分布,那就调用它p,你可以为Shannon熵做以下公式,而不是使用wentropy:

H = sum(-(p(p>0).*(log2(p(p>0)))));
Run Code Online (Sandbox Code Playgroud)

这给出了H 比特的熵.

p 必须总和为1.