作者Ohwil ( )
看板comm_and_RF
标题[分析] information
时间Sun Nov 9 00:51:50 2008
※ [本文转录自 Math 看板]
作者: Ohwil ( ) 看板: Math
标题: [分析] information
时间: Sun Nov 9 00:37:47 2008
假设 P(x)= 1/2 x=0
1/4 x=1
1/16 x=2,3,4,5
0 other
求 entropy时
H(X)=E[-log(P(x))]
=1/2*1 + 1/4*2 +( 1/16*4 )*4
=2 (bits)
这个2bits是说描述X的分布要用到的个数?!
有没有更精确的讲解可以说明一下的...
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 59.115.225.181
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 59.115.225.181
1F：→ arksbubble:我想，Entropy代表意思维，针对随机变 220.136.35.239 11/09 01:02
2F：→ arksbubble:数X，平均的资讯价值量 220.136.35.239 11/09 01:03
3F：→ arksbubble:这个值越大越好，以你的case，有2bit 220.136.35.239 11/09 01:04
4F：→ arksbubble:资讯量。 有错请指正 220.136.35.239 11/09 01:04