2． 當(dāng)概率為1時(shí)，百分百發(fā)生的事，地球人都知道，所以信息量為0。
3． 當(dāng)一個(gè)消息是由多個(gè)獨(dú)立的小消息組成時(shí)，那么這個(gè)消息所含信息量應(yīng)等于各小消息所含信息量的和。
根據(jù)這幾個(gè)特點(diǎn)，如果用數(shù)學(xué)上對數(shù)函數(shù)來表示，就正好可以表示信息量和消息發(fā)生的概率之間的關(guān)系式：I=-loga(P(x))。這樣，信息不就可以被量化了嗎？既然信息可以被量化，那么總得給它一個(gè)單位吧？人的體重是以公斤來計(jì)量的，人的身高是以米來計(jì)量的，那么信息量該以什么單位來計(jì)量呢？通常是以比特（bit）為單位來計(jì)量信息量的，這樣比較方便，因?yàn)橐粋€(gè)二進(jìn)制波形的信息量恰好等于1bit。