Entropi (bilgi teorisi)

Vikipedi, özgür ansiklopedi
(Entropi (bilgi kuramı) sayfasından yönlendirildi)
Gezinti kısmına atla Arama kısmına atla

Bilgi teorisi'nde entropi bir iletinin içerdiği bilgi miktarıdır.

Tanım[değiştir | kaynağı değiştir]

Ayrık bir rassal değişken X'in entropisi

olarak tanımlanır.

Burada bir x için Pr[X=x]=0 ise,

varsayılır. Bu varsayım

limiti ile tutarlıdır.