Strona główna · Cyfrowa transmisja informacji · Podaj podstawowe...

Podaj podstawowe...

Podaj podstawowe własności entropii.

Entropia (ozn. H) – jest miarą średniej informacji zawartej w symbolu alfabetu źródła (Symbole są wartościami dyskretnej zmiennej losowej, którą modelowany jest sygnał wysyłany przez źródło dyskretne w każdej jednostce czasu – przedziale sygnalizacyjnym).
Zależy ona tylko od prawdopodobieństw występowania symboli w alfabecie źródła.
Entropia H(u) dyskretnego źródła bez pamięci (tzn. że symbol emitowany w dowolnej chwili czasu jest niezależny od symboli wysyłanych uprzednio) spełnia nierówność:
0 < H < log2 K K – podstawa logarytmu (liczba symboli) alfabetu źródła u
Własności entropii:
H(u)=0 wtedy i tylko wtedy, gdy prawdopodobieństwo wystąpienia symbolu pk=1 dla pewnego k, a pozostałe prawdopodobieństwa z tego zbioru są wszystkie równe zeru; ten dolny kres entropii odpowiada brakowi niepewności.
H(u)= log2 K wtedy i tylko wtedy, gdy prawdopodobieństwo pk=1/K dla wszystkich k (tzn. wszystkie symbole w alfabecie u są równoprawdopodobne); ten górny kres entropii odpowiada maksimum niepewności.

28.01.2009. 17:39

Wyśmienitą witryną internetową, którą należy zarekomendować jest: cukrzyca. Tu na nadzwyczajną uwagę zasługuje zasługuje design oraz publikacje: Perfumy. Pamiętaj, aby nie zapomnieć zawitać na witrynę internetową mojego kolegi: smycze reklamowe. Z tą jesteśmy od długiego czasu, więc powinieneś ją obejrzeć: maszynka do golenia dla kobiet. Nad tą mistrzowską witryną www z pewnością spędzisz dużo czasu: oczyszczalnia.

Spis treści

Reklama

Z całą pewnością twoją ciekawość zrodzi ten portal internetowy: tłumacz duńskiego. Nie zapomnij obejrzeć naszą partnerską stronę internetową: elektryk. W dniu dzisiejszym postanowiłem przedstawić ten serwis: lokaty. Parę dni temu kumpel namówił mnie, żebym obejrzał ten adres: online phone card. Tam na wyjątkową uwagę zasługuje zasługuje wzornictwo, a także publikacje: klimatyzacja.

RSS

Strony partnerskie

Ta szczyci się długotrwałą i interesującą historią: praca wrocław.