Помогите пожалуйста. Заранее спасибо главное решение было, а не ответ. Дан Алфавит...

Question

Помогите пожалуйста. Заранее спасибо
главное решение было, а не ответ.

Дан Алфавит мощностью 4. Определить количество информации на символе сообщения, составленного из этого алфавита:
A) Если символа алфавита равновероятны
Б) Если символы алфавита встречаются вероятностями p1=0,4; p2=0,15; p3=0,25; p4=0,2.

Answer 1

А) Если символы равновероятны, то количество информации определяется пл формуле Хартли I = log(2)N = log(2)4 = 2 бита
Б) Если вероятности различны, то используется формула Шеннона I=log(2)(1/p)
I1 = log(2)(1/0,4) ≈ 1,32
I2 = log(2)(1/0,15) ≈ 2,74
I3 = log(2)(1/0,25) = 2
I4 = log(2)(1/0,2) ≈ 2,32