Неопределённость и энтропия Шеннона

Вывести логарифмическую форму собственной информации из требований аддитивности и монотонности.

Вычислять энтропию дискретного распределения и интерпретировать результат в битах или натах.

Находить совместную и условную энтропию по заданному совместному распределению.

Применять цепное правило энтропии к последовательности случайных величин.

Доказывать вогнутость энтропии Шеннона по распределению вероятностей.

Доказывать, что равномерное распределение максимизирует энтропию на фиксированном конечном носителе, и указывать условие равенства.