Содержательный подход. Количество информации, заключенное в
сообщении,
определяется объемом знаний, который несет это сообщение получаемому
его человеку.
При содержательном подходе возможна качественная оценка информации:
полезная, безразличная, важная, вредная... Одну и ту же информацию
разные люди могут оценить по разному.
Пусть в некотором сообщении содержатся сведения о том, что произошло
одно из N равновероятных событий (равновероятность обозначает, что
ни одно событие не имеет преимуществ перед другими). Тогда количество
информации, заключенное в этом сообщении, - x бит и число N связаны
формулой: 2x = N, тогда x=log2 N
Пример:
При бросании монеты сообщение о результате жребия (например, выпал
орел) несет 1 бит информации, поскольку количество возможных вариантов
результата равно 2 (орел или орешка). Оба эти варианта равновероятны.
Ответ может быть получен из решения уравнения: 2 x =2,
откуда следует, что x = 1 бит.
Вывод: В любом случае сообщение об одном событии из двух
равновероятных несет 1 бит информации.