Як можна виміряти кількість інформації

Чи вірно твердження про те, що відсутність новин само по собі є хорошою звісткою? Кам`яна скрижаль, вага якої дорівнює трьом тоннам, може дати археологам той же обсяг інформації, що і якісна фотографія в хорошому археологічному виданні, чи не так? А коли київська радіостудія повідомляє останні новини, то і киянин, і житель Іллічівська дізнаються про все, незалежно від того, що енергія радіохвиль в Києві набагато більше, ніж за сотні кілометрів від нього. Виходить, що ні потужність, ні розмір, ні кількість не можуть грати роль заходи інформації. Тоді як же можна оцінити ту чи іншу кількість даних?кількість інформації

новизна

Зі шкільного курсу інформатики нам відомо, що кількість інформації, яке обробляють обчислювальні машини, вимірюється в бітах, байтах і кратних їм одиницях. Однак це не пояснює, як можна застосувати подібні знання в побуті. Наприклад, як ви оціните інформацію, отриману в результаті прочитання цієї статті? Чи справедливо буде стверджувати, що чим більше букв, тим більше її вийде? А якщо, прочитавши цю статтю через тиждень, ви отримаєте ту ж саму кількість інформації, що і раніше? Відповідь очевидна. Все це наштовхує на думку, що з точки зору новизни її просто неможливо виміряти. Ніякої біт тут не допоможе.об`єм інформації

Об `єм



А ось в техніці кількість інформації можна виміряти як число знаків або сигналів, які зберігають, передають і обробляють технічні пристрої. Цей підхід ґрунтується на підрахунку символів в кожному конкретному повідомленні. Наприклад, слово «мир» в англійському алфавіті записується п`ятьма буквами - peace, в російській - трьома, а в КОІ8 на його передачу використовується 24 біта: 111011011110100111110010. Ось тут якраз і знаходять своє застосування мегабайти, кілобайти і террабайти.заходи інформації

імовірність



Існує ще один підхід, згідно з яким інформація розглядається як зняття невизначеності. З цієї точки зору, чим більше ми отримуємо даних, тим менше наше незнання і більше обізнаність. Кількість інформації тут також визначається в бітах, а за одиницю виміру приймається той чи інший імовірнісний результат з однієї пари рівно можливих подій ( «ні» або «так», «0» або «1»). Наприклад, підкинута монета для жеребкування. Може випасти або орел, або решка. Повідомлення про те, що випала решка, зменшує невизначеність вдвічі, а його розмір відповідає одному біту. У разі, коли кількість рівно можливих подій більше 2, для оцінки повідомлення використовують рівність Р. Хартлі, яке зазвичай записують так:

2I = N або I = log2 N, де

N - число всіх можливих подій,

I - обсяг інформації в байтах.

Іноді ця формула записується в модифікованому вигляді: I = log2 (1 / p) = - log2 p. Символ «p» в цьому випадку означає ймовірність настання кожного з рівноймовірно результатів. Припустимо, наприклад, що вгору підкинуто два звичайних гральних кубика. Потрібно визначити, скільки біт несе повідомлення про те, що на одному з них випала п`ятірка, а на іншому - двійка. Неважко порахувати, що ймовірність кожного з цих подій дорівнює одній шостій. Отже, I = 2 * log26 = 2 * 2,585 = 5,17 біт. Як бачите, вимір інформації багато в чому залежить від сфери її використання і обраного підходу. Складно уявити, яке значення вона має в нинішній час. Напевно, після часу це найбільш важливий ресурс, яким може володіти сучасна людина.



Увага, тільки СЬОГОДНІ!

Увага, тільки СЬОГОДНІ!