Порядок виконання завдань

Санкт-Петербурзький коледж телекомунікацій

ЗАМ. Директора з Е та Р

Практичне заняття 5

Використання закону адитивності інформації під час вирішення завдань визначення кількості інформації

з дисципліни: «Основи теорії інформації»

230111 «Комп'ютерні мережі»

середньої професійної освіти

Кожна робота розрахована

Опис практичного заняття складено відповідно до робочої програми з навчальної дисципліни «Основи теорії інформації»

Упорядник: К.В. Лебедєва, К.Д. Волкова

Розглянуто та схвалено на засіданні циклової комісії № (циклова комісія загальнопрофесійних дисциплін електрозв'язку)

Затверджено на засіданні методичної ради

_______________ 2015 р. Протокол №_

Голова циклової (предметної) комісії:

Практичне заняття №5

Використання закону адитивності інформації під час вирішення завдань визначення кількості информации

Відповідно до робочої програми з дисципліни «Основи теорії інформації», в результаті виконання завдань ПЗ студент повинен:

- Вимірювати кількість інформації;

- Основні поняття теорії інформації;

- види інформації та способи подання її в електронно-обчислювальних машинах (ЕОМ);

- заходи та одиниці виміру інформації;

Таким чином, студент під час проведення ПЗ та самостійної роботи на тему повинен:

- закріпити навички підрахунку кількості інформації за допомогою закону адитивності

Короткі теоретичні відомості

Адитивність- властивість величин, що полягає в тому, що значення величини, що відповідає цілому об'єкту, дорівнює сумі значень величин, що відповідають його частинам, в деякомукласі можливих розбиття об'єкта на частини. Наприклад, адитивність обсягу означає, що обсяг цілого тіла дорівнює сумі обсягів складових його частин.

Закон адитивності інформації

Кількість інформації H(x1, x2), необхідне встановлення пари (x1, x2), дорівнює сумі кількостей інформації H(x1) і H(x2), необхідні незалежного встановлення елементів x1 , x2: H(x1, x2) = H (x1) + H(x2).

Методичні вказівки

Нехай необхідно відгадати відразу два незалежні предмети х1 і х2, про які відомо, що х1 належить множині Х1, що містить N1 елементів, а х2 належить множині Х2, що містить N2 елементів. Цілком припустимо вважати, що необхідно вгадати пару (х1, х2) де х1 належить множині Х1, а де х2 належить множині Х2. Тоді за ф. Хартлі для вгадування задуманої пари потрібно поставити log2N1N2 питань, тобто. отримати біт інформації. Для вгадування х1 знадобиться log2N1 питань, для х2 – log2N2. Усього знадобиться log2N1 + log2N2 питань (біт інформації).

Ми отримали два вирази для однієї і тієї ж кількості інформації. Згідно з основною логарифімічною тотожністю, обидві величини рівні:

Використовуючи закон адитивності інформації та ф. Хартлі, підрахуємо, скільки інформації несе достовірний прогноз погоди.

Припустимо, що прогноз погоди наступного дня полягає у передбаченні денної температури (зазвичай вибір робиться з 16 можливих для цього сезону значень) та одного з чотирьох значень хмарності (сонячно, мінлива хмарність, похмуро, дощ). Отримуване при цьому кількість інформації дорівнює

Завдання на практичну роботу

Варіант завдання визначає викладач.

Робота виконується у зошиті для практичних робіт і здаєтьсявикладачеві.

Використовуючи формулу Хартлі та закон адитивності інформації вирішіть завдання.

Порядок виконання завдань

Завдання виконуються згідно з цим варіантом. За виконання практичного заняття слід спиратися на короткі відомості, описані раніше.

Зміст звіту

1. Звіт виконується у зошиті для практичних занять

2. Назва заняття та мета заняття

3. Запис свого варіанту, вказаного викладачем

4. Повне вирішення свого варіанта завдання

Приклад виконання завдань

Обчислити обсяг пам'яті комп'ютера для зберігання однієї сторінки тексту англійською мовою, що містить 2400 символів.

Потужність англійського алфавіту, включаючи знаки розподілу,N= 32.

Тоді для зберігання такої сторінки тексту в комп'ютері знадобиться 2400log232 біт = 2400 * 5 = 12000 біт = 1500 байт.

Протягом 5 секунд було передано повідомлення, обсяг якого становив 375 байт. Яким є розмір алфавіту, за допомогою якого записано повідомлення, якщо швидкість передачі склала 200 символів за секунду?

1) 375 байт / 5 с = 75 байт/с - швидкість передачі,

2) Оскільки 75 байт/с відповідають 200 симв./с., то одному символі міститься 75 байт / 200 = 0,375 байт = 3 біта.

3) log2 N = 3 біта, отже, N = 2 3 = 8 символів.

Питання для захисту ПЗ

1. Сформулюйте закон адитивності інформації

2. У грі хлопці використали 2 монетки. Скільки інформації повідомляє повідомлення про те, що при киданні двох монеток випали 2 решки?

Самостійна робота з практичного заняття №5

«Використання закону адитивності інформації під час вирішення завдань визначення кількості інформації»

Самостійнаробота з теми заняття включає:

- Вивчення теоретичного матеріалу лекційних занять, навчальної літератури, Інтернет-ресурсів, розділу «Короткі відомості з теорії» цього опису ПЗ;

- виконання практичних завдань та вирішення завдань

Завдання та практичні завдання

Числа, необхідні вирішення завдань, наведені у таблиці 1.

варіант

A

B

C

D

2. Для спілкування у мові племені Мумбо-Юмбо використовується C основних понять та D зв'язок, що дозволяють поєднувати ці поняття. Для передачі повідомлення плем'я використовує двійковий код: поєднання дзвінких та глухих звуків барабана. Повідомлення передаються порціями: поняття + зв'язування. Скільки ударів потрібно для кодування кожної частини повідомлення?

3. Визначте кількість інформації у своєму імені за умови, що для кодування використовуватиметься 64-символьний алфавіт.

---