Кількість - невизначеність - Велика Енциклопедія Нафти та Газа, стаття, сторінка 1
Кількість – невизначеність
Кількість невизначеності на одну літеру повідомлення, що вимірюється ентропією Н, водночас є мірою кількості інформації, що міститься в одній літері повідомлення. [1]
Ентропія вимірює кількість невизначеності , несподіванки чи інформації, що міститься у певній ситуації, скажімо, прийомі повідомлення чи результаті експерименту. Таким чином вона є важливою функцією ймовірностей окремих можливих подій. Для цього потрібно принаймні частково керувати ймовірностями різних результатів експерименту; Необхідно відповідним чином спланувати експеримент. Критерій максимуму ен - 0 2 тропії все частіше використовується в різних задачах. Тому - 0 2 має сенс досліджувати ентропію саму по собі, незалежно - - 0 6 мо від тих додатків, які розглядаються. [3]
Один біт - це кількість невизначеності, що має місце за необхідності вгадування того, яка з двох рівноймовірних (і незалежних від результатів попередніх експериментів) подій матиме місце при черговому випробуванні. Іншими словами, це кількість інформації, що міститься в повідомленні про те, яке саме з двох рівноймовірних подій мало місце. [5]
Отже, кількість інформації вимірюється кількістю знятої невизначеності , отже, інформацію можна як міру упорядкованості чи порядку системи. [6]
Наскільки це можливо, намагатимемося тепер висловити кількість невизначеності через відомі функції. Легко бачити, якщо Л монотонно зменшується на [ Про, 1 ] і Л ( 1) 0, умови 2.1.1 і 2.1.2 виконані. [7]
Невиконання чи порушення цих умов призводить до суттєвого збільшення кількості невизначеностей. [8]
Це іЗвичайно, якщо ентропія вгадування однієї літери вихідного тексту дорівнює Н бітам, то для того, щоб ліквідувати цю кількість невизначеності, необхідно отримати як мінімум Н біт інформації. [9]
Ця інформація може бути прихована повністю лише тоді, коли невизначеність ключа не менше log n, Це є першим прикладом загального принципу, який часто зустрічатиметься нижче: існує межа, якої не можна перевершити при заданій невизначеності ключа - кількість невизначеності , яка може бути введена в рішення , не може бути більше, ніж невизначеність ключа. [10]
Після проведення, коли результат став відомим, невизначеність зникла. За міру кількості інформації, що міститься у знанні результату досвіду, приймають кількість знятої невизначеності . Якщо в результаті надходження інформації невизначеність у результаті залишилася, природно вважати, що кількість інформації, що надійшла, дорівнює різниці апріорної (досвідченої) і апостеріорної (після досвідченої) невизначеності. [11]
Якщо з будь-яких причин можна передбачити з упевненістю місце розташування точок, у яких критичний тиск з'явиться насамперед незалежно від величини відносини - -, це вказує те що, що можливе проведення дослідів без дотримання вимог закону Фруда. Однак це може призвести до того, що визначення критичного значення коефіцієнта кавітації буде внесено деяку кількість невизначеностей . [12]
Рівень активації - це якась кількісна зміна інтенсивності, енергетичного рівня центральної нервової системи, а порушення рівноваги, організації, вимірюваної кількістю невизначеності ( і, отже, кількістю інформації), яке характеризує системи. на нейронному рівніактивація супроводжується зміною динамічних структур збудження в ретикулярній формації стовбура мозку (див. Huttenlocher, 1961) та в корі (Burns, 1968, гл. Навіть початкове визначення активації як електроенцефалографічної реакції засноване на тому спостереженні, що в ЕЕГ виникає низьковольтна високочастотна активність активність вказує на десинхронізацію.Як було зазначено Ліндслі (1961), це передбачає, що під час десинхронізації нервові елементи стають функціонально незалежними один від одного і, таким чином, здатними функціонувати як окремі канали, що проводять різну інформацію.[13]
Десята теорема Шеннона [56] відноситься до каналу корекції, що діє паралельно каналу зв'язку з шумом так, щоб усунути якнайбільше помилок, викликаних шумом при передачі. При цьому кількість інформації, що переноситься керуючими сигналами, повинна бути не меншою за приріст ентропії системи. Коли канал корекції має пропускну здатність Н, кількість усуненої невизначеності може дорівнювати Н, але може бути більше. Іншими словами, кількість шуму, яка може бути усунена, обмежена кількістю інформації, що передається каналом корекції. [14]