Ергодичні джерела
Ергодичні джерела – розділ Філософія, Теорія інформації. Джерела інформації та їх ентропія Усі Дискретні Джерела Без Пам'яті Належать До Класу Ергодичних, тобто. Обл.
Усі дискретні джерела пам'яті ставляться до класу ергодичних, тобто. мають властивість ергодичності.
Ергодичність – це сталість поведінки випадкового процесу у часі.
Прикладом ергодичного процесу є кидання монетки чи грального кубика.
Властивість ергодичності процесу дозволяє застосовувати операцію усереднення визначення ентропії як середньої кількості інформації джерела.
Іншими словами, джерело називатиметься ергодичним, якщо його ймовірнісні параметри можна оцінити за однією досить довгою реалізації, яку він виробляє. І тут реалізації, якими можна оцінити закон розподілу, є типовими. Тому ергодичним джерелом можна назвати джерело, яке виробляє типові послідовності.
Однак властивістю ергодичності можуть мати і джерела з пам'яттю. Наприклад, ергодичні джерела є найбільш близькими, з імовірнісного погляду, моделям осмислених повідомлень (літературних текстів та інше).
Отже, для ергодичних джерел справедливі всі поняття розглянутої ентропії дискретних джерел без пам'яті, які є ергодичними.
Крім того, поняття ентропії стаціонарного дискретного джерела, а також спільної та умовної ентропій та їх властивостей, мають місце, якщо стаціонарне джерело є ергодичним.