Teorie informacji

Ogólna teoria informacji jest działem cybernetyki. Stara się badać wszystkie przejawy procesów informacyjnych. Opiera się na założeniu, że istnieją pewne ogólne prawidłowości procesów informacyjnych które można sformalizować. Ponadto prawidłowości te mają być wspólne dla różnych układów.

Cybernetyka zajmuje się przekazywaniem i przekształcaniem informacji
w systemach technicznych, biologicznych i społecznych. Ogólna teoria informacji bada takie zagadnienia jak:

  1. Ocena pewnych właściwości informacji,

  2. korzystna transformacja informacji,

  3. adekwatność tej samej informacji zapisanej w różnych kodach


Ilościowe (klasyczne) ujęcie informacji

Za ojca pierwszej teorii informacji uważa się C. E. Shannona. Jego badania związane były z telekomunikacją. Skupił się na źródle i przekazie informacji. W obrębie jego zainteresowań znalazły się zagadnienia transmisji i odbioru informacji. Istotny dla niego był kanał komunikacji. Okazało się też, że tego rodzaju ujęcie i charakterystyka mechanizmów komunikacji mogą być rozszerzone na pewne rodzaje wzajemnych oddziaływań w całym świecie organicznym.1

Ażeby przybliżyć teorię Shannona należy rozróżnić źródła informacji: ciągłe — podające dowolne wiadomości z ciągłego ich zbioru (np. wskazania termometru rtęciowego), oraz ziarniste (dyskretne) — podające jedną spośród skończonej liczby wiadomości (np. źródło podające litery)2

Wspólne obu klasom sygnałów jest to, że są zupełnie nieprzewidywalne, jeżeli mają być nośnikami informacji.3

Twierdzenia Shannona dotyczą źródeł ziarnistych, wysyłających jakąś liczbę niezależnych od siebie wiadomości. Ilościowa teoria informacji mówi, że komunikat4 zawiera tym więcej informacji im mniejsze prawdopodobieństwo jego wystąpienia. Definicję tą należy ściśle wiązać z pojęciem entropii informacyjnej, tj. wielkości określającej ilość informacji zawartej w wiadomości wysłanej przez źródło.5 Entropia jest miarą nieokreśloności i stopnia „nieuporządkowania” elementów i stanów znajdujących się
w pewnym zbiorze.

Teoria ta nie jest jednak uniwersalna jeśli chodzi o ilościowe nawet ujęcie informacji, ponieważ zastosowanie wyżej wymienionego wzoru każdorazowo wymaga określenia, jaki zbiór zdarzeń wchodzi w skład badanego zjawiska. Dodatkowo należało by wyznaczyć prawdopodobieństwo zajścia każdego z nich. Stąd w ilościowej teorii informacji wyróżnia się statystyczną teorię informacji, która czerpie z ustaleń Shannona.
Definicja Shannona nie zwraca uwagi absolutnie na semantyczny i pragmatyczny wymiar informacji.

1 Kurek-Kokocińska,Stanisława. Informacja: zagadnienia teoretyczne i uwarunkowania prawne działalności informacyjnej. Łódź 200.ISBN 83-7171-786-5. s. 14.

2Informacji teoria. W: Portal PWN 2.0 (…).

3 Mazur, Marian. Jakościowa teoria informacji. Warszawa 1970. s. 23.

4 W teorii informacji wiadomość nadawana przez człowieka lub zastępujące go urządzenie nazywana jest komunikatem.

5Informacji teoria. W: Portal PWN 2.0 (…).

 

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *