Claude Shannon

Claude Elwood Shannon (30. dubna 1916 - 24. února 2001) byl americký matematik, kybernetik, elektroinženýr, "otec teorie informace" a zakladatel informatiky a digitální komunikace.

Claude Shannon

Život

C. E. Shannon se narodil v Petoskey v Michiganu. Otec Claude Elwood Shannon pracoval jako soudce v Gaylordu, kde celá rodina žila, a matka Mabel Wolf Shannon byla ředitelka střední školy tamtéž. V Gaylordu vystudoval Shannon střední školu a již v této době se zajímal o radioamatérismus a dálkově řízené modely - jeho vzorem byl Thomas Alva Edison. Během střední školy pracoval jako doručovatel společnosti Western Union.

Studium

Po střední škole v roce 1932 nastoupil na University of Michigan. Začal studovat elektroinženýrství, ke kterému si nakonec přidal matematiku, a roku 1936 získal v obou oborech B.S. degree - ekvivalent českého Bc. Poté nastoupil na Massachusetts Institute of Technology (MIT), kde začal pracovat jako asistent týmu konstruktérů diferenciálniho analyzátoru pod vedením Vannevara Bushe, a v roce 1937 napsal diplomovou práci A Symbolic Analysis of Relay and Switching Circuits, která používá Booleovu algebru pro návrh reléových sítí. Podle harvardského profesora Howarda Gardnera to byla pravděpodobně nejdůležitější a nejslavnější diplomová práce století. Na MIT získal magisterský titul v elektroinženýrství a PhD v matematice v roce 1940 za disertační práci An Algebra for Theoretical Genetics.

Dílo a práce

C. E. Shannon se ve svém výzkumu pohyboval na střetu několika oborů a i díky tomu začal koncem studia pokládat první teze, na kterých dnes stojí informační věda. Po roce 1942 odešel do matematického oddělení Bellových laboratoří.

Teorie informace

Informace je zpráva, která snižuje neznalost (neurčitost) o stavu systému. Systém má n možných stavů, pravděpodobnosti jejich výskytu, přičemž musí platit: pak množství informace nutné k odstranění neurčitosti o stavu systému (tzv. Shannonova entropie) je dáno následujícím vzorcem:

J400px

Tato kvantitativní teorie informace vychází z předpokladu, že počet stavů systému je známý a konečný, že jsou navíc známy pravděpodobnosti výskytů stavů.

Matematická teorie komunikace

Vydaná v roce 1948, pokusil se v ní vše matematicky popsat a zároveň určit základní jednotku informace. "Označil ji jako „binary digit“ neboli zkráceně „bit“, přičemž stanovil, že jeden bit reprezentuje informaci získanou odpovědí na jednu otázku typu ano/ne, u které je apriorní pravděpodobnost obou odpovědí stejná (odpověď pak lze vyjádřit jednou z dvojice číslic 0 či 1). Na základě tohoto určení kapacity sdělovacího kanálu (či média) rozvinul Shannon jak teorii přenosu dat (bez ohledu na jejich sémantiku), tak teorii datové komprese (související s kritériem věrnosti reprodukce zprávy)."

Klíčová slova

životopis, teorie informace, Claude Shannon