Entropie v pojetí informační vědy: Porovnání verzí

Verze z 23. 1. 2015, 20:25

Entropie je míra informace, kterou nese jednotka, nebo také míra neurčitosti náhodného pokusu, množství informace potřebné k odstranění neurčitosti. Tvrzení vychází z předpokladu, že termín informace znamená zprávu, která snižuje neurčitost. Znázorňuje se Shannonovým vzorcem:Shannonův vzorec. Původně se jednalo o pojem klasické termodynamiky, který zavedl Rudolf Clausius ( ^[1]). Lze ji uplatnit v případě, že jsou složky systému smíšené. Pro výpočet musí být známá pravděpodobnost výskytu znaku. Míra informace stoupá, pakliže byl znak méně očekávaný. Informace je na entropii závislá.

Obsah

1 Informace
2 Teorie informace
- 2.1 Claude Shannon
- 2.2 Norbert Wiener
  - 2.2.1 Zdroje

Informace

Je to údaj o reálném prostředí, o jeho stavu a procesech, které v něm probíhají. Jedná se o interdisciplinární pojem, kdy se v každém oboru pracuje s informací z rozličných úhlů pohledu: teorie informace, kybernetika, obecná teorie systémů, počítačová věda, informatika, sociální komunikace, sémiotika, sémantika, lingvistika, sociální informatika, informační estetika (Informační estetiku rozvinul A. Moles, který prováděl rozsáhlé výzkumy klasické hudby pomocí entropie. Umění chápal jako permutační proces. Skutečný informační obsah dle něj záleží na přijímači. Vnímání tohoto obsahu je určeno krátkodobou pamětí, konkrétně schopností zapamatovat si jednotlivé znaku jdoucí za sebou v intervalu 5 vteřin. Obsah krátkodobého je dáno součinem: Kk = Ck * T = 128 (bit). Tato hodnota byla stanovena jako kritérium srozumitelnosti díla.). Čím větší je podíl informace, tím menší je podíl entropie.

Teorie informace

Za zakladatele jsou považováni američtí matematici Claude Shannon a Norbert Wiener, ve svých pracích poskytli matematicko-statistický pohled na informaci.

Claude Shannon

Zabýval se tokem informací sdílených lidmi pomocí nově vytvořených komunikačních technologií. Inspirovala ho práce výzkumníka pro Bellovy telefonní laboratoře. Přelomovou prací je výsledek bádání, při němž Shannon spolupracoval s Warrenem Weaverem - A Mathematical Theory of Communication, kde tvrdí, že z informace se musí odstranit sémantická složka a pro bádání ponechat pouze syntaktickou složku, pro odstranění neurčitosti. Z Informace se stává pojem.

Norbert Wiener

Doplnil Shannonovu práci. Zkoumal způsoby, jakými dochází k dorozumívání mezi stroji, jak jsou řízeny jako celek a udržovány v chodu. Informaci chápal jako nosič, který slouží jako prostředník mezi jednotlivými složkami systému. Zde popsané nazval kybernetika.

Zdroje

↑ "Přírůstek entropie v termodynamice znamená posun z více uspořádaného (rozlišitelného) do méně uspořádaného stavu fyzikálního systému. Tento jev je doprovázen energetickými změnami (např. atomová energie vzniká porušením uspořádání atomového jádra")."

HAVLÁSKOVÁ, Markéta, Vývoj významu pojmu informace ve vybraných oblastech: teorie informace a systémové teorie, Brno, 2006,bakalářská práce, [vid. 20. 1. 2015], dostupné na: http://is.muni.cz/th/109106/ff_b/bc.txt Univerzita Palachova v Olomouci, Teorie informace, dostupné na: http://biofyzika.upol.cz/cs/vyhledavani?cx=011300830659853885064%3At09cxc8842k&cof=FORID%3A11&ie=UTF-8&q=kybernetika+entropie&sa= Urbaniková, Nela. 2013. „Entropie.“ Encyklopedie lingvistiky, ed. Kateřina Prokopová. Olomouc: Univerzita Palackého v Olomouci. http://oltk.upol.cz/encyklopedie/index.php5/Entropie Mgr, TUČEK, Richard, Teorie informace, dostupné na : http://www.tucekweb.info/Teo_inf/Teo_inf.html

[1] "Přírůstek entropie v termodynamice znamená posun z více uspořádaného (rozlišitelného) do méně uspořádaného stavu fyzikálního systému. Tento jev je doprovázen energetickými změnami (např. atomová energie vzniká porušením uspořádání atomového jádra")."

[1]

@@ Řádek 1: / Řádek 1: @@
-míra informace, kterou nese jednotka, nebo také míra neurčitosti náhodného pokusu, množství informace potřebné k odstranění neurčitosti. Tvrzení vychází z předpokldu, že termín ''informace'' znamená : zpráva, která snižuje neurčitost. Znázorňuje se Shannonovým vzorcem:[http://www.tucekweb.info/Teo_inf/Teo_inf.html Shannonův vzorec]. Původně se jednalo o pojem klasické termodynamiky který zavedl Rudolf Clausius ( <ref>"Přírůstek entropie v termodynamice znamená posun z více uspořádaného (rozlišitelného) do méně uspořádaného stavu fyzikálního systému. Tento jev je doprovázen energetickými změnami (např. atomová energie vzniká porušením uspořádání atomového jádra")."</ref>).  Lze ji uplatnit v případě, že jsou složky systému smíšené. Pro výpočet musí být známá pravděpodobnost výskytu znaku. Míra informace stoupá, pakliže byl znak méně očekávaný. Informace je na entropii závislá.
+'''Entropie''' je míra [[informace]], kterou nese jednotka, nebo také míra neurčitosti náhodného pokusu, množství informace potřebné k odstranění neurčitosti. Tvrzení vychází z předpokladu, že termín ''informace'' znamená zprávu, která snižuje neurčitost. Znázorňuje se Shannonovým vzorcem:[http://www.tucekweb.info/Teo_inf/Teo_inf.html Shannonův vzorec]. Původně se jednalo o pojem klasické termodynamiky, který zavedl Rudolf Clausius ( <ref>"Přírůstek entropie v termodynamice znamená posun z více uspořádaného (rozlišitelného) do méně uspořádaného stavu fyzikálního systému. Tento jev je doprovázen energetickými změnami (např. atomová energie vzniká porušením uspořádání atomového jádra")."</ref>). Lze ji uplatnit v případě, že jsou složky systému smíšené. Pro výpočet musí být známá pravděpodobnost výskytu znaku. Míra informace stoupá, pakliže byl znak méně očekávaný. Informace je na entropii závislá.
 == Informace ==
-Je to údaj o reálném prostředí, o jeho stavu a procesech které v něm probíhají. Jedná se o interdisciplinární pojem, kdy v se v každém oboru pracuje s informací z rozličných úhlů pohledu: Teorie informace, kybernetika, obecná teorie systémů, počítačová věda, informatika, sociální komunikace, sémiotika, sémantika, lingvistika, sociální informatika, informační estetika (Informační estetiku rozvinul A. Moles, který prováděl rozsáhlé výzkumy klasické hudby pomocí entropie. Umění chápal jako permutační proces. Skutečný informační obsah dle něj záleží na přijímači. Vnímání tohoto obsahu je určeno krátkodobou pamětí, konkrétně schopností zapamatovat si jednotlivé znaku jdoucí za sebou v intervalu 5 vteřin. Obsah krátkodobého je dáno součinem: Kk  = Ck * T = 128 (bit). Tato hodnota byla stanovena jako kritérium srozumitelnosti díla. ). Čím větší je podíl informace, tím menší je podíl entropie.
+Je to údaj o reálném prostředí, o jeho stavu a procesech, které v něm probíhají. Jedná se o interdisciplinární pojem, kdy se v každém oboru pracuje s informací z rozličných úhlů pohledu: teorie informace, [[kybernetika]], obecná teorie systémů, počítačová věda, informatika, sociální [[komunikace]], sémiotika, sémantika, lingvistika, sociální informatika, informační estetika (Informační estetiku rozvinul A. Moles, který prováděl rozsáhlé výzkumy klasické hudby pomocí entropie. Umění chápal jako permutační proces. Skutečný informační obsah dle něj záleží na přijímači. Vnímání tohoto obsahu je určeno krátkodobou pamětí, konkrétně schopností zapamatovat si jednotlivé znaku jdoucí za sebou v intervalu 5 vteřin. Obsah krátkodobého je dáno součinem: Kk  = Ck * T = 128 (bit). Tato hodnota byla stanovena jako kritérium srozumitelnosti díla.). Čím větší je podíl informace, tím menší je podíl entropie.
 == Teorie informace ==
 Za zakladatele jsou považováni američtí matematici Claude Shannon a Norbert Wiener, ve svých pracích poskytli matematicko-statistický pohled na informaci.
 === [[Shannonovo chápání informace|Claude Shannon]] ===
-Zabýval se tokem informací sdílených lidmi pomocí nově vytvořených komunikačních technologií. Inspirovala ho práce výzkumníka pro Bellovy telefonní laboratoře. Přelomovou prací je výsledek bádání, při němž Shannon spolupracoval s Warrenem Weaverem - A Mathematical Theory of Communication, kde tvrdí, že z informace se musí odstranit [[sémantika  a syntaxe informace|sémantická]] složka a pro bádání ponechat pouze syntaktickou složku, pro odstranění neurčitosti. Z Informace se stává pojem.
+Zabýval se tokem informací sdílených lidmi pomocí nově vytvořených komunikačních technologií. Inspirovala ho práce výzkumníka pro Bellovy telefonní laboratoře. Přelomovou prací je výsledek bádání, při němž Shannon spolupracoval s Warrenem Weaverem - A Mathematical Theory of Communication, kde tvrdí, že z informace se musí odstranit [[sémantika a syntaxe informace|sémantická]] složka a pro bádání ponechat pouze syntaktickou složku, pro odstranění neurčitosti. Z Informace se stává pojem.
 === Norbert Wiener ===
 Doplnil Shannonovu práci. Zkoumal způsoby, jakými dochází k dorozumívání mezi stroji, jak jsou řízeny jako celek a udržovány v chodu. Informaci chápal jako nosič, který slouží jako prostředník mezi jednotlivými složkami systému. Zde popsané nazval ''[[kybernetika]]''.
@@ Řádek 16: / Řádek 16: @@
 Urbaniková, Nela. 2013. „Entropie.“ Encyklopedie lingvistiky, ed. Kateřina Prokopová. Olomouc: Univerzita Palackého v Olomouci. http://oltk.upol.cz/encyklopedie/index.php5/Entropie
 Mgr, TUČEK, Richard, Teorie informace,  dostupné na : http://www.tucekweb.info/Teo_inf/Teo_inf.html
+[[Kategorie: Informační studia a knihovnictví|*]]