Popis předmětu - B0B01TIK
| B0B01TIK | Teorie informace a kódování | ||
|---|---|---|---|
| Role: | Rozsah výuky: | 4P+2S | |
| Katedra: | 13101 | Jazyk výuky: | CS |
| Garanti: | Zakončení: | Z,ZK | |
| Přednášející: | Kreditů: | 8 | |
| Cvičící: | Semestr: | L | |
Webová stránka:
http://math.feld.cvut.cz/gollova/tik.htmlAnotace:
Předmět seznamuje studenty s matematickými základy zpracování digitální informace. Jsou vyloženy metody efektivního kódování (Lempel-Ziv) a možnosti přenosu informace informačním kanálem (Shannonova věta). Dále jsou uvedeny základy schémat pro sdílení utajené informace (secret sharing schemes). V druhé části je věnována pozornost kódům pro detekci a opravu chyb. V neposlední řadě slouží kurs jako panoráma rozličných matematických partií používaných v teorii informace (teorie pravděpodobnosti, náhodné procesy, ergodická teorie, algebra).Výsledek studentské ankety předmětu je zde: A0B01TIK
Cíle studia:
Porozumění matematickému modelu kódování a přenosu digitální informace.Osnovy přednášek:
| 1) | Entropie, informační divergence, vzájemná informace. Podmíněná entropie a podmíněná informace. | |
| 2) | Rychlost entropie pro stacionární a ergodické zdroje informace. | |
| 3) | Univerzální zdrojové kódování. Lempelovy-Zivovy kód. | |
| 4) | Informační kanál, základní typy kanálů. | |
| 5) | Kapacita kanálu. Blahutův-Arimotův algoritmus. | |
| 6) | Shannonova věta o kapacitě kanálu. | |
| 7) | Úvod do schémat pro sdílení tajemství. | |
| 8) | Algebraické struktury používané při detekci a opravě chyb. Okruh Z_n, lineární prostory nad tělesem Z_p. | |
| 9) | Lineární kódy - generující a kontrolní matice. Hammingovy kódy. | |
| 10) | Polynomy nad Z_p a faktorové okruhy polynomů. | |
| 11) | Cyklické kódy - generující a kontrolní polynom. | |
| 12) | Galoisova tělesa, primitivní prvek, charakteristika tělesa. | |
| 13) | Kořeny cyklických kódů, BCH kódy. | |
| 14) | Rezerva. |
Osnovy cvičení:
| 1) | Entropie, informační divergence, vzájemná informace. Podmíněná entropie a podmíněná informace. | |
| 2) | Rychlost entropie pro stacionární a ergodické zdroje informace. | |
| 3) | Univerzální zdrojové kódování. Lempelovy-Zivovy kód. | |
| 4) | Informační kanál, základní typy kanálů. | |
| 5) | Kapacita kanálu. Blahutův-Arimotův algoritmus. | |
| 6) | Shannonova věta o kapacitě kanálu. | |
| 7) | Úvod do schémat pro sdílení tajemství. | |
| 8) | Algebraické struktury používané při detekci a opravě chyb. Okruh Z_n, lineární prostory nad tělesem Z_p. | |
| 9) | Lineární kódy - generující a kontrolní matice. Hammingovy kódy. | |
| 10) | Polynomy nad Z_p a faktorové okruhy polynomů. | |
| 11) | Cyklické kódy - generující a kontrolní polynom. | |
| 12) | Galoisova tělesa, primitivní prvek, charakteristika tělesa. | |
| 13) | Kořeny cyklických kódů, BCH kódy. | |
| 14) | Rezerva. |
Literatura:
| [1] | Cover, T.M., Thomas, J.A.: Elements of Information Theory. Wiley, 2006. | |
| [2] | Yeung, R.W.: Information Theory and Network Coding. Springer, 2008. | |
| [3] | Adámek, J.: Kódování. SNTL, Praha, 1989. | |
| [4] | Vajda, I.: Teorie informace. Vydavatelství ČVUT, 2004. |
Požadavky:
Pravděpodobnost, statistika a teorie informace (A0B01PSI), Diskrétní matematika (A4B01DMA) Více informací viz. http://math.feld.cvut.cz/gollova/tik.htmlPoznámka:
| Předmět bude vyučován pouze v prezenční formě bez anglické verze. Předmět bude pravděpodobně otevírán jednou za dva roky. |
Klíčová slova:
entropie, informace, kapacita kanálu, schéma pro sdílení tajemství, lineární kódy, Hammingovy kódy, cyklické kódy a BCH kódyPředmět je zahrnut do těchto studijních plánů:
| Plán | Obor | Role | Dop. semestr |
| Stránka vytvořena 21.1.2026 07:52:09, semestry: Z,L/2025-6, Z,L/2026-7, Z/2027-8, připomínky k informační náplni zasílejte správci studijních plánů | Návrh a realizace: I. Halaška (K336), J. Novák (K336) |