Teorie informace a kódování

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra matematiky

Anotace:

Předmět seznamuje studenty s matematickými základy zpracování digitální informace, efektivní kompresí dat a přenosen dat pomocí samoopravných kódů.

Požadavky:

Pravděpodobnost a statistika

Diskrétní matematika

Osnova přednášek:

1) Algebraické struktury používané při detekci a opravě chyb - okruh Zn.

2) Lineární prostory nad tělesem Zp.

3) Lineární kódy - generující a kontrolní matice.

4) Opravování chyb, Hammingovy kódy.

5) Polynomy nad Zp a faktorové okruhy polynomů.

6) Cyklické kódy - generující a kontrolní polynom.

7) Galoisova tělesa, primitivní prvek.

8) Kořeny cyklických kódů v tělese.

9) BCH kódy.

10) Teorie informace - pravděpodobnost a entropie.

11) Entropie, informační divergence, vzájemná informace.

12) Komprese dat a zdrojové kódování.

13) Universální komprese (Lempel - Ziv).

14) Informační kanál, Shannonova věta o kapacitě kanálu.

Osnova cvičení:

1) Algebraické struktury používané při detekci a opravě chyb - okruh Zn.

2) Lineární prostory nad tělesem Zp.

3) Lineární kódy - generující a kontrolní matice.

4) Opravování chyb, Hammingovy kódy.

5) Polynomy nad Zp a faktorové okruhy polynomů.

6) Cyklické kódy - generující a kontrolní polynom.

7) Galoisova tělesa, primitivní prvek.

8) Kořeny cyklických kódů v tělese.

9) BCH kódy.

10) Teorie informace - pravděpodobnost a entropie.

11) Entropie, informační divergence, vzájemná informace.

12) Komprese dat a zdrojové kódování.

13) Universální komprese (Lempel - Ziv).

14) Informační kanál, Shannonova věta o kapacitě kanálu.

Cíle studia:

Porozumění matematickému modelu kódování a přenosu digitální informace.

Studijní materiály:

[1] Cover, T.M., Thomas, J.A.: Elements of Information Theory. Wiley, 2006.

[2] Yeung, R.W.: Information Theory and Network Coding. Springer, 2008.

[3] Adámek, J.: Kódování. SNTL, Praha, 1989.

[4] Vajda, I.: Teorie informace. Vydavatelství ČVUT, 2004.

Poznámka:

Předmět bude vyučován pouze v prezenční formě bez anglické verze.

Další informace:

https://math.fel.cvut.cz/en/people/gollova/tik.html

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Elektronika a komunikace - Komunikace a zpracování informace (povinně volitelný předmět)