Vybrané statistické metody

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra aplikované matematiky

Anotace:

Předmět provede studenta pokročilými pravděpodobnostními a statistickými metodami využívanými v informatické praxi. Jedná se zejména o shrnutí vlastností vícerozměrného rozdělení, využití entropie v teorii kódování, testování hypotéz (T-testy, testy dobré shody, testy nezávislosti). V druhé části se předmět zabývá základy teorie náhodných procesů se zaměřením na Markovské řetězce. Závěrem je diskutována teorii hromadné obsluhy a její využití v sítích.

Požadavky:

Základy pravděpodobnosti a statistiky, vícerozměrné matematické analýzy a lineární algebry.

Osnova přednášek:

1. Sjednocení terminologie a opakování teorie pravděpodobnosti

2. Opakování: náhodné veličiny

3. Náhodné vektory

4. Vícerozměrné normální rozdělení

5. Entropie diskrétního rozdělení

6. Využití entropie v teorii kódování

7. Entropie spojitého rozdělení

8. Opakování: limitní věty a základní pojmy statistiky

9. Párový a dvouvýběrový T-test

10. Testy dobré shody

11. Testy nezávislosti, kontingenční tabulky

12. Odhady distribuční funkce a hustoty pravděpodobnosti

13. Gaussovské směsi a EM algoritmus

14. Náhodné procesy - stacionarita, vlastnosti

15. Náhodné procesy - příklady (Gaussovské, Poissonův)

16. Opakování: bezpaměťové rozdělení, exponenciální závody

17. Markovské řetězce s diskrétním časem

18. Markovské řetězce s diskrétním časem - klasifikace stavů

19. Markovské řetězce s diskrétním časem - stacionarita

20. Markovské řetězce - odhady parametrů,

21. MCMC

22. Markovské řetězce se spojitým časem

23. Markovské řetězce se spojitým časem - kolmogorovské rovnice

24. Teorie systémů hromadné obsluhy, Littleho věta

25. Systémy hromadné obsluhy M/M/1 a M/M/m

26. Systémy hromadné obsluhy M/G/infty

Osnova cvičení:

1. Opakování: základy pravděpodobnosti

2. Náhodné vektory, vícerozměrné normální rozdělení

3. Entropie a kódování

4. Sdružená entropie, vzájemná informace

5. T-testy

6. Testy dobré shody a testy nezávislosti

7. Odhady distribuční funkce a hustoty pravděpodobnosti

8. Náhodné procesy, Poisson

9. Markovské řetězce s diskrétním časem - stacionarita

10. Markovské řetězce s diskrétním časem - klasifikace stavů

11. Exponenciální závody

12. Markovské řetězce se spojitým časem

13. Systémy hromadné obsluhy

Cíle studia:

Cílem předmětu je seznámit studenta s pokročilými pravděpodobnostními a statistickými metodami využívanými v informatické praxi.

Studijní materiály:

1. Cover, T. M. - Thomas, J. A. : Elements of Information Theory (2nd Edition). Wiley, 2006. ISBN 978-0-471-24195-9.

2. Durrett, R. : Essentials of Stochastic Processes. Springer, 1999. ISBN 978-0387988368.

3. Grimmett, G. - Stirzaker, D. : Probability and Random Processes (3rd Edition). Oxford University Press Inc., 2001. ISBN 978-0-19-857222-0.

Poznámka:

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/MI-SPI/

Další informace:

https://courses.fit.cvut.cz/NI-VSM/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Mgr. specializace Počítačová bezpečnost, 2020 (povinný předmět programu)
• Mgr. specializace Návrh a programování vestavných systémů, 2020 (povinný předmět programu)
• Mgr. specializace Počítačové systémy a sítě, 2020 (povinný předmět programu)
• Mgr. specializace Manažerská informatika, 2020 (povinný předmět programu)
• Mgr. specializace Softwarové inženýrství, 2020 (povinný předmět programu)
• Mgr. specializace Systémové programování, verze od 2020 (povinný předmět programu)
• Mgr. specializace Webové inženýrství, 2020 (povinný předmět programu)
• Mgr. specializace Znalostní inženýrství, 2020 (povinný předmět programu)
• Mgr. specializace Teoretická informatika, 2020 (povinný předmět programu)
• Mgr. program, pro fázi studia bez specializace, ver. pro roky 2020 a vyšší (povinný předmět programu)
• Mgr. specializace Systémové programování, verze od 2023 (povinný předmět programu)
• Mgr. specializace Teoretická informatika, 2023 (povinný předmět programu)