Strojové učení 2

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra matematiky

Anotace:

1.Základní pojmy v oblasti teorie pravděpodobnosti a strojového učení (vybrané typy rozdělení, Bayesova věta, KL divergence, prokletí dimensionality, přetrénování, ML a MAP odhad, PCA)

2.Rozhodovací stromy: obecné schéma, rekurzivní dělení, nejlepší dělení a prořezávání, kombinace klasifikátorů - bagging vs. boosting, náhodné lesy.

3.Příklady rozhodovacích stromů: Adaptive boosting – AdaBoost, Gradient boosting, Xgboost.

4.Numerické metody optimalizace (metody největšího spádu, konjugovaných gradientů a Newtonovy, vázaný extrém, Lagrangeova funkce)

5.Hluboké dopředné neuronové sítě (skryté vrstvy, nelineární aktivační funkce, výstupní vrstvy, optimalizační funkcionál, stochastická metoda největšího spádu, back-propagation algoritmus)

6.Optimalizace pro učení hlubokých sítí (regularizace, algoritmy s adaptivním parametrem učení)

7.Konvoluční neuronové sítě

8.Rekurentní neuronové sítě

9.Pokročilé architektury sítí (autokodéry, GAN)

10.Aplikace hlubokého učení (klasifikace, segmentace, rekonstrukce obrazu)

Požadavky:

Osnova přednášek:

Více informací naleznete na https://su2.utia.cas.cz/

Osnova cvičení:

Více informací naleznete na https://su2.utia.cas.cz/

Cíle studia:

Studijní materiály:

Povinná literatura:

[1] Goodfellow I., Bengio Y., Courville A.: Deep Learning, MIT Press, 2016.

[2] Bishop, Christopher M.: Pattern Recognition and Machine Learning. Springer, 2006.

Doporučená literatura:

[3] Géron A: Hands-On Machine Learning with Scikit-Learn and TensorFlow, 2017.

[4] Chollet, F.: Deep Learning with Python, 2018.

[5] online zdroje: pytorch.org/tutorials/, playground.tensorflow.org, tensorflow.org/learn/

Poznámka:

Další informace:

https://su2.utia.cas.cz/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Aplikované matematicko-stochastické metody (povinně volitelný předmět)