Machine Learning Methods

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra aplikované matematiky

Anotace:

Předmět seznamuje studenty s metodami strojového učení, které uplatní ve svých specializacích navazujícího programu Aplikovaná informatika. Tyto principy a znalosti nejsou obsaženy ve společném bakářském profilu uchazečů, vyučují se jen ve specializacích zaměřených na umělou inteligenci. Cílem je porozumět teoretickým principům a naučit se prakticky používat modely vhodné pro regresní i klasifikační úlohy ve scénáři učení s učitelem včetně jádrových metod a neuronových sítí. Ve scénáři učení bez učitele se studenti seznámí zejména s modely shlukování a s analýzou hlavních komponent. V předmětu bude také probrána problematika vyhodnocování kvality modelů a základní techniky předzpracování dat. Na cvičeních se k práci s daty a modely budou využívat knihovny pandas, scikit a pytorch pro jazyk Python.

Požadavky:

Základní znalost programování v Pythonu.

Osnova přednášek:

1. Základní koncepty strojového učení - supervizované učení, klasifikační a regresní úloha.

2. Rozhodovací stromy, metoda nejbližších sousedů, normalizace.

3. Lineární a hřebenová regrese.

4. Logistická regrese.

5. Ensemble metody - náhodné lesy, AdaBoost.

6. Evaluace modelů (regrese, klasifikace - matice záměn a odvozené metriky), křížová validace, výběr příznaků.

7. Nesupervizované učení - shlukování (aglomerativní hierarchické, k-means).

8. Metoda podpůrných vektorů (SVM) pro klasifikaci.

9. Analýza hlavních komponent (PCA).

10. (2) Neuronové sítě - ztrátové funkce, zpětné šíření chyby, hluboké učení.

11. Konvoluční neuronové sítě, rekurentní neuronové sítě.

12. Moderní modely neuronových sítí - autoencodery, transformery, LLM.

Osnova cvičení:

1. Úvod, představení nástrojů (pandas, sklearn)

2. Rozhodovací stromy, metoda nejbližších sousedů, normalizace

3. Lineární a hřebenová regrese

4. Logistická regrese

5. Ensemble metody - náhodné lesy, AdaBoost

6. Evaluace modelů (regrese, klasifikace - matice záměn a odvozené metriky), křížová validace, výběr příznaků

7. Nesupervizované učení - shlukování (aglomerativní hierarchické, k-means)

8. Metoda podpůrných vektorů (SVM) pro klasifikaci

9. Analýza hlavních komponent (PCA)

10. Úvod do neuronových sítí

11. Konvoluční neuronové sítě, rekurentní neuronové sítě

12. Moderní modely neuronových sítí - autoencodery, transformery

Cíle studia:

Předmět seznamuje studenty s metodami strojového učení, které uplatní ve svých specializacích navazujícího programu Aplikovaná informatika. Tyto principy a znalosti nejsou obsaženy ve společném bakářském profilu uchazečů, vyučují se jen ve specializacích zaměřených na umělou inteligenci. Cílem je porozumět teoretickým principům a naučit se prakticky používat modely vhodné pro regresní i klasifikační úlohy ve scénáři učení s učitelem včetně jádrových metod a neuronových sítí. Ve scénáři učení bez učitele se studenti seznámí zejména s modely shlukování a s analýzou hlavních komponent. V předmětu bude také probrána problematika vyhodnocování kvality modelů a základní techniky předzpracování dat. Na cvičeních se k práci s daty a modely budou využívat knihovny pandas, scikit a pytorch pro jazyk Python.

Studijní materiály:

1. Murphy K. P.: Machine Learning: A Probabilistic Perspective. MIT Press, 2012. ISBN 978-0-262-01802-9.

2. Goodfellow I., Bengio Y., Courville A.: Deep Learning. MIT Press, 2016. ISBN 978-0-262-03561-3.

3. Alpaydin E.: Introduction to Machine Learning. MIT Press, 2020. ISBN 978-0262043793.

4. Hastie T., Tibshirani R., Friedman J.: The Elements of Statistical Learning. Springer, 2009. ISBN 978-0-387-84857-0.

5. Deisenroth M. P.: Mathematics for Machine Learning. Cambridge University Press, 2020. ISBN 978-1108455145.

Poznámka:

Předmět je vyučován v angličtině.

Další informace:

https://courses.fit.cvut.cz/ANIE-MLM

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Master specialization Software engineering, program ANI (povinný předmět programu, volitelný předmět)
• Master specialization Embedded systems (povinný předmět programu, volitelný předmět)
• Master program ANIE for the phase of study without specialisation (povinný předmět programu, volitelný předmět)
• Quantum Informatics (volitelný předmět)
• Master specialization Computer Security, Version 2026 (VO)
• Master programme, for the phase of study without specialisation, ver. for 2026 and higher (VO)
• Master specialization Computer Systems and Networks, in English, 2026 (PS)
• Master specialization Computer Science, in English, 2026 (VO)
• Master specialization Programming Languages, in English, 2026 (VO)