Statistické strojové učení

Vztahy:

Podmínkou zápisu na předmět B4M33SSU je, že student si nejpozději ve stejném semestru zapsal příslušný počet předmětů ze skupiny BEZBM

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra kybernetiky

Anotace:

Cílem statistického strojového učení je návrh systémů (modelů a algoritmů) pro řešení daných úloh na základě jejich částečné znalosti a příkladů. Aplikace strojové učení lze například nalézt ve zpracování zvuku a obrazu. Předmět má dva hlavní cíle:

1. prezentovat základní koncepty jako je minimalizace risku, maximálně věrohodný odhad a Bayesovské učení včetně teoretických aspektů uvedených metod

2. popsat nejdůležitější modely pro regresi a klasifikaci a ukázat, jak lze tyto modely učit pomocí vysvětlených konceptů

Studenti získají schopnost konstruovat učící systémy pro běžné aplikace kombinováním vhodných modelů a metod učení.

Požadavky:

Požadavky předmětu:

- znalost základů teorie pravděpodobnosti a statistiky v rozsahu odpovídajícím kurzu „Pravděpodobnost, statistika a teorie informace“ (A0B01PSI)

- znalost teorie statistického rozhodování, základních metod klasifikace a strojového učení v rozsahu odpovídajícím kurzu „Rozpoznávání a strojové učení“ (A4B33RPZ)

Osnova přednášek:

Předmět bude pokrývat následující témata"

- Minimalizace empirického rizika, konzistence, generalizační meze

- Jádrové metody, RKHS, kernel SVM a regrese

- Učení s částečnou supervizí

- Učení bez učitele, EM algoritmus, směsi distribucí

- Bayesovské učení

- Hluboké (konvenční) neuronové sítě a Boltzmann machines (grafické modely)

- Metody učení s učitelem pro hluboké neuronové sítě

- Hopfieldovy sítě a minimalizace energie (MAP odhad v MRF)

- Structured output SVM

- Vzorkovací metody, vzorkování z modelů

- Ensemble learning, random forests

Osnova cvičení:

Cvičení budou věnovaná implementaci vybraných praktických metod odpřednášených během kurzu. Kromě implementace se na cvičení se budou řešit i teoretické úlohy.

Cíle studia:

Studijní materiály:

1. M. Mohri, A. Rostamizadeh and A. Talwalkar, Foundations of Machine Learning, MIT Press, 2012

2. K.P. Murphy, Machine Learning: A Probabilistic Perspective, MIT Press, 2012

3. T. Hastie, R. Tibshirani and J. Friedman, The Elements of Statistical Learning, Springer, 2010

Poznámka:

Další informace:

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Elektronika a komunikace - Komunikace a zpracování informace (povinně volitelný předmět)