Statistical Machine Learning

Podmínkou zápisu na předmět BE4M33SSU je, že student si nejpozději ve stejném semestru zapsal příslušný počet předmětů ze skupiny BEZBM

Garant předmětu:

Boris Flach

Přednášející:

Jan Drchal, Boris Flach, Vojtěch Franc

Cvičící:

Jan Drchal, Boris Flach, Vojtěch Franc, Jakub Paplhám

Předmět zajišťuje:

katedra kybernetiky

Anotace:

The aim of statistical machine learning is to develop systems (models and algorithms) for learning to solve tasks given a set of examples and some prior knowledge about the task. This includes typical tasks in speech and image recognition. The course has the following two main objectives

1. to present fundamental learning concepts such as risk minimisation, maximum likelihood estimation and Bayesian learning including their theoretical aspects,

2. to consider important state-of-the-art models for classification and regression and to show how they can be learned by those concepts.

Požadavky:

Prerequisites of the course are:

- foundations of probability theory and statistics comparable to the scope of the course „Probability, statistics and information theory“ (A0B01PSI),

- knowledge of statistical decision theory foundations, canonical and advanced classifiers as well as basics of machine learning comparable to the scope of the course „Pattern Recognition and Machine Learning“ (AE4B33RPZ)

Osnova přednášek:

The course will cover the following topics

- Empirical risk minimization, consistency, bounds

- Maximum Likelihood estimators and their properties

- Unsupervised learning, EM algorithm, mixture models

- Bayesian learning

- Deep (convolutional) networks

- Supervised learning for deep networks

- Hidden Markov models

- Structured output SVMs

- Ensemble learning, random forests

Osnova cvičení:

Labs will be dedicated to practical implementations of selected methods discussed in the course as well as seminar classes with task-oriented assignments.

Cíle studia:

The aim of statistical machine learning is to develop systems (models and algorithms) for learning to solve tasks given a set of examples and some prior knowledge about the task.

Studijní materiály:

1. M. Mohri, A. Rostamizadeh and A. Talwalkar, Foundations of Machine Learning, MIT Press, 2012

2. K.P. Murphy, Machine Learning: A Probabilistic Perspective, MIT Press, 2012

3. T. Hastie, R. Tibshirani and J. Friedman, The Elements of Statistical Learning, Springer, 2010

4. I. Goodfellow, Y. Bengio and A. Courville, Deep Learning, MIT Press, 2016

Poznámka:

Další informace:

https://cw.fel.cvut.cz/wiki/courses/BE4M33SSU

Rozvrh na zimní semestr 2024/2025:

Rozvrh není připraven

Rozvrh na letní semestr 2024/2025:

Rozvrh není připraven

Předmět je součástí následujících studijních plánů:

• Lékařská elektronika a bioinformatika - Specializace Bioinformatika (PS)
• Otevřená informatika - Počítačové vidění a digitální obraz 2018 (povinný předmět oboru)
• Otevřená informatika - Umělá inteligence 2018 (povinný předmět oboru)
• Otevřená informatika - Bioinformatika 2018 (povinný předmět oboru)
• Otevřená informatika - Datové vědy 2018 (povinný předmět oboru)
• Open Informatics - Artificial Intelligence (povinný předmět oboru)
• Open Informatics - Computer Vision and Image Processing (povinný předmět oboru)
• Open Informatics - Bioinformatics (povinný předmět oboru)
• Open Informatics - Data Science (povinný předmět oboru)
• Lékařská elektronika a bioinformatika - Specializace Lékařská technika (povinně volitelný předmět)
• Lékařská elektronika a bioinformatika - Specializace Zpracování obrazu (PS)
• Lékařská elektronika a bioinformatika - Specializace Zpracování signálů (povinně volitelný předmět)
• Medical Electronics and Bioinformatics - Specialization Image Processing (PS)
• Medical Electronics and Bioinformatics - Specialization Signal Processing (povinně volitelný předmět)
• Medical Electronics and Bioinformatics - Specialization Bioinformatics (PS)
• Medical Electronics and Bioinformatics - Specialization Medical Instrumentation (povinně volitelný předmět)
• Kybernetika a robotika (povinně volitelný předmět)
• Cybernetics and Robotics (povinně volitelný předmět)