Bayesovské metody ve strojovém učení

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra aplikované matematiky

Anotace:

Předmět je zaměřen na praktické využití základních metod bayesovského modelování v dynamicky se rozvíjející oblasti machine learningu, konkrétně na popis reálných jevů vhodně sestavenými modely s jejich následným využitím např. pro předpověď budoucího vývoje nebo pro získání i nformací o vnitřní proměnné (skutečné polohy objektu ze zašuměných měření aj.). Důraz je kladen na pochopení vyložených principů a metod a zejména jejich praktické osvojení, k čemuž slouží řada reálných příkladů a aplikací (např. sledování objektů ve 2D/3D, odhadování zdrojů radiačních úniků, separace medicínských obrazových dat), s nimiž bude student seznámen a/nebo které se sám pokusí řešit.

Požadavky:

Základní znalost pravděpodobnosti a lineární algebry.

Osnova přednášek:

1. Základy a specifika bayesovské teorie - neurčitost, vývoj znalosti, typy odhadů, metody.

2. Lineární modely v machine learningu, online modelování, predikce, příklady.

3. Zobecněné lineární modely GLM, aproximace a sekvenční (online) odhad.

4. Lineární model, odhad struktury, regularizace volbou apriorna.

5. Bilineární modely a bayesovský přístup k PCA, odhad počtu komponent.

6. Aplikace zobecněných lineárních modelů v praktických problémech machine learningu.

7. Základní stavové modely, Kalmanův filtr.

8. Úvod do Monte Carlo metod, rejection sampling.

9. Sekvenční Monte Carlo odhad stavového modelu, bootstrap particle filtr, resampling.

10. Hierarchické učení a jeho aplikace.

11. Grafické modely, naivní Bayes

12. Úvod do deep learningu a pravděpodobnostních grafických modelů.

Osnova cvičení:

1. Úvod, konstrukce lineárního modelu a jeho odhad, vývoj znalosti, předpovědi.

2. Bayesovská sekvenční lineární regrese, regularizace, ukázky na reálných datech.

3. Sekvenční logistická regrese s využitím reálných dat.

4. Bayesovský model maticové dekompozice a jeho aplikace např. v biomedicíně.

5. Sestavení stavového modelu pro reálný problém a jeho odhad.

6. Využití particle filtru v praktických úlohách machine learningu.

Cíle studia:

Cílem předmětu je seznámit studenty s širokou škálou aplikací bayesovské teorie v problémech strojového učení.

Studijní materiály:

1. Andrew Gelman et al., Bayesian Data Analysis, Chapman and Hall (2013), ISBN 1439840954.

2. David Barber, Bayesian Reasoning and Machine Learning, Cambridge University Press (2012), ISBN 978-0-521-51814-7.

Poznámka:

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/MI-BML/

Další informace:

https://courses.fit.cvut.cz/NI-BML/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Mgr. specializace Teoretická informatika, 2018-2019 (volitelný předmět)
• Mgr. specializace Počítačová bezpečnost, 2020 (volitelný předmět)
• Mgr. specializace Návrh a programování vestavných systémů, 2020 (volitelný předmět)
• Mgr. specializace Počítačové systémy a sítě, 2020 (volitelný předmět)
• Mgr. specializace Manažerská informatika, 2020 (volitelný předmět)
• Mgr. specializace Softwarové inženýrství, 2020 (volitelný předmět)
• Mgr. specializace Systémové programování, verze od 2020 (volitelný předmět)
• Mgr. specializace Webové inženýrství, 2020 (volitelný předmět)
• Mgr. specializace Znalostní inženýrství, 2020 (PS)
• Mgr. specializace Teoretická informatika, 2020 (volitelný předmět)
• Mgr. program, pro fázi studia bez specializace, ver. pro roky 2020 a vyšší (VO, volitelný předmět)
• Master Specialization Digital Business Engineering, 2023 (VO)
• Mgr. specializace Systémové programování, verze od 2023 (volitelný předmět)
• Mgr. specializace Teoretická informatika, 2023 (volitelný předmět)