Rozpoznávání a strojové učení

Vztahy:

Předmět B4B33RPZ nesmí být zapsán, je-li v témže semestru zapsán anebo již dříve absolvován předmět BE5B33RPZ (vztah je symetrický)

Předmět B4B33RPZ nesmí být zapsán, je-li v témže semestru zapsán anebo již dříve absolvován předmět AE4B33RPZ (vztah je symetrický)

Podmínkou zápisu na předmět B4B33RPZ je, že student si nejpozději ve stejném semestru zapsal příslušný počet předmětů ze skupiny BEZBM

Předmět B4B33RPZ může být splněn v zastoupení předmětem BE5B33RPZ

Předmět B4B33RPZ nesmí být zapsán, je-li v témže semestru zapsán anebo již dříve absolvován předmět BE5B33RPZ (vztah je symetrický)

Garant předmětu:

Jiří Matas

Přednášející:

Ondřej Drbohlav, Jiří Matas

Cvičící:

Klára Janoušková, Jiří Matas, Michal Neoral, Matěj Suchánek, Jonáš Šerých, Jan Šochman, Tomáš Vojíř

Předmět zajišťuje:

katedra kybernetiky

Anotace:

Základní úlohou rozpoznávání je nalezení strategie rozhodování minimalizující ztrátu plynoucí z chybných rozhodnutí. Potřebná znalost o (typicky statistickém) vztahu příznaků, t.j. pozorovatelných vlastností objektů a skrytých parametrů objektů z dané třídy je získána učením. Jsou představeny základní formulace úlohy rozpoznávání a principy učení. Návrh, učení a vlastnosti základních typů klasifikátorů (perceptron, support vector machines, adaboost a neuronové sítě) jsou rozebrány do hloubky.

Tento předmět je také součástí meziuniverzitního programu prg.ai Minor. Ten spojuje to nejlepší z výuky AI v Praze s cílem poskytnout studujícím hlubší a širší vhled do oboru umělé inteligence. Více informací je k dispozici na webu https://prg.ai/minor.

Požadavky:

Předpokládá se znalost lineární algebry, mat. analýzy a pravděpodobnosti a statistiky.

Osnova přednášek:

1. Úvod. Formulace úloh řešených v rozpoznávání. Mapa předmětu. Pojmy.

2. Bayesovská úloha rozhodování.

3. Nebayesovské úlohy (Neyman-Pearson, Minimax, Wald, Linnik).

4. Odhady parametrů pravděpodobnostních modelů. Metoda maximální věrohodnosti.

5. Logistická regrese.

6. Učení klasifikátoru.Lineární klasifikátor. Perceptron.

7. Učení jako kvadratický optimalizační problém. Klasifikátor typu SVM.

8. Učení metodou Adaboost.

9. Neuronové sítě. Učení metodou backpropagation.

10. Metoda nejližších sousedů. Neparametricé odhady hustoty.

11. Shlukování metodou k-means

12. Rozhodovací stromy.

13. Princial compont analysi. Fisherův linární diskriminant.

14. Rezerva. Druhý průchod látkou.

Osnova cvičení:

Studenti řeší několik rozpoznávacích úloh, např. rozpoznání ručně psaných znaků, identifikaci obličeje či detekci spamu pomocí jak klasických metod, tak pomocí učících se klasifikátorů.

1.Úvodní cvičení. Instalace STPR toolboxu, práce s Matlabem, jednoduchý příklad

2.Bayesovská úloha rozhodování.

3.Nebayesovské úlohy - úloha Neyman-Pearson

4.Nebayesovské úlohy - Minimaxní úloha

5.Maximálně věrohodný odhad

6.Neparametrické odhady Parzenova okénka

7.Lineární klasifikátor - Perceptron

8.AdaBoost

9.Support Vector Machines I

10.Support Vector Machines II

11.EM algoritmus I

12.EM algoritmus II

13.Odevzdávání a kontrola úloh

14.Odevzdávání a kontrola úloh

Cíle studia:

Naučit studenta formulovat úlohu statistického rozhodování (rozpoznávání), používat metody strojového učení, a řešit rozpoznávací úlohu pomocí nejpoužívanějších učících se klasifikátorů (SVM, Adaboost, neuronová síť, perceptron, nejbližší soused)

Studijní materiály:

1. Duda, Hart, Stork: Pattern Classification, John Willey and Sons, 2nd edition, New York,2001.

2. Schlesinger, Hlavac: Ten Lectures on Statistical and Structural Pattern Recognition, 2002 (Deset přednášek z teorie statistického a strukturního rozpoznávání, 1997).

Poznámka:

Další informace:

https://cw.fel.cvut.cz/wiki/courses/B4B33RPZ

Rozvrh na zimní semestr 2024/2025:

	06:00–08:0008:00–10:0010:00–12:0012:00–14:0014:00–16:0016:00–18:0018:00–20:0020:00–22:0022:00–24:00
Po
Út
St
Čt
Pá	místnost KN:E-301 Matas J. Drbohlav O. 11:00–12:30 (přednášková par. 1) Karlovo nám. Šrámkova posluchárna K9místnost KN:E-132 12:45–14:15 (přednášková par. 1 paralelka 101) Karlovo nám. Laboratoř PCmístnost KN:E-132 14:30–16:00 (přednášková par. 1 paralelka 103) Karlovo nám. Laboratoř PC místnost KN:E-230 12:45–14:15 (přednášková par. 1 paralelka 102) Karlovo nám. Laboratoř PCmístnost KN:E-230 14:30–16:00 (přednášková par. 1 paralelka 104) Karlovo nám. Laboratoř PC místnost KN:E-112 12:45–14:15 (přednášková par. 1 paralelka 105) Karlovo nám. Cvičebna Vyčichlova

Rozvrh na letní semestr 2024/2025:

Rozvrh není připraven

Předmět je součástí následujících studijních plánů:

• Otevřená informatika - Informatika a počítačové vědy 2016 (povinný předmět oboru)
• Otevřená informatika - před rozřazením do oborů (povinný předmět oboru)
• Lékařská elektronika a bioinformatika (povinný předmět programu)
• Otevřená informatika - Základy umělé inteligence a počítačových věd 2018 (povinný předmět zaměření)
• prg.ai/minor-tech (volitelný předmět)