Matematika pro znalostní inženýrství

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra aplikované matematiky

Anotace:

Studenti se seznámí s partiemi matematiky, které jsou potřebné pro pochopení standardních metod a algoritmů používaných ve znalostním inženýrství. Jde zejména o (numerickou) lineární algebru (rozklady matic, vlastní čísla, diagonalizace), spojitou optimalizaci (vázané extrémy, věta o dualitě, gradientní metody) a vybrané pojmy z teorie pravděpodobnosti a statistiky (např. MLE). Výklad teoretické látky je těsně spojen s její aplikací na konkrétní metody a algoritmy, jejichž použití se demonstruje na reálných datech a problémech.

Požadavky:

Znalosti základních pojmů lineární algebry a maticového počtu, základů teorie pravděpodobnosti a látky z předmětu MI-MPI.

Osnova přednášek:

1) Matematická formulace problémů regrese a klasifikace.

2) Geometrický pohled na lineární regresní model, metoda nejmenších čtverců (LS).

3) Numerický výpočet odhadu metodou LS (metody pro QR rozklad matice).

4) Testování hypotéz o lineárním regresním modelu, validace modelu.

5) Redukce počtu vysvětlujících proměnných: ridge regression, best-subset selection apod.

7) Singular value decomposition a spojení s ridge regression.

8) [2] Principal component analysis a její použití pro regresi a redukci dimenzionality.

10) Použití lineární regrese pro klasifikaci.

11) Logistická regrese.

12) Lokální regrese a smoothing methods (splines, kernels).

13) [2] Support vector machines.

Osnova cvičení:

1) Metoda nejmenších čtverců a její výpočet.

2) Metody pro rozklady matic, vlastní čísla matice.

3) Ukázky použití lineární regrese a odvozených metod.

4) Principal component analysis.

5) Logistická regrese.

6) Support vector machines.

Cíle studia:

Studijní materiály:

1. Christopher Bishop, Pattern Recognition and Machine Learning, Springer-Verlag New York (2006), ISBN 978-0-387-31073-2

2. Trevor Hastie, Robert Tibshirani, Jerome Friedman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Springer (2011), ISBN 978-0387848570.

Poznámka:

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/MI-MZI/

Další informace:

https://courses.fit.cvut.cz/MI-MZI/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Mgr. specializace Počítačová bezpečnost, 2020 (volitelný předmět)
• Mgr. specializace Návrh a programování vestavných systémů, 2020 (volitelný předmět)
• Mgr. specializace Počítačové systémy a sítě, 2020 (volitelný předmět)
• Mgr. specializace Manažerská informatika, 2020 (volitelný předmět)
• Mgr. specializace Softwarové inženýrství, 2020 (volitelný předmět)
• Mgr. specializace Systémové programování, verze od 2020 (volitelný předmět)
• Mgr. specializace Webové inženýrství, 2020 (volitelný předmět)
• Mgr. specializace Znalostní inženýrství, 2020 (volitelný předmět)
• Mgr. specializace Teoretická informatika, 2020 (volitelný předmět)
• Mgr. program, pro fázi studia bez specializace, ver. pro roky 2020 a vyšší (volitelný předmět)
• Study plan for Ukrainian refugees (volitelný předmět)
• Mgr. specializace Systémové programování, verze od 2023 (volitelný předmět)
• Mgr. specializace Teoretická informatika, 2023 (volitelný předmět)