Statistické metody rozpoznávání a rozhodování

Garant předmětu:

Jaromír Kukal

Přednášející:

Jaromír Kukal

Cvičící:

Jaromír Kukal

Předmět zajišťuje:

katedra softwarového inženýrství

Anotace:

Přehled metod rozpoznávání a klasifikace objektů s důrazem na matematické a statistické principy, na kterých jsou

vybudovány.

Požadavky:

Osnova přednášek:

1. Basic terms: pattern, pattern set, class, classification, classifier.

2. Quality of classification. Accuracy, sensitivity, specificity, critical sensitivity, average sensitivity.

3. Validation, cross-validation, M-fold, Leave-One-Out.

4. Classification in metric space. Choice of metrics. Nearest Neighbor method and k-NN.

5. Classification in vector space. Linear classifier into two classes. Max Margin method.

6. Methods LDA, QDA and Fischer Discriminant Analysis.

7. Multiclassification. Kessler construction and Rao generalization of discriminant analysis.

8. Motivation to dimensionality reduction. Cover theorem. Coarse of dimensionality.

9. Principal Component Analysis, data whitening and dimensionality reduction.

10. Methodology of cluster analysis. Hierarchical clustering. C-Means, SLINK, CLINK, DBSCAN.

11. Estimation of random variable density. Parzen and Loftsguarden-Quesenberry estimates.

12. Classsification in Hilbert space. Kernel functions and their design. Gramm matrix.

13.Kernel methods: SVM-hard, SVM-L1, SVM-L2, Kernel PCA.

Osnova cvičení:

Cíle studia:

Studijní materiály:

Povinná literatura:

[1] Urbanowicz, R. J. J., Browne, W. N. Introduction to Learning Classifier Systems. Berlin: Springer, 2017.

[2] Matloff, N. Statistical Regression and Classification: From Linear Models to Machine Learning. Boca Raton: CRC

press, 2017.

Doporučená literatura:

[3] Duda, R. O., Hart, P. E., Stork, D. G. Pattern Classification. 2nd edition. New York: Willey, 2007.

[4] Scholkopf, B., Smola, A. J. Learning with Kernels. Cambridge: MIT Press, 2001.

[5] Aggarwal, Ch. C. Data Mining: The Textbook. Cham (Switzerland): Springer, 2015.

[6] Izenman, A. J. Modern Multivariate Statistical Techniques: Regression, Classification, and Manifold Learning.

Corr. 2nd printing 2013 edition. New York: Springer, 2013.

[7] Proceedings of the International Workshop on Multiple Classifier Systems (MCS).

Poznámka:

Rozvrh na zimní semestr 2023/2024:

Rozvrh není připraven

Rozvrh na letní semestr 2023/2024:

Rozvrh není připraven

Předmět je součástí následujících studijních plánů:

• Aplikace informatiky v přírodních vědách (povinný předmět programu)