Distribuovaný data mining

Přednášející:

Cvičící:

Tomáš Borovička (gar.), Ondřej Stuchlík

Předmět zajišťuje:

katedra aplikované matematiky

Anotace:

Kurz se zaměřuje na state-of-the-art přístupy k distribuovanému data miningu a k paralelizaci algoritmů strojového učení. Studenti získají praktickou zkušenost s frameworkem pro škálovatelné zpracování velkých data Apache Spark a s existujícími distribuovanými algoritmy strojového učení a data miningu. Seznámí se s principy jejich paralelní implementace a budou schopni navrhovat paralelizaci dalších algoritmů.

Požadavky:

Znalost programování v alespoň jednom z jazyků Python, Java nebo Scala. Znalost principů základních algoritmů strojového učení.

Osnova přednášek:

Osnova cvičení:

1) Úvod do Map Reduce, frameworku Apache Spark a infrastruktury výpočetního clusteru

2) Datové struktury frameworku Apache Spark: RDDs, Dataframes, Datasets

3) Apache Spark ML pipelines, ML Lib

4) Distribuovaná data, datová explorace, základní statistiky

5) Distribuované předzpracování dat (extrakce, transformace a selekce příznaků, redukce dimenzionality)

6) Asociační pravidla, kolaborativní filtrování, alternating least squares

7) Distribuované algoritmy pro klasifikaci a regresi

8) Distribuované algoritmy pro shlukování

9) Distribuované ensembly

10) Algoritmy pro information retrieval a text mining

11) Hluboké učení a umělé neuronové sítě

12) Stream processing a online algoritmy

Cíle studia:

Studijní materiály:

Pentreath, Nick. Machine Learning with Spark. Packt Publishing Ltd, 2015.

Poznámka:

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/MI-DDM/

Další informace:

https://courses.fit.cvut.cz/MI-DDM/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• Bc. program Informatika, studijní plán pro fázi studia bez oboru, verze 2015 až 2020 (volitelný předmět)
• Bc. obor Bezpečnost a informační technologie, verze 2015 až 2020 (volitelný předmět)
• Bc. obor Teoretická informatika, verze 2015 až 2020 (volitelný předmět)
• Bc.obor Počítačové inženýrství, verze 2015 až 2020 (volitelný předmět)
• Bakalářský obor Informační systémy a management, verze 2015 až 2020 (volitelný předmět)
• Bakalářský obor Znalostní inženýrství, verze 2015, 2016 a 2017 (volitelný předmět)
• Bakalářský obor WSI, zaměření Softwarové inženýrství, verze 2015 až 2020 (volitelný předmět)
• Bakalářský obor WSI, zaměření Webové inženýrství, verze 2015 až 2020 (volitelný předmět)
• Bakalářský obor WSI, zaměření Počítačová grafika, verze 2015 až 2020 (volitelný předmět)
• Znalostní inženýrství, verze 2016 a 2017 (volitelný předmět)
• Počítačová bezpečnost, verze 2016 až 2019 (volitelný předmět)
• Počítačové systémy a sítě, verze 2016 až 2019 (volitelný předmět)
• Návrh a programování vestavných systémů, verze 2016 až 2019 (volitelný předmět)
• Zaměření Informační systémy a management, verze 2016 až 2019 (volitelný předmět)
• Zaměření Softwarové inženýrství, verze 2016 až 2019 (volitelný předmět)
• Zaměření Webové inženýrství, verze 2016 až 2019 (volitelný předmět)
• Společný magisterský plán před přiřazením do oboru, verze 2016 až 2019 (volitelný předmět)
• Zaměření Systémové programování, verze 2016 až 2019 (volitelný předmět)
• Zaměření Teoretická informatika, verze 2016-2017 (volitelný předmět)
• Specializace Teoretická informatika, verze 2018 až 2019 (volitelný předmět)
• Bakalářský obor Znalostní inženýrství, verze 2018 až 2020 (volitelný předmět)
• Znalostní inženýrství, verze 2018 to 2019 (volitelný předmět)