Paralelní a distribuované programování

Předmět není vypsán Nerozvrhuje se

Kód	Zakončení	Kredity	Rozsah	Jazyk výuky
MI-PDP.16	Z,ZK	5	2P+2C	česky

Vztahy:

Předmět MI-PDP.16 může být splněn v zastoupení předmětem MI-PAR.2

Předmět je ekvivalentní s DD-PDP.23,MIE-PDP.16,NIE-PDP,NI-PDP .

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra počítačových systémů

Anotace:

Diky rozvoji cloudových, webových a komunikačních technologií a přesunu Moorova zákona do úrovně paralelizace CPU se paralelní a distribuované aplikace stávají běžnými a všudypřítomnými.

Studenti se seznámí s architekturami paralelních a distribuovaných výpočetních systémů a s jejich modely a s jazyky a prostředími pro jejich programování. Naučí se důležité paralelní algoritmy a návrhové vzory pro paralelní a distribuované programování.

Požadavky:

Základy sekvenční algoritmizace, programování, znalost jazyka C/C++, teorie složitosti, architektur počítačů, teorie grafů.

Osnova přednášek:

1. Úvod do paralelního a distribuovaného programování.

2. Úvod do OpenMP.

3. Paralelní algoritmy pro prohledávání stavového prostoru.

4. Programování a ladění výkonu v OpenMP.

5. Paralelní řazení v OpenMP.

6. Úvod do MPI.

7. Propojovací sítě paralelních počítačů I.

8. Propojovací sítě paralelních počítačů II.

9. Kolektivní komunikační algoritmy.

10. Paralelní redukce a sken. Paralelní I/O.

11. Paralelní algoritmy v OpenMP/MPI I.

12. Paralelní algoritmy v OpenMP/MPI II.

Osnova cvičení:

1. Návrh a implementace sekvenčního algoritmu pro řešení semestrální úlohy.

2. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s task paralelismem.

3. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s datovým paralelismem.

4. Návrh a implementace paralelního algoritmu pro distribuovaný klastr s použitím MPI.

5. Analýza paralelní výkonnosti a škálovatelnosti výsledného programu a vypracování technické zprávy.

Cíle studia:

Diky rozvoji cloudových, webových a komunikačních technologií a přesunu Moorova zákona do úrovně paralelizace CPU se paralelní a distribuované aplikace stávají dominantními.

Studijní materiály:

[1] Mattson, T.G. - Sanders, B.A. - Massingill, B.L.: Patterns for Parallel Programming. Addison-Wesley Professional. 2004. 978-0321940780.

[2] Kumar, V. - Grama, A. - Gupta, A. - Karpis, G.: Introduction to Parallel Computing: Design and Analysis of Parallel Algorithms. Benjamin-Cummings. 1994. 0805331700.

[3] Miller, R. - Boxer, L.: Algorithms Sequential and Parallel: A Unified Approach. Pearson Education. 1999. 0130863734.

[4] Wilkinson, B. - Allen, M.: Parallel Programming: Techniques and Applications Using Networked Workstations and Parallel Computers. Prentice Hall. 1998. 0136717101.

[5] Jaja, J.: An Introduction to Parallel Algorithms. Addison-Wesley. 1992. 0201548569.

Poznámka:

Tento předmět obsahově navazuje na bakalářský předmět Algoritmy a grafy 1

https://courses.fit.cvut.cz/MI-PDP/

Další informace:

https://courses.fit.cvut.cz/MI-PDP/

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

Mgr. obor Znalostní inženýrství, 2016-2017 (povinný předmět programu)
Mgr. obor Počítačová bezpečnost, 2016-2019 (povinný předmět programu)
Mgr. obor Počítačové systémy a sítě, 2016-2019 (povinný předmět programu)
Mgr. obor Návrh a programování vestavných systémů, 2016-2019 (povinný předmět programu)
Mgr. obor Webové a softwarové inženýrství, zaměření Informační systémy a management, 2016-2019 (povinný předmět programu)
Mgr. obor Webové a softwarové inženýrství, zaměření Softwarové inženýrství, 2016-2019 (povinný předmět programu)
Mgr. obor Webové a softwarové inženýrství, zaměření Webové inženýrství, 2016-2019 (povinný předmět programu)
Mgr. program Informatika, pro fázi studia bez oboru, 2016-2019 (povinný předmět programu)
Mgr. obor Systémové programování, zaměření Systémové programování, 2016-2019 (povinný předmět programu)
Mgr. obor Systémové programování, zaměření Teoretická informatika, 2016-2017 (povinný předmět programu)
Mgr. specializace Teoretická informatika, 2018-2019 (povinný předmět programu)
Mgr. obor Znalostní inženýrství, 2018-2019 (povinný předmět programu)