Logo ČVUT
ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE
STUDIJNÍ PLÁNY
2024/2025

Paralelní a distribuované programování

Přihlášení do KOSu pro zápis předmětu Zobrazit rozvrh
Kód Zakončení Kredity Rozsah Jazyk výuky
NI-PDP Z,ZK 6 2P+2C česky
Garant předmětu:
Pavel Tvrdík
Přednášející:
Pavel Tvrdík
Cvičící:
Ivan Šimeček, Michal Šoch, Pavel Tvrdík
Předmět zajišťuje:
katedra počítačových systémů
Anotace:

21. století v architekturách počítačů je dominantně ovlivněno posunem Moorova zákona do paralelizace CPU na úrovni výpočetních jader. Paralelní výpočetní systémy se tak stávají na této úrovni počítačových architektur běžně dostupnou komoditou a paralelní programování se stává základním paradigmatem vývoje efektivních aplikací na těchto platformách. Studenti se v tomto předmětu seznámí s architekturami paralelních a distribuovaných výpočetních systémů, s jejich modely, s teorií propojovacích sítí a kolektivních komunikačních operací a s jazyky a prostředími pro paralelní programování počítačů se sdílenou a distribuovanou pamětí. Seznámí se s fundamentálními paralelními algoritmy a na vybraných problémech se naučí techniky návrhu efektivních a škálovatelných paralelních algoritmů a metod hodnocení výkonnosti jejich implementací. Součástí výuky je i projekt praktického programování v OpenMP a MPI pro řešení zadaného netriviálního problému.

Požadavky:

Základy sekvenční algoritmizace, programování, znalost jazyka C/C++, teorie složitosti, architektur počítačů, teorie grafů.

Osnova přednášek:

1. Úvod do paralelního a distribuovaného programování.

2. Úvod do OpenMP.

3. Paralelní algoritmy pro prohledávání stavového prostoru.

4. Programování a ladění výkonu v OpenMP.

5. Paralelní řazení v OpenMP.

6. Úvod do MPI.

7. Propojovací sítě paralelních počítačů I.

8. Propojovací sítě paralelních počítačů II.

9. Kolektivní komunikační algoritmy.

10. Paralelní redukce a sken. Paralelní I/O.

11. Paralelní algoritmy v OpenMP/MPI I.

12. Paralelní algoritmy v OpenMP/MPI II.

Osnova cvičení:

1. Návrh a implementace sekvenčního algoritmu pro řešení semestrální úlohy.

2. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s task paralelismem.

3. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s datovým paralelismem.

4. Návrh a implementace paralelního algoritmu pro distribuovaný klastr s použitím MPI.

5. Teoretická a praktická analýza chování paralelního programu a vypracování technické zprávy.

Cíle studia:

21. století v architekturách počítačů je dominantně ovlivněno posunem Moorova zákona do paralelizace CPU na úrovni výpočetních jader. Paralelní výpočetní systémy se tak stávají na této úrovni počítačových architektur běžně dostupnou komoditou a paralelní programování se stává základním paradigmatem vývoje efektivních aplikací na těchto platformách. Studenti se v tomto předmětu seznámí s architekturami paralelních a distribuovaných výpočetních systémů, s jejich modely, s teorií propojovacích sítí a kolektivních komunikačních operací a s jazyky a prostředími pro paralelní programování počítačů se sdílenou a distribuovanou pamětí. Seznámí se s fundamentálními paralelními algoritmy a na vybraných problémech se naučí techniky návrhu efektivních a škálovatelných paralelních algoritmů a metod hodnocení výkonnosti jejich implementací. Součástí výuky je i projekt praktického programování v OpenMP a MPI pro řešení zadaného netriviálního problému.

Studijní materiály:

[1] Mattson, T.G. - Sanders, B.A. - Massingill, B.L.: Patterns for Parallel Programming. Addison-Wesley Professional. 2004. 978-0321940780.

[2] Kumar, V. - Grama, A. - Gupta, A. - Karpis, G.: Introduction to Parallel Computing: Design and Analysis of Parallel Algorithms. Benjamin-Cummings. 1994. 0805331700.

[3] Miller, R. - Boxer, L.: Algorithms Sequential and Parallel: A Unified Approach. Pearson Education. 1999. 0130863734.

[4] Wilkinson, B. - Allen, M.: Parallel Programming: Techniques and Applications Using Networked Workstations and Parallel Computers. Prentice Hall. 1998. 0136717101.

[5] Jaja, J.: An Introduction to Parallel Algorithms. Addison-Wesley. 1992. 0201548569.

Poznámka:

https://courses.fit.cvut.cz/MI-PDP/

Další informace:
https://courses.fit.cvut.cz/MI-PDP/
Rozvrh na zimní semestr 2024/2025:
Rozvrh není připraven
Rozvrh na letní semestr 2024/2025:
Rozvrh není připraven
Předmět je součástí následujících studijních plánů:
Platnost dat k 2. 12. 2024
Aktualizace výše uvedených informací naleznete na adrese https://bilakniha.cvut.cz/cs/predmet6099506.html