Logo ČVUT
ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE
STUDIJNÍ PLÁNY
2022/2023

Paralelní a distribuované programování

Přihlášení do KOSu pro zápis předmětu Zobrazit rozvrh
Kód Zakončení Kredity Rozsah Jazyk výuky
NI-PDP Z,ZK 6 2P+2C česky
Přednášející:
Pavel Tvrdík (gar.)
Cvičící:
Pavel Tvrdík (gar.), Ivan Šimeček, Michal Šoch
Předmět zajišťuje:
katedra počítačových systémů
Anotace:

21. století v architekturách počítačů je dominantně ovlivněno posunem Moorova zákona do paralelizace CPU na úrovni výpočetních jader. Paralelní výpočetní systémy se tak stávají na této úrovni počítačových architektur běžně dostupnou komoditou a paralelní programování se stává základním paradigmatem vývoje efektivních aplikací na těchto platformách. Studenti se v tomto předmětu seznámí s architekturami paralelních a distribuovaných výpočetních systémů, s jejich modely, s teorií propojovacích sítí a kolektivních komunikačních operací a s jazyky a prostředími pro paralelní programování počítačů se sdílenou a distribuovanou pamětí. Seznámí se s fundamentálními paralelními algoritmy a na vybraných problémech se naučí techniky návrhu efektivních a škálovatelných paralelních algoritmů a metod hodnocení výkonnosti jejich implementací. Součástí výuky je i projekt praktického programování v OpenMP a MPI pro řešení zadaného netriviálního problému.

Požadavky:

Základy sekvenční algoritmizace, programování, znalost jazyka C/C++, teorie složitosti, architektur počítačů, teorie grafů.

Osnova přednášek:

1. Úvod do paralelního a distribuovaného programování.

2. Úvod do OpenMP.

3. Paralelní algoritmy pro prohledávání stavového prostoru.

4. Programování a ladění výkonu v OpenMP.

5. Paralelní řazení v OpenMP.

6. Úvod do MPI.

7. Propojovací sítě paralelních počítačů I.

8. Propojovací sítě paralelních počítačů II.

9. Kolektivní komunikační algoritmy.

10. Paralelní redukce a sken. Paralelní I/O.

11. Paralelní algoritmy v OpenMP/MPI I.

12. Paralelní algoritmy v OpenMP/MPI II.

Osnova cvičení:

1. Návrh a implementace sekvenčního algoritmu pro řešení semestrální úlohy.

2. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s task paralelismem.

3. Návrh a implementace paralelního algoritmu pro vícejádrový systém s použitím OpenMP - verze s datovým paralelismem.

4. Návrh a implementace paralelního algoritmu pro distribuovaný klastr s použitím MPI.

5. Teoretická a praktická analýza chování paralelního programu a vypracování technické zprávy.

Cíle studia:

21. století v architekturách počítačů je dominantně ovlivněno posunem Moorova zákona do paralelizace CPU na úrovni výpočetních jader. Paralelní výpočetní systémy se tak stávají na této úrovni počítačových architektur běžně dostupnou komoditou a paralelní programování se stává základním paradigmatem vývoje efektivních aplikací na těchto platformách. Studenti se v tomto předmětu seznámí s architekturami paralelních a distribuovaných výpočetních systémů, s jejich modely, s teorií propojovacích sítí a kolektivních komunikačních operací a s jazyky a prostředími pro paralelní programování počítačů se sdílenou a distribuovanou pamětí. Seznámí se s fundamentálními paralelními algoritmy a na vybraných problémech se naučí techniky návrhu efektivních a škálovatelných paralelních algoritmů a metod hodnocení výkonnosti jejich implementací. Součástí výuky je i projekt praktického programování v OpenMP a MPI pro řešení zadaného netriviálního problému.

Studijní materiály:

[1] Mattson, T.G. - Sanders, B.A. - Massingill, B.L.: Patterns for Parallel Programming. Addison-Wesley Professional. 2004. 978-0321940780.

[2] Kumar, V. - Grama, A. - Gupta, A. - Karpis, G.: Introduction to Parallel Computing: Design and Analysis of Parallel Algorithms. Benjamin-Cummings. 1994. 0805331700.

[3] Miller, R. - Boxer, L.: Algorithms Sequential and Parallel: A Unified Approach. Pearson Education. 1999. 0130863734.

[4] Wilkinson, B. - Allen, M.: Parallel Programming: Techniques and Applications Using Networked Workstations and Parallel Computers. Prentice Hall. 1998. 0136717101.

[5] Jaja, J.: An Introduction to Parallel Algorithms. Addison-Wesley. 1992. 0201548569.

Poznámka:

https://courses.fit.cvut.cz/MI-PDP/

Další informace:
https://courses.fit.cvut.cz/MI-PDP/
Rozvrh na zimní semestr 2022/2023:
Rozvrh není připraven
Rozvrh na letní semestr 2022/2023:
06:00–08:0008:00–10:0010:00–12:0012:00–14:0014:00–16:0016:00–18:0018:00–20:0020:00–22:0022:00–24:00
Po
místnost TK:BS
Tvrdík P.
14:30–16:00
(přednášková par. 1)
Dejvice
NTK Ballingův sál
Út
místnost TH:A-1142
Šoch M.
07:30–09:00
(přednášková par. 1
paralelka 101)

Thákurova 7 (FSv-budova A)
Apple lab
místnost TH:A-1142
Šoch M.
09:15–10:45
(přednášková par. 1
paralelka 102)

Thákurova 7 (FSv-budova A)
Apple lab
místnost T9:351
Šimeček I.
12:45–14:15
(přednášková par. 1
paralelka 103)

Dejvice
NBFIT PC ucebna
místnost T9:351
Šimeček I.
14:30–16:00
(přednášková par. 1
paralelka 104)

Dejvice
NBFIT PC ucebna
místnost T9:351
Šimeček I.
16:15–17:45
(přednášková par. 1
paralelka 105)

Dejvice
NBFIT PC ucebna
St
místnost T9:303
Šoch M.
07:30–09:00
(přednášková par. 1
paralelka 107)

Dejvice
NBFIT PC ucebna
místnost TK:PU1
Šimeček I.
12:45–14:15
(přednášková par. 1
paralelka 106)

Dejvice
NTK PU 1
místnost T9:303
Šoch M.
14:30–16:00
(přednášková par. 1
paralelka 111)

Dejvice
NBFIT PC ucebna
místnost T9:303
Šoch M.
16:15–17:45
(přednášková par. 1
paralelka 112)

Dejvice
NBFIT PC ucebna
místnost T9:303
Šoch M.
18:00–19:30
(přednášková par. 1
paralelka 113)

Dejvice
NBFIT PC ucebna
místnost T9:303
Šoch M.
09:15–10:45
(přednášková par. 1
paralelka 109)

Dejvice
NBFIT PC ucebna
místnost T9:351
Šimeček I.
11:00–12:30
(přednášková par. 1
paralelka 108)

Dejvice
NBFIT PC ucebna
místnost T9:303
Šoch M.
12:45–14:15
(přednášková par. 1
paralelka 110)

Dejvice
NBFIT PC ucebna
Čt

Předmět je součástí následujících studijních plánů:
Platnost dat k 6. 2. 2023
Aktualizace výše uvedených informací naleznete na adrese https://bilakniha.cvut.cz/cs/predmet6099506.html