Logo ČVUT
ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE
STUDIJNÍ PLÁNY
2022/2023

Hacking mysli

Přihlášení do KOSu pro zápis předmětu Zobrazit rozvrh
Kód Zakončení Kredity Rozsah Jazyk výuky
NI-HCM ZK 5 2P+1C česky
Přednášející:
Marcel Jiřina (gar.), Josef Holý (gar.)
Cvičící:
Marcel Jiřina (gar.), Josef Holý (gar.)
Předmět zajišťuje:
katedra informační bezpečnosti
Anotace:

Kognitivní bezpečnost (cognitive security) je nově vznikající disciplína, která je v úzkém vztahu s kybernetickou bezpečností (cyber security). Zatímco doménou kybernetické bezpečnosti je ochrana sítí, informačních systému a majetku, doménou kognitivní bezpečnosti je ochrana lidské mysli před úmyslnými i neúmyslnými digitálními manipulacemi. Téma kognitivní bezpečnosti narůstá na významu v souvislosti s informační válkou, rostoucí digitální závislostí a rozvojem umělé inteligence, kdy tyto jevy z prostředí internetu mají své reálné společenské dopady jako je narušení společenské soudržnosti, ohrožení demokracie či válka.

Garantem předmětu je Ing. Josef Holý, externí učitel.

Požadavky:

Vstupní požadavky nejsou.

Osnova přednášek:

1. (Intro) Úvod do tématu, digitální manipulace a epistemická krize, společenské dopady.

2. (Intro) Kontext. Historie, etika, mýty, co je dnes jinak než dříve. Změna paradigmatu - od knihtisku, přes masová, až k sociálním médiím.

3. (Intro) Optika pro strukturaci komplexity. Digitální manipulace - Epidemiologická triáda

4. (Deep) Zoom na detail. Agent. Memetika, identita aktérů, motivace.

5. (Deep) Zoom na detail. Agent. Manipulativní narativy, trolí strategie.

6. (Deep) Zoom na detail. Host - jednotlivec. Lidskost, transhumanismus, limity kritického myšlení. Neuroplasticita - Mere Exposure Effect,, Emoce - Cognitive Biases, Behaviorální profily a jejich zpracování.

7. (Deep) Zoom na detail. Host - skupina. Dynamika skupin v informačním prostoru. Typy komunit, modely (sebe)organizace, hodnotové rámce. Digitální kulty - QAnon, kryptoměny a další. Stádové chování, manipulace skupin, “movement hijack”.

8. (Deep) Zoom na detail. Prostředí. Algoritmy sociálních sítí, Situational Awareness, Digitální závislost.

9. (Deep) Zoom na detail. Prostředí. Mediální prostor a konspirace, fragmentace společnosti.

10. (Obrana) Pohled zpět na celek. So what? Řešení 1 - Jednotlivec. Kritické myšlení, mindfulnes, depolarizační techniky, nástroje.

11. (Obrana) Pohled zpět na celek. So what? Řešení 2 - Skupina/Organizace. Technologická řešení.

12. (Obrana) Pohled zpět na celek. So what? Řešení 3 - Společnost. Právní aspekty, Evropské vs Americké právo (pro digitální technologie, AI, sociální sítě).

13. (Závěr) Připomenutí červené linky předmětu a highlightů. Otevření dveří pro další prozkoumávání a řešení tématu.

Osnova cvičení:

Cvičení budou probíhat formou semestrálních projektů, při kterých budou studenti týmově řešit reálné problémy. Semestrální projekty budou zaměřené na široké spektrum technologií používaných k digitálním manipulacím. Konkrétní zadání bude alespoň částečně vytvořeno s relevantními subjekty z oblasti státního a neziskového sektoru. Výstupem každého semestrálního projektu by měl ideálně být funkční prototyp publikovaný jako open source a znovupoužitelný širokou veřejností.

1. Zadání semestrálních projektů a sestavení týmů.

2. Pochopení problému, mapování existujících řešení.

3. Mapování existujících řešení, návrh konceptu.

4. Supervize 1. Design vlastního řešení.

5. Supervize 2. Testování a cizelace vlastního řešení.

6. Obhajoba semestrálních projektů před expertní komisí (cvičící + externí odborníci).

7. Reflexe semestrálních projektů.

Cíle studia:

Studenti po absolvování předmětu budou schopni:

- Vyhodnotit, jak se vzájemně ovlivňují kybernetická a kognitivní bezpečnost.

- Vyhodnotit digitální manipulace na různých úrovních

- Pochopit mechanismy monitorování, sledování a ovlivňování na internetu

- Identifikovat dezinformace

- Použít nástroje pro prozkoumání neautentických aktivit na úrovni účtu a sítě

- Vyhodnotit etické aspekty dezinformací a digitálních manipulací

- Porozumět různým způsobům obrany na úrovni jednotlivce, organizace i společnosti

- Vyvinout nástroje pro omezení vlivu digitálních manipulací

Studijní materiály:

Knihy:

[1] Sinan Aral: The Hype Machine (2021)

[2] John Rust, Michal Kosinski, David Stillwell: Modern Psychometrics (2021)

[3] Kate Crawford: Atlas of AI (2021)

[4] Johan Farkas, Jannick Schou: Post-Truth, Fake News and Democracy (2020)

[5] Christopher Wylie: Mindfuck: Insiden Cambridge Analytica’s Plot to Break the World (2019)

[6] Shoshana Zuboff: The Age of Surveillance Capitalism (2019)

[7] Peter Pomerantsev: This Is Not Propaganda (2019)

[8] Katherine Hayles: Untought: The Power of the Cognitive Nonconsious (2017)

[9] David Halpern: Inside the Nudge Unit: How Small Changes Can Make a Big Difference (2015)

[10] Frank Pasquale: The Black Box Society (2015)

[11] Gad Saad: The Parasitic Mind: How Infectious Ideas Are Killing Common Sense (2021)

Studie:

[12] Carlos Carrasco-Farré: The fingerprints of misinformation: how deceptive content differs from reliable sources in terms of cognitive effort and appeal to emotions (Nature, 2022)

[13] Topological measures for identifying and predicting the spread of complex contagions (Nature, 2021)

[14] Predicting human decisions with behavioral theories and machine learning (2019)

[15] Aral, et. al: The spread of true and false news online (MIT, 2018)

Organizace:

[16] Center for Humane Technology

[17] Stanford Internet Observatory

[18] Shorenstein Center of Media, Politics and Public Policy

[19] The Markup

[20] Algotransparency

[21] Behavioral Institute

Eseje:

[21] Jonathan Haidt: Why the past 10 years of American Life have been uniquely stupid (2022, The Atlantic)

[22] Shoshana Zuboff: The Coup We Are Not Talking About (2021, NYTimes)

[23] Why some biologists and ecologists think social media is a risk to humanity (2021)

Poznámka:

Garantem a vyučujícím bude Ing. Josef Holý.

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/NI-HCM/

Další informace:
https://courses.fit.cvut.cz/NI-HCM/
Rozvrh na zimní semestr 2022/2023:
06:00–08:0008:00–10:0010:00–12:0012:00–14:0014:00–16:0016:00–18:0018:00–20:0020:00–22:0022:00–24:00
Po
Út
místnost T9:349
Holý J.
09:15–10:45
(přednášková par. 1)
Dejvice
NBFIT PC učebna
místnost TH:A-942
Holý J.
11:00–12:30
SUDÝ TÝDEN

(přednášková par. 1
paralelka 101)

Thákurova 7 (FSv-budova A)
místnost TH:A-942
Holý J.
11:00–12:30
LICHÝ TÝDEN

(přednášková par. 1
paralelka 102)

Thákurova 7 (FSv-budova A)
St
Čt

Rozvrh na letní semestr 2022/2023:
Rozvrh není připraven
Předmět je součástí následujících studijních plánů:
Platnost dat k 29. 1. 2023
Aktualizace výše uvedených informací naleznete na adrese https://bilakniha.cvut.cz/cs/predmet7280006.html