Hacking mysli

Přihlášení do KOSu pro zápis předmětu Zobrazit rozvrh

Kód	Zakončení	Kredity	Rozsah	Jazyk výuky
NI-HCM	ZK	5	2P+1C	česky

Garant předmětu:

Josef Holý, Marcel Jiřina

Přednášející:

Josef Holý, Marcel Jiřina

Cvičící:

Josef Holý, Marcel Jiřina

Předmět zajišťuje:

katedra informační bezpečnosti

Anotace:

Kognitivní bezpečnost (cognitive security) je nově vznikající disciplína, která je v úzkém vztahu s kybernetickou bezpečností (cyber security). Zatímco doménou kybernetické bezpečnosti je ochrana sítí, informačních systému a majetku, doménou kognitivní bezpečnosti je ochrana lidské mysli před úmyslnými i neúmyslnými digitálními manipulacemi. Téma kognitivní bezpečnosti narůstá na významu v souvislosti s informační válkou, rostoucí digitální závislostí a rozvojem umělé inteligence, kdy tyto jevy z prostředí internetu mají své reálné společenské dopady jako je narušení společenské soudržnosti, ohrožení demokracie či válka.

Garantem předmětu je Ing. Josef Holý, externí učitel.

Požadavky:

Vstupní požadavky nejsou.

Osnova přednášek:

1. (Intro) Úvod do tématu, digitální manipulace a epistemická krize, společenské dopady.

2. (Intro) Kontext. Historie, etika, mýty, co je dnes jinak než dříve. Změna paradigmatu - od knihtisku, přes masová, až k sociálním médiím.

3. (Intro) Optika pro strukturaci komplexity. Digitální manipulace - Epidemiologická triáda

4. (Deep) Zoom na detail. Agent. Memetika, identita aktérů, motivace.

5. (Deep) Zoom na detail. Agent. Manipulativní narativy, trolí strategie.

6. (Deep) Zoom na detail. Host - jednotlivec. Lidskost, transhumanismus, limity kritického myšlení. Neuroplasticita - Mere Exposure Effect,, Emoce - Cognitive Biases, Behaviorální profily a jejich zpracování.

7. (Deep) Zoom na detail. Host - skupina. Dynamika skupin v informačním prostoru. Typy komunit, modely (sebe)organizace, hodnotové rámce. Digitální kulty - QAnon, kryptoměny a další. Stádové chování, manipulace skupin, “movement hijack”.

8. (Deep) Zoom na detail. Prostředí. Algoritmy sociálních sítí, Situational Awareness, Digitální závislost.

9. (Deep) Zoom na detail. Prostředí. Mediální prostor a konspirace, fragmentace společnosti.

10. (Obrana) Pohled zpět na celek. So what? Řešení 1 - Jednotlivec. Kritické myšlení, mindfulnes, depolarizační techniky, nástroje.

11. (Obrana) Pohled zpět na celek. So what? Řešení 2 - Skupina/Organizace. Technologická řešení.

12. (Obrana) Pohled zpět na celek. So what? Řešení 3 - Společnost. Právní aspekty, Evropské vs Americké právo (pro digitální technologie, AI, sociální sítě).

13. (Závěr) Připomenutí červené linky předmětu a highlightů. Otevření dveří pro další prozkoumávání a řešení tématu.

Osnova cvičení:

Cvičení budou probíhat formou semestrálních projektů, při kterých budou studenti týmově řešit reálné problémy. Semestrální projekty budou zaměřené na široké spektrum technologií používaných k digitálním manipulacím. Konkrétní zadání bude alespoň částečně vytvořeno s relevantními subjekty z oblasti státního a neziskového sektoru. Výstupem každého semestrálního projektu by měl ideálně být funkční prototyp publikovaný jako open source a znovupoužitelný širokou veřejností.

1. Zadání semestrálních projektů a sestavení týmů.

2. Pochopení problému, mapování existujících řešení.

3. Mapování existujících řešení, návrh konceptu.

4. Supervize 1. Design vlastního řešení.

5. Supervize 2. Testování a cizelace vlastního řešení.

6. Obhajoba semestrálních projektů před expertní komisí (cvičící + externí odborníci).

7. Reflexe semestrálních projektů.

Cíle studia:

Studenti po absolvování předmětu budou schopni:

- Vyhodnotit, jak se vzájemně ovlivňují kybernetická a kognitivní bezpečnost.

- Vyhodnotit digitální manipulace na různých úrovních

- Pochopit mechanismy monitorování, sledování a ovlivňování na internetu

- Identifikovat dezinformace

- Použít nástroje pro prozkoumání neautentických aktivit na úrovni účtu a sítě

- Vyhodnotit etické aspekty dezinformací a digitálních manipulací

- Porozumět různým způsobům obrany na úrovni jednotlivce, organizace i společnosti

- Vyvinout nástroje pro omezení vlivu digitálních manipulací

Studijní materiály:

Knihy:

[1] Sinan Aral: The Hype Machine (2021)

[2] John Rust, Michal Kosinski, David Stillwell: Modern Psychometrics (2021)

[3] Kate Crawford: Atlas of AI (2021)

[4] Johan Farkas, Jannick Schou: Post-Truth, Fake News and Democracy (2020)

[5] Christopher Wylie: Mindfuck: Insiden Cambridge Analytica’s Plot to Break the World (2019)

[6] Shoshana Zuboff: The Age of Surveillance Capitalism (2019)

[7] Peter Pomerantsev: This Is Not Propaganda (2019)

[8] Katherine Hayles: Untought: The Power of the Cognitive Nonconsious (2017)

[9] David Halpern: Inside the Nudge Unit: How Small Changes Can Make a Big Difference (2015)

[10] Frank Pasquale: The Black Box Society (2015)

[11] Gad Saad: The Parasitic Mind: How Infectious Ideas Are Killing Common Sense (2021)

Studie:

[12] Carlos Carrasco-Farré: The fingerprints of misinformation: how deceptive content differs from reliable sources in terms of cognitive effort and appeal to emotions (Nature, 2022)

[13] Topological measures for identifying and predicting the spread of complex contagions (Nature, 2021)

[14] Predicting human decisions with behavioral theories and machine learning (2019)

[15] Aral, et. al: The spread of true and false news online (MIT, 2018)

Organizace:

[16] Center for Humane Technology

[17] Stanford Internet Observatory

[18] Shorenstein Center of Media, Politics and Public Policy

[19] The Markup

[20] Algotransparency

[21] Behavioral Institute

Eseje:

[21] Jonathan Haidt: Why the past 10 years of American Life have been uniquely stupid (2022, The Atlantic)

[22] Shoshana Zuboff: The Coup We Are Not Talking About (2021, NYTimes)

[23] Why some biologists and ecologists think social media is a risk to humanity (2021)

Poznámka:

Garantem a vyučujícím bude Ing. Josef Holý.

Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/NI-HCM/

Další informace:

https://courses.fit.cvut.cz/NI-HCM/

Rozvrh na zimní semestr 2023/2024:

	06:00–08:0008:00–10:0010:00–12:0012:00–14:0014:00–16:0016:00–18:0018:00–20:0020:00–22:0022:00–24:00
Po
Út
St
Čt
Pá	místnost T9:111 Holý J. 11:00–12:30 (přednášková par. 1) Dejvice Posluchárnamístnost T9:302 Holý J. 12:45–14:15 LICHÝ TÝDEN (přednášková par. 1 paralelka 101) Dejvice NBFIT učebna místnost T9:302 Holý J. 12:45–14:15 SUDÝ TÝDEN (přednášková par. 1 paralelka 102) Dejvice NBFIT učebna

Rozvrh na letní semestr 2023/2024:

Rozvrh není připraven

Předmět je součástí následujících studijních plánů:

Mgr. specializace Teoretická informatika, 2018-2019 (volitelný předmět)
Mgr. specializace Počítačová bezpečnost, 2020 (volitelný předmět)
Mgr. specializace Návrh a programování vestavných systémů, 2020 (volitelný předmět)
Mgr. specializace Počítačové systémy a sítě, 2020 (volitelný předmět)
Mgr. specializace Manažerská informatika, 2020 (volitelný předmět)
Mgr. specializace Softwarové inženýrství, 2020 (volitelný předmět)
Mgr. specializace Systémové programování, verze od 2020 (volitelný předmět)
Mgr. specializace Webové inženýrství, 2020 (volitelný předmět)
Mgr. specializace Znalostní inženýrství, 2020 (volitelný předmět)
Mgr. specializace Teoretická informatika, 2020 (volitelný předmět)
Mgr. program, pro fázi studia bez specializace, ver. pro roky 2020 a vyšší (volitelný předmět)
Study plan for Ukrainian refugees (volitelný předmět)
Mgr. specializace Systémové programování, verze od 2023 (volitelný předmět)
Mgr. specializace Teoretická informatika, 2023 (volitelný předmět)