Hacking mysli
Kód | Zakončení | Kredity | Rozsah | Jazyk výuky |
---|---|---|---|---|
NI-HCM | ZK | 5 | 2P+1C | česky |
- Garant předmětu:
- Josef Holý, Marcel Jiřina
- Přednášející:
- Josef Holý, Marcel Jiřina
- Cvičící:
- Josef Holý, Marcel Jiřina
- Předmět zajišťuje:
- katedra informační bezpečnosti
- Anotace:
-
Kognitivní bezpečnost (cognitive security) je nově vznikající disciplína, která je v úzkém vztahu s kybernetickou bezpečností (cyber security). Zatímco doménou kybernetické bezpečnosti je ochrana sítí, informačních systému a majetku, doménou kognitivní bezpečnosti je ochrana lidské mysli před úmyslnými i neúmyslnými digitálními manipulacemi. Téma kognitivní bezpečnosti narůstá na významu v souvislosti s informační válkou, rostoucí digitální závislostí a rozvojem umělé inteligence, kdy tyto jevy z prostředí internetu mají své reálné společenské dopady jako je narušení společenské soudržnosti, ohrožení demokracie či válka.
Garantem předmětu je Ing. Josef Holý, externí učitel.
- Požadavky:
-
Vstupní požadavky nejsou.
- Osnova přednášek:
-
1. (Intro) Úvod do tématu, digitální manipulace a epistemická krize, společenské dopady.
2. (Intro) Kontext. Historie, etika, mýty, co je dnes jinak než dříve. Změna paradigmatu - od knihtisku, přes masová, až k sociálním médiím.
3. (Intro) Optika pro strukturaci komplexity. Digitální manipulace - Epidemiologická triáda
4. (Deep) Zoom na detail. Agent. Memetika, identita aktérů, motivace.
5. (Deep) Zoom na detail. Agent. Manipulativní narativy, trolí strategie.
6. (Deep) Zoom na detail. Host - jednotlivec. Lidskost, transhumanismus, limity kritického myšlení. Neuroplasticita - Mere Exposure Effect,, Emoce - Cognitive Biases, Behaviorální profily a jejich zpracování.
7. (Deep) Zoom na detail. Host - skupina. Dynamika skupin v informačním prostoru. Typy komunit, modely (sebe)organizace, hodnotové rámce. Digitální kulty - QAnon, kryptoměny a další. Stádové chování, manipulace skupin, “movement hijack”.
8. (Deep) Zoom na detail. Prostředí. Algoritmy sociálních sítí, Situational Awareness, Digitální závislost.
9. (Deep) Zoom na detail. Prostředí. Mediální prostor a konspirace, fragmentace společnosti.
10. (Obrana) Pohled zpět na celek. So what? Řešení 1 - Jednotlivec. Kritické myšlení, mindfulnes, depolarizační techniky, nástroje.
11. (Obrana) Pohled zpět na celek. So what? Řešení 2 - Skupina/Organizace. Technologická řešení.
12. (Obrana) Pohled zpět na celek. So what? Řešení 3 - Společnost. Právní aspekty, Evropské vs Americké právo (pro digitální technologie, AI, sociální sítě).
13. (Závěr) Připomenutí červené linky předmětu a highlightů. Otevření dveří pro další prozkoumávání a řešení tématu.
- Osnova cvičení:
-
Cvičení budou probíhat formou semestrálních projektů, při kterých budou studenti týmově řešit reálné problémy. Semestrální projekty budou zaměřené na široké spektrum technologií používaných k digitálním manipulacím. Konkrétní zadání bude alespoň částečně vytvořeno s relevantními subjekty z oblasti státního a neziskového sektoru. Výstupem každého semestrálního projektu by měl ideálně být funkční prototyp publikovaný jako open source a znovupoužitelný širokou veřejností.
1. Zadání semestrálních projektů a sestavení týmů.
2. Pochopení problému, mapování existujících řešení.
3. Mapování existujících řešení, návrh konceptu.
4. Supervize 1. Design vlastního řešení.
5. Supervize 2. Testování a cizelace vlastního řešení.
6. Obhajoba semestrálních projektů před expertní komisí (cvičící + externí odborníci).
7. Reflexe semestrálních projektů.
- Cíle studia:
-
Studenti po absolvování předmětu budou schopni:
- Vyhodnotit, jak se vzájemně ovlivňují kybernetická a kognitivní bezpečnost.
- Vyhodnotit digitální manipulace na různých úrovních
- Pochopit mechanismy monitorování, sledování a ovlivňování na internetu
- Identifikovat dezinformace
- Použít nástroje pro prozkoumání neautentických aktivit na úrovni účtu a sítě
- Vyhodnotit etické aspekty dezinformací a digitálních manipulací
- Porozumět různým způsobům obrany na úrovni jednotlivce, organizace i společnosti
- Vyvinout nástroje pro omezení vlivu digitálních manipulací
- Studijní materiály:
-
Knihy:
[1] Sinan Aral: The Hype Machine (2021)
[2] John Rust, Michal Kosinski, David Stillwell: Modern Psychometrics (2021)
[3] Kate Crawford: Atlas of AI (2021)
[4] Johan Farkas, Jannick Schou: Post-Truth, Fake News and Democracy (2020)
[5] Christopher Wylie: Mindfuck: Insiden Cambridge Analytica’s Plot to Break the World (2019)
[6] Shoshana Zuboff: The Age of Surveillance Capitalism (2019)
[7] Peter Pomerantsev: This Is Not Propaganda (2019)
[8] Katherine Hayles: Untought: The Power of the Cognitive Nonconsious (2017)
[9] David Halpern: Inside the Nudge Unit: How Small Changes Can Make a Big Difference (2015)
[10] Frank Pasquale: The Black Box Society (2015)
[11] Gad Saad: The Parasitic Mind: How Infectious Ideas Are Killing Common Sense (2021)
Studie:
[12] Carlos Carrasco-Farré: The fingerprints of misinformation: how deceptive content differs from reliable sources in terms of cognitive effort and appeal to emotions (Nature, 2022)
[13] Topological measures for identifying and predicting the spread of complex contagions (Nature, 2021)
[14] Predicting human decisions with behavioral theories and machine learning (2019)
[15] Aral, et. al: The spread of true and false news online (MIT, 2018)
Organizace:
[16] Center for Humane Technology
[17] Stanford Internet Observatory
[18] Shorenstein Center of Media, Politics and Public Policy
[19] The Markup
[20] Algotransparency
[21] Behavioral Institute
Eseje:
[21] Jonathan Haidt: Why the past 10 years of American Life have been uniquely stupid (2022, The Atlantic)
[22] Shoshana Zuboff: The Coup We Are Not Talking About (2021, NYTimes)
[23] Why some biologists and ecologists think social media is a risk to humanity (2021)
- Poznámka:
-
Garantem a vyučujícím bude Ing. Josef Holý.
Informace o předmětu a výukové materiály naleznete na https://courses.fit.cvut.cz/NI-HCM/
- Další informace:
- https://courses.fit.cvut.cz/NI-HCM/
- Rozvrh na zimní semestr 2024/2025:
-
06:00–08:0008:00–10:0010:00–12:0012:00–14:0014:00–16:0016:00–18:0018:00–20:0020:00–22:0022:00–24:00
Po Út St Čt Pá - Rozvrh na letní semestr 2024/2025:
- Rozvrh není připraven
- Předmět je součástí následujících studijních plánů:
-
- Mgr. specializace Teoretická informatika, 2018-2019 (volitelný předmět)
- Mgr. specializace Počítačová bezpečnost, 2020 (volitelný předmět)
- Mgr. specializace Návrh a programování vestavných systémů, 2020 (volitelný předmět)
- Mgr. specializace Počítačové systémy a sítě, 2020 (volitelný předmět)
- Mgr. specializace Manažerská informatika, 2020 (volitelný předmět)
- Mgr. specializace Softwarové inženýrství, 2020 (volitelný předmět)
- Mgr. specializace Systémové programování, verze od 2020 (volitelný předmět)
- Mgr. specializace Webové inženýrství, 2020 (volitelný předmět)
- Mgr. specializace Znalostní inženýrství, 2020 (volitelný předmět)
- Mgr. specializace Teoretická informatika, 2020 (volitelný předmět)
- Mgr. program, pro fázi studia bez specializace, ver. pro roky 2020 a vyšší (volitelný předmět)
- Study plan for Ukrainian refugees (volitelný předmět)
- Mgr. specializace Systémové programování, verze od 2023 (volitelný předmět)
- Mgr. specializace Teoretická informatika, 2023 (volitelný předmět)