AI and Society

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra počítačů

Anotace:

The course introduces students to topics that combine technical understanding of ML/AI safety and security with social

and philosophical dimensions of ML/AI. The focus is on explaining limitations of ML/AI in high-risk scenarios and on

helping students understand how to design robust, fair, and accountable ML/AI lifecycles that address societal concerns

over technology. The course will also show students how to navigate the complex regulatory environment emerging in

response to rising concerns over impacts of ML/AI on society.

Požadavky:

Osnova přednášek:

Osnova cvičení:

Cíle studia:

Studijní materiály:

* Hendrycks, D., Carlini, N., Schulman, J., Steinhardt, J. (2022). Unsolved Problems in ML Safety. https://arxiv.org/abs/2109.13916.

* Ashmore, R., Calinescu, R., Paterson, C. (2021). Assuring the Machine Learning Lifecycle:

* Desiderata, Methods, and Challenges. ACM Computing Surveys 54(5).

* Casper S et al. (2023) Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback. https://arxiv.org/pdf/2307.15217.

* Conitzer V et al. (2024) Social Choice for AI Alignment: Dealing with Diverse Human Feedback. https://arxiv.org/abs/2404.10271.

* Gebru, T., Morgenstern, J., Vecchione, B., Wortman Vaughan, J., Wallach, H., Daumé III, H.,

* Crawford, K. (2021). Datasheets for datasets. Communications of the ACM 64(12).

* Barocas S, Hardt M, Narayanan A (2023) Fairness and Machine Learning: Limitations and Opportunities. Cambridge, MA: The MIT Press.

* Mökander, J., Axente, M., Casolari, F. et al. Conformity Assessments and Post-market Monitoring: A Guide to the Role of Auditing in the Proposed European AI Regulation. Minds & Machines (2021). https://doi.org/10.1007/s11023-021-09577-4.

* Weidinger, L. et al. (2023) Sociotechnical Safety Evaluation of Generative AI Systems.https://arxiv.org/abs/2310.11986.

* Moynihan, T. (2020). Existential risk and human extinction: An intellectual history. Futures 116(102495).

Poznámka:

Předmět se vyučuje na Fakultě sociální věd UK.

Další informace:

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů:

• prg.ai Master (povinný předmět programu)