Umělá inteligence a HCI

Garant předmětu:

Přednášející:

Cvičící:

Předmět zajišťuje:

katedra počítačové grafiky a interakce

Anotace:

Studenti si osvojí praktické dovednosti v práci s umělou inteligencí (AI) v oblasti HCI a naučí se efektivně využívat existující AI nástroje a modely. Kurz je zaměřen na praktickou aplikaci AI, nikoli na vývoj nových modelů. Studenti se seznámí se základními principy AI systémů využívajících hluboké učení v HCI a naučí se pracovat s dostupnými frameworky, předtrénovanými modely a jejich aplikacemi v interaktivních systémech. Důraz bude kladen na interpretaci výstupů AI a problematiku vysvětlitelnosti, interpretovatelnosti a důvěryhodnosti z pohledu uživatele. Studenti také porozumí modelování vizuální pozornosti člověka a možnostem aplikace těchto modelů v HCI. Součástí kurzu bude i seznámení s inteligentními interakčními zařízeními využívajícími AI a pochopení jejich praktických principů. Výuka bude orientována na aplikaci teoretických konceptů v reálných scénářích a kritické zhodnocení využití AI v interakci člověka s technologií.

Požadavky:

Studenti by měli mít základní znalosti tvorby uživatelských rozhraní a metod sledování očí. Doporučuje se, aby si studenti před kurzem osvojili alespoň základní koncepty UX designu a interakce člověkpočítač. Výuka probíhá formou přednášek, cvičení a samostatné práce na projektech, přičemž důraz je kladen na aktivní zapojení studentů do výzkumu a testování návrhů. Studenti budou pracovat v týmech a využívat školní e-learningové prostředí pro koordinaci projektů a sdílení výstupů.

Osnova přednášek:

1. AI v HCI: historie, motivace, příklady aplikací AI v HCI

2. Uživatelské rozhraní s využitím AI (Inteligentní uživatelské rozhraní), zařízení pro interakci s využitím AI v počítačovém vidění

3. Dialogové systémy, porozumění přirozené řeči, hlasový asistent, rozhraní poskytující uživatelům vysvětlení AI

4. Modelování chování uživatelů pomocí metod AI, egocentrická vizuální pozornost uživatele, modelování map významnosti s AI a UX experiment s eye trackerem: příprava, postup, metriky, hodnocení

5. Vysvětlitelná umělá inteligence zaměřená na uživatele, koncepty interpretovatelnosti a vysvětlitelnosti a různé typy vysvětlení

6. Důvěra uživatelů v AI přehnaná nebo nedostatečná důvěra, kalibrace důvěry a metriky pro její hodnocení. Uživatelské testování AI aplikace metodou „Čaroděj ze země Oz“. Anotační nástroj pro přípravu dat pro AI: návrh z pohledu UX a optimalizace anotací.

Osnova cvičení:

Cíl cvičení:

Navrhnout, vytvořit prototyp a otestovat aplikaci, která zahrnuje AI.

Toho se dosahuje prostřednictvím iterativního vývoje a také s využitím nástrojů AI.

Studenti pracují v týmech po 23 na návrhu a testování aplikace s využitím AI v průběhu celého semestru.

-V cvičeních 12 navrhnou dva nápady, vyhodnotí je pomocí metodologie Google PAIR a vyberou jeden koncept k vývoji.

-V cvičeních 34 vytvoří nízkověrný (Lo-Fi) prototyp, včetně person, brainstormingu a wireframů, a reflektují použití nástrojů AI v procesu návrhu.

-V cvičeních 56 studentů analyzují svůj prototyp pomocí mentálních modelů a vyvíjejí vysoce věrnou (Hi-Fi) verzi připravenou k testování.

-V cvičeních 78 provádějí uživatelské testování s nástroji pro sledování očí, porovnávají různé metody a vyhodnocují výsledky.

-V cvičeních 910 začleňují do svého testovacího přístupu pokročilé koncepty, jako je testování „Wizard of Oz, Wizard of Errors“, interpretovatelnost a důvěryhodnost.

V průběhu kurzu týmy odevzdávají tři zprávy dokumentující jejich pokrok a pravidelně prezentují aktualizace, které končí závěrečnou prezentací jejich projektu na cvičeních 1112.

Cíle studia:

Studijní materiály:

1. Monarch, Robert Munro. Human-in-the-Loop Machine Learning: Active learning and annotation for human-centered AI. Simon and Schuster, 2021.

2. Liao, Q.V., Gruen, D. and Miller, S., 2020, April. Questioning the AI: informing design practices for explainable AI user experiences. In Proceedings of the 2020 CHI conference on human factors in computing systems (pp. 1-15).

3. PASSI, Samir; VORVOREANU, Mihaela. Overreliance on AI literature review. Microsoft Research, 2022, 339. Jg., S. 340.

Poznámka:

-

Další informace:

Pro tento předmět se rozvrh nepřipravuje

Předmět je součástí následujících studijních plánů: