Příklad z praxe

Máme AI chatbot pro zákazníky

Pokud zákazník komunikuje přímo s AI chatbotem a není to z okolností zřejmé, musí při začátku komunikace dostat informaci, že jde o AI.

Pokud používáte hotový chatbot jiné firmy, ověřte si, že je tato informace správně nastavená. Pokud chatbot provozujete jako vlastní řešení, odpovědnost za jeho nastavení může být přímo na vás.

Co musíte

Zkontrolovat, zda zákazník jasně pozná, že komunikuje s AI

Pokud to z kontextu není zřejmé, informace má přijít nejpozději při začátku komunikace.

Více k tématu: Kdy musíte říct, že jde o AI →

Co nemusíte

Přebírat automaticky odpovědnost za návrh hotového chatbota jiné firmy
Nemusíte. Pokud pouze používáte hotovou službu, samotné nasazení neznamená, že přebíráte odpovědnost za návrh samotného systému.
Více k tématu: Kdy musíte říct, že jde o AI →

Kdy se to změní

01
Chatbot jste vytvořili sami nebo ho provozujete jako vlastní řešení
Pak máte větší odpovědnost i za to, jak je samotný systém navržen a jak plní požadavky AI Actu.
Více k tématu: Kdo za co u AI systému odpovídá →
02
Z komunikace je naprosto zřejmé, že jde o AI
V takovém případě zákon obsahuje výjimku z povinnosti zvlášť na AI upozorňovat. Posuzuje se ale konkrétní způsob a kontext komunikace.
Více k tématu: Kdy musíte říct, že jde o AI →
03
Chatbot začne rozhodovat o lidech nebo jejich nárocích
Pokud už jen neodpovídá na otázky, ale například hodnotí člověka nebo ovlivňuje důležité rozhodnutí, mohou přibýt další pravidla.

Je váš případ složitější?

Navigator se doptá jen na věci, které mohou změnit výsledek.

Ověřit můj konkrétní případ

Detailní informace

Chcete jít víc do hloubky?

Praktickou odpověď už máte nahoře. Níže můžete rozbalit jen to, co vás zajímá — proč pravidlo platí, kde jsou jeho hranice a co se mění v méně běžných případech.

Kdy má člověk vědět, že komunikuje s AI

Pokud to není z okolností jasné, AI Act vyžaduje, aby byl člověk o AI interakci informován.

Toto pravidlo se týká systémů určených k přímé komunikaci s člověkem. Právní odpovědnost za návrh této informace leží především na poskytovateli systému. Pokud používáte hotovou službu, je proto důležité ověřit, že její řešení tuto podmínku splňuje.

Jak má informace vypadat a kdy přijít

Člověk ji má dostat jasně a včas — nejpozději při začátku komunikace, pokud už není z kontextu zřejmé, že jde o AI.

AI Act nevyžaduje jednu povinnou větu nebo grafický štítek pro všechny chatboty. Informace má být jasná, srozumitelná a poskytnutá včas. Pokud je AI povaha komunikace z okolností opravdu zřejmá, zákon obsahuje výjimku.

Co když používáte hotový chatbot jiné firmy nebo vlastní řešení

Používání hotové služby a provoz vlastního AI systému nejsou z pohledu odpovědnosti stejná situace.

Pokud jen nasadíte hotovou službu jiné firmy, samotné použití z vás nedělá poskytovatele jejího systému. Pokud ale chatbot vyvíjíte, necháte si ho vyvinout a provozujete ho pod svým jménem, můžete nést odpovědnost i za samotný systém.

Co když chatbot začne dělat víc než jen komunikovat

Hodnocení lidí, rozhodování o nárocích nebo jiné citlivé funkce mohou otevřít úplně jiná pravidla než běžná zákaznická komunikace.

Jakmile chatbot nejen odpovídá na otázky, ale také člověka hodnotí nebo jeho výstup ovlivňuje důležité rozhodnutí, nestačí řešit jen informaci o AI komunikaci. Je potřeba znovu posoudit konkrétní funkci systému a případné další povinnosti.

Právní detail a související témata

Tady můžete pokračovat k přesnému právnímu vysvětlení odpovědnosti a pravidel pro komunikaci s AI.

Máte složitější případ?

Pokud si nejste jistí, jak AI Act dopadá na konkrétní situaci, můžete mi ji stručně popsat. Projdeme, co je potřeba ověřit a jaký další krok dává prakticky smysl.

Probrat konkrétní situaci