Hlavní pravidla AI Actu

Zakázaná použití

Co už je při použití AI zakázané

Některé způsoby použití AI zákon přímo zakazuje. Nejde tedy jen o to, jestli je systém „hodně rizikový“ — pokud konkrétní použití naplní zákaz, nestačí přidat dokumentaci nebo lidskou kontrolu.

Informování o AI

Kdy musíte říct, že jde o AI

Ne každý výstup vytvořený s pomocí AI musíte označovat. Rozhoduje, co AI dělá — zda mluví přímo s člověkem, vytváří určitý syntetický obsah, deepfake nebo veřejný informační text — a zda řešíte technickou stopu ve výstupu, nebo informaci, kterou má vidět člověk.

Lidé a práce s AI

Co mají vědět lidé, kteří pracují s AI

AI Act neříká, že každý musí absolvovat stejný kurz nebo dosáhnout určité úrovně znalostí. Organizace mají přijmout přiměřené kroky na podporu AI gramotnosti lidí, kteří s AI pracují jejich jménem. Podoba podpory se liší podle role, nástroje, zkušeností a způsobu použití.

Přísnější pravidla

Kdy se na AI vztahují přísnější pravidla

Ne každá AI ve firmě spadá do zvláštního přísnějšího režimu. Rozhodující je hlavně to, zda je AI součástí regulovaného produktu a ovlivňuje bezpečnost, nebo zda se používá v některé citlivé situaci — například při náboru, úvěrech, vzdělávání nebo důležitých veřejných službách.

Odpovědnost za systém

Kdo za co u AI systému odpovídá

Odpovědnost se odvíjí od toho, co s konkrétním AI systémem děláte. Jiná pravidla platí, když hotový systém jen používáte, když provozujete vlastní řešení, když ho přivážíte na trh EU nebo poskytujete dál. Jedna organizace může mít u různých systémů různé odpovědnosti.

Česko

Co dnes platí v Česku

Dvě věci mohou být pravda zároveň: některé povinnosti AI Actu už v Česku přímo platí, ale český dohledový a procesní rámec ještě není úplně dokončený. Nedokončená česká implementace tedy neznamená, že evropské povinnosti automaticky neplatí.