Pravidlo vysvětlené
Co už je při použití AI zakázané
Některé způsoby použití AI zákon přímo zakazuje. Nejde tedy jen o to, jestli je systém „hodně rizikový“ — pokud konkrétní použití naplní zákaz, nestačí přidat dokumentaci nebo lidskou kontrolu.
Co je nejdůležitější
U zakázaných použití nepomůže jen přidat dokumentaci, školení nebo . Pokud konkrétní způsob použití naplní zákaz, problém je v samotném použití. Proto má smysl zkontrolovat zákazy dřív, než začnete řešit další povinnosti.
Pravidlo pro praxi
Pokud se vaše zamýšlené použití blíží některému ze zákazů, ověřte ho ještě před nákupem nebo nasazením. Každý zákaz má vlastní přesné podmínky a někdy i úzkou výjimku.
Rychlá orientace
- Manipulativní nebo klamavé techniky s významnou újmouZakázané při splnění podmínek
Zakázané, pokud AI významně narušuje rozhodování člověka a vede nebo pravděpodobně vede k významné újmě.
- Zneužití zranitelnosti člověka nebo skupinyZakázané při splnění podmínek
Zakázané, pokud AI zneužívá zranitelnost a vede nebo pravděpodobně vede k významné újmě.
- Sociální hodnocení lidíZakázané při splnění podmínek
Vybrané formy hodnocení lidí podle chování nebo osobních charakteristik jsou zakázané, pokud vedou k zákonem vymezenému znevýhodnění.
- Předpovídání trestné činnosti jen z profilování nebo osobnostních rysůZakázané při splnění podmínek
Zakázané, pokud je individuální predikce založená pouze na profilování nebo osobnostních rysech a charakteristikách.
- Necílené stahování fotografií obličejů pro databáze rozpoznáváníZakázané
Hromadné necílené stahování obličejů z internetu nebo kamerových záznamů pro tyto databáze je zakázané.
- Rozpoznávání emocí v práci nebo ve školeZakázané s úzkou výjimkou
V zásadě zakázané; existuje jen úzká výjimka pro zdravotní nebo bezpečnostní důvody.
- Odvozování citlivých charakteristik z biometrických údajůZakázané při splnění podmínek
Vybrané biometrické kategorizace podle citlivých charakteristik jsou zakázané, pokud naplní zákonné podmínky.
- Identifikace lidí policií na dálku v reálném čase ve veřejném prostoruObecně zakázané, jen úzké výjimky
Obecně zakázané použití s velmi úzce vymezenými zákonnými výjimkami a podmínkami.
- Nové zákazy kolem nevyžádaného intimního obsahu a materiálu sexuálního zneužívání dětíPlatí od 2. 12. 2026
Nově přidané zákazy mají vlastní přesné podmínky a pozdější datum použitelnosti.
Řešíte konkrétní případ? Navigator ověří, co se vztahuje právě na něj.
Ověřit můj případPodrobně
Níže najdete přesné podmínky, výjimky, příklady a právní základ jednotlivých částí.
Škodlivá manipulace a klamavé techniky
AI Act zakazuje určité subliminální, účelově manipulativní nebo klamavé techniky, pokud jsou splněny podmínky týkající se narušení chování a významné újmy. Ne každé přesvědčování, personalizace nebo doporučení je automaticky zakázaná manipulace.
Typicky ano
- Systém cíleně používá manipulační techniky způsobem, který významně narušuje schopnost člověka učinit informované rozhodnutí a vede nebo pravděpodobně vede k významné újmě.
Typicky ne
- Běžné doporučení produktu nebo personalizace bez splnění zákonných podmínek újmy a narušení chování.
Záleží na
- Rozhodující je technika, její účel, dopad na rozhodování člověka a významná újma.
Zneužití zranitelnosti
Zakázané může být AI použití, které zneužívá zranitelnost člověka nebo skupiny spojenou například s věkem, zdravotním postižením nebo specifickou sociální či ekonomickou situací a vede nebo pravděpodobně vede k významné újmě.
Nejde jen o cílovou skupinu
Samotný fakt, že systém používají děti, senioři nebo zranitelní lidé, zákaz nevytváří. Podstatné je zneužití zranitelnosti a zákonný test újmy.
Individuální predikce trestné činnosti
Zakázané je vybrané použití AI pro hodnocení nebo predikci rizika, že konkrétní člověk spáchá trestný čin, pokud je závěr založen pouze na nebo osobnostních rysech a charakteristikách. Zákon obsahuje přesně vymezenou hranici vůči podpůrnému posouzení založenému na objektivních a ověřitelných skutečnostech.
Rozhoduje základ predikce
„AI pomáhá policii“ není dostatečný popis. Je potřeba vědět, z čeho systém riziko konkrétní osoby odvozuje.
Necílené stahování obličejů pro databáze rozpoznávání
AI Act zakazuje vytváření nebo rozšiřování databází pro rozpoznávání obličeje necíleným stahováním obrázků obličejů z internetu nebo kamerových záznamů.
Typicky ano
- Automatické hromadné scrapingování fotografií obličejů z veřejného webu za účelem rozšíření databáze face recognition.
Typicky ne
- Tento konkrétní zákaz se netýká každého legitimního použití fotografie nebo každé databáze osob; míří na necílený scraping pro databáze rozpoznávání obličeje.
Pozor
Rozpoznávání emocí v práci nebo ve škole může být přímo zakázané
Použití AI k odvozování emocí lidí na pracovišti nebo ve vzdělávací instituci je v zásadě zakázané. Výjimka je úzká a týká se systémů určených pro zdravotní nebo bezpečnostní důvody. Komise mezi příklady zakázaného použití uvádí i odhadování emocí při náboru nebo ve zkušební době.
Typicky ano
- AI analyzuje obličej nebo hlas kandidáta a odhaduje jeho emoce při pohovoru.
- Systém sleduje emoce zaměstnanců za účelem hodnocení motivace nebo výkonu.
Záleží na
- Úzká zdravotní nebo bezpečnostní výjimka musí být skutečně opřená o takový účel; obecná „wellbeing“ nálepka nestačí.
Než budete pokračovat
Pokud use case odpovídá tomuto popisu, nepokračujte jen s běžným compliance checklistem. Ověřte zákaz před nasazením.
Citlivá biometrická kategorizace
AI Act zakazuje vybrané biometrické kategorizace, které z biometrických údajů odvozují nebo dedukují citlivé osobní charakteristiky. Zákaz má vlastní přesné hranice a výjimky; není totožný s každou biometrickou autentizací nebo kategorizací.
Nezaměňovat
Ověření identity otiskem prstu nebo Face ID není automaticky totéž jako odvozování citlivé charakteristiky člověka z biometrických dat.
Identifikace lidí policií na dálku v reálném čase
Použití vzdálené biometrické identifikace v reálném čase ve veřejně přístupných prostorách pro účely vymáhání práva je obecně zakázané s velmi úzce vymezenými zákonnými výjimkami, podmínkami a požadavky na předchozí povolení.
Specifická oblast
Tahle pravidla jsou primárně relevantní pro orgány činné v trestním řízení a nelze je zobecnit na běžné firemní použití biometrie.
Nové zákazy kolem nevyžádaného intimního obsahu a materiálu sexuálního zneužívání dětí
Novela Digital Omnibus doplnila do článku 5 AI Actu další zakázaná použití související s vybraným nevyžádaným intimním obsahem a materiálem sexuálního zneužívání dětí. Tyto nové body mají vlastní rozsah, výjimky a pozdější datum použitelnosti než původní zákazy podle článku 5.
Nová část režimu
Tyto nově vložené zákazy se nezačaly uplatňovat 2. února 2025; jejich použitelnost je posunutá na 2. prosince 2026.
Kdy zákazy platí
Původní režim zakázaných praktik podle článku 5 AI Actu se uplatňuje od 2. února 2025. Nové body doplněné Digital Omnibus mají výslovně odloženou použitelnost do 2. prosince 2026.
- 2025-02-02 — Původní článek 5 AI Actu se uplatňují
- 2026-12-02 — Začínají se uplatňovat nové zakázané praktiky doplněné Digital Omnibus
Jak to vypadá v praxi
Máte složitější případ?
Pokud si nejste jistí, jak AI Act dopadá na konkrétní situaci, můžete mi ji stručně popsat. Projdeme, co je potřeba ověřit a jaký další krok dává prakticky smysl.
Probrat konkrétní situaci
Sociální hodnocení lidí (social scoring)
AI Act zakazuje vybrané formy hodnocení nebo klasifikace lidí podle jejich sociálního chování nebo známých či odvozených osobních charakteristik, pokud výsledné zacházení splní zákonné podmínky nepřiměřenosti nebo nesouvisejícího kontextu.
Typicky ano
Záleží na