Používáme ve firmě Copilot, ChatGPT nebo jiný hotový AI nástroj

Zákon neurčuje minimální počet hodin ani povinnou roční frekvenci a nevyžaduje garantovat konkrétní úroveň znalostí každého člověka. Opatření mají odpovídat zkušenostem lidí, kontextu a rizikům. U běžné kancelářské práce to může znamenat krátká pravidla, praktické školení a jasné příklady, kdy výstup ověřit nebo AI nepoužít.

Pokud nástroj používáte pro běžnou kancelářskou práci, samotné používání registraci nespouští. Povinnost registrace se může objevit až u konkrétních systémů a rolí, zejména v některých případech přísněji regulovaných AI systémů.

• 1. K čemu je systém skutečně určen?Zjistit od dodavatele

  Požádejte o intended purpose, podporované scénáře a výslovná omezení použití.

  Intended purpose je právně relevantní pro posouzení konkrétního systému.

• 2. Kdo je provider systému a případně modelu?Zjistit od dodavatele

  Ujasněte si, kdo systém nabízí pod svým jménem a zda pod ním běží externí model. Role systému a modelu se neposuzují automaticky stejně.

• 3. Jakou dokumentaci a návod dostanete?Podle use casu

  Zjistěte, co dodavatel poskytuje k použití, omezením a správnému provozu. U high-risk systému jsou informační povinnosti poskytovatele výrazně konkrétnější.

• 4. Jak je řešena transparentnost a AI marking?Podle use casu

  Pokud má systém komunikovat s lidmi nebo vytvářet relevantní syntetický obsah, ověřte, co řeší samotný systém a co zůstává na vás jako uživateli/deployerovi.

  Article 50 se spouští jen v konkrétních situacích.

• 5. Jaká jsou známá omezení a jak se má systém sledovat?Podle use casu

  Ptejte se na limity výkonu, doporučený dohled a způsob, jak rozpoznat problém. U high-risk systému jsou instrukce a monitoring součástí zvláštního režimu.

• 6. Jak se dozvíte o významné změně nebo incidentu?Doporučená praxe

  Mějte jasný kanál pro změny verze, omezení a závažné incidenty. U běžného nástroje je to praktická procurement otázka; konkrétní zákonné povinnosti závisejí na klasifikaci a roli.

• 7. Kde chcete nástroj skutečně použít?Prověřit use case

  Pokud má hodnotit lidi, ovlivňovat citlivé rozhodnutí nebo běžet v regulovaném procesu, prověřte právě tento konkrétní use case v Navigatoru — ne pouze značku nástroje.

Povinnost se týká konkrétních kategorií. Například u deepfake — obrazu, zvuku nebo videa, které napodobuje existující osobu, objekt, místo, entitu nebo událost a může působit autenticky — je potřeba zveřejnit, že byl obsah vytvořen nebo upraven AI. U textu, který informuje veřejnost o věci veřejného zájmu, může být označení také potřeba; pro skutečnou lidskou nebo redakční kontrolu s redakční odpovědností existuje výjimka.

AI Act požaduje, aby systémy určené k přímé komunikaci s lidmi byly navrženy tak, že člověk dostane tuto informaci. Samostatné upozornění není potřeba, pokud je z okolností zřejmé, že jde o AI; tato výjimka se ale vykládá úzce.

Například systém určený pro nábor nebo výběr lidí může spadat do přísnějšího režimu. Rozhoduje skutečná funkce systému. Pouhé shrnutí textu nebo administrativní pomoc není totéž jako hodnocení či pořadí kandidátů.

To je jiná situace než pouhé používání hotové služby. V právním detailu se může změnit vaše role a s ní i rozsah povinností. Podstatná změna již existujícího přísně regulovaného systému může mít další důsledky.

Pokud organizace pouze používá hotový AI systém při své profesionální činnosti a nevstupuje do jiné role, AI Act ji pro toto použití označuje jako deployer – tedy organizaci, která AI systém používá pod svou odpovědností.