Příklad z praxe

Postavili jsme si vlastní interní chatbot nebo AI asistenta

Pokud je chatbot vaše vlastní řešení, nestačí řešit jen to, jak ho používáte. Odpovědnost máte i za samotný .

Neznamená to automaticky nejpřísnější pravidla. Rozhoduje, k čemu chatbot slouží, kdo ho používá a zda například komunikuje s lidmi nebo ovlivňuje důležitá rozhodnutí.

Co musíte

Mít jasno, co váš chatbot skutečně dělá a k čemu ho používáte

Jiné povinnosti má jednoduchý interní pomocník pro práci s informacemi a jiné systém, který komunikuje se zákazníky nebo ovlivňuje rozhodnutí o lidech.

Připravit lidi, kteří s chatbotem pracují

Lidé mají vědět, jak systém správně používat, kde může chybovat a jaká pravidla při práci s ním dodržovat.

Více k tématu: Co mají vědět lidé, kteří pracují s AI →

Kdy se to změní

01
Chatbot začne komunikovat přímo se zákazníky nebo veřejností
Pak je potřeba řešit, zda člověk jasně pozná, že komunikuje s AI.
Více k tématu: Kdy musíte říct, že jde o AI →
02
Chatbot začnete poskytovat dalším organizacím
Pak už nejde jen o interní použití a mohou přibýt další povinnosti spojené s poskytováním systému dál.
Více k tématu: Kdo za co u AI systému odpovídá →
03
Chatbot začne hodnotit lidi nebo ovlivňovat důležitá rozhodnutí
Například při náboru, hodnocení zaměstnanců nebo rozhodování o nároku na určitou službu. Pak mohou přibýt výrazně přísnější pravidla.
04
Výrazně změníte účel nebo fungování systému
Pokud začne dělat něco podstatně jiného než původně, je potřeba znovu posoudit, která pravidla se na něj vztahují.

Je váš případ složitější?

Navigator se doptá jen na věci, které mohou změnit výsledek.

Ověřit můj konkrétní případ

Detailní informace

Chcete jít víc do hloubky?

Praktickou odpověď už máte nahoře. Níže můžete rozbalit jen to, co vás zajímá — proč pravidlo platí, kde jsou jeho hranice a co se mění v méně běžných případech.

Co znamená mít odpovědnost za vlastní AI systém

Pokud systém vznikl pro vás a provozujete ho jako své vlastní řešení, AI Act vám může přidělit povinnosti i za samotný systém — nejen za jeho používání.

Právně se zde může objevit role poskytovatele (). To může platit i u čistě interního systému, pokud jste ho vyvinuli nebo si ho nechali vyvinout a uvádíte ho do provozu pod svým jménem. Samotné interní použití tuto odpovědnost nevylučuje.

Jaké právní role se za tím skrývají

Pro běžné rozhodnutí tyto pojmy znát nepotřebujete. Tady najdete přesné vysvětlení rolí podle AI Actu.

Pokud systém vyvíjíte nebo si ho necháváte vyvinout a provozujete ho pod svým jménem, můžete být jeho poskytovatelem (). Pokud ho zároveň ve své organizaci používáte, můžete mít současně i roli uživatele systému, pro kterou AI Act používá pojem . Jedna organizace tak může mít vůči jednomu systému více rolí.

Co když chatbot běží na modelu jiné firmy

Váš chatbot a model, na kterém běží, nejsou totéž. Použití cizího modelu z vás samo o sobě nedělá poskytovatele tohoto modelu.

Můžete nést odpovědnost za vlastní chatbot jako , i když používáte model nebo API jiné firmy. Samotné používání cizího modelu z vás automaticky nedělá poskytovatele tohoto modelu pro obecné účely (GPAI).

Co když chatbot začne komunikovat přímo s lidmi

Pokud komunikuje se zákazníky nebo veřejností, přidává se otázka, zda člověk pozná, že komunikuje s AI.

U systému určeného k přímé komunikaci s lidmi AI Act řeší, aby byl člověk o AI interakci informován, pokud to není z okolností zřejmé. U vlastního chatbota může odpovědnost za návrh této informace ležet přímo na vás.

Co když chatbot začne ovlivňovat důležitá rozhodnutí

Jakmile systém hodnotí lidi nebo ovlivňuje rozhodnutí s větším dopadem, může se změnit celý režim povinností.

To, že jste chatbot vytvořili sami, ještě neznamená, že na něj dopadá režim pro vysoce rizikové systémy. Rozhoduje jeho účel a skutečná funkce. Pokud například začne filtrovat kandidáty, hodnotit zaměstnance nebo ovlivňovat jiné významné rozhodnutí, je potřeba prověřit konkrétní klasifikaci a navazující povinnosti.

Kde pokračovat, pokud váš chatbot dělá něco navíc

Podle toho, jak systém používáte, mohou být relevantní další části AI Actu.

Máte složitější případ?

Pokud si nejste jistí, jak AI Act dopadá na konkrétní situaci, můžete mi ji stručně popsat. Projdeme, co je potřeba ověřit a jaký další krok dává prakticky smysl.

Probrat konkrétní situaci