Zpět do slovníčkuVíce k tomuto pravidlu: Kdy se na AI vztahují přísnější pravidla
Povinnosti · Human oversight
Lidský dohled
Soubor opatření, která mají umožnit člověku účinně dohlížet na high-risk AI systém a zasáhnout, když je to potřeba.
U high-risk systémů nejde jen o to, že „někde je člověk“. Dohled musí být navržen a nastaven tak, aby člověk rozuměl možnostem a omezením systému, mohl interpretovat výstup a v případě potřeby ho ignorovat, změnit nebo systém bezpečně zastavit.
Proč na tom záleží
Pouhé označení procesu jako human-in-the-loop samo o sobě neřeší všechny povinnosti ani high-risk klasifikaci.