Musím označit obsah vytvořený pomocí AI?

Krátká odpověď

Ne, ne každý AI výstup musíte viditelně označit

U profesionálního zveřejnění se viditelná informace řeší hlavně u deepfake a u některých AI textů o věcech veřejného zájmu bez skutečné lidské nebo redakční kontroly. Odděleně může provider generujícího systému mít technickou povinnost strojově označovat syntetický obsah.

Nejdřív oddělte dvě různé vrstvy: technické označení na straně providera a informaci, kterou má v konkrétních situacích vidět člověk. Jedno automaticky nenahrazuje druhé.

• Běžný AI text, obrázek nebo videoNe automaticky

  Samotné použití AI ještě neznamená univerzální povinnost přidat viditelný štítek.

• Deepfake v profesionálním použitíViditelné disclosure

  Pokud jsou splněny podmínky deepfake a obsah zveřejňujete v profesionálním kontextu, vzniká informační povinnost.

• AI text o věci veřejného zájmuZáleží na kontrole

  Disclosure může být potřeba; skutečná lidská nebo redakční kontrola s redakční odpovědností může změnit výsledek.

• Provider generujícího AI systémuTechnické označení

  Samostatná provider-side povinnost míří na strojově čitelné označování relevantního syntetického obsahu.

Nejdřív princip

Nezačínejte otázkou „použili jsme AI?“

Pro označování obsahu je užitečnější položit si čtyři jiné otázky.

Kdo vůči systému vystupuje jako poskytovatel a kdo obsah používá nebo zveřejňuje? Co AI s výstupem skutečně udělala? Komu se obsah dostane? A má být informace technicky uvnitř výstupu, nebo ji má přímo vidět člověk?

Dvě různé povinnosti

Technické označení a viditelná informace nejsou totéž

Článek 50 pracuje s několika povinnostmi, které mohou platit vedle sebe.

Nejčastější záměna je mezi technickým označením výstupu na straně poskytovatele a informací, kterou má člověk skutečně vidět nebo slyšet při použití či zveřejnění obsahu.

• Technická stopa ve výstupuPoskytovatel

  U systémů, které vytvářejí syntetický text, obraz, zvuk nebo video, může jít o strojově čitelné označení a zjistitelnost AI původu.

  Článek 50 odst. 2

• Informace, kterou má vnímat člověkDeployer / ten, kdo obsah zveřejňuje

  U deepfake nebo vybraného textu ve veřejném zájmu může být potřeba viditelné či jinak vnímatelné upozornění pro člověka.

  Článek 50 odst. 4

Praktická hranice

Kdy jde ještě o běžnou úpravu a kdy už o nový nebo podstatně změněný obsah

U provider-side označování je důležitá výjimka pro standard editing a nepodstatné změny. Komise v pokynech dává konkrétní příklady.

Podstatné není jen to, že jste použili AI, ale co přesně s obsahem udělala. U stejného nástroje proto může jeden výstup spadat do běžné úpravy a jiný už do generování nebo podstatné manipulace.

Častý hraniční případ

Překlad může být jednoduchý na jedné vrstvě a složitější na druhé

Překlad je dobrý příklad toho, proč Article 50 nejde zjednodušit na „label ano/ne“.

Pro technické označení na straně poskytovatele Komise řadí překlad mezi standard editing. Pokud ale přeložený text následně zveřejňujete s cílem informovat veřejnost o věci veřejného zájmu, musíte samostatně posoudit povinnost na straně toho, kdo text publikuje. Kontrola původního textu navíc sama o sobě nedokazuje, že někdo odborně zkontroloval i výsledný překlad.

• PřekladMůže být standard editing

  Pro provider-side technické označení může překlad spadat do výjimky pro standard editing.

  Článek 50 odst. 2 + pokyny Komise

• ShrnutíUž není jen běžná úprava

  AI vytváří nový výběr a strukturu obsahu; pokud je Article 50(2) jinak použitelný, provider marking se posuzuje jako u generovaného výstupu.

  Pokyny Komise

• Podstatný přepisUž není jen běžná úprava

  Pokud AI mění strukturu, styl nebo význam, jde za hranici standard editing.

  Pokyny Komise

Úzká hranice, ne obecná výjimka

Firemní nebo průmyslový výstup není automaticky mimo pravidla

Pokyny Komise připouštějí úzké situace v B2B nebo uzavřeném průmyslovém prostředí, kde technické označení neposkytuje reálný transparentní přínos. Není to ale pravidlo „je to interní, takže neřešíme nic“. Rozhodují konkrétní podmínky, typ výstupu a zda se může dostat k lidem mimo uzavřený proces.

Viditelná informace pro člověka

Deepfake není jen „AI video s falešným člověkem“

Definice je širší než člověk: může jít o existující osobu, objekt, místo, entitu nebo událost. Zároveň nestačí, že je obsah jen realistický nebo vytvořený pomocí AI.

Základ jsou dvě věci: obsah se podobá existující osobě, objektu, místu, entitě nebo události a může u publika falešně působit jako autentický či pravdivý. Kontext publika je proto důležitý — filmový efekt, u kterého nikdo neočekává dokumentární autenticitu, se neposuzuje stejně jako realistická nahrávka vydávaná za skutečnou.

• Připomíná výstup existující osobu, objekt, místo, entitu nebo událost?
• Může výstup vzhledem ke kontextu a publiku působit autenticky nebo pravdivě?
• Pokud ano, zajistěte, aby člověk informaci o umělém vytvoření nebo manipulaci skutečně vnímal — skrytá metadata sama nestačí.

Text má vlastní test

Ne každý AI text zveřejněný na webu potřebuje viditelný label

U textu se viditelné disclosure podle článku 50 odst. 4 váže na užší situaci: text je zveřejněný, má informovat veřejnost a týká se věci veřejného zájmu.

Do veřejného zájmu mohou spadat například politika a demokratické procesy, veřejná správa, justice, veřejná bezpečnost nebo zdraví, životní prostředí, spotřebitelská bezpečnost či významný ekonomický, finanční, vědecký nebo kulturní vývoj.

Ne jen formální kliknutí

Co znamená skutečná lidská nebo redakční kontrola

Pouhé spuštění spellchecku, oprava gramatiky nebo formální schválení nestačí.

Pokyny Komise pracují se skutečným posouzením obsahu člověkem, který má potřebné znalosti a profesionální úsudek. Redakční kontrola znamená reálnou pravomoc text schválit, změnit nebo odmítnout i podle věcné správnosti a důvěryhodnosti zdrojů.

1. 1.Určete, kdo výsledný text věcně kontroluje a zda má pravomoc jej změnit nebo odmítnout.
2. 2.Kontrolujte skutečně publikovanou verzi — u překladu nestačí review původního jazyka.
3. 3.Uložte si, kdo kontrolu provedl, kdy, jakou verzi schválil a kdo nese redakční odpovědnost.
4. 4.Pokud po review AI text znovu materiálně změní, posuďte novou verzi znovu.

Forma a okamžik

Když informaci člověku dáváte, musí ji skutečně zaznamenat

Článek 50 vyžaduje jasnou a rozlišitelnou informaci nejpozději při prvním kontaktu nebo vystavení a s ohledem na požadavky přístupnosti.

U obrazového obsahu může jít o viditelný label, u čistého audia o slyšitelné upozornění. Pokyny Komise zároveň zdůrazňují, že disclosure nemá být schované za speciální nástroj nebo další akci uživatele.

• Informace má být jasná a odlišitelná od okolního obsahu.
• Má přijít nejpozději při první interakci nebo vystavení konkrétního člověka.
• Pokud se obsah dál sdílí, navrhněte disclosure tak, aby s ním pokud možno cestovalo.
• V dlouhých nebo citlivějších interakcích může dávat smysl upozornění kontextově zopakovat.
• Myslete na přístupnost — velikost, čitelnost, dostatečný čas zobrazení a podporu asistivních technologií tam, kde je relevantní.

Dobrovolná pomůcka

Transparency Code a EU ikony mohou pomoci, ale nejsou jediná cesta

Komise a AI Board označily Transparency Code za vhodný dobrovolný způsob, jak podpořit a prokazovat plnění vybraných povinností článku 50.

Přistoupení ke Code není povinné a samo o sobě není definitivním důkazem compliance. Pokud Code nepoužijete, musíte být schopni adekvátní plnění doložit jinak. Stejně tak EU ikony mohou pomoci sjednotit lidsky viditelné označení, ale Article 50 jejich použití obecně nenařizuje.

Z pravidla do procesu

Praktický workflow pro firmu nebo tým

Největší chyba je řešit transparentnost až těsně před publikací. Udělejte z ní součást content workflow.

1. 1.Sepište nástroje a workflow, ve kterých AI vytváří nebo podstatně mění text, obraz, zvuk či video.
2. 2.U každého workflow určete roli: kdo je poskytovatel systému a kdo obsah používá nebo zveřejňuje.
3. 3.Rozdělte výstupy podle toho, zda jde jen o běžnou úpravu, nebo o nový/podstatně změněný obsah.
4. 4.Samostatně ověřte provider-side technické marking a deployer-side viditelné disclosure — jedno nenahrazuje druhé.
5. 5.Pro publikování nastavte jednoduché šablony disclosure a určete, kdo za ně odpovídá i u agentur nebo freelancerů.
6. 6.Pokud spoléháte na human-review výjimku, uchovejte schválenou verzi a základní důkaz o review.
7. 7.Pravidelně ověřujte, zda používané nástroje skutečně zachovávají marking/provenance při exportu, úpravách a dalším sdílení.

Praktický záznam

Co si u spornějšího výstupu zaznamenat

Nemusíte vytvářet právní memo ke každému obrázku. U hraničních nebo opakovaných workflow ale dává smysl mít krátký rozhodovací záznam.

Cílem je umět za půl roku pochopit, proč jste konkrétní postup zvolili — a stejnou otázku neřešit pokaždé od nuly.

• kdo je provider a kdo deployer v konkrétním workflow
• jaký typ výstupu vzniká a co s ním AI dělá
• zda jde o standard editing nebo podstatnější generování/manipulaci
• komu je obsah určen a zda bude zveřejněn
• u veřejného textu: proč je nebo není věcí veřejného zájmu
• u deepfake: subjekt, kontext a očekávání publika
• zda proběhla skutečná lidská/redakční kontrola a kdo nese odpovědnost
• jaké technické marking a jaké lidsky viditelné disclosure se používá
• která verze byla nakonec zveřejněna