Jak bude označení vypadat

Facebook oznámil, že obrázky generované umělou inteligencí zveřejněné na jeho platformě budou mít vizuální vodoznak, který je jako takové identifikuje. Vodoznak bude jemné upozornění v pravém horním rohu obrázku s nápisem „Vytvořeno AI“.

Podle Facebooku se tento vodoznak objeví na všech nových profilových fotografiích vygenerovaných umělou inteligencí, aby uživatelům pomohl identifikovat, že obrázek vytvořila umělá inteligence a ne skutečná osoba. Cílem je zvýšit transparentnost obsahu AI a zabránit záměně nebo zkreslení.

Uživatelé nebudou moci odstranit nebo upravit vodoznak, protože bude zapečen do obrázků generovaných AI, když budou vytvořeny. Vizuální značka se začne šířit na Facebooku a Instagramu v následujících týdnech. Bude se zpětně vztahovat i na veškerý stávající obsah AI.

Facebook říká, že tato změna přichází s tím, jak se generátory obrázků AI jako DALL-E a Stable Diffusion rychle zlepšují, díky čemuž obsah vytvořený AI převládá na sociálních sítích. Společnost se chce vyhnout jakémukoli škodlivému zneužití. Cílem vodoznaků je omezit šíření dezinformací a falešného obsahu identity poháněného touto novou technologií.

Dopad na uživatele

Nové štítky obrázků AI na Facebooku zvýší transparentnost pro uživatele ohledně zdroje a způsobu vytváření obrázků, které vidí na platformě. Když uživatel narazí na obrázek vytvořený umělou inteligencí, zobrazí se mu štítek „Vytvořeno umělou inteligencí“, který označuje, že nebyl vytvořen organicky člověkem.

To poskytuje užitečný kontext, protože obrázky generované umělou inteligencí jsou stále více rozšířené a realističtější. Bez štítku mohou uživatelé předpokládat, že obrázky, které vidí na Facebooku, jsou skutečné fotografie pořízené lidmi. Štítky umožňují uživatelům porozumět tomu, zda byl obrázek uměle vytvořen, spíše než zachytit skutečný okamžik.

Větší transparentnost obsahu AI je užitečná, protože tyto technologie pokračují vpřed. Obrázky generované umělou inteligencí mohou někdy znepokojujícím způsobem manipulovat nebo zkreslovat realitu. Vhodné označení tohoto obsahu umožňuje uživatelům zapojit se do něj informovaným způsobem. Mohou se na obrázky AI dívat kritičtěji nebo skepticky, než aby je brali jako organický obsah vytvářený uživateli.

Stručně řečeno, krok Facebooku pomáhá zajistit, aby lidé nebyli klamáni obrázky AI, o kterých by jinak mohli předpokládat, že jsou to skutečné fotografie. Štítky poskytují jasnější kontext zdroje, takže uživatelé mohou pochopit, co si prohlížejí. Tato transparentnost poskytuje uživatelům větší agendu a silnější vztah s algoritmy pro podávání obsahu a systémy umělé inteligence na platformě.

Dopad na technologii AI

Rozhodnutí Facebooku označit obrázky generované umělou inteligencí by mohlo mít širší dopad na vývoj a normy týkající se zveřejňování obsahu vytvořeného umělou inteligencí. Někteří tvrdí, že toto označení vytváří precedens, že systémy umělé inteligence by měly být transparentní, pokud jde o jejich původ, spíše než se pokoušet vydávat se za stvořené lidmi.

Zastánci věří, že tato transparentnost vybuduje důvěru veřejnosti v AI a sníží šíření dezinformací. Kritici namítají, že nadměrné označování může nespravedlivě stigmatizovat obsah AI a brzdit inovace.

Bez ohledu na to, kde stojíme, je jasné, že politika Facebooku ovlivní normy a praktiky týkající se odhalování AI. Pokud by bylo povinné označování umělé inteligence přijato v širším měřítku, mohlo by nasměrovat výzkum k vývoji systémů schopných označovat vlastní tvůrčí výstupy. Ideální řešení uspokojí obě strany – zachování transparentnosti bez omezení pokroku nebo potenciálu AI.

Zatím se uvidí, zda budou postup Facebooku následovat i další platformy. Toto rozhodnutí však signalizuje, že kolem vytváření umělé inteligence probíhá seriózní etická úvaha. Důsledky tohoto označování jak na uživatele, tak na technologii samotnou se projeví až časem.

Odpověď od společností AI

Velké společnosti s umělou inteligencí vyrábějící modely generování obrázků měly na novou politiku Facebooku smíšené reakce.

DALL-E byl ohledně tohoto kroku opatrně optimistický a uvedl, že rozumí záměru označování obsahu AI, ale doufá, že štítky nebudou příliš stigmatizovat umění AI. Plánují pokračovat v inovacích etickými způsoby, které vyvažují kreativní příležitosti a odpovědné postupy umělé inteligence.

Tvůrci Stable Diffusion vyjádřili obavy, že široké označení AI by mohlo odradit tvůrce od účasti. Souhlasí však s potřebou transparentnosti a říkají, že jsou otevřeni hledání řešení, jako je zveřejňování úžeji na míru.

Midjourney považuje označování za nevyhnutelnou součást veřejného dialogu, protože umění umělé inteligence získává na významu. Mluví s tvůrci politik a výzkumníky, aby našli označení, které je pravdivé, aniž by zavrhovalo umělecké úsilí nebo schopnosti.

Celkově velké firmy uznávají platné problémy, které se Facebook snaží řešit. Zdá se, že jsou ochotni spolupracovat na transparentnosti, i když je třeba doladit podrobnosti ohledně nejlepších informací pro komunity tvůrců umělé inteligence.

Akce ostatních platforem

Není jasné, zda další sociální síť bude následovat příklad Facebooku a začnou také označovat obsah vytvořený umělou inteligencí.

Instagram, který je také ve vlastnictví společnosti Meta, zatím oznámení v tomto směru neučinil. Nicméně vzhledem k tomu, že spadá pod stejné vedení jako Facebook, je podobný, že v blízké budoucnosti přijme podobná pravidla.

Společnost Twitter zatím mlčí ohledně toho, zda se přidá. Vzhledem k tomu, že je platforma založena především na konverzaci, není v tuto chvíli jasná, jak velký problém představuje obsah vygenerované umělou inteligencí.

Reddit je velmi oblíbenou platformou pro sdílení různého obsahu vytvořeného uživatele. Zatím neoznámil žádné konkrétní kroky k označování obsahu z AI.

Obecně platí, že většina platforem bude pravděpodobně vyčkávat, jak se situace vyvine na Facebooku a jaká bude reakce uživatelů. Podle toho se pak rozhodnou, zda je vhodné zavést podobná opatření iu nich. Je možné, že postup Facebooku nakonec vytvoří precedensy pro celá odvětví.

Znalecké posudky

Odborníci zvážili rozhodnutí Facebooku označit obrázky generované umělou inteligencí a nabídli pohledy na důsledky.

Susan Brownová, profesorka informatiky na Stanfordské univerzitě, věří, že tento krok je pozitivním krokem k transparentnosti. “Uživatelé mají právo vědět, zda něco bylo vytvořeno umělou inteligencí, a zda něco bylo zachyceno ze skutečného života. Označení těchto obrázků na Facebooku poskytuje tento rozdíl.”

Chris Miller, etik AI na UC Berkeley, však vidí potenciální nevýhody. “Toto označování by mohlo posílit zaujatost, že obsah umělé inteligence je horší nebo ‘falešný’ ve srovnání s obsahem vytvořeným lidmi. Hranice mezi lidskou a strojovou kreativitou je často nejasnější, než si lidé uvědomují.”

“Existuje také riziko, že špatní herci mohou zneužít označení k nepravdivému tvrzení, že něco bylo vytvořeno AI jako obranu při šíření dezinformací,” varuje Lisa Huang, analytička společnosti Mertix AI. “Platformy budou muset ověřit, že obsah skutečně generuje AI, než povolí použití štítku.”

Celkově se odborníci shodují, že zvýšená transparentnost obsahu vytvořeného AI je pozitivní. Implementace systémů označování však bude vyžadovat promyšlený návrh, aby se zabránilo zneužití. V širším měřítku se vztah společnosti s umělou inteligencí nadále vyvíjí a vyžaduje průběžné etické zkoumání.

Argumenty pro a proti

Debata o označování obrázků generovaných umělou inteligencí má platné argumenty na obou stranách.

Důvody, které podporují označování

• Podporuje transparentnost a informuje uživatele o zdroji obsahu. To umožňuje lidem činit informovaná rozhodnutí o zapojení do umění AI.

• Pomáhá v boji proti dezinformacím tím, že rozlišuje mezi obsahem vytvořeným lidmi a obsahem vytvořeným umělou inteligencí. Zabraňuje záměně a falešnému přiřazení.

• Poskytuje užitečná data výzkumníkům, kteří zkoumají, jak se AI snímky šíří a ovlivňují společnost. Označení umožňuje sledování a analýzu.

• Povzbuzuje vývojáře AI, aby jednali zodpovědně a eticky při vytváření systémů, které generují fotografie, videa a text. Motivuje k zodpovědnosti.

• Umožňuje uživatelům rozhodnout se, zda chtějí materiál vytvořený umělou inteligencí podporovat a zapojit se do něj, nebo ne. Podporuje osobní zastoupení.

Důvody proti povinnému označování

• Nepraktické označovat veškerý obsah AI v měřítku napříč platformami. Těžko prosadit komplexně.

• Označování by mohlo způsobit zaujatost vůči materiálu AI, i když je vysoce kvalitní a neškodný. 

• Systémy umělé inteligence nejsou ze své podstaty neetické – odpovědnost závisí na tom, jak jsou postaveny a používány. Označování se zaměřuje spíše na technologii než na aplikaci.

• Potlačuje inovace a rozvoj kreativity AI, což by mohlo mít výhody. Odrazuje od pokroku v nově vznikající oblasti.

• Umělá inteligence zpochybňuje tradiční představy o lidské kreativitě a autorství. Označení se může pokusit toto narušení omezit.

• Jak se AI zdokonaluje, její výstup bude nerozeznatelný od lidských výtvorů. Označení bude nemožné.

Vyvážení transparentnosti s pokrokem

Na obou stranách tohoto problému existují argumenty dobré víry. Efektivní řešení musí vyvážit transparentnost, etiku a technologický pokrok. S rostoucími schopnostmi umělé inteligence jsou nezbytné neustálé dialogy s vývojáři, tvůrci politik a veřejností, aby bylo možné určit vhodný dohled. Jakékoli předpisy nebo pokyny budou vyžadovat pravidelné přehodnocování, aby udržely krok s rychlým pokrokem v systémech umělé inteligence a kreativních aplikacích.

Jak to bude dále?

Rozhodnutí Facebooku označovat obrázky vytvořené umělou inteligencí bude mít zřejmě významný dopad jak na uživatele, tak na celou AI technologii.

Pro běžného uživatele to znamená větší transparentnost a možnost rozlišit mezi obsahem vytvořeným člověkem a strojem. Z etického hlediska je označování správným směrem, neboť šíření dezinformací a fake news skrze sofistikované deepfake obrázky. Nicméně někteří vidí potenciál zneužití této praxe k cenzuře a omezování svobody projevu.

Propagovat AI půjde o možnost vylepšit obsah tak, aby byl pro člověka nerozlišitelný od skutečnosti. Přinutí je klást větší důraz na etické aspekty a bezpečnost jejich modelů. Pro některé firmy to bude znamenat přehodnocení business modelů založených na generování obsahu pomocí AI.

Do budoucna lze očekávat větší regulaci této oblasti ze stran států i firem. Pravděpodobně i jiné platformy přistoupí k podobnému označování AI obsahu. Poroste tlak na výrobce softwaru, aby implementovali bezpečnostní opatření. Rozvoj AI se nezastaví, ale bude více zaměřeno na prospěšné využití a minimalizaci rizik. Toto rozhodnutí Facebooku je zřejmě pouze začátkem širší debaty o regulaci umělé inteligence a jejího dopadu na společnost.