Společnost Meta plánuje zavést nová pravidla týkající se obsahu generovaného umělou inteligencí na svých platformách, jako jsou Facebook, Instagram a vlákna, jak bylo uvedeno v příspěvku na blogu společnosti 6. ledna. Cílem těchto opatření je řešit rostoucí obavy týkající se autenticity a transparentnosti digitálního obsahu.
Podle oznámení bude každý obsah rozpoznaný jako vytvořený umělou inteligencí, ať už prostřednictvím metadat, nebo záměrného vodoznaku, viditelně označen. Uživatelé budou mít navíc možnost označit neoznačený obsah, u něhož existuje podezření, že byl vytvořen umělou inteligencí, což umožní komunitě přispět k úsilí o moderaci obsahu.
Tato iniciativa odráží vyvíjející se přístup společnosti Meta k moderování obsahu, který připomíná její dřívější postupy před vznikem obsahu generovaného umělou inteligencí. Umožněním uživatelům hlásit porušení předpisů a zajištěním transparentnosti při označování obsahu se společnost Meta snaží zachovat integritu svých platforem.
S výhledem do roku 2024 společnost Meta využívá svou rozsáhlou uživatelskou základnu k rozšíření možností moderování obsahu. Tím, že umožňuje uživatelům označovat obsah generovaný umělou inteligencí, využívá společnost Meta sílu crowdsourcingu k řešení vznikajících problémů v oblasti autenticity digitálního obsahu.
Podle příspěvku na blogu:
“Budeme vyžadovat, aby lidé používali tento nástroj pro zveřejňování a označování, pokud zveřejní organický obsah s fotorealistickým videem nebo realisticky znějícím zvukem, který byl vytvořen nebo pozměněn digitálně, a pokud tak neučiní, můžeme uplatnit sankce.”
Zlepšení detekce obsahu vytvořeného umělou inteligencí
Tvůrci využívající platformy společnosti Meta budou muset svůj obsah označovat jako vytvořený umělou inteligencí, aby se vyhnuli případným postihům. Ačkoli společnost Meta implementuje vodoznaky a označování obsahu generovaného pomocí svých nástrojů, uznává omezení při odhalování audio a video obsahu generovaného umělou inteligencí ve velkém měřítku.
Při řešení tohoto problému Meta spolupracuje s průmyslovými partnery, jako jsou Google, OpenAI, Microsoft, Adobe, Midjourney a Shutterstock. Společně se snaží vyvinout metody pro detekci neviditelných vodoznaků a zlepšit ověřování pravosti obsahu.
Společnost Meta si však uvědomuje, že v současné době existují omezení při odhalování audio a video obsahu vytvořeného umělou inteligencí, včetně technologie deepfake, v masovém měřítku. To podtrhuje pokračující úsilí potřebné k řešení vyvíjející se situace v oblasti pravosti a integrity digitálního obsahu.