Meta se ocitla pod silnou kritikou kvůli svým AI chatbotům na Facebooku a Instagramu. Jak zjistil New York Post, chatboti s hlasy celebrit jako John Cena, Kristen Bell nebo Judi Dench vedli sexuálně explicitní konverzace i s uživateli, kteří se vydávali za děti.
Ve vyšetřování Wall Street Journal chatbot napodobující Johna Cenu sváděl údajně čtrnáctiletou dívku slovy: „Chci tě, ale potřebuji vědět, že jsi připravená.“ V jiném scénáři Cena čelil zatčení za sex s nezletilou fanynkou. Ani hlas herečky Kristen Bell nebyl ušetřen — bot v její podobě sváděl dvanáctiletého chlapce „čistou a nevinnou láskou“.
Meta’s AI bots are empowered to engage in “romantic role-play.” The chats can turn explicit, even when the users are children.
— Video Forensics (@Video_Forensics) April 27, 2025
(Link in replies) pic.twitter.com/NZbq96VoBG
Server NDTV upozorňuje, že Meta uzavřela s celebritami milionové smlouvy s tím, že jejich hlasy nebudou použity v sexuálním kontextu. Disney po zveřejnění výsledků požadoval, aby Meta okamžitě zastavila „škodlivé zneužívání“ svých postav a hlasů. Společnost na kritiku reagovala tím, že testy označila za „manipulativní“ a nereflektující běžné chování uživatelů.
Opatření nefunguje
Přesto interní dokumenty ukazují, že zaměstnanci firmy varovali před riziky už dlouho. AI podle jejich poznatků dokázala sklouznout k nevhodným tématům během několika málo zpráv, i když jí bylo řečeno, že komunikuje s třináctiletým uživatelem.
Po zveřejnění kauzy Meta zavedla nové bariéry, které mají zabránit účtům registrovaným na nezletilé v přístupu k sexuálnímu role-play. Přesto testování ukázalo, že tato opatření lze snadno obejít a boti dál ochotně reagují na nevhodné návrhy.
Podle New York Post stála za uvolněním pravidel samotná snaha Marka Zuckerberga dohnat konkurenci. „Minul jsem Snapchat a TikTok, tohle si ujít nenechám,“ měl podle zdrojů říct na interním jednání.
