Problém Elona Muska se svlékáním Groka není vyřešen

X Elona Muska zavedla nová omezení, která lidem brání v úpravách a generování obrázků skutečných lidí v bikinách nebo jiném „odhalujícím oblečení“. Změna zásad ve středu večer následuje po celosvětovém pobouření ve společnosti Grok, která byla použita k vytvoření tisíců škodlivých nesouhlasných „svlékacích“ fotografií žen a sexualizovaných obrázků zjevně nezletilých na X.

I když se zdá, že do generování obrázků Grok na X byla konečně zavedena některá bezpečnostní opatření, zdá se, že samostatná aplikace Grok a webová stránka jsou stále schopny generovat obrázky ve stylu „svlékání“ a pornografický obsah, podle četných testů výzkumníků, WIRED a dalších novinářů. Jiní uživatelé mezitím říkají, že už nebudou vytvářet obrázky a videa jako kdysi.

„Na Grok.com můžeme stále generovat fotorealistickou nahotu,“ říká Paul Bouchaud, hlavní výzkumník pařížské neziskové organizace AI Forensics, který sledoval použití Groka k vytváření sexualizovaných obrázků a provedl několik testů na Groku mimo X. „Můžeme generovat nahotu způsoby, které Grok na X nedokáže.“

„Mohl bych nahrát obrázek na Grok Imagine a požádat, abych toho člověka oblékl do bikin, a fungovalo to,“ říká výzkumník, který systém testoval na osobě, která vypadala jako žena. Testy společnosti WIRED pomocí bezplatných účtů Grok na jejích webových stránkách ve Spojeném království a USA úspěšně odstranily oblečení ze dvou obrázků mužů bez jakýchkoli zjevných omezení. V aplikaci Grok ve Spojeném království, když byla požádána, aby se svlékl muž, aplikace vyzvala reportéra WIRED, aby před vygenerováním obrázku zadal rok narození uživatele.

Mezitím další novináři z The Verge a investigativního kanálu Bellingcat také zjistili, že je možné vytvářet sexualizované obrázky, když sídlí ve Spojeném království, které vyšetřuje Groka a X a důrazně odsoudilo platformy za to, že uživatelům umožňují vytvářet obrázky „svlékat se“.

Od začátku roku se Muskovy podniky – včetně firmy s umělou inteligencí xAI, X a Grok – dostaly pod palbu kvůli vytváření nekonsensuálních intimních snímků, explicitních a explicitních sexuálních videí a sexualizovaných snímků zjevně nezletilých. Úředníci ve Spojených státech, Austrálii, Brazílii, Kanadě, Evropské komisi, Francii, Indii, Indonésii, Irsku, Malajsii a Spojeném království všechny odsoudily nebo zahájily vyšetřování X nebo Groka.

Ve středu bezpečnostní účet na X zveřejnil aktualizace o tom, jak lze Grok používat na webových stránkách sociálních médií. „Zavedli jsme technologická opatření, abychom zabránili tomu, aby účet Grok umožňoval upravovat obrázky skutečných lidí, kteří odhalují oblečení, jako jsou bikiny,“ uvedl účet s tím, že pravidla platí pro všechny uživatele, včetně bezplatných i placených předplatitelů.

V části nazvané „Aktualizace geobloku“ účet X také tvrdil: „Nyní geoblokujeme možnost všech uživatelů generovat obrázky skutečných lidí v bikinách, spodním prádle a podobném oblečení prostřednictvím účtu Grok a Grok in X v těch jurisdikcích, kde je to nezákonné.“ Aktualizace společnosti také dodala, že pracuje na přidání dalších bezpečnostních opatření a že pokračuje v „odstraňování vysoce prioritního porušujícího obsahu, včetně materiálů o sexuálním zneužívání dětí (CSAM) a nedobrovolné nahoty.

Mluvčí společnosti xAI, která vytváří Grok, okamžitě neodpověděli na žádost WIRED o komentář. Mezitím mluvčí X říká, že chápou, že geolokační blok se vztahuje jak na jeho aplikaci, tak na web.

Nejnovější krok následuje po široce kritizovaném posunu z 9. ledna, kdy X omezilo generování obrázků pomocí Grok na placené „ověřené“ předplatitele. Čin, který přední ženská skupina popsala jako „zpeněžení zneužívání“. Bouchaud, který říká, že AI Forensics od vánočních svátků shromáždila celkem 90 000 obrázků Groka, potvrzuje, že pouze ověřené účty byly schopny generovat obrázky na X – na rozdíl od webu nebo aplikace Grok – od 9. ledna a obrázky v bikinách se nyní generují jen zřídka. „Všimli jsme si, že to vypadá, že vytáhli zástrčku a deaktivovali funkci na X,“ říkají.