Chatboti Google a OpenAI dokážou svléknout ženy na fotkách až na bikiny

Někteří uživatelé Populární chatboti generují deepfakes v bikinách pomocí fotografií plně oblečených žen jako zdrojového materiálu. Většina z těchto falešných obrázků se zdá být vytvořena bez souhlasu žen na fotografiích. Někteří z těchto stejných uživatelů také nabízejí ostatním rady, jak používat generativní nástroje umělé inteligence k tomu, aby ženy na fotografiích svlékly oblečení a vypadaly, jako by měly bikiny.

Pod nyní smazaným příspěvkem na Redditu s názvem „Gemini nsfw image generation is also easy“ uživatelé vyměňovali tipy, jak přimět Gemini, generativní model AI od Googlu, aby dělal obrázky žen v odhalujícím oblečení. Mnoho obrázků ve vláknu bylo zcela AI, ale jeden požadavek vyčníval.

Uživatel zveřejnil fotografii ženy v indickém sárí a žádal někoho, kdo by jí „svlékl“ oblečení a „oblékl si bikiny“. Někdo jiný odpověděl hlubokým falešným obrázkem, aby splnil požadavek. Poté, co WIRED informoval Reddit o těchto příspěvcích a požádal společnost o komentář, bezpečnostní tým Reddit odstranil žádost a AI deepfake.

„Pravidla pro celý web Reddit zakazují nekonsensuální intimní média, včetně dotyčného chování,“ řekl mluvčí. Subreddit, kde k této diskusi došlo, r/ChatGPTJailbreak, měl přes 200 000 sledujících, než jej Reddit zakázal podle pravidla platformy „neporušuj web“.

Jak se generativní nástroje umělé inteligence, které usnadňují vytváření realistických, ale falešných obrázků, stále množí, uživatelé těchto nástrojů nadále obtěžují ženy nekonsensuálními hluboce falešnými snímky. Miliony lidí navštívily škodlivé „nudify“ webové stránky určené pro uživatele, aby nahráli skutečné fotografie lidí a požádali je, aby se svlékli pomocí generativní umělé inteligence.

Vzhledem k tomu, že Grok od xAI je významnou výjimkou, většina běžných chatbotů obvykle neumožňuje generování obrázků NSFW ve výstupech AI. Tito roboti, včetně Gemini od Googlu a ChatGPT od OpenAI, jsou také vybaveni zábradlím, které se snaží blokovat škodlivé generace.

V listopadu Google vydal Nano Banana Pro, nový zobrazovací model, který vyniká ve vylepšování stávajících fotografií a generování hyperrealistických obrázků lidí. OpenAI zareagovala minulý týden svým vlastním aktualizovaným modelem zobrazování, ChatGPT Images.

Jak se tyto nástroje zlepšují, podobizny se mohou stát realističtějšími, když jsou uživatelé schopni podvracet zábradlí.

V samostatném vláknu Reddit o generování obrázků NSFW uživatel požádal o doporučení, jak se vyhnout zábradlí při úpravě něčího oblečení, aby sukně subjektu vypadala těsnější. V omezených testech WIRED, které potvrdily, že tyto techniky fungovaly na Gemini a ChatGPT, jsme byli schopni transformovat obrázky plně oblečených žen do hlubokých fake v bikinách pomocí základních pokynů napsaných v jednoduché angličtině.