Odhalená databáze společnosti AI Image Generator Startup unikla obrovská zásoba nahých obrázků

Obrázek AI Spuštění generátoru zanechalo více než 1 milion obrázků a videí vytvořených pomocí jeho systémů vystavených a přístupných komukoli online, podle nového výzkumu, který provedla společnost WIRED. „Drtivá většina“ snímků zahrnovala nahotu a byl „zobrazeným obsahem pro dospělé“, podle výzkumníka, který odhalil odhalenou zásobu dat, přičemž některé vypadaly, že zobrazují děti nebo tváře dětí zaměněné na těla nahých dospělých vytvořená umělou inteligencí.

Zdá se, že několik webových stránek – včetně MagicEdit a DreamPal – používá stejnou nezabezpečenou databázi, říká bezpečnostní výzkumník Jeremiah Fowler, který bezpečnostní chybu objevil v říjnu. V té době, říká Fowler, přibývalo do databáze každý den kolem 10 000 nových obrázků. Tyto snímky naznačovaly, jak lidé mohli používat nástroje pro generování a úpravu obrázků, zahrnovaly „neupravené“ fotografie skutečných lidí, kteří mohli být nekonsensuálně „nahození“ nebo jejich tváře vyměněny za jiná, nahá těla.

„Skutečným problémem jsou pouze nevinní lidé, a zejména nezletilí lidé, kteří jejich obrázky používají bez jejich souhlasu k vytváření sexuálního obsahu,“ říká Fowler, plodný lovec exponovaných databází, který zjištění zveřejnil na blogu ExpressVPN. Fowler říká, že je to třetí chybně nakonfigurovaná databáze pro generování obrázků AI, kterou letos našel online, přičemž se zdá, že všechny obsahují nekonsensuální explicitní snímky, včetně těch mladých lidí a dětí.

Fowlerova zjištění přicházejí v době, kdy jsou nástroje pro generování obrázků AI nadále používány ke zlomyslnému vytváření explicitních snímků lidí. Obrovský ekosystém „nahých“ služeb, které využívají miliony lidí a vydělávají miliony dolarů ročně, využívá umělou inteligenci ke „svlékání“ lidí – téměř výhradně žen – na fotografiích. Fotografie ukradené ze sociálních médií lze upravit pouhými několika kliknutími, což vede k trýznivému zneužívání a obtěžování žen. Mezitím se za poslední rok zdvojnásobily zprávy o zločincích, kteří používají umělou inteligenci k vytváření materiálů týkajících se sexuálního zneužívání dětí, které zahrnují řadu neslušných obrázků zahrnujících děti.

„Bereme tyto obavy extrémně vážně,“ říká mluvčí startupu DreamX, který provozuje MagicEdit a DreamPal. Mluvčí říká, že marketingová firma pro influencery propojená s databází, nazvaná SocialBook, je provozována „samostatným právním subjektem a není zapojena“ do provozu jiných stránek. „Tyto entity sdílejí některé historické vztahy prostřednictvím zakladatelů a starších aktiv, ale fungují nezávisle se samostatnými produktovými řadami,“ říká mluvčí.

„SocialBook není připojen k databázi, na kterou jste odkazovali, nepoužívá toto úložiště a nikdy se nepodílel na jeho provozu nebo správě,“ řekl WIRED mluvčí SocialBook. „Zmíněné obrázky nebyly vygenerovány, zpracovány ani uloženy systémy SocialBook. SocialBook funguje nezávisle a nemá žádnou roli v popsané infrastruktuře.“