Podvodníci v Číně používají obrázky generované AI k získání náhrad

Nechci si to připustit, ale o prázdninových nákupech jsem utratil spoustu peněz online. A nepřekvapivě některé z těchto nákupů nesplnily má očekávání. Fotokniha, kterou jsem si koupil, byla poškozena při přepravě, takže jsem pořídil několik fotek, poslal je e-mailem obchodníkovi a dostal jsem peníze zpět. Online nákupní platformy dlouho závisely na fotografiích zaslaných zákazníky, aby potvrdily, že žádosti o vrácení peněz jsou legitimní. Ale generativní AI nyní začíná tento systém narušovat.

Špetka je příliš podezřelá

V čínské aplikaci sociálních médií RedNote našel WIRED nejméně tucet příspěvků od prodejců elektronického obchodu a zástupců zákaznických služeb, kteří si stěžovali na údajně AI generované žádosti o vrácení peněz, které obdrželi. V jednom případě si zákazník stěžoval, že prostěradlo, které si koupil, bylo roztrhané na kusy, ale čínské znaky na přepravním štítku vypadaly jako blábol. V jiném kupující poslal obrázek hrnku na kávu s prasklinami, které vypadaly jako papírové slzy. „Toto je keramický hrnek, ne kartonový hrnek. Kdo by mohl roztrhat keramický hrnek na takové vrstvy?“ napsal prodejce.

Obchodníci uvedli, že existuje několik kategorií produktů, kde jsou fotografie poškození generované umělou inteligencí nejvíce zneužívány: čerstvé potraviny, levné kosmetické produkty a křehké předměty, jako jsou keramické kelímky. Prodejci často nežádají zákazníky, aby toto zboží vrátili před vrácením peněz, takže jsou náchylnější k podvodnému vrácení.

V listopadu obchodník, který prodává živé kraby na Douyinu, čínské verzi TikTok, dostal od zákazníka fotografii, na které to vypadalo, že většina krabů, které koupila, dorazila již mrtvá, zatímco další dva utekli. Kupec dokonce poslal videa, na kterých jsou mrtví kraby šťoucháni lidským prstem. Ale něco nebylo v pořádku.

„Moje rodina chová kraby více než 30 let. Nikdy jsme neviděli mrtvého kraba, jehož nohy směřují nahoru,“ uvedla prodavačka Gao Jing ve videu, které později zveřejnila na Douyin. Ale to, co nakonec prozradilo podvod, byla pohlaví krabů. V prvním videu byli dva samci a čtyři samice, zatímco ve druhém klipu byli tři samci a tři samice. Jeden z nich měl také devět místo osmi nohou.

Gao později nahlásil podvod policii, která zjistila, že videa byla skutečně vyrobena, a zadržela kupujícího na osm dní, podle policejního oznámení, které Gao sdílel online. Případ přitáhl širokou pozornost na čínských sociálních médiích, částečně proto, že šlo o první známý podvod s vrácením AI svého druhu, který vyvolal regulační reakci.

Snížení bariér

Tento problém se netýká jen Číny. Forter, společnost zabývající se detekcí podvodů se sídlem v New Yorku, odhaduje, že obrázky s umělou inteligencí používané při žádostech o vrácení peněz se od začátku roku zvýšily o více než 15 procent a jejich celosvětový nárůst neustále stoupá.

„Tento trend začal v polovině roku 2024, ale v posledním roce se zrychlil, protože nástroje pro generování obrázků se staly široce dostupnými a neuvěřitelně snadno použitelné.“ říká Michael Reitblat, generální ředitel a spoluzakladatel společnosti Forter. Dodává, že umělá inteligence nemusí mít vše v pořádku, protože pracovníci maloobchodu v přední linii a týmy pro kontrolu vrácení peněz nemusí mít čas důkladně prozkoumat každý obrázek.