Deepfake Porn Is Out Control

Mnoho webových stránek dává jasně najevo, že hostují nebo šíří hluboce falešná porno videa – často obsahující toto slovo deepfakes nebo jejich odvozeniny v jejich jménu. První dva weby obsahují každý 44 000 videí, zatímco pět dalších hostí více než 10 000 deepfake videí. Většina z nich má několik tisíc videí, zatímco některé obsahují jen několik stovek. Některá videa, která výzkumník analyzoval, byla zhlédnuta milionkrát.

Výzkum také identifikoval dalších 300 obecných pornografických webových stránek, které nějakým způsobem obsahují nekonsensuální hluboce falešnou pornografii. Výzkumník říká, že „únikové“ webové stránky a webové stránky, které existují za účelem opětovného zveřejnění obrázků na sociálních sítích lidí, také obsahují hluboce falešné obrázky. Jedna webová stránka zabývající se fotografiemi tvrdí, že „svlékla“ lidi na 350 000 fotografiích.

Změřit celou škálu deepfake videí a obrázků online je neuvěřitelně obtížné. Sledování toho, kde je obsah sdílen na sociálních médiích, je náročné, zatímco urážlivý obsah je sdílen také v soukromých skupinách zpráv nebo uzavřených kanálech, často lidmi, které oběti znají. V září se ve španělském městě Almendralejo ozvalo více než 20 dívek ve věku 11 až 17 let poté, co byly pomocí nástrojů AI bez jejich vědomí vygenerovány jejich nahé fotografie.

„Došlo k výraznému nárůstu dostupnosti nástrojů umělé inteligence pro vytváření hluboce falešných nekonsensuálních pornografických snímků a ke zvýšení poptávky po tomto typu obsahu na pornografických platformách a nelegálních online sítích,“ říká Asher Flynn, docent na Monash University, Austrálie. , který se zaměřuje na umělou inteligenci a zneužívání technologií. To se pravděpodobně zvýší pouze s novými generativními nástroji AI.

Bránou k mnoha webům a nástrojům pro vytváření hluboce falešných videí nebo obrázků je vyhledávání. Na webové stránky analyzované výzkumníkem jsou přesměrovány miliony lidí, přičemž 50 až 80 procent lidí najde cestu na webové stránky prostřednictvím vyhledávání. Hledání deepfake videí pomocí vyhledávání je triviální a nevyžaduje, aby člověk měl nějaké speciální znalosti o tom, co hledat.

Problém je globální. Pomocí VPN výzkumník testoval vyhledávání Google v Kanadě, Německu, Japonsku, USA, Brazílii, Jižní Africe a Austrálii. Ve všech testech se hluboce falešné weby ve výsledcích vyhledávání výrazně zobrazovaly. Videa často cílí na celebrity, streamery a tvůrce obsahu. Maddocks říká, že šíření deepfake se stalo „endemickým“ a je to to, čeho se mnozí výzkumníci poprvé obávali, když se v prosinci 2017 dostala do popředí první deepfake videa.