Deepfake Porn Crackdown na GitHubu stále nefunguje

„Když se podíváme na zneužívání intimních obrázků, naprostá většina nástrojů a zbraní pochází z prostoru open source,“ říká Ajder. Často ale začínají u vývojářů, kteří to myslí dobře, říká. „Někdo vytvoří něco, co si myslí, že je zajímavé nebo cool, a někdo se špatnými úmysly rozpozná jeho škodlivý potenciál a vyzbrojí ho.“

Někteří, jako například úložiště deaktivované v srpnu, mají kolem sebe účelově vytvořené komunity pro explicitní použití. Modelka se postavila jako nástroj pro deepfake porno, tvrdí Ajder, a stala se „nálevkou“ pro zneužívání, které se zaměřuje převážně na ženy.

Další videa nahraná na stránky pro streamování porna prostřednictvím účtu připisujícího modely umělé inteligence stažené z GitHubu představovaly tváře oblíbených deepfake cílů, celebrit Emma Watson, Taylor Swift a Anya Taylor-Joy, stejně jako další méně slavné, ale velmi skutečné ženy. , superponované do sexuálních situací.

Tvůrci volně popsali nástroje, které používali, včetně dvou scrubovaných GitHubem, ale jejichž kód přežívá v jiných existujících repozitářích.

Pachatelé, kteří pátrají po deepfake, se shromažďují na mnoha místech online, včetně skrytých komunitních fór na Discordu a přímo na očích na Redditu, čímž kombinují pokusy o prevenci deepfake. Jeden Redditor nabídl své služby pomocí softwaru archivovaného úložiště 29. září. „Mohl by někdo udělat mého bratrance,“ zeptal se další.

Torrenty hlavního úložiště, které GitHub v srpnu zakázal, jsou k dispozici i v jiných koutech webu, což ukazuje, jak obtížné je plošně hlídat open-source deepfake software. Jiné deepfake porno nástroje, jako je aplikace DeepNude, byly podobně odstraněny, než se objevily nové verze.

„Je tu tolik modelů, tolik různých vidlic v modelech, tolik různých verzí, že může být obtížné je všechny vystopovat,“ říká Elizabeth Seger, ředitelka digitální politiky v britském think-tanku Demos. „Jakmile je model veřejně dostupný ke stažení s otevřeným zdrojovým kódem, neexistuje způsob, jak jej veřejně vrátit zpět,“ dodává.

Jeden hluboce falešný porno tvůrce se 13 zmanipulovanými explicitními videi ženských celebrit připsal jednomu prominentnímu repozitáři GitHub, který byl prodáván jako „NSFW“ verze jiného projektu, který podporuje odpovědné používání a výslovně žádá uživatele, aby jej nepoužívali pro nahotu. „Učit se všechny dostupné Face Swap AI z GitHUB, nepoužívat online služby,“ říká drze jejich profil na stránce trubice.

GitHub již tuto verzi NSFW zakázal, když WIRED identifikovala hluboce falešná videa. Ale další úložiště označené jako „odemčené“ verze modelu byly na platformě k dispozici 10. ledna, včetně jednoho s 2 500 „hvězdami“.

„Technicky je pravda, že jednou [a model is] tam venku to nejde vrátit. Stále však můžeme lidem ztížit přístup,“ říká Seger.

Pokud zůstane bez kontroly, dodává, potenciál poškození hluboce falešného „porna“ není jen psychologický. Mezi jeho vedlejší účinky patří zastrašování a manipulace žen, menšin a politiků, jak bylo vidět u politických deepfakeů, které ovlivňují političky po celém světě.

Ale ještě není pozdě dostat problém pod kontrolu a platformy jako GitHub mají možnosti, říká Seger, včetně zásahu v okamžiku nahrávání. „Pokud dáte model na GitHub a GitHub řekl ne a všechny hostingové platformy řekly ne, pro normálního člověka bude těžší tento model získat.“

Reining hluboce falešného porna vytvořeného pomocí modelů s otevřeným zdrojovým kódem také závisí na tvůrcích politik, technologických společnostech, vývojářích a samozřejmě na samotných tvůrcích urážlivého obsahu.

Nejméně 30 států USA má také nějakou legislativu, která řeší falešné porno, včetně zákazů, podle neziskové organizace Public Citizen’s law tracker, ačkoli definice a zásady jsou různorodé a některé zákony se týkají pouze nezletilých. Tvůrci Deepfake ve Spojeném království také brzy pocítí sílu zákona poté, co vláda 7. ledna oznámila kriminalizaci vytváření sexuálně explicitních deepfakeů a jejich sdílení.