Neonacisté jsou all-in na AI

Podle nové zprávy Middle East Media Research Institute (MEMRI) extremisté po celých USA vyzbrojili nástroje umělé inteligence, aby jim pomohly efektivněji šířit nenávistné projevy, rekrutovat nové členy a radikalizovat online příznivce bezprecedentní rychlostí a rozsahem. Americká nezisková organizace pro sledování tisku.

Zpráva zjistila, že obsah generovaný umělou inteligencí je nyní hlavním zdrojem extremistických výstupů: Vyvíjejí své vlastní modely umělé inteligence naplněné extrémisty a již experimentují s novými způsoby, jak využít technologii, včetně vytváření plánů pro 3D zbraně a receptů na výrobu. bomby.

Výzkumníci z Domestic Terrorism Threat Monitor, skupiny v rámci institutu, která specificky sleduje americké extremisty, podrobně vymezují rozsah a rozsah používání umělé inteligence mezi domácími aktéry, včetně neonacistů, stoupenců bílé rasy a anti- vládní extremisté.

„Zpočátku bylo kolem této technologie trochu váhání a viděli jsme mezi nimi spoustu debat a diskuzí [extremists] online o tom, zda by tato technologie mohla být použita pro jejich účely,“ řekl novinářům začátkem tohoto týdne Simon Purdue, ředitel Monitoru hrozeb domácího terorismu v MEMRI. „V posledních několika letech jsme přešli od občasného obsahu AI k tomu, že umělá inteligence představuje významnou část nenávistného propagandistického obsahu online, zejména pokud jde o video a vizuální propagandu. Takže jak se tato technologie bude vyvíjet, uvidíme, jak ji extremisté budou více používat.“

Jak se blíží volby v USA, Purdueův tým sleduje řadu znepokojivých vývojů ve využívání technologie umělé inteligence extremisty, včetně širokého zavádění video nástrojů umělé inteligence.

„Největší trend, kterého jsme si všimli [in 2024] je vzestup videa,“ říká Purdue. „Minulý rok byl video obsah generovaný umělou inteligencí velmi jednoduchý. V letošním roce, s uvedením OpenAI’s Sora a dalších platforem pro generování nebo manipulaci s videem, jsme viděli extremisty, jak je využívají jako prostředek k produkci videoobsahu. Viděli jsme z toho také mnoho vzrušení, mnoho jednotlivců mluví o tom, jak by jim to mohlo umožnit produkovat celovečerní filmy.“

Extremisté již tuto technologii využili k vytvoření videí s prezidentem Joe Bidenem, který během projevu použil rasové nadávky a herečka Emma Watsonová předčítala. můj boj v nacistické uniformě.

Minulý rok WIRED informoval o tom, jak extrémisté napojení na Hamás a Hizballáh využívají generativní nástroje umělé inteligence k podkopání databáze pro sdílení hash, která umožňuje platformám Big Tech rychle a koordinovaně odstraňovat teroristický obsah, a v současné době neexistuje žádné dostupné řešení tohoto problému.

Adam Hadley, výkonný ředitel Tech Against Terrorism, říká, že on a jeho kolegové již archivovali desítky tisíc obrázků vytvořených umělou inteligencí vytvořených krajně pravicovými extremisty.

„Tato technologie je využívána dvěma primárními způsoby,“ říká Hadley pro WIRED. „Za prvé, generativní umělá inteligence se používá k vytváření a správě robotů, kteří provozují falešné účty, a za druhé, stejně jako generativní umělá inteligence přináší revoluci v produktivitě, používá se také ke generování textu, obrázků a videí prostřednictvím nástrojů s otevřeným zdrojovým kódem. Obě tato použití ilustrují značné riziko, že teroristický a násilný obsah může být produkován a šířen ve velkém měřítku.