Údajný Deepfake vůdce britské opozice Keir Starmer ukazuje nebezpečí falešného zvuku

Jako členové největší britská opoziční strana se sešla v Liverpoolu na své stranické konferenci – pravděpodobně poslední před všeobecnými volbami ve Spojeném království – na X, dříve známém jako Twitter, začal kolovat potenciálně výbušný zvukový soubor.

25sekundová nahrávka byla zveřejněna účtem X s klikou „@Leo_Hutz“, který byl založen v lednu 2023. V klipu je sir Keir Starmer, vůdce labouristické strany, zjevně slyšet, jak opakovaně nadává zaměstnanci. „Získal jsem audio záznam Keira Starmera, jak slovně napadá své zaměstnance.“ [the Labour Party] konference,“ zveřejnil účet X. „Tento nechutný tyran se brzy stane naším dalším premiérem.“

Není jasné, zda je zvukový záznam skutečný, vytvořený umělou inteligencí nebo nahraný pomocí napodobitele. Britská organizace pro kontrolu faktů Full Fact uvedla, že to stále vyšetřuje. „Jak se teď bavíme, nelze to potvrdit tak či onak.“ Ale existují jeho charakteristiky, které ukazují, že jde o padělek,“ říká Glen Tarman, vedoucí advokacie a politiky Full Fact. „Je tu věta, která se zdá být opakující se, spíše než.“ [using] jiná intonace při druhém použití a v pozadí je několik závad.“

Audio deepfakes se stávají velkým rizikem pro demokratický proces, protože Spojené království – a více než 50 dalších zemí – směřují k volbám v roce 2024. Manipulace se zvukovým obsahem je stále levnější a snadnější, zatímco ověřovatelé faktů říkají, že je obtížné rychle a definitivně identifikovat nahrávku jako falešnou. Tyto nahrávky by mohly strávit hodiny nebo dny poletováním po sociálních sítích, než budou odhaleny, a výzkumníci se obávají, že tento typ hluboce falešného obsahu by mohl vytvořit politickou atmosféru, ve které voliči nevědí, jakým informacím mohou věřit.

„Pokud posloucháte zvuk nebo video online s tímto semínkem pochybností o tom, zda je to skutečně skutečné, riskujete, že podkopete základy toho, jak debata probíhá, a schopnost lidí cítit se informováni,“ říká Kate Dommett, profesorka digitální politiky. na Sheffieldské univerzitě.

X zmanipulovaná média politika uvádí, že videa nebo audio, které byly klamavě pozměněny nebo s nimi bylo manipulováno, by měly být označeny nebo odstraněny. Ani jedno se u příspěvku nestalo a X neodpověděl na žádost WIRED o komentář, zda platforma prošetřila pravost nahrávky.

Starmerův tým se zatím nevyjádřil. Několik poslanců z vládní Konzervativní strany však nahrávku označilo za deepfake. „Probíhá falešná zvuková nahrávka Keira Starmera,“ řekl poslanec Tom Tugendhat na X. „Posledních 30 let veřejného života bylo svědkem katastrofálního podkopání víry v instituce z dobrých i špatných důvodů,“ Matt Warman, další konzervativec. MP, zveřejněno. „Ale dnešní deepfake Sira Keira Starmera je nový low, přeplňovaný umělou inteligencí a sociálními médii. Demokracie je skutečně ohrožena – technologie pro ověřování obsahu je nezbytná.“