Video zpracovaného Bidena je testovacím případem zásad Deepfake společnosti Facebook

Během roku 2022 Americké volby v polovině období, zmanipulované video prezidenta Joea Bidena kolovalo po Facebooku. Původní záběry ukázaly, že Biden umístil nálepku „Hlasoval jsem“ na hruď své vnučky a políbil ji na tvář. Upravená verze natočila záznam, aby to vypadalo, že se dívky opakovaně dotýká, s titulkem, který ho označil za „pedofila“.

Meta nechala video zapnuté. Dnes dozorčí rada společnosti – nezávislý orgán, který se zabývá moderováním obsahu platformy – oznámila, že toto rozhodnutí přezkoumá, ve snaze přimět Meta, aby řešila, jak bude řešit manipulovaná média a volební dezinformace před prezidentskými volbami v USA v roce 2024. a více než 50 dalších hlasování, které se bude konat po celém světě v příštím roce.

„Volby jsou základem demokracie a je životně důležité, aby platformy byly vybaveny k ochraně integrity tohoto procesu,“ říká mluvčí dozorčí rady Dan Chaison. „Zkoumání toho, jak může Meta lépe řešit pozměněný obsah, včetně videí, která mají oklamat veřejnost před volbami, je ještě důležitější vzhledem k pokrokům v umělé inteligenci.“

Meta v příspěvku na blogu uvedla, že dospěla k závěru, že video neporušuje nenávistné projevy Facebooku, obtěžování nebo zmanipulované mediální zásady. Meta v rámci svých zásad pro zmanipulovaná média tvrdí, že odstraní video, pokud „bylo upraveno nebo syntetizováno… způsoby, které nejsou běžnému člověku zřejmé, a pravděpodobně by průměrného člověka svedly v omyl, aby uvěřil, že subjekt videa řekl slova, která neřekli.“ Meta poznamenala, že video Biden nepoužívalo AI ani strojové učení k manipulaci se záznamem.

Odborníci už měsíce varují, že volby v roce 2024 budou komplikovanější a nebezpečnější díky generativní umělé inteligenci, která umožňuje realističtější falešný zvuk, video a snímky. A i když se Meta připojila k dalším technologickým společnostem, které se zavázaly pokusit se omezit škody generativní umělé inteligence, většina běžných strategií, jako je obsah vodoznaků, se v nejlepším případě ukázala jen trochu účinná. Na Slovensku minulý týden obletěla facebookem falešná zvuková nahrávka, na které se objevil jeden z předních politiků země, aby diskutoval o zmanipulování voleb. Tvůrci dokázali využít mezeru v zásadách zmanipulovaných médií Meta, které se netýkají falešného zvuku.

Zatímco samotné video Biden není generováno ani zmanipulováno umělou inteligencí, dozorčí rada si vyžádala veřejné komentáře k tomuto případu s ohledem na AI a případ používá jako způsob, jak hlouběji prozkoumat zásady společnosti Meta týkající se manipulovaných videí.