Generativní umělá inteligence hraje překvapivou roli v dezinformacích mezi Izraelem a Hamásem

„Vzhledem ke kreativitě, kterou lidé v průběhu historie předváděli při vymýšlení (falešných) příběhů, a vzhledem ke svobodě, kterou lidé již mají při vytváření a šíření dezinformací po celém světě, je nepravděpodobné, že by velká část populace hledala dezinformace, které nemohou najít online. nebo offline,“ uzavírá list. Navíc dezinformace nabývají na síle pouze tehdy, když je lidé vidí, a vzhledem k tomu, že čas, který mají lidé na virový obsah, je konečný, je dopad zanedbatelný.

Pokud jde o obrázky, které by se mohly dostat do běžných zdrojů, autoři poznamenávají, že zatímco generativní umělá inteligence může teoreticky vykreslovat vysoce personalizovaný, vysoce realistický obsah, může to být i Photoshop nebo software pro úpravu videa. Změna data na zrnitém videu z mobilního telefonu by se mohla ukázat stejně efektivní. Novináři a ověřovatelé faktů se potýkají méně s deepfake než s obrázky vytrženými z kontextu nebo s těmi, kteří jsou hrubě vmanipulováni do něčeho, čím nejsou, např. záběry z videohry prezentovány jako útok Hamasu.

V tomto smyslu je nadměrné zaměření na okázalou novou technologii často červeným sledem. „Být realista není vždy to, co lidé hledají nebo co je potřeba k tomu, aby se na internetu stalo virální,“ dodává Sacha Altay, spoluautor článku a postdoktorandský výzkumný pracovník, jehož současná oblast zahrnuje dezinformace, důvěru a sociální média na univerzitě. laboratoře digitální demokracie v Curychu.

To platí také na straně nabídky, vysvětluje Mashkoor; vynález není implementací. „Existuje mnoho způsobů, jak manipulovat konverzaci nebo manipulovat s online informačním prostorem,“ říká. „A jsou věci, které jsou někdy nižší nebo snadněji proveditelné, které nevyžadují přístup ke konkrétní technologii, i když je v současnosti snadný přístup k softwaru generujícímu umělou inteligenci, rozhodně existují jednodušší způsoby, jak s něčím manipulovat, pokud hledám to.“

Felix Simon, další z autorů článku Kennedy School a doktorand na Oxfordském internetovém institutu, varuje, že komentář jeho týmu se nesnaží ukončit debatu o možných škodách, ale je spíše pokusem potlačit tvrzení gen. AI spustí „armagedon pravdy“. Tyto druhy paniky často doprovázejí nové technologie.

Pomineme-li apokalyptický pohled, je snazší studovat, jak generativní umělá inteligence působí vlastně zasazené do stávajícího dezinformačního ekosystému. Je například mnohem rozšířenější, než tomu bylo na počátku ruské invaze na Ukrajinu, tvrdí Hany Farid, profesor na UC Berkeley School of Information.