Jak se webová stránka malých novin Iowa stala továrnou na klikání vygenerovanou umělou inteligencí

Ve svém volném čase Tony Eastin rád fušuje na burze. Jednoho dne loňského roku si na Googlu našel farmaceutickou společnost, která vypadala jako slibná investice. Jeden z prvních výsledků vyhledávání, které Google nabízel na své kartě zpráv, byl uveden jako pocházející z Clayton County Register, noviny v severovýchodní Iowě. Kliknul a četl. Příběh byl zkomolený a postrádal užitečné informace – stejně jako všechny ostatní příspěvky s finanční tématikou, které plnily web, který neměl absolutně nic společného se severovýchodní Iowou. „Hned jsem věděl, že je něco špatně,“ říká. Na internetu je spousta nevyžádaných věcí, ale Eastinovi to přišlo divné: Proč by malý středozápadní list chrlil mizerné blogové příspěvky o maloobchodním investování?

Eastin byl připraven najít online záhady neodolatelné. Po letech v americkém letectvu, kde pracoval na psychologických válečných kampaních, se připojil k Metě, kde zkoumal ohavnosti od zneužívání dětí po operace politického vlivu. Nyní byl mezi zaměstnáními a vítal nové poslání. Eastin tedy oslovil Sandeepa Abrahama, přítele a bývalého kolegu z Meta, který dříve pracoval v armádní rozvědce a pro NSA, a navrhl, aby začali kopat.

To, co tato dvojice odhalila, poskytuje přehled o tom, jak generativní umělá inteligence umožňuje klamavé nové online obchodní modely. Sítě webových stránek napěchovaných clickbaitem generovaným umělou inteligencí se budují na základě reputace zavedených médií a značek. Tyto prodejny prosperují tím, že matou a klamou publikum i inzerenty a „squatují“ domény na adresách URL, které kdysi patřily renomovanějším organizacím. Útulný web, na který se odkazoval Eastin, už nepatřil novinám, jejichž jméno se stále obchodovalo.

Ačkoli Eastin a Abraham mají podezření, že síť RegistrovatStarý web, který je nyní součástí, byl vytvořen s jasnými cíli vydělávání peněz, obávají se, že zákeřnější aktéři by mohli použít stejný druh taktiky k prosazení dezinformací a propagandy do výsledků vyhledávání. „Tohle je velmi hrozivé,“ říká Abraham. „Chceme spustit nějaké poplašné zvony.“ Za tímto účelem dvojice zveřejnila zprávu o svých zjištěních a plánují vydat další, až se ponoří hlouběji do světa AI clickbaitů, a doufají, že jejich úsilí ve volném čase pomůže upozornit veřejnost nebo zákonodárce na tento problém.

Falešné zprávy

The Clayton County Register byla založena v roce 1926 a pokrývala malé město Ekader, Iowa a širší Clayton County, které se uhnízdilo u řeky Mississippi v severovýchodním rohu státu. „Byly to populární noviny,“ říká bývalý spolueditor Bryce Durbin, který sám sebe popisuje jako „znechuceného“ tím, co je nyní publikováno na jeho bývalé webové adrese claytoncountyregister.com. (Skutečný Clayton County Register sloučeny v roce 2020 s The North Iowa Times stát se Times-Registrace který publikuje na jiném webu. Není jasné, jak noviny ztratily kontrolu nad svou webovou doménou; a Times-Registrace nevracel žádosti o komentář.)

Jak Eastin zjistil, když se pokoušel prozkoumat své farmaceutické zásoby, stránka se stále označuje jako Clayton County Register, ale již nenabízí místní zprávy a je místo toho mlýnem na finanční zprávy. Zveřejňuje články, které vypadají jako články generované umělou inteligencí o cenách akcií veřejně prospěšných společností a startupů Web3, ilustrované obrázky, které jsou také zjevně vytvořeny umělou inteligencí.

„Nejenže články, na které jsme se dívali, generuje umělá inteligence, ale všechny obrázky obsažené v každém článku byly vytvořeny pomocí modelů difúze,“ říká Ben Colman, generální ředitel startupu Reality Defender, který provedl analýzu několika článků na žádost WIRED. . Kromě tohoto potvrzení si Abraham a Eastin všimli, že některé články obsahují text připouštějící jejich umělý původ. „Je důležité poznamenat, že tyto informace byly automaticky vygenerovány Automated Insights,“ uvedly některé články, čímž došlo ke snížení jména společnosti, která nabízí technologii generování jazyků.