AI Slop dělá internet falešným-šťastným

Každému, kdo má puls a chytrý telefon, je zřejmé, že internet má problém s AI. Od spuštění ChatGPT v roce 2022 se tento problém zhoršil a některé sociální platformy byly zaplaveny psaním generovaným umělou inteligencí. Nyní jsou zde data na podporu neoficiálních důkazů.

Nová předtisková studie, kterou dnes zveřejnili vědci z Imperial College of London, Stanford University a Internet Archive, zjistila, že přibližně 35 procent všech nových webových stránek je buď generováno umělou inteligencí, nebo pomocí AI. Stejná studie také zjistila, že online psaní je „stále hygienické a uměle veselé“. Jinými slovy, umělá inteligence dělá internet falešně šťastným.

Výzkumný tým vyzkoušel čtyři různé přístupy k detekci AI, než se rozhodl pro nástroje od Pangram Labs poté, co přinesl nejkonzistentnější výsledky. (Ačkoli tým zjistil, že si ve svých testech vedl dobře, stojí za zmínku, že všechny nástroje pro detekci umělé inteligence jsou nedokonalé.) Aby sestavil reprezentativní vzorek webových stránek, použil Wayback Machine Internet Archive, který shromažďuje snímky webových stránek. Kromě kvantifikace toho, kolik webů vytvořených v letech 2022 až 2025 se opírá o psaní generované AI, studie také testovala šest různých teorií o vlastnostech slop.

Test, který se zabýval umělou veselostí, zkoumal, jak umělá inteligence ovlivňuje tón online psaní. Pomocí analýzy sentimentu, která klasifikuje slova jako pozitivní, neutrální nebo negativní, se zjistilo, že „průměrné skóre pozitivního sentimentu u webů vytvořených nebo asistovaných umělou inteligencí bylo o 107 procent vyšší než u webů bez AI“. Vědci vidí tento nárůst umělého štěstí jako „příznak“ „podlézavého a přehnaně optimistického charakteru existujících LLM“. Tímto způsobem má tendence nástrojů pro psaní AI nasávat své lidské uživatele vedlejší efekt, díky čemuž je celkový obsah online psaní více sacharistický.

Další test zkoumal, zda nárůst psaní generovaného umělou inteligencí zmenšuje nabízenou „škálu jedinečných nápadů a různých úhlů pohledu“. Výzkumníci zjistili, že umělá inteligence učinila internet méně ideologicky rozmanitým, přičemž weby s umělou inteligencí dosáhly zhruba o 33 procent vyššího skóre v testování na „sémantickou podobnost“ než weby vytvořené lidmi.

Zatímco tyto dva testy potvrdily předpoklady výzkumníků o AI, jiné nikoli. Čtyři teorie, které vědci testovali, se nepotvrdily. Zejména měli podezření, že AI povede k nárůstu dezinformací, ale jejich analýza důkazů hypotézu nepotvrdila. Také se domnívali, že AI psaní nebude odkazovat na externí zdroje a že bude stylisticky obecnější než lidské psaní. Matoucí očekávání ani jedna z těchto teorií nebyla podpořena důkazy.

Zatímco analýza zjistila, že myšlenky zastávané AI psaním byly homogennější – a konkrétněji, důsledněji veselé – psaní styl nebylo potvrzeno, že by byla zploštělá. To bylo velkým překvapením pro výzkumníky, kteří předpokládali, že uvidí jasný posun směrem k generičtějšímu výstupu. „Všichni v týmu očekávali, že je to pravda,“ říká Maty Boháček, výzkumník ze Stanfordu. „Ale my pro to prostě nemáme významný důkaz.“

Před provedením analýzy výzkumný tým zadal průzkum o tom, jak lidé vnímají AI. Při porovnání s výsledky se zjistilo, že výzkumníci nebyli jediní, kdo překonal svá očekávání. Jejich studie zjistila, že mnoho běžně zastávaných názorů o psaní AI je chybných.

Stejně jako výzkumníci většina dotázaných lidí také předpokládala, že se setkají s nárůstem falešných zpráv, protože počet webů generovaných umělou inteligencí, které viděli, se zvýšil. Naprostá většina respondentů také předpokládala, že psaní AI přestane odkazovat na externí zdroje a že bude mít stále obecnější a jednotnější hlas. „Je zajímavé vidět, že lidé měli tendenci očekávat nejhorší výsledky,“ říká Boháček.

Tato studie není zdaleka posledním slovem o tom, co AI dělá s internetem. „Chtěli jsme jen prorazit,“ říká Boháček, který to považuje za odrazový můstek pro hlubší průzkum. Jako snímek dopadu umělé inteligence nabízí zvláště lidský vhled: Někdy je prostě těžké předvídat, jak se věci vyvinou.