AI chatboti se učí chrlit autoritářskou propagandu

Když se ptáš ChatGPT „Co se stalo v Číně v roce 1989?“ bot popisuje, jak čínská armáda zmasakrovala tisíce prodemokratických demonstrantů na náměstí Nebeského klidu. Ale položte stejnou otázku Erniemu a dostanete jednoduchou odpověď, že nemá „relevantní informace“. To proto, že Ernie je AI chatbot vyvinutý čínskou společností Baidu.

Když OpenAI, Meta, Google a Anthropic loni zpřístupnily své chatboty po celém světě, miliony lidí je zpočátku používaly, aby se vyhnuly vládní cenzuře. Pro 70 procent světových uživatelů internetu, kteří žijí v místech, kde stát zablokoval hlavní platformy sociálních médií, nezávislé zpravodajské weby nebo obsah o lidských právech a LGBTQ komunitě, tito roboti poskytli přístup k nefiltrovaným informacím, které mohou utvářet pohled člověka. jejich identity, komunity a vlády.

To neztratily ani světové autoritářské režimy, které rychle přicházejí na to, jak využít chatboty jako novou hranici pro online cenzuru.

Nejsofistikovanější odezva k dnešnímu dni je v Číně, kde vláda propaguje používání chatbotů k posílení dlouhodobé kontroly informací. V únoru 2023 regulační orgány zakázaly čínským konglomerátům Tencent a Ant Group integrovat ChatGPT do svých služeb. Vláda poté v červenci zveřejnila pravidla, která nařizují, aby generativní nástroje umělé inteligence dodržovaly stejnou širokou cenzuru závaznou pro služby sociálních médií, včetně požadavku na podporu „základních socialistických hodnot“. Pro chatbota je například nezákonné diskutovat o pokračující perzekuci Ujgurů a dalších menšin v Sin-ťiangu ze strany Čínské komunistické strany (ČKS). O měsíc později Apple na základě vládních požadavků odstranil ze svého čínského obchodu s aplikacemi více než 100 generativních AI chatbotů. (Některé společnosti se sídlem v USA, včetně OpenAI, nezpřístupnily své produkty v několika represivních prostředích, mezi nimi v Číně.)

Autoritáři zároveň tlačí na místní společnosti, aby vyráběly své vlastní chatboty, a snaží se do nich zabudovat ovládací prvky informací záměrně. Například čínská pravidla z července 2023 vyžadují generativní produkty umělé inteligence, jako je Ernie Bot, aby zajistily to, co CCP definuje jako „pravdu, přesnost, objektivitu a rozmanitost“ tréninkových dat. Zdá se, že takové kontroly se vyplácejí: Chatboti vyrábění čínskými společnostmi se odmítli zapojit do uživatelských výzev k citlivým tématům a papouškovali propagandu ČKS. Velké jazykové modely trénované na státní propagandě a cenzurovaných datech přirozeně produkují zkreslené výsledky. V nedávné studii model umělé inteligence trénovaný na Baiduově online encyklopedii – která se musí řídit cenzurními směrnicemi ČKS – spojoval slova jako „svoboda“ a „demokracie“ s negativnějšími konotacemi než model trénovaný na Wikipedii v čínském jazyce, která je izolovaná. z přímé cenzury.

Podobně ruská vláda uvádí „technologickou suverenitu“ jako základní princip svého přístupu k AI. Zatímco snahy o regulaci AI jsou v plenkách, několik ruských společností spustilo své vlastní chatboty. Když jsme se Alice, robota generovaného umělou inteligencí vytvořeného Yandexem, zeptali na totální invazi Kremlu na Ukrajinu v roce 2021, bylo nám řečeno, že není připravena na toto téma diskutovat, aby nikoho neurazila. Naproti tomu Bard od Googlu poskytl litanii faktorů přispívajících k válce. Když jsme položili Alici další otázky o novinkách – například „Kdo je Alexej Navalnyj?“ – dostali jsme podobně vágní odpovědi. I když není jasné, zda Yandex svůj produkt autocenzuruje, jedná na základě vládního nařízení, nebo svůj model jednoduše nevyškolil na relevantních datech, víme, že tato témata jsou již v Rusku cenzurována online.

Tento vývoj v Číně a Rusku by měl sloužit jako včasné varování. Zatímco jiným zemím může chybět výpočetní výkon, technické zdroje a regulační aparát k vývoji a ovládání vlastních chatbotů s umělou inteligencí, represivnější vlády budou pravděpodobně vnímat LLM jako hrozbu pro svou kontrolu nad online informacemi. Vietnamská státní média již zveřejnila článek znevažující odpovědi ChatGPT na výzvy týkající se Komunistické strany Vietnamu a jejího zakladatele Hồ Chí Minha, že jsou nedostatečně vlastenecké. Prominentní bezpečnostní činitel vyzval k novým kontrolám a regulaci této technologie s odkazem na obavy, že by to mohlo způsobit, že Vietnamci ztratí důvěru ve stranu.

Naděje, že chatboti mohou lidem pomoci vyhnout se online cenzuře, odráží dřívější sliby, že platformy sociálních médií pomohou lidem obejít státem kontrolovaná offline média. Ačkoli jen málo vlád bylo zpočátku schopno zablokovat sociální média, některé se rychle přizpůsobily blokováním platforem, nařizujícím, aby filtrovaly kritické projevy, nebo podporovaly státem orientované alternativy. Můžeme očekávat více stejného, ​​protože chatboti budou stále všudypřítomnější. Lidé budou muset mít jasno v tom, jak lze tyto nově vznikající nástroje využít k posílení cenzury a spolupracovat na nalezení účinné reakce, pokud doufají, že zvrátit situaci proti upadající svobodě internetu.

WIRED názor publikuje články externích přispěvatelů, které představují širokou škálu úhlů pohledu. Přečtěte si další názory tady. Odeslat op-ed na nápady@wired.com.