Světové mocnosti říkají, že chtějí obsahovat umělou inteligenci. Také závodí, aby to pokročili

Včera 28 zemí včetně USA, členů EU a Číny podepsalo deklaraci varující, že umělá inteligence postupuje takovou rychlostí a nejistotou, že by mohla způsobit „vážné, až katastrofické škody“.

Prohlášení, oznámené na AI Safety Summit organizovaném britskou vládou a konaném na historickém místě pro prolamování kódů z druhé světové války, Bletchley Park, také vyzývá k mezinárodní spolupráci při definování a zkoumání rizik plynoucích z vývoje výkonnějších modelů AI. včetně velkých jazykových modelů, jako jsou ty, které pohánějí chatboty, jako je ChatGPT.

„Jde o přelomový úspěch, který ukazuje, že největší světové AI velmoci se shodli na naléhavosti pochopení rizik AI – což pomáhá zajistit dlouhodobou budoucnost našich dětí a vnoučat,“ uvedl v prohlášení britský premiér Rishi Sunak. .

Místo konání summitu vzdalo poctu Alanu Turingovi, britskému matematikovi, který provedl základní práci na počítačích i AI a který pomohl spojencům prolomit nacistické kódy během druhé světové války vývojem raných počítačových zařízení. (Předchozí vláda Spojeného království se v roce 2009 omluvila za způsob, jakým byl Turing v roce 1952 stíhán za to, že byl gay.)

Hype-vlak s umělou inteligencí má však talent proměnit i blízké spojence v konkurenty. Inkoust na budoucí deklaraci sotva zaschl, než USA prosadily svou vůdčí roli ve vývoji a vedení umělé inteligence, protože viceprezidentka Kamala Harrisová pronesla projev varování, že rizika umělé inteligence – včetně deepfakes a neobjektivních algoritmů – jsou již zde. Bílý dům začátkem tohoto týdne oznámil rozsáhlé exekutivní nařízení, jehož cílem je stanovit pravidla pro řízení a regulaci umělé inteligence, a včera nastínil nová pravidla, která mají zabránit tomu, aby vládní algoritmy škodily.

„Když je senior vyhozen z plánu zdravotní péče kvůli chybnému algoritmu AI, není to pro něj existenční?“ řekl Harris. „Když je žena ohrožována násilným partnerem explicitními falešnými fotografiemi, není to pro ni existenční?“

Koktejl spolupráce a konkurence vířící ve Spojeném království pramení z pozoruhodných, překvapivých a mírně děsivých schopností, které velké jazykové modely prokázaly právě v minulém roce. Umělá inteligence prokázala, že je schopna dělat věci, o kterých si mnozí odborníci mysleli, že v příštích letech zůstanou nemožné. To některým výzkumníkům naznačuje, že systémy se schopností replikovat něco, co připomíná druh obecné inteligence, kterou lidé považují za samozřejmost, mohou být najednou mnohem blíž.

Přední odborníci na umělou inteligenci byli tento týden v Londýně v očekávání summitu. Mezi lidi, které jsem potkal, patřil Yoshua Bengio, průkopník hlubokého učení, který říká, že je na misi varovat vlády před riziky pokročilejší umělé inteligence; Percy Liang, který vede Stanfordovo centrum pro výzkum nadačních modelů; Rumman Chowdhury, odborník na systémy umělé inteligence „červeného týmu“ pro zranitelnosti, který mi řekl, že je to stále rodící se disciplína; a Demis Hassabis, který jako generální ředitel Google DeepMind vede projekty AI tohoto vyhledávacího giganta. Tvrdí, že lidstvo má jen omezené množství času, aby se ujistilo, že umělá inteligence odráží naše nejlepší zájmy, nikoli naše nejhorší chování.