Jaderné odborníci tvrdí, že míchání AI a jaderných zbraní je nevyhnutelné

Lidé, kteří Studium jaderné války pro život je jisté, že umělá inteligence brzy pohánějí smrtící zbraně. Nikdo z nich si není zcela jistý, co přesně to znamená.

V polovině července se na University of Chicago shromáždili laureáti Nobelovy laureáty, aby poslouchali odborníky na jadernou válku o konci světa. Na uzavřených zasedáních po dobu dvou dnů vědci, bývalí vládní úředníci a vojenský personál v důchodu osvětlili laureáty o nejničivějších zbraních, jaké kdy byly vytvořeny. Cílem bylo vzdělávat některé z nejuznávanějších lidí na světě o jedné z nejděsivějších zbraní, jaké kdy byly vyrobeny, a na konci toho, že laureáti vydávají politická doporučení světovým vůdcům o tom, jak se vyhnout jaderné válce.

AI měla na mysli každého. „Vstupujeme do nového světa umělé inteligence a rozvíjejících se technologií ovlivňujících náš každodenní život, ale také ovlivňující jaderný svět, ve kterém žijeme,“ řekl Scott Sagan, profesor Stanfordu známý pro jeho výzkum jaderného odzbrojení, na konci rozhovorů.

Je to prohlášení, které má jako nevyhnutelnost vlád míchajících AI a jaderné zbraně – něco, s kým jsem mluvil v Chicagu, věřil.

„Je to jako elektřina,“ říká Bob Latiff, generálmajor amerického letectva v důchodu a člen bulletinu vědecké a bezpečnostní rady atomových vědců. „Najde se do všeho.“ LaTiff je jedním z lidí, kteří pomáhají nastavovat hodiny Doomsday každý rok.

„Konverzace o AI a Nukes je omezena několika hlavními problémy. Prvním je, že nikdo opravdu neví, co je AI,“ říká Jon Wolfsthal, odborník na nerefiliferaci, který je ředitelem globálního rizika na Federaci amerických vědců a byl dříve zvláštním asistentem Baracka Obamy.

„Co to znamená dát AI kontrolu nad jadernou zbraní? Co to znamená dát a [computer chip] Ovládání jaderné zbraně? “ Zeptá se Herb Lin, profesor Stanford a kamenec Doomsday Clock.

Za prvé, dobrá zpráva. Nikdo si nemyslí, že Chatgpt nebo Grok brzy získá jaderné kódy. Wolfsthal mi říká, že existuje mnoho „teologických“ rozdílů mezi jadernými odborníky, ale že jsou na této frontě spojeny. „V této oblasti téměř každý říká, že chceme účinnou lidskou kontrolu nad rozhodováním o jaderné zbrani,“ říká.

Přesto Wolfsthal slyšel šepot jiných o použití LLM v srdci americké moci. „Řada lidí řekla:“ No, podívej, vše, co chci udělat, je mít k dispozici interaktivní počítač pro prezidenta, aby mohl přijít na to, co Putin nebo Xi udělá a mohu tento datový soubor vyrobit velmi spolehlivě. Dokážu získat všechno, co Xi nebo Putin kdy o čemkoli řekl a napsal o čemkoli a měl statisticky vysokou pravděpodobnost, že odráží, „říká.“ Říká. „