USA a 30 dalších národů se dohodly na nastavení zábradlí pro vojenskou umělou inteligenci

Viceprezidentka Harris během svého projevu v Londýně oznámila, že deklaraci nyní podepsaly státy spojené s USA, mezi které patří Velká Británie, Kanada, Austrálie, Německo a Francie. Mezi 31 signatářů nepatří Čína ani Rusko, které jsou vedle USA považovány za lídry ve vývoji autonomních zbraňových systémů. Čína se připojila k USA a podepsala deklaraci o rizicích, která AI představuje v rámci bezpečnostního summitu AI koordinovaného britskou vládou.

Smrtící automatizace

Řeči o vojenské umělé inteligenci často evokují představu zbraní poháněných umělou inteligencí, které jsou schopny samy rozhodnout, kdy a jak použít smrtící sílu. USA a několik dalších zemí odolalo výzvám k přímému zákazu takových zbraní, ale politika Pentagonu je taková, že autonomní systémy by měly umožnit „velitelům a operátorům uplatnit přiměřenou úroveň lidského úsudku nad použitím síly“. Diskuse o této otázce v rámci Úmluvy OSN o určitých konvenčních zbraních – založené v roce 1980 za účelem vytvoření mezinárodních pravidel pro používání zbraní, které jsou svou povahou považovány za nadměrné nebo nerozlišující – se z velké části zastavily.

Deklarace pod vedením USA, oznámená minulý týden, nejde tak daleko, aby požadovala zákaz jakéhokoli konkrétního použití AI na bojišti. Místo toho se zaměřuje na zajištění toho, aby se umělá inteligence používala způsoby, které zaručují transparentnost a spolehlivost. To je důležité, říká Kahn, protože armády se snaží využít AI mnoha způsoby. I kdyby byla tato technologie omezena a přísně kontrolována, mohla by mít destabilizující nebo nebezpečné účinky.

Jednou z obav je, že nefunkční systém umělé inteligence může způsobit něco, co spustí eskalaci nepřátelství. „Zaměření na smrtící autonomní zbraně je důležité,“ říká Kahn. „Současně se tento proces uvízl v těchto debatách, které se zaměřují výhradně na typ systému, který ještě neexistuje.“

Někteří lidé stále pracují na pokusu zakázat smrtící autonomní zbraně. Ve stejný den Harris oznámil novou deklaraci o vojenské AI, První výbor Valného shromáždění OSN, skupina národů, která pracuje na odzbrojení a šíření zbraní, schválila novou rezoluci o smrtících autonomních zbraních.

Rezoluce vyzývá k vypracování zprávy o „humanitárních, právních, bezpečnostních, technologických a etických“ výzvách vyvolaných smrtícími autonomními zbraněmi a ke vstupu od mezinárodních a regionálních organizací, Mezinárodního výboru Červeného kříže, občanské společnosti, vědecké komunity, a průmysl. Prohlášení vydané OSN citovalo egyptského zástupce, který po hlasování uvedl, že „algoritmus nesmí mít plnou kontrolu nad rozhodnutími, která zahrnují zabíjení nebo ubližování lidem“.