Ministerstvo spravedlnosti říká, že Anthropic nemůže být důvěryhodný s válečnými systémy

Trumpova administrativa argumentoval v úterním soudním podání, že neporušil práva prvního dodatku společnosti Anthropic tím, že označil vývojáře AI za riziko dodavatelského řetězce, a předpověděl, že žaloba společnosti proti vládě neuspěje.

„První dodatek není licencí k jednostrannému uvalení smluvních podmínek vládě a Anthropic neuvádí nic, co by podpořilo tak radikální závěr,“ napsali právníci amerického ministerstva spravedlnosti.

Odpověď byla podána u federálního soudu v San Franciscu, jednom ze dvou míst, kde Anthropic zpochybňuje rozhodnutí Pentagonu sankcionovat společnost štítkem, který může společnostem zakázat zakázky na obranu kvůli obavám z potenciálních bezpečnostních zranitelností. Anthropic tvrdí, že Trumpova administrativa překročila své pravomoci při používání označení a zabránění používání technologií společnosti uvnitř oddělení. Pokud se označení udrží, může Anthropic letos ztratit až miliardy dolarů na očekávaných tržbách.

Antropic chce obnovit činnost jako obvykle, dokud nebude vyřešen spor. Rita Lin, soudkyně dohlížející na případ ze San Francisca, naplánovala slyšení na příští úterý, aby rozhodla, zda vyhovět žádosti Anthropic.

Právníci ministerstva spravedlnosti, píšící pro ministerstvo obrany a další agentury v úterním podání, popsali obavy společnosti Anthropic z možné ztráty obchodů jako „právně nedostatečné k tomu, aby představovaly nenapravitelné zranění“ a vyzvali Lin, aby společnosti odepřel odklad.

Právníci také napsali, že Trumpova administrativa byla motivována jednat kvůli „obavám z potenciálního budoucího chování společnosti Anthropic, pokud by si zachovala přístup“ k vládním technologickým systémům. „Nikdo netvrdil, že omezí Anthropicovu expresivní aktivitu,“ napsali.

Vláda tvrdí, že snaha Anthropic omezit, jak může Pentagon používat svou technologii AI, vedla ministra obrany Petea Hegsetha k „rozumnému“ rozhodnutí, že „zaměstnanci Antropie by mohli sabotovat, zlomyslně zavádět nežádoucí funkce nebo jinak podvracet design, integritu nebo fungování národního bezpečnostního systému“.

Ministerstvo obrany a Anthropic bojují o potenciální omezení modelů Claude AI společnosti. Společnost Anthropic věří, že její modely by neměly být používány k usnadnění širokého sledování Američanů a v současné době nejsou dostatečně spolehlivé, aby poháněly plně autonomní zbraně.

Několik právních expertů dříve řeklo WIRED, že společnost Antropic má silný argument, že opatření v rámci dodavatelského řetězce představuje nezákonnou odvetu. Soudy však často upřednostňují argumenty vlády týkající se národní bezpečnosti a představitelé Pentagonu popsali společnost Anthropic jako dodavatele, který se zbláznil a jehož technologiím nelze věřit.

„DoW se zejména obával, že umožnění trvalého přístupu společnosti Anthropic k technické a operační bojové infrastruktuře DoW by vneslo nepřijatelné riziko do dodavatelských řetězců DoW,“ uvádí se v úterním podání. „Systémy umělé inteligence jsou akutně zranitelné vůči manipulaci a společnost Anthropic by se mohla pokusit deaktivovat svou technologii nebo preventivně změnit chování svého modelu buď před nebo během probíhajících bojových operací, pokud má společnost Anthropic – podle svého uvážení – pocit, že její firemní ‚červené čáry‘ jsou překračovány.“

Ministerstvo obrany a další federální agentury pracují na nahrazení nástrojů umělé inteligence Anthropic produkty od konkurenčních technologických společností v příštích několika měsících. Jedním z nejlepších využití Clauda v armádě je software pro analýzu dat Palantir, řekli lidé obeznámení s touto záležitostí WIRED.

V úterním podání právníci tvrdili, že Pentagon „nemůže jednoduše přepnout přepínač v době, kdy je Anthropic v současnosti jediným modelem umělé inteligence schváleným k použití“ na „utajovaných systémech ministerstva a probíhají vysoce intenzivní bojové operace“. Oddělení pracuje na nasazení systémů umělé inteligence od Googlu, OpenAI a xAI jako alternativ.

Řada společností a skupin, včetně výzkumníků v oblasti umělé inteligence, Microsoftu, federálního zaměstnaneckého odborového svazu a bývalých vojenských vůdců podala soudní oznámení na podporu Anthropic. Žádná nebyla podána na podporu vlády.

Anthropic musí do pátku podat protireakci na argumenty vlády.