Američtí experti na národní bezpečnost varují, že obři AI nedělají dost, aby chránili svá tajemství

Google ve veřejných komentářích k NTIA před svou zprávou uvedl, že očekává, že „bude svědkem zvýšených pokusů narušit, degradovat, oklamat a ukrást“ modely. Dodala však, že její tajemství střeží „organizace pro bezpečnost, bezpečnost a spolehlivost skládající se z inženýrů a výzkumníků se špičkovými odbornými znalostmi“ a že pracuje na „rámci“, který by zahrnoval expertní výbor, který by pomáhal řídit přístup k modely a jejich hmotnosti.

Stejně jako Google, OpenAI v komentářích pro NTIA uvedl, že v závislosti na okolnostech je potřeba otevřených i uzavřených modelů. OpenAI, která vyvíjí modely jako GPT-4 a služby a aplikace, které na nich staví, jako je ChatGPT, minulý týden vytvořila vlastní bezpečnostní výbor ve své radě a tento týden zveřejnila na svém blogu podrobnosti o zabezpečení technologie, kterou používá. modely vlaků. Blogový příspěvek vyjádřil naději, že transparentnost inspiruje další laboratoře k přijetí ochranných opatření. Nespecifikovalo, před kým je potřeba tajemství chránit.

Generální ředitel společnosti RAND Jason Matheny, který hovořil po boku Riceové na Stanfordu, zopakoval její obavy z bezpečnostních mezer. Použitím exportních kontrol k omezení přístupu Číny k výkonným počítačovým čipům USA omezily schopnost čínských vývojářů vyvíjet vlastní modely, řekl Matheny. Tvrdil, že to zvýšilo jejich potřebu přímo krást software AI.

Podle Mathenyho odhadu, utratit pár milionů dolarů za kybernetický útok, který ukradne závaží modelů umělé inteligence, jehož vytvoření může stát americkou společnost stovky miliard dolarů, se Číně vyplatí. „Je to opravdu těžké a je to opravdu důležité a neinvestujeme dostatečně na národní úrovni, abychom toho dosáhli,“ řekl Matheny.

Čínská ambasáda ve Washingtonu, DC, neodpověděla okamžitě na žádost WIRED o komentář k obviněním z krádeže, ale v minulosti taková tvrzení označila za nepodložené pomluvy ze strany západních úředníků.

Google uvedl, že upozornil orgány činné v trestním řízení na incident, který se stal americkým případem údajné krádeže tajemství AI čipů pro Čínu. Zatímco společnost popsala dodržování přísných bezpečnostních opatření, aby zabránila krádeži svých vlastních dat, soudní dokumenty ukazují, že Googlu trvalo značnou dobu, než dopadla obžalovaného Linwei Dinga, čínského občana, který se k federálním obviněním nepřiznal.

Inženýr, který je také Leonem, byl podle žalobců najat v roce 2019, aby pracoval na softwaru pro superpočítačová datová centra Google. Během zhruba roku, počínaje rokem 2022, údajně zkopíroval více než 500 souborů s důvěrnými informacemi na svůj osobní účet Google. Toto schéma částečně fungovalo, říkají soudní dokumenty, tak, že zaměstnanec vložil informace do aplikace Apple Notes na svém firemním notebooku, převedl soubory do PDF a nahrál je jinam, a přitom se vyhýbal technologii Google, která měla tento druh exfiltrace zachytit.

Zatímco se podílel na údajné krádeži, USA tvrdí, že zaměstnanec byl v kontaktu s generálním ředitelem startupu AI v Číně a přestěhoval se, aby založil vlastní čínskou společnost AI. V případě odsouzení mu hrozí až 10 let vězení.