Moltbook, sociální síť pro agenty umělé inteligence, odhalila skutečná data lidí

Analýza od WIRED tento týden zjistil, že aplikace ICE a CBP pro rozpoznávání obličeje Mobile Fortify, která se používá k identifikaci lidí po celých Spojených státech, není ve skutečnosti navržena tak, aby ověřovala, kdo jsou lidé, a byla schválena pro použití ministerstvem pro vnitřní bezpečnost pouze uvolněním některých vlastních pravidel ochrany soukromí agentury.

WIRED se podrobně podíval na vysoce militarizované jednotky ICE a CBP, které používají extrémní taktiku, která se obvykle vyskytuje pouze v aktivním boji. Dva agenti podílející se na zastřelení amerických občanů v Minneapolis jsou údajně členy těchto polovojenských jednotek. A nová zpráva od Public Service Alliance tento týden zjistila, že zprostředkovatelé dat mohou podněcovat násilí proti státním zaměstnancům, kteří čelí stále většímu počtu hrozeb, ale mají jen málo způsobů, jak chránit své osobní údaje podle státních zákonů na ochranu soukromí.

Mezitím, kdy tento týden začínají olympijské hry v Miláně Cortina, jsou Italové a další diváci nervózní, protože na akci sestupuje příliv bezpečnostních pracovníků – včetně agentů ICE a členů katarských bezpečnostních sil.

A je toho víc. Každý týden shromažďujeme zprávy o bezpečnosti a soukromí, které jsme sami do hloubky nepokryli. Kliknutím na titulky si můžete přečíst celé příběhy. A zůstaňte tam v bezpečí.

Umělá inteligence byla nabízena jako super výkonný nástroj pro nalezení bezpečnostních chyb v kódu, které mohou hackeři zneužít nebo obránci opravit. Prozatím je potvrzena jedna věc: AI vytváří mnoho z těchto hacknutelných chyb samotných – včetně velmi špatného odhaleného tento týden na sociální síti kódované AI pro agenty AI známé jako Moltbook.

Výzkumníci z bezpečnostní firmy Wiz tento týden odhalili, že našli vážnou bezpečnostní chybu v Moltbooku, sociální síti, která má být platformou podobnou Redditu pro agenty umělé inteligence ke vzájemné interakci. Nesprávné zacházení se soukromým klíčem v kódu JavaScript webu odhalilo e-mailové adresy tisíců uživatelů spolu s miliony pověření API, což umožnilo komukoli přístup, „který by umožnil úplné zosobnění jakéhokoli uživatele na platformě“, jak napsal Wiz, spolu s přístupem k soukromé komunikaci mezi agenty AI.

Tato bezpečnostní chyba může být malým překvapením vzhledem k tomu, že Moltbook byl hrdě „kódován vibrací“ jeho zakladatelem Mattem Schlichtem, který prohlásil, že při vytváření webu „nenapsal ani jeden řádek kódu“ sám. „Měl jsem vizi technické architektury a umělá inteligence ji proměnila ve skutečnost,“ napsal na X.

Ačkoli Moltbook nyní opravil chybu webu, kterou objevil Wiz, jeho kritická zranitelnost by měla sloužit jako varovný příběh o bezpečnosti platforem vytvořených umělou inteligencí. Problémem často není žádná bezpečnostní chyba vlastní implementaci AI společnostmi. Místo toho jde o to, že tyto firmy mnohem pravděpodobněji nechají AI napsat svůj kód – a mnoho chyb generovaných AI.

Razie FBI v domě reportérky Washington Post Hannah Natansonové a prohlídka jejích počítačů a telefonu v rámci vyšetřování údajných úniků federálního dodavatele nabídla důležité bezpečnostní lekce, jak mohou federální agenti přistupovat k vašim zařízením, pokud máte povolenou biometrii. Odhaluje také alespoň jednu ochranu, která je může udržet mimo tato zařízení: režim uzamčení Apple pro iOS. Tato funkce, navržená alespoň zčásti, aby zabránila hackování iPhonů vládami, které uzavřely smlouvy se spywarovými společnostmi, jako je NSO Group, také zabránila FBI mimo Natansonův telefon, podle soudního podání, které poprvé ohlásilo 404 Media. „Protože byl iPhone v režimu uzamčení, CART nemohl extrahovat toto zařízení,“ stálo v podání s použitím akronymu pro tým FBI pro počítačovou analýzu. Tato ochrana pravděpodobně vyplynula z bezpečnostního opatření režimu Lockdown, které brání připojení k periferiím – stejně jako k forenzním analytickým zařízením, jako jsou nástroje Graykey nebo Cellebrite používané pro hackování telefonů – pokud telefon není odemčený.

Role Elona Muska a Starlinku ve válce na Ukrajině byla komplikovaná a ne vždy upřednostňovala Ukrajinu při obraně proti ruské invazi. Ale Starlink tento týden přinesl Ukrajině významné vítězství, když znemožnil ruské armádě používat Starlink, což způsobilo výpadek komunikace mezi mnoha jejími frontovými jednotkami. Ruští vojenští blogeři označili opatření za vážný problém pro ruské vojáky, zejména pro jejich používání dronů. Tento krok údajně přichází poté, co ukrajinský ministr obrany minulý měsíc napsal mateřské společnosti Starlink, SpaceX. Nyní se zdá, že na tuto žádost o pomoc odpověděl. „Nepřítel má nejen problém, nepřítel má katastrofu,“ napsal na Facebooku Serhiy Beskrestnov, jeden z poradců ministra obrany.

V koordinované digitální operaci v loňském roce americké kybernetické velení použilo digitální zbraně k narušení íránských systémů protiraketové obrany během amerického kinetického útoku na íránský jaderný program. Narušení „pomohlo zabránit Íránu odpálit rakety země-vzduch na americká válečná letadla,“ uvádí The Record. Američtí agenti údajně použili zpravodajské informace od Národní bezpečnostní agentury, aby našli výhodnou slabinu v íránských vojenských systémech, která jim umožnila dostat se k protiraketové obraně, aniž by museli přímo útočit a porážet íránskou vojenskou digitální obranu.

„Americké kybernetické velení s hrdostí podpořilo operaci Midnight Hammer a je plně vybaveno k provádění rozkazů vrchního velitele a ministra války kdykoli a kdekoli,“ uvedl mluvčí velení v prohlášení pro The Record.