LLMS, spojenci kybernetických zločinů

Cisco Talos, divize Cisco Cyber-Intelligence Division, varuje před znepokojujícím trendem: Kybernetičtí zločinci stále více využívají výhody velkých jazykových modelů (LLM) k automatizaci a zlepšování jejich kybernetických útoků. Podle vyšetřování škodliví aktéři nejen využívají veřejnosti, ale také používají vlastní modely a verze s útěkem z vězení “. Tyto nástroje jim umožňují organizovat přesvědčování phishingových kampaní a psát složitý škodlivý kód.

Díky jejich schopnosti generovat přesvědčivý text, řešit problémy a psát kód, LLM získávají popularitu ve všech odvětvích. Podle objetí Face, platformy, která sídlí LLMS, v současné době existuje více než 1,8 milionu dostupných modelů. Většina je vybavena zárukami a začleněnými omezeními („zábradlí a„ zarovnání “), aby se zabránilo trestnímu použití.

„Pro boj proti nesprávnému používání velkých jazykových modelů musí organizace odpovídajícím způsobem přizpůsobit svá bezpečnostní opatření“zdůrazňuje Ángel Ortiz, ředitel kybernetické bezpečnosti v Cisco Španělsku. „To znamená monitorování provozu souvisejícího s AI, detekci podezřelých varování a školení zaměstnanců, aby rozpoznali phishingové e -maily generované AI. Kromě toho důrazně doporučujeme pracovat výhradně s modely důvěry a dobře chráněné platformy“.

LLMS bez omezení

Cisco Talos však identifikoval významný počet LLM bez omezení, která umožňují kybernetickým zločinám vypracovat vysoce realistické phishingové zprávy a podvodné komunikace, často bez gramatických chyb nebo podezřelých frází. To zvyšuje pravděpodobnost, že oběti odhalují osobní nebo firemní informace.

Cisco Talos varuje před nárůstem používání LLM, legitimních i upravených, aby vytvořil a rozšířil malware a dokonalé phishingové kampaně

Příklady těchto modelů jsou Ollama a Whiterabbitneo, který je povýšen jako nástroj pro operace kybernetické bezpečnosti defenzivní i urážlivé. Analýza Cisco také zdůrazňuje metody eliminace integrovaných omezení (zarovnání). Uživatelé mohou upravit soubory dat školení a upravit základní modely tak, aby eliminovaly omezení, čímž usnadňují nesprávné použití.

Personalizované škodlivé LLM

Někteří kybernetičtí tvůrci šli dále rozvíjet vlastní LLM a propagovali je na temném webu. Tyto škodlivé LLM mohou vytvářet škodlivé software autonomně, jako je ransomware, trojské koně na dálku, shellcode a různé skripty.

Tyto škodlivé nástroje navíc pomáhají generovat phishingové e -maily, cílové stránky a konfigurační soubory. Můžete také ověřit ukradená data kreditní karty, skenovat webové stránky z hlediska zranitelnosti a vymyslet nové trestní strategie. Příklady tohoto typu škodlivých aplikací jsou GhostGPT, WormgPT, DarkGPT, DarkEstegpt a Fraudgpt. Talos zjistil, že zejména Fraudgpt je součástí širší kampaně podvodů.

Legitimní zneužívání LLMS

Vzhledem k omezené životaschopnosti LLM bez omezení a vysokému riziku podvodu se škodlivými modely se mnoho kybernetických de-de-de-dechových linek rozhodne využít legitimní modely. Tyto modely nabízejí výkonnou platformu za předpokladu, že útočníci se mohou vyhnout integrovaným bezpečnostním opatřením.

Hlavními překážkami jsou pokyny pro školení a bezpečnostní opatření, která brání reakcím na malé etické nebo nelegální konzultace. K jejich překonání je počítačové dekony používají techniky, jako je okamžitá injekce, která se snaží provést útěk z vězení modelům a vyhnout se jejich omezením.