Un gruppo di hacker noto come CyberCartel avrebbe usato agenti AI costruiti su modelli di Anthropic e SpaceX per automatizzare attacchi contro istituzioni finanziarie dell'America Latina, tra banche e app di pagamento mobile. Secondo la ricerca della startup di cybersecurity Straiker, riportata da The Information, il gruppo ha rubato password e dati dei clienti e ha avuto accesso ai conti bancari di singoli utenti con un intervento umano minimo.
CyberCartel è attivo almeno dal 2012, ma nei mesi recenti l'uso dell'AI avrebbe cambiato la portata delle sue operazioni: il gruppo può colpire molte più aziende, e più in fretta, di quanto consentissero gli attacchi condotti a mano. Straiker ha condiviso i risultati con SpaceX e Anthropic, che stanno lavorando per escludere il gruppo dai propri servizi. Anthropic ha già bloccato l'accesso a Claude. Anche un agente del laboratorio cinese Moonshot AI sarebbe stato usato, ma la società non è ancora stata raggiunta.
Il metodo è semplice. I modelli hanno in genere protezioni contro gli attacchi informatici, ma i gruppi criminali le aggirano dichiarando di operare in ambienti di test. Se un modello si rifiuta, il gruppo passa a un altro. Se anche quello rifiuta, gli agenti vengono indirizzati a distribuire malware. Un passaggio rilevante è la scala: secondo Straiker le operazioni hanno coinvolto più di 400 entità del settore finanziario, un numero che, come ricordato in altre analisi, va letto con attenzione su che cosa venga conteggiato.
Il caso arriva dopo episodi simili, come l'hacker che ha violato oltre 100 siti con agenti AI spendendo meno di 5mila dollari, e il report di Unit 42 di Palo Alto Networks sugli attacchi che hanno ridotto un'intrusione aziendale a meno di dieci ore. Anche la facilità con cui i guardrail di Claude e Gemini si aggirano con un cambio di contesto è un precedente diretto di questo metodo.
Restano da capire le responsabilità operative: secondo le fonti dietro CyberCartel c'è anche un gruppo legato al Messico, citato con il nome CARLIY0S, e una presunta società di facciata. Il punto centrale per chi sviluppa sistemi AI è che le barriere basate sulla dichiarazione dell'utente non bastano, e il tema torna nel dibattito sulle misure di isolamento degli agenti, come quelle proposte da NVIDIA con OpenShell.
Ancora nessun commento. Puoi essere il primo!