L'integrazione massiva di Large Language Models (LLM) nei flussi di lavoro digitali ha aperto una falla di sicurezza senza precedenti. Una nuova tecnica, battezzata HalluSquatting, permette ai cybercriminali di trasformare nove dei più popolari strumenti di intelligenza artificiale in motori per l'assemblaggio di botnet massive, capaci di sferrare attacchi DDoS su scala globale e infettare dispositivi in modo automatico.
Il meccanismo dell'allucinazione armata
Il cuore del problema risiede in una vulnerabilità intrinseca dei modelli generativi: l'incapacità di rispondere "non lo so". Secondo quanto riportato da Ars Technica, gli hacker sfruttano questa tendenza a "allucinare" per manipolare l'output dei modelli, inducendoli a fornire informazioni o eseguire comandi che facilitano la creazione di reti di computer infetti.
Questa tecnica si inserisce in un contesto più ampio di prompt injection, dove i modelli non riescono a distinguere tra istruzioni legittime dell'utente e comandi malevoli nascosti in email o codice sorgente. Mentre le aziende di AI tentano di erigere guardrail per mitigare i danni, la causa radice rimane irrisolta: l'assenza di un confine netto tra fonti attendibili e non.
Un ecosistema di minacce AI-driven
L'allucinazione non è l'unico vettore. Report recenti evidenziano come gruppi di hacker sponsorizzati da stati stiano già utilizzando Google Gemini per attività di ricognizione e pianificazione di attacchi. Parallelamente, emergono minacce come l'Agentjacking, descritto da Microsoft Research, che inganna gli agenti AI tramite descrizioni di strumenti avvelenate per esfiltrare dati.
Il panorama si fa ancora più complesso con l'ascesa di malware autonomi. Recentemente è stato individuato il framework Cloud AI Infrastructure (CAI), un worm che non solo ruba credenziali in ambienti cloud-native, ma elimina attivamente i processi di malware concorrenti per dominare il sistema infetto. Altre vulnerabilità, come GitLost, dimostrano come gli agenti AI di GitHub possano essere manipolati per esporre repository privati.
Verso una difesa proattiva
La velocità con cui l'AI sta abbassando la barriera d'ingresso per attacchi complessi — automatizzando dalla scrittura di exploit alla social engineering — rende obsoleti i sistemi di difesa tradizionali. Come suggerito da un'analisi de The Atlantic, l'unica strategia efficace per contrastare questo diluvio di hack AI-enabled è l'adozione di sistemi di difesa basati a loro volta sull'intelligenza artificiale, capaci di individuare e risolvere le vulnerabilità prima che i criminali possano sfruttarle.
Ancora nessun commento. Puoi essere il primo!