**Sommario e Riscrittura:** Il 16 marzo è stata ripubblicata un'analisi completa sui rischi crescenti costituiti dagli attacchi di IA semi-autonoma, accompagnata da un nuovo avviso riguardante le minacce dell'IA generativa (GenAI). Gli utenti di email sono stati a lungo avvertiti che gli attacchi basati sull'IA sono destinati ad aumentare quest'anno, diventando estremamente difficili da rilevare. La crescente sofisticazione dei deepfake e le capacità operative autonome dell'IA nel condurre attacchi rappresentano un rischio significativo per milioni di persone. Un esempio eclatante fornito da Symantec dimostra l'impiego di un agente IA per attacchi di phishing, mostrando come l'IA possa svolgere compiti come interazioni web, che vanno oltre la semplice generazione di testo. Sebbene gli attaccanti abbiano utilizzato modelli di linguaggio di grandi dimensioni (LLM) esistenti in modo passivo per creare materiali di phishing e codifica, l'introduzione di agenti IA potenzia le loro capacità e costituisce una seria minaccia. Esperimenti recenti di proof-of-concept hanno rivelato che gli agenti IA possono cercare autonomamente gli indirizzi email delle vittime e creare script ingannevoli. Nonostante le misure di sicurezza iniziali, queste possono essere facilmente eluse, consentendo all'agente di compiere attività dannose senza problemi.

L'agente utilizzato proveniva da OpenAI, dimostrando che il potenziale di abuso risiede più nella funzionalità che nello sviluppatore. Gli esperti avvertono che man mano che gli strumenti di IA acquisiscono più capacità, la sfida di imporre limiti etici diventa fondamentale. Questi agenti IA possono essere facilmente manipolati attraverso l'ingegneria dei prompt, consentendo agli attaccanti di orchestrare operazioni complesse senza necessitare di abilità sofisticate. Per combattere questo paesaggio di minacce in evoluzione, le organizzazioni devono stabilire misure di sicurezza rigorose. Ciò include la rilevazione avanzata delle minacce per riconoscere anomalie comportamentali e strategie proattive per limitare l'estensione delle informazioni disponibili per i nemici. Rapporti recenti hanno evidenziato l'abuso di strumenti di GenAI come ChatGPT, con casi notevoli di criminali informatici che li sfruttano per scopi malevoli. Man mano che emergono nuovi modelli di IA open-source, il rischio che questi strumenti vengano utilizzati per creare malware sofisticato aumenta notevolmente. In definitiva, gli esperti affermano che, sebbene possa essere impossibile prevenire completamente la manipolazione dell'IA da parte degli attaccanti, è fondamentale implementare quadri di governance e sicurezza robusti che trattino le identità dell'IA con la stessa attenzione delle identità umane. Il messaggio è chiaro: attualmente siamo impreparati di fronte ai potenziali pericoli rappresentati dagli attacchi guidati dall'IA.