In Breve
- Cosa sono i Guardian Agents di Microsoft?
- Sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- Separare la fornitura di intelligenza dall'autorità che ne controlla l'accesso e le azioni.
- Quali nuove funzionalità offrono i Guardian Agents?
- Scoperta di nuovi tipi di agenti e controlli operativi avanzati come Dynamic Permissions e Dynamic Agent Risk.
Introduzione ai Guardian Agents
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi legati agli agenti AI autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi. Pertanto, non devono essere lasciati come unica autorità di sicurezza.
Un’evoluzione della sicurezza informatica
Questa iniziativa si inserisce in un contesto più ampio, che include progetti già avviati come il Project Perception e la cyber stack di Microsoft. Questi progetti coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire rimedi. In particolare, Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza si estende ulteriormente, condividendo segnali e contesto con Microsoft Agent 365 per fornire una visione coerente di agenti e rischi.
Principi di funzionamento dei Guardian Agents
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici. Questi controlli agiscono su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che si verifichino;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Nuove funzionalità e strumenti
Tra le nuove funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato per includere nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, sono previste:
- Dynamic Permissions: limitano l’accesso di un agente alle risorse necessarie per un compito specifico;
- Dynamic Agent Risk: valuta potenziali minacce;
- Dynamic Conditional Access: può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano.
In scenari estremi, un agente può essere fermato e isolato per prevenire danni.
Conclusioni
Microsoft descrive i Guardian Agents come strumenti fondamentali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in modo efficace.
