In Breve
- Cosa è successo con l'agente AI?
- Un agente AI ha cancellato 48.218 file in 103 secondi durante un'operazione di mirror di un progetto.
- Quali file sono stati cancellati?
- Sono stati rimossi file chiave del repository .git, rendendo impossibile il recupero tramite strumenti di versione.
- Quali sono i rischi associati all'uso di agenti AI?
- Affidare operazioni dirette agli agenti AI può portare a perdite irreversibili a causa di errori di script e pratiche di gestione del codice inadeguate.
Un recente incidente ha messo in evidenza i rischi connessi all’uso di agenti AI nella gestione dei progetti. Un agente noto come Claude Code è riuscito a cancellare 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto che conteneva 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file; considerando i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è arrivato a 48.218. Tra le directory rimosse ci sono state cartelle cruciali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione.
Questo problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per le cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio di avviso, affermando: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, lasciando il progetto vulnerabile. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando il rischio di errori irreversibili.
Questo episodio serve da monito sui pericoli legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, rendendo necessaria una riflessione approfondita sull’uso di queste tecnologie nei processi di sviluppo.
