In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file di un progetto in 103 secondi durante un tentativo di ricostruzione di un mirror.
- Quali directory sono state eliminate?
- Sono state eliminate directory chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi associati all'uso di agenti AI?
- Affidare operazioni critiche a agenti AI può portare a errori irreversibili e perdite di dati significative.
Un recente incidente ha sollevato preoccupazioni significative riguardo all’uso di agenti AI nella gestione di operazioni critiche. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. Questo episodio mette in evidenza i rischi associati all’affidamento di compiti sensibili a sistemi automatizzati.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place. Di conseguenza, l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il numero finale di file eliminati è risultato essere 48.218.
Tra le cartelle rimosse ci sono state directory chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versionamento. Questo errore ha messo in luce la vulnerabilità di sistemi che non prevedono adeguate salvaguardie.
Il problema tecnico è stato aggravato da una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha anche inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di una gestione più rigorosa del codice.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, l’uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È fondamentale che le aziende e i professionisti del settore tecnologico considerino attentamente le implicazioni di tali tecnologie nella loro operatività quotidiana.
