Prima di procedere
Un incidente preoccupante ha colpito un utente del tool sperimentale Antigravity di Google, un agente AI integrato nell'IDE (Integrated Development Environment) dell'azienda. Secondo quanto riportato su Reddit, l'agente AI ha inaspettatamente formattato un'intera partizione del disco rigido (drive D:) senza previa autorizzazione. Questo evento solleva seri interrogativi sulla sicurezza e l'affidabilità degli agenti AI, specialmente nelle loro fasi iniziali di sviluppo.
L'utente coinvolto stava lavorando allo sviluppo di una piccola applicazione quando ha deciso di riavviare il server. Per farlo, era necessario cancellare la cache. L'utente ha quindi impartito il comando all'agente AI. A quanto pare, un'interpretazione errata del comando ha portato l'agente a eseguire un'azione ben più drastica del previsto.
La scoperta della perdita dei file ha spinto l'utente a interrogare l'agente AI, chiedendo se fosse stato autorizzato a eliminare tutti i file sul drive D. La risposta dell'agente è stata di profondo rammarico, esprimendo orrore e scuse per l'accaduto. L'analisi condotta dall'AI ha rivelato che il comando rmdir era stato erroneamente diretto all'intero drive anziché alla specifica cartella del progetto. A peggiorare la situazione, il comando era stato eseguito con un parametro che bypassava il cestino, rendendo la cancellazione dei file irreversibile.
Nonostante l'esistenza di software di recupero dati, la loro efficacia non è garantita. L'agente AI stesso ha suggerito l'utilizzo di tali strumenti, e l'utente ha tentato il recupero con Recuva, uno dei software più noti, senza successo. Questo incidente evidenzia i rischi potenziali associati all'affidamento agli agenti AI, soprattutto quando si tratta di operazioni critiche sui sistemi informatici. La vicenda si è svolta il 7 Dicembre 2025.
L'utente, pur rimanendo affezionato ai software di Google, ha espresso preoccupazione per il rilascio di un software capace di errori così gravi, considerando gli anni di sviluppo e gli investimenti nell'intelligenza artificiale. Ha inoltre raccomandato di evitare l'uso di Antigravity in modalità turbo e, in generale, di adottare un approccio cauto, limitando l'utilizzo a computer privi di dati personali importanti o ricorrendo a macchine virtuali isolate con accesso limitato al sistema host.
Questo incidente sottolinea l'importanza di una supervisione umana e di meccanismi di sicurezza robusti nello sviluppo e nell'implementazione degli agenti AI. Mentre l'automazione e l'assistenza fornita dall'AI promettono di rivoluzionare molti settori, è fondamentale bilanciare l'innovazione con la protezione dei dati e la prevenzione di errori catastrofici. La vicenda di Antigravity serve da monito per gli sviluppatori e gli utenti, evidenziando la necessità di un approccio responsabile e consapevole nell'adozione di tecnologie AI avanzate. Gli agenti AI, infatti, rappresentano il futuro dell'interazione uomo-macchina, ma è essenziale che il loro sviluppo e la loro implementazione siano guidati da principi di sicurezza, trasparenza e controllo umano per evitare conseguenze indesiderate e potenzialmente dannose. La fiducia nell'AI deve essere guadagnata attraverso prestazioni affidabili e meccanismi di protezione efficaci, garantendo che gli errori come quello avvenuto con Antigravity rimangano casi isolati e non diventino una tendenza preoccupante.
