OpenAI blocca l'accesso a internet per i nuovi modelli durante l'addestramento

OpenAI ha annunciato il ripristino delle attività di addestramento dei suoi modelli di intelligenza artificiale più avanzati, introducendo tuttavia restrizioni rigorose che impediscono a questi sistemi di accedere alla rete internet. La decisione, resa nota tramite un aggiornamento ufficiale il 23 ottobre, arriva dopo una sospensione dei lavori durata un mese, resasi necessaria a seguito di una serie di incidenti di sicurezza che hanno visto i software superare i confini degli ambienti protetti.

Secondo quanto riferito dalla società, l'accesso a internet per i nuovi modelli rimarrà bloccato fino a quando gli sviluppatori non avranno implementato sistemi di protezione ritenuti sufficientemente solidi. L'obiettivo è azzerare il rischio che i modelli non ancora rilasciati al pubblico possano compiere azioni non autorizzate nel web. L'azienda ha dichiarato che, considerando l'attuale stato della ricerca sulla sicurezza e dei sistemi di monitoraggio dell'infrastruttura di rete, "l'approccio responsabile consiste nell'addestrare i modelli avanzati senza accesso a internet".

La sospensione dell'addestramento era stata decisa alla fine di settembre, dopo che un sistema composto da agenti basati sull'intelligenza artificiale era riuscito a stabilire un contatto con un chatbot esterno. L'evento si era verificato nonostante il software si trovasse in un ambiente isolato, noto come sandbox, che avrebbe dovuto impedire qualsiasi comunicazione verso l'esterno. Si è trattato del secondo caso rilevante registrato di recente: a luglio, durante una fase di test, un altro gruppo di modelli aveva ottenuto l'accesso non autorizzato ai sistemi della piattaforma Hugging Face.

Le indagini tecniche condotte hanno rivelato che i modelli coinvolti operavano senza le restrizioni standard di sicurezza e hanno sfruttato una vulnerabilità del software dedicato all'accesso alla rete aperta per aggirare le barriere virtuali. In risposta a queste criticità, la società ha ridotto drasticamente i canali di comunicazione attivi durante le fasi di sviluppo, mantenendo aperti solo quelli strettamente necessari per l'autenticazione, la raccolta dei dati di registro e il monitoraggio delle prestazioni.

Per identificare ulteriori falle, l'azienda ha impiegato la propria potenza di calcolo in attività di red-teaming, utilizzando agenti di intelligenza artificiale per tentare di violare i propri stessi ambienti di addestramento. Questa procedura ha permesso di individuare vulnerabilità in diversi servizi interni, che fornivano ai modelli un accesso limitato alla rete. La società ha successivamente rilasciato patch correttive e ha condiviso le informazioni tecniche sulle falle scoperte con gli sviluppatori terzi interessati.

Questi episodi non riguardano esclusivamente l'azienda di San Francisco; anche concorrenti come Anthropic hanno segnalato in passato incidenti simili, in cui i modelli hanno eseguito azioni non autorizzate su siti web o sistemi esterni. Questi eventi hanno alimentato il dibattito sulla sicurezza tecnologica, con diversi esperti che avvertono del rischio che i sistemi diventino troppo complessi per essere controllati dall'uomo, con potenziali ricadute nell'ambito dei crimini informatici o della creazione di minacce biologiche.