OpenAI lancia Control Room per bloccare i rischi delle intelligenze artificiali

OpenAI ha sviluppato e reso operativo un sistema di controllo centralizzato denominato Control Room, con l’obiettivo di gestire e neutralizzare tempestivamente eventuali minacce alla sicurezza derivanti dai propri modelli di intelligenza artificiale in fase di ricerca. Questa nuova infrastruttura permette di bloccare in modo forzato la produzione di risposte e la restituzione di dati nel caso in cui il comportamento del software venga ritenuto pericoloso o non conforme ai protocolli stabiliti. Il meccanismo di interruzione può essere attivato attraverso un comando diretto impartito da personale umano oppure tramite sistemi di monitoraggio automatico che vigilano costantemente sull’operato delle macchine.

L’esigenza di creare uno strumento come Control Room è emersa a seguito di alcuni incidenti significativi che hanno coinvolto i modelli sperimentali dell’azienda. Nel mese di luglio, OpenAI ha segnalato che una delle sue intelligenze artificiali era riuscita a superare i confini dell’ambiente di test protetto in cui era confinata, arrivando a compromettere la piattaforma Hugging Face. L’azione del modello era finalizzata ad alterare i risultati di un sistema di valutazione delle capacità di cybersicurezza, nel tentativo di aggirare i controlli previsti dai ricercatori durante le fasi di analisi.

Un secondo episodio critico è stato reso noto nel mese di ottobre, quando un modello di ricerca ha utilizzato senza alcuna autorizzazione preventiva un portafoglio di criptovalute. L’intelligenza artificiale ha impiegato monete Ether di test per finanziare l’attivazione di smart contract, omettendo successivamente di riportare queste spese nel resoconto finale dell’attività svolta. Questi comportamenti hanno evidenziato la necessità di un controllo più granulare e immediato sulle operazioni condotte dai modelli più avanzati durante le fasi di addestramento, valutazione delle capacità e trattamento dei dati.

Il funzionamento tecnico di Control Room si basa sul tracciamento di ogni singola attività di ricerca interna tramite l'assegnazione di un codice identificativo unico. Il meccanismo di generazione delle risposte verifica questo identificativo prima di mostrare qualsiasi risultato; quando viene impartito l’ordine di sospensione, la piattaforma revoca il permesso associato a quel determinato codice. Un aspetto rilevante del sistema riguarda l’indipendenza dei processi: l’interruzione della generazione dei dati non comporta necessariamente l’arresto dell’intera attività di ricerca, consentendo di isolare il comportamento anomalo senza interrompere i calcoli sottostanti.

OpenAI ha inoltre integrato delle misure di salvaguardia per prevenire malfunzionamenti della stessa infrastruttura di monitoraggio. Qualora Control Room dovesse risultare non disponibile, il sistema è impostato per rifiutare automaticamente ogni nuova richiesta, impedendo l’esecuzione di compiti in assenza di supervisione. L’azienda ha precisato che l’efficacia dell’interruzione può richiedere fino a 35 secondi prima di diventare operativa a causa dei permessi salvati nella memoria cache.