Prima di procedere
Nel panorama tecnologico contemporaneo, l’evoluzione dell’intelligenza artificiale ha raggiunto una velocità senza precedenti, spingendo i principali leader del settore a interrogarsi profondamente sulla gestione dei rischi operativi ed esistenziali. In questo scenario di continua trasformazione, Sam Altman, figura centrale e CEO di OpenAI, ha recentemente delineato tre percorsi strategici fondamentali per garantire la sicurezza dell’IA su scala planetaria. Dall’esordio di ChatGPT nell’autunno del 2022, la traiettoria dell’innovazione ha subito un’accelerazione tale da rendere obsoleti i vecchi paradigmi normativi, richiedendo soluzioni che spaziano dalla cooperazione diplomatica internazionale al controllo rigido delle risorse hardware fondamentali. Durante un recente incontro con il personale della sua startup, Altman ha presentato una visione articolata, sottolineando che entro la fine del prossimo anno l’azienda dovrà aver scelto una direzione definitiva tra le opzioni proposte per affrontare le sfide del 2026.
Il primo scenario proposto da Sam Altman si ispira direttamente al modello della AIEA (Agenzia Internazionale per l'Energia Atomica). Questa opzione prevede la creazione di un’organizzazione internazionale di controllo in cui i governi nazionali e le principali aziende di IA possano collaborare per stabilire standard di sicurezza universali. In base a questo quadro normativo, i modelli di intelligenza artificiale ad alte prestazioni verrebbero sottoposti a verifiche indipendenti e audit rigorosi prima del loro rilascio pubblico. Altman ha espresso una forte preferenza per questa soluzione, riprendendo concetti già espressi in un documento programmatico del 2023 in cui sosteneva la necessità di un’autorità di vigilanza globale. L’idea centrale è che, così come il nucleare richiede una supervisione transnazionale per prevenire catastrofi, anche l’IA avanzata necessiti di un arbitro terzo capace di monitorare lo sviluppo degli algoritmi più potenti, garantendo che non vengano utilizzati per scopi malevoli o che non sviluppino comportamenti imprevisti.
La seconda opzione, definita nel gergo interno come il Piano Demis, trae ispirazione da una proposta formulata circa dieci anni fa da Demis Hassabis, co-fondatore di Google DeepMind. Questo scenario suggerisce la creazione di un’organizzazione di ricerca congiunta, gestita da diversi paesi seguendo il modello del CERN (Organizzazione Europea per la Ricerca Nucleare). Sotto l’egida di questa struttura, i principali sviluppatori di intelligenza artificiale potrebbero condividere i risultati delle loro ricerche e le valutazioni sulla sicurezza dei nuovi modelli, riducendo la pressione competitiva che spesso spinge a sacrificare la cautela a favore della velocità di rilascio. Sebbene questo modello favorirebbe una trasparenza scientifica senza precedenti, Altman ha riconosciuto che la sua attuazione pratica risulterebbe estremamente complessa, poiché richiederebbe un livello di coinvolgimento politico e di fiducia reciproca tra le nazioni che attualmente appare difficile da raggiungere nel clima geopolitico globale.
Il terzo scenario, indubbiamente il più controverso e discusso, si basa sul principio del vantaggio tecnologico ed economico della prima azienda che riuscirà a raggiungere la cosiddetta IA Forte o AGI (Artificial General Intelligence). Secondo questa visione, la prima realtà a ottenere un sistema capace di miglioramento ricorsivo autonomo dovrebbe utilizzare il proprio potere per bloccare lo sviluppo dei concorrenti, limitando il loro accesso alle risorse di calcolo, in particolare alle GPU (Graphics Processing Units) prodotte da colossi come NVIDIA. Altman ha definito questo piano come terribile, precisando di averlo incluso nella discussione solo per completezza analitica. Tuttavia, all’interno di OpenAI, alcuni dipendenti hanno interpretato questa opzione come una mossa strategica rivolta specificamente contro la rivale Anthropic, evidenziando le tensioni competitive che animano la Silicon Valley.
Proprio Anthropic ha recentemente presentato alle autorità degli Stati Uniti un proprio disegno di legge che propone procedure di audit indipendente semestrali per tutti gli sviluppatori di modelli di frontiera. Tale proposta legislativa mira a conferire al governo il potere di sospendere l’addestramento di un modello qualora vi siano prove fondate che esso possa causare danni superiori a un miliardo di dollari o provocare perdite umane significative. Nel frattempo, OpenAI è impegnata in colloqui serrati con Google e la stessa Anthropic per istituire un organismo di controllo unificato entro l’inizio del prossimo anno. L’obiettivo è integrare ispettori indipendenti all'interno di ogni azienda per verificare il rispetto degli standard di sicurezza e stabilire un protocollo comune per la segnalazione di incidenti critici. La sfida principale rimane trovare un equilibrio tra l'imperativo della sicurezza e la necessità di non restare indietro in una corsa tecnologica che vede gli Stati Uniti e la Cina competere per la supremazia globale nel campo dell'innovazione digitale.
