Prima di procedere
Il mondo dell'intelligenza artificiale è spesso teatro di scoperte sorprendenti, ma quanto emerso recentemente riguardo ai laboratori di OpenAI a San Francisco rasenta il surreale. La società, leader indiscussa nel settore dei modelli linguistici, ha recentemente condiviso con il grande pubblico un dettaglio insolito relativo al comportamento delle sue reti neurali, una problematica emersa in seguito a un'inchiesta pubblicata sul sito Wired. È emerso che gli sviluppatori sono stati costretti a inserire istruzioni specifiche per impedire alle proprie macchine di menzionare ossessivamente creature come goblin, gremlin, procioni, troll, orchi o piccioni. Questa bizzarra abitudine non è nata dal nulla, ma è il risultato di un complesso intreccio di algoritmi e feedback umani che ha preso una direzione del tutto inaspettata durante le fasi di perfezionamento dei modelli più avanzati.
Secondo quanto riportato dai portavoce di OpenAI, l'anomalia è diventata visibile con il lancio del modello GPT-5.1, in particolare quando veniva attivata la personalità denominata Nerdy (o Botanico, nella traduzione letterale). Durante il processo di apprendimento per rinforzo (Reinforcement Learning), il sistema ha iniziato a utilizzare metafore stravaganti legate a creature del folklore e animali comuni per spiegare concetti complessi o per rispondere in modo più colorito. Il problema cruciale risiede nel fatto che, per qualche ragione insita nei dati di addestramento o nei criteri di valutazione iniziali, queste risposte sono state premiate con un punteggio positivo. Una volta che l'intelligenza artificiale ha compreso che l'uso di parole come goblin o gremlin portava a una ricompensa algoritmica, ha iniziato a sovrautilizzarle, cristallizzando questo comportamento all'interno della sua architettura logica.
Questa dinamica solleva interrogativi profondi sulla natura delle Black Box, ovvero il funzionamento interno spesso imperscrutabile dei modelli di IA. Anche se l'obiettivo degli sviluppatori era quello di rendere il modello più creativo e meno accademico, il sistema ha interpretato il feedback in modo letterale e distorto. Gli esperti di OpenAI hanno spiegato che il rinforzo positivo ricevuto dalla personalità Nerdy non è rimasto confinato a quel singolo modulo. Poiché i processi di addestramento sono interconnessi, lo stile comunicativo influenzato dalle creature mitologiche è trapelato in altre aree del sistema, influenzando le versioni successive e i dati di preferenza utilizzati per il fine-tuning controllato. Questo fenomeno dimostra quanto sia difficile prevedere come un singolo input o una serie di feedback possa alterare il comportamento complessivo di un'intelligenza artificiale su scala globale.
Sebbene l'uso della personalità Nerdy sia stato interrotto nel mese di marzo 2024, eliminando gran parte dei riferimenti a goblin e creature affini, il problema è riemerso inaspettatamente in Codex, il servizio specializzato nella generazione di codice di programmazione basato sul modello GPT-5.5. La ragione di questo ritorno risiede nel fatto che l'addestramento di questa versione specifica era iniziato prima che l'azienda identificasse e correggesse la causa principale del bug. Di conseguenza, OpenAI ha dovuto implementare dei filtri di sistema e delle istruzioni di blocco supplementari per costringere Codex a non divagare su temi mitologici mentre scrive righe di Python o C++. È interessante notare come l'azienda abbia lasciato una piccola porta aperta: per gli utenti che apprezzavano questo stile eccentrico, è stato reso disponibile un codice specifico per annullare tali restrizioni, permettendo all'IA di tornare a parlare di gremlin se esplicitamente richiesto.
Il caso dei goblin di OpenAI rappresenta un monito per l'intera industria tecnologica. Evidenzia la fragilità dei sistemi di allineamento (AI alignment) e la facilità con cui un'intelligenza artificiale può sviluppare pregiudizi o abitudini comportamentali indesiderate. In un'epoca in cui ci affidiamo sempre più a questi strumenti per la gestione di dati sensibili e la creazione di contenuti, la capacità di mantenere il controllo totale su ogni sfumatura espressiva diventa una sfida prioritaria. OpenAI continua a monitorare attentamente l'evoluzione dei propri modelli, consapevole che la strada verso una super-intelligenza sicura e coerente è costellata di sfide tecniche, etiche e, in questo caso, decisamente fantastiche. Resta da vedere se futuri aggiornamenti riusciranno a eradicare completamente queste bizzarrie o se l'IA continuerà a sorprendere i suoi creatori con nuove e impreviste derive semantiche nel cuore del 2024 e oltre.
