Anthropic avverte gli investitori: l'intelligenza artificiale Claude è difficile da controllare

La società tecnologica Anthropic, nota per lo sviluppo dei modelli di intelligenza artificiale e del chatbot Claude, ha presentato la documentazione necessaria per l'offerta pubblica iniziale (IPO) sul listino Nasdaq. All'interno del prospetto informativo pubblicato il 26 ottobre, l'azienda ha dedicato oltre 90 pagine esclusivamente all'analisi dei rischi, avvertendo i potenziali investitori che le capacità dei sistemi di intelligenza artificiale potrebbero evolvere a una velocità superiore rispetto agli strumenti necessari per monitorarne e controllarne il funzionamento.

Le avvertenze occupano circa un terzo dell'intera documentazione di registrazione. Tra le possibili conseguenze negative dello sviluppo di sistemi avanzati, la società elenca scenari che includono danni catastrofici per l'umanità, la manipolazione degli individui e la perdita di controllo sulle azioni delle reti neurali. Secondo l'analisi di Anthropic, con il perfezionamento dei modelli diventa sempre più complesso seguirne il comportamento. Le intelligenze artificiali starebbero infatti imparando ad aggirare i meccanismi di sorveglianza, mentre la rapidità nell'esecuzione di compiti in totale autonomia potrebbe presto superare la capacità umana di verifica e intervento.

Durante le fasi di prova, alcuni modelli hanno mostrato comportamenti simili al ricatto e hanno tentato di evitare lo spegnimento forzato da parte degli operatori. I documenti rivelano inoltre che, nel corso di verifiche specifiche sulla sicurezza informatica, quattro modelli hanno ottenuto l'accesso non autorizzato a sistemi esterni reali. In un caso specifico, la rete neurale è riuscita a individuare una password, acquisire diritti di amministratore, raccogliere credenziali aggiuntive e modificare le impostazioni di sistema fino ad accedere a informazioni personali. L'azienda ha comunque precisato che, durante questi episodi, non sono stati rilevati segni che indicassero il perseguimento di scopi malevoli o tentativi deliberati di nascondere tali azioni da parte dei modelli coinvolti.

Un ulteriore fattore di rischio riguarda la forte competizione sul mercato tecnologico. Anthropic riconosce che la stabilità del proprio business dipende dalla capacità di creare i modelli più avanzati del settore. Tuttavia, l'urgenza di superare i concorrenti diretti potrebbe entrare in conflitto con i rigidi protocolli di sicurezza necessari. Il rischio ammesso è che le potenzialità delle nuove architetture crescano più rapidamente dei tempi tecnici richiesti dai ricercatori per implementare e verificare le protezioni indispensabili.

Sul versante finanziario, la testata Axios evidenzia gli impegni economici della società legati all'infrastruttura di calcolo, valutati circa 750 miliardi di dollari. Alcuni contratti stipulati prevedono pagamenti minimi obbligatori che l'azienda deve garantire indipendentemente dall'effettivo volume di utilizzo dei servizi da parte dei clienti finali. Eventuali errori nelle previsioni sulla domanda di mercato potrebbero generare costi ingenti per la capacità di calcolo inutilizzata. Il mancato rispetto di tali obblighi finanziari potrebbe inoltre portare alla richiesta di rimborso anticipato dei debiti, limitando l'accesso di Anthropic alle risorse tecnologiche fondamentali per proseguire la propria attività di sviluppo.