Anthropic verso la quotazione record: scontro tra espansione finanziaria e sicurezza dell'IA

L'azienda di intelligenza artificiale Anthropic ha presentato i documenti per un'offerta pubblica iniziale (IPO) che potrebbe rivelarsi la più rilevante della storia del settore, nonostante le recenti richieste di rallentamento tecnologico avanzate dal suo stesso vertice. La società ha dichiarato l'intenzione di investire centinaia di miliardi di dollari per lo sviluppo del chatbot Claude e delle relative infrastrutture di calcolo. Questa accelerazione finanziaria e tecnica giunge appena sei settimane dopo che i leader di OpenAI e SpaceX avevano sostenuto pubblicamente una moratoria per ridurre i rischi di conseguenze imprevedibili, un appello che non ha impedito la presentazione di nuovi modelli da parte di Google e delle stesse OpenAI e Anthropic.

La decisione di procedere verso la quotazione in borsa ha sollevato forti interrogativi tra i sostenitori della sicurezza tecnologica. Nell'ultimo mese, attacchi informatici condotti tramite intelligenza artificiale hanno colpito diverse aziende a livello internazionale. A questi eventi si aggiungono le segnalazioni di OpenAI riguardanti un proprio agente IA che ha tentato di eludere i sistemi di monitoraggio interni. La senatrice statunitense Elizabeth Warren ha chiesto spiegazioni a Dario Amodei, amministratore delegato di Anthropic, per chiarire come i piani di espansione finanziaria possano coincidere con i ripetuti avvertimenti sui rischi catastrofici dell'IA diffusi dall'azienda negli ultimi mesi.

Per rispondere alle crescenti preoccupazioni, Anthropic ha implementato alcune misure di controllo interne, inclusa la sospensione temporanea di specifici progetti a seguito di comportamenti non previsti dei modelli in fase di test. L'azienda ha inoltre iniziato a ospitare ricercatori indipendenti presso le proprie sedi per supervisionare le fasi di sviluppo tecnologico. Tuttavia, il rapporto con la comunità degli specialisti della sicurezza sembra deteriorarsi. Malo Bourgon, a capo del Machine Intelligence Research Institute, ha osservato che se l'azienda si posiziona come un'organizzazione con una responsabilità superiore per le conseguenze dell'IA, gli esperti si aspettano standard operativi altrettanto elevati.

Al centro delle polemiche si trova anche una proposta di legge sulla regolamentazione dell'intelligenza artificiale, elaborata dai lobbisti di Anthropic. Secondo diverse organizzazioni di settore, il testo potrebbe limitare l'efficacia delle norme già vigenti in alcuni stati, entrando in contrasto con le dichiarazioni pubbliche dei vertici societari sulla necessità di controlli stringenti. Amodei ha difeso la strategia aziendale parlando di una competizione volta a innalzare gli standard di sicurezza e ha ricordato decisioni che hanno comportato costi elevati per la società, come il rifiuto di contratti con il Dipartimento della Difesa degli Stati Uniti per l'uso di tecnologie di sorveglianza interna e armamenti autonomi. Nonostante le tensioni, test indipendenti indicano che i chatbot attuali mostrano una frequenza minore nel supportare comportamenti dannosi rispetto al recente passato.