Prima di procedere
Come OpenAI, la startup concorrente Anthropic rimane una società privata, nonostante attragga somme di denaro molto consistenti per il suo sviluppo. Oltre 200 investitori di venture capital hanno investito in Anthropic complessivamente più di 60 miliardi di dollari, e ora la loro fiducia sarà messa alla prova da uno scandalo in cui la società è stata coinvolta a causa di controversie con il Pentagono.
Ricordiamo che alla fine della scorsa settimana il dipartimento militare americano ha rifiutato di utilizzare gli sviluppi di IA di Anthropic nella parte segreta della sua infrastruttura, poiché la startup insisteva nel bloccare l'uso dei suoi sistemi per la sorveglianza di massa dei cittadini statunitensi e per la gestione di quei tipi di armi che sono in grado di prendere decisioni sulla selezione e la distruzione dei bersagli senza il coinvolgimento umano. Alcuni altri fattori hanno aggiunto problemi ai negoziati, ma non sono stati primari.
L'amministratore delegato di Anthropic, Dario Amodei, insiste sul fatto che l'IA non ha ancora raggiunto uno sviluppo adeguato per l'applicazione nei suddetti tipi di armi e che, nel caso della raccolta massiva di informazioni sui cittadini statunitensi, non esiste una base legislativa. Il contratto con il Pentagono è stato interrotto, le decisioni di Anthropic sono state bandite dall'uso da tutte le strutture governative americane e nei prossimi sei mesi dovranno trovare un'alternativa. La pubblicazione di Amodei sulle pagine del blog aziendale, in cui si discutevano le cause profonde della disputa con il Ministero della Guerra degli Stati Uniti, come osserva Axios, ha causato ulteriore irritazione alla Casa Bianca. I funzionari temono che con le sue dichiarazioni pubbliche la leadership di Anthropic "infetterà" gli specialisti di altre società di IA con cui il Pentagono vorrebbe stabilire una cooperazione.
Se il divieto di cooperazione con Anthropic si estenderà ad altri appaltatori del Pentagono, la società potrebbe risentirne seriamente. Almeno, la stessa Nvidia potrebbe perdere la possibilità di fornire ad Anthropic i propri acceleratori di calcolo, e senza di essi lo sviluppo del business della startup diventerebbe problematico. Come è noto, Anthropic vuole contestare in tribunale la sua classificazione come fornitore discutibile.
Secondo Axios, gli investitori di venture capital hanno storicamente cercato di evitare di investire in società legate a ordini governativi, poiché questa area sembrava piuttosto rischiosa e imprevedibile. L'eccezione era solo il settore delle biotecnologie, ma negli ultimi anni i capitalisti di venture capital hanno iniziato a guardare anche ad altre aree in cui le startup hanno condotto una cooperazione attiva con le autorità. La situazione con Anthropic fa riflettere ancora una volta gli investitori sulla necessità di fidarsi ciecamente delle società che cercano di stabilire una cooperazione con il governo. Anche la reputazione di Anthropic, che guadagna principalmente da ordini aziendali, non sarà influenzata positivamente da questo scandalo.
La decisione di Anthropic di opporsi alle richieste del Pentagono apre un dibattito cruciale sull'etica nell'intelligenza artificiale, in particolare nel contesto militare. La preoccupazione di Amodei riguardo all'uso dell'IA per la sorveglianza di massa e per armi autonome evidenzia i rischi potenziali di una tecnologia non regolamentata. Questo rifiuto potrebbe influenzare la percezione degli investitori nei confronti delle aziende che collaborano con il governo, spingendoli a considerare più attentamente le implicazioni etiche e sociali di tali partnership.
Il caso di Anthropic solleva anche interrogativi sul futuro della collaborazione tra settore privato e governo nello sviluppo dell'IA. Se da un lato la cooperazione può portare a progressi significativi, dall'altro è essenziale garantire che tali progressi siano guidati da principi etici e che siano protetti i diritti civili. La posizione di Anthropic potrebbe incoraggiare altre aziende del settore a considerare attentamente le proprie responsabilità e a difendere i propri valori, anche a costo di perdere importanti contratti governativi. Resta da vedere come questa vicenda influenzerà la politica del Pentagono e la sua strategia di collaborazione con le aziende di IA in futuro.
