Prima di procedere
La pratica di copiare illegalmente prodotti di successo esiste da quando sono nati i primi strumenti e tecnologie, ma i chatbot basati sull'intelligenza artificiale rappresentano un caso speciale. I concorrenti non possono smontarli fisicamente, ma possono porre all'IA un'enorme quantità di domande nel tentativo di capire come funziona. Secondo un nuovo rapporto di Google, è proprio così che alcuni attori hanno tentato di clonare il chatbot Gemini. In un caso, al chatbot sono state inviate più di 100.000 query di questo tipo. Google definisce questo un tentativo su larga scala di estrazione del modello.
L'ultimo rapporto del Google Threat Intelligence Group descrive la crescita dei cosiddetti attacchi di distillazione: richieste ripetute a un modello di IA per studiarne le risposte, con il successivo utilizzo di questi dati per addestrare un sistema concorrente. Google afferma che questa attività viola i termini di servizio ed è un furto di proprietà intellettuale, anche se gli aggressori utilizzano l'accesso legittimo all'API e non violano direttamente i sistemi dell'azienda.
Uno degli attacchi di distillazione menzionati nel rapporto era specificamente mirato ad analizzare la logica di Gemini. Sebbene Gemini di solito non riveli l'intera sua "catena di ragionamento" interna, Google afferma che gli aggressori hanno cercato di forzarlo a rivelare i dettagli del suo pensiero logico. L'azienda afferma che i suoi sistemi hanno rilevato questa attività in tempo reale e hanno corretto le misure di protezione per impedire la divulgazione di dettagli sui processi interni del chatbot.
Sebbene Google si sia rifiutata di nominare i sospettati, afferma che la maggior parte dei tentativi di estrazione di dati provenivano da società private e ricercatori che cercavano di ottenere un vantaggio competitivo. John Hultquist, analista capo del Google Threat Intelligence Group, ha dichiarato a NBC News che, con l'aumento del numero di aziende che creano i propri sistemi di intelligenza artificiale basati su dati riservati, tali tentativi di clonazione potrebbero diventare più comuni nel settore. La competizione nel campo dell'intelligenza artificiale è sempre più agguerrita, con aziende come OpenAI, Microsoft e Meta che investono miliardi di dollari nello sviluppo di modelli sempre più sofisticati. In questo contesto, la protezione della proprietà intellettuale diventa cruciale per mantenere un vantaggio competitivo.
Google descrive nel rapporto anche altri modi in cui Gemini è stato utilizzato in modo improprio. Ad esempio, gli aggressori hanno sperimentato campagne di phishing utilizzando l'IA e persino malware che accede all'API di Gemini per generare codice al volo. L'azienda aggiunge che in ogni caso gli account associati sono stati bloccati e le misure di protezione aggiornate per limitare ulteriori abusi. La società di Mountain View ha intensificato i controlli e le misure di sicurezza per proteggere Gemini da attacchi futuri, lavorando al contempo per migliorare la capacità del chatbot di rilevare e rispondere a tentativi di manipolazione.
La vicenda mette in luce le sfide crescenti nel proteggere i modelli di intelligenza artificiale da tentativi di furto e manipolazione. Con l'IA che diventa sempre più potente e pervasiva, è fondamentale sviluppare nuove strategie e tecnologie per garantire la sicurezza e l'integrità di questi sistemi.
