Prima di procedere
Mentre la maggior parte delle aziende tecnologiche si affretta ad ampliare l'uso delle tecnologie di Intelligenza Artificiale (IA) e ad accelerare l'implementazione degli IA agenti, Meredith Whittaker, presidente di Signal, ritiene necessario mettere in guardia sui rischi connessi a questo sviluppo. In un'intervista a Fortune, Whittaker ha dichiarato che la crescita degli IA agenti rappresenta una «minaccia esistenziale» non solo per le applicazioni di messaggistica protette come Signal, ma anche per chiunque sviluppi applicazioni per telefoni o computer.
Secondo Whittaker, la fretta dei giganti tecnologici nell'implementare l'IA, specialmente l'IA agente, aumenta i rischi per la sicurezza in internet, rischi che superano di gran lunga i potenziali vantaggi della sua applicazione. Per svolgere compiti per conto dell'utente, gli IA agenti richiedono l'accesso alle sue informazioni riservate, inclusi i dati bancari e le password. Tuttavia, questo crea una vasta nuova «superficie di attacco» che i criminali informatici o i servizi segreti potrebbero sfruttare per rubare informazioni personali o aziendali riservate.
Gli IA agenti sono particolarmente vulnerabili agli attacchi di Prompt injection, ovvero quando siti web dannosi contengono istruzioni nascoste che inducono l'IA a compiere azioni dannose. Poiché i browser web basati sull'IA sono in grado di leggere i contenuti web e interagire con essi, gli aggressori potrebbero potenzialmente, sfruttando le vulnerabilità dell'IA, rubare email, accedere ad account, sottrarre dati, sovrascrivere appunti e reindirizzare gli utenti a siti di phishing.
«Il lavoro di un agente è quello di svolgere compiti complessi per tuo conto, utilizzando molte fonti di dati per farlo», ha spiegato Meredith Whittaker in un'intervista a Fortune a margine della conferenza tecnologica Slush a Helsinki, Finlandia, la scorsa settimana. «Avrà bisogno di accedere ai tuoi contatti e ai messaggi in Signal… tale accesso è un vettore di attacco che di fatto vanifica il senso della nostra esistenza».
Signal è popolare tra giornalisti e politici grazie alla sua enfasi sulla privacy e la sicurezza, con supporto per la crittografia end-to-end e la minimizzazione della raccolta di dati. Se gli IA agenti ottenessero accesso non filtrato a questi messaggi attraverso il sistema operativo su cui gira Signal, gli aggressori potrebbero sfruttare questa nuova vulnerabilità.
«L'integrazione degli agenti a livello di sistema operativo avviene in modo estremamente sconsiderato e non tiene conto dei fondamenti della sicurezza informatica e della privacy», afferma Whittaker. «È una decisione architettonica molto, molto pericolosa che mette a rischio non solo Signal, ma anche la possibilità di sviluppare in modo sicuro a livello di applicazioni, nonché la possibilità di creare un'infrastruttura sicura e целостную». Secondo le ultime stime, il costo medio di una violazione dei dati ha raggiunto i 4,45 milioni di dollari nel 2023, un aumento del 15% rispetto al 2020, evidenziando la crescente minaccia rappresentata dalle vulnerabilità informatiche.
Whittaker ha anche valutato negativamente la spinta degli sviluppatori di WhatsApp di Meta✴ e Facebook✴ Messenger a utilizzare funzioni di IA nelle app di messaggistica. «Nessuno vuole vedere l'IA nelle proprie app di messaggistica. È davvero fastidioso», ha detto. «Se si guarda al loro beneficio a livello di consumatore, non mi è del tutto chiaro se questo compromesso sia giustificato… Per cosa stiamo effettivamente ottimizzando queste noiose comodità?». La posizione di Whittaker riflette una crescente preoccupazione nel settore tecnologico riguardo al bilanciamento tra innovazione guidata dall'IA e la protezione della privacy e della sicurezza degli utenti. Mentre le aziende continuano a integrare l'IA in una vasta gamma di prodotti e servizi, è fondamentale valutare attentamente i potenziali rischi e implementare misure di sicurezza robuste per proteggere le informazioni sensibili degli utenti.
La discussione sollevata da Whittaker sottolinea l'importanza di un approccio cauto e ponderato all'implementazione dell'IA agente, con una forte enfasi sulla sicurezza by design e sulla trasparenza nell'utilizzo dei dati degli utenti. Solo attraverso un impegno condiviso per la sicurezza e la privacy sarà possibile sfruttare appieno il potenziale dell'IA senza compromettere i diritti e la sicurezza degli individui.
