Prima di procedere
Il futuro dei social media potrebbe essere segnato da una massiccia invasione di bot con intelligenza artificiale (AI), capaci di imitare il comportamento umano e sfruttare la tendenza delle persone a seguire la massa. Questi bot, avvertono gli esperti, potrebbero essere utilizzati per diffondere disinformazione, perseguitare utenti e influenzare significativamente i processi politici, trasformandosi in una potente arma nelle guerre dell'informazione.
Secondo il professor Jonas Kunst, esperto norvegese, questi bot AI saranno in grado di simulare interazioni umane in modo talmente convincente da evitare il rilevamento, creando l'illusione di un movimento online autentico. L'istinto umano di seguire la "saggezza" della maggioranza potrebbe essere manipolato, con i proprietari dei bot AI che agirebbero nell'ombra per conto di individui, gruppi, partiti politici, aziende o governi.
Coloro che si rifiuteranno di allinearsi al pensiero dominante promosso da questi bot potrebbero subire attacchi e intimidazioni, nel tentativo di sopprimere argomentazioni contrarie. Gli studiosi non indicano una tempistica precisa per l'arrivo di questa ondata di AI, ma sottolineano che la loro individuazione sarà estremamente complessa e che potrebbero essere già in azione.
La minaccia di attacchi massicci da parte di bot con AI è aggravata dalla vulnerabilità degli ecosistemi digitali, già indeboliti dall'erosione del dibattito razionale e critico e dalla mancanza di una comprensione condivisa della realtà tra i cittadini. Sebbene bot più semplici rappresentino già oltre la metà del traffico web, le loro capacità sono limitate a compiti elementari, come la pubblicazione ripetuta di messaggi provocatori, rendendoli facilmente identificabili e gestibili.
I bot AI basati su modelli linguistici di grandi dimensioni rappresentano una sfida ben più complessa. Saranno in grado di adattarsi ai contesti delle comunità online, assumendo diverse personalità e conservando memoria e identità. Il professor Kunst li descrive come "organismi autosufficienti, capaci di coordinare le proprie azioni, apprendere, adattarsi nel tempo e, di conseguenza, specializzarsi nello sfruttamento delle vulnerabilità umane".
Un episodio inquietante si è verificato l'anno scorso, quando l'amministrazione della piattaforma Reddit ha minacciato azioni legali contro alcuni ricercatori che avevano utilizzato chatbot AI per manipolare l'opinione di quattro milioni di utenti in una specifica sezione del sito. I risultati preliminari dello studio hanno rivelato che le risposte dei chatbot erano da tre a sei volte più persuasive rispetto ai commenti degli utenti reali.
Un singolo attacco potrebbe coinvolgere centinaia, migliaia o addirittura milioni di agenti AI, a seconda della potenza di calcolo a disposizione degli aggressori e della capacità delle piattaforme social di contrastare questa minaccia. Tuttavia, anche un numero limitato di agenti potrebbe essere sufficiente per influenzare le dinamiche di piccole comunità online, dove un afflusso improvviso di nuovi utenti desterebbe sospetti.
Considerando che gli agenti AI possono operare 24 ore su 24 senza sosta, gli utenti dei social media non saranno in grado di difendersi autonomamente. Le piattaforme dovranno quindi implementare sistemi avanzati di autenticazione degli account per distinguere gli utenti umani dai bot. Questo potrebbe richiedere agli utenti di dimostrare la propria identità, anche se tale approccio potrebbe compromettere l'anonimato, che in alcuni paesi rappresenta una protezione per i dissidenti politici.
Altre misure suggerite includono il monitoraggio del traffico in tempo reale per individuare anomalie statistiche e la creazione di una rete di esperti e istituzioni dedicate allo studio, alla risposta e alla sensibilizzazione del pubblico su queste minacce. Ignorare questi accorgimenti potrebbe portare a gravi conseguenze, come l'interruzione di elezioni e altri eventi di rilevanza pubblica. La battaglia per l'integrità dell'informazione nell'era dell'AI è appena iniziata, e la vigilanza e la collaborazione saranno fondamentali per contrastare le minacce emergenti.
