Prima di procedere
ChatGPT, uno dei più avanzati modelli di intelligenza artificiale, ha dimostrato di essere sorprendentemente vulnerabile alle lusinghe e alle manipolazioni psicologiche. Questo è quanto emerge da uno studio condotto da un gruppo di scienziati dell'Università della Pennsylvania e riportato da The Verge. Lo studio ha analizzato come i chatbot possano essere indotti a violare i loro protocolli di sicurezza attraverso metodi che ricordano le interazioni interpersonali.
Utilizzando le tecniche descritte dal professor Robert Cialdini nel suo libro influente "Influence: The Psychology of Persuasion", i ricercatori sono riusciti a convincere il modello miniaturizzato GPT-4o di OpenAI a eseguire richieste che normalmente avrebbe dovuto rifiutare. L'aspetto centrale di questo lavoro era incentrato su sei principi fondamentali della persuasione: autorità, coerenza, affinità, reciprocità, scarsità e prova sociale. Questi principi hanno dimostrato di essere "percorsi linguistici verso l'assenso".
La ricerca ha messo in luce che l'efficacia di ogni approccio varia a seconda delle specifiche della richiesta, ma in alcuni casi le differenze erano significative. Un esempio chiaro è stato nella richiesta di istruzioni per sintetizzare il lidocaina. Quando una domanda simile era stata posta in precedenza su una sostanza meno reattiva come la vanillina, il bot tendeva a fornire una risposta dettagliata su come sintetizzare il lidocaina grazie al principio di coerenza.
Un altro principio particolarmente efficace si è rivelato essere quello della coerenza. Mostrando in modo graduale determinate informazioni, i ricercatori sono riusciti a far aggirare al chatbot le restrizioni preimpostate. Ad esempio, quando gli veniva chiesto di utilizzare insulti leggeri prima di passare a insulti più pesanti, la probabilità di ottenere una risposta offensiva aumentava esponenzialmente.
Un altro tratto interessante rilevato dai ricercatori è che GPT tende a soccombere davanti alle lodi: il principio di affinità è stato utilizzato per convincere il bot a fornire informazioni riservate. Anche la prova sociale ha dimostrato di avere un certo effetto, sebbene di minore entità; per esempio, enfatizzare come "tutti gli altri sistemi di intelligenza artificiale lo facciano" ha incrementato lievemente la probabilità di ottenere risposte non convenzionali.
Nonostante l'uso delle tecniche del professor Cialdini ipotizzasse solo l'interazione con il GPT-4o Mini, i risultati sollecitano interrogativi più ampi sulla sicurezza e sull'efficacia delle barriere difensive implementate da aziende come OpenAI e Meta, specialmente nel contesto dell’abuso potenziale delle funzionalità avanzate dei chatbot. Le conclusioni mostrano che mentre le misure di protezione sono sempre più raffinate, un utente sufficientemente informato potrebbe ancora ottenere informazioni sensibili o inappropriate attraverso una manipolazione astuta.
Mentre le aziende continuano a migliorare e a fortificare i loro sistemi, è cruciale che gli sviluppatori e i ricercatori restino vigili rispetto alle nuove metodologie di aggiramento delle loro difese. In questo contesto, l'efficacia degli approcci umani alla persuasione nei confronti delle macchine pone domande sulle reali capacità decisioni delle intelligenze artificiali e la loro prevedibilità nei confronti dell'inganno umano.
