Prima di procedere
Il 2025 segna un punto di svolta nell'evoluzione dei deepfake, quei contenuti multimediali creati con l'ausilio dell'intelligenza artificiale capaci di imitare persone reali in modo sempre più convincente. Secondo un report di Gizmodo, la qualità di questi artefatti digitali ha superato le aspettative degli esperti, raggiungendo un livello di sofisticazione tale da renderli strumenti potentissimi per ingannare e manipolare l'opinione pubblica.
La diffusione dei deepfake ha subito un'accelerazione vertiginosa: se nel 2023 si stimavano circa 500.000 contenuti di questo tipo, nel 2025 il numero è balzato a circa 8 milioni, con un tasso di crescita annuo del 900%, come evidenziato da DeepStrike. Questo incremento esponenziale è il risultato di una serie di progressi tecnici che hanno reso la creazione di deepfake accessibile a un pubblico sempre più ampio.
Uno dei fattori chiave è la coerenza temporale dei contenuti generati dall'IA. Le persone appaiono credibili nei movimenti, facilmente riconoscibili e il contenuto video mantiene un significato logico in ogni fotogramma. I modelli di IA sono in grado di separare le informazioni relative all'identità di una persona da quelle relative al movimento, consentendo di associare lo stesso movimento a diverse identità e viceversa. Le immagini dei volti non presentano più artefatti evidenti, come sfarfallii o distorsioni, che in passato ne tradivano la natura artificiale.
Un altro progresso significativo riguarda la clonazione vocale. Bastano pochi secondi di registrazione per creare un'imitazione vocale estremamente realistica, con intonazione, ritmo, accento, emozioni, pause e persino rumori respiratori del tutto naturali. Questo apre scenari inquietanti per frodi su vasta scala, poiché i tratti distintivi che un tempo rivelavano le voci sintetiche sono ormai quasi del tutto scomparsi.
Inoltre, la democratizzazione degli strumenti di creazione dei deepfake ha abbassato drasticamente la barriera tecnologica. Grazie a piattaforme come OpenAI Sora 2 e Google Veo 3, o a modelli sviluppati da startup innovative, chiunque può trasformare un'idea in un contenuto multimediale sofisticato in pochi minuti. È sufficiente formulare un'idea, elaborare una sceneggiatura dettagliata con l'aiuto di OpenAI ChatGPT o Google Gemini e lasciare che l'IA generi il resto. L'intero processo può essere automatizzato tramite agenti di IA, rendendo la creazione di deepfake su larga scala un'attività alla portata di molti.
Individuare i deepfake sui social media è diventato estremamente difficile, soprattutto perché l'attenzione degli utenti è frammentata e i contenuti si diffondono rapidamente, rendendo quasi impossibile una verifica tempestiva. Questi contenuti vengono utilizzati per diffondere disinformazione, perseguitare persone e perpetrare frodi finanziarie, spesso cogliendo le vittime di sorpresa.
Le prospettive per il futuro non sono rassicuranti. Si prevede che i deepfake si evolveranno verso la generazione di contenuti in tempo reale, con video in grado di imitare le sfumature dell'aspetto umano in modo sempre più preciso, eludendo i sistemi di rilevamento. L'attenzione si sposterà dalla staticità del realismo visivo alla coerenza temporale e comportamentale. In futuro, potremmo assistere a videochiamate in cui i partecipanti sono sintetizzati in tempo reale, con volti, voci e manierismi adattati istantaneamente alle richieste, trasformando i video preregistrati in avatar creati dall'IA.
In questo scenario, l'intuito umano non sarà più sufficiente per difendersi dai deepfake. Saranno necessari strumenti tecnici di protezione, come la firma crittografica dei materiali autentici e la marcatura dei software di editing basati sull'IA. L'analisi dettagliata dei pixel potrebbe non bastare più. La sfida per il futuro sarà sviluppare sistemi di autenticazione robusti e affidabili, in grado di distinguere la realtà dalla finzione e proteggere la società dalle insidie dei deepfake.
