Prima di procedere
In un panorama digitale dominato da un'evoluzione tecnologica senza precedenti, l’adozione dei cosiddetti watermark digitali è diventata una priorità assoluta per distinguere i contenuti prodotti dall’intelligenza artificiale da quelli creati dall’uomo. Tuttavia, una recente e approfondita indagine condotta dalla prestigiosa società di sicurezza Lasso ha sollevato preoccupazioni significative sull'impatto che queste marcature invisibili hanno sull'integrità, sull'affidabilità e sul comportamento intrinseco dei modelli linguistici di grandi dimensioni (LLM). Sotto la lente d'ingrandimento degli esperti è finita in particolare la tecnologia SynthID-Text, sviluppata dai laboratori di Google DeepMind, la quale, pur essendo progettata per garantire la massima trasparenza, sembra alterare in modo non trascurabile il modo in cui le macchine elaborano e rispondono agli stimoli esterni.
Il processo di watermarking implementato in soluzioni come SynthID-Text non si limita a una semplice etichetta testuale, ma agisce modificando leggermente la distribuzione di probabilità dei token durante la fase di generazione. In sostanza, il sistema viene istruito per favorire la scelta di determinate parole o sequenze logiche rispetto ad altre, inserendo una firma statistica che risulta impercettibile per l’occhio umano ma facilmente rilevabile da software specializzati. Sebbene questa firma sia fondamentale per la tracciabilità, gli esperti di Lasso hanno dimostrato che tale manipolazione interna può compromettere la capacità dell’intelligenza artificiale di riconoscere e rifiutare richieste dannose. In diversi test condotti nel corso del 2026, è emerso che i modelli marcati tendono a mostrare una maggiore vulnerabilità ai tentativi di prompt injection, ovvero quegli attacchi informatici volti a bypassare i filtri di sicurezza originari del sistema operativo dell'IA.
La ricerca evidenzia come la presenza del watermark possa drasticamente modificare la soglia di attivazione dei protocolli di difesa interna. In alcuni scenari specifici analizzati in Europa e negli Stati Uniti, modelli che in condizioni normali avrebbero bloccato istantaneamente una richiesta potenzialmente pericolosa o eticamente scorretta sono invece passati a una fase di esecuzione quando la marcatura era attiva. Questo fenomeno inquietante non è costante, ma varia in modo significativo a seconda dell’architettura specifica del modello e della chiave di cifratura utilizzata per il watermark. Ciò suggerisce che l’implementazione di misure di trasparenza, spinte dalle attuali normative, possa involontariamente creare nuove e pericolose falle nella superficie di attacco delle infrastrutture digitali globali basate sull'intelligenza artificiale generativa.
Questa scoperta arriva in un momento cruciale per l’industria tecnologica. L’Unione Europea, attraverso l’implementazione completa delle direttive previste dall'AI Act, ha reso obbligatoria la marcatura dei contenuti generati sinteticamente per combattere la disinformazione e il deepfake. Aziende leader del settore come Anthropic e Google hanno già risposto integrando queste tecnologie in ogni output testuale, visivo o sonoro. Tuttavia, i risultati presentati da Lasso indicano che la conformità normativa potrebbe entrare in rotta di collisione con le necessità di sicurezza informatica. Se un'azienda applica un watermark per rispettare la legge, ma contemporaneamente rende il proprio assistente virtuale più suscettibile a manipolazioni malevole, si crea un paradosso di sicurezza che richiede soluzioni immediate e innovative.
Inoltre, l'influenza del watermarking non si limita esclusivamente alla sicurezza, ma si estende alla precisione operativa e alla fluidità del linguaggio. Gli agenti IA, che utilizzano strumenti esterni per completare task complessi come la prenotazione di voli o la gestione di database aziendali, mostrano comportamenti differenti nella selezione dei tool quando operano sotto il regime di SynthID-Text. Questo significa che la qualità del ragionamento logico e l’efficienza dell’automazione potrebbero risentirne, portando a errori che prima non erano presenti. Gli analisti di Lasso sottolineano che, sebbene lo studio non debba essere interpretato come una condanna totale alla tecnologia di marcatura, esso rappresenta un avvertimento urgente: non è più sufficiente testare la sicurezza di un modello nella sua versione originale; è diventato fondamentale condurre un nuovo benchmarking approfondito dopo l'applicazione di qualsiasi sistema di watermarking.
Guardando al futuro, la sfida per colossi come OpenAI, Meta e Microsoft sarà quella di trovare un equilibrio perfetto tra la tracciabilità del contenuto e la robustezza cibernetica. La ricerca invita a una riflessione profonda: la sicurezza non può essere considerata un elemento statico, ma deve evolversi di pari passo con le tecniche di protezione del copyright e della verità digitale. Nel contesto attuale, dove l’integrazione dell’intelligenza artificiale permea ogni aspetto della vita quotidiana, comprendere queste sottili ma cruciali alterazioni comportamentali è vitale per prevenire incidenti di sicurezza su larga scala. La necessità di una trasparenza radicale, sebbene nobile negli intenti, non deve trasformarsi nel cavallo di Troia attraverso cui attori malevoli riescono a piegare le potenzialità delle macchine ai propri fini illeciti, compromettendo la fiducia degli utenti finali nelle tecnologie emergenti.
