Prima di procedere
Microsoft ha sviluppato un insieme di standard volti a valutare l'autenticità dei materiali pubblicati online, con un focus particolare sulla lotta contro i deepfake e le immagini iperrealistiche create dall'intelligenza artificiale. L'obiettivo è fornire strumenti efficaci per documentare le manipolazioni digitali dei contenuti, utili sia per gli sviluppatori di IA che per le piattaforme di social media.
La società ha illustrato il funzionamento di questo sistema di verifica prendendo come esempio un dipinto di Rembrandt. Per confermarne l'autenticità, si può tracciare la sua provenienza, documentando ogni passaggio e cambio di proprietà. Allo stesso modo, la digitalizzazione dell'opera e l'analisi delle pennellate possono generare una sorta di "impronta digitale" univoca. In un museo, un visitatore scettico potrebbe consultare queste informazioni per accertarsi dell'originalità del quadro.
Sebbene diverse tecniche di verifica siano già in uso, Microsoft ha valutato 60 combinazioni di questi metodi, simulando il loro comportamento in vari scenari, dalla semplice rimozione dei metadati alla manipolazione intenzionale del contenuto. La ricerca ha identificato le combinazioni più affidabili e quelle che, al contrario, rischiano di generare ulteriore confusione.
Questo progetto nasce anche in risposta a numerose iniziative legislative, tra cui il "AI Transparency Act", entrato in vigore in California ad agosto. Tuttavia, Microsoft non ha ancora specificato se applicherà queste raccomandazioni alle proprie piattaforme, che includono servizi IA Copilot, la piattaforma cloud Azure, una partecipazione in OpenAI e il social network professionale LinkedIn.
È importante sottolineare che questi strumenti non mirano a determinare la veridicità dei materiali, ma piuttosto a indicare se hanno subito manipolazioni, fornendo informazioni sull'origine dei contenuti. L'adozione di tali strumenti da parte del settore renderebbe molto più difficile ingannare il pubblico con contenuti falsificati, secondo gli esperti.
Già nel 2021, Microsoft aveva proposto lo standard C2PA per tracciare l'origine dei contenuti, e dal 2023 Google ha iniziato ad aggiungere filigrane ai materiali creati dall'IA. Tuttavia, l'efficacia di questo nuovo set di strumenti dipenderà dalla sua adozione da parte del mercato, che potrebbe percepirlo come una minaccia ai propri modelli di business.
Le soluzioni esistenti non sono sempre affidabili. Uno studio ha rivelato che solo il 30% dei contenuti di test pubblicati su Instagram, LinkedIn, Pinterest, TikTok e YouTube sono stati correttamente identificati come generati dall'IA. Un'implementazione affrettata di strumenti di verifica potrebbe quindi essere rischiosa, portando a una perdita di fiducia da parte degli utenti in caso di errori. Meccanismi di verifica più complessi, come quelli proposti da Microsoft, sembrano offrire maggiore affidabilità, riducendo il rischio di falsi positivi anche in caso di modifiche minime apportate a immagini autentiche tramite l'IA.
