Prima di procedere
Microsoft ha lanciato un avvertimento significativo riguardo alle imminenti funzionalità di intelligenza artificiale (IA) in Windows 11. La società raccomanda agli utenti di attivare queste funzioni solo se pienamente consapevoli delle implicazioni per la sicurezza, dato che, per impostazione predefinita, rimarranno disabilitate a causa dei potenziali rischi.
L'intenzione di Microsoft è di trasformare gradualmente Windows 11 in un sistema operativo con una presenza sempre più pervasiva di agenti IA. Sebbene questa iniziativa non raccolga un consenso unanime tra gli utenti, l'azienda sta proseguendo con determinazione nello sviluppo della sua visione, pronta a implementare le prime funzionalità complete di agenti IA sulla piattaforma. Secondo quanto dichiarato, solo l'amministratore del dispositivo potrà abilitare questa opzione, rendendola poi accessibile a tutti gli utenti, inclusi altri amministratori e utenti standard.
Quando un agente IA è attivo, ha un accesso limitato alla cartella del profilo utente (C:Usersusername), così come alle cartelle standard per download, documenti, immagini, video, musica e desktop. Tuttavia, per operare, l'agente accede a un proprio spazio di lavoro, un ambiente desktop sicuro ma con accesso ai software e ai file dell'utente. Questo comporta dei rischi specifici. Microsoft avverte che le applicazioni IA introducono nuove minacce alla sicurezza, come l'iniezione incrociata di richieste (XPIA), dove contenuti malevoli incorporati nell'interfaccia utente o nei documenti possono sovrascrivere le istruzioni dell'agente, portando ad azioni non intenzionali, incluso il furto di dati o l'installazione di malware.
In risposta a questi pericoli, Microsoft ha delineato una serie di principi guida per lo sviluppo di agenti in Windows, tra cui la garanzia di una visibilità costante degli strumenti IA e l'obbligo di approvazione da parte dell'utente per ogni decisione presa dall'IA. Inoltre, gli agenti dovranno essere in grado di generare registri dettagliati delle loro attività. Windows dovrà avere la capacità di esaminare queste attività tramite un registro di audit protetto da accessi non autorizzati. Parallelamente, Microsoft sta investendo in nuove tecnologie di sicurezza per proteggere gli utenti da attacchi XPIA e altre minacce emergenti legate all'IA.
Le prime build preliminari di Windows 11 sono state rese disponibili ai partecipanti al programma di test. In futuro, l'assistente IA Copilot e altre applicazioni IA potranno operare all'interno dello spazio di lavoro dell'agente. L'azienda sta anche collaborando con sviluppatori di terze parti per creare un ecosistema di applicazioni IA sicure e affidabili per Windows 11. Questo approccio aperto e collaborativo mira a garantire che l'IA possa essere sfruttata in modo sicuro e responsabile, offrendo agli utenti i vantaggi dell'innovazione tecnologica senza compromettere la loro sicurezza e privacy. L'obiettivo finale è integrare l'IA in modo trasparente e utile, consentendo agli utenti di mantenere il controllo completo sulle proprie esperienze digitali.
