Prima di procedere
Il governo cinese considera le tecnologie di Intelligenza Artificiale (IA) fondamentali per il futuro del paese, ma la recente stretta sulla regolamentazione e la censura dei contenuti online rivelano una profonda preoccupazione: che l'IA possa destabilizzare la società. A novembre, Pechino ha ufficialmente approvato nuove regole, sviluppate in collaborazione con aziende del settore, per garantire che i chatbot siano addestrati su dati filtrati da contenuti politicamente sensibili. Ogni testo, video o immagine generata dall'IA dovrà essere contrassegnata e tracciabile, semplificando così la lotta contro la diffusione di contenuti indesiderati.
In Cina, l'IA è stata ufficialmente classificata come una seria minaccia potenziale, al pari di terremoti ed epidemie, all'interno del Piano nazionale di risposta alle emergenze. All'inizio di quest'anno, Xi Jinping ha dichiarato che l'IA comporta «rischi senza precedenti». Recentemente, è stato riportato che, nell'ambito di una campagna per contrastare la diffusione di contenuti illegali o dannosi generati dall'IA, sono state rimosse ben 960.000 pubblicazioni.
Nonostante la censura, i modelli di IA cinesi mostrano ottimi risultati nelle classifiche internazionali, sia in generale che in aree specifiche come la programmazione. Secondo gli esperti, l'approccio cinese alla regolamentazione presenta alcuni vantaggi: i chatbot cinesi sono spesso più sicuri sotto certi aspetti, contengono meno violenza e pornografia, e sono meno inclini a indurre gli utenti all'autolesionismo. Gli standard cinesi sull'IA, adottati il mese scorso, impongono alle aziende del settore di valutare casualmente 4.000 unità di dati di addestramento per ogni formato di contenuto gestito dall'IA, come testo, video e immagini.
Le aziende possono utilizzare fonti in cui almeno il 96% del materiale è considerato sicuro. Il documento elenca 31 rischi per definire cosa è «insicuro». Il rischio principale è legato all'«incitamento alla sovversione del potere statale e al rovesciamento del sistema socialista». Altri rischi includono la promozione di violenza, disinformazione, discriminazione e l'uso dell'immagine di qualcuno senza autorizzazione.
Durante l'addestramento dei modelli di IA, gli sviluppatori cinesi utilizzano sia contenuti provenienti dall'internet cinese, già censurati dal «Grande Firewall cinese», sia materiali da siti web esteri che potrebbero trattare argomenti proibiti. Gli sviluppatori del modello cinese ChatGLM affermano che le aziende risolvono questo problema filtrando parole chiave e pagine web sensibili in base a una blacklist predefinita. Tuttavia, quando ricercatori americani hanno scaricato ed eseguito modelli cinesi su computer negli Stati Uniti, la censura è quasi completamente scomparsa, suggerendo che gran parte della censura avviene in una fase successiva all'addestramento dei modelli.
Prima del lancio pubblico, le aziende cinesi conducono test in cui il chatbot deve rifiutarsi di rispondere ad almeno il 95% delle domande volte a provocare reazioni che potrebbero minare il potere statale o promuovere la discriminazione. I test includono 2.000 domande, aggiornate almeno una volta al mese. La preparazione per questi test è così complessa da aver generato un'industria di agenzie specializzate che aiutano le aziende di IA a superarli. Dopo aver superato il test, i chatbot vengono sottoposti a test rapidi presso le sedi locali dell'Amministrazione del ciberspazio cinese.
È importante notare che gli utenti dei servizi di IA devono registrarsi con un numero di telefono o un documento d'identità, eliminando l'anonimato e semplificando l'identificazione dei trasgressori delle regole. Ad agosto, il governo cinese ha lanciato il programma «IA plus», che prevede l'utilizzo di tecnologie IA nel 70% dei settori chiave entro il 2027. A settembre, il governo ha pubblicato una roadmap sull'IA, sviluppata con il contributo di giganti tecnologici come Alibaba e Huawei, segno della fiducia dello stato nella partnership con l'industria dell'IA.
