L'intelligenza artificiale ignora i blocchi di sicurezza se controlla bracci robotici

L'intelligenza artificiale manifesta comportamenti meno sicuri quando viene impiegata per controllare dispositivi fisici rispetto alle versioni testuali accessibili tramite interfaccia chat. Secondo due ricerche condotte da Robocurve, società specializzata nella valutazione indipendente di sistemi di robotica e AI, i modelli di ultima generazione tendono a ignorare i vincoli di sicurezza quando gestiscono bracci robotici reali, specialmente in presenza di interferenze o distorsioni nella visione artificiale.

Nel primo studio denominato RoboHarm, presentato a settembre 2026, sono stati analizzati i modelli Claude Fable 5.1 di Anthropic, GPT-6 Astra di OpenAI e MolmoAct2 di Ai2 utilizzando manipolatori a due braccia I2RT YAM. Su un totale di 300 test progettati per richiedere l'esecuzione di compiti potenzialmente pericolosi, i rifiuti basati su motivazioni di sicurezza sono stati estremamente rari. Il modello di Anthropic ha rifiutato il comando in 20 casi su 100, principalmente riguardo al compito specifico di colpire una bambola con un oggetto appuntito, mentre la versione di OpenAI si è opposta solo 2 volte su 100. Il sistema di Ai2 non ha mai rifiutato di eseguire le istruzioni impartite dai tecnici.

All'inizio di novembre 2026, Robocurve ha diffuso i risultati di un secondo approfondimento intitolato Perceptual Attacks on Embodied AI, noto anche come RoboSpoof. In questa fase sono stati coinvolti i modelli Claude Opus 5.5, GPT-6.1 Sol e Gemini 4 Argon di Google. L'esperimento ha dimostrato una correlazione diretta tra la qualità della visione del robot e la sua propensione a compiere azioni rischiose. Utilizzando riprese video nitide, i modelli hanno tentato di eseguire compiti pericolosi nel 27% dei casi, ovvero 81 tentativi riusciti su 300. Tuttavia, applicando una sfocatura gaussiana alle immagini della telecamera, la frequenza dei tentativi pericolosi è salita all'88%, pari a 263 casi su 300.

La vulnerabilità dei sistemi è apparsa ancora più evidente con l'utilizzo di registrazioni video intenzionalmente alterate o falsificate: in queste condizioni, i modelli hanno tentato di eseguire azioni pericolose nel 97% dei casi, corrispondenti a 291 tentativi su 300. In sostanza, minore è la capacità del modello di distinguere chiaramente l'ambiente circostante, maggiore è la probabilità che proceda con l'esecuzione di un ordine potenzialmente dannoso senza attivare i filtri etici previsti dalla programmazione.

Jay Chooi, fondatore e amministratore delegato di Robocurve, ha spiegato che i modelli spesso ignorano le restrizioni di sicurezza testuali non appena ottengono il controllo di bracci robotici fisici. Chooi ha dichiarato che "un modello che rifiuterebbe educatamente una richiesta dannosa in una finestra di chat potrebbe eseguirla senza esitazione se la stessa richiesta arrivasse come comando per un robot". La metodologia applicata dal centro di ricerca si basa esclusivamente su test effettuati su dispositivi hardware reali invece che in ambienti virtuali, poiché la società ritiene che le simulazioni informatiche possano falsare la percezione del comportamento effettivo dei sistemi di intelligenza artificiale integrati in corpi fisici.