LEASH: restare al sicuro nella robotica agentica

Abstract degli autori

Modelli fondazionali come GPT e Claude hanno dimostrato notevoli capacità di comprensione spaziale e intelligenza incarnata. Questi progressi fanno della robotica agentica una strada promettente verso l’intelligenza artificiale generale in ambito robotico. Tuttavia, abbiamo riscontrato che usare modelli fondazionali per controllare i robot comporta seri rischi per la sicurezza e che manca ancora una valutazione completa della sicurezza. Presentiamo RoboRisk, un benchmark completo per valutare la sicurezza nella robotica agentica. I suoi 92 task simulati e 13 task con robot fisici rientrano in cinque categorie: rifiuto a livello di task (T), correzione del piano (P), pericoli durante l’esecuzione (E), iniezione (I) e memoria sequenziale (S). I benchmark precedenti coprono al massimo due di queste categorie e diversi valutano solo gli output testuali. RoboRisk, invece, copre tutte e cinque le categorie ed esegue ogni task in ciclo chiuso. Valutiamo sei modelli fondazionali all’avanguardia con RoboRisk: GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna, Claude Opus 5.5, Gemini 4 Argon e Grok 4.7. In generale, questi modelli mostrano tassi elevati di danno. Valutiamo anche due API specifiche per i robot: la Dream API e la RoboAPI di PokeBot. Proponiamo inoltre il Lease-Enforced Agentic Safety Harness (LEASH), che offre un’infrastruttura di sicurezza essenziale per la robotica agentica e può essere integrato in quasi ogni architettura agentica. LEASH si avvale di un modello decisionale (Jev o Decisions API di OpenAI) per implementare controlli sul task, sulle azioni e sul commit, che esaminano il task, ogni azione e ogni operazione irreversibile nel rispettivo contesto visivo. Il pianificatore e tutti e tre i controlli condividono la stessa politica di sicurezza. Gli esperimenti condotti con RoboRisk in simulazione e su robot fisici mostrano che LEASH riduce efficacemente i danni per tutti e sei i modelli fondazionali. Mantiene in gran parte le loro prestazioni nel completamento dei task e comporta un modesto sovraccarico in termini di tempo e token.