The Pulse
Singapore lancia un kit per testare gli agenti e accredita cinque società di test dell’IA
Il 14 ottobre 2026, l’IMDA di Singapore ha lanciato un kit introduttivo per testare gli agenti di IA e le loro azioni. AI Verify Foundation ha nominato cinque società accreditate per testare sistemi di IA generativa negli ambiti definiti pe
AI.info Team · Scritto con l’IA ·
Il 14 ottobre, Ng Cher Pong, amministratore delegato dell’Infocomm Media Development Authority, ha annunciato una nuova guida per testare gli agenti di IA, insieme all’accreditamento di cinque società di test dell’IA. Il kit introduttivo invita le organizzazioni a verificare non soltanto se un agente arriva al risultato giusto, ma anche che cosa fa lungo il percorso. Singapore ha inoltre annunciato una task force dedicata alle minacce informatiche legate all’IA di frontiera.
Testare i passaggi, non solo la risposta
Gli agenti di IA possono usare strumenti, accedere a servizi esterni e a informazioni sensibili e apportare modifiche mentre eseguono la richiesta di un utente. Una risposta finale corretta, da sola, non dimostra che l’agente abbia rispettato i limiti delle proprie autorizzazioni o che non abbia compiuto azioni non autorizzate lungo il percorso. «Quando diamo all’IA più autonomia, abbiamo bisogno di maggiori garanzie su come viene esercitata», ha detto Ng all’AI Assurance Exchange: Agentic Edition.
La prima versione dello Starter Kit for Testing Agentic Systems for Safety and Reliability dell’IMDA delinea quattro fasi: identificare i rischi, progettare i test, analizzare i risultati e i registri delle attività, quindi monitorare il sistema e sottoporlo a nuovi test. La guida indica a chi svolge i test di esaminare gli strumenti dell’agente, le informazioni a cui ha avuto accesso, le sue decisioni, il rispetto dei limiti assegnati e il funzionamento delle misure di protezione. L’attenzione all’intera sequenza di azioni di un agente distingue questo lavoro dalla sola verifica dell’output di un’applicazione convenzionale.
Secondo quanto riportato da CNA, l’IMDA ha sviluppato il kit dopo aver consultato più di 20 organizzazioni che impiegano sistemi di IA e società che li testano, attingendo anche al lavoro svolto attraverso il Global AI Assurance Sandbox e il Singapore AI Safety Institute. Ng ha descritto il kit come un documento in evoluzione che l’IMDA intende perfezionare man mano che si sviluppano i metodi di test. Il Model AI Governance Framework for Agentic AI pubblicato dall’agenzia a gennaio aveva delineato indicazioni più ampie, tra cui la responsabilità umana e i controlli sull’accesso degli agenti a strumenti e dati.
Cinque società ottengono un accreditamento per ambiti specifici
AI Verify Foundation ha nominato AIDX Tech, Knovel Engineering, PwC Singapore, Resaro e Vulcan come le prime società accreditate nell’ambito del suo AI Tester Accreditation Programme. L’accreditamento riguarda competenze dimostrate in metodi di test e ambiti di rischio specificati per i sistemi di IA generativa, tra cui il benchmarking o il red teaming e rischi come la fuga di dati, i bias e gli output inesatti. L’ambito dell’accreditamento varia da società a società.
L’accreditamento non equivale a un’approvazione generale dei servizi di ciascuna società né a una certificazione della sicurezza dei sistemi che testa. La fondazione afferma di non certificare che i test condotti dalle società accreditate siano indipendenti o che i sistemi testati siano completamente sicuri e affidabili. Ng ha inoltre precisato che l’accreditamento riconosce capacità di test specifiche, senza suggerire che una singola società possa testare ogni sistema.
Una task force distinta affronta le minacce comuni al settore
L’IMDA ha inoltre istituito la Frontier AI Resilience and Security Taskforce, che riunisce più di 20 dirigenti ed esperti dei settori delle telecomunicazioni, dei media, della cybersicurezza e dell’IA. Il suo lavoro riguarderà risposte più rapide alle minacce accelerate dall’IA, una maggiore protezione dei sistemi critici man mano che l’IA diventa più capace di individuare vulnerabilità e una migliore condivisione delle informazioni sulle tecniche di attacco emergenti. Il gruppo dovrebbe pubblicare indicazioni pratiche per il settore dell’informatica, delle comunicazioni e dei media nella prima metà del 2027.
Le tre misure riguardano fasi diverse della verifica: i test sui singoli agenti, un insieme di fornitori di servizi di test accreditati e una preparazione coordinata del settore alle minacce informatiche. I loro limiti contano quanto la loro portata. Il kit fornisce indicazioni, mentre l’accreditamento riguarda competenze di test documentate; nessuno dei due sostituisce la responsabilità di un’organizzazione di definire le autorizzazioni, supervisionare le azioni con conseguenze rilevanti e gestire i rischi residui.