The Pulse

Regno Unito, il 22% dei riassunti sull’asilo generati dall’IA non supera la prima verifica

Secondo Open Rights Group, 45 dei 203 riassunti dei colloqui per l’asilo generati dall’IA del Ministero dell’Interno britannico non hanno superato la prima verifica degli esperti dopo l’introduzione dello strumento. Il gruppo afferma che da

AI.info Team · Scritto con l’IA · 2026-10-15

Il Ministero dell’Interno britannico afferma che i suoi strumenti di IA assistono chi decide sulle domande di asilo, mantenendo la responsabilità di ogni domanda. Ma nelle verifiche citate da Open Rights Group (ORG), 45 dei 203 riassunti dei colloqui generati dall’IA non hanno superato la prima revisione degli esperti: un tasso del 22%. Il rapporto del gruppo, pubblicato il 12 ottobre, afferma che il risultato riscontrato nell’uso effettivo supera il 9% di riassunti scartati durante la precedente fase pilota del ministero.

I dati riguardano i riassunti, non le decisioni sulle domande di asilo: non dimostrano che sia l’IA stessa ad accogliere o respingere le domande. Rendono però più acceso il confronto su quanto controllo umano accompagni gli strumenti, su quali informazioni ricevano i richiedenti e sulla possibilità che il risparmio di tempo promesso dal sistema ne giustifichi l’uso.

45 riassunti non superano la prima verifica

Gli esperti del Ministero dell’Interno hanno esaminato 203 riassunti dopo che lo strumento Asylum Case Summarisation, o ACS, è stato introdotto per gli operatori incaricati dei casi nell’aprile 2026. Secondo ORG, 139 hanno superato la prima verifica, 19 sono stati rinviati a un’ulteriore revisione e 45 non l’hanno superata. Delle 56 revisioni di seconda fase, 30 si sono concluse anch’esse con esito negativo: si tratta del 15% dei 203 riassunti iniziali, non di un ulteriore tasso di esito negativo del 15% fra i 56 esaminati.

La valutazione della fase pilota condotta dal Ministero dell’Interno nel 2025 aveva rilevato che il 9% dei riassunti generati dall’IA era inesatto o incompleto e li aveva esclusi dalla sperimentazione. In quella prova, specialisti tecnici controllavano ogni riassunto prima dell’uso. I dati successivi di ORG provengono da controlli a campione dopo l’introduzione dello strumento: i due tassi descrivono quindi fasi e modalità di verifica diverse. Il confronto è un segnale d’allarme, non un test controllato a parità di condizioni.

Secondo ORG, i revisori giudicavano un riassunto non idoneo quando non era utile a orientare l’operatore incaricato del caso o otteneva un punteggio basso per coerenza. Il gruppo segnala anche un limite nei criteri di revisione: le omissioni di dettagli pertinenti del colloquio erano valutate sotto il profilo della rilevanza, ma quel punteggio non figurava, di per sé, tra i motivi dichiarati per respingere un riassunto. Un riassunto poteva quindi omettere informazioni importanti e superare comunque la verifica se quanto riportato era accurato, si legge nel rapporto.

Controllato solo lo 0,3% dei riassunti

Le 203 verifiche degli esperti riguardavano una stima di 70.000 casi trattati da aprile a luglio, calcolata sulla media del Ministero dell’Interno di 17.515 casi al mese. ORG calcola che gli esperti abbiano esaminato circa lo 0,3% dei riassunti prodotti in quel periodo. Il campione documenta errori nei risultati controllati, ma non consente di stabilire il tasso di errore di tutti i riassunti.

ORG afferma inoltre che, in quei quattro mesi, gli operatori incaricati dei casi hanno segnalato sette problemi tramite una casella di posta dedicata ai riscontri, mentre i controlli mensili del dipartimento sulla qualità delle decisioni in materia di asilo non valutano il riassunto prodotto da ACS. Secondo il gruppo, i richiedenti non vengono informati specificamente quando l’IA è stata usata nell’esame della loro domanda e non possono vedere né correggere il riassunto generato.

Secondo ORG, entrambi gli strumenti usano GPT-4o tramite Azure AI Foundry. ACS riassume le trascrizioni dei colloqui per l’asilo; l’altro strumento, Asylum Policy Search, o APS, è un’interfaccia di chat per trovare e riassumere informazioni sulle politiche relative ai paesi. ORG afferma che il Ministero dell’Interno ha comunicato ai parlamentari che i test di APS condotti dagli esperti erano cessati e che non era stata prodotta alcuna sintesi scritta dei risultati.

Il governo: le domande restano decise dalle persone

In una lettera del 7 agosto alla parlamentare Bell Ribeiro-Addy, la ministra per la Sicurezza delle frontiere e l’Asilo Anna Turley ha affermato che gli strumenti sono un ausilio, non sostituti di chi prende le decisioni. «Tutte le domande di asilo vengono esaminate in base alle circostanze specifiche di ciascuna e la decisione è scritta da una persona incaricata di decidere. Non è possibile decidere su una domanda di asilo usando APS e ACS», ha scritto Turley nella lettera.

La motivazione iniziale del governo in termini di efficienza si basa in parte sui risultati della fase pilota: la valutazione del Ministero dell’Interno ha rilevato che le persone del gruppo di prova incaricate delle decisioni esaminavano le trascrizioni in media 23 minuti più rapidamente. ORG sostiene che i dati sull’uso effettivo non abbiano dimostrato un aumento del numero di casi trattati. Dalla sua analisi dei dati del Ministero dell’Interno emerge che il numero medio mensile delle decisioni iniziali sul merito è diminuito di circa il 42% rispetto allo stesso periodo del 2025, mentre l’intervallo medio tra colloquio e decisione è aumentato del 29%. Questi dati descrivono cambiamenti nel tempo; da soli non dimostrano che siano stati causati dagli strumenti di IA.

Sara Alsherif, responsabile di programma di ORG, ha affermato che il dipartimento sta usando l’IA sulle persone che chiedono asilo senza informarle. «Esortiamo il governo a regolamentare l’IA e a vietarne del tutto l’uso nelle domande di asilo, dove i rischi per i diritti sono così elevati», ha dichiarato nel comunicato del gruppo.

ORG chiede la sospensione e un audit indipendente

Il rapporto del gruppo si basa su interrogazioni parlamentari, lettere ministeriali e risposte a richieste di accesso alle informazioni raccolte nel corso di un’indagine durata sei mesi. ORG afferma che il dipartimento non ha pubblicato i prompt usati da ACS, che gli strumenti non figurano nel registro governativo Algorithmic Transparency Recording Standard e che non è previsto alcun audit indipendente.

Secondo il rapporto, a giugno l’allora ministro Alex Norris ha detto a Ribeiro-Addy che il Ministero dell’Interno non prevedeva un audit indipendente «in questa fase». ORG chiede al dipartimento di sospendere entrambi gli strumenti, adottare misure per i richiedenti interessati e commissionare una valutazione indipendente del loro uso effettivo. La sua richiesta principale è precisa: pubblicare un resoconto più completo della frequenza con cui gli strumenti sbagliano e di ciò che accade a un caso quando succede.