The Pulse
L’autorità di vigilanza britannica valuta un’indagine sugli strumenti di OpenAI per le domande d’asilo
L’ispettore britannico per le frontiere sta valutando se esaminare l’uso, da parte del ministero dell’Interno, di strumenti di IA che riassumono i colloqui con i richiedenti asilo e cercano informazioni sui paesi. Secondo Open Rights Group,
AI.info Team · Scritto con l’IA · verificato ·
«Abbiamo a che fare con la vita delle persone. Parliamo di persone che hanno affrontato alcune delle circostanze peggiori, e dovremmo prendere decisioni basate sui fatti e sulla comprensione dei danni subiti. Semplicemente, non credo sia appropriato che a farlo siano le macchine.»
Bell Ribeiro-Addy, deputata laburista senza incarichi di governo
L’Ispettore capo indipendente per le frontiere e l’immigrazione del Regno Unito sta valutando se esaminare l’uso dell’IA generativa da parte del ministero dell’Interno nella gestione delle pratiche d’asilo. L’ispettore ha chiesto ulteriori informazioni al gruppo per i diritti digitali Open Rights Group (ORG) mentre definisce le priorità delle ispezioni per il prossimo anno, ha riferito WIRED il 27 ottobre. L’autorità di vigilanza non ha confermato che avvierà un’ispezione.
L’ispettore valuta una verifica, ma non l’ha annunciata
L’Ispettore capo indipendente per le frontiere e l’immigrazione vigila sull’operato del ministero dell’Interno in materia di frontiere, immigrazione, asilo e dogane. Ha dichiarato a WIRED di non poter confermare quali temi siano attualmente al vaglio prima della pubblicazione delle priorità annuali per le ispezioni, ma ha riconosciuto le preoccupazioni sugli strumenti di IA e richiamato una precedente conclusione secondo cui «l’efficacia e l’affidabilità erano variabili» per uno degli strumenti.
L’indagine condotta da ORG nell’arco di sei mesi ha spinto l’ispettore a chiedere informazioni. Il gruppo afferma di aver promosso 11 interrogazioni parlamentari, inviato due lettere ai ministri e presentato 10 richieste di accesso agli atti pubblici per ottenere dettagli su come i sistemi siano stati sviluppati, verificati e utilizzati. Separatamente, la Information Commission sta indagando sul rifiuto del ministero dell’Interno di fornire a ORG informazioni sull’uso degli strumenti da parte del personale e sulla sua formazione, ha riferito WIRED.
Due strumenti riassumono i colloqui e le informazioni sui paesi
Il ministero dell’Interno usa Asylum Case Summarisation, o ACS, per condensare le trascrizioni dei colloqui, e Asylum Policy Search, o APS, per trovare e riassumere informazioni sulle condizioni nei paesi d’origine dei richiedenti. Chi prende le decisioni usa questi materiali per valutare le domande, anche per stabilire se un richiedente rischi di subire danni qualora venga rimpatriato.
Il ministero dell’Interno ha dichiarato a WIRED che le decisioni sulle domande d’asilo sono prese da funzionari formati e che gli strumenti di IA li aiutano a consultare i verbali dei colloqui e le informazioni sulle politiche; il personale non può usarli da soli. Anche la valutazione pilota del ministero descriveva entrambi i sistemi come ausili, non come sostituti delle decisioni umane. Secondo ORG, APS è stato messo a disposizione di tutti i funzionari che decidono sulle domande d’asilo nel luglio 2025 e ACS di tutti i funzionari che gestiscono le pratiche d’asilo nell’aprile 2026.
Le verifiche successive di ORG hanno rilevato una quota più alta di riepiloghi difettosi
La valutazione del ministero dell’Interno del 2025 ha rilevato che il 9% dei riepiloghi prodotti da ACS nella sperimentazione pilota era inesatto o conteneva lacune. Quei riepiloghi sono stati esclusi dalla sperimentazione e le pratiche interessate sono state trattate secondo la procedura abituale. La sperimentazione del governo ha inoltre stimato che ACS facesse risparmiare 23 minuti per pratica nell’esame delle trascrizioni dei colloqui e APS 37 minuti per pratica nella ricerca di informazioni sulle politiche relative ai paesi; la valutazione avvertiva che le sperimentazioni erano su piccola scala.
ORG afferma che, nelle successive verifiche su un campione, il 15% dei riepiloghi è risultato inadeguato allo scopo. Riferisce inoltre che solo lo 0,3% dei riepiloghi generati tra aprile e luglio 2026 è stato controllato da esperti della materia del ministero dell’Interno e che i riepiloghi di ACS e i testi generati da APS non sono sottoposti a controlli di qualità. Questi dati riguardano fasi e verifiche diverse: il risultato della sperimentazione pilota del ministero dell’Interno non costituisce una valutazione diretta dei sistemi dopo la loro diffusione a tutti gli utenti previsti.
I richiedenti potrebbero non sapere quando viene usata l’IA
Secondo ORG, i richiedenti asilo non vengono informati quando gli strumenti riassumono le informazioni relative alle loro pratiche o ai paesi, e i sistemi non compaiono nel registro pubblico degli strumenti algoritmici del governo. Il gruppo sostiene che i richiedenti abbiano bisogno di informazioni sufficienti per contestare gli errori nei materiali riguardanti le loro circostanze personali. Avvocati incaricati da ORG hanno sollevato separatamente preoccupazioni per possibili violazioni dei diritti in materia di dati, ma tali preoccupazioni non costituiscono un accertamento da parte di un tribunale o di un’autorità di regolamentazione.
Il ministero dell’Interno afferma di monitorare gli strumenti e si è impegnato a pubblicare valutazioni aggiornate man mano che procede la loro diffusione. Per ora, la questione relativa alla vigilanza è più circoscritta rispetto a quella se sia in corso un’indagine: l’ispettore per le frontiere ha chiesto elementi di valutazione mentre definisce le priorità per il prossimo anno, ma non ha detto se i due strumenti saranno inclusi.