The Pulse
L’Inghilterra pubblica indicazioni non vincolanti sull’IA per l’assistenza sociale
Le nuove indicazioni dicono che l’IA non dovrebbe prendere decisioni su rischio, ammissibilità o interventi nell’assistenza sociale a minori e adulti. Gli operatori dovrebbero rivedere le bozze generate dall’IA e usare strumenti approvati secondo le politiche delle rispettive organizzazioni.

Secondo le nuove indicazioni del governo per l’Inghilterra, l’IA non dovrebbe prendere decisioni su rischio, ammissibilità o interventi nell’assistenza sociale a minori e adulti. Il Department for Education e il Department of Health and Social Care hanno pubblicato le indicazioni il 20 novembre, insieme a una guida rapida per gli operatori.
Fonte gov.uk
Le indicazioni non sono vincolanti e lasciano alle singole organizzazioni la decisione se adottare l’IA e in che modo. Dicono che i consigli dovrebbero essere applicati insieme alle politiche locali, agli standard professionali e ai requisiti legali e normativi vigenti.
In quali ambiti può essere utile l’IA
Le indicazioni sono rivolte principalmente alle autorità locali che erogano servizi di assistenza sociale a minori e adulti, anche se i loro principi si applicano anche ad altre organizzazioni che offrono assistenza sociale e servizi correlati. Si rivolgono agli operatori in prima linea, ai supervisori e ai responsabili, oltre che al personale che lavora in ambiti quali la protezione dei dati, gli acquisti e la trasformazione digitale.
I dipartimenti affermano che l’IA può aiutare a trascrivere il parlato in testo durante visite e riunioni, o a preparare bozze di note sui casi, relazioni e lettere. Gli operatori dovrebbero rivedere le bozze e aggiungere osservazioni pertinenti, tra cui il linguaggio del corpo, il tono e gli aspetti dell’ambiente fisico che uno strumento potrebbe non cogliere.
La guida per gli operatori suggerisce altri possibili usi, tra cui riunire le informazioni prima di una valutazione, individuare lacune nella documentazione, semplificare informazioni complesse e tradurre testi. Afferma che l’IA può aiutare a organizzare le informazioni o a preparare una bozza di valutazione o di piano assistenziale, ma che l’analisi, le conclusioni e le raccomandazioni dovrebbero riflettere il giudizio dell’operatore.
Le decisioni restano agli operatori
Secondo le indicazioni, gli operatori dovrebbero considerare il risultato dell’IA una prima bozza, controllandola e modificandola prima di usarla. Tra i rischi che le organizzazioni devono gestire, le indicazioni menzionano le inesattezze, i pregiudizi e l’eccessivo affidamento sui risultati dell’IA.
La guida rapida afferma che verificare un lavoro svolto con l’aiuto dell’IA richiede più di una semplice revisione del testo: gli operatori dovrebbero controllare che sia accurato, suffragato da prove e conforme al loro giudizio. Se opportuno, dovrebbero valutare se consentire alla persona assistita, o alla sua famiglia, di vedere una trascrizione o un riepilogo, in modo che la sua voce e le sue esigenze siano riportate accuratamente.
Dati e supervisione
Le indicazioni affermano che le organizzazioni dovrebbero disporre, o stare predisponendo, meccanismi di governance che riguardino l’uso accettabile, la gestione dei dati, la formazione, la supervisione e la revisione. Dovrebbero chiarire quali strumenti sono approvati e a quali condizioni possono essere usati.
Le informazioni personali non dovrebbero essere inserite in strumenti di IA accessibili al pubblico e il personale dovrebbe attenersi alle politiche dell’organizzazione in materia di protezione dei dati. Le organizzazioni dovrebbero inoltre fornire politiche accessibili che spieghino come viene comunicato l’uso dell’IA, quali scelte hanno le persone e come vengono gestite le obiezioni.
Le indicazioni avvertono inoltre che un’IA implementata male potrebbe ridurre le occasioni di un coinvolgimento significativo e minare la fiducia. Chiedono alle organizzazioni di tenere conto delle persone che potrebbero avere un accesso limitato al digitale o aver bisogno di aiuto per interagire con la tecnologia, e di valutare il coinvolgimento delle persone assistite nella progettazione o nella governance dei servizi.
I dipartimenti prevedono di sviluppare ulteriori risorse e forme di supporto a partire dalle indicazioni in futuro.
Fonti
- Fonte originale · Pagina istituzionale GOV.UK · Artificial intelligence AI in social care gov.uk
Altre pagine lette
Notizie correlate
- L’UE chiede agli utilizzatori di IA di testare un questionario preliminare sull’impatto sui diritti ai sensi dell’AI Act
- CHIME: il 93,2% delle organizzazioni sanitarie intervistate usa l’IA
- L’ente regolatore delle università inglesi chiede più valutazioni senza IA
- Nadella afferma che molte infrastrutture critiche non possono essere corrette con patch
- Ofqual chiede formazione sulla tecnologia indossabile e prepara proposte sull’IA per gli A-level