The Pulse
L’Angleterre publie des recommandations non contraignantes sur l’IA dans les services sociaux
De nouvelles recommandations indiquent que l’IA ne devrait pas prendre de décisions concernant le risque, l’admissibilité ou les interventions dans les services sociaux destinés aux enfants et aux adultes. Les professionnels devraient vérifier les brouillons générés par l’IA et utiliser des outils approuvés, conformément aux politiques de leur organisation.

L’IA ne devrait pas prendre de décisions concernant le risque, l’admissibilité ou les interventions dans les services sociaux destinés aux enfants et aux adultes, selon de nouvelles recommandations du gouvernement pour l’Angleterre. Le ministère de l’Éducation et le ministère de la Santé et des Affaires sociales ont publié ces recommandations le 20 novembre, ainsi qu’un guide pratique à l’intention des professionnels.
Source gov.uk
Ces recommandations ne sont pas contraignantes et laissent à chaque organisation le soin de décider si elle adopte l’IA et de quelle manière. Elles indiquent que les conseils doivent être appliqués en complément des politiques locales, des normes professionnelles et des exigences légales et réglementaires en vigueur.
Les usages possibles de l’IA
Elles s’adressent principalement aux autorités locales qui fournissent des services sociaux aux enfants et aux adultes, mais leurs principes s’appliquent aussi à d’autres organisations proposant des services sociaux et des services connexes. Elles concernent les professionnels de première ligne, les superviseurs et les responsables, ainsi que le personnel travaillant dans des domaines comme la protection des données, les achats et la transformation numérique.
Les ministères indiquent que l’IA peut aider à transcrire en texte les visites et les réunions, ou à rédiger des notes de dossier, des rapports et des lettres. Les professionnels devraient vérifier ces brouillons et y ajouter les observations pertinentes, notamment sur le langage corporel, le ton et certains aspects de l’environnement physique qu’un outil pourrait ne pas détecter.
Le guide destiné aux professionnels suggère d’autres usages possibles, notamment rassembler des informations avant une évaluation, repérer les lacunes dans les dossiers, simplifier des informations complexes et traduire des textes. Il indique que l’IA peut aider à organiser des informations ou à préparer un projet d’évaluation ou de plan de prise en charge, mais que l’analyse, les conclusions et les recommandations devraient refléter le jugement propre du professionnel.
Les décisions restent du ressort des professionnels
Les professionnels devraient considérer les résultats de l’IA comme un premier brouillon, à vérifier et à modifier avant utilisation, indiquent les recommandations. Elles citent les inexactitudes, les biais et le recours excessif aux résultats de l’IA parmi les risques que les organisations doivent gérer.
Le guide pratique indique que vérifier un travail réalisé avec l’aide de l’IA ne se limite pas à le relire : les professionnels devraient vérifier s’il est exact, étayé par des éléments probants et conforme à leur jugement. Le cas échéant, ils devraient envisager de laisser la personne accompagnée, ou sa famille, consulter une transcription ou un résumé afin que son point de vue et ses besoins soient fidèlement restitués.
Données et supervision
Les recommandations indiquent que les organisations devraient disposer, ou s’employer à mettre en place, des dispositifs de gouvernance portant sur les usages acceptables, le traitement des données, la formation, la supervision et la vérification. Elles devraient préciser quels outils sont approuvés et sous quelles conditions ils peuvent être utilisés.
Les informations personnelles ne devraient pas être saisies dans des outils d’IA accessibles au public, et le personnel devrait respecter les politiques de protection des données de son organisation. Les organisations devraient également mettre à disposition des politiques accessibles expliquant comment l’utilisation de l’IA est signalée, quels choix s’offrent aux personnes et comment les objections sont traitées.
Les recommandations avertissent également qu’une IA mal mise en œuvre peut réduire les possibilités d’échanges réellement utiles et entamer la confiance. Elles demandent aux organisations de prendre en compte les personnes dont l’accès au numérique peut être limité ou qui peuvent avoir besoin d’aide pour utiliser les technologies, et d’envisager d’associer les personnes accompagnées à la conception des services ou à leur gouvernance.
Les ministères s’attendent à ce que de nouvelles ressources et formes de soutien viennent compléter ces recommandations à l’avenir.
Sources
- Source originale · Page d’un gouvernement ou d’une agence GOV.UK · Artificial intelligence AI in social care gov.uk
Autres pages lues
Articles liés
- OpenAI affirme que les examens de sécurité ralentissent la sortie des modèles de pointe
- Nadella affirme qu’une grande partie des infrastructures critiques ne peut pas être corrigée par un correctif
- La Commission européenne affirme qu’une cybercampagne liée à l’IA a visé ses systèmes
- La demande d’électricité des centres de données liée à des décès à distance, selon une étude du MIT
- Une agence américaine sollicite des avis sur l’usage de l’IA dans les procédures décisionnelles fédérales