Ir al contenido
AI.info

The Pulse

Inglaterra publica orientaciones no vinculantes sobre IA para los servicios sociales

Las nuevas orientaciones indican que la IA no debe tomar decisiones sobre riesgos, elegibilidad o intervenciones en los servicios sociales para la infancia y para adultos. Los profesionales deben revisar los borradores generados por IA y utilizar herramientas aprobadas conforme a las políticas de sus organizaciones.

Inglaterra publica orientaciones no vinculantes sobre IA para los servicios sociales

La IA no debe tomar decisiones sobre riesgos, elegibilidad o intervenciones en los servicios sociales para la infancia y para adultos, según las nuevas orientaciones del Gobierno para Inglaterra. El Departamento de Educación y el Departamento de Salud y Atención Social publicaron las orientaciones el 20 de noviembre, junto con una guía rápida para profesionales.

Fuente gov.uk

Las orientaciones no son vinculantes y dejan en manos de cada organización decidir si adopta la IA y cómo hacerlo. Indican que el asesoramiento debe aplicarse junto con las políticas locales, las normas profesionales y los requisitos legales y reglamentarios vigentes.

Ámbitos en los que la IA puede ayudar

Están dirigidas principalmente a las autoridades locales que prestan servicios sociales para la infancia y para adultos, aunque sus principios también se aplican a otras organizaciones que ofrecen servicios sociales y servicios relacionados. Las orientaciones se dirigen a profesionales de primera línea, supervisores y responsables, así como al personal que trabaja en ámbitos como la protección de datos, las adquisiciones y la transformación digital.

Los departamentos señalan que la IA puede ayudar a transcribir visitas y reuniones de voz a texto, o a redactar notas de casos, informes y cartas. Los profesionales deben revisar esos borradores y añadir observaciones pertinentes, como el lenguaje corporal, el tono y aspectos del entorno físico que una herramienta podría pasar por alto.

La guía para profesionales propone otros posibles usos, como reunir información antes de una evaluación, detectar lagunas en los registros, simplificar información compleja y traducir textos. Indica que la IA puede ayudar a organizar información o preparar un borrador de evaluación o plan de atención, pero que el análisis, las conclusiones y las recomendaciones deben reflejar el criterio propio del profesional.

Las decisiones siguen en manos de los profesionales

Según las orientaciones, los profesionales deben tratar los resultados de la IA como un primer borrador y comprobarlos y modificarlos antes de utilizarlos. Entre los riesgos que las organizaciones deben gestionar, se señalan las inexactitudes, los sesgos y la dependencia excesiva de los resultados de la IA.

La guía rápida indica que comprobar el trabajo asistido por IA implica algo más que corregirlo: los profesionales deben verificar si es preciso, si está respaldado por pruebas y si refleja su criterio. Cuando proceda, deben considerar la posibilidad de que la persona que recibe atención, o su familia, vea una transcripción o un resumen, para que su voz y sus necesidades queden reflejadas con precisión.

Datos y supervisión

Las orientaciones indican que las organizaciones deben contar con mecanismos de gobernanza —o estar trabajando para establecerlos— que abarquen el uso aceptable, la gestión de datos, la formación, la supervisión y la revisión. Deben dejar claro qué herramientas están aprobadas y en qué condiciones pueden utilizarse.

No se debe introducir información personal en herramientas de IA de acceso público, y el personal debe seguir las políticas de protección de datos de su organización. Las organizaciones también deben proporcionar políticas accesibles que expliquen cómo se comunica el uso de la IA, qué opciones tienen las personas y cómo se gestionan las objeciones.

Las orientaciones también advierten que una implementación deficiente de la IA puede reducir las oportunidades de interacción significativa y socavar la confianza. Piden a las organizaciones que tengan en cuenta a las personas que pueden tener un acceso digital limitado o necesitar ayuda para interactuar con la tecnología, y que consideren la posibilidad de involucrar a quienes reciben atención en el diseño o la gobernanza de los servicios.

Los departamentos esperan que en el futuro se elaboren más recursos y se preste más apoyo sobre la base de estas orientaciones.

Fuentes

  1. Fuente original · Página de un gobierno o una agencia GOV.UK · Artificial intelligence AI in social care gov.uk

Otras páginas leídas

  1. GOV.UK · AI in social care gov.uk
  2. GOV.UK · Using AI in social care a quick guide for practitioners gov.uk

Noticias relacionadas

Explora

Más artículos