The Pulse
Inglaterra publica orientação não vinculativa sobre IA na assistência social
Novas orientações dizem que a IA não deve tomar decisões sobre risco, elegibilidade ou intervenções na assistência social a crianças e adultos. Profissionais devem revisar rascunhos gerados por IA e usar ferramentas aprovadas de acordo com as políticas de suas organizações.

A IA não deve tomar decisões sobre risco, elegibilidade ou intervenções na assistência social a crianças e adultos, segundo novas orientações do governo da Inglaterra. O Department for Education e o Department of Health and Social Care publicaram as orientações em 20 de novembro, junto com um guia rápido para profissionais.
Fonte gov.uk
As orientações não são vinculantes e deixam a critério de cada organização decidir se e como adotar a IA. Elas dizem que as recomendações devem ser aplicadas em conjunto com as políticas locais, os padrões profissionais e os requisitos legais e regulatórios existentes.
Onde a IA pode ajudar
As orientações são voltadas principalmente às autoridades locais que prestam assistência social a crianças e adultos, embora seus princípios também se apliquem a outras organizações que oferecem assistência social e serviços relacionados. Elas se dirigem a profissionais da linha de frente, supervisores e gestores, bem como a equipes que trabalham em áreas como proteção de dados, contratações e transformação digital.
Os departamentos dizem que a IA pode ajudar a transcrever em texto visitas e reuniões, ou a elaborar rascunhos de anotações de caso, relatórios e cartas. Os profissionais devem revisar esses rascunhos e acrescentar observações relevantes, incluindo linguagem corporal, tom de voz e aspectos do ambiente físico que uma ferramenta pode não perceber.
O guia para profissionais sugere outros usos possíveis, como reunir informações antes de uma avaliação, identificar lacunas nos registros, simplificar informações complexas e traduzir textos. Ele diz que a IA pode ajudar a organizar informações ou preparar um rascunho de avaliação ou plano de cuidados, mas a análise, as conclusões e as recomendações devem refletir o julgamento profissional do próprio profissional.
As decisões continuam nas mãos dos profissionais
Os profissionais devem tratar os resultados da IA como um primeiro rascunho, verificando-os e fazendo alterações antes de usá-los, dizem as orientações. Entre os riscos que as organizações precisam gerenciar, elas apontam imprecisões, vieses e dependência excessiva dos resultados da IA.
O guia rápido diz que verificar um trabalho feito com ajuda da IA vai além de revisar o texto: os profissionais devem avaliar se ele é preciso, tem respaldo em evidências e reflete seu julgamento. Quando apropriado, devem considerar permitir que a pessoa que recebe cuidados, ou sua família, veja uma transcrição ou um resumo, para que sua voz e suas necessidades sejam registradas com precisão.
Dados e supervisão
As orientações dizem que as organizações devem ter — ou estar trabalhando para estabelecer — mecanismos de governança que abranjam o uso aceitável, o tratamento de dados, o treinamento, a supervisão e a revisão. Elas devem deixar claro quais ferramentas são aprovadas e em que condições podem ser usadas.
Informações pessoais não devem ser inseridas em ferramentas de IA de acesso público, e os funcionários devem seguir as políticas de proteção de dados de suas organizações. As organizações também devem fornecer políticas acessíveis que expliquem como o uso da IA é comunicado, quais opções as pessoas têm e como as objeções são tratadas.
As orientações também alertam que uma IA mal implementada pode reduzir as oportunidades de interação significativa e minar a confiança. Elas pedem que as organizações considerem as pessoas que podem ter acesso digital limitado ou precisar de ajuda para interagir com a tecnologia, e que avaliem envolver as pessoas que recebem cuidados no desenho dos serviços ou na governança.
Os departamentos esperam que recursos e apoio adicionais complementem as orientações no futuro.
Fontes
- Fonte original · Página de governo ou de agência GOV.UK · Artificial intelligence AI in social care gov.uk
Outras páginas lidas
Notícias relacionadas
- OpenAI diz que revisões de segurança estão atrasando lançamentos de modelos de fronteira
- Nadella diz que muita infraestrutura crítica não pode receber patches
- Comissão Europeia diz que campanha cibernética ligada à IA atingiu seus sistemas
- Demanda de energia de data centers associada a mortes em regiões distantes, aponta estudo do MIT
- Órgão dos EUA busca contribuições sobre o uso de IA em processos de adjudicação federais