Zum Inhalt springen
AI.info

The Pulse

England veröffentlicht unverbindliche KI-Leitlinien für die Sozialfürsorge

Neue Leitlinien besagen, dass KI in der Sozialfürsorge für Kinder und Erwachsene keine Entscheidungen über Risiken, Anspruchsberechtigung oder Maßnahmen treffen sollte. Fachkräfte sollten von KI erstellte Entwürfe überprüfen und zugelassene Tools gemäß den Richtlinien ihrer Organisationen nutzen.

England veröffentlicht unverbindliche KI-Leitlinien für die Sozialfürsorge

KI sollte keine Entscheidungen über Risiken, Anspruchsberechtigung oder Maßnahmen in der Sozialfürsorge für Kinder und Erwachsene treffen, heißt es in neuen Leitlinien der Regierung für England. Das Bildungsministerium und das Ministerium für Gesundheit und Soziales veröffentlichten die Leitlinien am 20. November zusammen mit einem Kurzleitfaden für Fachkräfte.

Quelle gov.uk

Die Leitlinien sind nicht rechtsverbindlich und überlassen es den einzelnen Organisationen zu entscheiden, ob und wie sie KI einsetzen. Laut den Leitlinien sollten die Empfehlungen zusammen mit lokalen Richtlinien, fachlichen Standards und bestehenden gesetzlichen und regulatorischen Anforderungen angewendet werden.

Wo KI unterstützen kann

Die Leitlinien richten sich in erster Linie an Kommunalverwaltungen, die Sozialfürsorge für Kinder und Erwachsene anbieten. Ihre Grundsätze gelten jedoch auch für andere Organisationen, die Sozialfürsorge und damit verbundene Dienstleistungen anbieten. Sie richten sich an Fachkräfte in der direkten Arbeit, an Vorgesetzte und Führungskräfte sowie an Beschäftigte in Bereichen wie Datenschutz, Beschaffung und digitale Transformation.

Den Ministerien zufolge kann KI bei der Transkription von Besuchen und Besprechungen mithilfe von Spracherkennung oder bei Entwürfen für Fallnotizen, Berichte und Briefe helfen. Fachkräfte sollten diese Entwürfe überprüfen und relevante Beobachtungen ergänzen, darunter Körpersprache, Tonfall und Aspekte der physischen Umgebung, die ein Tool möglicherweise nicht erfasst.

Der Leitfaden für Fachkräfte nennt weitere mögliche Einsatzbereiche: Informationen vor einer Beurteilung zusammenzuführen, Lücken in Akten zu erkennen, komplexe Informationen verständlicher zu machen und Texte zu übersetzen. KI könne dabei helfen, Informationen zu ordnen oder einen Entwurf für eine Beurteilung oder einen Pflegeplan vorzubereiten. Die Analyse, Schlussfolgerungen und Empfehlungen sollten jedoch das eigene Urteil der Fachkraft widerspiegeln.

Entscheidungen bleiben den Fachkräften vorbehalten

Fachkräfte sollten KI-Ausgaben als ersten Entwurf behandeln und diesen vor der Verwendung überprüfen und überarbeiten, heißt es in den Leitlinien. Als Risiken, mit denen Organisationen umgehen müssen, nennen sie Ungenauigkeiten, Verzerrungen und ein unangemessenes Vertrauen in KI-Ausgaben.

Der Kurzleitfaden betont, dass die Überprüfung KI-gestützter Arbeit mehr umfasst als Korrekturlesen: Fachkräfte sollten prüfen, ob sie korrekt und durch Belege gestützt ist und ihr eigenes Urteil widerspiegelt. Gegebenenfalls sollten sie erwägen, der betreuten Person oder ihrer Familie ein Transkript oder eine Zusammenfassung zu zeigen, damit ihre Stimme und ihre Bedürfnisse korrekt erfasst werden.

Daten und Aufsicht

Laut den Leitlinien sollten Organisationen über Regelungen zur Governance verfügen oder auf deren Einführung hinarbeiten. Diese sollten die zulässige Nutzung, den Umgang mit Daten, Schulungen, Aufsicht und Überprüfung abdecken. Die Organisationen sollten klar angeben, welche Tools zugelassen sind und unter welchen Bedingungen sie verwendet werden dürfen.

Personenbezogene Daten sollten nicht in öffentlich zugängliche KI-Tools eingegeben werden. Beschäftigte sollten die Datenschutzrichtlinien ihrer Organisation befolgen. Organisationen sollten außerdem leicht zugängliche Richtlinien bereitstellen, die erläutern, wie die Nutzung von KI offengelegt wird, welche Wahlmöglichkeiten Menschen haben und wie Einwände behandelt werden.

Die Leitlinien warnen auch, dass schlecht implementierte KI die Möglichkeiten für eine sinnvolle Einbindung verringern und das Vertrauen untergraben kann. Organisationen sollten Menschen berücksichtigen, die möglicherweise nur eingeschränkten Zugang zu digitalen Angeboten haben oder Unterstützung bei der Nutzung von Technologie benötigen. Außerdem sollten sie erwägen, Menschen, die betreut werden, in die Gestaltung der Dienste oder deren Governance einzubeziehen.

Die Ministerien rechnen damit, die Leitlinien künftig durch weitere Ressourcen und Unterstützung zu ergänzen.

Quellen

  1. Originalquelle · Seite einer Regierung oder Behörde GOV.UK · Artificial intelligence AI in social care gov.uk

Weitere gelesene Seiten

  1. GOV.UK · AI in social care gov.uk
  2. GOV.UK · Using AI in social care a quick guide for practitioners gov.uk

Verwandte Meldungen

Entdecken

Weitere Artikel