News

Medizinethikerin warnt vor blindem Vertrauen in KI

Der Fachkräftemangel und der Einsatz von Künstlicher Intelligenz (KI) sind in der Pflege bestimmende Themen, aber vor allem bei sozialen Interaktionen muss laut Fachleuten kritisch mit KI umgegangen werden.

17.10.2024

Für später speichern

Ein KI-gesteuerter Roboter könne zwar bei Demenzpatienten eine digitale Beziehung simulieren. „Aber wir wissen nicht, wie sich das langfristig auswirkt", sagt die Münchner Medizinethikerin Alena Buyx. (Symbolbild "Pepper") Foto: Werner Krüper

Die Münchner Medizinethikerin Alena Buyx hat zum Start der Fachmesse ConSozial auf das Potenzial von Künstlicher Intelligenz (KI) in der Pflegebranche hingewiesen. KI könne angesichts des Fachkräftemangels Entlastung schaffen, sei aber nicht der Heilsbringer, sagte die Professorin für Ethik der Medizin und Gesundheitstechnologien an der Technischen Universität München (TUM) am 16. Oktober in Nürnberg. Viel Potenzial sehe sie hingegen bei der Pflegedokumentation, wo die Pflegekräfte rund 40 Prozent ihrer Arbeitszeit mit „administrativen Aufgaben vergeuden“.

Allein im Sozialbereich gehe fast ein Drittel der Mitarbeitenden in den nächsten Jahren in den Ruhestand, sagte die frühere Vorsitzende des Deutschen Ethikrates weiter. Gleichzeitig fehle es an Nachwuchs, das Anwerben ausländischer Fachkräfte werde durch bürokratische Verfahren gebremst. Der Fachkräftemangel sei in den sozialen Berufen besonders belastend.

Zugleich wies Buyx aber auch auf die Grenzen von KI hin. „Das System macht auch Fehler“, warnte die Medizinethikerin vor blindem Vertrauen. Zwar gebe es in den USA positive Erfahrungen, etwa beim Aufnahme- und Entlassungsmanagement in Krankenhäusern durch einen Chatbot, weil der alle Fragen „mit endloser Geduld“ auch doppelt und dreifach beantworte. In langen Gesprächen habe die KI aber auch schon mal Patienten eine Scheidung empfohlen. Das sei allerdings nicht so gefährlich, wie ein digitaler Psychotherapeut, der ebenfalls in den USA zum Suizid geraten habe.

Es sei wichtig, potenzielle Anwendungsgebiete zu gestalten und bei Fehlentwicklungen gegenzusteuern, sagte Buyx weiter. Ein KI-gesteuerter Roboter könne zwar bei Demenzpatienten eine digitale Beziehung simulieren. „Aber wir wissen nicht, wie sich das langfristig auswirkt.“ Ein geplanter Pflegeroboter zum Füttern sei im Praxistext mit Pflegefachkräften durchgefallen. Essen verabreichen stehe für „menschliche Interaktion, pflegerische Zuwendung und persönlicher Austausch“.