Neue WHO-Leitlinien für den ethischen Einsatz von künstlicher Intelligenz im Gesundheitswesen

Ki-basierte Technologien sind dabei, ein wichtiger Bestandteil der globalen Gesundheitssysteme zu werden. Im Gesundheitswesen findet künstliche Intelligenz in den unterschiedlichsten Bereichen immer öfter Anwendung: von der Arzneimittelenwicklung über die Diagnosestellung bis zur Datennutzung.

Die Veröffentlichung der umfassenden Richtlinien der Weltgesundheitsorganisation (WHO) über die ethische Nutzung und die Governance von künstlicher Intelligenz (KI) ist ein historischer Schritt. Der Fokus liegt auf den großen multimodalen Modellen (LMM), ohne Anwendungen zu vergessen, die an Bedeutung gewinnen, etwa die patientengeführte Diagnose und Therapie und die ärztliche und pflegerische Ausbildung.

Der WHO-Leitfaden mit 40 Empfehlungen behandelt die wichtigsten Aspekte von KI im Gesundheitswesen und hebt hervor, wie wichtig die Ethik beim Einsatz künstlichen Intelligenz ist. Dies betrifft insbesondere die Transparenz und die leichte Verständlichkeit von KI-Systemen, um zu gewährleisten, dass die Patient:innen Gesundheitsentscheidungen autonom und verantwortlich treffen können. Große multimodale Modelle (LMM) können unterschiedliche Arten von Daten verarbeiten und haben ein großes Potenzial im Bereich von Diagnostik, klinischer Betreuung und Forschung. Kritische Punkte sind dagegen der Datenschutz, mögliche Fehler und der Verlust von Arbeitsplätzen im Gesundheitswesen.

Das Thema Fehler wird häufig vernachlässigt, wenn es um KI geht. Bisher haben die von den Modellen hervorgebrachten Ergebnisse eine begrenzte Genauigkeit und Zuverlässigkeit. Da die meisten Ressourcen im Bereich der künstlichen Intelligenz in den Händen von profitorientierten Unternehmen liegen, könnten die Aussagen der Modelle zugunsten von Lösungen verzerrt sein, die ihren Entwicklern zugute kommen. Gleichzeitig besteht das Risiko, dass den Empfehlungen der KI zu großes Vertrauen geschenkt wird.

Zentrales Thema der Richtlinien sind die potenziellen Vorteile und Risiken von künstlicher Intelligenz in der Gesundheitsversorgung. Die Regierungen werden aufgefordert, eine führende Rolle bei der Regulierung von KI im Gesundheitswesen zu übernehmen und den Rahmen für ethische Standards und die Einhaltung der Menschrechte vorzugeben.

Im Übrigen kann es sein, dass sich viele Gesundheitssysteme effiziente und zuverlässige KI-Systeme nicht leisten können.

Die WHO-Richtlinien empfehlen, IA-Systeme verpflichtend regelmäßigen und unabhängigen Kontrollen und Wirkungsbewertungen zu unterziehen, insbesondere was den Datenschutz, die Menschenrechte und die Auswirkungen auf die verschiedenen Bevölkerungsgruppen angeht. Darüber hinaus rufen sie im Namen der Inklusivität auf, alle Betroffenen so weit wie möglich in die Entwicklung der KI miteinzubeziehen (Medizinisches Personal, Patient:innen, KI-Entwickler:innen und die Zivilgesellschaft).

Die Veröffentlichung der WHO-Leitlinien zu diesem Zeitpunkt ist ein wichtiger Schritt im Rahmen der weltweiten Bemühungen, die Vorteile von KI zu nutzen und gleichzeitig die Risiken zu begrenzen. Doch diese Anstrengungen können nur dann erfolgreich sein, wenn sie mit einer internationalen Zusammenarbeit und gemeinsamen Standards einhergehen.

Quelle

Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models. Geneva: World Health Organization, 2024.