Vor dem Hintergrund der schnellen Entwicklung der Medizintechnik sticht die künstliche Intelligenz als Motor des Wandels hervor, der verspricht, Zeit zu sparen, die Präzision zu verbessern und im Grunde genommen die Gesundheitsversorgung zu revolutionieren. Zu den interessantesten Entwicklungen, die ein Editorial des BMJ von Chris Stokel-Walker behandelt, gehören KI-Tools wie die App Hyfe für die Überwachung von Husten. Sie stützt sich auf maschinelles Lernen und diagnostiziert ausgehend von der Art des Hustens der Patient:innen Krankheiten.
Doch während immer mehr KI-Tools auf den Markt kommen, stellt sich weiterhin die Frage, wie verlässlich ihre Ergebnisse sind. Der Artikel beleuchtet die Herausforderungen, die mit der Bewertung dieser Instrumente einhergehen und betont, dass strenge Tests und Prüfungsverfahren notwendig sind. Tatsächlich setzen einige, anders als die künstliche Intelligenz von Google für die Analysen von Aufnahmen der medizinischen Bildgebung, die Peer Reviews unterzogen und in renommierten Fachzeitschriften veröffentlicht werden, vor allem auf Pressemitteilungen, um theoretisch revolutionäre Ergebnisse zu veröffentlichen.
Tate Erlinger, Vizepräsident von Clinical Analytics von Elsevier, weist auf die Vertrauensprobleme hin, die mit künstlicher Intelligenz einhergehen, und hebt hervor, dass ihre Eigenschaft, eine Art „Black Box“ zu sein, zu den größten Herausforderungen gehört.
Die Unvorhersehbarkeit der IA-Algorithmen, einschließlich ihrer Fähigkeit, sich bei Aufgaben hervorzutun, die über die ursprünglichen Ziele hinausgehen, macht den Bewertungsprozess zweifellos komplexer. Erlinger bemerkt, dass das Vertrauen in KI im Laufe der Zeit aufgebaut werden muss, und zwar über strenge Tests in unterschiedlichen klinischen Situationen und mit unterschiedlichen Populationen.
Dazu gesellen sich ethische Bedenken. Ismael Kherroubi García, Ethikberater von Genomics England, warnt vor dem KI-Hype. Es besteht Anlass zur Sorge, dass die eindrucksvollen Zahlen und die Kosteneffizienz dazu führen, dass diese Instrumente ohne ausreichende wissenschaftliche Bewertung wie zum Beispiel klinische Studien angewendet werden.
Was diese Sorgen betrifft, kommt den Vorschriften in den einzelnen Ländern eine entscheidende Rolle zu. In Großbritannien überwacht die Medicines and Healthcare Products Regulatory Agency die Zulassung von IA-Systemen, die als Medizinprodukte klassifiziert sind, während in den USA die Food and Drug Administration einige Verwendungen von KI in der Medizin reglementiert und andere nicht.
Jedoch sind sich alle einig, dass KI das Potenzial hat, die Medizin zu verändern.
Die KI-Revolution in der Medizin schreitet fort, es wird weiter geforscht und Validierungsprozesse sowie die internationale Zusammenarbeit sind zwingend notwendig. Die Fehlbarkeit von künstlicher Intelligenz, belegt von Studien wie die zu ChatGPT, macht deutlich, wie wichtig es ist, Strukturen zur Bewertung ihrer Leistungen und Grenzen zu entwickeln. Leitlinien wie die von Forschenden der Universität Newcastle veröffentlichte Roadmap sollen die Ärzt:innen bei der Entwicklung und Bewertung von IA-basierten Tools leiten und einen multidisziplinären Ansatz des Entscheidungsprozesses gewährleisten.
Abschließend unterstreicht das Editorial, dass ein vorsichtiger und evidenzbasierter Ansatz erforderlich ist, auch wenn KI verspricht, die Gesundheitsfürsorge zu verwandeln. Das Zusammenspiel von technologischer Innovation, ethischen Betrachtungen und gesetzlichen Standards werden maßgeblich dafür sein, in welcher Weise künstliche Intelligenz in das Gefüge der modernen Medizin integriert werden wird, während Forschung und Lehre eine wesentliche Rolle im Hinblick auf die zukünftigen Veränderungen spielen.
Fonte
Stokel-Walker C. How does medicine assess AI? BMJ 2023;383:p2362