27.05.2024

ChatGPT und Co. – Eine Lösung auch für aktuelle Probleme im deutschen Gesundheitssystem?

Datenqualität ist der Schlüsselfaktor, wenn es um die Verbesserung der Krankenversorgung im deutschen Gesundheitswesen geht. Dabei geht es um Interoperabilität, Standards in der Dokumentation und um die Bereitschaft zu mehr Transparenz. Die Möglichkeiten, die Dialogassistenztools wie ChatGPT in Zukunft sicherlich auch für die Gesundheitsversorgung bietet, dürfen nicht darüber hinwegtäuschen, dass Deutschland erst noch selbst ein paar Hausaufgaben bewältigen muss.

Bei einer Erkrankung nicht die richtige Hilfe zu finden, ist eine Tragödie. Dieses Schicksal trifft beispielsweise oft Menschen mit sogenannten Seltenen Erkrankungen (SE) (wir berichteten). Medizinisch erfahren diese Menschen in der Versorgung die gleiche Aufmerksamkeit der Behandelnden wie Patient:innen, für die Versorgungsroutinen entwickelt wurden. Doch Routinen gibt es bei SE eben (noch) nicht und die heterogene Datenlandschaft macht es den Behandelnden quasi unmöglich, zusammenzuarbeiten und nicht jedes Mal wieder den Patienten Null vor sich zu haben. Es bedarf neben einer abgestimmten Dokumentation, eine gemeinsame, datenschutzkonforme und intelligente Nutzung der Patientendaten über Einrichtungsgrenzen hinweg. In so einem zertifizierten, qualitätsgesicherten Umfeld kann Künstliche Intelligenz (KI), wie ChatGPT, trainiert und zu einem Game Changer für Behandelnde und Patient:innen werden, indem es Ärzt:innen mit Zugriff auf entsprechende Wissensbibliotheken in Verbindung der Patientendaten unterstützt, seltene Krankheiten zu diagnostizieren.

Wann spricht man von einer Seltenen Erkrankung?

Nach der in Europa gültigen Definition ist eine Erkrankung dann selten, wenn nicht mehr als fünf von 10.000 Menschen darunter leiden. Zusammengenommen sind SE jedoch durchaus kein seltenes Phänomen: Es gibt über 6.000 SE und allein in Deutschland sind in etwa 4 Millionen Patient:innen betroffen.

KI als Teil eines Vier-Augen-Prinzips

Doch es sind nicht nur diese vermeintlichen Ausnahmesituationen, die von einem digitalen, modernen Gesundheitswesen profitieren – mit KI als Kirsche auf dem Kuchen, die aber niemals die darunter liegenden Schichten ersetzen kann. Die Weltgesundheitsbehörde hat in ihrem Bericht festgehalten, dass alle fünf Minuten ein Mensch wegen falscher medizinischer Behandlung stirbt; dabei passieren die schlimmsten Fehler im Zusammenhang mit Befundung/Diagnose und der Medikation – die nicht nur Tote fordert, sondern auch zur Kostenexplosion (allein in den USA 42 Milliarden US-Dollar) führt. Betrachtet man allein die häufigsten Medikationsfehler, wie zum Beispiel Doppelverschreibungen, Nicht-Berücksichtigung notwendiger Dosisanpassungen, Übersehen von Gegenanzeigen oder Wechselwirkungen, so sind das Dinge, die sich durch ein „Vier-Augen-Prinzip” (Mensch-Computer) reduzieren ließen; auch der Abgleich mit aktuellen Behandlungsleitlinien, die immer wieder eingefordert werden, wäre ein gutes Beispiel. Und doch sind noch immer datengetriebene Kontrollmechanismen zur Vermeidung von Behandlungsfehlern wenig verbreitet.
Dabei sehen Mediziner:innen selbst neue Technologien als Teil der Lösung und fordern sie ein. 67 Prozent sind der Meinung, dass Praxen und Krankenhäuser ihre Kosten mithilfe digitaler Technologien senken können, 62 Prozent glauben, dass digitale Technologien Behandlungen und auch die Prävention verbessern.

Einsatzmöglichkeiten vs Trainingsdaten

Tatsächlich aber ist das Thema Künstliche Intelligenz (KI) und insbesondere die Verarbeitung natürlicher Sprache nie zuvor so im Fokus der Berichterstattung gewesen, seit die amerikanische Firma Open AI ihr Tool vorstellte und damit ein Beben auslöste. Es gibt nahezu keine Branche, die derzeit nicht etwaige Einsatzmöglichkeiten prüft. So sind Technologieexpert:innen überzeugt, dass Softwarelösungen wie ChatGPT für die Digitalisierung des Gesundheitssystem eine große Rolle spielen können, insbesondere in Krankenhäusern. So kann ChatGPT als Kommunikations- und Informationskanal für Patient:innen und medizinische Fachkräfte fungieren. Aber unter Umständen auch als „medizinischer Assistent” für komplexere Fragestellungen, wie die Unterstützung bei der Diagnostik, Behandlung sowie deren Dokumentation.

Auf die Frage, wer er denn sei, kontert der Bot mit: „ChatGPT (Chat-Centric Problem-Solving Tool) ist ein Tool, mit dem Benutzer Probleme in einer Chat-Umgebung diskutieren und lösen können. Es ermöglicht Benutzern, Fragen zu stellen, Antworten zu erhalten und weiterführende Informationen bereitzustellen. ChatCPT unterstützt das Problem-Solving, indem es Benutzern hilft, Szenarien zu erstellen, die das Problem betreffen, und die Ergebnisse zu visualisieren, um das Verständnis und die Kommunikation zu erleichtern”. Doch jeder Bot ist nur so gut wie die Basis, auf der er trainiert wurde. Seine herausragenden Fähigkeiten liegen in der Kombinationsfähigkeit aus den zuvor verfügbaren Informationen.

Standortnachteil Deutschland

Und darin liegt hierzulande die Crux. Auch die jüngsten Digitalisierungsstrategien, allen voran das Krankenhauszukunftsgesetz (KHZG), ändern wenig daran, dass in puncto Digitale Transformation Deutschland nicht in der ersten Liga spielt. Die IT ist oft veraltet, überall besteht Nachholbedarf. Dass Daten in unterschiedlichen Formaten auf unterschiedlichen Plattformen gespeichert werden, verringert die Datenqualität. Bestehende Standards für sichere Verarbeitung und effizienten Datenaustausch existieren, werden aber nicht eingesetzt. Die konsistente Verwendung von Codes beschränkt sich im Wesentlichen auf die Todesursachenstatistik und die Abrechnung, allerdings auch hier mit nicht unerheblichen Verzerrungen.

Auch wenn Daten weithin elektronisch gespeichert werden, so sind Datenbanken der verschiedenen Einrichtungen und Organisationen derzeit kaum miteinander verbunden. Der Aufbau der Datenintegrationszentren, die die Medizininformatik-Initiative vorantreibt, ist hier ein wichtiger Schritt in Richtung Zusammenarbeit und Bereitstellung qualitativ hochwertiger Gesundheitsinformationen. Andererseits geht ausgerechnet die Einführung der elektronischen Patientenakte (ePA), der Nukleus unseres zukünftigen datengestützten Gesundheitswesens, nur schleppend voran – und bleibt im Alltag weit hinter der Nutzung des Faxgerätes zurück.

Das Trainingsumfeld ist Schlüsselfaktor

Und damit kommen wir auch schon zum ersten Problem: Das Trainingsumfeld. Unbestritten scheint schon jetzt die Qualität, mit der dieses generische Dialogwerkzeug weite Teile unseres Alltags in Zukunft revolutionieren wird und welche Möglichkeiten sich auch für die Forschung daraus ergeben werden.

Doch, wenn wir schon einer Künstlichen Intelligenz das Leben von Patient:innen anvertrauen wollen, sollten wir wenigstens für eine bestmögliche Datenbasis sorgen. Und, um die zu schaffen, werden wir keine Entwicklungsschritte auslassen können.

Kommunikation entscheidet über Qualität

Eins der Schlüsselthemen hat er dabei nebenbei erwähnt: Kommunikation. Kommunikation ist überall ein kritisches Element zur Problemlösung in Workflows. Schlechte Kommunikation führt zu schlechten Problemlösungen und somit zu schlechter Qualität. In welchem Szenario auch immer. Dokumentationsaufwand und Zeitdruck leben in der Krankenversorgung eine unheilige Allianz. Unisono klagen Ärztinnen und Ärzte und vor allem auch die Pflegenden über überbordende Dokumentationsaufgaben, die nahezu die Hälfte ihrer Arbeitszeit betreffen. Darüber hinaus sind im Zusammenhang mit der Corona-Pandemie noch weitere Probleme im Gesundheitswesen in besonderem Maße in Erscheinung getreten. Stellen sind unbesetzt, Praxen überlastet, die Dienststellen des öffentlichen Gesundheitsdienstes (ÖGD) können quasi nicht miteinander kommunizieren, immer mehr Menschen benötigen Zugang zu medizinischer Versorgung etc. und der demografische Wandel gießt weiter Öl ins Feuer und drängt auf digitale Lösungen.

Schon Spracherkennung kann hier an manchen Stellen zur Entlastung führen, noch besser wäre aber natürlich eine Künstliche Intelligenz. Am allerbesten wäre eine Spracherkennung, die mit Large Language Modellen, wie beispielsweise ChatGPT, trainiert werden kann, um smarte Mehrwertanwendungen für den Klinikalltag zu entwickeln.

In die Zukunft gedacht, gibt es im Bereich Healthcare tatsächlich ein großes Feld an Anwendungsmöglichkeiten, die ein hohes Potenzial mitbringen, das Personal zu entlasten, die Versorgung zu verbessern und die Patientensicherheit zu erhöhen.

KI-Tools – Die Lösung einiger, aber nicht aller Probleme

Betrachtet man die Anwendungsmöglichkeiten vor dem Hintergrund, dass die genannten Herausforderungen gelöst werden konnten, fallen tatsächlich zahlreiche Szenarien ins Auge: Automatisierung der Arztbriefschreibung (inkl. Übersetzung in leichte, patientenorientierte Sprache) und der Abrechnung, die Kodierung von Krankheiten und Prozeduren, die Prüfung der Patientendaten auf Behandlungsfehler, Abgleich mit aktuellen Leitlinien und Hilfestellung bei Diagnosen und Therapien. Vieles davon bedeutet die administrative Entlastung des Klinikpersonals, bei gleichzeitiger Verbesserung der Dokumentation und Erhöhung der Patientensicherheit. Kurzum: Egal, worauf die Vergütung medizinischer Leistungen in Deutschland künftig basieren wird – Technologien wie ChatGPT könnten die komplette Abrechnung anhand der Behandlungsdaten vollautomatisiert erstellen und selbst die menschliche Kodierung wird mittelfristig komplett verschwinden.

Wesentliche Defizite des Chatbots (noch)

Zum einen seine Tendenz zum „Fabulieren”, für die ChatGPT fast schon berüchtigt ist. Wenn der Chatbot nicht weiterweiß, werden Phrasen gedroschen, die nicht nur unsinnig oder falsch, sondern auch patientengefährdend sein könnten. So wird aus „OAK bei VHFA" (orale Antikoagulation bei Vorhofflimmernarrythmie) wortreich erläutert zu „Ophthalmoskopie, Auskultation und Klopfen", wohingegen die Google-Suchmaschine auf „OAK bei VHFA" Textfragmente liefert, aus denen sich die Bedeutung der Kürzel zweifelsfrei erschließt, inkl. Links auf die Treffer-URLs plus Quellverweis.

Zum anderen die Tatsache, dass zum Trainieren eben bisher ausschließlich im Internet publizierte Inhalte zur Verfügung standen. Diese decken den typischen Klinikjargon nur unzureichend ab. Es ist für im Gesundheitswesen eingesetzte Dialogsysteme zu fordern, dass sie einerseits eher keine Antworten als Fake-Antworten liefern, und dass Möglichkeiten gefunden werden, sie mit Kliniksprache zu trainieren.

Eine besondere Bedeutung kommt der automatischen Zusammenfassung zu. Um beispielsweise die akut entscheidungsrelevanten Fakten multimorbider Patient:innen und ihrer Krankenhausaufenthalte zu erfassen, müssten Ärzt:innen selbst mit ePA mühsam Dutzende Arztbriefe und Befundtexte durcharbeiten. Doch selbst zum Überfliegen ist meist keine Zeit. So bleiben relevante Fakten wie frühere Medikationen oder Allergien leicht auf der Strecke. Ein Dialogsystem, welches die relevanten Fakten aus der Krankengeschichte zusammenfasst, wäre ein riesiger Fortschritt für die jeweilige Entscheidungssituation.

Auf der anderen Seite könnten Arztinformationen so in patientengerechter Sprache generiert werden, die auch nachhaltig, die so dringend angemahnte Gesundheitskompetenz der Bürger:innen stärkt.

Was braucht es für den Einsatz dieser Technologien?

Doch so verlockend es sich auch anhört, noch sind einige, gewichtige Probleme vor dem Einsatz von Dialogassistenten wie ChatGPT im Gesundheitswesen zu lösen. Da sind zum einen Fragen zum Datenschutz und Compliance, die das Zusammenführen von Daten über Einrichtungsgrenzen hinweg regeln. Hier könnte bspw. der „European Health Data Space“ (EHDS) als Datengrundlage für das Trainieren der Modelle dienen. Die Trainingsdaten wären dadurch in einem gesicherten Raum, sind standardisiert und vor allem unter zentraler Kontrolle. Vor allem Standards in der Datenqualität können dazu beitragen, Modelle mit geringeren Fehlerquoten in den Antworten zu generieren.

Auch muss die Frage, ob ChatGPT ein Medizinprodukt ist, geklärt werden. Die größte Schwäche des Bots aber ist, das Produzieren plausibler Unwahrheiten. Diese Unwahrheiten sind meist sogar in einen sehr plausiblen Kontext eingebettet und so nah an der Realität, dass es oft Expert:innen braucht, um diese identifizieren zu können. Damit einher geht das Problem, dass es aktuell nicht möglich ist, das Modell nach Quellen und Belegen für Fakten zu fragen. Selbst hier werden plausible Quellen genannt, die jedoch oft gar nicht existieren.

Perspektive

Auch wenn es bis zu einer routinemäßigen Nutzung von Softwarelösungen wie ChatGPT innerhalb des ärztlichen Alltags noch Jahre vergehen werden, so überlassen wir das Schlusswort gerne dem vermeintlichen Game Changer: „ChatGPT hat das Potenzial, als digitale Assistentin für Ärzte und Pflegepersonal zu dienen, indem es schnelle und zuverlässige medizinische Informationen bereitstellt und bei der Verwaltung von Patientendaten unterstützt.” Es wird aber keinesfalls irgendwann in der Lage sein, menschliche Expertise gänzlich abzulösen.

Autorin: Claudia Dirks, Head of Communications Unboxing Healthcare

Weitere Informationen:

  • apotheke adhoc (2023) Offener Brief ans BfArM: Ist ChatCPT ein Medizinprodukt? Abgerufen von: LINK
  • bitkom (2017)  Digital Health: Ärzte sind offen für die digitale Zukunft der Medizin. Abgerufen von: LINK
  • Deutscher Industrie- und Handelskammertag (n.d.) Demografischer Wandel und Gesundheitswirtschaft: Herausforderungen und Chancen. Abgerufen von: LINK
  • Deutsches Ärzteblatt (2017) Klinikmanagement: Arbeiten am Computer beanspruchen zu viel Zeit. Abgerufen von: LINK
  • Schwanitz, A.K. (2020) So viele medizinische Behandlungsfehler passieren weltweit. Expat News. Abgerufen von: LINK

Interesse geweckt?

In unserem Magazin findest du weitere, spannende Artikel!

Unsere Gründungspartner

Consent Management Platform von Real Cookie Banner