02.10.2023

KI als Zweitmeinung sollte verpflichtend sein!

Die Kombination Ärzt:innen und KI-Lösungen wird zukünftig weitere neue Behandlungsoptionen mit sich bringen. Eine hiervon könnte die Zweitmeinung durch eine KI sein.

Aber der Reihe nach: Unbestritten ist, dass der Fachkräftemangel auf der einen Seite ein Weiter-so verhindern und die immer weiter zunehmende Digitalisierung auf der anderen Seite neue Möglichkeiten in der Versorgung mit sich bringen wird. Bereits heute gibt es Beispiele bei der Erkennung von Krankheiten, bei der KI-geführte Verfahren gegenüber der rein ärztlichen Begutachtung bereits Vorteile für die KI erkennen lassen, beispielsweise in der Radiologie. Noch vor wenigen Jahren war das die multiparametrische Magnetresonanztomografie (mpMRT) für Prostatauntersuchungen für viele Urolog:innen nichts anderes als Zukunftsmusik, ohne wirkliche Chance auf den Einsatz in der Regelversorgung: „Zu teuer“ oder „zu aufwendig“ hieß es oft! Und mittlerweile handelt es sich um ein etabliertes Standardverfahren.

Auch im Bereich der Brustkrebsuntersuchung gilt neben dem Abtasten der Brust die Mammographie als gesetzt. Beide Praktiken bergen Gefahren des Übersehens, zusammen eingesetzt stehen sie allerdings für eine höhere Sicherheit bei der Erkennung von Brustkrebs. Auch kommen Behandelnde bei Beurteilungen von Tumoren schneller an ihre Grenzen als KI-gesteuerte Systeme. Die reine Feststellung bei Tumoruntersuchungen bezüglich des Wachstums sind zwar oftmals „nur“ schneller, wenn die KI die Beurteilung unterstützt. Aber bereits beim Erkennen, ob sich ein Tumor bewegt hat, ohne beispielsweise gewachsen zu sein, wird der Vorteil für die KI deutlich erkennbar. Genau dies kann ein überlebenswichtiger Vorteil sein. Weiter könnten KI-Lösungen dabei unterstützen, den Behandelnden beispielsweise ihre Befunde zusätzlich mit Daten aus Untersuchungen von (vielen) weiteren Erkrankten, beispielsweise aus einem anonymisierten Datenpool, anzureichern oder weitere in Betracht zu ziehende Krankheitsbilder vorzuschlagen.

Viele offene Fragen

Aber was ist entscheidend für den Siegeszug von KI-Lösungen? Ein wesentlicher Aspekt dabei ist die Akzeptanz beim Einsatz von KI. Dieser darf den Versicherten nicht aufgezwungen werden. Eine große Akzeptanz kann einzig durch das Aufzeigen der Vorteile, besser noch durch das Erlebbarmachen der Mehrwerte selbst erzielt werden. Transparenz auch hinsichtlich der Grenzen von KI ist ein zusätzlicher Aspekt, der nicht nur Akzeptanz schafft, sondern auch das dafür notwenige Vertrauen stärkt. Und dies gilt nicht nur für die Seite der Versicherten, sondern gleichfalls auch für die Seite der Ärzt:innenschaft. Hierbei sind noch viele Fragen offen, wenn man sich die moralischen und ethischen Gesichtspunkte näher betrachtet. Eine KI, die aufgrund einer berechneten geringen wahrscheinlichen Überlebenschance eine Therapie ausschlägt, wünscht sich niemand. Sind doch gerade die kleinen und großen Wunder das, was auch in der Medizin das Berufsbild besonders macht. Und dennoch sind diese Diskussionen unvermeidbar, um die Grenzen zur Unterstützung durch KI festzulegen. Aber eines ist gewiss, wir sind im Gesundheitswesen nicht allein mit dieser Aufgabe. Auch die Automobilbranche steht beispielsweise bei der Umsetzung des autonomen Fahrens vor nicht weniger relevanten Fragestellungen.

Mit diesem Bezug ist ein weiterer nicht zu unterschätzender Punkt das Thema Haftung. Was passiert, wenn ein:e Versicherte:r Schaden durch die Entscheidung einer KI nimmt? Ist diese KI dann für Ihre schädigende Entscheidungen haftbar zu machen beziehungsweise muss sich diese zukünftig vor Gericht verantworten? Letzteres wohl eher nicht. Allerdings wäre es spannend, wenn die „Programmierenden“ zur Verantwortung gezogen werden könnten oder auch die Unternehmen selbst, die entsprechende KI-Lösungen anbieten.

Hier wären gleichfalls Parallelen zur Automobilbranche zu ziehen. Ab der Stufe Drei des mobilen Fahrens liegt die rechtliche Verantwortung bei den anbietenden Automobilherstellern. Und in Deutschland sind seit kurzer Zeit Mercedes und BMW dieses Risiko eingegangen, zumindest bei vorher klar definierten Rahmenbedingungen (gutes Wetter und bis zu einer bestimmten Geschwindigkeit). Ist dies also die Blaupause für KI-Anwendungen im Gesundheitswesen? Der Aufbau von Kontrollmöglichkeiten, besser noch eines für KI aufzubauenden Risikomanagement, wird wohl ein Muss. Doch wenn es möglich wäre, allein durch die Kombination Ärzt:innen plus KI die Patient:innensicherheit zu erhöhen, wäre der Weg mindestens lohnenswert, oder?

KI-basierte Zweitmeinungen

Festzuhalten ist, dass KI aktuell sehr gut zur Erkennung von Mustern benutzt werden kann, vor allem aus großen Datenmengen oder bei kleinsten, aber relevanten Veränderungen im Krankheitsverlauf. Dies sollten wir nutzen und somit einbinden in die Arbeit von Behandelnden. Ob dies allerdings bereits auf eine KI-basierende Zweitmeinung hinausläuft, darf (noch) bezweifelt werden. Gerade hier spielt oftmals eine nicht zu unterschätzende Menge von schlecht fassbaren Informationen wie eine subjektive Bewertung eine große Rolle. Somit ist auch die menschliche Erfahrung ein Faktor, der nicht zu unterschätzen ist.

Auch die Ethik und Moral sind wichtige Gesichtspunkte. Es geht schließlich um Menschen. Trotz oder gerade bei aller Freude an technischem Fortschritt, muss der Mensch stets im Vordergrund stehen. Dass Daten Leben retten können, muss nicht mehr diskutiert werden. Dies bedeutet jedoch auch, dass theoretische Risiken nicht als höher eingestuft werden dürfen. KI wird Fehler machen, genau wie der Mensch auch. Aber werden es genauso viele sein oder weniger schwere? Das sind die Fragen, die zukünftig mit in die Entscheidung einfließen müssen. Eine kritische Betrachtung bei KI-Ansätzen muss gestattet sein, darf aber nicht die Vorteile außer Acht lassen. KI entlastet die Ärzt:innenschaft, und zwar heute schon – und bringt zu Teilen eine höhere Patientensicherheit bei der Behandlung. Daher lohnt es sich, weiter zu überlegen, wo und wie der Einsatz von KI sinnvoll sein kann. Ein in anderen Branchen bereits etablierter Einsatz sind die Decision Support Systens, zu Deutsch: Entscheidungsunterstützungssysteme.

KI basiert heute ausschließlich auf Fakten, der erkrankte Mensch ist allerdings mehr als eine Faktensammlung. Sie ist daher als Hilfsmittel zu sehen, auf das man sich nie blindlings verlassen sollte.

Das beste aus beiden Welten

Dass eine KI-Zweitmeinung als verpflichtend zu sehen ist, ist (noch) nicht zu sehen. Wann es so weit sein wird, wird die Zukunft erst noch zeigen müssen. Was aber auf jeden Fall zu einer gegenwärtigen Diskussion gehört, ist der Ansatz, eine diagnostische KI flankierend zur aktuellen Arbeit der Behandelnden zu sehen. Neben einer guten Diagnostik und der dafür oftmals körperlichen Untersuchung, die vom Menschen selbst durchgeführt wird, kann die KI aktuell als unterstützend angesehen werden. Der eine mag sagen: „… mehr auch nicht!“, der andere wird sagen: „… aber immerhin!“

Das Beste aus beiden Welten zu vereinen, ist eine spannende Aufgabe. Und zugleich eine gewinnbringende! Daher geht es zumindest in nächster Zukunft nicht darum, die Behandelnden zu ersetzen. Aber diese zu unterstützen, ist ein für mich hoffungsvolles Bild für die Zukunft. Eine verpflichtende KI als Zweitmeinung sehe ich nicht. Aber dies wird nicht immer so bleiben, oder?

Ich möchte mit einem Zitat aus einem Kommentar zu meinem Best Blog schließen: Man setzt nicht alles auf eine Karte, sondern setzt mit KI einen Joker ein.

Interesse geweckt?

In unserem Magazin findest du weitere, spannende Artikel!

Unsere Gründungspartner

Auch interessant:

Consent Management Platform von Real Cookie Banner