Technologie

KI in der Medizin: ChatGPT und die Grenzen der digitalen Selbstdiagnose

KI-Chatbots wie ChatGPT sind beliebt - ihren medizinischen Ratschlägen wird aber mit Skepsis begegnet, so eine neue Studie. Das könnte die Zukunft der digitalen Medizin beeinflussen.
01.08.2024 07:59
Lesezeit: 3 min
KI in der Medizin: ChatGPT und die Grenzen der digitalen Selbstdiagnose
Eine Radiologin im Unfallkrankenhaus Berlin betrachtet in einer KI-basierten App auf einem Tablet Gehirnbilder eines Patienten. Laut Studien gibt es noch große Vorbehalte gegenüber der medizinischen Kompetenz von Künstlicher Intelligenz. (Foto: dpa) Foto: Monika Skolimowska

Ein unerklärliches Ziehen im Bauch, ein hartnäckiger Husten oder ein merkwürdiger Fleck auf dem Zehennagel: Dass Menschen bei unterschiedlichsten Symptomen Google befragen, ist kein neues Phänomen – und mit der zunehmenden Beliebtheit von KI-basierten Chatbots wie ChatGPT scheinen die Möglichkeiten zur digitalen Selbstdiagnose weiter gewachsen zu sein. Tatsächlich aber wird der medizinischen Kompetenz einer solchen Künstlichen Intelligenz noch mit großen Vorbehalten begegnet, zeigt eine neue Studie, über die im Fachblatt „Nature Medicine“ berichtet wird.

Wahrnehmung von KI-Ratschlägen untersucht

Die Würzburger Wissenschaftler untersuchten die Reaktion von Menschen auf KI-generierte medizinische Ratschläge. „Uns interessierte nicht die technische Kompetenz der KI, sondern allein die Frage, wie der KI-Output wahrgenommen wird“, sagt Moritz Reis von der Julius-Maximilians-Universität.

Dafür teilte das Forschungsteam mehr als 2.000 Probanden in drei Gruppen ein, die identische medizinische Ratschläge erhielten. Die erste Gruppe bekam gesagt, dass die Empfehlungen von einem Arzt oder einer Ärztin stammten. Bei der zweiten wurde ein KI-basierter Chatbot als Urheber genannt und die dritte Gruppe ging davon aus, dass die Ratschläge zwar von einem Chatbot stammten, aber nochmal ärztlich überprüft wurden.

Die Probanden bewerteten die Empfehlungen auf Verlässlichkeit, Verständlichkeit und Empathie. Sobald sie vermuteten, dass eine KI beteiligt war, nahmen sie die Ratschläge als weniger empathisch und verlässlich wahr. Dies galt auch für die Gruppe, die glaubte, dass ein Arzt die KI-Empfehlungen überprüft hatte. Entsprechend waren sie weniger bereit, diesen Empfehlungen zu folgen. „Der Effekt der Voreingenommenheit gegen KI ist zwar nicht riesig, aber statistisch signifikant“, kommentiert Reis.

Erklärungsansätze für KI-Skepsis

Die KI-Skepsis erklärt sich der Kognitionspsychologe teilweise mit Stereotypen: „Viele glauben, eine Maschine könne nicht empathisch sein.“ Bei der Verständlichkeit bewerteten alle drei Gruppen die Ratschläge jedoch gleich.

Für die Forschungsgruppe ist die festgestellte KI-Skepsis wichtig, da KI in der Medizin eine immer wichtigere Rolle spiele. So werden derzeit zahlreiche Studien zu neuen KI-Anwendungsmöglichkeiten veröffentlicht. Umso bedeutsamer sei die öffentliche Akzeptanz, sagt Reis: „Bei der Frage nach dem künftigen Einsatz von KI in der Medizin geht es nicht nur um das technisch Mögliche, sondern auch darum, wie weit Patientinnen und Patienten mitgehen.“ Aufklärung über entsprechende Anwendungen und KI generell sei nötig. „Darüber hinaus haben andere Studien gezeigt, wie wichtig es für das Patientenvertrauen ist, dass am Ende immer der menschliche Arzt oder Ärztin gemeinsam mit den Patienten die finale Entscheidungsgewalt hat“, betont Reis.

Transparenz als Schlüsselfaktor

Für besonders relevant hält der Wissenschaftler Transparenz: „Das bedeutet zum Beispiel, dass eine KI nicht nur eine Diagnose stellt, sondern auch nachvollziehbar erklärt, welche Informationen zu diesem Ergebnis geführt haben.“

Die Qualität dieser Ergebnisse wird bereits seit längerem wissenschaftlich untersucht - mit unterschiedlichen Erfolgen. So attestierte etwa eine 2023 im „Journal of Medical Internet Research“ ChatGPT eine hohe Diagnosegenauigkeit: Getestet mit 36 Fallbeispielen stellte der Chatbot in fast 77 Prozent der Fälle die korrekte endgültige Diagnose. In Notaufnahmen reichte die Diagnosekompetenz einer niederländischen Studie zufolge gar an die von Ärzten heran. Ausgestattet mit den anonymisierten Daten von 30 Patienten, die in einer niederländischen Erste-Hilfe-Stelle behandelt worden waren, stellte ChatGPT in 97 Prozent der Fälle die richtige Diagnose (Annals of Emergency Medicine, 2023).

Im Gegensatz dazu stellte eine 2023 im Fachblatt „Jama“ veröffentlichte Studie fest, dass der Chatbot bei 70 medizinischen Fallbeispielen nur 27 Fälle richtig diagnostizierte. Das sind gerade einmal 39 Prozent. Eine im Journal „Jama Pediatrics“ präsentierte Studie kam zu dem Schluss, dass diese Trefferquote bei Krankheiten, die in erster Linie Kinder betreffen, noch schlechter ist.

ChatGPT in der medizinischen Ausbildung

Eine aktuelle im Fachblatt „Plos One“ veröffentlichte Studie hat nun untersucht, ob ChatGPT in der medizinischen Ausbildung von Nutzen sein könnte. Schließlich greife der Chatbot nicht nur auf eine riesige Wissensbasis zurück, sondern sei auch in der Lage, dieses Wissen interaktiv und verständlich zu vermitteln, so das Forschungsteam des kanadischen London Health Sciences Centre.

Die Gruppe fütterte ChatGPT mit 150 sogenannten Fallherausforderungen aus einer Datenbank mit medizinischen Fallgeschichten, in denen Symptome und Krankheitsverlauf beschrieben werden. Sowohl angehende als auch bereits im Beruf stehende Medizinerinnen und Mediziner sind aufgefordert, in einem Antwort-Wahl-Verfahren eine Diagnose zu stellen und einen Behandlungsplan zu entwickeln.

ChatGPT lag bei diesem Test in gerade einmal knapp der Hälfte der Fälle (74 von 150) richtig. Die Studie stellte fest, dass ChatGPT Schwierigkeiten bei der Interpretation von Laborwerten und bildgebenden Verfahren hat und wichtige Informationen übersehe. Entsprechend kommen die Autoren zu dem Schluss, dass ChatGPT in seiner derzeitigen Form als Diagnoseinstrument nicht genau sei und bei der Verwendung des Chatbots als Diagnosewerkzeug wie auch als Lehrmittel unbedingt Vorsicht geboten sei.

„Die Kombination aus hoher Relevanz und relativ geringer Genauigkeit spricht dagegen, sich bei der medizinischen Beratung auf ChatGPT zu verlassen, da es wichtige Informationen präsentieren kann, die möglicherweise irreführend sind“, heißt es dazu in der Studie – eine Warnung, die höchstwahrscheinlich ebenso für medizinische Laien gilt, die den Chatbot für digitale Selbstdiagnosen nutzen.

ChatGPTs eigene Einschätzung

ChatGPT selbst betont, dafür nicht geeignet zu sein. Befragt nach seiner diagnostischen Qualifikation antwortet der Bot: „Ich bin kein Arzt und habe keine medizinische Ausbildung. Ich kann Informationen über medizinische Themen bereitstellen, allgemeine Ratschläge geben und Fragen beantworten, aber ich kann keine medizinischen Diagnosen stellen oder professionelle medizinische Beratung bieten. Bei gesundheitlichen Problemen oder Fragen solltest Du immer einen Arzt oder einen qualifizierten Gesundheitsdienstleister konsultieren.“

Mehr zum Thema
article:fokus_txt
DWN
Wirtschaft
Wirtschaft Trump-Zölle könnten Preiskarussell, Zinserhöhungen und Insolvenzen anheizen - die EU bereitet sich vor
02.04.2025

Die Regierungen weltweit bereiten sich auf die massive Einführung von Zöllen durch US-Präsident Donald Trump vor, die, so sein Plan,...

DWN
Finanzen
Finanzen Tesla-Aktie stürzt ab: Miese Tesla-Auslieferungen belasten - was das für Anleger bedeutet
02.04.2025

Die weltweiten Auslieferungen des US-Autobauers Tesla sind im vergangenen Quartal um 13 Prozent auf 336.681 Fahrzeuge zurückgegangen....

DWN
Panorama
Panorama Polizei: Kriminalstatistik 2024 zeigt Ausländeranteil bei Gewaltdelikten in Deutschland steigt deutlich
02.04.2025

Die Kriminalstatistik der Polizei offenbart ein besorgniserregendes Bild: Die Zahl der erfassten Gewalttaten ist 2024 um 1,5 Prozent...

DWN
Unternehmen
Unternehmen Mercedes-Benz erwägt Ausstieg aus dem Billigsegment in den USA aufgrund von Trump-Zöllen
02.04.2025

Die Mercedes-Benz Group prüft derzeit, ob sie ihre günstigsten Fahrzeugmodelle in den USA aus dem Sortiment nimmt. Hintergrund sind die...

DWN
Finanzen
Finanzen US-Börsen: Volatile Märkte vor Trumps Zollerklärung
02.04.2025

Die US-Börsen dürften überwiegend mit Verlusten in den Mittwochshandel starten, vorbörslich stecken die Technologieindizes an der...

DWN
Unternehmen
Unternehmen DWS-Aktie unter Druck: Deutsche-Bank-Tochter muss Millionenstrafe wegen Greenwashing zahlen
02.04.2025

Die DWS, eine Tochtergesellschaft der Deutschen Bank, wurde in Deutschland zu einer Millionenstrafe wegen "Greenwashing"-Vorwürfen...

DWN
Unternehmen
Unternehmen Kurzarbeit statt Massenarbeitslosigkeit? Verlängerung des Kurzarbeitergeldes steht in der Kritik
02.04.2025

Die Wirtschaft steckt fest in einer Strukturkrise: seit 5 Jahren kein Wachstum. Die Folge: Immer mehr Unternehmen bauen Stellen ganz ab...

DWN
Wirtschaft
Wirtschaft Deutsche Wirtschaft: Verbände fordern dringenden Kurswechsel der Koalition
02.04.2025

Bitte kein "Weiter-so"! Mit Unmut blicken deutsche Wirtschafts- und Industrieverbände auf das, was die noch namenlose Koalition aus Union...