KI wird für viele zum ersten Ansprechpartner bei Gesundheitsfragen
Mit der wachsenden Aura der Allwissenheit rund um künstliche Intelligenz greifen immer mehr Menschen auf entsprechende Werkzeuge zurück. Häufig wird ein KI-System zum ersten „Spezialisten“, dem Nutzer beunruhigende Symptome, eine Verschlechterung ihres Wohlbefindens oder mögliche Krankheitsanzeichen anvertrauen.
Ohne Registrierung, ohne Warteschlangen und ohne Arztbesuch liefern KI-Chatbots schnelle Antworten und vermitteln ein Gefühl von Sicherheit. Die Nutzung erscheint bequem und unkompliziert. Gleichzeitig stellt sich jedoch die Frage, ob es wirklich sicher ist, sensible Gesundheitsdaten Technologieunternehmen anzuvertrauen, und wie verlässlich die daraus abgeleiteten Empfehlungen sind.
Gesundheit und Krankheitsbehandlung gehören inzwischen zu den häufigsten Themen, zu denen Nutzer KI-Systeme befragen. Nach Angaben des Unternehmens OpenAI stellen jede Woche mehr als 230 Millionen Menschen dem Chatbot des Unternehmens Fragen zu ihrem Gesundheitszustand, zu Beschwerden oder zu möglichen Behandlungsmethoden.
OpenAI reagiert auf wachsende Nachfrage mit neuem Gesundheitsbereich
Um diese enorme Nachfrage zu bedienen, hat OpenAI die Entwicklung eines neuen Tools mit dem Namen „ChatGPT Health“ angekündigt. Die Grundidee besteht darin, persönliche Gesundheitsdaten mit verschiedenen Gesundheits- und Fitnessanwendungen zu verknüpfen.
Dadurch sollen Nutzer ihre Daten einfacher verwalten können, während gleichzeitig zusätzliche Schutzmechanismen für sensible Informationen geschaffen werden. Nach Angaben des Unternehmens soll der neue Bereich Health mit erweiterten Datenschutzfunktionen ausgestattet werden.
Dazu gehören unter anderem eine getrennte Chatverlauf-Historie sowie eine eigene Speicherfunktion für gesundheitsbezogene Informationen. Diese Maßnahmen sollen verhindern, dass sensible Daten unkontrolliert mit anderen Inhalten vermischt werden.
Skeptiker sehen diese Versprechen jedoch kritisch. Ihrer Ansicht nach gilt jede Information, die in solche Systeme eingegeben oder über verknüpfte Anwendungen übertragen wird, faktisch nicht mehr als vollständig privat.
Unsicherheit über den Umgang mit sensiblen Gesundheitsdaten
Im klassischen medizinischen Versorgungssystem gelten klare Regeln. Wer sich an einen Arzt oder eine medizinische Einrichtung wendet, kann davon ausgehen, dass persönliche Gesundheitsinformationen vertraulich behandelt werden.
Anders ist die Situation, wenn diese Daten direkt an ein Technologieunternehmen übermittelt werden, das selbst keine medizinischen Leistungen erbringt. In solchen Fällen liegt die Verantwortung vollständig beim Nutzer.
Zudem bleibt häufig unklar, wo genau diese Daten gespeichert werden und zu welchen Zwecken sie später verwendet werden könnten. Gerade bei sensiblen Gesundheitsinformationen wirft dies grundlegende Fragen zum Datenschutz und zur Kontrolle persönlicher Daten auf.
Studien warnen vor möglichen Fehlern bei KI-Systemen
Neben Datenschutzfragen sehen Experten auch medizinische Risiken. Eine kürzlich veröffentlichte Studie zeigt, dass Suchsysteme auf Basis großer Sprachmodelle häufig nicht in erster Linie auf medizinische Genauigkeit optimiert sind.
Stattdessen liegt der Fokus vieler Systeme darauf, möglichst hilfreiche und verständliche Antworten zu liefern, die Nutzer zur weiteren Interaktion bewegen. Die Grenze zwischen hilfreicher Kommunikation und medizinischer Präzision verschiebt sich dadurch zugunsten der Nutzerfreundlichkeit.
Gerade im medizinischen Kontext ist jedoch Genauigkeit entscheidend. Mehrere Studien zeigen, dass Sprachmodelle besonders dann fehleranfällig sind, wenn medizinische Informationen unvollständig sind.
In solchen Situationen neigen die Systeme dazu, sogenannte Halluzinationen zu erzeugen und falsche oder irreführende Antworten zu formulieren. Ein Chatbot kann dadurch Empfehlungen geben, die überzeugend klingen, inhaltlich jedoch falsch sind.
KI kann Arztgespräche vorbereiten, aber nicht ersetzen
Es gibt durchaus Situationen, in denen ein Arzttermin kurzfristig nicht möglich ist. In solchen Fällen erscheint eine schnelle Rückmeldung durch einen Chatbot vielen Menschen als einfache und naheliegende Lösung.
Dennoch gilt eine telemedizinische Beratung mit einem Hausarzt in der Regel als deutlich verlässlicher. In vielen Ländern haben sich digitale Sprechstunden bereits etabliert und ermöglichen medizinische Beratung auch ohne Praxisbesuch.
Einige Wissenschaftler sehen den größten Nutzen von KI-Systemen deshalb in der Vorbereitung auf einen Arzttermin. Patienten können mithilfe eines Chatbots mögliche Fragen formulieren oder ihre Symptome strukturieren.
Digitale Gesundheitsdienste rücken auch in Deutschland stärker in den Fokus
KI-Systeme können bei allgemeinen Gesundheitsfragen oder bei der Vorbereitung auf medizinische Gespräche durchaus eine hilfreiche Rolle spielen. Für Diagnose und Behandlung bleibt jedoch weiterhin die ärztliche Expertise unverzichtbar.
Auch in Deutschland wächst das Interesse an digitalen Gesundheitsdiensten und KI-Anwendungen. Gleichzeitig stehen Datenschutz, medizinische Verantwortung und die Qualität der Informationen im Mittelpunkt der Debatte.
Für Patienten, Ärzte und Politik stellt sich daher zunehmend die Frage, wie technologische Innovationen sinnvoll genutzt werden können. Entscheidend wird sein, digitale Möglichkeiten zu nutzen, ohne dabei die Sicherheit sensibler Gesundheitsdaten und die Qualität der medizinischen Versorgung zu gefährden.
