OpenAI stellt den Dienst ChatGPT Health vor

• „Ein neues ChatGPT, das für Gesundheit und Wellness entwickelt wurde“
• Ein Dienst, der persönliche Gesundheitsinformationen sicher mit der Künstlichen Intelligenz von ChatGPT verbindet, damit Nutzer ihren Gesundheitszustand verstehen und verwalten können
• Es kommt eine verschlüsselte und isolierte Architektur zum Schutz medizinischer Informationen zum Einsatz, und gesundheitsbezogene Gespräche werden nicht für das Modelltraining verwendet
• Über die Integration von elektronischen Patientenakten (EHR) sowie Wellness-Apps wie Apple Health und MyFitnessPal werden personalisierte Gesundheitshinweise bereitgestellt
• OpenAI hat mit rund 260 medizinischen Fachkräften weltweit zusammengearbeitet und die Modellqualität mit HealthBench, einem Bewertungssystem nach klinischen Standards, überprüft
• Der Dienst soll medizinische Versorgung nicht ersetzen, sondern ergänzen, und wurde als Tool für Gesundheitsmanagement mit Fokus auf Datenschutz und Zuverlässigkeit entwickelt

---

Überblick über ChatGPT Health

• ChatGPT Health ist ein Dienst, der persönliche Gesundheitsdaten sicher mit ChatGPT verbindet und so dabei hilft, den Gesundheitszustand zu verstehen und systematisch zu verwalten
  • Auf Basis der Datenschutz-, Sicherheits- und Datenkontrollmechanismen von ChatGPT wurden zusätzliche Schutzmaßnahmen für medizinische Informationen umgesetzt
  • Gesundheitsbezogene Gespräche werden durch Verschlüsselung und eine isolierte Architektur privat verwaltet
• Nutzer können medizinische Unterlagen und Wellness-Apps mit ChatGPT verbinden, um Testergebnisse zu interpretieren, Arzttermine vorzubereiten sowie Ernährungs- und Trainingspläne zu erstellen
• Ziel des Dienstes ist es, die Behandlung durch medizinische Fachkräfte zu ergänzen; Diagnosen oder Behandlungen werden nicht ersetzt

Aktuelle Nutzung von Gesundheitsinformationen

• ChatGPT gehört bereits zu den meistgenutzten Diensten im Gesundheitsbereich; mehr als 230 Millionen Menschen pro Woche stellen gesundheitsbezogene Fragen
• Der Dienst ist ein Versuch, das Problem zu lösen, dass Gesundheitsinformationen über viele Plattformen verteilt sind und Nutzer dadurch nur schwer einen Gesamtüberblick erhalten
• ChatGPT Health erweitert diesen Ansatz und liefert Antworten, die den Kontext des Nutzers berücksichtigen

Zentrale Funktionen und Integrationen

• Eine Integration mit elektronischen Patientenakten (EHR), Apple Health, Function, MyFitnessPal und weiteren Diensten ist möglich
  • In den USA wird über das b.well-Netzwerk die Anbindung vertrauenswürdiger medizinischer Daten unterstützt
  • Der Zugriff auf medizinische Unterlagen ist nur für Nutzer ab 18 Jahren verfügbar
• Bevor eine App in ChatGPT Health aufgenommen wird, muss sie eine Sicherheitsprüfung und Anforderungen an minimale Datenerhebung erfüllen
  • Nutzer können die Verbindung zu einer App jederzeit trennen; die Zugriffsberechtigung auf die Daten erlischt sofort nach der Trennung
• Gespräche und Dateien in ChatGPT Health werden in einem dedizierten Speicher getrennt vom normalen Chat abgelegt
  • Aus anderen Gesprächen heraus ist kein Zugriff auf Health-Daten möglich
  • Nutzer können ihre Daten in der Health-Oberfläche oder in den Einstellungen einsehen und löschen

Datenschutz und Sicherheit

• ChatGPT Health wird als separater Bereich mit erweitertem Datenschutzkonzept betrieben
  • Gesprächsinhalte werden nicht für das Modelltraining verwendet
  • Sowohl gespeicherte Daten als auch Übertragungen sind verschlüsselt
• OpenAI bietet in ChatGPT allgemein eine temporäre Chat-Funktion sowie die Option zum Löschen von Daten innerhalb von 30 Tagen an
• Anders als normale Gespräche in ChatGPT werden Health-Konversationen mit einem speziellen Verschlüsselungssystem für medizinische Daten und einer isolierten Architektur verwaltet

Zusammenarbeit mit medizinischen Fachkräften und Bewertungssystem

• OpenAI hat über einen Zeitraum von mehr als zwei Jahren mit rund 260 medizinischen Fachkräften aus 60 Ländern zusammengearbeitet
  • In 30 Schwerpunktbereichen wurden mehr als 600.000 Feedbacks gesammelt
  • Die Fachkräfte prüften, wann Antworten von ChatGPT hilfreich sind und wann sie riskant sein können
• Die Ergebnisse dieser Zusammenarbeit flossen in Modelldesign und Antwortverhalten ein und stärken Klarheit, Sicherheit und Anbindung an die medizinische Versorgung
• Das Modell wurde mithilfe des HealthBench-Bewertungsframeworks nach klinischen Standards überprüft
  • HealthBench bildet auf Grundlage von direkt von medizinischen Fachkräften verfassten Bewertungskriterien tatsächliche klinische Entscheidungsprozesse ab
  • Gemessen wird die Qualität der Antworten insbesondere in Bezug auf Sicherheit, klare Vermittlung und den respektvollen Umgang mit dem persönlichen Kontext

Anwendungsbeispiele und Zugangsweg

• Nutzer greifen über die Auswahl von Health in der Seitenleiste von ChatGPT auf den Dienst zu
  • Daten können per Dateiupload, App-Integration, Tool (+) oder über das Menü „Apps“ in den Einstellungen verbunden werden
• Health-Gespräche unterstützen weiterhin die üblichen ChatGPT-Funktionen wie Suche, Sprachmodus und Diktat
  • Beispielhafte Fragen: „Wie verändern sich meine Cholesterinwerte?“, „Fasse meine Blutuntersuchungsergebnisse vor dem Arzttermin zusammen“
• Zu Health-Gesprächen lassen sich individuelle Anweisungen hinzufügen, um Antwortstil und sensible Bereiche von ChatGPT anzupassen
  • Diese individuellen Anweisungen gelten nur für Health-Gespräche und können jederzeit geändert oder gelöscht werden

Bereitstellung und Ausbaupläne

• Der Dienst wird derzeit zunächst einer kleinen Zahl früher Nutzer bereitgestellt und ist nach Eintrag in eine Warteliste nutzbar
• In den kommenden Wochen ist eine breitere Einführung im Web und auf iOS geplant
• Die Anbindung elektronischer Patientenakten und einige Apps sind nur in den USA verfügbar; für Apple Health ist iOS erforderlich
• OpenAI will Nutzer künftig durch den weiteren Ausbau von Datenintegrationen und Insights dabei unterstützen, ihren Gesundheitszustand und ihre Optionen besser zu verstehen

[GN⁺]

Hacker-News-Kommentare

• Unser Onkel litt unter Gleichgewichtsproblemen und Sprachauffälligkeiten. Die Ärzte diagnostizierten Demenz und schickten ihn einfach wieder weg, aber es wurde immer schlimmer. Also gaben wir die Symptome in ChatGPT (oder Gemini) ein und fragten nach den drei wahrscheinlichsten Hypothesen. Die erste hatte mit Demenz zu tun, die zweite war eine andere Erkrankung. Damit gingen wir zum Hausarzt und baten ihn, auch die beiden anderen Möglichkeiten zu prüfen, und am Ende stellte sich heraus, dass die zweite Hypothese richtig war. Nach der Operation war er vollständig genesen

  • Solche Anekdoten habe ich oft gehört. Das ist nicht böswillig gemeint, aber ich sorge mich, dass solche Fälle irrationale Überzeugungen wie die Anti-Impf-Bewegung stärken könnten. Wenn das Gesundheitswesen auf solche Geschichten nicht reagiert, könnte es Vertrauen verlieren. Ich frage mich, wie oft Fehldiagnosen vorkommen und wie hilfreich LLMs tatsächlich sind
  • Bei LLMs ist es viel nützlicher, nicht „Was soll ich tun?“ zu fragen, sondern „Welche Alternativen gibt es bei diesem Problem?“. Wenn man die Top-k-Antworten bekommt, kann man deutlich tiefer nachforschen
  • Allgemeinmediziner werden eher auf Auswendiglernen als auf Problemlösung trainiert. Ärzte, die wirklich gut im Problemlösen sind, sind meist Fachärzte
  • Ich frage mich, ob die Krankheit vielleicht Normaldruckhydrozephalus (NPH) war. Die Operation könnte ein VP-Shunt zur Ableitung von Liquor gewesen sein. Für die Symptome Harninkontinenz, Gleichgewichtsstörung und kognitiver Abbau gibt es die medizinische Eselsbrücke „Wet, Wobbly, Wacky“
  • Gut zu hören, dass es deinem Onkel besser geht. Könntest du vielleicht die beiden anderen Hypothesen und die endgültige Diagnose nennen? Das würde mich interessieren

• Mein Cousin hat eine psychiatrische Praxis eröffnet, und ich frage mich, ob solche medizinischen KI-Tools seinen Lebensunterhalt bedrohen. Patienten müssen telefonieren, E-Mails schreiben und Versicherungsprozesse durchlaufen, aber mit KI kann man sofort sprechen. Abgesehen von Fällen, in denen ein Rezept nötig ist, ist es für menschliche Ärzte schwer, bei der Bequemlichkeit mitzuhalten. Wenn die USA sich um Menschen kümmern wollen, müssen sie das Gesundheitssystem mit einem Einheitssystem vereinfachen

• Ich habe Erfahrung mit der Entwicklung medizinischer Software, und probabilistische Systeme in der Medizin sind für mich ein Warnsignal. Ein Prüfsystem für Medikamentenwechselwirkungen im Krankenhaus muss unbedingt deterministisch sein. Bei derselben Eingabe muss dieselbe Ausgabe kommen, und im Fehlerfall geht es um Menschenleben

  • Aber die Medizin selbst ist ihrem Wesen nach nicht deterministisch. Die Reaktion auf Medikamente ist von Patient zu Patient unterschiedlich. Auch die Nicht-Deterministik von ChatGPT muss auf der höheren Ebene der Interaktion zwischen Arzt und Patient gemanagt werden. Die KI sollte Möglichkeiten aufzeigen, und der Arzt muss sie verifizieren
  • Trotzdem könnten gut gebaute deterministische Systeme vielleicht Kosten senken und den Zugang verbessern, gerade in einer Situation, in der die Gesundheitskosten in den USA wegen staatlicher Regulierung immer weiter steigen

• ChatGPT ging neun Monate lang davon aus, dass ich ADHS habe. In Wirklichkeit ist das nicht so. Als ich fragte, wann es diese Information erhalten habe, konnte es keine konkreten Belege nennen. Am Ende entschuldigte es sich und sagte, es werde das Merkmal vergessen, aber ich finde, so etwas ist würdig für eine Sammelklage

  • Wahrscheinlich hat es ADHS in einem einzelnen Chat einfach durch eine Halluzination erwähnt. ChatGPT kann Erinnerungen nicht über Sitzungen hinweg verknüpfen
  • Vermutlich wurde so etwas aus Daten gelernt, weil Leute auf Reddit und anderswo oft Selbstdiagnosen erwähnen
  • Solche Fälle zeigen Datenschutzprobleme bei Gesundheitsdaten. Wenn eine KI Krankheiten eines Nutzers schätzt und an Datenbroker weitergibt, verfestigt sich diese Information als Tatsache. Uns fehlt die Infrastruktur, um persönliche Daten zu kontrollieren
  • Rechtlich sollte man den Diensteanbieter verantwortlich machen. Wenn ein menschlicher Arzt eine Fehldiagnose stellt, haftet das Krankenhaus; für KI-Diagnosedienste sollte dasselbe gelten. Wenn das Modell lokal läuft, sollte der Nutzer verantwortlich sein
  • Bei mir hat ChatGPT eine nicht existierende Firma mit meinem Namen erwähnt. Das passierte, obwohl ich jede Datenerfassung abgelehnt hatte. Ich habe die OpenAI-Datenschutzrichtlinie gelesen, bin aber immer noch beunruhigt

• ChatGPT fand in fünf Minuten die Ursache der chronischen Erkrankung meiner Mutter in ihren Achtzigern. Mehrere Ärzte hatten das Problem drei Jahre lang nicht gefunden. Die Ärzte überprüften die Möglichkeit, und sie war zu 100 % richtig. Natürlich lässt sich das nicht auf alle Krankheiten anwenden, aber LLMs ermöglichen integriertes Denken über Fachgebiete hinweg

  • Das Problem ist nicht ChatGPT, sondern der Mangel an Behandlungszeit. In anderen Ländern haben Ärzte genug Zeit für ihre Patienten, aber in den USA ist das System kaputt
  • Könntest du vielleicht das Gesprächsprotokoll teilen? Das würde mich interessieren
  • Bei älteren Patienten führt so eine Behandlung in der Realität oft zu Wiederholungen und einer Explosion der Gesundheitskosten

• Manche argumentieren, dass solche KI gut sei, weil das US-Gesundheitssystem so schlecht ist, aber solche Tools tauchen auch in Ländern mit gut funktionierender kostenloser Gesundheitsversorgung auf. Selbst dort, wo man kostenlos von ausgebildeten Ärzten behandelt wird, wird es Menschen geben, die trotzdem ChatGPT wählen. Am Ende könnte das für 95 % der Menschen weltweit eher schädlich sein. OpenAIs Logik „Wenn wir es nicht tun, macht es jemand anderes“ unterscheidet sich kaum von der Ausrede eines Fentanyl-Verkäufers

• Ich habe wegen Knie- und Ellbogenschmerzen Dutzende Ärzte aufgesucht, aber ChatGPT war viel hilfreicher. Blind dem zu folgen, was die KI sagt, ist riskant, aber um auf Basis von Untersuchungsergebnissen weitere Fragen oder zusätzliche Tests abzuleiten, ist es nützlich. Das ist wie beim Code-Review: gut, wenn es mitprüft, gefährlich, wenn man es den ganzen Code schreiben lässt

• Wenn KI für mich sogar Rezepte ausstellen oder robotische Behandlungen durchführen könnte, wäre das etwas anderes, aber solange das nicht der Fall ist, reicht es meiner Meinung nach, wenn Ärzte KI-Analysen als Referenz nutzen

• Mir ist der Zugriff auf meine Gesundheitsdaten nicht besonders wichtig. Ich erwarte eher Innovationen im persönlichen Gesundheitsbereich. Apple Health sammelt nur Daten, und 23andMe war nicht besonders nützlich. Im Moment betreibe ich ein ChatGPT-Projekt, in dem ich meine Gesundheitsgeschichte in den System-Prompt eingebe, und ich war überrascht, dass es sogar papiergestützte Analysen und Visualisierungen liefert

  • Wenn diese Analyse zu einer Fehldiagnose führt und jemand dadurch eine Behinderung erleidet: Ist das dann die Verantwortung des Nutzers oder des Arztes?
  • Mich würde interessieren, welche Informationen du eingegeben hast. Hättest du von einem Arzt dieselbe Antwort bekommen, wenn du ihm dieselbe Frage gestellt hättest? Für Menschen wie mich mit Gesundheitsangst könnte so ein Tool eher schädlich sein
  • In Wahrheit verwenden Ärzte vielleicht schon jetzt heimlich KI
  • Aber ist es wirklich in Ordnung, solche Biometriedaten Sam Altman zu überlassen? Mich würde interessieren, welche Geräte du verwendet hast
  • Gesundheitsdaten sind die sensibelsten Informationen und deshalb stark reguliert. Solche Daten erzeugen Machtungleichgewichte, und Unternehmen nutzen sie, um ihren Gewinn zu maximieren

• Es gibt viele negative Meinungen, aber ich konnte dank ChatGPT mein Gesundheitsproblem lösen

  • Ein Bekannter von mir stellte mit ChatGPT eine Selbstdiagnose einer seltenen Krankheit und machte teure Tests, aber am Ende war es eine Fehldiagnose. Trotzdem vertraut er ChatGPT weiterhin. Es ist gefährlich, die jahrelange Ausbildung und Erfahrung eines Arztes mit einer simplen Suche gleichzusetzen
  • Ich hatte auch starke Rückenschmerzen, und ChatGPT half mir sehr, indem es auf ein Problem mit dem Musculus quadratus lumborum hinwies
  • Im Gesundheitswesen gibt es viele hypochondrische Patienten. LLMs können nützlich sein, wenn man sie gut einsetzt, aber sie können auch den Bestätigungsfehler verstärken. Ein Arzt ist jemand, der einem auch Dinge sagt, die man nicht hören will. Letztlich ist KI nur ein Werkzeug und sollte zusammen mit einem Arzt verwendet werden. Während der Corona-Zeit gab es viele absurde Informationen, aber inzwischen ist es viel besser geworden. Ich nutze ChatGPT, um Informationen zu ordnen und dem Arzt ein vollständiges Bild zu geben
  • Ich nutze ChatGPT auch, aber umsetzbare Ratschläge prüfe ich immer mit vertrauenswürdigen Quellen nach. Man muss in der Lage sein, vernünftig zu urteilen. Selbst wenn die KI dumme Ratschläge gibt, liegt die Entscheidung am Ende beim Menschen