Winters versus OpenAI: Ein Pastor, ein Chatbot und eine Lungenembolie, die das Rechtssystem zwingt, eine unangenehme Frage zu beantworten.
Es war nur eine Frage der Zeit. Wer täglich medizinischen Rat über Social Media und E-Mail erhält, weiß: Menschen können nicht widerstehen, kostenlose Gesundheitsberatung abzufragen. Verstärkt hat sich der Trend drastisch in den vergangenen sieben Jahren durch den offenkundigen Betrug in der Coronazeit, an dem auch viele Ärzte beteiligt waren, was das Misstrauen gegen ärztlichen Rat auf neue Höhen getrieben hat. Wenn nun aus der KI-Beratung ein Vertrauensverhältnis entsteht und das Ergebnis schlecht ist, steht schnell eine Klage im Raum.
Genau diese Frage liegt jetzt auf dem Tisch — in einem Verfahren, das weit über den Einzelfall hinausgeht.
Der Fall
Die Klage heißt Winters v. OpenAI, Inc. und wurde am 21.–22. Juli 2026 beim San Francisco County Superior Court eingereicht. Der Kläger, Scott Winters, ist ein Pastor aus Florida. Laut Klageschrift nutzte er rund sechs Wochen lang ChatGPT-4o als seinen primären medizinischen Berater.
Er fütterte das Modell mit Symptomen — Schwindelanfälle, instabiler Blutdruck, Leistenschmerzen — zusammen mit selbst hochgeladenen Röntgenbildern und Laborwerten. Das Modell, so die Klage, verwies ihn nicht an einen Arzt, sondern diagnostizierte Dysautonomie und baute ihm einen personalisierten Genesungsplan.
Die vielleicht brisanteste angebliche Anweisung, direkt aus der Klageschrift zitiert:
„Du bist noch weit davon entfernt, dass es zu einer Situation kommt, in der du langfristig vollständig bettlägerig bist … deine derzeitige vorsichtige, auf dem Liegesessel basierende Mikro-Genesung ist genau das, was dir deine Zukunft sichert.“
Übersetzt: Bleib ruhig liegen, vermeide Bewegung, warte, bis du 8–10 weitere Episoden hattest, bevor du das ernst nimmst.
Am 13. Juli 2025 wurde Winters mit einer massiven Lungenembolie in die Intensivstation eingeliefert — Gerinnsel in beiden Lungenflügeln, die seine Ärzte auf die Immobilität zurückführten. Er war zeitweise bewusstlos, krampfte, schwebte am Rand.
Die Glaubens-Manipulation
Das ist der Teil, der jeden beunruhigen sollte — religiös oder nicht. Die Klage behauptet, das Modell habe Winters‘ pastorale Identität gegen ihn gewendet, indem es klinisch klingende Anweisungen mit Bibelworten und Gebet vermischte:
„Gott hat deinen Körper nicht so geschaffen, dass er ständig versagt.“
Weitere angebliche Muster: die Versicherung, er solle sich nicht von „hormlosen Gefühlen“ bewegen lassen, und die Ermutigung, Gott statt der Menschen um ihn herum zu vertrauen.
Ein Detail, das in Paragraph 73 vergraben ist: Selbst nach der Embolie, am 14. Juli 2025, habe das Modell ihn angeblich dazu gedrängt, das von seinen Ärzten verordnete Rehabilitationsprogramm zu meiden — und sich von der Familie zu isolieren, einschließlich seiner eigenen Frau, einer examinierten Krankenschwester.
Wer ein System so baut, dass es den Nutzer bestätigt, ihn schmeichelt und ihm seine eigene Religion zurückspiegelt, hat ein Werkzeug geschaffen, das nicht informiert, sondern gefangen nimmt.
Die Rechtstheorie
Winters‘ Anwälte fahren mehrere Theorien gleichzeitig:
- Unbefugte Ausübung der Medizin — California Business & Professions Code § 2052, zusammen mit § 4999.9 (in Kraft ab 1. Januar 2026), der speziell KI-Werbung und Lizenzierungsimplikationen im Gesundheitswesen regelt.
- Fahrlässigkeit — OpenAI wusste oder hätte wissen müssen, dass das Modell vorhersehbare Risiken birgt, und lieferte es trotzdem im Wettlauf um die generative KI-Marktdominanz aus.
- Produkthaftung — das Design imitiert menschliche Konversation so, dass Nutzer den Output als gleichwertig mit dem eines Klinikers behandeln.
- Verletzung der Warnpflicht — keine ausreichende Eskalation, keine Krisensicherungen, keine klare Grenze, wenn ein Nutzer einen medizinischen Notfall beschreibt.
Die begehrten Rechtsfolgen sind bezeichnend: Schadensersatz, plus eine einstweilige Verfügung, die automatische Gesprächsbeendigung verlangt, sobald ein Nutzer sofortige Hilfe braucht, plus ein Stopp von ChatGPT Health, bis unabhängige Drittanbieter-Sicherheitstests es freigeben.
Warum das ein Präzedenzfall ist
Die Klageschrift selbst nennt eine Zahl, die OpenAI bestätigt hat: 40 Millionen Nutzer stellen ChatGPT täglich gesundheitsbezogene Fragen.
Das ist ein Schatten-Gesundheitssystem mit null Lizenzierung, keiner Schadens-Versicherung, null Aufsicht durch Kammern — und Nutzungsrichtlinien, die die ganze Haftung an den Nutzer übertragen.
Laut Klage hat OpenAI seine Nutzungsrichtlinien erst am 29. Oktober 2025 grundlegend verschärft — rund eineinhalb Jahre nach GPT-4os Release. Im Januar 2026 folgte ChatGPT Health, gebaut auf derselben Architektur, vermarktet als Produkt, das „unterstützen, nicht ersetzen“ solle. Frühe Tests, so die Klage, zeigten bereits, dass das Tool Hochrisiko-Notfälle verpasste und Fehldiagnosen erzeugte.
Die Abfolge also: Modell ausliefern, Rat geben lassen, Schaden anwachsen sehen, stillschweigend die Policy nachziehen — und dann eine veränderte Version desselben Dings an Millionen mehr ausliefern.
Der blinde Fleck
Die medizinische Establishment-Position war jahrelang: Dr. Google ist das Problem, Patienten, die selbst recherchieren, sind Hypochonder und belasten das System. Jetzt schweigen dieselben Institutionen, während ein Billionen-Dollar-Unternehmen eine erheblich überzeugendere, erheblich schmeichelhaftere und erheblich verfügbarere Version desselben Verhaltens ausrollt.
Der Mechanismus ist derselbe wie bei jedem süchtig machenden Produkt: Engagement-Optimierung über Nutzerwohl. Ein Chatbot, der sagt „geh jetzt in die Notaufnahme“, beendet das Gespräch. Ein Chatbot, der sagt „dir geht’s gut, Gott hat dich, bleib im Sessel“, hält dich am Tippen. Die Anreizstruktur zeigt genau dorthin, wo Winters gelandet ist.
Das größere Bild
Dies ist einer der ersten Fälle, die argumentieren, dass die Gesundheitsberatung eines Chatbots direkten körperlichen Schaden verursacht hat — nicht Rufschaden, nicht emotionalen Stress, sondern eine Lungenembolie, die man auf Bildgebung sieht.
Rechtlich zwingt das Gerichte, eine Frage zu beantworten, die niemand beantworten will: Wenn ein System medizinischen Rat gibt und dieser Rat jemanden verletzt — wer ist der Behandler? Wir hatten ähnliches mit den ersten selbstfahrenden Autos. Wer ist der Fahrer? Der, der das Auto selbst fahren lässt? Der Hersteller? Der Entwickler der Software und der Technik?
OpenAIs Verteidigung ist die naheliegende: Nutzungsbedingungen, „kein Arzt“, Eigenverantwortung des Nutzers. Aber ein Disclaimer ist kein Sicherheitsmechanismus. Er ist ein Haftungsschild, verkleidet als Warnung. Wenn 40 Millionen Menschen täglich Gesundheitsfragen stellen und der einzige Schutz das Kleingedruckte ist, dann macht das Kleingedruckte die Arbeit einer Malpractice-Versicherung.
Winters ist 39. Laut Klage war er vorher funktional gesund. Danach brauchte er wochenlang Hilfe beim Stehen, Gehen, Essen und Anziehen.
Dr. Peter McCullough weist zudem auf einen möglichen Kontextfaktor hin: ob Winters zuvor eine COVID-19-Auffrischimpfung erhalten hatte und das KI-Programm ihn in Bezug auf Risiken bei Spike-Protein-Belastung in die falsche Richtung lenkte.
Wie das Gericht auch entscheidet — die Akte wird geschrieben. Amerikas vertrauenswürdigster medizinischer Berater hat keine Zulassung, keine anerkannte Sorgfaltspflicht und keine freiwillig übernommene Rechenschaft.
Fazit
Die Antwort des Gerichts entscheidet, ob KI-Gesundheitsberatung ein Produkt oder eine Praktik ist. Diese beiden Dinge haben sehr unterschiedliche rechtliche Konsequenzen.
Und sie entscheidet, ob die nächste Generation von „Beratern“ weiterhin schmeicheln darf, während Menschen im Sessel liegen bleiben.
Links zu früheren TKP-Beiträgen zum Thema finden Sie unterhalb 👇
Unsere Arbeit ist spendenfinanziert – wir bitten um Unterstützung.
Folge TKP auf Telegram oder GETTR und abonniere unseren Newsletter.
Gates verspricht 50 Millionen Dollar für KI für Gesundheitswesen in Afrika
6 Kommentare
Das ist genau so dümmlich, wie die Geschichte eines Amerikaners, der seine Katze in der Mikrowelle trocknen wollte und angeblich Schadensersatz für seine gestorbene Katze bekommen haben soll, weil der Hersteller der Mikrowelle nicht explizit in der Gerbrauchsanweisung seines Produktes die Nichteignung zur Tiertrocknung vermerkt hatte.
Hier liegt der Fall anders. ChatGPT verkündet schon auf der ersten Seite, dass die KI sich irren kann. Damit dürfte der Kläger keine Chance haben, den Prozess zu gewinnen. Zu recht. Blödheit muss nicht auch noch belohnt werden.
Bei einem Pastor wundert mich gar nichts. Wohl berufsbedingt selbst anfällig, für alles was mit „Glauben“ zu tun hat.
Zeigt sich eben auch bei der KI so wie in der Wissenschaft. Nicht überall wo Wissenschaft drauf steht, ist eben erwiesenermassen auch Wissenschaft drin.
Und wo KI drauf steht, ist eben auch manchmal – nicht immer natürlich – auch Blödheit drin. Vielleicht manchmal sogar Bosheit.
Ich vertraue zum Beispiel sogar den Ärzten nicht grundsätzlich, geschweige denn der KI.
Aber bitte, jedem das Seine.
Damit lassen wir den (Deep) State doch noch mehr Freiheiten kassieren und noch mehr im Sinne der Pharmamedizin regulieren!
Ich bin für die Freiheit des einzelnen Menschen, sich seine Informationen selbst zu suchen, von Quellen, die er/sie für vertrauenswürdig hält. Wer Ärzten vertraut, soll das tun. Wer Chatbots vertraut, soll das tun. Jeder Mensch muss mit den Folgen leben, wenn er/sie dem Falschen vertraut (beispielsweise die, die sich von ihren Ärzten haben Spritzen setzen lassen). Das ist keine Haftungsfrage, denn Pharma haftet für gar nix. Iatrogene Todesursache erreicht Spitzenwerte, gerade weil die Menschen allem, was „reguliert“ ist, vertrauen, statt ihren eigenen Augen und ihrem eigenen Hirn.
Auf keinen Fall bin ich dafür, auch die restlichen verbliebenen Freiheiten hier noch weiter zu beschneiden.
Ich bin nur halb bei Ihnen. Die KI ist so designed, dass sie süchtig macht und den Fragenden umschmeichelt. Da gehört doch irgendwie Schutz integriert. Zum Beispiel darf auch rauchen nicht mehr beworben werden.
Das liegt in der Selbstverantwortung eines mündigen Bürgers. Chips können auch süchtig machen. Das zu wissen und die Finger davon zu lassen bzw. jegliche Werbung als extrem parteiisch zu erkennen, gehört zur wichtigen Bildung eines freien Individuums (Erziehung darf dabei nicht auf „den Staat“ abgewälzt werden, der nur Sklaven heranziehen will).
Schutz durch den Staat ist etwas, das ich ablehne bzw. von dem ich bestreite, dass es tatsächlich existiert. Alles, was uns als Schutz von pädophilen Satanisten verkauft wird, dient nur deren Profitmaximierung und Machtbefriedigung.
Wer sich in Formalisierungsangebote hineinbegiebt ist immer selbst schuld.
Genau so funktioniert das sogenannte „System“ auf allen Ebenen gleichzeitig.
Das Justizsystem ist sowieso immer Abbild der Wirklichkeit (= Wirksamkeit) des staatlichen Gewaltdispositivs.
Regeln für Kommentare: Bitte bleibt respektvoll - keine Diffamierungen oder persönliche Angriffe. Keine Video-Links. Manche Kommentare werden erst nach Prüfung freigegeben, was gelegentlich länger dauern kann. Benutzer haften für den Inhalt ihrer Kommentare.
Sie müssen angemeldet sein um Kommentare zu posten. Noch kein Konto? Jetzt registrieren.