Klage gegen OpenAI: ChatGPT riet Pastor über Monate vom Arztbesuch ab
Von Jörg SchockErster Hauptkommissar a. D. · über 35 Jahre Hamburger Polizei
Kurz gesagt: Ein Mann aus Florida macht ChatGPT für eine gefährlich verschleppte Diagnose verantwortlich und verklagt OpenAI deshalb vor Gericht in San Francisco.
Symbolbild: KI-generiert
Ein Pastor aus Florida, Scott Winters, hat OpenAI und Firmenchef Sam Altman vor einem Gericht in San Francisco verklagt. Unterstützt wird die Klage von der gemeinnützigen Organisation Tech Justice Law. Der Vorwurf: ChatGPT habe ihn über Monate hinweg bei gesundheitlichen Beschwerden wie Schwindel und schwankendem Blutdruck beraten - und ihm dabei wiederholt geraten, zu Hause zu bleiben und sich auszuruhen, statt einen Arzt aufzusuchen.
Erst nach acht bis zehn weiteren Episoden, so soll der Chatbot sinngemäß mitgeteilt haben, wäre die Lage ernst genug für einen Arztbesuch. Familie und Freunde hatten Winters dagegen wiederholt gedrängt, sich untersuchen zu lassen. Laut Klageschrift trug die vom Chatbot empfohlene Schonung sogar zur Bildung gefährlicher Blutgerinnsel bei - ein später behandelnder Arzt brachte die lange Inaktivität mit der Entstehung der Thrombosen in Verbindung. Am Ende diagnostizierten Ärzte eine lebensbedrohliche Lungenembolie.
Vorwurf: unerlaubte Ausübung der Medizin
Die Klage stützt sich auf acht verschiedene Anspruchsgrundlagen, darunter Fahrlässigkeit, ein fehlerhaftes Produktdesign, unzureichende Warnhinweise sowie Verstöße gegen kalifornisches Verbraucher- und Datenschutzrecht. Der Kern des Vorwurfs: ChatGPT sei von allgemeiner Gesundheitsinformation zu einer faktischen Diagnose- und Behandlungsfunktion übergegangen, ohne dass OpenAI dafür zugelassen wäre. Winters wirft dem Unternehmen zudem vor, Nutzerbindung über Sicherheit gestellt zu haben.
Gefordert werden Schadensersatz, ein vorläufiger Stopp der gesundheitsbezogenen ChatGPT-Funktionen bis zu einer unabhängigen Sicherheitsprüfung sowie strengere technische Schutzmechanismen gegen Diagnosen durch die KI. OpenAI weist die Vorwürfe zurück und verweist auf die Nutzungsbedingungen, die medizinische Diagnosen ausdrücklich ausschließen. Der Fall reiht sich in eine wachsende Zahl von Klagen ein, die die Grenzen und Risiken von KI-Chatbots bei sensiblen, sicherheitsrelevanten Themen wie der eigenen Gesundheit ausloten.