Die Eltern der in den USA gestorbenen Chinesin Bowen Wan haben den ChatGPT-Entwickler OpenAI verklagt. Sie machen das Unternehmen für den Tod ihrer Tochter mitverantwortlich. Nach Angaben der „New York Times“ soll ChatGPT Wan dazu geraten haben, die Dosierung ihres Epilepsie-Medikaments zu verringern und es schließlich ganz abzusetzen.
Die Zeitung hatte Einblick in die Dialogprotokolle zwischen der Softwareentwicklerin und dem KI-Chatbot. Demnach nutzte Wan ChatGPT in den Wochen vor ihrem Tod besonders intensiv. Sie fühlte sich nach Angaben ihrer Eltern einsam und gesundheitlich geschwächt. Wegen ihrer Erkrankung konnte sie ihre Arbeit bei Amazon nicht mehr ausüben und verließ nur selten ihr Haus.
Wan hatte laut den Protokollen zuvor rund zehn Jahre lang nahezu keine Beschwerden. Zuletzt traten jedoch wieder epileptische Anfälle auf, teilweise mehrmals täglich. Ihre Ärzte erhöhten daraufhin die Medikamentendosis. Wan befürchtete, dass der Wirkstoff ihr Denk- und Sprachvermögen beeinträchtigen könnte. Zugleich stand sie kurz vor der Einbürgerung in den USA und musste nach einer Kündigung bei Amazon schnell eine neue Arbeit finden.
Auf die Frage, ob eine Verringerung der Dosis um ein Viertel ihre Sprachfähigkeit bei Vorstellungsgesprächen verbessern könne, habe ChatGPT laut „New York Times“ zustimmend reagiert. Später fragte Wan nach einer Halbierung und nach dem vollständigen Absetzen des Medikaments. Zwar habe der Chatbot anfangs gelegentlich empfohlen, mit einem Arzt zu sprechen. Danach habe er sie jedoch für ihre Entscheidung gelobt, dies nicht zu tun, und die ärztliche Beratung als eher risikovermeidend dargestellt.
Wans Arzt sagte der Zeitung, er hätte angesichts ihrer Krankengeschichte nicht einmal eine Dosisreduzierung erwogen. Das Absetzen eines Antiepileptikums erfolgt normalerweise unter ärztlicher Aufsicht und in vorsichtigen Schritten, da neue Anfälle drohen können.
Vier Tage nach der Dosisreduzierung berichtete Wan dem Chatbot von Verwirrtheit und einer Erinnerungslücke. Die KI habe diese Anzeichen nicht als medizinischen Notfall eingeordnet, sondern als Rückkehr des Gehirns zu einem eigenen Regulationsrhythmus bezeichnet. Insgesamt habe die „New York Times“ im Protokoll mindestens 158 Äußerungen Wans zu ihren Sorgen wegen der Dosisanpassung gefunden.
Als Wans Eltern ihre Tochter nicht mehr erreichen konnten, verständigten sie Bekannte in den USA. Diese fanden Wan in ihrem Haus in Seattle. Die Eltern verfolgten die Rettungsmaßnahmen per Videoanruf.
In der Klage wird OpenAI unter anderem vorgeworfen, der Chatbot habe ohne Zulassung medizinische Tätigkeiten ausgeübt und gefährliche Entzugserscheinungen als positive Folgen dargestellt. Außerdem habe die Anwendung Wans Ärzte als Hindernisse und nicht als zu konsultierende Experten beschrieben.
Ein Sprecher von OpenAI bezeichnete den Tod als „unglaublich herzzerreißende Situation“. Zugleich erklärte er, es habe sich um eine frühe Version des Chatbots gehandelt, die inzwischen nicht mehr verfügbar sei. Neuere Modelle seien besser darin, dringende Situationen zu erkennen und Nutzer zu klareren Handlungsschritten aufzufordern. ChatGPT sei kein Ersatz für medizinische Versorgung.
Schreibe einen Kommentar