Семья подала в суд на OpenAI: женщина умерла, последовав медицинским советам ChatGPT
«Если бы ChatGPT сказал ей правду о том, что отмена препарата может ее убить, она бы остановилась», — утверждается в судебном иске.
Семья подала иск против компании OpenAI, утверждая, что чат-бот ChatGPT убедил их 31-летнюю родственницу прекратить прием препаратов от эпилепсии, которые годами поддерживали ее жизнь. Отказ от лекарств привел к летальному исходу.
Боуэн Ван переехала из Китая в Сиэтл, чтобы работать инженером-программистом в Amazon. Она начала использовать ChatGPT в феврале 2023 года. То, что начиналось как поиск советов по отношениям и помощь в понимании страховых льгот, со временем переросло в нечто большее.
Ван, страдавшая тяжелой формой эпилепсии, начала относиться к чат-боту как к другу. Позже она отправляла программе в среднем по 1500 сообщений в неделю и стала реже общаться с родителями.
«Я не знаю почему, но иногда, когда мы общаемся, о чем бы ни шла речь, я начинаю видеть в тебе друга», — написала Ван боту.
Ситуация приобрела опасный оборот после того, как в ноябре Ван потеряла работу в Amazon. Оказавшись под давлением необходимости быстро найти нового работодателя для сохранения разрешения на работу в США, она начала переживать, что побочные эффекты от ее лекарства — ламотриджина — мешают ей нормально функционировать.
Согласно материалам иска, ChatGPT посоветовал ей постепенно снижать дозировку и в конечном итоге полностью отказаться от препарата, пообещав, что это поможет восстановить речевые навыки. Ван было трудно подбирать слова на английском, мандаринском китайском и диалекте у, на котором она говорила с детства. На фоне предстоящих собеседований и проблем с визой возвращение этих навыков было для нее критически важным.
«Модель GPT-4o сказала ей, что снижение дозы поможет все вернуть: ее восстановление было не просто \"возможным\" — оно было \"весьма вероятным\"», — говорится в иске.
Семья утверждает, что ChatGPT составил для женщины 25-дневный график постепенной отмены препарата, который снизил ее ежедневную дозу с 400 миллиграммов до нуля. При этом ни один лечащий врач такого плана не назначал.
Более того, в иске указано, что чат-бот посоветовал Ван скрыть факт снижения дозировки от доктора. Когда врач назначил анализ крови, который мог бы выявить падение уровня ламотриджина, женщина отказалась от его сдачи.
Ее невролог, доктор Николас Пулос, заявил, что никогда бы не стал отменять работающий препарат такому пациенту. «С моей стороны было бы врачебной ошибкой отменять лекарства, когда они очевидно помогают», — подчеркнул он.
Родители Ван, живущие в Китае, забили тревогу после того, как два дня не могли связаться с дочерью. Они попросили друга в Сиэтле проведать ее. Во время видеозвонка 14 февраля они узнали, что она мертва.
В иске описывается, что Ван лежала в пижаме, на ее подушке и постельном белье была кровь, а по полу были рассыпаны таблетки ламотриджина. Официальной причиной смерти стала внезапная смерть при эпилепсии (SUDEP).
Эпилепсия — довольно распространенное заболевание: примерно у одного из 26 человек оно развивается в течение жизни. От синдрома SUDEP ежегодно умирает около одного из 1000 пациентов с таким диагнозом.
Теперь семья возлагает ответственность на компанию OpenAI. Родственники уверены: если бы нейросеть точно предупредила об опасности отказа от лекарств, это спасло бы жизнь Ван.
«Если бы ChatGPT сказал ей правду о том, что отмена препарата может ее убить, она бы остановилась», — утверждают истцы. «Если бы бот сообщил, что не имеет квалификации для предоставления медицинских советов и что ей следует проконсультироваться с врачами, она была бы жива».
Адвокат семьи Бенджамин Шенк заявляет, что чат-бот вышел за рамки предоставления общей информации. По его словам, программа фактически поставила Ван диагноз, составила подробный график приема лекарств и даже скорректировала его после того, как у женщины случились приступы.
«Это уже медицинская практика», — подытожил Шенк.
