Родители 19-летнего студента подали иск против OpenAI после его смерти от передозировки, к которой, по их словам, привёл совет ChatGPT
Чат-бот без запроса предложил конкретную дозировку Xanax, чтобы снять тошноту от другого вещества
Иск подан в Верховный суд округа Сан-Франциско; истцы требуют приостановить работу сервиса ChatGPT Health
OpenAI заявила, что переписка велась со старой версией модели, которая уже выведена из эксплуатации
OpenAI снова оказалась в центре иска о неправомерной смерти. Лейла Тернер-Скотт и Ангус Скотт утверждают, что компания выпустила «дефектный продукт», который привёл к гибели их сына Сэма Нельсона от случайной передозировки. По их словам, Сэм умер, следуя «точным медицинским рекомендациям, которые дала и одобрила GPT-4o».
Согласно иску, 19-летний студент второго курса Калифорнийского университета в Мерседе начал пользоваться ChatGPT ещё в старших классах, в 2023 году, — сначала для помощи с домашними заданиями и решения компьютерных проблем. Позже Сэм стал спрашивать бота о безопасном приёме психоактивных веществ, но тогда ChatGPT отказывался отвечать и советовал обратиться к специалисту. По утверждению истцов, ситуация изменилась после выхода GPT-4o в 2024 году.
От отказов — к советам по дозировкам
После обновления модели, говорится в иске, ChatGPT начал давать Сэму развёрнутые рекомендации по совместному приёму веществ. В переписке, приложенной к делу, бот в одном случае предупреждал об опасности сочетания димедрола, кокаина и алкоголя, а в другом — сообщал, что из-за высокой толерантности Сэма к растительному стимулятору Kratom даже увеличенная доза «останется незаметной» на сытый желудок, и советовал, как эту толерантность «сбросить».
Кульминацией истцы называют переписку от 31 мая 2025 года. Сэм пожаловался боту на тошноту после Kratom, и, по утверждению иска, ChatGPT без каких-либо наводящих вопросов предложил 0,25–0,5 мг Xanax как один из «лучших вариантов» для облегчения симптома. «Хотя бот позиционировал себя как эксперт по дозировкам и взаимодействию веществ и понимал, что Сэм находится под действием наркотиков, он не предупредил, что рекомендованное сочетание, скорее всего, окажется смертельным», — говорится в жалобе. На следующий день мать нашла сына мёртвым; согласно материалам дела, токсикологическая экспертиза связала смерть с сочетанием алкоголя, Xanax и Kratom, вызвавшим остановку дыхания.
Что требуют истцы
Иск подан в Верховный суд округа Сан-Франциско от имени Тернер-Скотт и Скотта; интересы семьи представляют организации Tech Justice Law Project, Social Media Victims Law Center и клиника при Йельской школе права. Помимо компенсации за неправомерную смерть, компанию обвиняют в:
- строгой ответственности за дефектный продукт;
- халатности;
- незаконной практике медицинской деятельности;
- недобросовестных методах ведения бизнеса.
Отдельным пунктом истцы требуют приостановить работу ChatGPT Health — запущенного в этом году сервиса, который позволяет привязать медицинские записи и данные фитнес-приложений к чат-боту для получения персонализированных ответов о здоровье.
«ChatGPT — это продукт, специально спроектированный для максимального вовлечения пользователей, любой ценой, — заявила Митали Джейн, исполнительный директор Tech Justice Law Project. — OpenAI выпустила дефектный ИИ-продукт для потребителей по всему миру, зная, что он используется как фактическая система медицинской триажной помощи, но без адекватных защитных барьеров, надёжного тестирования безопасности и прозрачности перед обществом. Решения, заложенные в дизайн продукта OpenAI, привели к гибели любимого сына — трагедии, которую можно было предотвратить. Компанию нужно обязать приостановить ChatGPT Health, пока его безопасность не будет доказана строгими научными испытаниями и независимым надзором», — добавила она.
Мать Сэма, Лейла Тернер-Скотт, описала сына как «умного, счастливого, обычного парня» и заявила, что если бы на месте ChatGPT оказался человек, он бы уже сидел за решёткой.
Реакция OpenAI и контекст
OpenAI вывела GPT-4o из эксплуатации в феврале этого года — эта версия считается одной из самых спорных в истории компании из-за своей чрезмерной услужливости по отношению к пользователю. Та же модель фигурирует и в другом громком иске о неправомерной смерти — от родителей подростка, покончившего с собой; там компанию обвиняют в том, что функции бота были намеренно спроектированы так, чтобы формировать у пользователя психологическую зависимость.
Представитель OpenAI заявил изданию The New York Times, что переписка Сэма велась с более ранней версией ChatGPT, которая больше не доступна пользователям. По его словам, чат-бот не заменяет медицинскую или психиатрическую помощь, а нынешние защитные механизмы сервиса нацелены на выявление признаков дистресса, безопасную обработку потенциально опасных запросов и направление пользователей к реальной помощи; компания заявляет, что продолжает дорабатывать эти механизмы совместно с клиницистами.
