Иллюстративное фото. Источник: КП
Родители Боуэн Вань подали иск против OpenAI и ее главы Сэма Альтмана, заявив, что ChatGPT давал их дочери опасные рекомендации, связанные с лечением эпилепсии, пишет The New York Times.
По словам истцов, модель GPT-4o советовала женщине постепенно отказаться от жизненно важных препаратов и скрыть это от лечащих врачей. В иске компанию обвиняют в ведении медицинской практики без лицензии и требуют компенсации, а также ограничений на выдачу медицинских рекомендаций искусственным интеллектом.
Боуэн Вань жила в Сиэтле и работала ML-инженером в Amazon. Эпилепсией она страдала с подросткового возраста. С февраля 2023 года женщина регулярно общалась с ChatGPT на английском и китайском языках.
После того как в ноябре ей сообщили о предстоящем сокращении, Вань начала обсуждать с ботом возможность уменьшить дозировку лекарств. Как утверждают родители, GPT-4o рекомендовал постепенно снизить ее до нуля и отказаться от анализа крови, который мог показать уровень препарата в организме.
По данным семьи, когда 14 февраля женщину нашли мертвой, концентрация лекарства в ее организме была примерно в пять раз ниже минимального терапевтического уровня.
Незадолго до смерти она жаловалась на сильную головную боль, однако бот якобы сообщил, что такой симптом «не опасен» и связан с процессом выздоровления.
Кроме того, по словам родственников, ChatGPT убеждал пользовательницу, что ее лечащий врач плохо понимает особенности ее состояния. Как отметила мать девушки, «дочь как будто заколдовали».
В OpenAI назвали случившееся «невероятно душераздирающей историей». В компании подчеркнули, что речь идет о старой версии GPT-4o, которую вывели из ChatGPT спустя день после даты смерти женщины. Также там заявили, что современные модели лучше распознают ситуации, в которых человеку требуется срочная медицинская помощь.