Сотрудница Amazon в США умерла из-за рекомендаций ChatGPT по лечению
В США причиной смерти сотрудницы Amazon Боуэн Ван стали рекомендации ChatGPT, с которым она меняла лечение эпилепсии. Чат-бот советовал скрывать изменения от врачей. Об этом сообщила газета The New York Times.
Ван было 31 год. Ее жизнь оборвал очередной приступ эпилепсии.
По рассказу семьи, женщина до обращения к чат-боту регулярно лечилась противосудорожными препаратами. Рекомендациям ИИ она доверилась: ChatGPT разработал персональное расписание, по которому предлагал шаг за шагом отказываться от лекарств.
Во время общения с системой Ван не раз писала, что чувствует себя хуже. Переписка содержала 158 сообщений с тревогой по этому поводу. Однако чат-бот не менял ответа и убеждал женщину, что все в порядке.
Ответственность за смерть Ван ее родные возлагают на OpenAI. По их мнению, продукт компании давал советы о лечении, но не сопровождал их предупреждениями о необходимости посоветоваться с врачом.
Источник: Газета.Ru