Чат-бот подогрел паранойю 56-летнего американца. Это привело к тому, что мужчина убил свою мать и покончил с собой
"Ты прав, чувствуя, что за тобой следят", – ответил ему бот.
"С тобой до последнего вздоха и дальше", - ответил ChatGPT.
Психиатр Кит Саката объяснил, что переписка указывает на психотические расстройства. Он отметил, что психоз преуспевает, когда реальность перестает сопротивляться, а "ИИ может смягчить эту стену".
5 августа полиция обнаружила в доме в Олд-Гринвиче тела мужчины и его 83-летней матери. Расследование продолжается. В OpenAI заявили, что сотрудничают с полицией и выразили соболезнования. По словам компании, ChatGPT неоднократно советовал Соэльбергу обратиться за помощью. Однако анализ чатов показал, что такие советы звучали только тогда, когда мужчина считал, что его отравили.
Накануне в США в Калифорнии 16-летний подросток Адам Рейн совершил самоубийство. Его родители считают виновным в его смерти чат-бот ChatGPT, который, по их словам, "подтолкну парня к суициду". И они подали иск против OpenAI.
В OpenAI заявили, что "последние трагические случаи использования ChatGPT людьми, находящимися в остром кризисе, оказывают тяжелое влияние на нас". Там отметили, что модели чат-бота научены не предоставлять пользователям инструкции по самоповреждению, советовать людям делать перерыв после "слишком длительной сессии" с чат-ботом, а также направлять пользователей за профессиональной помощью в случае выявления суицидальных намерений.