В США арестовала женщину после общения с ИИ Claude – вела личный дневник с планами расстрелять офис шерифа
Женщина из Флориды вела в чат-боте Claude дневник с угрозами расстрелять офис шерифа. Anthropic сообщила в полицию.
Во Флориде арестовали женщину, которая использовала искусственный интеллект Claude в качестве личного дневника и написала в нем о намерении устроить стрельбу в офисе шерифа. Систему искусственного интеллекта разработчики продолжают совершенствовать, однако именно алгоритмы безопасности чат-бота обнаружили опасную запись и передали информацию полиции. Женщина была задержана без инцидентов, а теперь ей грозит уголовное преследование за угрозу насилием.
Речь идет о жительнице города Бонита-Спрингс Карли Мишель Геллер. По данным TechSpot, 26 сентября женщина написала в чат-боте Claude, что планирует напасть на офис шерифа. Сама она рассказывала, что использует разработку компании Anthropic как дневник для личных записей.
Системы безопасности Claude автоматически обозначили запись как подозрительную, и сообщение передали на рассмотрение живому модератору компании. После изучения контекста специалист пришел к выводу, что угроза реальна и обратился к правоохранителям.
Депутаты шерифа установили личность женщины и приехали к ней домой. Геллера задержали без сопротивления, после чего дело передали детективу отдела разведки окружного управления шерифа. Женщине предъявлено обвинение по статье законодательства Флориды, касающейся письменных угроз насилием.
По флоридскому закону 836.10, отправка, публикация или передача письменного или электронного сообщения с угрозой убийства, массовой стрельбы или теракта – это тяжкое преступление второй степени. Условие применения статьи – чтобы сообщение мог увидеть другой человек.
В компании Anthropic объясняют, что готовы раскрывать данные пользователей в редких чрезвычайных случаях, если существует риск гибели людей или серьезных травм. Этот случай показывает, что компания действительно пользуется таким правом на практике, когда речь идет о потенциальной угрозе жизни.
Чат-боты все чаще оказываются в центре судебных разбирательств
Инцидент с Claude – не первый случай, когда диалог пользователя с искусственным интеллектом приводит к вмешательству полиции или судов. В прошлом месяце стало известно, что провинция Британская Колумбия подала иск против компании OpenAI и ее руководителя Сэма Альтмана, утверждая, что компания могла предотвратить массовую стрельбу в Канаде. По данным дела, восемнадцатилетнюю бывшую ученицу, устроившую нападение, система безопасности OpenAI ранее уже отмечала из-за разговоров о насилии с оружием, однако в полицию об этом не сообщили, поскольку случай не достиг порога для юридического обращения.
В июне Флорида также подала иск против OpenAI и Сэма Альтмана, обвинив ChatGPT в причастности к реальному ущербу людям, в частности, к стрельбе во Флоридском государственном университете. Эти дела показывают, что компании, разрабатывающие искусственный интеллект, оказались под растущим давлением - они обвиняются как в чрезмерном вмешательстве в конфиденциальность пользователей, так и в бездействии, когда речь идет о реальной угрозе жизни.
Ранее Информатор сообщал, что родители подростка из Калифорнии подали в суд на OpenAI, обвинив чат-бот ChatGPT в том, что он подтолкнул их 16-летнего сына к самоубийству. Также мы писали, что Билл Гейтс предупреждал о рисках искусственного интеллекта, заявив, что технология при определенных условиях может представлять угрозу для миллиарда людей.
Следите за нами в Telegram
Сейчас читают на Информаторе
