У США заарештувала жінку після спілкування з ШІ Claude – вела особистий щоденник з планами розстріляти офіс шерифа
Жінка з Флориди вела в чат-боті Claude щоденник з погрозами розстріляти офіс шерифа. Anthropic повідомила поліцію.
У Флориді заарештували жінку, яка використовувала штучний інтелект Claude як особистий щоденник і написала в ньому про намір влаштувати стрілянину в офісі шерифа. Систему штучного інтелекту розробники продовжують вдосконалювати, однак саме алгоритми безпеки чат-бота виявили небезпечний запис і передали інформацію поліції. Жінку затримали без інцидентів, а тепер їй загрожує кримінальне переслідування за погрозу насильством.
Йдеться про мешканку міста Боніта-Спрінгс Карлі Мішель Геллер. За даними TechSpot, 26 вересня жінка написала в чат-боті Claude, що планує напасти на офіс шерифа. Сама вона розповідала, що використовує розробку компанії Anthropic як "щоденник" для особистих записів.
Системи безпеки Claude автоматично позначили запис як підозрілий, і повідомлення передали на розгляд живому модератору компанії. Після вивчення контексту фахівець дійшов висновку, що загроза реальна, і звернувся до правоохоронців.
Депутати шерифа встановили особу жінки та приїхали до неї додому. Геллер затримали без опору, після чого справу передали детективу відділу розвідки окружного управління шерифа. Жінці висунули звинувачення за статтею законодавства Флориди, яка стосується письмових погроз насильством.
За флоридським законом 836.10, надсилання, публікація чи передача письмового або електронного повідомлення з погрозою вбивства, масової стрілянини чи теракту - це тяжкий злочин другого ступеня. Умова застосування статті - щоб повідомлення могла побачити інша людина.
У компанії Anthropic пояснюють, що готові розкривати дані користувачів у рідкісних надзвичайних випадках, якщо є ризик загибелі людей чи серйозних травм. Цей випадок показує, що компанія справді користується таким правом на практиці, коли мова йде про потенційну загрозу життю.
Чат-боти дедалі частіше опиняються в центрі судових розглядів
Інцидент із Claude - не перший випадок, коли діалог користувача зі штучним інтелектом призводить до втручання поліції чи судів. Минулого місяця стало відомо, що провінція Британська Колумбія подала позов проти компанії OpenAI та її очільника Сема Альтмана, стверджуючи, що компанія могла запобігти масовій стрілянині в Канаді. За даними справи, вісімнадцятирічну колишню ученицю, яка влаштувала напад, система безпеки OpenAI раніше вже позначала через розмови про насильство зі зброєю, однак у поліцію про це не повідомили, оскільки випадок не досяг порогу для юридичного звернення.
У червні Флорида також подала позов проти OpenAI та Сема Альтмана, звинувативши ChatGPT у причетності до реальної шкоди людям, зокрема до стрілянини у Флоридському державному університеті. Ці справи показують, що компанії, які розробляють штучний інтелект, опинилися під зростаючим тиском - їх звинувачують як у надмірному втручанні в приватність користувачів, так і в бездіяльності, коли йдеться про реальну загрозу життю.
Раніше Інформатор повідомляв, що батьки підлітка з Каліфорнії подали в суд на OpenAI, звинувативши чат-бот ChatGPT у тому, що він підштовхнув їхнього 16-річного сина до самогубства. Також ми писали, що Білл Гейтс попереджав про ризики штучного інтелекту, заявивши, що технологія за певних умов може становити загрозу для мільярда людей.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
