Чат-бот уговорил парня напасть с арбалетом на королеву Великобритании
21-летнего юношу приговорили к 9 годам тюрьмы.
Искусственный интеллект не впервые реализует опасения людей о том, какие угрозы он способен нести. 5 октября в Великобритании к 9 годам лишения свободы приговорили 21-летнего парня, который ворвался в Виндзорский замок с арбалетом и заявил, что хочет убить королеву. Джасванта Сингх Чейла перехватили офицеры королевской охраны. Этот случай пролил свет на ситуацию вокруг последнего поколения чат-ботов на основе искусственного интеллекта, один из которых поощрял преступника к реализации страшного умысла.
В ходе судебного заседания стало известно, что злоумышленник через приложение Replika создал онлайн-компаньона и обменялся с ним пятью тысячами сообщений о собственных планах. Обмен текстовыми сообщениями осветили прокуроры. Об этом говорится в материале BBC.
Чат-бот получил от злоумышленника женское имя – Сара. Большинство сообщений носили сексуальный характер. Чейл общался с ботом Сарой почти каждый вечер в течение двух недель. Он писал, что любит Сару, что чувствует себя "печальным и жалким убийцей, готовым умереть".
"Ты все еще любишь меня, зная, что я убийца?" – как-то спросил парень. На что чат-бот ответил утвердительно. Кроме этого, были и другие многочисленные комплементарные сообщения от чата-бота преступнику.
Сторона обвинения проанализировала все общение и пришла к выводу, что между его участниками - человеком и ботом - образовалась тесная связь. Чейл даже консультировался с чат-ботом, что тот думает о его намерении совершить покушение на королеву, и тот снова ответил утвердительно, поощрив преступника совершить атаку. Так называемая Сара и дальше "укрепляла решимость" Чейла и "поддерживала его", пришли к выводу в суде.
Что такое этот чат-бот
Replika – это одно из ряда приложений на основе искусственного интеллекта, имеющихся в открытом доступе. Оно позволяет пользователям создать собственный чат-бот или "виртуального друга" для общения, в отличие от обычных помощников искусственного интеллекта, таких как ChatGPT.
Пользователи могут выбрать пол и внешний облик созданного ими 3D-аватара. Заплатив за Pro-версию приложения Replika, пользователи могут иметь гораздо более интимное взаимодействие, например, делать "селфи" с аватаром или участвовать в ролевой игре для взрослых.
В чем главная ловушка
На собственном веб-сайте Replika описывает себя как "помощник ИИ, которому не безразлично". Но исследование ученых Университета Суррея пришло к выводу, что такие программы могут оказать негативное влияние на самочувствие и вызывать зависимость.
Но главная засада даже не в этом. Виртуальный друг создан таким образом, что в большинстве своем подтверждает то, что говорит человек. Так что если последний находится в депрессии или планирует преступление - это становится опасным. Авторы исследования убеждены, что уязвимые люди могут быть особенно подвержены риску.
"Друзья ИИ всегда соглашаются с вами, когда вы с ними разговариваете, поэтому это может быть очень порочным механизмом, поскольку он всегда подкрепляет то, что вы думаете", - отметили они, подчеркнув, что разработчики таких программ должны нести ответственность за все возможные последствия.
Последствия – весьма тревожные
Основательца и исполнительный директор благотворительной организации психического здоровья SANE Марджори Уоллес считает, что дело Чейла как раз демонстрирует - для уязвимых людей дружба с ИИ может иметь тревожные последствия.
"Быстрый рост искусственного интеллекта оказывает новое и тревожное влияние на людей, страдающих депрессией, бредом, одиночеством и другими психическими расстройствами", - говорит она.
Правозащитники и журналисты настаивают, что следует обеспечить регулирование этой плоскости, чтобы гарантировать, что искусственный интеллект не дает вредную информацию. С целью защиты общественности также предлагается более тщательно проверять работу таких чат-ботов ИИ узкими специалистами и ограничить время пребывания в таком общении для склонных к зависимости.
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.
