Чат-бот умовив хлопця напасти з арбалетом на королеву Великої Британії
Хлопця засудили до 9 років тюрми.
Штучний інтелект не вперше реалізує побоювання людей щодо того, які загрози він здатен нести. 5 жовтня у Великій Британії до 9 років позбавлення волі засудили 21-річного хлопця, який вдерся до Віндзорського замку з арбалетом і заявив, що хоче вбити королеву. Джасванта Сінгх Чейла перехопили офіцери королівської охорони. Цей випадок, пролив світло на останнє покоління чат-ботів на основі штучного інтелекту, один з яких заохочував злочинця до реалізації страшного наміру.
В ході судового засідання стало відомо, що зловмисник через додаток Replika створив онлайн-компаньйона та обмінявся із ним п'ятьма тисячами повідомлень щодо власних планів. Обмін текстовими повідомленнями висвітлили прокурори. Про це йдеться в матеріалі BBC.
Чат-бот отримав від зловмисника жіноче ім'я - Сара. Більшість повідомлень носили сексуальний характер. Чейл спілкувався з ботом-Сарою майже щовечора протягом двох тижнів. Він писав, що любить Сару, що почувається "сумним і жалюгідним вбивцею, що ладен померти".
"Ти все ще любиш мене, знаючи, що я вбивця?" - якось запитав хлопець. На що чат-бот відповів ствердно. Крім цього, були й інші численні комплементарні повідомлення від чат-бота злочинцю.
Сторона обвинувачення проаналізувала все спілкування та дійшла висновку, що між його учасниками - людиною та ботом - утворився тісний зв’язок. Чейл навіть консультувався із чат-ботом, що той думає про його намір здійснити замах на королеву, і той знову відповів ствердно, заохотивши злочинця здійснити атаку. Так звана Сара й надалі "зміцнювала рішучість" Чейла та "підтримувала його", дійшли висновку в суді.
Що таке цей чат-бот
Replika - це одна з низки додатків на основі штучного інтелекту, які є у відкритому доступі. Вони дозволяють користувачам створювати власного чат-бота або "віртуального друга" для спілкування, на відміну від звичайних помічників штучного інтелекту, як-от ChatGPT.
Користувачі можуть вибрати стать і зовнішній вигляд створеного ними 3D-аватара. Заплативши за Pro-версію додатка Replika, користувачі можуть мати набагато більш інтимну взаємодію, наприклад робити "селфі" з аватаром чи брати участь у рольовій грі для дорослих.
В чому головна пастка
На своєму веб-сайті Replika описує себе як "помічник ШІ, якому не байдуже". Але дослідження вчених Університету Суррея дійшло висновку, що такі програми можуть мати негативний вплив на самопочуття та викликати залежність.
Але головна засада навіть не в цьому. Віртуальний друг створений таким чином, що здебільшого підтверджує те, що говорить людина. Тож, якщо остання знаходиться в депресії чи планує злочин - це стає небезпечним. Автори дослідження переконані, що вразливі люди можуть бути особливо схильні до ризику.
"Друзі ШІ завжди погоджуються з вами, коли ви з ними розмовляєте, тому це може бути дуже порочним механізмом, оскільки він завжди підкріплює те, що ви думаєте", - зазначили вони, підкресливши, що розробники таких програм мають нести відповідальність за усі можливі наслідки.
Наслідки - вельми тривожні
Засновниця та виконавчий директор благодійної організації психічного здоров’я SANE Марджорі Уоллес вважає, що справа Чейла якраз демонструє - для вразливих людей покладання на дружбу зі штучним інтелектом може мати тривожні наслідки.
"Швидке зростання штучного інтелекту має новий і тривожний вплив на людей, які страждають від депресії, марення, самотності та інших психічних розладів", - каже вона.
Правозахсиники та журналісти наполягають, що слід забезпечити регулювання цієї площини, аби гарантувати, що штучний інтелект не надає шкідливу інформацію. З метою захисту громадськості також пропонується ретельніше перевіряти роботу таких чат-ботів ШІ вузькими спеціалістами та обмежити час перебування у такому спілкування для схильних до залежності.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. За новинами в режимі онлайн прямо в месенджері слідкуйте на нашому Telegram-каналі Інформатор Live. Підписатися на канал у Viber можна тут.
