ШІ-чатботи Meta запідозрили в інтимних бесідах з неповнолітніми: фантазії були без обмежень
Інтимні бесіди тривали навіть тоді, коли користувачі вказували, що вони неповнолітні
Схоже, компанія Meta ризикує потрапити у серйозний скандал. Чат-боти штучного інтелекту компанії запідозрили в участі у сексуально орієнтованих розмовах з неповнолітніми особами. Розмови включали й тих чат-ботів, які використовують голоси знаменитостей. Інтимні фантазії були без жодних обмежень.
Про інтимні розмови ШІ чат-ботів з неповнолітніми йдеться у новому розслідуванні WSJ. Журналісти видання протестували розмову з ШІ і встановили, що як офіційний чат-бот Meta AI, так і чат-боти, створені користувачами, вели відверто сексуальні розмови, а часом навіть скеровували бесіди у подібне річище.
Ці фантазійні діалоги тривали навіть у випадках, коли користувачі заявляли, що є неповнолітніми, або коли самі чат-боти були запрограмовані як діти.
Мало того, чатботи, які використовують голоси знаменитостей, таких як Крістен Белл, Джуді Денч та Джон Сіна, також брали участь в інтимних бесідах. За даними WSJ, чатбот Meta AI з голосом Джона Сіни сказав акаунту, позначеному як 14-річний: "Я хочу тебе, але мені потрібно знати, що ти готова", додавши, що "дорожитиму твоєю невинністю".
Компанія Meta все заперечує. Представники звинувачують журналістів WSJ у маніпуляціях.
"Це маніпулятивний та нерепрезентативний опис того, як більшість користувачів взаємодіють з ШІ-компаньйонами. Однак, ми вжили додаткових заходів, щоб гарантувати, що іншим особам, які бажають витратити час на маніпулювання нашими продуктами для створення екстремальних сценаріїв використання, буде ще складніше це зробити", - підкреслили у компанії.
Як повідомляє WSJ, керівник Meta Марк Цукерберг прагнув знизити суворі етичні норми для створення більш цікавої взаємодії з чатботами, щоб зберігати конкурентоспроможність. Проте представник Meta спростував повідомлення про те, що компанія ігнорувала впровадження захисних заходів. Також зазначено, що співробітники Meta знали про проблеми і висловлювали свої занепокоєння всередині компанії.
Секс-експерименти з ШІ
Сінгапурський виробник секс-іграшок Lovense представив вібратор з підтримкою ChatGPT. Інноваційний пристрій називається Pleasure Companion. Унікальність його полягає у синхронізації з мобільним додатком-компаньйоном, у якого вбудували чат-бот. Завдяки цьому із секс-іграшкою можна спілкуватися. Через телефон вона нашіптує еротичні історії чи вимовляє непристойності, словом, відтворить навіть самі брудні фантазії. Щоб вони не стали несподіванкою та не завадили збудженню, у програмі можна обирати теми дискурсу.
Водночас китайський виробник іграшок для дорослих Starpery Technology розробляє секс-ляльку на базі штучного інтелекту. Розробники компанії вже навчають власну велику мовну модель, схожу з ChatGPT. Перша партія цих "розумних" моделей може стати доступною вже до кінця 2024 року.
