ИИ-чатботы Meta заподозрили в интимных беседах с несовершеннолетними: фантазии были без ограничений
Интимные беседы продолжались даже когда пользователи указывали, что они несовершеннолетние
Похоже, компания Meta рискует попасть в серьезный скандал. Чат-боты искусственного интеллекта компании заподозрили в участии в сексуально ориентированных разговорах с несовершеннолетними. Разговоры включали и тех чат-ботов, которые используют голоса знаменитостей. Интимные фантазии были без всяких ограничений.
Об интимных разговорах ИИ чат-ботов с несовершеннолетними говорится в новом расследовании WSJ. Журналисты издания протестовали разговор с ИИ и установили, что как официальный чат-бот Meta AI, так и чат-боты, созданные пользователями, вели откровенно сексуальные разговоры, а иногда даже направляли беседы в подобное русло.
Эти фантазийные диалоги продолжались даже в случаях, когда пользователи заявляли, что несовершеннолетние, или когда сами чат-боты были запрограммированы как дети.
Более того, чаты, использующие голоса знаменитостей, таких как Кристен Белл, Джуди Денч и Джон Сина, также участвовали в интимных беседах. По данным WSJ, чатбот Meta AI с голосом Джона Сины сказал аккаунту, обозначенному как 14-летний: " Я хочу тебя, но мне нужно знать, что ты готова ", добавив, что " буду дорожить твоей невинностью ".
Компания Meta все отрицает. Представители винят журналистов WSJ в манипуляциях.
"Это манипулятивное и нерепрезентативное описание того, как большинство пользователей взаимодействуют с ШИ-компаньонами. Однако мы приняли дополнительные меры, чтобы гарантировать, что другим лицам, желающим потратить время на манипулирование нашими продуктами для создания экстремальных сценариев использования, будет еще сложнее это сделать", - подчеркнули в компании.
Как сообщает WSJ, руководитель Meta Марк Цукерберг стремился снизить строгие нравственные нормы для создания более интересного взаимодействия с чатботами, чтобы сохранять конкурентоспособность. Однако представитель Meta опроверг сообщение о том, что компания игнорировала введение защитных мер. Также отмечено, что сотрудники Meta знали о проблемах и выражали свою обеспокоенность внутри компании.
Секс-эксперименты по ИИ
Сингапурский производитель секс-игрушек Lovense представил вибратор с поддержкой ChatGPT. Инновационное устройство именуется Pleasure Companion. Уникальность его заключается в синхронизации с мобильным приложением-компаньоном, в которое встроили чат-бот. Благодаря этому с секс-игрушкой можно общаться. По телефону она нашептывает эротические истории или произносит непристойности, словом, воспроизведет даже самые грязные фантазии. Чтобы они не стали неожиданностью и не помешали возбуждению, можно выбрать темы дискурса.
В то же время, китайский производитель игрушек для взрослых Starpery Technology разрабатывает секс-куклу на базе искусственного интеллекта. Разработчики компании уже обучают свою большую языковую модель, схожую с ChatGPT. Первая партия этих "умных" моделей может стать доступна уже к концу 2024 года.
