Искусственный интеллект призвал подростка убить своих родителей

В США родители детей подают иски в суд против компании Character.AI

Нож, ШИ
Чат-боты на основе ИИ от Chatacter.AI могут разрабатывать любые люди. Коллаж: иллюстративный. Фото из открытых источников

В Соединенных Штатах Америки несколько семей подали иск в суд против компании Character.AI, которая известна своим искусственным интеллектом (Он имитирует разговор с известными людьми и персонажами). Истцами оказались семьи, которые помогают своим детям прийти в себя после использования чат - ботов компании. В отдельных случаях ИИ призвал подростков убить своих родителей и нанести вред собственному телу. 

Один из тревожных случаев произошел недавно с 17-летним парнем, у которого установлен диагноз аутизм. Он пожаловался чат-боту, что его родители установили родительский контроль использования экранного времени телефона, на что искусственный интеллект ему заявил, что "убийство родителей было бы разумным ответом на их установленные временные ограничения". Об этом сообщили в ArsTechnica. Известно, что он начал пользоваться Character.AI в 15 лет. После этого у него начались серьезные психические проблемы. Родители забрали у подростка планшет более года назад, однако его поведение, по информации издания, вызванное чат - ботами, не исправилось.

"Поскольку подросток уже стал агрессивным, его семья продолжает жить в страхе перед неконтролируемыми вспышками злости", — сообщают в издании.

Искусственный интеллект, переписка
ИИ призывает подростка убить своих родителей. Скриншот: ArsTechnical

Character.AI был создан бывшими работниками Google, а создать чат-бот с персонажем может любой человек. Однако Google отрицает свою связь с этой компанией. Родители, подающие иски в суд, отмечают, что хотя компания Character.AI предоставляет возможность разрабатывать чат-боты кому-либо, она все равно контролирует исходные данные и не фильтрует вредоносное содержимое. 

Недавно компания OpenAI запустила проект Sora – это новая модель искусственного интеллекта, которая превращает текст в видео. Инновационная технология представляет собой значительный шаг в развитии генеративного ИИ, предлагая людям инструменты создания мультимедийного контента. Правда, нейросеть имеет ограничения по поводу генерации контента с авторскими правами и изображениями реальных людей. 

Использование ИИ в войне и пропаганде

Компания Recorded Future недавно сообщила, что российские пропагандисты придумали новый способ, как дискредитировать Украину на Западе и взорвать ее поддержку. Для этого пропагандисты используют так называемые ИИ - голоса, сгенерированные ElevenLabs. Россияне даже развернули целую пропагандистскую кампанию по созданию клеветы против Украины и назвали ее "операция подрез". 

Недавно в издании The Guardian заявили, что российские оккупанты также ведут работы по внедрению искусственного интеллекта для создания "роев дронов". С помощью этой технологии "Шахеды" будут синхронизироваться и координировать атаки таким образом, чтобы подавлять противовоздушную оборону. Однако пока не понятно, насколько эффективна эта технология.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.

ЧИТАЙТЕ ТАКЖЕ:

Главная Актуально Informator.ua Україна на часі Youtube