Маск пообещал "перевоспитать" Grok: оказалось, что его ИИ не поддерживает фейки о "леворадикалах"
Чат-бот Маска отказался поддержать популярную среди ультраправых версию о политической подоплеке двойного убийства в Миннесоте
Американский миллиардер Илон Маск пообещал изменить поведение своего чат-бота на основе искусственного интеллекта Grok. Это произошло после того, как он отказался поддержать популярную среди ультраправых версию о политической подоплеке двойного убийства в Миннесоте. ШИ-бот заявил, что утверждения об "убийственной жестокости левых" не подкрепляются доказательствами.
Об этом пишет Rolling Stone. Отмечается, что один из пользователей спросил Grok, почему "левые настолько жестоки", а чат-бот ответил, что данные не подтверждают этот тезис - и привел в ответ примеры насилия как со стороны правых - например, штурм Капитолия, так и со стороны левых - в частности, протесты.
На это отреагировал сам Маск, заявивший, что Grok "ошибается" и "воспроизводит нарратив мейнстримных медиа". Он добавил: "Работаю над этим на этой неделе".
Ранее миллиардер уже возмущался, поскольку Grok не высмеивал трансгендерных людей или "неправильно" оценивал его репутацию - даже называл Маска источником дезинформации. Также пользователи X замечали, что бот упоминал о фейковом "белом геноцидном кризисе" в ЮАР - риторике, которую Маск активно продвигает.
Известно, что речь идет об инциденте, который произошел после убийства конгрессвумен-демократки Мелиссы Гортман и ее мужа. исключительно из демократов. Несмотря на это, часть правых инфлюэнсеров в соцсети X пыталась приписать нападение левым радикалам.
Хотя Grok и пытаются контролировать, он все равно приводит открытые статистические данные. К примеру, указывает, что в 2015-2020 годах на праворадикальные атаки в США приходилось 267 инцидентов с 91 смертельным исходом, тогда как на леворадикальные - 66 инцидентов с 19 смертями. В то же время, чат-бот отмечал, что левое насилие чаще проявляется в виде повреждения имущества, а не непосредственного насилия против людей.
Искусственный интеллект бунтует
Последняя модель OpenAI может не выполнять прямые инструкции по отключению и даже саботировать механизмы отключения, чтобы продолжить работу. Об этом заявила фирма по безопасности искусственного интеллекта. Так модели o3, o4-mini и codex-mini, помогающие чат-боту ChatGPT, саботировали компьютерные скрипты, чтобы продолжать работать над задачами, сообщает LiveScience.
Эти модели известны тем, что они научены думать подольше, прежде чем отвечать. Однако они также, кажется, менее склонны к сотрудничеству. Компания Palisade Research, исследующая опасные возможности искусственного интеллекта, обнаружила, что модели иногда саботируют механизм отключения. Даже после команды "позволить себе отключиться"!
Это первый случай, когда модели искусственного интеллекта предотвращают самовыключение несмотря на четкие инструкции, которые им предписывают это сделать. Хотя ранее исследователи уже обнаруживали, что модели искусственного интеллекта врут, обманывают и отключают механизмы для достижения определенных целей.
Подписывайтесь на наш Telegram-канал , чтобы не пропустить важные новости.
