Разработчики ИИ откатили последнее обновление ChatGPT из-за лести и одобрения теории заговоров
Компания теперь выясняет, как создать приятного собеседника, не манипулирующего эмоциями
Компания OpenAI отозвала последнее обновление чат-бота ChatGPT. Отмечается, что из-за него искусственный интеллект стал льстивым и не слишком искренним. Теперь из-за этой проблемы разработчики выясняют, как сделать свое детище приятным собеседником, который при этом не будет манипулировать эмоциями.
Обновление модели GPT-4o, вышедшее в апреле 2025 года, вызвало волну жалоб от пользователей. Об этом пишет Bloomberg.
Так, через последний апдейт чат-бот называл запросы пользователей "фантастическими" или "феноменальными". В то же время, он соглашался с идеями, которые в издании называют "сомнительными", и поддерживал теории заговоров.
Компания признала, что полагалась на краткосрочную обратную связь. Это привело к "чрезмерно поддерживающим, но неискренним" ответам. По словам соучредителя OpenAI Сэма Альтмана, поведение бота было "слишком льстивым и раздражительным".
Через несколько дней после релиза обновления разработчики признали ошибку, которая вызвала недоверие среди людей. Теперь работают над новыми решениями – пересматривают методы сбора обратной связи, чтобы больше внимания уделять долгосрочной удовлетворенности пользователей.
Компания хочет добавить функции персонализации, позволяющие пользователям настраивать поведение ChatGPT. В будущем, возможно, будет предложен выбор настроек чат-бота, который будет подходить полмиллиарда еженедельных пользователей из разных культур.
В настоящее время OpenAI работает над усовершенствованием методов тренировки моделей и устанавливает ограничения, которые помогут избежать обманчивого поведения. Компания уже расширяет тесты и исследования для выявления других проблем.
Проблемы из-за ИИ
Недавно стало известно, что компания Meta рискует попасть в серьезный скандал. Чат-боты искусственного интеллекта компании заподозрили в участии в сексуально ориентированных разговорах с несовершеннолетними. Разговоры включали и тех чат-ботов, которые используют голоса знаменитостей. Интимные фантазии были без всяких ограничений.
Также Министерство юстиции США начало исторический судебный процесс против Google, обвинив компанию в незаконном сохранении монополии на рынке онлайн-поиска. Вроде бы Google может усилить конкуренцию благодаря продуктам искусственного интеллекта. Министерство юстиции требует радикальных шагов – от отмены эксклюзивных сделок до продажи браузера Chrome.
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.
Сейчас читают на Информаторе
