У искусственного интеллекта начались галлюцинации: ученые говорят, эту проблему решить невозможно
Результаты масштабных исследований указывают, что новейшие крупные языковые модели ИИ с функцией рассуждения стали чаще придумывать информацию
Новейшие модели искусственного интеллекта стали чаще придумывать информацию. Это указывают результаты новых масштабных исследований. И эти галлюцинации являются проблемой, которую почти невозможно решить.
Чаще всего с ложью можно столкнуться при использовании ШИ-моделей от Google и китайского DeepSeek.
По словам аналитиков, математические способности ШИ-моделей были существенно усовершенствованы. Впрочем, количество ошибок в других запросах все больше. В основном речь идет о "галлюцинациях", когда искусственный интеллект просто придумывает информацию.
Генеральный директор стартапа Vectara Амра Авадалла считает, что такие галлюцинации будут всегда. Устранить эту проблему просто невозможно.
"Примером подобной галлюцинации стал ШИ-бот технической поддержки инструмента Cursor. Он неправдиво сообщил, что инструмент можно будет использовать только на одном компьютере. Это повлекло за собой волну жалоб и даже удаление аккаунтов пользователями. Впоследствии выяснилось, что компания не вносила никаких таких изменений - все это бот придумывал сам", - говорится в статье.
Проблемы с ИИ
Компания OpenAI отозвала последнее обновление чат-бота ChatGPT. Отмечается, что из-за него искусственный интеллект стал льстивым и не слишком искренним. Теперь из-за этой проблемы разработчики выясняют, как сделать свое детище приятным собеседником, который при этом не будет манипулировать эмоциями.
Недавно стало известно, что компания Meta рискует попасть в серьезный скандал. Чат-боты искусственного интеллекта компании заподозрили в участии в сексуально ориентированных разговорах с несовершеннолетними. Разговоры включали и тех чат-ботов, которые используют голоса знаменитостей. Интимные фантазии были без всяких ограничений.
Также Министерство юстиции США начало исторический судебный процесс против Google, обвинив компанию в незаконном сохранении монополии на рынке онлайн-поиска. Вроде бы Google может усилить конкуренцию благодаря продуктам искусственного интеллекта. Министерство юстиции требует радикальных шагов – от отмены эксклюзивных сделок до продажи браузера Chrome.
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. Подписаться на канал в Viber можно здесь.
Сейчас читают на Информаторе
