Розробники ШІ відкатили останнє оновлення ChatGPT через лестощі та схвалення теорії змов
Компанія тепер з'ясовує, як створити приємного співрозмовника, що не маніпулює емоціями
Компанія OpenAI відкликала останнє оновлення чат-бота ChatGPT. Зазначається, що через нього штучний інтелект став улесливим та не надто щирим. Тепер через цю проблему розробники з'ясовують, як зробити своє дітище приємним співрозмовником, який при цьому не маніпулюватиме емоціями.
Оновлення моделі GPT-4o, яке вийшло у квітні 2025 року, викликало хвилю скарг від користувачів. Про це пише Bloomberg.
Так, через останній апдейт чат-бот називав запити користувачів "фантастичними" або ж "феноменальними". Водночас він погоджувався з ідеями, які у виданні називають "сумнівними", та підтримував теорії змов.
Компанія визнала, що покладалася на короткостроковий зворотний зв’язок. Це призвело до "надмірно підтримувальних, але нещирих" відповідей. За словами співзасновника OpenAI Сема Альтмана, поведінка бота була "надто улесливою та дратівливою".
Через кілька днів після релізу оновлення розробники визнали похибку, яка викликала недовіру серед людей. Тепер працюють над над новими рішеннями - переглядають методи збору зворотного зв’язку, щоб більше уваги приділяти довгостроковій задоволеності користувачів.
Компанія хоче додати функції персоналізації, які дозволять користувачам налаштовувати поведінку ChatGPT. У майбутньому, можливо, буде запропоновано вибір налаштувань чат-бота, який підходитиме півмільярду щотижневих користувачів з різних культур.
Нині OpenAI працює над вдосконаленням методів тренування моделей і встановлює обмеження, які допоможуть уникнути оманливої поведінки. Компанія вже розширює тести та дослідження для виявлення інших проблем.
Проблеми через ШІ
Нещодавно стало відомо, що компанія Meta ризикує потрапити у серйозний скандал. Чат-боти штучного інтелекту компанії запідозрили в участі у сексуально орієнтованих розмовах з неповнолітніми особами. Розмови включали й тих чат-ботів, які використовують голоси знаменитостей. Інтимні фантазії були без жодних обмежень.
Також Міністерство юстиції США розпочало історичний судовий процес проти Google, звинувативши компанію у незаконному збереженні монополії на ринку онлайн-пошуку. Нібито Google може посилити конкуренцію завдяки продуктам штучного інтелекту. Міністерство юстиції вимагає радикальних кроків – від скасування ексклюзивних угод до продажу браузера Chrome.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.
Зараз читають на Інформаторі
