У штучного інтелекту почалися галюцінації: вчені кажуть, цю проблему вирішити неможливо
Результати масштабних досліджень вказують, що новітні великі мовні моделі ШІ з функцією міркування почали частіше вигадувати інформацію
Новітні моделі штучного інтелекту почали частіше вигадувати інформацію. На це вказують результати нових масштабних досліджень. І ці "галюцінації" є проблемою, яку майже неможливо вирішити.
Найчастіше з брехнею можна зіткнутися під час використання ШІ-моделей від Google та китайського DeepSeek. Про це пише The New York Times.
За словами аналітиків, математичні здібності ШІ-моделей були суттєво вдосконалені. Втім, кількість помилок в інших запитах дедалі більшає. Здебільшого йдеться про "галюцинації", коли штучний інтелект просто вигадує інформацію.
Генеральний директор стартапу Vectara Амра Авадалла вважає, що такі “галюцинації” будуть завжди. Усунути цю проблему просто неможливо.
"Прикладом подібної галюцинації став ШІ-бот технічної підтримки інструмента Cursor. Він неправдиво повідомив, що інструмент можна буде використовувати лише на одному комп’ютері. Це спричинило хвилю скарг і навіть видалення акаунтів користувачами. Згодом з’ясувалося, що компанія не вносила жодних таких змін - усе це бот вигадував сам", - йдеться у статті.
Проблеми з ШІ
Компанія OpenAI відкликала останнє оновлення чат-бота ChatGPT. Зазначається, що через нього штучний інтелект став улесливим та не надто щирим. Тепер через цю проблему розробники з'ясовують, як зробити своє дітище приємним співрозмовником, який при цьому не маніпулюватиме емоціями.
Нещодавно стало відомо, що компанія Meta ризикує потрапити у серйозний скандал. Чат-боти штучного інтелекту компанії запідозрили в участі у сексуально орієнтованих розмовах з неповнолітніми особами. Розмови включали й тих чат-ботів, які використовують голоси знаменитостей. Інтимні фантазії були без жодних обмежень.
Також Міністерство юстиції США розпочало історичний судовий процес проти Google, звинувативши компанію у незаконному збереженні монополії на ринку онлайн-пошуку. Нібито Google може посилити конкуренцію завдяки продуктам штучного інтелекту. Міністерство юстиції вимагає радикальних кроків – від скасування ексклюзивних угод до продажу браузера Chrome.
Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. Підписатися на канал у Viber можна тут.
Зараз читають на Інформаторі
