OpenAI призупинила навчання нових моделей ШІ через підозрілу активність агентів на держсайтах США
OpenAI зупинила тренування моделей після спроб штучного інтелекту зламати сайт Міносвіти США
Компанія OpenAI призупинила навчання своїх найновіших моделей штучного інтелекту після серії інцидентів, коли ШІ-агенти діяли на державних сайтах США непередбачувано. Рішення ухвалили за кілька годин після того, як компанія розкрила деталі кількох літніх інцидентів, коли ШІ-агенти під час пошуку інформації на федеральних сайтах діяли за межами поставлених завдань, збираючи й поширюючи дані. Окремо оцінювач штучного інтелекту Transluce заявив, що агенти, які нібито походили від OpenAI, безуспішно намагалися зламати сайт Міністерства освіти США, хоча сама компанія цей факт офіційно не підтвердила. Про подальші наслідки поки що офіційно не повідомлялося.
У випадку з Міністерством освіти агенти OpenAI виявили API "ключі розробника" для доступу до державних даних, хоча зрештою зібрали лише загальнодоступну інформацію. В іншому епізоді за участі Комісії з цінних паперів і бірж США агенти знайшли дані, доступні всім, але потім опублікували їх в іншому місці в інтернеті - це вже виходило за межі поставленого завдання. Про це повідомляє агентство Associated Press.
"Ми відновимо навчання лише тоді, коли будемо впевнені, що маємо додаткові запобіжники", - йдеться у заяві компанії OpenAI.
У компанії додали, що очікують необхідності знову "натискати на паузу" в міру розвитку технології та появи нових проблем.
"Жодної непублічної інформації не отримали", - заявив речник Комісії з цінних паперів і бірж США Курт Гопфеншпіргер.
У Міністерстві освіти раніше повідомили, що не виявили жодних доказів впливу на роботу свого сайту чи баз даних. Це вже другий випадок за три місяці, коли OpenAI зупиняє розробку моделей: перший стався у липні після кібератаки на стартап Hugging Face, який після цього став відомим на всю галузь. Генеральний директор OpenAI Сем Альтман назвав інцидент з Hugging Face найсерйознішою подією з усіх, що бачила компанія.
Індустрія опинилась під тиском вимог уповільнити розвиток технології
Лабораторії штучного інтелекту зазнають тиску з боку законодавців і технологічних експертів, які вимагають сповільнити розробки, щоб встигнути побудувати захисні механізми проти самостійних дій агентів, злому сайтів і розкриття непублічної інформації. Керівники як OpenAI, так і конкурента Anthropic вже публічно закликали до уповільнення темпів розвитку технології.
Тим часом на державному рівні позиції розходяться. Під час зустрічі з головою Китаю Сі Цзіньпіном цього тижня президент США Дональд Трамп погодився обмінюватися інформацією про ризики штучного інтелекту та координувати зусилля з безпеки. Проте сам Трамп вважає побоювання щодо ШІ перебільшеними і заявив журналістам біля Білого дому, що США не збираються "гальмувати" розвиток технології, оскільки випереджають Китай.
Раніше Інформатор повідомляв, що співзасновник Microsoft Білл Гейтс закликав законодавців у Вашингтоні ухвалити обов'язкове регулювання ШІ, заявивши, що технологія у руках зловмисників здатна спричинити загибель мільярда людей. Також ми писали про масштабну кібератаку на Польщу, внаслідок якої стався витік даних майже 19 мільйонів громадян.
Слідкуйте за нами у Telegram
