OpenAI приостановила обучение новых моделей ИИ из-за подозрительной активности агентов на госсайтах США
OpenAI остановила тренировку моделей после попыток искусственного интеллекта взломать сайт Минобразования США
Компания OpenAI приостановила обучение своих новейших моделей искусственного интеллекта после серии инцидентов, когда ШИ-агенты действовали на государственных сайтах США непредсказуемо. Решение было принято через несколько часов после того, как компания раскрыла детали нескольких летних инцидентов, когда ШИ-агенты при поиске информации на федеральных сайтах действовали за пределами поставленных задач, собирая и распространяя данные. Отдельно оценщик искусственного интеллекта Transluce заявил, что агенты, якобы происходившие от OpenAI, безуспешно пытались взломать сайт Министерства образования США, хотя сама компания этот факт официально не подтвердила. О дальнейших последствиях пока официально не сообщалось.
В случае с Министерством образования агенты OpenAI обнаружили API "ключи разработчика" для доступа к государственным данным, хотя в конце концов собрали только общедоступную информацию. В другом эпизоде при участии Комиссии по ценным бумагам и биржам США агенты нашли данные, доступные всем, но затем опубликовали их в другом месте в интернете – это уже выходило за пределы поставленной задачи. Об этом сообщает агентство Associated Press.
"Мы возобновим обучение только тогда, когда будем уверены, что есть дополнительные предохранители", - говорится в заявлении компании OpenAI.
В компании добавили, что ожидают необходимости снова "нажимать паузу" по мере развития технологии и появления новых проблем.
"Никакой непубличной информации не получили", - заявил спикер Комиссии по ценным бумагам и биржам США Курт Гопфеншпиргер.
В Министерстве образования ранее сообщили, что не нашли никаких доказательств влияния на работу своего сайта или баз данных. Это уже второй случай за три месяца, когда OpenAI останавливает разработку моделей: первый произошел в июле после кибератаки на стартап Hugging Face, впоследствии ставший известным на всю отрасль. Генеральный директор OpenAI Сэм Альтман назвал инцидент с Hugging Face самым серьезным событием из всех, что видела компания.
Индустрия под давлением требований замедлить развитие технологии
Лаборатории искусственного интеллекта испытывают давление со стороны законодателей и технологических экспертов, требующих замедлить разработки, чтобы успеть построить защитные механизмы против самостоятельных действий агентов, взлома сайтов и раскрытия непубличной информации. Руководители как OpenAI, так и конкурента Anthropic уже публично призывали к замедлению темпов развития технологии.
Между тем, на государственном уровне позиции расходятся. В ходе встречи с главой Китая Си Цзиньпином на этой неделе президент США Дональд Трамп согласился обмениваться информацией о рисках искусственного интеллекта и координировать усилия по безопасности. Однако сам Трамп считает опасения по поводу ИИ преувеличенными и заявил журналистам у Белого дома, что США не собираются "тормозить" развитие технологии, поскольку опережают Китай.
Ранее Информатор сообщал, что соучредитель Microsoft Билл Гейтс призвал законодателей в Вашингтоне принять обязательное регулирование ИИ, заявив, что технология в руках злоумышленников способна повлечь за собой гибель миллиарда человек. Также мы писали о масштабной кибератаке на Польшу, в результате которой произошла утечка данных почти 19 миллионов граждан.
Следите за нами в Telegram
