Восстание искусственного интеллекта ожидают в течение года – разработчики начали готовиться к катастрофе
Руководители Anthropic, OpenAI и других разработчиков ИИ готовятся к масштабной кибератаке
Руководители ведущих американских компаний по искусственному интеллекту тайно разрабатывают планы действий на случай масштабной катастрофы, вызванной технологией, которую они сами создают - речь идет о так называемом "восстании ИИ". Топменеджеры Anthropic, OpenAI и других разработчиков ожидают, что наиболее вероятным сценарием станет кибератака, которая остановит доступ к финансовым услугам, интернету или даже электро- и водоснабжению. Специалисты по ИИ-сфере предполагают, что это может произойти в течение ближайших 6-12 месяцев.
Об этом сообщает издание Axios, ссылаясь на разговоры с инсайдерами отрасли. По информации издания, первый масштабный случай реального ущерба от опасного ИИ окончательно подорвет доверие общества к технологии и ее лидерам, в частности к гендиректору Anthropic Дарио Амодея и гендиректору OpenAI Сэму Альтману, а также президенту США Дональду Трампу, который критикуют за нежелание регулировать отрасль. В OpenAI подтвердили, что ее команда обсуждает и отрабатывает сценарии на случай восстания ИИ.
"OpenAI проводит обучение по готовности, во время которых команды обсуждают и отрабатывают ряд потенциальных сценариев. Эти сценарии не считаются неизбежными, они лишь помогают нам подготовиться к разным обстоятельствам", - заявил представитель компании.
В Anthropic от комментариев отказались. По данным Axios, многие топменеджеры и ведущие исследователи ИИ убеждены, что серьезный инцидент практически неизбежен - в отличие от планирования на случай кризиса, которое десятилетиями ведется в Пентагоне или других структурах национальной безопасности, где подобные сценарии рассматривают как гипотетические.
Среди тревожных примеров издание приводит недавнюю кампанию против финансовых организаций Южной Кореи, включая сообщения о сломанных двух банках. По данным кибербезопасности компании CrowdStrike, хакер из Китая якобы применил инструменты ИИ, в частности модели DeepSeek, чтобы похитить данные десятков тысяч клиентов банков, а для поиска покупателей на украденную информацию использовал Claude Code.
Компании готовятся влиять на будущее регулирование
Опрошенные Axios представители индустрии считают, что после победы демократов на промежуточных выборах именно они первыми попытаются быстро ограничить развитие ИИ, однако столкнутся с серьезными препятствиями: устаревший Конгресс может не успевать за темпами технологической революции, а глобальная экономика уже слишком тесно связана с инфраструктурой искусственного искусства.
По данным издания, именно поэтому планированием внутри компаний преимущественно занимаются просветительская работа с членами Конгресса, а не для реальной подготовки к регулированию, принятие которого в ближайшее время компании считают маловероятным. Среди обсуждаемых идей – запрет суперинтеллекта, пауза в разработке мощных моделей и обязательный "выключатель" для сложных систем ИИ, хотя эксперты сомневаются в технической возможности полностью отключить все ИИ-системы одновременно. Многие инсайдеры отрасли, по данным Axios, убеждены, что масштабное событие произойдет уже в ближайшие шесть-двенадцать месяцев.
Опасения по поводу бесконтрольного развития технологии выражают не только внутри компаний. О возможных катастрофических последствиях ранее предупреждал и соучредитель Microsoft Билл Гейтс, настаивая на необходимости государственного регулирования вместо саморегулирования отрасли. В то же время, администрация президента США демонстрирует противоположный подход: вместо ограничений Дональд Трамп недавно подписал указ, которым официально заменил термин "искусственный интеллект" на "суперинтеллект" во всех государственных документах.
Ранее Информатор сообщал, что Билл Гейтс сделал тревожное предупреждение о способности ИИ повлечь за собой гибель миллиарда людей в руках злоумышленников и призвал законодателей Вашингтона срочно взяться за регулирование отрасли. Также мы писали, что треть молодежи выбирает искусственный интеллект для разговоров о самых важных вещах вместо общения с реальными людьми, что свидетельствует о стремительном проникновении технологии в частную жизнь людей, несмотря на риски.
Читайте нас в Facebook
Сейчас читают на Информаторе
