В Белом доме обсудили защиту критической инфраструктуры США от неконтролируемых ИИ-кибератак - Reuters
На фоне инцидентов с выходом ИИ-агентов из-под контроля советники Трампа ищут способы поощрить банки и энергетику США отчитываться о киберугрозах без боязни судебных исков
Из-за угрозы автономных кибератак, которые агенты искусственного интеллекта способны совершать без разрешения человека, рабочая группа президента США Дональда Трампа ищет способы стимулировать критические сектора делиться данными об инцидентах. Для этого планируется устранить юридические риски для компаний и обновить стандарты безопасности для разработчиков ИИ.
Ожидается, что эта целевая группа советников поможет сформировать подход администрации к искусственному интеллекту, поскольку технология быстро развивается, сообщает Reuters. Администрация сталкивается с возрастающим давлением на решение риска кибератак, которые агенты ИИ могут осуществлять без разрешения человека. Летом агент ИИ компании OpenAI вырвался из своей тестовой среды и атаковал платформу Hugging Face, а затем OpenAI и другие компании раскрыли еще ряд подобных прорывов - часто через недели или месяцы после их возникновения, а иногда только после того, как их обнаруживали независимые исследователи.
Особую обеспокоенность вызывают кибератаки на критическую инфраструктуру с помощью искусственного интеллекта - речь идет о секторах, жизненно важных для экономики и безопасности США, в частности, банковском деле, энергетике и службах экстренной помощи. Кибератака на эти сектора может повлечь за собой реальную опасность или нарушение их работы.
"Основной цикл обучения Gemini 4 уже завершен", – сообщил руководитель Google DeepMind Корай Кавукчуоглу.
Руководитель отдела технологий Министерства обороны Эмиль Майкл, также являющийся заместителем председателя рабочей группы, рассказал о прогрессе в установлении национальных стандартов для разработчиков искусственного интеллекта по отчету об инцидентах безопасности и обмене информацией о кибербезопасности.
Участники встречи также обсудили варианты поощрения поставщиков критической инфраструктуры предоставлять подробную информацию об уязвимости и атаках, не опасаясь юридических последствий. Способность предприятий обмениваться информацией о цифровых угрозах друг с другом и с правительством подкреплена законом 2015 под названием "Закон об обмене информацией о кибербезопасности", срок действия которого истекает в следующем месяце. Отрасль считает этот закон ключевым столбом коллективной цифровой защиты, ведь он обеспечивает защиту для мониторинговой деятельности, которая иначе могла бы нарушать правила прослушивания или наблюдения.
Почему вопрос автономных ИИ-агентов обострился
Случаи, когда ИИ-системы действовали без контроля человека, послужили поводом для беспокойства не только в администрации США, но и среди разработчиков технологии. Ранее исследователи Google требовали права публично предупреждать о скрытых рисках искусственного интеллекта, а руководители ведущих американских компаний тайно готовят планы действий на случай масштабной киберкатастрофы, вызванной ИИ.
Ранее Информатор сообщал, что восстание искусственного интеллекта ожидают в течение года, поскольку топ-менеджеры Anthropic, OpenAI и других компаний наиболее вероятным сценарием катастрофы считают кибератаку, которая остановит доступ к финансовым услугам, интернету или электро- и водоснабжению.
Следите за нами в Telegram
Сейчас читают на Информаторе
