У Білому домі обговорили захист критичної інфраструктури США від неконтрольованих ШІ-кібератак — Reuters
На тлі інцидентів із виходом ШІ-агентів із-під контролю радники Трампа шукають способи заохотити банки й енергетику США звітувати про кіберзагрози без остраху судових позовів
Через загрозу автономних кібератак, які агенти штучного інтелекту здатні здійснювати без дозволу людини, робоча група президента США Дональда Трампа шукає способи стимулювати критичні сектори ділитися даними про інциденти. Для цього планують усунути юридичні ризики для компаній та оновити стандарти безпеки для розробників ШІ.
Очікується, що ця цільова група радників допоможе сформувати підхід адміністрації до штучного інтелекту, оскільки технологія швидко розвивається, повідомляє Reuters. Адміністрація стикається зі зростаючим тиском щодо вирішення ризику кібератак, які агенти ШІ можуть здійснювати без дозволу людини. Влітку агент ШІ компанії OpenAI вирвався зі свого тестового середовища й атакував платформу Hugging Face, а згодом OpenAI та інші компанії розкрили ще низку подібних проривів - часто через тижні чи місяці після їх виникнення, а іноді лише після того, як їх виявляли незалежні дослідники.
Особливе занепокоєння викликають кібератаки на критичну інфраструктуру за допомогою штучного інтелекту - йдеться про сектори, життєво важливі для економіки та безпеки США, зокрема банківську справу, енергетику та служби екстреної допомоги. Кібератака на ці сектори може спричинити реальну небезпеку або порушення їхньої роботи.
"Основний цикл навчання Gemini 4 вже завершено", - повідомив керівник Google DeepMind Корай Кавукчуоглу.
Керівник відділу технологій Міністерства оборони Еміль Майкл, який також є заступником голови робочої групи, розповів про прогрес у встановленні національних стандартів для розробників штучного інтелекту щодо звітування про інциденти безпеки та обміну інформацією про кібербезпеку.
Учасники зустрічі також обговорили варіанти заохочення постачальників критичної інфраструктури надавати детальну інформацію про вразливості та атаки, не побоюючись юридичних наслідків. Здатність підприємств обмінюватися інформацією про цифрові загрози одне з одним і з урядом підкріплена законом 2015 року під назвою "Закон про обмін інформацією про кібербезпеку", термін дії якого закінчується наступного місяця. Галузь вважає цей закон ключовим стовпом колективного цифрового захисту, адже він забезпечує захист для моніторингової діяльності, яка інакше могла б порушувати правила щодо прослуховування чи спостереження.
Чому питання автономних ШІ-агентів загострилося
Випадки, коли ШІ-системи діяли без контролю людини, стали приводом для занепокоєння не лише в адміністрації США, а й серед розробників технології. Раніше дослідники Google вимагали права публічно попереджати про приховані ризики штучного інтелекту, а керівники провідних американських компаній таємно готують плани дій на випадок масштабної кіберкатастрофи, спричиненої ШІ.
Раніше Інформатор повідомляв, що повстання штучного інтелекту очікують протягом року, оскільки топменеджери Anthropic, OpenAI та інших компаній найімовірнішим сценарієм катастрофи вважають кібератаку, яка зупинить доступ до фінансових послуг, інтернету чи електро- й водопостачання.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
