ООН у Женеві обговорить регулювання автономної летальної зброї зі штучним інтелектом
Генсек ООН Антоніу Гутерреш попередив про наближення "моральної червоної лінії" у війнах машин
У Женеві 17 листопада стартує конференція ООН, присвячена летальним автономним системам озброєнь на основі штучного інтелекту - учасники спробують виробити правила та обмеження для технологій, які вже називають "вбивчими роботами". Водночас аналітики сумніваються, що обговорення встигатимуть за темпами розвитку таких озброєнь.
Про це пише агентство AFP, яке опублікувало огляд ключових питань напередодні конференції в рамках Конвенції про заборону конкретних видів звичайної зброї. За словами керівника напряму глобальних і нових ризиків Женевського центру безпекової політики Жан-Марка Рікклі, летальні автономні системи озброєнь здатні самостійно виявляти, обирати та вражати ціль без втручання людини-оператора.
Дослідниця Центру геополітики технологій Французького інституту міжнародних відносин Лор де Руссі-Рошегонд зауважила, що навіть протипіхотна міна фактично є автономною зброєю, адже спрацьовує без людини. Проте, за словами Рікклі, поширення дронів зі штучним інтелектом дало техніці здатність самостійно обирати і вражати цілі, які заздалегідь не визначали, та пристосовуватися до обставин без участі людини.
"Ми зараз небезпечно близькі до перетину моральної червоної лінії - автономного націлювання машин на людей", - заявили генеральний секретар ООН Антоніу Гутерреш і президентка Міжнародного комітету Червоного Хреста Мірьяна Спольярич у спільній заяві.
Позиції держав щодо того, скільки контролю людина повинна зберігати над рішенням застосувати зброю, розходяться. Сполучені Штати говорять про "належний рівень людського судження", тоді як Франція наполягає, що людина обов'язково має лишатися у циклі прийняття рішень, і забороняє повністю автономні системи, дозволяючи лише "частково автономні". Заступник директора Агентства з питань оборонного штучного інтелекту Міністерства оборони Франції контрадмірал Венсан Себастьєн пояснив, що роль людини завжди забезпечує так званий "належний контроль" з боку військового командира, обсяг якого залежить від критичності системи й оперативного контексту.
Аналітики наголошують, що женевський порядок денний охоплює лише частину проблеми. Рікклі зазначив, що дедалі менша роль людини сьогодні повʼязана передусім зі зростанням використання штучного інтелекту саме в аналізі та виборі цілей, а не лише у фінальному ударі. Як приклад він навів війну США та Ізраїлю проти Ірану цього року, коли американці щодня обробляли до тисячі цілей всередині Ірану.
Автономна зброя вже застосовується у бойових діях
Системи, які обговорюватимуть у Женеві, поки не набули масового поширення, проте аналітики фіксують їх застосування Росією під час війни проти України, а також в ударах США по Ірану. Контрадмірал Себастьєн попередив, що автономність дуже швидко стане реальністю на полі бою, а Гутерреш і Спольярич у своїй заяві підкреслили, що перегони за більшою автономністю озброєнь уже тривають, і це не питання далекого майбутнього.
Водночас керівник компанії Anthropic Даріо Амодей цього року застеріг, що передові системи штучного інтелекту поки недостатньо надійні, щоб повністю довірити їм керування летальною зброєю. Проте, на думку Рікклі, стимул для великих держав розвивати рої автономних дронів, здатні придушити супротивника масованістю атаки, надто сильний. У січні міністерство оборони Китаю назвало рої автономних дронів "новим обличчям війни".
ШІ-компанії теж стикаються з тиском щодо ризиків технології
Побоювання щодо військового застосування штучного інтелекту останнім часом поширюються і серед розробників технології, а не лише серед дипломатів. Раніше Інформатор повідомляв, що дослідники Google вимагають права розповісти світові про приховані ризики штучного інтелекту, адже працівники лондонського офісу Google DeepMind обурені довічною забороною критикувати компанію, зокрема її військові розробки, навіть після звільнення.
Також ми писали, що у Білому домі обговорили захист критичної інфраструктури США від атак автономних агентів штучного інтелекту, які здатні діяти без дозволу людини: робоча група президента США Дональда Трампа шукає способи стимулювати банківський, енергетичний та інші критичні сектори ділитися даними про подібні інциденти.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
