ООН в Женеве обсудит регулирование автономного летального оружия с искусственным интеллектом
Генсек ООН Антониу Гутерреш предупредил о приближении "нравственной красной линии" в войнах машин
В Женеве 17 ноября стартует конференция ООН, посвященная летальным автономным системам вооружений на основе искусственного интеллекта – участники попытаются выработать правила и ограничения для технологий, которые уже называют "убийственными работами". В то же время, аналитики сомневаются, что обсуждения будут успевать по темпам развития таких вооружений.
Об этом пишет агентство AFP, опубликовавшее обзор ключевых вопросов накануне конференции в рамках Конвенции о запрете конкретных видов обычного оружия. По словам руководителя направления глобальных и новых рисков Женевского центра политики безопасности Жан-Марка Риккли, летальные автономные системы вооружений способны самостоятельно выявлять, выбирать и поражать цель без вмешательства человека-оператора.
Исследовательница Центра геополитики технологий Французского института международных отношений Лор де Русси-Рошегонд отметила, что даже противопехотная мина фактически является автономным оружием, ведь срабатывает без человека. Однако, по словам Риккли, распространение дронов с искусственным интеллектом дало технике способность самостоятельно выбирать и поражать заранее не определяемые цели и приспосабливаться к обстоятельствам без участия человека.
"Мы сейчас опасно близки к пересечению моральной красной линии - автономному таргетингу машин на людей", - заявили генеральный секретарь ООН Антониу Гутерреш и президент Международного комитета Красного Креста Мирьяна Спольярич в совместном заявлении.
Позиции государств по поводу того, сколько контроля человек должен хранить над решением применить оружие, расходятся. Соединенные Штаты говорят о "надлежащем уровне человеческого суждения", в то время как Франция настаивает, что человек обязательно должен оставаться в цикле принятия решений и запрещает полностью автономные системы, позволяя лишь "частично автономные". Заместитель директора Агентства по оборонному искусственному интеллекту Министерства обороны Франции контрадмирал Венсан Себастьен пояснил, что роль человека всегда обеспечивает так называемый "должный контроль" со стороны военного командира, объем которого зависит от критичности системы и оперативного контекста.
Аналитики подчеркивают, что женевская повестка дня охватывает лишь часть проблемы. Риккли отметил, что все меньшая роль человека сегодня связана, прежде всего, с ростом использования искусственного интеллекта именно в анализе и выборе целей, а не только в финальном ударе. В качестве примера он привел войну США и Израиля против Ирана в этом году, когда американцы ежедневно обрабатывали до тысячи целей внутри Ирана.
Автономное оружие уже применяется в боевых действиях
Системы, которые будут обсуждать в Женеве, пока не получили массового распространения, однако аналитики фиксируют их применение Россией во время войны против Украины, а также в ударах США по Ирану. Контрадмирал Себастьен предупредил, что автономность очень быстро станет реальностью на поле боя, а Гутерреш и Спольярич в своем заявлении подчеркнули, что гонки по большей автономности вооружений уже продолжаются, и это не вопрос далекого будущего.
В то же время, руководитель компании Anthropic Дарио Амодей в этом году предостерег, что передовые системы искусственного интеллекта пока недостаточно надежны, чтобы полностью доверить им управление летальным оружием. Однако, по мнению Риккли, стимул для крупных государств развивать рои автономных дронов, способных подавить противника массированностью атаки, слишком силен. В январе министерство обороны Китая назвало рои автономных дронов "новым лицом войны".
ИИ-компании тоже сталкиваются с давлением по рискам технологии
Опасения по поводу военного применения искусственного интеллекта в последнее время распространяются и среди разработчиков технологии, а не только среди дипломатов. Ранее Информатор сообщал, что исследователи Google требуют права рассказать миру о скрытых рисках искусственного интеллекта, ведь работники лондонского офиса Google DeepMind возмущены пожизненным запретом критиковать компанию, в том числе ее военные разработки, даже после увольнения.
Также мы писали, что в Белом доме обсудили защиту критической инфраструктуры США от атак автономных агентов искусственного интеллекта, способных действовать без разрешения человека: рабочая группа президента США Дональда Трампа ищет способы стимулировать банковский, энергетический и другие критические секторы делиться данными о подобных инцидентах.
Следите за нами в Telegram
Сейчас читают на Информаторе
