В США появился Институт-консорциум по безопасности искусственного интеллекта: чем он будет заниматься

В Соединенных Штатах Америки был создан Институт-консорциум по безопасности искусственного интеллекта (ИИ), объединивший более 200 ведущих технологических компаний, в том числе OpenAI, Google, Mastercard и Visa. Этот консорциум образует самую большую группу по тестированию и оценке, фокусируясь на создании основ для «новой науки об измерениях в области безопасности ИИ».

Об этом сообщает Reuters. Издание пишет, что министр торговли США Джина Раймондо объявила о создании Американского института безопасности интеллектуальных систем (AISIC). В него войдут ведущие компании, включая OpenAI, Google, Anthropic, Microsoft, Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase и Bank of America.

Также правительство США определило важную роль в установлении стандартов и разработке необходимых инструментов для смягчения рисков и максимального использования потенциала искусственного интеллекта. К объединению также присоединились такие гиганты, как BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa, а также крупные научные и правительственные учреждения.

Группе поручили работу над приоритетными задачами, указанными в указе президента США Джо Байдена, среди которых разработка руководящих принципов, оценка возможностей, управление рисками, безопасность и защита интеллектуальных систем, а также маркировка контента. Такой консорциум является шагом в направлении создания стандартов интеллектуальной безопасности и контроля за развитием искусственного интеллекта.

Указ Байдена по ИИ

З0 октября 2023 года президент США Джо Байден издал указ с целью снижения рисков, связанных с искусственным интеллектом. Согласно этому документу, разработчики систем ИИ обязаны сообщать о результатах испытаний безопасности правительства США перед обнародованием.

Указ имеет восемь главных целей:

• Создание новых стандартов безопасности и защиты искусственного интеллекта.
• Защита конфиденциальности данных.
• Поддержание равенства и гражданских прав.
• Защита потребителей, пациентов и учащихся.
• Поддержка работников в области искусственного интеллекта.
• Содействие инновациям и конкуренции.
• Продолжение лидерства США в области технологий искусственного интеллекта.
• Обеспечение ответственного и эффективного использования искусственного интеллекта правительством.

Также в документе указывается на необходимость установления стандартов для такого тестирования и рассмотрения различных рисков, включая химические, биологические, радиологические, ядерные и кибербезопасные. Реакция на приказ была неоднозначной среди промышленных и торговых групп.