Искусственный интеллект под контролем: ЕС принял первый в мире закон, регулирующий его использование

После трех дней переговоров между странами-членами и Европейским парламентом Европейский Союз достиг беспрецедентного соглашения в глобальном масштабе. Так называемый Закон "Об искусственном интеллекте", регулирующий развитие искусственного интеллекта, принято.

Еврокомиссар по внутреннему рынку и услугам Тьерри Бретон подчеркнул, что новый закон о ИИ – важное событие, что означает, что Европейский Союз становится первым континентом в мире, который установил специальные правила использования искусственного интеллекта. Бретон подчеркнул, что это "политическое соглашение", направленное на содействие инновациям передовых технологий в Европе, одновременно ограничивая возможность злоупотребления ими.

"Есть сделка!" – написал Тьерри Бретон в "Х".

Агентство APNews отмечает, что ключевое влияние на начало переговорного процесса малая система ChatGPT, текстовый генератор, созданный американской компанией OpenAI. Эта система, способная генерировать эссе, стихи и переводы в считанные секунды, показала миру огромный потенциал искусственного интеллекта, а также связанные с ним риски. Примером может служить распространение фейковых фотографий в социальных сетях.

В ходе переговоров учтен феномен генеративного искусственного интеллекта. Депутаты Европарламента обратили внимание на необходимость особого надзора за технологией. В частности, призывали к большей прозрачности алгоритмов и огромных баз данных. Также перед началом переговоров страны-члены ЕС обеспокоены тем, что чрезмерно ограничивающие правила могут помешать росту новых лидеров отрасли, таких как Aleph Alpha в Германии и Mistal AI во Франции.

Какие правила регулирования ИИ вводятся в ЕС?

APNews объясняет, что договоренность, достигнутая в пятницу вечером, теперь будет дополнена технической работой, направленной на доработку текста. Компромисс предполагает учет двух аспектов: развитие искусственного интеллекта и ограничения, направленные на предотвращение злоупотребления им. Правила будут наложены на оба элемента, чтобы обеспечить качество данных, используемых для создания алгоритмов, и проверить, не нарушают ли они авторские права. Создатели также должны убедиться, что звуки, изображения и создаваемые ими тексты четко обозначены.

Основным элементом проекта является список правил, применяемых только к системам, которые считаются с "высоким риском". Это в основном касается систем, используемых в чувствительных областях, таких как критическая инфраструктура, образование, человеческие ресурсы, правоохранительные органы и т.д. Эти системы должны выполнять ряд обязательств, таких как обеспечение управления машиной человеком, подготовка технической документации или реализация системы управления рисками.

Положения предусматривают введение особого надзора за системами искусственного интеллекта, взаимодействующими с людьми. Эти системы должны будут сообщить пользователю, что они имеют дело с машиной.

Закон о ИИ также предусматривает применение запретов, призванных применяться в основном к приложениям, противоречащим европейским ценностям. Примером является Китай, где существуют системы оценки граждан, массового наблюдения и дистанционной биометрической идентификации людей в общественных местах. Однако в этом отношении страны ЕС получили определенную свободу для определенной правоохранительной деятельности, например борьбы с терроризмом.

Соглашение также предусматривает, что европейское законодательство будет усовершенствовано мерами наблюдения и санкциями. Также в Еврокомиссии будет создан Европейский офис по искусственному интеллекту. За самые серьезные правонарушения будут налагать штрафы до 7% от оборота, а нижний предел составит 35 млн. евро.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.