Искусственный интеллект может представлять угрозу демократии - разведка Канады
Быстрое развитие этой технологии может превратить ее в оружие
Быстрое и неконтролируемое развитие технологий искусственного интеллекта (ИИ) может представлять угрозу для демократий. Не в тех руках ИИ может стать оружием. Его, в свою очередь, можно использовать против государств с демократическими режимами управления.
Об этом говорится в отчете Центра безопасности коммуникаций. Это канадская спецслужба, отвечающая за кибербезопасность страны.
По оценке специалистов центра, скорее всего, ИИ сможет быть использован как оружие уже через несколько лет. Это сделают иностранные хакеры и злоумышленники.
"По нашей оценке... вероятно, в течение двух последующих лет генеративный искусственный интеллект превратится в оружие, создавая дипфейк видео и изображения с политиками и чиновниками, а также усиливая и автоматизируя неаутентичные сети ботов в социальных сетях с использованием текста и изображений", - говорится в отчете спецслужбы.
Эксперты считают, что возможности ИИ по созданию дипфейков, скорее всего, будут более совершенными, чем возможности выявлять подделку. Доступные сегодня модели обнаружения фейков имеют сложности с подлинным отслеживанием дипфейков и реального контента.
"Учитывая низкую эффективность выявления дипфейков и распространение генеративного искусственного интеллекта, кампании влияния на избирателей с использованием генеративного искусственного интеллекта, вероятно, будут выявляться меньше", - говорят в спецслужбе.
Основным источником происхождения таких дипфейков могут стать избирательные прения, считают канадцы. Ведь там удобнее всего подделывать высказывания политиков.
“Если кибермошенники будут распространять дипфейки, которые будут манипулировать содержанием дебатов, избиратели могут быть введены в заблуждение. Даже если истина будет впоследствии установлена, причиненный вред может побуждать избирателей к сомнению в легитимности политических дебатов в будущем”, - утверждается в документе.
Искусственный интеллект – возможность или вызов?
В последние годы технологии ИИ действительно развиваются удивительно активно. С одной стороны, искусственный интеллект является отличным помощником человеку: почти в любой работе, в учебе, в искусстве и т.д. С другой же стороны, стремительное развитие технологий без социальной эволюции может представлять угрозу для человечества. На ум сразу приходит известный пример обезьяны с гранатой.
Это уже понимают в западных государствах – в частности, в ЕС. Недавно Евросоюз принял первый в мире закон, который регулирует использование ИИ. Основная цель документа – способствовать инновационному развитию искусственного интеллекта, при этом ограничивая возможности злоупотребления им.
Уже сейчас ИИ умеет делать такие дипфейки, которые очень сложно отличить от реальности. В дальнейшем эта возможность, очевидно, будет совершенствоваться. Впрочем, есть простой и действенный рецепт противодействия ИИ-контенту в политической среде, о котором почему-то никто не говорит. Это возвращение к старым добрым офлайн-встречам с политиками или общественными деятелями. На таких мероприятиях искусственный интеллект пока совершенно бессилен.
Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.
ЧИТАЙТЕ ТАКЖЕ:
- Искусственный интеллект под контролем: ЕС принял первый в мире закон, регулирующий его использование
- Google выпустил самую совершенную модель генеративного искусственного интеллекта Gemini: что известно
- Украина использует искусственный интеллект для поиска пропавших без вести: омбудсмен рассказал, как именно
