Штучний інтелект може становити загрозу демократії - розвідка Канади

Швидкий та неконтрольований розвиток технологій штучного інтелекту (ШІ) може бути загрозою для демократій. Адже не в тих руках ШІ може стати зброєю. Її, в свою чергу, можна використати проти держав із демократичними режимами управління. 

Про це йдеться у звіті Центру з безпеки комунікацій. Це канадська спецслужба, яка відповідає за кібербезпеку країни.

За оцінкою спеціалістів центру, скоріше за все ШІ зможе бути використаний як зброя вже за декілька років. Це зроблять іноземні хакери та зловмисники.

“За нашою оцінкою... вірогідно, протягом двох наступних років генеративний штучний інтелект перетвориться на зброю, створюючи діпфейк відео та зображення із політиками й урядовцями, а також посилюючи та автоматизуючи неавтентичні мережі ботів у соціальних мережах з використання тексту й зображень”, - йдеться у звіті спецслужби.

Експерти вважають, що можливості ШІ щодо створення діпфейків, скоріше за все, будуть значно досконалішими, аніж можливості виявляти підробку. Доступні сьогодні моделі виявлення фейків мають складнощі із достеменним відстежуванням діпфейків та реального контенту.

"Зважаючи на низьку ефективність виявлення діпфейків й поширення генеративного штучного інтелекту, кампанії впливу на виборців із використанням генеративного штучного інтелекту, ймовірно, виявлятимуться все менше”, - кажуть у спецслужбі.

Основним джерелом походження таких діпфейків можуть стати виборчі дебати, вважають канадці. Адже там найзручніше підроблювати висловлювання політиків. 

“Якщо кіберзловмисники поширюватимуть діпфейки, які маніпулюватимуть змістом дебатів, виборці можуть бути введені в оману. Навіть якщо правду буде згодом встановлено, завдана шкода може спонукати виборців до сумнівів у легітимності політичних дебатів у майбутньому”, - стверджується у документі.

Штучний інтелект - можливість чи виклик?

Останніми роками технології ШІ й справді розвиваються напрочуд активно. З одного боку, штучний інтелект є чудовим помічником людині: майже в будь-якій роботі, в навчанні, у мистецтві тощо. З іншого ж боку, стрімкий розвиток технологій без еволюції соціальної може становити загрозу для людства. На думку одразу спадає відомий приклад мавпи з гранатою. 

Це вже розуміють у західних державах - зокрема, в ЄС. Нещодавно Євросоюз ухвалив перший світі закон, який регулює використання ШІ. Основна мета документа - сприяти інноваційному розвитку штучного інтелекту, при цьому обмежуючи можливості зловживання ним. 

Вже зараз ШІ вміє робити такі діпфейки, які дуже складно відрізнити від реальності. Надалі ця можливість, очевидно, буде вдосконалюватися. Втім, є простий та дієвий рецепт протидії ШІ-контенту в політичному середовищі, про який чомусь ніхто не говорить. Це повернення до старих-добрих офлайн-зустрічей із політиками чи громадськими діячами. На таких заходах штучний інтелект поки що абсолютно безсилий.

Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. За новинами в режимі онлайн прямо в месенджері слідкуйте на нашому Telegram-каналі Інформатор Live. Підписатися на канал у Viber можна тут.