UA

Российским приложением для «художественных аватаров» Lensa заинтересовались эксперты по безопасности

Читати українською

Lensa – хитовое приложение для художественных аватаров, созданное россиянами, заинтересовало экспертов по безопасности

Читати українською
Российским приложением для «художественных аватаров» Lensa заинтересовались эксперты по безопасности
Российским приложением для художественных аватаров Lensa заинтересовались эксперты по безопасности

Lensa – хитовое приложение для художественных аватаров, созданное россиянами, заинтересовало экспертов по безопасности

Программа Lensa, которая превращает фото реальных людей в портреты в разных художественных стилях, за считанные дни стала хитом. Пользователи в восторге, но эксперты бьют тревогу: приложение, созданное двумя выходцами из Yandex, может нести риски для конфиденциальности.

На этой неделе миллионы людей скачали в соцсети собственные аватары, созданные мобильным приложением Lensa на основе искусственного интеллекта. Программа существует с 2018 года, но настоящая популярность пришла к ней совсем недавно — в конце ноября, когда в приложении появилась функция «волшебных аватаров». После этого количество загрузок Lensa по всему миру резко возросло: за первые пять дней декабря приложение загрузили 4 млн раз. Это вдвое больше по сравнению с ноябрьскими показателями, подсчитала аналитическая компания Sensor Tower. Lensa занимает верхние строчки в списках самых популярных приложений в магазинах Apple App Store и Google Play.

Программа родом из Yandex

Годовая подписка на Lensa стоит $ 35,99, а пакеты аватаров продаются с доплатой $ 3-12. За пять дней декабря потребители потратили в Lensa $ 8,2 млн. Пользователь скачивает в приложение до десяти своих фотографий крупным планом. Программа строит на их основе модель машинного обучения, а затем эта модель генерирует изображения в разных художественных стилях, от аниме до «сказочной принцессы».

 
 
 
Посмотреть эту публикацию в Instagram

Публикация от Prisma (@prisma)

Одни восхищаются тем, насколько красивыми и точными оказались их портреты. Другие гневно делятся изображениями с обезображенными чертами лица, а некоторые — и совсем изуродованными портретами, например, с руками и ногами, растущими прямо из головы. Особенно много жалоб от темнокожих пользователей: в базе машинного обучения, используемого искусственным интеллектом, преобладают фотографии людей с белой кожей, поэтому портреты получаются искажёнными.

Lensa принадлежит компании Prisma Labs, зарегистрированной в Калифорнии. Фирма известна приложением Prisma, использующим искусственный интеллект для превращения фотографий в рисунки разных художественных стилей. Основатели – россияне Андрей Усольцев и Алексей Моисеенков – раньше работали в Yandex.

Lensa использует модели бесплатной системы машинного обучения под названием Stable Diffusion. Модели обучали на миллиардах комбинаций изображений из Интернета. Приложение отправляет загруженные пользователем фотографии в облачное хранилище, запускает модель, созданную специально для каждого пользователя, и выдает портрет пользователя, выполненный в новых стилях.

Конфиденциальность фото

Искаженные изображения – далеко не главная проблема Lensa. Многие беспокоятся о конфиденциальности фотографий, загружаемых в приложение. Представители Prisma Labs утверждают, что компания не передает личные фотографии или сведения третьим сторонам.

Prisma уточняет, что использует предоставленные пользователем фотографии только для создания аватаров и удаляет каждую партию фото с моделью машинного обучения, созданной для этих изображений, когда аватар готов. Но правила конфиденциальности, с которыми должен согласиться пользователь, оставляют возможность делиться информацией с другими.

Prisma Labs утверждает, что не использует фотографии или индивидуальные модели для обучения систем распознавания лиц. Но Усольцев признал: компания хранит «самый минимум» данных по пользовательским фотографиям, хотя и не сообщил, каких именно.

Еще одна проблема конфиденциальности данных, которая может возникнуть при использовании Lensa, лежит в другой плоскости. Гигантская коллекция изображений под названием LAION, на которой учится искусственный интеллект, взята из интернета, говорят эксперты из ИИ. Иными словами, в неё вошли изображения людей, которые не давали согласия на использование своих фото. Одна из художниц даже обнаружила в базе данных фотографии своей личной медицинской карты. Для проверки, есть ли у LAION её фотографии, использующие системы машинного обучения искусственному интеллекту, она использовала бесплатный сайт HaveIBeenTrained.com.

Ещё одна проблема Lensa – потенциальная возможность сексуальной эксплуатации и преследования. Пользователи могут скачивать фотографии кого угодно, а не только свои. Часто приложение выдает женские изображения обнаженными или в позах с сексуальным подтекстом.

Это происходит и с изображениями детей, хотя Lensa утверждает, что приложение предназначено только для людей от 13 и старше. «Модель Stable Diffusion обучена на нефильтрованном интернет-контенте. Поэтому она отображает вкусы, которые люди включают в создаваемые ими изображения», — говорится в разделе «Вопросы и ответы» на сайте Lensa.

Lensa без разрешения использует реальные художественные работы

Некоторые диджитал-художники с готовностью взяли на вооружение искусственный интеллект. Но когда аватары Lensa заполонили социальные сети, многие из них призывали людей дважды подумать, прежде чем платить деньги в приложении. «Стили» Lensa использует реальные творческие работы реальных людей, и они не получают компенсацию от Prisma за свой труд.

«Программа, использующая наше искусство и генерирующая концепт-арт, уже мешает нашей работе», — сказал Джон Лам, художник из компании Riot Games, занимающейся компьютерными играми.

Механизмы машинного обучения воспроизводят паттерны, а не конкретные произведения искусства, утверждают разработчики Lensa. Но Лам говорит, что его друзья потеряли работу после того, как работодатели использовали их рисунки для обучения моделей искусственного интеллекта. По его словам, сами художники оказались больше не нужны своим компаниям. Во многих случаях в LAION использовались изображения, защищенные авторским правом, а Prisma Labs наживается на труде авторов без их согласия, говорит художник.

Подписывайтесь на наш Telegram-канал, чтобы не пропустить важные новости. За новостями в режиме онлайн прямо в мессенджере следите на нашем Telegram-канале Информатор Live. Подписаться на канал в Viber можно здесь.

 

ЧИТАЙТЕ ТАКЖЕ:

Мы используем файлы cookie, чтобы обеспечить должную работу сайта, а контент и реклама отвечали Вашим интересам.