Російським додатком для «художніх аватарів» Lensa зацікавилися експерти з безпеки

Програма Lensa, яка перетворює фото реальних людей на портрети в різних художніх стилях, за лічені дні стала хітом. Користувачі в захваті, але експерти бʼють на сполох: додаток, створений двома вихідцями з Yandex, може нести ризики для конфіденційності.

Цього тижня мільйони людей завантажили в соцмережі власні аватари, створені мобільним додатком Lensa на основі штучного інтелекту. Програма існує з 2018-го року, але справжня популярність прийшла до неї зовсім недавно — наприкінці листопада, коли в додатку з’явилася функція «чарівних аватарів». Після цього кількість завантажень Lensa по всьому світу різко зросла: за перші п’ять днів грудня застосунок завантажили 4 млн разів. Це вдвічі більше порівняно з показниками за листопад, підрахувала аналітична компанія Sensor Tower. Lensa посідає верхні рядки в списках найпопулярніших застосунків у магазинах Apple App Store і Google Play.

Програма родом із Yandex

Річна підписка на Lensa коштує $35,99, а пакети аватарів продаються з доплатою $3–12. За п’ять днів грудня споживачі витратили в Lensa $8,2 млн. Користувач завантажує в застосунок до десяти своїх фотографій крупним планом. Програма будує на їхній основі модель машинного навчання, а потім ця модель генерує зображення в різних художніх стилях, від аніме до «казкової принцеси».

 

 

 

Посмотреть эту публикацию в Instagram

Публикация от Prisma (@prisma)

Одні захоплюються тим, наскільки гарними й точними виявилися їхні портрети. Інші гнівно діляться зображеннями зі спотвореними рисами обличчя, а деякі — і зовсім понівеченими портретами, наприклад, з руками й ногами, що ростуть прямо з голови. Особливо багато скарг від темношкірих користувачів: у базі машинного навчання, яку використовує штучний інтелект, переважають фотографії людей із білою шкірою, тому портрети виходять спотвореними.

Lensa належить компанії Prisma Labs, зареєстрованій у Каліфорнії. Фірма відома додатком Prisma, що використовує штучний інтелект для перетворення фотографій на малюнки різних художніх стилів. Засновники — росіяни Андрій Усольцев і Олексій Моїсеєнков — раніше працювали в Yandex.

Lensa використовує моделі для безкоштовної системи машинного навчання під назвою Stable Diffusion. Моделі навчали на мільярдах комбінацій зображень з інтернету. Додаток відправляє завантажені користувачем фотографії у своє хмарне сховище, запускає модель, створену спеціально для кожного користувача, і видає портрет користувача, виконаний у нових стилях.

Конфіденційність фото

Спотворені зображення — далеко не головна проблема Lensa. Багато хто турбується про конфіденційність фотографій, які завантажують у додаток. Представники Prisma Labs стверджують, що компанія не передає особисті фотографій або відомостей третім сторонам.

Prisma уточнює, що використовує надані користувачем фотографії тільки для створення аватарів і видаляє кожну партію фото разом із моделлю машинного навчання, створеною для цих зображень, коли аватар готовий. Але правила конфіденційності, з яким і має погодитися користувач, залишають можливість ділитися інформацією з іншими.

Prisma Labs стверджує, що не використовує фотографії або індивідуальні моделі для навчання систем розпізнавання облич. Але Усольцев визнав: компанія зберігає «самий мінімум» даних із користувацьких фотографій, хоча й не повідомив, яких саме.

Ще одна проблема конфіденційності даних, яка може виникнути під час використання Lensa, лежить в іншій площині. Гігантська колекція зображень під назвою LAION, на якій навчається штучний інтелект, узята з інтернету, кажуть експерти із ШІ. Іншими словами, до неї увійшли зображення людей, які не давали своєї згоди на використання своїх фото. Одна з художниць навіть виявила в базі даних фотографії зі своєї особистої медичної карти. Для перевірки, чи є в LAION її фотографії, які використовують системи машинного навчання штучного інтелекту, вона використовувала безкоштовний сайт HaveIBeenTrained.com.

Ще одна проблема Lensa — потенційна можливість сексуальної експлуатації та переслідування. Користувачі можуть завантажувати фотографії кого завгодно, а не тільки свої. Часто додаток видає жіночі зображення оголеними або в позах із сексуальним підтекстом.

Це відбувається і із зображеннями дітей, хоча Lensa стверджує, що застосунок призначений тільки для людей від 13 і старше. «Модель Stable Diffusion навчена на нефільтрованому інтернет-контенті. Тому вона відображає смаки, які люди включають у зображення, які вони створюють», — йдеться в розділі «Запитання та відповіді» на сайті Lensa.

Lensa без дозволу використовує реальні мистецькі роботи

Деякі діджитал-художники з готовністю взяли на озброєння штучний інтелект. Але коли аватари Lensa заполонили соціальні мережі, баргато хто з них закликав людей двічі подумати, перш ніж платити гроші в додатку. «Стилі» Lensa використовує реальні мистецькі роботи реальних людей, і вони не отримують компенсації від Prisma за свою працю.

«Програма, яка використовує наше мистецтво й генерує концепт-арт, уже заважає нашій роботі», — сказав Джон Лам, художник із компанії Riot Games, що займається комп’ютерними іграми.

Механізми машинного навчання відтворюють патерни, а не конкретні твори мистецтва, стверджують розробники Lensa. Але Лам розповідає, що його друзі втратили роботу після того, як роботодавці використовували їхні малюнки для навчання моделей штучного інтелекту. За його словами, самі художники виявилися більше не потрібні своїм компаніям. У багатьох випадках у LAION використовувалися зображення, захищені авторським правом, а Prisma Labs наживається на праці авторів без їхньої згоди, каже художник.

Підписуйтесь на наш Telegram-канал, щоб не пропустити важливих новин. За новинами в режимі онлайн прямо в месенджері слідкуйте на нашому Telegram-каналі Інформатор Live. Підписатися на канал у Viber можна тут.