Google вимкнула ШІ-генератор зображень у Google Earth через фейкові супутникові знімки
Технологічна компанія прибрала функцію Nano Banana після скарг на фейкові кадри катастроф і секретних об'єктів
Google 31 липня відключила новий інструмент штучного інтелекту в картографічному сервісі Google Earth менш ніж через добу після його запуску. Причиною стало масове створення користувачами реалістичних фейкових супутникових знімків катастроф, зон бойових дій та секретних об'єктів.
Про відключення функції повідомляє Financial Times. Нова можливість передбачала інтеграцію генеративної моделі Nano Banana безпосередньо в інтерфейс Google Earth - користувачі могли віртуально переосмислити будь-яке місце на планеті за допомогою простих текстових промптів.
Одразу після релізу OSINT-фахівці та звичайні користувачі продемонстрували, як інструмент застосовують для дезінформації. У соцмережах почали поширювати сфабриковані супутникові кадри із воронкою від вибуху біля лікарні в Газі, атомними електростанціями в Ірані та масштабною аварією на вулицях Амстердама.
"Протягом десятиліть Google Earth слугував застарілим еталонним шаром, з яким журналісти та слідчі порівнювали підозрілі зображення. Вбудовування генеративного інструменту в цей самий еталон підриває саму міру, що використовується для викриття фейків", - зазначив старший науковий співробітник Інституту Алана Тюрінга Сем Стоквелл.
OSINT-експерт Хенк ван Есс також підкреслив небезпеку такого підходу: "Фейк тепер створюється всередині того самого інструменту, який люди використовують для перевірки справжності зображень".
Аналітик Американського інституту підприємництва Брейді Афрік зауважив, що такі фейки прив'язуються до реальних супутникових знімків, через що зникають характерні ознаки ШІ-генерації - невідповідність рельєфу чи масштабу. Він додав, що водяних знаків недостатньо, адже більшість користувачів не перевіряють деталі під час швидкого перегляду стрічки.
Google визнала проблему і тимчасово згорнула функцію
У відповідь на критику в компанії заявили, що деактивують інструмент для розробки суворіших заходів безпеки.
"Ми знаємо, що користувачі покладаються саме на Google Earth як на надійне джерело інформації про світ. Ми бачили, як фахівці у сфері геопросторових даних використовують цю функцію для різних корисних цілей, однак також помітили, що деякі користувачі діляться скріншотами згенерованих зображень, які, як видається, порушують наші правила. Тому ми тимчасово вимикаємо цю функцію в Google Earth, поки працюємо над впровадженням більш суворих обмежень", - повідомили розробники.
Представники компанії уточнили, що згенеровані кадри не потрапляли в основний інтерфейс для інших користувачів і мали маркування "Згенеровано ШІ", а також прихований водяний знак SynthID.
Компанія вже стикалася з подібними скандалами через ШІ
Це не перший випадок, коли технологічний гігант змушений оперативно згортати функції штучного інтелекту через хвилю критики та звинувачень у поширенні шкідливого контенту. Компанія неодноразово наголошувала, що працює над безпекою своїх генеративних інструментів, проте кожен новий реліз викликає нові претензії з боку дослідників і регуляторів.
Технологічний гігант продовжує стикатися з тиском регуляторів і критикою користувачів
Раніше Інформатор повідомляв, що Єврокомісія оштрафувала Google на 890 мільйонів євро за самопреференції в пошуку та обмеження для розробників. Цей штраф став черговим сигналом того, що європейські регулятори посилюють нагляд за практиками технологічного гіганта. Також ми писали, що через сервіси компанії поширюється нова напасть під назвою кіберхондрія, коли люди масово шукають у Google симптоми хвороб і переконують себе у смертельних діагнозах. Обидва випадки показують, наскільки продукти Google впливають на поведінку та довіру мільйонів користувачів по всьому світу.
Слідкуйте за нами у Telegram
Зараз читають на Інформаторі
