Google выключила ИИ-генератор изображений в Google Earth из-за фейковых спутниковых снимков
Технологическая компания убрала функцию Nano Banana после жалоб на фейковые кадры катастроф и секретных объектов
Google 31 июля отключила новый инструмент искусственного интеллекта в картографическом сервисе Google Earth менее чем через сутки после его запуска. Причиной послужило массовое создание пользователями реалистичных фейковых спутниковых снимков катастроф, зон боевых действий и секретных объектов.
Об отключении функции сообщает Financial Times. Новая возможность предполагала интеграцию генеративной модели Nano Banana непосредственно в интерфейс Google Earth – пользователи могли виртуально переосмыслить любое место на планете с помощью простых текстовых промптов.
Сразу после релиза специалисты OSINT и обычные пользователи продемонстрировали, как инструмент применяют для дезинформации. В соцсетях стали распространять сфабрикованные спутниковые кадры с воронкой от взрыва возле больницы в Газе, атомными электростанциями в Иране и масштабной аварией на улицах Амстердама.
«В течение десятилетий Google Earth служил устаревшим эталонным слоем, с которым журналисты и следователи сравнивали подозрительные изображения.
OSINT-эксперт Хэнк ван Эсс также подчеркнул опасность такого подхода: "Фэйк теперь создается внутри того же инструмента, который люди используют для проверки подлинности изображений".
Аналитик Американского института предпринимательства Брейди Африк отметил, что такие фейки привязываются к реальным спутниковым снимкам, из-за чего исчезают характерные признаки ИИ-генерации – несоответствие рельефа или масштаба. Он добавил, что водяных знаков недостаточно, ведь большинство пользователей не проверяют детали при быстром просмотре ленты.
Google признала проблему и временно свернула функцию
В ответ на критику в компании заявили, что деактивируют инструмент для разработки более строгих мер безопасности.
"Мы знаем, что пользователи полагаются именно на Google Earth как на надежный источник информации о мире. Мы видели, как специалисты в сфере геопространственных данных используют эту функцию для различных полезных целей, однако также заметили, что некоторые пользователи делятся скриншотами сгенерированных изображений, которые, как представляется, нарушают наши правила". работаем над внедрением более строгих ограничений", - сообщили разработчики.
Представители компании уточнили, что сгенерированные кадры не попадали в основной интерфейс для других пользователей и имели маркировку "Сгенерированное ИИ", а также скрытый водяной знак SynthID.
Компания уже сталкивалась с подобными скандалами из-за ИИ
Это не первый случай, когда технологический гигант вынужден оперативно сворачивать функции искусственного интеллекта из-за волны критики и обвинений в распространении вредоносного контента. Компания неоднократно отмечала, что работает над безопасностью своих генеративных инструментов, однако каждый новый релиз вызывает новые претензии со стороны исследователей и регуляторов.
Технологический гигант продолжает сталкиваться с давлением регуляторов и критикой пользователей
Ранее информатор сообщал, что Еврокомиссия оштрафовала Google на 890 миллионов евро за самопреференции в поиске и ограничении для разработчиков. Этот штраф стал очередным сигналом того, что европейские регуляторы ужесточают надзор за практиками технологического гиганта. Также мы писали, что через сервисы компании распространяется новая напасть под названием киберхондрия, когда люди массово ищут у Google симптомы болезней и убеждают себя в смертельных диагнозах. Оба случая показывают, насколько продукты Google влияют на поведение и доверие миллионов пользователей по всему миру.
Следите за нами в Telegram
Сейчас читают на Информаторе
