Google свернула AI-инструмент для фейков на картах Земли за одни сутки

В четверг Google запустила в Google Earth функцию редактирования спутниковых снимков через текстовые промпты с помощью модели Nano Banana 2. В пятницу компания её выключила. Причина — пользователи начали генерировать изображения беженцев у мексиканской границы, воронок от бомб возле больниц в Газе и другие фейковые сцены, которые выглядели как настоящие спутниковые данные.

Что случилось с новой функцией Google Earth

31 июля Google добавила в Google Earth возможность изменять спутниковые изображения с помощью текстовых промптов. Технически это работало так: пользователь выбирал участок карты, писал запрос вроде «добавить толпу беженцев» или «показать разрушенное здание», и модель Nano Banana 2 генерировала соответствующую картинку поверх реального снимка.

Исследователь Henk van Ess из проекта Digital Digging намеренно протестировал границы системы. Он создал изображения с беженцами у границы США и Мексики, воронкой от взрыва рядом с больницей в секторе Газа, затопленными районами. Ни один из промптов не был отклонён, система не предложила смягчить формулировку и не заблокировала генерацию.

Van Ess также показал, что видео с сгенерированными в Google Earth сценами успешно обходит детектор AI от Hive — инструмент посчитал материал настоящим. Водяной знак о том, что изображение создано нейросетью, присутствовал, но на практике не мешал распространению скриншотов и роликов как якобы реальных спутниковых данных.

Почему Google отключила функцию так быстро

Первая реакция Google в четверг была осторожной: компания указала на водяные знаки и заявила, что предотвращает создание изображений «на вредоносные темы». Через сутки позиция изменилась.

В официальном заявлении 1 августа Google объяснила откат так: «Мы знаем, что люди уникально доверяют Google Earth как надёжному источнику картины мира. Мы видели, как геопространственные специалисты используют эту функцию для полезных целей, но также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши политики. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более строгих ограничений».

Ключевое здесь — доверие. Google Earth десятилетиями используется журналистами, исследователями, правозащитниками, аналитиками конфликтов как источник объективных геоданных. Спутниковые снимки применяют для верификации фактов, документирования нарушений прав человека, оценки последствий стихийных бедствий. Даже временная возможность подделывать эти данные ставит под угрозу репутацию всего сервиса.

Что это значит для индустрии AI-генерации

Случай с Google Earth — пример того, как генеративный AI может конфликтовать с доверием к базовым инфраструктурным продуктам. Модели вроде Nano Banana 2, DALL-E 3, Midjourney v7 становятся всё более реалистичными, но встраивание их в сервисы с высокими требованиями к достоверности требует не только технических гарантий (водяные знаки, метаданные), но и культурного контекста использования.

Водяные знаки показали себя неэффективными. Van Ess без труда обошёл детектор AI, а скриншоты распространяются без метаданных. C2PA-стандарт (Content Authenticity Initiative от Adobe, Microsoft и других) пока не интегрирован в Google Earth и не решает проблему скриншотов.

Google подчеркнула, что сгенерированные изображения не появлялись в основном интерфейсе Google Earth для других пользователей — каждый видел только свои генерации. Но это не защищает от того, что фейковые спутниковые снимки могут быть использованы в СМИ, соцсетях, аналитических отчётах как якобы реальные данные.

Где всё пошло не так

Google не раскрыла детали модерации промптов в Nano Banana 2 для Google Earth. Судя по тестам van Ess, система либо не имела фильтров на политически и социально чувствительные темы (беженцы, военные действия, разрушения), либо эти фильтры были слишком слабыми.

Контраст с другими продуктами Google очевиден: в Gemini и ImageFX компания активно блокирует генерацию изображений реальных людей, политиков, сцен насилия. В Google Earth это почему-то не сработало, хотя риски дезинформации здесь выше — спутниковые снимки воспринимаются как документальное свидетельство, а не как креатив.

Возможно, Google рассчитывала, что функция будет использоваться узким кругом геопространственных специалистов для визуализации сценариев (например, моделирование затоплений или изменений ландшафта). Но как только инструмент стал публичным, его применили для создания контента, который выглядит как доказательство реальных событий.

Что дальше

Google обещает вернуть функцию после внедрения «более строгих ограничений». Скорее всего, это будет включать:

• Блокировку промптов, связанных с конфликтами, миграцией, катастрофами, политическими событиями
• Более заметные водяные знаки или визуальные индикаторы AI-генерации
• Возможно, ограничение доступа к функции только для верифицированных профессионалов

Вопрос в том, возможно ли вообще безопасно встроить генеративный AI в продукт, который по определению должен показывать реальность. Для креативных инструментов (Photoshop, Canva) генерация — естественное расширение. Для геоданных — фундаментальное противоречие.

Пока Google разбирается с гвардрейлами, индустрия получила напоминание: не каждая поверхность подходит для AI-генерации, и хайп вокруг новой модели не заменяет продуктового здравого смысла.

Источники

• The Verge: Google Earth’s AI deepfake tool only lasted one day