Google убрала генератор изображений в Google Earth из-за опасений вокруг дипфейков

Коротко

Инструмент был представлен 30 июля и позволял выбрать любую локацию в веб-версии Google Earth, нажать «создать изображение» и сгенерировать сцену с помощью модели Nano Banana.
Google заявила, что откатывает функцию, пока разрабатывает более строгие защитные механизмы.
Поводом для тревоги стала простота создания событий, которых в реальности не происходило.
Компания планирует вернуть генерацию изображений в Google Earth только после внедрения более жестких защит, но сроков не назвала.

Что произошло

Google отключила функцию генерации изображений в Google Earth после того, как пользователи получили возможность создавать искусственные спутниковые сцены по текстовым запросам. Инструмент работал на модели Nano Banana и был доступен в веб-версии сервиса.

В заявлении в X компания отметила, что пользователи особенно доверяют Google Earth как надежному отображению мира. Google признала, что геопространственные специалисты находили полезные применения функции, но также увидела распространение сгенерированных изображений, которые, по ее оценке, могли нарушать правила.

Почему возникли опасения

Критика была связана с тем, что инструмент легко создавал сцены событий, которых не было. 404 Media показала, что с его помощью можно сгенерировать кратер от взрыва в Los Angeles и добавить протестующих у кампуса Google в Mountain View.

NPR создала изображения горящего острова Kharg Island в Iran и затопленного Capitol в США — такие события стали бы крупной новостью, если бы были реальными. Исследователь открытых источников Henk van Ess рассказал NPR, что пробовал запросы про беженцев на мексиканской границе и ядерный объект в Iran, и ни один из них не был отклонен.

Почему это важно

Спутниковые изображения давно используются как опора при проверке срочных новостей и сообщений о массовых преступлениях, поскольку их было сложно подделывать. Исследователь Bellingcat Jake Godin предупредил, что генерация в один клик упростит создание фейков и ускорит их распространение.

По его оценке, дезинформация распространяется быстрее любых исправлений, а власти теперь могут объявлять подлинные изображения сфабрикованными.

Что говорила Google о защите

Сначала Google снижала значимость опасений, указывая, что каждое изображение содержит водяной знак SynthID, который помечает его как созданное AI в инструментах вроде Gemini. Компания также заявляла, что блокирует создание материалов на вредные темы.

Критики сочли эти меры недостаточными, поскольку многие пользователи не проверяют изображения перед тем, как ими поделиться. Google заявила, что вернет функцию только после усиления защит, но не назвала сроки.