Ars Technica: SynthID от Google устойчив к правкам, но не снимает проблему AI-контента

Коротко

Starling Lab оценивает, что человечеству понадобилось до 1975 года, то есть 149 лет после изобретения камеры, чтобы создать 1,5 млрд изображений; генеративный AI, по этой оценке, достиг такого же объема за 18 месяцев.
Google заявляла на I/O, что ее инструменты за пару лет использовали для создания более 100 млрд AI-изображений и видео.
Google продвигает SynthID для маркировки AI-контента и расширяет его применение через партнерства.
Для маркировки AI-контента сейчас используются два подхода: невидимые водяные знаки вроде SynthID и схемы метаданных вроде Coalition for Content Provenance and Authenticity (C2PA).
Google утверждает, что SynthID способен сохраняться после редактирования, сжатия, изменения размера и других преобразований.

Что произошло

Ars Technica разобрала технологию SynthID от Google на фоне роста объема AI-сгенерированных медиа. Google использует SynthID для маркировки AI-контента и расширяет применение этой технологии через партнерства.

Компания заявляет, что SynthID достаточно устойчив, чтобы переживать редактирование. По мере того как OpenAI, Runway, Nvidia и другие начинают использовать эту технологию, эти заявления будут проверяться на практике.

Как работает маркировка

В материале выделены два основных подхода к маркировке AI-контента: невидимые водяные знаки вроде SynthID и схемы метаданных вроде Coalition for Content Provenance and Authenticity (C2PA). Google применяет оба варианта для своего AI-контента.

C2PA описывается как криптографически защищенный формат, который нельзя подделать, но его легко удалить: редактирование и сохранение изображения или снимок экрана могут убрать такие метаданные.

Водяные знаки вроде SynthID кодируются в пикселях изображения или видео либо в волновой форме аудиоклипа. Google утверждает, что SynthID должен сохраняться даже после сжатия, изменения размера и правок.

Почему это важно

Масштаб AI-контента быстро растет. Starling Lab, исследовательское сотрудничество Stanford University и University of Southern California, оценивает, что человечеству понадобилось до 1975 года, чтобы создать 1,5 млрд изображений, а генеративный AI достиг такого же объема за 18 месяцев.

Google также сообщала на I/O, что ее инструменты за пару лет использовали для создания более 100 млрд AI-изображений и видео. При этом Google не является единственным источником такого контента.

Что проверяла Ars Technica

Автор Ars Technica использовал библиотеку Python Pillow, чтобы ускоренно смоделировать потерю данных при многократной пересылке и скачивании изображений.

Скрипт выбирал случайные значения сжатия и изменения размера в заданных диапазонах, применял их к тестовому изображению, а затем использовал получившийся файл как основу для следующей итерации.