Instagram снова путается с маркировкой AI-контента

Что произошло

В Instagram снова появились жалобы на некорректную маркировку AI-контента. Метки должны помогать пользователям быстро отличать синтетически созданные материалы, но, по сообщениям пользователей, система работает непоследовательно.

Пользователи утверждают, что Meta автоматически добавляет метку “AI Content” к изображениям, которые не создавались и не редактировались с помощью генеративных AI-инструментов. При этом, как сообщается, часть реальных AI-изображений не получает такой отметки.

Что могло вызвать ошибочную маркировку

Точные причины таких меток, судя по сообщениям, различаются. Некоторые пользователи связывают их с редактированием в Canva’s Background Remover или с незначительным использованием инструментов для исправления дефектов на фото.

Один пользователь Threads заявил, что Instagram ставит метку всякий раз, когда задействовано удаление фона. Другой сообщил, что метка появилась после удаления небольшого пятна на фотографии в Canva, после чего Instagram пометил все изображение как AI-контент.

При этом связь новых ошибочных меток с использованием генеративного AI остается неочевидной. Инструменты вроде удаления фона часто используют машинное обучение, но это ассистивный AI, а не генеративные text-to-image-системы, которые обычно связывают с вводящими в заблуждение AI-изображениями.

Контекст

Похожая ситуация уже возникала в Instagram в 2024 году, когда фотографии ошибочно получали метку “Made by AI”. Тогда Meta объявляла, что будет сканировать изображения на наличие IPTC и C2PA-метаданных, которые могут с разумной степенью уверенности показать, использовался ли генеративный AI для создания или изменения изображения.

В 2024 году система, как сообщалось, помечала изображения, чьи Adobe-метаданные указывали на ретушь генеративными AI-инструментами, даже если изменения были крайне незначительными и по сути оставляли фотографию прежней. После этого Meta обещала изменить подход к маркировке, чтобы он лучше отражал объем AI-редактирования в изображении.

Почему это важно

Проблема подрывает доверие к видимым AI-меткам: если обычные или минимально отредактированные фотографии получают отметку “AI Content”, а некоторые AI-изображения проходят без нее, пользователям сложнее понять, каким публикациям можно доверять.

Методы Meta остаются недостаточно прозрачными. Компания говорила об использовании отраслевых индикаторов, которые другие компании включают в контент из своих инструментов, но свежей информации о том, что это за индикаторы и как именно Meta их проверяет, нет. Meta не ответила на запрос о разъяснении.