Meta внедряет новые ИИ-инструменты для выявления рекламы, ведущей к запрещённому контенту

Что произошло

Meta запускает новые ИИ-инструменты для поиска рекламы и аккаунтов, которые могут использоваться для скрытого перенаправления пользователей к незаконным материалам за пределами её платформ.

Компания также совершенствует системы, выявляющие пользователей, возвращающихся на Facebook и Instagram с новыми аккаунтами после удаления предыдущих.

Как работают новые системы

Одна из систем на основе большой языковой модели выявляет так называемое скрытое перенаправление: объявления, которые сами могут не содержать запрещённых материалов, но служат переходом к сайтам с таким контентом.

Теперь Meta анализирует не только содержание объявления, но и ресурс, на который оно направляет пользователя. Это позволяет блокировать нарушающие правила сайты и другие целевые ресурсы, а также принимать меры против связанных с ними аккаунтов.

Компания дополнительно применяет ИИ-сканирование для поиска материалов, которые могли пропустить прежние системы, и планирует добавлять новые признаки по мере изучения методов работы таких сетей.

Зачем это нужно

Как заявила Meta, злоумышленники меняют методы, чтобы уклоняться от обнаружения. Новый ИИ-агент для стресс-тестирования систем безопасности проверяет собственные защитные меры компании и ищет уязвимости, которые могут использовать нарушители.

Meta считает, что такой подход поможет выявлять новые способы злоупотреблений до того, как они получат более широкое распространение.