Модерация Reddit на базе AI столкнулась с критикой из-за удалений в AskHistorians

Коротко

В апреле Slack-канал модераторов r/AskHistorians получил множество уведомлений после автоматического удаления десятков комментариев и постов, опубликованных вплоть до 10 лет назад.
Модераторы считают, что за удалениями могли стоять недавно обновленные AI-инструменты модерации Reddit.
Reddit заявляет, что благодаря AI увеличил меры против ненавистнического и насильственного контента более чем на 200% и снизил показ потенциально вредного контента более чем на 40%.
Sarah Gilbert отметила, что большие языковые модели усложнили выявление спама, поскольку имитируют человеческую речь.

Что произошло

В апреле модераторы r/AskHistorians заметили поток уведомлений в Slack-канале, куда автоматически приходят ссылки на сообщения modmail. Причиной стали автоматические удаления десятков комментариев и постов, часть из которых была опубликована до 10 лет назад.

Одна из модераторов, Sarah Gilbert, сказала, что ни команда модераторов, ни эксперты, публиковавшие удаленный контент, не могли ничего с этим сделать.

Детали

Модераторы AskHistorians считают, что за удалениями могли стоять недавно обновленные AI-инструменты модерации Reddit. После восстановления текста части постов один из модераторов заметил, что весь удаленный контент ссылался на Rare Historical Photos — сайт с историческими изображениями.

По версии модераторов, Reddit мог пометить этот сайт как спам, а вместе с ним — любые посты, использовавшие материалы сайта как пояснительные иллюстрации.

Почему это важно

Для AskHistorians такие удаления особенно болезненны: пользователи воспринимают сообщество как архив подробных ответов, которые продолжают обучать людей спустя долгое время после публикации.

Удаление затронуло ценные материалы, на подготовку которых, по словам Gilbert, некоторые авторы тратили часы, а иногда работали над ответами несколько дней.

Контекст

Reddit заявляет, что AI помогает быстрее и в большем объеме применять меры модерации: компания говорит об увеличении действий против ненавистнического и насильственного контента более чем на 200% и о снижении показа потенциально вредного контента более чем на 40%.

В то же время случай AskHistorians показывает проблему метрик: большее число мер не обязательно означает более качественную модерацию. Gilbert также отметила, что большие языковые модели усложнили обнаружение спама, поскольку имитируют реальные человеческие голоса.