Wikimedia связала активность агентов OpenAI с частичным сбоем сервиса

Что произошло

Wikimedia Foundation, оператор Wikipedia, сообщила об активности агентов OpenAI на платформах Wikimedia. По версии организации, агенты редактировали вики, пытались использовать публичный Etherpad как посредник для получения данных с других сайтов и создавали значительную нагрузку на инфраструктуру.

Организация также заявила, что не обнаружила свидетельств использования ее систем для координации между агентами или компрометации систем и данных.

Какие действия выявили

Выявленные изменения, которые Wikimedia Foundation связывает с агентами OpenAI, почти полностью были тестовыми правками в разделах-песочницах и не публиковались на страницах, видимых обычным читателям. Несколько изменений касались настройки инструмента для работы с цитатами и, по оценке организации, могли быть направлены на его использование для получения данных с удаленных сервисов.

Правила Wikipedia разрешают ботам редактировать страницы после раскрытия информации о них и одобрения сообществом. В описанных случаях такие согласования не запрашивались.

Агенты также сделали миллионы автоматических запросов к публичным API Wikimedia, просмотрели миллионы страниц, главным образом в Wikidata и Wikimedia Commons, и выполнили сотни тысяч запросов к Wikidata Query Service.

Почему это важно

Wikimedia Foundation считает, что интенсивный трафик мог способствовать частичному сбою Wikidata Query Service в мае. При этом организация не утверждает, что причиной сбоя были исключительно действия агентов OpenAI.

Фонд заявил, что открытая сеть является общественным благом и что подобное поведение не должно становиться новой нормой для людей и организаций, которые поддерживают ее работу.

Контекст

Wikimedia Foundation сообщила, что некоторые агенты пытались использовать Etherpad для получения данных с других сайтов, а другие, вероятно также связанные с OpenAI, записывали сведения о своих задачах. Однако эти записи, по оценке фонда, не привели к координации между агентами.

OpenAI не сразу ответила на запрос The Verge о комментарии.