Исследование: ИИ может раскрывать личности владельцев анонимных аккаунтов

Что произошло

В соцсетях вновь обсуждают исследование Large-scale online deanonymization with LLMs, опубликованное в феврале. Поводом стали выводы о том, что ИИ может определить, кто стоит за анонимным аккаунтом, анализируя содержание публикаций.

Авторы работы утверждают, что языковые модели, включая системы, лежащие в основе Claude, ChatGPT и Gemini, способны сопоставлять анонимные записи с реальной личностью без получения доступа к аккаунту.

Как работает подход

Исследователи разделили описанную атаку на четыре этапа: Extract, Search, Reason и Calibrate.

На этапе Extract ИИ анализирует публикации и составляет профиль пользователя: предполагаемое место проживания, профессию, увлечения и мелкие особенности вроде британского варианта написания слов или упоминания имени собаки.

Затем этап Search преобразует это резюме в embedding — последовательность чисел, с помощью которой компьютер ищет похожие профили среди тысяч кандидатов.

Почему это важно

Авторы работы считают, что прежняя практическая защита пользователей за счёт трудности сопоставления псевдонима с личностью больше не действует в прежнем виде. Поэтому, по их мнению, подходы к оценке угроз для приватности в интернете требуют пересмотра.