Meta изменит подсказки Meta AI после вирусного видео с вопросами о детях
Meta заявила об изменении подсказок Meta AI после вирусного видео, в котором чат-бот предложил пользователю выяснить личные данные о ее дочерях
Один основной источник · Как мы проверяем новости
Что произошло
Meta сообщила об изменении подсказок, которые предлагает ее чат-бот Meta AI. Решение последовало после публикации Instagram-пользователя Kalie Robins, показавшей, как система предложила выяснить личные сведения о ее дочерях.
Подсказка «Кто ребенок-пассажир?» появилась под видео, где Robins пела в машине вместе с ребенком. После выбора подсказки Meta AI, по словам Robins, связал сведения о ее дочерях с ее прошлыми публикациями и постами родственников.
Какие данные показывал чат-бот
Meta AI предложил дополнительные вопросы о возрасте детей и месте, где Robins живет вместе с семьей. Robins также заявила, что система показала фотографии ее дочерей, опубликованные на платформе, включая снимок, который, по ее словам, был удален несколько лет назад.
Представитель Meta Dina El-Kassaby признала, что компания «не справилась с задачей», и заявила: функция не должна была задавать пользователю такие вопросы.
Почему это важно
Meta объяснила, что создавала функцию для получения дополнительной информации о темах и публикациях, которые интересуют пользователей. По словам компании, ответ формируется на основе сведений, к которым пользователь уже имеет доступ.
El-Kassaby допустила, что в этом случае Meta AI мог использовать видео, где Robins называла своих детей. Ранее, в июле, Meta уже отказалась от функции создания дипфейков других пользователей Instagram после резкой критики.
Источники
Один основной источник. Как мы проверяем новости
Связанные материалы
Mecka AI может получить оценку около $500 млн в новом раунде с Sequoia Capital
Гарри Тан предложил разрешить американским ИИ-лабораториям дистиллировать передовые модели
