Anthropic запретила длительные оскорбления Claude и вмешательство в выборы
Anthropic обновила правила использования Claude, запретив продолжительные оскорбительные взаимодействия с моделью, манипуляции выборами, обманные кампании, разработку программного обеспечения для оружия и слежку
Один основной источник · Как мы проверяем новости
Что произошло
Anthropic в четверг обновила политику использования Claude. В документе закреплены новые запреты на вмешательство в выборы, использование модели для создания программного обеспечения для оружия и слежки.
Наиболее заметным изменением стал прямой запрет на продолжительные оскорбительные взаимодействия с моделью. Пользователям запрещено продолжать такие разговоры, если они неоднократно ведут себя жестоко и не преследуют заметной цели.
Что именно запрещают правила
Ограничения не распространяются на обычное раздражение пользователей, критику, несогласие с ответами Claude, мрачные творческие темы, тестирование и исследовательскую работу.
В отдельном разделе правил запрещены обманные кампании, в том числе использование Claude для ведения поддельных аккаунтов или создания вымышленных новостных изданий. Положения о выборах объединены в разделе «Не подрывайте демократические процессы».
Контекст
После обновления правил, выпущенного в августе, Claude обучен завершать разговоры при постоянном вредном или оскорбительном взаимодействии. Новая политика дополнительно запрещает пользователям намеренно добиваться продолжения таких разговоров.
Изменения появились после того, как Anthropic начала сотрудничать с известными религиозными учеными. В некоторых случаях компания пыталась убедить их в том, что Claude может обладать сознанием или душой.
Источники
Один основной источник. Как мы проверяем новости
