Microsoft представила кодекс «гуманистического ИИ» и открыла его для критики

Что произошло

Microsoft опубликовала проект кодекса «Humanist AI» — набора правил и целей для собственных ИИ-моделей, которые компания называет MAI models. Microsoft заявила, что хочет открыто обсуждать подходы к созданию таких систем и привлечь общественность к их доработке.

В проекте есть абсолютные ограничения, которые нельзя обходить настройками модели. Параллельно документ формулирует более широкие ориентиры для ситуаций, не охваченных конкретными запретами.

Какие ограничения предлагает документ

Один из разделов запрещает моделям помогать с химическим, биологическим, радиологическим, ядерным и взрывным оружием. Это ограничение касается оружия массового поражения, а не всех военных или оборонных применений. В том же разделе отдельно запрещены кибератаки и несогласованные дипфейки.

Кодекс также требует, чтобы модели не сопротивлялись человеческому вмешательству, исправлению или отключению и признавали приоритет человеческого намерения.

Microsoft отвергает идею «благополучия модели»: ее системы не должны имитировать чувства, внутреннюю мотивацию или сознание. Эти правила сейчас распространяются на пять развернутых систем, включая MAI-Thinking-1 и MAI-Code-1.1-Flash.

Зачем нужен общественный обзор

Помимо жестких ограничений, проект выделяет три цели: Human Flourishing, Plural Values и Human Control. Они должны помогать принимать решения в случаях, которые нельзя заранее описать отдельным правилом.

В разделе Plural Values говорится, что плюрализм не означает нейтральность по отношению к вреду. При принятии решений предлагается опираться на достоинство, безопасность, автономию и права, а не на одну культурную точку зрения.

При этом порядок применения этих принципов в отдельных случаях пока оставлен на усмотрение команд обучения и будущего общественного обсуждения.

Проект еще не стал политикой Microsoft

Microsoft уточняет, что текущие модели не обучаются на этой версии документа. Кодекс должен начать влиять на развитие MAI после выпуска пересмотренного проекта ближе к концу года, а ориентиром названы релизы 2027 года.

В проекте пока также не описаны внешний процесс проверки и конкретный ответственный за исполнение правил. Именно эти вопросы могут стать частью шестинедельного обсуждения.

Публикация документа произошла на фоне новых призывов представителей индустрии к дополнительному регулированию и замедлению развития ИИ. Dario Amodei из Anthropic ранее изложил план по замедлению разработки, а главный научный сотрудник OpenAI Jakub Pachocki призвал к добровольному замедлению темпов в отрасли.