Цукерберг выступил против согласованного замедления развития ИИ
Глава Meta Марк Цукерберг заявил, что компании могут самостоятельно уделять приоритетное внимание безопасности ИИ, не дожидаясь конкурентов
Один основной источник · Как мы проверяем новости
Что произошло
Глава Meta Марк Цукерберг раскритиковал идею согласованного замедления роста возможностей ИИ. Он заявил, что разработчики имеют собственные стимулы предотвращать вред от моделей, поскольку могут нести за него ответственность.
Заявление последовало после призывов главы Anthropic Дарио Амодеи замедлить развитие возможностей ИИ. Его поддержали глава OpenAI Сэм Альтман и Илон Маск, однако Цукерберг не назвал их в своей публикации.
Что заявила Meta
Цукерберг сообщил, что Meta Superintelligence Labs уже привлекает независимых оценщиков, и выступил за создание более крупного и разнообразного пула внешних тестировщиков.
Он также заявил, что Meta направила большую часть вычислительных ресурсов на обслуживание пользователей, а не на рекурсивное самоулучшение — процесс, при котором ИИ помогает создавать следующие версии самого себя.
Почему это важно
По мнению Цукерберга, согласование поведения ИИ с намерениями человека может стать конкурентным преимуществом: пользователи будут избегать агентов, которые не выполняют их инструкции.
При этом остаётся неясным, смогут ли добровольные меры компаний сохраниться под давлением конкуренции. Эксперты Atlantic Council заявили, что корпоративным обязательствам необходимы независимый надзор и обязательные к исполнению стандарты.
Контекст
Сэм Альтман также призывал компании усиливать защитные меры, не дожидаясь законодательства, и поддерживал более медленную разработку, чтобы системы безопасности успевали за развитием технологий.
Цукерберг заявил, что для позитивного будущего необходимо сохранять правильный баланс сил.
Источники
Один основной источник. Как мы проверяем новости
