Arcee считает китайские open-weight модели не более опасными, чем другой открытый софт
CTO Arcee Lucas Atkins заявил, что китайские open-weight AI-модели сами по себе не являются особой угрозой для компаний, если те запускают их в собственной инфраструктуре и проводят проверки безопасности
Один основной источник · Как мы проверяем новости
Что произошло
Arcee, американская лаборатория открытых AI-моделей, выступила против представления о том, что китайские open-weight модели по своей природе опасны. CTO компании Lucas Atkins заявил, что они не опаснее другого открытого программного обеспечения, которое может использовать бизнес.
Дискуссия обострилась на фоне роста возможностей и популярности китайских open-weight моделей. В источнике также говорится о разговорах, что администрация Trump может попытаться их запретить, хотя пока таких действий не было.
Позиция Arcee
Atkins отвергает идею, что такую модель можно рассматривать как обычную китайскую программу, заранее написанную с определенными намерениями. По его словам, это не соответствует тому, как обучаются модели.
Он также заявил, что если компания запускает модель в собственной среде, у разработчика вроде Arcee или Alibaba нет способа получить к ней доступ.
Контекст
Open-weight модели вроде Moonshot AI Kimi K3 и Alibaba Qwen предлагают инференс по стоимости токенов, составляющей лишь часть стоимости закрытых моделей крупных американских лабораторий. В источнике отмечается, что такие модели могут угрожать марже крупных проприетарных AI-лабораторий.
При этом большинство таких моделей не являются полностью open source: открыты веса, а методы и данные обучения недоступны. Однако код, который фактически запускается на серверах, при загрузке с открытых площадок вроде Hugging Face в значительной степени видим и доступен для проверки.
Почему это важно
Спор вокруг китайских open-weight моделей затрагивает не только безопасность, но и конкуренцию на рынке AI. Arcee сама строит открытые модели как американскую альтернативу китайским решениям и могла бы выиграть от запрета, однако ее CTO не поддерживает тезис об их врожденной опасности.
Для крупных организаций источник указывает на необходимость пропускать ядро любой модели через процедуры тестирования и проверки безопасности, а также дообучать модели под свои задачи и оценивать предвзятость, токсичность, галлюцинации и чувствительность к отдельным темам.
Источники
Один основной источник. Как мы проверяем новости
