В США обсуждают риски открытых китайских AI-моделей на фоне Kimi K3

Что произошло

Kimi K3 от Moonshot запустила спор о будущем больших языковых моделей и о том, как открытые веса влияют на бизнес крупных американских AI-компаний.

Dean W. Ball, руководитель стратегического направления OpenAI, утверждал, что правительству США следует создать регуляторные опасения вокруг новых моделей, поскольку open-weight модели, по его мнению, могут сдерживать капитальные расходы frontier labs.

После критики со стороны представителей технологической отрасли, включая Yann LeCun и Martin Casado, Ball отозвал утверждения о том, что регуляторное давление было бы лучшей стратегией White House и что open-weight модели обязательно замедляют технологический прогресс.

Позиции вокруг возможного запрета

Axios сообщил, что администрация Trump рассматривает запрет K3 и других продвинутых китайских моделей по инициативе американских frontier labs.

При этом Politico сообщило, что Department of Commerce не планирует предпринимать такой шаг в ближайшее время.

Для крупных AI-компаний риск связан с тем, что open-weight модели могут работать на независимой инфраструктуре или внутри крупных предприятий и предлагать более дешевую альтернативу моделям Anthropic и OpenAI.

Почему это важно

Если пользователи будут тратить больше средств за пределами закрытых лабораторий, возврат на крупные инвестиции в обучение моделей может снизиться.

Braden Hancock, сооснователь Snorkel AI и исследовательский партнер Laude Institute, заявил TechCrunch, что сильные open source модели уровня frontier будут давить на маржу и снижать цены frontier-компаний.

По его словам, это не обязательно приведет к снижению использования AI; скорее, возможен обратный эффект.

Аргументы о безопасности

Среди опасений вокруг китайских моделей называют защиту данных США от китайского правительства. В материале приводится параллель с запретом США на импорт современных Chinese EVs из-за опасений по поводу сбора данных.

Эксперты, упомянутые в статье, обычно считают, что open-weight модели, запущенные на серверах в США, вряд ли будут передавать данные в China, хотя полностью исключить такую возможность нельзя.

Еще один аргумент касается возможной скрытой предвзятости моделей в пользу PRC, но не ясно, что это означало бы, например, для задач программирования.

Также высказывается опасение, что китайские модели могут не иметь защитных ограничений, предписанных правительством США для ведущих US LLMs. Однако David Sacks указывал на случаи, когда компании в США обращались к Chinese LLMs для устранения проблем безопасности, если американские frontier-модели отказывались выполнять такие задачи.