Satya Nadella предупредил компании о скрытой цене использования AI-моделей

Что произошло

Генеральный директор Microsoft Satya Nadella в блоге предупредил компании о рисках использования закрытых AI-моделей. Он заявил, что пользователи AI передают поставщикам не только деньги за токены, но и ценные знания о собственном бизнесе.

Речь идет о моделях лабораторий вроде OpenAI и Anthropic. Опасение состоит в том, что такие поставщики получают все больше доступа к чувствительной информации клиентов и могут использовать эти знания в собственных интересах.

Аргументы Nadella

Nadella пишет, что чем лучше компания хочет настроить модель под свои задачи, тем больше собственных знаний ей приходится раскрывать. Он отдельно указывает на запросы пользователей, инструменты, которыми пользуются агенты, и исправления ошибок модели.

По его словам, каждое исправление превращается в институциональное знание. Такой тип знаний, как отмечает Nadella, конкурент не смог бы купить, но компании фактически передают его поставщикам моделей.

Контекст спора о дистилляции

Nadella также затронул тему дистилляции моделей — практики, при которой выходные данные модели используют, чтобы понять ее работу и обучить новую, часто более дешевую модель.

Он утверждает, что если AI-компании могут свободно собирать данные из интернета для обучения, то предприятия должны иметь возможность изучать и дистиллировать такие модели в ответ. В феврале Anthropic обвиняла китайские open source-модели в отправке миллионов запросов в Claude для улучшения собственных моделей и призывала власти США ужесточить экспортный контроль.

Почему это важно

Позиция Nadella усиливает уже существующие опасения в технологической индустрии: закрытые AI-лаборатории могут получать доступ к знаниям клиентов, которые со временем способны превратить их в конкурентов собственных заказчиков.

С похожими предупреждениями ранее выступали инвестор Jason Calacanis и глава Palantir Alex Karp.