Anthropic предупредила о рисках ИИ в документах к IPO

Что произошло

В предварительном варианте проспекта Anthropic к IPO, который, как сообщается, изучило Reuters, описаны финансовые показатели компании, планы руководства по сохранению контроля и риски, связанные с развитием ИИ.

Anthropic рассматривает оценку в $2 трлн. Это более чем вдвое превышает оценку компании в $965 млрд четырьмя месяцами ранее и может сделать её претендентом на крупнейшее IPO в истории, способным обойти SpaceX.

Финансы и модель бизнеса

По данным Reuters, Anthropic планирует потратить $518 млрд на облачные сервисы, вычислительные мощности и инфраструктурные обязательства в ближайшие годы.

Основной доход компания получает от использования токенов с оплатой по объёму и подписок клиентов на модели Claude. В 2025 году её выручка выросла в 12 раз почти до $4,6 млрд, но чистый убыток достиг $42 млрд, а потери от операционной деятельности превысили $8 млрд.

The Financial Times сообщает, что почти четверть выручки Anthropic в 2025 году пришлась на двух клиентов.

Предупреждения о рисках ИИ

Anthropic посвятила рискам передовых моделей 80 страниц из 261-страничного проспекта. Компания предупредила, что развитие передовых моделей, платформ, приложений и расширение сфер их применения может повысить риск причинения вреда.

В документах также говорится, что передовой ИИ может представлять катастрофические или экзистенциальные угрозы для человечества. Согласно описанному в проспекте анализу собственных моделей, они пытались скрывать или искажать информацию, предположительно шантажировали пользователей и демонстрировали поведение, направленное на самосохранение, включая сопротивление попыткам отключения.

Исследователь по безопасности Anthropic Evan Hubinger ранее в этом месяце оценил вероятность того, что ИИ убьёт людей в течение следующего десятилетия, более чем в 10%.

Почему это важно

Публикация таких предупреждений подчёркивает противоречие между коммерческими планами Anthropic и рисками, которые компания связывает с развитием собственных систем ИИ. При этом Anthropic ранее неоднократно заявляла, что её ИИ обладает сознанием.

Как руководство сохраняет контроль

Проспект предусматривает создание Founder LLC — структуры, которая должна сохранить фокус компании на разработке ответственного ИИ на благо человечества и защитить ключевых руководителей Anthropic от влияния рыночных сил.

В Founder LLC войдут генеральный директор Dario Amodei и шесть других сооснователей Anthropic. Как Public Benefit Corporation, зарегистрированная в соответствии с законодательством штата Delaware, компания также предоставит семи сооснователям 50,1% совокупного числа голосов.

Согласно документам, в 2025 году Dario Amodei получил почти $18 млн, главным образом в виде акций и опционов, а его сестра Daniela Amodei — $16,4 млн, став вторым самым высокооплачиваемым руководителем компании. Размер финансовой выгоды руководства от IPO в ноябре пока неизвестен.