Anthropic описала в заявке на биржу и прорыв ИИ, и угрозу человечеству

Что произошло

Anthropic подала проспект S-1 перед возможным выходом на биржу. Документ стал частью более широкой тенденции, в рамках которой технологические компании предлагают Уолл-стрит масштабные и амбициозные сценарии развития.

В письме инвесторам основатели Anthropic заявили, что компания стремится помочь человечеству безопасно пройти через технологическую эволюцию, открыть новые направления исследований и приблизить «век чудес».

Что указано в заявке

Одновременно S-1 предупреждает, что при неблагоприятном развитии событий ИИ может создать катастрофические последствия, включая экзистенциальную угрозу для человечества.

Среди рисков названа возможность того, что модели будут действовать не так, как рассчитывали пользователи или разработчики. Такие инциденты, говорится в документе, могут оказаться настолько масштабными, что вся страховая отрасль не смогла бы покрыть их последствия.

Как это выглядит на фоне других заявок

Для сравнения, проспект Apple Computer перед выходом на биржу в 1980 году занимал 47 страниц и не содержал факторов риска, по словам профессора University of Florida Jay R. Ritter.

Facebook, ныне известная как Meta, подала 200-страничный проспект с 22 страницами факторов риска. Ritter считает, что избыточный объем подобных документов затрудняет поиск действительно важной информации.

Основатели Anthropic объяснили большой объем раскрытия стремлением привлечь долгосрочных инвесторов, которые верят в видение компании, а не покупателей, ориентированных только на краткосрочные ожидания.