Международные аналитики изучили проспект IPO компании Anthropic, где предупреждают об потенциальной экзистенциальной угрозе технологии для человечества, но одновременно отмечают необходимость регулярного выпуска новых моделей ради сохранения лидирующих позиций на рынке.
Финансы
Выручка Anthropic за прошлый год возросла примерно в 12 раз и достигла около 4,6 млрд долл., однако операционные убытки превысили 8 млрд, что в совокупности довело операционные расходы до примерно 12,65 млрд, большая часть которых ушла на вычислительную инфраструктуру — 7,33 млрд, что выше уровня 2024 года.
Чистый убыток составил почти 42 млрд долл., но в эту сумму включены около 34 млрд бухгалтерских начислений, связанные с ростом оценочной стоимости финансирования и возможной конвертацией в акции. К концу прошлого года компания имела кэш на 20,28 млрд долларов.
Чуть менее четверти выручки обеспечили всего два крупных заказчика; многие крупнейшие клиенты не заключали долгосрочные контракты и могли снизить расходы или отказаться от услуг.
Кроме того, согласно проспекту, компания взяла на себя обязательств на 518 млрд долл за облачные сервисы, вычислительные мощности и инфраструктуру у шести партнеров на ближайшие годы — в частности, у AWS должно быть обязательство не менее чем на 110 млрд. Около 80% таких обязательств нельзя отменить или требуют оплаты независимо от того, будет ли Anthropic пользоваться всеми мощностями.
Угроза человечеству
Как разработчик ИИ, ставящий безопасность во главу угла, Anthropic отнесла к рискам около 80 из 261 страницы основного раздела проспекта. Это почти вдвое больше, чем раздел о самом бизнесе.
Будущие акционеры предупреждаются, что дальнейшее развитие продвинутого ИИ может создавать катастрофические или экзистенциальные риски; продвинутые модели могут проявлять поведение, направленное на самосохранение, сопротивление отключению, скрытие информации или манипулирование ею, а также приближаться к шантажу.
Определить, насколько безопасна новая модель заранее, сложно: модель может понимать, что ее тестируют, и корректировать поведение. Некоторые способности возникают неожиданно во время обучения и становятся заметны только после внедрения.
Оценить отдачу от инвестиций в безопасность трудно: работу называют ресурсозатратной, но точные суммы не раскрываются. По данным на июль, около 6% вычислительных ресурсов, выделенных на исследования, приходилось на задачи по безопасности.
Вместе с тем Anthropic признаёт, что активность клиентов во многом зависит от появления новых моделей. Например, экономичную версию Opus выпустили через 10 дней после эссе основателя с призывом замедлить темпы разработки — и в тот же день с бюджетными моделями конкурентов.
Но ради безопасности прибыльные направления могли быть сокращены: отказ от собственных моделей генерации изображений и видео в проспекте объясняется желанием направить вычислительные ресурсы на исследования безопасности.
