开源模型越多,越需要有人帮开发者把模型托管起来、把推理跑便宜。Fireworks这轮融资,卖的就是这件事。
由英伟达支持的AI云公司Fireworks AI完成15亿美元融资,估值175亿美元。领投方是Atreides Management、Index Ventures和TCV。英伟达、Evantic、Lightspeed Venture Partners等参与。Fireworks的业务是为开发者运营和托管开源AI模型,而不是自己做一颗对消费者的聊天机器人。
公司称,年化收入已突破10亿美元,是去年同期的5倍以上。目前每天处理40万亿token,并已开始为模型训练提供GPU算力。年化收入是把近期收入按年折算,不是已经入账的全年现金。从只做推理托管,扩展到也提供训练卡,意味着它开始碰更吃GPU的那一段,而不只是把开源权重挂在接口上。
增长对应两件事:开源模型变多,以及企业想要更便宜、还能按自己数据改的基础设施。在英伟达的生态里,Fireworks被放在模型即服务这一层,和GPU硬件、软件栈连在一起。模型即服务,白话就是客户不必自己买一整柜机器,也可以调用和维护开源模型。大云厂商之外,这种专门做开源托管和推理优化的公司,仍被看成有独立空间。
15亿美元和175亿美元分别是融资金额和估值,不能互相当成收入。10亿美元是年化收入口径,不是已经结清的全年现金。下一观察点是训练业务会不会分流原来的推理产能,以及40万亿token的日处理量在下一轮披露里是否还在上升。
从推理托管走到也提供训练GPU,客户类型会变。推理客户按token付费,训练客户要的是一段时间的整卡。每天40万亿token说明推理侧已经有规模;15亿美元融资给了继续获取算力的空间。模型即服务的意思是,开发者不必自建机房,也能把开源权重跑起来。大云厂商覆盖更广,专门做开源推理优化的团队仍可能在价格和定制上做出差别。领投方里既有财务机构,也有英伟达,硬件和平台被放在同一笔交易里。