端侧要跑大模型,卡点往往不在算法,而在“又小又省电还能推得动”的芯片——聆思把这笔钱砸在了这里。
近日,聆思科技宣布完成近5亿元B轮融资,由安徽省、合肥市多家国资平台联合战略领投,一本基金二期、天智投资、科讯创投等跟投,泰合资本任长期财务顾问。资金将主要用于新一代端侧大模型AI推理芯片研发。
聆思成立于2020年,少数同时具备芯片设计与AI全栈算法能力的端侧玩家。面对功耗、体积、成本硬约束,通用AI芯片多面向传统机器学习,在内存、算子适配与多任务调度上难扛大模型。公司打造算力、存力、引擎三大自研底座,Nebula系列号称可实现约10倍计算加速、支持约10倍规模参数模型,推理速度超过100 tokens/s,目前进入关键研发,计划2026年底发布。
落地侧,聆思已联合联想、海尔、美的、聆动机器人、面壁智能等,在AIPC、人形机器人、全屋智能、车载座舱预研;已推出23款端侧AI推理芯片,累计出货突破1.5亿片,服务海尔、美的、海信、安克、新东方等客户。端侧模型备案潮起来之后,推理芯片是下一张必须交的答卷。