在智能芯片行业里,真正长期做推理芯片的人并不多,因为这条路线既要懂模型落地,又要扛住成本与能效的双重压力。球帝直播行业资讯栏目近期梳理公开访谈与产业资料时,注意到一个反复被提及的名字——程亦舟。他从通用计算架构起步,后来专注推理加速方向,如今在一家创业公司负责芯片架构。他的经历,某种程度上是推理芯片十年演进的缩影。

从“跑得动”到“跑得省”:需求重心的迁移

程亦舟最早参与的项目,目标很朴素:让模型能稳定跑起来。那个阶段,团队讨论最多的是算子覆盖和框架适配,功耗往往排在后面。但随着推理部署规模扩大,电费和机架空间成了绕不开的约束,需求重心开始从峰值算力转向每瓦性能。球帝直播在整理产业动态时也发现,公开资料中关于能效比的讨论明显增多。

他提到一个细节:早期做方案评审,大家习惯先看峰值指标;后来评审顺序变了,先问典型负载下的实际吞吐,再看功耗曲线。这种顺序变化,反映的是推理芯片从“技术验证”走向“规模化部署”的产业阶段。

  • 算子覆盖决定能不能用,能效决定用不用得起;
  • 推理负载波动大,平均功耗比峰值功耗更值得关注;
  • 软件栈成熟度直接影响客户迁移成本。

显存带宽:被低估的关键变量

在程亦舟看来,推理芯片最容易被低估的指标是显存带宽。模型参数要反复读取,带宽不足时算力再高也会闲置。他在公开分享中多次强调,架构设计要在带宽、容量和成本之间找平衡,而不是单纯堆算力。球帝直播行业资讯栏目在解读推理芯片参数时,也把带宽与容量的匹配关系列为重点。

他举了一个通俗的比喻:算力像厨房里的灶眼,带宽像传菜通道,通道窄了,灶眼再多也出不了菜。这个说法在从业者中流传很广,因为它把复杂的架构取舍讲得足够直白。

软件生态:创业团队的现实选择题

谈到创业,程亦舟没有回避困难。推理芯片的软件栈投入大、周期长,创业公司很难全线铺开。他的选择是聚焦少数高频场景,把编译器和运行时做扎实,再逐步扩展。球帝直播在梳理生态进展时也注意到,专注细分场景正成为不少团队的现实路径。

他认为,产业分工在变得更细:有人做通用架构,有人做场景专用,有人做工具链。对读者来说,理解这种分工,比记住某一款产品的参数更有价值。球帝直播会持续跟踪公开的产品发布与生态更新,帮助读者把人物故事放回产业链里看。

给后来者的三条建议

访谈最后,程亦舟给年轻从业者提了三点:先把一个场景吃透,再谈通用;重视软件,别把编译器当附属品;多看公开规格书和标准文档,少依赖传闻。这些话不新鲜,但从一个做了十年推理芯片的人嘴里说出来,分量不同。球帝直播行业资讯栏目也将继续以公开来源为基础,记录这些来自一线的经验与判断。