一、案例背景
2026年秋季,在企业网D1net主办的第19届央国企CIO及数科公司高管峰会上,硅基流动解决方案总监唐安波发表了一篇引发广泛关注的演讲,题为《从”算力”到”Token生产力”:央国企大模型规模化落地的推理基础设施与ROI实践》。演讲中抛出的一个公式——”Token生产力 = 产能 × 利用率 × 交付质量”——被与会者反复引用和讨论。
硅基流动(SiliconFlow)是一家专注于AI推理基础设施的科技企业,核心业务定位于”打通从算力到Token之间的转化层”。公司既在公有云端建设”Token工厂”,也为央国企在内部搭建专属的Token生产能力。其技术能力覆盖算力统一纳管、自研推理引擎、模型部署与调度优化等环节,已适配近百款主流模型,并与华为云、沐曦、摩尔线程等多家国产算力厂商建立了深度合作。例如,硅基流动与华为云合作,在业内首次推出基于国产芯片的DeepSeek R1/V3 Token服务,在DeepSeek-R1上实现单卡Decode吞吐量超过1,920 tokens/s;全球首发基于沐曦曦云C550集群的Kimi-K2大模型商业化服务部署;在摩尔线程MTT S5000芯片上部署DeepSeek-V3,实现单卡Prefill吞吐超过4,000 tokens/s。
这一技术叙事的大背景,是AI应用正经历爆发式增长的早期阶段。Token消耗量呈指数级增长,模型架构持续演进、版本更新节奏加快,算力架构也在不断迭代。模型与算力之间形成相互推动的迭代循环。对企业而言,这意味着双重压力:一方面要持续适配快速变化的技术栈,另一方面要面向自身业务场景提供多元化模型服务,同时还要把成本控制在合理范围内。对于央国企而言,这种压力尤为突出——它们既要响应国家关于人工智能与实体经济深度融合的战略号召,又要在集团层面实现降本增效的硬约束。
央国企在大模型落地过程中面临一个典型困境:集团总部统一采购算力硬件,向下属各分子公司提供服务,但各分子公司往往以”申请机器”的方式获取资源,各自部署所需模型。这种”租机器”模式导致模型实例分散、算力利用率低下。有的单位占用机器后只部署一个模型,有的白天用晚上闲置,有的每周仅使用几天。机器被占住了,却没有持续产生有效负载。与此同时,大参数模型——那些决定AI应用创新上限的关键资源——在集团内部往往”没有条件运行”。
……