2026年7月，全球人工智能竞争再次迎来一个具有标志性的时刻。在Arena公布的WebDev前端开发能力排行榜中，月之暗面最新发布的Kimi K3以1682分位列第一。该榜单截至2026年7月27日已覆盖104个模型，并累计获得超过48万次用户投票。
这意味着，中国大模型首次在全球主流前端开发能力评测中占据榜首位置。Kimi K3采用混合专家架构，总参数规模达到2.8万亿，每个Token激活约1040亿参数，同时支持原生视觉理解和100万Token上下文窗口。在长周期编程、复杂知识工作和智能体任务上，Kimi K3展现出了接近全球闭源前沿模型的综合能力。
然而，比登顶榜单更值得产业界关注的，是随后发生的另一件事。Kimi K3发布后，用户请求量迅速增长，现有计算集群一度接近承载极限。月之暗面随后暂停面向普通消费者的新用户订阅，将现有算力优先用于保障已订阅用户，并表示正在全速推进算力扩容。
一边是模型能力快速进化，一边是推理算力供给难以及时跟上。Kimi所遇到的算力压力，正在揭示大模型产业下一阶段真正的竞争焦点：当模型能力不再是唯一稀缺资源，谁能够以更低成本、更高效率提供海量推理算力，谁就可能掌握人工智能商业化的底层基础设施。也正是在这一背景下，一家来自浙江的AI芯片新公司，开始进入产业视野。
一家瞄准“内存墙”的AI芯片黑马
曜启芯能半导体技术（浙江）有限公司日前披露，公司已经启动新一代高带宽AI推理芯片——算流B500的研发设计。与传统通用GPU不断堆叠峰值计算单元的路线不同，算流B500计划从大模型推理的数据流特征出发，围绕3D集成、高带宽数据通路以及计算与存储协同进行架构设计。
根据曜启芯能目前披露的设计目标，算流B500主要参数包括：制造工艺：TSMC 6nm；单颗裸片INT8算力：1000TOPS；目标数据带宽：32TB/s；单颗裸片面积：约600平方毫米。在这些参数中，最值得关注的并不是1000TOPS，而是32TB/s的数据带宽设计目标。
从“有多少算力”转向“算力能否被喂饱”
在大语言模型推理过程中，芯片需要持续读取模型权重，并不断访问随上下文长度增长的KV Cache。特别是在逐Token生成的解码阶段，计算单元往往需要等待权重和缓存数据从存储系统中被读取出来。多项针对大模型推理的研究已经指出，推理性能在很多场景下受到的主要限制并不是计算单元数量，而是存储带宽和数据搬运效率。这就是AI芯片行业经常提到的“内存墙”。
一颗芯片即便拥有极高的理论TOPS，如果数据不能及时送达计算单元，大量乘加阵列仍然可能处于等待状态。最终表现为芯片的纸面算力很高，但实际模型吞吐量、Token生成速度和计算单元利用率并不理想。算流B500希望解决的正是这一问题。
按照曜启芯能目前公布的设计指标计算，算流B500每1TOPS的INT8计算能力，将对应约32GB/s的数据带宽。从理论峰值角度看，1000TOPS与32TB/s之间对应的算术强度平衡点约为31.25次INT8运算/字节。
这一设计思路意味着，B500并不准备单纯追求更大的峰值算力数字，而是希望通过更高的数据供给能力，让计算单元获得更加持续的数据输入。
曜启芯能将这一理念概括为：AI推理芯片真正需要解决的问题，不只是芯片每秒能够计算多少次，而是每秒能够把多少有效数据送到计算单元。
3D集成可能成为推理芯片的重要路线
随着模型参数规模从数百亿扩大至数万亿，单纯依靠传统片外存储接口提高带宽，正面临功耗、封装复杂度、接口宽度和数据传输距离等多重限制。因此，包括逻辑与存储垂直集成、存储近邻计算、晶圆级互连以及更大规模片上缓存等技术，正在成为下一代AI推理芯片的重要研究方向。
算流B500计划围绕3D高带宽推理架构展开设计，通过缩短计算单元和存储单元之间的数据传输距离，构建宽并行、低距离的数据通路。与依赖最先进制程单纯提高晶体管密度的路线相比，曜启芯能选择以TSMC 6nm工艺为基础，将更多创新集中在芯片架构、数据流、存储系统和3D集成方式上。
这并不意味着制程工艺不再重要，而是意味着AI芯片的性能竞争正在从单一维度，转向制程、架构、存储、封装和软件工具链的系统性竞争。
不过，曜启芯能目前尚未公布B500的具体存储介质、3D堆叠层数、存储容量、垂直互连接口以及封装工艺。32TB/s仍然属于芯片研发阶段的目标参数，最终能否实现，需要等待芯片完成流片并经过实际测试验证。
一片晶圆，理论算力达到9.1万TOPS
算流B500的裸片面积约600平方毫米，属于典型的大型高性能计算裸片。按照300毫米晶圆的理论排布计算，在不考虑晶圆边缘损失之外的制造缺陷、良率和筛选淘汰情况下，一片晶圆预计可以排布约91颗B500裸片。
以每颗裸片1000TOPS INT8计算，单片晶圆对应的理论毛算力约为：91颗×1000TOPS＝91,000TOPS INT8。曜启芯能方面表示，晶圆级算力并不代表最终可以交付的合格芯片算力。实际芯片产量还将受到晶圆缺陷密度、大裸片良率、冗余设计、封装测试以及产品频率分档等因素影响。
因此，91颗裸片和91,000TOPS均属于理论设计与晶圆排布指标，而非最终量产承诺。但这一数据仍然展示了曜启芯能希望建立的产品逻辑：通过高算力密度与高数据带宽的组合，提高每片晶圆所能够形成的有效AI推理能力。
预计2027年第四季度完成设计
按照曜启芯能当前公布的研发规划，算流B500已经进入前期架构设计阶段。公司计划在2027年第四季度完成B500的整体研发设计，并在2028年第二季度进行首轮流片。流片完成后，芯片还需要经历封装、测试、点亮、性能调试、软件适配及客户验证等环节。
这意味着，算流B500目前还不是一款已经完成量产或可以对外销售的芯片，而是一项面向2028年及以后AI推理市场的前瞻性芯片研发项目。
未来两年，曜启芯能需要完成的不仅是一颗600平方毫米大型AI裸片的设计，还包括32TB/s数据通路验证、3D集成方案落地、芯片功耗控制、编译器开发、模型算子适配以及服务器系统搭建。任何一个环节，都可能决定B500最终能否把设计参数转化为真实可用的Token吞吐能力。
AI芯片竞争正在进入“有效算力”时代
Kimi K3登顶前端编程榜，证明中国大模型在复杂编程和智能体任务上已经具备全球竞争力。但Kimi K3发布后迅速出现的算力压力，同样说明，大模型能力的提升并不会降低算力需求。相反，当模型变得更强、使用场景变得更多、用户规模变得更大时，推理算力需求可能以更快速度增长。
下一阶段，AI基础设施竞争的核心指标可能不再只是单颗芯片拥有多少TOPS，而将逐渐转向：每秒能够生成多少有效Token；每瓦功耗能够提供多少Token；每台服务器能够承载多少并发用户；每百万Token的综合推理成本是多少；长上下文场景下能否保持稳定吞吐；计算单元的真实利用率能否接近理论峰值。曜启芯能希望通过算流B500切入的，正是这样一个从“峰值算力”转向“有效算力”的市场。
从目前来看，B500仍然是一张处于设计阶段的技术蓝图。32TB/s带宽、1000TOPS INT8算力以及91,000TOPS晶圆理论毛算力，都需要等待2028年流片之后接受真实芯片的检验。
但在全球AI推理需求快速增长、“内存墙”问题日益突出的背景下，一家试图通过3D集成和超高带宽重新设计推理芯片的中国公司，已经值得产业界提前关注。
当Kimi等大模型不断刷新能力上限，曜启芯能所押注的是另一个问题：当更强大的模型真正走向亿万用户，谁来为它们提供足够高效、足够低成本的推理算力？
算流B500，或许正是曜启芯能给出的答案。
