首页 > 人工智能 >WAIC重磅!云天励飞亮出芯片、万卡集群、软件栈完整算力版图

WAIC重磅!云天励飞亮出芯片、万卡集群、软件栈完整算力版图

来源:互联网 2026-08-01 14:13:28

云天励飞在WAIC2026发布AI推理基础设施路线图,推出三款云端大算力推理芯片、万卡异构集群及全链路IFWA软件栈,构建完整算力体系。以“百亿token一分钱”为目标,通过软硬件协同优化token生成效率与成本,并发起“1001计划”推动产业链协同。

在刚刚落幕的WAIC 2026上,云天励飞正式发布AI推理基础设施路线图,宣告从芯片供应商向系统级AI推理基础设施构建者转型。这标志着国产推理算力竞争进入比拼系统能力的新阶段。

路线图包含三款云端大算力推理芯片——DeepVerse100P、DeepVerse100D、DeepVerse100L,以及基于这些芯片打造的面向万卡异构集群的分离式AI推理基础设施,和贯穿全链路的IFWA软件栈。芯片、集群、软件三位一体,构成完整算力体系。

长期稳定更新的攒劲资源: >>>点此立即查看<<<

本届WAIC释放的信号表明,AI产业落地趋势清晰:AI已超越聊天机器人,能自主执行多任务的智能体成为企业标配;端云协同与端侧大模型大规模落地;算力竞争重心从单点比拼转向芯片、集群、软件协同的全栈系统能力较量。

应用端变化使业界对AI算力的关注聚焦于两个关键指标:token生成效率与单位token成本。云天励飞因此提出“百亿token一分钱”的长期目标,这也是当前AI算力产业的普遍共识。

一、三款推理芯片+万卡异构集群,云天励飞亮出AI推理底座新蓝图

大模型规模化落地,行业竞争重心从单芯片峰值算力转向集群端到端推理效能。云天励飞的最新布局清晰体现了这一转变,正在改变国产AI芯片的突围路径。

底层芯片方面,云天励飞针对未来两年AI推理需求,推出三款云端大算力推理芯片:DeepVerse100P、DeepVerse100D、DeepVerse100L。

这三款芯片分别针对大模型推理中不同场景做专项优化。随着百万上下文大模型落地,长文档解析、企业RAG、AI智能体、代码仓库检索等业务普及,放大了Prefill(预填充)与Decode(解码)阶段的资源矛盾。传统混部架构下,两个阶段共享算力和带宽,易发生资源抢占,互相拖累。

云天励飞的方案让芯片各司其职:DeepVerse100P面向百万级上下文的Prefill场景,优化传统混部架构中长上下文Prefill与Decode共享资源导致的抢占问题,减少对Decode生成吞吐的影响;DeepVerse100D面向Decode环节,重点提升内存带宽和互联效率,降低多节点通信阻塞和尾延迟;DeepVerse100L面向Decode阶段计算密集型的FFN环节,采用3D Memory架构,内存带宽高于主流HBM,并通过低延迟芯片互联和快速传输激活数据,提升计算与通信的并行效率。

WAIC重磅!云天励飞亮出芯片、万卡集群、软件栈完整算力版图

芯片只是第一步,推理基础设施紧随其后。芯片能解决单节点、单硬件性能瓶颈,但万卡集群面临更复杂的系统性工程挑战。集群规模越大,跨节点通信堵塞、异构算力资源相互等待、推理尾延迟持续抬升等问题越突出。

基于此,云天励飞计划通过三款芯片构建面向万卡异构集群的分离式AI推理基础设施。该基础设施遵循大模型推理不同阶段的负载特性,配置相应芯片和资源池,通过高速互联实现协同运行。优化边界从单颗芯片向外延伸,覆盖计算、访存、互联、集群调度、推理软件栈全系统环节。

芯片和系统之外,软件栈是关键一环。云天励飞打造的IFWA软件栈覆盖模型开发、编程及系统等层级,为模型适配、算子优化、编译部署和软硬件协同提供支持。

WAIC重磅!云天励飞亮出芯片、万卡集群、软件栈完整算力版图

从芯片到万卡异构集群,再到软件栈,云天励飞AI推理基础设施蓝图已成型。

二、针对AI推理负载专门优化,预计整体性能达到国际一流水平

在大模型真实推理场景中,持续稳定的能效输出已成为商业化落地推理算力的核心标尺。

随着各类AI应用规模化落地,不同硬件方案的token生成成本差距持续拉大。能否持续压降海量token的生成成本、提升token吞吐效率,成为行业核心竞争命题。在今年的GTC大会上,英伟达创始人黄仁勋提到,基于极致协同设计,下一代Rubin+LPX方案在每兆瓦的tokens吞吐上相比Blackwell提升2倍以上,尤其在高价值低延迟场景提升高达35倍,从而获得全球最低的TCO token成本。

反观云天励飞DeepVerse100整套方案,虽受限于芯片工艺代差,在免费token生成场景中每兆瓦tokens吞吐略低于Blackwell,但在生产力级别tokens生成场景,尤其高价值低延迟场景,每兆瓦吞吐已直追Rubin+LPX。其tokens成本竞争力超越英伟达Blackwell架构,逼近Rubin+LPX。无论是免费闲聊、日常通用对话,还是付费专业内容生产等高负载场景,它与英伟达新一代算力平台Rubin+LPX的性能差距正在持续收窄

云天励飞在AI推理算力的布局,面向推理赛道的终极考题:面对多元交互负载场景,提供稳定、高效的规模化token生成方案。

如今,推理算力需求暴涨势头不可阻挡。AI应用从基础通用问答延伸到深度逻辑推理、编程、智能体自主执行乃至多智能体协同作业,推理任务承载的上下文窗口长度、单次生成token总量、用户实时交互并发频率同步攀升。

大模型推理环节的Prefill与Decode两个阶段,资源消耗逻辑截然不同。Prefill阶段是算力密集型负载,需集中处理输入上下文;Decode阶段是访存密集型负载,以逐token方式生成内容。这意味着单纯堆峰值算力的硬件方案,在真实业务中会出现大量算力闲置,资源利用率极低。

因此,一套全新的算力评价标尺正在取代单一的峰值性能指标。如今算力的价值,不再只看峰值性能,而是每一度电、每一块芯片能产出多少有效token。计算能力、内存带宽、芯片互联、集群调度、软件适配和资源利用率,都会影响这个结果。

云天励飞此次发布的AI推理路线图,核心逻辑是围绕token生成全过程,对芯片、互联、软件和系统进行协同设计,通过更精细的资源配置提高推理系统整体效率。

三、AI算力走向生态之争,云天励飞发起开放产业联盟倡议

顺应AI行业降本刚需,云天励飞给出长期落地方案,将“百亿token一分钱”作为目标,通过持续压缩单token运营开销,无限趋近算力成本最优极限。

但持续压低token成本,光靠一家企业单打独斗行不通。只有拉动全产业链协同优化,才能找到兼顾效率与成本的最优解。

随着AI大规模落地千行百业,模型厂商、芯片企业、AI应用端企业之间的壁垒加速消融,模算协同、软硬共生成为常态。产业上下游在研发过程中,如果模型开发不考量芯片存储带宽,芯片设计不贴合真实推理负载,技术研发脱离线下业务场景,最终将导致硬件利用率不足、落地成本居高不下,大量算力资源被浪费。

可以说,脱离硬件适配的模型是空谈,缺少模型调校的芯片难发挥实力,没有真实场景反哺的技术走不通商业闭环。上下游绑定共生已是必然选择。

面对产业协同刚需与token降本长期目标,云天励飞同步发起“1001计划”,联动芯片设计、IP与EDA、封装测试、服务器与互联、软件栈、算力平台、模型、应用及科研机构等全链条主体。目标是通过该计划建立长期生态合作机制,推动产业链各方围绕共同技术标准、软件适配、场景验证和产业应用,形成更紧密的协作。

AI产业的竞争核心已与整条产业链的协同效率息息相关。在国产AI芯片重要性日益提升的背景下,AI产业上下游的芯片、软件、模型、应用玩家,正加速协同形成正向循环,最终实现AI算力普惠,加速AI规模化落地。

结语:AI算力竞争焦点变了——国产AI算力给出推理降本终极方案

云天励飞的整套AI推理基础设施,目标明确:破解算力资源错配、有效算力利用率不足等行业痛点,通过软硬件协同持续优化单位token成本。

推理普惠的竞争日益激烈,当通用算力难以适配碎片化的推理负载,由分层芯片、异构集群、原生软件栈组成的全栈方案,或许正是穿越周期的解题思路。

侠游戏发布此文仅为了传递信息,不代表侠游戏网站认同其观点或证实其描述

热游推荐

更多
湘ICP备14008430号-1 湘公网安备 43070302000280号
All Rights Reserved
本站为非盈利网站,不接受任何广告。本站所有软件,都由网友
上传,如有侵犯你的版权,请发邮件给xiayx666@163.com
抵制不良色情、反动、暴力游戏。注意自我保护,谨防受骗上当。
适度游戏益脑,沉迷游戏伤身。合理安排时间,享受健康生活。