发现商业评论 旗下
洞察商业 启迪未来

云天励飞陈宁谈AI推理:GPNPU成新方向,2030年“百亿Token一分钱”可期

   时间:2026-07-19 15:42 来源:天脉网作者:顾雨柔

在人工智能发展的关键转折点上,推理时代对算力架构提出了前所未有的挑战。云天励飞董事长兼CEO陈宁在世界人工智能大会(WAIC)论坛上指出,传统GPU主导的算力模式已难以满足复杂场景需求,融合NPU与GPGPU优势的GPNPU架构将成为推理时代的核心解决方案。这一判断基于AI应用从训练向推理迁移的产业趋势——当模型训练进入相对稳定阶段,如何让不同规模、不同场景的模型实现高效推理,成为决定AI技术落地价值的关键。

推理场景的特殊性在于其需求多样性。陈宁解释称,与训练阶段追求极致算力不同,推理需要同时满足高吞吐、低延迟、多场景覆盖等矛盾需求。例如长文本生成需要强大计算能力,而对话类应用则对内存带宽和响应速度更敏感。这种差异化需求促使云天励飞提出"算力积木"概念,通过将NPU的专用计算单元、GPGPU的并行处理能力与近存计算技术结合,在单芯片内实现性能与效率的平衡。其最新发布的DeepVerse系列芯片正是这种设计理念的产物:100P针对长上下文预填充场景优化,100D专注解码环节的内存带宽提升,100L则通过3D内存架构解决计算密集型任务的瓶颈。

行业巨头的技术路线调整印证了这种趋势。英伟达在最新架构中集成来自Groq的LPU推理芯片,AMD加速系统级集成方案研发,均表明单纯提升单芯片性能已非竞争焦点。云天励飞的差异化策略在于构建分离式异构集群——通过高速互联技术将不同优化方向的芯片组成超节点,使系统能够根据任务类型动态调配资源。这种设计使同一集群既能处理企业级代码生成,也可支持复杂Agent应用,理论上可将单位Token生成成本降低两个数量级。

Token经济模型的重构成为技术突破后的必然延伸。当前AI应用落地面临的核心矛盾是:推理需求爆发式增长与算力供给结构性不足的矛盾,直接导致Token价格高企且质量波动。陈宁提出"百亿Token一分钱"的长期目标,其本质是通过系统级优化打破算力成本曲线。具体路径包括:芯片级优化降低单次计算能耗,集群架构提升资源利用率,软件栈重构减少无效计算,最终实现每百万Token成本从1元降至1分钱的阶段性突破。

生态协同被视为实现这一目标的关键支撑。云天励飞联合近30家产业链伙伴发起的"1001计划",旨在建立从芯片到应用的协同演进机制。其IFWA软件栈通过抽象化硬件差异,使模型开发者无需关注底层架构细节;而与联想、无问芯穹等企业的合作,则聚焦于真实业务场景中的规模化验证。这种"共同演进"模式试图解决国产AI生态的三大痛点:重复适配造成的资源浪费、长反馈链路导致的技术迭代迟缓,以及缺乏真实场景验证的空中楼阁问题。

当技术讨论回归AI本质,普惠性成为衡量产业成熟度的重要标尺。陈宁强调,AI革命的终极意义不在于强化少数机构的竞争优势,而在于让每个个体都能拥有定制化的"AI团队"。这种愿景驱动着云天励飞的技术路线选择——从芯片架构设计到生态建设,始终围绕"如何让高质量AI能力触手可及"展开。当推理集群能够以接近零边际成本提供智能服务时,AI将真正从实验室走向千行百业,从技术奇点转化为社会生产力。

 
 
更多>同类内容
全站最新
热门内容