当行业还在为GPU的争夺而激烈角逐时，AI基础设施建设的风向已悄然转变。如今，如何将数以万计的GPU、交换机、存储系统以及软件组件高效整合，构建成一个协同运作的整体，成为摆在行业面前的关键课题。这一趋势，正将传统网络推向AI基础设施建设的核心位置。
英伟达与思科的网络业务高管在接受采访时，深入阐述了“思科安全AI工厂（Cisco Secure AI Factory）”扩展版背后的架构逻辑与经济模型。双方携手生态伙伴，正推动该系统向液冷机架级规模迈进，同时深度融合英伟达的加速计算能力、Spectrum-X架构与思科的网络、软件、管理及企业运营经验，为AI基础设施建设带来新的思路。
此次合作意义非凡，它标志着AI基础设施正从GPU采购周期迈向AI生产周期。英伟达在这一进程中，正逐步主导整个AI基础设施工厂的架构走向，引领行业进入新的发展阶段。
在AI基础设施的发展进程中，度量体系发生了显著变化。第一波浪潮以GPU数量为衡量标准，而如今，新兴的生产时代需要全新的度量方式。首个Token的生成时间、每秒Token产出量、每瓦特Token产出量、每投入美元的Token产出量、系统可用性以及持续Token生产能力等指标，成为衡量AI基础设施效能的关键因素。
AI工厂并非简单的数据中心堆砌加速器，而是一个由众多组件协同运作的大型分布式计算机。这导致网络角色发生根本性转变，过去网络仅用于连接计算机，如今在AI工厂中，网络越来越多地参与到计算机本身的构建中。参与分布式训练、后训练和推理的数千块GPU，需要与存储、模型、智能体、工具以及企业数据保持确定性通信，网络因此成为AI生产架构不可或缺的一部分。
英伟达的Gilad Shainer指出，此次合作最具战略价值之处在于，思科将英伟达针对AI优化的网络技术引入企业熟悉的运营环境。Spectrum-X进入思科系统，意味着有了一套AI优化的网络架构，并配套了企业界已运行的运营模式。
英伟达专为AI工作负载打造了Spectrum-X以太网架构，而思科拥有庞大的企业网络覆盖、操作系统、管理基础设施以及连接企业应用与数据的丰富经验。两者的结合，有望在传统企业网络与新兴AI工厂之间搭建桥梁，尤其在AI从训练转向推理阶段，这一优势更为凸显。企业AI需要访问存储在多个系统中的专有数据，智能不能孤立在GPU集群内部，必须与企业打通。思科的战略机遇不仅在于销售网络设备，更在于成为连接英伟达加速计算架构与企业基础设施及数据的重要纽带，而英伟达也可借此将AI工厂架构延伸至主流企业计算领域。
英伟达的Marc Hamilton从另一个角度阐述了AI工厂的构建理念。他认为，AI工厂无法通过将计算、网络和存储作为独立采购决策来实现优化，而应作为一个“五层蛋糕”来构建，涵盖物理数据中心、芯片、AI基础设施、模型和应用程序。
传统企业模式中，服务器、网络、存储团队各自采购设备，这种逻辑不适用于AI工厂。系统必须端到端协同运作，例如跨数千块GPU运行的工作负载可能需要穿越多个网络域通信。英伟达的集合通信库软件可以协调不同网络中的GPU通信，以及访问前端网络。单个应用程序不关心这些边界，只关心系统是否正常运行，因此基础设施需像巨型分布式计算机一样设计、测试、验证和运营。英伟达的云合作伙伴参考架构以及思科的验证设计与服务，旨在让这一架构具备可复制性，避免客户定制AI超级计算机的复杂工程。
在物理规模方面，思科也取得重大进展。思科的Will Eatherton表示，公司正通过与超微（Supermicro）合作，将解决方案从网络扩展至完整的机架级计算。他们推出的完整机架级方案采用液冷技术，从Blackwell起步，向Vera Rubin演进，覆盖HGX和MGX形态。
机架级架构标志着思维转变，从以服务器为基本构建单元，转向将整个机架乃至机架集群视为计算系统。思科提供网络、软件、支持、验证基础设施和管理能力，英伟达提供底层加速计算架构，目标是将定制化超算工程转变为可复制工业基础设施。
理解这一架构走向，有一个重要框架。纵向扩展在机架内部打造强大计算域；横向扩展将机架和GPU连接成大规模AI超级计算机；跨域扩展则将AI工厂与存储、企业网络、其他数据中心、新型云服务商、智能体、应用程序以及专有数据相连接，释放企业AI的真正价值。思科Silicon One、英伟达Spectrum-X、NX-OS与SONiC、Nexus One以及思科云控制等，共同构成从AI后端延伸至企业前端的架构拼图，目标是让复杂分布式AI系统在运营层面表现为统一基础设施平台。
在AI基础设施竞赛中，部署之后的运营同样关键。跑出第一个Token只是开始，AI工厂是有生命的系统。模型更新、软件迭代、固件升级、工作负载变化、集群扩展、故障发生以及性能持续优化等，在监控、可用性、升级和生命周期管理层面带来全新挑战。
思科将数十年企业网络运营经验带入这一领域，英伟达提供围绕加速计算系统的软件与参考架构。首个Token的生成时间决定部署竞赛胜负，而持续的Token生产能力决定投资回报。一座价值十亿美元的AI工厂若长期低于潜在利用率运行，将造成巨量产能闲置。因此，网络、可观测性与运营与AI经济学直接相关。
对英伟达而言，此次合作意义重大。英伟达在生成式AI第一阶段通过将加速计算确立为现代AI的基础取得成功，而下一阶段机遇更为宏大。随着AI基础设施演进为工厂形态，英伟达有望主导整个生产系统的架构，从加速计算与NVLink，到Spectrum-X、软件、参考架构、模型及其周边生态。思科为这一架构带来通往已安装企业基础设施的桥梁，下一个竞争命题或许不再是谁拥有最快的GPU，而是谁能定义将数百万块GPU转化为可靠、持续运转的AI生产系统的架构。思科与英伟达的合作表明，网络在AI工厂时代正成为计算机本身的一部分，将成为AI基础设施建设下一阶段最具决定性价值的层次之一。
