AI 基础设施
Agentic AI 推理工作负载重塑网络需求,KPMG 指出光纤与边缘计算成关键
KPMG 技术负责人 Phil Wong 表示,随着企业向 Agentic AI 迈进,推理工作负载将驱动对高速、低延迟连接的需求,并改变云与 AI 基础设施间的流量模式。电力短缺正成为 AI 基础设施扩展的最大瓶颈,而新的数据中心选址正在催生对光纤路由和边缘网络的迫切需求。
事件背景
KPMG US 技术负责人 Phil Wong 在近期接受 RCR Wireless News 采访时指出,随着企业从 AI 训练阶段转向推理,尤其是 Agentic AI(自主智能体)的兴起,网络基础设施将迎来新一轮需求重构。Wong 强调,推理工作负载将不再局限于传统的集中式数据中心,而是会向企业云环境与 AI 专用计算基础设施之间流动,甚至进一步延伸到网络边缘。这一变化将对光纤网络、数据中心选址以及企业 IT 架构产生深远影响。
技术解析:Agentic AI 对网络架构的独特要求
Agentic AI 指的是能够自主执行复杂任务、与环境交互并做出决策的 AI 系统。与传统的被动式 AI 不同,Agentic AI 需要实时结合数据、上下文和记忆来运行,这使得其对网络的要求截然不同:
- 高带宽:Agentic AI 在运行时需要频繁调用企业云中的海量业务数据(如 CRM、ERP 系统记录),并在 AI 专用 GPU 集群上进行推理计算。这种跨环境的持续数据交换需要极高的带宽,尤其是当推理请求包含多模态输入(文本、图像、视频)时。
- 低延迟:许多 Agentic AI 场景要求毫秒级响应,例如实时客服、自动化交易或工业控制。如果网络延迟过高,AI 的自主决策将失去时效性。
- 边缘分布:当物理 AI(如机器人、自动驾驶)成熟后,推理工作负载将必须迁移到靠近终端用户或设备的边缘节点,进一步拉大网络覆盖范围。
Wong 解释称:“Agentic AI 与数据、上下文和记忆结合效果最佳。传统云(企业数据和记录系统所在地)与 AI 专用计算之间的流量将显著增加。此外,随着物理 AI 的发展,推理流量会进一步向网络边缘扩散,更靠近最终用户。”
企业影响分析
成本影响(CAPEX / OPEX)
对于企业而言,Agentic AI 的网络需求将直接转化为新的资本支出。
- CAPEX 方面:企业需要投资更高带宽的互联网连接(如专用光纤或 SD-WAN 升级),并可能在边缘站点部署本地推理服务器或 GPU 节点。对于采用混合云策略的企业,跨云数据传输费用将成为一项持续增大的运营成本。
- OPEX 方面:电力成本是当前最大的运营挑战。Wong 指出,电力可用性是限制 AI 基础设施扩展的首要因素,甚至比供应链延迟或劳动力短缺更严重。企业需要评估数据中心选址的电力可靠性,并考虑可再生能源采购以稳定 OPEX。
部署与运维影响
- 数据中心选址:传统数据中心市场(如弗吉尼亚州北弗吉尼亚、硅谷)面临土地和电力紧缺。Wong 表示,开发者正越来越多地将大型 AI 园区设立在枢纽之外,这要求建设新的高带宽光纤路由。对于企业而言,这意味着托管 AI 工作负载的数据中心可能远离其总部或主要业务区域,增加了网络延迟和运维复杂度。
- 运维复杂性:随着推理流量向边缘扩散,企业需要部署分布式网络监控和 AI 运维(AIOps)工具,以管理跨云、核心数据中心和边缘节点的网络健康。
- 安全与合规:跨环境的数据流动增加了数据泄露风险。Agentic AI 可能访问敏感企业数据,企业必须确保传输加密、访问控制和数据主权合规,尤其是在跨境场景中。
值得关注的采用策略
企业应逐步评估 Agentic AI 用例的网络基线。对于低频实时要求的任务,可优先使用现有的云连接;对于高频低延迟需求,则需规划专用光纤或私有网络连接。同时,建议采用按需带宽和云连接服务(如 AWS Direct Connect、Azure ExpressRoute)以灵活应对流量增长。
市场竞争分析
云厂商超大规模提供商
- AWS、Azure、Google Cloud 正在竞相推出 AI 推理实例和边缘计算服务。由于 Agentic AI 流量需要跨传统云和 AI 专用计算,这些巨头将受益于其全球网络和私有光纤骨干(如 Google 的 Andromeda 网络)。但他们的传统数据中心位可能面临电力瓶颈,迫使他们投资新建超大规模园区(如微软在威斯康星州的投资)。
- Oracle Cloud 近年来凭借其分布式云和 OCI 网络在 AI 推理中获得关注,其多云互连能力可能成为差异化点。
网络与光纤运营商
- Equinix、Digital Realty 作为数据中心 REITs,需要提供更多高密度、高电力容量的 colocation 设施,并配套暗光纤或云连接。他们的成功将取决于能否在电力受限区域以外获取土地。
- Lumen Technologies、Zayo、Crown Castle 等光纤运营商面临两难:新建路由通往偏远 AI 园区需要巨大投资,但 ROI 不确定,因为这些路由不经过传统人口中心,难以捕获多种客户。Wong 直言:“光纤运营商面临的挑战是能否从这些不经过传统商业中心的路由中获得良好回报。”
网络设备供应商
- Cisco、Arista、Juniper 的高端交换机和路由产品将受益于数据中心内东西向流量的增长,以及数据中心间 DCI 需求的增加。支持 800G/1.6T 光模块和智能拥塞控制的设备将更受青睐。
- NVIDIA 通过 InfiniBand 和 Spectrum-X 网络平台同样参与竞争,这些专为 AI 集群优化的网络方案正被超大规模采用,但企业级客户可能需要更通用的以太网方案。
边缘计算平台
- Cloudflare、Fastly、AWS Wavelength 等边缘节点提供商将因 Agentic AI 推理下沉而受益,但需要提供 GPU 加速能力。
行业趋势观察
从训练到推理的网络权重转移
当前 AI 基础设施资本支出主要集中在计算(GPU)能力上。Wong 指出,每千兆瓦的新增计算对应着相应的连接需求,且随着工作负载从训练转向推理和 Agentic AI,连接需求将进一步上升。这意味着网络基础设施的投资增速将在未来几年内追上计算投资。
电力瓶颈催生数据中心选址新逻辑
全球范围内,AI 数据中心的电力消耗正引发关注。Uptime Institute 等机构的数据显示,单个超大规模 AI 集群的电力需求可达数百兆瓦,而电网扩容周期往往长达 5-10 年。这迫使开发商寻找非传统地区,如美国中西部或北欧,但同时也带来新的光纤铺设需求。
Token 消耗与 AI 效率的再平衡
Wong 预测,虽然 AI 和 Agentic AI 的采用将驱动计算和存储需求持续大幅增长,但随着 Token 用量和成本上升,企业和提供商将开始更主动地管理消耗。模型优化、推理调度和 Token 压缩技术将成为重要投资方向。这表明网络需求不会无限制膨胀,而是与效率提升并行发展。
主权云与数据本地化
Agentic AI 涉及敏感企业数据,许多国家要求数据留在境内。这推动主权云和区域数据中心的发展,进一步增加网络分片的复杂性。
CloudTechDaily Insight
Agentic AI 并非仅仅是 AI 算法的一次升级,而是从根本上改变了云、网络与计算之间的交互模式。本次 KPMG 的分析揭示了几个关键信号:第一,网络不再是计算之后的“配套”,而是与电力并列成为 AI 基础设施的三大瓶颈之一。企业 IT 战略必须将网络规划提前,与 GPU 采购和云选择同步。第二,数据中心选址的分散化将重塑光纤网络地图,运营商面临投资回报的不确定性,而企业则需要承受更长的部署周期和更高的连接成本。第三,Agentic AI 的实时性要求迫使企业重新审视其 IT 架构的边缘能力——不是所有推理都要上云,也不是所有数据都要集中。未来,企业架构将演变为“核心训练+边缘推理+多云数据访问”的三层模型,这对 CTO 和 CIO 的战略视野提出了空前挑战。CloudTechDaily 认为,2026 年将成为 AI 网络基础设施投资的分水岭:那些提前布局高带宽、低延迟连接的企业和提供商,将在接下来的 Agentic AI 竞赛中获得结构性优势。
参考链路 · cloudtechdaily
cloudtechdaily 将这段说明放在「云平台 / 关注公有云平台、区域发布、价格变化、伙伴生态以及企业上云迁移策略。 / 数据中心」的站点语境中: 日期、名称和状态变化仍需重新核对。「云平台 / 关注公有云平台、区域发布、价格变化、伙伴生态以及企业上云迁移策略。 / 数据中心」解释了本文的本地编辑角度;读者复用摘要前应先打开来源链接。