AI 基础设施
OpenAI发布自研AI推理芯片Jalapeño:AI基础设施竞赛进入新阶段
OpenAI与Broadcom联合推出首款自研AI推理芯片Jalapeño,标志着AI基础设施竞争从模型层延伸到芯片层。本文解析该芯片的技术特点、行业影响及对云厂商和企业的启示。
事件:OpenAI发布首款自研AI推理芯片
2026年6月24日,OpenAI与半导体巨头Broadcom联合发布了其首款定制AI推理芯片——Jalapeño。这是一款专为大语言模型推理设计的专用集成电路(ASIC),由OpenAI负责底层架构设计,Broadcom负责硅实现和网络硬件,加拿大电子制造服务商Celestica负责板卡和机架系统集成。
OpenAI表示,Jalapeño的性能功耗比将超越当前最先进水平。目前,工程样品已在实验室中以量产目标频率和功耗运行多种机器学习工作负载,包括GPT-5.3、Codex和Spark。该芯片计划于2026年底首批部署。
背景:AI推理成本激增驱动芯片自研
OpenAI此前主要依赖与微软的独家合作,租用由数万块NVIDIA GPU组成的Azure集群进行模型训练和托管。但随着GPT系列模型用户规模扩大,推理成本急剧上升。据业内估算,大型语言模型的推理成本可能占运营支出的70%以上。与此同时,市场竞争加剧——Google凭借自研TPU获得显著的计算成本优势,Anthropic则与亚马逊和Google深度绑定。
OpenAI指出,世界正迈向“以计算为核心的经济”,Jalapeño是其长期全栈基础设施战略的一部分。高运营成本、市场竞争和供应链压力共同推动了2026年中推出自研芯片的决策。
技术解析:专用推理ASIC的优势
- Jalapeño作为专用ASIC,针对大语言模型推理场景进行了极致优化。ASIC通过固定功能逻辑实现特定算法,相比通用GPU能效更高。其主要特点包括:
- 高性能功耗比:通过定制化内核和内存架构,降低单位token生成能耗。
- 低延迟:针对推理推理的批量处理与缓存机制优化,减少响应时间。
- 与OpenAI软件栈协同:深度适配PyTorch、Triton等框架,支持GPT-5.3等模型。
该芯片的推出标志着AI基础设施从“通用GPU并行计算”向“模型专用算力”转变。NVIDIA CEO Jensen Huang在同日股东大会上强调,AI行业分为能源、芯片与系统、基础设施、模型和应用五层,而“AI工厂”的核心任务就是生成token——这解释了为何对计算的需求如此强劲。
企业影响分析:成本与架构的双重变革
对于采用云AI服务的企业而言,OpenAI自研芯片可能带来以下影响:
- 成本影响:如果Jalapeño部署成功,OpenAI有望降低推理服务价格,从而降低企业使用GPT模型的总成本。但初期部署成本高,效果需观察。
- 部署影响:企业无需自行管理硬件,但需关注OpenAI的定价策略变化。
- 运维影响:专用芯片可能减少对NVIDIA GPU的依赖,降低因GPU供应紧张带来的风险。
- 安全与合规:芯片层面可能包含信任根等安全特性,有利于企业数据保护。
然而,企业应警惕芯片版本迭代带来的API变化,以及长期绑定单一供应商的风险。
市场竞争分析:芯片格局面临重塑
- OpenAI入局芯片领域将直接影响:
- NVIDIA:虽仍是训练芯片主导,但推理芯片市场份额可能被蚕食。Jensen Huang也展示了Vera Rubin等新产品,显示其继续押注全栈方案。
- Google:TPU已证明专用芯片的盈利性,Jalapeño将直接与之竞争。
- AWS、Azure、Google Cloud:云厂商若想保持AI服务竞争力,需加速自研芯片或与第三方紧密合作。
- WiMi等新兴AI芯片公司:参考内容提到WiMi在开源大模型算力方面取得规模效应,但面对OpenAI的进入,中小厂商需寻找差异化定位。
总体而言,AI芯片市场将从“一超多强”(NVIDIA超强,多家跟随)转向“多极竞争”,专用推理ASIC将成为重要增长极。
行业趋势观察:AI基础设施走向“造芯”时代
Jalapeño的发布进一步印证了几个长期趋势: 1. AI模型厂商向硬件延伸:OpenAI、Google、Anthropic等纷纷自研芯片,以优化成本并掌控技术路线。 2. ASIC在推理领域崛起:相比GPU,ASIC在特定推理任务中能效比更高,有望改变数据中心采购格局。 3. 计算成为核心经济资源:Jensen Huang所言“计算经济”推动企业重新评估IT投资,从传统服务器转向AI加速器。 4. 开源与专用算力结合:WiMi等企业通过开源模型降低门槛,而专用芯片则提供高效执行层,两者形成互补。
未来五年,AI基础设施的投资重点将从通用计算转向专用推理芯片、液冷散热和可持续能源。
CloudTechDaily Insight
- OpenAI发布Jalapeño芯片的意义远超单个产品发布。它标志着AI行业从“模型竞赛”正式进入“基础设施竞赛”阶段。当模型能力趋于同质化时,计算效率成为商业竞争的决胜因素。对企业CIO和CTO而言,这一趋势意味着:
- AI供应商的选择不再只看模型性能,还要看其底层计算架构的成本和可持续性。
- 企业内部IT架构需考虑与多家AI平台的兼容性,避免被单一芯片生态锁定。
- 数据中心规划应预留专用AI加速器的部署空间,并评估电力与散热需求。
我们预测,未来三年内,至少有三家大型AI模型公司会推出自研推理芯片,而NVIDIA、AMD和Intel将加速推出针对推理的优化产品。整个云服务产业的定价模式也可能从“按GPU实例计费”转向“按token或推理单位计费”。企业应未雨绸缪,将AI基础设施的可扩展性和成本可预测性纳入战略规划。
(CloudTechDaily | 2026年6月25日)
参考链路 · cloudtechdaily
cloudtechdaily 将这段说明放在「云平台 / 关注公有云平台、区域发布、价格变化、伙伴生态以及企业上云迁移策略。 / 数据中心」的站点语境中: 日期、名称和状态变化仍需重新核对。「云平台 / 关注公有云平台、区域发布、价格变化、伙伴生态以及企业上云迁移策略。 / 数据中心」解释了本文的本地编辑角度;读者复用摘要前应先打开来源链接。