OpenAI 自研 Jalapeño AI chip，重點係推理成本同供應
同 Broadcom 做自家推理晶片，ChatGPT 同 API 長遠或快啲穩啲
OpenAI 終於有自己粒推理 chip
OpenAI 喺 6 月 24 日同 Broadcom 公布 Jalapeño，官方叫佢做 OpenAI 第一粒 Intelligence Processor。Android Authority 嘅報道重點有三個：同 Broadcom 合作、目標 2026 年底部署、主攻 LLM inference，即係 ChatGPT、API、Codex 收到 request 之後計答案嗰段工作。呢粒 chip 唔係消費級產品，短期亦冇講到會負責訓練下一代大模型；OpenAI 想自己掌握嘅，其實係 server 背後最燒錢、最常用嗰層運算。
圖片：OpenAI
點解焦點放喺 inference
AI 公司成日講 model 有幾勁，但真金白銀每日燒喺 inference：每個 prompt、每次圖片分析、每段 agent 任務，都要喺數據中心拎電、拎 memory bandwidth、拎 networking 吞吐。Agent 產品一做多步任務，token 數同等待時間就好易飆上去，所以 OpenAI 今次成篇官方稿都圍住 performance-per-watt 講。每瓦可以交到多啲有效 token，意思唔淨係慳電費，仲係同一個機房、同一份供電入面，可以 serve 多啲人，或者喺高峰時少啲塞車。
Broadcom 嘅角色唔細
OpenAI 係設計方，Broadcom 負責晶片工程同連接技術，官方仲提到 Celestica 做 board、rack 同系統整合。呢個分工好現實：OpenAI 熟悉自己嘅 model、kernel 同服務運作方式，Broadcom 就熟悉 ASIC、Tomahawk 連接技術同大規模出貨。Jalapeño 官方話由初始設計到交付製造用晶片設計（tape-out）只用 9 個月，部分流程用咗 OpenAI 自己嘅模型幫手；呢個講法幾吸睛，但都要記住 tape-out 只係進入製造關口，唔等於大規模量產已經穩陣。
官方效能講法要打個折
OpenAI 同 Broadcom 話工程樣本已經喺實驗室以目標頻率同功耗跑機器學習工作負載，甚至點名包括 GPT-5.3-Codex-Spark；同時又話早期測試每瓦效能好過而家頂級方案。不過官方同一段都講明最終效能仲量緊，技術報告要之後幾個月先有。換句話講，呢個消息值得睇，但 benchmark、延遲、每 token 成本、穩定性，暫時都未有第三方數字。
Nvidia 會唔會即刻受壓
Jalapeño 出咗，唔代表 Nvidia 個優勢即刻鬆動。訓練新模型、通用 GPU cluster、生態工具、開發者熟悉度，Nvidia 仲有好厚優勢。但 OpenAI 想減嘅，係對單一供應同價格節奏嘅依賴。去到 ChatGPT 同 API 呢種長期開住嘅服務，推理成本每跌少少，乘返每日海量 request，就會變成好實在嘅毛利、排隊時間同容量差距。自研 ASIC 做得成，Nvidia 仍然食大份，不過 OpenAI 講價同排產嘅底氣會大啲。
對用 ChatGPT / API 嘅人有咩關係
短期睇，一般公司同開發者唔會因為 Jalapeño 即日見到 API 價錢改、ChatGPT 回覆突然快一截。要睇嘅係 2026 年底部署後，OpenAI 新增容量會點放入產品：係畀 Codex 類 agent 多做幾步、畀 API 高峰期少啲 rate limit，定係用成本空間去推平價 plan。Broadcom 同 OpenAI 去年 10 月講過 10GW 自研 accelerator 合作，目標 2026 下半年開始、2029 年底完成；Jalapeño 似係呢條路線第一次拎出嚟見人。
所以今次唔好當成一場「OpenAI 打低 Nvidia」嘅即時戲碼。OpenAI 正喺由模型公司變成自己管埋 compute stack 嘅平台公司，而 Jalapeño 只係第一步。之後要睇技術報告同實際部署數字，先知佢喺每瓦效能、延遲同供應上，究竟幫 ChatGPT、API、Codex 改到幾多。
參考來源
- Android Authority — OpenAI’s new ‘Jalapeno’ chip is the company’s first step towards the future — original report
- OpenAI: OpenAI and Broadcom unveil LLM-optimized inference chip — 官方公布，用嚟核實 Intelligence Processor 定位、工程樣本狀態、performance-per-watt 同 technical report 未出嘅資訊。
- Broadcom: OpenAI and Broadcom Unveil LLM-Optimized Intelligence Processor — Broadcom 官方 investor release，補充 Broadcom、Celestica、Tomahawk networking 同 gigawatt-scale 部署講法。
- OpenAI: OpenAI and Broadcom announce strategic collaboration to deploy 10 gigawatts of OpenAI-designed AI accelerators — 補返 2025 年 10 月 10GW 合作背景、2026 下半年開始同 2029 年底完成部署目標。
- The Verge: OpenAI reveals its first AI processor: Jalapeño — 補充 inference 同 training 分別、自研 ASIC 脈絡，以及 Nvidia 依賴嘅行業背景。
- WSJ: OpenAI, Broadcom Develop Custom Chip for AI Inference — 補充 Jalapeño 目標係提升效率、降低大規模 AI 服務成本嘅產業脈絡。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
