OpenAI 自研 AI 晶片，打中 Nvidia 嘅其實係供應同成本

OpenAI 做 Jalapeño，重點喺推理

OpenAI 同 Broadcom 公布 Jalapeño，佢係 OpenAI 第一粒自家 inference processor，官方話工程樣本已經喺 lab 跑 ML workload，第一代目標 2026 年底前部署。講到呢度要先降溫：OpenAI 自己都話詳細效能報告之後先有，TechCrunch 亦寫明晶片仲喺測試階段，所以暫時冇公開 benchmark、冇 API 價格、冇 ChatGPT 幾時全面轉用嘅時間表。方向好清楚，但數字未夠硬。

圖片：OpenAI

點解而家先急住做晶片

大模型以前最搶眼係訓練，一次燒幾多 GPU、幾多電、幾多錢。但產品真係多人日日用之後，推理先變成長期賬單：每次問 ChatGPT、每次 API 回覆、每次 coding agent 拆幾十步做任務，都要 chip、HBM、networking、電力同 server 配合。自家晶片嘅吸引位，就係可以按自己嘅 model serving pattern 調 kernel、memory 搬運同 networking，唔使為一粒通用 GPU 嘅彈性付晒全價。

圖片：Google Cloud

呢件事打中 Nvidia 邊忽

Nvidia 受壓嘅位，係最大客戶開始將最固定、最大量嘅 workload 抽出嚟自己優化。OpenAI 做 Jalapeño，Google 做 TPU，Apple 用 Apple silicon 做 PCC，全部都係同一種盤算：減低單一供應商風險，成本曲線自己揸返實。不過呢個只適合量夠大、工程隊夠深嘅公司。普通 AI startup 冇咁嘅規模，自己 tape-out 一粒 ASIC 只會先燒穿現金。

CUDA 同整套 server 生態仲難搬

要挑戰 Nvidia，唔可以淨係睇一粒晶片快唔快。Blackwell NVL72、NVLink、Spectrum-X、CUDA、cuDNN、TensorRT、container image、cloud marketplace 同 MLOps 工具，全部加埋，先變成大模型 team 平時用到嘅平台。你可以做一粒 ASIC 贏某個推理 workload，但成隊人要搬現有 kernel、debug 工具同 profiling 習慣，成本好高。Nvidia 嘅護城河，仲有 software 同供應鏈節奏。

Apple、Google、SpaceX 係三種唔同路線

Google 最成熟，TPU 已經由自家服務伸到 Google Cloud，TPU7x/Ironwood 官方文檔寫到 9,216-chip pod，同時服務大規模訓練同推理。Apple 嘅 PCC 初版靠 custom Apple silicon server，2026 年又擴到 Google Cloud，用 NVIDIA Confidential Computing、Intel TDX 同 Google Titan，但保留 Apple 自己嘅私隱驗證。SpaceX 要分開睇：TechCrunch 原片放佢入 custom silicon 潮流，另文可核實嘅例子就係 Reflection AI 用 SpaceX Colossus 2 入面嘅 Nvidia GB300 硬件。呢個偏向算力供應同 data center 控制，唔等於已經有一粒可量產嘅 SpaceX AI accelerator。

對用 API 嘅 team 有咩實際影響

如果你係用 OpenAI API、Google Cloud、Azure 或者一堆雲端 AI 工具做產品，呢條線最終可能影響三件事：price per token 有冇得再跌、rate limit 同供應有冇咁緊、長 agent 或者 coding 任務會唔會少啲卡住。成本跌唔代表即刻平畀你，平台可能先補 margin、開新 tier、拉高速度，等競爭壓力夠大先反映喺公開 API 價。喺香港做 SaaS、內部客服 bot 或者開發自動化嘅 team，模型名之外都要睇背後用咩雲同咩 chip，因為供應一緊，排隊同 quota 會早過模型名影響你交貨。

下一步睇量產，唔好急住宣布 Nvidia 玩完

短期睇，Jalapeño 證明 OpenAI 有能力由模型、產品、資料中心伸到 chip，但離開大規模量產、穩定供應同公開效能數字，仲差一段路。最值得睇嘅係三件實事：2026 年底部署係咪準時、技術報告有冇實數、OpenAI API 或者 ChatGPT 價格有冇跟住郁。呢幾樣有答案，到時先知 Jalapeño 係咪真係幫 OpenAI 壓低成本，定只係暫時停留喺路線圖。

參考來源

• TechCrunch — Why everyone from OpenAI to SpaceX is building their own chips (and turning up the heat on Nvidia) — original report
• OpenAI and Broadcom unveil LLM-optimized inference chip | OpenAI — OpenAI 官方發布，確認 Jalapeño、Broadcom、2026 年底部署同早期效能講法。
• OpenAI unveils its first custom chip, built by Broadcom | TechCrunch — 補充 Jalapeño 仲喺測試階段、主攻推理成本，同 Nvidia 依賴背景。
• TPU7x (Ironwood) | Google Cloud Documentation — 核對 Google Ironwood/TPU7x 規格、9,216-chip pod 同訓練/推理定位。
• Expanding Private Cloud Compute | Apple Security Research — 核對 Apple PCC 由 Apple silicon 擴到 Google Cloud、Nvidia Confidential Computing 嘅變化。
• The Engine Behind AI Factories | NVIDIA Blackwell Architecture — 核對 Nvidia Blackwell、NVLink 同 rack-scale 平台講法。
• CUDA Toolkit | NVIDIA Developer — 核對 CUDA Toolkit 涵蓋開發、優化、部署工具，支撐 Nvidia software 生態。
• SpaceX inks compute deal with Reflection AI, an open source AI lab | TechCrunch — 核對 SpaceX 同 Reflection AI 算力供應背景，避免同自研晶片混埋講。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。