OpenAI 自研 Jalapeño 晶片，ChatGPT 同 Codex 嘅成本戰開到硬件層
Broadcom 幫手做晶片，第一代主攻推理工作負載
先講清楚：呢粒先攻推理
OpenAI 6 月 24 日發布第一粒自研推理晶片 Jalapeño，官方叫佢做第一粒「Intelligence Processor」。呢個名有少少 marketing 味，但件事本身值得睇：呢粒晶片係為 LLM inference 而設計，即係 ChatGPT 回你一句、API 吐 token、Codex 跑 coding task 嗰刻要做嘅運算。訓練大模型仍然好大機會繼續靠 NVIDIA GPU，Jalapeño 第一波瞄準嘅係每日大量請求帶來嘅長期成本。
圖片：OpenAI
點解 OpenAI 要自己落手
AI 公司最貴未必淨係訓練一次模型，而係模型上線之後日日俾人用。特別係 coding agent、客服 agent、長 context 分析呢類 workflow，一個任務可以拆成好多步，每一步都係 inference、memory movement、networking 同排程。OpenAI 而家想做嘅，就係由模型、kernel、memory、排程一路夾到晶片，將每個 token 嘅成本同等待時間壓低。講白啲，ChatGPT 同 Codex 愈多人用，OpenAI 就愈有理由自研硬件。
Broadcom 做嘅唔止係「幫手代工」
今次分工幾清楚：OpenAI 負責 accelerator 同系統設計方向，Broadcom 做 silicon implementation、networking 同連接技術，Celestica 做 board、rack 同 system。呢種玩法同 Google TPU、AWS Trainium / Inferentia 嗰條路好近，夠大規模、夠固定 workload，就自己做 ASIC，唔再完全等通用 GPU 幫你兜晒所有場景。NVIDIA 仍然係訓練同高端 GPU 嘅大角色，但 OpenAI 至少想喺推理方面有多啲控制權。
對 developer tools 有咩實際影響
如果 Jalapeño 真係大規模部署，最先有感嘅未必係「ChatGPT 月費即減」，官方都冇講任何減價時間表。實際啲嘅影響會係容量、延遲同服務穩定性：同一筆電費、同一個 data center 空間，可以 serve 多啲 request，或者畀 Codex 呢類 agent 行多幾步而唔好咁易撞到成本牆。香港公司如果用 OpenAI API 做內部工具、客服、文件處理或者 coding workflow，長遠最關心會係 API 延遲、rate limit 同高峰期穩唔穩。
未到可以開香檳
官方話早期測試顯示 performance-per-watt 好過現有 state-of-the-art 選項，不過完整性能數據仲未有，詳細技術報告要等之後幾個月。工程樣本喺 lab 跑到 target frequency 同 power，距離大規模部署仍然有距離。OpenAI 官方寫法係 2026 年底開始初步部署，Axios 引述 OpenAI 指要到 2027 年先會有明顯規模。換句話講，呢刻唔好自行推論 API 價錢會跌幾多，公開數字仲未有。
真正要睇嘅下一步
呢件事值得睇，係 OpenAI 唔只做模型，仲想由產品一路到 data center 都攞返更多主導權。Google 同 Amazon 早就明白，AI 競爭唔止鬥模型名，同時鬥每一粒 token 背後嘅成本、電力、memory 同 networking。Jalapeño 之後要睇三樣嘢：技術報告有冇實數、2026 年底部署規模有幾大、ChatGPT / API / Codex 嘅延遲同供應穩定性有冇可見改善。對長期用 AI 寫 code 同跑 automation 嘅 team，最值得留意就係呢啲實際結果。
參考來源
- TechCrunch — OpenAI unveils its first custom chip, built by Broadcom — original report
- OpenAI and Broadcom unveil LLM-optimized inference chip — OpenAI 官方發布，確認 Jalapeño 定位、初步部署時間表、full-stack 策略同官方性能講法。
- OpenAI and Broadcom Unveil LLM-Optimized Intelligence Processor — Broadcom 官方新聞稿，補充分工、Celestica 角色、工程樣本狀態同 technical report 時間。
- OpenAI and Broadcom announce strategic collaboration to deploy 10 gigawatts of OpenAI-designed AI accelerators — 2025 年合作公告，確認 10GW 自研 accelerator 計劃同 2026 至 2029 年部署框架。
- OpenAI fires up “Jalapeño,” its first homegrown AI chip — 背景報道，補充客戶查詢用途、NVIDIA 仍然係重要 partner、真正放量時間同是否擴至訓練嘅觀察點。
- Tensor Processing Units (TPUs) | Google Cloud — 背景來源，說明大型雲端公司用自研 AI accelerator 處理訓練同推理工作負載已經係成熟方向。
- AWS Trainium — 背景來源，對照 AWS 用自研 AI chips 追求 training / inference economics 同 developer workflow。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
