Anthropic 組隊自研 AI 晶片：Claude 算力成本點解逼到佢落場

Anthropic 終於確認，正組建一支內部晶片團隊，為 Claude 設計專用 AI 晶片。TechNews 科技新報引述 Business Insider 報道，公司想由軟件、模型到硬件一併度身設計，等 Claude 大規模運作時跑得快啲，效率亦高啲。講到呢度都只係方向：Anthropic 未公開晶片規格、用途、合作夥伴、量產時間，連首款產品會用嚟訓練定推理都未講。

Claude 愈多人用，推理成本就愈難避

訓練新模型要一次過食大量算力，費用高得驚人；Claude 每答一次問題、Claude Code 每次跑長任務，都會持續用到晶片運算時間、RAM 頻寬、網上連線同電力。當 API 調用量同長時間運行嘅 agent 工作愈來愈多，推理就會變成一筆日日累積嘅開支。買通用 GPU 夠靈活，不過亦要為 Claude 用唔着嘅能力付錢，供應、雲端容量同價格仲掌握喺其他公司手上。

自研晶片嘅吸引力，就係可以按自家模型最常用嘅運算、資料搬動方式同服務架構執到更貼身。每個 token 慳得唔多，乘返龐大用量就可能係可觀差距。另一方面，握有自己嘅硬件設計，Anthropic 同雲端及晶片供應商傾容量、價格時亦多一張牌。控制成本、確保供應同調整系統嘅主導權，三樣嘢其實綁埋一齊。

圖片：Anthropic

自研計劃唔會即時取代現有晶片

Anthropic 而家已經刻意分散算力來源。公司官方資料顯示，Claude 同時用 NVIDIA GPU、Google TPU 同 AWS Trainium；AWS 仍然係主要雲端及訓練夥伴，Anthropic 工程師亦有替 Trainium 寫底層 kernel。Google 方面，Anthropic 早前公布會擴大 TPU 用量，計劃取得多達一百萬枚 TPU 嘅運算資源。換句話講，團隊對專用加速器早有實際經驗，只係晶片設計權一直喺合作夥伴手上。

呢個背景亦解釋到點解「自研」唔等於全部自己包辦。晶片架構、實體設計、先進封裝、代工、server 同機架整合，每一環都可以交畀唔同夥伴。The Information 早前話 Anthropic 曾同 Samsung 接觸，TechCrunch 亦確認雙方只去到商討階段；當時連晶片用途同系統位置都未定。Samsung 會唔會參與、負責設計定代工，而家全部都未確認。

OpenAI 同 Meta 已經行快幾步

Anthropic 選擇而家組隊，亦同競爭節奏有關。OpenAI 已同 Broadcom 公布 Jalapeño 推理加速器，官方話晶片係按模型、kernel、記憶體流向同服務模式共同設計。Meta 嘅 MTIA 就走推理優先路線，先處理推薦、廣告同生成式 AI 呢類長期高用量工作。兩間公司都冇放棄外購晶片，反映大型 AI 平台普遍會保留多種硬件，因應訓練、推理同供應情況分配工作。

推理通常較適合成為專用晶片嘅起點，原因係工作模式較固定、請求量又大，設計一旦對準常用負載，就較容易攤分開發成本。訓練前沿模型就成日轉架構、精度同通訊方法，通用 GPU 暫時仍然有靈活優勢。不過呢個只係行業常見做法，Anthropic 冇確認首款晶片會主攻推理，仲冇公布任何效能或成本目標。

Claude API 同 Claude Code 暫時冇改動

長遠嚟講，如果 Anthropic 真係做到更低嘅每 token 成本同更穩定嘅容量，Claude API 高峰期嘅供應、Claude Code 長任務嘅排隊時間，以至價格調整空間都有機會受惠。不過中間仲隔住設計、驗證、製造、部署同軟件適配，任何一關延誤都可以拖慢幾年。成本慳到幾多，亦未必會直接反映喺用戶收費。

所以現階段唔使期待 Claude 突然加速或者減價。呢次確認最實在嘅訊號，係 Anthropic 唔再只靠租用其他公司嘅算力，亦開始令 Claude 嘅模型開發同硬件設計配合得更緊密。下一步要睇佢請到咩團隊、揀邊類工作負載，同埋最終搵邊間晶片公司幫手完成設計同量產。

參考來源

• TechNews 科技新報 — Anthropic 籌組團隊，首度證實開發自研晶片 — original report
• It’s official: Anthropic is building an in-house chip team for Claude — 首度引述 Anthropic 發言人確認組建晶片團隊及軟硬件共同設計方向。
• Anthropic is discussing a new custom chip with Samsung — 交代 Samsung 接觸仍屬早期商討，晶片用途、規格同合作方式未定。
• Powering the next generation of AI development with AWS — Anthropic 官方資料，確認 AWS 係主要雲端及訓練夥伴，雙方有共同調校 Trainium 軟硬件。
• Expanding our use of Google Cloud TPUs and Services — Anthropic 官方交代多晶片策略、Google TPU 擴充計劃同現有算力來源。
• OpenAI and Broadcom Unveil LLM-Optimized Intelligence Processor — OpenAI 與 Broadcom 官方公布 Jalapeño，作為模型公司共同設計推理晶片嘅比較背景。
• Expanding Meta’s Custom Silicon to Power Our AI Workloads — Meta 官方解釋 MTIA 嘅推理優先策略，以及自研與外購晶片並行嘅做法。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。