TAG

#雲端運算

23 篇文章

TechLab 所有關於「雲端運算」嘅文章、評測同教學,由最新排起。

Anthropic 請來 Google TPU 老將,自研晶片先由組隊同硬件協同開始Tech News

Anthropic 請來 Google TPU 老將,自研晶片先由組隊同硬件協同開始

Anthropic 請來前 Google TPU 負責人 Amir Salek,進一步建立自行設計 AI 晶片嘅能力。不過,公司仍重注 Google TPU、AWS Trainium 同 NVIDIA GPU;呢步棋更似增加運算選擇,同時累積模型、軟件同硬件一齊調校嘅能力。

8 小時前
Google 搵 Marvell 擴闊 TPU 供應鏈,1,200 億美元其實係業績上限Tech News

Google 搵 Marvell 擴闊 TPU 供應鏈,1,200 億美元其實係業績上限

Google 同 Marvell 簽咗多年客製晶片協議,範圍由 AI 推論加速器去到網絡、儲存同 RAM 介面。不過 1,200 億美元只係認股權證全部歸屬所對應嘅累計收入上限,唔代表 Google 已經落實同額訂單。

2 天前
AWS AgentCore 加入 Runtime Instances:AI agent 跑足幾日有代價Tech News

AWS AgentCore 加入 Runtime Instances:AI agent 跑足幾日有代價

AgentCore Runtime Instances 將 AI agent 搬到 AWS 代管嘅 EC2,工作階段上限由 8 小時拉長至 14 日,又支援 GPU、多 agent 共用檔案同停止後恢復。不過長達 14 日只係生命週期上限,開發者仍然要自己處理 checkpoint、重試、成本同資源爭用。

12 天前
Anthropic 組建 Claude 自研晶片團隊:速度同成本有冇改善,暫時未有時間表Tech News

Anthropic 組建 Claude 自研晶片團隊:速度同成本有冇改善,暫時未有時間表

Anthropic 已確認組建 custom silicon 團隊,希望由模型到硬件一齊設計,令 Claude 跑得快啲同慳電啲。不過項目仲喺招聘階段,晶片用途、規格、代工夥伴同時間表全部未定,亦冇跡象顯示佢會放棄 Nvidia、AWS Trainium 或 Google TPU。

15 天前
Anthropic 組自研晶片團隊:Claude 會快啲平啲?而家仲言之尚早Tech News

Anthropic 組自研晶片團隊:Claude 會快啲平啲?而家仲言之尚早

Anthropic 首次確認正組建自研晶片團隊,希望按 Claude 工作負載設計硬件。不過計劃仲喺早期,訓練定推理、幾時流片、搵邊間廠合作全部未公布。對 Claude、Claude Code 同 API 用家嚟講,短期內未有加速或減價承諾。

16 天前
celld 開源自架 Durable Objects,兼容同維運要自己處理Tech News

celld 開源自架 Durable Objects,兼容同維運要自己處理

Deno 開源 celld,容許開發團隊喺自有 server 運行部分 Workers 同 Durable Objects app。架構用獨立 SQLite、S3-compatible object storage 同可替換節點,不過兼容範圍、安全防護、故障處理同成本控制,全數要由營運團隊接手。

17 天前
Cloudflare Computer 將 AI 代理檔案同運算拆開,簡單工作先交俾 WorkerTech News

Cloudflare Computer 將 AI 代理檔案同運算拆開,簡單工作先交俾 Worker

Cloudflare 推出開源 Computer preview,將 AI 代理嘅持久檔案放喺 Durable Object,再按工作揀 Worker isolate 或 Linux container。混合架構可以減少閒置資源,不過同步效能、分層收費同路由判斷都係開發者要計清楚嘅代價。

19 天前
AWS 18 季最快增長背後:AI 算力未夠用,Amazon 加碼 2,200 億美元Tech News

AWS 18 季最快增長背後:AI 算力未夠用,Amazon 加碼 2,200 億美元

AWS 第二季收入急升 37%,增速由上季明顯加快。AI 服務同自家晶片已經開始帶來可觀收入,但需求仍然跑贏供應。Amazon 再加資本開支,短期重點會係搶 RAM、晶片同數據中心容量,開發者未必即刻等到減價。

22 天前
Nscale 收購 Anyscale:開發者要睇清產品整合、定價同雲端中立性Tech News

Nscale 收購 Anyscale:開發者要睇清產品整合、定價同雲端中立性

Nscale 同 Anyscale 簽咗收購協議,打算將 GPU、數據中心同 Ray 商業平台放入同一套服務。垂直整合有機會改善效能同供應,不過用戶更值得追實雲端選擇、綑綁定價、產品 roadmap 同 Ray 開源治理會點變。

23 天前
黃仁勳華府力撐開放權重:模型有得下載,唔代表真開源或零成本Tech News

黃仁勳華府力撐開放權重:模型有得下載,唔代表真開源或零成本

黃仁勳去華府力撐開放權重模型,背後牽涉中國 AI、企業自建系統同 NVIDIA 嘅 GPU 生意。開放權重可以減少供應商綁定,但同真正開源仍有距離,免費下載亦唔等於部署成本係零。

24 天前
LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑3C 產品

LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑

LM Studio Bionic 加入 Kimi K3,主攻大型 codebase、長文件同多步 agent 任務。不過 K3 實際由美國 Secure Cloud 運算,一般 Mac 或 Windows PC 幾乎冇條件本機跑完整模型,私隱、成本同硬件要求要分開計。

26 天前
AMD Helios 規格正式落實:72 張 MI455X 點樣挑戰 Nvidia AI 機櫃Tech News

AMD Helios 規格正式落實:72 張 MI455X 點樣挑戰 Nvidia AI 機櫃

AMD 公開 Helios 完整規格,將 72 張 MI455X、EPYC Venice、Pensando 網絡同 ROCm 塞入一套機櫃級 AI 系統,2026 下半年開始出貨。紙面數字夠進取,但成本優勢仲要等客戶部署同獨立測試證明。

30 天前
美國數據中心2035年或食兩成電,AI 算力擴張開始卡喺供電3C 產品

美國數據中心2035年或食兩成電,AI 算力擴張開始卡喺供電

BloombergNEF 估計,美國數據中心到 2035 年或要 194GW 電力容量,佔全國用電約兩成。個預測有幾進取仲可以拗,不過 AI 公司面對嘅限制,已經由買 GPU 擴展到接電、變壓器同電網工程。雲端 AI 嘅部署速度同成本都會受影響。

30 天前
Google 季賺逾千億美元,點解自由現金流反而跌穿零?AI 基建條數點計3C 產品

Google 季賺逾千億美元,點解自由現金流反而跌穿零?AI 基建條數點計

Alphabet 第二季收入同盈利齊創高位,自由現金流卻錄得負 58.55 億美元。拆開盤數就見到,賺錢能力依然強,現金主要俾 AI server、數據中心同網絡設備食咗;巨額投資亦可能影響 Gemini、Cloud 同 API 日後點樣分級同收費。

1 個月前
NYT 追打 Microsoft 算力供應:AI 版權案開始問基建有冇責任Tech News

NYT 追打 Microsoft 算力供應:AI 版權案開始問基建有冇責任

NYT 想修改起訴書,話 Microsoft 唔止供 Azure 算力,仲用專門 supercomputer 幫 OpenAI 複製內容訓練模型。呢件事未判,但已經令 AI 版權戰由「模型有冇用料」推到「基建供應商有冇誘導侵權」。

1 個月前
Google 傳研發 Frozen v2:將 Gemini 架構刻入晶片,慳電背後要押中模型方向3C 產品

Google 傳研發 Frozen v2:將 Gemini 架構刻入晶片,慳電背後要押中模型方向

Google 據報研究專為 Gemini 推理而設嘅 Frozen v2,將部分模型架構同運算路徑固定喺晶片,減少資料搬運同即場判斷。效率預測相當進取,不過消息未獲正式確認,晶片亦要承受架構鎖定同壽命縮短嘅風險。

1 個月前
Kimi K3 寫前端贏 Claude,平價背後仍然食晶片同電力Tech News

Kimi K3 寫前端贏 Claude,平價背後仍然食晶片同電力

月之暗面推出 Kimi K3,前端編程排名一出即登頂,API token 單價亦低過頂級 Claude。不過獨立評測顯示,佢嘅成本優勢視乎任務同 token 用量,完整權重亦未正式放出。模型競爭愈激烈,未必會令晶片、電力同雲端需求縮水。

1 個月前
馬斯克買起流動發電公司:AI 擴張開始由搶晶片鬥到搶電力Tech News

馬斯克買起流動發電公司:AI 擴張開始由搶晶片鬥到搶電力

FTC 文件確認馬斯克係 APR Energy 交易嘅收購方,但冇公開作價,亦冇寫明資產會交畀 xAI。之所以令人聯想到 AI,關鍵係 APR 手上有逾 1.1GW 流動發電能力,可以幫大型數據中心避開漫長電網接駁時間。不過,速度背後亦有燃料成本、污染同審批風險。

1 個月前
NotebookLM 改名 Gemini Notebook,新增寫 code 分析資料功能Tech News

NotebookLM 改名 Gemini Notebook,新增寫 code 分析資料功能

Google 將 NotebookLM 改名做 Gemini Notebook,同時加入隔離雲端容器,識得寫同執行 code,直接分析 notebook 入面嘅資料。改名冇令獨立產品消失,但 Ultra、Pro、公司帳戶同香港帳戶嘅推出時間並唔一致。

1 個月前
Apple 傳物色 AI 晶片公司:自家 server 進度受阻,短期仍靠 Nvidia 擴充算力Tech News

Apple 傳物色 AI 晶片公司:自家 server 進度受阻,短期仍靠 Nvidia 擴充算力

Apple 傳出接觸多間 AI 晶片初創,想加快自家 server processor 進度。不過 Apple 今年先正式用 Google Cloud 同 Nvidia GPU 擴充 Private Cloud Compute,反映短期仍要靠外援;收購即使成事,都唔會即刻換走現有基建。

1 個月前
M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口Tech News

M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口

Apple 據報接觸晶片初創同銀行,研究收購 AI 晶片公司。件事反映 M2 Ultra server 應付唔到新 Siri 用嘅大型 Gemini 模型,而自家下一代 server 晶片進度又有變數,Apple 想守住 Private Cloud Compute 私隱架構,就要先補好數據中心算力。

1 個月前
Anthropic 傳同 Samsung 傾自研 AI 晶片,Claude 成本壓力開始浮面Tech News

Anthropic 傳同 Samsung 傾自研 AI 晶片,Claude 成本壓力開始浮面

據報 Anthropic 正同 Samsung 傾 custom AI chip,但用途、規格同 server 設計都未定。更值得睇嘅係 Claude 背後嘅推理成本、供應鏈同 Nvidia 依賴,AI 公司而家要自己落手處理。

2 個月前
QuEra 2029 千粒糾錯 qubit 路線圖:量子雲端唔好當產品睇Tech News

QuEra 2029 千粒糾錯 qubit 路線圖:量子雲端唔好當產品睇

QuEra 話 2028 年會經 Amazon Braket 推 Libra,2028/29 年再衝到 1,000+ 粒糾錯 logical qubit。數字好猛,但而家要睇嘅係 error correction、decoder 同雲端 access 到時交唔交到貨。

2 個月前