TAG

#雲端運算

23 篇文章

TechLab 所有關於「雲端運算」嘅文章、評測同教學,由最新排起。

Anthropic 請來 Google TPU 老將,自研晶片先由組隊同硬件協同開始Tech News

Anthropic 請來 Google TPU 老將,自研晶片先由組隊同硬件協同開始

Anthropic 請來前 Google TPU 負責人 Amir Salek,進一步建立自行設計 AI 晶片嘅能力。不過,公司仍重注 Google TPU、AWS Trainium 同 NVIDIA GPU;呢步棋更似增加運算選擇,同時累積模型、軟件同硬件一齊調校嘅能力。

2 個月前
Google 搵 Marvell 擴闊 TPU 供應鏈,1,200 億美元其實係業績上限Tech News

Google 搵 Marvell 擴闊 TPU 供應鏈,1,200 億美元其實係業績上限

Google 同 Marvell 簽咗多年客製晶片協議,範圍由 AI 推論加速器去到網絡、儲存同 RAM 介面。不過 1,200 億美元只係認股權證全部歸屬所對應嘅累計收入上限,唔代表 Google 已經落實同額訂單。

2 個月前
AWS AgentCore 加入 Runtime Instances:AI agent 跑足幾日有代價Tech News

AWS AgentCore 加入 Runtime Instances:AI agent 跑足幾日有代價

AgentCore Runtime Instances 將 AI agent 搬到 AWS 代管嘅 EC2,工作階段上限由 8 小時拉長至 14 日,又支援 GPU、多 agent 共用檔案同停止後恢復。不過長達 14 日只係生命週期上限,開發者仍然要自己處理 checkpoint、重試、成本同資源爭用。

2 個月前
Anthropic 組建 Claude 自研晶片團隊:速度同成本有冇改善,暫時未有時間表Tech News

Anthropic 組建 Claude 自研晶片團隊:速度同成本有冇改善,暫時未有時間表

Anthropic 已確認組建 custom silicon 團隊,希望由模型到硬件一齊設計,令 Claude 跑得快啲同慳電啲。不過項目仲喺招聘階段,晶片用途、規格、代工夥伴同時間表全部未定,亦冇跡象顯示佢會放棄 Nvidia、AWS Trainium 或 Google TPU。

2 個月前
Anthropic 組自研晶片團隊:Claude 會快啲平啲?而家仲言之尚早Tech News

Anthropic 組自研晶片團隊:Claude 會快啲平啲?而家仲言之尚早

Anthropic 首次確認正組建自研晶片團隊,希望按 Claude 工作負載設計硬件。不過計劃仲喺早期,訓練定推理、幾時流片、搵邊間廠合作全部未公布。對 Claude、Claude Code 同 API 用家嚟講,短期內未有加速或減價承諾。

2 個月前
celld 開源自架 Durable Objects,兼容同維運要自己處理Tech News

celld 開源自架 Durable Objects,兼容同維運要自己處理

Deno 開源 celld,容許開發團隊喺自有 server 運行部分 Workers 同 Durable Objects app。架構用獨立 SQLite、S3-compatible object storage 同可替換節點,不過兼容範圍、安全防護、故障處理同成本控制,全數要由營運團隊接手。

2 個月前
Cloudflare Computer 將 AI 代理檔案同運算拆開,簡單工作先交俾 WorkerTech News

Cloudflare Computer 將 AI 代理檔案同運算拆開,簡單工作先交俾 Worker

Cloudflare 推出開源 Computer preview,將 AI 代理嘅持久檔案放喺 Durable Object,再按工作揀 Worker isolate 或 Linux container。混合架構可以減少閒置資源,不過同步效能、分層收費同路由判斷都係開發者要計清楚嘅代價。

2 個月前
AWS 18 季最快增長背後:AI 算力未夠用,Amazon 加碼 2,200 億美元Tech News

AWS 18 季最快增長背後:AI 算力未夠用,Amazon 加碼 2,200 億美元

AWS 第二季收入急升 37%,增速由上季明顯加快。AI 服務同自家晶片已經開始帶來可觀收入,但需求仍然跑贏供應。Amazon 再加資本開支,短期重點會係搶 RAM、晶片同數據中心容量,開發者未必即刻等到減價。

2 個月前
Nscale 收購 Anyscale:開發者要睇清產品整合、定價同雲端中立性Tech News

Nscale 收購 Anyscale:開發者要睇清產品整合、定價同雲端中立性

Nscale 同 Anyscale 簽咗收購協議,打算將 GPU、數據中心同 Ray 商業平台放入同一套服務。垂直整合有機會改善效能同供應,不過用戶更值得追實雲端選擇、綑綁定價、產品 roadmap 同 Ray 開源治理會點變。

2 個月前
黃仁勳華府力撐開放權重:模型有得下載,唔代表真開源或零成本Tech News

黃仁勳華府力撐開放權重:模型有得下載,唔代表真開源或零成本

黃仁勳去華府力撐開放權重模型,背後牽涉中國 AI、企業自建系統同 NVIDIA 嘅 GPU 生意。開放權重可以減少供應商綁定,但同真正開源仍有距離,免費下載亦唔等於部署成本係零。

2 個月前
LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑3C 產品

LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑

LM Studio Bionic 加入 Kimi K3,主攻大型 codebase、長文件同多步 agent 任務。不過 K3 實際由美國 Secure Cloud 運算,一般 Mac 或 Windows PC 幾乎冇條件本機跑完整模型,私隱、成本同硬件要求要分開計。

2 個月前
AMD Helios 規格正式落實:72 張 MI455X 點樣挑戰 Nvidia AI 機櫃Tech News

AMD Helios 規格正式落實:72 張 MI455X 點樣挑戰 Nvidia AI 機櫃

AMD 公開 Helios 完整規格,將 72 張 MI455X、EPYC Venice、Pensando 網絡同 ROCm 塞入一套機櫃級 AI 系統,2026 下半年開始出貨。紙面數字夠進取,但成本優勢仲要等客戶部署同獨立測試證明。

2 個月前
美國數據中心2035年或食兩成電,AI 算力擴張開始卡喺供電3C 產品

美國數據中心2035年或食兩成電,AI 算力擴張開始卡喺供電

BloombergNEF 估計,美國數據中心到 2035 年或要 194GW 電力容量,佔全國用電約兩成。個預測有幾進取仲可以拗,不過 AI 公司面對嘅限制,已經由買 GPU 擴展到接電、變壓器同電網工程。雲端 AI 嘅部署速度同成本都會受影響。

3 個月前
Google 季賺逾千億美元,點解自由現金流反而跌穿零?AI 基建條數點計3C 產品

Google 季賺逾千億美元,點解自由現金流反而跌穿零?AI 基建條數點計

Alphabet 第二季收入同盈利齊創高位,自由現金流卻錄得負 58.55 億美元。拆開盤數就見到,賺錢能力依然強,現金主要俾 AI server、數據中心同網絡設備食咗;巨額投資亦可能影響 Gemini、Cloud 同 API 日後點樣分級同收費。

3 個月前
NYT 追打 Microsoft 算力供應:AI 版權案開始問基建有冇責任Tech News

NYT 追打 Microsoft 算力供應:AI 版權案開始問基建有冇責任

NYT 想修改起訴書,話 Microsoft 唔止供 Azure 算力,仲用專門 supercomputer 幫 OpenAI 複製內容訓練模型。呢件事未判,但已經令 AI 版權戰由「模型有冇用料」推到「基建供應商有冇誘導侵權」。

3 個月前
Google 傳研發 Frozen v2:將 Gemini 架構刻入晶片,慳電背後要押中模型方向3C 產品

Google 傳研發 Frozen v2:將 Gemini 架構刻入晶片,慳電背後要押中模型方向

Google 據報研究專為 Gemini 推理而設嘅 Frozen v2,將部分模型架構同運算路徑固定喺晶片,減少資料搬運同即場判斷。效率預測相當進取,不過消息未獲正式確認,晶片亦要承受架構鎖定同壽命縮短嘅風險。

3 個月前
Kimi K3 寫前端贏 Claude,平價背後仍然食晶片同電力Tech News

Kimi K3 寫前端贏 Claude,平價背後仍然食晶片同電力

月之暗面推出 Kimi K3,前端編程排名一出即登頂,API token 單價亦低過頂級 Claude。不過獨立評測顯示,佢嘅成本優勢視乎任務同 token 用量,完整權重亦未正式放出。模型競爭愈激烈,未必會令晶片、電力同雲端需求縮水。

3 個月前
馬斯克買起流動發電公司:AI 擴張開始由搶晶片鬥到搶電力Tech News

馬斯克買起流動發電公司:AI 擴張開始由搶晶片鬥到搶電力

FTC 文件確認馬斯克係 APR Energy 交易嘅收購方,但冇公開作價,亦冇寫明資產會交畀 xAI。之所以令人聯想到 AI,關鍵係 APR 手上有逾 1.1GW 流動發電能力,可以幫大型數據中心避開漫長電網接駁時間。不過,速度背後亦有燃料成本、污染同審批風險。

3 個月前
NotebookLM 改名 Gemini Notebook,新增寫 code 分析資料功能Tech News

NotebookLM 改名 Gemini Notebook,新增寫 code 分析資料功能

Google 將 NotebookLM 改名做 Gemini Notebook,同時加入隔離雲端容器,識得寫同執行 code,直接分析 notebook 入面嘅資料。改名冇令獨立產品消失,但 Ultra、Pro、公司帳戶同香港帳戶嘅推出時間並唔一致。

3 個月前
Apple 傳物色 AI 晶片公司:自家 server 進度受阻,短期仍靠 Nvidia 擴充算力Tech News

Apple 傳物色 AI 晶片公司:自家 server 進度受阻,短期仍靠 Nvidia 擴充算力

Apple 傳出接觸多間 AI 晶片初創,想加快自家 server processor 進度。不過 Apple 今年先正式用 Google Cloud 同 Nvidia GPU 擴充 Private Cloud Compute,反映短期仍要靠外援;收購即使成事,都唔會即刻換走現有基建。

3 個月前
M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口Tech News

M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口

Apple 據報接觸晶片初創同銀行,研究收購 AI 晶片公司。件事反映 M2 Ultra server 應付唔到新 Siri 用嘅大型 Gemini 模型,而自家下一代 server 晶片進度又有變數,Apple 想守住 Private Cloud Compute 私隱架構,就要先補好數據中心算力。

3 個月前
Anthropic 傳同 Samsung 傾自研 AI 晶片,Claude 成本壓力開始浮面Tech News

Anthropic 傳同 Samsung 傾自研 AI 晶片,Claude 成本壓力開始浮面

據報 Anthropic 正同 Samsung 傾 custom AI chip,但用途、規格同 server 設計都未定。更值得睇嘅係 Claude 背後嘅推理成本、供應鏈同 Nvidia 依賴,AI 公司而家要自己落手處理。

3 個月前
QuEra 2029 千粒糾錯 qubit 路線圖:量子雲端唔好當產品睇Tech News

QuEra 2029 千粒糾錯 qubit 路線圖:量子雲端唔好當產品睇

QuEra 話 2028 年會經 Amazon Braket 推 Libra,2028/29 年再衝到 1,000+ 粒糾錯 logical qubit。數字好猛,但而家要睇嘅係 error correction、decoder 同雲端 access 到時交唔交到貨。

3 個月前