Un-0 話 AI 推理慳電 1,000 倍:先當技術 demo 睇
Tech News

Un-0 話 AI 推理慳電 1,000 倍:先當技術 demo 睇

圖片:via TechCrunch — https://techcrunch.com/2026/06/25/databricks-former-ai-chief-thinks-he-can-cut-ais-power-bill-by-1000x/
TechLab 編輯部(譯)·

振盪器架構跑圖像生成,重點落喺日後推理成本

呢件事值唔值得睇

Unconventional AI 今次拎出 Un-0,表面係一個圖像生成模型,背後其實係想證明另一套 AI 電腦架構行得通。TechCrunch 訪問 Naveen Rao 時,佢講到目標可以令 AI 推理用電低 1,000 倍;呢句好吸眼球,但暫時唔應當成已交功課。講準啲,Un-0 係公司第一次攞公開模型同 code 出嚟,證明用物理動態做運算,起碼有機會跑到現代生成模型呢類任務。

點解而家先值得講?因為 AI 成本嘅壓力已經唔止喺訓練模型嗰日出現。生成圖片、長文摘要、客服 agent、公司內部 RAG 查詢,全部都係每次有人撳掣就燒一次推理算力。呢筆數最後會返到 API 價錢、SaaS 訂閱費、雲端帳單同部署選擇上面,所以慳電唔只係環保口號,亦係產品定價問題。

Un-0 官方生成圖像拼圖,展示多個 ImageNet 類別嘅低解像輸出

圖片:Unconventional AI

Un-0 其實做咗咩

官方 blog 寫得幾清楚:Un-0 係一個由 coupled oscillators 推動嘅圖像生成模型,而家用軟件模擬嗰套振盪器系統。簡單講,一堆振盪器由隨機相位起步,按訓練好嘅 coupling strength 互相拉扯,時間去到某一刻就讀出狀態,再交畀一個細 decoder 變成像素。你未可以當佢係文字 prompt 生高清海報;呢次重點放喺 class-conditional ImageNet 64×64 呢類研究 benchmark。

官方畀出嘅數字係,最大 ImageNet 64×64 版本有 16,384 個 oscillator、約 3.22 億個可訓練參數,FID@50k 去到 6.74;FID 愈低,代表生成出嚟嘅圖同參考資料集愈接近。呢啲係 Unconventional AI 自己披露同開源 repo 入面嘅數,唔係第三方實測。最要緊係,訓練同 PyTorch 參考 implementation 仍然喺 NVIDIA A100、H200、B200 呢類 GPU 上驗證,真正振盪器 chip 仲未有公開用電跑分。

點解 Rao 呢個背景有份量

Naveen Rao 唔係純講故事嘅創辦人。Unconventional AI 官網寫,佢之前創辦 Nervana Systems 同 MosaicML,分別賣畀 Intel 同 Databricks;Databricks 亦喺 2023 年 7 月宣布完成收購 MosaicML,當時賣點正正係幫企業用自己資料訓練同部署生成式 AI。換句話講,佢熟嘅唔只係模型論文,仲有企業客真係點畀錢買算力。

呢個背景令 Unconventional AI 有新聞價值,因為 Databricks 同 MosaicML 玩嘅正係企業 AI 基建:自家資料、model serving、成本控制、部署彈性。Unconventional AI 喺 2025 年 12 月公開時話已籌到 4.75 億美元 seed round,估值 45 億美元,Lightspeed、a16z、Sequoia、Lux 等都有份。咁大注碼押喺一間未出商用 chip 嘅公司,代表市場真係驚 AI 用電同推理成本會卡住增長。

1,000 倍要點拆

1,000 倍呢句最易俾人誤讀。Unconventional AI 自己嘅技術文講,佢哋量度嘅指標避開 TOPS/Watt 呢類晶片 marketing 數,改睇同等質素下每個 token、每張圖用幾多 Joules。佢哋亦話,大模型推理用電大頭好多時落喺記憶體讀寫同搬資料,特別係 HBM 呢類 off-chip memory;乘法本身反而唔係最貴嗰格。

呢個思路合理,因為而家 AI server 嘅痛點真係唔只 GPU 夠唔夠快,仲有電力、散熱、機房位置同供應。IEA 2025 年報告估計,全球 data centre 用電到 2030 年會去到約 945 TWh,差唔多係 2024 年兩倍;AI 帶動嘅 accelerated servers 用電年增長估計有 30%。如果推理效率真係跳升,成本曲線會變;問題係 Un-0 而家只證明呢種模型可以學到圖像分佈,未證明實體 chip 同商用服務已經慳到 1,000 倍。

同開發者同公司有咩關係

對一般用家,AI 用電似好遠;對寫 app、做內容、跑客服 bot、用 AI 做設計初稿嘅團隊,就好貼身。你用 API 生成一批產品圖、喺後台跑文件摘要、畀員工開 AI search,每一吓都係推理。雲端供應商要買 GPU、畀電費、搞散熱同留 capacity,呢啲成本唔會消失,只會包喺月費、API 每千 token、每張圖或者 enterprise 合約入面。

如果香港中小企同內容團隊有用呢類服務,就算唔會自己起 AI server,亦可能好快感受到價錢點變:平價 plan 每日生圖上限、客服 agent 每月用量、RAG 文件量、甚至啲 SaaS 功能要唔要另收 AI add-on。Un-0 呢類架構如果有朝一日真係做到同質素但用少好多電,影響唔會只留喺機房,會一路傳到 plan 分級同收費方式。

下一步睇邊幾樣

接住最要睇三件事。第一,Unconventional AI 幾時拎出實體 chip,仲要喺同質素、同延遲、同吞吐量之下量度每次推理用電;淨係 demo 圖像樣本靚唔靚唔夠。第二,Un-0 可唔可以由 64×64 class-conditioned 圖像,擴展到文字 prompt、高清圖、文字模型或者多模態任務。第三,佢哋想賣 compute capacity,咁就要有穩定 toolchain、開發者介面同雲端營運能力,唔係淨係有一篇好睇論文。

所以而家最合理嘅睇法係:Un-0 算係一個有膽量、資料亦交得算公開嘅技術示範;平價 AI 算力仲未開賣。開發者、公司 IT 同內容團隊今日唔使諗即刻改用 Un-0,未來兩年反而要睇推理成本會唔會逼到 AI 供應商轉架構、改收費、或者限制高成本功能。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook