DEEPX DX-M1:25 TOPS 裝進 M.2,瞄準低功耗視覺 AI
Tech News

DEEPX DX-M1:25 TOPS 裝進 M.2,瞄準低功耗視覺 AI

圖片:TechLab
TechLab 編輯部(譯)·

韓國 AI 晶片公司 DEEPX 展示 DX-M1 M.2 推論加速卡。TechNews 科技新報 報道,產品可插入主機板的 M.2 插槽,標示提供 25 TOPS INT8 算力,功耗約為 2 至 5W,目標是把 AI 推論放到設備端處理。

這個定位對需要持續分析鏡頭影像的開發者較有意義,例如物件偵測、視覺檢測、機械人導航及即時影像分析。低功耗設計有助減少散熱、供電及噪音要求,讓現有小型電腦或嵌入式設備有機會加裝專用推論硬件;不過,是否能長時間維持理想溫度,仍取決於實際主機的氣流、工作負載及散熱設計。

M.2 外形不等於萬用 AI 升級

DX-M1 內置 4GB LPDDR5 RAM、128GB QSPI NAND Flash,並透過 PCIe Gen 3 連接主機;軟件方面支援 PyTorch、TensorFlow、TensorFlow Lite 與 ONNX,配合 DXNN SDK 使用。這些條件令它較適合部署已完成訓練、模型規模相對受控的推論工作。

4GB RAM 是最清楚的邊界。TechNews 科技新報 指出,DEEPX 明言 DX-M1 並非用於訓練大型模型,也不適合執行 27B 或 70B 級大型語言模型。換言之,25 TOPS 不能單獨代表任何 AI 工作都會快:模型能否放入可用 RAM、資料傳輸安排,以及 SDK 對目標模型的支援,才會決定實際部署是否可行。

PCIe Gen 3 與 M.2 形態帶來安裝便利,但也意味它更像為特定推論流程加速的配件,而非取代高階運算平台。若應用需要頻繁把大量高解像度影像在主機與加速卡之間來回傳送,傳輸設計會影響整體表現;相反,能在設備端穩定處理固定視覺任務的方案,較可能受惠於其功耗取向。

「奶油不融」仍屬廠方說法

TechNews 科技新報 報道,DEEPX 行政總裁 Kim Keun-won 向 CNBC 形容,DX-M1 與其他晶片的溫差可達 25°C 至 40°C,並以把奶油放在晶片上也不易融化作比喻。這屬廠方的散熱宣傳說法,文中未提供獨立測試條件、實際溫度或長時間負載數據,不能直接視為不同設備間可重複的比較結果。

TechNews 科技新報 報道的售價為 139 美元。對開發者而言,下一步較值得看的是 DXNN SDK 的模型轉換與部署流程、實際視覺工作負載下的延遲和功耗,以及散熱表現能否由獨立測試印證。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook