AWS Graviton5 M9g 上線:AI backend 同 database 慳錢位喺邊
Tech News

AWS Graviton5 M9g 上線:AI backend 同 database 慳錢位喺邊

圖片:via iThome — https://www.ithome.com.tw/review/176974
TechLab 編輯部(譯)·

官方話部分 workload 最多快 35%,香港區暫時未見 M9g

M9g 係咩料

iThome 報道提到,AWS 6 月正式放行首批用 Graviton5 嘅 EC2 M9g 同 M9gd,之後 RDS 開源 database 同 C9g/C9gd 亦跟住補上。簡單講,M9g 係一般用途 instance,M9gd 就加本機 NVMe SSD,目標唔係淨係跑幾個 VM,而係食住 web app、container backend、Java service、database、cache fleet,甚至 AI agent 背後嗰堆 CPU-bound 任務。

AWS Graviton5 晶片斜放喺黑色背景上嘅官方相

圖片:AWS

官方數字要分清楚

AWS 官方話,M9g 對比 Graviton4 M8g,compute 表現最多高 25%,web app 同 machine learning inference 最多快 35%,database 最多快 30%。RDS for PostgreSQL、MySQL、MariaDB 嘅 M9g database instance,AWS 亦話對比同級 Graviton4,效能最多高 30%,按需計價下 price-performance 最多好 23%。呢啲全部係官方同客戶案例數字,唔係 TechLab 實測,真 workload 會唔會食到呢段增幅,要睇你個 app 係等 CPU、等 RAM、等 I/O,定其實等外部 API。

AI backend 唔係得 GPU

今次有趣位係 AWS 將 Graviton5 同 agentic AI 放埋一齊講。好多公司講 AI 就諗 GPU,但真正上 production,後面仲有排程、tool calling、程式碼執行、資料整理、logging、API gateway、vector/database query 呢堆 CPU 工作。M9g 有最多 192 vCPU、768 GiB RAM、DDR5-8800、5 倍 L3 cache,同最高 100 Gbps network 頻寬;如果你個 AI workflow 成日卡喺 orchestration 或 database side,換 CPU instance 可能實際過盲目加 GPU quota。

Nitro Isolation 有幫助,但唔代表成個 stack 自然安全

安全方面,Graviton5 instance 加咗 Nitro Isolation Engine。AWS 嘅講法係,呢個元件負責喺 VM 之間、同 VM 同 AWS operator 之間做隔離,仲用 formal verification 去證明某啲隔離性質。呢件事對金融、SaaS、多租戶平台有意思,因為雲端安全好多時唔止睇 encryption,仲睇 hypervisor 層面嘅可信度。不過 formal verification 有範圍同假設,AWS 白皮書亦講到驗證覆蓋核心 VM lifecycle 嘅 hypercall;所以呢個係強信號,但唔代表成個 stack 由 app 到 dependency 都自然安全。

香港團隊要先睇 region

最貼地嘅限制反而係 region。AWS 6 月 10 日公告話 M9g/M9gd 先喺美東維珍尼亞北部、美東俄亥俄、美西俄勒岡、歐洲法蘭克福開放;AWS EC2 region 文件入面,Asia Pacific Hong Kong(ap-east-1)暫時列到 M8g,但未見 M9g/M9gd。即係香港公司如果 production 綁死港區,唔好照搬海外價錢同 availability 去排期;如果本身用新加坡、東京、法蘭克福或者美國 region 跑跨境服務,就要逐區睇價錢、latency、資料合規同 support plan。

值唔值得轉,最主要睇遷移成本

Graviton 已經唔係新嘢,Linux、container、Java、Node.js、Python、Go 呢堆主流 stack 大多有 Arm64 路徑,但「可以開機」同「值得轉」中間仲有距離。你要睇 Docker image 有冇 multi-arch、native npm/pip package 有冇 arm64 build、CI runner 點砌、observability agent support 成點,仲有 database extension、加密 library、FFmpeg 呢類 native-heavy 工具。AWS 自己嘅 Graviton guide 都建議先揀 target workload、測試、再推 production;M9g 值得試,但最穩陣係由 stateless service、batch job、read replica 或 staging database 開始,拎自己數據計返每個 request、每次 query、每個 token pipeline 嘅成本。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook