AWS AgentCore Runtime V2 加碼資源,coding agent 升級前要看三件事
Tech News

AWS AgentCore Runtime V2 加碼資源,coding agent 升級前要看三件事

圖片:TechLab
TechLab 編輯部(譯)·

AWS 擴充 Amazon Bedrock AgentCore 的託管執行環境,Runtime V2 將單一工作階段的上限提高至 8 個虛擬 CPU、32GB RAM,容器映像檔上限亦增至 10GB。對需要在隔離環境中編譯大型專案、驅動瀏覽器自動化,或把本地模型一併載入的 coding agent 團隊而言,這次更新直接擴闊了可放進同一個執行工作階段的工作量。

不過,iThome 報道指出,V2 雖已成為 19 個 AWS 區域新建執行環境的預設版本,既有 Runtime 不會自動升級。開發者須把 platformVersion 設為 V2 才會切換;若工作流程依賴舊行為,也可明確指定保留 V1。因此,升級不宜只看資源規格,而要先核對映像檔大小、初始化流程、長時間互動時的 RAM 使用方式,以及部署區域是否提供 V2。

由「呼叫模型」走向實際執行工作

AgentCore Runtime 的定位,是讓開發者毋須自行管理 server,便可部署及運行 AI agent。當 agent 由單純提交 prompt、取得模型回應,延伸至執行程式、處理檔案和操作 app,CPU、RAM 及容器空間很容易成為限制。

V2 將 CPU 和 RAM 上限提高至 V1 的四倍。這不代表每個 agent 都需要用盡資源,但為需要編譯依賴較多的大型程式庫、開啟瀏覽器工作階段,或在容器內保留本地模型的工作負載,提供了較大的部署餘裕。每個工作階段仍以 Firecracker 微型虛擬機器分隔,並會按工作負載調整資源;agent 閒置時,運算資源可縮減至零。

從開發實務看,較高上限的價值在於減少把一項任務拆到多個外部服務的需要,但同時亦可能令映像檔、依賴套件和執行流程更複雜。團隊升級前應先界定哪些工作確實要在 agent 執行環境內完成,避免因資源上限提高而把本應由專用建置或瀏覽器測試流程處理的工作,一併塞進 agent。

快照可縮短冷啟動,但測試條件有限

V2 採用快照啟動:系統預先完成 agent 初始化並建立快照,新工作階段啟動時由快照還原,以減少重複載入程式和初始化環境的時間。iThome 報道引述 AWS 數據稱,以 2GB 容器映像檔及不呼叫 AI 模型的簡易 agent 測試,75% 的工作階段可在兩秒內啟動;上一代數字為 29.7 秒。

這個數據說明快照對冷啟動可能很有幫助,但不能直接視為所有 agent 的實際表現。測試並未包含模型呼叫,而實際環境還會受映像檔內容、初始化程式、外部服務連線及任務本身影響。對互動式 coding agent 而言,較實際的做法是以自己的映像檔和常見任務量度首次回應時間與完整任務時間。

RAM 計費改善不等於總成本同幅下降

另一項改動是更早回收已釋放的 RAM。AWS 表示,V2 會在 agent 釋放 RAM 後數分鐘內回收資源,不再等到整個工作階段結束;對多輪互動的 agent,單一工作階段的計費 RAM 用量最多可減少 68%。

iThome 亦指出,這不代表整體費用必然有相同比例的跌幅。CPU 使用量、工作階段持續時間、模型呼叫及其他相關服務成本,仍會左右實際帳單。這項改善較適合解讀為:若 agent 的 RAM 用量有明顯高低峰,V2 可能減少已不用卻仍被計費的資源;若工作負載長時間維持高 RAM 佔用,節省空間則可能較小。

香港團隊先確認區域與版本路線

報道列出的預設 V2 區域包括東京、首爾、新加坡、馬來西亞和泰國,但未確認香港區域的支援情況。香港開發團隊若現時使用其他 AWS 區域,應先查核目標區域是否已提供 V2,再評估跨區部署帶來的延遲、資料處理安排及營運複雜度。

下一步可觀察的重點,是 V2 在較接近真實的 agent 工作負載下,能否同時維持快速啟動、穩定資源使用和可預期成本;現有 V1 用戶則應把相容性和用量測試放在正式切換之前。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook