ElastiCache Serverless 加入搜尋功能,RAG 即時資料可留在快取層
Tech News

ElastiCache Serverless 加入搜尋功能,RAG 即時資料可留在快取層

圖片:TechLab
TechLab 編輯部(譯)·

AWS 為 ElastiCache Serverless 的 Valkey 快取加入向量搜尋、全文搜尋、混合搜尋及資料彙總功能。對需要處理快速變動資料的開發團隊而言,現在可在同一個受管快取服務內,同時以關鍵字、語意相似度、標籤和數值範圍檢索資料,毋須先把快取內容另行同步至搜尋系統。

不過,功能只適用於 Valkey 9 的 ElastiCache Serverless 快取;現有環境須升級至該版本才可使用。iThome 報道指,新功能已在所有 AWS 商用區域,以及美國 GovCloud 和 AWS 歐洲主權雲區域推出。

對即時 AI 工作負載有何改變

混合搜尋的重點,是在一次查詢內兼顧文字條件與向量相似度。例如客服或電商 app 可先限制產品類別、庫存狀態或指定關鍵字,再從結果中尋找語意最貼近的內容。這比單純向量檢索更容易配合明確篩選條件,也比只靠關鍵字更能處理不同措辭。

iThome 指出,服務亦可在 server 端對搜尋結果篩選、分組和統計,讓 app 只接收已處理的結果。對即時推薦、商品搜尋,以及需要讀取最新狀態的 RAG 系統,這可減少跨服務同步與由 app 端處理大量候選資料的工序。

AI agent 是另一個直接場景。開發者可為不同 agent、工作階段或任務建立獨立資料儲存區,將短期對話脈絡、任務狀態或新近互動資料放進快取後再作檢索。iThome 報道稱,這些儲存區可在數秒內建立,並按使用量收費。

效能宣稱不等於所有工作負載的結果

AWS 表示,搜尋延遲最低可達微秒級、向量搜尋召回率最高可達 99%,而新寫入內容最快可在微秒級時間內供搜尋使用;開發者亦可調整向量搜尋的召回率。這些數字說明服務瞄準低延遲讀寫場景,但報道未交代資料規模、向量維度、查詢組合、負載模式或成本等測試條件。

因此,團隊不宜直接把官方指標視為自身 app 的實際表現。召回率、延遲及用量成本會受索引設定、資料量、篩選條件和流量型態影響,正式採用前仍應以自家資料及峰值查詢模式驗證。

何時適合放在同一層處理

把搜尋能力放入快取層,較適合資料更新頻繁、結果需要迅速反映新狀態,且團隊希望減少多套系統之間資料同步的情況,例如即時推薦、短期 agent 記憶,或結合營運狀態的檢索。

相反,如應用需要保存長期、龐大而穩定的知識庫,或搜尋排序、分析與資料治理要求較複雜,是否將檢索集中在快取服務仍須按架構取捨。ElastiCache 的新功能可減少部分系統拼接工作,但不代表每種搜尋需求都適合移入快取。

下一步值得觀察的,是開發團隊會否把即時資料與 AI 檢索更緊密地放在同一資料路徑,以及在實際流量下,這種簡化能否抵銷按使用量計費及索引維護帶來的成本。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook