AWS Bedrock 搜尋塞入 Responses API,三種接法點揀先唔會鎖死模型同 region
Tech News

AWS Bedrock 搜尋塞入 Responses API,三種接法點揀先唔會鎖死模型同 region

圖片:via iThome — https://www.ithome.com.tw/news/177898
TechLab 編輯部(譯)·

內建搜尋慳開發時間,但模型、region 同資料駐留限制唔少

同 AgentCore 嗰套要分清楚

iThome 報道,AWS 已經喺 Amazon Bedrock 正式提供 Web Search,模型答問題之前可以查 Amazon 維護嘅網頁索引同知識圖譜,再交出附有來源嘅答案。AWS 官方資料顯示,新功能喺 8 月 4 日推出,入口係 OpenAI 相容嘅 Responses API。至於 6 月推出嗰個 Web Search,就係 AgentCore Gateway 入面嘅 MCP 工具,兩者用緊相近搜尋基建,但開發接口、支援模型、region 同收費都唔同,唔可以當成同一項服務。

Amazon Bedrock Web Search 流程圖,顯示模型判斷資料缺口、搜尋網頁索引同知識圖譜,再生成附來源答案

圖片:AWS

OpenAI SDK 遷移容易,唔代表原封不動搬過去

對已經用緊 OpenAI Responses API 嘅團隊,Bedrock 呢個做法幾直接:改用 bedrock-mantle endpoint、換成 AWS 驗證,再喺 tools 加一個 web_search 項目。模型會自行判斷使唔使搜尋,Bedrock 負責砌 query、搵資料、抽出相關段落同生成答案,客戶端唔使再寫 tool-call loop。不過 endpoint、憑證、IAM 權限同模型名稱全部都要跟 AWS 規格改,所以呢個做法只係慳返重寫搜尋流程,原有系統仍然要配合 AWS 規格調整。

首批支援範圍亦幾窄。AWS 文件列出 openai.gpt-5.4openai.gpt-5.5,同 GPT-5.6 Luna、Terra、Sol;其他 Bedrock 模型暫時用唔到呢個內建工具。即係話,用開 Claude、Nova、DeepSeek,或者想因應成本隨時轉模型嘅團隊,未必適合為咗少寫一段搜尋程式而綁實呢條路。

有引用連結,答案都仲要查證

回傳結果入面會有 url_citation annotation,當中包括頁面標題、網址,同引用對應答案邊段文字嘅字元位置,前端做腳註或者來源提示會方便好多。AWS 嘅使用規則亦要求,應用一旦展示用咗搜尋結果生成嘅內容,就要保留相關來源連結。不過 引用只係話模型參考過嗰個頁面,唔代表 AWS 已經獨立核實內容,更唔代表模型冇讀錯。醫療、金融、法規或者公司決策場景,仍然要檢查來源質素、日期同原文語境。

三種接法,各自啱唔同系統

Bedrock Responses API 內建 Web Search 最啱本身已經用 OpenAI SDK、又接受指定 GPT 模型嘅應用。一次 API request 可以完成搜尋同回答,引用格式亦已經整理好,開發量最少。代價係模型同 region 選擇少,搜尋排序、抓頁策略同供應商切換空間亦細,日後想轉走時要重新補回工具層。

AgentCore Gateway Web Search 用 MCP 提供搜尋結果,會回傳 snippet、網址、標題同發布日期,再由你揀嘅 agent 或模型整理答案。設定 Gateway 同處理 tool orchestration 要花多少少工夫。但模型彈性高過 Responses API 內建版本,亦方便同其他 MCP 工具放喺同一個治理入口。AWS 文件顯示,呢個 Web Search connector 而家仍只喺美東維珍尼亞北部提供。

自行串接搜尋 API 就最自由:可以揀供應商、region、模型、domain filter、快取方法同重新排序邏輯,亦容易比較多個搜尋源。不過搜尋費、LLM token、抓頁、重試同監察要分開處理,query 亦可能交畀另一間供應商。對有嚴格資料政策、要支援多模型,或者已有成熟搜尋層嘅公司,額外工程未必係浪費,反而可以避開服務綁定。

兩個 AWS 搜尋,價錢唔可以撈埋計

AWS Bedrock 收費頁列明,新版 Web Search 每 1,000 次 query 收 12 美元,模型輸入同輸出 token 另外計。模型喺同一輪回答入面可以改寫 query 再搜尋,所以一次用家提問未必只產生一次收費查詢。AgentCore Web Search 就係每 1,000 次 query 7 美元,Gateway 相關用量亦要按其收費項目計。呢個差距足以影響大量客服、研究或者監察工作,預算應該按實際搜尋次數估,唔好直接用對話數量乘單價。

香港團隊要睇清楚 region 同儲存設定

bedrock-mantle endpoint 本身已經開到東京、悉尼、孟買同雅加達等亞太區,但 Web Search 嚴格只支援 us-east-1us-east-2us-west-2,查詢亦唔會自動跨 region 處理。香港團隊要用呢項功能,現階段就要把相關 workload 放去美國,實際部署前要量度延遲,再核對公司政策、客戶合約同資料駐留要求。

Responses API 預設 store: true,AWS 會喺 request 所屬 region 保留輸入同輸出 30 日,改成 store: false 就唔會保留,但亦用唔到 previous_response_id 延續對話。搜尋而家只用 AWS 境內嘅索引同快取;官方已預留日後直連外部網頁嘅權限,想把資料路徑鎖實嘅團隊應該明確設 external_web_access: false,唔好只靠預設行為。

對新 PoC 或單一 GPT 應用,Responses API 內建搜尋確實慳到唔少時間;多模型、跨 region 或受規管系統,就應該先比較 AgentCore 同自建工具層。正式部署前,仲要用一批有標準答案、涉及高風險來源嘅問題測試引用準確度;估成本亦唔可以淨係睇每千次單價。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook