工具概覽
Bedrock RAG Platform 是 Amazon Bedrock 上具備生產形態的檢索增強生成技術棧。它將由 S3 和 OpenSearch Serverless 支援的 Bedrock Knowledge Base,與用 Anthropic Claude 呼叫 RetrieveAndGenerate 的 Lambda 和 API Gateway 查詢 API 結合在一起。專案為每個元件配置了最小許可權 IAM,並有限制支出的預算護欄。基礎設施使用 Terraform,API 使用 Python。該倉庫由 nrobertio 維護,被描述為生產 GenAI 工作的通用公開版本:在 Bedrock 上、帶有安全和成本控制、基於文件的助手。架構從 API Gateway 流向 Python Lambda,再由其呼叫 Bedrock RetrieveAndGenerate。Knowledge Base 從 OpenSearch Serverless 向量和 S3 源文件中檢索,Claude 則生成帶引用的、有依據的回答。目錄結構包括:terraform/,含 Knowledge Base、OpenSearch Serverless、S3、IAM、API Gateway、Lambda 和 Budget;lambda/query/,含 Python 處理程序;以及 docs/PROJECT.md,含理由和說明。使用方式是執行 terraform init 和 terraform apply,將文件上傳到 KB 資料來源 S3 儲存桶,同步 Knowledge Base,然後向 API 端點發送帶問題的 POST 請求。成本與安全說明警告:Bedrock 和 OpenSearch Serverless 按使用量和 OCU 計費,不屬於免費層,所含的 Budget 會對支出發出告警。它建議用完後銷燬資源,並且切勿把金鑰或個人資料傳送到提示詞中。該專案採用 MIT 許可。
定價
價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 Bedrock RAG Platform 在 Bedrock 上構建帶安全和成本控制、基於文件的助手。
- 團隊用 Bedrock RAG Platform 通過 RetrieveAndGenerate 查詢 Bedrock Knowledge Base。
- 團隊用 Bedrock RAG Platform 對外提供一個能帶引用回答問題的 Python Lambda API。
- 團隊用 Bedrock RAG Platform 為每個角色強制執行最小許可權 IAM 和輸入大小限制。
- 團隊用 Bedrock RAG Platform 設定 AWS Budget 告警,防止失控的提示迴圈悄悄累積支出。
- 團隊用 Bedrock RAG Platform 通過 Terraform 和 Python 處理程序預配全部基礎設施。
功能特色
使用 Bedrock 知識庫檢索文件
使用 S3 儲存知識庫文件
以 OpenSearch Serverless 支撐檢索
通過 Lambda 和 API Gateway 提供查詢介面
呼叫 Claude 的 RetrieveAndGenerate 生成回答
為各元件配置最小許可權 IAM
通過預算護欄限制支出
使用者評論
還沒有評論,來分享你的使用體驗吧