工具概覽
Bedrock RAG QA Assistant 是基於 Amazon Bedrock 構建的檢索增強生成（RAG）問答服務。它使用 Titan Embeddings 做檢索，通過 Bedrock 的 Converse API 生成回答，使用 ChromaDB 做向量儲存，並通過 Lambda 和 API Gateway 配合 Terraform 提供無伺服器部署路徑。該專案的設計目標是讓使用者提出問題，並得到基於自己文件的回答並附帶引用來源，可以本地執行，也可以在 AWS 上以無伺服器方式部署。
倉庫提供兩種使用同一份程式碼的部署形態。本地/API 形態用 uvicorn 執行 FastAPI 應用，而無伺服器形態通過 Mangum 把同一個 FastAPI 應用封裝給 Lambda，前面接 API Gateway，用 Terraform 配置資源，並通過 S3 暫存部署包。技術棧包括：用於嵌入的 Amazon Bedrock Titan Embed Text v2、用於跨 Claude 或 Nova 的、與服務商無關的生成的 Bedrock Converse API、作為向量儲存的 ChromaDB、用於 API 的 FastAPI + Uvicorn、作為無伺服器執行時的 AWS Lambda（通過 Mangum）+ API Gateway，以及作為基礎設施即程式碼的 Terraform。
該專案展示了 Amazon Bedrock 嵌入與生成、RAG 流水線設計、提示詞工程、用於無伺服器 AWS 部署的基礎設施即程式碼（IAM 限定到 Bedrock 推理配置檔案 ARN）、真實的部署問題排查、API 設計、自動化測試和 CI。它包含 Streamlit 演示介面、使用 mock Bedrock 呼叫的 pytest 測試，以及涵蓋架構、快速開始和 API 參考的文件。路線圖列出了：將 ChromaDB 換成 OpenSearch Serverless、增加流式響應、增加重排序、多格式攝取，以及在 API Gateway 路由上新增 API 金鑰/使用計劃。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 Bedrock RAG QA Assistant 提問，並獲得基於自己文件、附帶引用來源的回答。
- 團隊用它執行本地 FastAPI API 來進行 RAG 查詢。
- 團隊用它把同一個 FastAPI 應用以無伺服器方式部署到 AWS Lambda 和 API Gateway。
- 團隊用它通過一個環境變數在 Claude 和 Nova 之間切換生成服務商。
- 團隊用它在 ChromaDB 中儲存並搜尋文件嵌入。
- 團隊用它通過 Terraform 配置 Lambda、API Gateway、IAM 和 S3 暫存。
- 團隊用它在使用 mock Bedrock 呼叫且無需 AWS 憑據的情況下執行 CI 測試。
- 團隊用它把示例文件攝取到 ChromaDB 中。
功能特色
提供無伺服器檢索增強問答
通過 Amazon Bedrock 呼叫模型
使用 Titan 生成文本向量
通過 Converse API 呼叫 Claude 和 Nova
使用 ChromaDB 檢索內容
通過 FastAPI 提供問答介面
藉助 Terraform 部署至 Lambda 和 API Gateway
使用者評論
還沒有評論，來分享你的使用體驗吧