工具概覽
RAG Knowledge Assistant 是一個模組化的檢索增強生成（RAG）系統，每個元件只承擔單一職責。系統將攝取、檢索、路由、生成以及 API/UI 層分開，使它們完全解耦且可獨立測試。它使用查詢路由器，在檢索之前把傳入的查詢分為通用類或文件類。對於通用查詢，使用普通的 LLM 呼叫；文件類查詢則觸發對 Chroma 向量庫的檢索。檢索到的上下文連同來源一起格式化，傳給 RAG 提示詞和 LLM。最終輸出被解析為包含答案和引用的結構化 JSON。技術棧包括用於編排的 LangChain（LCEL）、通過相容 OpenAI 的閘道器用於生成的 GPT-5.6 Luna、用於嵌入的 OpenAI text-embedding-3-small、作為向量庫的 ChromaDB、用於結構化輸出的 Pydantic、用於後端的 FastAPI，以及用於前端的 Streamlit。評估使用 RAGAS，衡量忠實度、答案相關性和上下文精確度。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 RAG Knowledge Assistant 通過從向量庫檢索相關上下文並生成帶引用的回覆，來回答基於文件的問題。
- 開發者用該系統處理通用閒聊類查詢而不訪問向量庫，從而降低延遲。
- 組織用 FastAPI 後端，通過 POST /ask 端點把 RAG 管線整合到其他應用中。
- 使用者通過向後端發起 HTTP 呼叫的 Streamlit 聊天介面與系統互動。
- 機器學習工程師用 RAGAS 評估系統的忠實度、答案相關性和上下文精確度。
功能特色
AI 助手
自然語言互動介面
工作流自動化
使用者評論
還沒有評論，來分享你的使用體驗吧