工具概覽
AI Document Q&A Assistant 是一個生產風格的檢索增強生成（RAG）系統，可針對使用者提供的文件回答自然語言問題。它給出有依據、帶來源引用的回覆，並支援多輪對話。該系統基於 LangChain、FAISS、OpenAI、FastAPI 和 Streamlit 構建，完全容器化並在 CI 中測試。它攝取 .txt 和 .pdf 檔案，將其切分為有重疊的分塊，進行嵌入，並持久化 FAISS 索引。在檢索與生成時，它會嵌入傳入的問題，檢索最相似的前 k 個分塊，並提示 LLM 嚴格依據該上下文作答並引用來源。API 是一個 FastAPI 服務，帶有請求日誌、會話範圍的多輪記憶和帶型別的請求/響應模型。Streamlit 聊天介面支援現場演示，併為每個回答顯示檢索到的來源。測試包括針對分塊/載入的單元測試和 API 契約測試，所有 LLM/嵌入呼叫均被模擬，因此執行免費且快速。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用該助手就自己的文件提出自然語言問題，並獲得有依據、帶來源引用的回答。
- 開發者用 FastAPI 服務，通過帶型別的 REST API 把文件問答整合到應用中。
- 使用者可以通過傳入 session_id 進行多輪對話，提出的追問會結合之前的輪次來理解。
- 團隊可以用 Streamlit 聊天介面現場演示該助手，介面會為每個回答顯示檢索到的來源。
- 開發者可以把自己的 .txt 或 .pdf 文件新增到 data/sample_docs/ 目錄並重建索引。
- 工程師可以按快速入門步驟，在不使用 Docker 的情況下於本地執行系統。
- 團隊可以用 Docker Compose 部署 API 和 UI，以容器化方式執行。
功能特色
回答文件相關問題
為回答提供來源引用
記住多輪對話內容
採用檢索增強生成技術
提供 FastAPI 後端
提供 Streamlit 操作介面
支援通過 Docker 部署
使用者評論
還沒有評論，來分享你的使用體驗吧