工具概覽
fastapi-langgraph-chatbot 是一個使用 FastAPI 和 LangGraph 構建的本地聊天機器人。它設計為在本地執行，無需外部 Docker、PostgreSQL 或 Redis。該專案支援多家 LLM 服務商，包括 Groq、Ollama、OpenAI、Google Gemini 和 Anthropic。預設使用 SQLModel 搭配 SQLite，並可通過 DATABASE_URL 支援 PostgreSQL。聊天曆史和會話管理持久化到本地的 chatbot.db 檔案。
應用包含檢索增強生成。使用者可以通過 API 或介面上傳 .txt、.pdf 和 .md 文件。非同步後臺流水線負責分塊、去重，並使用本地 Qdrant 進行向量儲存。可針對特定會話或使用者進行上下文感知的檢索。它還藉助 LangGraph 提供滾動記憶和摘要，使狀態上下文保持在 LLM 的 token 限制之內。
內建的 LangGraph 智慧體工具包括數學計算器、即時日期/時間工具，以及通過 DuckDuckGo 的網頁搜尋。回覆可以通過 Server-Sent Events 即時流式輸出。網頁介面包括深色/淺色模式、帶複製按鈕的程式碼語法高亮、與資料庫同步的聊天曆史會話管理器、Markdown 渲染，以及將聊天曆史匯出為 Markdown。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 fastapi-langgraph-chatbot 在沒有外部 Docker、PostgreSQL 或 Redis 的情況下執行本地聊天機器人。
- 團隊用 fastapi-langgraph-chatbot 在 Groq、Ollama、OpenAI、Gemini 和 Anthropic 等多家 LLM 服務商中選擇。
- 團隊用 fastapi-langgraph-chatbot 在 SQLite 或 PostgreSQL 中持久化聊天曆史並管理會話。
- 團隊用 fastapi-langgraph-chatbot 上傳文件並進行檢索增強生成。
- 團隊用 fastapi-langgraph-chatbot 通過滾動記憶和摘要，使對話保持在 LLM 的 token 限制之內。
- 團隊用 fastapi-langgraph-chatbot 在網頁介面中逐 token 流式輸出回覆。
- 團隊用 fastapi-langgraph-chatbot 將聊天曆史匯出為 Markdown。
- 團隊用 fastapi-langgraph-chatbot 通過內建的智慧體工具進行網頁搜尋。
功能特色
在本地執行聊天機器人
在多個大模型提供商之間路由
通過 SSE 流式返回回覆
使用可呼叫工具的智慧體
持久儲存聊天會話
結合 FastAPI 與 LangGraph 構建
使用者評論
還沒有評論，來分享你的使用體驗吧