工具概覽
該專案是一個使用檢索增強生成（RAG）流水線和大語言模型（LLM）構建的、由 AI 驅動的公司網站聊天機器人。聊天機器人在生成回覆之前先從知識庫檢索相關資訊，幫助給出結合上下文、有依據的答案，而不是隻依賴語言模型的內部知識。系統實現了完整的基於 RAG 的對話流水線，結合了文件檢索、混合搜尋、重排序、對話記憶和基於 LLM 的回覆生成。它旨在利用從公司相關文件中檢索到的資訊回答問題，同時保持對話上下文。主要功能包括使用嵌入的語義搜尋、基於 BM25 關鍵詞的檢索、結合語義和詞法檢索的混合搜尋、倒數排名融合（RRF）、交叉編碼器重排序、感知上下文的提示詞構建、對話記憶、查詢規範化與路由、文件清洗與分塊、後設資料處理，以及基於 LLM 的回覆生成。後端使用 FastAPI 構建，支援本地 Ollama、Groq LLM 整合、Google GenAI 整合和 ChromaDB 向量儲存。
定價
價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用該聊天機器人，利用從公司相關文件中檢索到的資訊回答問題。
- 團隊用該聊天機器人提供結合上下文、有依據的答案，而不是隻依賴語言模型的內部知識。
- 團隊用該聊天機器人結合文件檢索、混合搜尋、重排序、對話記憶和基於 LLM 的回覆生成。
- 團隊用該聊天機器人使用嵌入進行語義搜尋。
- 團隊用該聊天機器人進行基於 BM25 關鍵詞的檢索。
- 團隊用該聊天機器人進行結合語義和詞法檢索的混合搜尋。
- 團隊用該聊天機器人應用倒數排名融合（RRF）。
- 團隊用該聊天機器人應用交叉編碼器重排序。
功能特色
AI助手
自然語言介面
工作流自動化
使用者評論
還沒有評論，來分享你的使用體驗吧