工具概览
该项目是一个使用检索增强生成（RAG）流水线和大语言模型（LLM）构建的、由 AI 驱动的公司网站聊天机器人。聊天机器人在生成回复之前先从知识库检索相关信息，帮助给出结合上下文、有依据的答案，而不是只依赖语言模型的内部知识。系统实现了完整的基于 RAG 的对话流水线，结合了文档检索、混合搜索、重排序、对话记忆和基于 LLM 的回复生成。它旨在利用从公司相关文档中检索到的信息回答问题，同时保持对话上下文。主要功能包括使用嵌入的语义搜索、基于 BM25 关键词的检索、结合语义和词法检索的混合搜索、倒数排名融合（RRF）、交叉编码器重排序、感知上下文的提示词构建、对话记忆、查询规范化与路由、文档清洗与分块、元数据处理，以及基于 LLM 的回复生成。后端使用 FastAPI 构建，支持本地 Ollama、Groq LLM 集成、Google GenAI 集成和 ChromaDB 向量存储。
定价
价格与限制可能变化，请以官网为准，并确认币种、付款周期、最低席位数和用量上限。
应用场景
- 团队用该聊天机器人，利用从公司相关文档中检索到的信息回答问题。
- 团队用该聊天机器人提供结合上下文、有依据的答案，而不是只依赖语言模型的内部知识。
- 团队用该聊天机器人结合文档检索、混合搜索、重排序、对话记忆和基于 LLM 的回复生成。
- 团队用该聊天机器人使用嵌入进行语义搜索。
- 团队用该聊天机器人进行基于 BM25 关键词的检索。
- 团队用该聊天机器人进行结合语义和词法检索的混合搜索。
- 团队用该聊天机器人应用倒数排名融合（RRF）。
- 团队用该聊天机器人应用交叉编码器重排序。
功能特性
AI助手
自然语言界面
工作流自动化
用户评论
还没有评论，来分享你的使用体验吧