byte logo

byte

免费

自托管 AI 智能体 — 本地 LLM,支持工具调用、WASM 沙箱、基于 pgvector 的混合 RAG、MCP 以及提示注入防御

访问官网
根据共同标签和关键词推荐Amethystfixedyetotto_agent
ai-agentfastapilanggraphllmmcpaiai assistantautomation

工具概览

Byte 是一个自托管的本地 AI 智能体,在本地运行开源模型,可以编程、上网搜索,并通过 MCP 使用工具,无需依赖付费 API。项目称第 0 到第 6 阶段已能在本地端到端运行,包括带工具的智能体、WASM 沙箱、混合 RAG、MCP、兼容 OpenAI 的端点、基于 JWT 的多用户支持和交互式 CLI,并有 480 个测试。其技术栈包括 Python、FastAPI、LangGraph、Ollama、带 pgvector 的 PostgreSQL、MCP、AG-UI、Pyodide/WASM 和 Docker。

其架构把网页或 CLI 请求经 FastAPI 路由到带 Postgres 检查点的 LangGraph 智能体,再到各类工具:通过 Tavily 进行网页搜索、Pyodide WASM 沙箱、通过 pgvector 的混合 RAG,以及 n8n 等 MCP 服务器。测试时可在内存中无数据库运行,但生产模式需要 Postgres;网页搜索和代码执行是可选的,取决于 API 密钥和沙箱配置。项目还提供兼容 OpenAI 的端点、交互式 CLI、基于 JWT 的多用户支持、仓库导航工具以及可选的可观测性集成。

定价

免费

目录尚未确认完整价格档位,请到官网查看当前额度、限制及计费方式。

访问官网

价格与限制可能变化,请以官网为准,并确认币种、付款周期、最低席位数和用量上限。

应用场景

  • 团队用 Byte 运行本地 AI 智能体,它可以编程、搜索网页并使用 MCP 工具,无需付费 API。
  • 团队用 Byte 通过 Pyodide 在 WASM 沙箱中执行代码。
  • 团队用 Byte 在配置后通过 Tavily 搜索网页。
  • 团队用 Byte 借助 pgvector 的混合 RAG 查询文档。
  • 团队用 Byte 连接 n8n 等 MCP 服务器。
  • 团队用 Byte 为 OpenAI SDK 客户端提供兼容 OpenAI 的端点。
  • 团队用 Byte 通过 list_files、read_file 和 grep 浏览仓库。
  • 团队用 Byte 通过 JWT 管理多用户访问。

功能特性

可自行托管 AI 智能体

使用本地大语言模型

支持调用工具

通过 WASM 沙箱隔离执行

结合 pgvector 实现混合检索增强生成

支持 MCP 协议

具备提示词注入防护

用户评论

还没有评论,来分享你的使用体验吧