工具概览
Byte 是一个自托管的本地 AI 智能体,在本地运行开源模型,可以编程、上网搜索,并通过 MCP 使用工具,无需依赖付费 API。项目称第 0 到第 6 阶段已能在本地端到端运行,包括带工具的智能体、WASM 沙箱、混合 RAG、MCP、兼容 OpenAI 的端点、基于 JWT 的多用户支持和交互式 CLI,并有 480 个测试。其技术栈包括 Python、FastAPI、LangGraph、Ollama、带 pgvector 的 PostgreSQL、MCP、AG-UI、Pyodide/WASM 和 Docker。
其架构把网页或 CLI 请求经 FastAPI 路由到带 Postgres 检查点的 LangGraph 智能体,再到各类工具:通过 Tavily 进行网页搜索、Pyodide WASM 沙箱、通过 pgvector 的混合 RAG,以及 n8n 等 MCP 服务器。测试时可在内存中无数据库运行,但生产模式需要 Postgres;网页搜索和代码执行是可选的,取决于 API 密钥和沙箱配置。项目还提供兼容 OpenAI 的端点、交互式 CLI、基于 JWT 的多用户支持、仓库导航工具以及可选的可观测性集成。
定价
价格与限制可能变化,请以官网为准,并确认币种、付款周期、最低席位数和用量上限。
应用场景
- 团队用 Byte 运行本地 AI 智能体,它可以编程、搜索网页并使用 MCP 工具,无需付费 API。
- 团队用 Byte 通过 Pyodide 在 WASM 沙箱中执行代码。
- 团队用 Byte 在配置后通过 Tavily 搜索网页。
- 团队用 Byte 借助 pgvector 的混合 RAG 查询文档。
- 团队用 Byte 连接 n8n 等 MCP 服务器。
- 团队用 Byte 为 OpenAI SDK 客户端提供兼容 OpenAI 的端点。
- 团队用 Byte 通过 list_files、read_file 和 grep 浏览仓库。
- 团队用 Byte 通过 JWT 管理多用户访问。
功能特性
可自行托管 AI 智能体
使用本地大语言模型
支持调用工具
通过 WASM 沙箱隔离执行
结合 pgvector 实现混合检索增强生成
支持 MCP 协议
具备提示词注入防护
用户评论
还没有评论,来分享你的使用体验吧