PrivateGPT 是一个开源 API 层,可将本地模型转化为生产级 AI 应用。它提供更高层级的构建模块来构建 AI 应用,遵循 Claude API 模式,因此开发者无需从零重建后端基础组件,也无需依赖云 API,即可构建私有 AI 产品。它被描述为经过生产验证,为本地部署 AI 平台 Zylon 提供支持。 PrivateGPT 本身不运行模型;它通过 OPENAI_API_BASE 连接到任何兼容 OpenAI 的推理服务器,并可与任何实现 /v1/chat/completions 和 /v1/models 的服务器配合使用。它内置了一个工作台 UI,用于在 /ui 进行测试和演示,不过 API 被描述为真正的产品。 该 API 包含标准的 messages API,支持流式传输、异步和 token 计数;文件和工件摄取;带引用的检索和智能体 RAG;镜像 Claude API 的内置工具,如网页搜索、网页抓取和代码执行;自定义工具和 MCP 连接器;对数据库和 CSV 的结构化访问;以及嵌入和编排。 PrivateGPT 最初是 2023 年的一个概念验证,用于完全离线地与文档聊天,1.0 版本从头重建,成为面向私有 AI 应用的正式 API 层。它由 Zylon 团队维护。

团队使用 PrivateGPT 将本地模型作为终端中智能体编码的后端。
团队使用 PrivateGPT 将 Claude 桌面应用和 Cowork 连接到他们的私有模型。
团队使用 PrivateGPT 在 Word、Excel、Outlook 和 PowerPoint 中运行私有 AI。
团队使用 PrivateGPT 作为终端中的本地 AI 编码助手。
团队使用工作台 UI 测试带引用的检索。
团队使用工作台 UI 上传文档。
团队使用工作台 UI 配置数据库、MCP 连接器、技能和自定义工具。
团队使用 PrivateGPT 对数据库和 CSV 进行结构化访问。