ollama-duet logo

ollama-duet

免费

每月固定 $20,为你的应用提供接近前沿的 AI:本地优先的 Ollama 助手模式——日常 80-90% 的请求在你的硬件上免费运行,困难的问题则升级到由 Ollama 托管的大型开放权重模型,私有数据在云端处理时无法被访问。

访问官网
根据共同标签和关键词推荐sudonotesfreevobeqwen
chatbotassistantllmlocal-firstollamaaiai assistantautomation

工具概览

Duet 是一个工具包,以每月 20 美元的固定价格为应用提供接近前沿水平的 AI。它被描述为一个小型(约 200 行、仅用标准库)的工具包,在本地模型和云端模型之间路由请求。系统分三层:第 1 层是本地且免费的,使用用户自己 Ollama 上的小型开放权重模型。第 2 层是云端固定费用,同一个调用通过已登录的本地守护进程重新指向 Ollama GPU 上的大型开放权重模型,无需 API 密钥或代码更改。第 3 层用于彻底中断时的直连,携带 API 密钥直接访问 https://ollama.com/api/chat。所有层都使用 Ollama 原生的 /api/chat,因此故障转移只是重新指向,而不是重写。隐私被强制执行两次:标记为 cloud_safe=False 的工具永远不会被云端大脑看到,即使被幻觉调用也会被调度拒绝。该模式与应用无关,适合任何人或流水线用平实的语言针对实时状态提问。

定价

免费

目录尚未确认完整价格档位,请到官网查看当前额度、限制及计费方式。

访问官网

价格与限制可能变化,请以官网为准,并确认币种、付款周期、最低席位数和用量上限。

应用场景

  • 团队用 Duet 为工作流引擎的自动化大脑提供动力,处理分类、起草和分流步骤。
  • 团队用 Duet 构建针对特定应用的助手,向其提供文档和私有源数据,并嵌入应用的网页窗口。
  • 团队用 Duet 通过把仪表盘数据封装成工具,作为内部运维/管理副驾驶。
  • 团队用 Duet 创建 SaaS 产品助手,针对客户自己的账户给出有依据的回答,并将 PII 限制在本地。
  • 团队用 Duet 作为基于自有工具的开发者助手,把构建状态、部署状态和日志摘要作为工具。

功能特性

在本地设备上处理日常请求

通过 Ollama 提供本地助手能力

将复杂请求转交托管模型

避免云端请求接触私有数据

结合本地模型与托管模型

用户评论

还没有评论,来分享你的使用体验吧