ollama-duet logo

ollama-duet

免費

每月固定 $20,為你的應用提供接近前沿的 AI:本地優先的 Ollama 助手模式——日常 80-90% 的請求在你的硬體上免費執行,困難的問題則升級到由 Ollama 託管的大型開放權重模型,私有資料在雲端處理時無法被訪問。

訪問官網
依共同標籤和關鍵字推薦sudonotesqwenMeet Live Assist
chatbotassistantllmlocal-firstollamaaiai assistantautomation

工具概覽

Duet 是一個工具包,以每月 20 美元的固定價格為應用提供接近前沿水平的 AI。它被描述為一個小型(約 200 行、僅用標準庫)的工具包,在本地模型和雲端模型之間路由請求。系統分三層:第 1 層是本地且免費的,使用使用者自己 Ollama 上的小型開放權重模型。第 2 層是雲端固定費用,同一個呼叫通過已登入的本地守護程序重新指向 Ollama GPU 上的大型開放權重模型,無需 API 金鑰或程式碼更改。第 3 層用於徹底中斷時的直連,攜帶 API 金鑰直接訪問 https://ollama.com/api/chat。所有層都使用 Ollama 原生的 /api/chat,因此故障轉移只是重新指向,而不是重寫。隱私被強制執行兩次:標記為 cloud_safe=False 的工具永遠不會被雲端大腦看到,即使被幻覺呼叫也會被排程拒絕。該模式與應用無關,適合任何人或流水線用平實的語言針對即時狀態提問。

定價

免費

目錄尚未確認完整價格方案,請至官網查看目前額度、限制及計費方式。

訪問官網

價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。

應用場景

  • 團隊用 Duet 為工作流引擎的自動化大腦提供動力,處理分類、起草和分流步驟。
  • 團隊用 Duet 構建針對特定應用的助手,向其提供文件和私有源資料,並嵌入應用的網頁視窗。
  • 團隊用 Duet 通過把儀表盤資料封裝成工具,作為內部運維/管理副駕駛。
  • 團隊用 Duet 建立 SaaS 產品助手,針對客戶自己的賬戶給出有依據的回答,並將 PII 限制在本地。
  • 團隊用 Duet 作為基於自有工具的開發者助手,把構建狀態、部署狀態和日誌摘要作為工具。

功能特色

在本地裝置上處理日常請求

通過 Ollama 提供本地助手能力

將複雜請求轉交託管模型

避免雲端請求接觸私有資料

結合本地模型與託管模型

使用者評論

還沒有評論,來分享你的使用體驗吧