工具概覽
Duet 是一個工具包,以每月 20 美元的固定價格為應用提供接近前沿水平的 AI。它被描述為一個小型(約 200 行、僅用標準庫)的工具包,在本地模型和雲端模型之間路由請求。系統分三層:第 1 層是本地且免費的,使用使用者自己 Ollama 上的小型開放權重模型。第 2 層是雲端固定費用,同一個呼叫通過已登入的本地守護程序重新指向 Ollama GPU 上的大型開放權重模型,無需 API 金鑰或程式碼更改。第 3 層用於徹底中斷時的直連,攜帶 API 金鑰直接訪問 https://ollama.com/api/chat。所有層都使用 Ollama 原生的 /api/chat,因此故障轉移只是重新指向,而不是重寫。隱私被強制執行兩次:標記為 cloud_safe=False 的工具永遠不會被雲端大腦看到,即使被幻覺呼叫也會被排程拒絕。該模式與應用無關,適合任何人或流水線用平實的語言針對即時狀態提問。
定價
價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 Duet 為工作流引擎的自動化大腦提供動力,處理分類、起草和分流步驟。
- 團隊用 Duet 構建針對特定應用的助手,向其提供文件和私有源資料,並嵌入應用的網頁視窗。
- 團隊用 Duet 通過把儀表盤資料封裝成工具,作為內部運維/管理副駕駛。
- 團隊用 Duet 建立 SaaS 產品助手,針對客戶自己的賬戶給出有依據的回答,並將 PII 限制在本地。
- 團隊用 Duet 作為基於自有工具的開發者助手,把構建狀態、部署狀態和日誌摘要作為工具。
功能特色
在本地裝置上處理日常請求
通過 Ollama 提供本地助手能力
將複雜請求轉交託管模型
避免雲端請求接觸私有資料
結合本地模型與託管模型
使用者評論
還沒有評論,來分享你的使用體驗吧