工具概覽
Leviath 是面向結構化 AI 智慧體的執行時，以單個 74 MB 的 Rust 二進位制檔案分發。它把智慧體的執行組織成多個階段，每個階段都有自己的模型、工具集和上下文預算，而不是對整個任務使用單一迴圈。該系統包含上下文區域，可固定任務和計劃等關鍵資訊，同時允許對話被壓縮；還有執行日誌，記錄每次工具呼叫，使被中斷的執行可以恢復而不重複已完成的操作。
Leviath 支援在一個程序內執行數千個智慧體，並提供即時引導，可在任意深度中斷或重定向智慧體。它自帶七個預置智慧體，並包含名為 The Lair 的基於瀏覽器的介面用於監控執行。該執行時旨在處理資料超出單個上下文視窗的任務，並允許團隊根據工作選擇單一迴圈或結構化流水線。
定價
目錄尚未確認完整價格方案，請至官網查看目前額度、限制及計費方式。
訪問官網價格與限制可能變動，請以官網為準，並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 Leviath 對資料超出單個上下文視窗的任務執行智慧體。
- 團隊用 Leviath 在崩潰後恢復，而不重複已完成的工具呼叫。
- 團隊用 Leviath 在一臺機器上併發執行數千個智慧體。
- 團隊用 Leviath 在執行期間直接引導子智慧體。
- 團隊用 Leviath 為較簡單的階段分配更便宜的模型以降低成本。
- 團隊用 Leviath 通過增加驗證階段來確保準確性。
功能特色
用單個檔案定義智慧體執行方式
在配置中指定模型
為智慧體配置工具集
按階段分配上下文預算
單個二進位制檔案容納數千個智慧體
二進位制檔案大小為 39 MB
使用者評論
還沒有評論，來分享你的使用體驗吧