KaozKit – JavaScript LLM agents on an engine built for microcontrollers logo

KaozKit – JavaScript LLM agents on an engine built for microcontrollers

Show HN:KaozKit – 在專為微控制器打造的引擎上執行 JavaScript LLM 智慧體

訪問官網
依共同標籤和關鍵字推薦Leviathheadless-terminalToolbay Stack
show-hnagentaiai assistantautomation

工具概覽

KaozKit 是一個 Swift 包,內嵌 XS 引擎(Moddable),用於在 Swift 應用內執行以 JavaScript 編寫的自主 LLM 智慧體。智慧體是一個匯出 run 函式的小型 JS 模組,可以驅動語言模型、呼叫工具並讀寫記憶。JS 堆可以快照到磁碟,並在全新程序中恢復,讓常駐智慧體在應用重啟後仍保留完整狀態。

該包按分層產品組織:KaozJSCore、KaozJS、KaozHostC、KaozKit、KaozMLX,以及名為 kaoz 的無介面 CLI。它支援多種 LLM 提供方,包括 Anthropic、Google、Ollama、OpenAI 和裝置端 Apple Intelligence 等原生 Swift 提供方,以及用 JS 定義的提供方。工具註冊在 ToolRegistry 中,讀取類工具預設安全,執行類工具需要主動啟用並受到限制。智慧體可以安排任務、派生子智慧體,並使用帶基於嵌入搜尋的持久記憶。

KaozKit 為隔離和小記憶體佔用而設計,利用了 XS 的嵌入式出身。host.* 介面是智慧體擁有的唯一能力,金鑰絕不會進入 JS。引擎在私有執行緒上執行,提供簡潔的 C API,await 延續在 JS 與 Swift 的邊界上也能正確完成。

定價

目錄尚未確認完整價格方案,請至官網查看目前額度、限制及計費方式。

訪問官網

價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。

應用場景

  • 團隊用 KaozKit 在 Swift 應用內執行以 JavaScript 編寫的自主 LLM 智慧體。
  • 團隊用 KaozKit 通過堆快照在應用重啟後保持智慧體狀態。
  • 團隊用 KaozKit 藉助 Apple Intelligence 執行無需 API 金鑰的裝置端 LLM 智慧體。
  • 團隊用 KaozKit 在單個智慧體中組合多個 LLM 提供方。
  • 團隊用 KaozKit 將子智慧體作為隔離的 XS 機器派生出來。
  • 團隊用 KaozKit 為智慧體提供帶基於嵌入搜尋的持久記憶。

功能特色

在 Swift 應用中嵌入 JavaScript 智慧體

使用 XS 引擎執行智慧體

從智慧體模組呼叫工具

讀寫智慧體記憶

將 JavaScript 堆快照儲存到磁碟

應用重啟後恢復智慧體狀態

使用者評論

還沒有評論,來分享你的使用體驗吧