工具概覽
FMProxy 是面向 macOS 26 Tahoe 上 Apple Foundation Models 的本地相容 OpenAI 的 chat completions 代理。它需要 macOS 26.0 或更高版本、帶 macOS 26 SDK 的 Xcode,以及 Mac 上可用的 Apple Foundation Models。專案可以用 xcodebuild 或提供的 build.sh 指令碼構建,獨立的 Apple Silicon 二進位制檔案可從倉庫根目錄啟動。預設監聽 127.0.0.1:8080,並提供用於主機、埠、抑制日誌、結構化輸出校驗和幫助的命令列選項。伺服器開放 GET /health、GET /v1/models 和 POST /v1/chat/completions。聊天端點接受 system、user 和 assistant 角色;stream: false 返回常規 JSON,而 stream: true 傳送相容 OpenAI 的 Server-Sent Events,最後以 data: [DONE] 結束。token 統計返回 0。生成按 FIFO 順序一次處理一個,而健康檢查和模型列表請求仍然可用。結構化輸出支援 json_object 和 json_schema 兩種 response_format 值,完整的 JSON Schema 校驗為可選,預設關閉。HTTP 限制包括請求頭最大 64 KiB、請求體最大 10 MiB,以及對不完整請求的 30 秒超時。
定價
價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 開發者用 FMProxy 通過相容 OpenAI 的 chat completions API 開放 Apple Foundation Models。
- 團隊用 FMProxy 在 127.0.0.1:8080 上執行本地代理,主機和埠可配置。
- 應用用 FMProxy 通過相容 OpenAI 的 Server-Sent Events 流式輸出 chat completions。
- 開發者用 FMProxy 通過 response_format 的 json_object 或 json_schema 請求結構化 JSON 輸出。
- 團隊用 FMProxy 啟用 --validate-structured-output,對照請求的 schema 校驗生成的 JSON。
- 運維人員用 FMProxy 通過簡潔的控制台日誌監控已完成的請求,而不記錄請求體或模型內容。
功能特色
AI助手
自然語言介面
工作流自動化
使用者評論
還沒有評論,來分享你的使用體驗吧