工具概覽
ModelFit 是一個網站,提供 110 多個熱門本地大語言模型的 VRAM 和 RAM 需求,包括 Kimi K3、Gemma 4、DeepSeek V4、Qwen 3.8、GLM-5 和 Llama 3.1。它通過提供各模型的結論和量化表格來回答“我能執行這個 LLM 嗎?”。網站的大小資料取自 Hugging Face 上釋出的實際 GGUF 檔案,每天通過公開的 HF API 拉取,而非使用計算公式。
網站的差異化在於使用實測資料。當 config.json 已釋出時,它用 GQA 公式精確計算 KV 快取,併為 DeepSeek/Kimi 類架構提供 MLA 分支。它還根據每塊 GPU 的記憶體頻寬和 MoE 啟用引數佔比,估算解碼速度(每秒 token 數)。mmproj、mtp 和視覺模組等輔助檔案因不屬於完整模型權重而被過濾掉。
ModelFit 提供多種工具:按“某用途最佳 LLM”排名的頁面、互動式選擇器、可為給定模型找出最便宜 GPU 的反向選擇器,以及關於 VRAM 計算、量化和執行時的指南。它通過 API 端點和麵向 AI 引擎的 llms.txt 提供機器可讀的資料。網站每天自動重新生成,因此新模型大約在 24 小時內就會有結論頁面。
定價
價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 團隊用 ModelFit 檢查某個特定 LLM 能否在自己的硬體上執行。
- 團隊用 ModelFit 為特定 GPU 找到最佳 LLM。
- 團隊用 ModelFit 確定執行給定模型最便宜的 GPU。
- 團隊用 ModelFit 獲取機器可讀的資料供自己的工具使用。
- 團隊用 ModelFit 獲取關於 VRAM 計算、量化和執行時的指南。
- 團隊用 ModelFit 通過 llms.txt 與 AI 引擎整合。
功能特色
AI 助手
自然語言介面
工作流自動化
使用者評論
還沒有評論,來分享你的使用體驗吧