comfyui-native-quantizer

ComfyUI Native Quantizer 是一款把相容的 ComfyUI 檢查點和文本編碼器轉換為 ComfyUI 原生量化 safetensors 格式的工具。它自成一體，可流式處理大檔案，保留不受支援的張量，並在釋出前校驗輸出。該轉換器不修改 ComfyUI 核心，也不生成 GGUF、GPTQ、bitsandbytes、AWQ 或其他自定義載入器格式。它支援一系列原生格式，包括 int8、int8-convrot、w4a4、int4-convrot、w4a8、mixed、fp8-e4m3、fp8-e5m2、nvfp4、mxfp8，以及 fp16 和 bf16 等精度轉換。內建策略涵蓋眾多 ComfyUI 擴散、影片、音訊和文本編碼器架構，部分模型為實驗性支援。該工具可通過命令列執行，提供檢查、試執行和記憶體限制等選項。它還支援文本編碼器，並可選擇量化 token 嵌入。安裝需要 ComfyUI 所用的 Python 環境，轉換器接受本地 safetensors 檔案、帶索引的分片、模型目錄和受信任的本地 pickle 檢查點。Hugging Face 輸入會固定到解析出的修訂版本，且只下載所請求的元件。