comfyui-native-quantizer

ComfyUI Native Quantizer 是一款把兼容的 ComfyUI 检查点和文本编码器转换为 ComfyUI 原生量化 safetensors 格式的工具。它自成一体，可流式处理大文件，保留不受支持的张量，并在发布前校验输出。该转换器不修改 ComfyUI 核心，也不生成 GGUF、GPTQ、bitsandbytes、AWQ 或其他自定义加载器格式。它支持一系列原生格式，包括 int8、int8-convrot、w4a4、int4-convrot、w4a8、mixed、fp8-e4m3、fp8-e5m2、nvfp4、mxfp8，以及 fp16 和 bf16 等精度转换。内置策略涵盖众多 ComfyUI 扩散、视频、音频和文本编码器架构，部分模型为实验性支持。该工具可通过命令行运行，提供检查、试运行和内存限制等选项。它还支持文本编码器，并可选择量化 token 嵌入。安装需要 ComfyUI 所用的 Python 环境，转换器接受本地 safetensors 文件、带索引的分片、模型目录和受信任的本地 pickle 检查点。Hugging Face 输入会固定到解析出的修订版本，且只下载所请求的组件。