Mage-Flow-Turbo-CPU

Mage-Flow-Turbo-Native-Inference 是面向 Mage-Flow-Turbo 的可移植原生推理與部署棧。該倉庫不訓練也不修改模型權重。Python 負責配置、模型/執行時身份驗證、CLI/REST 編排、生命週期控制、遙測和證據收集；實際的模型執行路徑是原生的 stable-diffusion.cpp sd-cli 執行時。v1.0.0 支援規範的 Q8 GGUF 配置和 BF16 SafeTensors 配置，二者都通過同一個原生執行時。該專案不提供 Hugging Face Transformers 推理後端，也不執行 PyTorch/Transformers 推理迴圈。

專案凍結了模型和執行時身份。在真實推理之前會驗證精確的 SHA-256 身份。Git 倉庫不包含模型權重。規範的 Q8 配置使用 GGUF Q8_0 擴散模型、Qwen3-VL-4B GGUF Q4_K_M 文本編碼器、SafeTensors VAE 以及固定版本的 stable-diffusion.cpp sd-cli。BF16 SafeTensors 配置使用 BF16 SafeTensors 擴散模型、相同的 Qwen GGUF 文本編碼器、SafeTensors VAE，以及相同的固定版本原生執行時。

保留的嚴格 2×2 v1.0.0 測量涵蓋兩種配置在 Kaggle CPU 和 Kaggle T4/T4x2 cuda0 上的表現。CPU 策略使用 Kaggle Accelerator=None、後端嚴格為 cpu、僅使用預構建的 CPU sd-cli、不回退到 CUDA，並帶有主機記憶體和程序 RSS 遙測。T4/T4x2 策略要求 T4 或 T4x2 主機，僅使用物理 GPU 插槽 0，設定 CUDA_DEVICE_ORDER=PCI_BUS_ID 和 CUDA_VISIBLE_DEVICES=0，並使用有效推理後端 cuda0，不使用 cuda1、多 GPU 拆分、自動適配或 CPU 推理回退。參考服務預設繫結到 127.0.0.1，並開放 GET /healthz、GET /readyz、GET /v1/info、POST /v1/images/generate 和 GET /v1/artifacts/<png> 等 REST 端點。Kaggle 整合將預構建的 CPU/CUDA 執行時作為 Kaggle Datasets 掛載，並將 Mage-Flow、Qwen 和 VAE 輸入作為 Kaggle Models。