omp-ninfer

OMP NInfer 是对 Oh My Pi、Neroued 的 NInfer 和 Qwen3.8 27B 三者集成的打包。它可以从保存的模型状态恢复，使长时间的本地 Qwen 编程会话在推理服务器重启后得以继续。Qwen3.8 27B 是模型，Neroued 的 NInfer 是推理引擎，Oh My Pi 是编程智能体。该项目把它们的集成、显式续接和持久检查点打包成精确且经过资格认证的发布版本。

v0.7.3 的适用范围仅限于特定硬件。RTX 5090：有文档说明的 Windows 11 + Docker Desktop/WSL2 运行路线。RTX 4090：有文档说明的原生 Windows 11 路线。RTX 3090 在 v0.7.3 中推迟支持。v0.7.3 将客户端重新固定到 OMP 18.2.3，而运行时字节、模型、服务设置和内存下限仍保持 v0.7.2 的状态。

检查点可以离开本机。导出经过验证的会话检查点，把副本保存在另一台主机或 NAS 上，并导入回本地存储进行恢复。恢复需要相同的运行时二进制文件、模型、配置和会话凭据。这不是任意的 GPU 到 GPU 迁移，也不是自动故障转移。

其架构为 Oh My Pi（客户端）→ OMP NInfer（经认证的一体化设备 + 发布版本）→ NInfer（引擎）→ Qwen3.8 27B（模型）。它仅限回环地址、使用 bearer 认证、失败关闭而非回退到云端，每个字节都经哈希固定。这是社区项目；与 Oh My Pi、Qwen 或 NVIDIA 没有关联，也未获其认可。