工具概览
NexusAI-Client 是一个超轻量、严格类型、异步的 Python 3.12+ 多服务商 AI API 网关。它把 Cerebras、Cohere、DeepSeek、Google Gemini(免费版和 Pro)、Groq、Mistral、Nvidia NIM、OpenRouter 和 OrcaRouter 统一在同一个接口之后,且不依赖任何重型 SDK。项目完全基于 httpx 和 python-dotenv 驱动。
它提供动态模型管理和自动轮换,在遇到 HTTP 404/400(模型已弃用)、HTTP 429 速率限制和超时时,会在模型和服务商之间自动故障转移。它支持原生异步和 SSE 流式输出,可通过 stream_text() 和 stream_chat() 按 token 逐个流式返回响应。它还提供零成本优先的智能回退,通过 AIGateway.auto_fallback() 自动从免费档位切换到付费备用。
其他能力包括通用工具调用/函数调用、通过 json_mode=True 保证 JSON 输出、实时账户和预算查询,以及对 670+ 个模型的实时发现。它支持企业级推理和搜索模型,以及 Groq LPU 和 Cerebras CS-3 晶圆级引擎等原生硬件加速器。
定价
价格与限制可能变化,请以官网为准,并确认币种、付款周期、最低席位数和用量上限。
应用场景
- 团队用 NexusAI-Client 把多个 AI 服务商统一在同一个接口之后。
- 团队用 NexusAI-Client 实时按 token 逐个流式输出 AI 响应。
- 团队用 NexusAI-Client 在遇到速率限制、模型弃用和超时时,在模型和服务商之间自动故障转移。
- 团队用 NexusAI-Client 优先使用免费档位,再切换到付费备用。
- 团队用 NexusAI-Client 获得有保证的结构化 JSON 输出。
- 团队用 NexusAI-Client 查看实时账户余额和速率限制。
- 团队用 NexusAI-Client 借助通用工具调用构建自主 AI 智能体。
- 团队用 NexusAI-Client 通过多模态视觉分析图像、图表和 PDF。
功能特性
统一调用多个 AI 服务商
支持 Python 异步调用
可连接 Cerebras 和 Cohere
可连接 DeepSeek 和 Gemini
可连接 Groq 和 Mistral
支持 Nvidia NIM 和 OpenRouter
用户评论
还没有评论,来分享你的使用体验吧