Anypick, open library for filtering LLMs based on capabilites and price logo

Anypick, open library for filtering LLMs based on capabilites and price

Show HN:Anypick,一个可按能力与价格筛选 LLM 的开源库

访问官网

工具概览

anypick 是一个开源库,用于通过对能力、价格和基准测试的过滤器,跨提供方选择最佳的大语言模型(LLM),然后用某种策略选出赢家。它只负责选择模型;用户需要自行把选定的模型接入自己的聊天客户端。两个实现共享相同的设计、测试夹具和行为:anypick-python 和 anypick-ts。该库支持两个模型提供方:openrouter(默认)和 vercel。openrouter 是唯一既有模型目录又有基准测试的提供方,因此支持所有策略。vercel 仅有模型,所以必须与 NoopBenchmarkObtainer 搭配使用,只有仅依据价格的策略(cheapest)才有意义。过滤器在策略选出赢家之前,把 (models, scores) 缩减为一个子集。它们既可以用 ModelFilters 方便地构建,也可以用 pred.* 构建为可组合的谓词。ModelFilters 的字段包括 include_ids、exclude_ids、include_makers、exclude_makers、min_prompt_price、max_prompt_price、min_completion_price、max_completion_price、min_expected_cost、max_expected_cost、expected_cost_weights、max_cache_read_price、min_context_length、max_context_length、modalities_in、modalities_exactly、excludes_modalities、output_modalities_in、output_modalities_exactly、excludes_output_modalities、requires_tools、requires_reasoning、requires_structured_outputs、min_benchmarks 和 max_benchmarks。谓词形式允许通过用 &(与)、|(或)和 ~(非)组合谓词来实现否定、选择或自定义逻辑。

定价

目录尚未确认完整价格档位,请到官网查看当前额度、限制及计费方式。

访问官网

价格与限制可能变化,请以官网为准,并确认币种、付款周期、最低席位数和用量上限。

应用场景

  • 开发者用 anypick 选出满足特定价格和上下文长度要求的最便宜模型。
  • 团队用 anypick 按工具支持或推理等必需能力过滤模型。
  • 用户用 anypick 根据编码或智能等任务的基准测试分数选择模型。
  • 开发者用 anypick 与 OpenRouter 或 Vercel AI Gateway 集成,进行模型选择。
  • 团队用 anypick 使用 AND、OR 和 NOT 等逻辑运算符应用复杂的过滤器。
  • 用户用 anypick 根据带自定义权重的预期成本选择模型。
  • 开发者用 anypick 按文本或图像等输入和输出模态过滤模型。

功能特性

按模型能力筛选大语言模型

比较不同提供商的模型价格

根据基准测试结果筛选模型

按指定策略选出模型

使用行为一致的 Python 和 TypeScript 实现

用户评论

还没有评论,来分享你的使用体验吧