工具概覽
anypick 是一個開源庫,用於通過對能力、價格和基準測試的過濾器,跨提供方選擇最佳的大語言模型(LLM),然後用某種策略選出贏家。它只負責選擇模型;使用者需要自行把選定的模型接入自己的聊天客戶端。兩個實現共享相同的設計、測試夾具和行為:anypick-python 和 anypick-ts。該庫支援兩個模型提供方:openrouter(預設)和 vercel。openrouter 是唯一既有模型目錄又有基準測試的提供方,因此支援所有策略。vercel 僅有模型,所以必須與 NoopBenchmarkObtainer 搭配使用,只有僅依據價格的策略(cheapest)才有意義。過濾器在策略選出贏家之前,把 (models, scores) 縮減為一個子集。它們既可以用 ModelFilters 方便地構建,也可以用 pred.* 構建為可組合的謂詞。ModelFilters 的欄位包括 include_ids、exclude_ids、include_makers、exclude_makers、min_prompt_price、max_prompt_price、min_completion_price、max_completion_price、min_expected_cost、max_expected_cost、expected_cost_weights、max_cache_read_price、min_context_length、max_context_length、modalities_in、modalities_exactly、excludes_modalities、output_modalities_in、output_modalities_exactly、excludes_output_modalities、requires_tools、requires_reasoning、requires_structured_outputs、min_benchmarks 和 max_benchmarks。謂詞形式允許通過用 &(與)、|(或)和 ~(非)組合謂詞來實現否定、選擇或自定義邏輯。
定價
目錄尚未確認完整價格方案,請至官網查看目前額度、限制及計費方式。
訪問官網價格與限制可能變動,請以官網為準,並確認幣別、付款週期、最低席位數和用量上限。
應用場景
- 開發者用 anypick 選出滿足特定價格和上下文長度要求的最便宜模型。
- 團隊用 anypick 按工具支援或推理等必需能力過濾模型。
- 使用者用 anypick 根據編碼或智慧等任務的基準測試分數選擇模型。
- 開發者用 anypick 與 OpenRouter 或 Vercel AI Gateway 整合,進行模型選擇。
- 團隊用 anypick 使用 AND、OR 和 NOT 等邏輯運算子應用複雜的過濾器。
- 使用者用 anypick 根據帶自定義權重的預期成本選擇模型。
- 開發者用 anypick 按文本或影像等輸入和輸出模態過濾模型。
功能特色
按模型能力篩選大語言模型
比較不同提供商的模型價格
根據基準測試結果篩選模型
按指定策略選出模型
使用行為一致的 Python 和 TypeScript 實現
使用者評論
還沒有評論,來分享你的使用體驗吧