发现和使用优秀的技能扩展
在8个提供商(Anthropic、Google、OpenAI、DeepSeek、xAI、Moonshot、Mistral、Ollama)和25+种模型中,将LLM请求路由到成本最低且具备能力的模型。在1毫秒内从8个维度对提示词进行评分,支持三种路由模式(经济模式、标准模式、极致模式),并记录所有决策以进行成本跟踪。
Routes LLM requests to the cheapest capable model across 8 providers (Anthropic, Google, OpenAI, DeepSeek, xAI, Moonshot, Mistral, Ollama) and 25+ models. Scores prompts on 8 dimensions in under 1ms, supports three routing modes (eco, standard, gigachad), and logs all decisions for cost tracking.