Narev

✨ Narev: 快速、省钱地探索大模型世界

💡 还在为寻找最佳大模型方案而烦恼吗？Narev 旨在帮助您在短短几分钟内找到更高效、更具成本效益的大模型解决方案！我们相信，真正的基准测试来自您的实际生产数据。

🚀 您将如何体验 Narev？

1. 第一步：连接您的技术栈

   我们承诺：无缝集成，无需复杂设置。

   • 广泛兼容：无论您使用 OpenAI、Anthropic、AWS Bedrock、LangSmith 还是 OpenRouter，我们都支持！
   • 数据自动获取：我们直接从您现有系统获取数据，您的团队无需额外操作。
   • 灵活集成：直接通过您的提供商、网关、分布式追踪系统导入，或者直接调用我们的网关。

2. 第二步：定义并选择变体

   您可以轻松创建不同的 LLM 配置，或者从我们的变体库中选择，并即时查看其效果。

   • 快速克隆：从现有配置快速开始。
   • 参数自定义：灵活定义模型、提供商、系统提示和具体参数。
   • 丰富的模型选择：支持 GitHub Copilot、GPT-5、Claude 3.5 Sonnet 等多种主流模型。

3. 第三步：轻松运行 A/B 测试并优化

   告别繁琐的评估！您只需运行测试，真实的生产数据将为您揭示真相。

   • 实时效果对比：即时比较不同模型配置在价格、质量和延迟方面的影响。
   • 智能推荐：基于您的实际数据，提供优化建议。
   • 可视化权衡：清晰展示成本与质量之间的权衡，助您找到最适合您业务的“甜点”。

🎯 Narev 的独特优势

• 多模态支持：无论是文本、音频、图像还是视频，我们都能处理，助您实现全方位优化。
• 构建智能路由器：通过 Narev，您可以轻松构建模型路由器，例如：

  如果查询简单，则使用快速模型；否则，使用复杂模型。

• 开放透明：Narev 提供开源的可观测性工具，用于追踪 LLM 和云成本，让您的开支一目了然。

📊 AI FinOps 框架：支出更智能，而非更少

Narev 不仅仅是优化工具，更倡导科学的 AI FinOps 框架，助您在不牺牲质量的前提下，衡量、追踪并优化您的 LLM 支出。

• 核心目标：清晰您的优化目标与责任人。
• 细化成本：了解您的每一项支出，精确到具体功能和负责团队。
• 逐步优化：针对每个使用场景，逐一进行应用优化。

🌍 对 FOCUS 规范的支持

• 简化多云成本管理：我们将您的计费数据转换为 FOCUS 格式，为您提供跨所有云提供商的标准化计费数据。
• 统一语言：FOCUS 规范消除了理解不同提供商成本字段的复杂性，提供统一的术语。
• 关键效益：
  • 标准化术语：所有提供商使用通用定义。
  • 减少数据规范化：大幅减少数据准备时间。
  • 多供应商支持：所有云提供商的单一模式。