RouteLLM - Économisez les coûts LLM sans compromettre la qualité !
RouteLLM est un framework pour servir et évaluer les routeurs LLM, offrant des économies de coûts sans compromettre la qualité. Découvrez comment remplacer les clients OpenAI et router les requêtes entre LLMs pour des performances optimales.
12 juillet 2024
5 min