Etiqueta: llm-router
Explora 1 recursos prácticos de ingeniería de software etiquetados con "llm-router". Descubre recetas de código, patrones de diseño, plantillas de documentación y guías detalladas para ayudarte a construir, desplegar y mantener soluciones listas para producción con llm-router.
Patrón LLM Router
Enruta consultas a diferentes modelos LLM segun complejidad, costo y latencia. Clasifica la entrada antes de despachar al modelo adecuado.