Etiqueta: fastapi
Explora 3 recursos prácticos de ingeniería de software etiquetados con "fastapi". Descubre recetas de código, patrones de diseño, plantillas de documentación y guías detalladas para ayudarte a construir, desplegar y mantener soluciones listas para producción con fastapi.
Stream de salida LLM con Server-Sent Events (SSE)
Stream respuestas LLM a clientes en tiempo real usando Server-Sent Events con FastAPI, OpenAI streaming y async generators para salida token por token
Rate Limiting de API en Python con Token Bucket
Implementa token bucket rate limiting en Flask y FastAPI con soporte Redis.
Rate limiting distribuido con FastAPI y Redis
Implementa rate limiting distribuido en FastAPI usando algoritmos de sliding window y token bucket con Redis para limites por usuario, por IP y por endpoint