BerriAI/litellm
LiteLLM es un gateway de IA que expone más de 100 proveedores de modelos mediante una única API compatible con OpenAI. Se ejecuta como SDK de Python o como servidor proxy con claves virtuales, seguimiento de gastos, presupuestos, límites de tasa, guardrails, balanceo de carga y un panel de administración. Las solicitudes se pueden enrutar, reintentar y conmutar por error entre OpenAI, Anthropic, Gemini, Bedrock, Azure y otros proveedores, y el proyecto escrito en Python ofrece opciones de despliegue con Docker para un gateway autoalojado.
Actividad de mantenimiento