Gateways de IA
Endpoints unificados, enrutamiento y fallback entre varios proveedores de modelos de IA.
Gateways de IA
Los gateways de IA sitúan una única API delante de muchos proveedores de modelos, gestionando la autenticación, las cuotas, los reintentos y el fallback. Resultan útiles cuando desea cambiar de modelo sin reescribir el código de la aplicación.
Este tema abarca gateways autoalojables y plugins de autenticación complementarios que exponen varios modelos comerciales y de pesos abiertos a través de un único endpoint.
5 proyectos
- cheaper-inference/OmniRoute — Gateway de IA autoalojado que enruta un endpoint hacia 375 proveedores — Enrutamiento multiproveedor: Sí; Retroceso y reintentos: Sí; Límites de tarifas y presupuestos: Sí; Punto final compatible con OpenAI: Sí; Registro y observabilidad: Parcial
- diegosouzapw/OmniRoute — Nunca dejes de codificar. — Enrutamiento multiproveedor: Sí; Retroceso y reintentos: Sí; Límites de tarifas y presupuestos: Sí; Punto final compatible con OpenAI: Sí; Registro y observabilidad: Sí; Caché de respuestas: Sí; Guardrails y filtrado de contenido: Sí
- BerriAI/litellm — Gateway de IA autoalojado y SDK de Python para más de 100 proveedores LLM — Enrutamiento multiproveedor: Sí; Retroceso y reintentos: Sí; Límites de tarifas y presupuestos: Sí; Punto final compatible con OpenAI: Sí; Registro y observabilidad: Sí; Caché de respuestas: Sí; Guardrails y filtrado de contenido: Sí
- Alph4d0g/opencode-omniroute-auth — proveedor de autenticación de código abierto para autenticarse contra omniroute — Enrutamiento multiproveedor: Sí; Retroceso y reintentos: Sí; Límites de tarifas y presupuestos: Sí; Punto final compatible con OpenAI: Sí; Registro y observabilidad: Sí; Caché de respuestas: No; Guardrails y filtrado de contenido: No
- Portkey-AI/gateway — Gateway de IA ligero con enrutamiento, guardrails y más de 1600 modelos — Enrutamiento multiproveedor: Sí; Retroceso y reintentos: Sí; Punto final compatible con OpenAI: Sí; Registro y observabilidad: Sí; Caché de respuestas: Sí; Guardrails y filtrado de contenido: Sí