Passerelles IA
Points d'accès unifiés, routage et fallback entre plusieurs fournisseurs de modèles IA.
Passerelles IA
Les passerelles IA placent une seule API devant de nombreux fournisseurs de modèles et gèrent l'authentification, les quotas, les nouvelles tentatives et le fallback. Elles sont utiles lorsque vous souhaitez changer de modèle sans réécrire le code de l'application.
Ce thème couvre les passerelles auto-hébergeables et les plugins d'authentification complémentaires qui exposent plusieurs modèles commerciaux et à poids ouverts via un seul point d'accès.
5 projets
- cheaper-inference/OmniRoute — Passerelle IA auto-hébergée qui route un endpoint vers 375 fournisseurs — Routage multi-fournisseurs: Oui; Repli et tentatives: Oui; Limites de tarifs et budgets: Oui; Point de terminaison compatible OpenAI: Oui; Journalisation et observabilité: Partiel
- diegosouzapw/OmniRoute — N’arrêtez jamais de coder. — Routage multi-fournisseurs: Oui; Repli et tentatives: Oui; Limites de tarifs et budgets: Oui; Point de terminaison compatible OpenAI: Oui; Journalisation et observabilité: Oui; Cache des réponses: Oui; Guardrails et filtrage de contenu: Oui
- BerriAI/litellm — Passerelle IA auto-hébergée et SDK Python pour plus de 100 fournisseurs LLM — Routage multi-fournisseurs: Oui; Repli et tentatives: Oui; Limites de tarifs et budgets: Oui; Point de terminaison compatible OpenAI: Oui; Journalisation et observabilité: Oui; Cache des réponses: Oui; Guardrails et filtrage de contenu: Oui
- Alph4d0g/opencode-omniroute-auth — fournisseur d'authentification opencode pour s'authentifier auprès d'omniroute — Routage multi-fournisseurs: Oui; Repli et tentatives: Oui; Limites de tarifs et budgets: Oui; Point de terminaison compatible OpenAI: Oui; Journalisation et observabilité: Oui; Cache des réponses: Non; Guardrails et filtrage de contenu: Non
- Portkey-AI/gateway — Passerelle IA légère avec routage, guardrails et plus de 1600 modèles — Routage multi-fournisseurs: Oui; Repli et tentatives: Oui; Point de terminaison compatible OpenAI: Oui; Journalisation et observabilité: Oui; Cache des réponses: Oui; Guardrails et filtrage de contenu: Oui