# Gateway-uri AI

> Endpoint-uri unificate, rutare și fallback între mai mulți furnizori de modele AI.

Navigare: [Index](../../llms.txt) · [HTML](https://awesomeopensource.dev/ro/topic/ai-gateways)

Gateway-urile AI pun o singură API în fața mai multor furnizori de modele, gestionând autentificarea, cotele, reîncercările și fallback-ul. Sunt utile atunci când doriți să schimbați modelele fără a rescrie codul aplicației.

Acest subiect acoperă gateway-uri care pot fi găzduite local și pluginuri de autentificare însoțitoare care expun mai multe modele comerciale și cu greutăți deschise printr-un singur endpoint.

## Comparație de funcționalități

| Proiect | Rutare cu mai mulți furnizori | Fallback și reîncercări | Limite de tarife și bugete | Punct final compatibil cu OpenAI | Înregistrare și observabilitate | Cache pentru răspunsuri | Guardrails și filtrare de conținut |
|---|---|---|---|---|---|---|---|
| [cheaper-inference/OmniRoute](../cheaper-inference-omniroute.md) | Da | Da | Da | Da | Parțial | – | – |
| [diegosouzapw/OmniRoute](../diegosouzapw-omniroute.md) | Da | Da | Da | Da | Da | Da | Da |
| [BerriAI/litellm](../berriai-litellm.md) | Da | Da | Da | Da | Da | Da | Da |
| [Alph4d0g/opencode-omniroute-auth](../alph4d0g-opencode-omniroute-auth.md) | Da | Da | Da | Da | Da | Nu | Nu |
| [Portkey-AI/gateway](../portkey-ai-gateway.md) | Da | Da | – | Da | Da | Da | Da |

## Funcționalități

- **Rutare cu mai mulți furnizori**: Direcționează cererile către mai mulți furnizori de modele.
- **Fallback și reîncercări**: Eșuează între furnizori sau solicită reîncercări.
- **Limite de tarife și bugete**: Controlează utilizarea cu cote, limite de tarife sau bugete de cost.
- **Punct final compatibil cu OpenAI**: Acceptă solicitări în stil OpenAI, astfel încât clienții existenți să funcționeze.
- **Înregistrare și observabilitate**: Înregistrează solicitările, urmele sau valorile de utilizare.
- **Cache pentru răspunsuri**: Stochează răspunsurile modelelor pentru a reduce latența și costurile.
- **Guardrails și filtrare de conținut**: Aplică verificări de siguranță sau filtre de conținut traficului către modele.

## 5 proiecte

- [cheaper-inference/OmniRoute](../cheaper-inference-omniroute.md) · Scor de activitate 5.0/5 (Foarte activ)
- [diegosouzapw/OmniRoute](../diegosouzapw-omniroute.md) · Scor de activitate 5.0/5 (Foarte activ)
- [BerriAI/litellm](../berriai-litellm.md) · Scor de activitate 5.0/5 (Foarte activ)
- [Alph4d0g/opencode-omniroute-auth](../alph4d0g-opencode-omniroute-auth.md) · Scor de activitate 3.0/5 (Întreținut)
- [Portkey-AI/gateway](../portkey-ai-gateway.md) · Scor de activitate 2.9/5 (Întreținut)
