# ggml-org/llama.cpp

> Motor de inferență în C/C++ care rulează LLM-uri și modele de viziune cuantizate pe CPU și GPU

Navigare: [Inteligență artificială](category/artificial-intelligence.txt) · [Index](../llms.txt)

## Informații

- GitHub: https://github.com/ggml-org/llama.cpp
- HTML: https://awesomeopensource.dev/ro/project/ggml-org-llama-cpp
- Site web: https://llama.app
- Licență: MIT
- Limbaj: C++
- stele: 134864
- Subiecte: ggml
- Scor de activitate: 4.8/5 (Foarte activ)
- Ultimul commit (orice branch): 2026-11-13
- Ultimul release: v1.0.0 2026-11-13

## Descriere

Motor de inferență în C/C++ fără dependențe pentru modele mari de limbaj și de viziune, de la laptopuri la servere. Oferă cuantizare pe 1,5–8 biți, backend-uri Apple Metal, CUDA, HIP, Vulkan și SYCL, plus inferență hibridă CPU+GPU pentru modele mai mari decât VRAM-ul disponibil. O singură comandă descarcă un model GGUF de pe Hugging Face, iar llama-server expune o API compatibilă OpenAI cu interfață web inclusă.

## Activitate de mentenanță

- Recență: 100% (weight 40%) — last commit: 0 days ago
- Volum commit-uri: 100% (weight 25%)
- Release-uri: 100% (weight 25%) — last release: 0 days ago
- Bugfix-uri: 56% (weight 10%)
- Commits: 1923 / 90d, 5319 / 365d

## Proiecte similare

- [openclaw/openclaw](openclaw-openclaw.md): Asistent AI open-source care rulează pe hardware-ul tău și în aplicațiile de chat · Scor de activitate 5.0/5 (Foarte activ)
- [n8n-io/n8n](n8n-io-n8n.md): Automatizare de workflow-uri fair-code cu pânză vizuală, cod propriu și peste 1500 de integrări · Scor de activitate 5.0/5 (Foarte activ)
- [langgenius/dify](langgenius-dify.md): Platformă vizuală pentru aplicații LLM cu pipeline-uri RAG, agenți și integrări de modele · Scor de activitate 5.0/5 (Foarte activ)
- [open-webui/open-webui](open-webui-open-webui.md): Interfață web self-hosted pentru conversații offline cu modele Ollama și compatibile OpenAI · Scor de activitate 5.0/5 (Foarte activ)
- [langchain-ai/langchain](langchain-ai-langchain.md): Framework Python pentru construirea de agenți și aplicații LLM din componente reutilizabile · Scor de activitate 5.0/5 (Foarte activ)
- [paperclipai/paperclip](paperclipai-paperclip.md): Gestionează o echipă de agenți AI cu obiective, bugete și urmărirea sarcinilor · Scor de activitate 5.0/5 (Foarte activ)
