AlexsJones/llmfit
llmfit inspecciona los núcleos de CPU, la memoria del sistema, las GPU dedicadas e integradas, la VRAM y la memoria unificada, y estima qué modelos encajan en las cuantizaciones GGUF, AWQ, GPTQ y EXL2. Puntúa los candidatos por calidad, velocidad, ajuste y contexto, y ofrece una TUI interactiva, un panel web y una API REST JSON. Los modelos también se pueden descargar, servir y medir localmente, con resultados enviados como pull requests.
Actividad de mantenimiento