Niko1221/Strata
Un motor de inferencia de escritorio que ejecuta modelos mixture-of-experts muy grandes en hardware de consumo, leyendo desde el SSD los pesos que no caben en memoria. Se instala con un clic en Windows y Linux, admite Nvidia RTX serie 30 a 50, AMD Radeon en Linux, Ryzen AI Max y Apple Silicon, y expone en localhost API compatibles con OpenAI y Anthropic, con entrada opcional de imágenes. Licenciado bajo MIT.
Actividad de mantenimiento