Niko1221/Strata
Un motor de inferență desktop care rulează modele mixture-of-experts foarte mari pe hardware de consum, citind de pe SSD ponderile care nu încap în memorie. Se instalează într-un click pe Windows și Linux, acceptă Nvidia RTX seria 30 până la 50, AMD Radeon pe Linux, Ryzen AI Max și Apple Silicon și expune pe localhost API-uri compatibile OpenAI și Anthropic, cu intrare opțională de imagini. Licențiat MIT.
Activitate de mentenanță