# Niko1221/Strata

> Sehr große MoE-Modelle lokal mit SSD-Auslagerung und lokaler API betreiben

Navigation: [Künstliche Intelligenz](category/artificial-intelligence.txt) · [Index](../llms.txt)

## Fakten

- GitHub: https://github.com/Niko1221/Strata
- HTML: https://awesomeopensource.dev/de/project/niko1221-strata
- Lizenz: MIT
- Sprache: C++
- Sterne: 43898
- Aktivitäts-Score: 4.8/5 (Sehr aktiv)
- Letzter Commit (beliebiger Branch): 2026-11-12
- Letztes Release: v0.2.13 2026-11-09

## Beschreibung

Eine Desktop-Inferenz-Engine, die sehr große Mixture-of-Experts-Modelle auf Consumer-Hardware ausführt, indem sie die nicht in den Speicher passenden Gewichte von einer SSD streamt. Die Installation gelingt unter Windows und Linux mit einem Klick, unterstützt werden Nvidia RTX der Serien 30 bis 50, AMD Radeon unter Linux, Ryzen AI Max und Apple Silicon, dazu OpenAI- und Anthropic-kompatible APIs auf localhost mit optionaler Bildeingabe. Lizenziert unter MIT.

## Wartungsaktivität

- Aktualität: 99% (weight 40%) — last commit: 1 days ago
- Commit-Volumen: 100% (weight 25%)
- Releases: 99% (weight 25%) — last release: 4 days ago
- Bugfixes: 58% (weight 10%)
- Commits: 6319 / 90d, 6319 / 365d

## Screenshots

- [Screenshot of the Strata terminal monitor showing serving stages and live requests](https://awesomeopensource.dev/uploads/1494/f6d77d76ec6b487b.png)
- [Screenshot of the Strata terminal request detail view with prompt and cache statistics](https://awesomeopensource.dev/uploads/1494/1f6b0d11a62e7e71.png)

## Ähnliche Projekte

- [openclaw/openclaw](openclaw-openclaw.md): Open-Source-KI-Assistent auf eigener Hardware, der in den eigenen Chat-Apps mitläuft · Aktivitäts-Score 5.0/5 (Sehr aktiv)
- [n8n-io/n8n](n8n-io-n8n.md): Fair-Code-Workflow-Automatisierung mit visueller Oberfläche, eigenem Code und 1500+ Integrationen · Aktivitäts-Score 5.0/5 (Sehr aktiv)
- [langgenius/dify](langgenius-dify.md): Visuelle Plattform für LLM-Anwendungen mit RAG-Pipelines, Agenten und Modellintegrationen · Aktivitäts-Score 5.0/5 (Sehr aktiv)
- [open-webui/open-webui](open-webui-open-webui.md): Selbst gehostete Weboberfläche für Offline-Chats mit Ollama- und OpenAI-kompatiblen Modellen · Aktivitäts-Score 5.0/5 (Sehr aktiv)
- [langchain-ai/langchain](langchain-ai-langchain.md): Python-Framework zum Erstellen von Agenten und LLM-Anwendungen aus wiederverwendbaren Komponenten · Aktivitäts-Score 5.0/5 (Sehr aktiv)
- [paperclipai/paperclip](paperclipai-paperclip.md): Ein Team aus KI-Agenten mit Zielen, Budgets und Aufgabenverfolgung steuern · Aktivitäts-Score 5.0/5 (Sehr aktiv)
