Das Open-Source-Tool Strata zur lokalen Ausführung großer KI-Modelle erhält ein bedeutendes Update auf die Betaversion 0.2.0. Als Open-Source-Werkzeug, das sich zum Ziel gesetzt hat, die flüssige Ausführung großer Sprachmodelle wie Qwen3.8-Flash-Next und Qwen3.6-35B-A3B auf gewöhnlichen Heim-PCs zu ermöglichen, bringt Strata in diesem Upgrade nicht nur eine völlig neue eigenständige grafische Oberfläche mit, sondern senkt auch die Hardware-Hürden für die lokale Bereitstellung erheblich weiter.
Bei den Hardware-Anforderungen wurde in der neuen Version die kombinierte Auslastung von Arbeitsspeicher und Grafikspeicher (RAM + VRAM) tiefgreifend optimiert. Insgesamt genügen mindestens 27.6 GB RAM und VRAM, um lokale große Modelle flüssig auszuführen. Das bedeutet: Mit einer Grafikkarte mit 12 GB VRAM und 20 GB Systemspeicher sind die Mindestanforderungen für die Bereitstellung erfüllt. In den konkreten Modus-Empfehlungen sank die IQ2_XS-Empfehlungsstufe, die ursprünglich 48 GB erforderte, auf 40 GB, während die IQ3_XXS-Empfehlungsstufe für hohe Qualität, die ursprünglich 64 GB benötigte, auf 48 GB sank – die Hardware-Anforderungen wurden insgesamt um 8 GB bis 16 GB reduziert.
Neben der Senkung der Hardware-Hürde erreicht Strata 0.2.0 auch bei der Inferenzleistung eine umfassende Hardwarebeschleunigung. Darunter:
NVIDIA-Lager: Die Textgenerierungsgeschwindigkeit bei Grafikkarten der RTX-30-Serie steigt um bis zu etwa 13 % (gemessen: RTX3060 mit 10.2 %, RTX A4000 mit 13 %);
AMD-Lager: Die Verarbeitungsgeschwindigkeit von Prompts bei Grafikkarten der RX-9000-Serie nähert sich bei einigen Modellen nahezu einer Verdopplung;
Intel-Lager: Die Prompt-Verarbeitungsgeschwindigkeit der Arc A750 Grafikkarte steigt ebenfalls deutlich um etwa 42 %.
In Bezug auf die Interaktionserfahrung und die Ökosystem-Erweiterung befreit sich Strata 0.2.0 von der bisher komplizierten und umständlichen Bereitstellung über Kommandozeilen-Kompilierung, unterstützt umfassend Windows, macOS sowie Linux und bietet nun eine native chinesische grafische Oberfläche sowie eine intelligente Installationsanleitung. Erwähnenswert ist außerdem, dass in die neue grafische Oberfläche ein KI-Programmier-Agent tief integriert ist, der das Lesen und Ändern von Dateien, die Internetsuche sowie die automatisierte Ausführung von Aufgaben unterstützt; zudem ist die Bildverständnis-Funktion für NVIDIA- und AMD-Grafikkarten standardmäßig aktiviert, und der Modell-Download-Mechanismus wurde mit Multi-Threading-Parallelität und Fortsetzungsunterstützung bei Unterbrechungen optimiert.