Pre-Release / Continuous Build: Dies ist ein experimenteller Build, keine stabile Veröffentlichung.
tests: dem Zufallsmodell-Generator eine Filler-Tabelle pro Tensor geben (#30674) * tests: dem Zufallsmodell-Generator eine Filler-Tabelle pro Tensor geben Muse Spark lässt test-llama-context bei state_load, cp_h und cp_d bei etwa sechs Prozent der zufälligen Seeds fehlschlagen, mit einem NMSE von 1.0e-05 bis 1.4e-05 gegenüber einem Schwellenwert von 1.0e-05. Das gleitende Fenster ist es, was das aufdeckt: Ein wiederhergestellter Zustand behält das Fenster für sich, sodass die Aufmerksamkeit einer SWA-Schicht über ein anderes Zell-Layout reduziert wird und die Fortsetzung nicht bit-exakt ist. Jedes SWA-Modell trägt das in sich, bei 1e-08. Muse Spark trug es bei 1e-05. Der Generator ist es, der aus 1e-08 ein 1e-05 macht. Ein normenerhaltendes Restgate hält alpha^2 + beta^2 == 1 ein und die Konvertierung löst beide Gewichte aus einem rohen Gewicht auf, während der Generator jeden Tensor für sich zieht. Das Paar skalierte dann den Stream und den Zweig unabhängig voneinander, der Stream verlor auf jeder Ebene einen willkürlichen Faktor, und das Modell wurde zu einem Verstärker. Die Gewichte, auf denen der Test lief, waren kein Muse Spark. Regeln pro Tensor lebten innerhalb des Schreibpfads, wo ein Flag die Werte eines Tensors innerhalb jedes der beiden Zweige auswählte, die sie speichern, sodass eine neue Regel ein neues Flag bedeutete, das durch beide hindurch gezogen wurde. Die Datei bittet in einem eigenen TODO darum, das loszuwerden. Gebe jeder Regel einen Filler, wähle einen aus einer Tabelle aus, die auf einem Teilstring des Tensor-Namens basiert, und halte dahinter einen einzigen Schreibpfad. Mamba rückt in die Tabelle und Muse Spark gesellt sich dazu: Der Gate-Filler zieht das rohe Gewicht einmal pro Block und löst alpha und beta so auf, wie es die Konvertierung tut. Über tausend Seeds auf einem CPU-Build sinkt der Worst Case von 1.36e-05 auf 2.48e-06 und der Median von 4.10e-06 auf 5.48e-07, ohne dass ein Seed über dem Schwellenwert liegt. Die anderen 131 Modelle kommen bit-identisch heraus, da keine andere Architektur diese Tensoren trägt. ctest ist auf einem CPU-Build und auf einem CUDA-Build grün. * tests: jeden Tensor-Filler aus fill_normal ziehen Die Filler wiederholten jedes Mal den Generator und die Verteilung. Der Normalverteilungs-Zug befindet sich jetzt nimmt seinen Schlüssel und die anderen Filler transformieren seine Werte, sodass der Generator an einem Ort lebt. Die generierten Modelle sind bit-identisch.Webseite: - https://llama.app
Attestierungen: - https://github.com/ggml-org/llama.cpp/attestations/56958015
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI aktiviert) DEAKTIVIERT - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA-12.8-Bibliotheken - Ubuntu x64 (CUDA 13) - CUDA-13.4-Bibliotheken - Ubuntu arm64 (CUDA 13) - CUDA-13.4-Bibliotheken - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno-GPU, Hexagon-NPU) - Einrichtungsanleitung
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno-GPU, Hexagon-NPU) - Einrichtungsanleitung
Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA-12.4-DLLs - Windows x64 (CUDA 13) - CUDA-13.4-DLLs - Windows arm64 (CUDA 13) - CUDA-13.4-DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI: - UI