Pre-release / compilación continua: esta es una compilación experimental, no una versión estable.
tests: dotar al generador aleatorio de modelos de una tabla de rellenos por tensor (#30674) * tests: dotar al generador aleatorio de modelos de una tabla de rellenos por tensor Muse Spark hace que test-llama-context falle en state_load, cp_h y cp_d en alrededor del seis por ciento de las semillas aleatorias, con un NMSE de 1.0e-05 a 1.4e-05 frente a un umbral de 1.0e-05. La ventana deslizante es lo que lo expone: un estado restaurado mantiene la ventana sola, de modo que la atención de una capa SWA reduce sobre una disposición de celdas diferente y la continuación no es exacta bit a bit. Todos los modelos SWA llevan eso, a 1e-08. Muse Spark lo llevaba a 1e-05. El generador es lo que convierte 1e-08 en 1e-05. Una puerta residual que preserva la norma mantiene alpha^2 + beta^2 == 1 y la conversión resuelve ambos pesos a partir de un solo peso crudo, mientras que el generador sortea cada tensor por su cuenta. El par entonces escalaba el stream y la branch de forma independiente, el stream perdía un factor arbitrario en cada capa, y el modelo se convertía en un amplificador. Los pesos con los que se ejecutó la prueba no eran un Muse Spark. Las reglas por tensor vivían dentro de la ruta de escritura, donde una bandera elegía los valores de un tensor dentro de cada una de las dos ramas que los almacenan, así que una regla nueva significaba una bandera nueva atravesando ambas. El archivo pide librarse de eso en un TODO propio. Dale a cada regla un relleno, elige uno de una tabla indexada por una subcadena del nombre del tensor, y mantén una única ruta de escritura detrás. Mamba entra en la tabla y Muse Spark se une a ella: el relleno de la puerta sortea el peso crudo una vez por bloque y resuelve alpha y beta de la misma manera que lo hace la conversión. Más de mil semillas en una compilación de CPU: el peor caso baja de 1.36e-05 a 2.48e-06 y la mediana de 4.10e-06 a 5.48e-07, sin ninguna semilla por encima del umbral. Los otros 131 modelos salen idénticos bit a bit, ya que ninguna otra arquitectura lleva estos tensores. ctest está en verde en una compilación de CPU y en una compilación de CUDA. * tests: sortear cada relleno de tensor desde fill_normal Los rellenos repetían el generador y la distribución cada vez. El sorteo normal ahora toma su clave y los otros rellenos transforman sus valores, de modo que el generador vive en un solo lugar. Los modelos generados son idénticos bit a bit.Sitio web: - https://llama.app
Atestaciones: - https://github.com/ggml-org/llama.cpp/attestations/56958015
macOS/iOS: - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI habilitado) DISABLED - macOS Intel (x64) - iOS XCFramework
Linux: - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - Bibliotecas CUDA 12.8 - Ubuntu x64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu arm64 (CUDA 13) - Bibliotecas CUDA 13.4 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Android: - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, GPU Adreno, NPU Hexagon) - guía de configuración
Windows: - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - DLLs de CUDA 12.4 - Windows x64 (CUDA 13) - DLLs de CUDA 13.4 - Windows arm64 (CUDA 13) - DLLs de CUDA 13.4 - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0)
openEuler: - DISABLED - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph)
UI: - UI