MarkTechPostPublication de la source

Nace AI open-source Drex Max v1 : un modèle de décision 27B qui fonctionne localement sur Apple Silicon

Nace AI a publié Drex Max v1 en poids ouverts. Drex Max est son modèle de décision le plus performant, et il fonctionne désormais sur votre propre matériel.

Nace AI a publié Drex Max v1 en poids ouverts. Drex Max est son modèle de décision le plus performant, et il fonctionne désormais sur votre propre matériel. La version est livrée avec des poids bf16, un Q8_0 GGUF, un checkpoint affine Q4 et des forks de llama.cpp et Ollama. Pour les développeurs, les poids ouverts de Drex Max signifient que le routage, la classification et les vérifications de politique peuvent rester sur une machine locale.

TL;DR

  • Taille : Dense 27B paramètres, fenêtre de 262,144 tokens (16,384 par défaut), jusqu'à 255 options par question.
  • Fonctionne sur : GPU NVIDIA avec Python (H100 bf16, ou L40S 48 GB en 8 bits). Macs Apple Silicon avec 24 GB+ (affine Q4) ou 48 GB (Q8_0 GGUF). CPU via llama.cpp et Ollama.
  • Performance : 67.52 sur le Decision Index 0.4 public, soit 6.27 points devant Drex v2.0 (auto-déclaré).
  • Meilleur : 97.3 de compétence sur InfographicVQA. La zone Tools atteint 81.9. Un modèle de décision de premier plan que vous pouvez désormais exécuter hors ligne sur un Mac.

Qu'est-ce que Drex Max ?

Drex Max est un modèle de décision de Nace.AI qui répond à des questions typées sur un contexte donné. Vous fournissez un état (texte, JSON ou images) ainsi que des questions nommées. Le modèle renvoie une probabilité pour chaque option en une seule passe avant. Rien n'est généré.

Les questions se présentent sous 3 types : choix parmi des options nommées, oui/non, et un score ordinal. Cela le rend adapté au routage d'agents, au tri de tickets et aux vérifications de garde-fous. La version hébergée est présentée pour le routage, la classification et les vérifications de politique.

Comment fonctionne Drex Max ?

La fiche de modèle décrit un backbone dense de 27B avec 64 couches. 48 sont des couches d'attention linéaire Gated DeltaNet qui fonctionnent de gauche à droite. Les 16 autres sont des couches d'attention complète, placées toutes les quatre couches, et elles sont non causales. Chaque token peut assister à toute la séquence.

Les images passent par une tour de vision native et sont visibles pour chaque question d'une requête. Une tête de lecture à 255 voies transforme ensuite le dernier état caché en probabilités d'options. La configuration indique un type de modèle qwen3_5 avec une fenêtre de 262,144 positions.

Comment Drex Max se comporte-t-il sur les benchmarks ?

Tous les chiffres ci-dessous sont auto-déclarés par Nace AI,

  • Indice de décision 0.4 (texte public) : 67.52. Drex v2.0 obtient 61.25 et Jev 1.13.0 obtient 57.96.
  • Compétences par domaine : Outils 81.9, Langage 72.2, Récupération 68.8, Connaissances et raisonnement 57.1, Arts 53.4.
  • Indice de vision publique : 73.92 sur 11 benchmarks et 12,210 lignes.
  • Indice de décision Artificial Analysis : 64, ce qui place Nace 4e sur 18, selon l'entreprise.
  • JevBench : 92.2% (213/231). Decision Bench v4 : 94.30% (1010/1071).

Le jeu de données de résultats couvre 140,620 requêtes. Les requêtes sans réponse comptent comme erronées.

Comment exécuter Drex Max en local ?

Nace documente 5 runtimes. Tous servent la même API POST /v1/systemone.

RuntimeMatérielCheckpointImages
PythonGPU NVIDIAbf16 (~49 Go) ou 8 bits (~26 Go)Oui
Fork de llama.cppApple Metal, CPUQ8_0 GGUF (27.25 GB)Non
Fork d'OllamaApple Metal, CPUQ8_0 GGUFNon
Kapitsa v0.2.25+Apple SiliconQ8_0 GGUF ou Q4 affineNon
MLXApple SiliconQ4 affine (14.45 GB)Non

Le checkpoint affine Q4 cible les Macs avec 24 GB ou plus. Le Q8_0 GGUF nécessite 48 GB. Sur un Mac de 48 GB, Nace recommande –context 2048 pour Kapitsa.

Les utilisateurs d'Ollama définissent num_gpu 40 pour déléguer 40 couches à Metal. Définir num_gpu 0 l'exécute sur le CPU. Le fork d'Ollama nécessite une ligne de décision CAPABILITY dans le Modelfile.

La quantification tient bien dans les tests de Nace. Sur un Apple M5 Pro de 48 GB, le Q8_0 GGUF a égalé le H100 bf16 à moins de 0.02 par probabilité près. Le Q4 affine est resté à moins de 0.0329 du Q8_0, sans inversion de choix.

Drex Max face aux autres modèles de décision

Drex Max v1Drex v2.0Drex v1.5Jev 1.13.0
Paramètres27B dense35B MoE, ~3B actifs9BNon publié
Contexte maximal262,144131,072131,072Non divulgué
EntréesTexte, JSON, imagesTexte (tour de vision supprimée)TexteNon divulgué
PoidsOuvert, Nace.AI Open RAIL-MOuvert, Nace.AI Open RAIL-MOuvert, Nace.AI Open RAIL-MFermé, hébergé
Plus petit fichier localAffine Q4, 24 Go ou plus sur MacQ8_0, 36.9 GoQ8_0, ~9.5 GoSans objet
Decision Index public67.52 (v0.4)61.25 (v0.3.1)58.08 (v0.3.1)57.96
JevBench92.2%85.7%Non divulgué86.6%
AA Decision Index6458Non répertorié58
Tarif hébergé0,03 $ / 1K décisions (lancement)0,06 $ / 1K décisions0,04 $ / 1K décisions42 $ / 1M de tâches

L'équipe de Nace AI indique que le Decision Index 0.4 utilise la même suite publique que le 0.3.1. 

Points clés

  • Les poids de Drex Max v1 sont désormais publics sous Nace.AI Open RAIL-M.
  • Il obtient un score de 67.52 sur le Decision Index 0.4, devant Drex v2.0 (61.25).
  • Une build 4-bit fonctionne sur les Mac Apple Silicon de 24 GB via Kapitsa ou MLX.
  • Q8_0 sur un M5 Pro a égalé H100 bf16 à 0.02 près.
  • Les chemins locaux Mac et CPU sont en texte seul pour l'instant.

Consultez les poids du modèle, Q8_0 GGUF, le code et la documentation, Tweet et console cloud. 


Merci à l'équipe de Nace AI pour son leadership éclairé / ses ressources pour cet article. Cet article est sponsorisé par Nace AI.

L'article Nace AI Open-Sources Drex Max v1 : A 27B Decision Model That Runs Locally on Apple Silicon est apparu en premier sur MarkTechPost.

Source originale

MarkTechPost

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original