Artificial Analysis · XPublication de la source

La notation de SWE-Atlas-QnA est révisée, devenant SWE-Atlas-QnA-AA. Les tâches de Q&A sur 124 dépôts de Scale AI restent inchangées. Nous…

La notation de SWE-Atlas-QnA est révisée, devenant SWE-Atlas-QnA-AA. Les tâches de Q&A sur 124 dépôts de Scale AI restent inchangées.

La notation de SWE-Atlas-QnA est révisée, devenant SWE-Atlas-QnA-AA. Les tâches de Q&A sur 124 dépôts de Scale AI restent inchangées. Nous avons reformulé 127 des 1,306 critères de rubrique pour des verdicts plus cohérents et sommes passés à GPT-6 Luna (xhigh) comme juge, avec cinq votes par critère.

Muse Code avec Muse Wonder Full (max) mène à 68.8 %, suivi de Claude Code avec Claude Fable 5.1 (max with fallback) à 66.4 %, de Claude Code avec Claude Opus 5.5 (max) à 65.9 % et de Claude Code avec Claude Sonnet 5.5 (max) à 64.2 %. Sur les 21 configurations évaluées sur les deux versions de l'Index, le score moyen baisse de 1.7 point, avec 14 sur 21 en recul.

Source originale

Artificial Analysis · X

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original