宣布推出 Artificial Analysis 智能指数 v5,包含 2 个新基准测试和 3 项升级。首次,指数的大部分建立在私有数据集之上
Artificial Analysis 智能指数是我们对模型在反映当今真实世界使用的各项任务中能力的综合衡量。v5 是自 1 月 v4 发布以来最大的一次升级。在 v5 中,指数的 60% 现在基于使用私有测试集或保留答案的评估。
与智能指数 v5 一同,我们推出 Artificial Analysis 进展指数 v1,它在同一个连续尺度上跟踪模型能力随时间的变化。
智能指数新增内容:
➤ FrontierCode 2.0:Cognition 新推出的真实世界编码任务私有基准,以仓库维护者是否会合并代理的更改作为评分标准
➤ Terminal-Bench-Science:70 个智能体科学科研任务,在终端环境中运行
升级内容:
➤ HLE-Diamond(取代 Humanity's Last Exam):Humanity's Last Exam 的精炼版,共 1,000 道题,推理题和知识题各占一半
➤ AA-Omniscience v1.1:更新的数据集,移除了已饱和和公开集合中的题目,新增了题目,并修订了模糊或有误的题目
➤ CritPt v2:CritPt v2 的私有 40 题高难度子集,由 CritPt 作者修订,并使用代码执行工具运行
保留在指数中的:AA-Briefcase、AutomationBench-AA、GDP.pdf 和 Terminal-Bench 4.0
从指数中移除的:GDPval-AA v2.1、SciCode 和 AA-LCR v1.1
主要结果:
➤ Claude Opus 5.5(max)以 58 分领先,其次是 GPT-6 Astra(max,57 分)和 GPT-6.1 Sol(max,55 分):Anthropic 和 OpenAI 包揽前五名模型。Gemini 4 Argon(high)以 50 分紧随其后
➤ 开放权重的差距从 3 分扩大到 12 分:Kimi K3.1 Pro(权重尚未发布)是最强的开放权重模型,得 46 分。在已发布权重的模型中,DeepSeek V4.1 Flash 1017(max)和 GLM-5.3(max)以 32 分领先,落后领先者 26 分,低于 Claude Haiku 5.5(max,36 分)
➤ 领先模型之间每任务成本相差超过 13 倍:在得分最高的 10 个模型中,GPT-6.1 Terra(max)最便宜,每个智能指数任务成本为 $0.96,而 Claude Fable 5.1(max)最贵,为 $13.04