Artificial Analysis · X来源发布时间

隆重推出 Code2Video-AA,这是我们对 HeyGen 的 Code2Video Bench 的独立实现,用于评估模型创建产品和……

隆重推出 Code2Video-AA,这是我们对 HeyGen 的 Code2Video Bench 的独立实现,用于评估模型用代码创建产品和品牌营销视频的能力

隆重推出 Code2Video-AA,这是我们对 HeyGen 的 Code2Video Bench 的独立实现,用于评估模型用代码创建产品和品牌营销视频的能力

Code2Video-AA 在 114 个设计简报上测试模型,要求它们将每个产品或品牌营销简报转化为 @HyperFrames_ HTML 作品,再由我们渲染成视频。模型输出通过与其它模型输出的两两比较在五个维度上进行评估:吸引力(Engagement)、提示意图(Prompt Intent)、构图(Composition)、时间一致性(Temporal Consistency)和工艺(Craft)。我们利用这些比较的结果计算每个维度的 Elo 评分,然后取平均值得到总体的 Code2Video-AA Elo。Code2Video-AA 是与 @HeyGen 合作构建的。

Claude Opus 5.5(max with fallback,1536)以 93 分的优势领跑 Code2Video-AA,但每个任务成本为 $3.08,约为 GPT-6.1 Sol(max,1369)的 10 倍,后者落后 167 分。

主要发现:

➤ Claude Opus 5.5 在全部五个评审维度上领先:模型在 5 个维度上接受评审:吸引力(Engagement)、提示意图(Prompt Intent)、构图(Composition)、时间一致性(Temporal Consistency)和工艺(Craft)。Claude Sonnet 5.5(max with fallback,1443)与 GPT-6 Astra(max,1427)在总分上并列第二,差距在统计误差范围内

➤ 每个任务的成本相差超过 300 倍,从 $0.01 到 $3.89:排名第四的 GPT-6.1 Sol(max)每任务成本为 $0.31,比 Claude Opus 5.5(max with fallback)的 $3.08 低约 90%

➤ 开放权重模型至少落后 483 分:DeepSeek V4.1 Flash(max,1053)、MiMo-V2.6-Flash(1052)和 MiMo-V2.6-Pro(1052)是最顶尖的开放权重模型,每任务成本为 $0.01 至 $0.08

Code2Video-AA 详情:

➤ 模型在无工具的单一响应下接受测试。我们使用 HyperFrames 进行渲染,且无网络访问

➤ 一个评审(Gemini 4 Argon,high)在五个维度上对成对视频进行比较:吸引力、提示意图、构图、时间一致性和工艺,最终得分由各维度单独的 Elo 组合计算得出

➤ 超过 35,000 个判定结果对 27 个模型进行 Elo 排名,并提供 95% 置信区间

更多结果、示例视频以及 Code2Video-AA 的工作原理将在下方推文串中呈现

原始出处

Artificial Analysis · X

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准