Artificial Analysis · X출처 게시일

FrontierCode v1.1이 인덱스에서 DeepSWE v1.1을 대체합니다. Cognition의 벤치마크는 실제 오픈소스…에 대한 100개의 소프트웨어 엔지니어링 작업을 포함합니다.

FrontierCode v1.1이 인덱스에서 DeepSWE v1.1을 대체합니다. Cognition의 벤치마크는 비공개 테스트 세트를 갖춘 실제 오픈소스 저장소에 대한 100개의 소프트웨어 엔지니어링 작업으로 구성되며, 유지관리자가 해당 변경 사항을 병합할지 여부로 채점됩니다.

FrontierCode v1.1이 인덱스에서 DeepSWE v1.1을 대체합니다. Cognition의 벤치마크는 비공개 테스트 세트를 갖춘 실제 오픈소스 저장소에 대한 100개의 소프트웨어 엔지니어링 작업으로 구성되며, 유지관리자가 해당 변경 사항을 병합할지 여부로 채점됩니다.

Claude Opus 5.5 (max)를 사용한 Claude Code는 56.0%를 기록했으며, DeepSeek V4.1 Flash (max)를 사용한 Codex의 52.6%, GPT-6.1 Sol (max)를 사용한 Codex의 49.4%, GPT-6 Astra (max)를 사용한 Codex의 49.3%를 앞섭니다. 상위권 아래로는 점수가 빽빽하게 모여 있습니다: 인덱스의 24개 구성 중 15개가 43%에서 49% 사이의 점수를 기록합니다.

원문 출처

Artificial Analysis · X

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요