구글은 자기진화하는 AI는 전혀 존재하지 않는다고 말합니다

구글은 자기발전하는 AI는 전혀 근처에도 없다고 말합니다

구글 엔지니어 헤이든 벨필드는 상당한 자동화가 이미 진행되고 있음에도 불구하고 자기향상형 AI는 아직 멀리 떨어진 상태라고 말했습니다.

Belfield에 따르면, Google Deepmind은 AI 자체에 의해 추진되는 AI 연구의 측정 가능한 가속화를 관찰하지 못했다. 그러나 이것이 중요한 자동화이미지가 발생하지 않는다는 의미는 아니다: 현재 AI는 생산 코드의 75% 이상을 작성하고 있다. 하지만 약 88%의 코드 변경은 여전히 인간의 감독이나 검토가 필요하며, 모든 변경 사항은 제출되기 전에 인간에 의해 검토된다. AI에 완전히 위임된 코드 변경 비율은 7.5%에서 11.9%로 증가했다.

일이 더 복잡하고 시간이 많이 걸릴수록, AI가 스스로 처리하는 가능성이 줄어듭니다. 1,389번의 내부 Argon 에이전트 실행을 통해, 인간의 개입 없이 성공률은 복잡성이 증가함에 따라 급격히 하락했습니다. 창의적인 연구, 새로운 실험 설계, 미묘한 훈련 불안정성 진단, 장기적 계획 수립에는 여전히 인간이 필수적입니다. 벨필드가 말했습니다. 12명의 Deepmind 연구원들을 대상으로 한 설문조사도 이 패턴을 확인했으며, 명확하고 검증 가능한 작업에서는 자동화가 가장 높고, 개방형 과학적 아이디어에서는 가장 낮았습니다.

Deepmind의 자체 벤치마크 RE-Bench에서 74개의 현실적인 머신러닝 엔지니어링 과제가 포함되어 있으며, Argon은 그 중 약 절반을 해결했습니다. 이는 Gemini 3.7 Flash의 27% 성과에 비해 큰 향상입니다. 하지만 완전한 자동화가 요구하는 거의 완벽한 성능에는 아직 멀었습니다.

구글 자체 능력 지수는 AI 연구에서 속도 향상이 없음을 보여줍니다

체계적으로 진행 상황을 추적하기 위해, 팀은 123개 모델과 92개 벤치마크를 포함하는 일반적인 역량 지수(GCI)를 개발했습니다. Gemini 모델의 역량은 매월 약 0.1 GCI 포인트의 안정적인 속도로 성장하고 있으며, 속도에 큰 변화는 없습니다. 팀은 Gemini 4 Argon이 트렌드 라인 위에 약간 위치한 것을, AI 기반 가속화보다는 더 많은 컴퓨팅 및 조직적 투자 때문이라고 보고합니다.

팀은 현재 AI 기반 연구 자동화로 인한 위험을 낮은 수준으로 평가하고 있지만, 앞으로 진행되는 속도 증가의 징후를 추적하기 위한 측정 인프라를 구축하고 있습니다.

벨필드의 연구 결과 앞뒤 맞추기 최근 연구하지만 분야 내 모든 사람이 동의하는 것은 아닙니다. 제프리 힌튼, 요시우아 벤지오, 그리고 오픈AI의 야쿠브 파초키를 포함한 20명 이상의 AI 연구원들이 최근에 “정보 폭발” 가능성에 대한 경고 연구 논문에서 그들은 인공지능 시스템이 몇 년 안에 모든 인공지능 연구 및 개발을 자동화할 수 있다고 주장했으며, 일반적으로 몇 년이 걸리는 진전을 단지 몇 달로 압축할 수 있다고 했습니다.

흥분 없이의 AI 뉴스 – 인간이 선별한 내용

THE DECODER에 가입하여 광고 없는 읽기, 주간 AI 뉴스레터, 매년 6회 발행되는 독점적인 "AI Radar" 전선 보고서, 전체 아카이브 접근 권한, 그리고 우리의 댓글 섹션에 접속하세요.