Anthropic은 METR에 AI 모델과 안전 관행을 감사할 수 있는 접근 권한을 제공합니다

Anthropic은 METR에 AI 모델과 안전 관행을 감사할 수 있는 접근 권한을 제공합니다

Anthropic은 비영리 단체인 METR의 팀에게 자사의 AI 모델과 안전 절차를 검토할 수 있는 접근 권한을 부여했다고 발표했습니다. 6명의 METR 직원은 회사 장비, 사무실 공간, 내부 도구에 대한 접근 권한을 받았으며, Anthropic은 이로 인해 그들이 자체 위험 팀과 거의 동등한 위치에 있게 된다고 말했습니다.

고객 데이터, 변호인-클라이언트 비밀유지 규정에 해당하는 정보, 그리고 모델 아키텍처에 관한 세부 사항은 공개되지 않아야 합니다. METR는 자체적으로 연구 결과를 발표할 것입니다. Anthropic은 특정 사전 정의된 범주에 대해 비공개 요청을 할 수 있지만, METR은 그러한 비공개가 정당하다고 생각하는지 공개적으로 밝힐 수 있습니다.

Anthropic은 모든 안전과 관련된 정보가 공개될 수는 없다고 주장합니다. 이는 공격자에게 도움이 될 수 있거나 상업적으로 민감한 정보이기 때문입니다. METR 계약은 회사가 다른 외부 리뷰어들에게 제공했던 것보다 더 깊은 접근 권한을 제공합니다. SecureBio, Accenture, Faculty는 지금까지 더 적은 접근 권한과 더 엄격한 발표 제한을 받고 있으며, Anthropic은 Hugging Face와 조기 협상에 착수했습니다. 이 움직임은 초인간에 관한 백악관 협정에 아나폴릭이 서명한 것에 따른 것으로, 외부 검토자들과 협력할 것을 약속하고 있습니다.

과장 없는 AI 뉴스 – 인간이 선별한 내용

THE DECODER에 가입하여 광고 없는 읽기, 주간 AI 뉴스레터, 매년 6회 발행되는 독점적인 "AI Radar" 전선 보고서, 전체 아카이브 접근 권한, 그리고 우리의 코멘트 섹션에 대한 접근 권리를 얻으세요.