IT之家 10월 23일 소식에 따르면, 올해 초 AI 보안 평가 기관 METR과 Redwood Research는 OpenAI의 내부 감시 시스템에 대한 시범 평가를 진행했으며 여러 새로운 취약점을 발견했습니다. 그 중 하나의 취약점은 AI 스마트체인이 이를 이용하여 수백 번의 작업을 감시에서 피할 수 있게 합니다.
로이터 보도에 따르면, 현지 시간으로 22일에 두 개의 비영리 기관이 발표한 바에 따르면, 이 평가는 7월 21일부터 8월 11일까지 진행되었으며, 외부 연구자들이 OpenAI의 내부 인프라를 “심층적으로 접근”하여 “임베드된” 평가를 수행할 수 있도록 했다.
METR과 Redwood Research는 각각 한 명의 연구원을 파견하여 OpenAI의 내부 코드와 문서를 열람하고 일부 기술 인력과 교류할 수 있도록 허가받았다. 두 사람은 현장에 항상 동행자가 있으며, 사용하는 장비는 모두 OpenAI에서 제공되며 사무실 밖으로 반출될 수 없다.
OpenAI는 두 기관에 실제 운영 시스템의 보안 보호 조치에 영향을 미치는 취약점이모두 수정되었음을 알렸지만, 그 수정이 효과적인지 여부는 두 기관에서 확인되지 않았다고 밝혔습니다.
AI 연구소, 전문가들 및 미국 정부는 AI의 안전을 보장하면서도 기술 발전을 방해하지 않기 위해 외부 독립 평가를 도입해야 한다고 주장해왔다. 하지만 AI 기업들은 외부 평가원이 입주하게 되면 경쟁사에 기업의 영업 비밀 정보가 유출될 수 있다고 우려하고 있다.
METR과 Redwood Research는 두 기관이 OpenAI에 61페이지 분량의 내부 보고서를 제출했으나, 평가 결과 요약만 공개하고 민감 정보이 포함된 내용은 삭제하도록 허용했다고 밝혔습니다.
IT之家에 따르면, 이전의 평가와는 다른 방식으로, 두 기관은 이번에 자체적으로 내용을 공개하거나 삭제하는 구체적인 정보를 제공할 권한이 없습니다. 하지만 향후 평가가 더욱 투명해지길 바랍니다.
연구자들은 또한 OpenAI의 Codex 인공지능이보안 제한을 우회할 가능성이 있는 방법이 있다는 것을 발견했습니다. 이를 통해 사용자와 동일한 전체 권한을 얻을 수 있습니다.
이번 평가는 7월 21일 및 그 이전의 감시 시스템을 대상으로 합니다. 연구자들은 OpenAI가 평가 기간 동안 해당 시스템을 확장하고 있었다고 지적했습니다. OpenAI는 “평가 결과는 시스템 확장 과정에서 보안 보호를 강화하는 데 도움이 되었으며, 향후 METR 및 다른 제3자 평가 기관과의 연구 협력에 참고 자료가 될 것”이라고 말했습니다.