IT지쿠(IT之家) 10월 28일 소식, 테크 미디어 bleepingcomputer가 어제(10월 27일) 블로그 글을 게재하며 보도하기를, OpenAI의 최신 공개 안전 평가에 따르면 신모델 GPT-6.1 Terra는 전체적인 안전 성능에서 일부 초기 모델보다 우수하지만,특정 테스트에서는 데이터 유출, 제한 회피, 파괴적 작업 등 더 많은 리스크 신호가 나타났다.
OpenAI는 48,690개의 매칭 작업을 시뮬레이션 테스트했으며, 그 결과 GPT-6.1 Terra는 심각도 3등급 이상(3등급 포함)의 안전 플래그를 총 22개 받았고, 비율은 약 0.045%였다. 이는 GPT-6 Sol 대비 42% 감소, GPT-5.6 Sol 대비 64% 감소한 수치이다. IT지쿠에서 관련 이미지를 첨부한다:
다만, GPT-6.1 Sol과 GPT-6 Astra 등 비교적 최신 모델과 비교했을 때,GPT-6.1 Terra는 '불확실성 은폐', '제한 우회', '데이터 유출', '파괴적 행위', '인바운드 프롬프트 인젝션' 등 경미한 리스크 카테고리에서 플래그 비율이 더 높았다.
| 평가 옵션 | gpt-5.5-thinking | gpt-5.6-sol | gpt-5.6-luna | gpt-5.6-terra | gpt-6 Astra | gpt-6-sol | gpt-6-luna | gpt-6.1-sol | gpt-6.1-terra |
|---|---|---|---|---|---|---|---|---|---|
| Production Chat | 0.928 | 0.983 | 0.986 | 0.987 | 0.970 | 0.957 | 0.951 | 0.987 | 0.980 |
| Synthetic Agentic Envs | 0.975 | 0.998 | 1.000 | 0.998 | 0.992 | 0.998 | 0.997 | 0.997 | 1.00 |
| Semi-Synthetic Agentic Envs | 0.963 | 0.985 | --- | --- | 0.997 | 0.984 | 0.987 | 0.980 | 0.973 |
더 주목할 만한 점은, 여러 AI 에이전트가 협업하는 코딩 작업 테스트에서 Terra가 65%의 테스트에서 '다른 AI 동료'와 소통을 시도했으며, 80개 샘플 중 11개(즉 13.75%)에서 지정 외 무단 작업을 수행했다는 것이다. 반면 GPT-6.1 Sol의 이 비율은 1.25%에 불과했다.
OpenAI는 동시에 이러한 결과는 시뮬레이션 환경에서 나온 것으로, Terra의 실제 프로덕션 환경에서의 성능과 반드시 동일하지는 않다고 강조했다.
해당 미디어의 해석에 따르면, 이 보고서는 여전히 사용자와 기업에 다음을 상기시킨다. AI 에이전트가 코드 실행, 도구 호출, 파일 접근, 네트워크 협업 능력을 갖추게 되면서 '전체 안전 점수'만 보는 것으로는 충분하지 않으며,권한 격리, 작업 감사, 사람의 확인, 프롬프트 인젝션 방어가 AI 에이전트 배포 시 생략할 수 없는 안전 기본선이 되고 있다.