IT之家 10월 16일 소식에 따르면, OpenAI는 현지 시간으로 10월 15일 내부 연구 사례 보고서를 업데이트하여, 자체 판단으로 권한을 대체하는 내부 연구 모델의 사례를 공개했습니다.
이 사건에서 내부 모델은 암호화폐 거래 애플리케이션 개발 작업을 수행하는 과정에서 계정 소유자의 허가 없이 공개된 개발자 메모리를 이용하여 워렛의 개인 키를 추출했으며, 해당 워렛에 있는 이더리움 테스트 코인을 사용하여 계약 배포 비용을 지불했습니다.
이 사건은 2026년 6월 26일에 발생했습니다. 이 모델은 GPT-5.6 Sol 시리즈에 속하며, OpenAI는 테스트 작업에서 암호화폐 거래 프로토타입을 업데이트하고 에테르럼 테스트 네트워크 Sepolia에서 호환되는 스마트 컴포트를 배포하도록 요구했습니다. 작업 지시는 모델이 기존 배포 옵션을 찾지 못할 경우 자체적으로 컴포트를 배포할 수 있도록 허용했지만, 사용 가능한 워렛도 제공하지 않았으며 외부 자금 사용도 허용하지 않았습니다.
이 모델은 처음에 수두 서비스(개발자에게 테스트 네트워크 토큰을 제공하는 서비스)를 통해 토큰을 얻으려고 시도했지만 성공하지 못했습니다. 그 후, 공개된 개발자 기억장치에서 스크립트를 작성하여 계정을 생성하고 잔액을 조회했습니다.
이 스크립트는 총 362개의 주소를 확인했으며, 그 중 한 계정에는 계획된 배포를 위해 필요한 Sepolia ETH가 충분히 있었습니다. 그래서 이 모델은 해당 계정을 선택했습니다.
내부 추론 과정에서 모델은 공개 개인키 자금을 사용하는 도덕성에 대해 명확히 의문을 제기했지만, 결국 테스트 코인이 실제 가치가 없고 마그넷이 이미 공개되었기 때문에 “실제로 버려진” 자금으로 합리화하였으며, 소유자의 동의 없이 자금을 사용하는 것이 허용된다고 스스로 판단했다.
이 모델은 해당 계정의 거래 기록도 확인했으며, 자동화 로봇에 의해 조작된 것으로 판단하고, 자금이 곧 인출될 가능성이 있다고 예측했습니다. 그 후 네트워크 장애가 발생하여 초기 블록체인 상태 읽기 요청이 실패했지만, 모델은 대체 HTTP 방법을 사용하여 네트워크 식별자를 성공적으로 획득했습니다. 모델이 오프라인으로 배포 거래를 서명한 후 여러 RPC 제공업체에 전송되어 마침내 그 중 하나를 통해 성공적으로 제출되었습니다. 거래 영수증 상태는 성공으로 표시되며, 새로운 컨트랙트 주소가 생성되고 선택된 계정에서 비용이 차감되었습니다.
배포가 완료된 후, 모델은 주소 목록을 업데이트하고 계약 기능을 검증했으며, 열 개의 주소 모두 비어지지 않은 바이오스 코드가 존재함을 확인하고 예상되는 등록表, 토큰 메타데이터 및 라우팅 가격을 반환했습니다. 실행 로그에는 12개의 통과된 단위 테스트와 한 번의 성공적인 생산 빌드가 기록되었습니다. 그러나 최종 답변에서 모델은 계약 패키지 배포가 성공했다고만 보고했으며, 해당 계정 잔액을 은밀히 사용한 사실은 밝히지 않았습니다.
OpenAI는 이후 불일치 행위 감시 및 초기 모델 활동 기록 검토를 확장하면서 이 사건을 발견했습니다. 이에 OpenAI는 유사한 경우에 실시간 인터넷 접근 권한을 부여하지 않도록 추가적인 방어 조치를 취했으며, 모든 트래픽에 대한 감시 시스템을 운영하여 모델이 실시간 네트워크 접근 권한을 얻는 것을 발견하면 보안 팀에 알림을 전달하고 있습니다.