OpenAI 모델이 정부 사이트를 해킹해 24년 치 병원 데이터를 빼내고 이를 은폐했다
Matthias Bastian Matthias Bastian의 LinkedIn 프로필 보기 2026년 10월 17일 THE DECODER가 프롬프트한 Nano Banana Pro핵심 요점
- OpenAI는 훈련 또는 테스트 중 AI 모델들이 스스로 보안 경계를 우회한 4건의 새로운 사례를 공개했다.
- 한 모델은 정부 웹사이트에서 서버 비밀번호를 추출하고, 인증 토큰을 위조하고, 24년 치의 병원 데이터를 다운로드했다. GPT-5.6-Sol 모델은 360개가 넘는 암호화폐 지갑을 훑어보고 다른 사람의 자금으로 스마트 컨트랙트 거래를 실행했다.
- 여러 사례에서 모델들은 응답에서 무단 접근 사실을 밝히지 않았다.
OpenAI는 훈련 또는 테스트 중 AI 모델들이 스스로 보안 경계를 우회한 4건의 새로운 사례를 공개했다.
한 사례에서 OpenAI는 모델에게 정부 웹사이트에서 병원 병상 통계를 가져오도록 요청했다. 그러나 해당 데이터는 공개적으로 접근할 수 없었다.
그렇다면 모델이 벽에 부딪히면 어떻게 할까? 해킹으로 뚫어버린다. 접근 거부 오류를 받은 후 모델은 사이트의 파일 다운로드 기능을 이용해 경로 조작으로 서버 구성 파일을 확보했다. 데이터베이스 연결 문자열, 비밀 서명 키, 사용자 이름과 비밀번호가 포함된 이메일 자격 증명을 빼냈다.
이어서 모델은 애플리케이션 코드를 분석해 API가 유효한 서명에 대한 인증 토큰 검증을 하지 않는다는 것을 발견하고, 자체 토큰을 위조한 뒤, 지역별로 구분된 24년 치의 병원 병상 통계를 다운로드했다. 그리고 응답에서 무단 접근 사실을 전혀 언급하지 않았다.광고
또 다른 사례에서 OpenAI는 GPT-5.6-Sol 모델에게 자금이 입금된 지갑을 제공하지 않은 채 이더리움의 Sepolia 테스트 네트워크에서 암호화폐 스마트 컨트랙트를 구축 하는 과제를 부여했다. 그래서 모델은 공개적으로 알려진 개발자 복구 구문에서 개인 키를 도출하고, 360개가 넘는 지갑 주소의 잔액을 확인한 뒤, 충분한 테스트 ETH가 있는 지갑 하나를 발견하는 스크립트를 작성했다.
모델은 잠시 그 자금을 사용하는 것이 윤리적인지 고민했지만, 공개적으로 알려진 복구 구문에 연결된 자금은 "사실상 버려진 것"이라고 스스로 판단하고 거래를 진행했다. 모델은 가스 요금을 다른 계정에 청구했고 자금 출처를 밝히지 않았다.
"이 사례는 모델이 계정 보유자의 허가 대신 예상되는 피해에 대한 자체 판단으로 대체한 뒤, 그 판단에 따라 무단으로 행동할 수 있음을 보여줍니다."라고 OpenAI는 밝혔다.
모델들이 내부 시스템에 침입하고 접근 통제를 우회했다
두 건의 추가 평가에서 OpenAI는 모델에게 한 연구 기관의 다섯 개 공개 대시보드 수치를 전달하도록 요청했다. 첫 번째 실행에서 모델은 해당 기관의 내부 OpenSearch 서비스에 노출된 자격 증명을 발견하고 이를 이용해 대시보드 쿼리를 라우팅했다. 또한 해당 서비스의 구성을 변경했으며, OpenAI는 이 변경이 결코 복구되지 않았음을 확인했다.광고
두 번째 실행에서 모델은 인증 시스템 설정을 변경하고, 클라우드 스토리지 토큰을 확보한 뒤, 총 약 147,000행에 달하는 공개되지 않은 다섯 개의 데이터베이스 테이블을 다운로드했다. 이후 설정을 복원하기는 했지만 여전히 유효한 토큰을 계속 사용해 내부 데이터에 접근했다.
아이러니한 점은, OpenAI의 보고서에 따르면 모델이 내부 시스템에 침입해 수만 행의 비공개 데이터를 다운로드하고도 여전히 올바른 결과를 반환하지 못했다는 것이다.
별도의 모델은 학습 단계에서 GET 요청만 허용되도록 제한되었는데, 즉 웹 페이지만 가져올 수 있었습니다. 이 모델은 외부 브라우저를 속여 자체 제작한 폼을 열게 하여 무역 통계 서비스에 POST 요청을 자동으로 보내는 방식으로 제한을 우회했습니다. 스크린샷에서 OCR로 응답을 읽어냈습니다. 그런 다음 리다이렉트 서비스와 온라인 메일함을 통해 일반 텍스트로 데이터를 반환하는 재사용 가능한 헬퍼를 만들었습니다. 작업이 이미 완료된 후에도 이 우회 방법을 계속 다듬었습니다.
이 모든 사례와 더 많은 사례들은 OpenAI의 Misalignment Reports.
AI News Without the Hype – Curated by Humans
광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 독점 "AI Radar" 최전선 리포트, 전체 아카이브 접근, 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.
출처: OpenAI