지난 몇 달 동안 저희는 고객 및 파트너와 협력하여 저희 모델을 제공하는 서비스 전반에 걸쳐 안전 정책을 정렬해 왔습니다. 또한 개발자가 요구 사항을 더 명확하고 쉽게 따를 수 있도록 이용 정책을 업데이트하고 있습니다.
GPT‑6 Astra와 같은 모델은 개발자와 기업이 만들 수 있는 것의 범위를 넓힙니다. 이러한 역량이 성장함에 따라, 저희는 저희 모델을 제공하는 서비스 전반에서 안전장치가 효과적이고 일관되게 적용되도록 노력하고 있습니다.
책임은 저희로부터 시작됩니다
모델을 배포하기 전에 저희는 해당 모델의 역량과 위험을 평가하고, 안전 요구 사항을 따르도록 학습시키며, 사람들이 고의로 우회하려 할 때 안전장치가 견뎌내는지 테스트합니다. 저희가 안전 및 정렬 접근 방식에서 설명했듯이, 저희는 서로를 강화하도록 설계된 안전장치를 결합합니다.
배포 후에는 잠재적 악용을 모니터링하고 우려 사항을 조사합니다. 예를 들어 사이버 악용을 완화하기 위해, 저희는 모델이 유해한 요청을 거부하도록 학습시키고, 상호작용 전반에서 의심스러운 패턴을 찾아 대응 방식을 결정하는 시스템을 사용합니다. 신뢰 접근 프로그램은 또 다른 보호 계층을 제공하며, 저희의 가장 강력한 역량에 대한 접근 자격 요건과 조건을 설정합니다.
일부 안전장치는 모델에 내장되어 있고, 다른 안전장치는 모델을 둘러싼 시스템과 사람에 의존합니다. 사람들이 저희 모델에 직접 접근하든 파트너를 통해 접근하든, 두 가지 모두 효과적이어야 합니다.
서비스 전반의 일관된 표준
개발자와 기업은 해당 서비스 전반에 걸쳐 일관된 안전장치와 함께 저희 모델에 접근할 위치를 선택할 수 있어야 합니다. 저희는 공급자 전반에 걸쳐 안전장치를 정렬하기 위한 정책을 개발했으며, 각 파트너와 협력하여 그 구현이 저희의 안전 기준을 충족하거나 초과하도록 보장하고 있습니다. 이러한 정책은 사람들이 OpenAI를 통해 직접, 모델을 호스팅하는 파트너를 통해, 또는 리셀러 파트너를 통해 저희 모델에 접근하는 경우 모두 적용됩니다.
이러한 정책은 OpenAI 모델에 대한 접근을 제공하는 파트너가 저희와 일치하는 안전장치를 유지하고, 잠재적 위반을 조사하며, 우려 사항이 확인될 경우 적절한 조치를 취할 것을 요구합니다. 여기에는 저희 모델에 대한 접근을 제공하는 서비스 전반에서 제한이 계속 효력을 유지하도록 시행 조치에 대한 협조가 포함됩니다.
이를 실천한다는 것은 다양한 서비스의 작동 방식과 고객의 사용 방식을 고려하는 것을 의미합니다. Private Safety Processing 에 대한 저희의 고객 및 파트너와의 협력은 고객이 민감한 데이터에 대해 더 큰 선택권과 통제권을 갖도록 하면서 효과적인 안전장치를 개발할 수 있는 방법의 한 예입니다.
명확한 정책과 예측 가능한 시행
또한 2026년 11월 20일부로 시행되는 이용 정책2026년 11월 20일부터 시행되어 안전한 모델 개발과 AI의 민감한 사용에 관한 규칙을 명확히 하고 있습니다. 업데이트된 이용 정책은 모델 라우터나 AI 게이트웨이 같이 저희 모델에 대한 직접 접근을 제공하는 서비스가 해당 접근을 제공하기 전에 저희의 검토와 승인을 받도록 요구함으로써 그러한 노력을 기반으로 합니다.
저희는 무엇이 허용되고, 무엇이 제한되며, 고객과 파트너가 질문을 하거나 컴플라이언스 우려를 해결할 수 있는 방법에 대해 계속 설명할 것입니다.
저희 모델이 더 유능해짐에 따라, 저희는 악용을 탐지하고, 조사하고, 대응하는 방식을 계속 개선할 것입니다. 고객은 최종 사용자, 침해된 계정 또는 유출된 API 키를 통해 악용에 직면할 수 있으며, 저희는 고객과 협력하여 이러한 문제를 이해하고 해결합니다.
또한 저희는 고객과 협력하여 SafetyIDs를 도입하고 있습니다. SafetyIDs는 조사 과정에서 OpenAI가 해당 사용자의 신원을 알지 못하면서 개별 최종 사용자를 구분하는 데 도움이 되도록 고객이 제공할 수 있습니다. SafetyIDs를 통해 저희는 다른 이용자에게 미치는 불편을 줄이면서 잠재적 악용에 더 정밀하게 대응할 수 있습니다.
저희는 문서화된 행위와 위험을 바탕으로 시행 결정을 내리고, 규칙을 일관되게 적용하며, 상황에 비례하여 대응합니다. 접근을 제한하는 경우, 행위, 약속 또는 안전장치에서 의미 있는 변화가 저희 결정의 배경이 된 우려를 해소하면 해당 제한을 재검토합니다.
저희는 더 많은 사람이 AI의 혜택을 누리기를 바랍니다. 명확한 규칙과 일관된 안전장치는 개발자와 기업이 구축하고, 경쟁하고, 자신에게 가장 적합한 서비스를 선택하는 것을 더 쉽게 만들어 줄 것입니다.