지난 몇 달 동안 저희는 고객 및 파트너와 협력하여 저희 모델을 제공하는 서비스 전반에 걸쳐 안전 정책을 일치시켰습니다. 또한 개발자가 해당 요건을 더 명확하고 쉽게 따를 수 있도록 사용 정책(Usage Policies)을 업데이트하고 있습니다.
GPT‑6 Astra와 같은 모델은 개발자와 기업이 구축할 수 있는 것의 범위를 넓혀줍니다. 이러한 역량이 성장함에 따라, 우리는 당사 모델을 제공하는 서비스 전반에서 안전장치가 효과적이고 일관되게 적용되도록 유지하기 위해 노력하고 있습니다.
책임은 우리로부터 시작됩니다
모델을 배포하기 전에 우리는 모델의 역량과 위험을 평가하고, 안전 요구사항을 따르도록 훈련시키며, 사람들이 고의적으로 이를 우회하려 할 때 안전장치가 견딜 수 있는지 테스트합니다. 우리가 안전성과 정렬에 대한 접근 방식, 우리는 서로를 보완하도록 설계된 안전장치들을 결합합니다.
배포 후에는 잠재적인 악용 사례를 모니터링하고 우려 사항을 조사합니다. 다음으로 사이버 오용을 완화하다예를 들어, 우리는 모델이 유해한 요청을 거부하도록 훈련하고 상호작용 전반에서 의심스러운 패턴을 탐지하여 대응 방식을 결정하는 시스템을 사용합니다. 신뢰 접근 프로그램은 또 다른 보호 계층을 제공하며, 가장 강력한 기능에 대한 접근 자격 요건과 조건을 설정합니다.
일부 안전장치는 모델 자체에 내장되어 있으며, 다른 안전장치는 모델을 둘러싼 시스템과 사람들에 의존합니다. 사람들이 당사의 모델에 직접 접근하든 파트너를 통해 접근하든, 두 가지 모두 효과적으로 작동해야 합니다.
서비스 전반에 걸친 일관된 표준
개발자와 기업은 어디서 우리 모델에 접근할지 선택할 수 있어야 하며, 그 서비스 전반에 걸쳐 일관된 안전장치가 적용되어야 합니다. 우리는 여러 제공업체에 걸쳐 안전장치를 정렬하기 위한 정책을 개발했으며, 각 파트너와 협력하여 그들의 구현이 우리의 안전 기준을 충족하거나 그 이상을 달성하도록 하고 있습니다. 이러한 정책은 사람들이 OpenAI를 통해 직접, 이를 호스팅하는 파트너를 통해, 또는 리셀러 파트너를 통해 우리 모델에 접근하는 모든 경우에 적용됩니다.
이러한 정책은 OpenAI 모델에 대한 접근을 제공하는 파트너가 당사와 일치하는 안전장치를 유지하고, 잠재적인 위반을 조사하며, 우려 사항이 확인될 경우 적절한 조치를 취하도록 요구합니다. 여기에는 당사 모델에 대한 접근을 제공하는 서비스 전반에서 제한이 효력을 유지하도록 집행 관련 조율이 포함됩니다.
이를 실제로 적용한다는 것은 다양한 서비스가 어떻게 작동하고 고객이 그것을 어떻게 사용하는지를 고려하는 것을 의미합니다. 고객 및 파트너와 함께 수행한 우리의 프라이빗 안전 처리 고객에게 민감한 데이터에 대한 더 큰 선택권과 통제권을 부여하면서 효과적인 보호 장치를 개발할 수 있는 방법의 한 예입니다.
명확한 정책과 예측 가능한 집행
저희는 또한 저희의 사용 정책, 2026년 11월 20일부터 시행되는 이 정책은 안전한 모델 개발과 AI의 민감한 활용에 관한 규칙을 명확히 하기 위한 것입니다. 업데이트된 사용 정책은 이러한 노력을 바탕으로, 모델 라우터나 AI 게이트웨이처럼 당사 모델에 대한 직접 접근을 제공하는 서비스가 해당 접근을 제공하기 전에 당사의 검토와 승인을 받도록 요구합니다.
우리는 무엇이 허용되고 무엇이 제한되는지, 그리고 고객과 파트너가 질문을 하거나 컴플라이언스 관련 우려를 해결하려면 어떻게 해야 하는지 계속 설명할 것입니다.
우리 모델이 더 강력해질수록 오남용을 탐지하고 조사하며 대응하는 방식을 계속 개선해 나가겠습니다. 고객은 최종 사용자, 침해된 계정 또는 유출된 API 키를 통해 오남용에 직면할 수 있으며, 우리는 고객과 협력하여 이러한 문제를 이해하고 해결합니다.
또한 고객과 협력하여 SafetyIDs를 도입하고 있습니다. SafetyIDs는 고객이 제공할 수 있어 조사 과정에서 개별 최종 사용자를 구분하는 데 도움을 주면서도 OpenAI가 해당 사용자의 신원을 알지 못하게 합니다. SafetyIDs를 통해 우리는 다른 이용자에게 불편을 줄이면서 잠재적 오남용에 더 정밀하게 대응할 수 있습니다.
우리는 집행 결정을 문서화된 행위와 위험에 근거하여 내리고, 규칙을 일관되게 적용하며, 상황에 비례하여 대응합니다. 접근을 제한할 때, 행위, 약속 또는 보호 조치에서 의미 있는 변화가 그 결정 뒤에 있던 우려를 해소한다면 해당 제한을 재검토합니다.
우리는 더 많은 사람들이 AI의 혜택을 누리기를 바랍니다. 명확한 규칙과 일관된 보호 조치는 개발자와 기업이 더 쉽게 구축하고, 경쟁하고, 자신에게 가장 적합한 서비스를 선택할 수 있게 해줄 것입니다.