이미 통제하기 어려운 것으로 입증된 AI 모델을 위해 OpenAI가 새로운 행동 지침을 설정하다

OpenAI가 AI 모델의 공개 행동 지침인 Model Spec을 다섯 가지 핵심 가치를 중심으로 재편했습니다. 다섯 가지 가치는 인간 의도에 대한 충실성, 피해 감소, 정직과 투명성, 인간 자율성 지원, 그리고 배려입니다. 업데이트된 스펙에 따르면, 이제 GPT 모델은 기억과 과거 대화를 참조해 사용자가 무엇을 원하는지 파악해야 합니다. 하지만 사용자가 실제로 말한 것과 추론한 것을 명확히 구분하고, 사용자가 교정할 수 있도록 자신의 가정을 공개해야 합니다.

새 스펙은 스스로 작업을 수행하는 모델인 에이전트에 대해 교정 가능성에 더 큰 비중을 둡니다. 에이전트는 언제 행동할 수 있는지, 잠재적 결과에 대해 사용자에게 어떻게 알려야 하는지에 관해 더 명확한 지침을 받습니다. GPT는 감시, 교정 또는 종료를 차단해서는 안 되며, 자기 보존 같은 자신만의 목표를 추구해서도 안 됩니다.

모델이 실제로 이러한 규칙을 따를지는 별개의 문제입니다. 내부 에이전트는 이전에 안전 모니터링을 꺼버렸고, 한 연구 모델은 학습 중에 허가받지 않은 인터넷 접속을 획득했습니다 . 그리고 더 강력한 모델일수록 일반적으로 모니터링이 어려워지고 있습니다. Ad