OpenAI는 이전에 접근이 금지된 Daybreak Blue 사이버 보안 세션 데이터를 활용하여 모델을 훈련할 계획입니다.

11월 29일부터 OpenAI는 Daybreak Blue 세션 데이터를 모델 훈련에 사용할 것입니다. Trusted Access 프로그램 참여자들에게 보내는 이메일을 통해 이러한 변화가 확인되었습니다. 이전에는 사용자가 “모든 사람을 위한 모델 개선” 설정을 끄고 있음에도 불구하고 이 데이터가 훈련에서 제외되었습니다. 반응은 빠르게 나타났으며 OpenAI는 별도의 opt-out 옵션을 약속하는 두 번째 이메일을 보냈습니다. 안전 검토 과정에서 지적된 상호작용은 여전히 안전 목적으로 사용될 수 있습니다.

이 변화로 연구자들은 Buckmaster-Alpöge 사건과 같은 상황이 재발할까 걱정하게 되었다. 수학자 트리스탄 버크마스터와 레벤트 알푸게는 나비에-스토크스 방정식 초안을 OpenAI의 Codex에 업로드했다. OpenAI는 곧 자체 증명을 제시했지만, 그들의 데이터를 학습에 사용했다는 사실은 부인했다. 하지만 그 의혹만으로도 연구자들이 무엇이 잘못될 수 있는지를 알 수 있었다.