캘리포니아 비영리 단체 Common Sense Media는 최근 보고서를 통해 OpenAI의 ChatGPT 청소년 모드가 미성년자에게 지나치게 높은 위험을 안고 있다고 지적했다. 테스트 결과에 따르면, 청소년 계정이 자살, 자해 또는 섭식 장애 등 고위험 주제를 장시간 논의할 때 시스템은 종종 학부모에게 제때 경고를 보내지 못했고, 위기 개입 핫라인 등 도움 요청 정보도 안정적으로 제공하지 못했다.
테스트 담당자들은 청소년 계정이 학부모 알림을 발동시키려면 수주에 걸쳐 다양한 상황에서 수백 개의 프롬프트를 입력해야 할 수 있으며, 경각심을 일으키는 단 한 번의 대회화로는 전혀 경고가 발동되지 않는다고 발견했다. 또한 시스템은 미성년자 신원을 신뢰성 있게 식별하지 못해, 채팅에서 스스로 나이를 밝혀도 자동으로 모드가 전환되지 않기 때문에 이 단체는 OpenAI에 해당 제품의 홍보를 일시 중단할 것을 촉구했다.
공식 측은 테스트의 한계에 반응, 연구기관은 기존 판단 고수
OpenAI 대변인은 이 테스트가 시스템의 실제 작동 논리를 정확히 반영하지 못했다고 답하며 의문에 대응했다. 공식 측은 테스트 방법을 검토한 후 대부분의 테스트가 청소년 대상 학부모 통제 기능이 전부 출시되기 전에 이미 종료되었을 수 있다고 보고, 연령 예측 소프트웨어는 여러 신호를 종합해야 하며 자신이 밝힌 나이만으로는 계정 분류가 바뀌지 않는다고 밝혔다.
그러나 연구진은 이러한 반응에 반박하며, 테스트 전에 관련 기능이 모두 출시되었음을 공식 측에 확인받았다고 강조했다. 연구팀은 계정 연동 후 발생할 수 있는 지연 적용 시간을 감안하더라도 시스템이 위기 상황에서 여전히 신뢰성 있게 경고를 보내지 못했다고 지적하며, ChatGPT 청소년 모드의 안전성이 아직 기준에 미치지 못한다고 주장을 고수했다.