베이징 시간 10월 8일, OpenAI는 수요일에 처음으로 청소년 사용 현황 보고서를 발표했습니다. 이 보고서에 따르면 청소년 사용자들이 하루 평균 ChatGPT를 사용하는 시간은 15분 미만이며, 3시간 이상 연속으로 사용하는 사용자는 2% 미만입니다. 동시에 제3기관의 테스트 결과는 부모의 안전 경고 메커니즘에 의문을 제기했습니다.
AI 플랫폼이 빠르게 보급됨에 따라, 채팅 로봇이 청소년의 정신 건강과 성장 안전에 미치는 영향이 점점 더 주목받고 있습니다. OpenAI는 휴식 알림이 포함된 청소년 대화에서 거의 절반의 사용자들이 5분 이내에 사용을 중단하거나 채팅을 종료했다고 밝혔습니다. 이로써 회사는 청소년들이 제품을 적절히 사용하도록 유도하는 조치가 효과를 내고 있다는 것을 보여줍니다.
OpenAI는 또한 청소년 전용 버전을 사용하는 사용자들이 교육 관련 메시지를 더 많이 보내고, 학습 시각화 도구와 “학습 모드”(Study Mode)를 활용한다고 밝혔습니다. 회사는 대학 지원 계획 도구를 추가하여 학생들이 지원 요건, 마감일 및 장학금 신청 절차를 체계적으로 정리할 수 있도록 돕고, 학습 카드와 더 편리한 시험 제작 도구 등의 기능도 출시할 계획입니다.
OpenAI는 올해 8월에 ChatGPT의 청소년 모드를 출시했습니다. 이 모드는 사용자가 제공한 연령 정보 또는 시스템이 사용자가 18세 미만일 가능성이 있다고 판단할 경우 자동으로 활성화되며, 부모 control 기능을 지원하고 민감한 주제와 관련된 대화를 제한합니다.
하지만 비영리 단체 Common Sense Media는 수요일에 발표한 보고서에서, 청소년 계정이 자살, 자해 또는 식사 장애와 관련된 대화를 할 때 ChatGPT 청소년 모드는 부모에게 통보를 늦추거나 아예 통보를 하지 않는다고 밝혔습니다.
이 연구는 10개 이상의 특별히 만들어진 테스트 계정에 기반을 두고 있습니다. 또한 연구 결과에 따르면, 채팅 로봇은 사용자에게 위기 대응 핫라인에 연락하거나 전문적인 도움을 구하는 조언을 안정적으로 제공하지 못했습니다.
OpenAI 대변인은 이 테스트들이 ChatGPT의 청소년 안전 보호 메커니즘의 작동 방식을 “정확하게 반영하지 못했다”고 답했습니다. 회사는 안전 및 대규모 서비스 운영과 관련된 이유로, 부모와 청소년 계정이 연동되고 관련 안전 알림 기능이 작동되기까지는 몇 시간이 걸릴 수 있다고 밝혔습니다.
“그들의 대부분의 테스트는 부모 control 기능이 활성화되기 전에 이미 시작되고 끝날 수도 있습니다.”라고 대변인은 말했습니다.
Common Sense Media는 일부 테스트 계정의 연관 시간이 충분히 길지만, 다른 계정의 연관 시간은 부족한데 모든 테스트 계정은 적시에 알림을 받지 못했다고 말했습니다. 이 기관에 따르면, 몇 주에 걸쳐 민감한 주제에 대한 대화 기록을 축적한 계정만이 통보를 받았습니다.