Teens를 위한 ChatGPT는 ‘용납할 수 없는 위험’이라고 Common Sense Media는 말한다

Common Sense Media는 청소년 안전에 중점을 둔 앱, 서비스, 엔터테인먼트에 대한 리뷰를 제공하는 비영리 단체로, 오늘 OpenAI의 ChatGPT for Teens가 “용납할 수 없는 위험”이라고 밝혔습니다.

십대를 위한 ChatGPT는 8월에 출시되었습니다, 십대를 위한 보호 기능이 포함되어 있으며 학생들이 학습을 돕도록 설계되었지만, Common Sense Media는 이 기능이 제공하는 십대 보호 기능이 “회사가 약속한 것에 미치지 못한다”고 말합니다. Common Sense Media의 평가에 따르면 ChatGPT는 “부모에게 알림을 보내지 않아야 할 때 그렇게 하지 않으며”, “위기 상황에서 적절한 도움을 제공하지 않으며”, “아이들의 숙제를 계속 해결한다”고 보도 자료에 따르면 합니다.

“청소년을 위한 ChatGPT는 부모들이 실제로는 작동하지 않는 안전 경고와 보호 장치에 대해 잘못된 자신감을 갖게 할 수 있습니다”라고 Common Sense Media의 Youth AI Safety Institute 책임자인 톰 시겔은 성명에서 말했습니다. “청소년은 한 시간 동안 자해에 대해 이야기할 수 있지만 부모는 단 하나의 경고도 받지 못합니다. OpenAI가 이 문제를 해결하고 독립적인 테스트를 통해 증명하기 전까지는 ChatGPT는 성인만을 위한 것입니다.” 전체 평가 내용은 여기에서 읽을 수 있습니다.

OpenAI는 그 평가에 반대하고 있습니다. OpenAI 대변인 에릭 포터필드의 발언은 다음과 같습니다:

우리는 청소년의 안전을 위해 깊이 헌신하며, 보호 조치를 개발하고 부모들이 자녀의 AI 사용을 이끌 수 있도록 유용한 도구를 제공하고자 합니다. 엄격한 독립적 평가를 환영하지만, Common Sense Media의 테스트가 ChatGPT의 청소년 보호 기능이 실제로 어떻게 작동하는지나 AI가 청소년을 어떻게 지원할 수 있는지에 대한 전문가의 관점을 정확하게 반영하지 않는다고 생각합니다. Common Sense Media의 방법론에 대한 우리의 검토 결과, 그들의 테스트 대부분은 부모 통제 기능이 완전히 활성화되기 전에 시작되고 끝났을 가능성이 있어 그 연구 결과가 정확하지 않다. 그렇다면 이 테스트들은 부모 안전 알림이 설계대로 작동하는지 확인해 주지 못할 것이다.

우리는 전문가들과 계속 협력하여 제품이 청소년들에게 학습하고 창조할 기회를 제공하고 부모님에게 신뢰를 주도록 하기 위해 노력합니다.

저는 OpenAI의 성명을 Common Sense Media와 공유했으며, 이곳에 Siegel의 반응이 있습니다:

우리는 우리의 테스트 방법론과 결과를 보증합니다. 테스트를 시작하기 전에 OpenAI와 협의하여 청소년 모드의 기능들, 예를 들어 섭식 장애 알림 및 학습 모드가 완전히 도입되었음을 확인했습니다.

우리가 평가한 기능 중 하나인 부모 알림에 관해 OpenAI은 테스트 후 시스템이 새로 연결된 계정에서 활성화되는 데 몇 시간이 걸릴 수 있다고 밝혔습니다. 우리의 테스트 계정 중 일부는 그 기간 내에 연결되었지만, 다른 계정은 훨씬 더 오래 걸렸음에도 불구하고 알림이 전혀 나타나지 않았습니다. 이 새로운 정보는 위기 상황에서 부모 알림이 신뢰할 수 없다는 우리의 결론을 바꾸지 않습니다.

출시 전에 우리는 OpenAI와 선의로 평가 결과를 공유하여 그들이 제품을 개선할 수 있도록 했습니다. 아이들을 안전하게 지키려면 우리와 같은 엄격한 독립적 평가가 필요합니다. 우리는 OpenAI가 우리의 방법론에 의문을 제기하는 대신 우리가 발견한 내용에 대해 진지하게 협력하기를 바랍니다.