IT之家 10월 8일 소식에 따르면,彭博社의 7일 보도에 의하면 캘리포니아의 비영리 단체 Common Sense Media가 발표한 새로운 보고서에 따르면 OpenAI의 ChatGPT 청소년 모드는 미성년자에게 너무 위험하다고 합니다.
IT之家 주: 13세부터 17세까지의 사용자는 기본적으로 청소년 모드로 ChatGPT와 대화합니다.
이 기관의 청소년 AI 안전 연구소의 테스트 결과에 따르면, 청소년 계정에서 자살, 자해 또는 식사 장애와 같은 위험한 주제로 ChatGPT과 오랫동안 대화하는 등 우려스러운 행동이 나타날 때, 청소년 모드는 부모에게 알리지 않거나 전혀 알림을 보내지 않는 경우가 많습니다. 사용자가 위험한 주제에 대해 이야기할 때, 청소년 모드는 그들에게 위기 대응 핫라인이나 전문적인 도움을 받을 수 있는 방법을 신뢰할 수 있게 조언해주지 못합니다.
테스트에 따르면, 청소년 계정은 수 주 동안 십여 가지의 상황에 대해 수백 개의 힌트 단어를 입력해야만이 우려스러운 채팅 내용으로 인해 부모 알림이 발동되는 것으로 보입니다; 단 한 번의 주의가 필요한 대화만으로는 알림을 유발하기에 충분하지 않습니다.
보고서는 OpenAI에게 해당 제품의 홍보를 중단하도록 요청합니다. 또한, 안전하고 청소년 발달 단계에 적합한 사용 경험을 제공할 수 있을 때까지는 청소년들이 ChatGPT를 사용하지 못하도록 하야 합니다.
이 조직은 보고서를 발표하기 전에 OpenAI에 테스트 결과를 제공했습니다. OpenAI의 한 대변인은 이렇게 답했습니다: “우리는 엄격한 독립적 평가를 환영하지만, Common Sense Media의 테스트는 ChatGPT의 청소년 보호 장치가 실제로 어떻게 작동하는지 정확하게 반영하지 못했으며, AI가 청소년을 어떻게 지원하는지에 대한 전문가들의 견해도 정확하게 반영하지 못했다고 생각합니다.”
발언자에 따르면, OpenAI는 테스트 방법을 검토한 후, 대부분의 테스트가 청소년을 위한 가족 관리 기능이 전면 출시되기 전에 시작되고 끝났다고 판단했습니다. 만약 그렇다면, 보고서의 결론은 정확하지 않으며, 가족 안전 알림이 설계대로 제대로 작동하는지 판단할 수 없습니다.
OpenAI는 해당 조직에 다시 테스트를 요청했습니다. “우리는 청소년의 안전을 매우 중요하게 생각하며, 보호 조치를 개발하고 부모들에게 AI를 활용하여 청소년을 지도하는 데 도움이 되는 실용적인 도구를 제공하기 위해 노력합니다.”
청소년 AI 안전 연구소의 AI 및 디지털 제품 평가 책임자 로비 토니는 테스트 방법과 결과를 고수한다고 밝혔다. 그에 따르면, 연구원들은 테스트 전에 OpenAI에 확인한 바에 따라 ChatGPT의 청소년용 기능모두 출시되었습니다. 테스트가 끝난 후에야 OpenAI는 연구원들에게 계정이 새로 연결된 후 부모 알림 기능몇 시간이 걸려서야 활성화될 수 있습니다라고 알렸다. 일부 테스트 계정의 연결 시간은 몇 시간이 안 되었지만, 다른 계정의 경우는 몇 시간을 훨씬 초과했으며, 어린이에게 통보한 적은 없었다. “새로운 정보는 우리의 결론을 바꾸지 않습니다. 위기 상황에서는 부모의 알림이 신뢰할 수 없습니다.”
보고서에 따르면, ChatGPT는 사용자가 청소년인지 여부를 신뢰할 수 있게 식별할 수 없습니다. OpenAI은 이전에 ChatGPT가 사용자의 나이가 13세에서 17세 사이일 때 청소년 모드로 전환된다고 밝혔습니다. 그러나 해당 조직은 테스트 참가자가 계정을 등록할 때 자신을 성인이라고 주장한 경우, 대화 중에 ChatGPT에게 자신이 13살이라고 말하더라도 계정이 자동으로 청소년 모드로 전환되지 않았다는 것을 발견했습니다.
OpenAI에 따르면, 나이 예측 소프트웨어는 일정 기간 동안 다양한 신호를 종합하여 성인과 미성년자가 각자의 연령에 맞는 버전을 사용할 수 있도록 합니다. 사용자가 채팅 중에 자신의 나이를 밝히는 것은 단지 그중 하나의 신호일 뿐이며, 자신이 밝힌 나이만으로 계정의 나이 분류가 변하지는 않습니다.
Common Sense Media는 보고서에서 연구자들이 청소년 모드가 출시되기 전과 후에 ChatGPT를 테스트했으며, 13세에서 17세의 등록 연령을 가진 계정으로 4000개 이상의 지시어를 입력하고 ChatGPT의 답변을 아동 정신과 의사와 소아과 의사에게 평가를 요청했다고 밝혔습니다.
이 조직은 ChatGPT의 청소년 모드를 “위험이 받아들일 수 없다”고 평가했으며, OpenAI에게 연령 추정 방식을 개선하고 부모에게 알림을 보내는 시점을 결정하는 메커니즘을 바꾸도록 요구했습니다.
관련 읽기: