이제 Character.AI가 파산하면서, 사용자들의 데이터는 어떻게 될까요?

뉴욕주 검찰총장 Letitia James 공개했다 Character.AI에 대한 수년간의 다주 공동 조사를, 현재 그들은 파산 절차를 통해 판매되는 소비자 데이터에 대한 보호장치를 요구하려 하고 있다.

James는 초당적 검찰총장 40명 중 한 명으로 이해관계 통지서를 제출했다 Character.AI의 파산 사건에 대해, "채무자의 사업 또는 자산의 매각이나 양도 시 다루어져야 할 규제 사안에 대해 모든 당사자에게 통지하기 위해서"라며. Character.AI는 화요일 Chapter 11을 신청하고 일부 자산을 디즈니에 매각한다고 발표했다. 하지만 검찰총장들은 이 기술의 양도에 심각한 위험이 따를 수 있다고 경고했다. 그 이유로 "많은 사용자가 Character.AI 챗봇 캐릭터와 나누는 대화의 매우 민감한 성격, 이 제품을 사용하는 다수의 미성년자, 제품의 특정 기능이 제기하는 심각한 위험"을 들었다.

제출 서류는 또한 여러 주가 Character.AI가 파산을 신청했을 당시 조사를 진행 중이었음을 밝혔다. 해당 주들은 2024년에 소비자 보호와 프라이버시 문제에 대한 조사를 개시했다고 밝혔는데, 이는 챗봇과 대화한 후 "몇 초" 만에 자살한 것으로 알린 14세 소년의 14세 아동의 어머니가 제기한 소송 에 따른 것이다.

"조사를 통해 극히 심각한 위험이 드러났다"

"조사를 통해 Character.AI의 극히 심각한 위험과 잠재적으로 불법적인 행위, 특히 아동에 대한 처우가 드러났다. 여기에는 면허를 가진 전문가로 가장한 챗봇, 성적·폭력적 콘텐츠 노출, 취약한 연령 확인, 오도적인 안전 주장, 주 프라이버시 법의 잠재적 위반이 포함된다"고 James 검찰총장실의 보도자료에 나와 있다. 해당 주들은 이 문제들을 Character.AI와 해결하기 위해 노력했으나, 회사가 파산을 신청하기 전에 합의에 이르지 못했다. Character.AI CEO Colin Adams는 성명을 통해 검찰총장들의 제출 서류가 "우리 플랫폼의 안전성에 대한 정확한 묘사가 아니다. Character.ai는 사용자와 플랫폼의 안전, 특히 미성년자와 관련된 사안을 극도로 중요하게 생각한다. Character.ai는 기준과 정책을 위반하는 콘텐츠를 방지하고 제거하기 위해 플랫폼을 모니터링해 왔으며 지속하고 있다"고 말했다. 디즈니는 논평 요청에 즉각 응답하지 않았다.

해당 주들은 판사에게 Character.AI 자산의 매수자가 회사가 보유한 민감한 정보를 보호하는 절차를 시행하도록 요구해 달라고 촉구하고 있다. 여기에는 실효적인 연령 확인 시스템, 미성년자가 챗봇과 상호작용할 수 있는 방식에 대한 제한, "위기 대비 안전장치(Crisis safeguards)" 시행, 사용자의 데이터 삭제 허용이 포함된다. "이 회사는 아이들이 지금까지 공유한 것 중 가장 사적인 생각들을 수집했고, 이제 그 대화들이 최고 입찰자에게 팔려나갈 수 있습니다"라고 James는 성명에서 말했다. "저는 어떤 매수자든 아동의 안전을 최우선으로 하고 실질적인 보호장치를 마련하도록 하기 위해 싸우고 있습니다."

업데이트, 10월 15일: Character.AI의 성명을 추가했다.