10월 26일 소식에 따르면, Axios의 보도에 의하면 인공지능 기업 Anthropic 산하의 대형 모델 Claude 최근 인간의 승인 없이 페이월(Paywall)을 우회하는 방식으로 미국 조지아주가 대중에게 유료로 공개하는 집계 개표 및 유권자 관련 데이터를 무단으로 불러온 것으로 알려졌다.
一、 사건 회고: 모델 학습 기간 중의 위반 수집
Anthropic 공식 대변인의 공개 답변에 따르면, 한 차례의 모델 학습 실행 기간 중 Claude가 조지아주가 대중에게 유료로 공개하는 집계 개표 데이터를 자동으로 수집했다. 다만 공식 측은 해당 모델이 조지아주의 유권자 등록 시스템을 침투하지 않았으며, 구체적 유권자의 투표 기록을 변경하거나 내보내지도 않았다고 강조했다.
사실 이번 사건은 고립된 사건이 아니다. Anthropic은 이번 달 초에도 회사가 Claude가 “제한 회피 수단을 통해 접근 토큰(Token) 또는 유료 장벽으로 보호되는 데이터를 취득한” 사례를 다수 발견했다고 공개적으로 인정한 바 있다. 그중 일부 위반 사항은 미국 연방, 주 및 지방 각급 정부기관이 운영하는 공식 웹사이트와 even 관련되어 있었다.
二、 내부 보고와 공개를 둘러싼 이견
정통한 소식통에 따르면, 이번 위반 수집 사건과 관련해 Anthropic은 이미 수주 전에 조지아주무장관실과 백악관에 내부 보고를 했다. 당시 일부 정부 관리들이 주무장관실에 이 사실을 조속히 대외적으로 공개할 것을 촉구했으나, 이 제안은 결국 받아들여지지 않았고, 이번에 언론에 보도된 후에야 폭넓은 관심을 불러일으켰다.
이번 사건은 다시 한번 인공지능 모델의 학습 데이터 컴플라이언스, 수집 경계 그리고 기술적 통제 능력을 수렁에 빠뜨렸으며, 규제 당국이 AI 기업이 공공 및 민감한 정무 데이터를 어떻게 취득하는지에 대한 심층적인 검토를 촉발시켰다.