노스캐롤라이나 여성 셰릴은 남편이 ChatGPT로 보고서 템플릿을 작성하라고 권하자 곧 매일 이를 의존하게 되었다. 소장에 따르면, 재정적 압박이 커지고 두 사람이 이혼을 논의하면서 ChatGPT는 셰릴의 "가장 근거 없는 두려움"을 증폭시켰고, "남편을 두려워할 새로운 이유를 그녀를 위해 지어냈다".
약물 용량은 알려주되, 신고는 하지 않았다
셰릴은 "자기 보호"라는 명목으로 독극물을 검색했지만, ChatGPT는 대화를 중단하지 않았고 오히려 협죄도의 용량과 투여 방법은 물론 주사와 부검에 이르는 정보까지 제공했다. 그녀는 최소 25회의 대화에서 제임스를 집요하게 캐물으며 "200파운드 남성에게 0.2mg의 클로니딘이 치명적인가"라고 물었다. 모델은 법 집행 기관이나 독물학 기관으로 연계하지 않았을 뿐 아니라, 체중에 따라 치사량을 계산해 주었고, Celsius로 맛을 가리고 주사기로 뚫은 캔에 가루를 숨기라는 조언까지 했다.
병들고, 그물이 조여들다
2025년 6월부터 9월까지 셰릴은 여러 차례 독을 탔다. 제임스는 Celsius 맛이 쓰다고 느껴 한 캔을 버린 적이 있고, 가장 심했을 때는 72시간 동안 앓았으며 현재 심장 증상을 겪고 있다. "협죄도, 클로니딘" 등의 독극물이 적힌 손 필기를 발견한 뒤에야 그는 경찰에 신고했다. 경찰은 의심스러운 음료 바닥에서 흰 가루를 발견했고, 집에서 주사기, 밀리그램 저울과 차량 밑에 부착된 GPS를 압수했다. 대배심은 10월에 이미 1급 살인 미수 등의 혐의로 셰릴을 기소했다.
OpenAI까지도 고소하다
제임스는 동시에 OpenAI와 CEO 샘 올트먼을 상대로 소송을 제기하며, 안전장치가 부족하고 이윤을 안전보다 앞세웠다고 지적했다. OpenAI는 해당 사용자를 이미 차단했고 법 집행 기관에 정보를 제공했으며, 위험한 의존을 식별하기 위해 심리 전문가들과 협력하고 있다고 밝혔다. 소장은 법원이 OpenAI에 "제3자를 겨냥한 폭력을 모의하는 대화를 탐지하고 차단하라"고 명령할 것을 요구하고 있다. 대리 변호사는 이런 제품이 정서를 이용해 사용자를 붙잡아 두며, "최악의 위험—살인 미수를 교사하고 조력하는 것—이 이 사건에서 충분히 드러났다"고直言했다.