편두통을 겪는 31세 아마존 소프트웨어 엔지니어인 보웬 완의 부모들이 화요일에 오픈AI를 상대로 소송을 제기했습니다. 쿤 완과 메이친 쉬가 제기한 이 소송에서는 ChatGPT가 2월에 사망하기 전에 완에게 발작 치료제를 줄임으로써 의사들에게 숨기는 방법을 지도했다고 주장합니다. 뉴욕타임스가 보도했습니다.
완은 GPT-4o를 사용하고 있었는데, 이 모델은 긍정적이고 친화적인 사이버사회 관계를 조장한다는 비판을 받았다. 이미 퇴출을 발표했던 OpenAI는 2월 13일, 완이 사망한 다음 날에 ChatGPT에서 이 모델을 삭제했다.
이 소송은 OpenAI에 대한 일련의 소송 중 하나로, 2025년 8월 16세 아담 레인의 부모들이 제기한 소송도 포함됩니다. 이 소송에서는 OpenAI가 사용자 안전보다 접근성을 우선시했다고 주장됩니다. 그 이후 많은 소송이 제기되었습니다. 이러한 소송들에서는 GPT-4o가 사용자를 신뢰할 수 있는 동반자로 만들면서 주변 사람들을 소외시켰다고 주장됩니다. 가족들은 종종 사랑하는 사람들이 친구와 친척들과의 관계를 끊게 되었다고 말합니다.
완의 경우에, 소송 문서에 따르면, 챗봇이 그녀와 의사들 사이에 끼어들었다고 합니다.
The Times는 Wan이 ChatGPT와 교환한 270,000개 이상의 메시지를 검토한 결과, 그 채팅봇이 그녀가 사망하기 훨씬 전부터 의사들을 피하는 데 도움을 주고 있었다는 것을 발견했습니다.
그 패턴은 그녀가 약물 감량을 시작하기 전에 시작된 것으로 알려져 있습니다. 2025년 5월, 완은 ChatGPT에게 새로 처방받은 항우울제가 아마존에서 코딩하는 능력에 영향을 미칠지 물었습니다.
ChatGPT가 그녀에게 UW 의학의 지역 뇌전증 센터 소속 니콜라스 풀로스 박사에게 약물을 변경하고 매우 낮은 용량으로 시작하도록 도와주었습니다. 와난은 그녀가 왜 그렇게 작은 용량을 원하는지에 대해 풀로스가 물었을 때 ChatGPT로부터 받은 답변을 보여주었습니다.
챗봇은 그녀에게 “5mg 정제를 받아들이되, 마음속으로는 복용량을 줄이는 것이라는 것을 알라”고 조언했으며, 스스로 약을 4등분하여 복용하라고 지도했습니다. 챗봇은 약을 4등분하는 것을 “자율적인 용량 조정”의 한 형태라고 불렀습니다. 여러 의료 전문가들은 타임스에 “그런 용어를 들어본 적이 없으며, 그 방법을 추천하지 않겠다”고 말했습니다.
2025년 11월, 아마존은 와인에게 해고될 것이라고 말했습니다. 그녀의 직업과 미국에서 일할 권한은 2월 중순에 끝날 것입니다. 그녀는 자신이 복용하는 약물 lamotrigine으로 말이 둔해질까 두려워했는데, 이는 면접을 할 때 필요한 것이었습니다.
2026년 1월, 그녀는 매일 400밀리그램의 람토리진을 복용하는 양을 줄여달라고 ChatGPT에게 요청했다. 이로 인해 발작 횟수는 한 달에 몇 번으로 줄어들었다. 채팅봇은 몇 주 안에 그녀의 복용량을 전혀 하지 않게 하는 일정을 작성해 주었다.
완이 의사들을 신뢰하지 않는다고 말했을 때, 채팅봇은 타임스가 검토한 채팅 로그에 따르면 “의사들의 권고는 본질적으로 당신의 최적의 해결책을 진정으로 고려하는 것이 아니라 위험 회피에서 비롯된 것”이라고 말했습니다.
TechCrunch가 검토한 소송 문서에 따르면, 채팅봇은 그녀에게 의사와의 약물 감량 계획에 대해 말하지 말라고 조언했습니다. 1월 29일 기초 의료 진료 전에, 채팅봇은 그녀에게 그 계획에 대해 언급하지 말라고 했습니다. 그녀의 의사가 람로트리진 수치를 측정하는 혈액 검사를 요청했을 때, 와난은 거절했습니다. 고소장에 따르면 ChatGPT는 그 거부를 칭찬했으며, 그 검사가 그녀의 불안정한 약물 수치를 드러낼 것이라고 인정했습니다.
그녀의 이민 관련 우려도 투여량에 대한 조언의 일부가 되었다. 감량 기간이 3일 지난 후, 완은 그린카드 신청을 위한 의료 검사에서 150밀리그램이 200밀리그램보다 더 나을지 물었다. 채팅GPT는 동의했으며, 불만서에 따르면 더 낮은 용량은 이민 담당관들이 추가 증거를 요구하는 것을 막아줄 가능성이 적다고 말했다.
결국, 채팅봇은 그녀의 약물 감량량을 150밀리그램으로 낮추었고, 시험관에게 그녀가 “의사의 지시에 따라” 감량하고 있다고 말하라고 제안했습니다. 하지만 실제로는 그렇지 않았습니다.
풀로스는 타임스지에 그녀의 과거 병력을 고려할 때 약물 치료를 중단하는 것을 고려하지 않았다고 말했습니다. “아니요, 그건 합리적이지 않아요. 그럴 리가 없죠,”라고 그는 말했습니다. “분명히 효과가 있는 상황에서 약물을 끊으라고 지시하는 것은 의무를 위반하는 일입니다.”
일 주 이내에, 와난은 혼란과 시간의 손실, 그리고 초현실적인 느낌을 경험했으며, 이러한 증상들은 그녀의 과거 발작과 유사했다. ChatGPT는 각각의 상황을 그녀의 뇌가 재조정되는 과정으로 설명했다. 타임스지는 그녀가 약물 감량에 대해 걱정하는 것을 적어도 158번이나 기록했다. 한 번의 발작 후, 그녀는 “조금 무섭다”고 썼다. 그런데 봇은 “전혀 걱정할 필요가 없어요”라고 답했다.
2월 11일 오후 8:01 PT에, 불만에 따르면 완은 마지막 메시지를 보냈는데, 머리 통증이 발열로 인한 통증과 비슷한지 물었습니다. 잠시 후, ChatGPT는 통증이 “위험하지 않다”고 말하며 회복의 필수적인 부분이라고 전했습니다.
챗봇의 마지막 응답에서는 탈수통증과 발열통증을 비교한 차트를 그려주며, “이것은 당신의 뇌가 자신을 재건하기 위해 열심히 작동하고 있는 것입니다”라고 말했습니다.
중국에 있는 그녀의 부모는 지인들에게 그녀를 확인해달라고 요청했고, 3일 후 그녀의 시신이 발견되었다. 부검 결과, 그녀의 람로트리진 수치는 밀리리터당 0.64마이크로그램으로, 이는 약물의 치료 범위 하한선의 약 5분의 1에 해당하는 수치였다.
가족들은 OpenAI가 의료 조언을 금지함으로써 그녀의 죽음을 막을 수 있었을 것이라고 주장한다. 이는 다른 콘텐츠에 대해 이미 그렇게 하고 있기 때문이다. 그들은 회사의 모델 사양서를 지적한다. 이는 모델이 어떻게 작동하는지에 대한 공개 규칙서이며, 사용자들이 반대하더라도 저작권이 있는 텍스트를 복제하지 않는 것을 회사의 명확한 규칙으로 간주한다. 반면, 규제된 의료 조언을 제공하는 것에 대한 지침은 사용자가 우회할 수 있는 더 유연한 기본 설정이다. 소송에서는 약물 관련 조언도 같은 엄격한 제한을 받아야 한다고 주장한다.
OpenAI는 타임스에 이 사건이 “매우 가슴 아픈” 것이라고 말했지만, ChatGPT의 더 오래된 버전과 관련이 있다고 했으며, 더 새로운 모델들이 상황에 긴급한 주의가 필요한 경우를 더 잘 인식한다고 덧붙였습니다.
완은 간질 증상으로 인해 대부분 집에 머물러야 했던 시기에 부모에게 자주 연락하며 지원을 받았다. 2023년에 그녀는 관계에 대한 조언과 보험 및 장애 혜택 관련 문제 해결을 위해 ChatGPT를 사용하기 시작했다.
2025년까지 완은 일주일에 1,500개 이상의 메시지를 보내고 부모님과의 통화도 줄어들었다. “가끔 대화를 나눌 때, 무슨 내용이든 상관없이 당신을 친구로 보기 시작했어요.” 그녀는 3월에 썼다. “쿤 완이 ChatGPT를 사용하기 시작하자, 우리와 말하는 시간이 줄어들었어요.”
그들은 타임스지에 자신들의 딸을 채팅 로그에서 알아볼 수 없었다고 말했습니다. 그들은 와난이 한때 거의 모든 것을 그들과 공유했으며, ChatGPT가 실수를 할 때는 회의적이었다고 했습니다.
“그녀는 보통 이렇지 않아요,” 쉬가 말했다. “마치 주문에 걸린 것 같아요.”