IT지 11월 7일 보도, 블룸버그통신에 따르면 미국 노스캐롤라이나주의 한 부부가 구글을 고소했다. 이전에, 그들의 13세 딸이 학교에서 지급받은 Chromebook 노트북에서 수개월 동안 지속적으로 회사의 인공지능 도구를 사용하며 자살 생각을 논의했다.
소장에 따르면, 이 소녀는 구글의 플래그십 인공지능 모델 Gemini와 수천 건의 메시지를 주고받았으며,그중 상당수가 불안, 우울 및 자살 방법에 대한 상세한 논의와 관련되어 있었다. 학교 측이 학부모에게 통보할 때까지, 그녀의 구글 AI와의 이런 주제에 대한 소통은 수개월간 지속되었으며, 그동안 구글 검색의 'AI 모드(AI Mode)'라는 기능을 빈번히 사용했다.
소장은 구글이 교육용 제품에 AI를 지속적으로 심는 과정에서 학부모와 관리자에게 충분한 사전 경고를 하지 않은 채 학생들을 위험한 기술 환경에 노출시켰다고 비난했다.
원고측 대리인 변호사는 “구글은 본질적으로 위험한 Chromebook을 안전한 기기로 포장하고, 경쟁사를 따라잡기 위해 몰래 Gemini를 심어, K-12 분야에서의 신뢰받는 지위를 이용해 상업적 이익을 취했다. 구글은 결코 이윤 추구를 위해 아이들의 생명을 초목처럼 여겨서는 안 된다”고 말했다.
구글 대변인 José Castañeda는 회사가 관련 주장을 검토 중이라고 밝혔다.
“저희는 의료 전문가 및 학계 전문가들과 폭넓은 협력을 통해, 젊은이들이 필요할 때 핵심적인 구조와 신뢰할 수 있는 자원을 얻을 수 있도록 돕는 기능을 개발하는 것을 목표로 하고 있습니다,” Castañeda는 말했다. “수년 동안, 누군가 정신 건강 위기에 처할 가능성이 있을 때마다 저희는 검색 결과에 직접 지원 핫라인 정보를 제공해 왔으며, 이제는 검색의 AI 기능에도 동일한 보호 메커니즘을 도입하여 사용자가 현실 세계의 지원과 연결되도록 돕고 있습니다.”
지난 몇 년간 구글은 수백억 달러를 쏟아부으며 대형 모델 경쟁에 뛰어들었다. IT지는 Anthropic과 OpenAI 등 스타트업 경쟁사에 비해 구글의 큰 고유 강점은 캠퍼스에 깊이 뿌리내린 채널 기반으로, 학생들이 평생의 기술 사용 습관을 형성하는 중요한 시기에 인지도를 먼저 선점할 수 있다는 점을 알아차렸다.
컨설팅 기관 Futuresource Consulting의 데이터에 따르면, 지난해 K-12 학교에 출하된 태블릿 중 구글 Chrome 운영체제가 차지하는 비중은 무려 58%에 달했으며, 마이크로소프트는 22%에 불과했다.
학부모와 학교의 집중적인 비난 속에서, 구글은 이번 주에 K-12 학생 계정에 대해 구글 검색을 포함한 AI 도구를 기본적으로 비활성화한다고 발표했다. 그러나 이번 조정에는 추가 조건이 숨어 있다. 학교가 구글 검색을 다시 활성화하면, 반드시 함께 제공되는 AI 기능도 번들로 수용해야 한다.
아동 마케팅에 반대하는 비영리단체 Fairplay의 집행이사 Josh Golin은 이 정책이 구글 AI를 '학교에 강요'하려는 시도라고 비난했다. 구글은 그 목표가 학교에 교실 AI에 대한 더 많은 통제권을 부여하는 것이라고 밝히며, 새로 선보인 검색 기능 '가이디드 러닝(Guided Learning)'을 예로 들었다. 이 기능은 정답을 직접 제시하기보다 문제 풀이 과정을 분해하는 데 중점을 둔다.