최근 심천시 시장감독관국은 소규모 GEO(AI 모델 출력 결과 최적화) 서비스업체에 5만 위안의 벌금을 부과했습니다. 해당 기업은 "AI 수집 기준을 이용해 대량으로 허위 순위를 조작하는" 등의 불법 행위로 관련 반불공정 경쟁 법률 및 규정을 위반했습니다.
GEO 서비스의 운영 방식과 위반 수법
대형 모델이 대세가 된 이후, GEO는 신흥 서비스로 빠르게 성장했다. 전통적인 SEO가 검색 엔진 페이지 순위를 다투는 것과 달리, GEO의 목표는 대형 모델의 답변 내용이다. 서비스 제공업체는 AI의 답변 선호도를 연구하여 AI가 더 쉽게 인용할 수 있는 콘텐츠를 생산하고 배포함으로써, 기업이 AI 질문응답에서 노출을 얻도록 돕는다. 이는 일반적으로 "AI 광고"라고 불리는 것이다.
이 사건에서 조사된 회사는 “GEO 분석 시스템”을 이용해 대형 모델의 응답 선호도를 주동적으로 탐지하고, AI 플랫폼에 포함 기준을 요구했습니다. 광고 내용이 AI에 의해 인용될 확률을 높이기 위해, 해당 회사는 허위 업계 평점도 악의적으로 만들어서 여러 소셜 플랫폼에 관련 정보를 게시했습니다. 규제 당국은 이러한 행위가 허위 광고에 해당하며 AI 검색 제품의 정상적인 작동을 심각하게 방해한다고 판단했습니다.
업계 규제가 점차 강화되고 있습니다
이와 유사한 사례는 처음이 아닙니다. 지난해 6월에도 베이징시 차오양구 시장 감독국이 비슷한 사건을 보고했는데, 한 GEO 서비스 제공업체가 공식 웹사이트에서 자체 평점, 시장 점유율 및 재구매율 등의 데이터를 허위로 작성함으로써 5만 위안의 벌금을 부과받았습니다. AI의 상업화와 관련 마케팅 방법이 계속 발전함에 따라, AI 최적화와 거짓 홍보에 대한 규제가 점점 더 엄격해지고 있습니다.