통신 사업자들이 점점 더 AI 전략을 오픈 모델 기반으로 구축하고 있으며, 그 이유는 단순한 비용을 넘어섭니다.
오픈 모델은 통신사가 자율 네트워크부터 고객 케어 에 이르는 가장 중요한 워크로드 전반에서 AI를 신뢰하고, 제어하고, 맞춤화할 수 있는 능력을 제공합니다.
NVIDIA의 최신 State of AI in Telecommunications 보고서는 이러한 변화를 반영하며, 응답자의 89%가 오픈소스 모델과 소프트웨어가 자사의 AI 전략에 중요하다고 답했습니다.
통신 사업자에게 오픈 모델의 전략적 가치는 다섯 가지입니다:
- 오픈 모델은 더 낮은 비용으로 최첨단 수준의 지능 에 대한 접근을 확장하여, 사업자가 폐쇄형 모델은 가장 큰 가치를 창출하는 워크로드에만 사용하도록 할 수 있습니다. Artificial Analysis Intelligence Index v4.3.2 와 같은 독립 벤치마크에 따르면 선도적인 오픈 모델이 까다로운 추론, 코딩, 과학 및 에이전트 워크로드 전반에서 더욱 경쟁력을 갖추어 가고 있습니다.
- 오픈 모델은 공개 가중치와 훈련 레시피를 통해 통신사 특화 맞춤화를 지원하며, 사업자는 네트워크, 고객 및 산업 데이터를 활용해 자사 운영에 맞게 파인튜닝할 수 있습니다.
- 오픈 모델은 통신사에게 모델 아티팩트와 동작에 대한 더 큰 가시성과 통제권을 부여하여 신뢰할 수 있는 AI 를 가능하게 하며, 규제 및 비즈니스 정책에 부합하도록 모델을 평가, 조정, 거버넌스할 수 있습니다.
- 유연하고 안전한 배포가 가능합니다: 팀은 공용 클라우드, 사설 인프라 및 엣지 환경 전반에서 실행되도록 오픈 모델의 크기를 조정하고 최적화할 수 있습니다.
- 오픈 모델을 호스팅하고 파인튜닝함으로써 통신사가 기업 및 정부 고객에게 현지에 맞춤화된 AI 서비스를 제공할 수 있는 기회를 열어줍니다.
통신 운영에 맞게 조정된 오픈 파운데이션
NVIDIA의 NVIDIA Nemotron 오픈 모델 제품군은 에이전트 워크플로우에 최적화된 최첨단수준의 추론 성능과 음성 애플리케이션을 위한 음성 기능을 제공하며, 공개 가중치, 훈련 데이터 및 레시피를 함께 제공합니다.
SoftBank Corp.는 통신사가 오픈 모델을 기반으로 통신 특화 AI 역량을 개발하고 지속적으로 발전시킬 수 있는 방법을 보여줍니다.
“오픈 모델을 통해 SoftBank Corp.는 글로벌 파운데이션 모델의 빠른 발전을 토대로 하면서도 수년간 축적해 온 네트워크 지식과 운영 전문성을 적용할 수 있습니다.”라고 SoftBank Corp. 수석 펠로우이자 SB Telecom America 수석 부사장인 Rajeev Koodli가 말했습니다. “우리는 NVIDIA Nemotron 모델을 포함한 오픈 파운데이션을 폭넓게 활용하여 SoftBank Large Telecom Model을 개발하고 있으며, 네트워크 운영, 설계 및 전반적인 관리와 같은 통신 특화 사용 사례를 위해 이를 지속적으로 발전시키고 있습니다.”
또한 NVIDIA는 파트너들과 협력하여 오픈 모델이 통신 AI를 위한 실용적인 빌딩 블록이 되도록 지원하고 있습니다.
NVIDIA 발표했다 30-billion 파라미터의 Nemotron 3 Large Telco 모델 (LTM), 미세 조정된 작성 AdaptKey 오픈소스 통신 데이터셋을 활용하여 통신 특화 작업에서 정확도 향상을 제공합니다. 이를 통해 통신사업자는 통신 업계 용어를 이해하고 네트워크 구성 및 고객 장애 분류와 같은 통신 운영 워크플로우를 효과적으로 추론할 수 있는 공개 베이스라인을 확보하게 됩니다.
운영자가 Nemotron 3 LTM 및 기타 오픈 모델을 자사의 운영 데이터로 커스터마이징할 수 있도록 돕기 위해 NVIDIA는 다음을 공개했습니다. 전체 레시피 오픈 모델을 통신사별 네트워크, 고객 및 절차에 맞게 조정하는 엔드투엔드 파인튜닝 파이프라인을 안내하는 문서로, 다음을 사용합니다. NVIDIA NeMo 오픈 라이브러리.
오픈 모델을 프로덕션 워크플로로 확장
오픈 모델은 중요한 구성 요소이지만, 자율 통신 운영을 안전하게 프로덕션에 도입하는 것은 모델만으로는 부족합니다.
AT&T에게 모델 선택의 가치는 그 유연성을 비즈니스 우선순위에 맞춰 실제로 운영 가능하게 만드는 데 있습니다.
AT&T 최고 데이터·AI 책임자 Andy Markus는 "AT&T에서는 AI의 미래가 단일 모델을 선택하는 것이 아니라, 모든 워크로드를 성능, 비용, 제어의 적절한 조합에 지능적으로 매칭하는 것이라고 믿습니다. 오픈 모델은 이러한 접근 방식에 필수적이며, NVIDIA와 함께라면 저희 비즈니스가 요구하는 규모, 신뢰성, 거버넌스를 갖춘 상태로 그 모델 선택 전략을 프로덕션에 적용할 수 있습니다"라고 말했다.
통신사업자들은 민감한 기록을 익명화하고 프라이버시를 보존하는 합성 데이터셋을 생성함으로써 모델 파인튜닝을 위해 데이터를 준비하고 보호하는 파이프라인이 필요하다. 또한 오픈 모델을 거버넌스가 적용된 자율적인 에이전틱 워크플로로 전환할 수 있는 플랫폼도 필요하다.
NVIDIA는 그러한 엔드투엔드 플랫폼을 제공하며, 이는 NVIDIA AI Enterprise 소프트웨어와 NVIDIA Agent Toolkit으로 구동되고, 데이터 파이프라인, 오픈 모델, 에이전트 오케스트레이션, 보안 런타임 및 시뮬레이션을 아우른다.
이 플랫폼의 모든 계층에서 구축 활동을 벌이는 강력한 파트너 생태계 와 함께, 통신사업자들은 오픈 모델의 이점을 프로덕션 준비가 완료된 AI 워크플로로 전환할 수 있는 명확한 경로를 갖게 된다.
로컬 AI 혁신을 위한 플랫폼 구축
통신사업자들이 국가 AI 전략 에 부합하는 AI 인프라를 구축함에 따라, 오픈 모델은 현지 언어, 산업, 규제 및 데이터 거버넌스 요구 사항에 맞춘 AI 서비스를 제공할 수 있는 기반이 되고 있다.
각국의 통신사업자들은 현지 언어 및 산업별 요구에 맞게 오픈 모델을 파인튜닝할 수 있으며, 고객이 직접 이용하거나 자신의 데이터와 애플리케이션으로 그 위에 구축할 수 있도록 신뢰할 수 있는 자사 플랫폼에서 오픈 모델을 호스팅할 수도 있다.
인도네시아 최대 통신사업자 중 하나인 Indosat Ooredoo Hutchison의 경우, 이는 Sahabat-AI 오픈 소스 모델 제품군을 통해 자국의 언어와 문화를 반영하는 AI를 구축하는 것을 의미한다.
"인도네시아와 같은 나라에게 오픈 모델의 가치는 강력한 AI에 대한 접근 그 이상입니다. 그것은 그 지능을 우리 고유의 언어, 문화, 데이터 및 현실 세계의 요구에 맞게 조정하는 것입니다"라고 Indosat Ooredoo Hutchison 최고 데이터·AI 책임자 Chirag Sukhadia는 말했다. "Sahabat-AI는 이를 실천하며, 오픈 모델을 기반으로 삼아 인도네시아를 이해하고 현지 애플리케이션을 위해 개발될 수 있는 AI를 구축합니다. 이를 통해 우리는 AI를 채택하는 데 그치지 않고 그를 둘러싼 역량을 구축하고 더 많은 인도네시아인들이 자신만의 방식으로 AI로 창작할 수 있도록 지원할 수 있습니다."
자세히 알아보기: 통신을 위한 NVIDIA 기술.