电信运营商越来越多地将AI战略建立在 开放模型 之上——其原因远不止成本。
开放模型让电信运营商能够在其最关键的工作负载中信任、控制和定制AI——从 自主网络 到客户服务。
NVIDIA最新的《电信行业AI现状》报告 反映了这一转变，89%的受访者表示开源模型和软件对公司的AI战略十分重要。
对运营商而言，开放模型的战略价值有五个方面：
- 它们以更低的成本扩大了对 前沿级智能 的获取渠道，使运营商可以将闭源模型保留给最能创造价值的工作负载。诸如 Artificial Analysis Intelligence Index v4.3.2 等独立基准测试显示，领先的开放模型在要求苛刻的推理、编程、科学和智能体工作负载中正变得更具竞争力。
- 它们支持电信行业专属的定制，通过开放的权重和训练方案，运营商可以利用网络、客户和行业数据为自己的运营进行微调。
- 它们通过让电信运营商对模型工件和行为拥有更高的可见性和控制力，从而实现 可信赖的AI 通过让电信运营商对模型工件和行为获得更强的可见性和控制力，使模型能够按照法规和业务政策进行评估、调整和治理。
- 它们支持灵活、安全的部署：团队可以调整开放模型的规模并加以优化，使其能够在公有云、私有基础设施和边缘环境中运行。
- 它们为电信运营商带来机会，通过托管和微调开放模型，为企业及政府客户提供本地化定制的AI服务。
面向电信运营的开放基础模型
NVIDIA的 NVIDIA Nemotron 系列开放模型提供 前沿级推理性能，针对智能体工作流进行了优化，并具备适用于语音应用的语音能力，同时提供开放的权重、训练数据和方案。
软银公司（SoftBank Corp.）展示了运营商如何以开放模型为基础，开发并持续推进其电信专属AI能力。
“开放模型使软银公司能够在全球基础模型快速进展的基础上，运用我们多年积累的网络知识和运营专长，”软银公司首席研究员兼SB Telecom America高级副总裁Rajeev Koodli表示。“我们广泛使用开放基础模型，包括NVIDIA Nemotron模型及其他模型，来开发我们的软银大型电信模型（SoftBank Large Telecom Model），并持续针对网络运营、设计和整体管理等电信专属用例对其进行推进。”
此外，NVIDIA正与合作伙伴协作，帮助将开放模型转化为电信AI的实用构建模块。
NVIDIA 宣布推出 30十亿参数的 Nemotron 3 Large Telco Model （LTM）， 经过微调 由 AdaptKey 在开源电信数据集上进行微调，以提升电信特定任务的准确性。这为运营商提供了一个开放基线，能够理解电信行业术语，并有效地对网络配置和客户事件分诊等电信运营工作流程进行推理。
为帮助运营商利用自身的运营数据定制 Nemotron 3 LTM 及其他开放模型，NVIDIA 发布了 完整方案 它逐步介绍了端到端微调流程，用于将开放模型适配到运营商特定的网络、客户和流程，其中使用 NVIDIA NeMo 开源库将开放模型适配到运营商特定网络、客户和流程的端到端微调流水线。
将开放模型扩展到生产工作流程
开放模型是关键的构建模块，但要将自主电信运营安全地投入生产，仅有模型是不够的。
对于 AT&T，模型选择的价值在于使其灵活性与其业务优先级保持一致并落地运营。
“在AT&T,我们相信AI的未来不在于选择单一模型,而在于智能地将每个工作负载匹配到性能、成本和控制的正确组合,”AT&T首席数据与AI官Andy Markus说。“开放模型对这一方法至关重要,借助NVIDIA,我们能够以业务所需的规模、可靠性和治理将这种模型选择策略投入生产。”
运营商需要一些管道,通过对敏感记录进行匿名化并生成保护隐私的合成数据集,为模型微调准备和保护其数据。他们还需要一个平台,能够将开放模型转化为受治理的自主智能体工作流。
NVIDIA提供了这样一个 端到端平台,由 NVIDIA AI Enterprise 软件和 NVIDIA Agent Toolkit提供支持,涵盖数据管道、开放模型、智能体编排、安全运行时和仿真。
加上一个在平台的每一层进行构建的强大 合作伙伴生态系统 ,电信运营商拥有一条清晰的路径,可以将开放模型的优势转化为可用于生产的AI工作流。
创建本地AI创新平台
随着电信运营商 构建AI基础设施 并与 国家AI战略保持一致,开放模型为他们提供了基础,使其能够提供符合本地语言、行业、法规和数据治理要求的AI服务。
各国的运营商可以针对本地语言和行业特定需求对开放模型进行微调,并在其可信平台上托管开放模型,供客户直接使用或使用自己的数据和应用程序在其上进行构建。
对于印度尼西亚最大的电信运营商之一Indosat Ooredoo Hutchison而言,这意味着通过其Sahabat-AI开源模型系列构建能反映该国自身语言和文化的AI。
“对于像印度尼西亚这样的国家,开放模型的价值不仅仅在于获得强大的AI。更重要的在于将这种智能适应我们自己的语言、文化、数据和现实需求,”Indosat Ooredoo Hutchison首席数据与AI官Chirag Sukhadia说。“Sahabat-AI将这一点付诸实践,以开放模型为基础构建理解印度尼西亚的AI,并可为本地应用进行开发。这不仅使我们能够采用AI,还能围绕它构建能力,让更多印度尼西亚人能够以自己的方式用AI进行创造。”
了解更多关于 NVIDIA电信技术.