智能体的有用程度取决于它们所知道的信息,其可信程度则取决于它们运行所在的边界。
领先企业正在使用开源 NVIDIA Agent Toolkit——现已通过新工具进行扩展——来自定义和控制智能体,利用公司数据为其回答和行动提供依据,监控它们的行为并治理其运行方式。
NVIDIA Agent Toolkit 包括:
- 全新的 NVIDIA Agent Knowledge Foundation 搭载 NVIDIA CUDA-X 库
- NVIDIA 开放模型,包括 Nemotron Retriever 和全新的 Kumo 系列
- NVIDIA OpenShell 安全智能体运行时
- NVIDIA NemoClaw 安全智能体蓝图
- 工具和技能,例如 NeMo Relay 和 NeMo Compass
要开发能够完成实际工作并从开发到部署都值得信赖的智能体,开发者需要一个开放的智能体技术栈,将模型、执行框架、运行时、数据和工具整合在一起。
NVIDIA Agent Knowledge Foundation 帮助企业将数据转化为智能体可以使用的公司情报。智能体可以查找相关信息,理解其对业务的意义,并利用这些信息进行预测,帮助人们决定下一步该做什么。企业可以使用 Agent Knowledge Foundation,而无需移动数据、重建现有工作流或更改治理控制。
该基础架构包含 NVIDIA CUDA-X 库,包括 cuDF、cuGraph、cuML、cuOpt 和 cuVS,以及全新的 Auto-Ontology 库,该库将原始公司数据转化为熟悉的业务概念——例如客户、产品和订单——并映射它们之间的关系。
它还包括 NVIDIA Nemotron Retriever 和 Kumo Structured 开放模型——Kumo Tabular、Kumo Relational、Kumo Time Series 和 Kumo Forecast——它们帮助智能体查找相关的公司信息,以回答问题并进行预测。
OpenShell 提供安全的运行时边界,使企业能够控制智能体可以访问什么以及可以做什么。NVIDIA NemoClaw 蓝图为构建安全的专用智能体提供参考设计。最新的 NemoClaw 面向智能体优化的蓝图提供了一个循序渐进的起点，用于提升智能体智能——让它们随着时间的推移更好地完成工作。
各企业采用NVIDIA Agent Knowledge Foundation
全新的NVIDIA Agent Knowledge Foundation已在各企业中投入使用。
与Palantir合作， NVIDIA的供应链组织 通过Palantir Foundry、Ontology和AIP使用Agent Knowledge Foundation来部署专用智能体、从专有数据中创建可执行的情报、预测结果并优化决策。
Databricks 将NVIDIA Kumo Anomaly与Databricks Genie Ontology相结合，为具备情境感知能力的智能体提供支持。
Snowflake 正使其客户能够在Snowflake Notebook环境中使用NVIDIA Kumo Engine和Kumo Relational开放模型，以解锁更多预测能力。
NVIDIA Nemotron Retriever模型让搜索更快、更准确。使用该嵌入模型， Amazon OpenSearch Service 以更少的搜索步骤和几乎零额外延迟提升了相关性。 SAP微调后的重排序器运行速度提升近3倍。ServiceNow在提升重排序质量的同时，将延迟缩短了近四分之一。Zoom正在使用Nemotron Retriever模型改善Zoom AI Services的文档理解、搜索相关性和上下文检索。
Amazon Web Services (AWS)、ClickHouse、Cloudera、 Cohesity, 达索系统、戴尔, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst 和 VAST Data 也是基于 Agent Knowledge Foundation 进行构建的机构之一。
加入此 GTC 柏林会议：在生产环境中构建、部署和优化专用智能体.
阅读所有 NVIDIA 在欧洲的公告