에이전트는 자신이 아는 것만큼만 유용하고, 자신이 작동하는 경계만큼만 신뢰할 수 있습니다.
선도적인 기업들은 오픈 소스 NVIDIA Agent Toolkit — 새로운 도구로 확장됨 — 을 사용하여 에이전트를 사용자 지정하고 제어하고, 회사 데이터를 활용해 답변과 행동에 정보를 제공하며, 에이전트가 하는 일을 모니터링하고 에이전트가 작동하는 방식을 거버넌스합니다.
NVIDIA Agent Toolkit은 다음으로 구성됩니다:
- 새로운 NVIDIA Agent Knowledge Foundation NVIDIA CUDA-X 라이브러리와 함께
- Nemotron Retriever와 새로운 Kumo 제품군을 포함한 NVIDIA 오픈 모델
- NVIDIA OpenShell 보안 에이전트 런타임
- NVIDIA NemoClaw 보안 에이전트 블루프린트
- NeMo Relay 및 NeMo Compass와 같은 도구 및 스킬
실제 작업을 수행하고 개발부터 배포까지 신뢰할 수 있는 에이전트를 개발하려면, 빌더는 모델, 하네스, 런타임, 데이터 및 도구를 하나로 모은 오픈 에이전트 스택이 필요합니다.
NVIDIA Agent Knowledge Foundation은 기업이 데이터를 에이전트가 사용할 수 있는 회사 인텔리전스로 전환하도록 돕습니다. 에이전트는 관련 정보를 찾고, 그것이 비즈니스에 어떤 의미인지 이해하고, 이를 활용해 예측을 수행하고 사람들이 다음에 무엇을 해야 할지 결정하도록 돕습니다. 기업은 데이터를 이동시키거나 기존 워크플로를 재구축하거나 거버넌스 제어를 변경하지 않고도 Agent Knowledge Foundation을 사용할 수 있습니다.
이 파운데이션은 NVIDIA CUDA-X 라이브러리를 포함하며, cuDF, cuGraph, cuML, cuOpt 및 cuVS가 있고, 새로운 Auto-Ontology 라이브러리도 포함됩니다. 이 라이브러리는 원시 회사 데이터를 고객, 제품, 주문과 같은 익숙한 비즈니스 개념으로 변환하고 그들이 어떻게 연관되는지 매핑합니다.
또한 NVIDIA Nemotron Retriever 및 Kumo Structured 오픈 모델 — Kumo Tabular, Kumo Relational, Kumo Time Series 및 Kumo Forecast — 도 포함되어 있으며, 이는 에이전트가 질문에 답하고 예측을 수행하기 위해 관련 회사 정보를 찾도록 돕습니다.
OpenShell은 보안 런타임 경계를 제공하여 기업이 에이전트가 접근하고 수행할 수 있는 것을 제어할 수 있게 합니다. NVIDIA NemoClaw 블루프린트는 안전하고 전문화된 에이전트를 구축하기 위한 참조 설계를 제공합니다. 가장 최신의 NemoClaw 에이전트 최적화를 위한 이 설계도는 에이전트 지능을 향상시키기 위한 단계별 시작점을 제공함으로써 시간이 지남에 따라 에이전트가 자신의 역할을 더 잘 수행하도록 만듭니다.
기업들의 NVIDIA Agent Knowledge Foundation 도입
새로운 NVIDIA Agent Knowledge Foundation은 이미 여러 기업에서 활용되고 있습니다.
Palantir와 함께, NVIDIA의 공급망 조직은 Palantir Foundry, Ontology 및 AIP를 통해 Agent Knowledge Foundation을 사용하여 특화된 에이전트를 배포하고, 독점 데이터로부터 실행 가능한 인텔리전스를 생성하며, 결과를 예측하고 의사 결정을 최적화하고 있습니다.
Databricks는 NVIDIA Kumo Anomaly를 Databricks Genie Ontology와 결합하여 문맥 인식 에이전트를 지원합니다.
Snowflake는 고객이 Snowflake Notebook 환경에서 NVIDIA Kumo Engine 및 Kumo Relationㅡal 오픈 모델을 사용할 수 있도록 하여 더 많은 예측 기능을 활용하게 합니다.
NVIDIA Nemotron Retriever 모델은 검색을 더 빠르고 정확하게 만듭니다. 임베딩 모델을 사용하여, Amazon OpenSearch Service는 더 적은 검색 단계와 사실상 추가되지 않은 지연 시간으로 관련성을 개선했습니다. SAP의파인튜닝된 리랭커는 거의 3배 더 빠르게 실행되었습니다. ServiceNow는 리랭킹 품질을 개선하는 동시에 지연 시간을 거의 1/4 가까이 줄였습니다. Zoom은 Nemotron Retriever 모델을 사용하여 Zoom AI Services를 위한 문서 이해, 검색 관련성 및 문맥 검색을 개선하고 있습니다.
Amazon Web Services(AWS), ClickHouse, Cloudera, Cohesity, 다쏘 시스템(Dassault Systèmes), Dell, Elastic, Exa, IBM, NetApp, Oracle, Perplexity, Starburst 그리고 VAST Data 또한 Agent Knowledge Foundation을 기반으로 구축하는 곳에 포함됩니다.
이것에 참여하여 자세히 알아보세요 프로덕션 환경에서 특화 에이전트를 구축, 배포 및 최적화하는 방법을 다루는 GTC Berlin 세션.
NVIDIA 유럽 발표 전체 읽기