정부는 민감한 정보를 자국의 통제 아래 유지하면서 대중을 위해 서비스할 수 있는 현대적인 솔루션을 필요로 합니다.
오픈 모델은 앞으로 나아갈 길을 제공하며, 정부가 모델을 평가하고, 현지 언어 및 공공 서비스에 맞게 조정하고, 자국이 통제하는 인프라에서 실행하고, 자체적인 안전장치를 적용하고, 민감한 데이터를 통제된 환경 내에 유지할 수 있게 해줍니다. 일부 오픈 모델은 더 나아가, 학습에 사용된 데이터셋을 공개하여 정부가 학습 데이터의 라이선스 적합성, 편향 여부 또는 규정 준수 여부를 검증할 수 있도록 합니다.
NVIDIA 파트너와 유럽 정부들이 협력하여 데이터와 인프라에 대한 통제권을 유지하면서 공공 행정의 효율성을 높이는 고급 모델을 도입하고 있습니다.
여러 기관은 또한 다음의 에디션을 구축하고 있습니다. NVIDIA Nemotron-Personas 컬렉션, 즉 NeMo User Sim의 기반이 되는 파트너 기반 데이터셋입니다. NeMo User Sim은 NVIDIA의 오픈 소스 라이브러리로, 인구 규모의 사용자 시뮬레이션을 통해 현지 언어로 모델과 에이전트를 동적으로 평가하고 학습시킵니다.
유럽 내 모든 NVIDIA 발표 읽기
유럽위원회: 거버넌스 기반 AI 애플리케이션 확장
베를린에 소재한 소프트웨어 회사 deepset은 Haystack Enterprise Platform을 확장하고 있습니다. 이는 AI@EC의 기반으로, 위원회가 관리하는 인프라에서 AI 애플리케이션을 구축하고 실행하기 위한 유럽위원회의 공유 플랫폼 입니다.
이번 업데이트는 모든 고객을 위해 에이전트 개발, 실행, 최적화 및 거버넌스를 연결하고, 운영 비용 비교, 응답 품질 평가 및 문제 추적 기능을 추가합니다.
NVIDIA Triton Inference Server 는 관련 정보를 찾고 순위를 매기는 데 사용되는 공유 서비스를 지원합니다. 이번 확장은 AI@EC와 같은 배포에서 입증된 운영 요구 사항을 기반으로 하며, 재사용 가능한 구성 요소, 역할 기반 액세스, 감사 추적 및 가드레일이 문서 요약, 지식 관리 및 다국어 정책 분석을 포함한 애플리케이션을 지원합니다.
폴란드: 의료 및 고용을 위한 고급 컴퓨팅
Deloitte는 오픈 모델을 사용하여 폴란드가 의료 및 고용 서비스를 위한 에이전트 시스템을 구축하도록 지원하고 있습니다.
폴란드 eHealth Centre은 NVIDIA DGX BasePOD 와 MONAI 프레임워크를 사용하여 의료 영상용 지능형 서비스 플랫폼을 구축하고 있습니다. 이 도구는 의사가 X-ray, CT 스캔 및 MRI 영상을 분석하고, 이상을 감지하고, 긴급 사례의 우선순위를 지정하여 환자가 결과를 기다리는 시간을 줄이는 데 도움을 줄 것입니다.
Deloitte의 지원을 받아 폴란드 가족노동사회정책부는 NVIDIA 가속 컴퓨팅 인프라 위에 에이전트 팩토리를 개발하고 있습니다. 400개 이상의 고용 사무소를 지원하도록 설계된 이 시스템은 PLLuM, GPT OSS 및 Inkling을 포함한 모델을 실행하여 문서 검색, 요약 및 디지털 어시스턴트를 수행하고, 직원들이 구직자를 더 효율적으로 지원하도록 돕습니다.
NVIDIA는 또한 폴란드의 SpeakLeash 및 슬로베니아의 류블랴나 대학교와 협력하여 자국별 합성 페르소나 프로그램 추가 작업을 진행 중이며, 현지화된 데이터셋이 이어서 제공될 예정입니다.
영국: 지역에 관련성 높은 고급 모델링을 위한 데이터
런던에 소재한 Locai Labs 는 출시했습니다 Nemotron-Personas-UK은(는) 영국의 인구 통계학적·지리적 다양성을 반영하면서 프라이버시 위험을 줄인 100만 개의 합성 페르소나 데이터셋입니다. 잠재적 활용 분야로는 의료 평가와 연령대, 교육 수준, 농촌 및 도시 인구 전반에 걸친 편향 테스트가 있습니다. 공공 서비스 모델을 개발하는 개발자에게는 모델이 서로 다른 커뮤니티에서 일관되게 작동하는지 테스트할 수 있는 방법을 제공합니다.
독일: 기밀 업무를 위한 디지털 어시스턴트와 AI
독일에서는 Materna가 생성형 AI, 음성 상호작용 및 3D 아바타를 결합한 온프레미스 플랫폼인 Sinfonie를 선보이고 있으며, 애니메이션을 위해 NVIDIA Audio2Face 를 제공합니다. 독일 한 주 정부를 위한 프로젝트를 기반으로 구축된 이 플랫폼은 직원들이 음성 질문을 통해 기관 지식에 접근하도록 돕는 동시에, 데이터를 조직의 인프라에 보관할 수 있게 합니다.
기밀 정보를 취급하는 조직을 위해 secunet, NVIDIA, Red Hat 그리고 deepset 이 한 단계 더 나아갑니다. 이 4개 회사는 기밀 정보와 함께 사용이 승인된 보안 구성 요소를 포함하는, 검증된 secunet의 SINA Cloud 기반 위에 구축된 주권 클라우드 오퍼링을 개발하고 있습니다. 계획된 오퍼링은 4가지 구성 요소를 결합합니다: NVIDIA 가속 컴퓨팅과 NVIDIA Nemotron 오픈 모델; AI 워크로드를 배포하고 관리하기 위한 Red Hat OpenShift AI; deepset의 Haystack AI 에이전트 오케스트레이션; 그리고 독일 데이터 센터에서 secunet이 운영하는 인프라.
현지 개발을 지원하기 위해, Sovereign Open Source Foundation Models 연구 이니셔티브 (Soofi)는 독일 산업계와 공공 부문을 위한 AI 모델 제품군을 개발하고 있습니다. 여기에는 Nemotron-Personas-Germany가 포함되며, 16개 연방주 전역과 400개 구에 걸친 2022년 인구조사에 기반한, 각각 여섯 개의 합성 페르소나를 갖춘 100만 개 레코드로 구성된 오픈 데이터셋입니다. NVIDIA NeMo Data Designer 를 사용하여 실제 사람의 개인 데이터 없이 제작된 이 데이터셋은 개발자가 공공 서비스 모델이 지역, 연령층 및 커뮤니티 전반에서 일관되게 작동하는지 테스트하도록 돕습니다. 영국판과 마찬가지로 NeMo User Sim 과 함께 사용할 수 있어, 개발자가 합성 독일 페르소나를 기반으로 한 시뮬레이션 사용자를 대상으로 모델을 평가하고 학습시킬 수 있습니다.
프랑스: 공공 부문 업무 공간의 고급 오픈 모델
프랑스의 디지털 서비스 공공 조달 기관인 CANUT는 Twake.ai를 기반으로 한 주권 협업 업무 공간을 제공하기 위해 LINAGORA 와 Docaposte를 선정했습니다.
지자체, 학교, 의료기관을 포함한 2,500개 이상의 적격 조직이 자체 입찰을 진행하지 않고도 이 프레임워크에 접근할 수 있습니다. 이 업무 공간은 공공 부문 직원들에게 이메일, 문서 공유 및 협업 도구를 제공하며, NVIDIA 기술이 음성 전사를 지원하고 인프라는 프랑스에서 호스팅됩니다. Région Occitanie는 배포 확대를 위한 선호 파트너입니다.
그리스: 현지 애저닉 생태계
그리스의 AI 및 에너지 기업인 KIEFER 는 NVIDIA DGX SuperPOD with DGX GB200 위에 구축되고 Sophea 오픈 웨이트 모델 및 지식 검색, 음성, 디지털 어시스턴트를 위한 그리스어 도구와 함께 애저닉 팩토리를 개발하고 있습니다. 이러한 역량은 그리스어를 사용하는 공공 부문 팀이 기관 정보를 더 쉽게 찾고 활용할 수 있게 하는 동시에, 조직이 에이전트가 실행되는 위치와 데이터 처리 방식을 통제할 수 있게 합니다.
Codefest: 차세대 애플리케이션 구축
유럽 및 그 이상의 지역에서 공공 부문 조직이 애저닉 AI를 통합하도록 지원하기 위한 노력의 일환으로, NVIDIA Open Models Codefest는 스타트업, 소프트웨어 제공업체 및 연구소를 한데 모아 오픈 모델을 의료 추론, AI 튜터링, 모델 거버넌스를 포함한 공공 부문 과제를 위한 현지 통제 솔루션으로 전환하고 있습니다. 상위 5개 팀은 Pleias, Zehnlab.ai, Disseqt, Algoritmica GmbH 그리고 ABA Technology. Deutsche Telekom과 T-Systems 팀들이 대규모 언어 모델을 학습하고 배포할 수 있도록 컴퓨팅 인프라를 제공했습니다.
학습 방법 알아보기: NVIDIA가 정부와 커뮤니티가 안전한 고급 모델링 및 에이전트 생성을 가속화하도록 지원하는 방법.
보기 소프트웨어 제품 정보에 관한 공지
Read All NVIDIA in Europe Announcements 모두 읽기