July 23, 2024, 7:21 a.m.

NVIDIA, 맞춤형 슈퍼모델을 위한 AI Foundry 및 NIM 서비스 출시

Brief news summary

NVIDIA는 기업을 위한 생성 AI를 강화하기 위해 NVIDIA AI Foundry와 NVIDIA NIM 추론 마이크로서비스라는 새로운 서비스를 도입했습니다. 이 서비스는 기업과 국가가 Llama 3.1 모델 컬렉션과 NVIDIA 소프트웨어 및 전문 지식을 사용하여 맞춤형 '슈퍼모델'을 만들 수 있게 합니다. 기업은 Llama 3.1 405B 및 NVIDIA Nemotron 모델에서 생성된 합성 데이터뿐만 아니라 자체 독점 데이터로 이 슈퍼모델을 훈련할 수 있습니다. Accenture는 맞춤형 Llama 3.1 모델을 구축하기 위해 NVIDIA AI Foundry를 채택한 첫 번째 회사이며, Aramco, AT&T 및 Uber와 같은 다른 업계 리더들도 이 서비스에 접근할 수 있는 첫 번째 기업 중 하나입니다. NVIDIA AI Foundry는 NVIDIA DGX 클라우드 AI 플랫폼에 의해 구동되며, AI 수요 변화에 따라 확장할 수 있는 중요한 컴퓨팅 리소스를 제공합니다. 이 새로운 제공은 기업과 국가가 생성 AI 애플리케이션을 위해 고유한 비즈니스 또는 문화적 맥락을 반영하는 맞춤형 대형 언어 모델을 구축하려는 시기에 나옵니다.

NVIDIA는 기업과 국가가 Llama 3. 1 모델을 사용하여 맞춤형 '슈퍼모델'을 만들 수 있는 새로운 AI Foundry 서비스와 NIM 추론 마이크로서비스를 발표했습니다. AI Foundry는 큐레이션, 합성 데이터 생성, 미세 조정, 검색, 안전 장치 및 평가를 포함한 종합적인 생성 AI 모델 서비스를 제공합니다. Accenture는 클라이언트를 위해 맞춤형 Llama 3. 1 모델을 구축하기 위해 이 서비스를 처음으로 사용합니다. Aramco, AT&T 및 Uber와 같은 다른 업계 리더들도 새로운 Llama NVIDIA NIM 마이크로서비스에 접근할 수 있는 첫 번째 기업 중 하나입니다.

이 서비스는 NVIDIA DGX Cloud AI 플랫폼에 의해 구동됩니다. 이러한 새로운 제공은 생성 AI 애플리케이션을 위한 맞춤형 대형 언어 모델에 대한 수요를 충족하기 위해 목표로 합니다. NVIDIA AI Foundry는 Llama 3. 1 모델을 통합하고 기업이 맞춤형 Llama 슈퍼모델을 구축하고 배포하는 데 도움을 줄 준비가 되어 있습니다.