AI 기반 인프라의 새로운 시대
NVIDIA는 최근 AI 인프라를 혁신할 맞춤형 레퍼런스 디자인인 NVIDIA AI Data Platform을 소개했습니다. 이 획기적인 플랫폼은 선도적인 기술 제공업체들이 AI 추론 워크로드의 까다로운 요구 사항을 위해 특별히 설계된 차세대 인프라를 구축하기 위해 채택하고 있습니다. 이 혁신적인 디자인의 핵심은 NVIDIA의 최첨단 가속 컴퓨팅, 네트워킹 및 소프트웨어 기술로 구동되는 AI 쿼리 에이전트로 강화된 엔터프라이즈 스토리지 플랫폼입니다.
실시간 통찰력으로 기업 역량 강화
NVIDIA AI Data Platform을 통해 NVIDIA 인증 스토리지 제공업체는 특수 AI 쿼리 에이전트를 통합하여 AI 추론 워크로드를 크게 가속화하는 인프라를 구축할 수 있습니다. 이러한 지능형 에이전트는 기업이 거의 실시간으로 데이터에서 귀중한 통찰력을 추출할 수 있도록 지원합니다. 이 기능은 고급 추론 기능을 갖춘 새로운 NVIDIA Llama Nemotron 모델을 위해 설계된 NVIDIA NIM™ 마이크로서비스를 포함하는 포괄적인 제품군인 NVIDIA AI Enterprise 소프트웨어에 의해 구동됩니다. 이러한 모델은 플랫폼의 실행 가능한 인텔리전스 제공 능력을 더욱 향상시킵니다. 이를 보완하는 것은 에이전트 시스템 개발을 간소화하는 프레임워크인 새로운 NVIDIA AI-Q Blueprint입니다.
AI 쿼리 에이전트를 위한 인프라 최적화
스토리지 제공업체는 NVIDIA AI Data Platform을 활용하여 인프라를 최적화하여 이러한 정교한 AI 쿼리 에이전트를 효과적으로 지원할 수 있습니다. 이러한 최적화에는 NVIDIA Blackwell GPU, NVIDIA BlueField® DPU, NVIDIA Spectrum-X™ 네트워킹 및 NVIDIA Dynamo 오픈 소스 추론 라이브러리를 포함한 주요 NVIDIA 기술을 통합하는 것이 포함됩니다. 이러한 구성 요소는 시너지 효과를 발휘하여 AI 기반 데이터 처리에 맞게 조정된 고성능 환경을 만듭니다.
업계 전반의 협력
NVIDIA와 협력하여 선도적인 데이터 플랫폼 및 스토리지 제공업체와 함께 놀라운 협력이 진행 중입니다. DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data 및 WEKA와 같은 업계 거물들은 맞춤형 AI 데이터 플랫폼을 만들기 위해 적극적으로 노력하고 있습니다. 이러한 플랫폼은 기업 데이터의 방대한 잠재력을 활용하여 기업이 전례 없는 속도와 정확성으로 복잡한 쿼리를 추론하고 대응할 수 있도록 설계되었습니다.
Jensen Huang의 비전: AI 시대의 연료로서의 데이터
NVIDIA의 설립자이자 CEO인 Jensen Huang은 데이터를 ‘AI 시대의 산업을 움직이는 원자재’라고 적절하게 설명합니다. 그는 세계 스토리지 리더들과의 협력이 ‘새로운 종류의 엔터프라이즈 인프라’를 구축하고 있다고 강조합니다. 이 차세대 인프라는 기업이 하이브리드 데이터 센터 전반에 걸쳐 에이전트 AI를 배포하고 확장하여 새로운 수준의 효율성과 혁신을 실현하는 데 필수적입니다.
엔터프라이즈 스토리지에 가속 컴퓨팅 도입
NVIDIA AI Data Platform은 엔터프라이즈 스토리지에 의존하는 수많은 기업에 가속 컴퓨팅 및 AI의 힘을 제공함으로써 중요한 발전을 이룹니다. 이러한 기업은 운영을 주도하는 중요한 데이터를 관리하기 위해 스토리지 솔루션을 활용합니다. NVIDIA 기술을 이 생태계에 통합하면 새로운 가능성의 영역이 열립니다.
NVIDIA 기술의 힘: Blackwell, BlueField 및 Spectrum-X
이 플랫폼은 NVIDIA Blackwell GPU, BlueField DPU 및 Spectrum-X 네트워킹의 결합된 기능을 활용합니다. 이러한 구성 요소는 엔터프라이즈 스토리지 시스템에 있는 데이터에 대한 AI 쿼리 에이전트 액세스 속도를 획기적으로 높이는 가속 엔진을 형성합니다.
BlueField DPU는 성능과 효율성을 향상시키는 데 중요한 역할을 합니다. CPU 기반 스토리지 솔루션에 비해 최대 1.6배 더 높은 성능을 제공합니다. 동시에 전력 소비를 최대 50%까지 줄입니다. 이는 와트당 성능이 기존 솔루션보다 3배 이상 향상되는 놀라운 결과를 가져옵니다.
Spectrum-X는 AI 스토리지 트래픽을 가속화하는 작업을 수행합니다. 적응형 라우팅 및 정체 제어 메커니즘을 구현하여 데이터 흐름을 최적화하고 병목 현상을 최소화함으로써 기존 이더넷보다 최대 48% 더 빠른 속도를 달성합니다.
NVIDIA AI-Q Blueprint: 에이전트 시스템을 위한 프레임워크
NVIDIA AI Data Platform의 스토리지 인프라는 NVIDIA AI-Q Blueprint를 활용합니다. 이 청사진은 엔터프라이즈 데이터에 연결하고 추론할 수 있는 에이전트 시스템 개발을 위한 가이드 역할을 합니다. AI-Q는 데이터 추출 및 검색을 가속화하는 데 중추적인 역할을 하는 NVIDIA NeMo Retriever™ 마이크로서비스를 활용합니다. 이러한 마이크로서비스는 NVIDIA GPU에서 데이터 액세스 속도를 최대 15배까지 높여 플랫폼의 전반적인 효율성을 크게 향상시킬 수 있습니다.
상황 인식으로 응답 향상
AI-Q Blueprint를 사용하여 구축된 AI 쿼리 에이전트는 추론 프로세스 중에 데이터에 연결하도록 설계되었습니다. 이 중요한 연결을 통해 보다 정확하고 상황을 인식하는 응답을 제공할 수 있습니다. 이러한 에이전트는 대규모 데이터에 빠르게 액세스하고 다양한 데이터 유형을 처리할 수 있는 기능을 갖추고 있습니다. 여기에는 텍스트 문서, PDF, 이미지, 심지어 비디오 콘텐츠와 같은 여러 소스에서 발생하는 구조화, 반구조화 및 비구조화 데이터가 포함됩니다.
파트너 이니셔티브: AI Data Platform 사용자 정의
NVIDIA 인증 스토리지 파트너는 특정 제품에 맞게 조정된 맞춤형 AI 데이터 플랫폼을 개발하기 위해 NVIDIA와 적극적으로 협력하고 있습니다. 다음은 이러한 이니셔티브 중 일부입니다.
- DDN: DDN은 AI Data Platform 기능을 DDN Infinia AI 플랫폼에 통합하여 성능과 기능을 향상시키고 있습니다.
- Dell Technologies: Dell은 AI 영역에서 기능을 확장하는 다양한 Dell PowerScale 및 Project Lightning 솔루션을 위한 AI 데이터 플랫폼을 만들고 있습니다.
- Hewlett Packard Enterprise: HPE는 HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP 및 HPE GreenLake for File Storage를 포함한 여러 제품에 AI Data Platform 기능을 통합하고 있습니다.
- Hitachi Vantara: Hitachi Vantara는 Hitachi IQ 에코시스템에 AI Data Platform을 통합하고 있습니다. 이 통합은 고객에게 실질적인 AI 기반 결과를 제공하는 혁신적인 스토리지 시스템 및 데이터 제품을 제공하는 것을 목표로 합니다.
- IBM: IBM은 콘텐츠 인식 스토리지 기능의 일부로 AI Data Platform을 통합하고 있습니다. 이 통합에는 IBM Fusion 및 IBM Storage Scale 기술이 포함되며 검색 증강 생성 애플리케이션을 가속화하도록 설계되었습니다.
- NetApp: NetApp은 AI Data Platform을 기반으로 구축된 NetApp AIPod 솔루션을 통해 에이전트 AI를 위한 엔터프라이즈 스토리지를 발전시키고 있습니다.
- Nutanix: Nutanix Unified Storage가 포함된 Nutanix Cloud Platform은 NVIDIA AI Data Platform과 통합됩니다. 이 통합을 통해 추론 및 에이전트 워크플로를 에지, 데이터 센터 및 퍼블릭 클라우드를 포함한 다양한 환경에 배포할 수 있습니다.
- Pure Storage: Pure Storage는 Pure Storage FlashBlade 솔루션을 통해 AI Data Platform 기능을 제공하여 성능과 AI 준비성을 향상시킵니다.
- VAST Data: VAST Data는 AI Data Platform과 협력하여 VAST InsightEngine을 사용하여 실시간 통찰력을 큐레이팅하여 데이터 분석을 위한 새로운 가능성을 열어줍니다.
- WEKA: WEKA Data Platform 소프트웨어는 NVIDIA GPU, DPU 및 네트워킹 기술과 통합됩니다. 이 통합은 에이전트 AI 추론 및 통찰력을 위한 데이터 액세스를 최적화하여 AI 추론 및 토큰 처리 워크로드를 가속화하는 고성능 스토리지 기반을 제공합니다.
가용성 및 향후 전망
NVIDIA 인증 스토리지 제공업체는 이번 달부터 NVIDIA AI Data Platform으로 만든 솔루션을 제공할 계획입니다. 이는 이 혁신적인 기술의 광범위한 채택을 향한 중요한 단계입니다. 엔터프라이즈 인프라의 미래는 의심할 여지 없이 AI에 의해 형성되고 있으며 NVIDIA AI Data Platform은 이 혁명의 최전선에 있습니다.