엔터프라이즈 워크플로우 혁신: 엔비디아의 NeMo 마이크로서비스, AI 에이전트용
엔비디아가 최근 AI 에이전트를 엔터프라이즈 워크플로우에 원활하게 통합하도록 설계된 툴 스위트인 NeMo 마이크로서비스를 공개했습니다. 이번 출시는 기업의 상당 부분이 AI 투자에서 상당한 수익을 실현하는 데 어려움을 겪고 있다는 연구 결과가 나오는 중요한 시점에 이루어졌습니다. NeMo 마이크로서비스는 개발자가 작업을 자동화하고, 기존 애플리케이션과 통합하고, 최신 정보로 업데이트할 수 있는 AI 에이전트를 구축하고 관리하는 데 필요한 리소스를 제공하여 이러한 과제를 해결하는 것을 목표로 합니다.
엔터프라이즈에서 AI 에이전트의 약속
기업 운영 방식을 혁신할 AI 에이전트의 잠재력은 엄청납니다. 엔비디아의 엔터프라이즈용 생성 AI 소프트웨어 담당 수석 이사인 조이 콘웨이는 ‘다양한 산업, 지역, 위치에 걸쳐 10억 명이 넘는 지식 노동자가 있으며, 디지털 직원 또는 AI 에이전트가 기업이 이러한 다양한 영역과 시나리오에서 더 많은 작업을 수행하는 데 도움이 될 수 있다고 봅니다.’라고 말했습니다.
NeMo 마이크로서비스는 AI 에이전트를 구축, 배포 및 관리하기 위한 포괄적인 툴 세트를 제공하여 이러한 비전을 실현하도록 설계되었습니다. 이러한 마이크로서비스는 더 광범위한 엔비디아 AI 엔터프라이즈 개발자 툴 스위트에도 포함되어 접근성과 통합 기능을 더욱 향상시킵니다.
NeMo 마이크로서비스 스위트 분석
NeMo 마이크로서비스 스위트는 AI 에이전트 라이프사이클의 특정 측면을 해결하도록 설계된 몇 가지 주요 구성 요소로 구성됩니다.
- NeMo Curator: 이 마이크로서비스는 엔터프라이즈 데이터를 수집하여 AI 에이전트가 작업을 효과적으로 수행하는 데 필요한 정보에 액세스할 수 있도록 합니다.
- NeMo Customizer: 콘웨이는 ‘최첨단 교육 기술을 사용하여 모델에 새로운 기술과 새로운 지식을 가르쳐 에이전트를 구동하는 모델이 최신 상태로 유지되도록 하는’ 마이크로서비스라고 설명한 NeMo Customizer는 AI 에이전트를 최신 상태로 유지하고 관련성을 유지하는 데 매우 중요합니다.
- NeMo Evaluator: 이 마이크로서비스는 에이전트를 구동하는 AI 모델이 실제로 개선되었는지, 퇴보하지 않았는지 확인하여 성능이 일관되게 유지되거나 시간이 지남에 따라 향상되도록 설계되었습니다.
- NeMo Guardrails: NeMo Guardrails는 AI 에이전트가 의도된 목적에 집중하도록 유지하고, 주제에서 벗어나는 것을 방지하고, 잠재적인 안전 및 보안 위험을 완화하기 위한 것입니다.
‘데이터 플라이휠’ 개념
엔비디아는 이러한 마이크로서비스가 ‘데이터 플라이휠’이라고 부르는 지속적이고 순환적인 파이프라인에서 작동할 것으로 예상합니다. 이 프로세스에는 새로운 데이터와 사용자 피드백을 가져와 이 정보를 사용하여 AI 모델을 개선한 다음 업데이트된 모델을 재배포하는 과정이 포함됩니다. 이러한 반복적인 접근 방식은 AI 에이전트가 지속적으로 학습하고 적응하여 시간이 지남에 따라 더욱 효과적으로 작동하도록 보장합니다.
콘웨이는 NeMo 마이크로서비스를 ‘본질적으로 Docker 컨테이너와 같다’고 비유하여 모듈성과 배포 용이성을 강조했습니다. 이러한 마이크로서비스의 오케스트레이션은 Kubernetes에 의존하며, 프로세스를 간소화하기 위한 Kubernetes 운영자와 같은 추가 기능이 있습니다.
엔비디아는 또한 효과적인 AI를 위해 고품질 데이터의 중요성을 인식하여 데이터 준비 및 큐레이션을 개선하는 데 주력하고 있습니다. 콘웨이는 ‘데이터 준비 및 큐레이션을 돕는 소프트웨어가 현재 일부 있으며, 더 많은 소프트웨어가 출시될 예정입니다.’라고 언급했습니다.
광범위한 소프트웨어 지원 및 통합
엔비디아는 NeMo 마이크로서비스가 광범위한 소프트웨어 플랫폼 및 툴과 호환되도록 보장하기 위해 노력하고 있습니다. 이 회사는 SAP, ServiceNow, Amdocs와 같은 엔터프라이즈 플랫폼을 포함한 새로운 AI 툴킷에 대한 광범위한 소프트웨어 지원을 주장합니다. DataRobot 및 Dataiku와 같은 AI 소프트웨어 스택; DataStax 및 Cloudera와 같은 기타 툴. 또한 NeMo 마이크로서비스는 Google, Meta, Microsoft, Mistral AI, Nvidia 자체를 포함한 다양한 소스의 모델을 지원합니다.
이러한 광범위한 지원을 통해 기업은 선택한 기술 스택에 관계없이 NeMo 마이크로서비스를 기존 IT 인프라에 원활하게 통합할 수 있습니다.
NeMo 마이크로서비스의 실제 애플리케이션
NeMo 마이크로서비스는 이미 다양한 산업 분야에 배포되어 다재다능함과 잠재적 영향을 보여주고 있습니다. 예를 들어 통신 및 미디어 회사에 소프트웨어 및 서비스를 제공하는 선도적인 제공업체인 Amdocs는 NeMo 마이크로서비스를 활용하여 통신 사업자 고객을 위한 세 가지 유형의 에이전트를 개발하고 있습니다.
- 결제 에이전트: 이 에이전트는 결제 관련 문의 해결에 중점을 두고 고객에게 계정에 대한 정확하고 시기적절한 정보를 제공합니다.
- 판매 에이전트: 판매 에이전트는 판매 프로세스의 일부로 개인화된 제안을 제공하고 고객 참여를 향상시켜 거래를 보다 효과적으로 성사시키는 데 주력합니다.
- 네트워크 에이전트: 이 에이전트는 다양한 지리적 지역 및 국가에서 로그 및 네트워크 정보를 분석하여 서비스 문제를 사전에 식별하고 해결하여 네트워크 안정성과 성능을 보장합니다.
이러한 예는 NeMo 마이크로서비스가 작업을 자동화하고, 고객 서비스를 개선하고, 다양한 산업 분야에서 운영 효율성을 향상시킬 수 있는 잠재력을 보여줍니다.
가용성 및 배포
개발자는 GPU에 최적화된 소프트웨어 허브인 Nvidia NGC 카탈로그를 통해 NeMo 마이크로서비스에 액세스할 수 있습니다. 또는 AI 애플리케이션을 개발하고 배포하기 위한 포괄적인 툴 세트를 제공하는 Nvidia AI Enterprise 스위트의 일부로 마이크로서비스를 배포할 수 있습니다.
ROI 증명의 과제
AI의 잠재력은 부인할 수 없지만 많은 기업이 AI 투자에 대한 명확한 수익을 입증하는 데 어려움을 겪고 있습니다. 영국에서 실시된 최근 연구에 따르면 기업은 고객 경험을 개선하기 위해 AI에 평균 321,000파운드(427,000달러)를 지출하고 있지만 상당한 비율이 미미한 개선만 보고 있습니다. 연구에 따르면 비즈니스 리더의 44%는 AI가 지금까지 약간의 개선만 제공했다고 답했습니다.
이러한 어려움에도 불구하고 응답자의 대다수(93%)는 AI 투자가 좋은 투자 수익(ROI)을 제공했다고 주장했습니다. 이러한 불일치는 기업이 AI 전략을 신중하게 평가하고 전반적인 비즈니스 목표에 부합하도록 보장해야 할 필요성을 강조합니다.
의미 있는 통합의 중요성
마케터 및 개발자를 위한 CMS 소프트웨어 제공업체인 Storyblok이 의뢰한 연구에 따르면 기업은 AI의 피상적인 구현을 넘어 의미 있는 변화를 유도하는 방식으로 통합해야 합니다. 이를 위해서는 배포되는 AI 기술의 기능뿐만 아니라 비즈니스의 특정 요구 사항과 과제를 고려하는 전략적 접근 방식이 필요합니다.
이 연구에서는 영국 비즈니스 리더 사이에서 AI의 가장 인기 있는 사용 사례를 다음과 같이 확인했습니다.
- 웹사이트 콘텐츠 제작
- 고객 서비스
- 마케팅 분석
- 번역 서비스
- 마케팅 콘텐츠 제작
이러한 사용 사례는 AI가 작업을 자동화하고, 효율성을 개선하고, 고객 경험을 향상시킬 수 있는 잠재력을 보여줍니다. 그러나 AI의 잠재력을 최대한 실현하려면 기업은 AI 이니셔티브를 신중하게 계획하고 실행하여 전반적인 비즈니스 전략에 부합하도록 보장해야 합니다.
AI 구현의 복잡성 탐색
AI를 엔터프라이즈 워크플로우에 통합하는 것은 데이터 준비 및 모델 교육에서 배포 및 유지 관리에 이르기까지 복잡한 일련의 과제를 제시합니다. NeMo 마이크로서비스는 개발자에게 포괄적인 툴 및 리소스 세트를 제공하여 이러한 과제를 해결하도록 설계되었습니다.
그러나 성공적인 AI 구현에는 기술 이상의 것이 필요합니다. 또한 해결되는 비즈니스 문제에 대한 명확한 이해, AI 에이전트 배포 및 관리를 위한 잘 정의된 전략, 지속적인 개선에 대한 약속이 필요합니다.
엔터프라이즈에서 AI의 미래
AI 기술이 계속 발전함에 따라 엔터프라이즈에서의 역할은 더욱 두드러질 것입니다. AI 에이전트는 작업을 자동화하고, 효율성을 개선하고, 고객 경험을 향상시켜 기업 운영 방식을 혁신할 수 있는 잠재력을 가지고 있습니다.
엔비디아의 NeMo 마이크로서비스는 이러한 비전을 실현하는 데 중요한 진전을 나타냅니다. NeMo 마이크로서비스는 개발자가 AI 에이전트를 구축, 배포 및 관리하는 데 필요한 툴을 제공함으로써 AI를 민주화하고 더 광범위한 비즈니스에서 액세스할 수 있도록 돕고 있습니다.
그러나 AI의 성공적인 채택에는 각 비즈니스의 특정 요구 사항과 과제를 고려하는 전략적 접근 방식이 필요합니다. AI 이니셔티브를 신중하게 계획하고 실행함으로써 기업은 AI의 잠재력을 최대한 활용하고 의미 있는 변화를 주도할 수 있습니다.
결론: AI 혁명 수용
엔비디아의 NeMo 마이크로서비스 출시는 AI 분야에서 흥미로운 발전이며, 기업에 AI 에이전트를 워크플로우에 통합할 수 있는 강력한 툴킷을 제공합니다. 기업이 AI 구현의 복잡성을 탐색함에 따라 이러한 마이크로서비스는 효율성을 높이고, 고객 경험을 개선하고, 새로운 성장 기회를 열 수 있는 지능형 자동화 시스템을 구축하기 위한 강력한 기반을 제공합니다. ROI를 입증하고 의미 있는 통합을 보장하는 데 어려움이 남아 있지만 AI의 잠재적 이점은 부인할 수 없으며 NeMo 마이크로서비스는 엔터프라이즈에서 AI의 미래를 형성하는 데 핵심적인 역할을 할 준비가 되어 있습니다.