Nvidia heeft onlangs zijn NeMo microservices onthuld, een reeks tools die zijn ontworpen om AI-agents naadloos te integreren in de workflows van ondernemingen. Deze lancering komt op een cruciaal moment, aangezien studies aantonen dat een aanzienlijk deel van de bedrijven moeite heeft om substantiële rendementen op hun AI-investeringen te realiseren. De NeMo microservices zijn bedoeld om deze uitdaging aan te gaan door ontwikkelaars de middelen te bieden die ze nodig hebben om AI-agents te bouwen en te beheren die taken kunnen automatiseren, kunnen integreren met bestaande applicaties en op de hoogte kunnen blijven van de nieuwste informatie.
De belofte van AI Agents in de onderneming
Het potentieel van AI-agents om de manier waarop bedrijven werken te transformeren is immens. Volgens Joey Conway, Nvidia’s senior director of generative AI software for enterprise, ‘Er zijn meer dan een miljard kenniswerkers in vele industrieën, regio’s en locaties, en onze mening is dat digitale medewerkers of AI-agents bedrijven kunnen helpen meer werk te verzetten in deze verscheidenheid aan domeinen en scenario’s.’
NeMo microservices zijn ontworpen om deze visie werkelijkheid te maken door een uitgebreide set tools te bieden voor het bouwen, implementeren en beheren van AI-agents. Deze microservices zijn ook opgenomen in de bredere Nvidia AI Enterprise suite van ontwikkelaarstools, waardoor hun toegankelijkheid en integratiemogelijkheden verder worden verbeterd.
Het uitpakken van de NeMo Microservices Suite
De NeMo microservices suite bestaat uit verschillende belangrijke componenten, elk ontworpen om een specifiek aspect van de AI-agent lifecycle aan te pakken:
- NeMo Curator: Deze microservice is verantwoordelijk voor het verzamelen van bedrijfsgegevens, waardoor AI-agents toegang hebben tot de informatie die ze nodig hebben om hun taken effectief uit te voeren.
- NeMo Customizer: Beschreven door Conway als een microservice die ‘de nieuwste state-of-the-art trainingstechnieken gebruikt en modellen nieuwe vaardigheden en nieuwe kennis leert, zodat we ervoor kunnen zorgen dat de modellen die de agents aansturen up-to-date blijven’, is NeMo Customizer cruciaal om AI-agents actueel en relevant te houden.
- NeMo Evaluator: Deze microservice is ontworpen om te verifiëren dat het AI-model dat de agent aandrijft daadwerkelijk is verbeterd en niet is teruggevallen, waardoor de prestaties consistent blijven of in de loop van de tijd verbeteren.
- NeMo Guardrails: NeMo Guardrails zijn bedoeld om de AI-agent gefocust te houden op het beoogde doel, te voorkomen dat deze van het onderwerp afdwaalt en potentiële veiligheids- en beveiligingsrisico’s te beperken.
Het “Data Flywheel” concept
Nvidia ziet deze microservices werken in een continue, cyclische pijplijn, die ze een “data flywheel” noemen. Dit proces omvat het opnemen van nieuwe gegevens en gebruikersfeedback, het gebruiken van deze informatie om het AI-model te verbeteren en vervolgens het opnieuw implementeren van het bijgewerkte model. Deze iteratieve aanpak zorgt ervoor dat AI-agents continu leren en zich aanpassen, waardoor ze in de loop van de tijd effectiever worden.
Conway vergelijkt NeMo microservices met ‘in wezen een Docker container’, waarbij hij hun modulariteit en implementatiegemak benadrukt. De orkestratie van deze microservices is afhankelijk van Kubernetes, met extra functies zoals Kubernetes Operators om het proces te stroomlijnen.
Nvidia richt zich ook op het verbeteren van de gegevensvoorbereiding en -curatie, waarbij het belang van hoogwaardige gegevens voor effectieve AI wordt erkend. ‘We hebben vandaag wat software om te helpen met de gegevensvoorbereiding en -curatie. Er komt daar nog veel meer aan,’ merkte Conway op.
Brede softwareondersteuning en integratie
Nvidia zet zich in om ervoor te zorgen dat NeMo microservices compatibel zijn met een breed scala aan softwareplatforms en tools. Het bedrijf claimt brede softwareondersteuning voor zijn nieuwe AI-toolkit, waaronder enterprise platforms zoals SAP, ServiceNow en Amdocs; AI-software stacks zoals DataRobot en Dataiku; plus andere tools zoals DataStax en Cloudera. Bovendien ondersteunen NeMo microservices modellen uit verschillende bronnen, waaronder Google, Meta, Microsoft, Mistral AI en Nvidia zelf.
Deze brede ondersteuning zorgt ervoor dat bedrijven NeMo microservices naadloos kunnen integreren in hun bestaande IT-infrastructuur, ongeacht hun gekozen technologiestack.
Real-World toepassingen van NeMo Microservices
NeMo microservices worden al in verschillende industrieën ingezet, wat hun veelzijdigheid en potentiële impact aantoont. Amdocs, een toonaangevende leverancier van software en diensten aan communicatie- en mediabedrijven, gebruikt bijvoorbeeld NeMo microservices om drie soorten agents te ontwikkelen voor haar telecomoperator klanten:
- Factuuragent: Deze agent richt zich op het oplossen van factuurgerelateerde vragen en het verstrekken van klanten van nauwkeurige en tijdige informatie over hun accounts.
- Verkoopagent: De verkoopagent werkt aan het leveren van gepersonaliseerde aanbiedingen en het verbeteren van de klantbetrokkenheid als onderdeel van het verkoopproces, waardoor deals effectiever kunnen worden gesloten.
- Netwerkagent: Deze agent analyseert logs en netwerkinformatie in verschillende geografische regio’s en landen om proactief serviceproblemen te identificeren en aan te pakken, waardoor de betrouwbaarheid en prestaties van het netwerk worden gewaarborgd.
Deze voorbeelden illustreren het potentieel van NeMo microservices om taken te automatiseren, de klantenservice te verbeteren en de operationele efficiëntie in verschillende industrieën te verbeteren.
Beschikbaarheid en implementatie
Ontwikkelaars hebben toegang tot NeMo microservices via de Nvidia NGC catalog, een hub voor GPU-geoptimaliseerde software. Als alternatief kunnen ze de microservices implementeren als onderdeel van de Nvidia AI Enterprise suite, die een uitgebreide set tools biedt voor het ontwikkelen en implementeren van AI-applicaties.
De uitdaging om ROI te bewijzen
Hoewel het potentieel van AI onmiskenbaar is, hebben veel bedrijven moeite om een duidelijk rendement op hun AI-investeringen aan te tonen. Uit een recent onderzoek in het VK bleek dat bedrijven gemiddeld £ 321.000 ($ 427.000) aan AI uitgeven in een poging de klantervaring te verbeteren, maar een aanzienlijk percentage ziet slechts marginale verbeteringen. Volgens het onderzoek gaf 44 procent van de bedrijfsleiders aan dat AI tot nu toe slechts een lichte verbetering heeft opgeleverd.
Ondanks deze uitdagingen beweerde de overgrote meerderheid van de respondenten (93 procent) dat hun AI-investering een goed rendement op investering (ROI) heeft opgeleverd. Deze discrepantie benadrukt de noodzaak voor bedrijven om hun AI-strategieën zorgvuldig te evalueren en ervoor te zorgen dat ze zijn afgestemd op hun algemene bedrijfsdoelstellingen.
Het belang van zinvolle integratie
Het onderzoek in opdracht van Storyblok, een leverancier van CMS-software voor marketeers en ontwikkelaars, suggereert dat bedrijven verder moeten gaan dan oppervlakkige implementaties van AI en deze moeten integreren op een manier die zinvolle transformatie stimuleert. Dit vereist een strategische aanpak die rekening houdt met de specifieke behoeften en uitdagingen van het bedrijf, evenals met de mogelijkheden van de AI-technologie die wordt ingezet.
Het onderzoek identificeerde de meest populaire use cases voor AI onder Britse bedrijfsleiders als:
- Website content creatie
- Klantenservice
- Marketing analyse
- Vertaling diensten
- Marketing content creatie
Deze use cases tonen het potentieel van AI aan om taken te automatiseren, de efficiëntie te verbeteren en de klantervaring te verbeteren. Om het volledige potentieel van AI te realiseren, moeten bedrijven echter hun AI-initiatieven zorgvuldig plannen en uitvoeren, zodat ze zijn afgestemd op hun algemene bedrijfsstrategie.
Het navigeren door de complexiteit van AI-implementatie
De integratie van AI in enterprise workflows presenteert een complexe reeks uitdagingen, variërend van gegevensvoorbereiding en modeltraining tot implementatie en onderhoud. NeMo microservices zijn ontworpen om deze uitdagingen aan te gaan door ontwikkelaars een uitgebreide set tools en resources te bieden.
Succesvolle AI-implementatie vereist echter meer dan alleen technologie. Het vereist ook een duidelijk begrip van het bedrijfsprobleem dat wordt aangepakt, een goed gedefinieerde strategie voor het implementeren en beheren van AI-agents en een toewijding aan continue verbetering.
De toekomst van AI in de onderneming
Naarmate de AI-technologie zich blijft ontwikkelen, zal haar rol in de onderneming alleen maar prominenter worden. AI-agents hebben het potentieel om de manier waarop bedrijven werken te transformeren, taken te automatiseren, de efficiëntie te verbeteren en de klantervaring te verbeteren.
Nvidia’s NeMo microservices vormen een belangrijke stap voorwaarts in het realiseren van deze visie. Door ontwikkelaars de tools te bieden die ze nodig hebben om AI-agents te bouwen, implementeren en beheren, helpen NeMo microservices AI te democratiseren en toegankelijk te maken voor een breder scala aan bedrijven.
De succesvolle adoptie van AI vereist echter een strategische aanpak die rekening houdt met de specifieke behoeften en uitdagingen van elk bedrijf. Door hun AI-initiatieven zorgvuldig te plannen en uit te voeren, kunnen bedrijven het volledige potentieel van AI ontsluiten en zinvolle transformatie stimuleren.
Conclusie: Het omarmen van de AI-revolutie
De lancering van Nvidia’s NeMo microservices markeert een opwindende ontwikkeling op het gebied van AI en biedt bedrijven een krachtige toolkit om AI-agents in hun workflows te integreren. Terwijl bedrijven door de complexiteit van AI-implementatie navigeren, bieden deze microservices een robuuste basis voor het bouwen van intelligente, geautomatiseerde systemen die de efficiëntie kunnen stimuleren, de klantervaring kunnen verbeteren en nieuwe groeimogelijkheden kunnen ontsluiten. Hoewel er uitdagingen blijven bij het aantonen van ROI en het waarborgen van zinvolle integratie, zijn de potentiële voordelen van AI onmiskenbaar en staan NeMo microservices klaar om een belangrijke rol te spelen bij het vormgeven van de toekomst van AI in de onderneming.