Революция в корпоративных рабочих процессах: NeMo Microservices от Nvidia для AI-агентов
Nvidia недавно представила свои NeMo microservices, набор инструментов, разработанный для беспрепятственной интеграции AI-агентов в корпоративные рабочие процессы. Этот запуск происходит в решающий момент, поскольку исследования показывают, что значительная часть предприятий испытывает трудности с получением существенной отдачи от своих инвестиций в AI. NeMo microservices призваны решить эту проблему, предоставив разработчикам ресурсы, необходимые для создания и управления AI-агентами, которые могут автоматизировать задачи, интегрироваться с существующими приложениями и оставаться в курсе последней информации.
Перспективы AI-агентов в корпоративной среде
Потенциал AI-агентов для преобразования способов работы предприятий огромен. По словам Джои Конвея, старшего директора Nvidia по генеративному AI-программному обеспечению для предприятий, ‘В различных отраслях, географических регионах и местах работает более миллиарда сотрудников, обладающих знаниями, и мы считаем, что цифровые сотрудники или AI-агенты смогут помочь предприятиям выполнять больше работы в этих разнообразных областях и сценариях’.
NeMo microservices разработаны для воплощения этого видения в реальность, предоставляя комплексный набор инструментов для создания, развертывания и управления AI-агентами. Эти microservices также включены в более широкий набор инструментов для разработчиков Nvidia AI Enterprise, что еще больше повышает их доступность и возможности интеграции.
Распаковка набора NeMo Microservices
Набор NeMo microservices состоит из нескольких ключевых компонентов, каждый из которых разработан для решения конкретного аспекта жизненного цикла AI-агента:
- NeMo Curator: Этот microservice отвечает за сбор корпоративных данных, обеспечивая AI-агентам доступ к информации, необходимой им для эффективного выполнения своих задач.
- NeMo Customizer: Конвей описывает его как microservice, который ‘использует новейшие методы обучения и обучает модели новым навыкам и знаниям, чтобы мы могли гарантировать, что модели, лежащие в основе агентов, остаются актуальными’. NeMo Customizer имеет решающее значение для поддержания актуальности и релевантности AI-агентов.
- NeMo Evaluator: Этот microservice разработан для проверки того, что AI-модель, лежащая в основе агента, действительно улучшилась и не регрессировала, гарантируя, что производительность остается стабильной или улучшается со временем.
- NeMo Guardrails: NeMo Guardrails предназначены для того, чтобы AI-агент оставался сосредоточенным на своей цели, предотвращая его отклонение от темы и снижая потенциальные риски безопасности.
Концепция ‘Маховика данных’
Nvidia представляет эти microservices работающими в непрерывном, циклическом конвейере, который они называют ‘маховиком данных’. Этот процесс включает в себя получение новых данных и отзывов пользователей, использование этой информации для улучшения AI-модели, а затем повторное развертывание обновленной модели. Этот итеративный подход гарантирует, что AI-агенты постоянно учатся и адаптируются, становясь более эффективными с течением времени.
Конвей сравнивает NeMo microservices с ‘по существу контейнером Docker’, подчеркивая их модульность и простоту развертывания. Оркестровка этих microservices зависит от Kubernetes, с дополнительными функциями, такими как Kubernetes Operators, для оптимизации процесса.
Nvidia также уделяет особое внимание улучшению подготовки и обработки данных, признавая важность высококачественных данных для эффективного AI. ‘У нас уже есть программное обеспечение, помогающее в подготовке и обработке данных. В этой области будет еще много нового’, - отметил Конвей.
Широкая поддержка программного обеспечения и интеграция
Nvidia стремится к тому, чтобы NeMo microservices были совместимы с широким спектром программных платформ и инструментов. Компания заявляет о широкой поддержке программного обеспечения для своего нового набора инструментов AI, включая корпоративные платформы, такие как SAP, ServiceNow и Amdocs; программные стеки AI, такие как DataRobot и Dataiku; плюс другие инструменты, такие как DataStax и Cloudera. Кроме того, NeMo microservices поддерживают модели из различных источников, включая Google, Meta, Microsoft, Mistral AI и саму Nvidia.
Эта широкая поддержка гарантирует, что предприятия могут беспрепятственно интегрировать NeMo microservices в свою существующую ИТ-инфраструктуру, независимо от выбранного ими технологического стека.
Реальные приложения NeMo Microservices
NeMo microservices уже развертываются в различных отраслях, демонстрируя свою универсальность и потенциальное воздействие. Например, Amdocs, ведущий поставщик программного обеспечения и услуг для коммуникационных и медиа-компаний, использует NeMo microservices для разработки трех типов агентов для своих клиентов-операторов связи:
- Биллинговый агент: Этот агент занимается разрешением запросов, связанных с выставлением счетов, предоставляя клиентам точную и своевременную информацию об их счетах.
- Агент по продажам: Агент по продажам работает над предоставлением персонализированных предложений и улучшением взаимодействия с клиентами в рамках процесса продаж, помогая более эффективно заключать сделки.
- Сетевой агент: Этот агент анализирует журналы и сетевую информацию в разных географических регионах и странах, чтобы заблаговременно выявлять и устранять проблемы с обслуживанием, обеспечивая надежность и производительность сети.
Эти примеры иллюстрируют потенциал NeMo microservices для автоматизации задач, улучшения обслуживания клиентов и повышения операционной эффективности в различных отраслях.
Доступность и развертывание
Разработчики могут получить доступ к NeMo microservices через каталог Nvidia NGC, центр для программного обеспечения, оптимизированного для GPU. В качестве альтернативы они могут развернуть microservices как часть набора Nvidia AI Enterprise, который предоставляет комплексный набор инструментов для разработки и развертывания AI-приложений.
Задача доказательства ROI
Хотя потенциал AI неоспорим, многие предприятия испытывают трудности с демонстрацией четкой отдачи от своих инвестиций в AI. Недавнее исследование, проведенное в Великобритании, показало, что предприятия тратят в среднем 321 000 фунтов стерлингов (427 000 долларов США) на AI, пытаясь улучшить качество обслуживания клиентов, но значительный процент видит лишь незначительные улучшения. Согласно исследованию, 44 процента бизнес-лидеров указали, что AI до сих пор обеспечил лишь незначительное улучшение.
Несмотря на эти проблемы, подавляющее большинство респондентов (93 процента) заявили, что их инвестиции в AI обеспечили хорошую отдачу от инвестиций (ROI). Это несоответствие подчеркивает необходимость для предприятий тщательно оценивать свои AI-стратегии и обеспечивать их соответствие своим общим бизнес-целям.
Важность значимой интеграции
Исследование, проведенное по заказу Storyblok, поставщика программного обеспечения CMS для маркетологов и разработчиков, показывает, что предприятиям необходимо выйти за рамки поверхностных внедрений AI и интегрировать его таким образом, чтобы стимулировать значимые преобразования. Это требует стратегического подхода, учитывающего конкретные потребности и проблемы бизнеса, а также возможности развертываемой технологии AI.
В исследовании наиболее популярными вариантами использования AI среди бизнес-лидеров Великобритании были:
- Создание контента для веб-сайта
- Обслуживание клиентов
- Маркетинговый анализ
- Услуги перевода
- Создание маркетингового контента
Эти варианты использования демонстрируют потенциал AI для автоматизации задач, повышения эффективности и улучшения качества обслуживания клиентов. Однако для реализации всего потенциала AI предприятиям необходимо тщательно планировать и выполнять свои AI-инициативы, обеспечивая их соответствие своей общей бизнес-стратегии.
Преодоление сложностей внедрения AI
Интеграция AI в корпоративные рабочие процессы представляет собой сложный набор проблем, начиная от подготовки данных и обучения моделей и заканчивая развертыванием и обслуживанием. NeMo microservices разработаны для решения этих проблем, предоставляя разработчикам комплексный набор инструментов и ресурсов.
Однако для успешного внедрения AI требуется нечто большее, чем просто технология. Это также требует четкого понимания решаемой бизнес-проблемы, четко определенной стратегии развертывания и управления AI-агентами и приверженности постоянному совершенствованию.
Будущее AI на предприятии
По мере того как технология AI продолжает развиваться, ее роль на предприятии будет только возрастать. AI-агенты обладают потенциалом для преобразования способов работы предприятий, автоматизации задач, повышения эффективности и улучшения качества обслуживания клиентов.
NeMo microservices от Nvidia представляют собой значительный шаг вперед в воплощении этого видения в реальность. Предоставляя разработчикам инструменты, необходимые для создания, развертывания и управления AI-агентами, NeMo microservices помогают демократизировать AI и сделать его доступным для более широкого круга предприятий.
Однако успешное внедрение AI требует стратегического подхода, учитывающего конкретные потребности и проблемы каждого бизнеса. Тщательно планируя и выполняя свои AI-инициативы, предприятия могут раскрыть весь потенциал AI и стимулировать значимые преобразования.
Заключение: Принятие AI-революции
Запуск NeMo microservices от Nvidia знаменует собой захватывающее событие в области AI, предлагая предприятиям мощный набор инструментов для интеграции AI-агентов в свои рабочие процессы. По мере того как компании справляются со сложностями внедрения AI, эти microservices обеспечивают прочную основу для создания интеллектуальных, автоматизированных систем, которые могут повысить эффективность, улучшить качество обслуживания клиентов и открыть новые возможности для роста. Хотя сохраняются проблемы с демонстрацией ROI и обеспечением значимой интеграции, потенциальные преимущества AI неоспоримы, и NeMo microservices призваны сыграть ключевую роль в формировании будущего AI на предприятии.