Nvidia NeMo微服务：革新企业工作流程的AI Agent
Nvidia 近期推出了 NeMo 微服务，这套工具旨在无缝地将 AI Agent 集成到企业工作流程中。此次发布正值关键时刻，因为有研究表明，相当一部分企业在实现 AI 投资的实质性回报方面面临困境。NeMo 微服务旨在通过为开发者提供构建和管理 AI Agent 所需的资源来应对这一挑战，这些 AI Agent 可以自动化任务、与现有应用程序集成，并随时掌握最新信息。
企业中 AI Agent 的前景
AI Agent 在转变企业运营方式方面的潜力是巨大的。Nvidia 企业生成式 AI 软件高级总监 Joey Conway 表示：“在许多行业、地域和地点，有超过 10 亿的知识工作者，我们的观点是，数字员工或 AI Agent 将能够帮助企业在各种领域和场景中完成更多工作。”
NeMo 微服务旨在通过提供一套全面的工具来构建、部署和管理 AI Agent，从而将这一愿景变为现实。这些微服务也包含在更广泛的 Nvidia AI Enterprise 开发者工具套件中，进一步增强了它们的可访问性和集成能力。
NeMo 微服务套件剖析
NeMo 微服务套件包含几个关键组件，每个组件都旨在解决 AI Agent 生命周期中的特定方面：
- NeMo Curator： 此微服务负责收集企业数据，确保 AI Agent 可以访问执行其任务所需的的信息，从而有效执行任务。
- NeMo Customizer： Conway 将其描述为一个微服务，它“采用最新的最先进的训练技术，并教会模型新的技能和新的知识，以便我们可以确保为 Agent 提供支持的模型保持最新”，NeMo Customizer 对于保持 AI Agent 的最新和相关性至关重要。
- NeMo Evaluator： 此微服务旨在验证为 Agent 提供支持的 AI 模型是否确实有所改进并且没有倒退，从而确保性能保持一致或随着时间的推移而提高。
- NeMo Guardrails： NeMo Guardrails 旨在使 AI Agent 专注于其预期目的，防止其偏离主题并减轻潜在的安全和安保风险。
“数据飞轮”概念
Nvidia 设想这些微服务在一个连续的、循环的管道中运行，他们将其称为“数据飞轮”。此过程涉及接收新的数据和用户反馈，使用此信息来改进 AI 模型，然后重新部署更新后的模型。这种迭代方法确保 AI Agent 不断学习和适应，从而随着时间的推移变得更加有效。
Conway 将 NeMo 微服务比作“本质上像 Docker 容器”，突出了它们的模块化和易于部署性。这些微服务的编排依赖于 Kubernetes，并具有 Kubernetes Operators 等其他功能来简化流程。
Nvidia 还在关注改进数据准备和管理，认识到高质量数据对于有效的 AI 的重要性。“我们今天有一些软件可以帮助进行数据准备和管理。将来会有更多，”Conway 指出。
广泛的软件支持和集成
Nvidia 致力于确保 NeMo 微服务与各种软件平台和工具兼容。该公司声称其新的 AI 工具包具有广泛的软件支持，包括 SAP、ServiceNow 和 Amdocs 等企业平台；DataRobot 和 Dataiku 等 AI 软件堆栈；以及 DataStax 和 Cloudera 等其他工具。此外，NeMo 微服务支持来自各种来源的模型，包括 Google、Meta、Microsoft、Mistral AI 和 Nvidia 本身。
这种广泛的支持确保企业可以将 NeMo 微服务无缝集成到其现有的 IT 基础设施中，而不管其选择的技术堆栈如何。
NeMo 微服务的实际应用
NeMo 微服务已在各个行业中部署，展示了其多功能性和潜在影响。例如，领先的通信和媒体公司软件和服务提供商 Amdocs 正在利用 NeMo 微服务为其电信运营商客户开发三种类型的 Agent：
- 账单 Agent： 此 Agent 专注于解决与账单相关的查询，为客户提供有关其帐户的准确和及时的信息。
- 销售 Agent： 销售 Agent 致力于提供个性化的报价，并在销售过程中增强客户参与度，从而帮助更有效地达成交易。
- 网络 Agent： 此 Agent 分析跨不同地理区域和国家/地区的日志和网络信息，以主动识别和解决服务问题，从而确保网络可靠性和性能。
这些示例说明了 NeMo 微服务在自动化任务、改善客户服务和提高各个行业的运营效率方面的潜力。
可用性和部署
开发者可以通过 Nvidia NGC 目录访问 NeMo 微服务，该目录是 GPU 优化软件的中心。或者，他们可以将微服务作为 Nvidia AI Enterprise 套件的一部分进行部署，该套件提供了一套全面的工具来开发和部署 AI 应用程序。
证明投资回报率的挑战
虽然 AI 的潜力是不可否认的，但许多企业都在努力证明其 AI 投资的明确回报。英国最近进行的一项研究发现，企业平均花费 321,000 英镑（427,000 美元）用于 AI，以努力改善客户体验，但很大一部分企业仅看到边际改善。根据该研究，44% 的企业领导者表示，到目前为止，AI 仅带来了略微的改善。
尽管存在这些挑战，但绝大多数受访者（93%）声称他们的 AI 投资带来了良好的投资回报率 (ROI)。这种差异凸显了企业需要仔细评估其 AI 战略，并确保这些战略与其总体业务目标保持一致。
有意义的集成的重要性
CMS 软件提供商 Storyblok 委托进行的研究表明，企业需要超越 AI 的表面实施，并以能够推动有意义的转型的方式集成它。这需要一种战略方法，该方法要考虑到企业的具体需求和挑战，以及正在部署的 AI 技术的功能。
该研究确定了英国企业领导者中最受欢迎的 AI 用例是：
- 网站内容创建
- 客户服务
- 营销分析
- 翻译服务
- 营销内容创建
这些用例证明了 AI 在自动化任务、提高效率和改善客户体验方面的潜力。但是，要充分发挥 AI 的潜力，企业需要仔细计划和执行其 AI 计划，确保它们与总体业务战略保持一致。
应对 AI 实施的复杂性
将 AI 集成到企业工作流程中会带来一系列复杂的挑战，从数据准备和模型训练到部署和维护。NeMo 微服务旨在通过为开发者提供一套全面的工具和资源来应对这些挑战。
但是，成功的 AI 实施需要的不仅仅是技术。它还需要对正在解决的业务问题有清晰的了解，制定明确的部署和管理 AI Agent 的战略，并致力于持续改进。
企业中 AI 的未来
随着 AI 技术的不断发展，其在企业中的作用只会越来越重要。AI Agent 有可能转变企业的运营方式，自动化任务、提高效率和改善客户体验。
Nvidia 的 NeMo 微服务代表着朝着将这一愿景变为现实迈出的重要一步。通过为开发者提供构建、部署和管理 AI Agent 所需的工具，NeMo 微服务正在帮助实现 AI 的民主化，并使其可供更广泛的企业使用。
但是，成功采用 AI 需要一种战略方法，该方法要考虑到每个企业的具体需求和挑战。通过仔细计划和执行其 AI 计划，企业可以释放 AI 的全部潜力并推动有意义的转型。
结论：拥抱 AI 革命
Nvidia NeMo 微服务的推出标志着 AI 领域的一个激动人心的发展，为企业提供了一个强大的工具包，可以将 AI Agent 集成到其工作流程中。随着公司应对 AI 实施的复杂性，这些微服务为构建智能的自动化系统奠定了坚实的基础，这些系统可以提高效率、改善客户体验并释放新的增长机会。虽然在证明投资回报率和确保有意义的集成方面仍然存在挑战，但 AI 的潜在好处是不可否认的，并且 NeMo 微服务有望在塑造企业中 AI 的未来方面发挥关键作用。