Nvidia 近期推出了 NeMo 微服務，這是一套旨在將 AI 代理無縫整合到企業工作流程中的工具。這項發佈正值關鍵時刻，因為研究顯示，很大一部分企業難以從其 AI 投資中獲得實質回報。 NeMo 微服務旨在透過提供開發人員建立和管理 AI 代理所需的資源來應對這一挑戰，這些代理可以自動執行任務、與現有應用程式整合，並隨時更新最新資訊。
AI 代理在企業中的前景
AI 代理轉變企業營運方式的潛力是巨大的。 Nvidia 企業生成式 AI 軟體資深總監 Joey Conway 表示：「在許多產業、地區和地點有超過 10 億知識工作者，我們的觀點是，數位員工或 AI 代理將能夠協助企業在各種領域和情境中完成更多工作。」
NeMo 微服務旨在透過提供一套全面的工具來建立、部署和管理 AI 代理，從而使這一願景成為現實。 這些微服務也包含在更廣泛的 Nvidia AI Enterprise 開發人員工具套件中，進一步增強了它們的可訪問性和整合能力。
NeMo 微服務套件剖析
NeMo 微服務套件包含幾個關鍵組件，每個組件旨在解決 AI 代理生命週期的特定面向：
- NeMo Curator： 此微服務負責收集企業資料，確保 AI 代理可以存取執行其任務所需的資訊。
- NeMo Customizer： Conway 將其描述為一種微服務，它「採用最新的最先進訓練技術，並教授模型新的技能和知識，以便我們可以確保為代理提供支援的模型保持最新狀態」，NeMo Customizer 對於保持 AI 代理的最新性和相關性至關重要。
- NeMo Evaluator： 此微服務旨在驗證為代理提供支援的 AI 模型是否確實有所改進且沒有退步，從而確保效能保持一致或隨著時間的推移而提高。
- NeMo Guardrails： NeMo Guardrails 旨在讓 AI 代理專注於其預期目的，防止它偏離主題並減輕潛在的安全風險。
‘資料飛輪’ 概念
Nvidia 設想這些微服務在一個連續的循環管道中運作，他們稱之為「資料飛輪」。 此流程包括獲取新的資料和使用者回饋，使用這些資訊來改進 AI 模型，然後重新部署更新的模型。 這種迭代方法確保 AI 代理不斷學習和適應，隨著時間的推移變得更加有效。
Conway 將 NeMo 微服務比作「本質上就像一個 Docker 容器」，突顯了它們的模組化和易於部署的特性。 這些微服務的協調依賴於 Kubernetes，並具有諸如 Kubernetes Operators 之類的附加功能來簡化流程。
Nvidia 還專注於改進資料準備和整理，認識到高品質資料對於有效 AI 的重要性。 「我們今天有一些軟體可以協助進行資料準備和整理。 將會有更多相關產品推出，」Conway 指出。
廣泛的軟體支援和整合
Nvidia 致力於確保 NeMo 微服務與各種軟體平台和工具相容。 該公司聲稱其新的 AI 工具包具有廣泛的軟體支援，包括諸如 SAP、ServiceNow 和 Amdocs 之類的企業平台； 諸如 DataRobot 和 Dataiku 之類的 AI 軟體堆疊； 以及諸如 DataStax 和 Cloudera 之類的其他工具。 此外，NeMo 微服務支援來自各種來源的模型，包括 Google、Meta、Microsoft、Mistral AI 和 Nvidia 本身。
這種廣泛的支援確保企業可以將 NeMo 微服務無縫整合到其現有的 IT 基礎架構中，無論他們選擇哪種技術堆疊。
NeMo 微服務的實際應用
NeMo 微服務已經在各個產業中部署，證明了它們的多功能性和潛在影響。 例如，Amdocs 是一家領先的通訊和媒體公司軟體和服務提供商，它正在利用 NeMo 微服務為其電信運營商客戶開發三種類型的代理：
- 帳單代理： 此代理專注於解決與帳單相關的查詢，為客戶提供有關其帳戶的準確且及時的資訊。
- 銷售代理： 銷售代理致力於提供個人化的優惠並增強銷售過程中的客戶參與度，從而有助於更有效地完成交易。
- 網路代理： 此代理分析跨不同地理區域和國家/地區的日誌和網路資訊，以主動識別和解決服務問題，從而確保網路可靠性和效能。
這些範例說明了 NeMo 微服務在自動執行任務、改善客戶服務以及提高各個產業的營運效率方面的潛力。
可用性和部署
開發人員可以透過 Nvidia NGC 目錄（一個經過 GPU 優化的軟體中心）存取 NeMo 微服務。 或者，他們可以將微服務部署為 Nvidia AI Enterprise 套件的一部分，該套件提供了一套全面的工具，用於開發和部署 AI 應用程式。
證明投資報酬率的挑戰
雖然 AI 的潛力不可否認，但許多企業難以證明其 AI 投資有明顯的回報。 英國最近進行的一項研究發現，企業平均在 AI 上花費 321,000 英鎊（427,000 美元），以努力改善客戶體驗，但很大一部分企業僅看到略有改善。 根據該研究，44% 的企業領導人表示，到目前為止，AI 僅帶來了輕微的改善。
儘管存在這些挑戰，但絕大多數受訪者（93%）聲稱他們的 AI 投資帶來了良好的投資報酬率 (ROI)。 這種差異凸顯了企業需要仔細評估其 AI 策略並確保它們與其整體業務目標保持一致。
有意義的整合的重要性
CMS 軟體供應商 Storyblok 委託進行的研究表明，企業需要超越 AI 的表面實施，並以一種能夠推動有意義的轉型的方式整合它。 這需要一種戰略方法，既要考慮企業的特定需求和挑戰，又要考慮正在部署的 AI 技術的能力。
該研究確定了英國企業領導者中最受歡迎的 AI 用例：
- 網站內容建立
- 客戶服務
- 行銷分析
- 翻譯服務
- 行銷內容建立
這些用例證明了 AI 在自動執行任務、提高效率和增強客戶體驗方面的潛力。 然而，為了充分發揮 AI 的潛力，企業需要仔細規劃和執行其 AI 計劃，確保它們與其整體業務策略保持一致。
駕馭 AI 實施的複雜性
將 AI 整合到企業工作流程中帶來了一系列複雜的挑戰，從資料準備和模型訓練到部署和維護。 NeMo 微服務旨在透過為開發人員提供一套全面的工具和資源來應對這些挑戰。
然而，成功的 AI 實施不僅需要技術。 它還需要清楚地了解要解決的業務問題、明確定義的部署和管理 AI 代理的策略以及對持續改進的承諾。
AI 在企業中的未來
隨著 AI 技術的不斷發展，它在企業中的作用只會變得更加突出。 AI 代理有潛力轉變企業的營運方式，自動執行任務、提高效率和增強客戶體驗。
Nvidia 的 NeMo 微服務代表了使這一願景成為現實的重大進展。 透過為開發人員提供建立、部署和管理 AI 代理所需的工具，NeMo 微服務正在協助實現 AI 的普及，使其更容易為更廣泛的企業所用。
然而，AI 的成功採用需要一種戰略方法，既要考慮每個企業的特定需求和挑戰。 透過仔細規劃和執行其 AI 計劃，企業可以釋放 AI 的全部潛力並推動有意義的轉型。
結論：擁抱 AI 革命
Nvidia NeMo 微服務的推出標誌著 AI 領域令人興奮的發展，為企業提供了一個強大的工具包，可將 AI 代理整合到其工作流程中。 隨著公司駕馭 AI 實施的複雜性，這些微服務為構建智慧、自動化系統奠定了堅實的基礎，這些系統可以提高效率、改善客戶體驗並釋放新的成長機會。 儘管在證明投資報酬率和確保有意義的整合方面仍然存在挑戰，但 AI 的潛在優勢是不可否認的，並且 NeMo 微服務將在塑造 AI 在企業中的未來方面發揮關鍵作用。