Nvidia gần đây đã ra mắt các NeMo microservices, một bộ công cụ được thiết kế để tích hợp liền mạch các AI agents vào quy trình làm việc của doanh nghiệp. Sự ra mắt này diễn ra vào một thời điểm quan trọng, khi các nghiên cứu chỉ ra rằng một phần đáng kể các doanh nghiệp đang gặp khó khăn trong việc nhận ra lợi nhuận đáng kể từ các khoản đầu tư AI của họ. Các NeMo microservices nhằm mục đích giải quyết thách thức này bằng cách cung cấp cho các nhà phát triển các tài nguyên cần thiết để xây dựng và quản lý các AI agents có thể tự động hóa các tác vụ, tích hợp với các ứng dụng hiện có và luôn cập nhật thông tin mới nhất.
Tiềm năng của AI Agents trong Doanh nghiệp
Tiềm năng của AI agents để thay đổi cách thức hoạt động của doanh nghiệp là rất lớn. Theo Joey Conway, giám đốc cấp cao của Nvidia về phần mềm AI tạo sinh cho doanh nghiệp, ‘Có hơn một tỷ nhân viên tri thức trên nhiều ngành công nghiệp, địa lý và địa điểm, và quan điểm của chúng tôi là nhân viên kỹ thuật số hoặc AI agents sẽ có thể giúp các doanh nghiệp hoàn thành nhiều công việc hơn trong nhiều lĩnh vực và kịch bản này.’
NeMo microservices được thiết kế để biến tầm nhìn này thành hiện thực bằng cách cung cấp một bộ công cụ toàn diện để xây dựng, triển khai và quản lý AI agents. Các microservices này cũng được bao gồm trong bộ công cụ dành cho nhà phát triển Nvidia AI Enterprise rộng lớn hơn, giúp tăng cường khả năng truy cập và tích hợp của chúng.
Khám phá Bộ NeMo Microservices
Bộ NeMo microservices bao gồm một số thành phần chính, mỗi thành phần được thiết kế để giải quyết một khía cạnh cụ thể của vòng đời AI agent:
- NeMo Curator: Microservice này chịu trách nhiệm thu thập dữ liệu doanh nghiệp, đảm bảo rằng AI agents có quyền truy cập vào thông tin họ cần để thực hiện các tác vụ của mình một cách hiệu quả.
- NeMo Customizer: Được Conway mô tả là một microservice ‘sử dụng các kỹ thuật đào tạo tiên tiến nhất và dạy cho các mô hình các kỹ năng và kiến thức mới để chúng ta có thể đảm bảo rằng các mô hình cung cấp năng lượng cho các agents luôn được cập nhật’, NeMo Customizer rất quan trọng để giữ cho AI agents luôn được cập nhật và phù hợp.
- NeMo Evaluator: Microservice này được thiết kế để xác minh rằng mô hình AI cung cấp năng lượng cho agent thực sự đã được cải thiện và không bị thụt lùi, đảm bảo rằng hiệu suất vẫn nhất quán hoặc được cải thiện theo thời gian.
- NeMo Guardrails: NeMo Guardrails được thiết kế để giữ cho AI agent tập trung vào mục đích dự định của nó, ngăn không cho nó đi lạc đề và giảm thiểu các rủi ro tiềm ẩn về an toàn và bảo mật.
Khái niệm ‘Bánh đà Dữ liệu’
Nvidia hình dung các microservices này hoạt động trong một đường ống liên tục, theo chu kỳ, mà họ gọi là ‘bánh đà dữ liệu’. Quá trình này bao gồm việc thu thập dữ liệu mới và phản hồi của người dùng, sử dụng thông tin này để cải thiện mô hình AI và sau đó triển khai lại mô hình đã cập nhật. Cách tiếp cận lặp đi lặp lại này đảm bảo rằng AI agents liên tục học hỏi và thích ứng, trở nên hiệu quả hơn theo thời gian.
Conway ví NeMo microservices ‘về cơ bản giống như một container Docker’, làm nổi bật tính mô-đun và dễ triển khai của chúng. Việc điều phối các microservices này dựa trên Kubernetes, với các tính năng bổ sung như Kubernetes Operators để hợp lý hóa quy trình.
Nvidia cũng đang tập trung vào việc cải thiện việc chuẩn bị và quản lý dữ liệu, nhận ra tầm quan trọng của dữ liệu chất lượng cao đối với AI hiệu quả. ‘Chúng tôi có một số phần mềm ngày nay để giúp chuẩn bị và quản lý dữ liệu. Sẽ có rất nhiều điều nữa sẽ đến đó,’ Conway lưu ý.
Hỗ trợ và Tích hợp Phần mềm Rộng rãi
Nvidia cam kết đảm bảo rằng NeMo microservices tương thích với nhiều nền tảng và công cụ phần mềm. Công ty tuyên bố hỗ trợ phần mềm rộng rãi cho bộ công cụ AI mới của mình, bao gồm các nền tảng doanh nghiệp như SAP, ServiceNow và Amdocs; các ngăn xếp phần mềm AI như DataRobot và Dataiku; cộng với các công cụ khác như DataStax và Cloudera. Hơn nữa, NeMo microservices hỗ trợ các mô hình từ nhiều nguồn khác nhau, bao gồm Google, Meta, Microsoft, Mistral AI và chính Nvidia.
Sự hỗ trợ rộng rãi này đảm bảo rằng các doanh nghiệp có thể tích hợp liền mạch NeMo microservices vào cơ sở hạ tầng CNTT hiện có của họ, bất kể ngăn xếp công nghệ mà họ đã chọn.
Ứng dụng Thực tế của NeMo Microservices
NeMo microservices đã được triển khai trong nhiều ngành công nghiệp khác nhau, chứng minh tính linh hoạt và tác động tiềm tàng của chúng. Ví dụ: Amdocs, một nhà cung cấp phần mềm và dịch vụ hàng đầu cho các công ty truyền thông và truyền thông, đang sử dụng NeMo microservices để phát triển ba loại agents cho khách hàng nhà khai thác viễn thông của mình:
- Billing Agent: Agent này tập trung vào việc giải quyết các truy vấn liên quan đến thanh toán, cung cấp cho khách hàng thông tin chính xác và kịp thời về tài khoản của họ.
- Sales Agent: Sales agent làm việc để cung cấp các ưu đãi được cá nhân hóa và tăng cường tương tác của khách hàng như một phần của quy trình bán hàng, giúp chốt các giao dịch hiệu quả hơn.
- Network Agent: Agent này phân tích nhật ký và thông tin mạng trên các khu vực và quốc gia khác nhau để chủ động xác định và giải quyết các sự cố dịch vụ, đảm bảo độ tin cậy và hiệu suất của mạng.
Những ví dụ này minh họa tiềm năng của NeMo microservices để tự động hóa các tác vụ, cải thiện dịch vụ khách hàng và nâng cao hiệu quả hoạt động trên nhiều ngành công nghiệp khác nhau.
Tính khả dụng và Triển khai
Các nhà phát triển có thể truy cập NeMo microservices thông qua danh mục Nvidia NGC, một trung tâm dành cho phần mềm được tối ưu hóa GPU. Ngoài ra, họ có thể triển khai các microservices như một phần của bộ Nvidia AI Enterprise, cung cấp một bộ công cụ toàn diện để phát triển và triển khai các ứng dụng AI.
Thách thức Chứng minh ROI
Mặc dù tiềm năng của AI là không thể phủ nhận, nhưng nhiều doanh nghiệp đang gặp khó khăn trong việc chứng minh lợi tức đầu tư rõ ràng vào AI của họ. Một nghiên cứu gần đây được thực hiện ở Vương quốc Anh cho thấy rằng các doanh nghiệp đang chi trung bình 321.000 bảng Anh (427.000 đô la Mỹ) cho AI trong nỗ lực cải thiện trải nghiệm của khách hàng, nhưng một tỷ lệ đáng kể chỉ thấy những cải thiện nhỏ. Theo nghiên cứu, 44% các nhà lãnh đạo doanh nghiệp chỉ ra rằng AI cho đến nay chỉ mang lại một cải thiện nhỏ.
Bất chấp những thách thức này, phần lớn những người được hỏi (93%) tuyên bố rằng khoản đầu tư AI của họ đã mang lại lợi tức đầu tư (ROI) tốt. Sự khác biệt này nêu bật sự cần thiết của các doanh nghiệp phải đánh giá cẩn thận các chiến lược AI của họ và đảm bảo rằng chúng phù hợp với các mục tiêu kinh doanh tổng thể của họ.
Tầm quan trọng của Tích hợp Có ý nghĩa
Nghiên cứu do Storyblok, một nhà cung cấp phần mềm CMS cho các nhà tiếp thị và nhà phát triển, ủy quyền, cho thấy rằng các doanh nghiệp cần phải vượt ra ngoài các triển khai bề ngoài của AI và tích hợp nó theo cách thúc đẩy sự chuyển đổi có ý nghĩa. Điều này đòi hỏi một cách tiếp cận chiến lược xem xét các nhu cầu và thách thức cụ thể của doanh nghiệp, cũng như các khả năng của công nghệ AI đang được triển khai.
Nghiên cứu xác định các trường hợp sử dụng phổ biến nhất cho AI trong số các nhà lãnh đạo doanh nghiệp Vương quốc Anh là:
- Tạo nội dung trang web
- Dịch vụ khách hàng
- Phân tích tiếp thị
- Dịch vụ dịch thuật
- Tạo nội dung tiếp thị
Các trường hợp sử dụng này chứng minh tiềm năng của AI để tự động hóa các tác vụ, cải thiện hiệu quả và nâng cao trải nghiệm của khách hàng. Tuy nhiên, để nhận ra toàn bộ tiềm năng của AI, các doanh nghiệp cần phải lên kế hoạch và thực hiện cẩn thận các sáng kiến AI của họ, đảm bảo rằng chúng phù hợp với chiến lược kinh doanh tổng thể của họ.
Điều hướng Sự phức tạp của Triển khai AI
Việc tích hợp AI vào quy trình làm việc của doanh nghiệp đặt ra một tập hợp các thách thức phức tạp, từ chuẩn bị dữ liệu và đào tạo mô hình đến triển khai và bảo trì. NeMo microservices được thiết kế để giải quyết những thách thức này bằng cách cung cấp cho các nhà phát triển một bộ công cụ và tài nguyên toàn diện.
Tuy nhiên, việc triển khai AI thành công đòi hỏi nhiều thứ hơn là chỉ công nghệ. Nó cũng đòi hỏi sự hiểu biết rõ ràng về vấn đề kinh doanh đang được giải quyết, một chiến lược được xác định rõ ràng để triển khai và quản lý AI agents và cam kết cải tiến liên tục.
Tương lai của AI trong Doanh nghiệp
Khi công nghệ AI tiếp tục phát triển, vai trò của nó trong doanh nghiệp sẽ ngày càng trở nên nổi bật. AI agents có tiềm năng thay đổi cách thức hoạt động của doanh nghiệp, tự động hóa các tác vụ, cải thiện hiệu quả và nâng cao trải nghiệm của khách hàng.
NeMo microservices của Nvidia đại diện cho một bước tiến quan trọng trong việc biến tầm nhìn này thành hiện thực. Bằng cách cung cấp cho các nhà phát triển các công cụ họ cần để xây dựng, triển khai và quản lý AI agents, NeMo microservices đang giúp dân chủ hóa AI và làm cho nó có thể tiếp cận được với nhiều doanh nghiệp hơn.
Tuy nhiên, việc áp dụng AI thành công đòi hỏi một cách tiếp cận chiến lược xem xét các nhu cầu và thách thức cụ thể của từng doanh nghiệp. Bằng cách lên kế hoạch và thực hiện cẩn thận các sáng kiến AI của họ, các doanh nghiệp có thể mở khóa toàn bộ tiềm năng của AI và thúc đẩy sự chuyển đổi có ý nghĩa.
Kết luận: Chấp nhận Cuộc cách mạng AI
Sự ra mắt của NeMo microservices của Nvidia đánh dấu một sự phát triển thú vị trong lĩnh vực AI, cung cấp cho các doanh nghiệp một bộ công cụ mạnh mẽ để tích hợp AI agents vào quy trình làm việc của họ. Khi các công ty điều hướng sự phức tạp của việc triển khai AI, các microservices này cung cấp một nền tảng vững chắc để xây dựng các hệ thống tự động, thông minh có thể thúc đẩy hiệu quả, cải thiện trải nghiệm của khách hàng và mở ra những cơ hội tăng trưởng mới. Mặc dù vẫn còn những thách thức trong việc chứng minh ROI và đảm bảo tích hợp có ý nghĩa, nhưng những lợi ích tiềm năng của AI là không thể phủ nhận và NeMo microservices sẵn sàng đóng một vai trò quan trọng trong việc định hình tương lai của AI trong doanh nghiệp.