Kỷ Nguyên Mới Của Cơ Sở Hạ Tầng Hỗ Trợ Bởi AI
NVIDIA gần đây đã giới thiệu NVIDIA AI Data Platform, một thiết kế tham chiếu có thể tùy chỉnh, sẵn sàng cách mạng hóa cơ sở hạ tầng AI. Nền tảng đột phá này đang được các nhà cung cấp công nghệ hàng đầu áp dụng để xây dựng một thế hệ cơ sở hạ tầng mới được thiết kế đặc biệt cho các yêu cầu khắt khe của khối lượng công việc suy luận AI. Về cốt lõi, thiết kế sáng tạo này tập trung vào các nền tảng lưu trữ doanh nghiệp được tăng cường với các tác nhân truy vấn AI, tất cả đều được hỗ trợ bởi các công nghệ điện toán, mạng và phần mềm tăng tốc tiên tiến của NVIDIA.
Trao Quyền Cho Doanh Nghiệp Với Thông Tin Chuyên Sâu Theo Thời Gian Thực
NVIDIA AI Data Platform cho phép các nhà cung cấp Lưu trữ được Chứng nhận bởi NVIDIA xây dựng cơ sở hạ tầng giúp tăng tốc đáng kể khối lượng công việc suy luận AI. Điều này đạt được thông qua việc tích hợp các tác nhân truy vấn AI chuyên biệt. Các tác nhân thông minh này trao quyền cho các doanh nghiệp trích xuất những thông tin chuyên sâu có giá trị từ dữ liệu của họ trong thời gian gần thực. Khả năng này được thúc đẩy bởi phần mềm NVIDIA AI Enterprise, một bộ phần mềm toàn diện bao gồm các dịch vụ vi mô NVIDIA NIM™ được thiết kế cho các mô hình NVIDIA Llama Nemotron mới. Các mô hình này tự hào có khả năng suy luận tiên tiến, nâng cao hơn nữa khả năng của nền tảng trong việc cung cấp thông tin tình báo có thể hành động. Bổ sung cho điều này là NVIDIA AI-Q Blueprint mới, một framework giúp hợp lý hóa việc phát triển các hệ thống tác nhân.
Tối Ưu Hóa Cơ Sở Hạ Tầng Cho Các Tác Nhân Truy Vấn AI
Các nhà cung cấp dịch vụ lưu trữ có thể tận dụng NVIDIA AI Data Platform để tối ưu hóa cơ sở hạ tầng của họ, đảm bảo cơ sở hạ tầng có thể cung cấp năng lượng hiệu quả cho các tác nhân truy vấn AI phức tạp này. Việc tối ưu hóa này bao gồm việc kết hợp các công nghệ NVIDIA chính, bao gồm GPU NVIDIA Blackwell, DPU NVIDIA BlueField®, mạng NVIDIA Spectrum-X™ và thư viện suy luận mã nguồn mở NVIDIA Dynamo. Các thành phần này hoạt động hiệp đồng để tạo ra một môi trường hiệu suất cao được thiết kế riêng cho quá trình xử lý dữ liệu dựa trên AI.
Nỗ Lực Hợp Tác Trong Toàn Ngành
Một sự hợp tác đáng chú ý đang được tiến hành, với các nhà cung cấp nền tảng dữ liệu và lưu trữ hàng đầu hợp lực với NVIDIA. Các gã khổng lồ trong ngành như DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data và WEKA đang tích cực làm việc để tạo ra các nền tảng dữ liệu AI tùy chỉnh. Các nền tảng này được thiết kế để khai thác tiềm năng to lớn của dữ liệu doanh nghiệp, cho phép các doanh nghiệp suy luận và phản hồi các truy vấn phức tạp với tốc độ và độ chính xác chưa từng có.
Tầm Nhìn Của Jensen Huang: Dữ Liệu Là Nhiên Liệu Cho Kỷ Nguyên AI
Jensen Huang, người sáng lập và CEO của NVIDIA, mô tả một cách khéo léo dữ liệu là “nguyên liệu thô cung cấp năng lượng cho các ngành công nghiệp trong thời đại AI”. Ông nhấn mạnh rằng sự hợp tác này với các nhà lãnh đạo lưu trữ trên thế giới đang tạo ra một “loại cơ sở hạ tầng doanh nghiệp mới”. Cơ sở hạ tầng thế hệ tiếp theo này rất cần thiết cho các công ty để triển khai và mở rộng quy mô AI tác nhân trên các trung tâm dữ liệu lai của họ, mở ra các cấp độ hiệu quả và đổi mới mới.
Đưa Điện Toán Tăng Tốc Đến Lưu Trữ Doanh Nghiệp
NVIDIA AI Data Platform đánh dấu một bước tiến đáng kể bằng cách mang sức mạnh của điện toán tăng tốc và AI đến với số lượng lớn các doanh nghiệp dựa vào lưu trữ doanh nghiệp. Các doanh nghiệp này sử dụng các giải pháp lưu trữ để quản lý dữ liệu quan trọng thúc đẩy hoạt động của họ. Việc tích hợp các công nghệ của NVIDIA vào hệ sinh thái này mở ra một lĩnh vực khả năng mới.
Sức Mạnh Của Các Công Nghệ NVIDIA: Blackwell, BlueField và Spectrum-X
Nền tảng này tận dụng các khả năng kết hợp của GPU NVIDIA Blackwell, DPU BlueField và mạng Spectrum-X. Các thành phần này tạo thành một công cụ tăng tốc giúp tăng tốc đáng kể quyền truy cập của tác nhân truy vấn AI vào dữ liệu nằm trên các hệ thống lưu trữ doanh nghiệp.
DPU BlueField đóng một vai trò quan trọng trong việc nâng cao hiệu suất và hiệu quả. Chúng mang lại hiệu suất cao hơn tới 1,6 lần so với các giải pháp lưu trữ dựa trên CPU. Đồng thời, chúng giảm mức tiêu thụ điện năng tới 50%. Điều này chuyển thành một sự cải thiện đáng kể về hiệu suất trên mỗi watt, vượt quá các giải pháp truyền thống hơn ba lần.
Spectrum-X đảm nhận nhiệm vụ tăng tốc lưu lượng lưu trữ AI. Nó đạt được tốc độ tăng lên tới 48% so với Ethernet truyền thống. Điều này được thực hiện thông qua việc triển khai các cơ chế định tuyến thích ứng và kiểm soát tắc nghẽn, tối ưu hóa luồng dữ liệu và giảm thiểu tắc nghẽn.
NVIDIA AI-Q Blueprint: Một Framework Cho Các Hệ Thống Tác Nhân
Cơ sở hạ tầng lưu trữ của NVIDIA AI Data Platform sử dụng NVIDIA AI-Q Blueprint. Blueprint này đóng vai trò như một hướng dẫn để phát triển các hệ thống tác nhân có khả năng suy luận và kết nối với dữ liệu doanh nghiệp. AI-Q tận dụng các dịch vụ vi mô NVIDIA NeMo Retriever™, đóng vai trò then chốt trong việc tăng tốc trích xuất và truy xuất dữ liệu. Các dịch vụ vi mô này có thể tăng tốc độ truy cập dữ liệu lên tới 15 lần trên GPU NVIDIA, nâng cao đáng kể hiệu quả tổng thể của nền tảng.
Nâng Cao Phản Hồi Với Nhận Thức Ngữ Cảnh
Các tác nhân truy vấn AI được xây dựng bằng AI-Q Blueprint được thiết kế để kết nối với dữ liệu trong quá trình suy luận. Kết nối quan trọng này cho phép chúng cung cấp các phản hồi chính xác hơn và nhận biết ngữ cảnh hơn. Các tác nhân này có khả năng truy cập nhanh dữ liệu quy mô lớn và xử lý các loại dữ liệu khác nhau. Điều này bao gồm dữ liệu có cấu trúc, bán cấu trúc và không có cấu trúc có nguồn gốc từ nhiều nguồn, chẳng hạn như tài liệu văn bản, PDF, hình ảnh và thậm chí cả nội dung video.
Sáng Kiến Của Đối Tác: Tùy Chỉnh Nền Tảng Dữ Liệu AI
Các đối tác Lưu trữ được Chứng nhận bởi NVIDIA đang tích cực hợp tác với NVIDIA để phát triển các nền tảng dữ liệu AI tùy chỉnh phù hợp với các sản phẩm cụ thể của họ. Dưới đây là một cái nhìn sơ lược về một số sáng kiến này:
- DDN: DDN đang tích hợp các khả năng của AI Data Platform vào nền tảng DDN Infinia AI của mình, nâng cao hiệu suất và chức năng của nó.
- Dell Technologies: Dell đang tạo ra các nền tảng dữ liệu AI cho các giải pháp Dell PowerScale và Project Lightning của mình, mở rộng khả năng của chúng trong lĩnh vực AI.
- Hewlett Packard Enterprise: HPE đang kết hợp các khả năng của AI Data Platform vào một số sản phẩm của mình, bao gồm HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP và HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara đang tích hợp AI Data Platform vào hệ sinh thái Hitachi IQ của mình. Sự tích hợp này nhằm mục đích trao quyền cho khách hàng với các hệ thống lưu trữ và các sản phẩm dữ liệu sáng tạo mang lại kết quả dựa trên AI hữu hình.
- IBM: IBM đang kết hợp AI Data Platform như một phần của khả năng lưu trữ nhận biết nội dung của mình. Sự tích hợp này liên quan đến công nghệ IBM Fusion và IBM Storage Scale và được thiết kế để tăng tốc các ứng dụng tạo tăng cường truy xuất.
- NetApp: NetApp đang thúc đẩy lưu trữ doanh nghiệp cho AI tác nhân với giải pháp NetApp AIPod của mình, được xây dựng trên nền tảng của AI Data Platform.
- Nutanix: Nutanix Cloud Platform với Nutanix Unified Storage sẽ tích hợp với NVIDIA AI Data Platform. Sự tích hợp này sẽ cho phép các quy trình suy luận và tác nhân được triển khai trên các môi trường khác nhau, bao gồm biên, trung tâm dữ liệu và đám mây công cộng.
- Pure Storage: Pure Storage sẽ cung cấp các khả năng của AI Data Platform thông qua giải pháp Pure Storage FlashBlade của mình, nâng cao hiệu suất và khả năng sẵn sàng cho AI của nó.
- VAST Data: VAST Data đang hợp tác với AI Data Platform để quản lý thông tin chuyên sâu theo thời gian thực bằng VAST InsightEngine của mình, mở ra những khả năng mới cho phân tích dữ liệu.
- WEKA: Phần mềm WEKA Data Platform đang tích hợp với GPU, DPU và các công nghệ mạng của NVIDIA. Sự tích hợp này tối ưu hóa quyền truy cập dữ liệu cho suy luận và hiểu biết AI tác nhân, cung cấp nền tảng lưu trữ hiệu suất cao giúp tăng tốc khối lượng công việc suy luận AI và xử lý token.
Tính Khả Dụng Và Triển Vọng Tương Lai
Các nhà cung cấp Lưu trữ được Chứng nhận bởi NVIDIA đang lên kế hoạch bắt đầu cung cấp các giải pháp được tạo bằng NVIDIA AI Data Platform bắt đầu từ tháng này. Điều này đánh dấu một bước tiến quan trọng hướng tới việc áp dụng rộng rãi công nghệ biến đổi này. Tương lai của cơ sở hạ tầng doanh nghiệp chắc chắn đang được định hình bởi AI và NVIDIA AI Data Platform đang đi đầu trong cuộc cách mạng này.