Nowa Era Infrastruktury Opartej na AI
NVIDIA niedawno przedstawiła NVIDIA AI Data Platform, konfigurowalny projekt referencyjny, który ma zrewolucjonizować infrastrukturę AI. Ta przełomowa platforma jest wdrażana przez wiodących dostawców technologii w celu zbudowania nowej generacji infrastruktury zaprojektowanej specjalnie z myślą o wymagających obciążeniach związanych z wnioskowaniem AI. U podstaw tego innowacyjnego projektu leżą platformy pamięci masowej dla przedsiębiorstw, wzbogacone o agentów zapytań AI, a wszystko to oparte na najnowocześniejszych technologiach akcelerowanego przetwarzania, sieci i oprogramowania firmy NVIDIA.
Wzmacnianie Firm dzięki Wglądom w Czasie Rzeczywistym
NVIDIA AI Data Platform umożliwia dostawcom pamięci masowej z certyfikatem NVIDIA budowanie infrastruktury, która znacznie przyspiesza obciążenia związane z wnioskowaniem AI. Osiąga się to poprzez integrację wyspecjalizowanych agentów zapytań AI. Ci inteligentni agenci umożliwiają firmom wydobywanie cennych informacji z ich danych niemal w czasie rzeczywistym. Ta funkcja jest wspierana przez oprogramowanie NVIDIA AI Enterprise, kompleksowy pakiet zawierający mikrousługi NVIDIA NIM™ zaprojektowane dla nowych modeli NVIDIA Llama Nemotron. Modele te charakteryzują się zaawansowanymi możliwościami wnioskowania, co jeszcze bardziej zwiększa zdolność platformy do dostarczania praktycznych informacji. Uzupełnieniem tego jest nowy NVIDIA AI-Q Blueprint, framework, który usprawnia rozwój systemów agentowych.
Optymalizacja Infrastruktury dla Agentów Zapytań AI
Dostawcy pamięci masowej mogą wykorzystać NVIDIA AI Data Platform do optymalizacji swojej infrastruktury, zapewniając jej efektywne zasilanie tych zaawansowanych agentów zapytań AI. Optymalizacja ta obejmuje włączenie kluczowych technologii NVIDIA, w tym NVIDIA Blackwell GPU, NVIDIA BlueField® DPU, sieci NVIDIA Spectrum-X™ oraz biblioteki wnioskowania open-source NVIDIA Dynamo. Te komponenty działają synergicznie, tworząc wysokowydajne środowisko dostosowane do przetwarzania danych opartego na AI.
Współpraca w Całej Branży
Trwa niezwykła współpraca, w ramach której wiodący dostawcy platform danych i pamięci masowej łączą siły z firmą NVIDIA. Giganci branży, tacy jak DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data i WEKA, aktywnie pracują nad tworzeniem niestandardowych platform danych AI. Platformy te są zaprojektowane tak, aby wykorzystać ogromny potencjał danych przedsiębiorstwa, umożliwiając firmom wnioskowanie i reagowanie na złożone zapytania z niespotykaną dotąd szybkością i dokładnością.
Wizja Jensena Huanga: Dane jako Paliwo dla Ery AI
Jensen Huang, założyciel i dyrektor generalny firmy NVIDIA, trafnie opisuje dane jako „surowiec napędzający branże w erze AI”. Podkreśla, że ta współpraca z światowymi liderami w dziedzinie pamięci masowej tworzy „nową klasę infrastruktury dla przedsiębiorstw”. Ta infrastruktura nowej generacji jest niezbędna dla firm, aby wdrażać i skalować agentowe AI w swoich hybrydowych centrach danych, odblokowując nowe poziomy wydajności i innowacji.
Wprowadzanie Akcelerowanego Przetwarzania do Pamięci Masowej dla Przedsiębiorstw
NVIDIA AI Data Platform stanowi znaczący postęp, wprowadzając moc akcelerowanego przetwarzania i AI do ogromnej liczby firm, które polegają na pamięci masowej dla przedsiębiorstw. Firmy te wykorzystują rozwiązania pamięci masowej do zarządzania krytycznymi danymi, które napędzają ich działalność. Integracja technologii NVIDIA z tym ekosystemem otwiera nowe możliwości.
Moc Technologii NVIDIA: Blackwell, BlueField i Spectrum-X
Platforma wykorzystuje połączone możliwości NVIDIA Blackwell GPU, BlueField DPU i sieci Spectrum-X. Te komponenty tworzą akcelerowany silnik, który radykalnie przyspiesza dostęp agentów zapytań AI do danych znajdujących się w systemach pamięci masowej dla przedsiębiorstw.
BlueField DPU odgrywają kluczową rolę w zwiększaniu wydajności i efektywności. Zapewniają do 1,6 razy wyższą wydajność w porównaniu z rozwiązaniami pamięci masowej opartymi na procesorach. Jednocześnie zmniejszają zużycie energii nawet o 50%. Przekłada się to na niezwykłą poprawę wydajności na wat, przekraczającą tradycyjne rozwiązania ponad trzykrotnie.
Spectrum-X przejmuje zadanie przyspieszania ruchu pamięci masowej AI. Osiąga do 48% wzrostu prędkości w porównaniu z tradycyjnym Ethernetem. Jest to realizowane poprzez wdrożenie adaptacyjnego routingu i mechanizmów kontroli przeciążenia, optymalizując przepływ danych i minimalizując wąskie gardła.
NVIDIA AI-Q Blueprint: Framework dla Systemów Agentowych
Infrastruktura pamięci masowej NVIDIA AI Data Platform wykorzystuje NVIDIA AI-Q Blueprint. Ten blueprint służy jako przewodnik do tworzenia systemów agentowych zdolnych do wnioskowania i łączenia się z danymi przedsiębiorstwa. AI-Q wykorzystuje mikrousługi NVIDIA NeMo Retriever™, które odgrywają kluczową rolę w przyspieszaniu ekstrakcji i pobierania danych. Te mikrousługi mogą zwiększyć prędkość dostępu do danych nawet 15-krotnie na GPU NVIDIA, znacznie zwiększając ogólną wydajność platformy.
Ulepszanie Odpowiedzi dzięki Świadomości Kontekstowej
Agenci zapytań AI zbudowani przy użyciu AI-Q Blueprint są zaprojektowani do łączenia się z danymi podczas procesu wnioskowania. To kluczowe połączenie umożliwia im dostarczanie odpowiedzi, które są dokładniejsze i uwzględniają kontekst. Agenci ci mają możliwość szybkiego dostępu do danych na dużą skalę i przetwarzania różnych typów danych. Obejmuje to dane ustrukturyzowane, częściowo ustrukturyzowane i nieustrukturyzowane pochodzące z wielu źródeł, takich jak dokumenty tekstowe, pliki PDF, obrazy, a nawet treści wideo.
Inicjatywy Partnerskie: Dostosowywanie Platformy Danych AI
Partnerzy NVIDIA-Certified Storage aktywnie współpracują z firmą NVIDIA w celu opracowania niestandardowych platform danych AI dostosowanych do ich specyficznych ofert. Oto przegląd niektórych z tych inicjatyw:
- DDN: DDN integruje możliwości AI Data Platform ze swoją platformą DDN Infinia AI, zwiększając jej wydajność i funkcjonalność.
- Dell Technologies: Dell tworzy platformy danych AI dla swojej gamy rozwiązań Dell PowerScale i Project Lightning, rozszerzając ich możliwości w dziedzinie AI.
- Hewlett Packard Enterprise: HPE włącza możliwości AI Data Platform do kilku swoich ofert, w tym HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP i HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara integruje AI Data Platform ze swoim ekosystemem Hitachi IQ. Integracja ta ma na celu zapewnienie klientom innowacyjnych systemów pamięci masowej i ofert danych, które zapewniają wymierne wyniki oparte na AI.
- IBM: IBM włącza AI Data Platform jako część swojej funkcji pamięci masowej uwzględniającej zawartość. Integracja ta obejmuje technologię IBM Fusion i IBM Storage Scale i ma na celu przyspieszenie aplikacji generowania rozszerzonego o pobieranie (retrieval-augmented generation).
- NetApp: NetApp rozwija pamięć masową dla przedsiębiorstw dla agentowego AI dzięki swojemu rozwiązaniu NetApp AIPod, które jest zbudowane na fundamencie AI Data Platform.
- Nutanix: Nutanix Cloud Platform z Nutanix Unified Storage zostanie zintegrowana z NVIDIA AI Data Platform. Integracja ta umożliwi wdrażanie wnioskowania i przepływów pracy agentów w różnych środowiskach, w tym na brzegu sieci, w centrach danych i chmurach publicznych.
- Pure Storage: Pure Storage dostarczy możliwości AI Data Platform za pośrednictwem swojego rozwiązania Pure Storage FlashBlade, zwiększając jego wydajność i gotowość do AI.
- VAST Data: VAST Data współpracuje z AI Data Platform w celu kuracji wglądów w czasie rzeczywistym za pomocą swojego VAST InsightEngine, odblokowując nowe możliwości analizy danych.
- WEKA: Oprogramowanie WEKA Data Platform integruje się z GPU, DPU i technologiami sieciowymi NVIDIA. Integracja ta optymalizuje dostęp do danych dla agentowego wnioskowania AI i wglądów, zapewniając wysokowydajną podstawę pamięci masowej, która przyspiesza wnioskowanie AI i obciążenia związane z przetwarzaniem tokenów.
Dostępność i Perspektywy na Przyszłość
Dostawcy pamięci masowej z certyfikatem NVIDIA planują rozpocząć oferowanie rozwiązań stworzonych z wykorzystaniem NVIDIA AI Data Platform od tego miesiąca. Oznacza to znaczący krok w kierunku powszechnego przyjęcia tej transformacyjnej technologii. Przyszłość infrastruktury dla przedsiębiorstw jest niewątpliwie kształtowana przez AI, a NVIDIA AI Data Platform jest na czele tej rewolucji.