Era Baru Infrastruktur yang Didukung AI
NVIDIA baru-baru ini memperkenalkan NVIDIA AI Data Platform, sebuah desain referensi yang dapat disesuaikan yang siap untuk merevolusi infrastruktur AI. Platform inovatif ini diadopsi oleh penyedia teknologi terkemuka untuk membangun infrastruktur generasi baru yang dirancang khusus untuk kebutuhan beban kerja inferensi AI yang menuntut. Pada intinya, desain inovatif ini berpusat di sekitar platform penyimpanan perusahaan yang ditingkatkan dengan agen kueri AI, semuanya didukung oleh teknologi komputasi, jaringan, dan perangkat lunak yang dipercepat dari NVIDIA.
Memberdayakan Bisnis dengan Wawasan Waktu Nyata
NVIDIA AI Data Platform memungkinkan penyedia NVIDIA-Certified Storage untuk membangun infrastruktur yang secara signifikan mempercepat beban kerja penalaran AI. Ini dicapai melalui integrasi agen kueri AI khusus. Agen cerdas ini memberdayakan bisnis untuk mengekstrak wawasan berharga dari data mereka dalam waktu yang hampir bersamaan. Kemampuan ini didorong oleh NVIDIA AI Enterprise software, sebuah rangkaian lengkap yang mencakup NVIDIA NIM™ microservices yang dirancang untuk model NVIDIA Llama Nemotron baru. Model-model ini menawarkan kemampuan penalaran tingkat lanjut, yang semakin meningkatkan kemampuan platform untuk memberikan kecerdasan yang dapat ditindaklanjuti. Melengkapi ini adalah NVIDIA AI-Q Blueprint baru, sebuah kerangka kerja yang menyederhanakan pengembangan sistem agentik.
Mengoptimalkan Infrastruktur untuk Agen Kueri AI
Penyedia penyimpanan dapat memanfaatkan NVIDIA AI Data Platform untuk mengoptimalkan infrastruktur mereka, memastikannya dapat secara efektif memberdayakan agen kueri AI yang canggih ini. Optimasi ini melibatkan penggabungan teknologi NVIDIA utama, termasuk NVIDIA Blackwell GPUs, NVIDIA BlueField® DPUs, NVIDIA Spectrum-X™ networking, dan NVIDIA Dynamo open-source inference library. Komponen-komponen ini bekerja secara sinergis untuk menciptakan lingkungan berkinerja tinggi yang disesuaikan untuk pemrosesan data yang digerakkan oleh AI.
Upaya Kolaboratif di Seluruh Industri
Kolaborasi luar biasa sedang berlangsung, dengan platform data terkemuka dan penyedia penyimpanan bergabung dengan NVIDIA. Raksasa industri seperti DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data, dan WEKA secara aktif bekerja untuk menciptakan platform data AI yang disesuaikan. Platform ini dirancang untuk memanfaatkan potensi besar data perusahaan, memungkinkan bisnis untuk bernalar dan menanggapi kueri kompleks dengan kecepatan dan akurasi yang belum pernah terjadi sebelumnya.
Visi Jensen Huang: Data sebagai Bahan Bakar untuk Era AI
Jensen Huang, pendiri dan CEO NVIDIA, dengan tepat menggambarkan data sebagai ‘bahan mentah yang memberdayakan industri di era AI.’ Dia menekankan bahwa kolaborasi dengan para pemimpin penyimpanan dunia ini membentuk ‘kelas baru infrastruktur perusahaan.’ Infrastruktur generasi berikutnya ini sangat penting bagi perusahaan untuk menyebarkan dan menskalakan AI agentik di seluruh pusat data hibrida mereka, membuka tingkat efisiensi dan inovasi baru.
Membawa Komputasi yang Dipercepat ke Penyimpanan Perusahaan
NVIDIA AI Data Platform menandai kemajuan signifikan dengan menghadirkan kekuatan komputasi yang dipercepat dan AI ke sejumlah besar bisnis yang mengandalkan penyimpanan perusahaan. Bisnis-bisnis ini memanfaatkan solusi penyimpanan untuk mengelola data penting yang mendorong operasi mereka. Integrasi teknologi NVIDIA ke dalam ekosistem ini membuka kemungkinan baru.
Kekuatan Teknologi NVIDIA: Blackwell, BlueField, dan Spectrum-X
Platform ini memanfaatkan kemampuan gabungan dari NVIDIA Blackwell GPUs, BlueField DPUs, dan Spectrum-X networking. Komponen-komponen ini membentuk mesin yang dipercepat yang secara dramatis mempercepat akses agen kueri AI ke data yang berada di sistem penyimpanan perusahaan.
BlueField DPUs memainkan peran penting dalam meningkatkan kinerja dan efisiensi. Mereka memberikan kinerja hingga 1,6 kali lebih tinggi dibandingkan dengan solusi penyimpanan berbasis CPU. Secara bersamaan, mereka mengurangi konsumsi daya hingga 50%. Ini berarti peningkatan luar biasa dalam kinerja per watt, melebihi solusi tradisional lebih dari tiga kali lipat.
Spectrum-X mengambil tugas mempercepat lalu lintas penyimpanan AI. Ini mencapai peningkatan kecepatan hingga 48% dibandingkan dengan Ethernet tradisional. Ini dicapai melalui implementasi perutean adaptif dan mekanisme kontrol kemacetan, mengoptimalkan aliran data dan meminimalkan hambatan.
NVIDIA AI-Q Blueprint: Kerangka Kerja untuk Sistem Agentik
Infrastruktur penyimpanan NVIDIA AI Data Platform menggunakan NVIDIA AI-Q Blueprint. Cetak biru ini berfungsi sebagai panduan untuk mengembangkan sistem agentik yang mampu bernalar dan terhubung ke data perusahaan. AI-Q memanfaatkan NVIDIA NeMo Retriever™ microservices, yang memainkan peran penting dalam mempercepat ekstraksi dan pengambilan data. Microservice ini dapat meningkatkan kecepatan akses data hingga 15 kali pada NVIDIA GPU, secara signifikan meningkatkan efisiensi platform secara keseluruhan.
Meningkatkan Respons dengan Kesadaran Kontekstual
Agen kueri AI yang dibangun menggunakan AI-Q Blueprint dirancang untuk terhubung ke data selama proses inferensi. Koneksi penting ini memungkinkan mereka untuk memberikan respons yang lebih akurat dan sadar kontekstual. Agen-agen ini memiliki kemampuan untuk dengan cepat mengakses data skala besar dan memproses berbagai jenis data. Ini termasuk data terstruktur, semi-terstruktur, dan tidak terstruktur yang berasal dari berbagai sumber, seperti dokumen teks, PDF, gambar, dan bahkan konten video.
Inisiatif Mitra: Menyesuaikan Platform Data AI
Mitra NVIDIA-Certified Storage secara aktif berkolaborasi dengan NVIDIA untuk mengembangkan platform data AI khusus yang disesuaikan dengan penawaran khusus mereka. Berikut ini adalah sekilas tentang beberapa inisiatif ini:
- DDN: DDN mengintegrasikan kemampuan AI Data Platform ke dalam platform DDN Infinia AI, meningkatkan kinerja dan fungsionalitasnya.
- Dell Technologies: Dell menciptakan platform data AI untuk berbagai solusi Dell PowerScale dan Project Lightning, memperluas kemampuan mereka di domain AI.
- Hewlett Packard Enterprise: HPE menggabungkan kemampuan AI Data Platform ke dalam beberapa penawarannya, termasuk HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP, dan HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara mengintegrasikan AI Data Platform ke dalam ekosistem Hitachi IQ. Integrasi ini bertujuan untuk memberdayakan pelanggan dengan sistem penyimpanan dan penawaran data inovatif yang memberikan hasil berbasis AI yang nyata.
- IBM: IBM menggabungkan AI Data Platform sebagai bagian dari kemampuan penyimpanan yang sadar konten. Integrasi ini melibatkan teknologi IBM Fusion dan IBM Storage Scale dan dirancang untuk mempercepat aplikasi retrieval-augmented generation.
- NetApp: NetApp memajukan penyimpanan perusahaan untuk AI agentik dengan solusi NetApp AIPod, yang dibangun di atas dasar AI Data Platform.
- Nutanix: Nutanix Cloud Platform dengan Nutanix Unified Storage akan berintegrasi dengan NVIDIA AI Data Platform. Integrasi ini akan memungkinkan inferensi dan alur kerja agentik untuk digunakan di berbagai lingkungan, termasuk edge, pusat data, dan cloud publik.
- Pure Storage: Pure Storage akan menghadirkan kemampuan AI Data Platform melalui solusi Pure Storage FlashBlade, meningkatkan kinerja dan kesiapan AI-nya.
- VAST Data: VAST Data berkolaborasi dengan AI Data Platform untuk mengkurasi wawasan waktu nyata menggunakan VAST InsightEngine, membuka kemungkinan baru untuk analisis data.
- WEKA: Perangkat lunak WEKA Data Platform berintegrasi dengan NVIDIA GPU, DPU, dan teknologi jaringan. Integrasi ini mengoptimalkan akses data untuk penalaran dan wawasan AI agentik, menyediakan fondasi penyimpanan berkinerja tinggi yang mempercepat inferensi AI dan beban kerja pemrosesan token.
Ketersediaan dan Pandangan Masa Depan
Penyedia NVIDIA-Certified Storage berencana untuk mulai menawarkan solusi yang dibuat dengan NVIDIA AI Data Platform mulai bulan ini. Ini menandai langkah signifikan menuju adopsi luas dari teknologi transformatif ini. Masa depan infrastruktur perusahaan tidak diragukan lagi dibentuk oleh AI, dan NVIDIA AI Data Platform berada di garis depan revolusi ini.