Era Baharu Infrastruktur Dikuasakan AI
NVIDIA baru-baru ini memperkenalkan NVIDIA AI Data Platform, reka bentuk rujukan boleh suai yang bersedia untuk merevolusikan infrastruktur AI. Platform terobosan ini sedang diguna pakai oleh penyedia teknologi terkemuka untuk membina generasi baharu infrastruktur yang direka khusus untuk keperluan mendesak beban kerja inferens AI. Pada terasnya, reka bentuk inovatif ini berpusat di sekitar platform storan perusahaan yang dipertingkatkan dengan ejen pertanyaan AI, semuanya dikuasakan oleh teknologi pengkomputeran, perangkaian dan perisian termaju NVIDIA.
Memperkasakan Perniagaan dengan Wawasan Masa Nyata
NVIDIA AI Data Platform membolehkan penyedia Storan Bertauliah NVIDIA membina infrastruktur yang mempercepatkan beban kerja penaakulan AI dengan ketara. Ini dicapai melalui penyepaduan ejen pertanyaan AI khusus. Ejen pintar ini memperkasakan perniagaan untuk mengekstrak cerapan berharga daripada data mereka dalam masa hampir nyata. Keupayaan ini didorong oleh perisian NVIDIA AI Enterprise, suite komprehensif yang merangkumi mikroservis NVIDIA NIM™ yang direka untuk model NVIDIA Llama Nemotron baharu. Model ini mempunyai keupayaan penaakulan lanjutan, meningkatkan lagi keupayaan platform untuk menyampaikan kecerdasan yang boleh diambil tindakan. Melengkapkan ini ialah NVIDIA AI-Q Blueprint baharu, rangka kerja yang menyelaraskan pembangunan sistem ejen.
Mengoptimumkan Infrastruktur untuk Ejen Pertanyaan AI
Penyedia storan boleh memanfaatkan NVIDIA AI Data Platform untuk mengoptimumkan infrastruktur mereka, memastikan ia boleh menguasakan ejen pertanyaan AI yang canggih ini dengan berkesan. Pengoptimuman ini melibatkan penggabungan teknologi NVIDIA utama, termasuk NVIDIA Blackwell GPU, NVIDIA BlueField® DPU, rangkaian NVIDIA Spectrum-X™, dan pustaka inferens sumber terbuka NVIDIA Dynamo. Komponen ini berfungsi secara sinergistik untuk mencipta persekitaran berprestasi tinggi yang disesuaikan untuk pemprosesan data dipacu AI.
Usaha Kerjasama Merentasi Industri
Kerjasama yang luar biasa sedang dijalankan, dengan platform data terkemuka dan penyedia storan bergabung tenaga dengan NVIDIA. Gergasi industri seperti DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data, dan WEKA sedang giat berusaha untuk mencipta platform data AI tersuai. Platform ini direka untuk memanfaatkan potensi besar data perusahaan, membolehkan perniagaan membuat alasan dan bertindak balas kepada pertanyaan kompleks dengan kelajuan dan ketepatan yang tidak pernah berlaku sebelum ini.
Visi Jensen Huang: Data sebagai Bahan Api untuk Zaman AI
Jensen Huang, pengasas dan Ketua Pegawai Eksekutif NVIDIA, dengan tepat menggambarkan data sebagai ‘bahan mentah yang menggerakkan industri dalam era AI.’ Beliau menekankan bahawa kerjasama dengan pemimpin storan dunia ini sedang membentuk ‘kelas baharu infrastruktur perusahaan.’ Infrastruktur generasi seterusnya ini adalah penting bagi syarikat untuk menggunakan dan menskalakan AI ejen merentasi pusat data hibrid mereka, membuka kunci tahap kecekapan dan inovasi baharu.
Membawa Pengkomputeran Dipercepatkan ke Storan Perusahaan
NVIDIA AI Data Platform menandakan kemajuan yang ketara dengan membawa kuasa pengkomputeran dipercepatkan dan AI kepada sejumlah besar perniagaan yang bergantung pada storan perusahaan. Perniagaan ini menggunakan penyelesaian storan untuk mengurus data kritikal yang memacu operasi mereka. Penyepaduan teknologi NVIDIA ke dalam ekosistem ini membuka ruang baharu kemungkinan.
Kuasa Teknologi NVIDIA: Blackwell, BlueField, dan Spectrum-X
Platform ini memanfaatkan keupayaan gabungan NVIDIA Blackwell GPU, BlueField DPU, dan rangkaian Spectrum-X. Komponen ini membentuk enjin dipercepatkan yang secara mendadak mempercepatkan akses ejen pertanyaan AI kepada data yang berada pada sistem storan perusahaan.
BlueField DPU memainkan peranan penting dalam meningkatkan prestasi dan kecekapan. Ia memberikan prestasi sehingga 1.6 kali lebih tinggi berbanding penyelesaian storan berasaskan CPU. Pada masa yang sama, ia mengurangkan penggunaan kuasa sehingga 50%. Ini diterjemahkan kepada peningkatan yang luar biasa dalam prestasi per watt, melebihi penyelesaian tradisional lebih daripada tiga kali ganda.
Spectrum-X mengambil tugas mempercepatkan trafik storan AI. Ia mencapai peningkatan kelajuan sehingga 48% berbanding Ethernet tradisional. Ini dicapai melalui pelaksanaan penghalaan adaptif dan mekanisme kawalan kesesakan, mengoptimumkan aliran data dan meminimumkan kesesakan.
NVIDIA AI-Q Blueprint: Rangka Kerja untuk Sistem Ejen
Infrastruktur storan NVIDIA AI Data Platform menggunakan NVIDIA AI-Q Blueprint. Rangka tindakan ini berfungsi sebagai panduan untuk membangunkan sistem ejen yang mampu membuat penaakulan dan menyambung kepada data perusahaan. AI-Q memanfaatkan mikroservis NVIDIA NeMo Retriever™, yang memainkan peranan penting dalam mempercepatkan pengekstrakan dan perolehan data. Mikroservis ini boleh meningkatkan kelajuan akses data sehingga 15 kali ganda pada GPU NVIDIA, dengan ketara meningkatkan kecekapan keseluruhan platform.
Meningkatkan Respons dengan Kesedaran Kontekstual
Ejen pertanyaan AI yang dibina menggunakan AI-Q Blueprint direka untuk menyambung kepada data semasa proses inferens. Sambungan penting ini membolehkan mereka memberikan respons yang lebih tepat dan sedar konteks. Ejen ini mempunyai keupayaan untuk mengakses data berskala besar dengan cepat dan memproses pelbagai jenis data. Ini termasuk data berstruktur, separa berstruktur dan tidak berstruktur yang berasal daripada pelbagai sumber, seperti dokumen teks, PDF, imej, dan juga kandungan video.
Inisiatif Rakan Kongsi: Menyesuaikan Platform Data AI
Rakan kongsi Storan Bertauliah NVIDIA sedang giat bekerjasama dengan NVIDIA untuk membangunkan platform data AI tersuai yang disesuaikan dengan tawaran khusus mereka. Berikut ialah gambaran sekilas tentang beberapa inisiatif ini:
- DDN: DDN menyepadukan keupayaan AI Data Platform ke dalam platform DDN Infinia AInya, meningkatkan prestasi dan fungsinya.
- Dell Technologies: Dell sedang mencipta platform data AI untuk rangkaian penyelesaian Dell PowerScale dan Project Lightningnya, mengembangkan keupayaannya dalam domain AI.
- Hewlett Packard Enterprise: HPE menggabungkan keupayaan AI Data Platform ke dalam beberapa tawarannya, termasuk HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP, dan HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara menyepadukan AI Data Platform ke dalam ekosistem Hitachi IQnya. Penyepaduan ini bertujuan untuk memperkasakan pelanggan dengan sistem storan dan tawaran data inovatif yang memberikan hasil dipacu AI yang ketara.
- IBM: IBM menggabungkan AI Data Platform sebagai sebahagian daripada keupayaan storan sedar kandungannya. Penyepaduan ini melibatkan teknologi IBM Fusion dan IBM Storage Scale dan direka untuk mempercepatkan aplikasi penjanaan tambahan perolehan.
- NetApp: NetApp memajukan storan perusahaan untuk AI ejen dengan penyelesaian NetApp AIPodnya, yang dibina di atas asas AI Data Platform.
- Nutanix: Nutanix Cloud Platform dengan Nutanix Unified Storage akan disepadukan dengan NVIDIA AI Data Platform. Penyepaduan ini akan membolehkan inferens dan aliran kerja ejen digunakan merentasi pelbagai persekitaran, termasuk pinggir, pusat data dan awan awam.
- Pure Storage: Pure Storage akan menyampaikan keupayaan AI Data Platform melalui penyelesaian Pure Storage FlashBladenya, meningkatkan prestasi dan kesediaan AI.
- VAST Data: VAST Data bekerjasama dengan AI Data Platform untuk menyusun cerapan masa nyata menggunakan VAST InsightEnginenya, membuka kemungkinan baharu untuk analisis data.
- WEKA: Perisian WEKA Data Platform disepadukan dengan GPU NVIDIA, DPU dan teknologi rangkaian. Penyepaduan ini mengoptimumkan akses data untuk penaakulan dan cerapan AI ejen, menyediakan asas storan berprestasi tinggi yang mempercepatkan inferens AI dan beban kerja pemprosesan token.
Ketersediaan dan Tinjauan Masa Depan
Penyedia Storan Bertauliah NVIDIA merancang untuk mula menawarkan penyelesaian yang dicipta dengan NVIDIA AI Data Platform mulai bulan ini. Ini menandakan langkah penting ke arah penggunaan meluas teknologi transformatif ini. Masa depan infrastruktur perusahaan sudah pasti dibentuk oleh AI, dan NVIDIA AI Data Platform berada di barisan hadapan revolusi ini.