Nvidia baru-baru ini meluncurkan NeMo microservices, sebuah rangkaian alat yang dirancang untuk mengintegrasikan agen AI ke dalam alur kerja perusahaan secara lancar. Peluncuran ini hadir pada saat yang krusial, karena studi menunjukkan bahwa sebagian besar bisnis berjuang untuk mewujudkan pengembalian substansial atas investasi AI mereka. NeMo microservices bertujuan untuk mengatasi tantangan ini dengan menyediakan sumber daya yang dibutuhkan pengembang untuk membangun dan mengelola agen AI yang dapat mengotomatiskan tugas, berintegrasi dengan aplikasi yang ada, dan terus diperbarui dengan informasi terbaru.
Potensi Agen AI di Perusahaan
Potensi agen AI untuk mengubah cara bisnis beroperasi sangat besar. Menurut Joey Conway, direktur senior perangkat lunak AI generatif Nvidia untuk perusahaan, “Ada lebih dari satu miliar pekerja pengetahuan di berbagai industri, wilayah geografis, dan lokasi, dan pandangan kami adalah bahwa karyawan digital atau agen AI akan dapat membantu perusahaan menyelesaikan lebih banyak pekerjaan di berbagai domain dan skenario ini.”
NeMo microservices dirancang untuk mewujudkan visi ini dengan menyediakan serangkaian alat komprehensif untuk membangun, menerapkan, dan mengelola agen AI. Microservices ini juga termasuk dalam rangkaian alat pengembang Nvidia AI Enterprise yang lebih luas, yang semakin meningkatkan aksesibilitas dan kemampuan integrasinya.
Membongkar Rangkaian NeMo Microservices
Rangkaian NeMo microservices terdiri dari beberapa komponen kunci, yang masing-masing dirancang untuk menangani aspek spesifik dari siklus hidup agen AI:
NeMo Curator: Microservice ini bertanggung jawab untuk mengumpulkan data perusahaan, memastikan bahwa agen AI memiliki akses ke informasi yang mereka butuhkan untuk melakukan tugas mereka secara efektif.
NeMo Customizer: Dijelaskan oleh Conway sebagai microservice yang “mengambil teknik pelatihan canggih terbaru dan mengajarkan model keterampilan dan pengetahuan baru sehingga kami dapat memastikan bahwa model yang mendukung agen tetap mutakhir,” NeMo Customizer sangat penting untuk menjaga agen AI tetap mutakhir dan relevan.
NeMo Evaluator: Microservice ini dirancang untuk memverifikasi bahwa model AI yang mendukung agen benar-benar telah meningkat dan tidak mengalami regresi, memastikan bahwa kinerja tetap konsisten atau meningkat dari waktu ke waktu.
NeMo Guardrails: NeMo Guardrails dimaksudkan untuk menjaga agen AI tetap fokus pada tujuan yang dimaksudkan, mencegahnya menyimpang dari topik dan mengurangi potensi risiko keselamatan dan keamanan.
Konsep “Data Flywheel”
Nvidia membayangkan microservices ini beroperasi dalam pipeline siklik berkelanjutan, yang mereka sebut sebagai “data flywheel.” Proses ini melibatkan pengambilan data baru dan umpan balik pengguna, menggunakan informasi ini untuk meningkatkan model AI, dan kemudian menerapkan kembali model yang diperbarui. Pendekatan iteratif ini memastikan bahwa agen AI terus belajar dan beradaptasi, menjadi lebih efektif dari waktu ke waktu.
Conway menyamakan NeMo microservices dengan “pada dasarnya seperti kontainer Docker,” menyoroti modularitas dan kemudahan penerapannya. Orkestrasi microservices ini bergantung pada Kubernetes, dengan fitur tambahan seperti Operator Kubernetes untuk menyederhanakan proses.
Nvidia juga berfokus pada peningkatan persiapan dan kurasi data, menyadari pentingnya data berkualitas tinggi untuk AI yang efektif. “Kami memiliki beberapa perangkat lunak hari ini untuk membantu persiapan dan kurasi data. Akan ada lebih banyak lagi yang datang di sana,” kata Conway.
Dukungan dan Integrasi Perangkat Lunak Luas
Nvidia berkomitmen untuk memastikan bahwa NeMo microservices kompatibel dengan berbagai platform dan alat perangkat lunak. Perusahaan mengklaim dukungan perangkat lunak yang luas untuk toolkit AI barunya, termasuk platform perusahaan seperti SAP, ServiceNow, dan Amdocs; tumpukan perangkat lunak AI seperti DataRobot dan Dataiku; ditambah alat lain seperti DataStax dan Cloudera. Selain itu, NeMo microservices mendukung model dari berbagai sumber, termasuk Google, Meta, Microsoft, Mistral AI, dan Nvidia itu sendiri.
Dukungan luas ini memastikan bahwa bisnis dapat mengintegrasikan NeMo microservices ke dalam infrastruktur TI mereka yang ada secara lancar, terlepas dari tumpukan teknologi yang mereka pilih.
Aplikasi Dunia Nyata NeMo Microservices
NeMo microservices telah diterapkan di berbagai industri, menunjukkan keserbagunaan dan potensi dampaknya. Misalnya, Amdocs, penyedia perangkat lunak dan layanan terkemuka untuk perusahaan komunikasi dan media, menggunakan NeMo microservices untuk mengembangkan tiga jenis agen untuk pelanggan operator telekomunikasinya:
- Agen Penagihan: Agen ini berfokus pada penyelesaian pertanyaan terkait penagihan, memberikan pelanggan informasi yang akurat dan tepat waktu tentang akun mereka.
- Agen Penjualan: Agen penjualan bekerja untuk memberikan penawaran yang dipersonalisasi dan meningkatkan keterlibatan pelanggan sebagai bagian dari proses penjualan, membantu menutup kesepakatan dengan lebih efektif.
- Agen Jaringan: Agen ini menganalisis log dan informasi jaringan di berbagai wilayah geografis dan negara untuk secara proaktif mengidentifikasi dan mengatasi masalah layanan, memastikan keandalan dan kinerja jaringan.
Contoh-contoh ini menggambarkan potensi NeMo microservices untuk mengotomatiskan tugas, meningkatkan layanan pelanggan, dan meningkatkan efisiensi operasional di berbagai industri.
Ketersediaan dan Penerapan
Pengembang dapat mengakses NeMo microservices melalui katalog Nvidia NGC, hub untuk perangkat lunak yang dioptimalkan untuk GPU. Alternatifnya, mereka dapat menerapkan microservices sebagai bagian dari rangkaian Nvidia AI Enterprise, yang menyediakan serangkaian alat komprehensif untuk mengembangkan dan menerapkan aplikasi AI.
Tantangan Membuktikan ROI
Meskipun potensi AI tidak dapat disangkal, banyak bisnis berjuang untuk menunjukkan pengembalian investasi (ROI) yang jelas atas investasi AI mereka. Sebuah studi baru-baru ini yang dilakukan di Inggris menemukan bahwa bisnis menghabiskan rata-rata £321.000 ($427.000) untuk AI dalam upaya meningkatkan pengalaman pelanggan, tetapi persentase yang signifikan hanya melihat peningkatan yang kecil. Menurut penelitian tersebut, 44 persen pemimpin bisnis mengindikasikan bahwa AI, sejauh ini, hanya memberikan sedikit peningkatan.
Terlepas dari tantangan ini, sebagian besar responden (93 persen) mengklaim bahwa investasi AI mereka telah memberikan pengembalian investasi (ROI) yang baik. Perbedaan ini menyoroti perlunya bisnis untuk mengevaluasi dengan cermat strategi AI mereka dan memastikan bahwa mereka selaras dengan tujuan bisnis mereka secara keseluruhan.
Pentingnya Integrasi yang Bermakna
Penelitian yang ditugaskan oleh Storyblok, penyedia perangkat lunak CMS untuk pemasar dan pengembang, menunjukkan bahwa bisnis perlu bergerak melampaui implementasi AI yang dangkal dan mengintegrasikannya dengan cara yang mendorong transformasi yang bermakna. Ini membutuhkan pendekatan strategis yang mempertimbangkan kebutuhan dan tantangan spesifik bisnis, serta kemampuan teknologi AI yang diterapkan.
Studi tersebut mengidentifikasi kasus penggunaan AI yang paling populer di antara para pemimpin bisnis Inggris sebagai:
- Pembuatan konten situs web
- Layanan pelanggan
- Analisis pemasaran
- Layanan penerjemahan
- Pembuatan konten pemasaran
Kasus penggunaan ini menunjukkan potensi AI untuk mengotomatiskan tugas, meningkatkan efisiensi, dan meningkatkan pengalaman pelanggan. Namun, untuk mewujudkan potensi penuh AI, bisnis perlu merencanakan dan melaksanakan inisiatif AI mereka dengan hati-hati, memastikan bahwa mereka selaras dengan strategi bisnis mereka secara keseluruhan.
Menavigasi Kompleksitas Implementasi AI
Integrasi AI ke dalam alur kerja perusahaan menghadirkan serangkaian tantangan yang kompleks, mulai dari persiapan dan pelatihan model data hingga penerapan dan pemeliharaan. NeMo microservices dirancang untuk mengatasi tantangan ini dengan menyediakan serangkaian alat dan sumber daya yang komprehensif kepada pengembang.
Namun, implementasi AI yang sukses membutuhkan lebih dari sekadar teknologi. Ini juga membutuhkan pemahaman yang jelas tentang masalah bisnis yang ditangani, strategi yang terdefinisi dengan baik untuk menerapkan dan mengelola agen AI, dan komitmen untuk perbaikan berkelanjutan.
Masa Depan AI di Perusahaan
Seiring teknologi AI terus berkembang, perannya di perusahaan hanya akan menjadi lebih menonjol. Agen AI memiliki potensi untuk mengubah cara bisnis beroperasi, mengotomatiskan tugas, meningkatkan efisiensi, dan meningkatkan pengalaman pelanggan.
NeMo microservices Nvidia mewakili langkah maju yang signifikan dalam mewujudkan visi ini. Dengan menyediakan alat yang dibutuhkan pengembang untuk membangun, menerapkan, dan mengelola agen AI, NeMo microservices membantu mendemokratisasikan AI dan membuatnya dapat diakses oleh berbagai bisnis yang lebih luas.
Namun, adopsi AI yang sukses membutuhkan pendekatan strategis yang mempertimbangkan kebutuhan dan tantangan spesifik setiap bisnis. Dengan merencanakan dan melaksanakan inisiatif AI mereka dengan hati-hati, bisnis dapat membuka potensi penuh AI dan mendorong transformasi yang bermakna.
Kesimpulan: Merangkul Revolusi AI
Peluncuran NeMo microservices Nvidia menandai perkembangan yang menarik di bidang AI, menawarkan bisnis toolkit yang kuat untuk mengintegrasikan agen AI ke dalam alur kerja mereka. Saat perusahaan menavigasi kompleksitas implementasi AI, microservices ini menyediakan fondasi yang kuat untuk membangun sistem cerdas dan otomatis yang dapat mendorong efisiensi, meningkatkan pengalaman pelanggan, dan membuka peluang baru untuk pertumbuhan. Sementara tantangan tetap ada dalam menunjukkan ROI dan memastikan integrasi yang bermakna, manfaat potensial AI tidak dapat disangkal, dan NeMo microservices siap memainkan peran kunci dalam membentuk masa depan AI di perusahaan.