Red Hat dan Meta mengumumkan kerjasama strategik untuk mentakrifkan semula landskap kecerdasan buatan peringkat perusahaan. Tumpuan kerjasama ini adalah untuk mempercepat evolusi dan penggunaan AI generatif (gen AI) di pelbagai industri. Asas kerjasama ini ialah pengaktifan pantas Red Hat bagi model Llama inovatif Meta, khususnya Llama 4, pada platform Red Hat AI. Ini dilengkapi dengan penyepaduan pelayan inferens vLLM berprestasi tinggi, menetapkan peringkat untuk era baharu kebolehaksesan dan kecekapan AI.
Membina momentum awal ini, Red Hat dan Meta komited untuk memupuk sinergi antara inisiatif komuniti Llama Stack dan vLLM. Penyelarasan ini direka untuk menyelaraskan rangka kerja, mendemokrasikan akses kepada beban kerja gen AI terbuka dan memudahkan pelaksanaannya di seluruh perusahaan.
Kerjasama ini hadir pada masa yang penting, kerana permintaan untuk keupayaan AI generatif dalam aplikasi perusahaan dijangka meledak. Menurut Gartner, menjelang 2026, lebih 80% vendor perisian bebas (ISV) akan menyepadukan gen AI ke dalam tawaran mereka, peningkatan mendadak daripada kadar penggunaan kurang daripada 1% yang diperhatikan hari ini. Ramalan ini menggariskan keperluan kritikal untuk platform terbuka dan saling beroperasi—jurang yang Red Hat dan Meta secara aktif menangani dengan usaha kolaboratif mereka.
Objektif teras perkongsian ini adalah untuk mewujudkan pengalaman yang lebih lancar dan cekap untuk beban kerja gen AI merentas platform yang pelbagai, persekitaran awan dan pemecut AI. Tumpuan adalah sangat akut pada lapisan antara muka pengaturcaraan aplikasi (API) dan dalam fasa perkhidmatan inferens AI, yang penting untuk mengendalikan model AI dalam aplikasi dunia sebenar.
Merintis Inovasi Terbuka: Llama Stack dan vLLM
Dedikasi Red Hat dan Meta untuk membuka inovasi dicontohkan dalam sumbangan ketara mereka kepada projek asas yang membentuk masa depan AI:
- Llama Stack: Dibangunkan dan sumber terbuka oleh Meta, Llama Stack menyediakan blok binaan dan API yang diseragamkan yang direka untuk merevolusikan keseluruhan kitaran hayat aplikasi gen AI. Dengan menawarkan rangka kerja yang konsisten dan boleh diakses, Llama Stack memperkasakan pembangun untuk membuat prototaip, membina dan menggunakan penyelesaian AI dengan cepat.
- vLLM: Di sini, sumbangan utama Red Hat memainkan peranan penting dalam menguasakan platform sumber terbuka yang memastikan inferens yang sangat cekap dan dioptimumkan untuk model bahasa yang besar (LLM). Ini termasuk menyediakan sokongan Hari 0 untuk Llama 4, membolehkan pengguna memanfaatkan serta-merta kemajuan terkini dalam teknologi model AI.
Mewujudkan Asas Bersatu untuk Aplikasi Gen AI
Komponen utama kerjasama ini ialah penglibatan aktif Red Hat dalam meningkatkan projek Llama Stack. Sumbangan Red Hat bertujuan untuk mengukuhkan kedudukan Llama Stack sebagai pilihan yang menarik untuk pembangun yang membina aplikasi AI ejen yang inovatif pada platform Red Hat AI.
Red Hat komited untuk menyokong spektrum luas rangka kerja ejen, menawarkan pelanggannya pelbagai alat dan pilihan untuk inisiatif AI mereka. Komitmen ini bertujuan untuk mewujudkan persekitaran yang berdaya tahan dan boleh disesuaikan yang mempercepat pembangunan dan penggunaan penyelesaian AI generasi akan datang, menerima landskap teknologi ejen yang berkembang. Usaha kolaboratif bertujuan untuk menyediakan pembangun dengan fleksibiliti dan kebebasan untuk memilih alatan dan rangka kerja yang paling sesuai dengan keperluan dan keperluan unik mereka.
Merintis Masa Depan Inferens AI dengan vLLM
Projek vLLM sudah berada di barisan hadapan pergerakan ke arah gen AI terbuka yang cekap dan kos efektif. Komitmen Meta untuk meningkatkan sumbangan komuniti dijangka mempercepatkan lagi kemajuan projek. Kerjasama yang dipertingkatkan ini akan membolehkan vLLM menyediakan sokongan Hari 0 untuk generasi terbaharu keluarga model Llama, bermula dengan Llama 4.
Penyepaduan vLLM ke dalam Ekosistem PyTorch, di mana Meta dan organisasi lain bekerjasama dalam membina ekosistem alatan yang terbuka dan inklusif, mengukuhkan kepentingannya dalam komuniti AI. Pengesahan ini meletakkan vLLM sebagai pemboleh utama untuk membuka potensi penuh gen AI dalam persekitaran perusahaan.
Masa Depan AI Perusahaan
Kerjasama antara Red Hat dan Meta ini menandakan langkah penting ke hadapan dalam evolusi AI perusahaan. Dengan memfokuskan pada penyelesaian sumber terbuka, kebolehoperasian dan kerjasama komuniti, kedua-dua syarikat membuka jalan untuk masa depan di mana AI lebih mudah diakses, cekap dan memberi kesan kepada perniagaan di semua industri. Perkongsian itu dijangka memacu inovasi, mempercepat penggunaan teknologi AI dan memperkasakan organisasi untuk memanfaatkan potensi penuh AI untuk menyelesaikan masalah yang kompleks dan mewujudkan peluang baharu.
Tumpuan pada menyelaraskan beban kerja AI, menyediakan sokongan Hari 0 untuk model terkemuka, dan memupuk penglibatan komuniti dijangka mempunyai kesan lata pada ekosistem AI yang lebih luas. Pembangun, penyelidik dan perusahaan sama-sama akan mendapat manfaat daripada pendekatan terbuka dan kolaboratif yang diperjuangkan oleh Red Hat dan Meta.
Meningkatkan Llama Stack untuk Aplikasi AI Ejen
Red Hat secara aktif menyumbang kepada projek Llama Stack, bertujuan untuk meningkatkan keupayaannya sebagai pilihan yang menarik untuk pembangun yang membina aplikasi AI ejen yang inovatif pada Red Hat AI. AI ejen merujuk kepada sistem AI yang boleh melaksanakan tugas secara autonomi dan membuat keputusan, selalunya meniru tingkah laku seperti manusia. Dengan mengoptimumkan Llama Stack, Red Hat berusaha untuk menyediakan pembangun dengan platform yang teguh dan serba boleh untuk mencipta penyelesaian AI termaju.
Komitmen Red Hat untuk menyokong rangka kerja ejen yang pelbagai, termasuk Llama Stack, menggariskan dedikasinya untuk menyediakan pelanggan dengan pelbagai pilihan peralatan dan inovasi. Pendekatan ini memastikan pembangun mempunyai fleksibiliti untuk memilih rangka kerja dan alatan yang paling sesuai dengan keperluan khusus mereka, memupuk ekosistem pembangunan AI yang bertenaga. Pengaktifan ini direka untuk menawarkan persekitaran yang teguh dan boleh disesuaikan, mempercepat pembangunan dan penggunaan penyelesaian AI generasi akan datang yang sejajar dengan landskap teknologi ejen yang berubah-ubah.
vLLM: Mengoptimumkan Inferens AI untuk Aplikasi Perusahaan
Projek vLLM menolak sempadan gen AI terbuka yang cekap dan kos efektif. Projek ini mendapat momentum selanjutnya dengan komitmen Meta untuk memperdalam sumbangan komuniti. Ia membolehkan vLLM menyediakan sokongan Hari 0 untuk generasi terbaharu keluarga model Llama, bermula dengan Llama 4. Dengan menawarkan keserasian segera dengan model baharu, vLLM membolehkan perusahaan menerima pakai dan memanfaatkan dengan cepat kemajuan terkini dalam teknologi AI.
Penyertaan vLLM dalam Ekosistem PyTorch mengukuhkan lagi kedudukannya sebagai komponen utama landskap AI terbuka. Meta dan kolaborator lain memupuk ekosistem alatan yang terbuka dan inklusif. Pengesahan ini meletakkan vLLM di barisan hadapan untuk membuka nilai gen AI dalam perusahaan, menyediakan organisasi dengan alat yang berkuasa untuk mengoptimumkan inferens AI dan memaksimumkan pulangan pelaburan AI mereka.
Menyelaraskan Pembangunan AI dengan Llama Stack
Seni bina Llama Stack direka untuk menawarkan pengalaman pembangunan yang harmoni, membolehkan pembangun menyepadukan dan menggunakan pelbagai komponen AI dengan mudah. Penyepaduan ini memudahkan penciptaan aplikasi AI yang kompleks, mengurangkan masa dan kos pembangunan. Dengan menyediakan API dan blok binaan yang diseragamkan, Llama Stack memperkasakan pembangun untuk menumpukan pada inovasi dan bukannya bergelut dengan isu keserasian.
Projek ini menangani cabaran yang berkaitan dengan membina dan menggunakan aplikasi gen AI dengan menyediakan pendekatan berstruktur. Ia menggalakkan modulariti, membenarkan pembangun menukar komponen dengan mudah dan bereksperimen dengan konfigurasi yang berbeza. Fleksibiliti ini memupuk inovasi dan membolehkan organisasi menyesuaikan diri dengan cepat dengan keadaan pasaran yang berubah-ubah.
Mendemokrasikan AI dengan vLLM
Salah satu matlamat utama vLLM adalah untuk mendemokrasikan akses kepada AI dengan mengoptimumkan inferens untuk model bahasa yang besar. Dengan menjadikan inferens AI lebih cekap dan kos efektif, vLLM membolehkan pelbagai organisasi memanfaatkan kuasa AI yang lebih luas. Pendemokrasian ini penting untuk memastikan manfaat AI tidak terhad kepada syarikat besar dengan sumber yang besar.
Komitmen vLLM terhadap prinsip sumber terbuka memastikan kodnya boleh diakses dan disesuaikan oleh sesiapa sahaja. Keterbukaan ini memupuk kerjasama dan menggalakkan pembangunan penyelesaian AI baharu dan inovatif. Tumpuan projek pada kecekapan juga mengurangkan kesan alam sekitar AI, menjadikannya teknologi yang lebih mampan.
Red Hat dan Meta: Perkongsian Simbiotik
Perkongsian antara Red Hat dan Meta adalah simbiotik, dengan setiap syarikat membawa kekuatan dan kepakaran unik ke meja. Kepakaran Red Hat dalam penyelesaian sumber terbuka, digabungkan dengan penyelidikan AI canggih Meta, mewujudkan sinergi kuat yang memacu inovasi dan mempercepat pembangunan AI perusahaan.
Kedua-dua syarikat berkongsi visi yang sama untuk masa depan AI, yang dicirikan