Mendefinisikan Ulang Performa di Laptop Tipis dan Ringan
Ryzen AI MAX+ 395 dibangun di atas fondasi teknologi mutakhir. Intinya terletak pada core CPU ‘Zen 5’ AMD, yang menyediakan tulang punggung pemrosesan yang kuat dan efisien. Namun, inovasi sebenarnya terletak pada integrasi Neural Processing Unit (NPU) XDNA 2, yang menawarkan lebih dari 50 peak AI TOPS (Trillions of Operations Per Second). Mesin AI khusus ini, dikombinasikan dengan GPU terintegrasi berdasarkan arsitektur RDNA 3.5 AMD (menampilkan 40 Compute Unit), mengubah potensi laptop tipis dan ringan premium.
Kombinasi yang kuat ini memungkinkan konfigurasi memori yang belum pernah terjadi sebelumnya, mulai dari 32GB hingga 128GB memori terpadu yang mencengangkan. Fitur utama, AMD Variable Graphics Memory (VGM), memungkinkan hingga 96GB dari memori terpadu ini dialokasikan secara dinamis sebagai VRAM. Fleksibilitas ini sangat penting untuk menangani beban kerja AI yang menuntut, yang seringkali membutuhkan sumber daya memori yang substansial.
Membawa AI ke Konsumen: Kekuatan LLM Lokal
Fokus AMD melampaui kekuatan pemrosesan mentah; ini tentang memberdayakan pengguna untuk memanfaatkan potensi AI dalam aplikasi praktis sehari-hari. Contoh utama adalah dukungan untuk aplikasi yang didukung llama.cpp seperti LM Studio. Perangkat lunak ini bertindak sebagai gateway, memungkinkan pengguna untuk menjalankan model bahasa besar (LLM) secara langsung di laptop mereka tanpa memerlukan keahlian teknis khusus. Demokratisasi teknologi AI ini membuka kemungkinan bagi pengguna untuk bereksperimen dan menggunakan model teks dan visi AI baru dengan mudah.
Tolok Ukur Dominasi: Peningkatan Performa Dunia Nyata
Tolok ukur internal AMD melukiskan gambaran yang menarik tentang kemampuan Ryzen AI MAX+ 395. Pengujian dilakukan menggunakan laptop ASUS ROG Flow Z13 yang dilengkapi dengan memori terpadu 64GB dan GPU Radeon 8060S terintegrasi. Hasilnya menunjukkan keunggulan kinerja yang signifikan dibandingkan laptop yang menampilkan kartu grafis Intel Arc 140V.
Dalam hal throughput token – ukuran seberapa cepat LLM dapat menghasilkan teks – Ryzen AI MAX+ 395 menunjukkan peningkatan hingga 2,2 kali. Pengujian ini dirancang dengan cermat untuk memastikan kompatibilitas dengan laptop pesaing, dengan fokus pada LLM yang dapat beroperasi dalam footprint memori 16GB (umum untuk laptop dengan memori on-package 32GB).
Keunggulan kinerja ini tidak terbatas pada jenis model tertentu. Itu tetap konsisten di berbagai LLM, termasuk:
- Model Chain-of-thought: seperti DeepSeek R1 Distills.
- Model standar: seperti Microsoft Phi 4.
- Berbagai ukuran parameter: menunjukkan keserbagunaan di berbagai kompleksitas model.
Responsif Didefinisikan Ulang: Waktu ke Token Pertama
Di luar throughput mentah, responsivitas model AI sangat penting untuk pengalaman pengguna yang lancar dan interaktif. Di sinilah metrik “waktu ke token pertama” berperan, yang menunjukkan seberapa cepat model mulai menghasilkan output setelah menerima input.
Ryzen AI MAX+ 395 menunjukkan peningkatan yang lebih dramatis di area ini:
- Model yang lebih kecil (misalnya, Llama 3.2 3b Instruct): Hingga empat kali lebih cepat dari kompetisi.
- Model 7 miliar dan 8 miliar parameter yang lebih besar (misalnya, DeepSeek R1 Distill Qwen 7b, DeepSeek R1 Distill Llama 8b): Peningkatan kecepatan setinggi 9,1 kali.
- Model 14 miliar parameter: ASUS ROG Flow Z13, yang ditenagai oleh Ryzen AI MAX+ 395, dilaporkan hingga 12,2 kali lebih cepat daripada laptop dengan prosesor Intel Core Ultra 258V.
Angka-angka ini menyoroti lompatan signifikan dalam kemampuan interaktif model AI pada laptop, memungkinkan respons yang hampir seketika dan pengalaman pengguna yang lebih lancar.
Di Luar Teks: Melepaskan Kekuatan AI Multi-Modal
Kemampuan Ryzen AI MAX+ 395 melampaui LLM berbasis teks. Ia juga unggul dalam menangani model multi-modal, yang menggabungkan kemampuan visi di samping pemrosesan teks. Model-model ini dapat menganalisis gambar dan memberikan respons berdasarkan konten visualnya, membuka berbagai aplikasi baru.
AMD menyajikan data yang menunjukkan kinerja prosesor dengan model seperti:
- IBM Granite Vision: Hingga tujuh kali lebih cepat di IBM Granite Vision 3.2 3b.
- Google Gemma 3: Hingga 4,6 kali lebih cepat di Google Gemma 3 4b dan hingga enam kali lebih cepat di Google Gemma 3 12b.
Khususnya, ASUS ROG Flow Z13 dengan memori 64GB bahkan mampu menjalankan model Google Gemma 3 27B Vision yang lebih besar, menunjukkan kemampuan platform untuk menangani beban kerja multi-modal yang paling menuntut sekalipun.
Aplikasi Dunia Nyata: Dari Diagnosis Medis hingga Pembuatan Kode
Implikasi praktis dari kemajuan ini sangat luas. Sebuah demonstrasi menunjukkan potensi model visi dalam diagnosis medis, di mana sebuah model menganalisis gambar CT scan stok, mengidentifikasi organ, dan memberikan diagnosis. Ini menyoroti potensi AI untuk membantu profesional kesehatan dalam membuat penilaian yang lebih cepat dan lebih akurat.
Aplikasi menarik lainnya terletak pada pembuatan kode. AMD mendemonstrasikan kemampuan untuk menjalankan model bahasa besar seperti DeepSeek R1 Distill Qwen 32b (dalam presisi 6-bit) untuk membuat kode game sederhana seperti Pong dalam jangka waktu yang sangat singkat. Ini menunjukkan potensi AI untuk mempercepat pengembangan perangkat lunak dan memberdayakan pengembang dengan alat bantu pengkodean yang kuat.
Mengoptimalkan Performa: Melepaskan Potensi Penuh
Untuk mencapai kinerja optimal dengan beban kerja LLM pada laptop yang dilengkapi dengan prosesor Ryzen AI 300 series, AMD memberikan rekomendasi khusus:
- Pembaruan Driver: Pastikan Anda telah menginstal driver AMD Software: Adrenalin Edition terbaru. Driver ini sangat penting untuk mengaktifkan fitur dan optimasi terbaru.
- Variable Graphics Memory (VGM): Aktifkan VGM dan atur ke “High”. Ini memungkinkan sistem untuk secara dinamis mengalokasikan memori ke grafis terintegrasi, meningkatkan throughput token dan memungkinkan penggunaan model AI yang lebih besar.
- Pengaturan LM Studio: Di dalam LM Studio, pilih parameter secara manual dan atur “GPU Offload” ke “MAX”. Ini memastikan bahwa GPU dimanfaatkan sepenuhnya untuk pemrosesan AI.
- Kuantisasi:
- Untuk penggunaan umum, AMD menyarankan kuantisasi Q4 K M.
- Untuk tugas pengkodean, kuantisasi Q6 atau Q8 direkomendasikan.
Dengan mengikuti rekomendasi ini, pengguna dapat membuka potensi penuh dari laptop bertenaga Ryzen AI mereka dan mengalami kekuatan transformatif dari model AI canggih.
Platform untuk Masa Depan AI
Intinya, prosesor AMD Ryzen AI MAX+ 395 mewakili lebih dari sekadar peningkatan kinerja. Ini adalah platform yang memberdayakan pengguna untuk mengalami teknologi AI mutakhir dalam faktor bentuk yang portabel dan dapat diakses. Baik itu untuk bermain game, produktivitas, atau menjelajahi dunia AI yang berkembang pesat, prosesor ini bertujuan untuk mendefinisikan ulang apa yang mungkin dilakukan pada laptop tipis dan ringan. Ini membuka pintu ke kemungkinan baru, memberdayakan pengguna untuk berinteraksi dengan model AI dengan cara yang sebelumnya tidak terbayangkan pada perangkat portabel seperti itu. Fokus pada keramahan pengguna, dikombinasikan dengan kekuatan pemrosesan mentah, memposisikan Ryzen AI MAX+ 395 sebagai langkah signifikan menuju masa depan di mana AI terintegrasi secara mulus ke dalam kehidupan kita sehari-hari.