Perbandingan Langsung: Ryzen AI Max+ 395 vs. Core Ultra 7 258V
Untuk menunjukkan kehebatan Ryzen AI Max+ 395, AMD melakukan serangkaian pengujian, mengadunya dengan Core Ultra 7 258V Intel (dilengkapi dengan grafis Arc 140V). Tolok ukur berfokus pada berbagai model bahasa besar (LLM) dan konfigurasi LLM, termasuk model terkemuka seperti DeepSeek R1 dan Llama.
Catatan tentang Konfigurasi Memori:
Untuk memastikan perbandingan yang adil, ukuran model dibatasi hingga 16GB. Batasan ini diterapkan untuk memperhitungkan keterbatasan memori laptop bertenaga Lunar Lake, yang saat ini tersedia dengan memori maksimum 32GB. Sistem uji yang digunakan adalah:
- Ryzen AI Max+ 395: Asus ROG Flow Z13 dengan memori 64GB.
- Core Ultra 7 258V: Asus Zenbook S14 dengan memori 32GB.
Performa DeepSeek R1: Keunggulan Signifikan
Dalam benchmark DeepSeek R1, chip Ryzen menunjukkan keunggulan yang meyakinkan. Hasilnya, diukur dalam token per detik, adalah sebagai berikut:
- Distill Qwen 1.5b: Hingga 2,1 kali lebih cepat dari rekan Intel-nya.
- Distill Qwen 7b: Hingga 2,2 kali lebih cepat.
- Distill Llama 8b: Hingga 2,1 kali lebih cepat.
- Distill Qwen 14b: Hingga 2,2 kali lebih cepat.
Benchmark Phi 4 dan Llama 3.2: Mempertahankan Dominasi
Ryzen AI Max+ 395 terus mengungguli Core Ultra 7 258V dalam pengujian menggunakan model Phi 4 dan Llama 3.2:
- Phi 4 Mini Instruct 3.8b: Hingga 2,1 kali lebih cepat.
- Phi 4 14b: Hingga 2,2 kali lebih cepat.
- Llama 3.2 3b Instruct: Hingga 2,1 kali lebih cepat.
Waktu ke Token Pertama: Metrik Kunci
AMD juga berfokus pada metrik ‘waktu ke token pertama’, indikator penting dari responsivitas dalam aplikasi AI. Dalam benchmark ini, Ryzen AI Max+ 395 menunjukkan keunggulan yang lebih substansial:
- DeepSeek R1 Distill Qwen 14b: Hingga 12,2 kali lebih cepat.
- Bahkan dalam skenario di mana keunggulan kinerja chip Zen 5 paling tidak terlihat (Phi 4 Mini Instruct 3.8b dan Llama 3.2 3b Instruct), chip AMD masih mempertahankan keunggulan kecepatan 4x dibandingkan Core Ultra 7 258V.
Model Visi AI: Lebih Memperluas Keunggulan
Dominasi kinerja Ryzen AI Max+ 395 meluas ke model visi AI, sekali lagi menggunakan pendekatan benchmarking ‘waktu ke token pertama’:
- IBM Granite Vision 3.2 2B: Hingga 7 kali lebih cepat dari 258V.
- Google Gemma 3.4b: Hingga 4,6 kali lebih cepat.
- Google Gemma 3 12b: Hingga 6 kali lebih cepat.
Keunggulan Arsitektur: Sumber Performa Unggul
Angka kinerja yang mengesankan yang ditunjukkan oleh Ryzen AI Max+ 395 dari AMD sebagian besar disebabkan oleh beberapa keunggulan arsitektur utama:
- Grafis Terintegrasi yang Kuat: Chip grafis terintegrasi dalam CPU Ryzen AI Max menawarkan 40 unit komputasi (CU) RDNA 3.5, memberikan kinerja yang menyaingi solusi grafis diskrit.
- Jumlah Inti yang Lebih Tinggi: Ryzen AI Max+ 395 memiliki delapan inti CPU lebih banyak daripada Core Ultra 7 258V, berkontribusi pada kemampuan pemrosesan yang ditingkatkan.
- TDP yang Dapat Dikonfigurasi: Chip Ryzen memiliki TDP (Thermal Design Power) yang dapat dikonfigurasi secara signifikan lebih tinggi, dinilai hingga 120W, memungkinkan ruang kinerja yang lebih besar.
Pertimbangan Konsumsi Daya:
Penting untuk diketahui bahwa Ryzen AI Max+ 395 mengkonsumsi daya yang jauh lebih besar daripada Core Ultra 7 258V, yang memiliki daya turbo maksimum 37W. Namun, terlepas dari perbedaan ini, kedua chip menargetkan segmen pasar yang sama dan dirancang untuk PC laptop tipis dan ringan.
Melihat ke Depan: Persaingan dengan NVIDIA RTX 50-Series
Lanskap komputasi seluler terus berkembang, dan tantangan berikutnya untuk APU seluler baru AMD kemungkinan akan datang dari GPU seluler RTX 50-series NVIDIA. Sementara laporan menunjukkan potensi masalah rantai pasokan dan penundaan peluncuran GPU ini di laptop gaming seri RTX 50 yang akan datang, mereka pasti akan mewakili persaingan utama AMD dalam hal kinerja mentah, terlepas dari perbedaan faktor bentuk.
Indikasi Awal Terhadap GPU Diskrit:
Menariknya, AMD telah membuat klaim tentang kinerja AI superior Ryzen AI Max+ 395 dibandingkan dengan GPU laptop RTX 4090 NVIDIA, menunjukkan sikap kompetitif yang kuat bahkan terhadap solusi grafis diskrit. Ini adalah pernyataan awal, dan salah satu yang pasti akan membuat mereka yang menunggu ulasan independen sangat bersemangat.
Menyelami Lebih Dalam Hasil Benchmark
Data benchmark yang diberikan memberikan gambaran yang jelas tentang fokus AMD pada kinerja AI. Pilihan model dan konfigurasi menyoroti pentingnya pemrosesan AI yang efisien dan responsif dalam tugas komputasi modern.
Model Bahasa Besar (LLM):
Penggunaan DeepSeek R1 dan Llama, dua LLM terkemuka, menunjukkan kemampuan Ryzen AI Max+ 395 untuk menangani tugas pemrosesan bahasa alami yang kompleks. Metrik ‘token per detik’ adalah ukuran standar kinerja di area ini, yang menunjukkan seberapa cepat prosesor dapat menghasilkan teks atau memproses input berbasis bahasa.
Distilasi:
Dimasukkannya versi ‘Distill’ dari model (misalnya, Distill Qwen 1.5b) menunjukkan fokus pada efisiensi model. Distilasi adalah teknik yang digunakan untuk membuat versi model yang lebih besar menjadi lebih kecil dan lebih cepat dengan tetap mempertahankan sebagian besar akurasinya. Ini sangat relevan untuk perangkat seluler di mana konsumsi daya dan batasan memori sangat penting.
Phi 4 dan Llama 3.2:
Penambahan model Phi 4 dan Llama 3.2 memberikan perspektif yang lebih luas tentang kinerja chip di berbagai arsitektur AI dan ukuran model.
Time to First Token (TTFT):
Penekanan pada ‘time to the first token’ sangat penting. TTFT mengukur latensi antara input pengguna dan respons awal dari model AI. TTFT yang lebih rendah berarti pengalaman pengguna yang lebih responsif dan interaktif, yang sangat penting untuk aplikasi seperti chatbot, terjemahan waktu nyata, dan penyelesaian kode.
Model Visi AI:
Dimasukkannya model visi AI (IBM Granite Vision dan Google Gemma) menunjukkan keserbagunaan Ryzen AI Max+ 395. Model ini digunakan untuk tugas-tugas seperti pengenalan gambar, deteksi objek, dan analisis video. Performa yang kuat dalam benchmark ini menunjukkan kesesuaian chip untuk aplikasi di luar pemrosesan bahasa.
Pentingnya Keunggulan Arsitektur
Keputusan arsitektur AMD memainkan peran penting dalam perbedaan kinerja yang diamati.
Grafis Terintegrasi (RDNA 3.5):
Unit grafis terintegrasi yang kuat adalah pembeda utama. Tidak seperti solusi grafis terintegrasi tradisional, yang sering kesulitan dengan beban kerja yang berat, arsitektur RDNA 3.5 memberikan peningkatan kinerja yang signifikan, memungkinkan Ryzen AI Max+ 395 untuk menangani tugas-tugas AI dengan lebih efektif. 40 CU mewakili kapasitas komputasi yang substansial.
Jumlah Inti:
Jumlah inti yang lebih tinggi (delapan inti lebih banyak daripada Core Ultra 7 258V) memberikan keuntungan umum dalam beban kerja multithreaded. Sementara pemrosesan AI seringkali sangat bergantung pada GPU, CPU masih berperan dalam mengelola tugas dan menangani aspek-aspek tertentu dari komputasi.
TDP yang Dapat Dikonfigurasi:
TDP yang lebih tinggi memungkinkan fleksibilitas yang lebih besar dalam manajemen daya. Meskipun itu berarti konsumsi daya yang lebih tinggi, itu juga memungkinkan chip untuk beroperasi pada kecepatan clock yang lebih tinggi dan mempertahankan kinerja untuk periode yang lebih lama, terutama dalam beban kerja AI yang menuntut. Kemampuan untuk mengkonfigurasi TDP hingga 120W memberikan keuntungan yang signifikan dibandingkan daya turbo maksimum 37W yang lebih terbatas dari Core Ultra 7 258V. Ini adalah faktor penting dalam mencapai keunggulan kinerja yang diamati.
Lanskap Komputasi Seluler: Medan Pertempuran yang Berubah
Persaingan antara AMD dan Intel di ruang seluler telah meningkat dalam beberapa tahun terakhir, dengan kedua perusahaan mendorong batas kinerja dan efisiensi. Pengenalan Lunar Lake mewakili fokus Intel pada efisiensi daya, sementara Ryzen AI Max+ 395 AMD jelas memprioritaskan kinerja, terutama dalam beban kerja AI.
Pertempuran yang akan datang dengan GPU seluler RTX 50-series NVIDIA akan menjadi ujian yang signifikan bagi AMD. Sementara NVIDIA secara tradisional mendominasi pasar grafis seluler kelas atas, kemajuan AMD dalam grafis terintegrasi dan kemampuan pemrosesan AI memposisikannya sebagai pesaing yang kuat. Masalah rantai pasokan yang dilaporkan yang dihadapi NVIDIA berpotensi memberi AMD keuntungan dalam hal ketersediaan dan penetrasi pasar.
Klaim kinerja AI yang superior terhadap GPU laptop RTX 4090 sangat berani, tetapi jika terbukti, mereka akan mewakili perubahan signifikan dalam lanskap kompetitif. Ini akan menunjukkan bahwa solusi terintegrasi AMD dapat bersaing dengan, dan berpotensi mengungguli, solusi grafis diskrit dalam aplikasi yang berfokus pada AI tertentu. Ini akan menjadi pencapaian besar dan dapat memiliki implikasi yang signifikan bagi masa depan komputasi seluler. Penekanan pada kinerja AI merupakan indikasi yang jelas ke arah mana industri ini menuju. Seiring AI menjadi semakin terintegrasi ke dalam aplikasi sehari-hari, permintaan akan prosesor yang dapat menangani beban kerja ini secara efisien dan efektif akan terus meningkat.