Kuasa Inovasi
Ryzen AI MAX+ 395 dibina atas asas teknologi canggih. Ia memanfaatkan teras CPU ‘Zen 5’, NPU XDNA 2 yang berkuasa dengan lebih 50 AI TOPS puncak, dan GPU bersepadu yang besar didorong oleh 40 Unit Kira AMD RDNA 3.5. Gabungan komponen berprestasi tinggi ini membolehkan tahap kuasa pemprosesan yang belum pernah terjadi sebelumnya dalam kekangan reka bentuk yang nipis dan ringan. Ryzen AI Max+ 395 hadir dengan konfigurasi antara 32 GB hingga 128 GB memori bersatu. Ciri utama ialah Variable Graphics Memory AMD, yang boleh menukar sejumlah besar (sehingga 96GB) memori bersatu itu kepada VRAM.
AI Tempatan: Masa Depan Kini
Salah satu aspek yang paling menarik bagi Ryzen AI MAX+ 395 ialah keupayaannya untuk mengendalikan beban kerja AI pengguna yang mencabar dengan kecekapan yang luar biasa. Contoh utama ialah prestasinya dalam LM Studio, aplikasi mesra pengguna yang membolehkan sesiapa sahaja menjalankan model bahasa terkini secara tempatan, tanpa memerlukan kepakaran teknikal khusus. Ini membuka dunia kemungkinan untuk pengguna berinteraksi dengan model teks dan penglihatan AI terkini secara langsung pada komputer riba mereka. Dengan platform ‘Strix Halo’, AMD mengukuhkan kepimpinannya dalam domain ini, memperkasakan pengguna untuk mengalami AI dengan cara yang sebelum ini tidak dapat dibayangkan dalam peranti yang begitu padat.
Memori: Memecahkan Kesesakan
Banyak pemproses pesaing dalam kategori nipis dan ringan dihadkan oleh kapasiti memori pada pakej mereka, selalunya maksimum pada 32GB. Walaupun ini mungkin mencukupi untuk menjalankan beberapa model bahasa besar (LLM), ia mewujudkan kesesakan yang ketara untuk aplikasi AI yang lebih mencabar. Walau bagaimanapun, Ryzen AI MAX+ 395, menembusi halangan ini.
Penanda Aras Kecemerlangan: Prestasi Dunia Sebenar
Untuk benar-benar memahami kelebihan prestasi Ryzen AI MAX+ 395, pertimbangkan penanda aras dunia sebenar menggunakan ASUS ROG Flow Z13 yang dilengkapi dengan 64GB memori bersatu. Untuk memastikan perbandingan yang adil dengan pesaing yang biasanya menawarkan komputer riba 32GB, saiz LLM dihadkan kepada model yang muat dalam jejak 16GB.
Keputusannya amat memberangsangkan:
Token Throughput: ASUS ROG Flow Z13, dikuasakan oleh Ryzen AI MAX+ 395, mencapai sehingga 2.2 kali ganda token throughput komputer riba yang menampilkan Intel Arc 140V. Peningkatan prestasi ini kekal konsisten merentas pelbagai jenis model dan saiz parameter.
Time to First Token: Metrik ini penting untuk mengukur responsif model AI. Ryzen AI MAX+ 395 menunjukkan kelebihan yang ketara, sehingga 4 kali lebih pantas daripada pesaing dalam model yang lebih kecil seperti Llama 3.2 3b Instruct.
Penskalaan dengan Saiz Model: Jurang prestasi semakin melebar apabila saiz LLM meningkat. Dengan model 7 bilion dan 8 bilion parameter, seperti DeepSeek R1 Distill Qwen 7b dan DeepSeek R1 Distill Llama 8b, Ryzen AI MAX+ 395 adalah sehingga 9.1 kali lebih pantas. Apabila menangani model 14 bilion parameter, ASUS ROG Flow Z13 adalah 12.2 kali lebih pantas daripada komputer riba berkuasa Intel Core Ultra 258V – perbezaan lebih daripada satu magnitud.
Ini menunjukkan trend yang jelas: semakin besar LLM, semakin ketara kelebihan prestasi Ryzen AI MAX+ 395. Sama ada terlibat dalam pertukaran perbualan dengan model atau memberikan tugasan ringkasan kompleks yang melibatkan beribu-ribu token, mesin berkuasa AMD menyediakan pengalaman yang jauh lebih pantas dan lebih responsif. Kelebihannya adalah berkadar terus dengan panjang prompt, bermakna semakin mencabar tugas itu, semakin besar manfaatnya.
Melangkaui Teks: Merangkul AI Berbilang Mod
Evolusi AI bergerak melangkaui LLM teks sahaja. Kebangkitan model berbilang mod yang sangat berkebolehan, menggabungkan penyesuai penglihatan dan keupayaan penaakulan visual, sedang mengubah landskap. Contohnya termasuk IBM Granite Vision dan keluarga model Google Gemma 3 yang baru dilancarkan, kedua-duanya menawarkan keupayaan penglihatan lanjutan kepada generasi seterusnya AMD AI PC. Model ini berjalan dengan sangat baik pada pemproses Ryzen AI MAX+ 395.
Apabila bekerja dengan model penglihatan, metrik ‘time to first token’ secara berkesan mewakili masa yang diambil untuk model menganalisis imej input. Ryzen AI MAX+ 395 memberikan peningkatan prestasi yang mengagumkan dalam bidang ini:
- Sehingga 7 kali lebih pantas dalam IBM Granite Vision 3.2 3b.
- Sehingga 4.6 kali lebih pantas dalam Google Gemma 3 4b.
- Sehingga 6x lebih pantas dalam Google Gemma 3 12b.
Tambahan pula, pilihan memori 64GB ASUS ROG Flow Z13 membolehkannya menjalankan model Google Gemma 3 27B Vision dengan mudah, yang secara meluas dianggap sebagai model penglihatan terkini (SOTA).
Aplikasi Praktikal: Pengekodan dengan AI
Satu lagi contoh yang menarik ialah menjalankan model DeepSeek R1 Distill Qwen 32b dalam ketepatan 6-bit. Konfigurasi ini membolehkan pengguna mengekod permainan klasik dalam jangka masa yang sangat singkat, kira-kira 5 minit, mempamerkan potensi praktikal pembangunan berkuasa AI.
Mengoptimumkan untuk Prestasi LLM
Untuk memaksimumkan prestasi LLM pada pemproses siri AMD Ryzen AI 300, beberapa langkah utama disyorkan:
Kemas Kini Pemacu: Pastikan anda menggunakan pemacu AMD Software: Adrenalin Edition terkini.
Variable Graphics Memory (VGM): Komputer riba AMD yang dilengkapi dengan pemproses ini menampilkan VGM. Mengaktifkan VGM, khususnya menetapkannya kepada ‘High’, amat disyorkan untuk beban kerja LLM. Ini membantu meningkatkan token throughput dan membolehkan model yang lebih besar berjalan dengan cekap. Pilihan VGM boleh diakses melalui tab Performance > Tuning dalam AMD Software: Adrenalin Edition.
Pemilihan Parameter Manual: Apabila menjalankan LLM, pilih ‘manually select parameters’ dan tetapkan tetapan GPU Offload kepada ‘MAX’.
Kuantisasi: AMD mengesyorkan menggunakan kuantisasi Q4 K M untuk kegunaan harian dan Q6 atau Q8 untuk tugas pengekodan.
Era Baharu AI Mudah Alih
Pemproses AMD Ryzen AI MAX+ 395 mewakili anjakan paradigma dalam keupayaan komputer riba nipis dan ringan. Dengan menggabungkan perkakasan canggih dengan pengoptimuman perisian pintar, AMD telah mencipta platform yang memperkasakan pengguna untuk mengalami model AI terkini dalam cara yang mudah alih, berkuasa dan mesra pengguna. Pemproses ini bukan sahaja mengenai kelajuan yang lebih pantas; ia adalah mengenai membolehkan era baharu pengalaman AI mudah alih, di mana pengguna boleh berinteraksi dengan lancar dengan model AI lanjutan untuk pelbagai tugas, daripada usaha kreatif kepada penyelesaian masalah yang kompleks. Ryzen AI MAX+ 395 benar-benar mentakrifkan semula perkara yang mungkin dalam faktor bentuk nipis dan ringan, mengaburkan garis antara mudah alih dan pengkomputeran berprestasi tinggi. Keupayaan untuk menjalankan model AI berkuasa secara tempatan, yang pernah terhad kepada sistem desktop atau perkhidmatan awan, membuka peluang yang belum pernah terjadi sebelumnya untuk inovasi dan produktiviti semasa dalam perjalanan. Sama ada permainan, penciptaan kandungan atau produktiviti harian, cip ini adalah pengubah permainan.