AMD Ryzen AI MAX+ 395: KI-Leistung

Neudefinition der Leistung in dünnen und leichten Laptops

Der Ryzen AI MAX+ 395 basiert auf einer Grundlage modernster Technologie. Das Herzstück bilden die ‘Zen 5’-CPU-Kerne von AMD, die ein robustes und effizientes Verarbeitungs-Backbone bieten. Die wahre Innovation liegt jedoch in der Integration einer XDNA 2 Neural Processing Unit (NPU) mit über 50 AI TOPS (Billionen von Operationen pro Sekunde). Diese dedizierte KI-Engine, kombiniert mit einer integrierten GPU, die auf der RDNA 3.5-Architektur von AMD basiert (mit 40 Compute Units), verändert das Potenzial von Premium-Thin-and-Light-Laptops.

Diese leistungsstarke Kombination ermöglicht beispiellose Speicherkonfigurationen, die von 32 GB bis zu erstaunlichen 128 GB Unified Memory reichen. Ein Schlüsselfeature, AMD Variable Graphics Memory (VGM), ermöglicht es, bis zu 96 GB dieses Unified Memory dynamisch als VRAM zuzuweisen. Diese Flexibilität ist entscheidend für die Bewältigung anspruchsvoller KI-Workloads, die oft erhebliche Speicherressourcen benötigen.

KI für den Verbraucher: Die Macht lokaler LLMs

AMDs Fokus geht über die reine Rechenleistung hinaus; es geht darum, Benutzer in die Lage zu versetzen, das Potenzial von KI in praktischen, alltäglichen Anwendungen zu nutzen. Ein Paradebeispiel ist die Unterstützung für llama.cpp-basierte Anwendungen wie LM Studio. Diese Software fungiert als Gateway und ermöglicht es Benutzern, große Sprachmodelle (LLMs) direkt auf ihren Laptops auszuführen, ohne dass spezielle technische Kenntnisse erforderlich sind. Diese Demokratisierung der KI-Technologie eröffnet Benutzern die Möglichkeit, mit neuen KI-Text- und -Bildmodellen zu experimentieren und diese problemlos einzusetzen.

Benchmarking-Dominanz: Reale Leistungsgewinne

AMDs interne Benchmarks zeichnen ein überzeugendes Bild der Fähigkeiten des Ryzen AI MAX+ 395. Die Tests wurden mit einem ASUS ROG Flow Z13 Laptop durchgeführt, der mit 64 GB Unified Memory und einer integrierten Radeon 8060S GPU ausgestattet war. Die Ergebnisse zeigten einen deutlichen Leistungsvorteil gegenüber Laptops mit Intel Arc 140V-Grafikkarten.

In Bezug auf den Token-Durchsatz – ein Maß dafür, wie schnell ein LLM Text generieren kann – zeigte der Ryzen AI MAX+ 395 eine bis zu 2,2-fache Verbesserung. Diese Tests wurden sorgfältig entwickelt, um die Kompatibilität mit konkurrierenden Laptops sicherzustellen, wobei der Schwerpunkt auf LLMs lag, die innerhalb eines 16-GB-Speicherbedarfs (üblich für Laptops mit 32 GB On-Package-Speicher) betrieben werden konnten.

Dieser Leistungsvorteil war nicht auf bestimmte Modelltypen beschränkt. Er blieb über eine Reihe von LLMs hinweg konstant, darunter:

• Chain-of-Thought-Modelle: wie DeepSeek R1 Distills.
• Standardmodelle: wie Microsoft Phi 4.
• Verschiedene Parametergrößen: was die Vielseitigkeit über verschiedene Modellkomplexitäten hinweg demonstriert.

Reaktionsfähigkeit neu definiert: Time to First Token

Neben dem reinen Durchsatz ist die Reaktionsfähigkeit eines KI-Modells entscheidend für eine reibungslose und interaktive Benutzererfahrung. Hier kommt die Metrik ‘Time to First Token’ ins Spiel, die angibt, wie schnell das Modell nach Erhalt einer Eingabe mit der Generierung von Ausgaben beginnt.

Der Ryzen AI MAX+ 395 zeigte in diesem Bereich noch dramatischere Zuwächse:

• Kleinere Modelle (z. B. Llama 3.2 3b Instruct): Bis zu viermal schneller als die Konkurrenz.
• Größere Modelle mit 7 Milliarden und 8 Milliarden Parametern (z. B. DeepSeek R1 Distill Qwen 7b, DeepSeek R1 Distill Llama 8b): Geschwindigkeitssteigerungen von bis zu 9,1-fach.
• Modelle mit 14 Milliarden Parametern: Der ASUS ROG Flow Z13, angetrieben vom Ryzen AI MAX+ 395, war Berichten zufolge bis zu 12,2-mal schneller als ein Laptop mit einem Intel Core Ultra 258V-Prozessor.

Diese Zahlen unterstreichen einen deutlichen Sprung in den interaktiven Fähigkeiten von KI-Modellen auf Laptops, die nahezu sofortige Reaktionen und eine flüssigere Benutzererfahrung ermöglichen.

Über Text hinaus: Die Entfesselung der Macht multimodaler KI

Die Fähigkeiten des Ryzen AI MAX+ 395 gehen über textbasierte LLMs hinaus. Er zeichnet sich auch durch die Verarbeitung multimodaler Modelle aus, die neben der Textverarbeitung auch Bildverarbeitungsfunktionen umfassen. Diese Modelle können Bilder analysieren und Antworten basierend auf ihrem visuellen Inhalt liefern, was eine neue Reihe von Anwendungen eröffnet.

AMD präsentierte Daten, die die Leistung des Prozessors mit Modellen wie:

• IBM Granite Vision: Bis zu siebenmal schneller in IBM Granite Vision 3.2 3b.
• Google Gemma 3: Bis zu 4,6-mal schneller in Google Gemma 3 4b und bis zu sechsmal schneller in Google Gemma 3 12b.

Bemerkenswert ist, dass der ASUS ROG Flow Z13 mit 64 GB Speicher sogar in der Lage war, das größere Google Gemma 3 27B Vision-Modell auszuführen, was die Fähigkeit der Plattform demonstriert, selbst die anspruchsvollsten multimodalen Workloads zu bewältigen.

Anwendungen in der realen Welt: Von der medizinischen Diagnose bis zur Codegenerierung

Die praktischen Auswirkungen dieser Fortschritte sind weitreichend. Eine Demonstration zeigte das Potenzial von Bildverarbeitungsmodellen in der medizinischen Diagnose, bei der ein Modell ein Standard-CT-Scan-Bild analysierte, Organe identifizierte und eine Diagnose lieferte. Dies unterstreicht das Potenzial von KI, medizinisches Fachpersonal bei schnelleren und genaueren Beurteilungen zu unterstützen.

Eine weitere überzeugende Anwendung liegt in der Codegenerierung. AMD demonstrierte die Fähigkeit, große Sprachmodelle wie DeepSeek R1 Distill Qwen 32b (in 6-Bit-Präzision) auszuführen, um ein einfaches Spiel wie Pong in bemerkenswert kurzer Zeit zu programmieren. Dies zeigt das Potenzial von KI, die Softwareentwicklung zu beschleunigen und Entwickler mit leistungsstarken Codierungsunterstützungstools auszustatten.

Optimierung der Leistung: Das volle Potenzial ausschöpfen

Um eine optimale Leistung mit LLM-Workloads auf Laptops mit Prozessoren der Ryzen AI 300-Serie zu erzielen, gibt AMD spezifische Empfehlungen:

1. Treiberaktualisierung: Stellen Sie sicher, dass Sie den neuesten AMD Software: Adrenalin Edition-Treiber installiert haben. Dieser Treiber ist entscheidend für die Aktivierung der neuesten Funktionen und Optimierungen.
2. Variable Graphics Memory (VGM): Aktivieren Sie VGM und setzen Sie es auf ‘High’. Dies ermöglicht dem System, dem integrierten Grafikchip dynamisch Speicher zuzuweisen, wodurch der Token-Durchsatz gesteigert und die Verwendung größerer KI-Modelle ermöglicht wird.
3. LM Studio-Einstellungen: Wählen Sie in LM Studio manuell Parameter aus und setzen Sie ‘GPU Offload’ auf ‘MAX’. Dadurch wird sichergestellt, dass die GPU vollständig für die KI-Verarbeitung genutzt wird.
4. Quantisierung:
   • Für den allgemeinen Gebrauch empfiehlt AMD die Q4 K M-Quantisierung.
   • Für Codierungsaufgaben wird die Q6- oder Q8-Quantisierung empfohlen.

Durch Befolgen dieser Empfehlungen können Benutzer das volle Potenzial ihrer Ryzen AI-basierten Laptops ausschöpfen und die transformative Kraft fortschrittlicher KI-Modelle erleben.

Eine Plattform für die Zukunft der KI

Im Wesentlichen stellt der AMD Ryzen AI MAX+ 395 Prozessor mehr als nur ein Leistungsupgrade dar. Er ist eine Plattform, die es Benutzern ermöglicht, die Spitze der KI-Technologie in einem tragbaren und zugänglichen Formfaktor zu erleben. Ob für Spiele, Produktivität oder die Erkundung der sich schnell entwickelnden Welt der KI, dieser Prozessor zielt darauf ab, neu zu definieren, was auf dünnen und leichten Laptops möglich ist. Er öffnet Türen zu neuen Möglichkeiten und ermöglicht es Benutzern, mit KI-Modellen auf eine Weise zu interagieren, die auf solch tragbaren Geräten bisher unvorstellbar war. Der Fokus auf Benutzerfreundlichkeit, kombiniert mit reiner Rechenleistung, positioniert den Ryzen AI MAX+ 395 als einen bedeutenden Schritt in Richtung einer Zukunft, in der KI nahtlos in unser tägliches Leben integriert ist.