Entfesselung des KI-Potenzials mit LM Studio
Der Ryzen AI Max+ 395 glänzt besonders bei anspruchsvollen KI-Workloads für Endanwender, was durch seine außergewöhnliche Leistung in LM Studio, einer auf llama.cpp basierenden Anwendung, veranschaulicht wird. LM Studio hat sich als die führende Plattform für clientseitige Large Language Model (LLM)-Operationen etabliert und ermöglicht es Benutzern, die neuesten Sprachmodelle lokal auszuführen, ohne dass spezielle technische Kenntnisse erforderlich sind. Diese Benutzerfreundlichkeit macht die Bereitstellung neuer KI-Text- und -Bildmodelle vom ersten Tag an bemerkenswert einfach.
Die ‘Strix Halo’-Plattform mit den Prozessoren der AMD Ryzen AI MAX+ Serie baut die Leistungsführerschaft von AMD in der LM Studio-Umgebung deutlich aus.
Viele konkurrierende Prozessoren in diesem Segment sind auf 32 GB On-Package-Speicher beschränkt. Während diese Kapazität im Allgemeinen ausreicht, um große Sprachmodelle bis zu einer Größe von etwa 16 GB auszuführen, übertrifft der Ryzen AI MAX+ 395 diese Grenzen und bietet einen erheblichen Vorteil bei der Verarbeitung größerer und komplexerer Modelle.
Benchmarking-Dominanz: Text- und Vision-Sprachmodelle
Strenge Benchmarks in LM Studio zeigen die schiere Leistung des AMD Ryzen AI MAX+ 395. In Verbindung mit einem Gerät wie dem ASUS ROG Flow Z13 erreicht der Prozessor einen bis zu 2,2-mal höheren Token-Durchsatz als der Intel Arc 140V. Dieser bemerkenswerte Leistungsschub ist kein Einzelfall; er bleibt über verschiedene Modelltypen und Parametergrößen hinweg auffallend konstant.
Bei der entscheidenden Metrik der Time-to-First-Token zeigt der AMD Ryzen AI MAX+ 395 Prozessor noch beeindruckendere Zuwächse. Er erreicht Geschwindigkeiten, die bis zu 4-mal schneller sind als die Konkurrenz, wenn mit kleineren Modellen wie Llama 3.2 3b Instruct gearbeitet wird.
Der Leistungsvorteil steigt dramatisch mit größeren Modellen. Bei der Verarbeitung von Modellen mit 7 Milliarden und 8 Milliarden Parametern, wie DeepSeek R1 Distill Qwen 7b und DeepSeek R1 Distill Llama 8b, steigt der Ryzen AI Max+ 395 auf erstaunliche 9,1-mal schneller. Und mit 14-Milliarden-Parameter-Modellen erreicht das ASUS ROG Flow Z13, angetrieben vom Ryzen AI Max+ 395, eine beispiellose 12,2-mal schnellere Leistung als ein Laptop, der mit dem Intel Core Ultra 258V ausgestattet ist – ein Unterschied von mehr als einer Größenordnung!
Die Korrelation ist klar: Je größer das LLM, desto ausgeprägter ist der Geschwindigkeitsvorteil des AMD Ryzen AI Max+ 395 Prozessors bei der Beantwortung von Benutzeranfragen. Ob bei interaktiven Gesprächen mit dem Modell oder bei der Zuweisung komplexer Zusammenfassungsaufgaben, die Tausende von Token umfassen, die AMD-betriebene Maschine liefert deutlich schnellere Reaktionszeiten. Dieser Vorteil skaliert proportional mit der Länge der Eingabeaufforderung, was bedeutet, dass der Leistungsvorteil umso größer wird, je anspruchsvoller die Aufgabe ist.
Multi-Modal AI: Vision-Fähigkeiten
Die Entwicklung der KI bewegt sich rasant über reine Text-LLMs hinaus. Zunehmend entstehen hochleistungsfähige multimodale Modelle, die Vision-Adapter und visuelle Argumentationsfähigkeiten beinhalten. Das IBM Granite Vision und die kürzlich eingeführte Google Gemma 3-Modellfamilie sind Paradebeispiele, die beide fortschrittliche Vision-Fähigkeiten bieten, die nahtlos in AMD AI PCs der nächsten Generation integriert sind. Diese Modelle zeigen eine außergewöhnliche Leistung auf Systemen, die mit dem AMD Ryzen AI MAX+ 395 Prozessor betrieben werden.
Im Kontext von Vision-Modellen stellt die Time-to-First-Token-Metrik effektiv die Zeit dar, die das Modell benötigt, um ein bereitgestelltes Bild zu analysieren.
Auch hier zeigt der Ryzen AI Max+ 395 Prozessor eine überragende Führung. Er ist bis zu 7-mal schneller in IBM Granite Vision 3.2 3b, bis zu 4,6-mal schneller in Google Gemma 3 4b und bis zu 6-mal schneller in Google Gemma 3 12b. Das ASUS ROG Flow Z13, ausgestattet mit einer 64-GB-Speicheroption, kann sogar mühelos das Google Gemma 3 27B Vision-Modell verarbeiten, das derzeit als das State-of-the-Art (SOTA)-Vision-Modell anerkannt ist.
Eine weitere überzeugende Demonstration ist die Ausführung des DeepSeek R1 Distill Qwen 32b in 6-Bit-Präzision. Diese Konfiguration ermöglicht es Benutzern, ein klassisches Spiel in bemerkenswert kurzer Zeit, etwa 5 Minuten, zu programmieren.
Optimierung der Einstellungen für LLM-Leistung
Um das volle Potenzial des AMD Ryzen AI MAX+ 395 Prozessors für LLM-Workloads auszuschöpfen, ist es wichtig sicherzustellen, dass Ihr System den neuesten AMD Software: Adrenalin Edition Treiber verwendet. AMD Laptops mit AMD Ryzen AI 300 Serie Prozessoren verfügen über Variable Graphics Memory (VGM). AMD empfiehlt dringend, VGM für alle LLM-Workloads zu aktivieren, um den Token-Durchsatz zu erhöhen und die Ausführung größerer Modelle zu ermöglichen. Eine ‘High’ VGM-Einstellung wird für optimale Leistung empfohlen. Die VGM-Optionen sind über die Registerkarte Performance > Tuning in AMD Software: Adrenalin Edition zugänglich.
Beim Ausführen von LLMs ist es außerdem wichtig, die Option ‘manually select parameters’ zu aktivieren und die GPU Offload-Einstellung auf ‘MAX’ zu setzen. AMD empfiehlt die Verwendung der Q4 K M-Quantisierung für den täglichen Gebrauch und der Q6- oder Q8-Quantisierung für Programmieraufgaben.
Die Zukunft der KI für unterwegs
Das Erleben von KI lokal auf Laptops, die mit dem AMD Ryzen AI MAX+ 395 Prozessor betrieben werden, bietet Power-Usern eine einzigartige Gelegenheit, mit hochmodernen KI-Modellen zu interagieren und gleichzeitig die Portabilität und Vielseitigkeit eines dünnen und leichten Formfaktors beizubehalten. Diese Kombination aus Leistung und Portabilität macht diese Geräte ideal für Spiele und Produktivität und setzt einen neuen Standard für mobiles Computing. Der Ryzen AI MAX +395 ist nicht nur ein Prozessor; er ist ein Tor zu einer neuen Ära KI-gestützter Erfahrungen, die leicht verfügbar und außergewöhnlich mobil sind. Er ermöglicht die einfache Durchführung komplexer Operationen und setzt einen neuen Standard für das, was Benutzer erwarten sollten.
AMD’s Einführung des Ryzen AI MAX+ 395 Prozessors markiert einen Paradigmenwechsel in den Fähigkeiten von dünnen und leichten Laptops. Dieser neue Prozessor liefert einen beispiellosen Leistungsschub, der speziell auf den aufstrebenden Bereich der Anwendungen der künstlichen Intelligenz zugeschnitten ist. Durch die Nutzung modernster ‘Zen 5’ CPU-Kerne, einer leistungsstarken 50+ Peak AI TOPS XDNA 2 NPU und einer bemerkenswert robusten integrierten GPU, die von 40 AMD RDNA 3.5 Compute Units angetrieben wird, hebt der Ryzen AI MAX+ 395 den Premium-Formfaktor für dünne und leichte Geräte auf ein noch nie dagewesenes Niveau. Darüber hinaus ist dieser Prozessor mit Unified-Memory-Optionen von 32 GB bis zu erstaunlichen 128 GB erhältlich, mit der Flexibilität, bis zu 96 GB als VRAM über AMD’s innovative Variable Graphics Memory-Technologie zuzuweisen.
Der AMD Ryzen AI MAX+ 395 ist mehr als nur ein Prozessor; er ist ein Wegbereiter für eine neue Ära KI-gestützter Erfahrungen. Er kombiniert hohe Leistung mit Portabilität und setzt damit neue Maßstäbe im mobilen Computing. Komplexe Aufgaben lassen sich mühelos bewältigen, und die Erwartungen der Nutzer an moderne Laptops werden neu definiert. Die Verfügbarkeit und Mobilität dieser Technologie eröffnen völlig neue Möglichkeiten für den Einsatz von KI im Alltag.