புதுமையின் சக்தி மையம்
Ryzen AI MAX+ 395 செயலியானது அதிநவீன தொழில்நுட்பத்தின் அடிப்படையில் கட்டமைக்கப்பட்டுள்ளது. இது ‘Zen 5’ CPU கோர்கள், 50-க்கும் மேற்பட்ட உச்ச AI TOPS-ஐ பெருமைப்படுத்தும் ஒரு சக்திவாய்ந்த XDNA 2 NPU மற்றும் 40 AMD RDNA 3.5 கணக்கீட்டு அலகுகளால் இயக்கப்படும் ஒரு பெரிய ஒருங்கிணைந்த GPU ஆகியவற்றைப் பயன்படுத்துகிறது. உயர்-செயல்திறன் கொண்ட கூறுகளின் இந்த கலவையானது, மெல்லிய மற்றும் இலகுரக வடிவமைப்பின் கட்டுப்பாடுகளுக்குள் முன்னோடியில்லாத அளவிலான செயலாக்க சக்தியை அனுமதிக்கிறது. Ryzen AI Max+ 395 செயலியானது 32 GB முதல் 128 GB வரையிலான ஒருங்கிணைந்த நினைவக உள்ளமைவுகளுடன் வருகிறது. ஒரு முக்கிய அம்சம் AMD-யின் Variable Graphics Memory ஆகும், இது அந்த ஒருங்கிணைந்த நினைவகத்தின் பெரும்பகுதியை (96GB வரை) VRAM ஆக மாற்ற முடியும்.
லோக்கல் AI: எதிர்காலம் இப்போது
Ryzen AI MAX+ 395 செயலியின் மிகவும் கவர்ச்சிகரமான அம்சங்களில் ஒன்று, அதிக தேவை கொண்ட நுகர்வோர் AI பணிச்சுமைகளை விதிவிலக்கான செயல்திறனுடன் கையாளும் திறன் ஆகும். இதற்கு ஒரு சிறந்த உதாரணம் LM Studio-வில் அதன் செயல்திறன் ஆகும், இது ஒரு பயனர் நட்பு பயன்பாடாகும், இது சிறப்பு தொழில்நுட்ப நிபுணத்துவம் தேவையில்லாமல், சமீபத்திய மொழி மாதிரிகளை உள்நாட்டில் இயக்க யாரையும் அனுமதிக்கிறது. இது பயனர்கள் தங்கள் லேப்டாப்களில் நேரடியாக அதிநவீன AI உரை மற்றும் விஷன் மாடல்களுடன் தொடர்பு கொள்ள வாய்ப்புகளின் உலகத்தைத் திறக்கிறது. ‘Strix Halo’ இயங்குதளத்தின் மூலம், AMD இந்த டொமைனில் தனது தலைமையை பலப்படுத்துகிறது, பயனர்கள் AI-ஐ அனுபவிக்க உதவுகிறது, இது முன்பு இவ்வளவு சிறிய சாதனத்தில் நினைத்துக்கூட பார்க்க முடியாத வகையில் இருந்தது.
நினைவகம்: தடையை உடைத்தல்
மெல்லிய மற்றும் இலகுரக பிரிவில் உள்ள பல போட்டியிடும் செயலிகள் அவற்றின் ஆன்-பேக்கேஜ் நினைவக திறன் மூலம் வரையறுக்கப்படுகின்றன, பெரும்பாலும் 32GB-ல் அதிகபட்சமாக இருக்கும். சில பெரிய மொழி மாதிரிகளை (LLMs) இயக்குவதற்கு இது போதுமானதாக இருந்தாலும், அதிக தேவைப்படும் AI பயன்பாடுகளுக்கு இது ஒரு குறிப்பிடத்தக்க தடையை உருவாக்குகிறது. இருப்பினும், Ryzen AI MAX+ 395 செயலி, இந்த தடையை உடைக்கிறது.
பெஞ்ச்மார்க்கிங் எக்ஸலன்ஸ்: ரியல் வேர்ல்ட் செயல்திறன்
Ryzen AI MAX+ 395 செயலியின் செயல்திறன் நன்மையை உண்மையிலேயே புரிந்து கொள்ள, 64GB ஒருங்கிணைந்த நினைவகத்துடன் கூடிய ASUS ROG Flow Z13 ஐப் பயன்படுத்தி உண்மையான உலக அளவுகோல்களைக் கவனியுங்கள். பொதுவாக 32GB லேப்டாப்களை வழங்கும் போட்டியாளர்களுடன் நியாயமான ஒப்பீட்டை உறுதி செய்வதற்காக, LLM அளவு 16GB க்குள் பொருந்தக்கூடிய மாடல்களுக்கு கட்டுப்படுத்தப்பட்டது.
முடிவுகள் வியக்க வைக்கின்றன:
டோக்கன் த்ரூபுட்: Ryzen AI MAX+ 395 செயலி மூலம் இயக்கப்படும் ASUS ROG Flow Z13, Intel Arc 140V கொண்ட லேப்டாப்பை விட 2.2 மடங்கு டோக்கன் த்ரூபுட்டை அடைந்தது. இந்த செயல்திறன் மேம்பாடு பல்வேறு மாதிரி வகைகள் மற்றும் அளவுரு அளவுகள் முழுவதும் குறிப்பிடத்தக்க வகையில் சீராக இருந்தது.
முதல் டோக்கனுக்கான நேரம்: AI மாதிரியின் பதிலளிக்கும் தன்மையை அளவிடுவதற்கு இந்த மெட்ரிக் முக்கியமானது. Ryzen AI MAX+ 395 செயலி ஒரு குறிப்பிடத்தக்க நன்மையை நிரூபித்தது, Llama 3.2 3b Instruct போன்ற சிறிய மாடல்களில் போட்டியை விட 4 மடங்கு வேகமாக இருந்தது.
மாடல் அளவுடன் அளவிடுதல்: LLM-இன் அளவு அதிகரிக்கும்போது செயல்திறன் இடைவெளி மேலும் விரிவடைகிறது. DeepSeek R1 Distill Qwen 7b மற்றும் DeepSeek R1 Distill Llama 8b போன்ற 7 பில்லியன் மற்றும் 8 பில்லியன் அளவுரு மாதிரிகளுடன், Ryzen AI MAX+ 395 செயலி 9.1 மடங்கு வேகமாக இருந்தது. 14 பில்லியன் அளவுரு மாதிரிகளைக் கையாளும் போது, ASUS ROG Flow Z13 ஆனது Intel Core Ultra 258V மூலம் இயங்கும் லேப்டாப்பை விட வியக்கத்தக்க வகையில் 12.2 மடங்கு வேகமாக இருந்தது - இது ஒரு வரிசைக்கு அதிகமான வித்தியாசம்.
இது ஒரு தெளிவான போக்கைக் காட்டுகிறது: LLM எவ்வளவு பெரியதாக இருக்கிறதோ, அவ்வளவு அதிகமாக Ryzen AI MAX+ 395 செயலியின் செயல்திறன் நன்மை உச்சரிக்கப்படுகிறது. மாடலுடன் உரையாடலில் ஈடுபடுவது அல்லது ஆயிரக்கணக்கான டோக்கன்களை உள்ளடக்கிய சிக்கலான சுருக்கப் பணிகளை வழங்குவது என எதுவாக இருந்தாலும், AMD-இயங்கும் இயந்திரம் கணிசமாக வேகமான மற்றும் பதிலளிக்கக்கூடிய அனுபவத்தை வழங்குகிறது. நன்மை ப்ராம்ப்ட் நீளத்திற்கு நேரடியாக விகிதாசாரமாகும், அதாவது பணி எவ்வளவு அதிகமாக இருக்கிறதோ, அவ்வளவு நன்மை அதிகமாகும்.
உரைக்கு அப்பால்: மல்டி-மாடல் AI-ஐ தழுவுதல்
AI-யின் பரிணாமம் உரை-மட்டும் LLM-களைத் தாண்டியுள்ளது. விஷன் அடாப்டர்கள் மற்றும் விஷுவல் ரீசனிங் திறன்களை உள்ளடக்கிய, அதிக திறன் கொண்ட மல்டி-மாடல் மாடல்களின் எழுச்சி நிலப்பரப்பை மாற்றுகிறது. IBM Granite Vision மற்றும் சமீபத்தில் தொடங்கப்பட்ட Google Gemma 3 குடும்ப மாடல்கள் ஆகியவை எடுத்துக்காட்டுகளாகும், இவை இரண்டும் அடுத்த தலைமுறை AMD AI PC-களுக்கு மேம்பட்ட விஷன் திறன்களை வழங்குகின்றன. இந்த மாடல்கள் Ryzen AI MAX+ 395 செயலியில் விதிவிலக்காக சிறப்பாக இயங்குகின்றன.
விஷன் மாடல்களுடன் பணிபுரியும் போது, ‘முதல் டோக்கனுக்கான நேரம்’ மெட்ரிக், மாதிரி உள்ளீட்டு படத்தை பகுப்பாய்வு செய்ய எடுக்கும் நேரத்தை திறம்பட குறிக்கிறது. Ryzen AI MAX+ 395 செயலி இந்த பகுதியில் ஈர்க்கக்கூடிய செயல்திறன் மேம்பாடுகளை வழங்குகிறது:
- IBM Granite Vision 3.2 3b-யில் 7 மடங்கு வரை வேகமாக.
- Google Gemma 3 4b-யில் 4.6 மடங்கு வரை வேகமாக.
- Google Gemma 3 12b-யில் 6 மடங்கு வரை வேகமாக.
மேலும், ASUS ROG Flow Z13-இன் 64GB நினைவக விருப்பம், தற்போதைய அதிநவீன (SOTA) விஷன் மாடலாக பரவலாகக் கருதப்படும் Google Gemma 3 27B விஷன் மாடலை சிரமமின்றி இயக்க அனுமதிக்கிறது.
நடைமுறை பயன்பாடுகள்: AI உடன் கோடிங்
மற்றொரு கட்டாய உதாரணம் DeepSeek R1 Distill Qwen 32b மாடலை 6-பிட் துல்லியத்தில் இயக்குவது. இந்த உள்ளமைவு பயனர்கள் ஒரு உன்னதமான கேமை மிகக் குறுகிய காலத்திற்குள், தோராயமாக 5 நிமிடங்களில் குறியிட உதவுகிறது, இது AI-இயங்கும் வளர்ச்சியின் நடைமுறை திறனைக் காட்டுகிறது.
LLM செயல்திறனை மேம்படுத்துதல்
AMD Ryzen AI 300 தொடர் செயலிகளில் LLM-களின் செயல்திறனை அதிகரிக்க, பல முக்கிய படிகள் பரிந்துரைக்கப்படுகின்றன:
டிரைவர் புதுப்பிப்புகள்: நீங்கள் சமீபத்திய AMD Software: Adrenalin Edition டிரைவரைப் பயன்படுத்துகிறீர்கள் என்பதை உறுதிப்படுத்தவும்.
Variable Graphics Memory (VGM): இந்த செயலிகளைக் கொண்ட AMD லேப்டாப்களில் VGM உள்ளது. VGM-ஐ இயக்குவது, குறிப்பாக அதை ‘High’-க்கு அமைப்பது, LLM பணிச்சுமைகளுக்கு மிகவும் பரிந்துரைக்கப்படுகிறது. இது டோக்கன் த்ரூபுட்டை மேம்படுத்த உதவுகிறது மற்றும் பெரிய மாடல்களை திறமையாக இயக்க அனுமதிக்கிறது. VGM விருப்பங்களை AMD Software: Adrenalin Edition-இல் Performance > Tuning தாவல் மூலம் அணுகலாம்.
கையேடு அளவுரு தேர்வு: LLM-களை இயக்கும்போது, ‘manually select parameters’ என்பதைத் தேர்ந்தெடுத்து, GPU Offload அமைப்பை ‘MAX’-க்கு அமைக்கவும்.
Quantization: அன்றாட பயன்பாட்டிற்கு Q4 K M quantization-ஐயும், கோடிங் பணிகளுக்கு Q6 அல்லது Q8-ஐயும் AMD பரிந்துரைக்கிறது.
மொபைல் AI-யின் புதிய சகாப்தம்
AMD Ryzen AI MAX+ 395 செயலியானது மெல்லிய மற்றும் இலகுரக லேப்டாப்களின் திறன்களில் ஒரு முன்னுதாரண மாற்றத்தை குறிக்கிறது. அதிநவீன வன்பொருளை அறிவார்ந்த மென்பொருள் மேம்படுத்தல்களுடன் இணைப்பதன் மூலம், AMD ஒரு இயங்குதளத்தை உருவாக்கியுள்ளது, இது பயனர்கள் அதிநவீன AI மாடல்களை ஒரு சிறிய, சக்திவாய்ந்த மற்றும் பயனர் நட்பு வழியில் அனுபவிக்க உதவுகிறது. இந்த செயலி வேகமான வேகத்தைப் பற்றியது மட்டுமல்ல; இது மொபைல் AI அனுபவங்களின் ஒரு புதிய சகாப்தத்தை செயல்படுத்துவதாகும், அங்கு பயனர்கள் ஆக்கப்பூர்வமான முயற்சிகள் முதல் சிக்கலான சிக்கல் தீர்க்கும் வரை பரந்த அளவிலான பணிகளுக்கு மேம்பட்ட AI மாடல்களுடன் தடையின்றி தொடர்பு கொள்ளலாம். Ryzen AI MAX+ 395 செயலியானது மெல்லிய மற்றும் இலகுரக வடிவத்தில் சாத்தியமானதை உண்மையிலேயே மறுவரையறை செய்கிறது, பெயர்வுத்திறன் மற்றும் உயர்-செயல்திறன் கணினிக்கு இடையிலான கோடுகளை மங்கலாக்குகிறது. சக்திவாய்ந்த AI மாடல்களை உள்நாட்டில் இயக்கும் திறன், ஒரு காலத்தில் டெஸ்க்டாப் சிஸ்டம்கள் அல்லது கிளவுட் சேவைகளுக்கு மட்டுமே கட்டுப்படுத்தப்பட்டது, பயணத்தின்போது புதுமை மற்றும் உற்பத்தித்திறனுக்கான முன்னோடியில்லாத வாய்ப்புகளைத் திறக்கிறது. கேமிங், கன்டென்ட் உருவாக்கம் அல்லது அன்றாட உற்பத்தித்திறன் என எதுவாக இருந்தாலும், இந்த சிப் ஒரு கேம்-சேஞ்சர் ஆகும்.