செயற்கை நுண்ணறிவுத் துறையில் ஒரு குறிப்பிடத்தக்க மாற்றம் நிகழ்ந்து வருகிறது. பல ஆண்டுகளாக, அதிநவீன AI மாதிரிகளின், குறிப்பாக பெரிய மொழி மாதிரிகளின் (LLMs) மிகப்பெரிய கணினித் தேவைகள், அவற்றின் செயல்பாட்டை முதன்மையாக சக்திவாய்ந்த, அதிக ஆற்றல் தேவைப்படும் சர்வர்களில், பரந்த தரவு மையங்களில் மறைத்து வைக்கப்பட்டிருந்தன. அணுகல் பொதுவாக இணையம் வழியாக வினவல்களை அனுப்புவதையும், தொலைதூரத்தில் செயலாக்கப்பட்ட பதில்களுக்காகக் காத்திருப்பதையும் உள்ளடக்கியது. இருப்பினும், செயலி தொழில்நுட்பத்தில் ஏற்பட்ட முன்னேற்றங்கள் மற்றும் தரவு தனியுரிமை மற்றும் தாமதம் குறித்த வளர்ந்து வரும் கவலைகளால் உந்தப்பட்டு, உள்ளூர்மயமாக்கப்பட்ட கணினியை நோக்கிய ஒரு கட்டாய மாற்றம் வேகம் பெற்று வருகிறது. குறைக்கடத்தி அரங்கில் ஒரு வலிமையான போட்டியாளரான Advanced Micro Devices (AMD), இந்த போக்கை தீவிரமாக ஏற்றுக்கொண்டுள்ளது, பயனர்கள் தங்கள் தனிப்பட்ட கணினிகளில் நேரடியாக உற்பத்தி AI திறன்களைப் பயன்படுத்த அதிகாரம் அளிக்க முயல்கிறது. இந்தத் துறையில் நிறுவனத்தின் சமீபத்திய முயற்சி GAIA என்ற புதிரான பெயரிடப்பட்ட ஒரு திறந்த மூலத் திட்டமாகும், இது ‘Generative AI Is Awesome’ என்பதன் சுருக்கமாகும்.
உள்ளூர்மயமாக்கப்பட்ட AI செயலாக்கத்தின் சகாப்தத்தை முன்னெடுத்தல்
உற்பத்தி AI மாதிரிகளை உள்ளூரில் இயக்குவதன் கவர்ச்சி பன்முகத்தன்மை வாய்ந்தது. முதலாவதாக, இது வளர்ந்து வரும் தனியுரிமைக் கவலைகளை நிவர்த்தி செய்கிறது. ஒரு பயனரின் சொந்த சாதனத்தில் தரவு செயலாக்கப்படும்போது, சாத்தியமான முக்கியமான தகவல்களை மூன்றாம் தரப்பு சேவையகங்களுக்கு அனுப்ப வேண்டிய அவசியம் நீக்கப்படுகிறது, இது இயல்பாகவே மிகவும் பாதுகாப்பான செயல்பாட்டு முன்னுதாரணத்தை வழங்குகிறது. இரண்டாவதாக, உள்ளூர் செயலாக்கம் தாமதத்தை கணிசமாகக் குறைக்கும்; உள்ளீடு மற்றும் வெளியீட்டிற்கு இடையிலான தாமதம், பயனர் இடைமுகத்திலிருந்து சில மில்லிமீட்டர்கள் தொலைவில் கணினி சார்ந்த கடின உழைப்பு நிகழும்போது குறைக்கப்படுகிறது, மாறாக கண்டங்களைக் கடந்து செல்லக்கூடும். மூன்றாவதாக, இது அணுகலை ஜனநாயகப்படுத்துகிறது. கிளவுட் அடிப்படையிலான AI பெரும்பாலும் சந்தா கட்டணம் அல்லது பயன்பாட்டு வரம்புகளை உள்ளடக்கியிருந்தாலும், சாதனத்தில் செயலாக்கம் பயனர் ஏற்கனவே வைத்திருக்கும் வன்பொருளைப் பயன்படுத்துகிறது, இது AI கருவிகளுடன் பரிசோதனை செய்வதற்கும் பயன்படுத்துவதற்கும் நுழைவுத் தடையைக் குறைக்கும்.
இந்த திறனை உணர்ந்து, AMD அதன் செயலி கட்டமைப்புகளில் AI பணிச்சுமைகளுக்காக வெளிப்படையாக வடிவமைக்கப்பட்ட சிறப்பு செயலாக்க கோர்களை மூலோபாய ரீதியாக ஒருங்கிணைத்து வருகிறது. இந்த முயற்சிகளின் உச்சம் அவர்களின் சமீபத்திய Ryzen AI 300 தொடர் செயலிகளில் தெளிவாகத் தெரிகிறது, அவை மேம்படுத்தப்பட்ட Neural Processing Units (NPUs) ஐக் கொண்டுள்ளன. இந்த NPUs இயந்திர கற்றல் பணிகளில் பரவலாக உள்ள குறிப்பிட்ட வகையான கணித செயல்பாடுகளைக் கையாள வடிவமைக்கப்பட்டுள்ளன, பாரம்பரிய CPU கோர்களுடன் ஒப்பிடும்போது வேகம் மற்றும் மின் நுகர்வு ஆகிய இரண்டிலும் கணிசமாக அதிக செயல்திறனுடன் இதைச் செய்கின்றன. AMD அதன் GAIA திட்டம் மூலம் முக்கிய பயனர்களுக்குத் திறக்க இலக்கு வைப்பது இந்த அர்ப்பணிக்கப்பட்ட வன்பொருள்தான். AMD-இன் AI டெவலப்பர் செயல்படுத்தல் மேலாளர், Victoria Godsoe, இந்த இலக்கை வலியுறுத்தினார், GAIA ‘தனிப்பட்ட மற்றும் உள்ளூர் பெரிய மொழி மாதிரிகளை (LLMs) இயக்க Ryzen AI Neural Processing Unit (NPU)-இன் சக்தியைப் பயன்படுத்துகிறது’ என்று கூறினார். அவர் மேலும் நன்மைகளை முன்னிலைப்படுத்தினார்: ‘இந்த ஒருங்கிணைப்பு வேகமான, அதிக திறமையான செயலாக்கத்தை அனுமதிக்கிறது - அதாவது குறைந்த சக்தி - உங்கள் தரவை உள்ளூரில் மற்றும் பாதுகாப்பாக வைத்திருக்கும் போது.’
GAIA-வை அறிமுகப்படுத்துதல்: சாதனத்தில் LLM வரிசைப்படுத்தலை எளிதாக்குதல்
பயனர்கள் தங்கள் புதிய Ryzen AI-இயங்கும் இயந்திரங்களின் NPU திறன்களை அதிநவீன AI மாதிரிகளை இயக்க எளிதாக எவ்வாறு தட்டலாம் என்ற கேள்விக்கு GAIA AMD-இன் பதிலாக வெளிப்படுகிறது. ஒரு திறந்த மூல பயன்பாடாக வழங்கப்பட்ட GAIA, சமீபத்திய AMD வன்பொருளுடன் கூடிய Windows PC-களில் நேரடியாக சிறிய அளவிலான LLM-களை வரிசைப்படுத்துவதற்கும் தொடர்புகொள்வதற்கும் குறிப்பாக வடிவமைக்கப்பட்ட ஒரு நெறிப்படுத்தப்பட்ட இடைமுகத்தை வழங்குகிறது. இந்த திட்டம் ஏற்கனவே உள்ள திறந்த மூல கட்டமைப்புகளை உணர்வுபூர்வமாக உருவாக்குகிறது, குறிப்பாக Lemonade-ஐ ஒரு அடித்தளமாக மேற்கோள் காட்டி, பரந்த வளர்ச்சி சமூகத்திற்குள் ஒரு கூட்டு உணர்வை நிரூபிக்கிறது.
GAIA-வின் முக்கிய செயல்பாடு, LLM-களை அமைப்பதற்கும் இயக்குவதற்கும் பொதுவாக தொடர்புடைய சிக்கலான தன்மையின் பெரும்பகுதியை சுருக்குவதாகும். பயனர்களுக்கு AMD-இன் Ryzen AI கட்டமைப்பிற்காக தரையில் இருந்து உகந்ததாக்கப்பட்ட, மேலும் அணுகக்கூடிய சூழல் வழங்கப்படுகிறது. இந்த உகப்பாக்கம் முக்கியமானது; இது மென்பொருள் NPU-ஐ திறம்பட பயன்படுத்துவதை உறுதிசெய்கிறது, செயல்திறனை அதிகரிக்கிறது மற்றும் ஆற்றல் தடயத்தைக் குறைக்கிறது. முதன்மை இலக்கு அதன் சக்திவாய்ந்த NPU உடன் Ryzen AI 300 தொடராக இருந்தாலும், AMD பழைய அல்லது வேறுபட்ட வன்பொருள் உள்ளமைவுகளின் பயனர்களை முழுமையாக விலக்கவில்லை.
இந்த திட்டம் பிரபலமான மற்றும் ஒப்பீட்டளவில் சிறிய LLM குடும்பங்களை ஆதரிக்கிறது, இதில் பரவலாக அணுகக்கூடிய Llama மற்றும் Phi கட்டமைப்புகளை அடிப்படையாகக் கொண்ட மாதிரிகள் அடங்கும். இந்த மாதிரிகள், GPT-4 போன்ற ராட்சதர்களின் அளவைக் கொண்டிருக்காவிட்டாலும், பல்வேறு சாதனப் பணிகளுக்கு குறிப்பிடத்தக்க வகையில் திறமையானவை. AMD, இயற்கையான உரையாடலுக்குத் திறன் கொண்ட ஊடாடும் சாட்போட்கள் முதல் மிகவும் சிக்கலான பகுத்தறிவுப் பணிகள் வரை சாத்தியமான பயன்பாட்டு நிகழ்வுகளை பரிந்துரைக்கிறது, இது GAIA-இயங்கும் உள்ளூர் AI-க்காக கற்பனை செய்யப்பட்ட பல்துறைத்திறனை நிரூபிக்கிறது.
GAIA-வின் திறன்களை ஆராய்தல்: Agents மற்றும் Hybrid Power
நடைமுறை பயன்பாடுகளைக் காண்பிப்பதற்கும், தொழில்நுட்பத்தை உடனடியாகப் பயனுள்ளதாக மாற்றுவதற்கும், GAIA முன் வரையறுக்கப்பட்ட ‘agents’ தேர்வுகளுடன் அனுப்பப்படுகிறது, ஒவ்வொன்றும் ஒரு குறிப்பிட்ட செயல்பாட்டிற்காக வடிவமைக்கப்பட்டுள்ளது:
- Chaty: பெயர் குறிப்பிடுவது போல, இந்த agent ஒரு உரையாடல் AI அனுபவத்தை வழங்குகிறது, பொதுவான தொடர்பு மற்றும் உரையாடலுக்கான சாட்போட்டாக செயல்படுகிறது. இது மனிதனைப் போன்ற உரை பதில்களை உருவாக்க அடிப்படை LLM-இன் திறனைப் பயன்படுத்துகிறது.
- Clip: இந்த agent கேள்வி-பதில் பணிகளில் கவனம் செலுத்துகிறது. குறிப்பிடத்தக்க வகையில், இது Retrieval-Augmented Generation (RAG) திறன்களை உள்ளடக்கியது, இது YouTube டிரான்ஸ்கிரிப்டுகள் போன்ற வெளிப்புற மூலங்களிலிருந்து தகவல்களைப் பெற அனுமதிக்கிறது, மேலும் தகவலறிந்த அல்லது சூழல் சார்ந்த பதில்களை வழங்குகிறது. இந்த RAG செயல்பாடு LLM-இன் ஆரம்ப பயிற்சித் தரவுகளுக்கு அப்பால் agent-இன் அறிவுத் தளத்தை கணிசமாக மேம்படுத்துகிறது.
- Joker: மற்றொரு RAG-அடிப்படையிலான agent, Joker நகைச்சுவைக்காக பிரத்யேகமாக வடிவமைக்கப்பட்டுள்ளது, நகைச்சுவைகளை உருவாக்கும் பணியில் ஈடுபட்டுள்ளது. இது உள்ளூர் LLM-களின் சிறப்பு, ஆக்கப்பூர்வமான பயன்பாடுகளுக்கான திறனை நிரூபிக்கிறது.
- Simple Prompt Completion: இது அடிப்படை LLM-க்கு நேரடியான வழியை வழங்குகிறது, பயனர்கள் தூண்டுதல்களை உள்ளிடவும், மற்ற agents-இன் உரையாடல் அல்லது பணி-குறிப்பிட்ட அடுக்குகளின்றி நேரடியான நிறைவுகளைப் பெறவும் அனுமதிக்கிறது. இது நேரடி மாதிரி தொடர்புக்கு ஒரு அடிப்படை இடைமுகமாக செயல்படுகிறது.
இந்த agents-இன் செயலாக்கம், குறிப்பாக மாதிரி பதில்களை உருவாக்கும் அனுமான செயல்முறை, இணக்கமான Ryzen AI 300 தொடர் சிப்களில் உள்ள NPU-ஆல் முதன்மையாக கையாளப்படுகிறது. இது திறமையான, குறைந்த சக்தி செயல்பாட்டை உறுதி செய்கிறது. இருப்பினும், AMD சில ஆதரிக்கப்படும் மாடல்களுக்கு மிகவும் மேம்பட்ட ‘hybrid’ பயன்முறையையும் இணைத்துள்ளது. இந்த புதுமையான அணுகுமுறை செயலியின் ஒருங்கிணைந்த கிராபிக்ஸ் செயலாக்க அலகு (iGPU)-ஐ NPU உடன் இணைந்து மாறும் வகையில் ஈடுபடுத்துகிறது. iGPU-இன் இணை செயலாக்க சக்தியைப் பயன்படுத்துவதன் மூலம், இந்த hybrid பயன்முறை கோரும் AI பணிகளுக்கு குறிப்பிடத்தக்க செயல்திறன் ஊக்கத்தை வழங்க முடியும், இது NPU தனியாக அடையக்கூடியதை விட அனுமானத்தை விரைவுபடுத்த பயனர்களுக்கு ஒரு வழியை வழங்குகிறது.
பல்வேறு வன்பொருள் நிலப்பரப்பை உணர்ந்து, AMD ஒரு பின்னடைவு விருப்பத்தையும் வழங்குகிறது. GAIA-வின் ஒரு மாறுபாடு கணக்கீட்டிற்கு CPU கோர்களை மட்டுமே நம்பியுள்ளது. NPU அல்லது hybrid முறைகளை விட கணிசமாக மெதுவாகவும், குறைந்த சக்தி-திறனுடனும் இருந்தாலும், இந்த CPU-மட்டும் பதிப்பு பரந்த அணுகலை உறுதி செய்கிறது, சமீபத்திய Ryzen AI வன்பொருள் இல்லாத பயனர்கள் GAIA உடன் பரிசோதனை செய்ய அனுமதிக்கிறது, இருப்பினும் செயல்திறன் அபராதத்துடன்.
மூலோபாய நிலைப்படுத்தல் மற்றும் திறந்த மூல நன்மை
GAIA-வின் வெளியீடு, குறிப்பாக AI முடுக்கம் தொடர்பான போட்டி குறைக்கடத்தி சந்தையின் பரந்த சூழலில் பார்க்கப்படலாம். கணிசமான காலத்திற்கு, NVIDIA அதன் சக்திவாய்ந்த GPU-க்கள் மற்றும் முதிர்ந்த CUDA (Compute Unified Device Architecture) மென்பொருள் சுற்றுச்சூழல் அமைப்பு காரணமாக AI துறையில் ஒரு மேலாதிக்க நிலையை அனுபவித்து வருகிறது, இது உயர் செயல்திறன் இயந்திர கற்றலுக்கான நடைமுறைத் தரமாக மாறியுள்ளது. நுகர்வோர் வன்பொருளில் பெரிய மாடல்களை திறமையாக இயக்குவது பெரும்பாலும் டெவலப்பர்கள் மற்றும் ஆர்வலர்களை NVIDIA-வின் சலுகைகளை நோக்கி வழிநடத்தியது.
AMD-இன் GAIA முயற்சி, Ryzen AI சிப்களில் உள்ள பிரத்யேக NPU வன்பொருளுடன் இணைந்து, இந்த ஆதிக்கத்தை சவால் செய்வதற்கான ஒரு மூலோபாய நடவடிக்கையைக் குறிக்கிறது, குறிப்பாக மடிக்கணினிகள் மற்றும் டெஸ்க்டாப்புகளில் சாதனத்தில் AI-க்கான வளர்ந்து வரும் சந்தையில். பயன்படுத்த எளிதான, உகந்ததாக்கப்பட்ட மற்றும் திறந்த மூலக் கருவியை வழங்குவதன் மூலம், AMD அதன் சொந்த AI வன்பொருள் திறன்களைச் சுற்றி ஒரு சுற்றுச்சூழல் அமைப்பைக் கட்டமைப்பதை நோக்கமாகக் கொண்டுள்ளது, Ryzen AI தளங்களை உள்ளூர் AI செயலாக்கத்தில் ஆர்வமுள்ள டெவலப்பர்கள் மற்றும் இறுதிப் பயனர்களுக்கு மிகவும் கவர்ச்சிகரமானதாக மாற்றுகிறது. NPU உகப்பாக்கத்தில் வெளிப்படையான கவனம் GPU-மைய அணுகுமுறைகளிலிருந்து வேறுபடுத்துகிறது மற்றும் குறிப்பிட்ட AI பணிகளுக்கான பிரத்யேக நரம்பியல் செயலிகளில் உள்ளார்ந்த சக்தி செயல்திறன் நன்மைகளை எடுத்துக்காட்டுகிறது.
அனுமதிக்கப்பட்ட MIT திறந்த மூல உரிமத்தின் கீழ் GAIA-வை வெளியிடும் முடிவும் மூலோபாய ரீதியாக முக்கியத்துவம் வாய்ந்தது. இது உலகளாவிய டெவலப்பர் சமூகத்திலிருந்து ஒத்துழைப்பையும் பங்களிப்பையும் அழைக்கிறது. இந்த அணுகுமுறை திட்டத்தின் வளர்ச்சியை விரைவுபடுத்தலாம், புதிய அம்சங்கள் மற்றும் மாதிரிகளின் ஒருங்கிணைப்புக்கு வழிவகுக்கும், மேலும் AMD-இன் AI தளத்தில் முதலீடு செய்யப்பட்ட ஒரு சமூகத்தை வளர்க்கும். AMD பிழை திருத்தங்கள் மற்றும் அம்ச மேம்பாடுகளுக்கான இழுக்கும் கோரிக்கைகளை வெளிப்படையாக வரவேற்கிறது, இது கூட்டு முயற்சி மூலம் GAIA-வை மேம்படுத்துவதற்கான அர்ப்பணிப்பைக் குறிக்கிறது. திறந்த மூலமாக்குதல் டெவலப்பர்கள் பரிசோதனை செய்வதற்கும், ஒருங்கிணைப்பதற்கும், GAIA கட்டமைப்பின் மேல் வணிக பயன்பாடுகளை உருவாக்குவதற்கும் தடையைக் குறைக்கிறது, இது Ryzen AI-ஐச் சுற்றியுள்ள சுற்றுச்சூழல் அமைப்பை மேலும் தூண்டுகிறது.
தற்போதைய மறு செய்கை சாதனத்தில் செயல்படுத்துவதற்கு ஏற்ற சிறிய LLM-களில் கவனம் செலுத்தினாலும், GAIA-ஆல் அமைக்கப்பட்ட அடித்தளம் NPU தொழில்நுட்பம் தொடர்ந்து முன்னேறும்போது மிகவும் சிக்கலான மாதிரிகள் மற்றும் பயன்பாடுகளை ஆதரிப்பதற்கான வழியை வகுக்கும். இது AMD-இடமிருந்து ஒரு தெளிவான நோக்கத்தின் அறிக்கையைக் குறிக்கிறது: தனிப்பட்ட, உள்ளூர்மயமாக்கப்பட்ட செயற்கை நுண்ணறிவின் சகாப்தத்தில் ஒரு முக்கிய சக்தியாக இருக்க, AI திறன்களை பயனர்களின் கைகளில் நேரடியாக, பாதுகாப்பாகவும் திறமையாகவும் கொண்டு வர தேவையான வன்பொருள் மற்றும் அணுகக்கூடிய மென்பொருள் கருவிகளை வழங்குதல். ‘Generative AI Is Awesome’ என்ற பெயர், ஒருவேளை முறைசாரா முறையில் இருந்தாலும், இந்த வேகமாக வளர்ந்து வரும் தொழில்நுட்ப எல்லையில் நிறுவனத்தின் உற்சாகத்தையும் லட்சியத்தையும் அடிக்கோடிட்டுக் காட்டுகிறது.