AI-ஐ கட்டவிழ்த்தல்: எட்ஜ் இன்டலிஜென்ஸிற்கான ஓபன்-வெயிட் மாடல்கள்

செயற்கை நுண்ணறிவின் (AI) விரைவான பரிணாமம், குறிப்பாக வியக்கத்தக்க திறன் கொண்ட பெரிய மொழி மாதிரிகளின் (LLMs) தோற்றம் உலகை கவர்ந்துள்ளது. இந்த டிஜிட்டல் பிரம்மாண்டங்கள், சக்திவாய்ந்த கிளவுட் தரவு மையங்களுக்குள் பரந்த தரவுத்தொகுப்புகளில் பயிற்சி அளிக்கப்பட்டு, மனித மொழியைப் புரிந்துகொள்வதிலும் உருவாக்குவதிலும், சிக்கலான சிக்கல்களைத் தீர்ப்பதிலும், கலைப்படைப்புகளை உருவாக்குவதிலும் வியக்க வைக்கும் திறன்களை வெளிப்படுத்துகின்றன. ஆயினும்கூட, இந்த சக்தியே, மிகப்பெரிய அளவிலும் கணக்கீட்டு தீவிரத்திலிருந்தும் பிறந்தது, ஒரு குறிப்பிடத்தக்க தடையை உருவாக்குகிறது. கிளவுட் உள்கட்டமைப்பைச் சார்ந்திருத்தல் - இணைப்பு, அலைவரிசை மற்றும் செயலாக்க சக்தி ஆகியவற்றிற்கான அதன் தேவைகளுடன் - இந்த ஈர்க்கக்கூடிய மாதிரிகளை ஒரு பரந்த மற்றும் வளர்ந்து வரும் களத்திற்கு பெரும்பாலும் நடைமுறைக்கு மாறானதாக ஆக்குகிறது: எட்ஜ் கம்ப்யூட்டிங்.

எட்ஜ் கம்ப்யூட்டிங் என்பது கணக்கீடு பௌதீக உலகைச் சந்திக்கும் எல்லையைக் குறிக்கிறது. இது பாரம்பரிய தரவு மையங்களுக்கு வெளியே செயல்படும் எண்ணற்ற சாதனங்களை உள்ளடக்கியது - ஒரு ஸ்மார்ட் தொழிற்சாலையில் உள்ள சென்சார்கள் மற்றும் மருத்துவமனை அறையில் உள்ள கண்டறியும் கருவிகள் முதல் உங்கள் காரில் உள்ள இன்ஃபோடெயின்மென்ட் சிஸ்டம் மற்றும் உங்கள் வாழ்க்கை அறையில் உள்ள ஸ்மார்ட் ஸ்பீக்கர் வரை. AI இந்த பல்வேறு சூழல்களில் அதன் உருமாறும் திறனை வழங்க, அது பிரத்தியேகமாக கிளவுட்டுடன் பிணைக்கப்பட முடியாது. DeepSeek-R1 போன்ற மாதிரிகளின் சமீபத்திய வருகை ஒரு முக்கியமான மாற்றத்தைக் குறிக்கிறது, ஓபன்-வெயிட் AI மாதிரிகள், டிஸ்டில்லேஷன் போன்ற புத்திசாலித்தனமான மேம்படுத்தல் உத்திகளுடன் இணைந்து, சக்திவாய்ந்த நுண்ணறிவு மிகவும் தேவைப்படும் இடத்தில் நேரடியாக செயல்பட வழி வகுக்கின்றன - எட்ஜில். இந்த பரிணாமம் தொழில்நுட்ப சாத்தியக்கூறு பற்றியது மட்டுமல்ல; இது எட்ஜ் சாதனங்களின் வள-கட்டுப்படுத்தப்பட்ட நிலப்பரப்பில் மிகவும் திறமையான, பதிலளிக்கக்கூடிய, அளவிடக்கூடிய மற்றும் பயன்படுத்தக்கூடிய AI-க்கான பாதையை உருவாக்குவது பற்றியது.

எட்ஜின் மீது கிளவுட்டின் நீண்ட நிழல்

பல ஆண்டுகளாக, அதிநவீன AI-ஐப் பயன்படுத்துவதற்கான நடைமுறையில் உள்ள கட்டமைப்பு ஒரு மையப்படுத்தப்பட்ட அணுகுமுறையை உள்ளடக்கியது. எட்ஜில் உருவாக்கப்படும் வினவல்கள் அல்லது தரவு கிளவுட்டிற்கு அனுப்பப்படும், GPU-களின் வரிசைகளுடன் கூடிய சக்திவாய்ந்த சேவையகங்களால் செயலாக்கப்படும், மேலும் முடிவுகள் திருப்பி அனுப்பப்படும். தாமதம் முக்கியமில்லாத மற்றும் இணைப்பு வலுவாக இருந்த பயன்பாடுகளுக்கு இந்த மாதிரி பயனுள்ளதாக நிரூபிக்கப்பட்டாலும், இது எட்ஜ் கம்ப்யூட்டிங்கின் தனித்துவமான கோரிக்கைகளுக்கு அடிப்படை தடைகளை அளிக்கிறது:

• லேட்டன்சியின் கொடுங்கோன்மை: பல எட்ஜ் பயன்பாடுகள் நிகழ்நேர அல்லது நிகழ்நேரத்திற்கு நெருக்கமான சூழ்நிலைகளில் செயல்படுகின்றன, அங்கு தாமதங்கள் ஏற்றுக்கொள்ள முடியாதவை. ஒரு பாதசாரியை உடனடியாகக் கண்டறிந்து எதிர்வினையாற்ற வேண்டிய ஒரு தன்னாட்சி வாகனம், மைக்ரோ விநாடி துல்லியம் தேவைப்படும் ஒரு அசெம்பிளி லைனில் உள்ள ரோபோ கை, அல்லது ஒரு நோயாளியின் நிலையில் ஏற்படும் முக்கியமான மாற்றங்கள் குறித்து ஊழியர்களை உடனடியாக எச்சரிக்க வேண்டிய ஒரு மருத்துவ கண்காணிப்பு சாதனம் ஆகியவற்றைக் கவனியுங்கள். கிளவுட்டிற்கான சுற்றுப் பயணம், சிறந்த நெட்வொர்க் நிலைமைகளின் கீழ் கூட, அத்தகைய சூழல்களில் தீங்கு விளைவிக்கும், ஆபத்தானதாக கூட இருக்கும் தாமதத்தை அறிமுகப்படுத்துகிறது. உள்ளூர் நுண்ணறிவால் இயக்கப்படும் உடனடி முடிவெடுத்தல், பெரும்பாலும் விரும்பத்தக்கது மட்டுமல்ல, அவசியமானது.
• அலைவரிசை தடைக்கற்கள்: எட்ஜ் சூழல்கள் பெரும்பாலும் குறிப்பிடத்தக்க அளவு தரவை உருவாக்கும் பல சாதனங்களை உள்ளடக்கியது. உயர்-தெளிவு வீடியோவைப் பிடிக்கும் பாதுகாப்பு கேமராக்கள், அதிர்வுகள் மற்றும் வெப்பநிலைகளைக் கண்காணிக்கும் தொழில்துறை சென்சார்கள் அல்லது சுற்றுச்சூழல் தரவைச் சேகரிக்கும் ஸ்மார்ட் சிட்டி உள்கட்டமைப்பு பற்றி சிந்தியுங்கள். AI பகுப்பாய்விற்காக இந்த மூலத் தரவின் பெருவெள்ளத்தை தொடர்ந்து கிளவுட்டிற்கு ஸ்ட்ரீம் செய்வது தரவு பரிமாற்ற செலவுகளின் அடிப்படையில் தடைசெய்யும் வகையில் விலை உயர்ந்தது மட்டுமல்ல, மிகவும் திறமையற்றதும் ஆகும். இது மற்ற முக்கியமான தகவல்தொடர்புகளுக்குத் தேவைப்படக்கூடிய விலைமதிப்பற்ற நெட்வொர்க் அலைவரிசையை உட்கொள்கிறது மற்றும் நெட்வொர்க் உள்கட்டமைப்பில் ஒரு பெரிய சுமையை வைக்கிறது. தரவை உள்ளூரில் செயலாக்குவது இந்த சுமையை கணிசமாகக் குறைக்கிறது.
• தனியுரிமை மற்றும் பாதுகாப்பு நீரில் வழிசெலுத்துதல்: செயலாக்கத்திற்காக கிளவுட்டிற்கு சாத்தியமான முக்கியமான தரவை அனுப்புவது இயல்பாகவே தாக்குதல் பரப்பை அதிகரிக்கிறது மற்றும் தனியுரிமை கவலைகளை எழுப்புகிறது. தனிப்பட்ட உடல்நலம், ஸ்மார்ட் உதவியாளர்களால் கைப்பற்றப்பட்ட தனிப்பட்ட உரையாடல்கள், தனியுரிம உற்பத்தி செயல்முறைகள் அல்லது பாதுகாப்பான வசதி கண்காணிப்பு தொடர்பான தரவு உள்ளூரில் செயலாக்கப்படுவதன் மூலம் பெரிதும் பயனடைகிறது. சாதனத்தில் உள்ள நுண்ணறிவு தரவு வெளிப்பாட்டைக் குறைக்கிறது, பரிமாற்றம் அல்லது கிளவுட்டில் சேமிப்பின் போது மீறல்களின் அபாயத்தைக் குறைக்கிறது மற்றும் நிறுவனங்கள் பெருகிய முறையில் கடுமையான தரவு தனியுரிமை விதிமுறைகளுக்கு இணங்க உதவுகிறது. முக்கியமான தகவல்களை உள்ளூர்மயமாக்குவது பயனர் நம்பிக்கையையும் பாதுகாப்பு நிலையையும் மேம்படுத்துகிறது.

எட்ஜ் சாதனங்கள் மூலம் AI நமது பௌதீக உலகின் கட்டமைப்பில் உண்மையாக ஊடுருவ, ஒரு அடிப்படை மாற்றம் தேவை என்பது தெளிவாகிறது. முக்கிய அனுமானப் பணிகளுக்காக தொலைதூர கிளவுட் வளங்களைச் சார்ந்திருப்பதைக் குறைக்கும் அல்லது நீக்கும் உள்ளூர் செயல்பாட்டிற்காக வடிவமைக்கப்பட்ட மற்றும் மேம்படுத்தப்பட்ட அறிவார்ந்த அமைப்புகள் நமக்குத் தேவை.

ஒரு புதிய முன்னுதாரணம்: ஓபன்-வெயிட் விழிப்புணர்வு

இந்த மாற்றத்தின் மையத்தில் ஓபன்-வெயிட் AI மாதிரிகள் என்ற கருத்து உள்ளது. பாரம்பரிய தனியுரிம அல்லது மூடிய மாதிரிகளைப் போலல்லாமல், உள் அளவுருக்கள் (பயிற்சியின் போது கற்றுக்கொண்ட ‘எடைகள்’) வளரும் நிறுவனத்தால் ரகசியமாக வைக்கப்படுகின்றன, ஓபன்-வெயிட் மாதிரிகள் இந்த அளவுருக்களை பொதுவில் கிடைக்கச் செய்கின்றன. இந்த வெளிப்படைத்தன்மை AI மேம்பாடு மற்றும் வரிசைப்படுத்தலின் இயக்கவியலை அடிப்படையாக மாற்றுகிறது, குறிப்பாக எட்ஜிற்கு.

DeepSeek-R1 போன்ற மாதிரிகளின் வெளியீடு இந்த வளர்ந்து வரும் போக்கின் அழுத்தமான விளக்கமாக செயல்படுகிறது. இது மற்றொரு AI மாதிரி மட்டுமல்ல; இது அதிநவீன AI திறன்களுக்கான அணுகலை ஜனநாயகப்படுத்துவதை நோக்கிய ஒரு நகர்வைக் குறிக்கிறது. மாதிரி எடைகளை அணுகுவதன் மூலம், டெவலப்பர்கள் மற்றும் நிறுவனங்கள் இந்த மாதிரிகளை ஆய்வு செய்யவும், மாற்றியமைக்கவும் மற்றும் அவற்றின் குறிப்பிட்ட தேவைகள் மற்றும் கட்டுப்பாடுகளுடன் ஒத்துப்போகும் வழிகளில் பயன்படுத்தவும் சுதந்திரம் பெறுகின்றனர் - இது மூடிய அமைப்புகளின் ‘கருப்பு பெட்டி’ இயல்புக்கு முற்றிலும் மாறுபட்டது. இந்த திறந்தநிலை புதுமையைப் வளர்க்கிறது, அதிக ஆய்வு மற்றும் நம்பிக்கையை அனுமதிக்கிறது, மேலும் முக்கியமாக, எட்ஜ் வரிசைப்படுத்தலுக்குத் தேவையான மேம்படுத்தல் நுட்பங்களைப் பயன்படுத்த உதவுகிறது.

மாதிரி எடைகளுக்கான அணுகலால் திறக்கப்பட்ட மிகவும் சக்திவாய்ந்த மேம்படுத்தல் நுட்பங்களில் ஒன்று டிஸ்டில்லேஷன்.

டிஸ்டில்லேஷன்: AI-க்கு மெலிதாகவும் வலிமையாகவும் இருக்கக் கற்பித்தல்

செயற்கை நுண்ணறிவுத் துறையில் மாடல் டிஸ்டில்லேஷன் என்பது ஒரு புதிய கருத்து அல்ல; இது நரம்பியல் நெட்வொர்க்குகளை மேம்படுத்த பல ஆண்டுகளாகப் பயன்படுத்தப்படும் ஒரு நன்கு நிறுவப்பட்ட நுட்பமாகும். இருப்பினும், நவீன பெரிய மொழி மாதிரிகளுக்கு, குறிப்பாக எட்ஜ் வரிசைப்படுத்தலை செயல்படுத்துவதற்காக அதன் பயன்பாடு ஒரு கேம்-சேஞ்சர் ஆகும்.

அதன் மையத்தில், டிஸ்டில்லேஷன் என்பது பயிற்சி என்ற கருத்தால் ஈர்க்கப்பட்ட ஒரு நேர்த்தியான செயல்முறையாகும். இது ஒரு சிறிய, மிகவும் கச்சிதமான ‘மாணவர்’ மாதிரியைப் பயிற்றுவிப்பதை உள்ளடக்கியது, இது ஒரு பெரிய, மிகவும் சக்திவாய்ந்த ‘ஆசிரியர்’ மாதிரியின் நடத்தையைப் பிரதிபலிக்கவும் அதன் அத்தியாவசிய அறிவைப் பிடிக்கவும் செய்கிறது. குறிக்கோள் வெளியீடுகளைப் பிரதிபலிப்பது மட்டுமல்ல, ஆசிரியர் மாதிரியை பயனுள்ளதாக்கும் அடிப்படை பகுத்தறிவு முறைகள் மற்றும் கற்றுக்கொண்ட பிரதிநிதித்துவங்களை மாற்றுவதாகும்.

பல வருட அனுபவத்தில் ஆழமான அறிவையும் சிக்கலான திறன்களையும் கொண்ட ஒரு தலைசிறந்த கைவினைஞரை (ஆசிரியர் மாதிரி) கற்பனை செய்து பாருங்கள். இந்த கைவினைஞர் ஒரு பயிற்சியாளரை (மாணவர் மாதிரி) ஏற்றுக்கொண்டு, அவர்களுக்கு முக்கிய கொள்கைகள் மற்றும் அத்தியாவசிய நுட்பங்களைக் கற்பிக்கிறார், பயிற்சியாளர் கைவினைத்திறனை திறம்பட செய்ய உதவுகிறார், ஒருவேளை எஜமானரின் முழுமையான நுணுக்கம் இல்லாமல் இருக்கலாம், ஆனால் அதிக செயல்திறன் மற்றும் குறைந்த வளங்களுடன்.

DeepSeek-R1 இன் சூழலில், இந்த டிஸ்டில்லேஷன் செயல்முறை கணிசமாக மாறுபட்ட அளவுகளைக் கொண்ட மாதிரிகளின் குடும்பத்தை உருவாக்க அனுமதிக்கிறது (எ.கா., 1.5 பில்லியன், 7 பில்லியன், 14 பில்லியன், 32 பில்லியன், 70 பில்லியன் அளவுருக்கள்), அனைத்தும் மிகவும் திறன் வாய்ந்த பெற்றோர் மாதிரியிலிருந்து பெறப்பட்டவை. இந்த செயல்முறை பல முக்கியமான நோக்கங்களை அடைகிறது:

• அறிவு சுருக்கம்: இது பாரிய ஆசிரியர் மாதிரியில் பதிக்கப்பட்ட பரந்த அறிவை மிகச் சிறிய மாணவர் கட்டமைப்புகளுக்குள் வெற்றிகரமாக சுருக்குகிறது.
• திறன் தக்கவைப்பு: முக்கியமாக, இந்த சுருக்கம் அசல் மாதிரியின் முக்கிய பகுத்தறிவு மற்றும் சிக்கல் தீர்க்கும் திறன்களைத் தக்கவைக்கும் வகையில் செய்யப்படுகிறது, அடுத்த வார்த்தையைக் கணிக்கும் அதன் திறனை மட்டுமல்ல.
• செயல்திறன் ஆதாயங்கள்: இதன் விளைவாக வரும் சிறிய மாதிரிகளுக்கு அனுமானம் (பயிற்சி பெற்ற மாதிரியைப் பயன்படுத்தி கணிப்புகளைச் செய்யும் செயல்முறை) இயக்க கணிசமாக குறைந்த கணக்கீட்டு சக்தி மற்றும் நினைவகம் தேவைப்படுகிறது.
• வரிசைப்படுத்தல் நெகிழ்வுத்தன்மை: இந்த செயல்திறன், எட்ஜ் சாதனங்களில் பொதுவாகக் காணப்படும் வரையறுக்கப்பட்ட வளங்களைக் கொண்ட வன்பொருளில் அதிநவீன AI திறன்களைப் பயன்படுத்துவதை சாத்தியமாக்குகிறது.

DeepSeek-R1 போன்ற சிக்கலான மாதிரிகளை இந்த மேலும் நிர்வகிக்கக்கூடிய வடிவங்களுக்குள் வடிகட்டுவதன் மூலம், மகத்தான கணக்கீட்டு வளங்கள் தேவைப்படும் தடைக்கற்கள் உடைக்கப்படுகின்றன. டெவலப்பர்கள் நிலையான கிளவுட் இணைப்பு தேவையில்லாமல் அல்லது தடைசெய்யும் வகையில் விலை உயர்ந்த, சக்தி-பசியுள்ள வன்பொருளில் முதலீடு செய்யாமல், அதிநவீன AI செயல்திறனை நேரடியாக எட்ஜ் சாதனங்களில் பயன்படுத்தும் திறனைப் பெறுகின்றனர்.

DeepSeek-R1: எட்ஜில் டிஸ்டில்லேஷன் செயல்பாட்டில்

DeepSeek-R1 குடும்பம் எட்ஜ் AI-க்கான டிஸ்டில்லேஷனின் நடைமுறை நன்மைகளை எடுத்துக்காட்டுகிறது. ஒப்பீட்டளவில் சிறிய (1.5B அளவுருக்கள்) முதல் கணிசமாக பெரிய (70B அளவுருக்கள்) வரையிலான பல மாதிரி அளவுகளின் கிடைக்கும் தன்மை, டெவலப்பர்களுக்கு முன்னோடியில்லாத நெகிழ்வுத்தன்மையை வழங்குகிறது. அவர்கள் தங்கள் இலக்கு பயன்பாடு மற்றும் வன்பொருளுக்கான செயல்திறன் மற்றும் வள நுகர்வு ஆகியவற்றுக்கு இடையேயான உகந்த சமநிலையைத் தாக்கும் குறிப்பிட்ட மாதிரியைத் தேர்ந்தெடுக்கலாம்.

• தனிப்பயனாக்கப்பட்ட செயல்திறன்: ஒரு ஸ்மார்ட் சென்சாருக்கு அடிப்படை ஒழுங்கின்மை கண்டறிதலுக்கு மிகச்சிறிய மாதிரியின் திறன்கள் மட்டுமே தேவைப்படலாம், அதே நேரத்தில் மிகவும் சிக்கலான தொழில்துறை கட்டுப்பாட்டு அமைப்பு முன்கணிப்பு பராமரிப்பு பகுப்பாய்விற்கு நடுத்தர அளவிலான மாதிரியைப் பயன்படுத்தலாம்.
• பாதுகாக்கப்பட்ட பகுத்தறிவு: முக்கிய சாதனை என்னவென்றால், DeepSeek-R1 இன் சிறிய வடிகட்டப்பட்ட பதிப்புகள் கூட குறிப்பிடத்தக்க பகுத்தறிவு திறன்களைப் பராமரிக்க வடிவமைக்கப்பட்டுள்ளன. இதன் பொருள், அவை எளிய முறை அங்கீகாரத்திற்கு அப்பாற்பட்ட பணிகளைச் செய்ய முடியும், தர்க்கரீதியான துப்பறிதல், சூழலைப் புரிந்துகொள்வது மற்றும் நுணுக்கமான பதில்களை வழங்குதல் - முன்னர் கிளவுட்-பவுண்ட் பிரம்மாண்டங்களுக்கு பிரத்தியேகமானதாகக் கருதப்பட்ட திறன்கள்.
• மேம்படுத்தப்பட்ட அனுமானம்: இந்த மாதிரிகள் திறமையான அனுமானத்திற்காக இயல்பாகவே மேம்படுத்தப்பட்டுள்ளன. அவற்றின் குறைக்கப்பட்ட அளவு நேரடியாக வேகமான செயலாக்க நேரங்கள் மற்றும் எட்ஜ் வன்பொருளில் குறைந்த ஆற்றல் நுகர்வுக்கு மொழிபெயர்க்கிறது.
• எளிய வன்பொருளில் அதிநவீனத்தை செயல்படுத்துதல்: நடைமுறை விளைவு ஒப்பீட்டளவில் குறைந்த சக்தி மற்றும் வள-கட்டுப்படுத்தப்பட்ட தளங்களில் உண்மையான அறிவார்ந்த பயன்பாடுகளை இயக்கும் திறன் ஆகும், இது முன்னர் வன்பொருள் கட்டுப்பாடுகளால் வரையறுக்கப்பட்ட பகுதிகளில் புதுமைக்கான கதவுகளைத் திறக்கிறது.

DeepSeek-R1 க்குப் பயன்படுத்தப்படும் டிஸ்டில்லேஷன் அணுகுமுறை, மாதிரி அளவு மட்டுமே திறனைத் தீர்மானிக்கும் காரணி அல்ல என்பதை நிரூபிக்கிறது. அறிவார்ந்த அறிவு பரிமாற்றத்தின் மூலம், சிறிய மாதிரிகள் அவற்றின் பெரிய முன்னோடிகளின் சக்தியைப் பெற முடியும், இது ஒரு புதிய தலைமுறை எட்ஜ் பயன்பாடுகளுக்கு மேம்பட்ட AI-ஐ நடைமுறை மற்றும் அணுகக்கூடியதாக ஆக்குகிறது.

இடைவெளியைக் குறைத்தல்: வடிகட்டப்பட்ட மாதிரிகள் ஏன் எட்ஜில் சிறந்து விளங்குகின்றன

வடிகட்டப்பட்ட, ஓபன்-வெயிட் மாதிரிகளால் வழங்கப்படும் நன்மைகள், எட்ஜ் கம்ப்யூட்டிங் சூழல்களில் AI வரிசைப்படுத்தலை வரலாற்று ரீதியாகத் தடுத்த முக்கிய சவால்களை நேரடியாக நிவர்த்தி செய்கின்றன. மாதிரி மேம்படுத்தல் மற்றும் எட்ஜின் தேவைகளுக்கு இடையிலான ஒருங்கிணைப்பு ஆழமானது:

• சக்தி நுகர்வைக் கட்டுப்படுத்துதல்: பல எட்ஜ் சாதனங்களுக்கு, குறிப்பாக பேட்டரி மூலம் இயங்கும் சாதனங்களுக்கு (உதாரணமாக, அணியக்கூடியவை, தொலைநிலை சென்சார்கள் அல்லது மொபைல் சாதனங்கள்) மிகவும் முக்கியமான கட்டுப்பாடு, சக்தி நுகர்வு ஆகும். பெரிய AI மாதிரிகள் சக்தி-பசி கொண்டவை என்பது குறிப்பிடத்தக்கது. வடிகட்டப்பட்ட, சிறிய மாதிரிகள், இருப்பினும், கணிசமாக குறைந்த ஆற்றலைப் பயன்படுத்தி அனுமானப் பணிகளைச் செய்ய முடியும். இது உட்பொதிக்கப்பட்ட மைக்ரோபிராசசிங் யூனிட்கள் (MPUs) மற்றும் பிற குறைந்த-சக்தி சிப்களில் திறமையாக இயங்க அனுமதிக்கிறது, பேட்டரி ஆயுளை வியத்தகு முறையில் நீட்டிக்கிறது மற்றும் சக்தி-உணர்திறன் பயன்பாடுகளில் AI-ஐ சாத்தியமாக்குகிறது.
• கணக்கீட்டு மேல்நிலையைக் குறைத்தல்: எட்ஜ் சாதனங்கள் பெரும்பாலும் சேவையகங்கள் அல்லது உயர்நிலை கணினிகளில் காணப்படும் சக்திவாய்ந்த CPU-கள் மற்றும் GPU-களைக் கொண்டிருக்கவில்லை. டிஸ்டில்லேஷன் AI அனுமானத்திற்குத் தேவையான கணக்கீட்டுச் சுமையைக் குறைக்கிறது, இது சிறப்பு வாய்ந்த Synaptics Astra MPUs அல்லது ஒத்த எட்ஜ்-மையப்படுத்தப்பட்ட செயலிகள் போன்ற தளங்களில் அதிநவீன மாதிரிகளை இயக்குவதை சாத்தியமாக்குகிறது. இது ஸ்மார்ட் ஹோம் சாதனங்கள், தொழில்துறை ஆட்டோமேஷன், ரோபாட்டிக்ஸ் மற்றும் உடனடி பதில்கள் மிக முக்கியமான தன்னாட்சி அமைப்புகளில் உள்ள பயன்பாடுகளுக்கு கிளவுட் லேட்டன்சியை நீக்கி, நிகழ்நேர செயலாக்கம் உள்ளூரில் நடைபெறுவதை உறுதி செய்கிறது.
• தனியுரிமை மற்றும் பாதுகாப்பை மேம்படுத்துதல்: அனுமானம் நேரடியாக சாதனத்தில் நடைபெற அனுமதிப்பதன் மூலம், வடிகட்டப்பட்ட மாதிரிகள் சாத்தியமான முக்கியமான மூலத் தரவை கிளவுட்டிற்கு அனுப்ப வேண்டிய தேவையைக் குறைக்கின்றன. பயனர் குரல் கட்டளைகள், தனிப்பட்ட சுகாதார அளவீடுகள் அல்லது தனியுரிம செயல்பாட்டுத் தரவு உள்ளூரில் செயலாக்கப்படலாம், இது தனியுரிமையை கணிசமாக வலுப்படுத்துகிறது மற்றும் தரவு பரிமாற்றத்துடன் தொடர்புடைய பாதிப்புகளைக் குறைக்கிறது.
• தொழில்கள் முழுவதும் அளவிடுதலை அதிகரித்தல்: செயல்திறன், மலிவு மற்றும் மேம்பட்ட தனியுரிமை ஆகியவற்றின் கலவையானது பல்வேறு துறைகளில் AI வரிசைப்படுத்தலை அளவில் திறக்கிறது.
  • வாகனம்: வாகன அமைப்புகள் சிக்கலான ஓட்டுநர் உதவிப் பணிகள், இயற்கை மொழி தொடர்பு மற்றும் முன்கணிப்பு பராமரிப்பு ஆகியவற்றை உள்ளூரில் செய்ய முடியும்.
  • சுகாதாரம்: மருத்துவ சாதனங்கள் நிலையான கிளவுட் சார்பு இல்லாமல் நிகழ்நேர கண்டறிதல், நோயாளி கண்காணிப்பு மற்றும் தனிப்பயனாக்கப்பட்ட நுண்ணறிவுகளை வழங்க முடியும்.
  • தொழில்துறை IoT: தொழிற்சாலைகள் சிறந்த தரக் கட்டுப்பாடு, ரோபோ செயல்பாடுகளை மேம்படுத்துதல் மற்றும் ஆன்-சைட் நுண்ணறிவுடன் உபகரணங்களின் தோல்விகளைக் கணிக்க முடியும்.
  • நுகர்வோர் மின்னணுவியல்: ஸ்மார்ட் ஹோம் சாதனங்கள் அதிக பதிலளிக்கக்கூடியதாகவும், தனிப்பயனாக்கப்பட்டதாகவும், தனிப்பட்டதாகவும் மாறும்.
  • ஸ்மார்ட் நகரங்கள்: உள்கட்டமைப்பு கண்காணிப்பு, போக்குவரத்து மேலாண்மை மற்றும் சுற்றுச்சூழல் உணர்தல் ஆகியவை மிகவும் திறமையாகவும் நெகிழ்ச்சியுடனும் செய்யப்படலாம்.

டிஸ்டில்லேஷன் AI-ஐ பிரதானமாக கிளவுட்-அடிப்படையிலான தொழில்நுட்பத்திலிருந்து எட்ஜ் கம்ப்யூட்டிங்கின் பரந்த மற்றும் மாறுபட்ட நிலப்பரப்பில் திறம்பட பயன்படுத்தக்கூடிய ஒரு பல்துறை கருவியாக மாற்றுகிறது, இது புதிய பயன்பாட்டு நிகழ்வுகளை செயல்படுத்துகிறது மற்றும் புதுமையை துரிதப்படுத்துகிறது.

தத்துவப் பிளவு: எட்ஜில் திறந்தநிலை vs. தனியுரிமக் கட்டுப்பாடு

DeepSeek-R1 போன்ற ஓபன்-வெயிட் மாடல்களை நோக்கிய நகர்வு, டிஸ்டில்லேஷன் போன்ற நுட்பங்கள் மூலம் மேம்படுத்தப்பட்டது, இது ஒரு தொழில்நுட்ப தீர்வை விட மேலானது; இது பெரிய அளவிலான கிளவுட் AI-க்கு பெரும்பாலும் விரும்பப்படும் பாரம்பரிய மூடிய, தனியுரிம அணுகுமுறையுடன் ஒப்பிடும்போது தத்துவத்தில் ஒரு அடிப்படை வேறுபாட்டைப் பிரதிபலிக்கிறது. இந்த வேறுபாடு எட்ஜ் நுண்ணறிவின் எதிர்காலத்திற்கு குறிப்பிடத்தக்க தாக்கங்களைக் கொண்டுள்ளது.

மூடிய LLM-கள், பொதுவாக பெரிய நிறுவனங்களால் கட்டுப்படுத்தப்படுகின்றன, மையப்படுத்தப்பட்ட வரிசைப்படுத்தலுக்கு முன்னுரிமை அளிக்கின்றன மற்றும் பெரும்பாலும் பயனர்களை குறிப்பிட்ட சுற்றுச்சூழல் அமைப்புகளுக்குள் பூட்டுகின்றன. சக்திவாய்ந்ததாக இருந்தாலும், எட்ஜின் தனித்துவமான கட்டுப்பாடுகள் மற்றும் பல்வேறு தேவைகளுக்கு ஏற்ப மாற்றியமைக்க அவை வரையறுக்கப்பட்ட நெகிழ்வுத்தன்மையை வழங்குகின்றன.

ஓபன்-வெயிட் மாதிரிகள், மாறாக, ஒரு தனிப்பயனாக்கப்பட்ட, மாற்றியமைக்கக்கூடிய மற்றும் தனியுரிமை-மையப்படுத்தப்பட்ட AI சுற்றுச்சூழல் அமைப்பை வளர்க்கின்றன. அவற்றின் உள் அளவுருக்கள் அணுகக்கூடியவை என்பதால், அவை டெவலப்பர்கள் மற்றும் நிறுவனங்களுக்கு பல முக்கிய வழிகளில் அதிகாரம் அளிக்கின்றன:

• முன்னோடியில்லாத தனிப்பயனாக்கம்: டெவலப்பர்கள் மாதிரியை அப்படியே பயன்படுத்த மட்டுப்படுத்தப்படவில்லை. அவர்கள் தங்கள் தனித்துவமான பயன்பாட்டிற்குத் தொடர்புடைய குறிப்பிட்ட தரவுத்தொகுப்புகளில் மாதிரியை நன்றாகச் சரிசெய்யலாம், அதன் கட்டமைப்பை மாற்றியமைக்கலாம் அல்லது அதைத் தங்கள் தற்போதைய அமைப்புகளுடன் ஆழமாக ஒருங்கிணைக்கலாம். இது எட்ஜில் உள்ள முக்கிய பணிகளுக்காக மேம்படுத்தப்பட்ட மிகவும் வடிவமைக்கப்பட்ட AI தீர்வுகளை அனுமதிக்கிறது.
• வெளிப்படைத்தன்மை மூலம் மேம்பட்ட பாதுகாப்பு: சிலருக்கு எதிர் உள்ளுணர்வு என்றாலும், திறந்தநிலை உண்மையில் பாதுகாப்பை வலுப்படுத்த முடியும். பரந்த சமூகம் மாதிரியின் எடைகள் மற்றும் கட்டமைப்பை ஆய்வு செய்யும் திறன் பாதிப்புகளைக் கண்டறிந்து கூட்டாக நிவர்த்தி செய்ய அனுமதிக்கிறது. இது மூடிய மாதிரிகளின் ‘தெளிவின்மை மூலம் பாதுகாப்பு’ அணுகுமுறைக்கு முரணானது, அங்கு பயனர்கள் வெறுமனே விற்பனையாளரை நம்ப வேண்டும்.
• ஜனநாயகப்படுத்தப்பட்ட புதுமை: திறந்த அணுகல் ஆராய்ச்சியாளர்கள், ஸ்டார்ட்அப்கள் மற்றும் தனிப்பட்ட டெவலப்பர்கள் அதிநவீன AI உடன் பரிசோதனை செய்வதற்கும் உருவாக்குவதற்கும் நுழைவுத் தடையைக் குறைக்கிறது. இது ஒரு துடிப்பான மற்றும் போட்டித்தன்மை வாய்ந்த புதுமை நிலப்பரப்பை வளர்க்கிறது, எட்ஜ் AI மேம்பாட்டில் முன்னேற்றத்தை துரிதப்படுத்துகிறது.
• விற்பனையாளர் பூட்டிலிருந்து சுதந்திரம்: நிறுவனங்கள் ஒரு வழங்குநரின் தனியுரிம AI சுற்றுச்சூழல் அமைப்பு, விலை நிர்ணய அமைப்பு அல்லது வரைபடத்துடன் பிணைக்கப்படவில்லை. அவர்கள் வெவ்வேறு வரிசைப்படுத்தல் தளங்களைத் தேர்வுசெய்யவும், அவற்றின் வளர்ந்து வரும் தேவைகளுக்கு ஏற்ப மாதிரிகளை மாற்றியமைக்கவும், தங்கள் AI மூலோபாயத்தின் மீது அதிக கட்டுப்பாட்டைப் பராமரிக்கவும் சுதந்திரம் உள்ளது.

இந்த திறந்த அணுகுமுறை, குறிப்பாக எட்ஜின் துண்டு துண்டான மற்றும் பயன்பாடு-குறிப்பிட்ட இயல்புக்கு இன்றியமையாதது, திறமையானவை மட்டுமல்ல, மேலும் வெளிப்படையான, மாற்றியமைக்கக்கூடிய மற்றும் நிஜ-உலக வரிசைப்படுத்தல்களின் குறிப்பிட்ட செயல்பாட்டு யதார்த்தங்கள் மற்றும் தனியுரிமைத் தேவைகளுடன் சீரமைக்கப்பட்ட AI தீர்வுகளை உருவாக்குவதை எளிதாக்குகிறது.

புதுமையை மேம்படுத்துதல்: ஓபன் வெயிட்ஸின் உறுதியான நன்மைகள்

மாதிரி எடைகளின் கிடைக்கும் தன்மை, டெவலப்பர்கள் டிஸ்டில்லேஷனுக்கு அப்பாற்பட்ட சக்திவாய்ந்த மேம்படுத்தல் நுட்பங்களைப் பயன்படுத்த உதவுகிறது, மேலும் கோரும் எட்ஜ் சூழலுக்காக AI-ஐ மேலும் வடிவமைக்கிறது:

• குவாண்டைசேஷன் (Quantization): இந்த நுட்பம் மாதிரியில் பயன்படுத்தப்படும் எண்களின் (எடைகள் மற்றும் செயல்பாடுகள்) துல்லியத்தைக் குறைக்கிறது, எடுத்துக்காட்டாக, 32-பிட் மிதக்கும் புள்ளி எண்களை 8-பிட் முழு எண்களாக மாற்றுகிறது. இது மாதிரி அளவை கணிசமாகக் குறைக்கிறது மற்றும் துல்லியத்தில் குறைந்தபட்ச தாக்கத்துடன் கணக்கீட்டை வேகப்படுத்துகிறது, இது வள-கட்டுப்படுத்தப்பட்ட வன்பொருளுக்கு ஏற்றதாக அமைகிறது. பயனுள்ள குவாண்டைசேஷனைப் பயன்படுத்த எடைகளுக்கான திறந்த அணுகல் அவசியம்.
• மாடல் ப்ரூனிங் (Model Pruning): இது நரம்பியல் நெட்வொர்க்கிற்குள் தேவையற்ற அல்லது முக்கியமற்ற இணைப்புகளை (எடைகள்) கண்டறிந்து அகற்றுவதை உள்ளடக்கியது, இது ஒரு மரத்திலிருந்து தேவையற்ற கிளைகளை வெட்டுவதைப் போன்றது. ப்ரூனிங் மேலும் மாதிரி அளவையும் கணக்கீட்டுச் செலவையும் குறைக்கிறது, எட்ஜ் வரிசைப்படுத்தலுக்கான செயல்திறனை மேம்படுத்துகிறது. மீண்டும், இதற்கு மாதிரியின் கட்டமைப்பிற்கு ஆழமான அணுகல் தேவை.
• திறந்த ஒத்துழைப்பு: உலகளாவிய டெவலப்பர் மற்றும் ஆராய்ச்சி சமூகம் கூட்டாக ஓபன்-வெயிட் மாதிரிகளை மேம்படுத்துவதற்கு பங்களிக்க முடியும். கண்டுபிடிப்புகள், நுட்பங்கள் மற்றும் மேம்பாடுகளைப் பகிர்வதன் மூலம், இந்த மாதிரிகளின் வலிமை, செயல்திறன் மற்றும் பாதுகாப்பு எந்தவொரு ஒற்றை நிறுவனமும் தனியாக அடையக்கூடியதை விட மிக வேகமாக உருவாக முடியும். இந்த கூட்டு சுற்றுச்சூழல் அமைப்பு எட்ஜ் AI-க்குக் கிடைக்கும் கருவிகளை தொடர்ந்து செம்மைப்படுத்துகிறது.
• மாற்றியமைக்கும் தன்மை மற்றும் கட்டுப்பாடு: நிறுவனங்கள் தங்கள் துல்லியமான செயல்பாட்டுத் தேவைகளுக்கு ஏற்ப மாதிரிகளை மாற்றியமைக்கவும் மாற்றியமைக்கவும், அவற்றை தனியுரிம தரவு மூலங்களுடன் பாதுகாப்பாக ஒருங்கிணைக்கவும், குறிப்பிட்ட தொழில் விதிமுறைகளுக்கு இணங்குவதை உறுதிப்படுத்தவும் முக்கியமான திறனைப் பெறுகின்றன - இது மூடிய, பிளாக்-பாக்ஸ் மாதிரிகளுடன் சாத்தியமில்லாத ஒரு கட்டுப்பாட்டு நிலை.

இந்த உறுதியான நன்மைகள் - குவாண்டைசேஷன் மற்றும் ப்ரூனிங் போன்ற நுட்பங்கள் மூலம் செயல்திறன் ஆதாயங்கள், திறந்த ஒத்துழைப்பு வழியாக துரிதப்படுத்தப்பட்ட முன்னேற்றம், மற்றும் மேம்பட்ட கட்டுப்பாடு மற்றும் மாற்றியமைக்கும் தன்மை - ஓபன்-வெயிட் மாதிரிகள் ஏன் எட்ஜிற்கான அடுத்த தலைமுறை வேகமான, திறமையான மற்றும் தனியுரிமை-மையப்படுத்தப்பட்ட AI தீர்வுகளை உருவாக்கும் டெவலப்பர்களுக்கு விருப்பமான தேர்வாக மாறி வருகின்றன என்பதை அடிக்கோடிட்டுக் காட்டுகின்றன.

எட்ஜ்-மேம்படுத்தப்பட்ட வன்பொருளின் இன்றியமையாத பங்கு

டிஸ்டில்லேஷன், குவாண்டைசேஷன் மற்றும் ப்ரூனிங் போன்ற நுட்பங்கள் மூலம் AI மாதிரிகளை மேம்படுத்துவது முக்கியமானது என்றாலும், வெற்றிகரமான எட்ஜ் AI-க்கு மென்பொருள் மேம்பாடுகள் மட்டும் சமன்பாட்டின் பாதி மட்டுமே. அடிப்படை வன்பொருள் தளம் சமமாக முக்கிய பங்கு வகிக்கிறது. மிகவும் திறமையான AI மாதிரிகளை கூட திறம்பட இயக்க, பணிக்காக குறிப்பாக வடிவமைக்கப்பட்ட கணக்கீட்டு தீர்வுகள் தேவை.

இங்குதான் AI-நேட்டிவ் கணக்கீட்டு தளங்கள், Synaptics Astra தளம் போன்றவை, அவசியமாகின்றன. ஒரு சிறிய மாதிரி இருப்பது மட்டும் போதாது; வன்பொருள் AI பணிச்சுமைகளை அதிகபட்ச செயல்திறனுடன் செயல்படுத்த கட்டமைக்கப்பட வேண்டும். AI-நேட்டிவ் எட்ஜ் வன்பொருளின் பண்புகள் பெரும்பாலும் பின்வருவனவற்றை உள்ளடக்குகின்றன:

• அர்ப்பணிக்கப்பட்ட நியூரல் பிராசசிங் யூனிட்கள் (NPUs): AI அனுமானத்தில் பொதுவான கணித செயல்பாடுகளுக்காக வெளிப்படையாக வடிவமைக்கப்பட்ட சிறப்பு முடுக்கிகள், இந்தப் பணிகளுக்காக பொது-நோக்க CPU-கள் அல்லது GPU-களுடன் ஒப்பிடும்போது கணிசமாக அதிக செயல்திறன் மற்றும் குறைந்த சக்தி நுகர்வை வழங்குகின்றன.
• மேம்படுத்தப்பட்ட நினைவக துணை அமைப்புகள்: நினைவகம் மற்றும் செயலாக்க அலகுகளுக்கு இடையில் தரவு நகர்வை திறமையாகக் கையாள்வது AI செயல்திறனுக்கு முக்கியமானது. AI-நேட்டிவ் தளங்கள் பெரும்பாலும் மேம்படுத்தப்பட்ட நினைவக அலைவரிசை மற்றும் கேச்சிங் உத்திகளைக் கொண்டுள்ளன.
• சக்தி மேலாண்மை அம்சங்கள்: செயலில் செயலாக்கம் மற்றும் செயலற்ற காலங்களில் ஆற்றல் நுகர்வைக் குறைக்க அதிநவீன சக்தி மேலாண்மை திறன்கள், பேட்டரி மூலம் இயங்கும் சாதனங்களுக்கு முக்கியமானது.
• ஒருங்கிணைந்த பாதுகாப்பு அம்சங்கள்: மாதிரி எடைகள், தரவு மற்றும் சாதன ஒருமைப்பாட்டைப் பாதுகாக்க வன்பொருள்-நிலை பாதுகாப்பு.

மேம்படுத்தப்பட்ட ஓபன்-சோர்ஸ் மாதிரிகள் AI அனுமானத்திற்காக குறிப்பாக உருவாக்கப்பட்ட வன்பொருளில் இயங்கும் போது எட்ஜ் AI-இன் உண்மையான ஆற்றல் திறக்கப்படுகிறது. திறமையான மென்பொருள் மற்றும் திறமையான வன்பொருள் இடையே ஒரு ஒத்திசைவான உறவு உள்ளது. Astra போன்ற தளங்கள் தேவையான கணக்கீட்டு குதிரைத்திறன் மற்றும் சக்தி செயல்திறனை வழங்க வடிவமைக்கப்பட்டுள்ளன, இது வடிகட்டப்பட்ட மற்றும் மேம்படுத்தப்பட்ட ஓபன்-வெயிட் மாதிரிகளின் நன்மைகளை நிஜ-உலக எட்ஜ் வரிசைப்படுத்தல்களில் முழுமையாக உணர அனுமதிக்கிறது. இந்த வன்பொருள் அடித்தளம் சிறிய மாதிரிகளின் தத்துவார்த்த நன்மைகள் நடைமுறை, செயல்திறன் மிக்க மற்றும் அளவிடக்கூடிய எட்ஜ் நுண்ணறிவாக மொழிபெயர்க்கப்படுவதை உறுதி செய்கிறது.

விநியோகிக்கப்பட்ட நுண்ணறிவின் எதிர்காலத்தை உருவாக்குதல்

செயற்கை நுண்ணறிவின் வரிசைப்படுத்தல் மற்றும் பயன்பாட்டில் ஒரு புதிய சகாப்தத்தின் விடியலைக் காண்கிறோம். எட்ஜின் தனித்துவமான கோரிக்கைகளுக்கான கிளவுட்-மையப்படுத்தப்பட்ட மாதிரியின் வரம்புகள் பெருகிய முறையில் தெளிவாகி வருகின்றன. ஓபன்-வெயிட் AI மாதிரிகள், டிஸ்டில்லேஷன் போன்ற மேம்பட்ட மேம்படுத்தல் நுட்பங்கள் மற்றும் AI-நேட்டிவ் கணக்கீட்டு வன்பொருள் ஆகியவற்றின் ஒருங்கிணைப்பு ஒரு சக்திவாய்ந்த புதிய முன்னுதாரணத்தை உருவாக்குகிறது. இந்த ஒருங்கிணைப்பு ஒரு அதிகரிக்கும் முன்னேற்றம் மட்டுமல்ல; இது நிலப்பரப்பை அடிப்படையாக மறுவடிவமைக்கிறது, அளவிடக்கூடிய, செலவு குறைந்த மற்றும் உண்மையாக பயனுள்ள நுண்ணறிவை நேரடியாக எட்ஜில், தரவு உருவாக்கப்படும் மற்றும் முடிவுகள் எடுக்கப்பட வேண்டிய இடத்தில், மேம்படுத்தவும் வரிசைப்படுத்தவும் உதவுகிறது. இந்த மாற்றம் AI தொலைதூர தரவு மையங்களுக்குள் மட்டுப்படுத்தப்படாமல், நமது பௌதீக உலகின் கட்டமைப்பில் தடையின்றி பிணைக்கப்பட்டு, எண்ணற்ற சாதனங்கள் மற்றும் தொழில்களில் புதுமையை இயக்கும் ஒரு எதிர்காலத்தை உறுதியளிக்கிறது.