ஜெமினி 2.5 ப்ரோ: பாதுகாப்பு அறிக்கை விடுபட்டது

கூகிளின் ஜெமினி 2.5 ப்ரோ செயற்கை நுண்ணறிவு மாதிரியின் சமீபத்திய வெளியீடு, முக்கியமான பாதுகாப்பு அறிக்கை இல்லாததால் சர்ச்சையை ஏற்படுத்தியுள்ளது. அமெரிக்க அரசாங்கத்திற்கும் சர்வதேச மாநாடுகளுக்கும் கூகிள் அளித்த வாக்குறுதிகளுக்கு இது முரணாகத் தெரிகிறது. செயற்கை நுண்ணறிவு மாதிரிகள் தொடர்பான திறன்கள் மற்றும் சாத்தியமான அபாயங்கள் குறித்து பொதுமக்களுக்கு அறிவிப்பதற்கான அவர்களின் உறுதிமொழிகளை கூகிள் மற்றும் பிற முன்னணி செயற்கை நுண்ணறிவு ஆய்வகங்கள் பின்வாங்கிக் கொண்டிருக்கிறதா என்று நிபுணர்கள் இப்போது கேள்வி எழுப்புகின்றனர்.

வாக்குறுதிகள் மீறல் மற்றும் நிறைவேற்றப்படாத கடமைகள்

ஜெமினி 2.5 ப்ரோ வெளியீட்டுடன் பாதுகாப்பு ஆராய்ச்சி அறிக்கையை வழங்கத் தவறியது, முந்தைய உறுதிமொழிகளின் மீறலாகக் கருதப்படுகிறது. ஜூலை 2023 இல், பிடன் நிர்வாகத்தால் கூட்டப்பட்ட வெள்ளை மாளிகை கூட்டத்தில் கூகிள் பங்கேற்றது, அங்கு மற்ற முக்கிய செயற்கை நுண்ணறிவு நிறுவனங்களுடன் இணைந்து தொடர்ச்சியான உறுதிமொழிகளில் கையெழுத்திட்டது. அந்த நேரத்தில் தற்போதைய அதிநவீன செயற்கை நுண்ணறிவை மிஞ்சிய அனைத்து முக்கிய பொது மாதிரி வெளியீடுகளுக்கும் அறிக்கைகளை வெளியிடுவது ஒரு முக்கிய உறுதிமொழியாகும். அதன் முன்னேற்றங்களைக் கருத்தில் கொண்டு, ஜெமினி 2.5 ப்ரோ கிட்டத்தட்ட நிச்சயமாக இந்த வெள்ளை மாளிகை உறுதிமொழிகளின் எல்லைக்குள் வரும்.

அந்த நேரத்தில்,இந்த அறிக்கைகள் பின்வருவனவற்றை உள்ளடக்கியிருக்க வேண்டும் என்று கூகிள் ஒப்புக்கொண்டது:

• நடத்தப்பட்ட பாதுகாப்பு மதிப்பீடுகள், ஆபத்தான திறன்களின் மதிப்பீடுகள் உட்பட.
• பொருத்தமான பயன்பாட்டு நிகழ்வுகளை பாதிக்கக்கூடிய குறிப்பிடத்தக்க செயல்திறன் வரம்புகள்.
• நியாயம் மற்றும் பாரபட்சம் போன்ற சமூக அபாயங்கள் குறித்த மாதிரியின் விளைவுகள் பற்றிய விவாதங்கள்.
• மாடலின் வரிசைக்கு உடற்தகுதியை மதிப்பிடுவதற்கு விரோதமான சோதனைகளின் முடிவுகள்.

அக்டோபர் 2023 இல் ஜப்பானின் ஹிரோஷிமாவில் நடந்த ஜி7 கூட்டத்தைத் தொடர்ந்து, கூகிள் மற்றும் பிற நிறுவனங்கள் மேம்பட்ட செயற்கை நுண்ணறிவை உருவாக்குவதற்கான தன்னார்வ நடத்தை விதிக்கு இணங்க உறுதியளித்தன. இந்த ஜி7 குறியீடு மேம்பட்ட செயற்கை நுண்ணறிவு அமைப்புகளின் திறன்கள், வரம்புகள் மற்றும் பொருத்தமான மற்றும் பொருத்தமற்ற பயன்பாடுகளை பகிரங்கமாக அறிக்கை செய்வதன் முக்கியத்துவத்தை வலியுறுத்தியது. செயற்கை நுண்ணறிவு துறையில் வெளிப்படைத்தன்மை மற்றும் பொறுப்புக்கூறலை மேம்படுத்துவதே இதன் நோக்கம்.

மே 2024 இல், தென் கொரியாவின் சியோலில் நடைபெற்ற செயற்கை நுண்ணறிவு பாதுகாப்பு குறித்த சர்வதேச மாநாட்டில், கூகிள் தனது உறுதிமொழிகளை மீண்டும் வலியுறுத்தியது. மாதிரி திறன்கள், வரம்புகள், பொருத்தமான மற்றும் பொருத்தமற்ற பயன்பாட்டு நிகழ்வுகள் மற்றும் அதன் இடர் மதிப்பீடுகள் மற்றும் விளைவுகளைச் சுற்றியுள்ள வெளிப்படைத்தன்மையை வெளிப்படுத்துவதாக நிறுவனம் உறுதியளித்தது.

கூகிளின் பதில் மற்றும் தாமதமான வெளிப்படைத்தன்மை

பாதுகாப்பு அறிக்கை காணாமல் போனது குறித்து விசாரணைகளுக்கு பதிலளித்த கூகிள் டீப்மைண்ட் செய்தித் தொடர்பாளர், ஜெமினி மாதிரிகளை உருவாக்கும் பிரிவானது, சமீபத்திய ஜெமினி முன் வெளியீட்டு சோதனைக்கு உட்படுத்தப்பட்டதாகக் கூறினார். மாடல் வெளியான முன் உள் அபிவிருத்தி மதிப்பீடுகள் மற்றும் உத்தரவாத மதிப்பீடுகள் இதில் அடங்கும். கூடுதல் பாதுகாப்பு தகவல்கள் மற்றும் மாதிரி அட்டைகளுடன் கூடிய அறிக்கை “விரைவில் வரவிருக்கிறது” என்று செய்தித் தொடர்பாளர் தெரிவித்தார். இருப்பினும், ஏப்ரல் 2 ஆம் தேதி வெளியிடப்பட்ட ஆரம்ப அறிக்கை இருந்தபோதிலும், இதுவரை எந்த மாதிரி அட்டையும் வெளியிடப்படவில்லை.

பாதுகாப்பு அறிக்கையிடலை புறக்கணிக்கும் பரவலான போக்கு

செயற்கை நுண்ணறிவு பாதுகாப்புக்கான தனது உறுதிப்பாட்டைப் பொறுத்தவரை கூகிள் மட்டும் விமர்சனத்தை எதிர்கொள்ளவில்லை. இந்த ஆண்டின் தொடக்கத்தில், OpenAI அதன் டீப் ரிசர்ச் மாதிரிக்கான சரியான நேரத்தில் மாதிரி அட்டையை வெளியிடத் தவறியதற்காக விசாரணையை எதிர்கொண்டது. அதற்கு பதிலாக, திட்டத்தின் ஆரம்ப வெளியீட்டிற்கு வாரங்களுக்குப் பிறகு அவர்கள் ஒரு கணினி அட்டையை வெளியிட்டனர். இதேபோல், லாமா 4 க்கான மெட்டாவின் சமீபத்திய பாதுகாப்பு அறிக்கை மிகவும் சுருக்கமாகவும், விவரம் குறைவாகவும் இருப்பதாக விமர்சிக்கப்பட்டுள்ளது.

இந்த நிகழ்வுகள் செயற்கை நுண்ணறிவுத் துறையில் ஒரு கவலையான போக்கை எடுத்துக்காட்டுகின்றன, அங்கு சில முக்கிய ஆய்வகங்கள் தங்கள் மாதிரி வெளியீடுகளுக்கு ஏற்ப பாதுகாப்பு அறிக்கையிடலுக்கு முன்னுரிமை அளிக்கவில்லை. குறிப்பாக இந்த நிறுவனங்கள் அமெரிக்க அரசாங்கத்திற்கும் உலகளாவிய சமூகத்திற்கும் இதுபோன்ற அறிக்கைகளை தயாரிப்பதற்கான தன்னார்வ உறுதிமொழிகளை அளித்திருப்பதால் இது கவலையளிக்கிறது. இந்த உறுதிமொழிகள் ஆரம்பத்தில் 2023 இல் பிடன் நிர்வாகத்திடம் வழங்கப்பட்டன, பின்னர் ஹிரோஷிமாவில் நடந்த செயற்கை நுண்ணறிவு உச்சி மாநாட்டில் ஜி7 நாடுகளால் ஏற்றுக்கொள்ளப்பட்ட செயற்கை நுண்ணறிவு நடத்தை விதிக்கு இணங்க உறுதிமொழிகள்மூலம் வலுப்படுத்தப்பட்டன.

ஜனநாயகம் மற்றும் தொழில்நுட்ப மையத்தில் செயற்கை நுண்ணறிவு நிர்வாக ஆலோசகரான கெவின் பாங்க்ஸ்டன் தனது ஏமாற்றத்தை வெளிப்படுத்தினார், இந்த தோல்விகள் சம்பந்தப்பட்ட நிறுவனங்களின் நம்பகத்தன்மையை குறைமதிப்பிற்கு உட்படுத்துவதாகவும், பொறுப்பான செயற்கை நுண்ணறிவு மேம்பாட்டிற்கான அவர்களின் உறுதிப்பாடு குறித்து கேள்விகளை எழுப்புவதாகவும் கூறினார்.

பதிலளிக்கப்படாத கேள்விகள் மற்றும் வெளிப்புற மதிப்பீடு

ஜெமினி 2.5 ப்ரோவை யுகே செயற்கை நுண்ணறிவு பாதுகாப்பு நிறுவனம் அல்லது அமெரிக்க செயற்கை நுண்ணறிவு பாதுகாப்பு நிறுவனம் வெளிப்புற மதிப்பீட்டிற்கு சமர்ப்பித்ததா என்பது குறித்த குறிப்பிட்ட கேள்விகளுக்கு கூகிள் செய்தித் தொடர்பாளரின் அறிக்கை பதிலளிக்கத் தவறிவிட்டது. முன்னதாக, கூகிள் தனது ஜெமினி மாடல்களின் முந்தைய தலைமுறைகளை யுகே செயற்கை நுண்ணறிவு பாதுகாப்பு நிறுவனத்தின் மதிப்பீட்டிற்கு வழங்கியிருந்தது.

சியோல் பாதுகாப்பு உச்சி மாநாட்டில், கூகிள் “எல்லைப்புற செயற்கை நுண்ணறிவு பாதுகாப்பு உறுதிமொழிகளில்” கையெழுத்திட்டது, இதில் பாதுகாப்பு மதிப்பீடுகளை செயல்படுத்துவதில் பொது வெளிப்படைத்தன்மையை வழங்குவதற்கான உறுதிமொழி அடங்கும். அபாயத்தை அதிகரிக்கும் அல்லது சமூக நன்மைக்கு விகிதாசாரமற்ற அளவிற்கு முக்கியமான வணிக தகவல்களை வெளிப்படுத்தும் நிகழ்வுகளில் மட்டுமே விதிவிலக்குகள் இருந்தன. பகிரங்கமாகப் பகிர முடியாத கூடுதல் தகவல்களையும் நிறுவனங்கள் அடிப்படையாகக் கொண்ட நாடுகளின் அரசாங்கங்களுடன் பகிர்ந்து கொள்ள வேண்டும், இது கூகிள் விஷயத்தில் அமெரிக்காவாக இருக்கும் என்றும் அந்த உறுதிமொழி கூறியது.

அரசாங்கங்கள், சிவில் சமூகம், கல்வியாளர்கள் மற்றும் பொதுமக்கள் போன்ற வெளிப்புற நடிகர்கள் தங்கள் செயற்கை நுண்ணறிவு மாதிரிகளின் அபாயங்களை மதிப்பிடுவதில் எவ்வாறு ஈடுபடுகிறார்கள் என்பதை விளக்க நிறுவனங்களும் உறுதியளித்தன. கூகிள் ஜெமினி 2.5 ப்ரோவை அமெரிக்க அல்லது யுகே அரசாங்க மதிப்பீட்டாளர்களுக்கு சமர்ப்பித்ததா என்பது குறித்த நேரடி கேள்விகளுக்கு பதிலளிக்கத் தவறியது இந்த உறுதிமொழியை மீறக்கூடும்.

வெளிப்படைத்தன்மையை விட வரிசைப்படுத்தலுக்கு முன்னுரிமை

பாதுகாப்பு அறிக்கை இல்லாதது, கூகிள் வெளிப்படைத்தன்மை மற்றும் முழுமையான பாதுகாப்பு மதிப்பீடுகளை விட விரைவான வரிசைப்படுத்தலுக்கு முன்னுரிமை அளிப்பதாக கவலைகளை எழுப்பியுள்ளது. ஆக்ஸ்போர்டு இணைய நிறுவனத்தில் பேராசிரியரும் மூத்த ஆராய்ச்சியாளருமான சாண்ட்ரா வாச்சர், பொறுப்பான ஆராய்ச்சி மற்றும் கண்டுபிடிப்புகளில் வெளிப்படைத்தன்மையின் முக்கியத்துவத்தை வலியுறுத்தினார். அவர் பிற தொழில்களுடன் ஒரு ஒப்புமையை வரைந்தார், “இது ஒரு கார் அல்லது விமானமாக இருந்தால், இதை முடிந்தவரை விரைவாக சந்தைக்குக் கொண்டு வருவோம் என்று சொல்ல மாட்டோம், பின்னர் பாதுகாப்பு அம்சங்களைப் பார்ப்போம்.” பொதுவான செயற்கை நுண்ணறிவு துறையில் “இதை வெளியே போட்டுவிட்டு கவலைப்படுவது, விசாரிப்பது மற்றும் பிழைகளை சரிசெய்வது” என்ற மனநிலை இருப்பதாக வாச்சர் கவலை தெரிவித்தார்.

அரசியல் மாற்றங்கள் மற்றும் போட்டி அழுத்தங்கள்

சமீபத்திய அரசியல் மாற்றங்கள், பெரிய தொழில்நுட்ப நிறுவனங்களிடையே அதிகரிக்கும் போட்டியுடன் சேர்ந்து, நிறுவனங்கள் செயற்கை நுண்ணறிவு மாதிரிகளை வரிசைப்படுத்தியதால், முந்தைய பாதுகாப்பு உறுதிமொழிகளிலிருந்து விலகிச் செல்லக்கூடும். வாச்சர், “இந்த நிறுவனங்களுக்கான அழுத்தம் வேகமாக இருப்பது, விரைவாக இருப்பது, முதலாவதாக இருப்பது, சிறந்ததாக இருப்பது, ஆதிக்கம் செலுத்துவது, முன்பு இருந்ததை விட அதிகமாக உள்ளது” என்று கூறினார், மேலும் தொழில் முழுவதும் பாதுகாப்பு தரநிலைகள் குறைந்து வருவதாகவும் கூறினார்.

செயற்கை நுண்ணறிவு பாதுகாப்பு நடைமுறைகள் புதுமையை தடுக்கின்றன என்ற தொழில்நுட்ப நாடுகள் மற்றும் சில அரசாங்கங்களிடையே அதிகரித்து வரும் கவலைகளால் இந்த நழுவும் தரநிலைகள் இயக்கப்படலாம். அமெரிக்காவில், டிரம்ப் நிர்வாகம் பிடன் நிர்வாகத்தை விட செயற்கை நுண்ணறிவு ஒழுங்குமுறைக்கு குறைந்த கண்டிப்பான அணுகுமுறையை ஏற்றுக்கொள்ளும் தனது விருப்பத்தை சுட்டிக்காட்டியுள்ளது. புதிய நிர்வாகம் ஏற்கனவே பிடன் காலத்து செயற்கை நுண்ணறிவு குறித்த நிர்வாக உத்தரவை ரத்து செய்துள்ளது மற்றும் தொழில்நுட்பத் தலைவர்களுடன் நெருங்கிய உறவுகளை வளர்த்து வருகிறது. பாரிஸில் நடந்த சமீபத்திய செயற்கை நுண்ணறிவு உச்சி மாநாட்டில், அமெரிக்க துணைத் தலைவர் ஜே.டி. வான்ஸ், பாதுகாப்புக்கு பதிலாக “வளர்ச்சிக்கு ஆதரவான செயற்கை நுண்ணறிவு கொள்கைகளுக்கு” முன்னுரிமை அளிக்க வேண்டும் என்றும், செயற்கை நுண்ணறிவு என்பது “டிரம்ப் நிர்வாகம் வீணடிக்காத ஒரு வாய்ப்பு” என்றும் கூறினார்.

அதே உச்சிமாநாட்டில், யுகே மற்றும் அமெரிக்கா ஆகிய இரண்டு நாடுகளும் செயற்கை நுண்ணறிவின் வளர்ச்சிக்கு “திறந்த”, “அனைவரையும் உள்ளடக்கிய” மற்றும் “நெறிமுறை” அணுகுமுறையை ஊக்குவிக்கும் செயற்கை நுண்ணறிவு குறித்த சர்வதேச ஒப்பந்தத்தில் கையெழுத்திட மறுத்துவிட்டன.

தெளிவான வெளிப்படைத்தன்மை தேவைகள்

பாங்க்ஸ்டன், “புதிய மாதிரிகளை வெளியிடும்போது, ​​இந்த நிறுவனங்கள் தங்களது மிக அடிப்படையான பாதுகாப்பு மற்றும் வெளிப்படைத்தன்மை உறுதிமொழிகளை நிறைவேற்றும் என்று நாங்கள் நம்ப முடியவில்லை என்றால் - அவர்கள் தாங்களாகவே முன்வந்து செய்த உறுதிமொழிகள் - அவை இந்தத் துறையில் ஆதிக்கம் செலுத்துவதற்கான போட்டி அவசரத்தில் மாதிரிகளை மிக விரைவாக வெளியிடுகின்றன என்பது தெளிவாகிறது.” செயற்கை நுண்ணறிவு உருவாக்குநர்கள் இந்த உறுதிமொழிகளில் தொடர்ந்து தடுமாறும் நிலையில், நிறுவனங்கள் தவிர்க்க முடியாத தெளிவான வெளிப்படைத்தன்மை தேவைகளை உருவாக்கி செயல்படுத்த சட்டமன்ற உறுப்பினர்களுக்கு இது பொறுப்பாகும் என்று அவர் மேலும் கூறினார்.

செயற்கை நுண்ணறிவு நிர்வாகத்திற்கான பரந்த தாக்கங்கள்

கூகிளின் ஜெமினி 2.5 ப்ரோ மற்றும் காணாமல் போன பாதுகாப்பு அறிக்கை தொடர்பான சர்ச்சை வலுவான செயற்கை நுண்ணறிவு நிர்வாக கட்டமைப்புகளின் முக்கியமான தேவையை அடிக்கோடிட்டுக் காட்டுகிறது. இந்த கட்டமைப்புகள் போன்ற முக்கிய சிக்கல்களை தீர்க்க வேண்டும்:

• வெளிப்படைத்தன்மை: செயற்கை நுண்ணறிவு உருவாக்குநர்கள் தங்கள் மாதிரிகளின் திறன்கள், வரம்புகள் மற்றும் சாத்தியமான அபாயங்கள் குறித்து வெளிப்படையாக இருப்பதை உறுதி செய்தல்.
• பொறுப்புக்கூறல்: செயற்கை நுண்ணறிவு அமைப்புகளை உருவாக்குவதற்கும் வரிசைப்படுத்துவதற்கும் தெளிவான பொறுப்புக்கூறல் வரிகளை நிறுவுதல்.
• பாதுகாப்பு: தீங்கு விளைவிக்கும் அபாயத்தை குறைக்க கடுமையான பாதுகாப்பு சோதனை மற்றும் மதிப்பீட்டு நடைமுறைகளை செயல்படுத்துதல்.
• நெறிமுறை பரிசீலனைகள்: நெறிமுறை கொள்கைகளை செயற்கை நுண்ணறிவு அமைப்புகளின் வடிவமைப்பு மற்றும் மேம்பாட்டில் ஒருங்கிணைத்தல்.
• பொது ஈடுபாடு: செயற்கை நுண்ணறிவு மற்றும் அதன் தாக்கங்கள் பற்றிய பரந்த புரிதலை வளர்ப்பதற்காக பொதுமக்களுடன் ஈடுபடுதல்.
• சர்வதேச ஒத்துழைப்பு: செயற்கை நுண்ணறிவு நிர்வாகத்திற்கான பொதுவான தரநிலைகள் மற்றும் சிறந்த நடைமுறைகளை உருவாக்க சர்வதேச அளவில் ஒத்துழைத்தல்.

ஜெமினி 2.5 ப்ரோவைச் சுற்றியுள்ள வெளிப்படைத்தன்மை இல்லாதது செயற்கை நுண்ணறிவு நிர்வாகத்தின் இந்த முக்கியமான அம்சங்களைப் புறக்கணிப்பதன் சாத்தியமான விளைவுகளை எடுத்துக்காட்டுகிறது. போதுமான வெளிப்படைத்தன்மை மற்றும் பொறுப்புக்கூறல் இல்லாமல், செயற்கை நுண்ணறிவு அமைப்புகளின் உண்மையான தாக்கத்தை மதிப்பிடுவதும், அவை பொறுப்பான மற்றும் நெறிமுறை வழியில் உருவாக்கப்பட்டு வரிசைப்படுத்தப்படுவதை உறுதி செய்வதும் கடினமாகிறது.

முன்னோக்கி நகர்தல்: அதிக பொறுப்புக்கான அழைப்பு

செயற்கை நுண்ணறிவு தொழில் ஒரு முக்கியமான கட்டத்தில் உள்ளது. செயற்கை நுண்ணறிவு தொழில்நுட்பங்கள் பெருகிய முறையில் சக்திவாய்ந்ததாகவும் பரவலானதாகவும் மாறும்போது, ​​டெவலப்பர்கள் பாதுகாப்பு, வெளிப்படைத்தன்மை மற்றும் நெறிமுறை பரிசீலனைகளுக்கு முன்னுரிமை அளிக்க வேண்டியது அவசியம். ஜெமினி 2.5 ப்ரோவைச் சுற்றியுள்ள சர்ச்சை தன்னார்வ உறுதிமொழிகள் எப்போதும் போதுமானதாக இல்லை என்பதை நினைவூட்டுகிறது. தெளிவான தரநிலைகளை நிறுவுவதிலும், இணக்கத்தை செயல்படுத்துவதிலும் அரசாங்கங்களும் ஒழுங்குமுறை அமைப்புகளும் அதிக தீவிரமான பங்கை வகிக்க வேண்டும்.

மேலும், செயற்கை நுண்ணறிவு டெவலப்பர்கள் பொதுமக்களுடன் ஈடுபடுவதும், செயற்கை நுண்ணறிவு மற்றும் அதன் தாக்கங்கள் குறித்த பரந்த புரிதலை வளர்ப்பதும் முக்கியம். செயற்கை நுண்ணறிவு அமைப்புகளின் வரம்புகள் மற்றும் சாத்தியமான அபாயங்கள் மற்றும் அந்த அபாயங்களைத் தணிப்பதற்கு எடுக்கப்படும் நடவடிக்கைகள் குறித்து வெளிப்படையாக இருப்பது இதில் அடங்கும். ஒன்றிணைந்து செயல்படுவதன் மூலம், செயற்கை நுண்ணறிவுத் தொழில், அரசாங்கங்கள் மற்றும் பொதுமக்கள் செயற்கை நுண்ணறிவு தொழில்நுட்பங்கள் ஒரு முழு சமூகத்திற்கும் பயனளிக்கும் வகையில் உருவாக்கப்பட்டு வரிசைப்படுத்தப்படுவதை உறுதி செய்ய முடியும்.