OCI Generative AI పై Meta Llama 4 విడుదల

ఆర్కిల్ క్లౌడ్ ఇన్ఫ్రాస్ట్రక్చర్ (OCI) జనరేటివ్ AI సర్వీస్ ఒక ఉత్తేజకరమైన కొత్త సభ్యుడిని స్వాగతించింది: మెటా లామా 4 моделస్ సిరీస్, స్కౌట్ మరియు మావెరిక్ ఉన్నాయి. ఈ మోడల్స్ ప్రత్యేకమైన మిక్స్చర్ ఆఫ్ ఎక్స్‌పర్ట్స్ (MoE) ఆర్కిటెక్చర్‌ను కలిగి ఉన్నాయి, ఇది ప్రాసెసింగ్ శక్తి మరియు సామర్థ్యాన్ని బాగా పెంచుతుంది. అవి ప్రత్యేకంగా మల్టీమోడల్ అవగాహన, బహుభాషా పనులు, కోడ్ జనరేషన్ మరియు టూల్ కాలింగ్ వంటి బహుళ డొమైన్‌లలో అద్భుతమైన పనితీరును ప్రదర్శించడానికి ఆప్టిమైజ్ చేయబడ్డాయి మరియు అధునాతన ఏజెంట్ సిస్టమ్‌లను నడపగలవు.

ప్రస్తుతం, ఈ మోడల్స్ కింది ప్రాంతాలలో సాధారణంగా అందుబాటులో (GA) ఉన్నాయి:

  • ఆన్-డిమాండ్: ORD (చికాగో)
  • స్పెషల్ AI క్లస్టర్: ORD (చికాగో), CRU(గారుల్హోస్), LHR (లండన్), KIK (కికూయు)

లామా 4 సిరీస్ యొక్క ముఖ్య ముఖ్యాంశాలు

మల్టీమోడల్ సామర్థ్యాలు: డేటా రకాల సరిహద్దులను బద్దలు కొట్టడం

లామా 4 స్కౌట్ మరియు మావెరిక్ కేవలం భాషా మోడల్స్ కాదు, అవి నిజమైన మల్టీమోడల్ మాస్టర్లు. అవి వచనం మరియు చిత్రాలతో సహా వివిధ రకాల డేటాను స్థానికంగా ప్రాసెస్ చేయగలవు మరియు సమగ్రపరచగలవు, తద్వారా మరింత గొప్ప మరియు సమగ్రమైన AI అప్లికేషన్‌లను ప్రారంభిస్తాయి. ఒక AI సిస్టమ్ ఒక వచన వివరణను మరియు సంబంధిత చిత్రాన్ని ఒకేసారి అర్థం చేసుకోగలదని మరియు తద్వారా సందర్భాన్ని బాగా గ్రహించి, మరింత తెలివైన నిర్ణయాలు తీసుకోగలదని మీరు ఊహించవచ్చు. ఈ మల్టీమోడల్ సామర్థ్యం ఇమేజ్ శీర్షిక ఉత్పత్తి, దృశ్య ప్రశ్న సమాధానం వంటి పనులకు కొత్త అవకాశాలను తెరుస్తుంది.

బహుభాషా మద్దతు: సరిహద్దులు లేని కమ్యూనికేషన్

లామా 4 సిరీస్ యొక్క మరొక ముఖ్యాంశం దాని బలమైన బహుభాషా మద్దతు సామర్థ్యం. ఈ మోడల్స్ 200 భాషలను కలిగి ఉన్న డేటాసెట్‌పై శిక్షణ పొందాయి మరియు 12 ప్రధాన భాషల కోసం చక్కగా ట్యూన్ చేయబడ్డాయి (అరబిక్, ఇంగ్లీష్, ఫ్రెంచ్, జర్మన్, హిందీ, ఇండోనేషియన్, ఇటాలియన్, పోర్చుగీస్, స్పానిష్, టాగలాగ్, థాయ్ మరియు వియత్నామీస్). అంటే అవి అనేక భాషలలో వచనాన్ని అర్థం చేసుకోగలవు మరియు ఉత్పత్తి చేయగలవు, తద్వారా ప్రపంచవ్యాప్తంగా అనువర్తనాల కోసం తలుపులు తెరుస్తాయి. ముఖ్యంగా, చిత్రం యొక్క అవగాహన కార్యాచరణ ప్రస్తుతం ఆంగ్లానికి మాత్రమే మద్దతు ఇస్తుంది.

సమర్థవంతమైన అభివృద్ధి: తక్కువ GPU స్థలం

డెవలపర్‌ల కోసం, లామా 4 స్కౌట్ మరింత అందుబాటును సాధించడానికి రూపొందించబడింది. ఇది తక్కువ GPU స్థలంలో సమర్ధవంతంగా పనిచేయగలదు. ఇది పరిమిత వనరులు ఉన్న వాతావరణాలకు ఆదర్శవంతమైన ఎంపికగా చేస్తుంది. అంటే డెవలపర్‌లు శక్తివంతమైన హార్డ్‌వేర్ లేకుండా కూడా AI అప్లికేషన్ల అభివృద్ధి మరియు విస్తరణను వేగవంతం చేయడానికి లామా 4 స్కౌట్ యొక్క శక్తివంతమైన ఫంక్షన్లను ఉపయోగించవచ్చు.

ఓపెన్ సోర్స్ మోడల్: సంఘానికి సాధికారత

మెటా ఓపెన్ స్టాండ్‌ను ఎంచుకుంది మరియు లామా 4 కమ్యూనిటీ లైసెన్స్ ఒప్పందం ద్వారా ఆ రెండు మోడల్స్‌ను విడుదల చేసింది. అంటే నిర్దిష్ట లైసెన్స్ నిబంధనలకు కట్టుబడి ఉంటే డెవలపర్‌లు వాటిని స్వేచ్ఛగా చక్కగా ట్యూన్ చేయవచ్చు మరియు అమలు చేయవచ్చు. ఈ బహిరంగ మోడ్ AI సంఘం యొక్క ఆవిష్కరణను మరియు సహకారాన్ని ప్రోత్సహించగలదు మరియు ఎక్కువ మంది AI సాంకేతిక పరిజ్ఞానం యొక్క అభివృద్ధి మరియు అనువర్తనంలో పాల్గొనేలా చేస్తుంది.

నాలెడ్జ్ కటాఫ్ తేదీ

లామా 4 మోడళ్ల జ్ఞానానికి సంబంధించిన కటాఫ్ తేదీ ఆగస్టు 2024 అని గమనించడం ముఖ్యం. అంటే ఆ తేదీ తర్వాత సంభవించిన సంఘటనలు లేదా సమాచారం గురించి తాజా సమాచారాన్ని అందించలేకపోవచ్చు.

ముఖ్యమైన గమనిక: లామా యొక్క అనుమతించదగిన వినియోగ విధానం ఐరోపా సమాఖ్య (EU) లో దాని వినియోగాన్ని పరిమితం చేస్తుంది.

లామా 4 స్కౌట్: తేలికపాటి ఛాంపియన్

ఆర్కిటెక్చర్: తెలివిగల పరామితి రూపకల్పన

లామా 4 స్కౌట్ మొత్తం 109 బిలియన్ పారామితుల్లో కేవలం 17 బిలియన్ పారామితులను మాత్రమే సక్రియం చేసే తెలివిగల ఆర్కిటెక్చర్ డిజైన్‌ను ఉపయోగిస్తుంది. ఈ రూపకల్పన 16 నిపుణుల కలయికను ఉపయోగిస్తుంది, తద్వారా పనితీరు మరియు సామర్థ్యం మధ్య మంచి సమతుల్యతను సాధిస్తుంది. పారామితుల యొక్క కొంత భాగాన్ని మాత్రమే సక్రియం చేయడం ద్వారా, స్కౌట్ గణన అవసరాలను గణనీయంగా తగ్గించగలదు.

సందర్భోచిత విండో: పొడవైన వచనాన్ని ప్రాసెస్ చేసే సామర్థ్యం

లామా 4 స్కౌట్ 10 మిలియన్ టోకెನ್‌ల వరకు సందర్భ పొడవుకు మద్దతు ఇస్తుంది (బహుళ GPUలు అవసరం). అయితే, సాధారణంగా అందుబాటులో ఉన్న (GA) సమయంలో, OCI జనరేటివ్ AI సర్వీస్ 192k టోకెన్‌ల సందర్భ పొడవుకు మద్దతు ఇస్తుంది. 192k యొక్క సందర్భ విండో కూడా పుస్తక అధ్యాయాలు లేదా వివరణాత్మక నివేదికలు వంటి చాలా పొడవైన వచనాన్ని ప్రాసెస్ చేయడానికి సరిపోతుంది.

విస్తరణ: చిన్నది మరియు శక్తివంతమైనది

లామా 4 స్కౌట్ యొక్క రూపకల్పన యొక్క లక్ష్యాలలో ఒకటి చిన్న GPU స్థలంలో సమర్ధవంతంగా పనిచేయడం. ఇది ఎడ్జ్ పరికరాలు మరియు పరిమిత వనరులు ఉన్న క్లౌడ్ వాతావరణాలతో సహా వివిధ విస్తరణ దృశ్యాలకు ఆదర్శవంతమైన ఎంపికగా చేస్తుంది.

పనితీరు: పోటీదారులను అధిగమించడం

లామా 4 స్కౌట్ గూగుల్ యొక్క జెమ్మా 3 మరియు మిస్ట్రల్ 3.1 వంటి మోడళ్లను అధిగమిస్తూ బహుళ బెంచ్‌మార్క్ పరీక్షల్లో అద్భుతంగా పని చేసింది. ఇది పనితీరు విషయంలో స్కౌట్ యొక్క అద్భుతమైన సామర్థ్యాన్ని నిరూపిస్తుంది, ఇది వివిధ AI పనులకు శక్తివంతమైన సాధనంగా మారుతుంది.

లామా 4 మావెరిక్: భారీ బరువు గల ఆటగాడు

ఆర్కిటెక్చర్: పెద్ద స్థాయి, మరింత శక్తివంతమైన శక్తి

స్కౌట్‌తో పోలిస్తే, లామా 4 మావెరిక్ పెద్ద ఆర్కిటెక్చర్ స్కేల్‌ను ఉపయోగిస్తుంది. ఇది సమానంగా 17 బిలియన్ పారామితులను సక్రియం చేస్తుంది, అయితే ఇది మొత్తం 400 బిలియన్ పరామితుల యొక్క పెద్ద చట్రంలో అమలు చేయబడుతుంది మరియు 128 మంది నిపుణులను ఉపయోగిస్తుంది. ఈ పెద్ద స్థాయి మావెరిక్‌కు మరింత శక్తివంతమైన సామర్థ్యాలను ఇస్తుంది, ఇది మరింత క్లిష్టమైన AI పనులలో రాణించేలా చేస్తుంది.

సందర్భోచిత విండో: చాలా ఎక్కువ మెమరీ

లామా 4 మావెరిక్ 1 మిలియన్ టోకెన్‌ల వరకు సందర్భ పొడవుకు మద్దతు ఇస్తుంది. సాధారణంగా అందుబాటులో (GA) ఉన్నప్పుడు, OCI విస్తరణ 512k టోకెన్‌ల సందర్భ పొడవుకు మద్దతు ఇస్తుంది. ఇంత ఎక్కువ సందర్భ విండో మావెరిక్‌ను పూర్తి పుస్తకాలు లేదా బహుళ పత్రాల సేకరణ వంటి చాలా సంక్లిష్టమైన వచనాన్ని పరిష్కరించడానికి అనుమతిస్తుంది.

మోహరింపు: ఎక్కువ స్థలం అవసరం

దాని పెద్ద పరిమాణం కారణంగా, లామా 4 మావెరిక్‌కు స్కౌట్ కంటే ఎక్కువ విస్తరణ స్థలం అవసరం. GA వద్ద, OCIలో మావెరిక్ విస్తరణకు స్కౌట్ స్థలం కంటే దాదాపు రెట్టింపు స్థలం అవసరం.

పనితీరు: అగ్రశ్రేణి మోడళ్లతో పోల్చవచ్చు

కోడ్ జనరేషన్ మరియు ఇన్‌ఫెరెన్స్ టాస్క్‌లలో, లామా 4 మావెరిక్ OpenAI యొక్క GPT-4o మరియు DeepSeek-V3 వంటి అగ్రశ్రేణి మోడళ్లతో పోల్చవచ్చు. ఇది AI రంగంలో మావెరిక్ యొక్క ప్రముఖ స్థానానికి నిదర్శనం.

సారాంశంలో, లామా 4 సిరీస్ AI మోడల్ అభివృద్ధిలో ఒక ముఖ్యమైన పురోగతిని సూచిస్తుంది. అవి పనితీరు, బహుముఖ ప్రజ్ఞ మరియు ప్రాప్యత పరంగా గణనీయంగా మెరుగుపడ్డాయి మరియు వివిధ అప్లికేషన్ దృశ్యాలకు బలమైన మద్దతును అందిస్తాయి.

OCI కస్టమర్‌లు ఇప్పుడు మౌలిక సదుపాయాల నిర్వహణ యొక్క సంక్లిష్టతల గురించి ఆందోళన చెందకుండా ఈ శక్తివంతమైన మోడళ్లను సులభంగా ఉపయోగించవచ్చు. AI అప్లికేషన్ల అభివృద్ధి మరియు విస్తరణ ప్రక్రియను క్రమబద్ధీకరించడానికి వారు చాట్ ఇంటర్‌ఫేస్, API లేదా ప్రత్యేక ముగింపు పాయింట్ల ద్వారా ఈ మోడళ్లను యాక్సెస్ చేయవచ్చు.

లామా 4 మోడళ్ల విడుదల OCI జనరేటివ్ AI సర్వీస్‌లో ఒక నూతన శకానికి నాంది పలుకుతుంది. ఈ అధునాతన మోడళ్లను అందించడం ద్వారా, OCI కస్టమర్‌లు AI యొక్క పూర్తి సామర్థ్యాన్ని వెలికితీసి అన్ని పరిశ్రమలలో ఆవిష్కరణలను ప్రోత్సహించడంలో సహాయపడుతోంది.