মেটার লামা: শুধু একটি ভাষা মডেল নয়

লামার বিবর্তন: স্থিতাবস্থাকে চ্যালেঞ্জ

যখন লামা প্রথম আবির্ভূত হয়েছিল, তখন এটি প্রযুক্তি জায়ান্টদের বৃহৎ, ক্লোজড-সোর্স এলএলএমগুলির আধিপত্যকে চ্যালেঞ্জ করেছিল। Meta AI এমন একটি কৌশল গ্রহণ করেছে যা ছোট, আরও জেনারেলাইজড মডেলগুলির উপর দৃষ্টি নিবদ্ধ করে। মূল ধারণাটি ছিল যে এই ছোট মডেলগুলি, বিপুল সংখ্যক টোকেনের উপর প্রশিক্ষিত, বিশেষ কাজের জন্য পুনরায় প্রশিক্ষণ এবং ফাইন-টিউনিং করা সহজ এবং আরও সাশ্রয়ী হবে। এই পদ্ধতিটি ক্রমবর্ধমান বৃহৎ, রিসোর্স-ইনটেনসিভ মডেল তৈরির প্রবণতার সাথে তীব্রভাবে বিপরীত ছিল।

যাইহোক, লামার ‘ওপেন-সোর্স’ প্রকৃতি বিতর্কের বিষয়। Meta Llama লাইসেন্সে বাণিজ্যিক এবং গ্রহণযোগ্য ব্যবহারের উপর নির্দিষ্ট বিধিনিষেধ রয়েছে। যদিও এই বিধিনিষেধগুলি যুক্তিযুক্তভাবে ন্যায়সঙ্গত, সেগুলি ওপেন সোর্স ইনিশিয়েটিভের ওপেন সোর্সের কঠোর সংজ্ঞার সাথে বিরোধপূর্ণ। এর ফলে লামা সত্যিকার অর্থে ওপেন সোর্স কিনা তা নিয়ে চলমান আলোচনা চলছে।

আইনি চ্যালেঞ্জ নেভিগেট করা: কপিরাইট উদ্বেগ

লামার বিকাশ আইনি বাধা ছাড়াই হয়নি। ২০২৩ সালে, Meta লেখকদের কাছ থেকে দুটি ক্লাস-অ্যাকশন মামলার মুখোমুখি হয়েছিল যারা অভিযোগ করেছিলেন যে তাদের কপিরাইট করা বইগুলি অনুমতি ছাড়াই লামাকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহার করা হয়েছিল। এই মামলাগুলি বৃহৎ ভাষা মডেলগুলির জন্য ব্যবহৃত প্রশিক্ষণ ডেটা ঘিরে জটিল কপিরাইট সমস্যাগুলিকে তুলে ধরে। এখন পর্যন্ত, আদালত লেখকদের দাবির প্রতি খুব বেশি সহানুভূতিশীল হয়নি।

প্রসারিত ক্ষমতা: লামার ক্রমবর্ধমান মডেল পরিবার

২০২৩ সালের শেষের দিক থেকে, Meta AI লামা পরিবারকে উল্লেখযোগ্যভাবে প্রসারিত করেছে। মডেলগুলি আর টেক্সট-ভিত্তিক ইন্টারঅ্যাকশনের মধ্যে সীমাবদ্ধ নয়। বর্তমান লামা ইকোসিস্টেমটিতে মাল্টি-মোডাল মডেল রয়েছে যা টেক্সট এবং ভিজ্যুয়াল ইনপুট উভয়ই প্রক্রিয়া করতে সক্ষম, পাশাপাশি কোড ইন্টারপ্রেটেশন এবং টুল ইন্টিগ্রেশনের জন্য ডিজাইন করা মডেলগুলিও রয়েছে। উপরন্তু, Meta সম্ভাব্য ঝুঁকি এবং আক্রমণগুলি সনাক্ত করতে এবং প্রশমিত করতে Llama Guard নামে পরিচিত সুরক্ষা উপাদানগুলি চালু করেছে, এগুলি ‘Llama Stack’ নামক একটি সামগ্রিক কাঠামোর অংশ হিসাবে ডিজাইন করা হয়েছে৷

এখানে লামা পরিবারের কয়েকটি মূল মডেলের একটি গভীরতর দৃষ্টিভঙ্গি রয়েছে (Meta AI-এর মডেল কার্ডগুলি থেকে সংক্ষিপ্ত করা হয়েছে):

Llama Guard 1: ইন্টারঅ্যাকশন সুরক্ষিত করা

Llama Guard 1 হল Llama 2-এর উপর ভিত্তি করে একটি ৭-বিলিয়ন প্যারামিটার মডেল। এটি একটি ইনপুট-আউটপুট সুরক্ষক হিসাবে কাজ করে, ব্যবহারকারীর প্রম্পট (প্রম্পট শ্রেণীবিভাগ) এবং LLM প্রতিক্রিয়া (প্রতিক্রিয়া শ্রেণীবিভাগ) উভয় ক্ষেত্রেই বিষয়বস্তু শ্রেণীবদ্ধ করে। এই মডেলটি লামা-ভিত্তিক সিস্টেমগুলির সাথে নিরাপদ এবং আরও দায়িত্বশীল ইন্টারঅ্যাকশন নিশ্চিত করতে সহায়তা করে।

Llama Guard সম্ভাব্য ক্ষতি শ্রেণীবদ্ধ করতে ছয়-স্তরের শ্রেণীবিন্যাস ব্যবহার করে:

• সহিংসতা ও বিদ্বেষ: ব্যক্তি বা গোষ্ঠীর প্রতি সহিংসতা বা বিদ্বেষ প্রচার করে এমন বিষয়বস্তু।
• যৌন বিষয়বস্তু: যৌনতাপূর্ণ উপাদান বা বিষয়বস্তু যা শিশুদের শোষণ, অপব্যবহার বা বিপন্ন করে।
• আগ্নেয়াস্ত্র ও অবৈধ অস্ত্র: আগ্নেয়াস্ত্র এবং অন্যান্য অস্ত্রের অবৈধ বিক্রয়, ব্যবহার বা পরিবর্তনের সাথে সম্পর্কিত বিষয়বস্তু।
• নিয়ন্ত্রিত বা নিয়ন্ত্রিত পদার্থ: মাদক, অ্যালকোহল বা তামাকের অবৈধ ব্যবহার বা বিক্রয় প্রচার করে এমন বিষয়বস্তু।
• আত্মহত্যা ও স্ব-ক্ষতি: আত্মহত্যা বা স্ব-ক্ষতির জন্য উৎসাহিত করে বা নির্দেশাবলী প্রদান করে এমন বিষয়বস্তু।
• অপরাধমূলক পরিকল্পনা: এমন বিষয়বস্তু যা অবৈধ কার্যকলাপের সুবিধা দেয় বা পরিকল্পনা করে।

Code Llama 70B: কোডিং দক্ষতার ত্রয়ী

Code Llama 70B লামার কোডিং ক্ষমতাতে একটি উল্লেখযোগ্য সম্প্রসারণ চিহ্নিত করেছে। এই মডেলটি তিনটি স্বতন্ত্র ভেরিয়েন্টে উপলব্ধ:

• Code Llama: সাধারণ কোড সংশ্লেষণ এবং বোঝার জন্য ডিজাইন করা বেস মডেল। এটি কোড তৈরি করতে, কোডের কার্যকারিতা ব্যাখ্যা করতে এবং ডিবাগিংয়ে সহায়তা করতে পারে।
• Code Llama – Python: পাইথন প্রোগ্রামিংয়ের জন্য তৈরি একটি বিশেষ সংস্করণ। এই মডেলটি পাইথন কোড তৈরি এবং বোঝার জন্য অপ্টিমাইজ করা হয়েছে, এটি পাইথন ডেভেলপারদের জন্য একটি মূল্যবান হাতিয়ার করে তুলেছে।
• Code Llama – Instruct: নির্দেশাবলী অনুসরণ এবং নিরাপদ স্থাপনার নিশ্চিত করার উপর দৃষ্টি নিবদ্ধ করা একটি ভেরিয়েন্ট। এই মডেলটি বিশেষভাবে কোড তৈরির জন্য দরকারী যা নির্দিষ্ট নির্দেশিকা এবং সুরক্ষা প্রোটোকল মেনে চলে।

তিনটি ভেরিয়েন্টই বিভিন্ন আকারে উপলব্ধ: ৭ বিলিয়ন, ১৩ বিলিয়ন, ৩৪ বিলিয়ন এবং ৭০ বিলিয়ন প্যারামিটার। Code Llama এবং এর ভেরিয়েন্টগুলি প্রাথমিকভাবে ইংরেজি এবং সম্পর্কিত প্রোগ্রামিং ভাষাগুলিতে বাণিজ্যিক এবং গবেষণা উভয়ের জন্যই ডিজাইন করা হয়েছে। Code Llama-এর শক্তিশালী কোডিং ক্ষমতা রয়েছে বলে যথেষ্ট প্রমাণ রয়েছে।

Llama Guard 2: উন্নত সুরক্ষা শ্রেণীবিভাগ

Llama Guard 2 তার পূর্বসূরীর ভিত্তির উপর তৈরি করে, উন্নত সুরক্ষা শ্রেণীবিভাগ ক্ষমতা প্রদান করে। Llama 3-এর উপর ভিত্তি করে এই ৮-বিলিয়ন প্যারামিটার মডেলটি, MLCommons-এর বিপদগুলির শ্রেণীবিন্যাসের সাথে সঙ্গতি রেখে ১১টি বিভাগে সুরক্ষা লেবেলগুলির পূর্বাভাস দেওয়ার জন্য প্রশিক্ষিত।

Llama Guard 2 দ্বারা আচ্ছাদিত বিপদের বিভাগগুলির মধ্যে রয়েছে:

• S1: হিংসাত্মক অপরাধ: হিংসাত্মক অপরাধমূলক কাজের সাথে সম্পর্কিত বিষয়বস্তু।
• S2: অহিংস অপরাধ: অহিংস অপরাধমূলক অপরাধের সাথে সম্পর্কিত বিষয়বস্তু।
• S3: যৌন-সম্পর্কিত অপরাধ: যৌন অপরাধ জড়িত বিষয়বস্তু।
• S4: শিশুদের যৌন শোষণ: এমন বিষয়বস্তু যা শিশুদের যৌনভাবে শোষণ, অপব্যবহার বা বিপন্ন করে।
• S5: বিশেষ পরামর্শ: বিশেষ ক্ষেত্রগুলিতে (যেমন, চিকিৎসা, আইনি, আর্থিক) অযোগ্য বা বিভ্রান্তিকর পরামর্শ।
• S6: গোপনীয়তা: এমন বিষয়বস্তু যা গোপনীয়তা লঙ্ঘন করে বা সম্মতি ছাড়াই ব্যক্তিগত তথ্য প্রকাশ করে।
• S7: বৌদ্ধিক সম্পত্তি: এমন বিষয়বস্তু যা বৌদ্ধিক সম্পত্তি অধিকার লঙ্ঘন করে।
• S8: নির্বিচার অস্ত্র: এমন বিষয়বস্তু যা ব্যাপক এবং নির্বিচারে ক্ষতি করে এমন অস্ত্রের সাথে সম্পর্কিত।
• S9: ঘৃণা: ব্যক্তি বা গোষ্ঠীর প্রতি ঘৃণা বা কুসংস্কার প্রকাশ করে এমন বিষয়বস্তু।
• S10: আত্মহত্যা ও স্ব-ক্ষতি: আত্মহত্যা বা স্ব-ক্ষতির প্রচার বা নির্দেশাবলী প্রদান করে এমন বিষয়বস্তু।
• S11: যৌন বিষয়বস্তু: যৌনতাপূর্ণ উপাদান।

Meta Llama 3: সংলাপে বহুমুখিতা

Meta Llama 3 দুটি আকারে দেওয়া হয়েছে, ৮ বিলিয়ন এবং ৭০ বিলিয়ন প্যারামিটার, উভয় প্রাক-প্রশিক্ষিত এবং নির্দেশ-টিউনড ভেরিয়েন্ট সহ। নির্দেশ-টিউনড মডেলগুলি বিশেষভাবে ডায়ালগ-ভিত্তিক অ্যাপ্লিকেশনগুলির জন্য অপ্টিমাইজ করা হয়েছে, যা তাদের চ্যাটবট এবং কথোপকথনমূলক AI সিস্টেমগুলির জন্য উপযুক্ত করে তোলে।

Prompt Guard: ক্ষতিকারক ইনপুটগুলির বিরুদ্ধে প্রতিরোধ

Prompt Guard হল একটি ক্লাসিফায়ার মডেল যা ক্ষতিকারক প্রম্পটগুলি সনাক্ত করার জন্য ডিজাইন করা হয়েছে, যার মধ্যে জেলব্রেক (সুরক্ষা বিধিনিষেধগুলিকে বাইপাস করার প্রচেষ্টা) এবং প্রম্পট ইনজেকশন (সুনির্দিষ্ট ইনপুটগুলির মাধ্যমে মডেলের আউটপুটকে ম্যানিপুলেট করার প্রচেষ্টা) অন্তর্ভুক্ত রয়েছে। Meta AI সর্বোত্তম কার্যকারিতা অর্জনের জন্য অ্যাপ্লিকেশন-নির্দিষ্ট ডেটা সহ Prompt Guard-কে ফাইন-টিউনিং করার পরামর্শ দেয়।

Llama Guard-এর বিপরীতে, Prompt Guard-এর কোনো নির্দিষ্ট প্রম্পট কাঠামোর প্রয়োজন নেই। এটি একটি স্ট্রিং ইনপুটের উপর কাজ করে, এটিকে নিরাপদ বা অনিরাপদ হিসাবে শ্রেণীবদ্ধ করে (দুটি ভিন্ন তীব্রতার স্তরে)। এটি একটি BERT মডেল যা শুধুমাত্র লেবেল আউটপুট করে।

Llama Guard 3: মাল্টি-মোডাল এবং বহুভাষিক সুরক্ষা

Llama Guard 3 তিনটি সংস্করণে উপলব্ধ: Llama Guard 3 1B, Llama Guard 3 8B, এবং Llama Guard 3 11B-Vision। প্রথম দুটি হল টেক্সট-অনলি মডেল, যেখানে তৃতীয়টি Llama 3.2 11B-Vision মডেলের ভিশন বোঝার ক্ষমতাগুলিকে অন্তর্ভুক্ত করে। সমস্ত সংস্করণ বহুভাষিক (টেক্সট-অনলি প্রম্পটগুলির জন্য) এবং MLCommons কনসোর্টিয়াম দ্বারা সংজ্ঞায়িত বিপদের বিভাগগুলি মেনে চলে।

Llama Guard 3 8B বিভাগ S14, কোড ইন্টারপ্রেটার অপব্যবহারের জন্যও ব্যবহার করা যেতে পারে। এটা মনে রাখা গুরুত্বপূর্ণ যে Llama Guard 3 1B মডেলটি এই নির্দিষ্ট বিভাগের জন্য অপ্টিমাইজ করা হয়নি।

বিপদের বিভাগগুলি, Llama Guard 2-এর উপর প্রসারিত, হল:

• S1: হিংসাত্মক অপরাধ
• S2: অহিংস অপরাধ
• S3: যৌন-সম্পর্কিত অপরাধ
• S4: শিশুদের যৌন শোষণ
• S5: মানহানি
• S6: বিশেষ পরামর্শ
• S7: গোপনীয়তা
• S8: বৌদ্ধিক সম্পত্তি
• S9: নির্বিচার অস্ত্র
• S10: ঘৃণা
• S11: আত্মহত্যা ও স্ব-ক্ষতি
• S12: যৌন বিষয়বস্তু
• S13: নির্বাচন
• S14: কোড ইন্টারপ্রেটার অপব্যবহার

Meta Llama 3.1: বহুভাষিক জেনারেটিভ মডেল

Meta Llama 3.1 সংগ্রহে বহুভাষিক বৃহৎ ভাষা মডেল রয়েছে, যার মধ্যে রয়েছে ৮ বিলিয়ন, ৭০ বিলিয়ন এবং ৪০৫ বিলিয়ন প্যারামিটার আকারের প্রাক-প্রশিক্ষিত এবং নির্দেশ-টিউনড জেনারেটিভ মডেল (টেক্সট ইনপুট, টেক্সট আউটপুট)।

সমর্থিত ভাষাগুলির মধ্যে রয়েছে: ইংরেজি, জার্মান, ফ্রেঞ্চ, ইতালীয়, পর্তুগিজ, হিন্দি, স্প্যানিশ এবং থাই।

Meta Llama 3.2: উন্নত ডায়ালগ ক্ষমতা

Llama 3.2 সংগ্রহে বহুভাষিক বৃহৎ ভাষা মডেল রয়েছে, যার মধ্যে রয়েছে ১ বিলিয়ন এবং ৩ বিলিয়ন প্যারামিটার আকারের প্রাক-প্রশিক্ষিত এবং নির্দেশ-টিউনড জেনারেটিভ মডেল (টেক্সট ইনপুট, টেক্সট আউটপুট)। এই মডেলগুলির কোয়ান্টাইজড সংস্করণও উপলব্ধ। Llama 3.2 নির্দেশ-টিউনড টেক্সট-অনলি মডেলগুলি বহুভাষিক ডায়ালগের জন্য অপ্টিমাইজ করা হয়েছে, এজেন্টিক রিট্রিভাল এবং সামারাইজেশনের মতো কাজগুলিতে পারদর্শী। ১B এবং ৩B মডেলগুলি Llama 3.1-এর ছোট, কম শক্তিশালী ডেরিভেটিভ।

অফিসিয়ালি সমর্থিত ভাষাগুলি হল: ইংরেজি, জার্মান, ফ্রেঞ্চ, ইতালীয়, পর্তুগিজ, হিন্দি, স্প্যানিশ এবং থাই। যাইহোক, Llama 3.2 এই আটটি ভাষা ছাড়াও আরও বিস্তৃত ভাষায় প্রশিক্ষিত হয়েছে।

Llama 3.2-Vision: ইমেজ রিজনিং এবং আন্ডারস্ট্যান্ডিং

Llama 3.2-Vision সংগ্রহটি মাল্টি-মোডাল বৃহৎ ভাষা মডেলগুলিকে উপস্থাপন করে। এই মডেলগুলি ইমেজ রিজনিং-এর জন্য প্রাক-প্রশিক্ষিত এবং নির্দেশ-টিউনড, ১১ বিলিয়ন এবং ৯০ বিলিয়ন প্যারামিটার আকারে উপলব্ধ (টেক্সট এবং ইমেজ ইনপুট, টেক্সট আউটপুট)। নির্দেশ-টিউনড মডেলগুলি ভিজ্যুয়াল রিকগনিশন, ইমেজ রিজনিং, ক্যাপশনিং এবং ছবি সম্পর্কে সাধারণ প্রশ্নের উত্তর দেওয়ার জন্য অপ্টিমাইজ করা হয়েছে।

টেক্সট-অনলি কাজের জন্য, অফিসিয়ালি সমর্থিত ভাষাগুলি হল ইংরেজি, জার্মান, ফ্রেঞ্চ, ইতালীয়, পর্তুগিজ, হিন্দি, স্প্যানিশ এবং থাই। Llama 3.2 আরও বিস্তৃত ভাষায় প্রশিক্ষিত হয়েছে, কিন্তু ইমেজ+টেক্সট অ্যাপ্লিকেশনের জন্য, ইংরেজি হল একমাত্র সমর্থিত ভাষা।

Meta Llama 3.3: একটি শক্তিশালী ৭০B মডেল

Meta Llama 3.3 বহুভাষিক বৃহৎ ভাষা মডেল হল একটি প্রাক-প্রশিক্ষিত এবং নির্দেশ-টিউনড জেনারেটিভ মডেল যার ৭০ বিলিয়ন প্যারামিটার রয়েছে (টেক্সট ইনপুট, টেক্সট আউটপুট)।

সমর্থিত ভাষা: ইংরেজি, জার্মান, ফ্রেঞ্চ, ইতালীয়, পর্তুগিজ, হিন্দি, স্প্যানিশ এবং থাই।

এটা বোঝা গুরুত্বপূর্ণ যে বৃহৎ ভাষা মডেলগুলি, Llama 3.2 সহ, বিচ্ছিন্ন স্থাপনার জন্য নয়। এগুলিকে উপযুক্ত সুরক্ষা গার্ডরেল সহ একটি ব্যাপক AI সিস্টেমে একত্রিত করা উচিত। ডেভেলপারদের সিস্টেম সুরক্ষামূলক ব্যবস্থা বাস্তবায়ন করা উচিত, বিশেষ করে যখন এজেন্টিক সিস্টেম তৈরি করা হয়।

Llama 3.3, Llama 3.2 টেক্সট-অনলি মডেল এবং Llama 3.1 নিম্নলিখিত সরঞ্জামগুলির জন্য অন্তর্নির্মিত সমর্থন অন্তর্ভুক্ত করে:

• Brave Search: ওয়েব অনুসন্ধানের জন্য একটি টুল কল।
• Wolfram Alpha: জটিল গাণিতিক গণনা সম্পাদনের জন্য একটি টুল কল।
• Code Interpreter: একটি টুল কল যা মডেলটিকে পাইথন কোড আউটপুট করতে সক্ষম করে।

দ্রষ্টব্য: Llama 3.2 ভিশন মডেলগুলি টেক্সট+ইমেজ ইনপুটগুলির সাথে টুল কলিং সমর্থন করে না।

Llama Stack: একটি ইউনিফাইড ফ্রেমওয়ার্ক

লামা মডেলের নিছক সংখ্যা অপ্রতিরোধ্য হতে পারে। নির্বাচন এবং ইন্টিগ্রেশন প্রক্রিয়া সহজ করার জন্য, Meta Llama Stack অফার করে। এই ফ্রেমওয়ার্কটি লামা মডেলগুলির উপর জোর দেয় তবে সম্পর্কিত ক্ষমতাগুলির জন্য অ্যাডাপ্টারও সরবরাহ করে, যেমন রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) এর জন্য ভেক্টর ডেটাবেস।

Llama Stack বর্তমানে Python, Swift, Node, এবং Kotlin-এ SDK গুলি সমর্থন করে। এটি বিভিন্ন ডিস্ট্রিবিউশন অফার করে, যার মধ্যে রয়েছে:

• স্থানীয় ডিস্ট্রিবিউশন (Ollama ব্যবহার করে): স্থানীয় উন্নয়ন এবং পরীক্ষার জন্য।
• অন-ডিভাইস ডিস্ট্রিবিউশন (iOS এবং Android): মোবাইল ডিভাইসে লামা মডেল স্থাপনের জন্য।
• GPU-এর জন্য ডিস্ট্রিবিউশন: দ্রুত প্রক্রিয়াকরণের জন্য GPU-এর শক্তিকে কাজে লাগানোর জন্য।
• রিমোট-হোস্টেড ডিস্ট্রিবিউশন (Together এবং Fireworks): ক্লাউড-ভিত্তিক পরিষেবাগুলির মাধ্যমে লামা মডেলগুলি অ্যাক্সেস করার জন্য।

Llama Stack-এর পিছনের মূল ধারণা হল ডেভেলপারদের স্থানীয়ভাবে অ্যাপ্লিকেশন তৈরি করতে এবং তারপর সহজেই একটি প্রোডাকশন পরিবেশে স্থানান্তরিত করতে সক্ষম করা। এটি একটি রিমোট Llama Stack-এর বিরুদ্ধে স্থানীয় উন্নয়নের জন্য একটি ইন্টারেক্টিভ Llama Stack Playground-ও সরবরাহ করে।

লামা মডেল চালানো: বহুমুখী স্থাপনার বিকল্প

লামা মডেলগুলি Linux, Windows, macOS এবং ক্লাউড সহ বিভিন্ন প্ল্যাটফর্মে স্থাপন করা যেতে পারে। কোয়ান্টাইজড লামা মডেল, যেমন Llama 3.2 এবং Llama 3.2-Vision, আধুনিক হার্ডওয়্যারে কার্যকরভাবে চলতে পারে, এমনকি M4 Pro MacBook Pro-এর মতো ল্যাপটপেও Ollama-এর মতো টুল ব্যবহার করে।

Meta লামা মডেল স্থাপন এবং ব্যবহারের জন্য ব্যাপক হাউ-টু গাইড সরবরাহ করে। উপরন্তু, LangChain এবং LlamaIndex-এর মতো জনপ্রিয় ফ্রেমওয়ার্কগুলির জন্য ইন্টিগ্রেশন গাইড উপলব্ধ।

সংক্ষেপে, লামা শুধুমাত্র একটি সাধারণ ভাষা মডেল হওয়ার বাইরে চলে গেছে, এখন এটি সুরক্ষা বৈশিষ্ট্য, কোড জেনারেশন এবং বহু ভাষার সমর্থন সহ একটি মাল্টি-মোডাল AI ফ্রেমওয়ার্ক। Meta-র সিস্টেম এটিকে অনেক জায়গায় স্থাপন করার অনুমতি দেয়, তবে প্রশিক্ষণ ডেটা নিয়ে আইনি সমস্যা এবং লামা ওপেন সোর্স কিনা তা নিয়ে বিতর্ক চলতে থাকে।