मूनशॉट एआई का म्यूऑन और मूनलाइट
मूनशॉट एआई के शोधकर्ताओं ने म्यूऑन पेश किया कुशल प्रशिक्षण तकनीकों के साथ बड़े भाषा मॉडल को ऑप्टिमाइज़ करने के लिए एक नया ऑप्टिमाइज़र।
Tag: Moonshot
किमी ओपन सोर्स मूनलाइट हाइब्रिड मॉडल
मूनशॉट एआई के किमी ने 'म्यूऑन इज स्केलेबल फॉर एलएलएम ट्रेनिंग' नामक तकनीकी रिपोर्ट और 30 बिलियन और 160 बिलियन पैरामीटर वाले 'मूनलाइट' हाइब्रिड मॉडल का अनावरण किया। म्यूऑन आर्किटेक्चर पर प्रशिक्षित यह मॉडल 57 ट्रिलियन टोकन का उपयोग करके बेहतर प्रदर्शन और कम फ्लोटिंग-पॉइंट ऑपरेशन प्राप्त करता है।
मूनशॉट AI का Kimi k1.5 मॉडल: OpenAI के o1 को टक्कर
मूनशॉट AI ने Kimi k1.5 मल्टीमॉडल मॉडल पेश किया, जो OpenAI के o1 के बराबर प्रदर्शन करता है। यह गणित, कोडिंग और मल्टीमॉडल तर्क में उत्कृष्ट है, और GPT-4o और Claude 3.5 Sonnet को भी मात देता है। यह AI में एक महत्वपूर्ण प्रगति है।