स्टेपफन: चीनचा उदयोन्मुख AI स्टार
शंघाईस्थित स्टेपफन (StepFun) ही चीनमधील एक वेगाने वाढणारी AI कंपनी आहे, जी AI नवोपक्रमात अग्रेसर आहे. ही कंपनी केवळ टेक्स्टच नव्हे, तर व्हिडिओ आणि इमेज प्रोसेस करण्यास सक्षम AI मॉडेल विकसित करते.
Tag: Stepfun
Step1X-Edit: एक प्रगतीकारक ओपन-सोर्स इमेज एडिटिंग मॉडेल
Step1X-Edit हे StepFun द्वारे विकसित केलेले ओपन-सोर्स इमेज एडिटिंग मॉडेल आहे, जे अत्याधुनिक (SOTA) कार्यप्रदर्शन साध्य करते. हे मॉडेल अचूक सिमेंटिक विश्लेषण, सातत्यपूर्ण ओळख जतन आणि उच्च-परिशुद्धता प्रदेश-स्तरीय नियंत्रणात उत्कृष्ट आहे.
नवीन लक्ष यंत्रणा केव्ही कॅशमध्ये घट
मोठ्या भाषेतील मॉडेल्सच्या वाढत्या वापरामुळे आणि अनुमानमधील नवीन प्रतिमानांच्या उदयास मोठ्या प्रमाणावर कार्यक्षम अनुमानचे आव्हान समोर आले आहे. पारंपरिक लक्ष यंत्रणेमध्ये की-व्हॅल्यू (केव्ही) कॅश एक महत्त्वपूर्ण अडथळा आहे, जी बॅच आकार आणि क्रम लांबीनुसार रेषीयपणे विस्तारते, ज्यामुळे एलएलएमचे स्केलिंग आणि विस्तार थांबवणारी 'मेमरी हॉग' बनते. मल्टी-मॅट्रिक्स फॅक्टरायझेशन अटेंशन (एमएफए) आणि त्याचे प्रकार एमएफए-की-रियूज (एमएफए-केआर) हे तंत्रज्ञान भाषेतील मॉडेल अनुमानाची किंमत लक्षणीयरित्या कमी करतात आणि कार्यक्षमता सुधारतात. एमएफए आणि एमएफए-केआर केवळ एमएलए पेक्षा जास्त कार्यक्षम नाहीत, तर ते पारंपरिक एमएचए कार्यक्षमतेशी जुळतात आणि केव्ही कॅशेचा वापर 93.7% पर्यंत कमी करतात. एमएफए साधेपणा, सुलभ पुनरुत्पादन, हायपरपॅरामीटर्ससाठी कमी संवेदनशीलता आणि विविध स्थिती-एम्बेडिंग पद्धतींशी सुसंगतता यासाठी डिझाइन केलेले आहे.