Tag: RWKV

RWKV-7 'Goose': দক্ষ ও শক্তিশালী সিকোয়েন্স মডেলিং

RWKV-7 'Goose' একটি নতুন দক্ষ RNN আর্কিটেকচার, যা বিশেষ করে বহুভাষিক কাজে ৩ বিলিয়ন প্যারামিটার স্কেলে নতুন SoTA স্থাপন করেছে। এটি Transformer-এর সীমাবদ্ধতা অতিক্রম করে লিনিয়ার কম্পিউটেশনাল জটিলতা এবং ধ্রুবক মেমরি ব্যবহার প্রদান করে। মডেল এবং ডেটাসেট Apache 2.0 লাইসেন্সের অধীনে উন্মুক্ত করা হয়েছে।

RWKV-7 'Goose': দক্ষ ও শক্তিশালী সিকোয়েন্স মডেলিং