RWKV-7 'Goose': 効率的で強力なシーケンスモデリングの新機軸
RWKV-7 'Goose'は、特に3BスケールでSoTA性能を達成する新しいリカレントシーケンスモデル。推論時の線形計算量と定数メモリ使用量でTransformerの優位性に挑戦。モデルとデータと共にオープンソースで公開。
RWKV-7 'Goose'は、特に3BスケールでSoTA性能を達成する新しいリカレントシーケンスモデル。推論時の線形計算量と定数メモリ使用量でTransformerの優位性に挑戦。モデルとデータと共にオープンソースで公開。