Moonshot AI MuonとMoonlightを発表
Moonshot AIの研究者は大規模言語モデルの効率的な学習技術を最適化するMuonとMoonlightを発表しました。計算負荷を軽減しつつ高性能を実現します。
Tag: Moonshot
KimiオープンソースMoonlight300億/1600億パラメータ
Moonshot AIのKimiは300億/1600億パラメータのハイブリッド専門家モデルMoonlightを発表Muonアーキテクチャで57兆トークンで学習し計算効率を向上
Moonshot AIのKimi k1.5モデルがOpenAI o1に匹敵する性能を達成
Moonshot AIが開発したKimi k1.5マルチモーダルモデルは、OpenAIのo1モデルに匹敵する性能を達成しました。特に短鎖思考モデルではGPT-4oやClaude 3.5 Sonnetを大幅に上回る性能を示し、AI分野における新たな進歩を象徴しています。