Muon en Moonlight Nieuwe LLM Training
Moonshot AI introduceert Muon en Moonlight optimalisatietechnieken voor grootschalige taalmodellen Training is efficiënter minder rekenkracht nodig en betere prestaties
Moonshot AI introduceert Muon en Moonlight optimalisatietechnieken voor grootschalige taalmodellen Training is efficiënter minder rekenkracht nodig en betere prestaties
Moonshot AI's Kimi onthult Moonlight een hybride expertmodel met 30 en 160 miljard parameters getraind met de Muon architectuur en 57 biljoen tokens voor superieure prestaties en efficiëntie.
Moonshot AI's Kimi k1.5 model evenaart OpenAI's o1 in prestaties, met name in wiskunde, codering en multimodale redenering. De korte variant overtreft GPT-4o en Claude 3.5 Sonnet aanzienlijk. Dit toont de potentie van binnenlandse innovatie en transparantie in AI-ontwikkeling.