Tag: Moonshot

Moonshot AI Kimi-VL:精巧的多模態奇蹟

Moonshot AI 的 Kimi-VL 是一款開源 AI 模型,以其處理圖像、文本和影片的卓越能力,以及出色的效率而引人注目。它在緊湊的架構中,管理大量文檔,進行複雜的推理,並理解使用者介面。

Moonshot AI Kimi-VL:精巧的多模態奇蹟

Moonshot AI Kimi-VL:精簡強大的 AI 模型

Moonshot AI 推出了 Kimi-VL 模型,能高效處理文字、圖像和影片等多種數據,並具備長文本處理與複雜推理能力。

Moonshot AI Kimi-VL:精簡強大的 AI 模型

Moonshot AI 推出 Muon 及 Moonlight

Moonshot AI 研究人員引入 Muon 和 Moonlight,透過高效訓練技術優化大型語言模型。研究重點在於提升效率和穩定性,降低計算成本,並開源研究成果,促進大型語言模型領域的發展。

Moonshot AI 推出 Muon 及 Moonlight

Kimi開源月光300億1600億參數混合專家模型

Moonshot AI 的 Kimi 近期發表了「Muon 可擴展 LLM 訓練」技術報告,並推出「月光」混合專家模型 (MoE),擁有 300 億和 1600 億參數。此模型採用 Muon 架構,以 57 兆個 token 訓練,在提升效能的同時,大幅降低浮點運算次數 (FLOPs),突破帕累托效率的界限。

Kimi開源月光300億1600億參數混合專家模型

國產多模態模型追平 OpenAI O1:訓練細節公開

月之暗面發布 Kimi k1.5 多模態模型,在數學、程式碼和多模態推理能力上全面對標 OpenAI 的頂級模型 o1,成為 OpenAI 之外首個達到此高度的多模態模型。該模型在短鏈思維領域達到 SOTA 水平,並大幅領先 GPT-4o 和 Claude 3.5 Sonnet。月之暗面公開了其訓練技術細節,包括強化學習技術和 long2short 技術,展現了其在人工智慧領域的重大突破。

國產多模態模型追平 OpenAI O1:訓練細節公開