Kimi K3 達 2.8T 參數 — 記憶體是否取代了運算？
moonshot ai 發布了 kimi k3，這是一個利用記憶體而非原始運算能力的 2.8 兆參數模型。這挑戰了主導西方人工智慧發展的縮放定律。
Moonshot AI 推出了 Kimi K3，一款於 7 月 16 日發布的 2.8 萬億參數開放權重模型。被歸類為「3T 級別」，它採用混合專家架構（Mixture-of-Experts），總參數為 2.8 萬億，但每次推理大約只有 6000 億個參數被激活。通過關注記憶體優化而非計算，該模型挑戰了「更大的計算預算是實現通用人工智慧（AGI）的唯一途徑」的傳統觀念。