LLM Offloading 与 Fate 论文

记录 Fate 论文对 LLM Offloading 的观察,以及 MoE 卸载领域的几个主流方向。

约 5 分钟caulif 浏览

DeepSeek 系列笔记:从 V2 到 V4 的训练与架构

按版本整理 DeepSeek V2—V4 的架构与训练变化,比较 MLA、MoE、多 Token 预测等方法解决的问题与取舍。

约 23 分钟caulif 浏览