GGUF与量化

从 GGUF 文件结构、内存映射、张量卸载和量化格式入手,整理本地大模型文件与推理优化的基础概念。

约 8 分钟caulif 浏览