文章

从一道题的判分到可信的模型比较：20 章完整教程、5 个交互实验，以及可下载复算的 Python 示例与教学数据。

做一个小型 Coding Agent 评测：定义成功，检查依据，再验证提示词改动是否真的有帮助。

会聊天，不代表会委托任务。定义任务、设定边界、判断结果，是另一种需要练习的能力。

理解 AI Agent 的一个办法，也许就是亲手做一个简单的。

从一个具体任务出发，图解模型与工具的循环、并发协调、用户中断和上下文管理。

除了看任务有没有完成，还要看执行过程、失败原因，以及多次运行是否稳定。

Agent 回复完成了，任务就真的完成了吗？用十二节图文笔记梳理如何定义成功、定位失败并判断可靠性。

从数据、预训练、持续训练到后训练、部署与持续学习，梳理大模型训练与交付的完整流程。

结合公开资料整理当前大模型训练数据从哪来、怎么处理，以及预训练、后训练和闭源蒸馏几条常见路径。

记录梁文锋投资者交流会读后感，以及对 CoT、Agent、持续学习与自迭代演进阶梯的理解。

记录 Fate 论文对 LLM Offloading 的观察，以及 MoE 卸载领域的几个主流方向。

从向量检索的退潮谈 RAG 的技术主导权变化，以及 Agentic Search 和 Context Engineering 的新位置。

按版本整理 DeepSeek V2—V4 的架构与训练变化，比较 MLA、MoE、多 Token 预测等方法解决的问题与取舍。

整理 BAIT 如何通过反演攻击目标扫描大语言模型后门，附论文组会汇报与逐页讲解材料。

昨晚到今天初步体验了 grok4.5，感觉很好用，grok build 也还挺好用。

从 speculative decoding 的验证机制讲起，整理 DeepSeek DSpark 在 draft 和 verify 两个阶段的关键改动。

记录一个关于推理与训练的地形类比：模型参数像初始地形，prompt 影响局部路径，训练则在长期上塑造地貌与变化规则。

对腾讯 agent.qq.com 邮箱的一点产品观察：Agent-first mail 的身份、分发方式、邮箱能力，以及目前看起来还差一点的地方。

整理长上下文退化的含义、位置偏置、长距离泛化、训练分布、检索与推理差异，以及 Agent 场景中的 context rot。

整理反向传播的 Loss、梯度、链式法则、优化器更新，以及 LLM 训练中常见的显存优化方法。

整理 RAG 的核心思路、离线索引与在线问答流程，以及 Retrieval-Augmented Generation 论文中的检索器和生成器架构。

整理 Agent Memory 的目标、生命周期与治理能力，并对比 Claude Code、Codex 和 Hermes 的 memory 设计。

整理 LoRA 的低秩适配原理、训练与推理流程、常见插入位置、核心超参数，以及 QLoRA、AdaLoRA、DoRA 等变体。

阅读一次真实 Codex Desktop 会话 JSONL，按模型上下文线和 Runtime 事件线理解 Agent Loop 的运行细节。

从 AI Agent 的基本组成、ReAct 和 Codex Agent Loop 入手，整理我对 Agent 运行机制的阶段性理解。

记录 page-annotator 的想法、标注交互设计和模型测试过程。

从 GGUF 文件结构、内存映射、张量卸载和量化格式入手，整理本地大模型文件与推理优化的基础概念。

基于 llama2.c 的 run.c 源码注释，梳理 Decoder-only Transformer 的推理流程、RoPE、Attention、FFN、采样和 BPE。