博客

English

从这里开始

先写一个 Agent,再给它选工具

能跑的代码和真实输出:先是带检查点的 200 行 Agent 循环,再用同一个任务实测 MCP、CLI 和 Skills 的代价。

  1. 1.AI Agent 开发教程:用 Python 写一个能搜索、调用工具、保存状态的 Agent
  2. 2.MCP、WebMCP、CLI、Skills:同一个任务该选哪种工具?

可学习的几何

四篇文章,一个观点:深度学习本身就是流形几何,而它最要命的失败,其实是能被量出来的几何撕裂。

  1. 1.神经网络的四重境界
  2. 2.DeepSeek V4 与流形撕裂
  3. 3.陈省身的一个疑问,被两个世界同时回答
  4. 4.训练之后,一个 Mixture-of-Experts 被撕裂到什么程度?

数清楚你真正知道的

三篇文章,一个纪律:记忆要分清查到、推出和猜测;迁移要和打乱的对照组比;因子要按独立的赌注来数,而不是按名字数。

  1. 1.AI 长期记忆:向量相似,不等于记住了事实
  2. 2.一次迁移实验:容量越大,拟合越好,迁移越差
  3. 3.因子去重:11 个因子,风险上只相当于不到 5 个(附 Python)

工程不变量

真正能上生产的 AI 和量化系统,和原型的差别就在这些 incident 和不变量上——每篇讲一条来之不易的正确性经验。

  1. 1.Flatten Verifiers:当你的“平掉全部”订单并没有真的平掉
  2. 2.Prompt Caching 的字节稳定性测试
  3. 3.长时间 Agent Loop 中的 Mid-Turn Checkpointing
  4. 4.为什么回测盈利,实盘却亏损?成本、成交与对账检查清单

2026年10月26日

实盘和研究差了多少?把差距拆成四项,一分不差

Dnalyaw 量化交易

研究算出的收益和账户实际收益总有差距。把它拆成未成交仓位、执行价差、手续费、融券费四项,四项相加正好等于总差额,再单独列出计价时点造成的差异。附一个合成数据算例。

2026年10月26日

AI 记忆答错,多半不是推理的问题,而是没读懂问题

AI 研究与理论

把记忆系统的回答过程拆成“找起点、定关系、沿事实走”几段分别测量:给对起点和关系时,224 次作答判对 0.79;只从问题文字出发,掉到 0.57。丢掉的分主要在读题这一步。附逐段的丢分数据,以及另一组不保证有答案的题上的拆解。

2026年9月26日

AI 长期记忆:向量相似,不等于记住了事实

AI 研究与理论

给一个新东西找到“它像谁”很容易,让它继承“它该知道什么”很难。在我的结构化记忆实验里,向量打分只找回 24 条应继承事实中的 2 条;写下来的规则找回全部 24 条,并对 40 个系统里没有记录的问题全部回答“没有依据”。这篇讲 AI 长期记忆该怎么分工:先查,再推,最后才猜。

2026年9月26日

因子去重:11 个因子,风险上只相当于不到 5 个(附 Python)

Dnalyaw 量化交易

因子库里的因子数量,不等于独立信号的数量。在一份冻结样本中,用 Ken French 公开数据构造的 11 条动量、价值、规模序列,平均两两相关为 0.13;按相关性分成 4 组后,全样本毛夏普基本不变。附有效数量算法、去重步骤和可复现脚本。

2026年9月26日

一次迁移实验:容量越大,拟合越好,迁移越差

AI 研究与理论

训练分数高,不代表模型学到了能带走的东西。在一次记忆模型的迁移实验里,容量翻四倍,训练得分从 0.48 升到 0.65,换到没见过的新世界反而从 0.26 降到 0.21。这篇整理三个检查:换个世界测、和打乱的对照组比、查数据泄露。

2026年9月17日

MCP、WebMCP、CLI、Skills:同一个任务该选哪种工具?

AI Agent 实践

把同一个"关闭 30 天没动的工单"任务分别通过 MCP server、裸命令行、命令行加 SKILL.md 交给 Claude,各跑 5 次,记录模型调用次数、工具调用次数、token 占用、耗时和失败方式。15 次全部做对,但代价差一倍以上:MCP 平均 3.2 次模型调用,CLI 7.4 次,Skills 6.0 次。附可复现的单文件测试台,以及 WebMCP 为什么不在同一个赛道上。

2026年9月17日

AI Agent 开发教程:用 Python 写一个能搜索、调用工具、保存状态的 Agent

AI Agent 实践

一个 200 行的 Python Agent:联网搜索、读写文件、跨运行记忆、崩溃后从检查点续跑。给出安装命令、完整代码、四次真实运行的输出和 token 开销,外加一个我自己也没料到的发现:搜索工具附带了一个隐藏的沙箱。

2026年8月19日

DeepSeek Harness:可热插拔的循环,不是可上生产的工作流

AI Agent 实践

DeepSeek Harness 几天打出超十万星,被写成 Claude Code 杀手。读完文档和 Cordis 论文之后更清楚:它是给开发者重组 agent 的框架。Kocoro 是本机合同——Skill / MCP / Gateway 已经分层,loop 冻着。两份契约不要焊成一套插件核。

2026年8月9日

Agents 如何执行研究管线

Dnalyaw 量化交易

《Alpha 的几何学》讲了工厂,《一个人 + AI》讲了组织形态。这篇补上中间那一截:冻结的门如何变成 agent 可执行的契约、一个候选信号如何在夜里走完全程、哪些产出是一等公民(包括每一条 NO GO)、以及哪些门必须留给人——并且按构造 fail closed。

2026年8月9日

驯服不连续的两种药方:K3 与 DeepSeek V4

AI 研究与理论

Kimi K3 与 DeepSeek V4 治的是否是同一类病?本文提出一种统一读法:无界激活、离散专家、跨层放大——药方不同。从 Stable LatentMoE、SiTU softcap 到 MLA 为何仍在混合栈里,做一次对照。

2026年7月6日

一个人 + AI:量化基金研究组织形态的重构

Dnalyaw 量化交易

传统量化基金用人头堆研究产能:几十个 PhD、各管一段流水线。当研究流程被冻结成可执行的纪律,AI agents 可以承担枚举、验证、监控、报告的全部机械环节,产能第一次和人头数解耦。这篇文章讲这种新组织形态的设计原则:什么交给机器、什么留给人、以及为什么纪律是让 AI 可用的前提而不是结果。

2026年7月5日

风控的两种语言:Sizing 与 Safety 为什么绝不能混为一谈

Dnalyaw 量化交易

仓位控制回答“下多大注”,安全控制回答“什么时候切断我”。这是两类数学性质完全不同的控制系统,而行业里最危险的风控设计错误,就是把它们混成一个。这篇文章讲这条分界线的原理、市场中性为什么不等于危机中性,以及为什么真正的安全控制必须拥有架构级的否决权。

2026年7月4日

alpha 的几何学:为什么量化的护城河是工厂而不是配方

Dnalyaw 量化交易

单一“神奇信号”的时代结束了。真正复利的资产不是任何一个配方,而是持续生产、验证、淘汰信号的工厂本身。这篇文章讲弱信号聚合背后的数学:√N 定律为什么是勾股定理,因子剥离为什么是投影,尾部相关性为什么是和乐(holonomy)——以及为什么读市场和读神经网络,用的是同一套几何、同一个四重境界。

2026年6月25日

训练之后,一个 Mixture-of-Experts 被撕裂到什么程度?

AI 研究与理论

我说过 loss spike 是几何撕裂,不是优化爆掉。那就把撕裂量出来——直接在已发布的 MoE 权重上,OLMoE 和 Qwen。它在每一层都是一次货真价实的 C⁰ 跳变,严重度落在约 24% 的块输出跳变上,是方向性的,而且训练撕不平。给那个比喻补上一个数字。

2026年6月18日

陈省身的一个疑问,被两个世界同时回答

AI 研究与理论

黎曼、庞加莱、陈省身的流形一脉,传到江泽涵、姜伯驹、石根华手里。陈省身留下过一个疑问——分片堆叠的流形,能不能推广到任意复杂的区域?它后来在山体力学和神经网络两个毫不相干的世界里,得到了同一个答案。

2026年5月29日

DiffusionBlocks:网络一直知道自己是三段式的

AI 研究与理论

Sakana AI 的 DiffusionBlocks 把网络拆成独立块训练,并发现 B=3 是甜蜜点。我认为原因在于:残差流本来就被流形视角预言为三段几何相态,所以 B=3 切开的正是一个功能上已经存在的结构。

2026年5月27日

你的 AI 有大脑,它更应该有一颗心

AI Agent 实践

模型越来越聪明,用户却越来越像助理:拖文件、贴邮件、反复解释客户是谁。缺的不是更长的上下文窗口,而是真正的记忆。这就是我为什么要做 Kocoro:一个本地、开源、会记住你的 Mac agent。

2026年5月5日

DeepSeek V4 与流形撕裂

AI 研究与理论

为什么训练时的 loss spike 不是优化失败,而是几何撕裂——DeepSeek V4 的三道防线,把“流形先验”从抽象立场推成了工程证据。

2026年4月25日

Transformer 架构之书:英文版已上线

AI 研究与理论

我的 Transformer 书英文完整版已经上线:32 章与 3 个附录,从 tokenization 到 attention,再到从零实现;并继续讲到 RLHF、Mixture-of-Experts、推理模型,以及后 Transformer 架构。

2026年4月24日

神经网络的四重境界

AI 研究与理论

用修真小说的方式读深度学习:PDE 求解器、流形几何、规范场与量子式注意力;以及为什么最后一境告诉我们,AGI 必须是个人化的。

2026年4月20日

为什么回测盈利,实盘却亏损?成本、成交与对账检查清单

Dnalyaw 量化交易

用三本独立账、一个滑点算例和可运行的手续费对账测试,区分信号失效、成交假设与会计错误,避免把回测实盘差异一概归因于成本。

2026年4月19日

长时间 Agent Loop 中的 Mid-Turn Checkpointing

AI Agent 实践

一个 agent turn 可能跨越 20 次工具调用和 10 分钟。如果 daemon 在第 9 分钟死掉,天真的设计会把一切都丢掉。本文讲为什么“直接重试这一轮”是错的,Kocoro 用什么 phase state machine 取代它,以及怎样的 checkpoint 纪律能扛住 mid-turn 的 SIGKILL。

2026年4月16日

Prompt Caching 的字节稳定性测试

AI Agent 实践

Prompt caching 有效时能省下 90% 成本;一旦悄悄失效,就是 0%。为什么 prompt 会以普通单元测试很少捕捉的方式变得脆弱,以及我们在 Shannon 里构建了怎样的测试纪律,让代码演进时 cache hit rate 仍然稳定。

2026年4月14日

Flatten Verifiers:当你的“平掉全部”订单并没有真的平掉

Dnalyaw 量化交易

在任何交易系统里,最安全关键的操作也是执行工程里最难的正确性问题之一。一次险些出事的 incident、背后的竞态条件,以及我们如何用一个架构模式取代天真的“全部关闭”逻辑,让它按构造就是正确的。

2026年4月4日

AI Agent Harness:Claude Code 公开之后,Kocoro 如何演进

AI Agent 实践

我在 Claude Code 开源之前就构建了 Kocoro:一个 Go agent runtime,包含工具分发、权限、上下文管理和循环检测。等 Claude Code 的架构公开后,二者的收敛非常明显。本文讲我们独立走到的设计、我从它的缓存纪律里学到的东西,以及我认为生产级 harness 应该具备什么。

2026年3月1日

Claude Code 学到的多 Agent 工具设计经验,以及 Shannon 已经做对了什么

AI Agent 实践

一位 Anthropic 工程师描述了 Claude Code 如何从简单 todo list 演进到具备依赖关系的任务图。这些模式,Shannon 也独立走到了同一个地方。本文映射五条经验,也包括 Shannon 仍需补上的差距。

2026年2月17日

信息论足以理解 LLM

AI 研究与理论

香农在 1948 年奠定了基础。七十八年后,他的框架依然解释了 Transformer 为什么有效、交叉熵损失究竟意味着什么,以及为什么模型永远不可能比训练数据更聪明。

2026年2月14日

Dnalyaw:从零工程化一个 AI 量化交易系统

Dnalyaw 量化交易

为什么垂直整合——把研究和执行放进同一条统一 pipeline——才是量化交易真正的护城河,以及 Dnalyaw 如何用数百个特征、严谨风控、横跨全球市场的 Rust/Go/Python 多语言执行核心来构建它。

2026年1月11日

我写了一本关于构建生产级 AI Agent 的书

AI Agent 实践

一本面向实战的生产级 AI Agent 系统指南,覆盖单 Agent 设计、多 Agent 编排、MCP 协议、Computer Use、成本控制,以及企业级部署模式。

2026年1月11日

我的 Transformer 与 LLM 架构之书

AI 研究与理论

一次深入拆解 Transformer 架构每个组件的旅程:从 Tokenization 到 Attention 机制,从前向传播到代码实现。写给那些想真正理解 GPT 与 ChatGPT 如何运作的开发者。

2026年1月6日

2025 年回顾与 2026 年预测

个人随笔与更新

回看 2025 如何让 agent workflow 和 reasoning model 变成日常,以及为什么 2026 感觉不像一个预测,更像一个你已经可以选择进入的状态。

2025年10月21日

Tensor Logic:一种类脑架构

AI 研究与理论

连接逻辑与学习之间的裂缝——张量方程如何创造既能符号化思考、也能直觉式学习的 AI 系统。

2025年10月7日

Shannon:设计一个生产级多 Agent 平台

AI Agent 实践

一篇关于 Shannon 架构的深度解析:这是一个可自托管的多 Agent 平台,用 Rust、Go、Python 的明确技术分工,解决生产 AI 中最难的三个问题:失控成本、非确定性失败,以及安全漏洞。

2025年4月29日

AI 量化交易:从模型到量化基金

Dnalyaw 量化交易

为 AI 从业者拆解量化交易:量化基金到底在做什么,为什么强化学习比 LLM 更适合市场,以及真正的门槛在哪里。

2025年2月25日

从 RNN 到 LLM:十年的简单性与变形

AI 研究与理论

重读 Andrej Karpathy 2015 年那篇 RNN 文章,回看 LLM 如何在 Transformer 与 fine-tuning 中完成出人意料的演化。

2024年2月22日

Transformer 架构详解(图解):从 Encoder–Decoder 到 GPT

AI 研究与理论

一张图看清原始 Transformer 的 encoder–decoder 和 GPT 的 decoder-only 差在哪,再一步步走完 tokenization、embedding、位置编码、self-attention、FFN 到输出概率。