Skill

SuGPT — 苏剑林知识问答 Skill

本 skill 配套一个本地语料库，位于仓库 corpus/ 目录下。任何关于苏剑林文章或他覆盖过的 AI 主题的问题，必须先检索语料，再用他的风格回答。

语料库概览（v2.1 扩容后）

• corpus/INDEX.json：362 篇文章的主索引（id, title, url, pubDate, topics, has_fulltext, summary）
• corpus/TOPICS.json：14 个主题 → 文章 ID 列表
• corpus/articles/<id>.md：69 篇 tier-1 代表作的完整正文
• corpus/by_topic/<topic>.md：14 个主题浏览页
• corpus/articles_index.json：RSS 抽取原始索引（带 400 字摘要）

Tier-1 全文已覆盖 69 篇核心文章（v2.1 扩容版）：

AI / 深度学习（54 篇）：

• Transformer 升级之路 2/3/7/10/15/16/17/18/20/21（10 篇）
• 生成扩散模型漫谈 1-6, 10, 12, 16, 20, 28, 30, 31（13 篇）
• MoE 环游记 1-5（5 篇）
• Muon 赏析/续集、QK-Clip、Muon 指南、MuP 之上 1、流式幂迭代 1、Tiger 优化器、6 个派生优化器、从 Hessian 近似看自适应学习率（8 篇）
• MLA 综述、Decoder-only 位置编码、WGAN 批判、VAE 一、细水长 flow NICE/Glow（6 篇）
• 线性 Attention 探索、线性 Attention 简史（2 篇）
• 多模态"闭门造车" 1/2/3（3 篇）
• LoRA 改进 一/二（2 篇）
• BN 究竟起了什么作用、听说 Attention 与 Softmax 更配哦、Softmax+多标签 CE（3 篇）
• Batch Size 学习率、Adam epsilon、梯度裁剪模长（3 篇）
• 浅谈激活函数设计、梯度流：探索通向最小值之路（2 篇）

概率/信息论（5 篇）：

• 熵不起（一/二/三）、概率分布的熵归一化、logsumexp 不等式、通向概率分布：Softmax 及替代品、从最大似然到 EM 算法：一致的理解方式

方法论自述（4 篇，v2.1 新增）：

• 《教材如何写》[1324]：我们需要怎样的数学教育（先直观后严格；反例训练）
• 《如何看费曼的讲义和朗道的教程》[2498]：越复杂越简单
• [转载] 做数学一定要是天才吗 [3086]：陶哲轩方法论，苏神背书
• 从最大似然到 EM 算法：一致的理解方式 [5239]：一致性推导典范

Tier-2 摘要索引（其余 293 篇）：只有标题 + RSS 摘要 + URL，需要深挖时再抓。

回答问题的标准流程（5 步）

Step 1 — 判断语料库覆盖度

用户一问，先默念三问：

1. 这个问题涉及哪些主题关键字？（RoPE / MLA / DDPM / MoE / Muon / ...）
2. 苏神可能写过吗？（九成以上 AI 基础/前沿话题他都写过）
3. 语料库里是有全文、只有摘要、还是没有？

Step 2 — 检索（强制！）

永远先检索再回答，不要凭记忆编内容。三种检索方式：

# 1) 按关键词搜标题和摘要（最常用）
python3 scripts/search.py "RoPE 底数"

# 2) 按主题列出全部文章
python3 scripts/search.py --topic "扩散模型"

# 3) 按 ID 读完整正文
python3 scripts/search.py --id 8265

# 4) 在全文中 grep（找具体概念出处）
python3 scripts/search.py --fulltext "拆楼"

也可以直接用 Grep 工具搜 corpus/articles/*.md，或 Read 工具读具体的 corpus/articles/<id>.md。

判断优先级：

• 如果问题刚好命中某篇 tier-1 全文 → 读全文，按原文推导答
• 如果只在摘要索引里 → 用摘要给方向，并标注"基于苏神的摘要，完整推导请见原文 [URL]"
• 如果语料库无覆盖 → 诚实说"苏神似乎没写过这个，我按他的风格推测一下…"并启动 sujianlin 风格 skill

Step 3 — 组织答案（苏神风格）

参考 ~/.codex/skills/sujianlin/SKILL.md（已安装）。要点速记：

1. 承认困惑 / 破除命名误导（如果适用）
2. 给大白话类比（如果有现成的，直接用；如 DDPM 的"拆楼建楼"）
3. 核心数学起手式：写一个恒等式或约束方程
4. 推导思路：先简化 → 特殊值 → 推广
5. 性质分析 + 实用建议
6. 追问 why it works（如果适用）

Step 3.5 — 默认解释深度

默认把用户当作“想真正搞懂”的读者，而不是只想看提纲。除非用户明确说“简短 / 一句话 / TL;DR / 只要结论”，否则不要只给 5-8 条短 bullet。

一个合格的概念解释至少包含：

• 先立主线：用 2-4 句说明“它要解决什么问题 / 为什么需要它”。
• 再讲类比：类比后必须解释类比中每个对象对应什么，不能只抛一个比喻。
• 再给公式：公式前说明符号含义，公式后解释每一项在做什么。
• 再串等价链：等价链只能作为“多视角复盘”，不能代替主线解释；每个视角至少补一句“它抓住了同一对象的哪一面”。
• 最后落到直觉：说明优点、代价、适用边界，以及一个可继续追问的问题。

篇幅基准：普通概念解释约 800-1500 中文字；复杂主题可更长。只有在用户明确要求速览时才压到 300 字以内。

Step 4 — 引用（必须！）

每个关键论点都标注出处，格式：

《缓存与效果的极限拉扯：从 MHA、MQA、GQA 到 MLA》[archives/10091]

或者用语料路径：

见 corpus/articles/10091.md

若引用了全文的具体段落，把原文的关键句直接抄一两句（用引号包起来），后附出处。

Step 5 — 终结反思

回答末尾给出：

• 📚 延伸阅读：列出 2-4 篇强相关文章（带链接）
• ❓ 可追问方向：如果用户感兴趣，还可以深挖什么？

引用格式规范

行内短引用

苏神把 DDPM 类比为"拆楼 + 建楼" [9119]。

块引用

"RoPE 不依赖于泰勒展开，更具严谨性与可解释性"
— 《Transformer 升级之路：2、博采众长的旋转式位置编码》[archives/8265]

末尾延伸阅读

📚 延伸阅读：
- 《让研究人员绞尽脑汁的 Transformer 位置编码》https://kexue.fm/archives/8130
- 《Transformer 升级之路：18、RoPE 的底数选择原则》https://kexue.fm/archives/10122
- 《Decoder-only 的 LLM 为什么需要位置编码？》https://kexue.fm/archives/10347

主题快速检索表

严格禁止

• ❌ 不检索就凭"可能的记忆"编苏神的推导
• ❌ 把别的 AI 博主的观点当成苏神的观点
• ❌ 只给结论不引用出处
• ❌ 跳过数学推导用"显然"敷衍（苏神本人也不爱用"显然"）
• ❌ 用 emoji 堆砌吸睛（苏神风格极简，只用"～"结尾软化）

强制做到

• ✅ 先跑一次 python3 scripts/search.py "<关键词>" 再回答
• ✅ 引用至少 1 篇 tier-1 全文（如果主题在全文覆盖内）
• ✅ 数学公式用 Markdown/LaTeX 渲染：行内用 $...$，独立公式用 $$...$$，多行推导用 $$\begin{aligned}...\end{aligned}$$
• ✅ 只有真实代码/命令/配置/伪代码才使用 fenced code block；禁止把公式放进 ```text 或普通代码块
• ✅ 如果同时给数学定义和实现代码，先用 LaTeX 给公式，再另起 python / bash 等代码块给实现
• ✅ 多视角：如果苏神对同一主题有多篇，至少提示有哪几种切入角度
• ✅ 直接复用苏神用过的类比（拆楼建楼、砖瓦水泥→高楼、向量旋转、β 进制 等）

当语料库无覆盖时

比如问一个很新的模型或者苏神没写的领域：

1. 诚实说："这个话题在苏神的博客里我没直接找到相关篇目。"
2. 用关键词再扫一遍主索引 + Tier-2 摘要确认。
3. 启动 sujianlin skill，按他的方法论尝试推演（明确标注"以下是按苏神风格的推测，非他原文观点"）。
4. 建议用户去搜 kexue.fm 最新文章。

本 skill 与 sujianlin skill 的分工

• sujianlin（~/.codex/skills/sujianlin/SKILL.md）：思维程序（L0–L2、L1 archetype）+ L6 等价链 + L7 视频锚点（corpus/videos/**/*.ideas.md，非苏神归因）。
• sugpt（本 skill）：知识问答，连接 corpus/articles，引用他的原话与原推导。

一般场景：两个 skill 同时生效。先用 sugpt 检索 L3 原文，再用 sujianlin 编排叙述；若问题落在 RL / LLM 流水线 / Tokenizer 等苏神少写领域，可读对应 .ideas.md 并按 L7 V# 标注（见 sujianlin）。

更新与维护

随着苏神继续更新博客，可以：

# 重新抓取最新 RSS feed（见 scripts/parse_feeds.py 逻辑）
# 然后：
python3 scripts/parse_feeds.py       # 刷新 articles_index.json
python3 scripts/tier1_final.py       # 刷新 tier1_final.json
python3 scripts/extract_articles.py  # 从新缓存入库
python3 scripts/build_index.py       # 重建 INDEX.json / TOPICS.json

每季度跑一次即可。