Knowledge Extraction

Knowledge Extraction — 知识提取

原则 (Principles)

凡文必拆，四域为纲。 任何一篇论文，先拆为实体、关系、主张、证据四域，结构既定，提取不迷。 无源不录，无据不传。 每一项知识须有原文句子与 section/figure/table 标注，不可"文中提到"了事。 主客分离，置信三分。 stated/suggested/speculated 三级置信度分明，作者推测不得当作文献事实。 单篇为基，跨界不涉。 本原子只做单篇提取；跨论文比较归 ASC，越界即失原子边界。

从单篇论文中提取结构化知识。不做跨论文比较、不做假设生成、不做论证表达。 单篇为基，结构为纲。凡文必拆为实体、关系、主张、证据四域。无源不录，无据不传。

Genes (策略基因)

紧凑策略表示。条件→策略。需要深度时参考上方完整文档。

• [KE-001] 提取论文知识 → 四域拆解: 实体(谁/什么)+关系(如何关联)+主张(说了什么)+证据(凭什么)。凡文必拆，四域为纲
• [KE-002] 知识项来源标注 → 每项知识必须有原文句子+section/figure/table标注。无源不录，无据不传
• [KE-003] 置信度分级 → stated/suggested/speculated 三级。作者推测不得当作文献事实。主客分离
• [KE-004] 原子边界 → 只做单篇提取。跨论文比较→ASC，假说→HYP，论证→ARG。越界即失原子边界
• [KE-005] 两模式选择 → standard=知识消费(4域JSON); pwbench=逆向工程(Idea+实验日志)。不可混淆

原理层·文言

格物致知。 物格而后知至。单篇为基，结构为纲，四域为目。

凡文必拆： 实体（谁/什么）、关系（如何关联）、主张（说了什么）、证据（凭什么说）。 无源不录： 每项知识必须有明确的论文来源和位置标注。 无据不传： 主观表述与客观事实必须分离，数值声明必须可追溯。

两模式： 标准提取（知识消费）与逆向工程（知识再生产），各有所用，不可混淆。

方法层·白话

知识提取是认知管道第 2 步（ACQ → EXT → ASC → HYP → ARG → VER）。输入单篇论文全文/摘要，输出结构化 KnowledgeItem JSON。

两模式

触发条件

• 上游 knowledge-acquisition（现指向 literature）产出论文，需要结构化
• 用户要求"提取/分析/总结这篇论文"
• 需要为 association-discovery 准备结构化输入
• 需要为论文写作提取文献证据

标准提取模式（standard）

Step 1: 加载论文内容

优先 Markdown（markitdown），回退 raw text（pdftotext）。工具契约见 tools/pdf-extraction.md。

# 方式A（首选）: markitdown 转换 → Markdown
markitdown paper.pdf > /tmp/paper_content.md

# 方式B（回退）: pdftotext → raw text
pdftotext -layout paper.pdf /tmp/paper_content.txt

级联规则：

1. 先跑 markitdown paper.pdf > /tmp/try.md
2. 检查输出：wc -c /tmp/try.md ≥ 200 且含文本 → ✅ 用 Markdown（设 meta.source = "markdown_extracted"）
3. 失败（空/超时）→ 回退 pdftotext（设 meta.source = "pdf_text"）

为什么优先 Markdown：表格结构保留 → 证据提取更准（数值不乱）；标题层级保留 → section 标注从"猜"变"定"。

Step 2: 四域结构化提取

按以下四域提取，每个域有统一格式：

实体（Entities）

论文中出现的核心实体：

输出格式：

{
  "name": "...",
  "type": "method|phenomenon|technology|concept|person|institution",
  "aliases": ["同义词/缩写"],
  "provenance": {"section": "Introduction", "sentence": "..."}
}

关系（Relations）

实体间的显式关系：

{
  "source": "实体A",
  "target": "实体B",
  "relation": "causes|correlates_with|predicts|contradicts|extends|depends_on",
  "direction": "unidirectional|bidirectional|undirected",
  "provenance": {"section": "...", "sentence": "..."}
}

主张（Claims）

论文的核心主张/发现：

{
  "claim": "具体陈述（可验证的命题）",
  "type": "finding|hypothesis|conclusion|limitation",
  "confidence": "stated|suggested|speculated",
  "evidence_refs": ["evidence条目索引"],
  "provenance": {"section": "...", "sentence": "..."}
}

区分三类置信度：

• stated — 论文明确断言（"Our results show that X..."）
• suggested — 论文暗示（"These findings suggest that X may..."）
• speculated — 论文推测（"X might be explained by Y..."）

证据（Evidence）

支持主张的具体证据（数值、引用、数据）：

{
  "evidence": "具体证据内容",
  "type": "numeric|l iterature_reference|experimental_result|clinical_observation",
  "value": 数值（如果是数值型）,
  "unit": "单位（如果是数值型）",
  "statistical_sig": "p<0.05"或null,
  "provenance": {"section": "...", "figure": "...", "table": "..."}
}

数值声明必须标注位置（section/figure/table/line number），不可只写"文中提到"。

Step 3: 六维质量评分

对每个 KnowledgeItem 按 references/knowledge-entry-rubric.md 六维评分：

通过阈值: composite ≥ 0.70

Step 4: 保存

# 保存结构化知识（输出契约见 tools/pdf-extraction.md）
mkdir -p outputs/{paper_dir}/07-quality/
python3 -c "import json; json.dump(knowledge_item, open('outputs/{paper_dir}/07-quality/knowledge.json','w'), indent=2, ensure_ascii=False)"

路径规范：outputs/{paper_slug}/07-quality/knowledge.json（UTF-8, indent=2）

PW-Bench 逆向工程模式（pwbench）

适用场景：从已发表论文重建研究设计，用于评估管线对模糊输入的响应能力。

模式1: Sparse Idea

从论文提取高层概念（不含实验细节）。

• 用第一人称将来时："我们将探索..."
• 禁止引用、URL、作者名
• 不允许包含实验结果
• 避免 LaTeX 数学，用语言描述功能

输出 idea_sparse.md，四部分：

1. Problem Statement — 问题陈述
2. Core Hypothesis — 核心假设
3. Proposed Methodology (high-level) — 方法概述
4. Expected Contribution — 预期贡献

模式2: Dense Idea

从论文提取详细技术方案。

• 用第一人称将来时，保留数学公式
• 定义所有使用的变量
• 包含具体的架构选择和维度
• 不允许实验结果

输出 idea_dense.md，四部分（同上，但更详细）。

模式3: Full Reconstruction

从论文完整重建 Idea + Experimental Log。

• 提取完整研究设计
• 重建实验设置（参数、数据集、评估指标）
• 不包含真实实验结果（留给模型运行产生）

完整方法论见 references/pwbench-reverse-engineer.md。

输入契约

输出契约

{
  "meta": {
    "title": "论文标题",
    "authors": ["作者列表"],
    "doi": "10.xxxx",
    "extraction_mode": "standard|pwbench",
    "extracted_at": "ISO时间戳",
    "source": "markdown_extracted|pdf_text|abstract"
  },
  "entities": [
    {"name": "...", "type": "...", "aliases": [...], "provenance": {...}}
  ],
  "relations": [
    {"source": "...", "target": "...", "relation": "...", "provenance": {...}}
  ],
  "claims": [
    {"claim": "...", "type": "...", "confidence": "...", "evidence_refs": [...], "provenance": {...}}
  ],
  "evidence": [
    {"evidence": "...", "type": "...", "value": null, "unit": null, "provenance": {...}}
  ],
  "summary": "结构化摘要（200字内）",
  "quality_score": {
    "dimensions": {"gap_significance": 0.0, ...},
    "composite": 0.0,
    "pass": true|false
  },
  "evidence_chain": [
    {"source_type": "doi", "source_ref": "<DOI>", "fetch_time": "<ISO>"}
  ]
}

陷阱（Pitfalls）

验证清单

• 输入已验证：paper_content 非空，有来源标记
• 加载方式已尝试 markitdown → 失败才回退 pdftotext
• meta.source 正确标记（markdown_extracted / pdf_text / abstract）
• 四域完整：entities, relations, claims, evidence 均有数据
• 置信度区分：所有 claim 标注了 stated/suggested/speculated
• 数值有位置：所有数值声明标注了 section/figure/table
• 可追溯：每条 claim 有 provenance（原文句子引用）
• 无跨论文：未在一份输出中包含多篇论文
• 质量评分：composite ≥ 0.70 则标记为 PASS
• 已保存：JSON 写入 07-quality/knowledge.json
• pwbench 模式：Idea 不含任何实验数据

边界声明

• 本原子只做单篇论文结构化提取，不做跨论文比较
• 不生成假设（那是 HYP 的职责）
• 不构建论证（那是 ARG 的职责）
• 不验证观点正误（那是 VER 的职责）
• PW-Bench 逆向工程不改变"单论文结构化提取"的核心定位

Golden 集合 · GOLDEN SET

• Golden Input: paper_content: <markitdown 转换的 Markdown 全文>, mode: "standard", output_path: "outputs/{slug}/07-quality/knowledge.json"
• Golden Output: 四域（entities/relations/claims/evidence）全非空；每条 claim 带 stated/suggested/speculated 置信度与 provenance；数值证据标注 section/figure/table；quality_score.composite ≥ 0.70 则 pass=true
• Golden Error: paper_content 为空（如 markitdown 失败且 pdftotext 亦空）→ 拒绝提取；或 evidence 数值无位置标注 → 验证清单"数值有位置"不通过，JSON 不标记 pass

相关文件

• references/IO_CONTRACT.md — 输入输出契约细节
• references/EVIDENCE_SCHEMA.md — 证据链节点结构
• references/BOUNDARY.md — 边界声明的正式版本
• references/knowledge-entry-rubric.md — 六维质量评分标准
• references/pwbench-reverse-engineer.md — PW-Bench 逆向工程完整方法论
• references/CHANGE_LOG.md — 变更记录