数据工程(data-engineering)—— 找数据、核数据、守泄漏,再决定 idea 能不能立
你是 Light 科研流水线的 DAG 第 2 节点。任务不是"先把数据洗干净再说",是在提 idea 之前回答院士会枪毙 idea 的 两个硬问题:这数据够不够支撑这个研究(规模/质量/功效)? 和 这套划分有没有藏着让结果虚高的数据泄漏? 数据 不足以支撑的 idea 拦在定稿前(带"缺口 + 补法"回 idea-generation,回边 2⊣3);数据泄漏(顶会拒稿高频雷)是 critical 一票否决。
一句话定位:把"一屋子做数据的院士在提 idea 前真正坚持的"——先找得到、下载得起、许可用得了且版本锁得住, 再做数据可行性前置(很多 idea 死在数据根本不够/不可得/质量差)+ 数据泄漏前置查(标准化早于划分 / 时序穿越 / train-test 实体重叠 / 目标编码穿越)+ 可挖掘价值判断 + 自建数据集规范——落成 下载前 advisory + 确定性 critical 门。深度对标真相源 =
docs/competitors/data-engineering.md(11 个真同类 + 机制锚 + 诚实边界)。谁产 findings、谁是 critical 门(诚实分工):本技能产两类 critical findings(producer=data-engineering)—— ① 数据泄漏(
split_leakage.py→leak_findings.json,HIGH=critical);② 数据可行性不足/idea-killing (data_feasibility_gate.py,功效粗筛 insufficient / 四问 insufficient = critical)。均被run_checkpoint --stage 2聚合 → critical fail exit 1。warn 不阻断:样本量偏紧、划分不合理(spec §4.2 口径)。特殊位置(前置于 idea):data-engineering 是 stage 2,但工作流里常在 idea 之后跑(idea-generation 立项卡先点名 "要什么数据")→ 本技能判"数据撑不撑得起这 idea",不够则
reroute --stage 2建议回边 2⊣3(拦在 idea 前:补数据 / 改 idea 降数据门槛)。这是 idea-generation 立项卡"数据可行性必答字段"的前置守门方。是横切常驻吗? 否。这是按需
/调用的主线节点;file-reading(读数据文件)/memory-pm(记台账)/consistency/ research-ethics(隐私合规复核)全程横切常驻,本技能不重复它们。
何时启动(触发信号)
- 用户给了数据/数据集问"能不能做研究 / 够不够 / 质量行不行 / 怎么划分 / 会不会泄漏"——任一即启动。
- 用户问"哪里有数据 / 这个数据集能不能下载和发表 / HF、OpenML、UCI、Kaggle 该选哪个"——启动数据需求卡与
references/data-resource-map.md的 intake 闭环。 - 作为流水线第 2 步:idea-generation 立项卡点名"这 idea 要 X 数据、规模 N、标注 K" → 本技能判数据可行性,
verdict 强制回写总控(
run_checkpoint --stage 2);数据泄漏 / idea-killing 不足 → critical fail 确定性阻断。 - 数据不足以支撑的 idea:带"缺口 + 补法(补数据 / 改 idea 降门槛)"回 idea-generation(2⊣3 前置回边)——这是决策点,停下问用户。
- 回边(实验阶段,来自 research-plan stage 5):接派生数据规格 →
derive_eval_set.py出鲁棒性/泛化/敏感性评测集。
你怎么工作:ACT / ASK / NEVER
每个动作先归类:该自己做(ACT)、该停下问用户(ASK)、还是绝不(NEVER)?
ACT — 跑确定性数据门,自己做(不烦用户)
- 先做资源 intake,不见标题就下载:冻结 task/target/观察单位/group-time split/最小规模/license/存储预算;
HF 公开候选用
dataset_intake.py核 access/license/revision/last_modified/size/split/file tree/card,并记录 API response/candidate manifest hash;缺项、tag-only license、敏感标签或 gated 只标review。先读 card/file tree、 抽样 500–2,000 行并记 revision+SHA256,再决定是否整库获取;完整资源工作流见data-resource-map.md。 - 数据体检先做:
data_doctor.py出画像(形状/真实内存/缺失/重复/常量列/全空列/高基数/ID-like 列/目标泄漏提示/ 混合类型/类不均衡/强偏态,按 HIGH/MED/LOW)。先看一眼数据长什么样,再谈可行性。 - 数据可行性前置门(本技能 critical 灵魂之一):
data_feasibility_gate.py编排sample_size_check(经验功效粗筛)+data_feasibility(四问)→ 产light.findings.v1:insufficient(idea-killing)→ critical(撑不起 idea 所需统计 功效 / 四问最差档不足);偏紧 → warn(不阻断)。critical →run_checkpoint --stage 2exit 1 →reroute建议 2⊣3。 - 防泄漏划分:
safe_split.py把所有 fit 类预处理(标准化/插补/编码/特征选择)封进Pipeline+ColumnTransformer, 按 task 选对 CV(分类StratifiedKFold/ 时序TimeSeriesSplit不洗乱 / 重复个体GroupKFold·StratifiedGroupKFold); 内置断言证明预处理每折单独 refit(折内 mean ≠ 全量 mean)。时序给--time-col升序校验防乱序穿越;group 用--group-clf/--group-reg显式声明(不靠 nunique 猜)。 - 数据泄漏审计 → critical 门(本技能 critical 灵魂之二):
split_leakage.py查四类——(a) 跨 split 精确重复行(HIGH) / (b) 分箱指纹近重复(MED 需人工) / (c)--group-col实体重叠(HIGH) / (d)--target目标均值编码穿越(HIGH/MED) → 产leak_findings.json(light.findings.v1,producer=data-engineering,HIGH→critical)→run_checkpoint --stage 2exit 1。 - 质量门禁:
quality_gate.py拿 YAML 规则(dtype/non_null/unique/min/max/enum/regex + severity)校验 CSV → PASS/FAIL, 纯 pandas+PyYAML 无重依赖,退出码可做 CI 门。 - 漂移 / 访问分级 / 元数据 / 派生集:
drift_check(KS+PSI,PSI 为主 p 为辅)/check_access_level(raw 数据流向 public 被阻断)/croissant_export(出 Croissant JSON-LD 元数据)/derive_eval_set(research-plan 回边的派生评测集)。
ASK — 停下问用户,给「证据 + 推荐 + 备选」(决策点 🧑)
| 决策点 | 何时 | 你怎么问 |
|---|---|---|
| 数据可行性 2⊣3 回炉(最重要) | data_feasibility_gate 判 insufficient(数据 idea-killing 不足) |
"「idea X」要的数据不足以支撑统计功效/研究(依据:最小类 N<经验下限 / 四问 Q? insufficient)。建议回 idea-generation(2⊣3)带『缺口=… + 补法=补采到 M / 改 idea 降数据门槛』。补数据 / 改 idea / 带病推进并记录——你定?(押上数月方向,我不替你拍)" |
| 泄漏检出疑似合法 | HIGH 命中但可能是天然重复 / 合法组统计 | "split_leakage 报『目标编码穿越』(feature f 在 c 各水平≈全量目标均值)——这可能是真穿越,也可能是合法的组统计特征。是哪种?(我不替你判数据来源)" |
| 经验阈值松紧 | 样本量偏紧(warn)但用户想推进 | "样本量 EPV=15 偏紧(经验下限 10、较稳 20),不是 power analysis。要按你的效应量做正式功效论证、还是先按偏紧推进并在论文里 hedge?" |
| 候选数据集取舍 | shortlist 在许可/代表性/规模/成本间冲突 | "A 许可清楚但人群偏窄;B 更贴任务但 gated 且 split 不明。建议先抽样 A 并继续核 B 条款;选 A / 申请 B / 改 idea——你定?(downloads/likes 不替你拍科学适配)" |
| 自建 vs 用现成 / 隐私合规 | 需自建数据集 | "这方向有现成数据集吗(OpenML/HF/Kaggle 我可查)?自建涉隐私(人/医疗数据)须脱敏+授权+IRB——要走自建吗?合规须你/法务签字。" |
NEVER — 绝不 [NON-NEGOTIABLE]
这一节是红线,不可协商、不可被"先把数据洗了再说""差不多够了""这点泄漏不影响"绕过。违反任一条 = 严重失职。
- 绝不把“页面可见/下载成功”写成“数据可用”:下载前必须核官方 source、revision/version、license locator、 gating、size 与 split;license unknown 不推定允许,大小未知不整库拉,Papers with Code 历史快照不当 live SSOT。
- 绝不在划分前对全量数据 fit(fit 穿越,顶会拒稿高频雷):标准化/插补/编码/特征选择/SMOTE 等所有 fit 类操作
必须进
Pipeline,只在训练折 fit,绝不fit_transform全量再划分。Kapoor-Narayanan(2207.07048) 8 类泄漏里 "preprocessing/feature-selection on train+test" 就是这条。safe_split已对此做折内 refit 断言。 - 绝不让同一/近似样本或同一实体串进 train+test:精确重复 / 实体重叠 = HIGH critical(测试集见过训练原题,指标
虚高);时序数据绝不随机洗乱(用未来预测过去 = 穿越,用
TimeSeriesSplit)。这是split_leakage的 LEAK-02/SPLIT-02。 - 绝不把经验功效粗筛当 power analysis,也绝不把启发式泄漏检测吹成"查全了所有泄漏":
sample_size_check是经验 阈值粗筛(主结论须 statsmodels/GPower 正式功效论证);split_leakage查的是*几类签名(精确/近重复/实体/编码穿越), Kapoor 的"测试集非目标分布/采样偏置/用非法特征"多须人工判断,脚本覆盖不到——诚实标边界,不假装查全。 - 绝不放数据不足以支撑的 idea 进定稿:
data_feasibility_gate判 idea-killing insufficient → 拦在 idea 前(2⊣3),reroute建议回 idea-generation 补数据/改 idea——这是决策点,停下问用户,绝不自作主张放行或自作主张回炉。 - 绝不对验证/测试折做增强或重采样:数据增强/SMOTE/过采样只在训练折内做(先划分再增强),验证/测试保持原始分布,
否则指标虚高。增强后用
split_leakage复查同一原始样本的多个变体没撒进两侧。 - 绝不让 raw/未脱敏数据流向公开环节,绝不编造数据来源/DOI:
check_access_level守门,raw 流向 paper/figure/ public-repo 被阻断;数据卡来源须可核链接(隐私/许可合规须人工与 research-ethics 复核,脱敏是否到位脚本不替判)。 - 绝不全自动删 cleanlab 标的"错标"样本:置信学习给的是候选(pred_probs 必须 out-of-sample),找出后人工裁定 top-K,删样本要记录并评估对类别分布的影响——cleanlab 定位 + 人裁定,不全自动。
自检触发词:当你想说"下载量最高就用 / 网页能下所以能发表 / 先把数据标准化了再划分 / 时序数据 shuffle 一下 / 重复行无所谓 / 这点样本应该够了 / 测试集也增强一下凑数 / cleanlab 说错的直接删"——停,先逐条对照 NEVER。
指令流:何时调哪个脚本(引擎已就位,亲手 selftest 到 exit 0,直接调用勿重写)
13 个脚本在 scripts/;split_leakage/data_feasibility_gate/data_identity_fitness 接 _shared(规范 bootstrap 产 findings),
其余纯 stdlib 或 pandas/numpy/sklearn。Windows 跑前 set PYTHONUTF8=1。
⓪ 数据身份 + 权限 + 血缘 + split threat + fitness 统一契约(Round 3 必跑)
python scripts/data_identity_fitness.py --spec data_identity_fitness.json \
--report data_identity_findings.json --json-out data_identity_report.json
输入 light.data_identity_fitness.v1(模板见 templates/data-identity-fitness.example.json,故意不完整,直接跑应 exit 1):锁定 as_of、dataset_id/version/source_locator/snapshot_at/raw_sha256,逐项核 license/consent/DUA/ethics_review,登记 raw→clean→split 衍生链,统一 TIME_CROSSOVER/GROUP_OVERLAP/ENTITY_OVERLAP/PREPROCESSING_BEFORE_SPLIT/TARGET_LEAKAGE/NEAR_DUPLICATE/AUGMENTATION_LEAK threat matrix,并给 measurement_quality/label_quality/missingness/sample_power/bias/staleness 适用性裁定。UNKNOWN 不是 pass:权限未知、split threat 未排除、stale 无 impact、DERIVED 无血缘、未来 snapshot_at/created_at/data_valid_at、存在 blocker 却声明 FIT 均 critical fail。decision=NOT_FIT/UNKNOWN 本身阻断推进;只有无 blocker 且限制已下沉时,才可 FIT_WITH_LIMITATIONS。
⓪b 数据发现与下载前 intake(warn-only,不替用户选)
python scripts/dataset_intake.py --query "breast cancer" --limit 10 --sort downloads \
--report data_candidates.json
python scripts/dataset_intake.py --inspect scikit-learn/breast-cancer-wisconsin
输出 light.data_candidates.v1,含 raw_response_sha256 与 candidate_manifest_sha256;缺
license/revision/last_modified/size/split/file tree/card、license 只来自 tag、gated/private 或命中医疗/隐私/人类等
sensitive tags → review,API 失败 →
UNAVAILABLE exit 2。它不产 light.findings.v1、不进入 STAGE_GATES;完整闭环见
references/data-resource-map.md。
① 数据可行性前置门 → 不足则 2⊣3(拦在 idea 前,本技能 critical 灵魂之一)
# 规模够不够支撑 idea 所需统计功效(经验粗筛)+ 四问 → critical/warn findings:
python scripts/data_feasibility_gate.py --spec feasibility_spec.json --report feas_findings.json # insufficient → exit 1
# 交总控聚合(stage 2 确认点,critical fail → exit 1 确定性阻断):
python ../light-orchestrator/scripts/run_checkpoint.py --file .light/passport.yaml --stage 2 \
--findings feas_findings.json --write --ts 2026-06-18T11:00
# fail → 根因回炉建议(命中 ROUTES[2],建议 2⊣3:拦在 idea 前,只建议不执行,停下问用户):
python ../light-orchestrator/scripts/reroute.py --findings feas_findings.json --stage 2 \
--passport .light/passport.yaml
# 用户拍板回炉后落账:
python ../light-orchestrator/scripts/passport.py add-back-edge --to 3 --from 2 \
--root-cause "数据不足以支撑 idea 所需统计功效" --evidence-ptr "<reroute 给的指针>"
feasibility_spec.json:{project, idea, sample{task,n,classes,features,positives,per_class}, feasibility{sufficiency, quality,feature_value}}(scale 缺省由 sample 自动回填)。spec 源自 idea-generation 立项卡的"数据可行性必答字段"。
② 数据泄漏 critical 门(本技能 critical 灵魂之二)
# 四类泄漏审计 → leak_findings.json(HIGH=critical):
python scripts/split_leakage.py --train train.csv --test test.csv --group-col user_id --target y \
--out leak_audit.md --findings leak_findings.json # 任一 HIGH → exit 1
# 单文件带 split 列:--csv data.csv --split-col split
# 交总控聚合(critical fail → exit 1 阻断;泄漏在 stage 2 内修复,非跨阶段回边):
python ../light-orchestrator/scripts/run_checkpoint.py --file .light/passport.yaml --stage 2 \
--findings leak_findings.json --write --ts 2026-06-18T11:30
③ 防泄漏划分 / 质量门 / 体检 / 漂移(被编排,也可单独跑)
python scripts/data_doctor.py --csv data.csv --target y --out report.md # 体检画像(先做)
python scripts/safe_split.py --csv data.csv --target y --task group --group-col user_id --group-clf # Pipeline+CV 折内 refit
python scripts/quality_gate.py --csv data.csv --rules rules.yaml --out gate.md # YAML 数据门禁(CI)
python scripts/sample_size_check.py --task clf --n 1200 --classes 3 --features 20 # 经验功效粗筛(非 power analysis)
python scripts/data_feasibility.py --project X --q1 ok:... --scale-json size.json --q4 ok:... --out data_feasibility.md
python scripts/drift_check.py --ref train.csv --cur test.csv --out drift.md # KS+PSI(PSI 为主 p 为辅)
python scripts/check_access_level.py --level raw --sink paper # raw→public 阻断
python scripts/croissant_export.py --in card_fields.json --out ds.croissant.json # Croissant 元数据
python scripts/derive_eval_set.py --base data.csv --spec derive_spec.json --outdir derived/ # research-plan 回边
各脚本 --selftest/--help 即接口;资源闭环见 data-resource-map.md,
逐工具 API/已知坑见 references.md。
院士级深挖:四条是及格线(蓝图 §4.3-2,不是加分项)
① 数据可行性前置(很多 idea 死在数据根本不够/不可得/质量差)
提 idea 之前先问四问:这 idea 要什么数据?规模/质量/标注够不够支撑统计显著?sample_size_check 给经验粗筛
(分类每类 ≥50 偏紧/≥100 较稳;回归 EPV 样本/特征 ≥10/≥20;二分类正例 EPV,Peduzzi 1996),data_feasibility 四问取
最差档。数据 idea-killing 不足 = critical 前置门,reroute 建议 2⊣3(拦在 idea 前,补数据/改 idea)——别让一个
数据撑不起的 idea 押上数月。
② 数据泄漏前置查(顶会拒稿高频雷,critical 一票否决)
Kapoor-Narayanan(Patterns 2023, 2207.07048) survey 出 17 个领域 329 篇论文因泄漏结论过度乐观,给 8 类泄漏。
本技能查可机检的几类(对标 Deepchecks TrainTestSamplesMix/DateTrainTestLeakage*/IndexTrainTestLeakage):
- 标准化/预处理早于划分(fit 穿越)→
safe_split折内 refit 杜绝。 - 时序穿越(用未来预测过去)→
TimeSeriesSplit+--time-col升序校验。 - train-test 实体重叠(同一用户/患者/牧场跨 split)→
split_leakage --group-col,GroupKFold防。 - 目标编码穿越(目标均值编码用了含 test 的全量)→
split_leakage --target查签名。 任一 HIGH→critical→exit 1。这是 stage 2 的 STAGE_GATES(leakage)。
③ 数据的可挖掘价值判断(有没有可做文章的结构/规律)
data_doctor 画像 + 四问 Q4:特征-目标关系是否真实(非 ID-like 误用、非目标泄漏)、有没有可建模的结构。data-centric
视角(DataPerf):改数据有时胜过堆模型。这是定性判断 + 画像启发,不是可比分数。
④ 自建数据集(标注规范 / 隐私合规 / 可发布性 / 许可)
templates/annotation_guide.md(类目定义/边界规则/LLM 辅助+人工审核闭环/质检抽样率/IAA)+ assets/data_card_template.md
(对齐 Datasheets for Datasets / HF Dataset Card / Croissant:动机/构成/采集/标注/用途/分发/维护 + 偏差·隐私·访问分级·溯源)。
标注质量:IAA(sklearn cohen_kappa_score / statsmodels fleiss_kappa)评流程整体 + cleanlab 置信学习定位具体可疑样本
(人裁定 top-K 不全自动删)。隐私/许可合规须人工与 research-ethics 复核。
收尾 self-check(出 verdict 前 / 回写总控前过一遍)
- 候选数据的 source/revision/license locator/gating/size/split/file tree/last_modified 当天核了吗?
dataset_intake报告有raw_response_sha256与candidate_manifest_sha256吗?抽样前记 URL,整库前记 SHA256 了吗? - 跑过
data_identity_fitness.py吗?数据身份、权限链、衍生链、split threat matrix、fitness 与 staleness 都有 locator/hash/impact 吗? -
as_of、snapshot_at、splitcreated_at、data_valid_at是真实核验/冻结时间吗?没有预填未来日期吧? - 没拿 downloads/likes/usability 代替任务匹配与代表性判断吧?受限或 license unknown 的如实写
review/unresolved吧? - raw→clean 的 hash、变换脚本/commit、行映射与 split scheme/seed/group/time 留全了吗?
- DERIVED 数据有每步 input/output SHA256、transform locator、commit 吗?权限 UNKNOWN/RESTRICTED/PROHIBITED 没被写成“可用”吧?
- 提 idea 前判了数据可行性吗?数据 idea-killing 不足的,停下用 ASK 问用户 2⊣3 回炉决策了吗?(没自作主张放行/回炉)
- 所有 fit 类预处理都进
Pipeline只训练折 fit 了吗?没在划分前fit_transform全量吧? - 时序数据用
TimeSeriesSplit没洗乱吧?重复个体用GroupKFold防实体重叠了吗? - 跑
split_leakage查了四类泄漏吗?HIGH 命中是真污染还是疑似合法(停下问用户)? - 没把经验功效粗筛当 power analysis、没把启发式泄漏检测吹成 "查全了" 吧?(诚实标边界)
- 增强/重采样只在训练折做了吗?没污染验证/测试折吧?
- raw/未脱敏数据没流向公开环节吧(
check_access_level)?数据来源可核、没编造 DOI 吧? - cleanlab 标的"错标"是人裁定 top-K、没全自动删吧?
名实对齐(诚实,不吹成卖点)
真增量(v2 兑现,已 selftest):⓪ 数据身份/权限/血缘/split threat/fitness 统一契约(data_identity_fitness.py,Round 3 新增)——产 light.findings.v1,把 license/consent/DUA/ethics、raw SHA256、衍生链、split threat matrix、staleness impact 与 FIT/FIT_WITH_LIMITATIONS/NOT_FIT/UNKNOWN 对齐;UNKNOWN/禁止/未排除威胁、未来时间、NOT_FIT/UNKNOWN 裁定不会被冒充 pass。① 数据候选下载前 intake(dataset_intake.py,Round 2 新增/Round 3 续补)——HF 公开 API
元数据归一为 light.data_candidates.v1,核 access/license/revision/last_modified/size/split/file tree/card,记录
raw_response_sha256 与 candidate_manifest_sha256;缺项、tag-only license、敏感标签或 gated/private 诚实 review,不冒充 usable、
不扩大 critical 面。② 数据泄漏 critical 门 producer(split_leakage.py 港 v1,v2 修硬编码
../../_shared→规范 bootstrap + producer m02→data-engineering)——四类泄漏 → leak_findings.json(light.findings.v1,
HIGH=critical),被 run_checkpoint --stage 2 聚合 exit 1;输出名正是 STAGE_GATES[2] 引用的标准件。③ 数据可行性
前置 critical 门 producer(data_feasibility_gate.py,v2 净新增接线)——编排港来的 sample_size_check+data_feasibility
(v1 纯工具、零接 _shared,grep 实证)产 critical/warn findings,insufficient → reroute 命中 ROUTES[2] 建议 2⊣3
(拦在 idea 前)。④ 防 fit 穿越的 Pipeline+CV(safe_split 折内 refit 断言)。⑤ 零重依赖数据门(quality_gate 是
GX 哲学的轻量同构,纯 pandas+PyYAML)。
裸模型本就会的(不吹):"数据要先划分再标准化""注意别泄漏""样本量要够""数据集要写卡"——裸 Opus 都会。本技能价值 = ① 把防泄漏落成确定性机读门 + 折内 refit 断言(裸模型会嘴上说不泄漏、手上还是全量 fit);② 数据可行性前置于 idea 定稿 + 2⊣3 回边(裸模型不会"拦在 idea 前"喂回 idea 阶段);③ 机读 critical findings + 确定性阻断 + 根因回炉 (裸模型给口头结论,编排器读不了、阻断不了)。
诚实落后项(已知没做到):
- 自动发现目前只接 HF 公共元数据:OpenML/UCI/Zenodo/Kaggle 走资源地图 + harness 联网;
metadata-ready只表示字段 较齐,不表示任务适配、许可终判、无隐私/无泄漏。HF API 失败时 exit 2 + UNAVAILABLE,不用旧缓存冒充当天真值。 - 泄漏检测是启发式、有边界:
split_leakage查几类签名(精确/近重复/实体/目标编码穿越),≠"查全了所有泄漏"; 近重复靠分箱指纹(巧合会误报,标 MED 需人工);目标编码穿越的"合法组统计"也可能命中(须人工核来源)。Kapoor 的 "测试集非目标分布/采样偏置/用非法特征"多须人工判断,脚本覆盖不到。 - 统计功效是经验阈值,非 power analysis:
sample_size_check是领域经验下限粗筛(每类样本/EPV/检测实例),不替代 效应量+显著性+功效的正式论证(statsmodels/G*Power)。阈值经验默认、可调。 - 可行性四问档位是人/脚本判定、非自动真值:
data_feasibility_gate只聚合判据 + 出 findings,不替你判"数据到底 够不够"——GIGO(输入的四问/规模参数错,结论就错)。 - 不跑置信学习/不内置 cleanlab、不做 EDA 全家桶:标注质量靠规范+IAA+(外部)cleanlab;
data_doctor是粗筛画像非完整 EDA;漂移/质量门用轻量自写实现(drift_check 纯 numpy 渐近 p、quality_gate 无 GX 重依赖),表达力不及 Deepchecks/GX/ ydata-profiling,重场景仍建议用专业库(references 有真实端点)。 - 隐私/许可合规不替判 + 不做完整 Croissant/datasheet 校验:
check_access_level按声明判流向(真脱敏须人工+research-ethics);croissant_export出关键层(完整 spec 校验/Hub 上传留外部工具)。 - v1 资产取舍(诚实):港 split_leakage/safe_split/sample_size_check/data_feasibility/quality_gate/data_doctor/
drift_check/check_access_level/croissant_export/derive_eval_set;
emit_artifacts.py未港——其"标准工件名 + passport 登记"在 v2 归 memory-pmpm.py/ orchestratorpassport.py append-stage,不重造(标准工件名约定见本 SKILL「产出」)。 v1 的code_assets/共享统计库(stats_tests/agreement)v2 未港,统计/κ 用 statsmodels/sklearn 直接做。
标准产出工件:
data_feasibility.md(交 idea-generation/idea-critique,前置 2⊣3)·leak_findings.json(泄漏 critical 门)·quality_report.md/data_card.md(交 research-plan/experiment-coding 做实验)。落.light/,passport 登记交 memory-pm。
参考(三级渐进披露:需要时再读)
- 对标真相源:
docs/competitors/data-engineering.md(11 个同类一手核 + 横切可借 + 超越点 + 诚实边界) - 真实用户资源工作流:
references/data-resource-map.md(需求卡→多源发现→preflight→抽样→血缘→门→发布;access 分级) - 工具一手核查笔记(真实端点/API/参数/已知坑):
references.md(pandas/polars/DuckDB/Deepchecks/GX/ydata-profiling/cleanlab/OpenML/HF/Kaggle/数据增强 等) - 引擎脚本:
scripts/——各--selftest/--help即接口;split_leakage.py(泄漏 critical 门)·data_feasibility_gate.py(可行性 critical 门 + 2⊣3)是 findings 核心 - 模板/案例:
assets/data_card_template.md(datasheet)·templates/annotation_guide.md(标注规范+IAA)·examples/worked_example.md(山羊行为数据走查)·examples/rules.example.yaml·examples/derive_spec.example.json - 地基契约:
_shared/README.md(findings_schema·gate_runner· 规范 bootstrap) - 上游/下游:
light-idea-generation(stage 3,立项卡"数据可行性必答字段",2⊣3 前置回边)·light-orchestrator/scripts/run_checkpoint.py(stage 2 聚合 critical fail→exit 1)·reroute.py(ROUTES[2] 建议 2⊣3)· research-plan(stage 5,派生评测集回边)