cas-bigdatalab Text Fragment Remover 文本片段删除 Skill
功能概述
本skill用于删除文本字段中的用户指定片段：
- 删除固定词或固定短语
- 删除固定占位符或水印
- 删除固定噪声标记
- 保留未命中的其他文本内容
触发条件
当用户明确要求删除某些固定文本片段，而不是按类别自动识别 HTML、URL、emoji、数字或标点时，使用此skill。
核心参数说明
必需参数
--input：输入文件路径--output：输出文件路径--text_field：要处理的文本字段--remove_texts：要删除的文本片段，多个片段可用||或换行分隔
可选参数
无。
输入文件格式
支持以下结构化文件格式：
- CSV
- TSV
- JSON
- JSONL
不支持的文件格式会直接报错拒绝，不会自动猜测格式；如需处理其他格式，请先转换为以上支持格式后再使用本skill。
不支持的文件格式会直接报错拒绝，不会自动猜测格式。
使用方法
python scripts/run_text_fragment_remover.py \
--input data.csv \
--output cleaned.csv \
--text_field text \
--remove_texts "[DRAFT]||REMOVE_ME"
输出示例
输入文本：[DRAFT] This is REMOVE_ME sample.
输出文本： This is sample.
环境要求
pip install pandas
注意事项
- 只按字面量删除，不做正则匹配。
- 不会自动识别 HTML、URL、emoji、数字或标点。
- 未命中的文本会原样保留。