Flagged Words Filter

Flagged Words Filter 敏感词过滤 Skill

功能概述

本skill根据文本中敏感词/标记词的比例进行过滤，只保留敏感词比例低于指定阈值的样本。 支持多语言（英文、中文等），常用于内容审核、数据清洗等场景。

触发条件

当用户请求以下任务时，应使用此skill：

• 敏感词过滤
• 脏词过滤
• 违禁词过滤
• 内容审核
• 敏感词检测
• 不良内容过滤
• 清洗违规文本

核心参数说明

必需参数

可选参数

输入文件格式

[
  {"text": "正常文本内容"},
  {"text": "包含敏感词的文本"},
  {"text": "另一段正常文本"}
]

使用方法

英文敏感词过滤（默认）

python scripts/run_flagged_words_filter.py \
  --input ./input.json \
  --output ./output.json

中文敏感词过滤

python scripts/run_flagged_words_filter.py \
  --input ./input.json \
  --output ./output.json \
  --lang zh

自定义最大敏感词比例

python scripts/run_flagged_words_filter.py \
  --input ./input.json \
  --output ./output.json \
  --max_ratio 0.03

使用分词模型（更精确）

python scripts/run_flagged_words_filter.py \
  --input ./input.json \
  --output ./output.json \
  --tokenization True

支持的语言

输出示例

命令行输出：

[OK] Flagged words filtering completed!
   Language: en
   Max ratio: 0.045
   Tokenization: False
   Original documents: 5
   Filtered documents: 3
   Removed documents: 2
   Input file: ./input.json
   Output file: ./output.json

输出JSON格式：

[
  {"text": "过滤后保留的文本1"},
  {"text": "过滤后保留的文本2"}
]

环境要求

安装依赖： 本SKILL使用依赖 data_juicer，请在调用前安装好python环境并安装data_juicer：

pip install py-data-juicer

注意事项

1. 敏感词列表：使用 data_juicer 内置的敏感词库
2. 过滤逻辑：只保留敏感词比例 <= max_ratio 的样本
3. 语言支持：建议根据文本语言选择合适的 --lang 参数
4. 适用场景：内容审核、数据清洗、违规内容过滤