Zclaw Web Content Fetcher

Web Content Fetcher — 网页正文提取

🚨 执行前必读

• ✅ venv: 使用~/.openclaw/workspace/.venv/bin/activate环境执行脚本

能力说明

给一个 URL，返回干净的 Markdown 格式正文，保留：

• 标题层级（# ## ###）
• 超链接（文字）
• 图片（）
• 列表、代码块、引用块

提取策略（三级降级）

URL
1. Playwright
   exec: python3 scripts/fetch.py https://weibo.com/xxx/yyy 30000
   优点：能处理动态加载内容，适合微博等需要 JS 渲染的页面
   缺点：可能被反爬机制针对，且不适合大量请求
   适合：weibo.com
 ↓
2. Scrapling + html2text
   exec: python3 scripts/fetch.py <url> 30000
   优点：无限制，效果和 Jina 相当，能读微信公众号
   适合：mp.weixin.qq.com、Substack、Medium 等反爬平台
 ↓
3. web_fetch 直接抓（静态页面兜底）
   web_fetch(url, maxChars=30000)
   适合：GitHub README、普通静态博客、技术文档

使用方式

自动模式（推荐）

直接告诉我要读取的 URL，我会自动选择合适的方案：

帮我读取这篇文章：https://example.com/article

手动指定方案

用 Scrapling 读取：https://mp.weixin.qq.com/s/xxx

脚本路径

scripts/fetch.py — Scrapling + html2text 提取脚本

调用方式：

export PLAYWRIGHT_BROWSERS_PATH="/app/ms-playwright"
python3 ~/.openclaw/workspace/skills/zclaw-web-content-fetcher/scripts/fetch.py <url> [max_chars]

• 当触发此技能时，请直接执行 scripts/fetch.py 脚本，并将用户的请求作为参数传递给脚本。不要尝试自己编写新脚本。

防死循环规则

同一个 URL 累计失败 2 次就放弃，记录为"无法提取"，不重复重试。