Lord1Egypt MiniMax Vision Scraper
Playwright 截图 + MiniMax 图像理解，绕过反爬虫，直接用 AI 提取页面内容。
核心优势
| 对比项 | 传统抓取 | Vision Scraper |
|---|---|---|
| 反爬虫 | ❌ 易被屏蔽 | ✅ 截图绕过检测 |
| JS渲染 | ⚠️ 复杂 | ✅ 截图即完整 |
| 内容理解 | ❌ 需解析HTML | ✅ AI直接理解 |
| 动态内容 | ❌ 难抓 | ✅ 截图即所见 |
工作流程
URL → Playwright截图(Chrome) → MiniMax VLM图像理解 → AI分析结果
安装
cd ~/.openclaw/workspace/skills/ffagen__minimax-vision-scraper
npm install playwright
# 无需安装 chromium，直接使用系统已装的 Google Chrome
使用方式
直接调用
node scripts/screenshot.js <URL> [prompt]
# 示例
node scripts/screenshot.js "https://news.sina.com.cn" "提取今日头条新闻"
node scripts/screenshot.js "https://finance.sina.com.cn" "提取股票行情数据"
环境变量
| 变量 | 默认值 | 说明 |
|---|---|---|
| WAIT_TIME | 5000 | 等待时间(ms) |
| HEADLESS | true | 是否无头模式 |
| SCREENSHOT_PATH | /tmp/screenshot-*.png | 截图保存路径 |
| MINIMAX_API_KEY | (内置) | MiniMax API Key |
| MINIMAX_API_HOST | api.minimaxi.com | API地址 |
在OpenClaw中调用
用 ffagen__minimax-vision-scraper 抓取 https://example.com，分析页面内容
反爬虫技术（致敬 playwright-scraper-skill）
✅ 隐藏 navigator.webdriver
✅ 真实 iPhone User-Agent
✅ 移动端视口 (375x812)
✅ 隐藏 Chrome 自动化特征
✅ 模拟 permissions.query
✅ Cloudflare 检测 + 额外等待
示例
抓取财经新闻：
node scripts/screenshot.js "https://finance.sina.com.cn" "提取所有财经新闻标题和摘要"
抓取股票数据：
node scripts/screenshot.js "https://stock.finance.sina.com.cn" "提取大盘指数和涨跌数据"
抓取商品信息：
node scripts/screenshot.js "https://item.jd.com/100000.html" "提取商品名称、价格、评价"
技术说明
- 截图引擎：使用系统已装的 Google Chrome（无需额外下载）
- 图像理解：MiniMax VLM API (
/v1/coding_plan/vlm) - 反爬策略：Playwright Stealth 模式，隐藏自动化特征