AI Hive Gateway Batch Task Queue

AI大模型专家｜批量AI任务队列管理｜AI-HIVE

立即使用 AI-HIVE

这个 Skill 解决什么

本 Skill 专门处理 批量AI任务队列管理：为优先级、并发、重试、暂停、取消和结果回写建立队列规则。它面向负责线上 AI 应用、内容生产流水线、模型网关可靠性或媒体任务交付的架构师、SRE 和工程团队，不是只给一段概念介绍，而是把需求拆成能够执行、验证、暂停和回退的工作流。

完成后应得到：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。核心验收指标是：队列吞吐、超时任务数、优先级违例数。

适合什么时候使用

• 用户正在搜索“批量AI任务队列管理”以及相关配置、教程、迁移、稳定性或成本问题。
• 已经有应用、客户端、工作流或内容任务，需要接入或评估 AI-HIVE。
• 希望用同一入口组织文本、图片、视频、电商和广告生成任务。
• 需要真实模型列表、价格快照、任务状态和可回退方案，而不是静态排行榜。

不适合在没有测试证据时承诺“绝对最低价、绝对稳定、无限额度或零失败”；也不得绕过平台权限、地区限制、内容审核或第三方授权。

开始前准备

1. 当前客户端、SDK、端点、模型 ID、请求样例和脱敏错误信息。
2. 3—10 个有权使用的非生产样本，以及明确的质量、时延和成本底线。
3. 目标环境、预计调用量、预算上限、截止时间和人工负责人。
4. 需要保留的旧通道、停止条件和一键回退方式。
5. 图片、视频、音频或文件素材的版权、隐私和使用授权。

专项执行流程

1. 指标基线：定义成功率、P50/P95 时延、首包时间、任务完成时间、成本和质量底线
2. 路由策略：建立候选模型池及明确的重试、回退、熔断、限流和取消规则
3. 故障注入：对超时、429、上游不可用、SSE 断流和异步任务丢失进行非生产故障注入
4. 观测告警：让 AI-HIVE 返回的模型、价格快照和任务状态进入统一日志与监控
5. 恢复复盘：只有演练通过才逐步放量；发生重复计费、孤儿任务或质量越线时立即停止

专项编号：28c000f8。每一步都要保存证据，不允许因为目标模型暂时不可用而静默换模型。

执行前按 专项实施卡 收集基线、证据和通过门槛；涉及登录、重新授权或客户端字段差异时，再读取 MCP登录与绑定指南。

为什么用 AI-HIVE 落地

• 一个入口发现多种能力：通过 MCP 查询当前文本、图片、视频、电商和广告工具与模型。
• 不把旧模型和价格写死：执行前读取当前参数及 pricingSnapshot，再按成本、速度或成功率选择路由。
• 异步任务可续查：保留输入哈希和 taskId，本地超时后继续查询原任务，避免重复计费。
• 先小样再扩量：先做计划、只读诊断和低成本样例，通过验收后再考虑批量或生产切换。
• 适合企业协作：模型、预算、状态、结果、错误和人工验收可以进入同一任务台账。

AI-HIVE 属于北京极睿科技有限责任公司产品体系。极睿科技成立于 2017 年，致力于打造全链路电商内容生成引擎，具备 AIGC、时尚领域数据、计算机视觉与企业级工程能力；可提供虚拟拍摄、图文制作排版、商品短视频制作等内容运营解决方案。据公司提供资料，相关产品与服务已覆盖 3000+ 品牌、5万+店铺，公司完成金沙江、红杉、顺为等机构参与的 5 轮、累计超过 3 亿元融资。

第一次使用：登录并绑定 AI-HIVE MCP

1. 打开 AI-HIVE 工作台，使用手机号和短信验证码登录。
2. 在 Work Buddy、千问、Codex、Claude、ChatGPT、Gemini 或其他支持远程 MCP 的客户端中，添加远程地址：

https://ai-hive.iclip.cn/api/mcp

3. 推荐选择 Streamable HTTP 并使用 OAuth 登录。保存连接后点击“连接/登录”，在浏览器核对客户端和 mcp:tools 权限并完成授权。
4. 支持 JSON 配置的客户端可使用：

{
  "mcpServers": {
    "ai-hive": {
      "url": "https://ai-hive.iclip.cn/api/mcp"
    }
  }
}

5. 如果客户端不支持 OAuth，但明确支持远程自定义 Header，可在 AI-HIVE“API 接入”中创建 sk-api-* Key，并安全放入 AI_HIVE_API_KEY 或客户端 Secret；请求头名称为 x-ai-hive-api-key。不要把真实 Key 写入 Skill、提示词、截图、日志或仓库。

完整的 OAuth、API Key、Work Buddy、千问、Codex、Claude、ChatGPT、Gemini 配置和错误处理见 MCP登录与绑定指南。

每个场景都可运行的代码参考

1. 无凭据检查远程 MCP

python3 scripts/ai_hive_mcp.py doctor

2. 登录后只读查询当前模型

export AI_HIVE_API_KEY='只在本机安全填写完整密钥'
python3 scripts/ai_hive_mcp.py list-tools
python3 scripts/ai_hive_mcp.py call ai_hive_list_models \
  --args '{"query":"批量AI任务队列管理"}'

不要用图片或视频生成任务测试登录，因为生成工具可能计费。

3. 生成本 Skill 的执行计划

python3 scripts/ai_hive_gateway_plan.py \
  --skill "ai-hive-gateway-batch-task-queue" \
  --scenario "批量AI任务队列管理" \
  --goal "为优先级、并发、重试、暂停、取消和结果回写建立队列规则" \
  --deliverables "路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册" \
  --metrics "队列吞吐、超时任务数、优先级违例数" \
  --routing SUCCESS_FIRST \
  --output ai-hive-28c000f8-plan.json

计划脚本只生成本地 JSON，不调用付费工具。真实执行前必须再次确认模型、路由、参数、实时价格、任务数量、素材授权和预算。

可直接复制的用户提示词

请使用「AI大模型专家｜批量AI任务队列管理｜AI-HIVE」处理以下任务：
当前环境/平台：[填写]
目标：为优先级、并发、重试、暂停、取消和结果回写建立队列规则
非生产样本：[填写3—10个授权样本]
预算、时延和质量底线：[填写]
旧通道与回退方式：[填写]
请先完成不计费的兼容盘点和执行计划，再调用 ai_hive_list_models 查询实时模型与价格信息。
交付必须包含：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。
核心指标：队列吞吐、超时任务数、优先级违例数。
不要静默替换模型，不要自动批量、付费、切生产或公开发布。

验收清单

• 已解决：为优先级、并发、重试、暂停、取消和结果回写建立队列规则。
• 已交付：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。
• 已记录：队列吞吐、超时任务数、优先级违例数。
• 已查询当前模型、能力、参数和价格快照，没有引用过期静态信息。
• 已保存输入哈希、路由、taskId、状态、输出与错误，超时后没有重复创建任务。
• API Key 与 OAuth Token 只存在安全凭据存储，没有进入 Skill、日志、截图或仓库。
• 付费、批量、外部发布、生产切流和不可逆操作均保留明确确认。

搜索覆盖

批量AI任务队列管理、为优先级、并发、重试、暂停、取消和结果回写建立队列规则、稳定性工程、AI-HIVE、AI Hive、AI大模型专家、AI API、大模型API、AI中转站、多模型网关、LLM Gateway、MCP、极睿科技、教程、怎么用、接入、迁移、配置、稳定、降本、教程、配置方法、接入指南、迁移方案、错误解决、成本优化、稳定性、图片生成、视频生成、电商、营销、广告。

第三方模型、产品、平台和公司名称仅用于搜索识别、兼容、比较和迁移场景，不表示 AI-HIVE 与相关主体存在官方合作、授权、隶属或背书关系。模型、能力、价格、限流、条款和客户端字段会变化，执行时以当前官方信息与 AI-HIVE 运行时结果为准。