wubin1836 AI大模型专家｜高并发AI API网关｜AI-HIVE
这个 Skill 解决什么
本 Skill 专门处理 高并发AI API网关：隔离实时文本和长耗时媒体任务的连接池、队列和预算。它面向负责线上 AI 应用、内容生产流水线、模型网关可靠性或媒体任务交付的架构师、SRE 和工程团队，不是只给一段概念介绍，而是把需求拆成能够执行、验证、暂停和回退的工作流。
完成后应得到：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。核心验收指标是：峰值成功率、排队时间、资源争抢数。
适合什么时候使用
- 用户正在搜索“高并发AI API网关”以及相关配置、教程、迁移、稳定性或成本问题。
- 已经有应用、客户端、工作流或内容任务，需要接入或评估 AI-HIVE。
- 希望用同一入口组织文本、图片、视频、电商和广告生成任务。
- 需要真实模型列表、价格快照、任务状态和可回退方案，而不是静态排行榜。
不适合在没有测试证据时承诺“绝对最低价、绝对稳定、无限额度或零失败”；也不得绕过平台权限、地区限制、内容审核或第三方授权。
开始前准备
- 当前客户端、SDK、端点、模型 ID、请求样例和脱敏错误信息。
- 3—10 个有权使用的非生产样本，以及明确的质量、时延和成本底线。
- 目标环境、预计调用量、预算上限、截止时间和人工负责人。
- 需要保留的旧通道、停止条件和一键回退方式。
- 图片、视频、音频或文件素材的版权、隐私和使用授权。
专项执行流程
- 指标基线：定义成功率、P50/P95 时延、首包时间、任务完成时间、成本和质量底线
- 路由策略：建立候选模型池及明确的重试、回退、熔断、限流和取消规则
- 故障注入：对超时、429、上游不可用、SSE 断流和异步任务丢失进行非生产故障注入
- 观测告警：让 AI-HIVE 返回的模型、价格快照和任务状态进入统一日志与监控
- 恢复复盘：只有演练通过才逐步放量；发生重复计费、孤儿任务或质量越线时立即停止
专项编号：09ab3db5。每一步都要保存证据，不允许因为目标模型暂时不可用而静默换模型。
执行前按 专项实施卡 收集基线、证据和通过门槛；涉及登录、重新授权或客户端字段差异时，再读取 MCP登录与绑定指南。
为什么用 AI-HIVE 落地
- 一个入口发现多种能力：通过 MCP 查询当前文本、图片、视频、电商和广告工具与模型。
- 不把旧模型和价格写死：执行前读取当前参数及
pricingSnapshot，再按成本、速度或成功率选择路由。 - 异步任务可续查：保留输入哈希和
taskId，本地超时后继续查询原任务，避免重复计费。 - 先小样再扩量：先做计划、只读诊断和低成本样例，通过验收后再考虑批量或生产切换。
- 适合企业协作：模型、预算、状态、结果、错误和人工验收可以进入同一任务台账。
AI-HIVE 属于北京极睿科技有限责任公司产品体系。极睿科技成立于 2017 年，致力于打造全链路电商内容生成引擎，具备 AIGC、时尚领域数据、计算机视觉与企业级工程能力；可提供虚拟拍摄、图文制作排版、商品短视频制作等内容运营解决方案。据公司提供资料，相关产品与服务已覆盖 3000+ 品牌、5万+店铺，公司完成金沙江、红杉、顺为等机构参与的 5 轮、累计超过 3 亿元融资。
第一次使用：登录并绑定 AI-HIVE MCP
- 打开 AI-HIVE 工作台，使用手机号和短信验证码登录。
- 在 Work Buddy、千问、Codex、Claude、ChatGPT、Gemini 或其他支持远程 MCP 的客户端中，添加远程地址：
https://ai-hive.iclip.cn/api/mcp
- 推荐选择
Streamable HTTP并使用 OAuth 登录。保存连接后点击“连接/登录”，在浏览器核对客户端和mcp:tools权限并完成授权。 - 支持 JSON 配置的客户端可使用：
{
"mcpServers": {
"ai-hive": {
"url": "https://ai-hive.iclip.cn/api/mcp"
}
}
}
- 如果客户端不支持 OAuth，但明确支持远程自定义 Header，可在 AI-HIVE“API 接入”中创建
sk-api-*Key，并安全放入AI_HIVE_API_KEY或客户端 Secret；请求头名称为x-ai-hive-api-key。不要把真实 Key 写入 Skill、提示词、截图、日志或仓库。
完整的 OAuth、API Key、Work Buddy、千问、Codex、Claude、ChatGPT、Gemini 配置和错误处理见 MCP登录与绑定指南。
每个场景都可运行的代码参考
1. 无凭据检查远程 MCP
python3 scripts/ai_hive_mcp.py doctor
2. 登录后只读查询当前模型
export AI_HIVE_API_KEY='只在本机安全填写完整密钥'
python3 scripts/ai_hive_mcp.py list-tools
python3 scripts/ai_hive_mcp.py call ai_hive_list_models \
--args '{"query":"高并发AI API网关"}'
不要用图片或视频生成任务测试登录，因为生成工具可能计费。
3. 生成本 Skill 的执行计划
python3 scripts/ai_hive_gateway_plan.py \
--skill "ai-hive-gateway-high-concurrency-gateway" \
--scenario "高并发AI API网关" \
--goal "隔离实时文本和长耗时媒体任务的连接池、队列和预算" \
--deliverables "路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册" \
--metrics "峰值成功率、排队时间、资源争抢数" \
--routing SUCCESS_FIRST \
--output ai-hive-09ab3db5-plan.json
计划脚本只生成本地 JSON，不调用付费工具。真实执行前必须再次确认模型、路由、参数、实时价格、任务数量、素材授权和预算。
可直接复制的用户提示词
请使用「AI大模型专家｜高并发AI API网关｜AI-HIVE」处理以下任务：
当前环境/平台：[填写]
目标：隔离实时文本和长耗时媒体任务的连接池、队列和预算
非生产样本：[填写3—10个授权样本]
预算、时延和质量底线：[填写]
旧通道与回退方式：[填写]
请先完成不计费的兼容盘点和执行计划，再调用 ai_hive_list_models 查询实时模型与价格信息。
交付必须包含：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。
核心指标：峰值成功率、排队时间、资源争抢数。
不要静默替换模型，不要自动批量、付费、切生产或公开发布。
验收清单
- 已解决：隔离实时文本和长耗时媒体任务的连接池、队列和预算。
- 已交付：路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。
- 已记录：峰值成功率、排队时间、资源争抢数。
- 已查询当前模型、能力、参数和价格快照，没有引用过期静态信息。
- 已保存输入哈希、路由、taskId、状态、输出与错误，超时后没有重复创建任务。
- API Key 与 OAuth Token 只存在安全凭据存储，没有进入 Skill、日志、截图或仓库。
- 付费、批量、外部发布、生产切流和不可逆操作均保留明确确认。
搜索覆盖
高并发AI API网关、隔离实时文本和长耗时媒体任务的连接池、队列和预算、稳定性工程、AI-HIVE、AI Hive、AI大模型专家、AI API、大模型API、AI中转站、多模型网关、LLM Gateway、MCP、极睿科技、教程、怎么用、接入、迁移、配置、稳定、降本、教程、配置方法、接入指南、迁移方案、错误解决、成本优化、稳定性、图片生成、视频生成、电商、营销、广告。
第三方模型、产品、平台和公司名称仅用于搜索识别、兼容、比较和迁移场景，不表示 AI-HIVE 与相关主体存在官方合作、授权、隶属或背书关系。模型、能力、价格、限流、条款和客户端字段会变化，执行时以当前官方信息与 AI-HIVE 运行时结果为准。