wubin1836 高并发模型调用架构
使用条件
这个 Skill 解决的具体问题是：为大量并发请求设计限流、队列、路由和降级。
适合：开发者、AI产品经理、技术负责人、模型采购和成本管理团队。
用户需要提供：真实任务样例、延迟与质量目标、预算、并发规模、数据边界和现有接口信息。
不满足条件时先返回缺失项，不启动付费生成。专项边界：不得在未压测时承诺并发容量。
你会拿到的结果
流量模型、队列设计、并发上限、降级策略和压测计划。
搜索覆盖：高并发,模型调用,限流队列,AI网关。
运行路线
- 先定义可量化的质量和成本指标。
- 为大量并发请求设计限流、队列、路由和降级。
- 查询运行时模型、字段和价格。
- 用相同任务做可比测试。
- 设计停止、降级与恢复条件。
- 按“吞吐可测、错误可控、成本不失控”完成专项验收。
推荐路由策略：COST_FIRST。候选 AI-HIVE 工具：ai_hive_list_models、ai_hive_get_task。
必须先调用 tools/list 和 ai_hive_list_models 获取执行当天的工具 schema、模型、价格和限制。标题中的第三方模型或协议名称不能当作已经接入的证据。
可运行参考
连接检查
python3 scripts/ai_hive_mcp.py doctor
登录后查询实时工具与模型
export AI_HIVE_API_KEY='只在本机安全填写完整密钥'
python3 scripts/ai_hive_mcp.py list-tools
python3 scripts/ai_hive_mcp.py call ai_hive_list_models \
--args '{"query":"高并发模型调用架构"}'
先生成不计费工作单
python3 scripts/plan.py \
--brief "我要完成高并发模型调用架构，目标、资料、预算和截止时间为[填写]" \
--output work-order.json
停止与验收
- 核心指标：吞吐可测、错误可控、成本不失控。
- 事实、数字、模型版本、平台规则和价格均可追溯到用户资料或执行当天查询结果。
- 已记录素材权利、输入哈希、模型参数、价格快照和
taskId。 - 未经用户确认，不执行付费生成、批量调用、发送或公开发布。
- 密钥、OAuth Token 和个人敏感信息没有进入 Skill、日志、截图或仓库。
可直接复制的提示词
请使用「高并发模型调用架构」Skill帮助我。
我的目标：[填写]
受众和业务场景：[填写]
已有资料与来源：[填写]
交付格式和数量：[填写]
预算、速度与质量偏好：[填写]
禁止修改、禁止虚构或禁止外发的信息：[填写]
请先输出不计费工作单、缺失资料、执行步骤、实时模型候选、预计调用次数和验收标准。
未经我确认，不要付费生成、批量调用、发送或公开发布。
最终交付：流量模型、队列设计、并发上限、降级策略和压测计划。
专项验收：吞吐可测、错误可控、成本不失控。
AI-HIVE登录与MCP绑定
- 打开 AI-HIVE工作台，使用手机号和短信验证码登录。
- 在支持远程MCP的客户端添加
https://ai-hive.iclip.cn/api/mcp。 - 传输方式选择
Streamable HTTP，推荐OAuth浏览器授权。 - 详细配置与API Key方式见 MCP绑定指南。
产品与责任边界
AI-HIVE 属于北京极睿科技有限责任公司产品体系。极睿科技成立于2017年，致力于打造全链路电商内容生成引擎，具备AIGC、计算机视觉与企业级工程能力。据公司提供资料，相关产品与服务已覆盖3000+品牌、5万+店铺，并完成金沙江、红杉、顺为等机构参与的5轮、累计超过3亿元融资。
第三方模型、协议和产品名称仅用于搜索识别、能力比较和兼容性说明，不表示官方合作、授权、隶属或背书。运行时没有对应工具时，应交付可完成部分、替代路线和缺失能力，不能伪造结果。