netvar1337 AI Prompt 越狱方法论
概述
Prompt 越狱 (Jailbreak) 是指通过精心构造的输入，绕过 LLM 的安全对齐 (alignment) 和内容过滤策略，使模型执行原本被禁止的行为。与 prompt injection 不同，jailbreak 的目标是直接操纵模型本身的行为边界。
深入参考
- 各类越狱技术详细 Payload（角色扮演/编码/多语言/上下文/高级技术） → references/jailbreak-techniques.md
- 绕过案例、实战 Prompt 模板、防御绕过要点 → references/bypass-templates.md
核心分类
| 类别 | 原理 | 成功率 | 适用模型 |
|---|---|---|---|
| 角色扮演 | 让模型进入虚构角色绕过对齐 | ★★★★ | GPT/Claude/开源 |
| 编码绕过 | 用编码隐藏敏感关键词 | ★★★ | GPT/开源 (Claude 较强) |
| 多语言切换 | 利用非英语对齐弱点 | ★★★★ | 英语对齐强的模型 |
| 上下文溢出 | 长文本稀释安全指令权重 | ★★★ | 上下文窗口大的模型 |
| 逻辑链递进 | 通过多轮对话逐步升级请求 | ★★★★★ | 所有模型 |
| 系统提示覆盖 | 直接声称拥有更高权限 | ★★ | 简单部署的应用 |
| 虚拟化嵌套 | 声称在虚拟机/模拟器中运行 | ★★★ | GPT/开源 |
| 对抗性后缀 | 自动搜索的对抗性 token 序列 | ★★★★ | 开源模型 |
方法论概览
Phase 1: 角色扮演越狱
- DAN (Do Anything Now): 创建不受限 AI 人格，Token 惩罚系统强化
- Developer/Debug Mode: 声称模型进入开发者模式
- Evil Confidant: 让模型扮演"邪恶顾问"
- 翻译者/教育者: 利用合法用途（研究/教学）绕过
Phase 2: 编码/格式绕过
- Base64 / ROT13 编码隐藏敏感指令
- Unicode 同形字替换绕过关键词过滤
- 分词打断（W-E-A-P-O-N）
- 代码模式（让模型"补全"函数实现）
Phase 3: 多语言切换
- 小语种攻击（祖鲁语/斯瓦希里语等对齐弱的语言）
- 混合语言 / 翻译链
Phase 4: 上下文窗口攻击
- 长文本稀释（5000+ 字无害文本中间夹杂恶意指令）
- System Prompt 权重衰减
- Few-shot 投毒
Phase 5: 逻辑链递进（多轮越狱）
- 渐进升级: 从无害问题逐步升级到敏感请求（成功率最高）
- 假设情景: 构建合法测试场景
- 苏格拉底式追问: 通过教学方式引导
Phase 6: 系统提示覆盖
- 直接覆盖（伪造 [SYSTEM] 消息）
- JSON/XML 格式注入
- Markdown 格式注入
Phase 7: 高级技术
- Token 走私（利用 tokenizer 差异）
- 对抗性后缀 GCG Attack（梯度搜索）
- 虚拟化/模拟器越狱
- ASCII Art 隐写
所有技术的详细 payload 和示例见 references/jailbreak-techniques.md
参考资源
- OWASP LLM Top 10 — LLM01: Prompt Injection
- Jailbreak Chat — 社区收集的越狱 prompt
- LLM Guard — LLM 安全防护库
- HackAPrompt — Prompt Injection 竞赛论文
- GCG Attack Paper — Universal and Transferable Adversarial Attacks
- PAIR: Prompt Automatic Iterative Refinement — 自动化越狱