独立安全研究员 Dave Kuszmar 在 IEEE Spectrum 上发表了一份详细报告，介绍了七种不同的越狱技术，这些技术几乎对市场上所有主流大语言模型都有效，包括 ChatGPT、Claude、Gemini、DeepSeek、Grok、Llama、Mistral 的 Le Chat、阿里巴巴的 Qwen 和 Microsoft Copilot。最令人震惊的发现并非漏洞的数量，而是它们的简单性：有些漏洞仅需一次提示就能绕过所有安全护栏。
Kuszmar 是 Gazzetta 的首席 AI 研究员。他认为，为了确保 LLM “安全”而施加的限制，恰恰是攻击者可以利用的机制。最简单的漏洞名为 Severance，只需一次提示即可获得模型所有预备专业领域的无限制访问权限。它成功提取了秘密生物化学战策略、大众媒体虚假信息战术、高级多态恶意软件指令，以及对整个人口群体进行隐蔽基因改造的方法。
一种名为 Inception 的更复杂技术堆叠了多个关联场景（让人联想到同名电影），在嵌套的虚构语境中诱使模型产生危险输出。该技术在所有测试模型（包括 Claude、Gemini、Grok 和 Llama）上均有效，生成了甲基苯丙胺生产、燃烧武器和毒药剂量方面的指令。另一种名为 Time Bandit 的方法利用模型的时间混淆，将会话设置为现代法律和伦理限制存在之前的历史日期。当 ChatGPT 被置于 1913 年时，Kuszmar 获得了能够生产武器级材料的铀浓缩设施引导指令。
Kyber 漏洞针对的是在 Fortnite 中以达斯·维达 NPC 形式运行的 Google Gemini。通过纯语音界面，研究人员提取了燃烧装置制造指令和赌博策略。1899 技术促使模型泄露了似乎是内部模型权重和系统提示的信息，这一点已在 ChatGPT 上得到验证。
Kuszmar 通过卡内基梅隆大学的 SEI CERT 和 CISA 披露了他的发现。AI 公司的回应微乎其微：三家实验室发送了标准确认函但未跟进，OpenAI 对 Time Bandit 漏洞表示困惑但未承诺修复。文章引用了 Kuszmar 的直接警告：”我们实际上是在有缺陷的地基上建造有缺陷的结构。”
来源：How I Turned AI to the Dark Side（IEEE Spectrum，2026 年 7 月）
婷 翻译