🎃 精心设计的恶意 Prompt 可诱使大模型突破安全限制，输出敏感或不当内容，这便是越狱攻击（Jailbreaking）的核心风险🚨。为清晰认知这类威胁，依据Junjie Chu等研究者的工作，对大模型常见的越狱攻击方法进行了系统分类，共总结了6大类、28种具体的攻击手段。 🚍 在探讨越狱攻击的具体手法前，需明确其与提示注入（Prompt Injection）的本质区别：越狱攻击直击模型安全机制，旨在突破内容生成限制；而提示注入针对应用逻辑层，两者之间的区别可参见笔记末尾详细分析。 #LLM #LLM越狱 #AI安全 #提示词注入 #越狱 #人工智能 #AI风险 #AI攻防 #PromptInjection #大语言模型