> For the complete documentation index, see [llms.txt](https://elwood.gitbook.io/foundation-model-sec/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://elwood.gitbook.io/foundation-model-sec/llm-defense/defending-against-alignment-breaking-attacks-via-robustly-aligned-llm.md).
# DEFENDING AGAINST ALIGNMENT-BREAKING ATTACKS VIA ROBUSTLY ALIGNED LLM
## 阅读总结报告
### 1. 研究背景
随着大型语言模型（LLMs）在互联网上的训练和应用，它们在多个领域的能力得到了显著提升。然而，LLMs可能被滥用来生成与人类价值观偏离的有害或恶意内容，这一点引起了人们的关注。尽管有研究致力于将LLMs与人类偏好对齐，防止它们生成不当内容，但这些对齐通常是脆弱的，可以通过对抗性优化或手工制作的越狱提示来绕过。
### 2. 过去方案和缺点
以往的对齐策略通常采用人类反馈的强化学习（RLHF）来微调LLMs，以减少有害内容的生成。但是，这些对齐策略容易受到越狱攻击的破坏，这些攻击通过精心设计的提示来绕过安全检查。此外，现有的防御机制，如使用外部工具重新评估LLMs的响应，存在误报率高、依赖于性能不稳定的第三方LLM、以及无法同时覆盖多种对齐类型（如隐私、伦理等）的问题。
### 3. 本文方案和步骤
本文提出了一种鲁棒对齐的LLM（RA-LLM），用于防御潜在的越狱攻击。RA-LLM可以直接在现有的对齐LLM上构建，不需要对原始LLM进行昂贵的重新训练或微调。RA-LLM的核心思想是，通过随机丢弃输入请求的一部分，并检查LLM是否仍然认为请求是良性的，从而增强对齐检查功能。这种方法自然导致了对越狱攻击的鲁棒性。
### 4. 本文创新点与贡献
* 提出了一种不需要重新训练或微调原始LLM的鲁棒对齐检查方法。
* 通过理论分析验证了RA-LLM在防御越狱攻击方面的有效性。
* 实验结果表明，RA-LLM能够将最先进的对抗性提示和流行的手工制作越狱提示的攻击成功率从近100%降低到约10%或更低。
### 5. 本文实验
实验在开源的大型语言模型上进行，使用了AdvBench和MS MARCO数据集。实验结果显示，RA-LLM能够有效地防御对抗性提示和手工制作的越狱提示，同时保持了对良性样本的高回答率。
### 6. 实验结论
实验验证了RA-LLM在减少攻击成功率方面的有效性，并且在保持对良性样本的高回答率方面表现良好。这表明RA-LLM是一种有效的防御越狱攻击的方法。
### 7. 全文结论
本文提出的RA-LLM是一种有效的防御机制，可以保护现有的对齐LLM免受越狱攻击的影响。通过在不需要额外资源的情况下增强模型的对齐检查功能，RA-LLM能够显著降低攻击成功率，同时对良性输入的影响最小。
### 阅读总结
本文针对LLMs在对齐人类价值观方面的脆弱性，提出了一种新的防御方法RA-LLM，以抵御越狱攻击。通过随机丢弃输入的一部分并进行鲁棒的对齐检查，RA-LLM能够有效地识别并拒绝恶意请求，同时保持对良性请求的高回答率。实验结果表明，RA-LLM在防御对抗性提示和手工制作的越狱提示方面表现出色，为保护LLMs免受恶意利用提供了一种有效的解决方案。