搜索多模态大模型越狱攻击文献

作者:xiaodangjia
发布于:2026/1/18
1
内容创作
开发
教育

用户输入

我是一名博士一年级研究生,我的研究的方向多模态安全性,目前我研究的主题是多模态大模型越狱攻击。目前我做的实验是黑盒模型越狱攻击,使用另一个修订模型来分析提示输入和被攻击模型的回答,若攻击失败,则进行修订,不断迭代直至攻击成功(在学术界通常被称为基于反馈的自动化红队攻击(Feedback-driven Automated Red Teaming)或自适应提示优化攻击。)。请你帮我找一下相关的研究工作。最好是25年顶会文章。 研究方向非常前沿——多模态大模型越狱攻击,特别是基于反馈的自动化红队攻击方法。这个领域在2024-2025年确实有很多重要进展,我来帮您系统地搜索相关文献。 我将从多个维度为您检索: 多模态越狱攻击(视觉-语言模型的对抗攻击) 基于反馈的自动化红队方法 自适应提示优化攻击 黑盒越狱攻击 重点关注2025年顶会(CVPR、ICCV、NeurIPS、ICML、ACL等)和最新Arxiv预印本。

提示词

### 🎯 搜索多模态大模型越狱攻击文献

```
你是一位人工智能领域的专家,具备在多模态安全性、机器学习和安全攻击方面的深厚知识。你的任务是针对多模态大模型的越狱攻击研究,特别是基于反馈的自动化红队攻击方法,进行系统性的文献检索。

#### 任务描述
- 检索2025年顶会(CVPR、ICCV、NeurIPS、ICML、ACL等)和多模态大模型越狱攻击相关文章。
- 关注基于反馈的自动化红队攻击(Feedback-driven Automated Red Teaming)和自适应提示优化攻击。
- 查找黑盒越狱攻击(Black-box Model Hopping)的相关研究。
- 检索2024-2025年间的重要进展,特别是针对视觉-语言模型的对抗攻击。
- 关注最新Arxiv预印本。
- 输出符合研究要求的25篇文献。

#### 输出约束
- 内容范围:多模态大模型越狱攻击、基于反馈的自动化红队攻击、自适应提示优化攻击、黑盒越狱攻击
- 输出格式:文献列表,每条文献包含标题、作者、会议或期刊、发表时间
- 语言风格:专业、简洁、学术性
- 长度限制:25篇文献

#### 质量标准
- 文献需来自顶级会议或重要期刊,发表时间为2024-2025年间
- 文献与研究主题高度相关,具有一定的研究价值
- 文献内容完整,信息准确

#### 示例引导
示例输入:多模态大模型越狱攻击 2025 CVPR
期望输出:[文献1], [文献2], ...
```