论文页面 - 当背景起作用：通过可迁移攻击破解医学视觉语言模型

来源：https://huggingface.co/papers/2604.17318
https://huggingface.co/login?next=%2Fpapers%2F2604.17318-

摘要

MedFocusLeak 通过在医学影像视觉语言模型中注入难以察觉的扰动、重定向模型注意力，实现了可迁移的黑盒攻击，暴露出临床诊断推理中的重大漏洞。

视觉语言模型（https://huggingface.co/papers?q=Vision-Language%20Models）（VLMs）在临床诊断（https://huggingface.co/papers?q=clinical%20diagnostics）中的应用日益广泛，但其对对抗攻击（https://huggingface.co/papers?q=adversarial%20attack）的鲁棒性却鲜有研究，带来严重风险。现有医学攻击多聚焦于模型窃取或对抗微调等次要目标，而来自自然图像的可迁移攻击（https://huggingface.co/papers?q=transferable%20attack）则引入肉眼易察觉的失真，易被临床医生发现。为此，我们提出 MedFocusLeak，一种高度可迁移的黑盒多模态攻击，可在保持扰动不可见的同时，诱导模型输出错误却临床可信的诊断。该方法在非诊断背景区域注入协同扰动，并采用注意力分散机制（https://huggingface.co/papers?q=attention%20distraction%20mechanism），将模型注意力从病灶区域转移。在六种医学成像（https://huggingface.co/papers?q=medical%20imaging）模态上的广泛评估表明，MedFocusLeak 达到最佳性能，能在多种 VLM 上生成误导却逼真的诊断结果。我们进一步提出统一评估框架及新指标，联合衡量攻击成功率与图像保真度（https://huggingface.co/papers?q=image%20fidelity），揭示现代临床 VLM 推理能力的关键缺陷。

查看 arXiv 页面（https://arxiv.org/abs/2604.17318）
查看 PDF（https://arxiv.org/pdf/2604.17318）
项目主页（https://akashghosh.github.io/MedFocusLeakACL/）
GitHub（https://github.com/AkashGhosh/When-Background-Matters-Breaking-Medical-Vision-Language-Models-by-Transferable-Attack）
添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2604.17318）

社区

论文提交者
约 6 小时前（https://huggingface.co/papers/2604.17318#69e7d513bcf6084a0ef1744d）

医学视觉语言模型领域首篇黑盒可迁移攻击论文

拖拽、粘贴或点击此处上传图片、音频、视频。

点击或粘贴此处上传图片

https://huggingface.co/login?next=%2Fpapers%2F2604.17318-

在智能体中获取该论文：

hf papers read 2604.17318

尚未安装最新 CLI？
curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

暂无模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2604.17318 即可在此显示。

引用该论文的数据集 0

暂无数据集链接此论文
在数据集 README.md 中引用 arxiv.org/abs/2604.17318 即可在此显示。

引用该论文的 Spaces 0

暂无 Space 链接此论文
在 Space README.md 中引用 arxiv.org/abs/2604.17318 即可在此显示。

包含该论文的收藏 0

暂无收藏包含此论文
将该论文添加到收藏（https://huggingface.co/new-collection）即可在此显示。