深度之梦由此而成：可视化扩散模型中的单义特征

arXiv cs.LG 论文
mechanistic-interpretability diffusion-models sparse-autoencoders feature-visualization latent-space

摘要

本文介绍了潜在空间优化可视化（LVO），这是一种机械可解释性技术，利用稀疏自编码器来可视化 Stable Diffusion 1.5 等扩散模型中的单义特征。

arXiv:2605.08218v1 发布类型：新文章 摘要：本文提出了一种名为潜在空间优化可视化（LVO）的机械可解释性技术，它将最初为卷积神经网络开发的特征优化可视化方法扩展到了潜在扩散模型。LVO 利用稀疏自编码器（SAE）将多义性的层表示解耦为单义特征。主要贡献包括潜在空间优化、时间步活动分析、匹配调度噪声注入、通过特征引导进行先验初始化以及适当的正则化策略。我们在基于 Style50 数据集微调的 Stable Diffusion 1.5 上演示了该方法，表明 SAE 特征能够产生清晰且可识别概念的可视化结果——包括对角线构图、人物、玫瑰、电缆和瀑布泡沫等——这些结果与数据集中的示例相关，而未进行解耦的基线方法产生的结果则连贯性较差。我们进一步表明，像素空间特征可视化的正则化技术可以迁移到潜在域，尽管原始层和 SAE 变体需要不同的配置。与数据集示例和特征引导相比，LVO 通过直接揭示激活某个特征的原因而非其下游效应，提供了互补的见解。
查看原文
查看缓存全文

缓存时间: 2026/05/12 07:07 

# 深梦由此而生：可视化扩散模型中的单义特征
来源: https://arxiv.org/abs/2605.08218
查看 PDF (https://arxiv.org/pdf/2605.08218)

> 摘要: 本文提出了一种名为“通过优化的潜在可视化”（Latent Visualization by Optimization, LVO）的机制可解释性技术。该技术将最初为卷积神经网络开发的“通过优化的特征可视化”方法扩展到了潜在扩散模型。LVO 采用稀疏自编码器（SAEs）将多层表示中的多义性解耦为单义特征。主要贡献包括：潜在空间优化、时间步活动分析、匹配调度的噪声注入、通过特征引导进行的先验初始化，以及合适的正则化策略。我们在基于 Style50 数据集微调的 Stable Diffusion 1.5 上展示了该方法，结果表明 SAE 特征能够生成清晰且可识别的概念可视化结果——包括对角线构图、人物、玫瑰、电缆和瀑布泡沫——这些结果与数据集中的样本相关联；而未进行解耦的基线模型产生的结果则连贯性较差。我们进一步表明，像素空间特征可视化的正则化技术可以迁移到潜在域中，尽管对于原始层和 SAE 变体需要不同的配置。与数据集样本和特征引导相比，LVO 通过直接揭示什么激活了某个特征（而非其下游效应），提供了补充性的见解。

## 提交历史

来自: Adam Szokalski [查看邮件 (https://arxiv.org/show-email/9097c59b/2605.08218)] **[v1]** 2026年5月6日 星期三 13:21:24 UTC (26,164 KB)

相似文章

高维潜变量的扩散性

Hugging Face Daily Papers

本文表明，为重建而微调自编码器会降低有效维度，使得标准速度预测在扩散模型中效率低下，并提出使用x0预测来聚焦于信号流形，从而持续提升文本到图像生成性能。

基于概念的扩散模型反事实视觉解释

arXiv cs.AI

介绍C-VCE，这是一种扩散框架，它在生成模型中内置了一个可解释的概念瓶颈层，从而无需依赖外部噪声鲁棒分类器即可实现人类引导的视觉反事实解释。