Google Research·· 2026-07-16AI 评分24
Google Research 揭示扩散模型创造力来源:score smoothing 机制
Towards demystifying the creativity of diffusion models
AI 导读
Google Research 在 ICLR 2026 论文中揭示,扩散模型的创造力源于神经网络训练中的 score smoothing:权重衰减等正则化使学到的 score function 变平滑,去噪过程因此在训练数据点之间插值,生成新样本而非简单记忆。研究用一维两点实验和两层 ReLU 网络验证,权重衰减越强插值区越明显,即使无显式正则化,梯度训练的隐式正则化也能产生同样效果。
来源:Google Research · research.google