

摘要
扩散模型 (DMs) 在下游任务中反向传播计算成本高昂。本文提出捷径扩散优化 (SDO),通过仅保留一步计算图优化目标函数,显著降低约90%计算成本,同时保持或超越完整反向传播性能。SDO适用于潜变量优化、模型微调等任务,兼具通用性、高性能和轻量级特点。
2024年5月8日大约 7 分钟
扩散模型 (DMs) 在下游任务中反向传播计算成本高昂。本文提出捷径扩散优化 (SDO),通过仅保留一步计算图优化目标函数,显著降低约90%计算成本,同时保持或超越完整反向传播性能。SDO适用于潜变量优化、模型微调等任务,兼具通用性、高性能和轻量级特点。