DiT: 基于 Transformer 的可扩展扩散模型
DiT 用在 latent patch 上操作的 Transformer 替换扩散模型常用的 U-Net 骨干，提出 adaLN-Zero 条件注入块，证明 Gflops（通过增大深度/宽度或 token 数）与 FID 强负相关；DiT-XL/2 在 ImageNet 256×256 取得 SOTA FID 2.27，是 Sora/SD3/FLUX 等现代生成模型的架构基石。
2 posts tagged with "scaling"
DiT 用在 latent patch 上操作的 Transformer 替换扩散模型常用的 U-Net 骨干，提出 adaLN-Zero 条件注入块，证明 Gflops（通过增大深度/宽度或 token 数）与 FID 强负相关；DiT-XL/2 在 ImageNet 256×256 取得 SOTA FID 2.27，是 Sora/SD3/FLUX 等现代生成模型的架构基石。
Stability AI 的 SD3 论文：改进的 Rectified Flow 时间步采样 + 多模态 MM-DiT 架构，在高分辨率文生图上超越 DALL·E 3 等 SOTA