Denoising в диффузии (шаг обратной диффузии)
Denoising в диффузии — ключевой шаг работы генеративных моделей: нейросеть последовательно убирает предсказанный шум из латента, за N шагов превращая случайный шум в изображение. На этом принципе построены Stable Diffusion, DALL-E 3 и апскейлер SeedVR2.
Denoising в диффузии — центральная операция, на которой держатся все современные генеративные модели изображений. Здесь слово «denoising» означает не привычное шумоподавление на фотографии, а шаг обратной диффузии: нейросеть предсказывает и вычитает шум из промежуточного состояния, и за несколько десятков таких шагов чистый шум превращается в осмысленное изображение.
Forward и reverse diffusion
Обучение диффузионной модели состоит из двух процессов:
- Forward diffusion (прямой процесс) — к изображению пошагово добавляется гауссов шум, пока от картинки не останется чистый шум. Это фиксированный, не обучаемый процесс.
- Reverse diffusion (обратный процесс) — сеть (U-Net) учится на каждом шаге предсказывать добавленный шум, чтобы его вычесть. Именно этот денойзинг-шаг и делает модель генеративной.
На инференсе мы стартуем со случайного шума и повторяем denoising-шаг N раз (обычно 20–50), постепенно «проявляя» изображение — как фотографию в проявителе.
Noise schedule и число шагов
Ключевые параметры денойзинга:
- Noise schedule — расписание, сколько шума приходится на каждый шаг (linear, cosine). От него зависит стабильность генерации.
- Число шагов (steps) — компромисс скорость/качество. DDPM требует сотен шагов; DDIM и современные солверы (DPM-Solver++) дают тот же результат за 20–30 шагов, а adversarial-дистилляция — за 1–4.
- CFG scale — насколько сильно денойзинг «слушается» промпта.
Где denoising-шаг работает у нас
В большинстве моделей денойзинг идёт не по пикселям, а в латентном пространстве VAE — это латентная диффузия Stable Diffusion. Этот же принцип лежит в основе:
- Апскейла через SeedVR2 — диффузионное восстановление деталей при увеличении разрешения.
- Инпейнтинга — денойзинг идёт только внутри маски, с сохранением остального.
- Prompt-редактирования — частичный денойзинг (image-to-image) стартует не с чистого шума, а с зашумлённого исходника, сохраняя композицию.
Denoising strength — важный параметр
В image-to-image и inpaint есть параметр denoising strength (0–1): сколько шума добавить к исходнику перед обратной диффузией. При 0.2–0.4 картинка меняется слегка (лёгкая ретушь), при 0.7–1.0 — почти полностью перегенерируется. Понимание этого параметра критично для управляемого AI-редактирования без потери оригинала.