складність 4/5
Generative adversarial network
Дві мережі в грі: одна вигадує зразки, друга намагається їх розпізнати. Генератор ніколи не бачить даних — лише градієнти, що повертаються до нього через суперника.
Інтуїція
Більшості моделей на цьому сайті кажуть, яка відповідь правильна. Генеративна модель зображень такої не має: немає цілі для «правдоподібної фотографії», є лише розподіл, із якого ви хотіли б семплувати.
Змагальна ідея дає ціль, вигадуючи суперника. Навчіть дискримінатор, який «оцінює ймовірність того, що зразок походить із навчальних даних, а не від G», і навчіть генератор його обманювати: «процедура навчання G полягає в максимізації ймовірності того, що D помилиться» [1, Abstract]. Функцію втрат не пишуть вручну — це інша мережа, і вона вдосконалюється разом із генератором.
Чого генератор ніколи не отримує, так це даних. Його оновлюють «лише градієнтами, що проходять через дискримінатор», тож «компоненти входу не копіюються безпосередньо в параметри генератора» [1, §6]. Усе, що він знає про фотографії, надходить із других рук.
Формальне визначення
Як це працює
Де застосовується
Чому і коли
Практичний приклад
Типові помилки
Перевірте себе
3 запитання
Запитання до цієї сторінки входять у доступ. Їх перевіряє сервер, тож відповіді лишаються там, доки ви не дасте свою.
Джерела
- Generative Adversarial Nets (2014)paperhttps://ar5iv.labs.arxiv.org/html/1406.2661
- Denoising Diffusion Probabilistic Models (2020)paperhttps://ar5iv.labs.arxiv.org/html/2006.11239
- High-Resolution Image Synthesis with Latent Diffusion Models (2022)paperhttps://arxiv.org/abs/2112.10752