складність 3/5
Transfer learning
Узяти мережу, навчену на великому наборі даних, замінити лише її вихідний шар і навчати на вашому значно меншому — ознаки успадковані, а класифікатор є всім, що ви вчите з нуля.
Інтуїція
У вас є 800 фотографій двох різновидів чогось, і ви хочете класифікатор. Глибока мережа має десятки мільйонів параметрів. Підігнати її до 800 прикладів — це не важка задача, це неможлива задача.
Але більшість того, що така мережа знає, не стосується ваших двох класів. Ранні шари знайшли краї; середні знайшли текстури й частини. Нічого з цього не є специфічним для того, що ви класифікуєте — край є краєм на фотографії чого завгодно. Мережі, навчені на природних зображеннях, у першому шарі вивчають ознаки, «подібні до фільтрів Габора й кольорових плям», хоч би яким був набір даних чи завдання [3, abstract]. Лише останній шар, який відображає ознаки у ваші категорії, справді ваш.
Тож лишіть решту. Завантажте мережу, яку хтось навчив на мільйоні зображень, відкиньте її останній шар, приробіть натомість шар, скроєний під вашу задачу, і навчайте. Тепер 800 прикладів мусять задати лише останній крок, а на це їх достатньо.
Формальне визначення
Як це працює
Де застосовується
Чому і коли
Практичний приклад
Типові помилки
Перевірте себе
3 запитання
Запитання до цієї сторінки входять у доступ. Їх перевіряє сервер, тож відповіді лишаються там, доки ви не дасте свою.
Джерела
- Dive into Deep Learningbook · звірено 2026-09-05https://d2l.ai/
- Deep Residual Learning for Image Recognition (2015)paperhttps://arxiv.org/abs/1512.03385
- How transferable are features in deep neural networks? (2014)paperhttps://arxiv.org/abs/1411.1792
- Do Better ImageNet Models Transfer Better? (2019)paperhttps://arxiv.org/abs/1805.08974
- Domain Adaptive Transfer Learning with Specialist Models (2018)paperhttps://arxiv.org/abs/1811.07056
- Transfusion: Understanding Transfer Learning for Medical Imaging (2019)paperhttps://arxiv.org/abs/1902.07208