складність 2/5
Overfitting
Підгонка під навчальну вибірку тісніша, ніж під процес, що її породив: модель відтворює шум, який не повториться, і працює на нових даних тим гірше, чим краще виглядає на старих.
Інтуїція
Студент, який завчив торішній екзаменаційний білет, ідеально складе торішній екзамен. Це нічого не каже про те, чи засвоєно предмет, а на незнайомому білеті таке завчення активно шкодить: час, витрачений на конкретні відповіді, не був витрачений на загальний метод.
Моделі роблять саме це. Навчальна вибірка — не той процес, який вас цікавить; це одна реалізація з нього, що несе і справжню структуру, і випадковості вибірки. Досить гнучка модель підганяється під обидві частини й не може сказати вам, де яка, бо зсередини навчальної вибірки вони виглядають однаково. Саме випадковостей наступного разу не буде.
Незручний наслідок: покращується не те число, яке має значення. Похибка на навчальних даних монотонно спадає з додаванням місткості — і далі, за межу, де модель уже вчить нісенітницю [1, §3.6.1.1].
Формальне визначення
Як це працює
Де застосовується
Чому і коли
Практичний приклад
Варіанти
Типові помилки
Перевірте себе
3 запитання
Запитання до цієї сторінки входять у доступ. Їх перевіряє сервер, тож відповіді лишаються там, доки ви не дасте свою.
На шпаргалці: Validation and generalisation →
Джерела
- Dive into Deep Learningbook · звірено 2026-09-05https://d2l.ai/
- scikit-learn User Guide — Cross-validation: evaluating estimator performancedocs · звірено 2026-09-05https://scikit-learn.org/stable/modules/cross_validation.html