складність 3/5
Ridge regression
Лінійна регресія зі штрафом на суму квадратів коефіцієнтів: вона стискає кожен коефіцієнт до нуля, жодного не прибираючи, і це стабілізує моделі з корельованими ознаками.
Інтуїція
Дайте методу найменших квадратів дві ознаки, що вимірюють майже одне й те саме, — і він стане нестабільним: він може додати 500 до одного коефіцієнта й відняти 500 від іншого майже без зміни якості підгонки. Коефіцієнти стають величезними, протилежними й беззмістовними, і дико стрибають, якщо повторно підігнати модель на трохи інших даних.
Ridge робить таку конструкцію дорогою. Оскільки штраф накладається на квадрати коефіцієнтів, пара ±500 коштує незрівнянно більше за пару ±5. Модель підштовхують рівномірно розподіляти вплив між корельованими ознаками, а не протиставляти їх одна одній [2, §7.1.1].
Формальне визначення
Як це працює
Де застосовується
Чому і коли
Практичний приклад
Типові помилки
Перевірте себе
3 запитання
Запитання до цієї сторінки входять у доступ. Їх перевіряє сервер, тож відповіді лишаються там, доки ви не дасте свою.
Джерела
- scikit-learn — sklearn.linear_model.Ridgedocs · звірено 2026-08-31https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.Ridge.html
- Deep Learning (2016)book · звірено 2026-10-07https://www.deeplearningbook.org/contents/regularization.html