складність 3/5
Huber loss
Функція втрат, що поводиться як MSE для малих похибок і як MAE для великих: досить гладка, щоб її легко оптимізувати, і досить робастна, щоб викиди перестали тягнути підгонку за собою.
Інтуїція
MSE і MAE кожна розв’язує проблему іншої й створює власну. MSE гладка й легка в оптимізації, але один дикий викид здатен потягнути всю підгонку до себе [2, §3.1.1.2]. MAE елегантно ігнорує викиди, але її злам у нулі робить градієнтну оптимізацію незручною.
Huber loss бере корисну половину кожної. Поблизу нуля вона квадратична, як MSE, — гладка, з добре поведеним градієнтом. За порогом стає лінійною, як MAE, — тож точка вдесятеро дальша коштує вдесятеро більше, а не в сто разів [1, description].
Формальне визначення
Як це працює
Де застосовується
Чому і коли
Практичний приклад
Типові помилки
Перевірте себе
3 запитання
Запитання до цієї сторінки входять у доступ. Їх перевіряє сервер, тож відповіді лишаються там, доки ви не дасте свою.
На шпаргалці: Regression metrics and losses →
Джерела
- scikit-learn — sklearn.linear_model.HuberRegressordocs · звірено 2026-08-30https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.HuberRegressor.html
- Dive into Deep Learning — 3.1 Linear Regressionbookhttps://d2l.ai/chapter_linear-regression/linear-regression.html
- e-Handbook of Statistical Methods — 1.3.5.17 Detection of Outliersstandard · звірено 2026-10-04https://www.itl.nist.gov/div898/handbook/eda/section3/eda35h.htm
- Think Stats — Ch. 2, Distributions, 2nd ed.book · звірено 2026-10-06https://greenteapress.com/thinkstats2/html/thinkstats2003.html