Яка похибка — і в яких одиницях?
Сім метрик і функцій втрат регресії пліч-о-пліч, пари, які плутають, і один запуск, де ті самі похибки читаються шістьма різними способами.
друкується на 2 сторінках A4з 7 сторінок і 1 каталогучитати безкоштовно · PDF — із безкоштовним акаунтомОновлено 21 жовт. 2026 р.
PDF і кнопка «Друкувати» просять увійти; безкоштовного акаунта досить. Читати й перевіряти себе може кожен.
Пліч-о-пліч
Перші стовпці — з каталогу Regression metrics; решта — з кожної сторінки.
Формулу наведено, лише коли вона коротша за слова; решту сказано словами, а формула є на кожній сторінці.
Легко сплутати
Питання «чим відрізняється…» — кожне у два рядки.
5.20 проти 2.72 Випадок: one-outlier
RMSE підносить до квадрата перед усередненням, тож кілька великих промахів тягнуть її вгору; MAE рахує кожну одиницю похибки однаково.
Наводьте обидві. Великий розрив між ними означає, що домінують кілька великих промахів.
29.98 проти 0.93 Випадок: x10-units
RMSE — похибка в одиницях цілі; R² — частка поясненої дисперсії, зовсім без одиниць.
R² каже, чи модель краща за середнє; RMSE — наскільки вона помиляється. Наводьте обидві.
MAPE ділить кожну похибку на справжнє значення, MAE — ні, тож біля нуля MAPE вибухає на похибках, яких MAE майже не помічає.
MAPE — лише для цілей далеко від нуля; MAE — для всього, що може його досягти чи перетнути.
MSE проти Huber loss
Обидві підносять малі похибки до квадрата; за межею δ Huber росте лінійно, тож одна дика точка не може в ній домінувати.
Huber — коли викиди лишаються в даних; MSE — коли дані чисті.
Обидві міряють відносну похибку. MSLE працює з логарифмами з доданою 1, тож нульова ціль її не ламає.
MSLE — коли ціль охоплює кілька порядків величини; MAPE — коли аудиторія мислить у відсотках.
Один справжній запуск
Ті самі 200 прогнозів, поки щоразу змінюється одне.
| Випадок | MSE | RMSE | MAE | R² | MAPE | Huber |
|---|---|---|---|---|---|---|
| clean | 8.99 | 3.00 | 2.42 | 0.93 | 0.05 | 4.40 |
| one-outlier | 27.07 | 5.20 | 2.72 | 0.78 | 0.06 | 5.84 |
| near-zero | 8.99 | 3.00 | 2.42 | 0.93 | 0.22 | 4.40 |
| x10-units | 898.78 | 29.98 | 24.22 | 0.93 | 0.05 | 109.03 |
«Один поганий прогноз потроює MSE і ледве зрушує MAE.»
«Зсуньте ціль до нуля — і рухається лише MAPE.»
«Змініть одиниці — і на місці лишаються лише R² і MAPE.»
Запуск і ці рядки — практичний приклад зі сторінки «MSE», як його виведено: 200 targets, the same noise in every row; Huber delta = 5
Що обрати?
Чи великий промах гірший за свій розмір?
Хто читає число?
Чи похибка відносна до розміру цілі?
Викиди, яких не прибрати, і навчання градієнтами?
- Так Huber loss
Кожна відповідь — з розділу «Чому і коли» своєї сторінки.
Усі пастки цих сторінок: 25
Кожна — перший рядок однієї з типових помилок; чому — пояснює її сторінка.
MSE
- MSE не є порівнянною між наборами даних.
- MSE на навчанні не є оцінкою продуктивності.
- Піднесення до квадрата — це рішення, а не технічна дрібниця.
RMSE
- RMSE так само не можна порівнювати між наборами даних.
- Це не середня похибка.
- Взяття кореня не додає робастності.
MAE
- MAE не можна порівнювати між наборами даних.
- Низька MAE може приховувати систематичне зміщення.
- Вона протистоїть викидам, а не обробляє їх.
R²
- Високий R² не доводить, що модель правильна.
- Навчальний R² лише зростає.
- Загалом R² не є квадратом кореляції.
- Від’ємні значення на відкладених даних — нормальні.
MAPE
- Один-єдиний нуль її руйнує.
- Вона асиметрична й зміщує моделі донизу.
- scikit-learn повертає частку, а не відсоток.
- Вона не визначена для цілей, що перетинають нуль.
MSLE
- Від’ємні значення не завжди спричиняють помилку.
- Вона несиметрична, і це навмисно.
- Саме по собі число не інтерпретується.
- Вона тихо змінює те, що оптимізує модель.
Huber loss
- δ залежить від масштабу.
- Робастний не означає невразливий.
- Не використовуйте її, щоб не дивитися на свої дані.
- Наведене число не порівнюване з MSE чи MAE.