Forecasting methods

Прогнозування має незвичну для задачі моделювання властивість: відповідь приходить сама. Зачекайте — і дізнаєтеся. Тому це одна з небагатьох галузей, де методи можна чесно ранжувати, — і ранжування менш лестиве для складності, ніж більшість очікує.

Перш ніж до цього братися, зауважте, чим прогноз є. «Серед багатьох варіантів прогнозу окремого часового ряду на майбутній період — очікуване значення (так званий точковий прогноз), інтервал прогнозу, процентиль і цілий прогнозний розподіл» [1, §2.1]. Одне число — найменше з цього, і саме його найчастіше видають.

Починайте знизу таблиці, а не згори

Наївний прогноз — справжній конкурент. Це не солом’яне опудало для повноти. Будь-який метод, що не може перемогти «те саме значення, що й минулого тижня» на ваших даних, не відпрацював вартості своєї підтримки, а на шумних, коротких чи переривчастих рядах багато методів цього не можуть.

Експоненційне згладжування — наступне, що найважче перемогти. Огляд прямо каже про метод 1944 року: «експоненційне згладжування — одна з робочих конячок бізнес-прогнозування. Попри численні досягнення галузі, воно завжди лишається жорстким еталоном, про який варто пам’ятати» [1, §2.3.1]. Його найпростіша форма — один рядок, «f_t+1 = α y_t + (1 − α) f_t» [1, §2.3.1], і воно також відоме як експоненційно зважене ковзне середнє [1, §2.3.1].

Сучасна практика не зупиняється на точковому прогнозі: формулювання в просторі станів «надають їм статистичну рамку, здатну давати майбутні розподіли ймовірностей» [1, §2.3.1], і саме це перетворює згладжувач на модель.

Статистична середина

AR і MA — два різні уявлення про те, де живе патерн. Авторегресійна модель «це просто лінійна регресія поточного значення ряду на одне чи кілька попередніх значень ряду» [2, §6.4.4.4]. Модель ковзного середнього — «концептуально лінійна регресія поточного значення ряду на білий шум, або випадкові шоки, одного чи кількох попередніх значень» [2, §6.4.4.4], — і оскільки ці шоки не спостерігаються, «оцінювання MA складніше, ніж у моделях AR… замість лінійних найменших квадратів доводиться використовувати ітеративні нелінійні процедури підгонки» [2, §6.4.4.4].

Внесок Box і Jenkins — не жодна з моделей, а «розробка систематичної методології ідентифікації та оцінювання моделей, що можуть поєднувати обидва підходи» [2, §6.4.4.4], і це і є ARIMA.

d в ARIMA — це рішення про стаціонарність. «Важливе рішення при використанні моделі ARIMA — вибір значення d» [1, §2.3.4]; про що цей вибір, див. стаціонарність.

Дві родини перетинаються більше, ніж підказують їхні назви. «Деякі моделі експоненційного згладжування можна записати й у формі ARIMA… Наприклад, SES еквівалентне ARIMA(0,1,1), коли θ₁ = α − 1» [1, §2.3.4].

Вибір порядку тепер зазвичай автоматичний. ACF і часткова ACF визначають малі p і q; далі «на практиці покладаються на добре відомі інформаційні критерії, як-от AIC і BIC», а auto.arima «виявився дуже ефективним і дедалі частіше використовується в моделюванні ARIMA» [1, §2.3.4].

Машинне навчання, і для чого воно насправді

Нейронні мережі характеризує їхня гнучкість, а не точність на якомусь одному ряді. Їх вирізняє «здатність моделювати нестаціонарні, нелінійні й дуже складні набори даних» [1, §2.7.8], і навчають їх так само, як будь-яку іншу мережу: «найпоширеніша процедура NN — зворотне поширення» [1, §2.7.8]. Див. зворотне поширення.

Практичне правило, яке кодує таблиця: градієнтний бустинг і нейронні методи виправдовують себе, коли у вас багато рядів, а не один довгий, або коли більшість сигналу несуть екзогенні змінні. На одному ряді з кількох сотень точок статистичні рядки зазвичай кращі й завжди дешевші.

Одне структурне обмеження варто назвати прямо, бо це арифметика, а не проблема налаштування: прогноз дерева — середнє навчальних цілей у листку, тож він ніколи не може вийти за діапазон цілей, на яких його навчено. Ряд, що й далі росте, тож прогнозується пласким, щойно виходить за цей діапазон. Звичне виправлення — спершу прибрати тренд, а це знову декомпозиція.

Рядок, який більшість пропускає

Комбінування. «Маючи N прогнозів тієї самої події, комбінування прогнозів полягає в оцінюванні так званих комбінаційних ваг для кожного прогнозу, таких, що точність комбінованого прогнозу загалом перевершує точність прогнозів, які до нього входять» [1, §2.6.1].

Це весь аргумент, і він тримається з кінця 1960-х [1, §2.6.1]. Він не коштує нічого, крім усереднення, не потребує нової теорії і є першим, що варто спробувати, щойно з’являється другий метод.

Як обирати

Почніть із сезонного наївного прогнозу та експоненційного згладжування. Встановіть, що означає «добре» на ваших даних, перш ніж обирати щось, що доведеться підтримувати.

Переходьте до ARIMA чи лагової регресії, коли потрібні інтервали та інтерпретація. Обидві дають інтервали прогнозу в замкненій формі, а лагова регресія без церемоній приймає екзогенні змінні.

Беріть бустинг чи нейронну модель, коли задача широка, а не довга, — багато рядів, багато ознак або зв’язок, якого не вловлює жодна лінійна лагова структура.

Потім комбінуйте. Два посередні прогнози, усереднені, зазвичай перемагають кожен окремо [1, §2.6.1].

І спершу перевірте ряд. Кожен рядок тут щось припускає про тренд, сезонність чи стаціонарність, і це питання до декомпозиції та ACF, а не до моделі.