Що змінює нова модель IBM з 385 мільйонами параметрів для прогнозування часових рядів?

Zero-shot прогнозування у лідерах рейтингу

Базова модель для часових рядів працює інакше за звичайні рішення. Замість окремого навчання на кожному наборі даних завантажуєте одну попередньо навчену модель і просите передбачити наступні години або дні для ряду, якого вона ніколи не бачила. Оголошення IBM стверджує: PatchTST-FM-r2 робить саме це.

На бенчмарку GIFT-Eval модель займає друге місце серед відтворюваних zero-shot записів станом на 8 вересня 2026 року. Її геометричне середнє CRPS гірше за TimesFM-3, а MASE — 0,6846. Лише TimesFM-3 показує кращий CRPS у цьому обмеженому рейтингу. Коли до порівняння додають попередньо навчені моделі, які могли бачити тестові дані, PatchTST-FM-r2 опускається до третього за CRPS і четвертого за MASE — але все ще обходить Chronos-2, Timer-S1 і кілька варіантів Toto. Деякі з них більші за розміром.

Бенчмарк охоплює попит, ціни, енергоспоживання, трафік, телеметрію та інші регулярно вибіркові ряди. Менші значення кращі для обох метрик. Оголошення не повідомляє, скільки окремих наборів даних входить до GIFT-Eval, і не наводить затримку інференсу в реальному часі.

Конформер-блоки замість звичайних трансформерів

PatchTST-FM-r1 використовував стандартні шари трансформера: багатоголову самозвернену увагу та feed-forward мережу. Нова версія замінює їх на конформер-блоки з обробки мови. Кожен блок огортає шар уваги двома півкроками feed-forward і вставляє тимчасовий згортковий шар.

Ядра згортки чергуються за повторюваним шаблоном 5, 5, 3, 3 через 30 блоків. Цей шаблон дає моделі два доповнювальні інструменти. Самозвернена увага ловить далекозв'язні відносини між патчами. Згортка задає індуктивний упередження до локальної тимчасової структури, обробляючи короткі взаємодії, щоб увага могла зосередитися на довгих горизонтах.

Мапи уваги на наборі ETTh1 ілюструють зміну. Трансформерна версія концентрується біля діагоналі — локальні зв'язки. Конформерна версія показує чітку масу поза діагоналлю: модель звертає увагу до віддалених патчів, а згортка покриває близькі.

Дві ще зміни згладжують вихід. Патчі тепер перекриваються на 50 відсотків з вагами вікна Хеммінга, а прогнози склеюються методом overlap-and-add. Кількість блоків виросла з 20 до 30. Разом ці модифікації дають 385 мільйонів параметрів і вікно контексту 8192 кроків.

Навчальний корпус розписаний у чотири частини

Прозорість щодо даних попереднього навчання — рідкість. IBM перелічує чотири джерела:

• Вибрані набори даних з GiftEvalPretrain
• Власна синтетична генерація через KernelSynth з модифікованими періодичними ядрами та обмеженим розширенням даних
• Корпус TSMixup за підходом Chronos, але лише з наборів даних поза тестовим набором GIFT-Eval
• Приблизно 500 тисяч синтетичних послідовностей CauKer по 4096 кроків кожна

Цей розкрив позиціонується як корисний для корпоративних аудитів. Він не стверджує, що корпус вільний від усіх ліцензійних ризиків, і не публікує повний список підмножин GiftEvalPretrain.

Ймовірнісний вихід та заповнення пропусків

Прогнозова голова видає 99 квантилів, а не просто точковий прогноз. Це дозволяє будувати прогнозні інтервали для будь-якого рівня довіри. Той самий конвеєр також обробляє імпутацію пропущених значень — функція, якої не було у попередній моделі.

Рівні квантилів налаштовуються під час інференсу. Приклад коду запитує 0,1; 0,5 та 0,9 квантили. Оголошення не вказує, чи розподілені 99 квантилів рівномірно чи за іншою сіткою.

Запуск у три рядки налаштування

Встановлення через публічний пакет:

pip install "granite-tsfm>=0.3.9"

Завантаження ваг:

model = PatchTSTFMForPrediction.from_pretrained("ibm-granite/granite-timeseries-patchtst-fm-r2")

Прогнозувальний конвеєр обгортає модель, приймає pandas DataFrame зі стовпцем міток часу і одним або кількома цільовими стовпцями, повертає DataFrame з прогнозом, що включає запитані квантили. К