Що відбувається, коли модель робить прогнози на вашій базі даних без навчання?

Як модель читає базу даних замість плоскої таблиці

Більшість продакшн-конвеєрів досі перетворюють користувачів і замовлення на один широкий рядок, додаючи товари як окремі стовпці. Інженери витрачають тижні на написання агрегацій у вигляді середньої вартості замовлення за останні тридцять днів. Цей процес позбавляє дрібнозернисту структуру, що живе в зовнішніх ключах і мітках часу. Kumo Relational повністю пропускає етап випрямлення. Вона підключається до бази даних у її початковому вигляді — із таблицями і ключами, зберігаючи час.

Прогностичний запит, написаний мовою PQL, каже системі, що передбачати, а не як. Для тимчасових задач двигун відтворює історичні стани бази даних. Він вибірково збирає сутність-центричні підграфи до точки прикріплення і обчислює кожну ціль з подій після цієї точки. Модель бачить лише дані до прикріплення. Це конструктивно запобігає витоку даних.

Всередині моделі рассудження відбувається в два етапи. Легка мережа обробляє кожну таблицю незалежно, чергуючи увагу до стовпців та увагу до рядків. Вона вчиться визначати, які стовпці і рядки важливі для поточного прогнозу, і відсікає шум до поширення. Потім більша мережа розподіляє ембедінги рядків по реляційній структурі через графову увагу над зв'язками первинного та зовнішнього ключів, поєднану з перехресною увагою між контекстними прикладами. Оскільки цей етап працює з ембедінгами рядків, а не з кожної клітинки, архітектура уникає квадратичної складності і масштабується до великих контекстів і глибоких підграфів.

Що насправді показують бенчмарки

Стаття оцінює Kumo Relational на 41 бенчмарці через 15 реляційних баз даних з RelBench V1 і V2, а також SAP SALT і 4DBInfer. Жоден з цих наборів не потрапляв у попереднє навчання. На класифікаційних задачах RelBench V1 модель перевершує градієнтний бустинг на експертно-проєктованих ознаках майже на 4 пункти AUROC у середньому. На підприємчому бенчмарці SAP SALT вона обходить XGBoost на інженерних ознаках на 7 пунктів MRR «з коробки» і на 13 пунктів після донавчання. Вона також перевершує великі ансамблі AutoGluon на 8 відсотків за середнім зворотним рангом, а нещодавні табличні фундаментальні моделі — приблизно на 25 відсотків. Донавчання розширює перевагу над AutoGluon до 16 відсотків.

Швидкість має таке ж значення, як точність. У лідерборді RelArena-α, що порівнює реляційні моделі та системи на RelBench V1, Kumo Relational одразу потрапляє на Парето-фронту точності-ефективності при близько 17 секундах і Elo 1842. Найкращий запис, rt-plurel, досягає Elo 1878 за близько 7300 секунд — приблизно в 430 разів повільніше. Кожна інша фундаментальна модель, система інженерії ознак і керована модель набирають менше балів і працюють повільніше.

Перевірки стійкості виявляють додаткові запаси. Модель добре працює навіть з 0,2 відсотка навчальних даних як контексту. Вона залишається стабільною, коли видаляють до 75 відсотків зовнішньоключових зв'язків. Майже не деградує при додаванні багатьох зашумлених стовпців.

Де це місце у вашому стеку

Kumo Relational виконує in-context learning нативно над базами даних. Вона працює в пам'яті, через конектори до баз даних і сховищ, або через власний графовий двигун, що обробляє 500 млрд+ рядків через memory-mapped I/O зі швидкістю до 5 ГБ/с. Модель доступна у щойно випущеній NVIDIA GPU-нативній бібліотеці structured-data-models, тій самій open-source бібліотеці, що живить Kumo Tabular. Бібліотека при першому запуску завантажує ваги з Hugging Face Hub, тому ви можете завантажити модель у GPU-ноутбуку і робити прогнози безпосередньо.

Щоб запустити модель як окремий сервіс, розгорніть її як NVIDIA NIM і спрямуйте open-source structured-data-models-client на нього з вашого ноутбука. Ви пишете прогноз мовою PQL, а клієнт збирає контекстні приклади та пов'язані таблиці, потім надсилає запит. Код випущено під ліцензією Apache 2.0, а ваги моделі — під OpenMDW License Agreement версії 1.1.

Чого модель ще не вміє

Модель найкраще проявляє себе на даних із значущими зв'язками та тимчасовою динамікою, наприклад поведінці користувачів у часі. На задачах з дуже великими навчальними вибірками задачово-спеціалізовані керовані моделі все ще можуть перевершувати in-context прогнози, які в бенчмарках використовували максимум 10 000 контекстних прикладів. Донавчання фундаментальної моделі створене саме для такого випадку. Прогностичні сигнали також мають бути досяжними в обмеженій кількості переходів, тому документація радить починати з зосередженого запиту над кількома релевантними таблицями і розширювати граф за потребою. У оголошенні не сказано, скільки з розгорнувань на 500 млрд рядків вже працює в продакшні.