Що відбувається, коли потокова модель замінює таблицю пошуку в рекомендательній системі?
Новий препринт описує токенізатор, який перетворює ембедінги товарів у стандартне нормальне простір перед розбиттям їх на дискретні коди. Зміна підвищує коефіцієнт клікабельності на двозначні відсотки в продакшн-системі пошуку WeChat.
Рекомендаційні системи довго присвоювали кожному товару випадкове ціле число та зберігали величезну таблицю ембедінгів. Таблиця розростається разом з каталогом. Холодні товари без рядка.
Токенізатори обіцяють замінити таблицю, стискаючи семантичний вектор у короткий код. Два домінантні підходи мають структурні недоліки.
RQ-VAE розташовує кодбуки так, що кожен рівень залежить від попереднього. Декодування змушене йти по ланцюгу послідовно, що сповільнює обслуговування. Оптимізована продуктова квантизація розділяє виміри на незалежні групи, але реальні ембедінги демонструють кореляції між цими групами,
Джерела, за якими написано статтю
- "arXiv:2608.24176v1
https://arxiv.org/abs/2608.24176v1"