Як TopGQ скорочує час квантування GNN на порядок?

Нова платформа TopGQ прискорює квантування графових нейромереж. Роботу прийняли на 63-й конференції ACM/IEEE Design Automation Conference 2026 року.

Навіщо це важливо для розгортання

Графові нейромережі обробляють дані, структуровані як вузли та ребра. Квантування зменшує точність чисел у вагах та активаціях, щоб модель помістилася на периферійних пристроях. Існуючі методи створюють значний накладний витрат під час стиснення, що ускладнює практичне використання. Автори прямо зазначають це в анотації.

TopGQ атакує саме цю проблему

Це платформа пост-тренувального квантування — перетреновувати модель не потрібно. Автори: Дайн Квон, Кангхюн Чой, Хеййон Лі, Сонджон Парк, Сьойонг Лі, Сукджин Кім, Чінхо Лі. Препринт з'явився на arXiv 31 серпня 2026 року. Сторінок сім, фігур — чотири.

Двоосове поглинання масштабів

Квантування активацій відбувається вздовж одного виміру. TopGQ дозволяє це вздовж обох — зовнішнього та внутрішнього. Один масштаб зливається з матрицею суміжності, яка описує, які вузли з якими пов'язані. Вплетення масштабу в неї усуває окреме множення під час виведення. У статті немає оцінки економії операцій; автори формулюють внесок як усунення зайвого накладного витрату на квантування.

TopPIN групує вузли за локальною структурою

Другий механізм — TopPIN. Він слугує проксі для локальної структури вузла: вузли з подібною топологією потрапляють в одну групу під час квантування. Параметри квантування стають спільними всередині групи, що зменшує кількість різних масштабів, які потрібно обчислити та зберегти. У анотації немає точної формули TopPIN, даних про типову кількість груп, порівняння гранулярності групування по наборам даних.

Результати та їхній зміст

Експерименти показують: TopGQ скорочує час квантування на порядок, зберігаючи точність. Порядок — це приблизно в десять разів швидше. У анотації не зазначено, які набори даних використовувалися, базові значення затримки не наведені, розбивка прискорення між двома механізмами відсутня. Прийняття на конференції означає рецензування на DAC 2026. Апаратні цілі — GPU, TPU чи специфічні периферійні чипи — не згадуються. Зміни обсягу пам'яті не обговорюються. Питання про динамічні графи, де топологія змінюється під час виконання, не розглядається.

Де закінчується пояснення

Анотація не містить математичного виведення двоосового поглинання, деталей обчислення TopPIN, абеляційних досліджень, що б ізолювали внесок кожного механізму, порівняння з базовими лініями квантування з урахуванням тренування. Повна стаття може це містити — анотація ні.