Як одна родина моделей здобула золото на IOI та IMO 2026?

Дві олімпіади та значення балів

Міжнародна олімпіада з інформатики перевіряє алгоритми та код. Вони мають пройти приховані тести за суворих лімітів часу та кількості посадок. Міжнародна математична олімпіада вимагає суворих доводів природною мовою. Успіх на будь-якій з них — складний. Успіх на обох вказує на щось ширше у базовій моделі.

Nemotron-3-Ultra-CC з контрольованим донавчанням та GenCorrect набрала 535,4 з 600 балів на IOI 2026. Офіційний золотий поріг — 361,12. Найкращий учасник серед людей набрав 498,27. Запуск був живим і проспективним. Він відбувався під тими ж обмеженнями, що й для людей: ліміт часу, доступ до інтернету, кількість посадок. Він був неофіційним і без нагляду, тому не потрапив до офіційного рейтингу IOI.

На IMO 2026 система набрала 30 з 42 балів. Вона поєднувала чекпоінти Nemotron 3 Ultra general, а також SFT і RL у циклі генерація‑верифікація‑доопрацювання. Офіційний золотий поріг — 29. Подані доводи оцінювали офіційні оцінювачі IMO. Система отримала повні бали за чотири з шести задач. Вона працювала виключно природною мовою, без формальних доведувачів, зовнішніх інструментів чи інтернету.

Рецепт із чотирьох кроків, що спрацював двічі

У обох проєктах рецепт мав чотири частини. Початок — сильна базова модель Nemotron. Збір спеціалізованих задач та якісних слідів рассудження. Застосування стандартних методів пост-тренінгу: SFT і, де доречно, RL. Поєднання спеціалізованої моделі з інференс-циклом, що генерує та оцінює кандидат-відповіді. Цей цикл також вміє їх покращувати.

Тренувальні та інференс-запуски були масштабними. Базовий підхід — знайомий і відтворюваний. Командам не потрібно було будувати нову базову модель для кожного виклику. Вони спеціалізували Nemotron під задачу.

Різні шляхи донавчання для різних масштабів

Для конкурентного програмування дослідники зібрали 22 000 задач і згенерували синтетичні сліди рассудження для тренування двох спеціалістів. Nemotron-3-Nano-CC має 30 мільярдів загальних параметрів і 3 мільярди активних. Вона пройшла і SFT, і RL. Nemotron-3-Ultra-CC має 550 мільярдів загальних параметрів і 55 мільярдів активних. Вона отримала лише SFT.

Прогрес на IOI 2025 наочно показує цінність спеціалізації. Nano покращилася з 130 балів до пост-тренінгу до 280 після SFT і 291 після RL. З GenCorrect — ітеративною стратегією генерація‑оцінка‑доопрацювання — вона досягла 468 балів і перескочила золотий поріг у 438,3. Ultra-CC з тією ж тест-тайм стратегією набрала 502 бали.

Ці експерименти показали: адаптація не має виглядати однаково на кожному масштабі. SFT дала більшу частину приросту Nano. RL додав менший, але стабільний покращення. Для потужнішої Ultra однієї епохи SFT вистачило, щоб перевершити повністю пост-треновану Nano. Це виявилося на IOI, на ICPC і на LiveCodeBench Pro. Цей висновок спрямував створення Ultra-CC для IOI 2026, яка набрала 535,4 з 600.

Як математична система навчилася доводити та перевіряти

Проєкт IMO застосував ту саму ідею до олімпіадної математики. Почавши з Nemotron 3 Ultra, команда натренувала одного спеціаліста через SFT, іншого — через RL. SFT-корпус містив 414 890 відфільтрованих прикладів якості на 15 818 унікальних задач на доводи. Він не просто навчав фінальним відповідям. Дані охоплювали генерацію доводів та доопрацювання. Також вони покривали верифікацію та мета-верифікацію. Тому модель навчилася будувати аргументи та знаходити прогалини. Вона навчилася реагувати на критику та судити про повноту доводу.

RL-модель тренувалася на 9 597 задачах на доводи, обраних біля межі здатностей моделі. Обидва пост-треновані чекпоінти перевершили модель загального доступу в експериментах розробки. SFT-чекпоінт був найсильнішим у першому раунді пошуку. RL-чекпоінт дав найкращий загальний результат серед окремих чекпоінтів. Їхні сильні сторони доповнювали одна одну, тому фінальна система використала обох спеціалістів поруч із загальною моделлю.

Для кожної задачі IMO моделі генерували кандидат-доводи та оцінювали їх. Потім вони формували критику та доопрацьовували найперспективніші спроби. Окремий етап з високими обчислювальними ресурсами вибирав фінальну посадку.

Донавчання та тест-тайм обчислення працюють у парі

Ранніші результати IOI 2025 показали, як тест-тайм обчислення може підняти open-weight моделі до золотоного рівня. Нові результати додають важливу частину. Краща спеціалізація дає інференс-системі кращих кандидатів та критиків, а також кращі доопрацювання.

На IOI GenCorrect перетворила прирости від донавчання на більші покращення через кілька раундів зворотного зв'язку. На IMO використання доповнюючих SFT і RL чекпоінтів було ціннішим за просте збільшення вибірки з одного чекпоінту. У обох випадках найкращий результат вийшов з поєднання здатного спеціаліста з системою, що вміє шукати і верифікувати, а потім покращувати.

Медалі не вийшли лише з донавчання. Не вийшли лише з грубого перебору вибірок. Вони прийшли з ко-дизайну моделі та даних, а також інференс-циклу.

Що тепер відкрите для всіх

Колекція Nemotron Labs IMO 2026 на Hugging Face збирає SFT- та RL-чекпоінти. Там же лежать обидва тренувальні датасети та Nemotron-IMO-Bench — новий бенчмарк із 200 олімпіадно-рівневих задач. Стаття IMO описує підхід до тренування та систему генерація‑верифікація‑доопрацювання. Репозиторій NeMo-Skills містить IMO інференс-пайплайн, промпти, подані доводи та відтворюваний quickstart.

Модель Nemotron-3-Ultra-CC для конкурентного програмування доступна на Hugging Face. Стаття IOI дає рецепт тренування та методологію GenCorrect. Оцінювальний та інференс-пайплайн IOI також є в NeMo-Skills.

Разом IMO та IOI дають надзвичайно вимогливе доказавання простої ідеї. Nemotron можна донавчати до світових спеціалістів за доменами. Потім композитувати з прозорими інференс-робочими процесами для вирішення задач на межі людського змагання.