Що вміє модель на 740 мільйонів параметрів у вашому телефоні без хмари?

Модель, що живе в кишені

EmbeddingGemma 2 — мультимодальна модель векторних представлень для смартфона. Вона перетворює текст, зображення, аудіо та відео на порівнянні вектори без відправки даних на сервер. Оголошення вийшло 6 жовтня 2026 року від Google DeepMind. Модель містить 740 мільйонів параметрів і розповсюджується під ліцензією Apache 2.0. Ця ліцензія дозволяє комерційне використання без додаткових дозволів. Попередня версія, випущена рік тому, працювала лише з текстом. Розробники завантажили її понад 20 мільйонів разів. Вони створили інструменти пошуку на пристрої та конвеєри отримання даних з пріоритетом приватності. Нова версія розширює ту саму ідею на код, зображення, відео та аудіо. Все це працює локально.

Модульна архітектура економить пам'ять

Система складається з трьох частин. Текстове ядро використовує 270 мільйонів параметрів. Опціональний візуальний енкодер додає 170 мільйонів. Опціональний аудіо-енкодер — ще 300 мільйонів. Завантажується лише необхідне для задачі. Текстові навантаження залишаються на 270 мільйонах. Повна мультимодальність досягає 740 мільйонів. Такий дизайн критичний: у телефонів обмежені бюджети пам'яті. На Google Pixel 11 Pro квантовані текстові ваги потребують близько 191 мегабайта оперативної пам'яті. Повна мультимодальна модель — близько 567 мегабайтів. Ці цифри взято з вимірювань у власному оголошенні. Вони показують: модель поміщається в пам'яті сучасного флагмана.

Вектори, які скорочуються без перенавчання

Matryoshka Representation Learning дозволяє обрізати вихідні вектори на льоту. Рідна розмірність — 768. Можна зменшити до 512, 256 або 128 вимірів під час інференсу. Перенавчання не потрібне. Оголошення заявляє до шестикратного скорочення сховища для локальних векторних баз. Компроміс — точність проти місця. Розробник обирає для кожного сценарію. Додаток для пошуку фото може залишити 768 вимірів. Детектор ключових слів на годиннику — зменшити до 128. Обидві використовують однакові ваги моделі.

Контекстне вікно виросло в чотири рази

Перша версія давала 2K токенів контексту. Друга розширює до 8K. Збільшення дозволяє ковтати більші шматки за один прохід. Оголошення перекладає токени на медіа-тривалості. До 5,5 хвилин аудіо. До 29 зображень. До 58 кадрів відео. Або їх комбінації. Все обробляється на локальному залізі. Голосова нотатка зі збора поміщається. Короткий відеокліп — теж. Серія фото — теж. Довші записи все ще потребують розбивки. Ліміт жорсткий. Документ не каже, чи вбудовані стратегії ковзного вікна, чи залишені розробнику.

Бенчмарки показують приріст там, де важливо

Якість коду стрибає на 9,92 бали за MTEB Code. Оцінка зростає з 68,76 до 78,68. Це робить модель придатною для локальної індексації кодової бази та семантичного пошуку коду. Багатомовний текст показує той самий рівень, що й попередня версія. У візуальних та аудіо задачах модель ставить новий бар якості на параметр серед моделей до 1B параметрів. Навіть перевершує деякі спеціалізовані моделі удвічі більші. Оголошення цитує MTEB Code та MAEB (Massive Audio Embedding Benchmark) як основні тести. Повні метрики — у модельної картці. Документ не публікує сирі оцінки для кожної мови чи аудіо-задачі. Лише резюмує головні дельти.

Запускається там, де ви вже будуєте

Вагаси лежать на Hugging Face та Kaggle. Доступ у Gemini Enterprise Agent Platform Model Garden з'явиться пізніше. LiteRT Community на Hugging Face розміщує оптимізовані для пристрою варіанти. Для деплою обираєте шлях. Google AI Edge MediaPipe дає готові векторні представлення, пошук та рішення. LiteRT керує користувацькою інтеграцією. Браузерні цілі — transformers.js або WebGPU. Серверна подача працює з transformers, sentence-transformers, MLX, vLLM, llama.cpp, SGLang, Ollama, LMStudio. Векторне сховище підключається до Qdrant. Настанови по донавчанню — від Unsloth. Розробницький посібник, документація, керівництва інференсу та донавчання доповнюють пакет. Список інструментів довгий, бо екосистема фрагментована. Оголошення не вимірює латентність у всіх цих середовищах виконання. Лише стверджує: модель працює з ними.

Демо показують призначені цикли

Тріада референсних додатків ілюструє дизайн. Google AI Edge Gallery Instant Media Search дозволяє шукати у медіатеці текстом або зображенням. Video Moments Finder знаходить моменти у відео текстовими або аудіо-запитами. Додаток Foresight поєднує EmbeddingGemma 2 для локального пошуку файлів з Gemma 4 для контекстного рассудження. Четвертий елемент — MediaPipe Decision Task API — спрямований на двигуни рішень реального часу. Класифікація, маршрутизація, прогностичні здібності працюють на мультимодальному контексті. Ці демо — не бенчмарки. Це докази існування. Документ не публікує латентність жодного з них. Не каже, чи працюють вони на 30 кадрів на секунду чи на одному кадрі на Pixel 11 Pro.

Чого оголошення не розкриває

Модельна картка тримає повні оціночні метрики. Оголошення посилається туди, але не відтворює їх. Рецепти квантування для кожного середовища виконання в пості не деталізовані. Цифри 191 МБ та 567 МБ RAM — для Pixel 11 Pro з квантуванням. На інших пристроях будуть інші. Документ не специфікує схему квантування (INT4, INT8, змішану). Не стверджує, чи можуть візуальний та аудіо-енкодери працювати незалежно від текстового ядра під час інференсу. Модульні підрахунки параметрів підказують, що так. Текст каже «опціональні» енкодери. Не показує API для їх окремого завантаження. Настанови по донавчанню є через Unsloth. Оголошення не описує вимоги до даних чи обчислювальний бюджет для донавчання. Не згадує, чи поширюється Apache 2.0 на похідні моделі. Попередня версія набрала 20 мільйонів завантажень. Оголошення не розбиває, скільки з них — унікальні проекти, а скільки — повторні CI-завантаження. Не розкриває джерела навчальних даних чи вуглецевий слід. Модель побудована на архітектурі Gemma 4. Оголошення не деталізує, що змінилося між Gemma 4 та спеціалізацією на векторні представлення. Вона ділить текстовий токенізатор та аудіо-енкодер з Gemma 4. Це спільне використання знижує сумарну пам'ять, коли обидві моделі працюють разом. Точна сумарна слід не наведена. 8K контекстне вікно — у чотири рази більше попередньої. Документ не каже, чи позиційні ембединги — ротаційні, навчені чи відносні. Не обговорює екстраполяцію за 8K токенів. Розмірності MRL-скорочення фіксовані: 512, 256, 128. Проміжні не згадані. Заява про шестикратне скорочення сховища припускає 768 до 128. Реальне скорочення залежить від накладних витрат індексу. Оголошення не надає вимірювань розміру індексу. MediaPipe Decision Task API згадано. Його документація деінде. Пост не пояснює, як він поєднує векторні представлення з логікою рішень. Foresight поєднує пошук з рассудженням Gemma 4. Латентність цього конвеєра не опублікована. Модель описана як best-in-class для свого розміру. Набір для порівняння — мультимодальні моделі векторних представлень до 1B. Більші моделі не основний бенчмарк. Твердження «перевершує деякі спеціалізовані моделі удвічі більші» не називає моделей. Модельна картка може. Оголошення — ні.