Що з'єднує хмарні моделі ШІ з роботами без переписування коду під кожен чіп?

Спільна проблема за п'ятьма заходами

WeAreDevelopers World Congress North America розпочав серію у вересні. PyTorch Conference та AGNTCon + MCPCon йшли за ним у жовтні. GitHub Universe та Arm Create завершили послідовність. Кожен захід зібрав свою аудиторію, але розмови зійшлися в одній точці тертя. Як перенести модель ШІ з ноутбука у робочий додаток через хмару та крайове залізо, не перебудовуючи стек під кожну ціль. Редакція Arm оформила публікацію як польовий звіт, а не анонс продукту. Дата публікації — 30 жовтня 2026 року.

На WeAreDevelopers Алекс Спінеллі, старший віце-президент з ШІ та платформ для розробників у Arm, стверджував: вимоги мають йти перед вибором моделі. Демонстрація AI Translator перетворила цей принцип на живий ланкуж: розмова в текст, переклад, текст у мову. На закритій сесії з камерою ШІ залу слухачів поставило одне й те саме запитання: як почати будувати локальні додатки ШІ. Той самий патерн повторився на PyTorch Conference. Сесії Arm охопили виведення на CPU та стрімінгове розпізнавання мови. Малі мовні моделі на обмежених пристроях також були в програмі. Спільна оцінка розміру аудіо-шматка та числової точності виявила компроміс між точністю транскрипції та затримкою відповіді. Урок: перевіряйте ці вибори проти призначеної взаємодії, а не лише проти точності на повному записі.

Робочий процес оптимізації, що працює до появи заліза

Arm Create додав практичний шар. Nota AI провела майстер-клас з Arm AI Model Optimizer, побудованим на NetsPresso від Nota AI. Мета — оптимізувати WideResNet-50 для нейропроцесора Arm Ethos-U85 всередині Alif Ensemble E8 DevKit. Інструмент доступний у ранньому доступі через Arm AI Portal. Він об'єднує оптимізацію графа та INT8-квантизацію. Оцінка також входить у командний рядок. Учасники порівнювали точність та оціночну затримку перед експортом файлу моделі ExecuTorch. Оцінки затримки надходили з Arm MLIA, а не з вимірювань на фізичній платі. Ця деталь важлива: розробники можуть оцінити варіанти оптимізації до прибуття цільового пристрою.

Той самий робочий процес з'явився в іншому контексті. Nota AI представила результати оптимізації Qwen2.5-0.5B-Instruct для AWS Graviton4 з використанням ExecuTorch та XNNPACK. Модель та залізо відрізнялися від крайової вправи, але кроки залишилися ідентичними: створити експеримент, запустити оптимізацію, порівняти результати. Бібліотека CMSIS-NN Arm постачає оптимізовані ядра нейромереж для процесорів Cortex-M. Це дозволяє розгортати підтримувані моделі PyTorch на мікроконтролерах без конвертації в формат іншого фреймворку. Google DeepMind та Google AI Edge розглядали моделі на пристрої на тому ж заході. Renesas дослідила перехід від розробки на PyTorch до крайових продуктів. Нитка, що з'єднує їх — повторюваний конвеєр, що охоплює хмарне кремній та вбудовані NPU.

Зв'язок пристроїв, що трактує роборуку як виклик функції

Агентне ШІ виходить за межі програмних інструментів. Панель WeAreDevelopers «Будівництво ШІ для фізичного світу» з'єднала обмеження розгортання з довгостроковою надійністю. До Спінеллі приєдналися Ейстейн Штенберг від Northern.tech та Герардо Пардо-Кастельоте від RTI. Джозеф Нельсон від Roboflow також взяв участь. Модерував Томіслав Тіпуріч від Nephos. Обговорення акцентувало увагу на локальній обробці, версіонуванні моделей та відкаті. Оцінці в реальних умовах експлуатації та функціональній безпеці також приділили час. Досвід Device Connect на базі Raspberry Pi проілюстрував той самий виклик, пов'язуючи програмне ШІ з фізичним залізом.

На PyTorch Conference демонстрація «Від промпту до фізичної дії» розподілила сприйняття та рассудження між кількома системами. Дія також була частиною цього розподілу. ExecuTorch обробив локальну обробку мови на MacBook, підключеному до Reachy Mini. vLLM подав Llama 3.2 3B для рассудження на NVIDIA DGX Spark. Arm Device Connect з'єднав компоненти через відкриття пристроїв та виклики дій. Зворотний зв'язок подій також працював. Аудіо мови залишилося локальним. Транскрипти та команди рухалися між системами, а також інформація про події. Агент використав відкриті можливості Reachy, щоб запитати дії: говорити та кивати. Рух голови та антен також був доступний. Відкриті, сумісні з Model Context Protocol (MCP) інтерфейси Device Connect розширюють розмову про зв'язок інструментів у фізичні системи. Повторно використовувані драйвери для сумісних пристроїв зменшують потребу в окремих інтеграціях між кожним агентним фреймворком та інтерфейсом пристрою.

AGNTCon + MCPCon розширила цей фокус на відкриття пристроїв та керування залізом. Спільні інтерфейси вирішують відкриття та зв'язок. Вони не усувають необхідність налаштовувати дозволи та перевіряти дії, а також інженерно забезпечувати функціональну безпеку. Розробники на заході досліджували ці прогалини безпосередньо.

Продуктивність, вимірювана виконаними задачами, а не токенами за секунду

Агенти отримують дані та виконують код. Виклик інструментів — третя здібність. Вони підтримують стан та координують сервіси. Виведення моделі — лише частина цього робочого процесу, а не повна міра продуктивності додатку. Агент кодування, що запускає тести та компілює софт, має інші вимоги. Корпоративний агент координує запити до БД або робочі процеси підтримки клієнтів. Презентація Arm «Agentic AI from Cloud to Edge: Building Intelligent Systems on Arm» на AGNTCon + MCPCon розглянула цей ширший шлях виконання. CPU керує більшістю оркестрації та пошуку. Виконання інструментів також лежить на CPU. Безпека та моніторинг навколо моделей також на CPU. Обслуговування моделей може охоплювати CPU та акселератори. Планування та переміщення пам'яті стають важливою частиною рівняння продуктивності. Зв'язок між сервісами теж має значення.

Пов'язана демонстрація служби підтримки робить вимоги конкретними. Побудована на Arm AGI CPU з LangGraph та LangChain, програма використовує малу мовну модель на CPU для класифікації запитів та маршрутизації їх до спеціалізованих агентів. Ці агенти поєднують отримання корпоративних даних та зовнішні API моделей. Виконання інструментів — третя складова. Вони завершують задачі: планування зустрічей чи ініціація повернень. Розробникам потрібно розуміти, де витрачаються час та ресурси — у пошуку та оркестрації. Виконання інструментів та оцінка — окремі статті витрат. І чи повний робочий процес дає бажаний результат.

Інструменти міграції та профілювання, що служать і людям, і агентам

ШІ-підтримувана розробка змінює те, як розробники будують, а не лише те, що вони будують. На AGNTCon + MCPCon напрямок Arm для розробників з'єднав доступ до інструментів на базі MCP з налаштуванням агентів кодування. Робочі процеси міграції x86-на-Arm також були в фокусі. Акцент — дати розробникам практичну точку входу через Arm MCP Server та посібники. Learning Paths доповнюють набір. На GitHub Universe демонстрація провела існуючий веб-додаток на Linux через міграцію з x86/x64 на Arm-розробку та збірку, а також GitHub Actions. Розгортання стало фінальним кроком. GitHub Copilot працював з Arm MCP Server та хмарними VM Microsoft Cobalt 200 для підтримки робочого процесу міграції. Потім робочий процес використав Arm Performix для виявлення ву