Що змінює процесор AGI від Arm для дата-центрів, що запускають агентний AI?

Десятиліття агентного AI починається всередині стійки

Мохмед Авад описав зміну під час своєї промови. Раніше наміри надходили ззовні дата-центру — у людському темпі. Тепер вони народжуються всередині — у машинному.

Ця зміна створює три відмінні ролі процесора. Вузли-керування годують акселератори. Хмарно-орієнтовані CPU запускають сервіси. Агентні CPU підтримують безперервно працюючих віртуальних користувачів. DPU займаються мережею та сховищами. Безпека та ізоляція виділені окремо.

Компанія не виробляє кожен елемент сама. Вона надає IP процесорів та обчислювальні підсистеми. CPU AGI — це варіант готової кремнієвої реалізації. Партнери обирають необхідне.

Конструкції стійок, що масштабуються інакше

Supermicro продемонструвала дві рідинно-охолоджувані конфігурації на стенді. Одна поміщає 128 CPU AGI у раму Open Rack v3 шириною 21 дюйм. Розширений варіант Open Rack Wide масштабується до 336 процесорів.

Meta внесла референс стійки Yosemite YV5. Це не жорсткі рецепти. Платформа Open Agentic Infrastructure дозволяє провайдерам комбінувати обчислення, прискорення, пам'ять, мережу та управління в модульних блоках. Густину та живлення оптимізують разом. Охолодження та сервісування йдуть тим самим інтегрованим шляхом. Документ не каже, скільки таких стійок вже розгорнуто.

Гетерогенні системи вимагають системного мислення

FuriosaAI поєднує CPU AGI з акселераторами RNGD. Процесор оркеструє агентів і запускає інструменти. Він також хостить сервіси. Акселератори обробляють префіл та декодування моделей. Пам'ять хоста додає обсяг для контексту.

Rebellions йде схожим шляхом з акселераторами Rebel100 у RebelServer. Обидва приклади показують: продуктивність залежить від того, як CPU, акселератори, пам'ять та інтерконекти працюють як єдине ціле. Відео на стенді демонструвало агента підтримки клієнтів, що виконує багатокрокові завдання. Демонстрація підкреслила ефективність оркестрації у всьому ланцюжку.

Вимірювання того, що важливо для агентних навантажень

Традиційні бенчмарки оцінюють швидкість окремої операції. Агентні навантаження поводяться інакше. Агенти розробки ПЗ потребують сильного продуктивності на ядро для компіляції. Підприємна автоматизація генерує багато коротких викликів інструментів. Паралельність і пропускна здатність на рівні стійки стають вирішальними.

Нова методологія з'явилася за підтримки Fujitsu та Meta. Участь взяв також OpenAI. Вона використовує репрезентативні агентні навантаження та відтворює послідовності виконання. Мета — стабільна корисна робота у масштабі.

Signal65 опублікувала незалежний аналіз. CPU AGI від Arm показав у середньому 1,99-кратну моделовану продуктивність на стійку порівняно з AMD EPYC 9755 за сімома репрезентативними агентними AI-навантаженнями. Результати на рівні стійки отримано з незалежно перевірених вимірювань на рівні сервера.

Програмні фундаменти, що переносяться на будь-яке залізо

SystemReady, SBSA, SBMR та Arm Architecture Compliance Suite створюють спільну базу. Виробники кремнію, OEM, постачальники ОС та хмарні оператори будують на спільних архітектурних фундаментах. Це скорочує витрати на кваліфікацію кожної платформи.

Робота з безпекою розширюється на стандарти аттестації IETF, зокрема CoSERV. До того ж йде співпраця з Project Veraison. Мета — взаємозамінне довіряння у різноманітних конфіденційних AI-середовищах. Документ не вказує, які хмарні оператори впровадили повний стек.

Де закінчується пояснення

Слідна платформна історія йде від кремнію до стійки і до софту. Незалежні бенчмарки існують для одного покоління процесора проти одного конкурента. Даних про довгострокову надійність і загальну вартість володіння у анонсі немає. Звітів про міжвендорну сумісність теж немає. Екосистема росте. Чи стане вона дефолтом для агентної інфраструктури — залежить від темпу розгортання на найближчі два роки.