Як Arm і NVIDIA захищають AI-агентів, що діють самостійно?

Arm і NVIDIA створили архітектуру безпеки для AI-агентів, здатних діяти самостійно. Система розділяє обчислення між процесорами, що запускають агентів, та окремими процесорами, що їх контролюють.

Границя довіри пролягає через кремній

AI-агенти не просто відповідають на запити. Вони працюють безперервно. Викликають інструменти. Читають дані. Вчиняють дії для виконання завдань. Така стійкість створює два різних вимоги до обчислень: одні — для запуску агента, інші — для його контролю. Arm забезпечує обидві сторони. Високопродуктивні процесори приймають навантаження агентів. Інфраструктурні процесори, такі як DPU, знаходяться поза хостом. Вони примушують до дотримання політики. Ізолюють трафік. Спостерігають за поведінкою, не покладаючись на середовище самого агента.

Arm-сервери масштабу стіла перевищили x86 як домінантну платформу для прискореного обчислення, за даними IDC. Кожен великий гіперскейлер тепер розгортає технології Arm.

Екосистема процесорів

До екосистеми CPU належать Arm AGI CPU та AWS Graviton. Також Google Axion і Microsoft Cobalt. NVIDIA Vera CPU доповнює список. Кожен архітектурно унікальний, але сумісний з тим самим програмним стеком Arm.

OpenShell: безпечна межа виконання

NVIDIA OpenShell створює безпечну межу навколо агента. Вона визначає, до чого агент має доступ і які дії може вчиняти. Оскільки OpenShell працює на широкій екосистемі CPU Arm, однаковий фундаментальний підхід до безпечного запуску агентів поширюється на різноманітну хмарну та AI-інфраструктуру. Середовище виконання агента залежить від CPU. Шар оркестрації залежить від CPU. Виконання інструментів і додатків залежить від CPU. Ці потреби зростають, коли агенти стають здатнішими і стійкішими. Вони також працюють одночасно на великому масштабі.

BlueField дає незалежного сторожа

Запуск агента — лише половина рівняння. Агентна інфраструктура також потребує незалежних обчислень для спостереження та ізоляції. Вона повинна керувати політиками поза середовищем агента. Arm-базові DPU виносять мережу та моніторинг з хост-процесора. Вони також виносять ізоляцію та безпеку. Створюють окрему точку керування, що залишається незалежною від агентів і додатків, яких захищають.

BlueField-4 демонструє цю модель всередині Open Agent Safety Platform. Чіп працює на NVIDIA Grace з 64 ядрами Arm Neoverse V2. Він надає незалежне інфраструктурне середовище поза хостом. OpenShell інтегрується з NVIDIA Sentry на BlueField, поширюючи примушування політики від середовища виконання агента в окрему домену довіри. Sentry діє як сторож у реальному часі. Моніторить поведінку агента і може ізолювати агента, що проявляє небезпечну поведінку.

Безпека повинна слідувати за агентом

Агентний AI вимагатиме більше обчислень, коли агенти стануть здатнішими і стійкішими, з ростаючою автономією. Безпека має масштабуватися поруч з цими обчисленнями, не змушуючи вибирати між ними. Open Agent Safety Platform показує один шлях: Arm-сумісні обчислення запускають навантаження, тоді як незалежні Arm-базові DPU спостерігають і ізолюють їх, захищаючи. Коли агенти розширюються від хмарної інфраструктури до периферійних пристроїв і фізичних систем, ці межі безпеки будуть слідувати куди б агенти не працювали і не діяли. Документ не каже, скільки агентів вже розгорнуто чи які показники відмов у виробництві.