Як європейські хмарні провайдери AI будують суверенну інфраструктуру для безпечних агентів?

Хмарні партнери NVIDIA розширюють обчислювальну інфраструктуру по всій Європі, Північній Європі, Африці та Центральній Азії. Розширення зосереджене на суверенних AI-фабриках, відкритих моделях та контролі безпеки для AI-агентів.

Суверенні обчислення зростають у п'яти регіонах

Nscale використовує платформу NVIDIA DSX для координації виділення енергії з вимогами робочих навантажень. У тестах на системах NVIDIA GB300 NVL72 компанія продемонструвала: NVIDIA DSX MaxLPS дозволив залучити на 37 % більше GPU та досягти майже на 50 % вищого сукупного пропускної здатності для інференсу в межах того ж енергетичного бюджету. Nscale також планує розгорнути інфраструктуру NVIDIA Vera Rubin для тренування передовних моделей та виробничих навантажень. Компанія підтримує провідних розробників моделей та додатків своєю повноцінною вертикально інтегрованою платформою, розширюючи присутність на п'ять європейських ринків.

Crusoe розробляє Spark — свої модульні AI-фабрики з рідинним охолодженням, створені для платформи NVIDIA Vera Rubin. Мета — наблизити потужності Crusoe Cloud до користувачів для інференсу AI з низькою затримкою. Crusoe Cloud обслуговує лідерів розробки моделей та додатків у регіоні EMEA, серед яких Base44, Gradium, LTX та Wonderful.

Aleria, Cassava Technologies, Firebird, G42, Radiant, SWI Compute та Vultr також розробляють та розширюють інфраструктуру AI на базі NVIDIA. Будівництво охоплює Європу та Північну Європу. Окремо йде про Африку та Центральну Азію.

Регіональна потужність від хмарних провайдерів AI поєднує повноцінну платформу NVIDIA DSX AI Factory. До неї входять NVIDIA Vera Rubin та NVIDIA BlueField, а також мережеві технології NVIDIA Spectrum-X Ethernet. Таке поєднання дає клієнтам більший вибір і контроль над тим, де розташовані робочі навантаження та дані, одночасно розвиваючи суверенні обчислювальні сервіси та економічне зростання.

Відкриті моделі переходять від тренування до продакшн-інференсу

Nebius впровадила NVIDIA Groq 3 LPX, використовуючи мережу Spectrum-X Ethernet для інтеграції з Vera Rubin NVL72 на Nebius Token Factory. Ця комбінація забезпечить швидшу генерацію токенів для чутливих до затримки додатків та агентних систем через керовані серверлесс- та виділені ендпоінти платформи та знайомі API.

Для робототехніки та фізичного AI Nebius пропонує спеціалізоване хмарне рішення, яке включає повноцінний Physical AI Workbench. На платформі будують робототехнічні компанії, серед яких Rhoda AI та RoboForce. Sereact також розробляє там свої рішення.

Компанія також запустила три черговери NVIDIA для ритейл-агентів — вони охоплюють інвентаризацію та операції магазину. Третя черговера присвячена донавчанню. Усі три доступні у ранньому доступі на інфраструктурі Nebius. Nebius широко розширює свої хмарні сервіси по всьому континенту зі своїм Physical AI Living Lab, а в Німеччині виступає постачальником обчислювальних потужностей для виклику Next Frontier Challenge від SPRIND — Федерального агентства з пррирвних інновацій.

Baseten розробила спеціалізовану модель для маршрутизації код-рев'ю з використанням Nemotron 3.5 Lightning, яку застосовує CodeRabbit. За допомогою керованого донавчання та підсилення навчання CodeRabbit покращила згоду маршрутизації з 75,8 % до 80,7 %. Оцінені витрати на інференс зменшилися на 50 % для перевіреного навантаження. Результати демонструють, як розробники AI можуть адаптувати відкриті моделі NVIDIA для спеціалізованих задач. Це підвищує точність та ефективність інференсу.

Fireworks та Era4 об'єднуються, щоб принести відкриті моделі підприємствам у Великій Британії та Європі. Співпраця поєднує платформу Fireworks для тренування та інференсу моделей з потужностями прямим рідинним охолодженням на GPU NVIDIA Blackwell Ultra у центрі Era4 у Честерфілді. Об'єкт підтримує плани щодо корпоративних AI-рішень у фінансових послугах та страхуванні. Також на меті — лайфсайенс.

Mistral розширює свою прискорену обчислювальну інфраструктуру NVIDIA для підтримки тренування моделей, їх налаштування та інференсу. Розширення включає інфраструктуру NVIDIA Vera Rubin, поставку якої планується на 2027 рік. Навчена на 3800 GPU NVIDIA Grace Blackwell у європейських дата-центрах Mistral, Mistral Large 4 — це найновіша передова мультимодальна модель компанії. Вона посилює можливості у кодуванні та агентних робочих процесах. Покращується й мультимодальне розуміння.

Verda планує розгорнути NVIDIA Vera Rubin, продовжуючи просувати моделі з відкритими вагами з NVIDIA Nemotron та NVIDIA Cosmos, які вже в продакшні. Компанія використовує відкритий фреймворк NVIDIA Dynamo для оптимізації інференсу.

Архітектура безпеки встановлює межі для AI-агентів

Оголошено на GTC Berlin: референс-архітектура NVIDIA OpenShell з'явилася з підтримкою партнерів екосистеми хмарних AI. Побудована на базі програмного забезпечення безпечного середовища виконання NVIDIA OpenShell, архітектура призначена надати організаціям повноцінний контроль для розгортання AI-агентів з чіткими межами щодо того, до чого агенти мають доступ і що можуть робити.

Три апаратні шари виконують різні ролі. NVIDIA Vera Rubin NVL72 забезпечує інференс моделей. Процесори NVIDIA Vera з OpenShell керують харесами агентів та використанням інструментів. NVIDIA BlueField-4 DPU з NVIDIA Sentry забезпечують апаратне примусове виконання правил. Шари працюють разом, щоб агенти могли досягати своїх цілей, не виходячи за межі, встановлені людьми.

Партнери, серед яких Aleria, Baseten, Cassava, CoreWeave, Crusoe, DigitalOcean, Firebird, Fireworks, Firmus, G42, GMI Cloud, IREN, Lambda, Lightning AI, Nebius, Nscale, Radiant, Verda та Vultr, підтримують референс-архітектуру OpenShell. Це дозволяє їхнім клієнтам безпечно розгортати агентні системи.

Що зміна розширення для розробників

Розширена потужність дає розробникам більше місць для запуску навантажень. Сервіси моделей та інференсу допомагають використовувати цю потужність. Контроль агентів вирішує питання того, чому дозволено додатки, коли вони переходять у продакшн. Документ не повідомляє, скільки з оголошених систем вже працює, а скільки лише планується. Також не розкривається ціна на нові сервіси чи рівні інфраструктури. Контроль має значення.

Джерела, за якими написано статтю

  • "NVIDIA Blog
    https://blogs.nvidia.com/blog/cloud-partners-europe-sovereign-safety-open-agents/"

Читайте також