Як OpenAI створила свій перший чіп менше ніж за два роки?
OpenAI побудувала свій перший AI-акселератор. Чіп отримав назву Jalapeño і увійшов у виробництво за терміни, які ветерани галузі називають безпрецедентними.
OpenAI презентувала Jalapeño 25 серпня. Компанія заявляє до 13,4 петафлопс 4-бітових обчислень, 232 гігабайти пам'яті HBM4 та 15,4 терабайти на секунду пропускної здатності. Наведені OpenAI бенчмарки показують до 3,6 рази меншу end-to-end латентність, ніж у Nvidia GB300, при нижчому споживанні енергії. Чи збережуться ці показники у масштабному інференсі — час покаже. Друга половина історії — як саме проектували чіп.
Терміни, що шокують ветеранів
Jalapeño пройшла від першої архітектурної ідеї до першого кремнію менше ніж за 20 місяців. Лише дев'ять місяців розділяли перший RTL-код і tape-out.
Ендрю Канг, професор Університету Каліфорнії в Сан-Дієго, назвав таку швидкість «ймовірно, найкращою в класі сьогодні». Він організував спільно робочу групу IEEE Design Automation Futures 2016 року, де Річард Хо, тоді ще з Google, розглядав час проектування як функцію кількості ітерацій, здатних команда виконати за день. Зараз Хо очолює апаратне забезпечення в OpenAI.
Команда проектування в середньому не перевищувала 100 осіб усього проекту. У цю цифру входять системний дизайн та софт; ланцюг постачання також охоплений. Broadcom взяв на себе фізичний дизайн від гейтів і вище. OpenAI володіла end-to-end системним дизайном: інференс-акселератором та ієрархією пам'яті. Мережу теж проектувала сама команда.
Девід Чін з Verkor.io назвав допомогу Broadcom необхідною. Раві Крішна, також з Verkor, характеризував швидкість як «досить вражаючий результат», але очікує ще коротших термінів, якщо б проект стартував сьогодні.
Фронтенд-робочий процес, який LLM дійсно прискорюють
Автоматизація в проектуванні чіпів існує десятиліттями. Анкур Шрівастава з Університету Мериленду каже: LLM відрізняються тим, що розуміють мову і код. Це робить їх придатними для задач, що все ще знаходяться в лінгвістичній області.
Фронтенд-робочий процес побудований навколо Accelerated Hardware Synthesis (XLS) — відкритого ланцюга високорівневого синтезу, створеного спочатку в Google. XLS дозволяє інженерам писати на DSLX — спеціалізованій мові, натхненній Rust — і C++. XLS потім перетворює це на Verilog.
Кріс Лері, член технічного штату OpenAI, розповів: команда думала, як використати AI для прискорення. AI набагато краще справлялася з речами, схожими на софт. XLS у деяких аспектах виглядає як софт, тому отримав цю перевагу. Лері починав XLS під час роботи в Google. Канг погодився: використання AI для прискорення високорівневого синтезу має сенс, бо це природніше для LLM і дає швидку ітерацію.
Та сама логіка підштовхнула команду до оптимізації софту. Коли перший кремній повернувся з фабрики в травні, внутрішні AI-моделі спрямували на написання ядер для бенчмарків на кшталт InferenceX від SemiAnalysis. На ядрі multi-head latent attention від DeepSeek утилізація зросла від 0,31 відсотка теоретичного максимуму до 88,94 відсотка за приблизно 40 годин. Хо стверджує: результат повторюється. Проміжок між постачанням кремнію і розгоном виробництва зменшиться. Усі розкладні припущення тепер враховують цю здатність.
Моделі еволюціонували під час проекту
Проект стартував з допомоги моделей на кшталт o3, публічно випущених у квітні 2025 року, але доступних команді Jalapeño раніше. К моменту tape-out команда мала доступ до прекурсорів GPT-6 Astra, яка не вийшла публічно до 3 вересня 2026 року. Новіша модель вміє працювати безпосередньо з Verilog без перекладу через XLS. Вона наблизилася до автономної роботи з пропрієтарними інструментами дизайну. Хо підтвердив: команда також використовувала внутрішні LLM, донавчені під проектування чіпів, недоступні публічно. Деталі він не розкривав. Мета — закласти уроки Jalapeño в комерційні моделі. Хо каже: можна бути впевненим, що Astra і наступні моделі будуть дуже сильними в чип-дизайні.
Бекенд-оптимізація поки залишилася за людьми
Основна робота OpenAI зосередилася на фронтенді: від концепції через RTL до верифікації. Бекенд-завдання — маршрутизація з'єднань, тактове та енергетичне підписання, підготовка даних для фабрики — пішли до Broadcom. Інженери фізичного дизайну OpenAI все ще співпрацювали над плануванням розміщення та рекомендаціями по маршрутизації. На Hot Chips 2026 Хо і Лері озвучили цифри AI-керованої оптимізації фізичного дизайну: скорочення площі на 10 відсотків для блоків матричного множення порівняно з оптимізованою людською базовою лінією. Broadcom використовував свій робочий процес. Його команда не мала внутрішніх моделей OpenAI, але мала доступ до публічних комерційних.
Раві Крішна з Verkor сказав: підхід OpenAI до бекенду вже виглядає консервативно. Він прив'язав це до старту проекту — жовтень 2024 року. Моделі останніх чотирьох-п'яти місяців покращилися. З квітня 2026 року вони дійсно почали краще справлятися з такими задачами. Суріш Крішна, також з Verkor, додав: немає причин, чому агентний цикл не міг б значно прискорити бекенд теж.
Наступне покоління перезапускає робочий процес
Лері сказав: Jalapeño змусила вибирати — інновати в робочому процесі або використовувати перевірене історично. Друге покоління отримує скидання. Хо заявив: новий робочий процес має «багато місць, де ми впроваджуємо AI». Він згадав верифікацію і фізичний дизайн. Лері додав: команда тепер має інструменти для автоматичної маніпуляції та перегляду форм хвиль. Це автоматизує аналіз для ідентифікації тактових сигналів, пов'язаних з відмовами, і покращить налагодження, поки чіп ще проектується.
Хо і Лері були чіткими: повністю автоматизувати чип-дизайн неможливо. Хо сказав: вони не кажуть, що будь-хто може побудувати флагманські AI-акселератори, використовуючи лише Codex. Вони кажуть конкретні речі про те, як бути кращими у Codex і як невелика команда на стислому терміні може досягти якісного результату. Межа того, що LLM можуть замінити в бекенді, залишається відкритою. Документ не каже, коли чи чи зникне ця межа.
Джерела, за якими написано статтю
- "Matthew S. Smith
https://spectrum.ieee.org/llms-for-chip-design"