Russian
Событие AMD's 2026 Advancing AI уделяло первостепенное внимание масштабированию и открытости, дебютировав на базе CDNA 5 MI455X GPU, 72-GPU Helios rack system и 6-го поколения EPYC Venice CPU.Этот анализ охватывает платформу MI455X и Helios., с деталями о Венецианском ЦП в специальной статье.
MI455X оснащен 432 ГБ памяти HBM4 на 50% больше, чем NVIDIA's Rubin/B300 288 ГБ пропускная способность памяти 23,3 ТБ/с и 40,26 PFLOPS пик MXFP4 вычисления.Пропускная способность 9 exaFLOPS FP4, 31 ТБ общей пропускной способности HBM4, 1,7 ПБ/с пропускной способности памяти, 260 ТБ/с масштабируемой пропускной способности и 43 ТБ/с масштабируемой пропускной способности, обеспечивающей высокую производительность AI-раков.
Открытые стандарты определяют Helios от конца к концу, включая UALoE внутрихранилищную ткань, масштабирование Ultra Ethernet, низкоточность форматов OCP и Open Rack Wide шасси, а также полностью открытое программное обеспечение ROCm.В качестве открытого справочного дизайнаОсновные пользователи включают OpenAI, Meta, Anthropic, Microsoft и Oracle.
AMD Instinct MI455X: CDNA 5 Флагманский графический процессор
Загруженный через TSMC CoWoS-L, 320-миллиардный транзистор MI455X интегрирует восемь N2 XCD, два N3 I / O, два N3 Fabric & Cache Dies (FCD) и двенадцать стеков HBM4.Его 2048-битный интерфейс HBM4 обеспечивает 23Пропускная способность.3 ТБ/с, в паре с двойными 96 МБ FCD L2 кэшами с пропускной способностью 54 ТБ/с.
Возможности ввода/вывода включают двунаправленную масштабируемую полосу пропускания UALoE 3,6 ТБ/с, 256 ГБ/с бесконечной ткани CPU-GPU связь и гибкое масштабирование через двойные порты PCIe Gen6 x16 или три AI-NIC.Он превосходит предыдущие поколения GPU AMD и NVIDIA® Rubin/B300 по большинству ключевых показателей.
Сравнение ключевых характеристик
|
Спецификация
|
AMD MI455X
|
NVIDIA Rubin
|
AMD MI355X
|
NVIDIA B300
|
|
Архитектура
|
CDNA 5
|
Рубин
|
CDNA 4
|
Блэквелл Ультра
|
|
Транзисторы
|
320B
|
336B
|
185B
|
208B
|
|
Производительность HBM
|
432 ГБ HBM4
|
288 ГБ HBM4
|
288 ГБ HBM3E
|
288 ГБ HBM3E
|
|
Пропускная способность HBM
|
23.3 ТБ/с
|
22 ТБ/с
|
8 ТБ/с
|
8 ТБ/с
|
|
Расширение масштаба на графический процессор
|
30,6 ТБ/с
|
30,6 ТБ/с
|
10,08 ТБ/с
|
10,8 ТБ/с
|
|
Расширение масштаба на графический процессор
|
2400 Гбит/с
|
1600 Гбит/с
|
400 Гбит/с
|
800 Гбит/с
|
|
Ссылка CPU-GPU
|
256 ГБ/с Infinity Fabric
|
1.8 ТБ/с C2C
|
PCIe 5
|
900 ГБ/с C2C
|
MI455X возглавляет конкурентов по емкости HBM, пропускной способности памяти и масштабируемой пропускной способности, соответствуя масштабируемой производительности Rubin через UALoE, чтобы закрыть давний разрыв NVLink NVIDIA.Более сильное соединение NVIDIA C2C CPU-GPU остается его основным аппаратным преимуществом, приводящие к основным различиям платформы.
Сравнение вычислительной пропускной способности
|
Формат точности
|
AMD MI455X
|
NVIDIA Rubin
|
AMD MI355X
|
NVIDIA B300
|
|
MXFP4 / NVFP4
|
40.26 PF
|
35 PF
|
10.1 PF
|
15 PF
|
|
MXFP6 / FP6
|
20.13 PF
|
17.5 PF
|
10.1 PF
|
5 PF
|
|
MXFP8 / FP8
|
20.13 PF
|
17.5 PF
|
5 PF
|
5 PF
|
|
FP16 / BF16
|
5.03 PF
|
4 PF
|
2.5 PF
|
2.5 PF
|
|
FP32
|
315 TF
|
130 TF
|
157.3 TF
|
75 TF
|
В отличие от MI355X, MI455X удвоит производительность и удвоит стандартную точность.Рубин на 15% в низкой точности и 26% в FP16/BF16, и обеспечивает преимущество FP32 в 2,4 раза, критически важное для высокоточных весов ИИ и рабочей нагрузки HPC.
CDNA 5 Архитектурные обновления
Сохраняя 8 XCD и 256 единиц исполнения CDNA 4, CDNA 5 пересмотрел внутренние вычислительные структуры.Нативный исполнение Wave32 заменяет Wave64, сокращение штрафов дивергенции, снижение давления регистра и удвоение одновременных волн на WGP до 64 для лучшего маскирования задержки памяти.
Переработанные SIMD-устройства позволяют выполнять параллельные операции, ускорение BF16 и новые инструкции по преобразованию тензоров.с удвоенной трансцендентальной пропускной способностью и поддержкой собственного танха для повышения производительности трансформатора. Новый 5D тензорный первичный WGP Data Mover поддерживает асинхронную тензорную передачу, соответствующую возможностям специального тензорного ускорителя NVIDIA.
Оптимизированная иерархия памяти
CDNA 5 удалил дискретный XCD L2 и глобальный Infinity Cache, приняв двойной 96MB L2 кэш на основе FCD с 3x большей общей пропускной способностью, чем CDNA 4.Объединенный когерентный кэш ускоряет атомику устройства и обеспечивает 4x эффективную пропускную способность с помощью тензорного мультикастинга.
Увеличение емкости хранилища на WGP-чипе до 384 KB, что позволяет использовать FlashAttention и MoE-кернель.формирование основы производительности GPU AI.
Разделение и виртуализация графического процессора
Дизайн Dual-FCD поддерживает гибкие режимы NPS NUMA: унифицированная память полного GPU через NPS1 или два изолированных домена с низкой задержкой с частным L2 кэшем через NPS2.Конфигурируемая пространственная сегментация 1/2/4/8 направлений и виртуализация SR-IOV позволяют получать тонкозернистые, аппаратно-изолированный многопользовательский развертывание GPU.
AMD Helios Rack-Scale Платформа
Helios использует совместно с AMD разработанное OCP Open Rack Wide шасси, содержащее 72 GPU MI455X на 18 вычислительных и 6 переключателях.с задней слепой проводкой для безинструментального обслуживания горячей замены.
Проектирование вычислительного трея
Каждый трей соединяет 4 графических процессора MI455X с 96-ядерным процессором Venice SP7 с частотой 5 ГГц для когерентного соединения CPU-GPU 1:4 через Infinity Fabric.Встроенное аппаратное обеспечение SP7 поддерживает обновления к стандартным 256-ядерным или кэш-оптимизированным процессорам Venice-X, с до 4 ТБ DRAM и 1,6 ТБ/с пропускной способностью памяти на лоток.
Три независимых сети обслуживают каждый лоток: 400G Salina DPU для доступа к переднему центру обработки данных; 3 Vulcano 800G NIC на GPU для 2400Gb / s скалированной пропускной способности, обходящей процессор;и 36 UALoE-ссылок на GPU для 3.6 ТБ/с расширенная пропускная способность общей памяти по всей стойке.
Изменить ткань и надежность
Helios использует 12 коммутаторов Broadcom Tomahawk 6 - треть от NVSwitch NVIDIA - обеспечивающих полную пропускную способность на GPU 3,6 ТБ/с через стандартный L2 Ethernet.Его одноуровневая топология "все для всех" гарантирует единообразную низкую задержку на всех графических процессорах.
Ткань из 12 планов поддерживает грациозное снижение производительности и автоматическое перенаправление трафика при сбоях оборудования.Зашифрованные AES-256 Virtual Pods (vPods) позволяют гибкое разделение на нескольких пользователей, ограничивая сбои в отдельных капсулах и поддерживая режимы развертывания от обучения полного рака до мелкозернистого нарезания графического процессора.
Управляющая группа
AMD Fabric Manager (AFM) обеспечивает обеспечение стойки с нулевым доступом, оркестрацию vPod и восстановление неисправностей с помощью избыточных распределенных контроллеров.Построен на архитектуре Kubernetes и открытой ОС SONiC с поддержкой UALoE, обеспечивает полную наблюдаемость и стандартную интеграцию API с плановиками кластеров.
Гелиос против NVIDIA Вера Рубин NVL72
Helios превосходит NVL72 с 50% более высокой общей HBM (31 ТБ против 20,7 ТБ), 50% быстрейшей масштабируемой пропускной способностью на GPU и эквивалентной масштабируемой пропускной способностью с меньшим количеством компонентов коммутатора.Тестирование AMD зафиксировало на 10-15% более высокую пропускную способность токенов на GPU и до 30% лучшую эффективность токенов на доллар на рабочих нагрузках Kimi K2.
Архитектурные компромиссы определяют две платформы: NIC Helios-GPU исключают задержку передачи процессора, в то время как NVIDIA-NIC полагаются на ссылки Vera CPU C2C, что вызывает споры о пропускной способности.NVIDIA лидирует в нативном GPUDirect Storage и удобном для пользователя программном обеспечении DOCA, в то время как программируемый DPU AMD P4 предпочитает гипермасштабное разработку пользовательских сетей.
Самое большое преимущество Helios - полная настраиваемость для клиентов в процессорах, памяти, сети и энергобюджетах по сравнению с фиксированной конфигурацией суперчипов NVIDIA.
Экосистема программного обеспечения DPU & ROCm.AI
400G Salina DPU обеспечивает программируемую SDN, разгрузку безопасности и виртуализацию NVMe-over-Fabrics.Его уникальная загрузка кэша KV компенсирует отсутствие родного GPUDirect Storage, проливая избыточный кэш AI на внешнее хранилище со скоростью линии.
Запущенный в августе, ROCm.AI обеспечивает 3,3-кратный вывод и 2,4-кратные успехи в обучении по сравнению с ROCm 7 с помощью инструментов разработчиков ИИ, автономной оптимизации Hyperloom и управления низкого уровня FlyDSL.Опубликованные в реальном мире показатели AMD достигли 50% от пиковой пропускной способности FP4 MI455X..
MXFP4 и NVFP4 используют различные механизмы масштабирования, что делает сравнения FLOPS производителей менее надежными, чем пропускная способность токенов на уровне приложений.с большим пространством для дальнейшей оптимизации ROCm в производстве.
Заключение
Helios устанавливает AMD в качестве прямого конкурента флагманских систем AI-раков NVIDIA, предлагая лидирующие в отрасли возможности HBM, превосходную масштабируемую сеть,экономически эффективное открытое оборудование и полная настраиваемость клиентовПоддержанный крупным применением гиперскалеров, четкой дорожной картой GPU 2027-2028 и созревающим программным обеспечением ROCm,AMD построила конкурентоспособную инфраструктуру ИИ с конца на конец, чтобы бросить вызов давнему доминированию NVIDIA.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!