Russian
VAST Data расширила партнерство с AMD для развития ИИ-инфраструктуры для облачных и корпоративных платформ, используемых для обучения моделей, инференса, генерации с дополненной выборкой (RAG) и рабочих нагрузок на основе агентного ИИ. Интегрированный стек объединяет операционную систему VAST AI с процессорами AMD EPYC 6-го поколения, графическими процессорами AMD Instinct, сетевым оборудованием AMD и программным обеспечением ROCm.
Это сотрудничество соответствует крупному сдвигу в отрасли: ИИ-инфраструктура развивается за пределы кластеров, предназначенных только для обучения, чтобы поддерживать постоянный контекст, высококонкурентный инференс и многооборотные рабочие процессы агентов. Современные ИИ-развертывания отдают приоритет эффективному перемещению данных, оптимизированному управлению KV-кэшем, более высокой утилизации GPU и низкозадержечному доступу к большим моделям и контекстным наборам данных.
Архитектура VAST Disaggregated Shared Everything (DASE) служит унифицированным общим уровнем данных для этих современных ИИ-сред. Она консолидирует файловое и объектное хранилище, базы данных, потоковую передачу событий и основные службы данных под единым глобальным пространством имен, обеспечивая при этом мультиарендность и изоляцию рабочих нагрузок для ИИ-облаков, выполняющих разнообразные одновременные задачи клиентов и приложений.
Процессоры AMD EPYC 9006 обеспечивают работу нового поколения оборудования VAST
VAST внедряет процессоры AMD EPYC 9006-й серии (Venice) 6-го поколения для своих будущих систем CBox 6-го поколения и EBox 3-го поколения, которые составляют аппаратную основу операционной системы VAST AI. Платформа EPYC 9006 представляет интерфейс PCIe Gen6 в линейке оборудования VAST, удваивая пропускную способность ввода-вывода на поколение.
Обновление повышает пропускную способность файлового и объектного хранилища и снижает задержку для рабочих нагрузок баз данных, хранилищ данных и потоковой передачи событий, поддерживаемых VAST DataBase и DataEngine. Для ИИ-инфраструктуры увеличенная пропускная способность ввода-вывода устраняет узкие места в вычислениях, сетях и хранилищах NVMe, что выгодно для загрузки моделей, конвейеров выборки, доступа к контрольным точкам и внешних рабочих процессов KV-кэша, превышающих пределы собственной памяти GPU.
Трехкомпонентная эталонная архитектура с AMD и DriveNets
VAST, AMD и DriveNets совместно создают унифицированную эталонную архитектуру ИИ-инфраструктуры, объединяющую инфраструктуру AMD Helios для ИИ в масштабе стойки, VAST AI OS и сетевую архитектуру AMD AI Fabric от DriveNets. Эта структура предоставляет стандартизированные рекомендации по развертыванию для рабочих нагрузок обучения ИИ, инференса, обучения с подкреплением и KV-кэша, предлагая лучшие практики по определению размеров и доступности для предприятий, создающих ИИ-фабрики с общей инфраструктурой данных и высокопроизводительными сетями.
VAST также расширила связи с поставщиками решений для инференса TensorMesh и EmbeddedLLM, сосредоточившись на производственных архитектурах инференса для сценариев использования агентного ИИ, при этом конкретные детали интеграции и запуска еще не раскрыты.
Оптимизированный выгрузка KV-кэша для высококонкурентного инференса
Центральным элементом обновленного сотрудничества является улучшенная выгрузка KV-кэша с использованием графических процессоров AMD Instinct, AMD Infinity Context, программного обеспечения ROCm и VAST AI OS. KV-кэш хранит данные состояния внимания, сгенерированные при инференсе, для ускорения многооборотных взаимодействий и ИИ-рабочих нагрузок с большим контекстом, однако большие размеры кэша быстро потребляют ограниченную память GPU.
Выгрузка или тиринг KV-кэша на высокопроизводительное общее хранилище освобождает память GPU для активных задач, сохраняя при этом контекстные данные для последующих запросов на инференс. Раннее тестирование на графических процессорах AMD Instinct MI355X показало 9-кратное ускорение времени до первого токена и 9,7-кратное увеличение пропускной способности токенов для высококонкурентных рабочих нагрузок агентного ИИ через выгрузку KV-кэша на базе VAST, при этом производительность варьируется в зависимости от базовой аппаратной конфигурации, рабочей нагрузки и конфигурации хранилища.
Кроме того, автоматизированные политики жизненного цикла VAST применяются к данным KV-кэша, позволяя запланировать истечение срока действия и удаление кэшированного контента — критически важная функция для обработки конфиденциальных, персональных или регулируемых данных инференса.
Высокоскоростной межсоединение GPU-хранилища через Pensando Pollara 400
Архитектура развертывает ИИ-сетевые карты AMD Pensando Pollara 400 для подключения графических процессоров AMD Instinct к кластерам хранения VAST. Поддерживая NFS через TCP и RDMA, сетевая карта обеспечивает эффективную передачу данных от GPU к хранилищу, предоставляя низкозадержечный доступ к хранилищу VAST на базе NVMe для KV-кэша и общих рабочих нагрузок инференса.
Эта конструкция отделяет масштабирование управления контекстом от физических ограничений памяти GPU. Вместо того чтобы рассматривать хранилище как пассивное хранение, VAST позиционирует свою платформу как унифицированный уровень данных и выполнения для распределенного управления моделями, баз данных, потоковой передачи, файловых активов и контекста ИИ. Для поставщиков ИИ-облаков архитектура повышает утилизацию GPU и операционную эффективность, поддерживая переход отрасли от пакетного обучения и аренды GPU к постоянному инференсу и услугам агентного ИИ.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес-фокус:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес-фокус:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!