новости компании о Majestic Labs хочет решить проблему узкого места GPU, связанного с памятью

Все продукты

Сервер хранения шкафа
(179)

Сервер сплавливания Huawei
(31)

Сервер Dell Poweredge
(59)

Сервер H3C
(31)

Переключатели Datacom
(96)

Прибор WLAN
(21)

Умный беспроводной маршрутизатор
(17)

Жесткий диск HDD
(78)

Внутренний SSD жесткого диска
(16)

Карта Geforce графическая
(27)

Процессор C.P.U. INTEL
(20)

RAM памяти сервера
(6)

Приведенный сервер хранения
(6)

Модуль приемопередатчика SFP
(4)

Переключение каналов волокна
(125)

Сертификация

Китай Beijing Qianxing Jietong Technology Co., Ltd. Сертификаты

Просмотрения клиента

Торговый персонал CO. технологии Пекин Qianxing Jietong, Ltd очень профессионален и терпелив. Они могут обеспечить цитаты быстро. Качество и упаковка продуктов также очень хороши. Наше сотрудничество очень ровно.

—— LLC》 Festfing DV 《

Когда я искал C.P.U. intel и SSD Тошиба срочно, Sandy от CO. технологии Пекин Qianxing Jietong, Ltd дала мне много помощь и получила мне продукты мне быстро. Я действительно оцениваю ее.

—— Иены киски

Sandy CO. технологии Пекин Qianxing Jietong, Ltd очень осторожный продавец, который может напомнить меня об ошибок конфигурации во времени когда я покупаю сервер. Инженеры также очень профессиональны и могут быстро выполнить испытывая процесс.

—— Strelkin Mikhail Vladimirovich

Мы очень довольны нашим опытом работы с Beijing Qianxing Jietong. Качество продукции отличное, и доставка всегда вовремя. Их отдел продаж профессионален, терпелив и очень полезен во всех наших вопросах. Мы искренне ценим их поддержку и надеемся на долгосрочное партнерство. Настоятельно рекомендуется!

—— Ахмад Навид

Качество: Очень хороший опыт работы с моим поставщиком. МикроТик RB3011 уже использовался, но он был в очень хорошем состоянии и все работало идеально.и все мои проблемы были решены быстро- Очень надежный поставщик. - Очень рекомендую.

—— Джеран Колесио

Оставьте нам сообщение

компания Новости

Majestic Labs хочет решить проблему узкого места GPU, связанного с памятью

Стартап Majestic Labs стремится устранить узкие места, связанные с кэшированием KV в LLM, устраняя зависимость ИИ-инференса от высокопроизводительной памяти.

Его серверная архитектура Prometheus заменяет дорогостоящие GPU проприетарными блоками обработки ИИ Ignite AI Processing Units (AIU): монолитными гибридными кристаллами, интегрирующими ARM-ядра датацентрового класса плюс векторные и тензорные движки RISC-V, оптимизированные для LLM. Все AIU работают в едином общем пуле памяти, построенном на LPDDR6 DRAM. Один сервер вмещает от 1 до 12 AIU, имеющих доступ к 8–128 ТБ дезагрегированной унифицированной памяти с общим пределом пропускной способности 25,6 ТБ/с.

В отличие от этого, ИИ-сервер NVIDIA DGX B300 с 8 GPU Blackwell обеспечивает только 2,3 ТБ памяти HBM3e GPU плюс до 4 ТБ системной памяти DDR5, наряду с пиковой пропускной способностью интерконнекта 14,4 ТБ/с с низкой задержкой. Платформа Prometheus обеспечивает более чем в 50 раз большую емкость памяти GPU по сравнению с установкой NVIDIA и в 1,7 раза большую пропускную способность.

Соучредители Majestic утверждают, что связка GPU-HBM объединяет премиальные, дорогостоящие вычислительные мощности с крайне ограниченной емкостью памяти. Ограничения возникают из-за ограниченной периферийной связи кристалла GPU, короткой длины кабелей интерпозера и практических барьеров для масштабирования HBM за пределы 12 слоев.

Они называют архитектуру GPU-HBM тупиком, ограниченным памятью. Вместо этого фирма предлагает экономичные процессоры, связанные с значительно расширенными пулами памяти через масштабируемые пользовательские чиплеты агрегации памяти (MAC), соединенные миниатюрными медными кабелями длиной до одного метра. MAC расположены рядом с бортовыми чипами памяти, причем каждый чиплет обслуживает множество диов DRAM.

Единое адресное пространство памяти сервера остается полностью непрерывным и когерентным. AIU взаимодействуют через общую память в топологии сетки, привязанной к MAC, общее количество которых не раскрывается.

Простая арифметика иллюстрирует масштаб памяти: стандартные диоды LPDDR6 объемом 2 ГБ означают, что сервер Prometheus объемом 128 ТБ требует до 64 000 отдельных диодов LPDDR6, что требует десятков, вероятно, сотен чиплетов MAC на единицу.

Стандартная стойка 40U может вмещать до четырех серверов Prometheus, каждый из которых оснащен 12 AIU. Полная стойка потребляет 120 кВт и использует жидкостное охлаждение с холодной пластиной. Majestic утверждает, что одна такая стойка обеспечивает такую же высокоскоростную память, как 25 стоек NVIDIA NVL72 Vera Rubin, при меньшем энергопотреблении, открывая крупномасштабные рабочие нагрузки ИИ для компаний, которые не могут позволить себе инфраструктуру уровня гиперскейлеров. Ее архитектура обеспечивает до 1000 раз больше памяти на процессор.

Устранение узких мест в памяти позволяет эффективно размещать передовые гигантские модели с ультрадлинными контекстными окнами. Это оптимизирует агентивный ИИ, рассуждения, графовые нейронные сети, табличные модели, генерацию видео и новые архитектуры ИИ, поддерживая в 100 раз больше пользователей на стойку при одновременном снижении энергопотребления. Клиенты могут запускать модели с триллионами параметров, огромные контекстные окна, агентные системы и фреймворки MoE на одном сервере при значительно более низких затратах на энергию и капитал.

Majestic прогнозирует, что ее оборудование будет стоить в 10-50 раз дешевле, чем серверы с GPU эквивалентной производительности на момент запуска в следующем году, наряду с превосходной энергоэффективностью. Сервер Prometheus соответствует стандартам OCP и нативно поддерживает фреймворки инференса PyTorch, vLLM и Triton от OpenAI для бесшовной миграции существующих ИИ-моделей.

Сноска

Majestic Labs была основана в Тель-Авиве в 2023 году тремя ветеранами разработки, производства и поставок чипов из Google и Meta: генеральным директором Офером Шахамом, президентом Ша Рабии и операционным директором Масуми Рейндерсом. В компании работает около 40 сотрудников в Тель-Авиве и офисе в Лос-Анджелесе, которые привлекли 100 миллионов долларов в рамках раунда финансирования серии А в конце 2025 года. Компания лицензирует сторонние IP-адреса ускорителей и разрабатывает собственный процессор для своего AIU Ignite. Majestic сообщает о существенных предзаказах от корпоративных клиентов, частных облачных провайдеров и гиперскейлеров.

Beijing Qianxing Jietong Technology Co., Ltd.
Сэнди Янг/Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Сфера деятельности:
Дистрибуция ИКТ-продукции/Системная интеграция и услуги/Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ-продукции, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!

Время Pub : 2026-07-24 13:49:55 >> список новостей

Контактная информация

Beijing Qianxing Jietong Technology Co., Ltd.

Контактное лицо: Ms. Sandy Yang

Телефон: 13426366826

новости компании о Majestic Labs хочет решить проблему узкого места GPU, связанного с памятью

Сервер хранения шкафа

Сервер сплавливания Huawei

Сервер Dell Poweredge

Сервер H3C

Переключатели Datacom

Прибор WLAN

Умный беспроводной маршрутизатор

Жесткий диск HDD

Внутренний SSD жесткого диска

Карта Geforce графическая

Процессор C.P.U. INTEL

RAM памяти сервера

Приведенный сервер хранения

Модуль приемопередатчика SFP

Переключение каналов волокна

Сноска

Сервер хранения шкафа

12 сервер шкафа Lenovo ThinkSystem SR630 сервера заливов 1U Rackmount

Процессор Intel Xeon E-2378G сервера хранения шкафа ThinkSystem SR250 V2 4SFF

Сервер держателя шкафа Inspur NF5180M6 1U сервера хранения шкафа Intel C621A

Сервер сплавливания Huawei

Сервер 32 DDR4 DIMMs шкафа FusionServer 5288 V6 4U 44 жесткого диска 3,5 дюйма

Ультра сервер 1288H V5 хранения сети сервера 1U сплавливания Huawei высокой плотности

Хранение нового сервера шкафа Gen OceanStor 5310 Huawei гибридное внезапное