SK Hynix поддержала Etched, американскую стартап-компанию в области ИИ-инференса, которая разрабатывает системы серверного масштаба с использованием проприетарных технологий Low Voltage Inference (LVI) и Cluster Scale Memory (CSM).
Etched решает критическую отраслевую проблему: традиционные графические процессоры обладают избыточной вычислительной мощностью, но недостаточной памятью для крупномасштабного ИИ-инференса, что приводит к громоздким многоуровневым фреймворкам KV-кэширования. Их специализированные чипы для инференса снижают энергопотребление и превосходят традиционные GPU HBM по пропускной способности памяти и емкости, смягчая задержки и сложность проектирования, связанные с KV-кэшированием.
Эта инвестиция последовала за выходом из режима скрытности израильского стартапа Majestic Labs, который также разрабатывает серверы для инференса с пользовательскими процессорами и крупномасштабными общими пулами памяти.
Основанная в 2023 году в Сан-Хосе тремя студентами Гарварда, бросившими учебу, основная команда Etched состоит из генерального директора Гэвина Уберти, президента Роберта Вакена и Криса Чжу. Команда получила двухлетнюю стипендию Thiel Fellowship в размере 250 000 долларов для финансирования ранней разработки.
Команда разработала специализированную обработку предварительной загрузки LVI и общую память CSM для повышения эффективности инференса. Их полнофункциональное решение, интегрирующее собственные чипы, упаковку, печатные платы и модули межсоединений, обеспечивает крупномасштабное коммерческое развертывание инференса.
Чжу отметил, что основные ИИ-чипы страдают от сильного теплового троттлинга при высокой нагрузке: повышенное энергопотребление снижает тактовые частоты, сокращая реальную пропускную способность инференса до менее чем половины теоретического максимума. Чипы Etched работают на арифметических блоках при половинном от стандартного отраслевого напряжении, значительно повышая плотность вычислений.
Он также затронул ключевые компромиссы в аппаратном обеспечении: ИИ-чипы с HBM отстают от SRAM по скорости декодирования из-за ограничений памяти и межсоединений, в то время как чипы на чистой SRAM жертвуют плотностью вычислений и емкостью ради более быстрого доступа, снижая общую пропускную способность.
Это препятствует работе больших моделей MoE, поскольку передача токенов между слоями через несколько уровней памяти увеличивает задержку. Архитектура Etched устраняет избыточные уровни памяти для решения этой проблемы.
Архитектура CSM от Etched создает унифицированный пул общей памяти с низкой задержкой для масштабируемого оборудования, используя проприетарные высокоскоростные межсоединения для ускорения доступа к памяти между чипами.
Ее гибридная конструкция HBM/SRAM балансирует емкость памяти и задержку между чипами, обеспечивая интерактивный инференс с высокой пропускной способностью. CSM избегает недостатков чистых SRAM, 3D DRAM и оптических чипов, связанных со стоимостью, стабильностью, тепловыми характеристиками и производительностью.
Эта инновация отделяет стеки HBM от архитектурных ограничений GPU, консолидирует распределенные ресурсы памяти и обеспечивает скорость доступа на уровне SRAM через передовую технологию межсоединений.
Система серверного типа Etched имеет компоновку с высокой плотностью межсоединений, с 16 выделенными кабелями, соединяющими задние порты с восемью основными аппаратными блоками.
Система поддерживает основные LLM, модели MoE и не-трансформерные архитектуры, такие как Mamba, при этом компания фокусируется на исследованиях и разработках всей системы и коммерческих продажах.
История финансирования Etched
2022 – Основание компании
2023 – Посевной раунд на 5,4 млн долларов
2024 – Серия A на 120 млн долларов
2025 – Серия B на 500 млн долларов
2026 – Серия C на 300 млн долларов
Общий объем финансирования на сегодняшний день: 925,4 млн долларов
Sequoia Capital возглавила раунд Серии C Etched в 2026 году при участии Andreessen Horowitz, Jane Street и SK Hynix. Оценка компании в рамках раунда составила 10,3 млрд долларов, что вдвое превышает ее оценку по Серии B в 2024 году.
Ее стабильный ежегодный темп привлечения средств отражает постоянное совершенствование продукта, подкрепленное высоким спросом со стороны клиентов и уверенностью инвесторов.
Вакен заявил, что новый капитал ускорит массовое производство кластеров инференса. Компания открыла производственный объект мощностью 10 МВт в Милпитасе для повышения эффективности прототипирования и производства.
Главный архитектор Сапдип Пал сообщил, что в Etched работает более 400 сотрудников, а объем забронированных заказов от клиентов превышает 1 миллиард долларов. Ее производственная база в Тайване обеспечивает круглосуточную работу, оптимизируя сотрудничество с поставщиками и тестирование продукции для поддержки быстрого масштабирования.
Ее основные клиенты включают крупные предприятия, новые облачные провайдеры и глобальные гиперскейлеры, предлагающие решения типа «инференс как услуга».
Комментарий
Если новые серверы инференса Etched и Majestic Labs выйдут за рамки традиционного KV-кэширования, они изменят рынок корпоративных систем хранения данных. Эти системы требуют высокоскоростного хранения данных с низкой задержкой, создавая возможности для сотрудничества таких поставщиков, как Dell, HPE, NetApp и VAST Data, для объединения массивов хранения с серверами инференса нового поколения для оптимальной производительности.
Beijing Qianxing Jietong Technology Co., Ltd.
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Направление деятельности:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!
Ваше сообщение должно содержать от 20 до 3000 символов!
Russian
