Мировой сектор флэш и памяти продемонстрировал интенсивную активность в выходные, с участием спора между Micron и Apple, переговоры Anthropic с SK Hynix, новое партнерство Nvidia-SK Hynix,Прогресс 3D DRAM SK Hynix, и инновации Samsung CXL в объединении памяти.
Аналитик Citrini Юкан подтвердил, что компания разрабатывает 3D-накопленную DRAM,поддерживается стратегическим наймом 3D-накопленных DRAM-на логике инженеры дизайна через его Сан-ХосеНаем нацелен на талантливых людей, способных совместно разрабатывать 3D-накопленные логические DRAM-пакеты с несколькими клиентами из США.
Новая архитектура укладывает 3D DRAM на поверхность полупроводниковых процессоров.Интеграция DRAM и логики на одной панели обеспечивает более быструю связь между чипами и меньшее потребление энергии, чем традиционное связывание пакетов на пакетах (PoP) отдельных пакетов памяти и логики.
Юкан отмечает, что технология нацелена на устройства с рабочей нагрузкой ИИ, требующие высокой пропускной способности памяти и низкого расхода энергии.в частности, процессоры мобильных приложений для смартфонов, что делает Apple ключевым потенциальным клиентом SK Hynix.
SK Group расширила свое стратегическое партнерство с Nvidia с помощью официальных писем о намерениях, сформировав сотрудничество на сумму более 500 миллиардов долларов.SK Telecom построит 2-гигаваттную фабрику Nvidia Vera Rubin DSX AI в качестве нового облачного поставщика для удовлетворения глобального спроса на вычисленияЧипы Vera Rubin будут использовать память SK Hynix HBM4, а первая фабрика ИИ должна быть запущена в 2027 году.
Целью партнерства является ускорение развития крупномасштабной инфраструктуры ИИ, охватывающей суверенные, физические, агентурные и корпоративные услуги ИИ.и удовлетворить растущий спрос на ИИ в Южной Корее и более широком Азиатско-Тихоокеанском регионеSK Hynix также запустит долгосрочное партнерство с Nvidia по созданию памяти для искусственного интеллекта, обеспечив стабильное поставки памяти для Nvidia нового поколения, а также расширяя производственные мощности SK Hynix.Обе стороны будут совместно разрабатывать и оптимизировать HBM и другие решения для памяти ИИ для обучения LLM, агентические и физические сценарии ИИ.
Председатель группы SK Чей Тхэ Вон заявил, что сотрудничество будет использовать память ИИ SK Hynix и сильные стороны инфраструктуры SK Telecom для создания завода ИИ мирового класса.преобразование Южной Кореи из страны-принимателя ИИ в глобальный инновационный центр ИИ.
Бывший генеральный директор Intel Пэт Гелзингер открыто критиковал HBM во время корейского разговора, назвав его несовершенным решением памяти.ограничения соединения, ограничиваемые береговыми линиями GPU edgeГелсингер, тем не менее, признал, что HBM является лучшим жизнеспособным решением, доступным сегодня.
Старший вице-президент SK Hynix Хошик Ким частично поддержал мнение Гелсингера, заявив, что HBM не может принципиально решить внутреннее узкое место на стене памяти AI.Он уточнил, что HBM служит только временной мерой смягчения последствий., в то время как SK Hynix активно разрабатывает альтернативные решения для решения проблемы стены памяти.
По данным Bloomberg, ведущая американская фирма по ИИ Anthropic ведет переговоры с SK Hynix о поставке специальных чипов памяти для поддержки своих собственных процессоров ИИ.Председатель SK Group Чей Тхэ Вон сообщил об этом на саммите ИИ в Сан-Франциско в июле 2024 года., где также выступил генеральный директор Anthropic Дарио Амодей, похвалив амбициозные цели разработки аппаратного обеспечения Anthropic на фоне широко распространенных усилий отрасли по преодолению доминирования GPU Nvidia.Амодей не ответил публично на комментарии..
Samsung достигла почти нативной производительности DRAM для нагрузок на вывод ИИ с использованием внешней объединенной памяти CXL для отгрузки кэша KV, согласно его официальному технологическому блогу.LLM полагаются на КВ кэш для хранения вычисленных ключей внимания и значений для сокращения задержки вывода и избыточных вычислений, но большие модели требуют сотен гигабайт кэша, легко превышающих память встроенного процессора ИИ.Обычное SSD или сетевое разгрузка облегчает ограничения на пропускную способность, но вводит дополнительную задержку и расходы на пропускную способность.
Технология CXL нарушает традиционные физические ограничения DRAM с помощью высокополосных когерентных межсетевых связей PCIe, что позволяет масштабировать объединение памяти на нескольких устройствах с помощью коммутаторов CXL.CMM-D (CXL Memory Module-DRAM) от Samsung специально разработан для этой расширенной архитектуры памяти..
Samsung протестировала свои модули CMM-D с GPU Nvidia RTX PRO 6000 Blackwell на PCIe Gen5, построив пул памяти CXL объемом 1 ТБ с оптимизацией программного обеспечения vLLM и LMCache.Испытания подтвердили, что пул поддерживает крупномасштабную загрузку кэша KV с производительностью почти DRAM. В установках с одним GPU оптимизированное объединение CXL совпадает с производительностью DRAM в качестве LMCache-бакенда.он сохранил 92% внутренней пропускной способности DRAM с гораздо большей емкостью памяти.
Дальнейшие испытания сравнили локальную установку DRAM 512 ГБ и 1 ТБ CXL-пул при растущих нагрузках кэша KV.Местная DRAM пострадала от серьезного снижения производительности от повторного перерасчета кэша после превышения емкостиПолная информация о тестах доступна в белой книге Samsung, которую можно скачать.
Samsung отмечает, что текущие развертывания коммутаторов CXL требуют корректировки ядра и программного обеспечения на уровне хоста для LMCache и других компонентов.Объединение памяти на основе 0 показывает сильный потенциал применения, с продолжающимся созреванием экосистемы через Intel DMR, AMD Venice и новые коммутаторы CXL 3.0 для устранения существующих технических ограничений.
Наконец, между Micron и Apple появился растущий раскол.Citrini's Jukan раскрывает, что Apple лоббирует Белый дом для одобрения развертывания китайского CXMT DRAM в своих устройствахЭто напряжение связано с давней враждой между генеральным директором Micron Санджеем Мехотрой,Датируется от его Sandisk мандата, когда Apple заставил низкие цены на флэш-память во время покупателя рынкаПоскольку нынешний рынок памяти предпочитает поставщиков, Мехротра, как сообщается, не хочет ослаблять ценовые и поставки ограничения для Apple.
Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!
Ваше сообщение должно содержать от 20 до 3000 символов!
Russian
