Russian
DeepInfra официально запустила новый центр обработки данных для ИИ в Торонто, что стало первым зарубежным развертыванием компании за пределами США и девятым объектом в мире. Открытый 8 июля, этот новый объект расширяет глобальную инфраструктуру инференса DeepInfra на фоне широкомасштабного сдвига в отрасли, когда спрос на ИИ смещается от обучения моделей к коммерческим рабочим нагрузкам инференса.
Центр обработки данных в Торонто имеет мощность 1,7 МВт и будет оснащен более чем 1000 графическими процессорами NVIDIA Blackwell B300. После полного ввода в эксплуатацию новый вычислительный кластер увеличит глобальный масштаб инференса DeepInfra и обеспечит снижение сетевой задержки для конечных пользователей в Канаде и других регионах мира.
Это расширение соответствует четкому отраслевому переходу. Поскольку предприятия ускоряют вывод на рынок генеративных ИИ-инструментов, спрос на инфраструктуру центров обработки данных все больше фокусируется на рабочих нагрузках инференса, а не на задачах обучения. Инференс больших языковых моделей требует постоянной доступности графических процессоров, низколатентных сетей и географически распределенной инфраструктуры для поддержки интерактивных приложений, интеллектуальных ИИ-агентов и сервисов API с высокой пропускной способностью. Согласно исследованию McKinsey & Company, упомянутому в анонсе, к 2030 году рабочие нагрузки инференса будут составлять более 40% общего спроса на центры обработки данных, при этом среднегодовой темп роста составит 35%.
DeepInfra заявляет, что развертывание в Торонто специально разработано для удовлетворения этих меняющихся потребностей, приближая ресурсы вычислений на графических процессорах к конечным пользователям и локальным источникам данных, одновременно увеличивая общую пропускную способность платформы. Компания самостоятельно владеет и управляет полным стеком инфраструктуры графических процессоров, поддерживая более 200 моделей ИИ с открытым исходным кодом. Ее управляемая платформа инференса обрабатывает почти пять триллионов токенов еженедельно, охватывая как развертывания открытых, так и проприетарных моделей.
Запуск также подчеркивает растущее внедрение в отрасли архитектуры NVIDIA Blackwell для современной инфраструктуры инференса. По сравнению с предыдущим поколением оборудования Hopper, графические процессоры Blackwell обеспечивают повышенную пропускную способность инференса и лучшую энергоэффективность для больших языковых моделей и мультимодальных рабочих нагрузок ИИ. Хотя DeepInfra не предоставила дополнительных сведений об архитектуре сети и хранения данных, крупномасштабные развертывания такого калибра обычно используют высокоскоростные межсоединения и распределенное хранение для поддержания полной загрузки графических процессоров.
Как отметил Никола Борисов, генеральный директор и соучредитель DeepInfra, корпоративный ИИ перешел от экспериментальных испытаний к крупномасштабным производственным развертываниям, что стимулирует больший спрос на глобально распределенную инфраструктуру с низкой задержкой и масштабируемыми возможностями инференса. Он пояснил, что кластер в Торонто знаменует собой первое международное расширение компании за пределы США, размещая вычислительные ресурсы в непосредственной близости от глобальных клиентов и их наборов данных.
Объект в Торонто появился после недавнего раунда финансирования серии B от DeepInfra и служит ключевой частью ее долгосрочной дорожной карты расширения инфраструктуры. Компания подтверждает, что оценивает дополнительные международные площадки для центров обработки данных для удовлетворения растущего рыночного спроса на услуги инференса на базе графических процессоров.
Beijing Qianxing Jietong Technology Co., Ltd.
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Направления деятельности:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!
Сэнди Янг / Директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Веб-сайт: www.qianxingdata.com/www.storagesserver.com
Направления деятельности:
Дистрибуция ИКТ-продукции / Системная интеграция и услуги / Инфраструктурные решения
Обладая более чем 20-летним опытом дистрибуции ИТ, мы сотрудничаем с ведущими мировыми брендами, чтобы поставлять надежные продукты и профессиональные услуги.
«Используя технологии для построения интеллектуального мира» Ваш надежный поставщик услуг ИКТ-продукции!