Equinix расширила свое партнерство с NVIDIA и сформировала новое сотрудничество с Together AI для запуска Equinix Inference Exchange.Платформа перемещает вычислительные нагрузки ближе к основным хранилищам данныхОн был представлен на Equinix Horizon вместе с Equinix Fabric One и объединяет корпоративное оборудование NVIDIA,Вместе с платформой модели с открытым исходным кодом AI и глобальной инфраструктурой взаимосвязи Equinix для решения проблемы задержки, суверенитет данных и узкие места в сети.

Обращение к распределенному выводу и гравитации данныхПоскольку ИИ предприятий переходит от прототипов к высокопроизводительному производству, размещение выводов формирует общие затраты, задержку ответа и соответствие.работа с распределенной инфраструктурой в гетерогенных средах приводит к оперативным накладным расходам и сложности сети.

Equinix уменьшает эти проблемы, используя более 280 центров обработки данных в 77 метрополитеных районах, 230 облачных пандусов и более 10 500 подключенных корпоративных экосистем.Восемь из десяти крупнейших поставщиков моделей ИИ и девять из десяти крупнейших облаков ИИ уже находятся на площадках Equinix, что делает платформу нейтральным слоем агрегации для распределенных AI-проводов.

Архитектура и интеграция стековEquinix Inference Exchange состоит из трех слоев: физическая инфраструктура, вычисления и программное обеспечение.расширенное жидкостное охлаждение, текущие операции на объекте, плюс гибридная подключенность данных через Equinix Fabric.NVIDIA предоставляет уровень вычисления и проверки с аппаратным обеспечением корпоративного ИИ, оптимизированным для высокой пропускной способности токенов и более низких расходов на вывод запросовВместе с ИИ поставляется слой программного обеспечения, обслуживающего вывод, поддерживающий более 200 моделей с открытым исходным кодом.Он поддерживает совместные настройки с несколькими нанимателями для повышения эффективности вычислений и изолированное развертывание с одним нанимателем для рабочих нагрузок, требующих выделенной мощности..

Трафик, маршрутизируемый через Equinix Fabric, снижает время до первого токену региональных пользователей (TTFT) и создает частные одноранговые связи между локальным хранилищем и конечными точками модели.

Цели и доступность развертывания в предприятииПоддерживаются три основных режима развертывания. Metro-edge inference запускает модели в локальных узлах метро для ответов API с низкой задержкой наряду с централизованным управлением и частными взаимосвязями.Миграция модели с открытым исходным кодом предлагает плавный переход от закрытых проприетарных API к моделям с открытым фундаментомДля регулируемых случаев использования суверенного ИИего распределенный дизайн позволяет предприятиям содержать вывод и обработку данных в пределах определенных географических границ для удовлетворения строгих правил пребывания и управления данными.

Руководители Equinix, NVIDIA и Together AI заявляют, что эта интеграция обеспечивает высокопроизводительную выводную ткань, балансирующую производительность вычислений и операционную гибкость.

Equinix Inference Exchange будет доступна для предприятий в первом квартале 2027 года.

Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com
Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!