Есть несколько предпосылок, которые необходимо выполнить перед развертыванием среды виртуализации GPU в Proxmox VE (PVE).Программное обеспечение vGPU NVIDIA не доступно бесплатно. Вам нужно будет приобрести лицензию или зарегистрироваться на пробную версию их программного обеспечения Virtual GPU, а также создать учетную запись NVIDIA Enterprise.Вы должны приобрести совместимую с vGPU графическую карту и загрузить соответствующие драйверы с портала лицензирования NVIDIA. Убедитесь, что вы получили последнюю версию драйверов KVM для Linux. Как минимум, вам необходимо скачать следующее:

• Программное обеспечение vGPU: 18.0
• Водитель-хозяин: 570.124.03
• Гостевой драйвер Linux: 570.124.06
• Ведущий для Windows: 572.60

Мы использовали NVIDIA L40S и Dell PowerEdge R760 для этого проекта.

Кроме того, вам понадобится выделенный сервер лицензирования (DLS) или сервер лицензирования облака (CLS), чтобы активировать функциональность vGPU на ваших гостях.

Затем убедитесь, что настройки сервера UEFI (BIOS) включили правильные функции виртуализации.VT-dилиAMD-v,SR-IOV,свыше 4G декодирования,Изменение размера, иАльтернативная интерпретация идентификатора маршрутизации (ARI)настройки, и убедитесь, что все включены.

Примечание:Возможно, вы не найдете все эти функции в меню UEFI, поскольку некоторые из них могут не быть доступны пользователю.

Наконец, убедитесь, что вы используете подходящую версию Proxmox VE.3.4, с ядром 6.18.12-8-pve или более поздняя версия. Вы можете проверить версии программного обеспечения PVE-узла, перейдя на вкладку Summary на желаемом сервере, как показано ниже:

Хост с наибольшим количеством (Proxmox Host vGPU Setup)

Теперь, когда все готово, пришло время настроить сервер Proxmox VE. В веб-интерфейсе сервера Proxmox VE нажмите на имя сервера слева от экрана и выберите вкладку Shell.Введите эту команду в окно консоли, которое появляется, и нажмите Enter, когда закончите:

apt установить pve-nvidia-vgpu-helper

После того, как сервер завершит установку скрипта или сообщит вам, что он уже присутствует, вы можете использовать его для установки.Запустить еще одну команду для выполнения инструмента.

настройка pve-nvidia-vgpu-helper

Ответьте на любые вопросы Y и продолжайте, пока окно консоли не вернется и сценарий не будет завершен.Выполните быстрый перезапуск сервера, перейдя на вкладку "Обзор" сервера и нажав кнопку "Перезагрузка", или введите команду перезагрузки в консоль вкладки "Shell" и нажмите клавишу "Enter".

После того, как сервер завершит перезагрузку, используйте инструмент передачи SSH или SCP, такой как WinSCP, чтобы скопировать драйвер хоста на узел.

Примечание:Если вы загрузили все драйверы вместе в сжатой папке (.zip), вам, возможно, понадобится сначала извлечь его содержимое и выбрать файл

Разместите файл в каталоге server's/home, и приготовьтесь запустить установщик с помощью следующих команд.

CD /home 
Chown root NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run 
chmod + X NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run 
./NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run --dkms

Примечание:Заменить NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run?? с фактическим именем загруженного драйвера. Вы можете использовать команду ??ls?? для отображения имени файла, как только он будет помещен в каталог ?? / home??.

Теперь, когда драйвер был установлен на сервере, мы находимся всего в нескольких шагах от того, чтобы сделать хост-страну нашей конфигурации Proxmox vGPU!Прежде чем мы сможем отметить GPU как устройство, которое может быть разделено между виртуальными машинамиNVIDIA определяет эту функцию как технологию, которая позволяет физическому устройству PCIe представлять себя несколько раз через шину PCIe.Эта технология позволяет использовать несколько виртуальных экземпляров устройства с отдельными ресурсамиПоскольку SR-IOV является критически важной технологией, необходимой для базовой функциональности vGPU на современных графических процессорах, настроите его на включение при загрузке следующей командой:

systemctl включить --now pve-nvidia-sriov@ALL.service

Наконец, мы можем составить карту ресурсов GPU, чтобы разделять их между виртуальными машинами.нажмите на кнопку "Центр обработки данных" в левом верхнем углу и прокрутите вниз, чтобы выбрать вкладку "Ресурсовые отображения".

Нажмите кнопку "Добавить" под разделом "Устройства PCI" на странице и заполните поле "Название:" в следующем окне с именем, описывающим GPU, который вы отображаете.

Затем проверьте поле с надписью "Использовать с посредническими устройствами" и убедитесь, что в выпадающем меню "Размещение на Node" содержится сервер с отображаемым GPU.подтверждение того, что все идентификаторы устройств имеют “NVIDIA Corporation” в столбце “Vendor”. Если это верно, нажмите на отметку в левом верхнем углу таблицы, чтобы выбрать все устройства; в противном случае выберите только устройства с поставщиком NVIDIA Corporation.

Примечание:Если в вашей системе установлено несколько графических процессоров, вы можете использовать команду ?? lspci?? в вкладке ?? Shell?? на желаемом сервере, чтобы определить идентификаторы, которые сопровождают каждую карту.

Когда вы закончите выбирать устройство, нажмите кнопку "Создать" в правом нижнем углу всплывающего окна, чтобы подтвердить выбор.Ваш NVIDIA GPU теперь готов быть разрезан в vGPU для ваших Proxmox VE серверов гостей!

Обслуживание гостей (назначение vGPU виртуальным машинам)

Все элементы готовы, чтобы мы начали назначать и использовать vGPU на наших виртуальных машинах. Начните с создания новой виртуальной машины, как обычно, или с использованием существующей виртуальной машины. Для нашей демонстрации,мы будем использовать виртуальную машину Windows Server 2025.

В веб-интерфейсе сервера Proxmox VE выключите виртуальную машину, используя любой метод, который вы считаете нужным (консоль noVNC, меню питания гостей и т. д.), и нажмите на вкладку

В выпадающем меню, которое появляется после нажатия кнопки "Добавить", выберите "Устройство PCI".

В всплывающем окне "Добавить: Устройство PCI" выберите имя, которое вы назначили GPU, отображаемому ресурсом, в поле "Устройство:".

Далее нажмите на поле MDev Type: и посмотрите список представленных вариантов типа устройства.Число представляет собой количество VRAM, присвоенного гостю (в гигабайтах), в то время как A, B и Q относятся к использованию vGPU:

• Q Виртуальные рабочие станции с драйверами RTX Enterprise (требуется лицензия RTX vWS)
• B Virtual desktops (требует лицензии NVIDIA Virtual PC или лицензии RTX vWS)
• A ?? Прикладное решение (требует лицензии NVIDIA Virtual Applications)

Примечание:Вы можете узнать больше о различных профилях vGPU и их необходимых лицензиях здесь.

Для этой демонстрации мы использовали профиль NVIDIA L40S-12Q. После выбора желаемого типа устройства, завершите отметку в поле отметки PCI-Express и нажмите на синюю кнопку Добавить.

В настоящее время виртуальная машина имеет vGPU, но нам все еще нужно установить гостевой драйвер и лицензионный токен, чтобы начать работу.

После входа в систему, перенесите гостевой драйвер NVIDIA vGPU, приобретенный ранее с портала лицензирования на VM любым способом, который вам нравится (SMB, SCP, прямая загрузка и т. Д.).Вы можете создать и загрузить виртуальный файл CD-ROM (.iso), содержащий драйвер для хранения вашего PVE-сервера с использованием программного обеспечения, такого как ImgBurn, для одновременного развертывания многих гостей с поддержкой vGPU.

Запустите файл установщика драйверов, нажав дважды на исполняемый файл и следуйте инструкциям в меню установки, которое отображается.

Вытащите драйвер в местоположение по умолчанию в поле "Путь извлечения:" и выберите опцию "Установка Express", когда вам будет предложено это сделать.

После завершения установки драйверов нажмите кнопку "Close" для выхода из меню.

Далее нам нужно активировать лицензию vGPU на госте.Способы активации могут значительно отличаться в зависимости от того, выбираете ли вы выделенный лицензионный сервер (DLS) или облачный лицензионный сервер (CLS)Следуйте руководству NVIDIA по быстрому запуску лицензионной системы и руководству пользователя по лицензированию клиента, чтобы узнать подробные шаги по активации клиентов для вашей конкретной настройки.

Мы использовали сервер облачных лицензий и получили токен-файл для размещения на гостях для активации.Файлы программ NVIDIA CorporationvGPU LicensingClientConfigToken папка.

Далее для завершения активации необходимо перезагрузить гостя.

После выполнения всех шагов конфигурации хоста и гостя, подробно описанных здесь, вы должны быть готовы к запуску программ и приложений, требующих GPU.Не забудьте включить протокол удаленного рабочего стола (RDP) или установить любимое программное обеспечение удаленного рабочего стола на ваших гостях после перезагрузки, чтобы насладиться ускоренным GPU удаленным просмотром!

Обновление двигателя (испытание Proxmox vGPU)

Теперь, когда у нас есть несколько виртуальных серверов с виртуальными графическими процессорами, давайте проведем их по кругу! Каждая из наших виртуальных машин была сконфигурирована с 8 прикрепленными Intel Xeon Platinum 8580 vCPUs (4 гиперпоточные ядра),32 гигабайта зарегистрированной оперативной памяти ECC DDR5 4800 MT/s, и профиль vGPU NVIDIA L40S-12Q (виртуальная рабочая станция) с 12 гигабайтами VRAM. Вы можете увидеть полную конфигурацию оборудования виртуальных машин ниже:

Киностудия 2024

Основанный на программном обеспечении Maxon Cinema 4D для моделирования и анимации, Cinebench 2024 предлагает интересный и объективный взгляд на производительность рендеринга на vGPU.Давайте сравним полную мощность L40S в его профиле 48Q (все 48 гигабайт VRAM) с одной виртуальной машиной против четырех виртуальных машин, работающих с профилем 12Q.

Хотя не имеет большого смысла иметь одну виртуальную машину, охватывающую весь L40S, мы можем видеть, что производительность впечатляет на 21,147 пунктов в однопроходном эталоне GPU.Разделение графического процессора на четыре стороны показывает влияние подхода NVIDIA к разделению времени на совместное использование CUDA-ядер GPU, с индивидуальными показателями в диапазоне от 2.514 до 2.567 при одновременном выполнении эталонного показателя на всех VM.

Повторное выполнение теста на одной виртуальной машине с профилем 12Q, а остальные три виртуальные машины на свободном ходу, повышает балл до 15.133Это не совсем возвращение к полному показателю GPU, но это все еще достойный показатель для разделенного vGPU.

Сравнительные показатели блендера

Давайте продолжим с еще несколькими эталонами рендеринга с Blender.Разделение графического процессора на четыре стороны приводит к резко сниженной общей производительности по сравнению с одной виртуальной машиной, выполняющей ту же нагрузку в том же профиле.

Как показано в эталоне Monster, только четыре виртуальных машины, разделяющие вычислительную мощность GPU, означают, что индивидуальная производительность рендеринга может быть всего 8% от одной виртуальной машины с тем же профилем.Мы наблюдали, как одна виртуальная машина набирает довольно большое преимущество над другимиВ 4 раза больше, чем у худшего исполнителя.

Показатели Junkshop и Classroom рассказывают похожие истории, с большим падением производительности для трех из четырех VM и одного гостя, получающего гораздо более высокий балл, чем другие.

Пекинская компания Qianxing Jietong Technology Co., Ltd.
Сэнди Янг, директор по глобальной стратегии
WhatsApp / WeChat: +86 13426366826
Электронная почта: yangyd@qianxingdata.com
Сайт: www.qianxingdata.com/www.storagesserver.com

Бизнес фокус:
Распространение ИКТ-продуктов/интеграция систем и услуги/решения инфраструктуры
Имея более 20-летний опыт распространения ИТ, мы сотрудничаем с ведущими мировыми брендами для предоставления надежных продуктов и профессиональных услуг.
Использование технологий для создания интеллектуального мира Ваш надежный поставщик услуг ИКТ-продуктов!