NVIDIA MIG e vGPU: Como Compartilhar GPUs em Infraestruturas de IA

Em ambientes corporativos, uma GPU física raramente permanece 100% ocupada por uma única tarefa. O treinamento de modelos pode ocorrer em paralelo com inferência, diferentes especialistas podem compartilhar a mesma capacidade computacional e parte dos recursos pode precisar ser isolada para serviços com requisitos rígidos de SLA.

Como os aceleradores gráficos representam um recurso caro e limitado, capacidade ociosa ou uma distribuição ineficiente dos recursos afeta diretamente o TCO da infraestrutura.

No caso de CPU, o compartilhamento de recursos já é bastante conhecido: o hipervisor distribui núcleos e memória entre diferentes máquinas virtuais. Com GPUs, o cenário é mais complexo. Os blocos computacionais e a memória de vídeo possuem uma arquitetura diferente, e o simples compartilhamento por tempo pode gerar latências imprevisíveis quando a carga aumenta.

A NVIDIA oferece dois mecanismos principais para resolver esse problema: MIG, que realiza o particionamento do próprio acelerador em instâncias isoladas por hardware, e vGPU, que virtualiza por software o acesso à GPU para diferentes máquinas virtuais.

Não são tecnologias concorrentes, mas abordagens destinadas a diferentes cenários de infraestrutura.

O que é NVIDIA MIG?

MIG (Multi-Instance GPU) é uma tecnologia de particionamento de GPU por hardware disponível em aceleradores NVIDIA a partir da geração Ampere.

Ela permite dividir uma única GPU física em várias instâncias independentes. O tamanho e a quantidade dessas instâncias dependem dos perfis MIG disponíveis para cada modelo de GPU.

Na RTX PRO 6000 Blackwell Server Edition, com 96 GB de memória, por exemplo, estão disponíveis perfis de 12 GB, 24 GB, 48 GB e 96 GB.

A configuração pode ser alterada, mas para isso é necessário interromper as cargas de trabalho ativas no acelerador. Por esse motivo, o MIG é menos adequado para ambientes nos quais os recursos de GPU precisam ser redistribuídos com frequência entre diferentes workloads.

Seus principais benefícios aparecem em cenários nos quais isolamento e desempenho previsível são requisitos prioritários.

Entre os casos de uso mais comuns estão inferência, plataformas de IA multiusuário, ambientes de testes e infraestruturas com requisitos rigorosos de SLA.

 Multi-Instance GPU (MIG)

O que é NVIDIA vGPU?

Enquanto o MIG divide fisicamente os recursos do acelerador, o NVIDIA vGPU virtualiza o acesso à GPU.

Nesse modelo, o hipervisor fornece às máquinas virtuais acesso aos recursos computacionais de uma GPU física por meio da camada de software NVIDIA vGPU Manager.

Cada máquina virtual recebe seu próprio adaptador gráfico virtual e interage com ele como se fosse um dispositivo convencional, sem precisar conhecer a existência das outras VMs.

A GPU física permanece abstraída pela camada de virtualização: o sistema operacional convidado não identifica qual parcela dos recursos físicos foi atribuída à VM nem se o acelerador está sendo compartilhado com outras máquinas.

O gerenciamento dos recursos é realizado pelo NVIDIA vGPU Manager, no lado do hipervisor, em conjunto com drivers instalados nas máquinas virtuais.

O vGPU pode operar de duas formas principais:

• time-slicing, em que o acesso à GPU é dividido por tempo entre diferentes VMs;
• MIG-backed vGPU, em que cada máquina virtual recebe uma partição MIG dedicada por meio do vGPU.

A diferença entre esses modelos é especialmente importante em ambientes corporativos.

O administrador da plataforma de virtualização define a distribuição dos recursos por meio de perfis vGPU, selecionando o volume de memória de vídeo e o tipo de workload: gráfico, computacional ou misto.

Time-slicing vGPU

No modelo time-slicing, o scheduler integrado ao vGPU Manager fornece alternadamente a cada máquina virtual acesso aos recursos computacionais do acelerador.

O perfil vGPU determina a quantidade de memória de vídeo e o tipo de workload.

Em cada momento, a GPU executa as tarefas de uma determinada VM. A alternância ocorre rapidamente, embora não seja instantânea. Com isso, é possível hospedar várias cargas de trabalho em um único acelerador.

O time-slicing foi desenvolvido para oferecer flexibilidade e maior densidade de utilização, e não para garantir desempenho constante.

Quando várias máquinas virtuais atingem picos de carga simultaneamente, passam a competir pelo acesso à GPU. Como consequência, a latência aumenta e o desempenho pode cair, sem que seja possível prever exatamente a intensidade dessa degradação.

Os cenários mais comuns incluem ambientes interativos de Data Science, desenvolvimento e depuração de modelos e inferência sem requisitos rígidos de SLA.

MIG-backed vGPU

O MIG-backed vGPU combina o isolamento por hardware do MIG com as ferramentas de gerenciamento de uma infraestrutura virtualizada.

Primeiro, a GPU física é dividida em instâncias MIG com volumes definidos de memória, cache e núcleos computacionais.

Em seguida, o vGPU Manager disponibiliza cada uma dessas instâncias como uma GPU virtual dentro de uma VM. O sistema operacional convidado a reconhece como um dispositivo convencional, sem precisar conhecer a estrutura física de particionamento.

Na prática, cada máquina virtual recebe uma parcela da GPU isolada por hardware e com desempenho previsível.

As cargas de trabalho executadas em outras partições não afetam seu desempenho. Essa é uma diferença importante em relação ao time-slicing, no qual o pico de consumo de uma VM pode reduzir o desempenho das demais.

Ao mesmo tempo, o administrador continua gerenciando os recursos de GPU por meio das ferramentas convencionais da plataforma de virtualização, como VMware e Hyper-V.

A implementação de MIG-backed vGPU exige licença NVIDIA AI Enterprise, hipervisor compatível e configuração dos perfis MIG em cada nó.

Essa arquitetura é, portanto, mais complexa e mais cara do que o time-slicing puro. Para serviços críticos em termos de SLA, plataformas de IA multiusuário e ambientes com requisitos rigorosos de isolamento, porém, esse investimento pode ser justificado.

Os principais cenários de uso incluem:

• inferência com desempenho garantido;
• workloads de IA críticos para SLA;
• plataformas multiusuário;
• ambientes nos quais diferentes clientes compartilham uma mesma GPU física.

Também é possível ativar time-slicing dentro de uma instância MIG e executar várias VMs nela.

Essa configuração permite aumentar a densidade de utilização mantendo o isolamento por hardware entre diferentes grupos de workloads.

Comparação entre os modelos de compartilhamento de GPU

MIG e vGPU não são tecnologias concorrentes, mas recursos voltados a necessidades diferentes.

O vGPU, por sua vez, pode operar tanto por time-slicing quanto sobre uma partição MIG, no modelo MIG-backed.

A tabela abaixo compara as três abordagens.

Tabela 1. Comparação dos modelos de compartilhamento de GPU

Licenciamento do NVIDIA vGPU

O vGPU é uma tecnologia proprietária da NVIDIA e exige licenciamento.

A licença abrange todo o stack vGPU, incluindo o NVIDIA vGPU Manager no hipervisor e os drivers instalados nas máquinas virtuais.

O licenciamento é realizado por meio do NVIDIA License System (NLS).

De acordo com os requisitos da infraestrutura, podem ser utilizadas duas opções:

• Cloud License Service (CLS) — serviço de licenciamento em nuvem;
• Delegated License Service (DLS) — serviço local, indicado, por exemplo, para ambientes isolados sem acesso direto à internet.

Na ausência de uma licença válida, o driver vGPU passa a operar em um modo de desempenho limitado.

Nesse cenário, o desempenho da GPU é reduzido e a taxa de quadros da máquina virtual fica limitada a 3 FPS. Para desktops virtuais e aplicações gráficas, esse nível de desempenho torna a utilização normal do ambiente praticamente inviável.

A NVIDIA oferece diferentes tipos de licença para cada cenário:

• vPC — para desktops virtuais;
• vWS — para aplicações gráficas profissionais;
• vCS — para workloads computacionais.

O tipo de licença determina não apenas o cenário de utilização permitido, mas também quais recursos do driver e do stack vGPU ficam disponíveis.

GPU Cloud da ITGLOBAL.COM

Na prática, empresas que precisam de capacidade computacional para IA nem sempre optam por comprar, configurar e administrar uma infraestrutura própria de GPUs.

A contratação de GPU Cloud transfere para o provedor parte das tarefas relacionadas a licenciamento, configuração e suporte da infraestrutura.

A ITGLOBAL.COM possui licença ativa do NVIDIA AI Enterprise e disponibiliza GPUs em nuvem com suporte aos dois modos de vGPU: time-slicing e MIG-backed.

Entre essas opções, o MIG-backed vGPU é indicado para cenários nos quais desempenho previsível e isolamento por hardware são requisitos essenciais.

Esse modelo combina a separação física dos recursos oferecida pelo MIG com o gerenciamento por meio das ferramentas convencionais de virtualização.

Na GPU Cloud da ITGLOBAL.COM, o MIG-backed vGPU está disponível em placas RTX PRO 6000 Blackwell Server Edition, permitindo utilizar essa arquitetura sem a necessidade de adquirir e configurar a infraestrutura física internamente.

Tabela 2. GPUs disponíveis

Para parte das GPUs, estão disponíveis perfis vGPU pré-configurados, com valores definidos de memória de vídeo, vCPU e RAM.

O perfil pode ser selecionado de acordo com o workload, desde cargas leves de inferência até tarefas computacionais mais exigentes que utilizam toda a capacidade de memória do acelerador.

Tabela 3. Perfis vGPU

MIG ou vGPU: qual modelo escolher?

A escolha do modelo de compartilhamento de GPU afeta diretamente desempenho, isolamento e custo da infraestrutura corporativa de IA.

O time-slicing vGPU oferece maior flexibilidade e densidade, mas não garante desempenho constante quando várias cargas disputam simultaneamente os recursos da GPU.

O MIG puro oferece isolamento por hardware, porém exige gerenciamento da configuração das partições e não está integrado da mesma forma às ferramentas da plataforma de virtualização.

Já o MIG-backed vGPU reúne características das duas abordagens: isolamento por hardware e desempenho previsível do MIG, combinados ao gerenciamento das GPUs dentro de um ambiente virtualizado.

Para serviços com requisitos rigorosos de SLA, plataformas de IA multiusuário e ambientes corporativos nos quais as cargas precisam permanecer isoladas e previsíveis, o MIG-backed vGPU é a opção mais completa entre os modelos analisados.

A ITGLOBAL.COM disponibiliza GPUs com suporte a essa tecnologia em modelo de contratação em nuvem, reduzindo para o cliente a necessidade de administrar diretamente licenciamento, configuração e suporte da infraestrutura.