Assinar
Voltar
Cloud

GPUs serverless no Azure Container Apps: IA sob demanda sem gerenciar servidor

O Azure Container Apps permite rodar contêineres com GPUs NVIDIA que escalam a zero e cobram por segundo. Entenda como esse modelo serverless muda o jogo para quem coloca modelos de IA em produção — inclusive na região Brazil South.

Colocar um modelo de IA em produção costuma esbarrar no mesmo obstáculo: a GPU. Ela é cara, escassa e, na maioria das arquiteturas tradicionais, precisa ficar ligada o tempo todo mesmo quando ninguém está usando a aplicação. O Azure Container Apps ataca exatamente esse problema com as GPUs serverless, um recurso que entrega placas NVIDIA sob demanda, sem que você precise provisionar ou administrar a máquina por baixo.

O que são as GPUs serverless

O Azure Container Apps é o serviço de contêineres gerenciados da Microsoft, pensado para aplicações e microsserviços que escalam automaticamente. As GPUs serverless estendem esse modelo para cargas que exigem aceleração por hardware: você anexa uma GPU ao seu contêiner e a plataforma cuida do resto.

A ideia central é que o número de GPUs em uso sobe e desce conforme a demanda da aplicação, chegando a zero quando não há tráfego. Você paga apenas pelo tempo em que a GPU está efetivamente rodando.

É um meio-termo entre chamar uma API de modelo pronta e manter um cluster de GPUs dedicado: você traz o seu próprio modelo, mas continua numa plataforma gerenciada e serverless.

As placas disponíveis

Você escolhe entre dois tipos de GPU NVIDIA na alocação de recursos do contêiner:

  • NVIDIA A100 — para treino leve, ajuste fino e inferência de modelos maiores.
  • NVIDIA T4 — mais econômica, ideal para inferência de modelos menores e cargas de visão computacional.

Um detalhe importante para quem está no Brasil: a região Brazil South oferece tanto A100 quanto T4, o que permite manter os dados e a latência dentro do país.

Por que isso importa

O grande atrativo é o modelo de custo. Em vez de reservar uma VM com GPU 24 horas por dia, você tem:

  • Escala até zero: sem tráfego, sem cobrança de GPU.
  • Cobrança por segundo: paga-se só pela computação usada de fato.
  • Escala automática: a plataforma adiciona e remove réplicas conforme a carga.
  • Governança de dados: os dados não saem da fronteira do seu contêiner.

Esse último ponto separa as GPUs serverless de uma API de modelo hospedada por terceiros. Como o seu contêiner (e o seu modelo) roda dentro do seu ambiente, o dado processado permanece sob seu controle — algo relevante para requisitos de residência e conformidade.

Onde faz sentido usar

A documentação da Microsoft aponta cenários bem concretos:

  • Inferência em tempo real e em lote de modelos open-source customizados, com inicialização rápida e escala elástica.
  • Machine learning com modelos generativos ajustados, deep learning e redes neurais.
  • Computação de alto desempenho (HPC), como simulações científicas e modelagem financeira.
  • Renderização e processamento de vídeo/imagem.

Detalhes técnicos que você precisa conhecer

As GPUs serverless funcionam apenas em perfis de carga de trabalho Consumption — não são suportadas em ambientes do tipo Consumption-only. Além disso, há limitações a considerar no desenho da aplicação: apenas um contêiner por app acessa a GPU de cada vez, e não há suporte a réplicas com múltiplas GPUs ou GPU fracionada.

Para acessar o recurso, é preciso ter cota de GPU. Clientes com contrato enterprise e pay-as-you-go já têm cotas de A100 e T4 habilitadas por padrão; os demais solicitam via caso de suporte no portal do Azure.

Domando o cold start

Um risco conhecido de qualquer solução que escala a zero é o tempo de partida a frio — agravado quando o contêiner precisa baixar um modelo de vários gigabytes. A plataforma oferece duas alavancas para reduzir isso:

  • Artifact streaming no Azure Container Registry premium, que acelera o início da imagem.
  • Storage mounts, mantendo arquivos grandes (como LLMs) em uma conta de armazenamento associada ao app.

Integração com modelos do Foundry

Em preview público, as GPUs serverless já aceitam o deploy de modelos do Microsoft Foundry (tipo MLFLOW) diretamente pela CLI, com o comando az containerapp up apontando para o registro e a versão do modelo. Isso posiciona o recurso como um caminho de baixo atrito entre experimentar um modelo e colocá-lo em produção com escala serverless.

Vale a pena?

Para times que precisam de inferência esporádica ou com picos imprevisíveis, o modelo de pagar por segundo com escala a zero pode reduzir drasticamente o custo em relação a uma GPU dedicada ociosa. Já para cargas contínuas e de altíssimo volume, uma comparação de preço com compute dedicado ainda é recomendável. O ponto forte aqui é a flexibilidade: você traz o seu contêiner, escolhe A100 ou T4, e deixa a plataforma cuidar do provisionamento e da escala.

Fontes

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *