Colocar um modelo de IA em produção costuma esbarrar no mesmo obstáculo: a GPU. Ela é cara, escassa e, na maioria das arquiteturas tradicionais, precisa ficar ligada o tempo todo mesmo quando ninguém está usando a aplicação. O Azure Container Apps ataca exatamente esse problema com as GPUs serverless, um recurso que entrega placas NVIDIA sob demanda, sem que você precise provisionar ou administrar a máquina por baixo.
O que são as GPUs serverless
O Azure Container Apps é o serviço de contêineres gerenciados da Microsoft, pensado para aplicações e microsserviços que escalam automaticamente. As GPUs serverless estendem esse modelo para cargas que exigem aceleração por hardware: você anexa uma GPU ao seu contêiner e a plataforma cuida do resto.
A ideia central é que o número de GPUs em uso sobe e desce conforme a demanda da aplicação, chegando a zero quando não há tráfego. Você paga apenas pelo tempo em que a GPU está efetivamente rodando.
É um meio-termo entre chamar uma API de modelo pronta e manter um cluster de GPUs dedicado: você traz o seu próprio modelo, mas continua numa plataforma gerenciada e serverless.
As placas disponíveis
Você escolhe entre dois tipos de GPU NVIDIA na alocação de recursos do contêiner:
- NVIDIA A100 — para treino leve, ajuste fino e inferência de modelos maiores.
- NVIDIA T4 — mais econômica, ideal para inferência de modelos menores e cargas de visão computacional.
Um detalhe importante para quem está no Brasil: a região Brazil South oferece tanto A100 quanto T4, o que permite manter os dados e a latência dentro do país.
Por que isso importa
O grande atrativo é o modelo de custo. Em vez de reservar uma VM com GPU 24 horas por dia, você tem:
- Escala até zero: sem tráfego, sem cobrança de GPU.
- Cobrança por segundo: paga-se só pela computação usada de fato.
- Escala automática: a plataforma adiciona e remove réplicas conforme a carga.
- Governança de dados: os dados não saem da fronteira do seu contêiner.
Esse último ponto separa as GPUs serverless de uma API de modelo hospedada por terceiros. Como o seu contêiner (e o seu modelo) roda dentro do seu ambiente, o dado processado permanece sob seu controle — algo relevante para requisitos de residência e conformidade.
Onde faz sentido usar
A documentação da Microsoft aponta cenários bem concretos:
- Inferência em tempo real e em lote de modelos open-source customizados, com inicialização rápida e escala elástica.
- Machine learning com modelos generativos ajustados, deep learning e redes neurais.
- Computação de alto desempenho (HPC), como simulações científicas e modelagem financeira.
- Renderização e processamento de vídeo/imagem.
Detalhes técnicos que você precisa conhecer
As GPUs serverless funcionam apenas em perfis de carga de trabalho Consumption — não são suportadas em ambientes do tipo Consumption-only. Além disso, há limitações a considerar no desenho da aplicação: apenas um contêiner por app acessa a GPU de cada vez, e não há suporte a réplicas com múltiplas GPUs ou GPU fracionada.
Para acessar o recurso, é preciso ter cota de GPU. Clientes com contrato enterprise e pay-as-you-go já têm cotas de A100 e T4 habilitadas por padrão; os demais solicitam via caso de suporte no portal do Azure.
Domando o cold start
Um risco conhecido de qualquer solução que escala a zero é o tempo de partida a frio — agravado quando o contêiner precisa baixar um modelo de vários gigabytes. A plataforma oferece duas alavancas para reduzir isso:
- Artifact streaming no Azure Container Registry premium, que acelera o início da imagem.
- Storage mounts, mantendo arquivos grandes (como LLMs) em uma conta de armazenamento associada ao app.
Integração com modelos do Foundry
Em preview público, as GPUs serverless já aceitam o deploy de modelos do Microsoft Foundry (tipo MLFLOW) diretamente pela CLI, com o comando az containerapp up apontando para o registro e a versão do modelo. Isso posiciona o recurso como um caminho de baixo atrito entre experimentar um modelo e colocá-lo em produção com escala serverless.
Vale a pena?
Para times que precisam de inferência esporádica ou com picos imprevisíveis, o modelo de pagar por segundo com escala a zero pode reduzir drasticamente o custo em relação a uma GPU dedicada ociosa. Já para cargas contínuas e de altíssimo volume, uma comparação de preço com compute dedicado ainda é recomendável. O ponto forte aqui é a flexibilidade: você traz o seu contêiner, escolhe A100 ou T4, e deixa a plataforma cuidar do provisionamento e da escala.
Fontes