Voltar para o blog

Agentes de IA não rodam só em GPU: o que entra no custo de infraestrutura

Uma projeção da TrendForce aponta mais servidores com CPU por causa da IA agêntica, e o CEO da Nvidia disse que licenças de software vão pesar mais no negócio da empresa. Veja o que isso indica sobre o custo de rodar agentes de IA e como uma PME pode manter esse custo previsível.

Quando se fala em custo de IA, a conversa costuma parar na GPU, o chip que treina e roda os modelos. Duas notícias desta semana mostram que, com agentes de IA, a conta tem mais linhas: processador comum, memória e licença de software também entram.

Nenhuma das duas é fato consumado. Uma é projeção de mercado, a outra é uma fala de executivo sem detalhes oficiais. Mas, lidas juntas, ajudam a entender por que o preço de rodar agentes na nuvem tende a refletir mais do que o modelo em si.

O que a TrendForce projeta para os servidores?

Segundo a Electronics Weekly, que cita a consultoria TrendForce, os embarques de CPUs para servidores devem crescer 31% em 2026 na comparação anual e mais de 40% em 2027. O motor apontado é a inferência de IA, ou seja, o uso dos modelos no dia a dia, e a IA agêntica.

A consultoria diz que os agentes aumentam a fatia de trabalho de inferência nos datacenters de nuvem. E, com base nas configurações de rack planejadas pelos grandes provedores, estima que a proporção entre CPUs e aceleradores (GPUs e ASICs) passe de cerca de 1 para 8 para 1 para 2, podendo chegar a 1 para 1. São projeções, e podem mudar conforme os provedores ajustarem seus planos.

O que o CEO da Nvidia disse sobre licenças?

O Tom's Hardware relata que, na GTC Berlim, em 22 de outubro, Jensen Huang disse que o licenciamento de software vai se tornar uma parte cada vez maior do negócio da Nvidia, e mencionou algo em torno de US$ 2.000 por GPU por ano para rodar o software da empresa que executa agentes nas chamadas fábricas de IA.

A própria reportagem ressalta os limites dessa fala: a Nvidia não informou quais produtos esse valor cobre, se ele é o preço padrão, a quantas GPUs se aplica nem quando passaria a valer. O site lembra ainda que o Nvidia AI Enterprise tem preço de tabela de US$ 4.500 por GPU na assinatura de um ano, mas não há confirmação de que os dois valores se refiram aos mesmos produtos. Por isso, o número deve ser lido como uma indicação de direção, e não como uma tabela de preços.

Por que um agente usa mais do que GPU?

As fontes não detalham esse ponto, então aqui vai a nossa leitura de engenharia. Um agente de IA não é só uma chamada ao modelo. Em volta do modelo existe um trabalho que costuma rodar em CPU e memória:

  • Orquestração. Decidir o próximo passo, chamar ferramentas, tratar erros e repetir quando algo falha.
  • Memória e contexto. Buscar o histórico da conversa, documentos e dados do cliente antes de cada resposta.
  • Integrações. Consultar o ERP, o CRM, a agenda ou o banco de dados, e gravar o resultado.
  • Regras e validações. Checar permissões, aplicar limites e registrar cada ação para auditoria.

Quanto mais passos uma tarefa tem, mais desse trabalho em volta do modelo acontece. É por isso que o crescimento dos agentes puxa a demanda por CPU nos datacenters, e é também por isso que o custo de um agente não se resume ao preço por token.

O que isso significa para a conta de uma PME?

A empresa pequena não compra servidor nem GPU. Ela paga pelo uso na nuvem, por API de modelo ou por assinatura de ferramenta. Mas o que o provedor gasta com CPU, memória, energia e licenças de software tende a aparecer, de alguma forma, no preço cobrado. Para quem vai colocar agentes em produção, vale olhar o custo por inteiro:

  • Chamadas ao modelo, que variam com o tamanho do modelo e com a quantidade de texto enviada e recebida.
  • Computação em volta do modelo: orquestração, integrações e buscas em memória.
  • Armazenamento e memória do histórico e dos documentos que o agente consulta.
  • Licenças e assinaturas recorrentes das ferramentas e plataformas usadas.
  • Monitoramento, registro e revisão humana das ações que pedem aprovação.

Como manter o custo de um agente previsível?

Custo previsível vem do desenho, não de sorte. Na FlowNexus, quando projetamos um agente sob medida, alguns cuidados entram desde o começo:

  • Modelo do tamanho da tarefa. Classificar uma mensagem não pede o mesmo modelo que redigir uma proposta.
  • Código onde não precisa de IA. Cálculo, consulta e regra fixa rodam em código comum, sem chamar o modelo.
  • Cache e lotes. Respostas e consultas repetidas são reaproveitadas, e o que pode esperar é processado em lote.
  • Limite de passos. O agente tem um número máximo de tentativas e de chamadas por tarefa, para não entrar em loop.
  • Custo por tarefa medido. Cada execução registra quanto custou, e a empresa acompanha isso como acompanha qualquer outra despesa.
  • Alertas de orçamento. Quando o gasto foge do esperado, alguém é avisado antes da fatura chegar.
  • Escolha de onde rodar. Dependendo do volume, a hospedagem e o provedor mudam a conta, e isso entra na decisão de arquitetura.

Não dá para prometer um valor fixo sem conhecer o processo, o volume e os sistemas envolvidos. O que dá para fazer é projetar o agente para que o custo seja medido, limitado e explicado. Falamos das camadas desse tipo de sistema em As quatro camadas de um software com agentes de IA e dos controles em Agente de IA como funcionário com crachá.

O preço de um agente de IA não está só no modelo. Está em tudo o que roda em volta dele, e isso pode ser desenhado para caber no orçamento.

Leia também

Fontes

Transforme essa leitura em um sistema.

Diagnóstico da operação, projeto e construção por etapas. O próximo passo depende do seu caso, não de um pacote pronto.

Tem um processo que merece um sistema?

Conte o que você precisa. A equipe técnica lê cada pedido e estuda o caso antes da primeira conversa.

Avaliar meu projeto