Tradução automática do espanhol. Pode conter erros.
Revolut diz ter cortado cerca de 90% dos gastos com IA para programar usando modelos abertos em infraestrutura própria
A fintech contou seu caso em uma conferência, segundo o The Register. Os números são da própria empresa, e o modelo que ela usa por padrão não dá conta de todas as tarefas.
A Revolut transformou os modelos abertos hospedados em sua própria infraestrutura na opção padrão para seus cerca de 2.000 engenheiros. Segundo o The Register, David Abitbol, responsável por operações e infraestrutura, contou na conferência AI Engineer, em Nova York, que com isso o custo de inferência caiu cerca de 90% em menos de um ano.
Antes, a empresa usava Gemini e Claude Code. Abitbol disse que alguns engenheiros gastavam entre US$1.000 e US$10.000 por mês sem um retorno claro. Hoje ela usa o GLM-5.3 rodando em 56 GPUs Nvidia B200. Segundo ele, o maior salto de desempenho veio de ajustes no deployment, como quantização e limites de contexto, mais do que da compra de hardware.
O caso tem nuances. O GLM só processa texto, então um router encaminha as consultas com imagens para o Gemini ou o GPT. Abitbol também relatou ganhos de produtividade, mas são números da própria empresa, sem verificação independente.
Por que isso importa se você constrói com IA: nem todo time tem 56 GPUs nem alguém para operá-las, então essa receita não dá para copiar do jeito que está. O que vale aproveitar é a pergunta: meça quanto você gasta por tarefa e veja quais poderiam ir para um modelo mais barato com um router.