Revolut dice haber recortado cerca de 90 % su gasto en IA para programar con modelos abiertos en infraestructura propia
La fintech contó su caso en una conferencia, según The Register. Las cifras son de la empresa, y el modelo que usa por defecto no resuelve todas sus tareas.
Revolut hizo de los modelos abiertos alojados en su propia infraestructura la opción por defecto para sus cerca de 2.000 ingenieros. Según The Register, David Abitbol, responsable de operaciones e infraestructura, contó en la conferencia AI Engineer de Nueva York que así bajó alrededor de 90 % el costo de inferencia en menos de un año.
Antes, la empresa había usado Gemini y Claude Code. Abitbol dijo que algunos ingenieros gastaban entre US$1.000 y US$10.000 al mes sin un retorno claro. Ahora usa GLM-5.3 sobre 56 GPU Nvidia B200. Según él, el mayor salto de rendimiento vino de afinar el despliegue, por ejemplo con cuantización y límites de contexto, más que de comprar hardware.
El caso tiene matices. GLM solo procesa texto, así que un router envía las consultas con imágenes a Gemini o GPT. Abitbol también reportó mejoras de productividad, pero son cifras de la propia empresa, sin verificación independiente.
Por qué te importa si construyes con IA: no todo equipo tiene 56 GPU ni quien las opere, así que esta receta no se copia tal cual. Lo aprovechable es la pregunta: mide cuánto gastas por tarea y mira cuáles podrían ir a un modelo más barato con un router.