Em destaque: Bancos deram cheque em branco para IA e agora tentam conter gastos

Ninguém nunca quer dar um cheque em branco para uma equipe de tecnologia. No entanto, para muitos diretores financeiros, foi exatamente isso que lhes foi pedido que fizessem na correria inicial para adotar a IA. Agora, depois de inúmeras contas inesperadas, encontrar uma maneira de controlar os custos tornou-se uma necessidade.

Este é um problema latente nos bancos, onde os orçamentos de tecnologia já estão sob pressão de demandas concorrentes que vão desde a modernização de TI legada até a cibersegurança.

Algumas das maiores esperanças de ganhos de produtividade estão depositadas na IA agêntica, que pode lidar com tarefas complexas de forma autônoma, mas é inerentemente difícil de orçar, pois a quantidade de poder computacional que cada tarefa consome pode ser imprevisível.

“Na verdade, acho que ninguém na organização tem um bom controle sobre isso — se eu vou fazer XYZ, qual vai ser o meu custo?”, disse Bhavi Mehta, sócio da Bain & Co. e líder global de análises avançadas em serviços financeiros.

“À medida que a IA avança para raciocínios mais sofisticados e fluxos de trabalho autônomos, os tokens necessários para uma determinada tarefa podem variar significativamente. Isso torna a compreensão do custo juntamente com o valor do negócio cada vez mais importante à medida que os bancos escalam a IA”, acrescentou.

Apenas 12 dos 50 maiores bancos globais monitorados pela Evident, empresa de benchmarking de IA, atribuíram publicamente retornos projetados ou realizados à sua adoção de IA, de acordo com seu relatório mais recente. No entanto, é raro o CEO que não fala sobre os benefícios potenciais.

O aumento do investimento em tecnologia surgiu durante as teleconferências de resultados do terceiro trimestre em vários bancos dos EUA, do Citigroup Inc. ao Goldman Sachs Group Inc., mas apenas alguns executivos tinham números precisos para seus gastos com IA ou os benefícios financeiros que estão gerando.

Assim, à medida que a indústria passa do estágio de experimentação para o de implantação, a Bloomberg News conversou com mais de uma dúzia de engenheiros, executivos e consultores sobre suas experiências e estratégias.

Série D liderada pela Sapphire avalia a empresa em US$ 1,4B, acima da Enter, e vai financiar a aposta em IA física para a indústria pesada

Estudo de INSEAD e Harvard aponta que ganhos expressivos surgem quando a IA transforma fluxos de trabalho inteiros, e não apenas tarefas isoladas

Embora o tokenmaxxing — a prática de engenheiros usarem IA o máximo possível — tenha se tornado notório — essa nem sempre é a causa da explosão no uso de tokens.

Quando o monitoramento do Deutsche Bank AG sinalizou funcionários individuais consumindo volumes anormalmente grandes de tokens, muitos acabaram se revelando fazendo trabalho útil, disse Christoph Rabenseifner, diretor de estratégia de tecnologia, dados e inovação do banco. Em vez de interromper o uso, o banco direcionou-o para uma finalidade mais produtiva. Além disso, testou uma tarefa em um modelo menor e especialmente treinado, em vez de um grande modelo de ponta, reduzindo os custos em várias vezes, acrescentou Rabenseifner.

O Banco Santander SA executa grandes modelos de fronteira apenas para verificar se uma aplicação atende ao seu padrão de qualidade, depois transfere cargas de trabalho comprovadas para modelos mais leves e baratos. A abordagem ajudou a reduzir os custos de execução de cerca de €5 (US$ 5,61) para €0,03 por processo de aprovação de empréstimo, disse Ignacio Bernal, diretor de inteligência artificial do banco.

“Quando você move a IA de pilotos para produção em um banco global, o custo de inferência deixa de ser um erro de arredondamento e se torna uma linha de custo operacional real”, disse Bernal, observando que alguns processos são executados milhões de vezes por ano, aumentando significativamente as despesas computacionais.

O Canadian Imperial Bank of Commerce descobriu que seus modelos mais poderosos, incluindo o Opus da Anthropic PBC, podem custar C$ 3.000 (US$ 2.130) por funcionário por mês, uma conta que poderia aumentar rapidamente entre milhares de trabalhadores.

Como medida de controle de custos, o banco restringiu o acesso a algumas centenas de funcionários, enquanto limitou seu mais recente workspace integrado, o CAI 2.0, ainda em teste, a 250 usuários que podem gastar entre 4 e 250 dólares canadenses por mês cada.

“É poderoso demais para 50.000 pessoas simplesmente usá-lo sem controle”, disse Jaime Tatis, diretor de dados e inteligência artificial do CIBC, em uma entrevista em julho.

A IA agêntica está emergindo como um dos principais impulsionadores do aumento dos custos. Os grandes bancos anunciaram 19 casos de uso de IA agêntica no primeiro trimestre de 2026, acima dos oito do trimestre anterior, de acordo com a Evident.

No segundo trimestre, o número caiu pela metade – não porque os bancos estão esfriando em relação aos agentes, mas porque as empresas estão pedindo que eles assumam trabalhos mais complexos.

O Wells Fargo & Co., por exemplo, quer que a IA agêntica domine 1.100 etapas do processo de hipoteca antes de implantá-la nos fluxos de trabalho, diz o relatório da Evident.

Ao contrário das ferramentas de IA convencionais, os sistemas agentivos executam autonomamente tarefas complexas de várias etapas, que incluem analisar demonstrações financeiras, rastrear tomadores de empréstimos, verificar documentos e detectar atividades de lavagem de dinheiro. Esse processamento exige recursos computacionais significativos, traduzindo-se em um consumo mais pesado de tokens e, por sua vez, elevando os custos mensais.

Em um banco asiático, depois que algumas equipes queimaram sua alocação de tokens na primeira semana, o banco decidiu agrupar tokens e construir um agente que reduz os prompts antes que eles cheguem a um modelo, de acordo com um executivo de dados sênior que pediu para não ser identificado ao falar sobre assuntos internos.

A questão do custo trouxe os modelos chineses para a conversa. Uma nota do JPMorgan Private Bank de julho disse que um modelo GLM da Z.AI, de Pequim, teve desempenho equivalente ao melhor modelo disponível em março por mais de 80% menos do que o modelo de fronteira mais caro da época.

Os maiores bancos de Cingapura estão experimentando uma variedade de modelos. A estrutura de IA neutra do United Overseas Bank Ltd. está aberta a provedores chineses, e o DBS Group Holdings Ltd. diz que não depende excessivamente de nenhum provedor, seja dos EUA ou chinês.

Os reguladores sinalizaram algumas preocupações. O órgão regulador bancário do Canadá pediu recentemente que a equipe elaborasse padrões mínimos para como os bancos usam modelos de IA de fronteira, incluindo em segurança, enquanto a vice-presidente do Federal Reserve dos EUA para Supervisão, Michelle Bowman, alertou os bancos para reforçarem seus sistemas contra ameaças impulsionadas pela IA.

Isso torna modelos menos testados, particularmente os estrangeiros, mais difíceis de justificar para os conselhos. Os diretores de risco também se preocupam que os agentes de IA, uma vez implantados, possam se comportar de forma imprevisível dentro dos próprios sistemas do banco, uma preocupação que ganhou força nos últimos meses.

O National Australia Bank Ltd. citou preocupações de segurança e governança ao considerar alternativas aos modelos de IA construídos nos EUA, incluindo os chineses, informou a Bloomberg News em agosto.

Durante a correria inicial para serviços em nuvem há mais de uma década, os bancos levaram pelo menos cinco anos para controlar os custos que aumentavam com o uso e trazê-los para uma linha orçamentária dedicada, de acordo com J.R. Storment, diretor executivo da Tokenomics Foundation. O que é diferente agora é que os diretores financeiros estão reagindo aos picos de custos de IA dentro de 6 a 18 meses após a adoção, tornando difícil colocar um preço final em modelos de IA premium, acrescentou.

Nitin Madan, ex-CFO das operações do Barclays Plc na Índia, lembra-se bem da pressão. Quando ele perguntou aos seus colegas do lado da tecnologia quais modelos de IA eles planejavam implantar e quanto custariam, foi informado de que tais perguntas estavam “deixando todo mundo desconfortável”, disse Madan.

Como novas ferramentas e atualizações de IA chegam ao mercado em rápida sucessão, Madan disse que os gastos com IA em toda a indústria não podem ser distribuídos por vários anos como a maioria dos custos de software, então eles impactam os lucros imediatamente. Ninguém pode dizer com confiança se os modelos de hoje ainda estarão em uso daqui a três anos, acrescentou.

No JPMorgan Chase & Co., alguns funcionários estavam “gastando mais com tokens do que seu salário” e, no entanto, a empresa não estava racionando o uso de IA na época, disse Zachery Anderson, diretor de dados e análises da divisão de pagamentos do banco, ao Semafor em junho.

Desde então, o JPMorgan estabeleceu limites mensais de gastos de US$ 2.000 no Claude Code da Anthropic para certos engenheiros, informou o Business Insider neste mês. O CFO do banco, Jeremy Barnum, disse na teleconferência de resultados do banco neste mês que sua despesa anual com IA era de cerca de US$ 700 milhões, embora seja difícil definir um número preciso porque a tecnologia agora está espalhada por todo o banco.

JPMorgan Chase & Co. Antes dos Resultados A sede do JPMorgan Chase & Co. em Nova York. Fotógrafo: Gabby Jones/Bloomberg Em muitos outros bancos, a liderança também passou de tratar os gastos com IA como virtualmente ilimitados para encontrar maneiras de contê-los.

Alex, um engenheiro sênior de machine learning em um grande banco europeu, foi solicitado a limitar os gastos com IA de sua equipe em fevereiro deste ano. O gatilho foi uma conta de € 80.000 que a equipe acumulou depois de construir um chatbot avançado e implantá-lo em milhares de fluxos de trabalho.

A quantia, embora dificilmente ultrajante para um grande banco, sinalizou ao diretor financeiro que poderia se transformar em milhões se não fosse controlada. Para Alex, que pediu para não ser identificado pelo nome completo para evitar repercussões profissionais, a questão rapidamente passou de se o chatbot funcionava para se o banco poderia pagar para executá-lo em escala.

Para reduzir custos, ele reformulou o chatbot para que ele armazenasse em cache as respostas para perguntas frequentes e as reexibisse sempre que um usuário perguntasse novamente. Solicitações mais simples foram para modelos de código aberto.

Apenas prompts intensivos em tokens, aqueles que exigiam pesquisas mais profundas, foram para modelos premium de plataformas como ChatGPT ou Claude. Isso reduziu a conta de IA em aproximadamente um terço.

Alguns bancos estão enfrentando o problema de previsão mais cedo. O banco francês BNP Paribas SA aprova todo projeto de IA depois que seu custo operacional é calculado. A plataforma interna do grupo define um preço de token, multiplica-o pelos volumes esperados e pesa o total contra o valor que a ferramenta deve entregar, disse Hugues Even, diretor de dados do grupo do banco.

O BNP cobre a maior parte de suas necessidades computacionais com seus próprios chips, comprados como investimentos plurianuais, e os complementa com provedores de nuvem.

O BNP distribui a supervisão da IA entre comitês presididos pelos chefes de tecnologia, risco, finanças e recursos humanos, além de um comitê de IA do grupo liderado pelo CEO. “Cada um está pegando sua parte do bolo”, disse Even. O diretor financeiro controla o custo de implantação da IA em todo o grupo, acrescentou.

Muitos bancos estão lidando com a velocidade da mudança, à medida que modelos mais novos e mais caros chegam antes que a última integração esteja completa. E para ajudá-los a medir e conter os potenciais aumentos de custos, uma indústria paralela está surgindo.

A Ramp, que ajuda empresas a rastrear e controlar gastos com tokens, diz que uma em cada três empresas que usam sua ferramenta descobriu onde poderiam migrar de modelos de fronteira mais caros para modelos mais baratos sem comprometer a qualidade.

A Rogo Technologies Inc., uma startup de IA que trabalha com banqueiros, diz que agrupa a demanda entre clientes para negociar descontos com laboratórios de IA e permite que os bancos definam orçamentos de tokens até o nível de usuários individuais.

A Tokenomics Foundation, cujos membros incluem JPMorgan, Bank of New York Mellon Corp., KPMG LLP e Google Cloud, foi criada para estabelecer padrões industriais compartilhados para rastrear custos de IA, que muitas vezes são opacos. Ela busca medir o que as empresas recebem em troca.

O acesso tornou-se também uma questão de contratação. No banco asiático, candidatos a desenvolvedores perguntam em entrevistas de emprego sobre seu orçamento de tokens juntamente com seu salário. Engenheiros perguntam quais modelos receberão e quais limites se aplicam, disse Madan, o ex-CFO.

David Hardoon, que liderou a capacitação de IA no Standard Chartered Plc e agora é chefe de IA avançada para o Sudeste Asiático na Accenture Plc, argumenta que toda grande organização precisa de um diretor de IA com autoridade real.

Embora vários bancos já tenham um, poucos deram ao cargo poder suficiente para impor disciplina na previsão e implantação sem desacelerar a inovação. Um diretor de IA poderia ser o dono dessa questão, mas apenas com a autoridade para agir em toda a organização, disse Hardoon.

Por enquanto, manter o controle sobre a equação de custos durante a corrida do ouro da IA pode causar tensões internas, especialmente quando os executivos do banco sentem que não podem correr o risco de ficar para trás na adoção.

O pensamento é: “Se não estamos fazendo isso, nossos concorrentes estão fazendo”, disse Vitaly Gordon, CEO da Faros AI, uma empresa de software que ajuda bancos e empresas de tecnologia a vincular gastos com IA a resultados.

Essa mentalidade de corrida armamentista em toda a indústria está se traduzindo em queima de caixa e causando uma situação em que, segundo ele, “na maioria dos casos, é apenas um CFO recebendo uma conta e gritando”.

Para entrar em contato com o autor desta história: Rthvika Suvarna em Cingapura em rsuvarna7@bloomberg.net