Entenda: Por que até seus melhores funcionários contornam sistemas de IA que funcionam?

No fim de 2022, um banco global aprovou um sistema de IA desenvolvido para automatizar decisões rotineiras de crédito. No papel, parecia exatamente o tipo de iniciativa inovadora que especialistas vinham incentivando as empresas a adotar. Nos projetos-piloto, o sistema processava solicitações mais rapidamente do que os humanos, reduzia erros e prometia economias relevantes de custos. A equipe de gestão de riscos aprovou a solução, a área de compliance também, e o CEO a promoveu publicamente como prova de que o banco estava abraçando o futuro.

Seis meses depois, o sistema ainda avaliava solicitações e gerava recomendações. Mesmo assim, a maioria dos processos continuava passando por revisão humana. As exceções tinham se multiplicado, e salvaguardas temporárias — como limites para dupla revisão e sinalizações de confirmação manual — tinham se transformado em etapas permanentes do processo. Embora o sistema de IA fizesse parte do fluxo de trabalho do banco, ele nunca chegou a tomar a maior parte das decisões finais.

Versões dessa história estão se repetindo em muitos setores. O problema não são projetos-piloto fracassados. O problema é que as estruturas de responsabilização e legitimidade das organizações não evoluíram para dar suporte ao uso de sistemas de IA.

Por estruturas de legitimidade, refiro-me ao entendimento compartilhado sobre quem tem o direito não apenas de tomar uma decisão, mas também de fazer com que essa decisão seja considerada confiável. Instituições demais estão acumulando inteligência sem se reorganizar em torno dela.

Esse padrão parece novo porque a tecnologia é nova, mas, estruturalmente, não é. Ondas anteriores de automação de decisões — como os sistemas de planejamento de recursos empresariais (enterprise resource planning, ou ERP) e os sistemas de credit scoring — expuseram o mesmo hábito institucional: as organizações adotam sistemas capazes de tomar decisões melhores, mas preservam estruturas de autoridade humana que impedem que as decisões desses sistemas sejam aceitas.

Outras explicações para o fato de os sistemas de IA não receberem autoridade para tomar decisões apontam para soluções equivocadas. Alguns, por exemplo, argumentam que a inércia estrutural causa resistência. Porém, com a IA, muitas vezes vemos uma aparente conformidade: os painéis estão funcionando, os fluxos incluem o sistema e os funcionários o utilizam. Mas, ainda assim, o sistema não recebe direitos reais de decisão.

Pesquisas sobre complacência em relação à automação alertam que os humanos cedem facilmente demais às máquinas, mas esse não é o problema aqui. Neste caso, eles não cedem, porque as estruturas de responsabilização tornam isso profissionalmente perigoso. A literatura sobre o paradoxo da produtividade afirma que os investimentos em TI não se traduzem em ganhos de desempenho, mas, em grande parte, não especifica o mecanismo organizacional que explica o motivo.

Na maioria dessas situações, um sistema de IA é utilizado e celebrado em apresentações ao conselho, mas, quando o sistema e um humano discordam, o humano quase sempre prevalece discretamente.

Os profissionais redefinem os limites do sistema por razões de prudência: estabelecem mais etapas de revisão, fixam limites um pouco mais baixos, criam mais substituições de decisão documentadas e emitem novas sinalizações para casos sensíveis. Esses ajustes são defensáveis individualmente. Coletivamente, são desastrosos.

A gravidade do problema é ainda maior com sistemas de IA agêntica. Sistemas de recomendação ao menos preservam a ficção do controle humano: o sistema propõe, o humano decide, e a responsabilização tem um rosto — mesmo quando ela deveria ter sido transferida.

Sistemas agênticos desfazem essa ficção. Eles não recomendam; eles agem. Fazem reservas, aprovam, encaminham, celebram contratos e escalam casos dentro de parâmetros autorizados por alguém, mas que ninguém monitora continuamente.

Quando um agente atua dentro de seus parâmetros definidos e o resultado é ruim, a questão da responsabilização se torna realmente difícil: o conjunto de parâmetros estava errado? A autorização era ampla demais? O agente encontrou uma situação que seus criadores não previram? Essas perguntas serão feitas em salas de reunião, tribunais e documentos regulatórios.

Quando um sistema de IA recomenda algo, a lacuna de responsabilização produz soluções improvisadas. Mas, quando um sistema agêntico atua, ele pode criar ambiguidade sobre responsabilidade jurídica em larga escala.

A adoção real é inconfundível: os processos decisórios se simplificam. As exceções diminuem, em vez de se multiplicar. A autoridade é redistribuída explicitamente, de modo que as pessoas saibam quem — ou o quê — decide, quem explica e quem absorve o risco. Essa clareza pode causar desconforto, pois força mudanças de papéis. Mas, no fim, ela traz estabilidade, porque a responsabilização passa a estar vinculada à autoridade.

A tecnologia e a arquitetura organizacional precisam avançar juntas, e o trabalho de organização deve ser desenhado antes que um sistema seja escalado, não adaptado posteriormente, quando a resistência já tiver surgido.

Líderes precisam fazer quatro perguntas relacionadas à governança. Elas podem causar algum desconforto, mas são essenciais para revelar lacunas de responsabilização:

Se essas quatro perguntas não forem respondidas explicitamente pela organização quando o sistema de IA for aprovado, elas serão respondidas implicitamente depois, por operadores individuais, em favor da preservação de sua autoridade atual.

A adoção plena só ocorrerá quando aprovar as decisões de um sistema não parecer um sacrifício profissional. Líderes precisam redesenhar os papéis de modo que, quando decisões rotineiras forem automatizadas, o julgamento humano seja elevado para funções de supervisão ampla, definição de limites e aprimoramento do sistema.

As organizações devem estabelecer balizas claras e fornecer aos funcionários ferramentas para explicar decisões que eles não tomaram pessoalmente. Além disso, o sistema precisa ter apoio visível de líderes dispostos a absorver erros iniciais como aprendizado institucional, em vez de culpar indivíduos pelas falhas.

À medida que o julgamento se torna codificável e escalável, as empresas precisarão se reorganizar em torno de seus sistemas de IA. Infelizmente, empresas demais simplesmente adquirem sistemas inteligentes e esperam que o restante se resolva por conta própria. Elas tratam cada implantação de IA como um projeto isolado, cujo sucesso ou fracasso depende do desempenho do modelo, da seleção do fornecedor e da disciplina de implementação.

Nessas empresas, todo novo sistema desencadeia o mesmo ciclo: entusiasmo, contenção, adoção parcial e estabilização silenciosa em um papel consultivo. Com o tempo, os funcionários aprendem que nada fundamental mudará, e os líderes aprendem a moderar suas ambições antes que elas ameacem as estruturas de funções existentes.

Líderes mais perspicazes, em contraste, reconhecem que o que está em jogo não é a automação, mas a autoridade. Eles enxergam onde os direitos de decisão realmente estão, redesenham os fluxos de trabalho em torno das decisões-padrão da máquina, em vez de simplesmente sobrepor sistemas a processos antigos, e governam as transições de forma que não transfiram os custos de aprendizado para funcionários individuais.

Em breve, você aprovará um sistema de IA que funciona. A tentação será medir o sucesso pelas taxas de uso, métricas dos painéis e pela fluidez da implementação. Mas esses sinais são enganosos.

Se o sistema fosse desligado amanhã, as decisões que realmente importam em sua organização mudariam?

Ou as pessoas continuariam tomando decisões como sempre fizeram, apenas sem a interface aberta em suas telas?

Se as decisões não mudariam, então a autoridade não foi transferida. E, se a autoridade não foi transferida, a adoção não ocorreu — não importa quão avançado seja o modelo ou quão disciplinada tenha sido a implementação.

*Das Narayandas é professor Edsel Bryant Ford de Administração de Empresas na Harvard Business School.

C.2026 Harvard Business School Publishing Corp. Distributed by New York Times Licensing.