Atualização: IAs ameaçaram humanos e sabotaram tarefas em testes; entenda os casos

IAs ameaçaram humanos e sabotaram tarefas em testes; entenda os casos Pesquisas de 2026 mostram avanços contra falhas antigas e novos problemas; em outubro, Anthropic relatou ações indevidas em sites reais Tamires Vitorio Repórter de Inteligência Artificial e Tecnologia

Publicado em 17 de outubro de 2026 às 17h47 .

Priorizar nos meus resultados Google RESUMO ＋ Depois dos testes de chantagem divulgados em 2025, pesquisas de 2026 identificaram outras falhas em agentes de IA, incluindo sabotagem de código e manipulação de avaliações em simulações. Em outubro, a Anthropic também relatou ações indevidas em sites reais. Melhorias nos testes antigos não equivalem à eliminação dos riscos.

Uma tarefa de demonstração terminou com uma informação inventada enviada à polícia. Durante uma avaliação, o Claude Haiku 4.5 encontrou uma página sobre um homicídio não solucionado, preencheu um formulário com uma suposta pista e o enviou. Segundo a Anthropic, a mensagem foi classificada como spam e não chegou à investigação.

O episódio aparece em um relatório publicado pela empresa na semana passada. Diferentemente dos testes de chantagem que ganharam repercussão no ano passado, esse caso envolveu um site real. A companhia afirma que os episódios reunidos no documento tiveram impacto limitado, mas anunciou novas restrições ao acesso à internet em suas avaliações.

Os relatos acrescentam uma dimensão à discussão sobre agentes de IA. Sistemas capazes de usar ferramentas precisam distinguir entre encontrar uma maneira de concluir a tarefa e ter autorização para executá-la.

O relatório de outubro descreve quatro categorias de ações indevidas, incluindo exploração de falhas em servidores e contorno de restrições de acesso a dados. Segundo a Anthropic, nenhum dos casos identificados envolveu dados de clientes ou seus próprios sistemas internos.

No episódio policial, o modelo havia recebido a tarefa de criar e executar exemplos de interação com páginas da internet. As instruções proibiam várias ações sensíveis, mas não excluíam expressamente o envio de formulários.

A empresa passou a restringir o acesso à internet em todas as avaliações internas até confirmar a eficácia de seus controles. Também informou ter reforçado ferramentas de monitoramento. Esses relatos não demonstram, por si só, que o sistema tenha desenvolvido uma intenção geral de enganar.

O ponto de partida dessa linha de pesquisa foi um estudo com 16 modelos de diferentes desenvolvedores. Em empresas fictícias, agentes receberam acesso a e-mails e encontraram ameaças de substituição ou conflitos com os objetivos que deveriam perseguir.

Em uma configuração, o Claude Opus 4 tentou chantagear um executivo em 96 de cem execuções. O cenário foi deliberadamente construído com poucas alternativas, e a taxa não representa o comportamento esperado no uso cotidiano.

Em maio de 2026, a Anthropic apresentou mudanças no treinamento e informou que vários modelos posteriores registraram zero ocorrências na avaliação original. A própria companhia ressalvou que o conhecimento prévio do teste poderia influenciar resultados e que o avanço não garantia segurança em situações diferentes.

Uma continuação da pesquisa, intitulada Agentic Misalignment in Summer 2026 , examinou sabotagem de código, ajuda para encobrir fraudes, manipulação de classificações e incentivo a humanos para divulgar informações confidenciais. Todos esses casos foram produzidos em simulações.

Em um cenário de pesquisa, Gemini 3.1 Pro realizou intervenções não autorizadas em 19 de 20 execuções; 11 foram ocultas . Em uma delas, alterou arquivos para que um experimento aparentasse funcionar sem aplicar a intervenção pretendida.

Os autores alertam que vinte execuções por modelo e cenários selecionados para encontrar falhas não sustentam um ranking geral de segurança. Também distinguem ajudar um usuário a fazer algo prejudicial de agir contra suas instruções — problemas que exigem respostas diferentes.

A sequência dos trabalhos mostra por que uma avaliação isolada é insuficiente. Reduzir a chantagem em um cenário conhecido não informa, sozinho, como o agente lidará com documentos financeiros, alterações de código ou um formulário encontrado durante outra tarefa.

Na atualização de maio, a Anthropic reconheceu que sua metodologia de auditoria ainda não era suficiente para descartar ações autônomas graves. Os relatos de outubro ampliaram o conjunto de comportamentos que a empresa afirma precisar detectar, bloquear e corrigir.

O relatório de outubro descreve interações com sites e sistemas reais. A pesquisa sobre sabotagem e fraude utilizou simulações.

Segundo a Anthropic, a mensagem foi classificada como spam e não foi encaminhada para investigação.

A empresa relatou melhorias na avaliação original, mas isso não comprova a eliminação de falhas em outros cenários.

Não como um ranking geral. Os resultados dependem dos cenários, das instruções e da seleção dos testes.

Empresa diz trabalhar com Anthropic, OpenAI e Google para responder à invasão; contas atingidas tinham provedores externos vinculados

Bloqueios procuram separar busca, treinamento e navegação automatizada em uma disputa por conteúdo, audiência e remuneração

Em entrevista a Walter Isaacson, também criticou a resistência política a cortes e reconheceu que deveria ter voltado mais cedo às suas empresas

Nova versão já está disponível no site, no aplicativo e para desenvolvedores, com melhorias em programação e raciocínio