Atualização: Uma nova teoria pode ajudar a decifrar o ‘pensamento’ da IA — e controlar seus riscos

Uma nova teoria pode ajudar a decifrar o ‘pensamento’ da IA — e controlar seus riscos Nick Cammarata propõe outra leitura sobre os neurônios artificiais, mas hipótese ainda não demonstra controle completo de modelos Inteligência artificial: pesquisadores investigam como interpretar o funcionamento dos modelos (imagem ilustrativa/Freepik) (Freepik)

Tamires Vitorio Repórter de Inteligência Artificial e Tecnologia

Publicado em 17 de outubro de 2026 às 18h01 .

Priorizar nos meus resultados Google RESUMO ＋ Nick Cammarata, pesquisador com passagem pela OpenAI, propõe que redes neurais sejam mais interpretáveis do que indicavam algumas explicações anteriores. A hipótese pode orientar pesquisas sobre o funcionamento dos modelos, mas não demonstra que sistemas de IA já possam ser inteiramente compreendidos ou controlados.

Um neurônio artificial respondia tanto a rostos de gatos quanto à frente de automóveis. Durante anos, o exemplo ajudou a representar um problema da inteligência artificial, a aparente mistura de conceitos sem relação dentro de uma mesma rede. Ao voltar ao caso, Nick Cammarata propôs uma explicação mais simples. Talvez o neurônio identificasse formas pontiagudas, como um V, presentes nas duas imagens.

Em ensaio publicado na quinta-feira, 15, no site da Goodfire, o pesquisador e ex-integrante da OpenAI apresenta uma hipótese de trabalho segundo a qual os mecanismos internos das redes neurais podem ser mais compreensíveis do que sugeriam evidências anteriores.

O interesse vai além de descobrir como um modelo reconhece imagens. Entender os mecanismos que produzem uma resposta é um dos objetivos da interpretabilidade, campo que procura investigar o funcionamento interno da IA e apoiar a análise de comportamentos indesejados.

Uma explicação influente, chamada superposição, propõe que redes possam representar mais características do que o número de neurônios permitiria por uma correspondência simples.

Nessa leitura, observar um neurônio isoladamente pode revelar uma combinação difícil de interpretar.

Cammarata argumenta que alguns exemplos clássicos foram mal compreendidos e que parte da confusão vinha das ferramentas de análise e de problemas nas arquiteturas estudadas. Ele propõe investigar diretamente os neurônios, suas conexões e seu desenvolvimento durante o treinamento.

No ensaio, chama de generalização recursiva o processo pelo qual uma função se amplia para casos relacionados. A hipótese não foi apresentada como demonstração de que toda mistura de funções em qualquer modelo já está explicada.

O campo já produziu experimentos que ligam estruturas internas a mudanças observáveis de comportamento. Em 2024, a Anthropic anunciou a identificação de milhões de características em uma camada do Claude 3 Sonnet e mostrou como alterar sua ativação mudava as respostas.

Um dos exemplos envolvia a ponte Golden Gate. Ao amplificar uma característica associada a ela, os pesquisadores fizeram o modelo mencionar a ponte até em respostas nas quais o assunto não era pertinente. O teste ajudava a investigar uma relação causal, em vez de apenas observar que determinada ativação acompanhava um tema.

Naquele trabalho, a Anthropic também reconhecia que mapear representações não bastava para explicar todos os cálculos nem demonstrava, por si só, uma melhoria de segurança. Essa distância continua relevante na pesquisa sobre redes neurais.

O texto de Cammarata distingue observações, explicações propostas e expectativas mais especulativas. O pesquisador também afirma que um trabalho técnico complementar detalhará os experimentos com modelos de linguagem.

A possibilidade de tornar esses sistemas mais legíveis não equivale a demonstrar que qualquer comportamento perigoso pode ser identificado ou impedido. O próprio alcance da proposta ainda depende de testes e avaliação científica.

Para Cammarata, a perspectiva é estudar a organização interna sem presumir que ela seja um emaranhado impossível de interpretar. “Quase toda a rede é interpretável se olharmos de perto o suficiente”, escreveu no ensaio.

Não. O trabalho trata de mecanismos computacionais em redes neurais. O uso de “pensamento” não demonstra consciência nem experiência humana.

É a investigação dos mecanismos internos de um modelo para compreender como eles contribuem para seu comportamento.

Não. Ela propõe um caminho de investigação, sem demonstrar uma solução completa de segurança.

É um pesquisador de interpretabilidade com passagem pela OpenAI. O ensaio foi publicado no site da Goodfire como uma hipótese de trabalho.

Primeiro iPhone dobrável da Apple chega ao Brasil em quatro opções de armazenamento, com preços a partir de R$ 21.999 e a mesma ficha técnica em todas as configurações

Fortunas estimadas em 16 de outubro superam em 11,4% a produção italiana de 2025; comparação mostra escala, mas reúne medidas diferentes

De Musk a Huang, ranking da Bloomberg reúne fundadores e um ex-CEO de gigantes digitais; Warren Buffett é a única exceção

Site imita pré-venda da Apple e tenta explorar falhas em iPhones vulneráveis; pesquisadores não confirmaram roubo em um aparelho real