Em destaque: Norton lança Safe AI após alta de 54% em conteúdo malicioso entregue por chatbots de IA

Norton lança Safe AI após alta de 54% em conteúdo malicioso entregue por chatbots de IA Recurso bloqueia ações não autorizadas de assistentes de IA, risco que já encarece vazamentos nas empresas (Magnific)

Priorizar nos meus resultados Google A Norton, marca de segurança digital da Gen, anunciou nesta semana o Safe AI, conjunto de proteções do Norton 360 que monitora o que aplicativos de IA como ChatGPT e Claude fazem no dispositivo do usuário. A ferramenta bloqueia ações não autorizadas, permite definir quais arquivos os assistentes podem abrir e alerta para links arriscados.

O produto é voltado ao consumidor, mas o problema que ele tenta resolver já chegou às empresas. Assistentes de IA deixaram de apenas responder perguntas e passaram a executar tarefas, com isso, ganharam acesso a arquivos, sistemas e dados que antes ficavam fora do alcance de qualquer chatbot.

A cobertura ainda é parcial. O Safe AI funciona em Windows e Mac, mas o Safe Zone está disponível só no Windows, o Safe Links atende às versões de navegador de ChatGPT e Claude, e o Action Shield cobre Claude, Cursor, OpenClaw e VS Code.

O lançamento responde a um aumento mensurável de ameaças. conforme apuração dos redatores da Empire Cidadesn Threat Labs, o conteúdo malicioso entregue a usuários da empresa por meio de chatbots de IA cresceu 54% em 90 dias.

Pesquisa da companhia mostra ainda que mais de dois terços das pessoas se preocupam com privacidade, vazamento de dados ou perda de controle ao usar assistentes autônomos capazes de agir em seu nome.

O salto de autonomia explica a preocupação. Os agentes de IA atuais conseguem rodar comandos, instalar programas e interagir com arquivos, de modo que uma única ação insegura pode gerar dano real.

O ponto mais sensível é a injeção de prompt. A técnica consiste em esconder instruções em um documento, uma página da web ou um e-mail para que a IA siga o comando do atacante, e não o do usuário. A OWASP, organização sem fins lucrativos de referência em segurança de software, publicou em agosto a terceira versão de sua lista de riscos para aplicações com modelos de linguagem, e a injeção de prompt aparece em primeiro lugar pelo terceiro ano consecutivo.

A mesma lista coloca a exposição de informações sensíveis em segundo lugar e o excesso de autonomia, quando a IA tem permissão para executar ações danosas, em terceiro. A recomendação da entidade é projetar sistemas partindo do princípio de que os limites de instrução serão contornados.

Nas companhias, o risco já tem preço. O relatório Cost of a Data Breach 2025, da IBM, mostrou que 13% das organizações pesquisadas sofreram violações envolvendo modelos ou aplicações de IA, e 97% delas não tinham controles de acesso adequados para essas ferramentas.

O estudo também mediu o impacto da chamada IA paralela, o uso de ferramentas por funcionários sem aprovação da área de tecnologia. Uma em cada cinco organizações relatou um vazamento ligado a esse tipo de uso, e as empresas com alto nível de IA paralela tiveram, em média, US$ 670 mil a mais em custos com o incidente.

O dano vai além do financeiro. Os incidentes envolvendo IA paralela comprometeram dados pessoais de clientes em 65% dos casos e propriedade intelectual em 40%, acima das médias globais. Ainda assim, 63% das organizações violadas não tinham políticas de governança para gerir a IA ou detectar seu uso não autorizado.

Os números mostram que a segurança da IA deixou de ser um tema técnico. Quando um assistente pode ler contratos, acessar o e-mail de um diretor ou executar tarefas em sistemas internos, a pergunta sobre o que ele pode fazer passa a envolver risco jurídico, reputação e propriedade intelectual.

A responsabilidade, porém, ainda está longe do topo. Pesquisa da McKinsey indica que só 28% das organizações têm o CEO respondendo diretamente pela governança de IA, e apenas 17% atribuem a tarefa ao conselho.

Há também um dado de comportamento que atinge a própria liderança. Executivos estão entre os usuários mais intensos de assistentes de IA, muitas vezes com acesso privilegiado a documentos estratégicos. Um comando mal configurado no notebook de um diretor pode expor mais do que uma falha no computador de um estagiário.