Panorama: Big techs reforçam combate a conteúdos falsos gerados por IA nas eleições dos EUA

OpenAI, Anthropic, Google e Meta reforçaram suas estratégias para impedir que ferramentas de inteligência artificial (IA) sejam usadas para manipular as eleições legislativas dos Estados Unidos, que estão sendo realizadas nesta terça-feira (3). As empresas montaram equipes especializadas para monitorar atividades suspeitas e tentar conter campanhas de desinformação capazes de comprometer a confiança no processo democrático.

Na OpenAI, mais de uma dúzia de funcionários trabalha em uma central de operações instalada em escritório da companhia em São Francisco (EUA). A estrutura representa ampliação significativa dos esforços adotados pela empresa durante a eleição presidencial de 2024, quando os recursos de IA eram menos avançados e o ChatGPT tinha apenas um quinto da base de um bilhão de usuários que possui atualmente.

“Em 2024, a tecnologia mais acessível era o texto. Agora, não estamos monitorando apenas textos”, afirmou Josh Lawson, responsável pela área de riscos cívicos e estratégicos da OpenAI e líder da operação, ao The New York Times.

O cenário atual inclui ameaças que vão de vídeos deepfake e ataques cibernéticos a operações de influência estrangeira e doméstica. Com ferramentas de IA, esse tipo de campanha pode ser produzido e colocado em circulação a partir de uma sequência de comandos.

Um levantamento do Brennan Center for Justice, organização ligada à Faculdade de Direito da Universidade de Nova York, identificou cenário contraditório.

Os chatbots mais populares geralmente resistem a solicitações relacionadas a teorias conspiratórias sobre eleições. Ao mesmo tempo, as ferramentas de IA produzem regularmente textos, imagens e vídeos que podem ser utilizados para enfraquecer a confiança na votação.

A preocupação também está relacionada à redução das equipes de segurança e moderação das redes sociais nos últimos anos. Após a interferência russa nas eleições presidenciais de 2016, a Meta criou uma central de operações para as eleições legislativas de 2018.

Desde então, porém, a Meta e outras plataformas reduziram equipes responsáveis por segurança e combate à desinformação eleitoral. A decisão ocorreu em meio à pressão de republicanos e, a partir de 2025, do governo Donald Trump, que acusaram as empresas de censurar opiniões conservadoras.

Esse recuo coincidiu com a expansão das ferramentas de IA, aumentando os receios sobre o impacto da tecnologia nas eleições. Especialistas e ex-integrantes do governo estadunidense também alertaram para a capacidade desses recursos de tornar campanhas de manipulação mais convincentes, enquanto o governo Trump desmontou equipes federais que anteriormente atuavam no combate a ameaças ao processo eleitoral.

“Seria imprudente pensar que essa ameaça desapareceu e que a tecnologia não está tornando essas ameaças mais poderosas e convincentes”, afirmou Lauren Protentis, ex-integrante do Conselho de Segurança Nacional dos Estados Unidos, onde supervisionava questões relacionadas à influência estrangeira maliciosa durante o governo de Joe Biden.

A OpenAI já havia divulgado tentativas de Rússia, China e Irã de utilizar o ChatGPT em operações de influência estrangeira. A empresa afirma ter interrompido duas campanhas desse tipo no mês anterior à eleição estadunidense.

Até o momento, porém, a companhia não havia divulgado nenhuma operação específica relacionada às eleições legislativas de novembro.

O investigador-chefe da OpenAI, Ben Nimmo, afirmou que o objetivo é identificar essas iniciativas antes que consigam alcançar um público significativo.

“Estamos tentando detectar as operações antes que tenham a oportunidade de ganhar força”, declarou.

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.