Entenda: O risco da IA para a humanidade é ‘próximo de zero’, diz CEO da Hugging Face

A inteligência artificial (IA) é perigosa em alguns aspectos, mas representa uma ameaça “próxima de zero” para a humanidade. A opinião é de Clément Delangue, CEO da Hugging Face.

A plataforma é um repositório de códigos e modelos de IA, mais conhecida fora da indústria por ser até agora o alvo mais famoso de um agente rebelde da OpenAI.

A opinião vai contra alguns pesquisadores do setor, que denunciam os possíveis riscos graves do crescimento acelerado da capacidade dessas ferramentas. Porém, o executivo crê que há “ muitos outros tópicos que podem destruir o mundo ” para além de um sistema automatizado.

Delangue falou sobre o assunto durante um evento organizado pela Wired. No painel, o CEO defendeu ainda lutar pela criminalização de invasões cometidas por agentes de IA, mesmo os que estavam em ambientes de teste e “ saíram do controle ” dos responsáveis.

“Ciberataques são ilegais, e considero fundamental garantir que ciberataques autônomos também sejam ilegais. Não queremos criar um cenário em que não haja responsabilização, em que ninguém responda” argumenta. Porém, a própria Hugging Face decidiu não processar ou denunciar a OpenAI após a tentativa de exploração de brechas.

Atualmente de propriedade da Nvidia, a Hugging Face seguirá fomentando o mercado aberto de IA, para que modelos abertos e mais transparentes tenham cada vez mais espaço no mercado.

Segundo Delangue, isso é essencial para evitar que a indústria da IA fique na mão de poucas empresas responsáveis — especialmente companhias que constroem modelos de ponta “ sob portas fechadas ” e em segredo, como é o caso da própria dona do ChatGPT.

“É perfeitamente possível que acabemos em um mundo no qual apenas algumas empresas controlem a maior parte da IA. Existem tendências naturais muito fortes, já que elas acabam monopolizando talentos, poder computacional e capacidades”, alerta o executivo.

A invasão da Hugging Face, segundo ele, é um exemplo disso: a companhia adotou um modelo aberto chinês, o GLM-5.2, para investigar e restringir os efeitos da invasão sofrida.

A ideia da companhia é permitir que cada vez mais pessoas tenham acesso a modelos customizados de IA, o que ajudaria na formação de um “ futuro tecnológico mais democrático ”.

Como a IA está ampliando os riscos de ataques cibernéticos no geral? Entenda nesta coluna! /Com informações de Wired.

Reiteramos nosso compromisso em indicar apenas produtos e promoções curados e selecionados pelos nossos especialistas, sempre levando em consideração a experiência dos nossos leitores.

Sempre verifique códigos e descontos. Lojas e marcas podem alterar ou encerrar ofertas a qualquer momento.