Novos ataques hackers ameaçam fechar o modelo open-source de IA, alerta Hugging Face

1:37 Opinião do Colunista - Tive a oportunidade de conhecer, por dentro, um pouco do processo de desenvolvimento tecnológico da Oracle Red Bull Racing. Crédito: Igor Lopes

A crescente onda de ataques hackers a plataformas de código aberto pode fazer com que a indústria repense essa forma de permissividade em seus sistemas. Quem disse isso foi Irene Solaiman, chefe de políticas da Hugging Face, um dos maiores repositórios de inteligência artificial do mundo.

Um dos pontos que contribuim para a expansão exponencial das IAs nos últimos anos foi justamente esse caráter colaborativo das plataformas open-source. No entanto, o aumento gradual no número de incidentes cibernéticos pode restringir esse mercado e tornar as coisas mais ‘fechadas’ para desenvolvedores.

Solaiman alertou durante um episódio do podcast Equity que essas características das plataformas são exatamente o que os cibercriminosos procuram. A premissa de permitir que qualquer usuário, desde um estudante sem afiliação institucional até um pesquisador corporativo, contribua e acesse códigos livremente, expõe o sistema a vulnerabilidades críticas.

A executiva da Hugging Face aponta que hoje há um perigo real do segmento de código aberto se fechar e restringir seu acesso, justamente em um momento em que esse modelo conquistou o coração do público e de gigantes do setor. “A combinação de portas abertas e dados valiosos nos torna alvos principais”, diz Irene.

A parte mais interessante dessas plataformas e sistemas totalmente abertos é a facilidade com que as tecnologias ali presentes se desenvolvem. Centenas e até milhares de mentes diferentes conseguem avançar rapidamente no desenvolvimento de serviços e recursos em pouco tempo, em contrapartida aos ecossistemas fechados.

Na prática, fechar as portas dessas plataformas faria com que a indústria teoricamente retrocedesse. Isso significaria a imposição de verificação de identidade mais rigorosa, aprovações prévias e maior controle sobre o que os devs podem ou não fazer, como publicações de modelos e dados.

Por mais que isso adicione fortes camadas de segurança, há um receio de que o resultado disso seja a concentração ainda maior de tecnologias de ponta nas mãos das Big Techs. Do outro lado da moeda, o acesso desses recursos aos desenvolvedores independentes ficaria cada vez menor.

A Hugging Face afirma que seu novo sistema de segurança traz um equilíbrio ideal para esse caso. O recurso rotaciona tokens de acesso administrativo de maneira mais frequente e implementa controles de rede para evitar roubo de credenciais. O GitHub segue uma onda similar e foca em detectar comportamentos suspeitos em seus pacotes.

O grande problema, segundo Irene, é que esse monitoramento de segurança contínuo tem um custo bem elevado. Plataformas topo de linha conseguem arcar com os valores, mas repositórios menores terão dificuldades sensíveis.

Por falar em inteligência artificial, o Claude ganhou aplicativos de produtividade para concorrer com o pacote Office e o Google Workspace. Não esqueça de continuar ligado no TecMundo para acompanhar outros artigos como esse e não perder as principais informações da indústria de tecnologia.

AMD vai superar Intel pela 1ª vez: o que tornou isso possível?

Reiteramos nosso compromisso em indicar apenas produtos e promoções curados e selecionados pelos nossos especialistas, sempre levando em consideração a experiência dos nossos leitores.

Sempre verifique códigos e descontos. Lojas e marcas podem alterar ou encerrar ofertas a qualquer momento.

Fonte: Portal Empire Cidades