Região: Sua empresa usa IA? 7 riscos jurídicos que podem acabar em processo

Sua empresa usa IA? 7 riscos jurídicos que podem acabar em processo Decisões automatizadas, informações confidenciais e direitos autorais estão entre os pontos que exigem atenção de empresas que adotam inteligência artificial Sua empresa usa IA? 7 riscos jurídicos que podem acabar em processo (Magnific)

Priorizar nos meus resultados Google Tudo sobre Acompanhe tudo sobre Pré-MBA em IA Saiba mais A adoção de inteligência artificial nas empresas pode acelerar tarefas, reduzir custos e apoiar decisões. Mas o uso dessas ferramentas também cria riscos jurídicos quando envolve dados pessoais, conteúdos protegidos por direitos autorais ou decisões que afetam funcionários e clientes.

A responsabilidade não depende apenas de quem desenvolveu a tecnologia. A forma como a organização utiliza os sistemas, supervisiona os resultados e protege as informações também pode ser relevante em uma disputa judicial.

Inserir nomes de clientes, documentos, informações financeiras ou dados de funcionários em ferramentas de IA sem avaliar as condições de uso pode expor informações confidenciais.

A Lei Geral de Proteção de Dados (LGPD) estabelece regras para o tratamento de dados pessoais e exige medidas de segurança. Dependendo do caso, uma exposição indevida pode resultar em sanções administrativas e ações de pessoas afetadas.

Textos, imagens, apresentações e campanhas produzidos com inteligência artificial podem reproduzir elementos protegidos por direitos autorais ou outros direitos de propriedade intelectual.

A Organização Mundial da Propriedade Intelectual (OMPI) destaca que a IA generativa levanta questões sobre o uso de obras no treinamento dos modelos e sobre a proteção dos conteúdos gerados.

Antes de publicar uma peça criada com IA, a empresa deve verificar se há elementos de terceiros e quais permissões são necessárias.

Sistemas de IA podem auxiliar na triagem de currículos, na avaliação de candidatos e na gestão de funcionários. Se os critérios utilizados produzirem resultados discriminatórios, porém, a organização poderá enfrentar questionamentos jurídicos.

Um algoritmo que desfavorece candidatos por características associadas a gênero, idade ou raça, por exemplo, pode comprometer a igualdade de oportunidades.

A supervisão humana e a avaliação periódica dos critérios de seleção ajudam a identificar possíveis distorções antes que elas afetem decisões profissionais.

A inteligência artificial pode ser usada para analisar crédito, definir perfis de consumidores ou apoiar decisões sobre trabalhadores. Quando o tratamento automatizado de dados pessoais afeta os interesses de alguém, a LGPD prevê o direito de solicitar a revisão da decisão e de obter informações sobre os critérios utilizados.

Isso significa que uma empresa precisa avaliar se consegue explicar como seus sistemas chegam a determinadas conclusões e como atende aos direitos dos titulares de dados.

Funcionários podem recorrer a ferramentas de IA para resumir relatórios, analisar contratos ou preparar apresentações. O problema surge quando compartilham informações estratégicas sem autorização ou sem conhecer as condições de armazenamento e utilização dos dados pela plataforma.

O risco inclui a exposição de segredos comerciais, estratégias de negócio e informações protegidas por contratos de confidencialidade.

Por isso, empresas precisam definir quais ferramentas podem ser usadas, que dados podem ser inseridos e quais informações devem permanecer em ambientes controlados.

Ferramentas generativas podem produzir informações incorretas, referências inexistentes e afirmações que não correspondem às características reais de um produto ou serviço.

Um exemplo é divulgar uma característica técnica que o produto não possui ou atribuir a um serviço resultados que não podem ser comprovados. A revisão humana antes da publicação reduz o risco de disseminar informações falsas.

Empresas que utilizam inteligência artificial em operações internacionais também precisam considerar as normas aplicáveis nos mercados em que atuam.

Na União Europeia, o Regulamento de Inteligência Artificial, conhecido como AI Act, estabelece obrigações e restrições conforme o tipo de sistema e o nível de risco. Há regras específicas para aplicações de alto risco, transparência e determinadas práticas proibidas.

Uma ferramenta utilizada para selecionar candidatos, por exemplo, pode estar sujeita a exigências diferentes das aplicáveis a um sistema que apenas auxilia na redação de textos. O alcance das obrigações depende do uso concreto e das regras vigentes.

A prevenção começa com uma política interna que estabeleça ferramentas autorizadas, limites para o compartilhamento de dados e procedimentos de revisão dos resultados. Também é importante treinar os funcionários para reconhecer erros, proteger informações e identificar conteúdos que exijam verificação.

A empresa deve ainda documentar decisões relevantes, avaliar contratos com fornecedores e envolver as equipes jurídica, de segurança da informação e de recursos humanos nos casos de maior risco.

O uso de inteligência artificial não elimina as responsabilidades legais da empresa. Definir regras, supervisionar resultados e acompanhar mudanças na legislação são medidas importantes para aproveitar a tecnologia sem ignorar seus possíveis impactos jurídicos.

Conhecer ferramentas de IA é apenas parte do processo; interpretar resultados, automatizar tarefas e avaliar respostas também são habilidades relevantes para a carreira

Em vez de depender de uma única ferramenta, empresas podem distribuir etapas de um processo entre agentes de IA especializados, com supervisão humana e regras de segurança

Anunciada no CapCut World, em Los Angeles, a integração permitirá criar um primeiro corte no ChatGPT e refinar o vídeo por texto nos próximos meses