Governança corporativa na era dos agentes de IA: quem responde pelas decisões tomadas com tecnologia?

O Gartner projeta que, até 2027, 40% das organizações vão rebaixar ou desativar agentes de inteligência artificial autônomos depois de identificar falhas de governança já em produção. Victor Maciel, advogado tributarista e fundador do Victor Maciel Advogados, acompanha esse tipo de lacuna em empresas que buscam apoio jurídico justamente quando uma decisão automatizada já gerou consequências que a organização não havia previsto.

Diferente de ferramentas que apenas geram sugestões para um humano avaliar, agentes de IA autônomos podem liberar acessos, classificar informações e executar ações diretamente em sistemas corporativos. Quando esse tipo de decisão gera um resultado indesejado, uma pergunta simples se torna surpreendentemente difícil de responder na maioria das empresas: quem, dentro da organização, era responsável por aquela decisão?

Nem todo agente de IA carrega o mesmo risco

Um dos erros mais comuns identificados pelo Gartner é tratar todo agente de inteligência artificial da mesma forma, aplicando o mesmo nível de controle a um sistema que apenas lê e resume informações e a outro que executa ações sem qualquer aprovação humana. Segundo Victor Maciel, essa uniformidade tende a gerar dois problemas opostos: excesso de burocracia para aplicações de baixo risco e supervisão insuficiente onde o risco é real.

A consultoria propõe classificar agentes em diferentes níveis de autonomia, cada um exigindo um tipo distinto de controle:

• Nível observador: o agente apenas lê e resume dados, sem executar ações, o que exige controles básicos de autenticação e rastreabilidade sobre as informações acessadas.
• Nível de recomendação: o agente sugere ações, mas a decisão final permanece com um humano, situação em que o principal risco é o viés de automação, quando pessoas confiam demais na sugestão da tecnologia sem verificá-la.
• Nível de execução autônoma: o agente age diretamente sobre sistemas corporativos sem revisão prévia, exigindo monitoramento contínuo e mecanismos de reversão rápida para conter falhas antes que se espalhem.

Victor Maciel

Avanço tecnológico supera a capacidade de supervisão das empresas, alerta especialista

Estudos atuais apontam que somente uma em cada cinco empresas conta com um modelo consolidado de governança para agentes autônomos, um índice baixo diante da celeridade com que essas tecnologias se desenvolvem. Isso pode causar três problemas: decisões automáticas sem ninguém para responder por elas, o sistema pode ir mal e não funcionar direito, e pode não funcionar direito também quando algo parecido acontecer.

Conforme observado por profissionais especializados em governança corporativa, como Victor Maciel, tal brecha tende a se repetir quando a implementação de tecnologia se desenvolve mais celeremente do que a infraestrutura de supervisão que deveria acompanhá-la, deixando a empresa vulnerável justamente no momento menos oportuno.

Controles rígidos e burocracia desnecessária: desafios da governança de inteligência artificial  

A recomendação central que emerge dessas discussões é que a governança de agentes de inteligência artificial precisa ser proporcional ao risco de cada aplicação, e não aplicada de forma genérica a toda a operação. Empresas que tratam sistemas de baixo e alto risco sob a mesma régua tendem a enfrentar dois cenários problemáticos: controles insuficientes onde deveriam ser rígidos e burocracia desnecessária onde poderiam ser simples.

A construção de critérios claros sobre quem responde por decisões tomadas com apoio de inteligência artificial tem sido apoiada por escritórios especializados em governança corporativa, como o Victor Maciel Advogados, antes que a ausência dessa definição se torne fonte de risco jurídico e reputacional.