Governança algorítmica nas organizações: desenvolvemos mais rápido, mas governamos mais devagar

A inteligência artificial deixou de ser uma ferramenta exclusiva das áreas de tecnologia para se tornar um recurso acessível a todos os profissionais das organizações.

Com o avanço da IA generativa e dos agentes inteligentes, colaboradores das áreas de negócios passaram a criar automações, desenvolver aplicações, gerar análises e estruturar processos com velocidade inédita, muitas vezes sem a participação direta das equipes de desenvolvimento.

A matéria publicada pela Security Leaders trouxe à tona a preocupação de líderes da área de segurança da informação de diversas empresas sobre os impactos da falta de governança algorítmica nas organizações e o desconhecimento da alta administração sobre seus impactos no negócio.

Embora essa democratização represente um enorme ganho de produtividade e inovação, ela também cria um paradoxo corporativo: as organizações estão desenvolvendo e implementando soluções baseadas em IA em ritmo acelerado, enquanto seus mecanismos de segurança, governança, gestão de riscos e compliance continuam operando segundo modelos concebidos para uma realidade muito mais lenta.

Segundo os CISOs e especialistas entrevistados pela Security Leaders, a velocidade da inovação passou a superar significativamente a velocidade da governança.

Durante anos, as empresas conseguiram controlar a entrada de novas tecnologias por meio da área de TI, mas a inteligência artificial rompeu essa lógica.

Hoje, qualquer colaborador consegue criar automações, analisar bases de dados ou produzir conteúdos complexos sem solicitar autorização prévia.

A inovação deixou de ser centralizada, mas o problema é que a governança continua centralizada.

A inteligência artificial já entrou nas organizações. A questão agora não é apenas permitir ou proibir seu uso, mas entender como governar riscos, responsabilidades, dados e decisões.

 

A governança da IA não é responsabilidade apenas da tecnologia

Um aspecto relevante é que os riscos decorrentes da utilização da IA já não podem ser atribuídos exclusivamente à área de Tecnologia ou Segurança da Informação.

Conforme destacado no debate, decisões envolvendo inteligência artificial passam necessariamente por áreas de negócios, compliance, governança, riscos, jurídico e segurança, exigindo responsabilidades compartilhadas e processos integrados de tomada de decisão.

Em reuniões realizadas ao longo dos últimos meses com clientes de diferentes segmentos, observa-se um fenômeno recorrente: colaboradores utilizando ChatGPT, Copilot e outras ferramentas de IA para analisar contratos, elaborar relatórios e revisar documentos sem que a empresa sequer tenha uma política formal sobre o tema.

Muitas vezes, a alta administração desconhece completamente a dimensão dessa exposição.

Essa realidade não é meramente teórica ou restrita ao cenário brasileiro.

Uma pesquisa global conduzida pela KPMG e pela Universidade de Melbourne identificou que 44% dos trabalhadores utilizam ferramentas de IA de forma não autorizada ou inadequada no ambiente corporativo, enquanto 46% admitem ter inserido informações sensíveis ou propriedade intelectual em plataformas públicas de inteligência artificial.

Esses números demonstram que o fenômeno denominado Shadow AI já deixou de ser uma exceção para se tornar um desafio concreto de governança corporativa.

O tema é tão relevante que já está na pauta da Agência Nacional de Proteção de Dados — ANPD, tendo sido objeto de debate no 3º Encontro da ANPD de Encarregados: Proteção e Governança em Ação, ocorrido no último dia 19, em Brasília, com a conclusão de que o desafio, agora, é transformar uso espontâneo em uso governado.

 

O principal risco da IA nas empresas é gerencial

Nosso alerta para CEOs, diretores e conselhos é que o principal risco atualmente não é tecnológico.

O principal risco é gerencial.

Em muitas organizações, a inteligência artificial já está sendo utilizada diariamente sem qualquer discussão prévia sobre responsabilidades, limites de uso, critérios de supervisão ou definição clara de apetite ao risco.

Sob a perspectiva prática, esse é um dos maiores desafios atuais da governança corporativa.

Diferentemente de outras tecnologias, a inteligência artificial entrou nas organizações de forma descentralizada.

Em muitos casos, os controles só começam a ser discutidos depois que a ferramenta já está incorporada à rotina dos colaboradores.

Nesse contexto, surge uma questão estratégica para os clientes públicos e privados: como permitir a inovação sem comprometer a segurança, a conformidade regulatória e a confiança institucional?

Para responder esse questionamento, o ponto de partida é olhar para os riscos associados ao uso não governado de IA.

 

1. Vazamento de informações confidenciais

Nos trabalhos realizados pelo CVA, observamos situações em que colaboradores utilizaram ferramentas públicas de IA para revisar contratos complexos, elaborar pareceres ou resumir relatórios internos contendo informações estratégicas da empresa.

Em grande parte desses casos, não havia qualquer diretriz interna informando quais tipos de informação poderiam ou não ser compartilhados com plataformas de inteligência artificial.

Quando esses usos não são controlados, a organização passa a se expor ao compartilhamento indevido de informações sigilosas, segredos de negócio, dados pessoais, propriedade intelectual e outros ativos estratégicos que sustentam sua vantagem competitiva.

Além dos impactos financeiros e reputacionais, essas situações podem resultar em violações regulatórias e contratuais.

 

2. Não conformidade com a LGPD e normas regulatórias

A utilização de sistemas algorítmicos frequentemente envolve tratamento de dados pessoais, exigindo observância aos princípios da LGPD e inteligência artificial, bem como às regulamentações setoriais aplicáveis.

Sem critérios claros de governança, a organização pode enfrentar dificuldades para demonstrar a finalidade do tratamento de dados, a base legal utilizada, os mecanismos de proteção adotados, a rastreabilidade das decisões automatizadas e a responsabilização dos agentes envolvidos.

Também nesses casos, temos identificado cenários em que áreas de RH, marketing e atendimento ao cliente adotam soluções de IA sem avaliação prévia dos impactos sobre dados pessoais, criando riscos que muitas vezes sequer são percebidos pelas equipes responsáveis.

A governança algorítmica conecta inovação, proteção de dados, segurança da informação, compliance e responsabilidade corporativa.

 

3. Decisões automatizadas sem transparência

Modelos de IA muitas vezes operam como verdadeiras “caixas pretas”, dificultando a compreensão sobre como determinada conclusão foi alcançada.

A ausência de explicabilidade compromete a capacidade da organização de justificar decisões perante auditorias, fiscalizações, órgãos reguladores, clientes e até mesmo em eventuais disputas judiciais.

 

4. Viés algorítmico e riscos éticos

A utilização de modelos treinados com dados inadequados ou insuficientemente validados pode produzir resultados discriminatórios, enviesados ou incompatíveis com os valores da organização.

Os impactos podem ser observados em processos de recrutamento e seleção, avaliações de desempenho, análises de crédito, atendimento ao consumidor e gestão de fornecedores, comprometendo a equidade e a confiabilidade das decisões.

 

5. Riscos reputacionais

Uma única utilização inadequada da IA pode comprometer anos de construção de reputação institucional.

Em um ambiente cada vez mais atento à ética digital, transparência e proteção de dados, falhas na gestão dos algoritmos tendem a ser rapidamente amplificadas por clientes, órgãos reguladores, mídia e mercado.

 

Governança algorítmica como resposta estruturada

Diante desse cenário, a governança algorítmica surge como uma resposta estruturada para permitir que a inteligência artificial seja utilizada de forma segura, transparente e alinhada às estratégias organizacionais.

Mais do que um conjunto de controles, a governança algorítmica representa um modelo de gestão capaz de equilibrar inovação e mitigação de riscos.

Para isso, o Camargo e Vieira Advogados, por meio da sua área de Direito Digital, diante da demanda crescente dos seus clientes, desenvolveu serviços que visam estruturar essa governança, como assessment, construção de políticas e procedimentos, treinamentos e workshops.

Em todos os casos, o trabalho passa pela definição clara de papéis e responsabilidades, pela construção de diretrizes para uso seguro e ético da IA, pela avaliação de riscos de privacidade, segurança e discriminação e pela necessidade de revisão humana em decisões com impacto relevante.

Também envolve a elaboração de documentação sobre entradas, saídas, logs, finalidade e transferências internacionais.

 

O assessment como ponto de partida

Toda jornada de governança algorítmica deve começar por um processo estruturado de assessment.

O objetivo é compreender como a inteligência artificial está sendo utilizada na organização, mapeando as ferramentas adotadas, os casos de uso mais críticos, os fluxos de dados envolvidos, os níveis de risco associados e eventuais lacunas de governança, conformidade e segurança da informação.

A partir desse diagnóstico, torna-se possível construir um plano de ação baseado em evidências, priorizando os riscos mais relevantes e direcionando investimentos de forma eficiente.

O assessment também permite identificar usos não recomendados da IA e mapear oportunidades de padronização e racionalização tecnológica.

Recentemente, em trabalhos desenvolvidos pelo CVA, uma das maiores preocupações observadas em assessments de IA é a inserção de contratos, pareceres jurídicos, informações financeiras e até dados de clientes em plataformas públicas de inteligência artificial.

Em muitos casos, essa prática ocorre de boa-fé, motivada pela busca de produtividade, mas sem qualquer avaliação prévia e técnica sobre os impactos para a segurança da informação e proteção de dados.

Em nossa experiência, poucas organizações conseguem responder com segurança a uma pergunta aparentemente simples: quais ferramentas de IA estão sendo utilizadas hoje dentro da empresa?

A incapacidade de responder essa pergunta demonstra justamente o motivo pelo qual o assessment deve ser o ponto de partida de qualquer programa de governança algorítmica.

 

Políticas corporativas para uso de IA

Ultrapassada essa etapa, uma vez identificado o cenário de utilização da IA, o próximo passo consiste na elaboração de políticas corporativas específicas.

Essas políticas devem definir:

• quais ferramentas podem ser utilizadas;
• quais informações podem ser compartilhadas;
• quem é responsável pela aprovação de novos casos de uso;
• quais mecanismos de validação humana deverão ser observados;
• quais requisitos de rastreabilidade precisam ser adotados;
• quais diretrizes éticas devem orientar o uso da IA.

Também é importante estabelecer diretrizes éticas compatíveis com os valores e o perfil de risco da organização.

A formalização dessas regras traz segurança jurídica para a organização e reduz significativamente a ocorrência de usos inadequados ou incompatíveis com as exigências regulatórias.

 

Treinamento e conscientização dos colaboradores

Nenhuma política será efetiva sem a participação das pessoas.

Por esse motivo, programas contínuos de treinamento e conscientização constituem um dos pilares da governança algorítmica.

Os treinamentos devem preparar os colaboradores para utilizar a inteligência artificial de forma segura e responsável, abordando temas como proteção de dados pessoais, segurança da informação, riscos de compartilhamento indevido de informações, identificação de vieses algorítmicos, validação crítica dos resultados produzidos pela IA e responsabilidades dos usuários.

A conscientização transforma os colaboradores em agentes de mitigação de riscos, reduzindo incidentes decorrentes de desconhecimento ou utilização inadequada das ferramentas.

Também observamos equipes que acreditam que toda resposta gerada por IA é necessariamente correta.

Essa confiança excessiva aumenta significativamente o risco de decisões baseadas em informações imprecisas, desatualizadas ou produzidas sem o contexto adequado.

Em algumas organizações, a alta administração acredita que a empresa ainda está avaliando o uso da IA.

Entretanto, quando realizamos diagnósticos internos, identificamos dezenas ou centenas de usuários utilizando ferramentas generativas diariamente.

Esse desalinhamento entre percepção e realidade é um dos principais fatores de exposição atualmente.

 

Organizações desenvolvem mais rápido do que conseguem governar

Diante de tudo isso, a reflexão apresentada pelos especialistas da Security Leaders é clara: as organizações estão desenvolvendo mais rápido do que conseguem governar.

A ascensão da inteligência artificial e dos agentes autônomos está transferindo capacidades de desenvolvimento para toda a estrutura corporativa, exigindo novos modelos de supervisão, responsabilidade compartilhada e gestão de riscos.

Nesse cenário, a governança algorítmica deixa de ser uma iniciativa voltada apenas à tecnologia e passa a representar um instrumento estratégico de proteção institucional.

Por meio de assessments especializados, construção de políticas de uso, definição clara de responsabilidades e implementação contínua de treinamentos e programas de conscientização, as organizações podem aproveitar o potencial transformador da inteligência artificial sem renunciar à conformidade, à segurança e à confiança.

A discussão já não é mais sobre permitir ou proibir a inteligência artificial. A questão é saber se a empresa conhece os riscos que já assumiu e possui mecanismos para administrá-los.

 

O avanço das políticas de IA responsável

Em outro estudo global, o relatório Stanford AI Index 2026 apontou que o percentual de empresas sem qualquer política de IA responsável caiu de 24% para 11%, mas os principais obstáculos à implementação continuam sendo falta de conhecimento, restrições orçamentárias e incerteza regulatória.

Embora as organizações estejam avançando na formalização de programas de IA responsável, os desafios permanecem relevantes.

Segundo o Stanford AI Index 2026, a principal barreira para implementação de estruturas de governança de IA ainda é a falta de conhecimento especializado, apontada por 59% das organizações pesquisadas.

O fato é: a inteligência artificial já entrou nas organizações.

A discussão, portanto, não é mais sobre permitir ou proibir sua utilização.

A verdadeira questão é se a empresa conhece os riscos que já assumiu e se possui mecanismos adequados para administrá-los.

 

Governança algorítmica: conclusão

Como profissionais que atuam diariamente com governança, proteção de dados, segurança da informação e gestão de riscos, entendemos que a governança algorítmica não deve ser vista como uma exigência regulatória isolada ou um obstáculo à inovação.

Ela representa um instrumento de gestão indispensável para organizações que desejam capturar os benefícios da inteligência artificial sem comprometer sua reputação, sua conformidade e a confiança de seus clientes.

Quanto mais rápido evolui a inteligência artificial, mais urgente se torna a construção de estruturas de governança capazes de acompanhar essa transformação.

 

Como o CVA pode apoiar sua empresa?

O Camargo e Vieira Advogados pode apoiar empresas públicas e privadas na estruturação de programas de governança algorítmica, especialmente diante do crescimento do uso de IA generativa, agentes inteligentes e ferramentas digitais descentralizadas.

A atuação pode envolver assessment de IA, mapeamento de ferramentas utilizadas, identificação de riscos de privacidade, segurança e discriminação, construção de políticas corporativas, definição de responsabilidades, elaboração de procedimentos, treinamentos e workshops.

O trabalho também pode se integrar a uma abordagem mais ampla de Auditoria 360, conectando riscos jurídicos, tecnológicos, regulatórios, reputacionais e operacionais em uma visão única de governança.

Se a sua organização já utiliza ferramentas de inteligência artificial, mas ainda não possui políticas, controles e responsabilidades definidos, este é o momento de transformar uso espontâneo em uso governado.

Fale conosco e saiba mais sobre como construir seu Programa de Governança Algorítmica, mitigando riscos, gerando valor e inovação para a sua empresa.