Por William Rocha – Advogado e professor, especialista em Direito Digital e Proteção de Dados e Privacidade, Governança e Inteligência Artificial – Colunista convidado.
A Inteligência Artificial já está incorporada à rotina das empresas. Colaboradores utilizam ferramentas de IA generativa para redigir documentos, resumir contratos, analisar planilhas, elaborar apresentações, revisar códigos, responder e-mails e apoiar decisões.
O problema não está no uso da IA. Está no uso sem governança, critérios e controle.
Quando cada profissional escolhe livremente uma ferramenta, cria sua própria conta e insere documentos ou informações corporativas sem avaliar como esses dados serão tratados, surge um fenômeno cada vez mais relevante: a chamada Shadow AI, ou seja, o uso de sistemas de inteligência artificial à margem dos processos oficiais de tecnologia, segurança, privacidade e compliance da organização.
O prompt também pode representar uma transferência de informação
Existe uma falsa percepção de que conversar com uma IA seria semelhante a utilizar um software instalado localmente. Nem sempre é assim.
Ao inserir em uma ferramenta externa um contrato, uma relação de clientes, dados de empregados, estratégias comerciais, informações financeiras, códigos-fonte, pareceres jurídicos ou documentos internos, o usuário pode estar submetendo informações corporativas a um terceiro.
Dependendo da ferramenta utilizada, de sua configuração e das condições contratuais aplicáveis, isso pode representar um fluxo de dados que sequer foi previamente conhecido ou autorizado pela organização.
No caso de dados pessoais, entram imediatamente em discussão os princípios e obrigações da LGPD, especialmente finalidade, adequação, necessidade, segurança, prevenção e responsabilização.
A própria ANPD, ao analisar a IA generativa, chama atenção para o fato de que dados pessoais podem estar presentes ao longo de todo o ciclo de vida desses sistemas e que arquivos compartilhados e respostas produzidas podem criar novos fluxos de informações.
Não são apenas dados pessoais que estão em risco
A discussão sobre IA corporativa não pode ficar limitada à privacidade.
Há também riscos relacionados à integridade, confidencialidade e disponibilidade das informações empresariais.
Um empregado pode, por exemplo, copiar para uma IA pública uma minuta contratual ainda confidencial, dados sobre uma operação societária, planejamento estratégico, relatório financeiro, credenciais, informações sobre vulnerabilidades de sistemas ou documentos protegidos por segredo profissional.
Mesmo que nenhum dado pessoal esteja presente, pode existir comprometimento de segredo de negócio, propriedade intelectual, deveres contratuais de confidencialidade ou segurança da informação.
A OWASP inclui entre os principais riscos das aplicações baseadas em modelos de linguagem a exposição de informações sensíveis, prompt injection, excesso de autonomia dos agentes, vulnerabilidades da cadeia de fornecimento, desinformação e tratamento inadequado das respostas produzidas pela IA.
Outro risco: acreditar demais na máquina
Existe ainda uma ameaça menos perceptível: a automação da confiança.
A IA pode produzir um texto extremamente convincente e, ainda assim, apresentar informações incorretas, referências inexistentes, interpretações equivocadas ou conclusões inadequadas.
Quando uma resposta gerada automaticamente é incorporada a um parecer, relatório, contrato, decisão administrativa, código de software ou comunicação ao cliente sem revisão humana, o risco tecnológico transforma-se em risco jurídico, financeiro, operacional e reputacional.
A responsabilidade pela decisão empresarial não desaparece porque determinada informação foi sugerida por um algoritmo.
E, os agentes de IA tornam o problema ainda mais sensível
O desafio aumenta com a disseminação dos chamados agentes de IA, capazes não apenas de responder perguntas, mas também de acessar sistemas, consultar bases de dados, executar comandos, enviar mensagens ou realizar outras ações.
Quanto maior a autonomia concedida ao sistema, maior deve ser a estrutura de controle.
A OWASP trata o excesso de autonomia e permissões como vulnerabilidade relevante e recomenda, entre outras medidas, privilégio mínimo, delimitação das funcionalidades e aprovação humana para ações de maior impacto.
Por isso, não basta perguntar: “Qual IA nossa empresa utiliza?”
A pergunta correta é mais ampla:
Quais sistemas de IA estão sendo utilizados, por quem, para quais finalidades, com acesso a quais informações e com quais controles?
Entre os principais cuidados para as organizações: uma política corporativa de IA não precisa simplesmente proibir. Precisa estabelecer governança proporcional ao risco.
Algumas das medidas medidas essenciais:
Mapear as ferramentas de IA, utilizadas oficialmente e identificar aplicações utilizadas informalmente pelos colaboradores; Classificar as informações que podem ou não ser submetidas a sistemas externos; Proibir a inserção indiscriminada de dados pessoais, dados pessoais sensíveis, informações confidenciais, credenciais e segredos de negócio em ferramentas não homologadas; Avaliar fornecedores de IA, incluindo segurança, privacidade, retenção, utilização das informações, localização do tratamento e condições contratuais; Definir ferramentas corporativas autorizadas e configurações adequadas; Aplicar controle de acesso e princípio do menor privilégio, especialmente para agentes conectados a sistemas internos; Estabelecer revisão humana obrigatória para conteúdos ou decisões relevantes;
Criar mecanismos de registro, monitoramento e auditoria dos usos de maior risco; Realizar avaliações de impacto e risco quando a aplicação puder afetar direitos, dados pessoais ou processos críticos; Promover treinamento contínuo dos colaboradores, porque boa parte do risco nasce justamente do uso cotidiano aparentemente inofensivo.
Estruturas internacionais de gestão de risco, como o AI Risk Management Framework do NIST, reforçam justamente a necessidade de tratar IA como matéria de governança e gestão contínua de riscos, e não apenas como aquisição de tecnologia.
Governar não significa impedir a inovação
Proibir genericamente a Inteligência Artificial provavelmente será tão ineficiente quanto permitir seu uso sem qualquer controle.
O caminho mais adequado está na construção de uma governança corporativa de IA, envolvendo áreas como tecnologia, segurança da informação, jurídico, proteção de dados, compliance, recursos humanos e gestão de riscos.
A empresa precisa saber quais ferramentas utiliza, quais dados circulam por elas, quais decisões estão sendo apoiadas ou automatizadas e quem responde por cada etapa desse processo.
A IA pode aumentar significativamente a produtividade e transformar modelos de negócio. Mas inovação sem governança pode criar uma infraestrutura invisível de circulação de informações corporativas.
A questão já não é saber se os colaboradores utilizarão Inteligência Artificial. A questão é saber se a organização terá governança sobre esse uso antes que um incidente revele que ela deveria ter tido.
About the Author
