Governança de dados na era da IA: como garantir integridade e compliance

A inteligência artificial mudou a escala dos riscos de dados. Um erro que antes aparecia em um relatório agora pode ser repetido por um modelo milhares de vezes, ou um documento confidencial pode aparecer na resposta de um assistente. A governança de dados precisa cobrir esse novo cenário.

O que muda com a IA

• Dados não estruturados entram no escopo: documentos, e-mails e contratos passam a alimentar assistentes via RAG.
• Uso secundário de dados: dados coletados para uma finalidade podem ser usados para treinar ou alimentar modelos.
• Decisões automatizadas: modelos influenciam crédito, preços, atendimento e seleção.
• Novos fornecedores: provedores de modelos processam dados da empresa.

Integridade dos dados para IA

• Documente a origem e a finalidade dos dados usados em cada modelo (linhagem).
• Aplique regras de qualidade de dados antes do treino e da indexação.
• Em RAG, mantenha apenas versões vigentes dos documentos e respeite as permissões de origem.
• Registre versões de dados, modelos e prompts para reproduzir resultados.

Compliance

• LGPD: finalidade, base legal, minimização, segurança e direitos dos titulares, incluindo a revisão de decisões automatizadas prevista na lei.
• Regulação setorial: em instituições financeiras, requisitos como os da Resolução Conjunta 18 do Bacen.
• Regulação de IA: acompanhe o Regulamento de IA da União Europeia (para operações com a Europa) e as propostas de marco regulatório de IA no Brasil, como o PL 2338/2023.

Políticas mínimas

1. Política de uso de IA generativa: ferramentas permitidas e dados que podem ser usados.
2. Classificação da informação aplicada também a prompts e documentos indexados.
3. Avaliação de risco para cada novo caso de uso de IA.
4. Revisão humana obrigatória para decisões de alto impacto.
5. Registro e monitoramento de uso, custo e incidentes.

Responsabilidades

Donos de dados aprovam o uso dos seus dados em modelos; segurança e jurídico avaliam fornecedores; o time de dados garante linhagem e qualidade; as áreas de negócio respondem pelo resultado do caso de uso. Veja os fundamentos em Governança de dados: como implementar.

Para os aspectos de segurança da implementação, leia LLMs locais e segurança de dados. A visão completa está no Guia de Governança e Gestão de Dados.