Por Medha
Cenário (sintético)
Um assistente interno de suporte, construído com RAG sobre o histórico de atendimento, foi configurado para recuperar "os três tickets mais parecidos" a cada nova pergunta, como contexto para o modelo responder. Na prática, cada ticket recuperado trazia, sem qualquer filtro, o nome completo do cliente anterior, e-mail, telefone e, em alguns casos, o número dos quatro últimos dígitos do cartão de pagamento citado pelo próprio cliente na descrição do problema. Um analista, testando o assistente com uma pergunta genérica, recebeu de volta um resumo que citava, por engano de contexto, dado de um cliente completamente diferente do caso que ele estava atendendo.
Por que "o modelo só usa o que está na base" não é proteção suficiente
Um RAG recupera e injeta, no contexto de cada resposta, um recorte da base de conhecimento — e, se essa base tem dado pessoal sem tratamento prévio, o dado pessoal vai junto, silenciosamente, a cada chamada. Isso vale mesmo quando o objetivo do sistema não tem nada a ver com aquele dado específico: no exemplo acima, o assistente só precisava entender o tipo de problema relatado, não o nome nem o cartão do cliente anterior — mas como ninguém filtrou a base antes de indexar, o dado pessoal irrelevante para a tarefa entrou no contexto de qualquer forma.
Minimização de dado, no sentido do princípio já previsto na LGPD, significa tratar apenas o dado necessário para a finalidade específica — não "o que for mais fácil de puxar da base disponível". Em RAG, isso se traduz em uma decisão de engenharia concreta: o que entra na base indexada, e o que é filtrado ou mascarado antes disso.
Três camadas onde a minimização precisa acontecer
- Na origem, antes da indexação. O primeiro e mais eficaz ponto de controle: decidir, campo a campo, se um dado precisa estar na base que alimenta o RAG. Nome do cliente raramente é necessário para responder "como resolver esse tipo de erro" — o padrão do problema é. Separar "conteúdo técnico do ticket" de "identificação do cliente" antes de indexar evita que o dado nem exista no índice de busca.
- No mascaramento do que precisa ficar, mas não precisa aparecer. Quando o dado pessoal precisa permanecer na base por algum motivo operacional (ex.: para outro processo consultar), ele pode ser mascarado especificamente na camada que alimenta o contexto do modelo — não editado uma vez só "para todo mundo", mas mascarado na visão que o sistema de IA usa.
- No prompt em si, para o que o usuário digita. Times de suporte e vendas frequentemente colam trecho de conversa inteiro, com dado pessoal, num prompt de "resuma isso para mim" — o ponto de controle aqui não é técnico automático, é o critério da peça 01 desta série (shadow AI) combinado com um hábito de mascarar antes de colar, quando a ferramenta usada for externa.
Exemplo de mascaramento antes da indexação (Python)
import re
PADROES_DADO_PESSOAL = {
"cpf": re.compile(r"\b\d{3}\.?\d{3}\.?\d{3}-?\d{2}\b"),
"email": re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"),
"telefone": re.compile(r"\b(?:\+?55\s?)?\(?\d{2}\)?\s?9?\d{4}-?\d{4}\b"),
}
# Padrão de cartão à parte: na escrita usual, a palavra "cartão" vem ANTES
# dos dígitos ("cartão final 1234", "final do cartão 1234", "últimos 4
# dígitos do cartão: 1234"), não depois — por isso não entra no laço
# genérico acima. Preserva o grupo 1 (o trecho com a palavra "cartão") e
# mascara só os dígitos que vêm em seguida, numa janela curta de até 30
# caracteres.
PADRAO_CARTAO = re.compile(r"(?i)(cart[ãa]o[^\d\n]{0,30}?)(\d{4})\b")
def mascarar_dado_pessoal(texto: str) -> str:
"""Substitui padrões conhecidos de dado pessoal por marcador de tipo,
preservando o conteúdo útil do texto para fins de indexação em RAG.
Não é detector perfeito (regex tem limite) — é a primeira camada,
aplicada ANTES de qualquer documento entrar no índice de busca.
Testado contra: 'cartão final 1234', 'final do cartão 1234' e
'últimos 4 dígitos do cartão: 1234'."""
resultado = texto
for tipo, padrao in PADROES_DADO_PESSOAL.items():
resultado = padrao.sub(f"[{tipo.upper()}_MASCARADO]", resultado)
resultado = PADRAO_CARTAO.sub(r"\1[CARTAO_MASCARADO]", resultado)
return resultado
def preparar_ticket_para_indexacao(ticket: dict) -> dict:
"""Separa o que é necessário para o RAG (padrão técnico do problema)
do que é identificação do cliente, mascarando o segundo antes de
qualquer chamada de indexação."""
return {
"id": ticket["id"],
"categoria": ticket["categoria"],
"descricao_tecnica": mascarar_dado_pessoal(ticket["descricao"]),
"resolucao": mascarar_dado_pessoal(ticket.get("resolucao", "")),
# nome, e-mail, telefone do cliente: propositalmente NÃO incluídos
# no objeto que vai para o índice de busca do RAG.
}
O que não deve entrar no contexto, como regra geral
Uma lista curta, útil como ponto de partida para revisar qualquer base que alimenta um RAG: identificação direta do titular (nome completo, CPF, e-mail, telefone) quando a tarefa não depende de saber quem é a pessoa; dado financeiro completo (número de cartão, mesmo parcial, quando não é estritamente necessário); dado sensível (saúde, orientação, origem, biometria) fora dos casos em que o próprio propósito do sistema exige, com controle adicional; e qualquer campo de "observação livre" copiado sem revisão de outro sistema, porque é onde dado pessoal não estruturado mais costuma se esconder.
Critério prático de aceite
- Existe uma etapa explícita de filtragem ou mascaramento entre a fonte de dado e a indexação no RAG — não uma indexação direta "como está".
- Campos de identificação direta do titular não fazem parte do texto recuperado como contexto, a menos que a tarefa exija explicitamente saber quem é a pessoa.
- Existe teste específico verificando que um dado pessoal de um titular não aparece na resposta destinada a um caso de outro titular (o erro do cenário desta peça).
- Uso de ferramenta externa de IA por uma pessoa do time segue o critério de shadow AI (peça 01): dado colado manualmente é mascarado antes, quando a ferramenta não é a corporativa aprovada.
O que vem a seguir
Minimizar o dado que entra no sistema reduz o risco, mas não elimina a necessidade de decidir, caso a caso, se um determinado uso de IA pode ser aprovado como está ou exige mais controle — é o assunto da próxima peça: como montar uma matriz de risco por caso de uso.
Antes de seguir
Esta é a quarta peça desta série sobre governança de IA e LGPD sob a ótica de engenharia. A definição do que conta como dado sensível ou a base legal para tratar cada campo é leitura do DPO e do jurídico, não desta série. Os critérios seguem alimentando o Inventário de IA e LGPD, gratuito, ainda em preparação. Entre na lista de espera para receber o material assim que sair: medha.ia.br/lista-de-espera.
Material técnico e organizacional — não substitui parecer jurídico nem a atuação do DPO.