Por Medha
Cenário (sintético)
Um cliente contestou, meses depois, uma recusa automática de crédito processada com apoio de um modelo de IA. A empresa precisou reconstruir o que tinha acontecido — qual versão do modelo estava em produção naquele dia, quais dados de entrada foram usados, se um humano revisou o caso antes da resposta final ir ao cliente. Os logs de aplicação existiam, mas não tinham sido desenhados para responder a essas perguntas: registravam erro técnico e tempo de resposta, não a decisão em si nem se houve intervenção humana. Reconstituir o caso levou dias de trabalho manual, cruzando log de sistema, e-mail interno e a memória de quem estava na operação naquele mês.
Por que log de aplicação comum não serve para isso
Log de aplicação é desenhado para depurar erro técnico: request, resposta, tempo, exceção. Registro de decisão de IA responde a uma pergunta diferente: por que o sistema chegou a essa conclusão para este caso específico, e houve ou não intervenção humana antes do efeito acontecer? A primeira parte se conecta ao direito do titular, previsto no artigo 20 da LGPD, de solicitar revisão de decisão automatizada que o afeta — o que torna esse registro não apenas boa prática de engenharia, mas insumo direto para responder a esse tipo de pedido (tema aprofundado na peça 10 desta série). Saber se houve intervenção humana é informação que a própria empresa precisa ter internamente para revisar o caso; a lei não garante ao titular o direito de saber especificamente isso, apenas o direito de pedir revisão.
O que registrar, como esquema mínimo
Um registro de decisão não precisa guardar tudo — precisa guardar o suficiente para reconstruir, meses depois, o que aconteceu e por quê. O esquema abaixo cobre o mínimo necessário:
from dataclasses import dataclass, field
from datetime import datetime, timezone
@dataclass
class RegistroDecisaoIA:
id_decisao: str
sistema: str # id do sistema no inventário (peça 02)
versao_modelo: str # versão/hash do modelo em produção
timestamp: str = field(
default_factory=lambda: datetime.now(timezone.utc).isoformat()
)
titular_afetado_id: str = "" # id interno do titular, não o dado em texto livre
entrada_resumo: str = "" # resumo do que foi processado, sem dado sensível bruto
saida_sugerida: str = "" # o que o sistema sugeriu ou decidiu
intervencao_humana: bool = False
revisor_id: str = "" # quem revisou, se houve intervenção
decisao_final: str = "" # o que de fato foi aplicado ao titular
decisao_alterada_pelo_humano: bool = False
nivel_risco: str = "" # da matriz de risco (peça 05)
def registrar_decisao(registro: RegistroDecisaoIA, armazenamento) -> None:
"""Grava o registro em armazenamento com retenção definida por
política (não indefinida) e sem dado pessoal bruto além do
estritamente necessário para reconstruir o caso."""
armazenamento.salvar(registro.__dict__)
Dois campos merecem atenção especial: entrada_resumo guarda um resumo, não o dado bruto completo — o objetivo é reconstruir o raciocínio, não duplicar a base de dado pessoal dentro do log; e decisao_alterada_pelo_humano separa "um humano olhou e confirmou sem mudar nada" de "um humano interveio e mudou o resultado", uma distinção que muda completamente a resposta a uma contestação.
Quando registrar é obrigatório, e quando é desejável
Nem todo uso de IA precisa do mesmo nível de registro — a matriz de risco da peça 05 volta a ser o critério de corte: nível de risco baixo (ex.: sugestão de assunto de e-mail) pode não justificar log individual por decisão, só agregado; nível médio já pede registro por decisão, mesmo que resumido; nível alto e crítico — qualquer coisa com decisão automatizada e efeito direto sobre o titular — exige o esquema completo acima, sem exceção, incluindo campo de intervenção humana preenchido corretamente.
O erro mais comum: registrar só quando o humano interveio
Um padrão recorrente e problemático: sistemas que só geram registro quando um humano revisou manualmente, e ficam silenciosos quando a decisão saiu automática, sem intervenção. Isso inverte a prioridade — é exatamente o caso sem intervenção humana que mais precisa de rastro, porque é o que tem maior chance de gerar um resultado errado sem ninguém percebendo antes do efeito acontecer. O campo intervencao_humana = False precisa ser registrado com o mesmo rigor que True, nunca como ausência de registro.
Critério prático de aceite
- Toda decisão de risco médio, alto ou crítico (matriz da peça 05) gera um registro, independentemente de ter havido ou não intervenção humana.
- O registro distingue explicitamente "humano revisou e confirmou" de "humano revisou e alterou" de "nenhuma revisão humana".
- O registro guarda resumo da entrada, não o dado bruto completo, com retenção definida por política, não indefinida.
- É possível, a partir do registro, reconstruir qual versão do modelo/sistema estava em produção no momento da decisão.
O que vem a seguir
Registro de decisão é a matéria-prima para responder a uma fiscalização, mas não é, sozinho, evidência organizada — a próxima peça trata do que reunir, e como, para conseguir responder a uma auditoria sem precisar reconstruir tudo manualmente, como no cenário desta peça.
Antes de seguir
Esta é a sétima peça da série sobre governança de IA e LGPD sob a ótica de engenharia. O esquema acima é ponto de partida técnico; o prazo de retenção do registro e o que fazer diante de uma contestação formal são decisões do DPO e do jurídico, não desta série. Os critérios alimentam o Inventário de IA e LGPD, gratuito, ainda em preparação. Entre na lista de espera para receber o material assim que sair: medha.ia.br/lista-de-espera.
Material técnico e organizacional — não substitui parecer jurídico nem a atuação do DPO.