Pular para o conteúdo
Engenharia com agentes de IA: governança e custo em reais.

Governança de IA e LGPD · 9 de novembro de 2026

Registro de decisão e de intervenção humana: o que logar quando a IA sugere ou decide

Por Medha

Cenário (sintético)

Um cliente contestou, meses depois, uma recusa automática de crédito processada com apoio de um modelo de IA. A empresa precisou reconstruir o que tinha acontecido — qual versão do modelo estava em produção naquele dia, quais dados de entrada foram usados, se um humano revisou o caso antes da resposta final ir ao cliente. Os logs de aplicação existiam, mas não tinham sido desenhados para responder a essas perguntas: registravam erro técnico e tempo de resposta, não a decisão em si nem se houve intervenção humana. Reconstituir o caso levou dias de trabalho manual, cruzando log de sistema, e-mail interno e a memória de quem estava na operação naquele mês.

Por que log de aplicação comum não serve para isso

Log de aplicação é desenhado para depurar erro técnico: request, resposta, tempo, exceção. Registro de decisão de IA responde a uma pergunta diferente: por que o sistema chegou a essa conclusão para este caso específico, e houve ou não intervenção humana antes do efeito acontecer? A primeira parte se conecta ao direito do titular, previsto no artigo 20 da LGPD, de solicitar revisão de decisão automatizada que o afeta — o que torna esse registro não apenas boa prática de engenharia, mas insumo direto para responder a esse tipo de pedido (tema aprofundado na peça 10 desta série). Saber se houve intervenção humana é informação que a própria empresa precisa ter internamente para revisar o caso; a lei não garante ao titular o direito de saber especificamente isso, apenas o direito de pedir revisão.

O que registrar, como esquema mínimo

Um registro de decisão não precisa guardar tudo — precisa guardar o suficiente para reconstruir, meses depois, o que aconteceu e por quê. O esquema abaixo cobre o mínimo necessário:

from dataclasses import dataclass, field
from datetime import datetime, timezone

@dataclass
class RegistroDecisaoIA:
    id_decisao: str
    sistema: str                       # id do sistema no inventário (peça 02)
    versao_modelo: str                 # versão/hash do modelo em produção
    timestamp: str = field(
        default_factory=lambda: datetime.now(timezone.utc).isoformat()
    )
    titular_afetado_id: str = ""       # id interno do titular, não o dado em texto livre
    entrada_resumo: str = ""           # resumo do que foi processado, sem dado sensível bruto
    saida_sugerida: str = ""           # o que o sistema sugeriu ou decidiu
    intervencao_humana: bool = False
    revisor_id: str = ""               # quem revisou, se houve intervenção
    decisao_final: str = ""            # o que de fato foi aplicado ao titular
    decisao_alterada_pelo_humano: bool = False
    nivel_risco: str = ""              # da matriz de risco (peça 05)

def registrar_decisao(registro: RegistroDecisaoIA, armazenamento) -> None:
    """Grava o registro em armazenamento com retenção definida por
    política (não indefinida) e sem dado pessoal bruto além do
    estritamente necessário para reconstruir o caso."""
    armazenamento.salvar(registro.__dict__)

Dois campos merecem atenção especial: entrada_resumo guarda um resumo, não o dado bruto completo — o objetivo é reconstruir o raciocínio, não duplicar a base de dado pessoal dentro do log; e decisao_alterada_pelo_humano separa "um humano olhou e confirmou sem mudar nada" de "um humano interveio e mudou o resultado", uma distinção que muda completamente a resposta a uma contestação.

Quando registrar é obrigatório, e quando é desejável

Nem todo uso de IA precisa do mesmo nível de registro — a matriz de risco da peça 05 volta a ser o critério de corte: nível de risco baixo (ex.: sugestão de assunto de e-mail) pode não justificar log individual por decisão, só agregado; nível médio já pede registro por decisão, mesmo que resumido; nível alto e crítico — qualquer coisa com decisão automatizada e efeito direto sobre o titular — exige o esquema completo acima, sem exceção, incluindo campo de intervenção humana preenchido corretamente.

O erro mais comum: registrar só quando o humano interveio

Um padrão recorrente e problemático: sistemas que só geram registro quando um humano revisou manualmente, e ficam silenciosos quando a decisão saiu automática, sem intervenção. Isso inverte a prioridade — é exatamente o caso sem intervenção humana que mais precisa de rastro, porque é o que tem maior chance de gerar um resultado errado sem ninguém percebendo antes do efeito acontecer. O campo intervencao_humana = False precisa ser registrado com o mesmo rigor que True, nunca como ausência de registro.

Critério prático de aceite

  1. Toda decisão de risco médio, alto ou crítico (matriz da peça 05) gera um registro, independentemente de ter havido ou não intervenção humana.
  2. O registro distingue explicitamente "humano revisou e confirmou" de "humano revisou e alterou" de "nenhuma revisão humana".
  3. O registro guarda resumo da entrada, não o dado bruto completo, com retenção definida por política, não indefinida.
  4. É possível, a partir do registro, reconstruir qual versão do modelo/sistema estava em produção no momento da decisão.

O que vem a seguir

Registro de decisão é a matéria-prima para responder a uma fiscalização, mas não é, sozinho, evidência organizada — a próxima peça trata do que reunir, e como, para conseguir responder a uma auditoria sem precisar reconstruir tudo manualmente, como no cenário desta peça.

Antes de seguir

Esta é a sétima peça da série sobre governança de IA e LGPD sob a ótica de engenharia. O esquema acima é ponto de partida técnico; o prazo de retenção do registro e o que fazer diante de uma contestação formal são decisões do DPO e do jurídico, não desta série. Os critérios alimentam o Inventário de IA e LGPD, gratuito, ainda em preparação. Entre na lista de espera para receber o material assim que sair: medha.ia.br/lista-de-espera.

Material técnico e organizacional — não substitui parecer jurídico nem a atuação do DPO.

Inventário de IA e LGPD

Modelo para levantar quais sistemas, agentes e automações de IA a empresa usa, com quais dados e quem responde por eles. Material técnico; não substitui parecer jurídico.

Só enviamos o material e avisos sobre ele. Privacidade