Pular para o conteúdo
Engenharia com agentes de IA: governança e custo em reais.

Governança de IA e LGPD · 28 de outubro de 2026

Matriz de risco de caso de uso: como classificar um uso de IA antes de aprovar

Por Medha

Cenário (sintético)

Dois pedidos de aprovação chegaram na mesma semana para o comitê informal de tecnologia de uma empresa: um time queria usar IA para sugerir assunto de e-mail de marketing, e outro queria usar IA para decidir automaticamente se um pedido de reembolso deveria ser aprovado, sem revisão humana, para agilizar o atendimento. Os dois pedidos foram tratados da mesma forma — uma conversa informal de dez minutos e um "pode seguir". O segundo caso, semanas depois, gerou uma sequência de reembolsos aprovados incorretamente por um padrão que o modelo tinha aprendido errado a partir de poucos exemplos de treino, sem que ninguém tivesse decidido, previamente, que aquele nível de autonomia exigia mais controle do que sugerir assunto de e-mail.

Por que caso de uso de IA não pode ter um único nível de aprovação

O erro do cenário não foi aprovar o segundo caso — foi tratar dois casos com risco completamente diferente com o mesmo processo de aprovação. Sugerir assunto de e-mail, se errar, gera no máximo uma campanha pouco eficaz. Decidir reembolso sem revisão humana, se errar, move dinheiro e afeta diretamente o titular do dado — e é, além disso, decisão automatizada sujeita ao direito de contestação do artigo 20 da LGPD (tema da peça 10 desta série). Tratar os dois com a mesma régua é o motivo mais comum de aprovação malfeita: não falta critério nenhum, falta diferenciar o risco antes de decidir.

Duas dimensões que já classificam a maior parte dos casos

Uma matriz de risco não precisa ser complexa para ser útil. Duas dimensões, cruzadas, já separam a maior parte dos casos de uso em níveis de risco claramente diferentes:

  • Sensibilidade do dado tratado, do inventário (peça 02): nenhum dado pessoal < dado pessoal comum < dado sensível (saúde, biometria, origem, orientação, dado de criança/adolescente).
  • Nível de autonomia da decisão: sugestão revisada por humano antes de qualquer efeito < ação automática reversível < ação automática irreversível ou com efeito financeiro/jurídico direto sobre o titular.
from enum import IntEnum

class SensibilidadeDado(IntEnum):
    NENHUM_DADO_PESSOAL = 0
    DADO_PESSOAL_COMUM = 1
    DADO_SENSIVEL = 2

class Autonomia(IntEnum):
    SUGESTAO_REVISADA_POR_HUMANO = 0
    ACAO_AUTOMATICA_REVERSIVEL = 1
    ACAO_AUTOMATICA_IRREVERSIVEL_OU_COM_EFEITO_DIRETO = 2

NIVEIS_RISCO = {
    0: "baixo",
    1: "medio",
    2: "medio",
    3: "alto",
    4: "critico",
}

# A soma simples não cobre um caso: decisão automática irreversível ou com
# efeito direto sobre o titular, mesmo sem nenhum dado pessoal envolvido,
# nunca pode cair em "baixo" ou "médio" (ver critério 4 de aceite). Por
# isso existe um piso mínimo de pontuação para esse nível de autonomia.
PONTUACAO_MINIMA_POR_AUTONOMIA = {
    Autonomia.ACAO_AUTOMATICA_IRREVERSIVEL_OU_COM_EFEITO_DIRETO: 3,  # piso "alto"
}

def classificar_risco(sensibilidade: SensibilidadeDado, autonomia: Autonomia) -> str:
    """Soma simples das duas dimensões como primeira aproximação de risco,
    com um piso mínimo para ação automática irreversível ou com efeito
    direto sobre o titular. Não substitui julgamento humano em casos de
    fronteira — é um ponto de partida objetivo para toda aprovação, não a
    decisão final."""
    pontuacao = int(sensibilidade) + int(autonomia)
    piso = PONTUACAO_MINIMA_POR_AUTONOMIA.get(autonomia)
    if piso is not None:
        pontuacao = max(pontuacao, piso)
    return NIVEIS_RISCO[pontuacao]

# Exemplo: sugestão de assunto de e-mail, sem dado pessoal
# classificar_risco(SensibilidadeDado.NENHUM_DADO_PESSOAL, Autonomia.SUGESTAO_REVISADA_POR_HUMANO)
# -> "baixo"

# Exemplo: aprovação automática de reembolso, com dado pessoal comum
# classificar_risco(SensibilidadeDado.DADO_PESSOAL_COMUM, Autonomia.ACAO_AUTOMATICA_IRREVERSIVEL_OU_COM_EFEITO_DIRETO)
# -> "alto"

O que cada nível de risco exige, na prática

Nível O que costuma exigir
Baixo Registro no inventário; aprovação do responsável técnico do squad, sem comitê.
Médio Registro no inventário; revisão de alguém fora do squad que construiu (par ou tech lead de outra área); checagem de que a política de uso (peça 06) está sendo seguida.
Alto Avaliação de impacto documentada (o equivalente organizacional de uma DPIA, mesmo que simplificada); revisão do DPO/jurídico antes de ir para produção; registro de decisão (peça 07) desde o primeiro dia.
Crítico Tudo do nível "alto", mais: aprovação formal de um comitê (ainda que pequeno) antes do piloto, não só antes da produção; plano explícito de intervenção humana; revisão periódica obrigatória, não só no lançamento.

Este mapeamento é ponto de partida, não regra fixa — cada empresa ajusta o rigor de cada faixa ao seu próprio apetite de risco. O que não deveria variar é o princípio: quanto mais alto o risco, mais gente e mais registro entram no processo, nunca o contrário.

Critério prático de aceite

  1. Todo caso de uso listado no inventário (peça 02) tem uma classificação de risco explícita, não implícita ("a gente sabe que é tranquilo").
  2. A classificação usa pelo menos duas dimensões (sensibilidade do dado e nível de autonomia), não uma impressão geral de "parece arriscado".
  3. Existe uma régua documentada de "o que cada nível exige" — para que a classificação tenha consequência prática, e não seja só um rótulo decorativo.
  4. Decisão automatizada com efeito direto sobre o titular nunca fica em nível baixo ou médio, independentemente de qualquer outro fator.

O que vem a seguir

Classificar o risco de cada caso de uso só funciona se existir, por trás, uma política escrita definindo quem aprova cada nível e como o time fica sabendo da regra — assunto da próxima peça desta série.

Antes de seguir

Esta é a quinta peça da série sobre governança de IA e LGPD sob a ótica de engenharia. O código acima é um ponto de partida objetivo, não substitui avaliação jurídica de impacto em casos de risco alto ou crítico. Os critérios alimentam o Inventário de IA e LGPD, gratuito, ainda em preparação. Entre na lista de espera para receber o material assim que sair: medha.ia.br/lista-de-espera.

Material técnico e organizacional — não substitui parecer jurídico nem a atuação do DPO.

Inventário de IA e LGPD

Modelo para levantar quais sistemas, agentes e automações de IA a empresa usa, com quais dados e quem responde por eles. Material técnico; não substitui parecer jurídico.

Só enviamos o material e avisos sobre ele. Privacidade