IA e governança · 10 minutos · Mapeamento de sistemas de decisão · Governança de IA · Propriedade de regras
Quando uma organização automatiza uma decisão, ela não automatiza uma política: automatiza a prática vigente, incluindo as regras que ninguém escreveu, revisou ou aprovou.
A automação pode escalar não apenas a eficiência, mas também a ambiguidade.
Critério herdado → Solução provisória → Interpretação local → Restrição do sistema → Precedente informal → Regra sem dono
Nenhuma dessas origens inclui uma decisão de política documentada.
Um critério de elegibilidade ajustado anos atrás, uma solução provisória que se tornou permanente, a interpretação de uma equipe, um limite do sistema anterior ou um precedente informal: todos acabam operando como regra.
Uma regra informal aplicada por pessoas é corrigida caso a caso. A mesma regra dentro de um sistema é aplicada de modo uniforme, em velocidade, sem a conversa que antes a corrigia.
Ponto de decisão → Regra → Informação → Autoridade → Discricionariedade → Rota de exceção → Consequência → Monitoramento
Oito elementos por ponto de decisão. Autoridade é o mais omitido.
Cada ponto de decisão deveria poder ser descrito com esses oito elementos. Se a autoridade não pode ser nomeada, a regra não tem dono.
O desenho se julga por como trata os casos que não encaixam: o que acontece com informação incompleta, quem pode sobrepor o resultado, como a sobreposição é registrada e como os processos não resolvidos são detectados.
A ferramenta é só uma parte. O sistema de decisão em torno dela também precisa ser construído.
A Common Practice mapeia as regras, os direitos de decisão, as exceções, os riscos e a governança em torno de decisões automatizadas.
O mapa do sistema de decisão — Uma página: os oito elementos, as cinco origens de uma regra sem dono e as perguntas antes de aprovar uma decisão assistida por IA.