IA y gobernanza · 10 minutos · Mapeo de sistemas de decisión · Gobernanza de IA · Propiedad de reglas
Cuando una organización automatiza una decisión, no automatiza una política: automatiza la práctica vigente, incluidas las reglas que nadie escribió, revisó ni aprobó.
La automatización puede escalar no solo la eficiencia, sino también la ambigüedad.
Criterio heredado → Solución temporal → Interpretación local → Restricción del sistema → Precedente informal → Regla sin dueño
Ninguno de estos orígenes incluye una decisión de política documentada.
Un criterio de elegibilidad ajustado hace años, una solución temporal que se volvió permanente, la interpretación de un equipo, un límite del sistema anterior o un precedente informal: todos terminan operando como regla.
Una regla informal aplicada por personas se corrige caso por caso. La misma regla dentro de un sistema se aplica de manera uniforme, a velocidad, sin la conversación que antes la corregía.
Punto de decisión → Regla → Información → Autoridad → Discreción → Ruta de excepción → Consecuencia → Monitoreo
Ocho elementos por punto de decisión. La autoridad es el que más se omite.
Cada punto de decisión debería poder describirse con esos ocho elementos. Si la autoridad no puede nombrarse, la regla no tiene dueño.
El diseño se juzga por cómo trata los casos que no encajan: qué ocurre con información incompleta, quién puede anular el resultado, cómo se registra la anulación y cómo se detectan los expedientes que quedaron sin resolver.
La herramienta es solo una parte. El sistema de decisión a su alrededor también hay que construirlo.
Common Practice mapea las reglas, los derechos de decisión, las excepciones, los riesgos y la gobernanza alrededor de las decisiones automatizadas.
El mapa del sistema de decisión — Una página: los ocho elementos, los cinco orígenes de una regla sin dueño y las preguntas antes de aprobar una decisión asistida por IA.