Respuesta directa
Vincule la explicación con un registro conservado cuando se tomó la decisión. Ese registro muestra las versiones del modelo y del sistema, las instrucciones, los datos utilizados, la información seleccionada, la política, las llamadas a herramientas, las intervenciones humanas y el resultado aplicado. Haga corresponder cada afirmación relevante de la explicación con una de estas pruebas. Cuando proceda, elimine o cambie un factor alegado y compruebe si cambia el resultado. Si el registro no respalda el texto, etiquételo como posible relato elaborado a posteriori, no como explicación fiel.
En lenguaje claro
Imagine una cuenta de restaurante escrita de memoria después de comer. El total puede parecer correcto, pero no demuestra qué platos se pidieron realmente. Una cuenta fiable coincide con los registros tomados cuando se hizo el pedido.
Por qué importa
Las personas confían con facilidad en una explicación que suena razonable. Si no está vinculada con la decisión real, se les puede pedir que corrijan los datos equivocados, el error verdadero puede permanecer oculto o la responsabilidad puede atribuirse falsamente.
No confundir
- Una explicación verosímil suena comprensible; una explicación fiel coincide con las pruebas de la decisión real.
- Una explicación a posteriori se produce después de la decisión y puede ser exacta o inventada.
- La procedencia pregunta de dónde vino un registro; la causalidad pregunta qué elemento cambió el resultado.
- La existencia de un registro de eventos no demuestra que sea completo, exacto o inalterado.
- La reproducción busca un resultado parecido; una prueba de fidelidad examina la afirmación causal de la explicación.
Qué hacer
- Conserve copias del momento de la decisión del modelo, los datos, la instrucción, la política, las herramientas y las versiones humanas.
- Cree una traza temporal de entradas, selección de información, llamadas a herramientas, intervención humana y resultado aplicado.
- Proteja la integridad del registro de eventos y de la instantánea de decisión con hashes, controles de acceso e historial de cambios.
- Haga corresponder cada afirmación relevante de la explicación con el registro de decisión que la respalda.
- Cuando proceda, pruebe la fidelidad del comportamiento mediante eliminación de factores, contrafactuales, repeticiones y pruebas de sensibilidad.
- No presente relatos sin respaldo o meramente posibles como explicaciones fieles; indique el nivel de garantía.
- Cuando cambie el sistema, vuelva a validar la explicación en lugar de trasladarla a la nueva versión.
Cómo auditarlo
- ¿Está la explicación vinculada con el identificador correcto y una instantánea del momento de la decisión?
- ¿Pueden rastrearse el modelo, la instrucción, los datos, la selección de información, las herramientas, la política y las intervenciones humanas?
- ¿Aparece realmente en el registro cada motivo relevante de la explicación?
- ¿Se protegen la integridad y la exhaustividad de los registros de eventos?
- ¿Se evaluó la fidelidad del comportamiento mediante pruebas o solo por la calidad de la prosa?
- ¿Se presentó como causa interna segura una explicación a posteriori o generada por el proveedor?
- ¿Se utilizó una explicación antigua tras cambiar de versión sin volver a validarla?
Límite
Con modelos opacos y complejos no siempre puede demostrarse toda la causalidad interna. Una traza de decisión muestra solo el proceso observable y puede no revelar cada mecanismo interno. En ese caso, declare explícitamente el nivel de garantía y las incógnitas.
Recuérdalo en una frase
Un buen relato puede ser una explicación; la fidelidad exige pruebas vinculadas con el momento de la decisión.
Fuentes de este registro
- S26NIST SP 800-53 Rev. 5, *Security and Privacy Controls*Estándar
- S35W3C, *PROV-O: The PROV Ontology*Estándar
- S36W3C, *Trace Context*Estándar
- S37OpenTelemetry, *General Trace Semantic Conventions*Documentación de estándar y proyecto
- S44NIST, *AI Risk Management Framework Playbook* y AI RMF CoreGuía voluntaria de aplicación
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Marco institucional voluntario orientado a estándares