Respuesta directa
Una explicación eficaz comienza indicando la decisión exacta y sus efectos sobre la persona. Después muestra las funciones de la IA y de las personas, los datos relevantes utilizados y su fuente, y las reglas, umbrales e incertidumbres que influyeron en el resultado. También deben quedar claros la información ausente o corregible y el camino para impugnar. «Lo calculó el algoritmo» no explica por qué se llegó a ese resultado.
En lenguaje claro
Si se rechaza una solicitud, «el sistema determinó que no cumple los requisitos» no resulta útil. Necesita saber qué información se consideró errónea o ausente, qué regla se aplicó y qué puede corregir o cuestionar.
Por qué importa
Sin el motivo relevante, una persona no puede corregir datos inexactos, aportar pruebas en contra ni impugnar la decisión de forma significativa. Una explicación elegante pero irrelevante solo crea apariencia de transparencia.
No confundir
- Una explicación general del sistema describe a grandes rasgos cómo funciona el modelo; una explicación específica de la decisión describe ese resultado concreto.
- Una explicación de datos identifica la información utilizada; una explicación de factores muestra cómo afectó al resultado.
- Una explicación ofrece los fundamentos de una decisión; no convierte automáticamente la decisión en correcta o lícita.
- La divulgación aporta información; una explicación eficaz para impugnar debe ser suficientemente accionable.
- La información confidencial o sensible para la seguridad puede protegerse, pero el motivo relevante no puede ocultarse por completo.
Qué hacer
- Indique el identificador, la fecha, el alcance y el efecto de la decisión, y si continúa vigente.
- Separe las funciones del sistema de IA, el revisor humano y quien toma la decisión final.
- Identifique los datos relevantes utilizados, su fuente y fecha, y cómo se vincularon con la persona.
- Explique los factores, reglas, umbrales y pruebas relevantes en contra que influyeron en ese resultado.
- Haga visibles la incertidumbre, la información ausente y los límites de la explicación.
- Indique qué datos pueden corregirse, qué nuevas pruebas pueden aportarse, el plazo y la vía segura de impugnación.
- Contraste la explicación con el registro real de la decisión y compruebe que el lector previsto pueda entenderla.
Cómo auditarlo
- ¿Puede la persona comprender qué decisión y qué efecto se le aplican?
- ¿Se describen con exactitud los límites entre las funciones de IA y humanas?
- ¿Pueden verse los datos relevantes, su fuente, fecha y correspondencia de entidad?
- ¿Se explican los factores y reglas que influyeron realmente en el resultado?
- ¿Se presentó una descripción general del modelo como explicación específica de la decisión?
- ¿Sabe la persona qué corregir y dónde presentar una impugnación?
- ¿Se utilizaron la privacidad o los secretos comerciales para ocultar por completo el motivo relevante?
Límite
El alcance exigido de una explicación varía según jurisdicción, tipo de decisión y riesgo. La seguridad, los derechos de terceros y el privilegio jurídico pueden limitar algunos detalles. La existencia de una explicación no demuestra por sí sola exactitud, equidad ni cumplimiento legal.
Recuérdalo en una frase
Una explicación que no permite impugnar es solo apariencia de información.
Fuentes de este registro
- S35W3C, *PROV-O: The PROV Ontology*Estándar
- S45Unión Europea, Reglamento (UE) 2024/1689 — *Reglamento de Inteligencia Artificial*Legislación
- S48Unión Europea, Reglamento (UE) 2016/679 — *Reglamento General de Protección de Datos*Legislación
- S50NIST AI 100-1, *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*Marco institucional voluntario orientado a estándares
- S61Council of Europe, *Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law* (CETS No. 225)Convenio internacional e institución oficial
- S62European Data Protection Board, *Guidelines on Automated Individual Decision-Making and Profiling for the Purposes of Regulation 2016/679*Guía oficial de un consejo