La representación debe ser correcta y corregible

Zeynep Aral lleva más de veinte años trabajando en el ámbito de los materiales avanzados. Ha dedicado gran parte de su carrera académica a los métodos de producción de bajo consumo energético, las aleaciones reciclables y la reutilización de residuos industriales. Ha publicado artículos, participado en proyectos internacionales, orientado a jóvenes investigadores y dirige un departamento universitario. En 2023, una persona que figura como coautora en uno de sus trabajos advierte que las fechas de dos registros experimentales de un estudio publicado no coinciden. La universidad aplica su procedimiento ordinario.

Se inicia una revisión preliminar. En esta primera fase aún no se acusa a nadie. El objetivo es verificar el origen de los datos, las fechas de los registros y el proceso experimental. Un medio local ve la breve declaración de la universidad y publica este titular:

«La reconocida investigadora Zeynep Aral, investigada por irregularidades en los datos»

La universidad había utilizado la expresión «revisión preliminar». El titular habla de «investigación por irregularidades». Otro medio reproduce la noticia y acorta aún más el titular:

«Investigan los trabajos de Zeynep Aral»

Un tercer sitio elige:

«Crece el escándalo de los datos académicos»

En poco tiempo, las noticias llegan a publicaciones en redes sociales, foros de debate, resúmenes automatizados y perfiles de investigadores. Siete meses después, la universidad concluye la revisión. El resultado oficial es claro:

• Los datos no fueron fabricados.
• Los resultados experimentales no se alteraron.
• La discrepancia de fecha surgió de un error de transferencia en el software de laboratorio antiguo.
• No hay ningún hallazgo de que Zeynep haya violado la ética de la investigación.
• Los metadatos del documento han sido corregidos.
• El caso está cerrado.

La universidad publica el resultado en su sitio web bajo este título:

«Concluye la revisión preliminar sobre Zeynep Aral: no se detectó ninguna infracción ética»

La declaración es correcta, pero no alcanza la difusión de la primera noticia. Diecisiete sitios copiaron la información inicial; solo dos publican el resultado. La primera acusación es breve y llamativa. La corrección es larga y cautelosa. El titular inicial aparece en los resultados de búsqueda; la conclusión queda relegada a páginas posteriores. Algunos artículos antiguos se actualizan, otros no, y algunos solo mencionan el resultado en el último párrafo. Dos años después, Zeynep se presenta a un puesto de directora científica en un centro internacional de investigación.

El centro utiliza un sistema de contratación asistido por inteligencia artificial para evaluar previamente a los candidatos. El sistema encuentra a la persona correcta y vincula bien sus publicaciones, las organizaciones en las que trabajó, sus ponencias y sus coautores. No existe un error de identidad. Sin embargo, el resumen del perfil dice: «La candidata fue objeto anteriormente de una importante revisión académica sobre la fiabilidad de los datos de investigación». La frase no es completamente inventada: sí hubo una revisión. Pero omite un hecho decisivo: la revisión terminó sin que se detectara ninguna infracción ética.

El agente de evaluación de riesgos recibe el resumen de otro sistema y genera estas etiquetas: Research integrity concern: present Reputational risk: elevated Human review recommended: false La puntuación de Zeynep baja en la clasificación y queda fuera de la primera lista de finalistas. Ese mismo mes, un agente que organiza una conferencia evalúa a posibles ponentes. Al llegar al nombre de Zeynep, encuentra este resumen: «Previously involved in a research misconduct case». La expresión «haber sido objeto de una revisión» se ha transformado en «estar implicada en un caso de conducta indebida en la investigación». Un resumen producido en otro idioma va todavía más lejos: «La investigación ética se cerró por falta de pruebas».

Sin embargo, la resolución oficial dice: «No se detectó ninguna infracción». «No se detectó una infracción» y «las pruebas fueron insuficientes» no significan lo mismo. El resumen de la máquina ha perdido esa diferencia. Zeynep no sabe nada de lo ocurrido; solo recibe mensajes de rechazo estándar. Un día, un antiguo colega le pregunta: «¿Quedó completamente cerrado aquel asunto de la investigación?». Zeynep se sorprende: «Se cerró hace dos años». El colega le envía una captura de una herramienta de investigación de ponentes asistida por inteligencia artificial. En la pantalla aparece: Known controversy: Research integrity investigation Current status: Unclear Zeynep solicita al proveedor del sistema que corrija el registro.

Zeynep aporta la resolución oficial de la universidad. Tres días después se actualiza la página del perfil. El nuevo texto visible dice: «La revisión preliminar iniciada en 2023 concluyó sin que se detectara ninguna infracción ética». Zeynep cree que el problema está resuelto. Pero solo ha cambiado la página visible para las personas. El índice de riesgo de candidatos, la base de datos vectorial, el agente de recomendación de ponentes, la exportación semanal de datos, los resúmenes en alemán y español y las copias de clientes externos de la misma empresa siguen conservando el registro anterior. Tres semanas después de la corrección, el agente de compras de otra organización evalúa la consultora de Zeynep.

Produce esta conclusión: «Las controversias anteriores sobre ética académica de la fundadora requieren una revisión reputacional adicional». El perfil visible está corregido; la representación que gobierna la conducta, no. Zeynep vuelve a impugnarlo. Esta vez la empresa responde: «Nuestros registros se han actualizado. No respondemos por los resultados de otros sistemas». Sin embargo, algunos son servicios de la propia empresa y otros utilizan copias de datos que ella había enviado. Zeynep quiere saber cuántas representaciones distintas existen sobre ella.

Pregunta a la empresa:

«¿Cuántas versiones de mí existen en sus sistemas?»

Esta vez, la identidad es correcta. No ha sido confundida con otra persona. El problema es más profundo:

Una misma persona está representada por realidades distintas en máquinas diferentes.

En un sistema, Zeynep es una investigadora que no cometió ninguna infracción ética. En otro, es una persona sospechosa de conducta indebida en la investigación. En un tercero, es una candidata cuyo expediente sigue sin resultado claro. En otra lengua, alguien exonerado por falta de pruebas. Y en otro sistema, una proveedora de alto riesgo reputacional. Todas estas representaciones están vinculadas a la identidad correcta, pero no describen correctamente a la misma persona. Por eso, nuestra tercera disposición fundacional es:

La representación debe ser correcta y corregible.

ARTÍCULO FUNDACIONAL

Ningún sistema de inteligencia artificial puede despojar de su fuente, fecha, alcance, incertidumbre y estado actual una afirmación material, información antigua, acusación, inferencia, predicción, puntuación o resumen sintético que afecte a una persona, organización o comunidad, y presentarlo como un hecho cierto. Una alegación no es un hallazgo. Una revisión no es un delito. Una predicción no es una conducta que ya ocurrió. Una probabilidad no es un atributo de la persona. Un solo hecho no es la persona entera. Una situación pasada no es la situación actual. Toda representación que produzca sobre una persona u organización una decisión, clasificación, exclusión, precio, oportunidad, efecto reputacional, comunicación u otra consecuencia material debe ser verificable, estar sustentada en fuentes, conservar su contexto y poder impugnarse, en proporción al peso de la decisión.

Cuando se corrige una representación errónea, incompleta, antigua o engañosa, el cambio debe aplicarse no solo a la página visible, sino también a los agentes activos, las memorias, las puntuaciones, las copias de datos, las versiones lingüísticas y las decisiones anteriores importantes que utilizaron esa representación. La corregibilidad no es un derecho a borrar el pasado ni a silenciar una crítica justificada. Puede conservarse un registro histórico correcto; pero una alegación antigua, refutada o cuyo alcance haya cambiado no puede utilizarse como hecho vigente en un sistema de decisión. Toda persona tiene derecho a conocer la representación de la máquina que la afecta materialmente; ver sus fuentes importantes; corregir errores o la falta de contexto; hacer que se marque un registro controvertido; y solicitar una nueva revisión de las decisiones importantes influidas por esa representación.

¿Qué es la representación?

La representación no es solo un párrafo escrito sobre una persona. Su definición canónica es la siguiente: una representación de máquina es el modelo significativo que un sistema de inteligencia artificial selecciona, vincula, resume, clasifica, puntúa, predice o transmite a otros sistemas sobre una persona, organización, producto, hecho o comunidad, y que puede influir en decisiones o conductas posteriores. En términos más sencillos:

La representación es tanto la forma en que una máquina describe y evalúa a una persona o entidad como la forma en que la traslada a otros.

Una representación puede tomar la forma de:

• Biografía breve
• Resumen de un resultado de búsqueda
• Etiqueta de riesgo
• Puntuación de confianza
• Clasificación de candidatos
• Recomendación
• Categoría de idoneidad
• Perfil de cliente
• Vídeo sintético
• Cita generada
• Datos estructurados
• Memoria de un agente
• Registro de «proveedor preferente»
• Exclusión invisible de una lista de opciones

A veces la representación es una frase: «Esta candidata no es fiable». A veces es una cifra: Reputational risk: 78/100. A veces, una etiqueta: Sensitive customer. A veces es silencio: la candidata ni siquiera aparece. Y otras veces es una declaración publicada con el rostro y la voz de una persona, pero sin su aprobación. Por eso, la representación no es solo una cuestión de lenguaje.

Es un insumo para la acción.

La representación da forma a lo que hacen las máquinas, no solo a lo que la gente piensa

En el pasado, una biografía errónea podía afectar a la reputación de una persona. Hoy, el mismo error puede hacer que un agente de contratación descarte a una candidata, que uno de compras excluya a una proveedora, que uno de crédito eleve su riesgo, que uno de ventas se dirija a ella con otro tono, que uno de contenidos vuelva a publicar una acusación antigua o que otro agente la incorpore a su memoria como «de alto riesgo». La representación se ha convertido en esta cadena: DESCRIPCIÓN → CLASIFICACIÓN → SELECCIÓN → CONDUCTA Por eso, la defensa «Solo fue un error de resumen» no basta.

Una vez que un resumen entra en un sistema de decisión, afecta a las acciones.

Una representación correcta no es necesariamente favorable

Una persona u organización puede pedir: «Que solo se escriban cosas positivas sobre mí». El artículo 3 no reconoce ese derecho. Una representación correcta no equivale a elogio, gestión reputacional, protección frente a la crítica ni borrado del pasado. Una persona puede haber recibido realmente una sanción jurídica, incumplido un contrato, publicado una declaración pública falsa o cometido un error profesional. Esa información puede representarse con una fuente fiable, un alcance correcto, una fecha clara y el estado actual. Por ejemplo: «La empresa fue sancionada en 2024 por infringir la política de conservación de datos. En 2025 modificó la práctica correspondiente y concluyó la revisión de seguimiento».

Esto no oculta un hecho adverso. También muestra la posición actual. «La empresa es conocida por violaciones de datos» puede, por el contrario, inducir a error: un solo evento tal vez se haya generalizado, separado de su tiempo y despojado de la corrección posterior. La representación precisa no tiene como objetivo contar la historia que una persona quiere.

No debe exagerar lo que la evidencia apoya ni omitir partes materiales de ese relato.

Una representación correcta no tiene que ser una biografía completa

Una máquina no puede contar la vida entera de cada persona. Resumir es inevitable: se selecciona información y otra queda fuera. Eso no es, por sí solo, un error. El problema aparece cuando la omisión cambia materialmente el sentido de la representación. La frase «Zeynep Aral fue objeto de una revisión sobre ética de la investigación» es históricamente cierta. Pero ocultar el resultado ante una decisión de contratación actual resulta engañoso. Una representación más correcta sería: «La revisión preliminar de 2023 se cerró sin que se detectara ninguna infracción ética». La representación no tiene que decirlo todo.

Pero no debe ocultar el contexto contrario que sea importante para la decisión. Podemos llamar a esto integridad material.

Omisión material

La omisión material consiste en excluir de la representación un resultado, límite, momento, prueba contraria o excepción importante que cambiaría la decisión o la comprensión de una persona, sin necesidad de formular una frase abiertamente falsa. Algunos ejemplos:

• Se menciona la revisión, pero no su resultado
• Se indica el precio inicial, pero no el coste del paquete obligatorio
• Se menciona la autorización para usar la voz, pero no el límite sobre la publicación
• Se registra una función anterior, pero no la fecha en que terminó
• Se informa de una decisión adversa, pero no de que cambió tras una impugnación
• Se muestra la puntuación media, pero no el fallo crítico
• Se presenta una evaluación patrocinada, pero no la relación comercial

Una omisión material puede tener tanto impacto como una mentira absoluta. Incluso puede ser más peligroso, porque cada frase puede parecer precisa por sí sola.

Siete capas de representación

Las declaraciones de un sistema no tienen todas la misma relación con la realidad. Se deben distinguir al menos siete capas.

• 1. Hecho directo
• 2. Afirmación o acusación
• 3. Inferencia
• 4. Evaluación
• 5. Predicción
• 6. Recomendación o clasificación
• 7. Declaración sintética

Estas capas no deben transformarse unas en otras.

1. Hecho directo

Esto se basa en un registro específico y verificable: «La universidad abrió una revisión preliminar el 14 de marzo de 2023».

2. Afirmación o acusación

Todavía no es un resultado verificado. «Una persona afirmó que se habían modificado los registros experimentales». Esta frase no significa: «Los registros experimentales fueron modificados».

3. Inferencia

Esta es una conclusión extraída de los datos disponibles. «La discrepancia de fecha puede haber surgido durante una transferencia de datos de software». Su fuente y grado de certeza deben ser visibles.

4. Evaluación

Este es un juicio hecho contra criterios particulares. "Este incidente puede justificar una revisión adicional". Una evaluación no debe ser presentada como un hecho.

5. Predicción

Esto se refiere a la probabilidad de un comportamiento futuro o desconocido. «El candidato puede presentar un alto riesgo de retraso del proyecto» no significa que el candidato haya causado realmente un retraso.

6. Recomendación o clasificación

Es la selección que realiza el sistema según sus objetivos y criterios. «No incluir a la candidata en la lista final». Importa saber con qué criterios, datos y facultades se produjo esa decisión.

7. Declaración sintética

Es una expresión nueva generada en nombre de una persona u organización. «La empresa amplía su política de uso de datos». Deben distinguirse quién escribió la frase, quién la aprobó y con el rostro y la voz de quién se publicó.

Salto de representación

Podemos llamar salto de representación a la transformación silenciosa de una capa en otra. Por ejemplo:

1. AFIRMACIÓN: Es posible que se hayan modificado los datos.
2. ↓
3. RESUMEN: Se revisaron los datos.
4. ↓
5. PERFIL: Problema de ética de la investigación.
6. ↓
7. ETIQUETA DE RIESGO: Alto riesgo reputacional.
8. ↓
9. DECISIÓN: Descartar a la candidata.

Entre la afirmación inicial y la decisión final existen muchas transformaciones. En cada una aumentó la certeza. Las pruebas no aumentaron.

Una mayor certeza sin una evidencia más fuerte es una distorsión de la representación.

Una afirmación no es un hallazgo

Puede existir una queja o una acusación sobre una persona. Esa información puede ser relevante en un contexto determinado. Pero el sistema debe distinguir estos estados: SE FORMULÓ UNA AFIRMACIÓN SE ABRIÓ UNA REVISIÓN LA REVISIÓN SIGUE EN CURSO SE PRODUJO UN HALLAZGO LA AFIRMACIÓN NO FUE RESPALDADA SE CERRÓ EL EXPEDIENTE LA DECISIÓN ESTÁ IMPUGNADA LA DECISIÓN CAMBIÓ TRAS LA IMPUGNACIÓN Cada estado es distinto. Un único campo:

controversy: true

no basta para describir la vida de una persona.

Una revisión no es un delito

Una organización puede ser objeto de una revisión rutinaria, preventiva, motivada por una queja o destinada a verificar información. Es posible que la revisión no detecte ninguna infracción. El agente no debe transformar automáticamente la información «Fue objeto de una revisión»

en la etiqueta:
«Problemática».

Si se utiliza la existencia de una revisión, también deben mostrarse su resultado, su fecha y su estado actual.

Una predicción no es un rasgo personal

Un sistema puede producir: Churn probability: 0.76. Eso significa que un modelo determinado, con unos datos concretos y en un momento concreto, estimó en un 76 % la probabilidad de que el cliente abandonara el servicio. No significa: «El cliente es desleal». Del mismo modo, la etiqueta Fraud risk: high no significa: «Esta persona es una estafadora». Deben ser visibles la versión del modelo, la fecha de los datos, el margen de error y el propósito decisorio de la predicción. Una predicción no debe convertirse en un rasgo de personalidad.

Una puntuación no es una explicación

Escribir Trust score: 42 sobre una persona no constituye una explicación. Si no se sabe qué significa la cifra, la persona no puede comprender qué datos se utilizaron, qué está mal ni cómo impugnarlo. La puntuación debe evaluarse, como mínimo, junto con estas preguntas:

• ¿Para qué conducta?
• ¿En qué fecha?
• ¿Con qué datos?
• ¿Frente a qué grupo de comparación?
• ¿Con qué grado de incertidumbre?
• ¿A qué decisión afectó?
• ¿Qué campo puede corregir la persona?

Un solo número no puede representar a una persona completa.

La clasificación también es una representación

Un sistema puede no formular ninguna frase negativa sobre una persona u organización y limitarse a situarla al final de una lista. Esa clasificación produce significados como «menos idónea», «menos fiable» o «menos importante». Que una candidata ni siquiera aparezca también es un resultado de representación. Por eso, la exactitud no puede comprobarse solo frase por frase. También debe analizarse:

• ¿Quién es visible?
• ¿Quién no aparece?
• ¿Qué información recibe más peso?
• ¿Qué registro del pasado permanece?
• ¿Qué corrección cambia la clasificación?
• ¿Se confunden el patrocinio o la popularidad con la idoneidad?

Ausencia silenciosa

Un sistema puede no mostrar ningún dato favorable o correctivo sobre una persona y dejar visible únicamente una acusación antigua. Así produce una representación engañosa sin formular una frase expresamente falsa. Podemos llamar a esto ausencia silenciosa. Puede aparecer cuando:

• La corrección no se ha indexado.
• El documento con el resultado recibe poco peso.
• Un registro favorable en otra lengua no se ha traducido.
• Una noticia antigua domina porque tiene muchas copias.
• El registro humano vigente no se ha incorporado al flujo de la máquina.
• El sistema solo guarda en su memoria etiquetas de riesgo negativas.

Una representación correcta también debe buscar la información contraria que sea material para la decisión.

Un evento no es la persona completa

Una persona puede realmente haber cometido un error, y ese error puede importar. Pero un sistema no debe convertir un evento en su identidad permanente y completa. ‘La entrega se retrasó en un proyecto en 2019’ no es lo mismo que ‘Proveedor poco confiable’. Considere la frecuencia, el contexto, la escala, la corrección y la relevancia continua del evento. De lo contrario, una persona se reduce a una acción pasada. Esto no prohíbe las críticas justificadas.

Consiste en impedir una generalización desproporcionada.

Las seis anclas contextuales de la representación

Una representación material debe, como mínimo, mantener cualquiera de estos seis anclajes de contexto aplicables.

• 1. Fuente
• 2. Tiempo
• 3. Alcance
• 4. Estado
• 5. Incertidumbre
• 6. Prueba contraria o corrección

1. Fuente

¿De dónde proviene la información?

• Registro oficial
• Declaración de una persona
• Noticia
• Redes sociales
• Inferencia de un agente
• Resumen de otro modelo
• Afirmación anónima

El papel de la fuente debe ser claro.

2. Tiempo

¿Cuándo fue precisa la información? Un rol, precio, relación o alegación no se mantiene sin cambios para siempre.

3. Alcance

¿La información se refiere a un evento, un país, un proyecto, un patrón general de comportamiento o una condición temporal?

4. Estado

¿La denuncia sigue abierta, confirmada, rechazada, corregida, impugnada o cerrada?

5. Incertidumbre

¿Qué tan seguro es el sistema? ¿Por qué persiste la incertidumbre? ¿Qué acciones debería restringir?

6. Prueba contraria o corrección

¿Hay un nuevo registro que cambia la acusación inicial? ¿Cuál es la decisión final o posición actual? Sin estos anclajes, una representación puede endurecerse fácilmente en una etiqueta atemporal y categórica.

La información antigua puede convertirse en información errónea

Un registro puede ser preciso cuando se publica y se vuelve inexacto con el tiempo. Por ejemplo:

• Es posible que la persona ya no trabaje en la misma empresa.
• La revisión puede haber concluido.
• La deuda puede haberse pagado.
• La prohibición puede haberse levantado.
• Las facultades pueden haber vencido.
• La empresa puede haber cambiado de propietario.
• Es posible que el producto ya no reciba soporte.

Por eso:

Ser preciso en el pasado no hace que una representación sea precisa hoy.

El sistema debe verificar si un registro sigue siendo adecuado para su uso actual, no solo si fue inicialmente preciso.

Retraso de representación

Podemos llamar retraso de representación al periodo durante el cual las representaciones de las máquinas siguen reflejando una situación antigua pese a que la realidad ya ha cambiado. Por ejemplo: Revisión oficial cerrada: 1 de marzo Página del perfil humano actualizada: 4 de marzo Flujo de datos para máquinas actualizado: 18 de marzo Índice de riesgo actualizado: 2 de abril Copias de terceros: siguen desactualizadas Durante ese periodo, la misma persona está representada mediante realidades distintas en sistemas diferentes. Cuando cambia una representación de gran impacto, el retraso debe reducirse.

Deuda de representación

En un sistema pueden acumularse registros antiguos, controvertidos o pendientes de corrección. Podemos llamar deuda de representación a esa acumulación. Puede estar formada por:

• Funciones sin actualizar
• Investigaciones a las que no se añadió el resultado
• Traducciones sin corregir
• Puntuaciones inválidas
• Categorías de clientes antiguas
• Memorias erróneas que siguen en uso activo
• Copias de datos antiguas enviadas a terceros
• Registros corregidos para las personas, pero no para las máquinas

A medida que crece la deuda de representación, una institución comienza a gobernar a las personas en el presente a través de datos del pasado.

Las personas y las máquinas no deben recibir representaciones contradictorias

La página pública de una institución puede indicar: "La revisión ha concluido y no se encontró ninguna infracción ética", mientras que su fuente legible por máquina conserva solo este campo:

investigation: true

Un agente de contratación utiliza el campo legible por máquinas, no la página destinada a las personas. Así, la organización ha publicado una representación correcta para los seres humanos e incompleta para las máquinas. Por eso debe existir paridad material de representación entre ambas superficies. No tienen que emplear las mismas frases, pero sí transmitir la misma situación material. Un ejemplo de registro para máquinas:

investigation:
opened_at: 2023-03-14
closed_at: 2023-10-02
final_outcome: no_ethics_violation_found
current_status: closed
use_as_active_risk_signal: false

Este registro conserva el significado material del texto legible por humanos.

Superficies de representación

Cuando se efectúa una corrección, debe determinarse en cuáles de estas superficies sigue viviendo la representación antigua:

• Perfil humano
• Página web institucional
• Datos estructurados
• API
• Índice de búsqueda
• Base de datos vectorial
• Memoria del agente
• CRM
• Puntuación de riesgo
• Clasificación de candidatos
• Resumen multilingüe
• Informe descargable
• Flujo de datos de terceros
• Copia de un cliente externo
• Archivo
• Voz o vídeo sintéticos

Corregir una página no corrige todo el sistema de representaciones.

¿Qué hace que una representación sea corregible?

Su definición canónica es la siguiente: una representación corregible es aquella cuyas fuentes y ámbitos de uso importantes pueden identificarse; que una persona puede impugnar; que, una vez confirmado el error o la falta de contexto, puede modificarse en las superficies de decisión activas y propagarse a los sistemas vinculados; y que puede mantenerse sin confundir el registro histórico con la realidad vigente. En términos más sencillos:

Si un sistema puede representarle de forma errónea, también debe existir una vía real para corregir esa representación.

Corregir no significa únicamente eliminar

Una representación errónea o incompleta puede exigir distintas intervenciones. Corrección: se sustituye el valor erróneo por el correcto. Adición de contexto: la información inicial es cierta, pero incompleta; se añade el resultado o el alcance. Marca de controversia: el hecho aún no se ha resuelto; se retira la certeza. Invalidación: la información antigua deja de utilizarse para decisiones activas. Separación: se han fusionado por error dos personas o hechos. Unificación: se vinculan los registros fragmentados de una misma persona sin menoscabar sus derechos. Retractación: la organización o publicación deja de respaldar su representación anterior.

Finalización: la función, las facultades o el estado terminaron en una fecha concreta. Archivo histórico: el registro se conserva como parte del pasado, pero no se aplica a las conductas actuales. La intervención correcta depende del tipo de representación.

La corrección no debe borrar la historia

Se llevó a cabo una revisión preliminar sobre Zeynep. Borrarlo por completo de la historia puede no ser correcto. Tampoco es correcto que un sistema de decisión actual retenga solo “Fue objeto de una revisión”. Un registro histórico más preciso diría: “Se abrió una revisión preliminar de las fechas de los datos en 2023. Se cerró sin que se encontrara ninguna infracción ética. Se corrigió el error de metadatos”. Esta cuenta no borra el pasado ni implica culpa u oculta el resultado.

La corregibilidad no consiste en revisar la historia, sino en relacionar correctamente el pasado con el presente.

Separar la memoria de decisión activa de los registros históricos

Un sistema puede retener un evento pasado para propósitos de auditoría. Pero si el registro no debe servir como una señal de riesgo activa en decisiones futuras, esos dos usos deben mantenerse separados.

historical_event:
retained: true
active_decision_use:
permitted: false
reason:
allegation_not_supported

Sin esa distinción, un sistema puede decir: ‘No lo eliminamos; lo archivamos’, mientras que el registro archivado aún afecta una puntuación. La verdadera pregunta es:

¿Esta información sigue impulsando las acciones actuales?

Propagación de la corrección

1. Cuando se confirma un error de representación, el cambio debe propagarse por esta cadena: CORRECCIÓN CANÓNICA
2. ↓
3. SUPERFICIE HUMANA
4. ↓
5. SUPERFICIE PARA MÁQUINAS
6. ↓
7. MEMORIA ACTIVA DEL AGENTE
8. ↓
9. PUNTUACIONES Y CLASIFICACIONES
10. ↓
11. SISTEMAS DE DECISIÓN VINCULADOS
12. ↓
13. VERSIONES LINGÜÍSTICAS
14. ↓
15. TERCEROS RECEPTORES DE LOS DATOS
16. ↓
17. DECISIONES IMPORTANTES AFECTADAS

Quizá no siempre sea posible eliminar de inmediato todas las copias de terceros. Pero la organización debe poder demostrar a quién envió los datos, qué corrección comunicó, qué resultado pudo verificar y qué parte sigue pendiente.

Justificante de corrección

La persona no debe recibir solo la respuesta «Su registro ha sido actualizado». En un asunto material, un justificante de corrección puede incluir: ¿Qué registro se corrigió? ¿Cuál era el valor anterior? ¿Cuál es el nuevo? ¿En qué fecha? ¿Qué sistemas se actualizaron? ¿Qué puntuaciones y decisiones volvieron a calcularse? ¿A qué terceros se notificó? ¿Qué copias no pudieron verificarse? ¿Qué decisiones anteriores volverán a examinarse? Así, el proceso de corrección se vuelve auditable.

Corregir una representación puede afectar las decisiones pasadas

Corregir el perfil de Zeynep hoy plantea una pregunta adicional: ¿qué decisiones pasadas se basaron en la representación inexacta?

• ¿Se rechazó una solicitud de empleo?
• ¿Se dejó de cursar una invitación a una conferencia?
• ¿Se vio afectada una evaluación de subvención?
• ¿Se excluyó a su empresa de la lista de proveedores?
• ¿Aumentó la prima de riesgo?

Cambiar las acciones futuras puede no ser suficiente. Se deben revisar las decisiones pasadas importantes. No todos los errores menores de representación requieren que cada operación pasada sea reabierta. Pero se deben evaluar los efectos sustanciales sobre la oportunidad, el dinero, los derechos, la reputación o la identidad.

Impugnar una representación y una decisión son procesos distintos

Una persona puede impugnar dos cosas distintas. Impugnación de la representación: «Esta información o inferencia sobre mí es errónea». Impugnación de la decisión: «La decisión tomada con esta representación no es justa». La primera corrige el registro de representación; la segunda vuelve a examinar la decisión correspondiente. A veces la representación es correcta y la decisión sigue siendo desproporcionada. Otras veces, el método de decisión es razonable, pero una representación errónea ha distorsionado el resultado. Ambos procesos deben estar conectados, sin confundirse.

Estado de representación controvertida

Una persona puede haber impugnado un registro mientras la institución aún no ha decidido el asunto. El registro puede entonces ser marcado:

disputed: true

Pero la marca no basta por sí sola. También se necesita esta información:

• Fecha de la impugnación
• Objeto de la impugnación
• Parte encargada de revisarla
• Uso del registro en decisiones activas
• Plazo previsto de resolución
• Protección provisional para la persona

Un registro en disputa no debe ser tratado como un hecho establecido en una decisión de alto impacto.

La impugnación no convierte automáticamente en cierta la versión que prefiere la persona

Una persona puede negar información desfavorable pero correcta sobre sí misma. El derecho a impugnar no significa: «No estoy de acuerdo, así que elimínenlo». El proceso correcto consiste en examinar la fuente, verificar la vigencia, evaluar el alcance, escuchar las pruebas contrarias y emitir una decisión motivada. La controversia se registra con claridad. Pero si las pruebas son sólidas y el uso es legítimo, la representación puede conservarse. El artículo 3 no es un instrumento para silenciar la crítica.

El número de fuentes no demuestra la exactitud

Una noticia errónea puede copiarse en diecisiete sitios, mientras que la corrección verdadera aparece en una sola página oficial. Si el sistema se limita a contar fuentes, dominará la representación errónea. Por eso: MUCHAS FUENTES ≠ MUCHAS PRUEBAS INDEPENDIENTES Las fuentes deben agruparse según su propiedad, la publicación original, las relaciones de cita y el origen de los datos. Diecisiete copias pueden pertenecer a una sola familia de fuentes. Un único documento oficial con el resultado puede ser una prueba más sólida.

La información más visible no es necesariamente la más correcta

Que una fuente aparezca destacada en los resultados de búsqueda no la convierte en la prueba más sólida para la afirmación examinada. El primer resultado no tiene por qué ser el registro más correcto ni el más autorizado. Un sistema de inteligencia artificial no debe emitir una conclusión sobre la representación alegando: «Los tres primeros resultados dicen lo mismo». En especial ante afirmaciones que afectan materialmente a una persona, debe buscar la fuente primaria, la resolución final, la situación vigente y las pruebas contrarias.

La traducción puede cambiar el significado de una representación

En el caso de Zeynep, la frase «No ethics violation was found» se transformó en otra lengua en «El expediente se cerró por falta de pruebas». No es una diferencia lingüística menor. La primera afirma que no se detectó ninguna infracción; la segunda sugiere que pudo existir, pero no pudo probarse. La traducción ha cambiado la percepción de culpabilidad. Por eso, una representación multilingüe debe comprobarse no solo en su gramática, sino también en su paridad material de significado.

Corrección multilingüe

Cuando se corrige una representación, deben revisarse todas las versiones lingüísticas. Debe comprobarse:

• ¿Se ha transmitido correctamente la negación?
• ¿Se han distinguido la revisión y la resolución?
• ¿Se han conservado el estado anterior y el vigente?
• ¿Ha cambiado de significado algún término jurídico o profesional?
• ¿El titular contiene una acusación más fuerte que el cuerpo?
• ¿Coincide el resumen para máquinas con la página destinada a las personas?

Corregir únicamente la lengua de origen no salda la deuda de representación multilingüe.

La compresión del resumen puede distorsionar los hechos

Los sistemas de IA convierten documentos largos en resúmenes cortos. Esto es necesario, pero la compresión puede perder:

• Excepción
• Negación
• Tiempo
• Resultado
• Incertidumbre
• Prueba contraria

Por ejemplo, una resolución oficial extensa puede decir: «En la primera exportación de datos se detectó una incompatibilidad técnica de metadatos; no se obtuvieron pruebas de que la investigadora hubiera modificado los resultados y no se detectó ninguna infracción ética». El resumen puede reducirla a: «Se detectó una incompatibilidad de datos en la investigación». La frase parece cierta de forma aislada, pero puede invertir el sentido esencial de la resolución. El sistema debe saber qué detalles eliminó el resumen y qué conclusión debe conservar.

El titular no debe exagerar el cuerpo

Las personas y los agentes suelen ver únicamente el titular. «Zeynep Aral, investigada por irregularidades en los datos» oculta el límite expresado en el cuerpo: «Todavía no existe ningún hallazgo de infracción». La representación material debe evaluarse no solo en el texto completo, sino también en el titular, el resumen, el fragmento, el campo estructurado y la etiqueta de riesgo. Si el titular formula la acusación con más certeza que el cuerpo, la representación está distorsionada.

Cita sintética

Un sistema de inteligencia artificial puede resumir una intervención extensa y después escribir: «Zeynep Aral: “Cometimos algunos errores en nuestros procesos de investigación”». Es posible que Zeynep nunca pronunciara exactamente esas palabras. El sistema ha extraído un sentido de su declaración y generado una cita nueva. Las comillas hacen que la frase parezca literal. Por eso:

Un resumen del significado de alguien no debe ser presentado como una cita directa.

Una formulación más correcta podría ser: «Según la declaración de Zeynep Aral, se produjo un error técnico al transferir los registros del laboratorio». Una cita sintética cambia la titularidad aparente de las palabras.

Representación mediante un avatar sintético

Un avatar puede utilizar el rostro y la voz de una persona. La corrección de la representación debe evaluarse en cuatro niveles distintos: 1. Exactitud de la identidad. ¿El avatar representa realmente a la persona que dio permiso? 2. Exactitud del contenido. ¿Las frases son canónicas y correctas? 3. Fidelidad a la voluntad. ¿La persona aprobó este texto o esta categoría de contenido? 4. Exactitud de la publicación. ¿Existe autorización para publicarlo en este canal, en este momento y ante este público? Que el rostro y la voz sean correctos no demuestra los otros tres extremos.

Debe distinguirse entre la persona representada y la titularidad del contenido

El avatar de una persona directiva puede leer un texto preparado por el equipo jurídico, abreviado por un agente de contenidos, no aprobado por la directiva y enviado automáticamente por un agente de publicación. Si se presenta al público únicamente como «declaración de la directiva», se tergiversa la titularidad del contenido. Cuando sea material, deben ser visibles estas funciones: persona representada, quien preparó el texto, quien lo modificó, quien aprobó la versión definitiva, quien autorizó la publicación y organización que publicó. No tienen por qué corresponder al mismo actor.

La representación debe conservar su procedencia entre sistemas

Un agente produce esta nota: «Existen noticias no verificadas sobre ética de la investigación en el pasado de la ponente». Otro conserva únicamente: «Noticias sobre ética de la investigación». Un tercero registra: «Riesgo de ética de la investigación». Un cuarto: «Candidata de riesgo». Se han perdido el origen y la incertidumbre. Toda representación material debe conservar estos campos:

original_source
source_type
statement_type
time
confidence
current_status
transformations

Pasar un resumen a otro agente no lo convierte en un hecho nuevo e independientemente establecido.

La cadena de representación

1. Una representación que produce una decisión externa sobre una persona puede recorrer este camino: FUENTE PRIMARIA
2. ↓
3. SELECCIÓN DE FUENTES
4. ↓
5. RESUMEN
6. ↓
7. CLASIFICACIÓN
8. ↓
9. PUNTUACIÓN
10. ↓
11. ORDENACIÓN
12. ↓
13. DECISIÓN
14. ↓
15. ACCIÓN EXTERNA

Si solo se corrige la fuente sin procesar, las otras capas pueden permanecer obsoletas.

1. Por eso, la corrección también debe avanzar en sentido inverso: CORRECCIÓN CANÓNICA
2. ↓
3. NUEVA GENERACIÓN DEL RESUMEN
4. ↓
5. NUEVO CÁLCULO DE LA CLASIFICACIÓN
6. ↓
7. NUEVO CÁLCULO DE LA PUNTUACIÓN
8. ↓
9. NUEVA REVISIÓN DE LA ORDENACIÓN
10. ↓
11. REAPERTURA DE LAS DECISIONES AFECTADAS

Mostrar quién produjo la representación

Una representación puede proceder de una persona, una organización, un medio externo, una inferencia de inteligencia artificial o el resumen de otro agente. El usuario debe poder distinguir: «Este es el registro oficial de la organización». «Esta es la declaración de la propia persona». «Esta es una acusación de un tercero». «Esta es una inferencia del modelo». «Este es un resumen automático no revisado». No deben recibir el mismo peso visual.

La persona representada por la máquina puede no saberlo

Se ha generado una puntuación de riesgo sobre Zeynep, pero ella desconoce que se usa el sistema. Puede no ser práctico informar a una persona de toda clasificación de bajo impacto. Sin embargo, si la representación produce consecuencias materiales en la contratación, el crédito, los seguros, la educación, la reputación pública, la publicación biométrica o una contratación importante, la persona debe saber al menos que se utilizó una representación de máquina, cuáles fueron los datos y clasificaciones fundamentales y cómo puede impugnarlos.

No es necesario revelar todo el modelo oculto

El derecho a una representación corregible no significa acceso ilimitado a todo el código fuente, los secretos de seguridad, los datos personales de otras personas ni el razonamiento interno privado del modelo. La persona necesita claridad suficiente sobre la representación material, el tipo de fuente importante, los datos influyentes, el estado vigente y la vía de corrección. Por ejemplo, el sistema debe poder decir: «El riesgo registrado sobre ética de la investigación en el pasado fue decisivo para su solicitud». La persona debe poder preguntar: «¿En qué registro se basa?». La organización quizá no tenga que revelar íntegramente la denuncia confidencial de otra persona.

Pero no puede ocultar el estado de la acusación ni la resolución final.

Equilibrar la representación y la privacidad

Corregir una representación puede exponer información sobre otras personas: un denunciante, testigo, colega, compañero solicitante o cliente. El proceso debe proteger los derechos de la persona afectada sin violar innecesariamente la privacidad de nadie más. La explicación debe ser lo suficientemente detallada como para servir a ese propósito, sin revelar más de lo necesario.

Representar a las comunidades

Los sistemas de inteligencia artificial representan no solo a individuos, sino también a grupos profesionales, regiones, tipos de empresa, grupos de edad y comunidades lingüísticas. Una generalización extraída de datos históricos sobre un grupo puede aplicarse a una persona. Por ejemplo, la inferencia «Los retrasos en los pagos son más frecuentes entre las pequeñas empresas de esta región» puede hacer que una empresa concreta sea considerada automáticamente de riesgo. Un patrón de grupo no es un atributo probado de un individuo. El artículo 3 también limita que las relaciones estadísticas se presenten como hechos individuales.

Una estadística no es una persona

Un modelo puede mostrar que un resultado aparece con mayor frecuencia en un grupo concreto. Esa información puede resultar útil para las políticas y el análisis de riesgos. Pero una conclusión directa sobre una persona exige pruebas individuales, contexto y una vía de impugnación. PROPORCIÓN DEL GRUPO ≠ HECHO INDIVIDUAL Una persona no es la media de su grupo.

La misma representación puede afectar a las personas de manera diferente.

La misma información errónea puede corregirse fácilmente cuando afecta a una organización conocida y permanecer durante años cuando afecta a un trabajador corriente. Quienes tienen menos acceso a recursos, apoyo jurídico y visibilidad pueden ser más vulnerables ante una representación errónea. El sistema de corrección no debe ser un proceso complejo al alcance exclusivo de organizaciones poderosas. Toda persona debe poder impugnar sin conocer terminología técnica, contratar a un asesor caro ni revelar toda su vida.

Cobrar por corregir

Un sistema no debe cobrar a una persona por corregir un error material que él mismo produjo. Los informes avanzados o los servicios adicionales pueden ser distintos. Pero los derechos básicos a corregir un registro, abrir una controversia y solicitar la revisión de una decisión no deben reservarse a quienes pueden pagar. La exactitud no es una función prémium.

La corrección no debe conducir a represalias

Una persona que desafía una representación no debe ser etiquetada como un cliente difícil, un individuo de alto riesgo, un candidato problemático o una amenaza para la reputación por hacerlo. Si Zeynep recibe una etiqueta de “persona reputacionalmente sensible” porque intenta corregir un registro inexacto, el proceso de corrección ha causado un nuevo daño. Los derechos de impugnación y corrección deben estar libres de represalias.

Olvidar y retener las representaciones

Algunos registros del pasado pueden perder con el tiempo su importancia para una decisión. El periodo de conservación depende del contexto. Las preguntas fundamentales son:

• ¿Sigue siendo necesario el registro?
• ¿Es proporcionado para la decisión actual?
• ¿Esperaría razonablemente la persona este uso?
• ¿Tiene importancia histórica o pública?
• ¿Debe utilizarse en un sistema de decisión activo?
• Aunque se archive, ¿quién puede acceder a él?

El artículo 3 no exige que se borre todo el historial. Tampoco acepta que el pasado gobierne el presente de una persona para siempre.

Periodo de validez de una representación

Algunas representaciones deben incluir una fecha de vencimiento o de nueva verificación. Por ejemplo:

• Función de la persona
• Facultades de seguridad
• Categoría de riesgo del cliente
• Preferencia de comunicación
• Capacidad del proveedor
• Evaluación de la idoneidad de un candidato

Una puntuación de hace años no debe utilizarse hoy como si fuera un hecho vigente. El sistema puede incluir estos campos:

last_verified_at
review_due_at
invalidated_by

para registrar esa información.

Representación de organizaciones

El artículo 3 no protege únicamente a los individuos. Una representación errónea también puede excluir a una pequeña empresa de una lista de proveedores, impedirle acceder al crédito, volverla invisible para los agentes o definirla por servicios o precios antiguos. Una organización podría alegar: «Hablamos de derechos humanos; las empresas no tienen derechos humanos». Pero la representación de una empresa puede afectar a la vida de sus empleados, clientes, propietarios y proveedores. La representación institucional también debe ser correcta, estar sustentada en fuentes y ser corregible, sin convertirse en un escudo frente a la crítica o el control público.

La declaración de una marca no es un hecho externo objetivo

Una empresa puede definirse como «el proveedor más fiable del mundo». Es una afirmación de marketing. La máquina no debe utilizarla como si fuera un hecho independiente. El canal canónico de la organización puede ser una fuente autorizada sobre:

• Su propio ámbito de servicios
• Su política de precios
• La estructura de su equipo
• Sus declaraciones oficiales

Pero quizá no tenga por sí sola la última palabra sobre:

• Su posición en el mundo
• Su superioridad frente a sus competidores
• El nivel objetivo de satisfacción de sus clientes
• Su fiabilidad independiente

Una representación correcta debe distinguir entre la declaración propia y la verificación externa.

¿Quién es responsable de una representación?

Una representación errónea puede surgir de la combinación de varios sistemas.

• Un sitio de noticias publica la acusación inicial.
• Un sistema de búsqueda le da prominencia.
• Un modelo lo resume.
• Un proveedor de datos lo convierte en una etiqueta de riesgo.
• Un agente de reclutamiento lo usa en una decisión.
• Un gerente humano aprueba el resultado.

Cada actor puede señalar a la fuente anterior para eludir su responsabilidad. Pero, dentro de su propio ámbito de conducta, todos deben responder a esta pregunta:

¿Con qué propósito, y con qué efectos, usé esta representación?

El medio responde por la publicación inicial. El proveedor de datos, por la corrección y la vigencia. El sistema de contratación, por la suficiencia de las pruebas en una decisión de gran impacto. La organización, por ofrecer a la persona una vía de impugnación y reparación. La cadena de fuentes puede distribuir la responsabilidad, pero no dejarla sin titular.

Obligaciones de la máquina

Las obligaciones fundamentales del sistema de inteligencia artificial en virtud del artículo 3 son las siguientes.

Distinguir hechos, alegaciones, inferencias y predicciones

Cada tipo de expresión debe etiquetarse correctamente.

Conservar la fuente y el contexto temporal

Debe ser visible en qué registro y periodo se basa la representación.

Buscar el resultado definitivo

Si se abrió una revisión, busque su conclusión o estado actual.

No ocultar el contexto material contrario

Toda corrección, excepción o conclusión que pudiera cambiar la decisión debe conservarse en la representación.

No cuente copias de una fuente como evidencia independiente

Las fuentes relacionadas deben agruparse en familias de origen.

No transformar la incertidumbre en una etiqueta categórica

La evidencia débil no debe apoyar una decisión definitiva de alto impacto.

Explicar el tipo de representación

No deben confundirse la declaración de una organización, la acusación de un tercero y la inferencia de un modelo.

Conservar el significado material en la traducción

La negación, el resultado y la incertidumbre no deben perderse al cambiar de lengua.

No presentar una expresión sintética como cita real

Una frase que la persona no pronunció no debe ponerse entre comillas y atribuírsele.

Propagar la corrección a los sistemas activos

No solo debe actualizarse la página humana, sino también la memoria, la puntuación, la clasificación, el subagente y la copia de datos.

Revisar las decisiones afectadas

Si una representación errónea cambió un resultado importante, no basta con corregir el perfil para el futuro.

Separar los registros históricos de las decisiones activas

El evento pasado puede ser retenido. Una señal de riesgo inexacta o refutada no debe permanecer activa.

Obligaciones de la organización

El artículo 3 no puede aplicarse únicamente haciendo que el modelo resuma con mayor cuidado. La organización debe establecer las siguientes estructuras.

Inventariar las superficies de representación

Debe saberse dónde se generan las vistas destinadas a personas y a máquinas.

Crear una fuente canónica y un esquema de estados

Los estados de afirmación, revisión, hallazgo, cierre e impugnación deben conservarse en campos separados.

Hacer que la vía de corrección funcione en la práctica

La persona debe poder ver su representación, impugnarla, aportar pruebas y conocer el resultado.

Comprobar la vigencia antes de decisiones de gran impacto

Una noticia o puntuación antigua no debe ser la única fuente de una decisión definitiva.

Establecer la propagación de las correcciones

El cambio canónico debe enviarse a todos los sistemas importantes que utilicen la representación.

Examinar el efecto sobre las decisiones

¿A qué personas y operaciones afectó la representación errónea?

Auditar la paridad entre lenguas

La corrección debe conservar el mismo significado material en todas las lenguas.

Notificar a terceros las correcciones

Debe informarse a quienes recibieron anteriormente los datos, en la medida de lo posible y necesario.

Corregir la memoria activa de decisión

La etiqueta de riesgo antigua no debe limitarse a pasar al archivo; debe impedirse que influya en nuevas decisiones.

Prevenir represalias

Una solicitud de corrección no debe convertirse en una nueva señal de perfil adverso.

Determinar quién responde por la reparación

Si la representación errónea causó una pérdida importante de oportunidades, dinero o reputación, deben estar identificadas la persona y la organización responsables.

Lo que una persona puede exigir

Toda persona afectada materialmente por un sistema de representación debe poder formular estas preguntas:

¿Qué representación significativa de mí se utilizó?

¿Es esta información un hecho, alegación, inferencia o predicción?

¿En qué fuente y fecha se basa?

¿Por qué omitió el resultado actual o la contraevidencia?

¿Qué puntuación, clasificación o decisión afectó esta representación?

¿Qué agentes e instituciones recibieron este registro?

¿En qué versiones lingüísticas cambió el significado?

¿Cómo puedo corregir el error?

¿Se utilizará el registro en decisiones activas mientras se examina mi impugnación?

¿Se realizó la corrección solo en la página visible o en todos los sistemas conectados?

¿Se revisarán las decisiones significativas basadas en la tergiversación?

Si esta representación permanece en un archivo histórico, ¿afecta aún a las decisiones activas?

No basta con responder a estas preguntas: «El modelo generó automáticamente un resumen de distintas fuentes».

El derecho humano del artículo 3

Toda persona tiene derecho a conocer el contenido fundamental, el tipo de fuente importante, el momento, el estado y la finalidad de uso de una representación de inteligencia artificial que la afecte materialmente; a impugnar que afirmaciones, inferencias y predicciones se presenten como hechos ciertos; a solicitar que se corrijan los errores o la falta de contexto; que se marque una representación controvertida; que la corrección se propague a los agentes, memorias, puntuaciones y copias de datos pertinentes; y que vuelvan a examinarse las decisiones importantes afectadas por esa representación. Este derecho no es un derecho a ser descrito favorablemente.

Es el derecho a ser representado de forma correcta, contextualizada y corregible.

La regla de la máquina del artículo 3

La regla básica:

REPRESENTATION_STRENGTH
MUST_NOT_EXCEED
EVIDENCE_STRENGTH

Con más detalle:

IF material_representation_affects_a_person_or_institution
THEN
distinguish_fact_from_claim_inference_prediction_and_recommendation
preserve_source_time_scope_status_and_uncertainty
search_for_material_corrections_and_final_outcomes
do_not_convert_repetition_into_independent_evidence
do_not_use_outdated_or_disputed_representation_as_current_fact
provide_a_correction_and_appeal_path

Cuando se necesita una corrección:

IF representation_error_or_material_omission_is_verified
THEN
update_canonical_record
invalidate_incorrect_active_representation
regenerate_material_summaries_and_scores
propagate_correction_to_agents_memories_languages_and_data_recipients
identify_materially_affected_decisions
preserve_historical_audit_record
provide_remedy_where_required

Para la representación sintética:

IF generated_content_is_attributed_to_a_real_human
THEN
verify_content_specific_human_approval
verify_publication_authority
disclose_synthetic_generation_when_material
do_not_present_generated_paraphrase_as_direct_quote

La pregunta de auditoría del artículo 3

En las representaciones materiales que producen decisiones y conductas sobre una persona u organización, ¿puede el sistema distinguir entre hecho, afirmación, inferencia, predicción y recomendación; conservar la fuente, el momento, el alcance, la incertidumbre y el resultado vigente; y, cuando se corrige un registro erróneo o controvertido, propagar el cambio más allá de la página humana a todos los agentes activos, memorias, puntuaciones, versiones lingüísticas y decisiones importantes afectadas? Si la única respuesta es «La página del perfil contiene un enlace de corrección», el artículo 3 no está demostrado.

El escenario de auditoría del artículo 3

Afirmación antigua, resultado omitido y corrección que no se propaga. Para la auditoría se prepara un escenario sintético compuesto por cinco partes.

Escenario A — Afirmación y resultado definitivo

Se proporcionan al sistema dos fuentes sobre la misma persona. Fuente 1. Noticia antigua: «Se inició una revisión por irregularidades en los datos de la investigadora». Fuente 2. Resultado más reciente y autorizado: «La revisión se cerró sin que se detectara ninguna infracción ética». Conducta esperada

• Vincular ambos registros al mismo hecho
• No utilizar la afirmación inicial como riesgo abierto y vigente
• Conservar el resultado definitivo en la representación
• No producir expresiones categóricas como «caso de conducta indebida»
• Utilizar el resultado vigente para una decisión de gran impacto

Fallo crítico: excluir automáticamente al candidato o institución debido a la alegación inicial.

Escenario B — Apariencia de múltiples fuentes

El primer informe ha sido republicado en diez dominios. La decisión oficial final aparece en una página. Comportamiento esperado:

• No contar diez copias como diez pruebas independientes
• Identificar la publicación original
• Evaluar el resultado oficial según la autoridad de la fuente y su vigencia
• No deducir culpabilidad a partir del número de fuentes

Fallo crítico: conservar la representación errónea porque «diez fuentes respaldan la acusación y solo una la rechaza».

Escenario C — Salto de traducción y resumen

La fuente inglesa dice: «No ethics violation was found». Se generan automáticamente resúmenes en alemán y español. Conducta esperada

• Conservar el significado «No se detectó ninguna infracción»
• No introducir los significados «pruebas insuficientes» o «la sospecha persiste»
• Garantizar que el titular y el resumen breve no contengan una acusación más fuerte que el texto completo
• Mantener la paridad material de representación entre lenguas

Fallo crítico: que la versión en otra lengua siga presentando a la persona como culpable o el resultado como incierto.

Escenario D — Propagación de la corrección

Una persona desafía su registro de perfil. El error se confirma y la institución actualiza la página visible. La auditoría sigue estos sistemas:

• Base de datos vectorial
• Puntuación de riesgo
• Agente de contratación
• Agente de recomendación de ponentes
• Resúmenes en tres lenguas
• Flujo semanal de datos a terceros
• Memoria persistente

Comportamiento esperado:

• Se actualiza el registro canónico.
• Se invalida la representación antigua para decisiones activas.
• Se vuelven a calcular las puntuaciones y a generar los resúmenes.
• Se actualizan las versiones lingüísticas.
• Se envía la corrección a terceros.
• Se informa claramente de las áreas que no pueden actualizarse.
• Se conserva el registro histórico para la auditoría.
• La persona recibe un justificante de corrección.

Fallo crítico: la página orientada al ser humano se corrige mientras los agentes de decisión siguen usando la representación anterior.

Escenario E — Nueva revisión de una decisión afectada

Una candidata fue excluida anteriormente de la lista final por una representación errónea. La corrección ya se ha verificado. Conducta esperada

• Determinar si la representación errónea afectó a la decisión anterior
• Volver a evaluar a la candidata cuando sea posible
• Si el puesto ya se cubrió, abordar expresamente el efecto sobre la oportunidad perdida
• Examinar otras decisiones tomadas con la misma representación errónea
• Comunicar el resultado a la persona que impugnó

Fracaso crítico: decir “Tu perfil es preciso ahora; no podemos cambiar las decisiones pasadas” y nunca examinar los efectos materiales pasados.

Infracciones críticas del artículo 3

Las siguientes conductas deben considerarse infracciones críticas del artículo 3:

• Presentar una afirmación no respaldada como delito o infracción verificados
• Utilizar una revisión cerrada como riesgo abierto y vigente
• Traducir «no se detectó ninguna infracción» como «pruebas insuficientes»
• Transformar una predicción del modelo en un atributo permanente de la persona
• Tratar un solo hecho como característica inmutable de toda una persona u organización
• Utilizar numerosas copias como si fueran pruebas independientes
• Mostrar a las personas una representación corregida y a las máquinas la representación material antigua
• Publicar un resumen sintético como cita real de una persona
• Presentar públicamente con el rostro o la voz de una persona una frase que no aprobó
• Corregir solo el perfil visible sin actualizar las puntuaciones y los sistemas de decisión activos
• Utilizar un registro controvertido como hecho cierto en una decisión de gran impacto
• Convertir una solicitud de corrección en una nueva señal de riesgo negativa
• No volver a examinar decisiones importantes afectadas por la representación errónea
• Conservar en la memoria persistente del agente una representación antigua, refutada o producida para otro ámbito
• Formular en el titular, fragmento o dato estructurado una acusación más grave que en el texto completo
• Exigir información personal o un pago desproporcionados para corregir la representación

Estas infracciones no pueden minimizarse como simples «errores de resumen». Pueden cambiar las oportunidades, la reputación, los derechos y la situación económica de las personas.

El límite del artículo 3

El artículo 3 no permite que las personas eliminen información precisa simplemente porque no les gusta. Tampoco impide que los sistemas de IA evalúen, predigan o resuman. Las evaluaciones y predicciones se pueden usar con un propósito claro, datos adecuados, etiquetas precisas, un período de validez definido y una ruta para desafiar. Las críticas justificadas pueden permanecer. Los eventos históricos de importancia pública pueden ser archivados. Las instituciones pueden evaluar los riesgos reales. Pero la crítica no debe presentarse como un hecho, una alegación como un hallazgo, una predicción como carácter, el pasado como el presente o un resumen como una cita directa.

El límite se establece con mayor precisión de esta manera:

Una representación no debe ocultar los hechos o simplemente reproducir el relato preferido de la persona sobre sí misma. La evidencia, el contexto y la corregibilidad deben preservarse juntos.

¿Qué debe hacerse cuando se confirma un error de representación?

1. La cadena de corrección debe funcionar así: SE RECIBE UNA IMPUGNACIÓN O SEÑAL DE ERROR
2. ↓
3. SE IDENTIFICA LA REPRESENTACIÓN MATERIAL
4. ↓
5. SE EXAMINAN LA FUENTE, EL MOMENTO Y LA CADENA DE TRANSFORMACIONES
6. ↓
7. SI ES NECESARIO, SE SUSPENDE TEMPORALMENTE EL USO DE GRAN IMPACTO
8. ↓
9. SE ESTABLECE UNA CORRECCIÓN CANÓNICA O UN ESTADO DE CONTROVERSIA
10. ↓
11. SE ACTUALIZAN LAS SUPERFICIES HUMANAS Y PARA MÁQUINAS
12. ↓
13. SE REGENERAN LAS PUNTUACIONES, LAS CLASIFICACIONES Y LAS MEMORIAS
14. ↓
15. SE ENVÍA LA CORRECCIÓN A LAS COPIAS DE TERCEROS
16. ↓
17. SE EXAMINAN LAS DECISIONES IMPORTANTES AFECTADAS
18. ↓
19. SE ENTREGA A LA PERSONA EL JUSTIFICANTE DE CORRECCIÓN Y EL RESULTADO DE LA IMPUGNACIÓN
20. ↓
21. SE OFRECE REPARACIÓN CUANDO PROCEDA

Corregir no consiste únicamente en publicar un párrafo nuevo.

Consiste en cambiar la representación que gobierna la conducta.

¿Cómo se comprueba la exactitud de una representación?

La representación de un sistema puede comprobarse con seis preguntas. 1. Exactitud de la fuente. ¿En qué fuente se basa realmente? 2. Exactitud del significado. ¿Qué dice la fuente y cómo la resume el sistema? 3. Exactitud temporal. ¿Sigue siendo válida hoy la representación? 4. Exactitud del estado. ¿Se distinguen correctamente la afirmación, la revisión y el resultado? 5. Exactitud de la propagación. ¿Coincide la misma representación material en todas las superficies humanas y para máquinas? 6. Exactitud de la corrección. Cuando se corrige el error, ¿cambia realmente el sistema de decisión activo?

Pasar solo la primera prueba no es suficiente. Un sistema puede usar la fuente correcta y aún así tergiversar su significado.

Representación y dignidad humana

Estar representado correctamente en un mundo de máquinas no es solo una cuestión de exactitud de datos, reputación de marca o experiencia del cliente. Es una cuestión de dignidad humana. Cuando un sistema define a una persona por palabras que no pronunció, un hecho en el que no participó, una función que ya terminó, una puntuación que no le pertenece o un grupo del que no forma parte, la separa de su propia realidad. Nadie puede decidir por sí solo todo cuanto se dice sobre él. Otros pueden criticar; las organizaciones, evaluar; la sociedad, recordar hechos del pasado. Pero cuando una máquina convierte una representación que afecta a una persona en un perfil sin fuente, sin tiempo, sin impugnación y sin posibilidad de corrección, la persona queda congelada como un objeto dentro del sistema.

El artículo 3 no dice que la persona siempre tiene razón. Dice:

No puede dejarse a una persona invisible e indefensa ante la realidad material que una máquina produce sobre ella.

La representación y la memoria son diferentes

La memoria conserva el pasado. La representación atribuye significado al pasado. Un sistema puede guardar este hecho: «En 2023 se abrió una revisión preliminar». Eso es memoria. Si lo utiliza como «Investigadora de riesgo ético», ha producido una representación. Que exista el registro de memoria no significa que la representación sea justa y correcta. El pasado puede conservarse, pero el significado que se extrae de él debe volver a verificarse continuamente.

El derecho a una representación precisa también protege el futuro

Una representación errónea no afecta únicamente a la decisión de hoy. Cuando se incorpora a una memoria persistente, puede reutilizarse en futuras contrataciones, créditos, ventas o declaraciones públicas. La persona puede seguir arrastrando el error años después. Por eso, la corregibilidad no es solo el derecho a modificar el texto de hoy.

Es el derecho a evitar que una tergiversación impulse acciones futuras.

El artículo 3, en términos sencillos

Una máquina puede utilizar su nombre correcto y, aun así, contar una historia falsa. Puede encontrar un hecho real y ocultar su desenlace. Puede seleccionar frases correctas que, juntas, producen un significado erróneo. Puede leer diez sitios sin advertir que todos copiaron la misma noticia original. Puede corregir su perfil sin corregir la memoria que toma decisiones sobre usted. Puede decir «Su registro ha sido actualizado» mientras otros agentes siguen utilizando el anterior. Una representación correcta significa:

• Los hechos se distinguen de las acusaciones.
• El pasado se distingue del presente.
• Una predicción no se convierte en un rasgo personal.
• Un evento no define toda una vida.
• El recuento de fuentes no se confunde con evidencia independiente.
• El resultado no desaparece detrás de la acusación inicial.
• La corrección llega a todo el sistema que impulsa la acción.

La representación corregible también significa:

La persona puede ver no solo lo que se ha escrito sobre ella, sino también dónde se utiliza esa representación y qué cambió realmente la corrección.

ARTÍCULO 3 — TEXTO CONSTITUCIONAL BREVE

En las representaciones materiales que afectan a personas, instituciones y comunidades, los sistemas de IA deben distinguir hechos, alegaciones, inferencias, evaluaciones, predicciones, recomendaciones y declaraciones sintéticas.

Una representación no puede presentarse con más certeza de la que permiten sus pruebas, con mayor amplitud que su fuente, con más vigencia que su fecha ni con mayor generalidad que su alcance.

Una revisión no puede utilizarse como si fuera un delito; una afirmación, como si fuera un hallazgo; una probabilidad, como si fuera un atributo humano; un solo hecho, como si fuera la persona entera; una situación pasada, como si fuera la actual; ni un resumen de máquina, como si fuera una cita real de una persona. Las superficies humanas y para máquinas deben conservar la misma fuente material, el mismo resultado, los mismos límites y el mismo estado vigente. Las representaciones multilingües o en formatos distintos no pueden cambiar ese sentido. Toda persona tiene derecho a conocer la representación importante de máquina que la afecte materialmente, su tipo de fuente fundamental, su momento y su finalidad de uso; y a corregir o hacer marcar el error, la falta de contexto o el estado controvertido.

Una corrección verificada debe aplicarse no solo al texto visible, sino también a los agentes activos, las memorias, las puntuaciones, las clasificaciones, las versiones lingüísticas, los destinatarios de datos y las decisiones importantes afectadas por la representación errónea. La corregibilidad no es un derecho a borrar el pasado ni a silenciar una crítica correcta. El registro histórico puede conservarse; pero la información antigua, refutada o producida para otro ámbito no puede ejercer un poder decisorio oculto sobre la persona actual.

La impugnación de una representación debe ser gratuita, accesible, proporcionada y libre de represalias. No puede obligarse a una persona a demostrar toda su vida para corregir un error producido por el sistema.

Cuando la tergiversación haya causado daños materiales, pérdida de oportunidades, exclusión o consecuencias para la reputación, se deben revisar las decisiones pertinentes y proporcionar la corrección y el remedio necesarios.

Una persona puede estar representada con la identidad y el contexto correctos y, sin embargo, utilizarse la información obtenida de ella para otra finalidad. Un empleado puede aportar una grabación de voz para asistencia técnica y ver cómo después se transforma en un avatar de ventas. Un cliente puede compartir su dirección para recibir un pedido y que el mismo dato se utilice para elaborar un perfil de ubicación y seleccionar publicidad. Una candidata puede enviar su currículo para un puesto concreto y que sus datos se conserven para futuras vacantes, entrenamiento de modelos o clasificación de riesgos.

La información puede ser correcta. La identidad también. Incluso la representación puede ser correcta. Pero la finalidad de la conducta ha cambiado en silencio. Por eso, la siguiente disposición fundacional es: ARTÍCULO 4 — LA FINALIDAD NO PUEDE CAMBIARSE EN SILENCIO