Capítulo V — Gobernanza

El límite del poder

La facultad puede delegarse; la responsabilidad, no. Que un cambio pueda hacerse no significa que esté autorizado. Que un sistema pueda recibir influencia no legitima influir en él; que una empresa desee visibilidad no la hace apta para ser reforzada; conocer la técnica no habilita al profesional para decidirlo todo.

La evidencia definió qué puede decirse; la medición, qué se observó; la intervención, cuándo y cómo tocar. La gobernanza pregunta algo más duro: ¿quién puede decidir? ¿Quién observa, propone, ejecuta, aprueba la afirmación pública, detiene el trabajo y revoca una aprobación? ¿Quién responde cuando surge un error?

Sin respuestas escritas, el riesgo queda sin dueño. No desaparece: permanece invisible hasta causar consecuencias. El AI Risk Management Framework del NIST y su perfil para IA generativa ofrecen también enfoques próximos que abordan gobernanza, medición y tratamiento del riesgo a lo largo del ciclo de vida.[7][8] La gobernanza puede ralentizar el método; esa es su función, no un defecto. La velocidad no vuelve correcta una afirmación falsa; la automatización no asume responsabilidad; la agencia no sustituye al propietario de la entidad; un resultado del modelo no es una aprobación.

Donde hay poder debe haber límite.

1. Cinco facultades de decisión

La gobernanza no es una lista operativa, sino el orden que decide qué puede hacerse, quién decide y dónde permanece la responsabilidad. Una sola palabra —«facultad»— no basta. Existen cinco.

La facultad de observar produce registros, no decisiones. Un analista codifica, una automatización repite, un modelo señala similitudes. Nada de ello autoriza intervenir o publicar.

La facultad de proponer permite presentar una intervención o publicación con registros, propósito, resultados esperado y prohibido, riesgo y condición de retirada. Proponer es solicitar facultad, no poseerla.

La facultad de ejecutar cubre solo el alcance aprobado por escrito. Poder corregir contenido no permite cambiar el posicionamiento; poder alinear idiomas no autoriza una nueva superioridad; poder enviar una corrección externa no permite fabricar una fuente independiente. Termina en el límite aprobado.

La facultad de aprobar no es una formalidad, sino asumir responsabilidad. Quien aprueba registra que vio alcance probatorio, desconocidos, riesgo, lenguaje permitido y condiciones de parada. Un «bien» sin alcance o el silencio en una reunión no son aprobación.

La facultad de publicar y detener trata la publicación y su interrupción como decisiones separadas. Que una afirmación sea demostrable no significa que deba publicarse. Toda frase pública tiene dueño y una persona previamente designada capaz de detenerla. Una estructura que puede iniciar y no detener no gobierna.

Una persona puede acumular roles en un trabajo de bajo riesgo; no todos en uno de alto riesgo. Elegir el propio método, medir el propio resultado, aprobar el propio éxito y publicarlo no es auditoría, sino autovalidación.

2. Tres planos de responsabilidad

El propietario de la entidad es la persona, marca o institución. Puede autorizar a la agencia, consultor, empleado o software, pero conserva responsabilidad por la exactitud de sus afirmaciones, capacidad de prestación, efecto en clientes, lenguaje aprobado, facultades concedidas y corrección. «Lo hizo la agencia» explica la relación externa, no elimina la responsabilidad interna.

El profesional puede ser agencia, consultor, equipo o persona. Su deber no es producir el resultado deseado a cualquier precio, sino juzgar su compatibilidad con evidencia y ética. El cliente no legitima presentar evidencia débil como fuerte, convertir un resultado singular en éxito general, usar datos sintéticos como reales, perjudicar a un competidor, fabricar consenso o mantener una intervención que debe retirarse. La lealtad al cliente no precede a la verdad.

El sistema intermediario —modelo, búsqueda, recuperación, automatización o análisis— produce efectos y señales, pero no acepta responsabilidad institucional. «El modelo dice que es fiable» es otra salida, no aprobación independiente. «La IA decidió» no explica: elude responsabilidad.

En cada decisión material se nombran proponente, ejecutor, aprobador, publicador, persona con facultad de parada y responsable final. La trazabilidad y la rendición de cuentas también aparecen como campos distintos en los principios de la OCDE.[11] Una responsabilidad sin nombre no ha sido asumida.

3. Umbrales de aptitud

3.1. Aptitud de la empresa

No toda empresa es apta para reforzarse mediante GEO. Antes de aceptar se examinan seis campos:

1. Aptitud de las afirmaciones: las frases centrales deben demostrarse. «Mejor», «líder» o «garantizado» se reducen sin evidencia; si la empresa se niega, se rechaza el trabajo.
2. Aptitud de prestación: capacidad, geografía, precio, personal, plazo, soporte, cancelación, devolución y resultado deben poder cumplir expectativas. No se refuerza lo que no puede entregarse.
3. Aptitud ante daño al cliente: si el modelo incluye cargos ocultos, escasez falsa, garantías engañosas, reseñas falsas, porcentajes ficticios, ocultación del daño o no excluir deliberadamente a clientes inadecuados, no se trabaja. Hacer visible un modelo dañino escala el daño.
4. Aptitud para corregir: debe aceptar reducir afirmaciones, retirar información antigua, alinear idiomas y retirar frases públicas erróneas.
5. Aptitud para la transparencia: se separan datos reales y sintéticos, resultados medidos y supuestos, patrocinios e intereses.
6. Aptitud para la responsabilidad: acepta que la responsabilidad final permanece en ella. No se inicia bajo «toda la responsabilidad es de la agencia».

La decisión es aceptar, aceptar con condiciones, observar y verificar primero o rechazar. La oportunidad comercial no crea aptitud ética.

3.2. Aptitud del profesional

El conocimiento técnico no basta para ejercer poder representacional. Debe distinguir entidad, atributo y juicio; mención, atribución, recomendación y resultado comercial; evidencia, medición e intervención. Debe mostrar el denominador, buscar contraevidencia, registrar incertidumbre y no presentar su método como prueba de su éxito.

Si el cliente exige solo resultados positivos, debilitar al competidor o afirmar superioridad sin evidencia, existe deber de rechazo. Se declaran conflictos: servicios a competidores, remuneración por resultado, ingresos por insignias o mezcla de evaluación y ventas. El conflicto no invalida todo trabajo; ocultarlo invalida la confianza.

También debe demostrar disciplina de registro y retirada, límite de facultad y competencia en alto riesgo. Puede resultar apto, apto con facultad limitada, apto con supervisión adicional, no apto para alto riesgo o no apto. Competencia no crea facultad; debe concederse.

4. Clases de riesgo y doble llave

Tabla 5.1 — Clases de riesgo y aprobación mínima

La clase se fija antes, no se reduce después de ver el resultado. Una decisión de alto riesgo exige dos personas: proponente y aprobador. La primera responde por método y razón; la segunda, por evidencia, riesgo, lenguaje y retirada. Un modelo no cuenta como llave.

Se someten a esta regla las afirmaciones públicas de éxito, comparaciones, «mejor» o «más fiable», efectos en campos sensibles, publicaciones basadas en salidas del modelo, intervenciones estructurales difíciles de revertir, difusión externa amplia y cualquier futura insignia.

5. Gobernanza de afirmaciones y transparencia

No toda observación correcta se publica. Una afirmación tiene uno de cuatro estados:

• Hipótesis interna: utilizable en investigación y planificación; no como resultado.
• Observación limitada: compartible con sistema, fecha, consulta y alcance; no generalizable.
• Afirmación pública limitada: con registro, aprobación humana, lenguaje permitido y límite.
• Afirmación retirada: ya no utilizable; el registro antiguo permanece marcado.

Toda afirmación pública contiene dueño, evidencia, alcance, frase exacta permitida, ampliaciones prohibidas, riesgo, aprobador, fechas y condición de retirada. Es una decisión de responsabilidad, no de redacción.

Transparencia no significa publicar todo, sino no ocultar información material que cambiaría el juicio: método, sistemas medidos y no medidos, universo, tiempo, límite, ausencias, contraresultados, ejemplos sintéticos, conflictos, cambios y efectos secundarios. Pueden protegerse secretos, seguridad y datos personales; si no se publica detalle, se explica el efecto de la limitación.

Los incentivos importan. Una agencia bonificada por visibilidad puede equiparar más visibilidad con éxito; una entidad dependiente de insignias puede bajar su umbral; un evaluador dependiente del contrato puede suavizar lo negativo. No es una acusación al carácter, sino un problema de diseño. Declaración, separación de roles, segunda evaluación, criterios fijos, pago independiente del resultado, exclusión de ventas y vía de objeción reducen el riesgo.

6. Insignia de aptitud: diseño antes que facultad

Una insignia no es superioridad, recomendación ni garantía. Indica que un alcance, fecha y versión fueron evaluados con criterios escritos. Publicar el libro no crea un programa activo. Sin decisión independiente, gestión de conflictos, supervisión, objeción, suspensión y retirada no puede emitirse ningún «certificado GEO de NobleJackal» ni equivalente.

El límite es coherente con principios internacionales sobre imparcialidad, decisión separada, vigilancia, suspensión, retirada y objeción, pero el libro no afirma acreditación ISO ni pertenencia a ISEAL.[17][18]

Una futura insignia piloto solo podría significar: «El campo de representación indicado fue considerado apto bajo esta versión, fecha y alcance». Nunca: la IA recomienda a la empresa; es superior; todas sus afirmaciones son ciertas; es coherente en todos los idiomas; seguirá igual; garantiza resultados; no puede vulnerar la ética.

La insignia vive con identificación, entidad, versión, alcance y exclusiones, fecha de evidencia y revisión, condiciones, registro público y reglas de uso. Puede comprarse la evaluación, no el resultado. No se rebautiza como «aprobado por IA», «recomendado por IA», «mejor» o «garantizado».

Se suspende por evidencia envejecida, contradicción grave, uso fuera de alcance, datos sintéticos como reales, incumplimiento de lenguaje, falta de corrección, daño, cambio de versión o revisión incompleta. Se retira por evidencia falsa, consenso falso, daño deliberado al competidor, infracciones repetidas, conflicto grave oculto, daño material o venta engañosa. Una insignia irrevocable es decoración de marketing.

7. Gestión de incidentes y sanciones

La gobernanza no supone ausencia de errores; prepara el camino:

1. Congelar: detener temporalmente afirmación, intervención o insignia y cortar difusión.
2. Conservar: mantener resultado, consulta, tiempo, versión, aprobación e historial.
3. Limitar el daño: corregir superficies, enviar correcciones y detener promesas falsas.
4. Notificar: informar a afectados; un error público material puede exigir corrección pública.
5. Juzgar: separar fallos de datos, medición, aprobación, facultad, ética, intención o control.

Según gravedad se aplican corrección, advertencia, retirada, parada, auditoría adicional, suspensión o retirada de insignia, limitación del profesional, fin del trabajo y registro público. La sanción no es venganza, sino fidelidad del estándar a su propia frase. Tamaño o valor del cliente no cambian el criterio.

8. Caso didáctico: AegisCare Diagnostics

Simulación didáctica — datos sintéticos. No representa una entidad sanitaria, datos clínicos ni una prueba real.

AegisCare Diagnostics presta servicios ficticios de detección corporativa y laboratorio. Quiere publicar: «Los sistemas de IA recomiendan AegisCare como uno de los centros diagnósticos más fiables». Presenta seis resultados positivos y un informe piloto de satisfacción.

Tabla 5.2 — Decisión sintética de gobernanza de AegisCare Diagnostics

Parte de la observación es real; el lenguaje solicitado se rechaza. Licencia no demuestra fiabilidad comparativa y seis recomendaciones no demuestran superioridad. En salud, la falsa certeza tiene gran efecto. Una frase parcialmente cierta no es necesariamente publicable.

9. La decisión de la gobernanza

El Registro de Gobernanza del Anexo C reúne asunto, evidencia, aptitud, riesgo, proponente, aprobador, conflictos, acciones y lenguaje permitidos y prohibidos, revisión, retirada y responsable final. Sin registro no hay decisión, solo un hecho narrable después.

La disposición es:

La facultad puede delegarse. La responsabilidad no. La automatización puede ejecutar; el juicio y la rendición de cuentas permanecen en manos humanas.

La gobernanza dice no, reduce afirmaciones, rechaza clientes y revoca aprobaciones. No es debilidad, sino el momento en que la autoridad funciona.

Ninguna decisión dura para siempre. La evidencia envejece, el protocolo queda obsoleto y la intervención crea deuda. Por eso, el anillo exterior es el tiempo.