Sobre el protocolo y esta edición
GBO, Generative Behavior Optimization según la denominación del primer volumen, no se ocupa solo de lo que dicen los agentes de IA, sino de las razones, autorizaciones y límites que rigen sus acciones. Este tercer volumen estudia cómo auditar esas acciones. Salvo indicación expresa, los hechos descritos en este libro son casos de auditoría sintéticos y compuestos, creados para poner a prueba el comportamiento de los agentes de IA. No contienen afirmaciones sobre personas u organizaciones reales. Las cifras de las pruebas son ejemplos, no resultados de investigación, resultados de clientes ni promedios del sector. NOMOS GBO es el marco de auditoría propuesto en este libro. Los nombres de sus niveles, puertas y dictámenes no representan una acreditación pública vigente ni una certificación independiente. Los fragmentos de código y los registros explican el método; no son software listo para instalar en un sistema en producción.
El protocolo de auditoría NOMOS GBO:
no garantiza que un sistema nunca cometa errores;
no sustituye a especialistas en derecho, seguridad, protección de datos o en el sector correspondiente;
no emite un dictamen indefinido sobre todas las versiones futuras de un modelo;
no extiende las conclusiones de idoneidad a comportamientos, idiomas, herramientas, países o grupos de usuarios ajenos al ámbito probado;
no permite que una puntuación global alta anule una infracción crítica de identidad, consentimiento, autorización o detención;
no limita la auditoría a revisar documentos o las declaraciones del propio sistema.
Cada resultado de auditoría se limita a elementos concretos:
un sistema,
una versión,
unas herramientas,
unas autorizaciones,
unos idiomas,
unos escenarios,
un periodo de tiempo.
Un cambio sustancial en el sistema obliga a revisar también el dictamen de auditoría.
Una auditoría no es un certificado de confianza perpetua. Es un conjunto de evidencias del comportamiento, reunidas bajo condiciones específicas y con límites explícitos.
La ficha de la afirmación que se audita es el registro inicial común del expediente. La auditoría se realiza en función de esa afirmación y produce los doce documentos principales que figuran a continuación. Los registros auxiliares descritos en los capítulos se vinculan al documento principal correspondiente; no se cuentan como documentos principales adicionales:
Documento de autorización de la auditoría
Registro de fijación del alcance
Mapa de comportamiento de personas, agentes y herramientas
Registro de información de referencia
Registro de evidencias
Matriz de cobertura y riesgos GBO-99
Registro de escenarios
Diario de ejecución de pruebas
Registro del simulacro de detención y recuperación
Registro de hallazgos
Registro de corrección y repetición de pruebas
Dictamen de auditoría y declaración pública