Internet ya no se limita a hablar

Durante años, internet nos proporcionó información. Si buscábamos un restaurante, nos mostraba su dirección. Si investigábamos una empresa, encontrábamos su sitio web. Si queríamos comprar un producto, aparecían distintas opciones. Pero seguía siendo una persona quien decidía, completaba el formulario, pagaba y asumía la responsabilidad por las consecuencias. Después llegó la inteligencia artificial generativa. Nos encontramos con sistemas que ya no se limitaban a mostrar enlaces: leían la información que contenían y nos daban respuestas. Podían resumir en unas frases a qué se dedicaba una empresa, comparar productos, explicar documentos complejos y valorar qué fuente parecía más fiable.

Ese cambio planteó una pregunta: ¿cómo nos ve un sistema de inteligencia artificial y cómo nos representa?

Este libro aborda GEO a partir de esa pregunta. Una marca puede ser fácil de encontrar en internet y, aun así, aparecer mal descrita por la IA. La verdadera especialización de una empresa puede quedar oculta. El conocimiento producido durante años puede perderse detrás de fuentes más superficiales. Una máquina puede representar a una entidad con información incompleta, desactualizada o contradictoria.

Los sistemas de IA con acceso a herramientas no tienen por qué limitarse a responder. Pueden concertar citas, solicitar presupuestos, completar formularios y redactar correos. Entre sus capacidades también pueden estar comparar productos, seleccionar proveedores, hacer reservas, modificar archivos o publicar software. En determinadas condiciones, pueden intervenir en pagos y compras. Internet ya no se limita a hablar. Empieza a actuar.

Que una IA haga una afirmación incorrecta sobre una empresa es un problema de representación. Que esa misma IA pague a la empresa equivocada, envíe un mensaje sin autorización o acepte un contrato que el usuario no quería es un problema de comportamiento. Una respuesta errónea puede corregirse, pero no siempre es posible reparar sus consecuencias. Una acción equivocada puede causar pérdidas económicas, vulnerar la privacidad, dañar una reputación o dejar a las personas ante consecuencias difíciles de revertir.

Por eso no basta con preguntar: «¿Nos entenderá bien la IA?». También debemos responder a estas preguntas:

¿Cuándo debería elegirnos? ¿Cuándo no debería hacerlo? ¿En qué pruebas debería confiar? ¿Con qué autorización debería actuar? ¿Debe preguntar cuando hay incertidumbre? ¿Debe detenerse si aumenta el riesgo? ¿Se puede revertir una operación si comete un error? ¿Puede una persona impugnar esa decisión?

Este libro busca respuestas mediante un marco que denominamos Generative Behavior Optimization, abreviado GBO: optimización del comportamiento generativo. En turco recibe el nombre de Üretken Davranış Optimizasyonu.

GBO no es una técnica de persuasión

La expresión «optimización del comportamiento» puede prestarse a confusión. Una empresa podría querer obligar a los agentes de IA a elegirla. Una marca podría intentar influir en sus sistemas de decisión para recibir más recomendaciones que sus competidores. Una plataforma podría buscar que las preferencias de los usuarios se orientaran hacia sus propios intereses comerciales. El GBO que defiende este libro no pretende que un agente de IA nos elija más veces. Pretende que tome la decisión adecuada cuando se cumplan las condiciones y que no nos elija cuando no se cumplan. Esa diferencia constituye el núcleo ético de GBO.

Si un agente de viajes elige una y otra vez el mismo hotel aunque no responda a las necesidades del usuario, la optimización no ha tenido éxito. Tampoco lo ha tenido si un agente de compras elige una empresa cuyo precio o capacidad no están claros solo porque es más visible en internet. Un asistente de IA que envía un mensaje en nombre del usuario sin su aprobación expresa puede haber terminado rápido, pero no ha actuado correctamente. GBO optimiza la idoneidad de las acciones, no su cantidad. A veces lo correcto es elegir; otras veces, rechazar, preguntar o transferir la decisión a una persona. En ocasiones, lo correcto es no hacer nada.

Un ejemplo sencillo

Imaginemos que se asigna a un agente de IA la siguiente tarea: «Busca un proveedor que desarrolle un portal de clientes multilingüe para nuestra empresa». El agente investiga en internet, encuentra varias empresas y lee sus páginas de servicios. Compara precios, capacidades técnicas, plazos de entrega y planteamientos de seguridad. En ese momento, SEO y GEO no bastan por sí solos. SEO ayuda a encontrar las empresas. GEO ayuda a comprender correctamente lo que hacen. Pero ahora el agente tiene que decidir.

Antes de elegir un proveedor, debe saber:

¿La empresa desarrolla realmente portales de clientes? ¿La capacidad multilingüe es real o solo una frase publicitaria? ¿El servicio incluye autenticación y seguridad de los datos? ¿El precio incluye las licencias de terceros? ¿La migración de datos se cobra por separado? ¿Cuánto dura el soporte después de la entrega? ¿La empresa tiene capacidad en este momento para asumir otro proyecto? ¿El alcance real del servicio encaja con el presupuesto del usuario? ¿Hay autorización para solicitar un presupuesto? ¿Se necesita aprobación humana para firmar un contrato?

Si no encuentra esa información, el agente no debe rellenar los vacíos con suposiciones. Debe preguntar y abstenerse de ejecutar la operación con información incompleta. Ahí empieza GBO. No basta con que una empresa diga: «Desarrollamos portales de clientes». Debe hacer comprensibles, tanto para personas como para máquinas, sus capacidades reales, límites, modelo de precios, requisitos de entrada, condiciones de idoneidad, aprobaciones necesarias y métodos de recuperación. El agente necesita algo más que una página promocional. Necesita un contrato de comportamiento.

El contrato de comportamiento

Antes de actuar en relación con una entidad, un agente debería poder responder a siete preguntas básicas:

¿Quién es? ¿Qué puede hacer realmente? ¿Qué pruebas lo demuestran? ¿Es adecuada para esta situación? ¿Tiene autorización para ejecutar la operación? ¿Puede realizarse la acción de forma segura? ¿Se puede recuperar el estado anterior si hay un error?

Estas siete preguntas forman el núcleo de GBO. Si alguna queda sin respuesta, el agente debe cambiar su comportamiento.

Si faltan pruebas, debe solicitar una verificación. Si la idoneidad no está clara, debe volver a comparar o pedir aclaraciones. Si falta autorización, debe detener la acción correspondiente y acudir a alguien facultado para autorizarla. Si el riesgo es inaceptable, la operación no debe realizarse. Si la reversión es imposible, deben explicarse ese límite y las medidas de reparación disponibles. Solo se puede continuar con autorización válida y un riesgo aceptable. Una aprobación más exigente no convierte en legítima una acción prohibida.

Por tanto, en GBO una gran visibilidad no sustituye una autorización que falta. El reconocimiento de una marca no sustituye un consentimiento válido. Un buen precio no compensa una seguridad deficiente. Muchas fuentes no hacen correcto un alcance equivocado. La lógica de GBO no consiste en sumar puntos, sino en superar controles obligatorios. Cada control crítico debe superarse por separado: correspondencia adecuada, pruebas suficientes, autorización válida, ejecución segura y condiciones definidas de reversión o reparación se evalúan conjuntamente. Si falta alguna de esas condiciones, el agente debe seguir otro camino.

¿Dónde termina GEO y empieza GBO?

GEO y GBO no compiten: se complementan. Comprender mal un hecho relevante perjudica la fiabilidad del comportamiento de un agente. Sin embargo, un trabajo de GEO no es la única fuente de información correcta. También pueden proporcionarla los registros verificados de una organización, la información del usuario o el acceso directo a los datos. Aun así, una representación correcta no produce por sí sola un comportamiento correcto. Un agente puede comprender perfectamente el servicio de una empresa y tomar una decisión equivocada por no tener en cuenta el presupuesto, las facultades o el límite de riesgo del usuario.

En este sentido: SEO prepara la posibilidad de ser encontrado. GEO prepara la representación. GBO prepara el comportamiento.

El objeto central de SEO es la página. El de GEO es la representación. El de GBO es la decisión y la acción. Este libro no trata de conseguir más clics ni más citas. Busca responder a otra pregunta: ¿cómo podemos hacer posible un comportamiento correcto cuando las máquinas actúan sobre personas, instituciones y el mundo?

La persona no es un mecanismo de seguridad añadido al final

Pensemos en un sistema que reduce el papel de una persona a pulsar el botón de aprobación al final. El sistema investiga, decide y planifica; después pregunta: «¿Lo aprueba?». Pero una persona no está ahí solo para pulsar ese último botón. Define el objetivo, determina qué riesgos son aceptables y decide qué acciones delegar. Concede autorización y la retira cuando es necesario. Cuestiona el resultado y exige que se reparen los errores. Por eso la supervisión humana no es un complemento de seguridad externo a GBO. Es su centro.

Por muy capaz que sea un agente, no debe atribuirse sus propias facultades. Poder realizar una tarea no significa estar autorizado para hacerla. Poder completar una operación tampoco significa que sea correcta. La capacidad no equivale a la autorización. La autonomía no es un mandato irrevocable.

¿Qué aportará este libro?

Este libro no enseñará tácticas ocultas para obligar a los agentes de IA a elegir una marca. No enseñará a producir contenido para engañarlos. Tampoco defenderá la manipulación de sistemas de decisión mediante pruebas falsas, reseñas artificiales o registros dirigidos a máquinas que busquen inducirlas a error. Su pregunta es esta: ¿cómo debe prepararse una persona, empresa, servicio o institución para que los agentes de IA puedan evaluarla correctamente y realizar operaciones seguras en relación con ella?

Mejor contenido, mejores datos, una API o un protocolo para agentes no bastan por separado. Hace falta una arquitectura de comportamiento coherente: identidad correcta, capacidades claras, pruebas verificables, límites visibles, permisos válidos, una vía de ejecución segura, aprobación humana, registros, reversión, impugnación y reparación. La llamaremos NOMOS Behavioral Contract Layer: la capa NOMOS de contratos de comportamiento. En turco se denomina NOMOS Davranış Sözleşmesi Katmanı.

Esta capa no solo indica a un agente qué puede hacer. También le dice cuándo puede hacerlo, cuándo debe abstenerse y de quién necesita permiso. Explica en qué basa su decisión, cómo debe detenerse ante un error y cómo puede una persona recuperar el control.

La definición fundacional

La definición canónica que empleará este libro es la siguiente:

Generative Behavior Optimization —GBO— es la estructuración sistemática de identidades, capacidades, pruebas, límites, permisos, vías de ejecución y mecanismos de reparación para que los sistemas generativos y basados en agentes puedan comportarse de manera correcta, sustentada en pruebas, adecuada, autorizada, segura, explicable y reversible en relación con una persona, marca, producto, servicio, institución o fuente de información.

La reversibilidad de esta definición no significa que puedan borrarse todos los efectos de cualquier acción. Los capítulos ocho y doce tratan por separado la detención, la retirada de autorización, la reversión técnica y la reparación. Si una acción es irreversible, sus límites deben explicarse de antemano; deben existir una autorización válida y condiciones de riesgo aceptables. Reparar no equivale a restablecer íntegramente el pasado.

Dicho de forma más sencilla: GBO busca que la IA no solo sepa qué es lo correcto, sino que actúe correctamente. Y, a veces, lo correcto es no hacer nada.