Интернет больше не только говорит

Много лет интернет давал нам информацию. Когда мы искали ресторан, он показывал адрес. Когда изучали компанию — помогал найти её сайт. Когда собирались купить товар — предлагал разные варианты. Но решение принимал человек. Он же заполнял форму, платил и отвечал за последствия. Затем появился генеративный искусственный интеллект. Новые системы уже не просто выдавали ссылки: они читали размещённую по этим ссылкам информацию и отвечали на наши вопросы. Они могли в нескольких предложениях объяснить, чем занимается компания, сравнить товары, разобрать сложный документ и оценить, какой источник выглядит более надёжным.

Этот сдвиг поставил новый вопрос: как система искусственного интеллекта видит нас и как нас представляет?

Именно с этого вопроса книга начинает разговор о GEO. Бренд может быть заметен в интернете, но ИИ всё равно способен описать его неверно. Реальная компетентность компании может остаться незамеченной. Знания, накопленные за годы работы, могут затеряться за более поверхностными источниками. Машина может представлять сущность, опираясь на неполные, устаревшие или противоречивые сведения.

Системы ИИ, которым доступны инструменты, не ограничены ответами на вопросы. Они могут назначать встречи, запрашивать коммерческие предложения, заполнять формы и готовить письма. Среди возможных действий — сравнение товаров, выбор поставщиков, бронирование, изменение файлов и публикация программного обеспечения. При определённых условиях они могут участвовать и в оплате или покупке. Интернет больше не только говорит. Он начинает действовать.

Если ИИ делает неверное утверждение о компании, это проблема представления. Если тот же ИИ переводит деньги не той компании, отправляет сообщение без полномочий или принимает договор, которого пользователь не хотел, это уже проблема поведения. Неверный ответ можно исправить, но устранить его последствия удаётся не всегда. Ошибочное действие может привести к потере денег, нарушению приватности, ущербу для репутации или последствиям, которые людям будет трудно обратить вспять.

Поэтому недостаточно спросить: «Правильно ли ИИ нас поймёт?» Нужны ответы и на другие вопросы:

Когда он должен выбрать нас? Когда он не должен этого делать? Каким доказательствам ему следует доверять? На основании каких полномочий он может действовать? Нужно ли ему задавать вопросы при неопределённости? Нужно ли останавливаться при росте риска? Можно ли отменить операцию, если он ошибётся? Может ли человек оспорить это решение?

Книга ищет ответы с помощью подхода, который мы называем Generative Behavior Optimization, или GBO: оптимизация генеративного поведения. Его турецкое название — Üretken Davranış Optimizasyonu.

GBO — не техника убеждения

Слова «оптимизация поведения» легко понять неправильно. Компания может захотеть заставить ИИ-агентов выбирать именно её. Бренд может попытаться повлиять на их системы принятия решений, чтобы его рекомендовали чаще конкурентов. Платформа может стремиться направить предпочтения пользователей в пользу собственных коммерческих интересов. Но GBO, о котором говорится в этой книге, не ставит целью заставить агента выбирать нас чаще. Его задача — помочь агенту сделать правильный выбор при подходящих условиях и не выбирать нас, если условия не подходят. В этом различии заключён этический центр GBO.

Если туристический агент постоянно выбирает один и тот же отель, хотя тот не соответствует потребностям пользователя, это не успешная оптимизация. Если агент по закупкам выбирает компанию с неясными ценами или загрузкой лишь потому, что она заметнее в интернете, это тоже не успешная оптимизация. ИИ-помощник, отправивший сообщение от имени пользователя без его явного одобрения, мог быстро закончить задачу, но повёл себя неправильно. GBO оптимизирует уместность действий, а не их количество. Правильным поведением может быть выбор, отказ, уточняющий вопрос или передача решения человеку. Иногда — полное бездействие.

Простой пример

Представим, что ИИ-агенту дали задание: «Найди подрядчика, который разработает для нашей компании многоязычный клиентский портал». Агент ищет информацию в интернете, находит несколько компаний и читает страницы с описанием их услуг. Сравнивает цены, технические возможности, сроки и подходы к безопасности. На этом этапе одних SEO и GEO уже недостаточно. SEO помогает найти компании. GEO помогает правильно понять, чем они занимаются. Но теперь агенту предстоит принять решение.

Прежде чем выбрать подрядчика, ему нужно выяснить:

Действительно ли компания разрабатывает клиентские порталы? Многоязычность — реальная компетенция или только рекламное обещание? Входят ли в объём работ аутентификация и защита данных? Включены ли в цену лицензии сторонних поставщиков? Оплачивается ли перенос данных отдельно? Как долго продолжается поддержка после сдачи проекта? Позволяет ли текущая загрузка компании взять ещё один проект? Соответствует ли фактический объём услуги бюджету пользователя? Есть ли полномочия запрашивать коммерческое предложение? Нужно ли одобрение человека для подписания договора?

Если этих сведений нет, агент не должен заполнять пробелы догадками. Он должен задать вопросы и не выполнять операцию на основании неполной информации. Здесь начинается GBO. Заявления «Мы разрабатываем клиентские порталы» недостаточно. Компания должна сделать понятными и для людей, и для машин свои реальные возможности, ограничения, модель ценообразования, необходимые исходные данные, условия пригодности, требования к согласованию и способы восстановления. Агенту нужна не просто рекламная страница, а контракт поведения.

Контракт поведения

Прежде чем действовать в отношении какой-либо сущности, агент должен уметь ответить на семь основных вопросов:

Кто это? Что эта сущность действительно может делать? Чем это подтверждено? Подходит ли она для данной ситуации? Есть ли у неё полномочия выполнить операцию? Можно ли выполнить действие безопасно? Можно ли восстановить прежнее состояние, если произойдёт ошибка?

Эти семь вопросов составляют ядро GBO. Если хотя бы один остаётся без ответа, поведение агента должно измениться.

Если недостаёт доказательств, нужно запросить проверку. Если пригодность неясна, нужно вернуться к сравнению или попросить разъяснений. Если не хватает полномочий, агент должен остановить соответствующее действие и обратиться к тому, кто вправе его разрешить. Если риск неприемлем, операцию выполнять нельзя. Если отмена невозможна, нужно заранее обозначить это ограничение и доступные способы возмещения последствий. Продолжать можно только при действительных полномочиях и приемлемом риске. Более строгое согласование не делает запрещённое действие допустимым.

Поэтому высокая видимость в GBO не заменяет отсутствующих полномочий. Известность бренда не заменяет действительного согласия. Хорошая цена не компенсирует слабую защиту. Множество источников не делает неверно определённый объём работ правильным. Логика GBO основана не на суммировании баллов, а на прохождении обязательных проверок. Каждую критическую проверку нужно пройти отдельно: подходящий выбор, достаточные доказательства, действительные полномочия, безопасное выполнение и определённые условия отмены или возмещения последствий рассматриваются вместе. Если одного условия нет, агент должен выбрать другой путь.

Где заканчивается GEO и начинается GBO?

GEO и GBO не конкурируют, а дополняют друг друга. Неправильное понимание существенного факта подрывает надёжность поведения агента. Но работа над GEO — не единственный способ получить достоверные сведения. Их могут дать проверенные записи организации, информация пользователя или прямой доступ к данным. При этом правильное представление само по себе ещё не порождает правильного поведения. Агент может безупречно понимать услугу компании и всё равно сделать неверный выбор, если не учтёт бюджет, полномочия или допустимый для пользователя риск.

В этом смысле: SEO помогает подготовиться к тому, чтобы вас нашли. GEO — к тому, чтобы вас правильно представили. GBO — к правильному поведению.

Основной объект SEO — страница. Основной объект GEO — представление. Для GBO это решение и действие. Эта книга не о том, как получить больше переходов или цитирований. Она ищет ответ на другой вопрос: как сделать правильное поведение возможным, когда машины совершают действия, затрагивающие людей, организации и окружающий мир?

Человек — не защитный механизм, добавленный в конце

Представим систему, которая отводит человеку лишь роль последней кнопки подтверждения. Она исследует, решает и планирует, а затем спрашивает: «Вы одобряете?» Но человек нужен не только для нажатия на эту кнопку. Он определяет цель, устанавливает приемлемые риски и решает, какие действия делегировать. Он предоставляет полномочия и при необходимости отзывает их, оспаривает результат и требует устранить последствия ошибки. Поэтому человеческий надзор — не дополнительная защита за пределами GBO. Он находится в самом его центре.

Какими бы широкими ни были возможности агента, он не должен сам наделять себя полномочиями. Способность выполнить задачу не означает права её выполнять. Способность завершить операцию не делает операцию правильной. Возможности — не полномочия. Автономность — не безотзывное поручение.

Что даст эта книга?

Эта книга не будет учить скрытым приёмам, заставляющим ИИ-агентов выбирать определённый бренд. Она не будет учить создавать контент для их обмана. Она не призывает влиять на системы принятия решений с помощью вымышленных доказательств, искусственных отзывов или манипулятивных машиночитаемых записей. Её вопрос иной: как человеку, компании, сервису или учреждению подготовиться к тому, чтобы ИИ-агенты могли правильно их оценивать и безопасно действовать в связи с ними?

Более качественного контента, более точных данных, API или агентского протокола по отдельности недостаточно. Нужна целостная архитектура поведения: корректная идентичность, ясно описанные возможности, проверяемые доказательства, видимые ограничения, действительное разрешение, безопасный путь выполнения, одобрение человека, записи, отмена, обжалование и возмещение последствий. Назовём эту архитектуру NOMOS Behavioral Contract Layer — слоем контрактов поведения NOMOS. По-турецки она называется NOMOS Davranış Sözleşmesi Katmanı.

Этот слой не только сообщает агенту, что тот может сделать. Он объясняет, когда это разрешено, когда от действия нужно воздержаться и чьё разрешение требуется. Он показывает, на чём основано решение, как остановиться при ошибке и как человек может вернуть себе контроль.

Исходное определение

В этой книге используется следующее каноническое определение:

Generative Behavior Optimization — GBO — это систематическое выстраивание идентичностей, возможностей, доказательств, ограничений, разрешений, путей выполнения действий и механизмов возмещения последствий, позволяющее генеративным и агентным системам действовать в отношении человека, бренда, продукта, услуги, учреждения или источника информации правильно, с опорой на доказательства, уместно, в пределах полномочий, безопасно, объяснимо и обратимо.

Обратимость в этом определении не означает, что можно устранить все последствия любого действия. Восьмая и двенадцатая главы отдельно рассматривают остановку, отзыв полномочий, технический откат и возмещение последствий. Если действие необратимо, его ограничения должны быть обозначены заранее; необходимы действительные полномочия и приемлемый риск. Возмещение последствий не возвращает прошлое в полном объёме.

Проще говоря, GBO стремится к тому, чтобы ИИ не только знал, как правильно, но и поступал правильно. А иногда правильный поступок — ничего не делать.