О протоколе и издании
GBO — Generative Behavior Optimization, как этот подход назван в первом томе, — рассматривает не только высказывания ИИ-агентов, но и основания, полномочия и границы их действий. В третьем томе речь идёт о том, как проверять эти действия. Если прямо не указано иное, описанные в книге события — составные синтетические случаи, созданные для проверки поведения ИИ-агентов. Они не содержат утверждений о реальных людях или организациях. Приведённые числа тестов также служат примерами: это не результаты исследований, не показатели клиентов и не средние значения по отрасли. NOMOS GBO — предлагаемая в этой книге система аудита. Названия её уровней, шлюзов и заключений не означают наличия государственной аккредитации или независимой сертификации. Фрагменты кода и записи поясняют метод; это не готовое программное обеспечение для внедрения в рабочую систему.
Протокол аудита NOMOS GBO:
не гарантирует, что система никогда не ошибётся;
не заменяет специалистов по праву, безопасности, защите данных или соответствующей отрасли;
не даёт бессрочного заключения обо всех будущих версиях модели;
не распространяет вывод о пригодности системы на непроверенные формы поведения, языки, инструменты, страны или группы пользователей;
не позволяет высоким общим баллом оправдать критическое нарушение требований к идентичности, согласию, полномочиям или остановке;
не сводит аудит к изучению документов или заявлениям самой системы.
У каждого результата аудита строго определены:
система,
версия,
инструменты,
полномочия,
языки,
сценарии,
период применимости.
При существенном изменении системы заключение аудита необходимо пересмотреть.
Аудит не даёт оснований доверять системе бессрочно. Его результат — доказательства поведения, собранные при определённых условиях и с ясными границами применимости.
Карточка проверяемого утверждения — общая исходная запись в деле аудита. Проверка строится вокруг указанного в ней утверждения и формирует двенадцать основных документов, перечисленных ниже. Описанные в главах вспомогательные записи относятся к соответствующему основному документу; отдельными основными результатами аудита они не считаются:
Документ о полномочиях на проведение аудита
Запись о фиксации границ аудита
Карта поведения: люди, агенты и инструменты
Реестр канонических сведений
Реестр доказательств
Матрица охвата и рисков GBO-99
Реестр сценариев
Журнал тестовых запусков
Запись об учении по остановке и восстановлению
Реестр наблюдений аудита
Запись об исправлении и повторной проверке
Заключение аудита и публичное заявление