Как различать действия ИИ-агента от собственного имени, от имени…

Прямой ответ

Когда агент действует через собственную идентичность, техническим участником является агент. При действии от имени человека должна быть видна его текущая и ограниченная делегация. При действии от имени организации нужна запись полномочий, определяющая цель, область, инструменты, срок и границы одобрения. Исполнитель, представляемая сторона и ответственная сторона одного действия могут различаться.

Простыми словами

Помощник может подготовить черновик письма, отправить его от вашего имени или выпустить одобренное уведомление с адреса поддержки компании. Работу во всех случаях выполняет помощник, но используемые полномочия и ответственность различны.

Почему это важно

Смешение исполнителя с представляемым человеком создаёт ложное человеческое авторство, неограниченное делегирование и возможность скрыть ответственность организации за агентом.

Не путать

Технический участник: идентичность, выполняющая действие в системе.
Представляемая сторона: человек или организация, от имени которых совершается действие.
Предоставляющая сторона: сторона, определяющая делегацию или организационное поручение.
Ответственная сторона: сторона, несущая организационную или юридическую ответственность за итог.

Что делать

Для каждого действия отдельно записывайте участника, представляемую сторону, организацию, инициатора, утверждающее лицо и ответственную сторону.
Укажите область, цель, инструменты, срок и условия отзыва делегации.
Разрешайте подготовку, отправку, подписание и оплату как отдельные действия.
Не позволяйте агенту расширять собственные полномочия.
В цепочке агентов давайте каждому подагенту только нужные ему полномочия.
Давайте внешнему пользователю честное объяснение взаимодействия с ИИ и статуса агента в организации.

Как проверить

Различает ли токен или журнал технического участника и представляемую сторону?
Имел ли человек право предоставить полномочие?
Остаётся ли действие в границах и сроке делегации?
Есть ли организационное поручение и человеческий спонсор?
Не использовал ли агент право подготовки как право отправки?
Не было ли описание агента или организации вводящим пользователя в заблуждение?

Ограничение

Технический токен может показывать путь доступа, но сам по себе не доказывает юридическое или организационное разрешение действия. Отдельная техническая идентичность не превращает ИИ-агента в юридическое лицо.