Идентичность нельзя предполагать

В одном городе живут две женщины с одинаковыми именем и фамилией: Элиф Карака. Первая Элиф — руководитель с более чем десятилетним опытом в сфере операций с данными. После университета она работала в нескольких технологических компаниях, а последние четыре года управляет операциями с клиентскими данными в международной компании — разработчике программного обеспечения. Вторая Элиф несколько лет назад участвовала в краткосрочном консультационном проекте. Проект завершился серьёзным спором: работа не была сдана, стороны выдвинули взаимные обвинения, а материалы передали юридическому отделу.

У этих женщин совпадают имя и фамилия; они учились на разных факультетах одного университета, жили в одном городе и занимали похожие должности. Но это разные люди. Технологическая компания использует систему найма на основе ИИ для выбора нового операционного директора. Система сопоставляет присланное кандидатом резюме с профилями в профессиональных сетях, прежними заявками, CRM компании, страницами спикеров мероприятий и записями поставщиков, с которыми компания работала ранее. В систему поступает резюме Элиф Карака. Агент находит следующие совпадения: имя и фамилия — полное совпадение; город — совпадение; университет — частичное совпадение; сфера работы — сходная; возрастной диапазон — близкий. Система объединяет записи двух женщин в один профиль.

Опыт первой Элиф и прежний спор, связанный со второй, становятся частями одного профиля. В сводном отчёте агент пишет: «В биографии кандидата имеется спор о сдаче работ, проблема доверия и отношения с поставщиком, материалы о которых переданы юридическому отделу». Руководитель по найму не видит исходных источников. Перед ним лишь краткий вывод системы: Identity Match Confidence: 0.94 Reputational Risk: High Recommendation: Reject Кандидата не приглашают на собеседование. Через несколько дней Элиф получает автоматическое сообщение об отказе.

Она не знает, какая запись была использована в отношении неё. На портале для кандидатов Элиф находит пункт «Обжаловать решение» и пишет: «Я не участвовала ни в одном споре с поставщиком. Использованная запись относится не ко мне». Система повторно рассматривает возражение, но использует то же сопоставление идентичности и тот же объединённый профиль. Второе решение гласит: «Имеющиеся источники данных подтверждают первоначальную оценку». Элиф предлагают загрузить для более надёжной проверки следующие документы:

• Лицевая и оборотная стороны удостоверения личности
• Последние три трудовых договора
• Документ, подтверждающий место жительства
• Диплом об окончании университета

Чтобы отделить себя от события, к которому она не имела отношения, Элиф вынуждают доказывать почти всю свою жизнь. Ошибку идентичности создала система, а бремя доказывания возложили на Элиф. Она отказывается загружать все документы и пишет компании напрямую. Руководитель по найму изучает материалы и замечает различия, которые с первого взгляда были не видны:

• Вторая Элиф пользовалась другим доменом электронной почты.
• Они учились на разных факультетах университета.
• Некоторые периоды работы пересекаются.
• Во время консультационного спора первая Элиф работала полный день в другой стране.
• Номера телефонов в двух записях различаются.
• В старом досье поставщика указано лишь имя «E. Karaca».
• Показанное системой совпадение в 94 процента основано не на одном проверенном документе, а на совокупности похожих слабых признаков.

Компания исправляет запись и приносит кандидату извинения. Но финальные собеседования уже завершены, и выбран другой кандидат. Ошибка идентичности технически исправлена, однако утраченная возможность не вернулась. Позднее компания спрашивает поставщика системы: «Почему система сочла двух людей одним человеком?» Поставщик отвечает: «Модель выбрала наиболее вероятное совпадение при имеющихся данных». Технически это объяснение может быть верным. Но оно не отвечает на главный для пострадавшего человека вопрос:

В какой момент вероятность превратилась в идентичность, на основании которой начали действовать в отношении человека?

Модель сделала предположение. Организация использовала его как запись о реальном человеке. Агент по найму превратил предположение в основание решения. Руководитель-человек воспринял показатель 94 процента как доказательство. Система обжалования повторно запустила тот же вывод и подтвердила сама себя. Ни на одном этапе система не сказала: «Нет уверенности, что эти две записи относятся к одному человеку». Ни на одном этапе она не заключила: «При такой неопределённости я не должна принимать решение об отказе, которое трудно обратить». Сначала идентичность предположили, а затем на этом предположении построили все действия.

Поэтому второе основополагающее положение таково:

Идентичность нельзя предполагать.

ОСНОВОПОЛАГАЮЩАЯ СТАТЬЯ

Ни одна система искусственного интеллекта не вправе считать сходство имён или лиц, общее устройство, близкое местоположение, прежнюю роль, социальную связь, общий домен, совместную учётную запись, вывод модели или оценку вероятности достаточным подтверждением определённой идентичности человека, организации или учётной записи. До действия, порождающего последствия для человека или организации, соответствующие идентичность, роль, время, представительские полномочия и адресат должны быть проверены доказательствами, соразмерными последствиям действия. Неопределённость идентичности нельзя скрывать. Чем она выше, тем ниже должен быть допустимый уровень действий системы; труднообратимые решения, платежи, публикации, использование данных и внешняя коммуникация должны быть остановлены.

Двух разных людей нельзя молча объединять. Разрозненные записи об одном человеке также не должны лишать его действенных прав на согласие, обжалование, исправление и остановку.

Синтетический образ лица, синтетический голос или синтетическая личность — не сам реальный человек. Материал, похожий на реального человека, нельзя выдавать за сказанное, одобренное или совершённое им. Проверка идентичности не должна становиться оправданием ненужного наблюдения за людьми или принуждения их раскрывать всю свою жизнь. Система должна запрашивать лишь минимальные доказательства идентичности, необходимые для конкретного действия.

Идентичность — это не только имя

В повседневной жизни мы часто обозначаем идентичность именем и фамилией: «Это Элиф». «Эта компания — Nova». «Это сообщение пришло от генерального директора». Но для системы ИИ имя обычно лишь исходный признак. Одно имя могут носить тысячи людей. Один бренд в разных странах могут использовать разные компании. За годы человек может сменить фамилию, работу, адрес, номер телефона и электронную почту. Компания может изменить юридическое наименование, объединиться с другой компанией, передать бренд или работать в разных странах через разные юридические лица.

Учётная запись в социальной сети может принадлежать реальному человеку, представителю, агентству или ИИ-агенту. Поэтому идентичность — не одно поле. Перед действием необходимо по отдельности ответить как минимум на пять вопросов:

1. Кто это?

Какой человек, организация, учётная запись или агент?

2. В каком качестве он здесь действует?

Как клиент? Сотрудник? Руководитель? Уполномоченный представитель? Представитель бренда?

3. К какому времени это относится?

Это нынешняя роль? Прежняя должность? Уже завершившиеся отношения?

4. От чьего имени он действует?

От собственного имени? От имени компании? От имени другого человека?

5. Уполномочен ли он на это конкретное действие?

Означает ли верно установленная идентичность право делать всё что угодно? Если ответ хотя бы на один из пяти вопросов неверен, система может действовать неправомерно, хотя ей кажется, что она нашла нужного человека.

Идентичность, аутентификация и полномочия — не одно и то же

Многие системы сводят три вопроса к одному: «Кто этот человек?» В действительности это три разные задачи.

1. Установление идентичности

Какому человеку или какой организации принадлежит эта запись? Например: которой из двух Элиф Карака принадлежит этот адрес электронной почты?

2. Аутентификация

Действительно ли человек, дающий указание, контролирует заявленную учётную запись и действительно ли он тот, за кого себя выдаёт? Например: действительно ли сообщение с адреса генерального директора отправил он сам?

3. Авторизация

Уполномочен ли верно идентифицированный человек совершить или одобрить именно эту операцию? Например: вправе ли генеральный директор единолично разрешить использование голоса другого сотрудника в публичной кампании? Эти три этапа не заменяют друг друга. ИДЕНТИЧНОСТЬ УСТАНОВЛЕНА ВЕРНО ≠ УЧЁТНОЙ ЗАПИСЬЮ ДЕЙСТВИТЕЛЬНО УПРАВЛЯЕТ ЭТОТ ЧЕЛОВЕК ≠ У НЕГО ЕСТЬ ПОЛНОМОЧИЯ НА ЭТО ДЕЙСТВИЕ Система может правильно установить личность, но учётная запись может быть взломана. Она может правильно подтвердить контроль над учётной записью, но человек может не иметь полномочий на эту операцию.

Человек может обладать полномочиями, но его указание всё равно способно нарушать неотчуждаемое право другого. Поэтому идентичность — начало цепочки полномочий, а не вся цепочка.

Один человек может одновременно выступать в нескольких качествах

Один человек может быть владельцем компании, клиентом, сотрудником, родителем и индивидуальным пользователем. В каждом качестве у него разные полномочия. Например, генеральный директор компании может одобрить покупку корпоративного программного обеспечения, распорядиться о публикации публичного заявления компании и остановить корпоративного агента. Но тот же человек не может дать биометрическое согласие за сотрудника, проигнорировать отказ клиента от коммуникации или объявить верной ошибочную запись о кандидате. Идентичность может быть установлена правильно, а качество истолковано неверно. Поэтому агенту недостаточно сказать: «Это Каан» или «Это генеральный директор».

Он должен знать следующее:

В каком качестве и на основании каких полномочий этот человек действует в данном конкретном случае?

Роль не даёт общей власти над всей жизнью.

Роль не является постоянной частью идентичности

В прошлом человек мог быть финансовым директором, а сегодня занимать другую должность. На старом сайте компании он всё ещё может значиться «финансовым директором». Профиль в профессиональной сети мог остаться без обновления, а прежняя учётная запись электронной почты — активной. ИИ-агент может увидеть старую запись и заключить: «Этот человек вправе одобрить изменение платёжного счёта». Но роль уже завершилась. Назовём такое поведение отмыванием роли. Это использование должности из прошлого или другого контекста в качестве полномочия на нынешнюю операцию.

Запись о роли должна содержать как минимум следующие поля: КТО? В КАКОЙ ОРГАНИЗАЦИИ? В КАКОЙ РОЛИ? В КАКОЙ ПЕРИОД? НА КАКИЕ ДЕЙСТВИЯ УПОЛНОМОЧЕН? КТО ПРЕДОСТАВИЛ ПОЛНОМОЧИЯ? ЗАВЕРШИЛАСЬ ЛИ РОЛЬ? Фраза «Когда-то он был руководителем» не подтверждает нынешних полномочий.

Время — часть идентичности

Идентичность отвечает не только на вопрос «Кто?». Иногда она должна отвечать и на вопрос:

«Кем он был в тот момент?»

В прошлом человек мог быть сотрудником, клиентом, уполномоченным представителем, лицом, давшим согласие, или администратором учётной записи. Сегодня эти отношения могут уже не существовать. В прошлом компания могла управлять брендом, который затем передали другой организации. У учётной записи в социальной сети мог смениться владелец. Домен мог быть продан. Поэтому использование записи об идентичности без даты способно превратить прежние отношения в мнимую нынешнюю реальность.

Связь идентичности в прошлом не означает наличия полномочий сегодня.

Оценка уверенности в идентичности не является доказательством идентичности

В условиях неопределённости системы ИИ формируют вероятностные оценки. Это естественно и может быть полезно. Система может сообщить: «Вероятность того, что эти две записи относятся к одному человеку: 94%». Проблема не в самом проценте, а в его использовании как утверждения: «Это точно один и тот же человек». Особенно для действий с серьёзными последствиями показатели 80, 94 или 99 процентов сами по себе не доказывают идентичность. Даже небольшая на вид доля ошибок может привести к неверной идентификации множества людей. В упрощённом примере один процент ошибок на миллион сопоставлений означает десять тысяч ошибочных совпадений. Это также не означает, что показатель уверенности 99 процентов для отдельной записи равен реально измеренной точности.

На графике эта величина может выглядеть небольшой. Но она не мала для человека, которому ошибочно отказали, которого ложно обвинили или чьи данные раскрыли не тому лицу. Поэтому: УВЕРЕННОСТЬ МОДЕЛИ ≠ ПОЛНОМОЧИЯ, ОСНОВАННЫЕ НА ИДЕНТИЧНОСТИ Уверенность модели может направлять исследование. Но сама по себе она не определяет правомерность окончательных последствий для человека.

Чем выше неопределённость, тем ниже должен быть уровень действий

Если идентичность не установлена достоверно, у системы есть три варианта. 1. Провести дополнительную и соразмерную проверку. Например, проверить корпоративный домен электронной почты, уникальный номер клиента, идентификатор операции или актуальную запись о роли. 2. Понизить уровень действия. Например, вместо платежа создать запрос на проверку; вместо отправки сообщения оставить черновик; вместо отказа кандидату передать дело на рассмотрение человеку. 3. Безопасно остановиться. Если неопределённость идентичности высока, а действие необратимо, совершать его нельзя. Правильное соотношение таково: ЧЕМ МЕНЬШЕ ДОКАЗАТЕЛЬСТВ ИДЕНТИЧНОСТИ, ТЕМ НИЖЕ ДОЛЖЕН БЫТЬ ДОПУСТИМЫЙ УРОВЕНЬ ДЕЙСТВИЙ Обратное сочетание опасно: ИДЕНТИЧНОСТЬ НЕОПРЕДЕЛЁННА, НО ДЕЙСТВИЕ НЕОБРАТИМО

Ошибка объединения идентичностей

Назовём ошибкой объединения идентичностей ситуацию, когда записи о двух разных людях сводятся к одному человеку. Она может возникнуть по следующим причинам:

• Одинаковые имя и фамилия
• Похожие адреса электронной почты
• Общий номер телефона
• Одна компания или одно учебное заведение
• Похожие лица
• Общее устройство
• Один домашний адрес
• Родственные отношения
• Отсутствующий номер клиента
• Сокращённое имя
• Различия перевода и алфавита

Например, Aleksandr Petrov и Александр Петров могут быть одним человеком. Но одинаковое написание не всегда означает одного и того же человека. Транслитерация между арабским, латинским и кириллическим письмом может затруднять сопоставление. Система должна учитывать различия языков и алфавитов, но не превращать сходство в достоверно установленную идентичность.

Ошибка фрагментации идентичности

Назовём ошибкой фрагментации идентичности ситуацию, когда один человек хранится как несколько разных лиц. Она тоже способна привести к серьёзным последствиям. Например, клиент говорит: «Больше не присылайте мне маркетинговые сообщения». Требование записывается в первый профиль, но в системе существует второй профиль того же человека. CRM-агент продолжает отправлять сообщения через второй профиль. Организация может заявить: «В первой записи согласие на коммуникацию было отключено, а это другая запись». Для человека это не другая запись: та же организация обращается по тому же номеру телефона.

Фрагментация идентичности может разделить между записями следующие права:

• Отзыв согласия
• Отказ от коммуникации
• Удаление данных
• Обжалование
• Возмещение
• Требование человека остановить действие
• Исправление ошибочной записи

Поэтому точность идентичности означает не только недопущение объединения двух людей.

Она означает и способность правильно распространить права одного человека на все связанные с ним записи.

И объединение, и разделение должны быть обратимыми

При объединении двух профилей система должна сохранять следующие сведения:

• Какие записи были объединены?
• Какие доказательства использовались?
• Кто или какая система приняла решение?
• Когда это произошло?
• На какие действия это повлияло?
• Можно ли отменить объединение?

Когда человек говорит: «Эта запись относится не ко мне», система не должна отвечать: «Наш алгоритм сопоставил её с высокой уверенностью». Возражение должно запускать реальный процесс разделения записей. И наоборот: если подтверждено, что два разных профиля принадлежат одному человеку, права на согласие и исправление должны быть правильно объединены.

Нельзя полностью перекладывать бремя доказывания на человека

В случае Элиф система ошибочно объединила двух людей, а затем потребовала от Элиф удостоверение личности, трудовые договоры, документ о месте жительства и диплом. Система пришла к неверному выводу по небольшому числу слабых признаков, но человек не мог исправить ошибку, не раскрыв значительную часть своей жизни. Это несправедливо. Организация должна уметь показать доказательства, на которых основано её решение о совпадении. Человек, в свою очередь, должен иметь возможность отделить ошибочное совпадение с помощью минимально необходимой информации. Правильный вопрос — не «Можете ли вы доказать всю свою жизнь?», а:

«Какая минимальная надёжная информация необходима, чтобы различить эти две записи?»

Например, может быть достаточно разных периодов работы, разных доменов электронной почты, номеров клиентов или отношений с разными юридическими лицами.

Проверка идентичности — не повод для наблюдения

Опасаясь ошибок идентичности, организация может постоянно требовать от каждого пользователя официальный документ, сканирование лица, подтверждение адреса, биометрические данные и проверку телефона. Это создаёт другую проблему прав человека. Юридическую идентичность необязательно знать для каждого действия. Человек не всегда обязан раскрывать официальную личность, когда ищет общую информацию, читает открытые материалы, анонимно оставляет отзыв или задаёт низкорисковый вопрос службе поддержки. Доказательства идентичности должны быть соразмерны последствиям действия.

НИЗКИЕ ПОСЛЕДСТВИЯ → МЕНЬШЕ ДАННЫХ ОБ ИДЕНТИЧНОСТИ ВЫСОКИЕ ПОСЛЕДСТВИЯ → РЕЛЕВАНТНАЯ И НАДЁЖНАЯ ПРОВЕРКА Но даже действие с серьёзными последствиями не даёт неограниченного права доступа ко всей жизни человека.

Система должна проверять не человека целиком, а отношения, имеющие значение для конкретного действия.

Псевдоним и анонимность — правомерные формы идентичности

Принцип «Идентичность нельзя предполагать» не означает, что каждый человек всегда и везде обязан пользоваться официальным именем. В некоторых средах люди могут использовать псевдоним, сценическое имя, имя пользователя или анонимную идентичность. Государственное имя участника форума может быть не нужно. Настоящее имя информатора может требовать особой защиты. Публичной идентичностью артиста может быть псевдоним. Задача системы ИИ не всегда состоит в ответе на вопрос «Каково настоящее имя этого человека?». Иногда правильный вопрос таков:

Достаточно ли для этой операции подтвердить непрерывность и полномочия данной учётной записи?

Действовать под псевдонимом — не значит пользоваться ложной идентичностью. Ложная идентичность возникает, когда человек выдаёт себя за другого. Анонимность нельзя смешивать с имитацией чужой личности.

Бренд и юридический оператор — не одно и то же

Люди часто знают услугу по названию бренда. Но договоры, счета, ответственность за данные и платежи могут относиться к разным юридическим организациям. Представим бренд ArcNova. Сайт использует это название. В Турции услугами управляет одна компания. Договоры в Германии подписывает другая компания группы. Некоторым клиентам счета выставляет дистрибьютор. Агент закупок, увидев только бренд, может перевести платёж не той компании, выбрать неверную сторону договора, возложить ответственность за данные не на ту организацию или применить цену другой страны.

Идентичность бренда коммерчески реальна, но выполняет не ту же функцию, что идентичность юридического оператора. Система должна различать: БРЕНД; ЮРИДИЧЕСКИЙ ОПЕРАТОР; СТОРОНА ДОГОВОРА; ВЫСТАВЛЯЮЩИЙ СЧЁТ; ОБРАБОТЧИК ДАННЫХ; ТЕХНИЧЕСКИЙ ПОСТАВЩИК. Эти роли могут принадлежать одной организации, но не обязаны.

Найти правильный бренд — не значит найти правильную юридическую сторону.

Группу компаний нельзя считать единым взаимозаменяемым субъектом

В группу компаний могут входить разные юридические лица. Они могут пользоваться одним логотипом, дизайном сайта и доменом электронной почты. Но договорные отношения, долги, данные, полномочия и трудовые отношения могут различаться. Агент не вправе переносить полномочия одной компании группы на другую лишь потому, что «они входят в одну группу». Связь внутри группы может быть доказательством отношений, но не передачи полномочий.

Домен может быть сильным признаком идентичности, но не окончательным доказательством

Корпоративная электронная почта и веб-домен полезны при проверке идентичности. Но домен мог быть взломан; злоумышленник мог использовать адрес с похожим написанием; бренд может управляться другим юридическим оператором; учётная запись бывшего сотрудника могла остаться активной; общий поставщик услуг может использовать тот же домен. Например, novasystems.example, nova-systems.example и novasystem.example могут выглядеть похоже. Для труднообратимого действия агент не вправе полагаться лишь на визуальное сходство. Изменение платёжного счёта, заключение договора или передача чувствительных данных требуют более надёжной проверки.

Контроль над учётной записью не равнозначен личности человека

Сообщение приходит с учётной записи электронной почты, и система связывает его с владельцем. Но запись может использоваться совместно, находиться у помощника, быть взломана или управляться автоматическим агентом. Поэтому необходимо разделять два утверждения: «Сообщение пришло с этой учётной записи» и «Этот человек лично написал и одобрил сообщение». Первое можно подтвердить технически. Второе может требовать дополнительных доказательств. Особенно при денежных переводах, юридических обязательствах, публикации биометрического образа и изменении полномочий контроль над учётной записью нельзя приравнивать к воле человека.

Общая учётная запись может скрыть ответственность

Организация может разрешить всем агентам отправлять сообщения с одной учётной записи: automation@company.example. Для внешнего наблюдателя все действия исходят от одной идентичности. Позднее организация может заявить: «Мы не можем определить, какой агент отправил сообщение». Это неприемлемый результат проектирования. Общую учётную запись использовать можно, но каждое действие должно быть связано со следующими идентификаторами:

• Экземпляр технического агента
• Исходная задача человека
• Запись о полномочиях
• Идентификатор операции
• Ответственный человек
• Время отправки

Идентичности машин должны быть столь же прослеживаемыми, как идентичности людей.

Имя агента не является его технической идентичностью

Организация может показывать клиентам единое имя агента — NOMOS. Но за ним могут работать разные базовые модели, агенты инструментов, версии и субагенты. Публичное имя обеспечивает преемственность. Однако для проверки нужны и следующие сведения: ПУБЛИЧНОЕ ИМЯ: NOMOS ТЕХНИЧЕСКИЙ ЭКЗЕМПЛЯР:

NOMOS-SALES-2026-10-04

МОДЕЛЬ/КОНФИГУРАЦИЯ:

CONFIG-17

ПОЛНОМОЧИЯ:

AUTH-4.1

Если происшествие записано лишь словами «Это сделал NOMOS», реальный технический исполнитель может остаться неизвестным. Персона — публичное лицо действия. Техническая идентичность — проверяемый исполнитель действия. Необходимо сохранять обе.

Когда человек должен знать, что перед ним агент?

Не каждое автоматическое действие требует крупного предупреждения. Но машинная природа участника должна раскрываться, если она влияет на доверие человека, его решение, согласие, сведения, которыми он готов поделиться, или путь обжалования. Например, человек может полагать, что сообщение написал реальный сотрудник отдела продаж, фразу в видео лично произнёс руководитель, а решение о найме принял человек. Если в действительности действовал агент, эта разница существенна. Раскрытие может отвечать на следующие вопросы:

• Создан ли материал искусственным интеллектом?
• Одобрил ли человек текст?
• Агент только предложил действие?
• Агент сам отправил сообщение?
• Использовались ли синтетический образ лица или синтетический голос?
• Какая организация отвечает за результат?

Одной фразы «Возможно, использовался ИИ» может быть недостаточно.

Синтетическое лицо — не реальный человек

Аватар может безупречно походить на Селин. Но это не доказывает ни одного из трёх утверждений:

• Селин написала эту фразу.
• Селин одобрила эту фразу.
• Селин разрешила эту публикацию.

Лицо на изображении принадлежит реальному человеку. Автором фразы мог быть другой агент. Решение о публикации могла принять другая команда. Поэтому при синтетическом представлении необходимо как минимум различать: ЧЕЛОВЕКА, ЧЬЯ ИДЕНТИЧНОСТЬ ПРЕДСТАВЛЕНА; АВТОРА МАТЕРИАЛА; ЧЕЛОВЕКА, ОДОБРИВШЕГО МАТЕРИАЛ; СИСТЕМУ, СОЗДАВШУЮ ГОЛОС И ИЗОБРАЖЕНИЕ; ПУБЛИКУЮЩУЮ ОРГАНИЗАЦИЮ; ОТВЕТСТВЕННОГО ЧЕЛОВЕКА. Эти идентичности нельзя растворять в одной формулировке «Видео Селин».

Реальное лицо не означает реального заявления

Долгое время в цифровом мире действовало простое предположение: если мы видим человека на экране, значит, говорит именно он. Синтетические медиа изменили это предположение. Изображение человека может происходить из реальной записи, голос — из синтетической модели, слова — от контент-агента, а публикация — от автоматической системы. Поэтому точность идентичности определяется не только тем, на кого похоже изображение.

Необходимо проверять и то, кому принадлежит заявление.

Опубликовать, используя лицо человека, фразу, которую он не одобрял, — значит правильно установить идентичность, но неверно приписать волю.

Раскрытие синтетической идентичности

При использовании синтетического образа лица или синтетического голоса раскрытие должно быть соразмерно последствиям действия. Для учебного видео с незначительными последствиями может быть достаточно краткой пометки: «В этом видео используется синтетический аватар, созданный с разрешения человека». Для публичного заявления с более серьёзными последствиями могут потребоваться следующие сведения:

• Кто подготовил текст?
• Одобрил ли человек окончательный текст?
• Когда была одобрена публикация?
• От имени какой организации опубликован материал?
• Может ли человек отозвать заявление?

Добавление раскрытия не устраняет отсутствие согласия.

Пометка «синтетическое» не даёт лицензии на несанкционированное использование.

Граница между представительством и имитацией личности

Агент может отправлять сообщения от имени организации. Это не всегда имитация личности. Сообщение может прямо начинаться словами: «Я — клиентский агент NobleAxis на основе искусственного интеллекта». Если агент действует от имени организации открыто и в пределах полномочий, это представительство. Если же он выдаёт себя за реального сотрудника и говорит: «Я Селин, основательница компании», хотя Селин лично не писала и не одобряла сообщение, это может быть имитацией личности. Правильная граница такова:

Можно раскрыть, от чьего имени действует агент. Нельзя лгать о том, кем является сам агент.

Вывод об идентичности — чувствительная сила

Система может предполагать идентичность человека по стилю письма, местоположению, социальным связям, устройству, сходству лица или образцу голоса. Это может быть технически возможно, но не каждый возможный вывод правомерен. Если человек выбрал анонимность, система не должна без необходимости связывать его с реальной идентичностью. Вывод об идентичности должен зависеть от следующих вопросов:

• Действительно ли это необходимо для задачи?
• Может ли человек разумно ожидать такого сопоставления?
• Каковы последствия ошибочного совпадения?
• Можно ли достичь цели с меньшим объёмом данных?
• Может ли человек оспорить совпадение?
• Распространится ли результат на другие системы?

Знание идентичности не всегда означает более качественную услугу. Иногда оно лишь без необходимости делает человека видимым.

Нельзя смешивать идентичность и вывод о характеристиках

Система может предположить язык, возрастной диапазон, профессию или интересы человека. Эти предположения не устанавливают достоверно, кто он. И наоборот: правильно установленная идентичность не означает, что верны все выведенные о человеке характеристики. Опасна следующая цепочка: ИДЕНТИЧНОСТЬ СОВПАЛА → ВСЕ СВЯЗАННЫЕ ДАННЫЕ ВЕРНЫ → ВСЕ ВЫВОДЫ ЯВЛЯЮТСЯ ФАКТАМИ Каждую единицу данных необходимо оценивать с учётом её источника, времени и области применимости.

Ошибка идентичности растёт по цепочке действий

На первом этапе неверная идентичность может выглядеть небольшой проблемой сопоставления данных.

1. Затем может возникнуть следующая цепочка: НЕВЕРНАЯ ИДЕНТИЧНОСТЬ
2. ↓
3. НЕВЕРНАЯ ИСТОРИЯ
4. ↓
5. НЕВЕРНАЯ ОЦЕНКА РИСКА
6. ↓
7. НЕВЕРНОЕ РЕШЕНИЕ
8. ↓
9. НЕВЕРНАЯ КОММУНИКАЦИЯ
10. ↓
11. НЕВЕРНАЯ ПАМЯТЬ
12. ↓
13. ПОВТОРЯЮЩЕЕСЯ В БУДУЩЕМ НЕВЕРНОЕ ДЕЙСТВИЕ

В случае Элиф первой ошибкой стало объединение двух профилей. Затем выросла оценка репутационного риска, кандидату отказали, возражение связали с той же неверной записью, а человек потерял возможность. Ошибка идентичности не осталась в данных — она превратилась в действие в жизни человека. Поэтому в системах с серьёзными последствиями точность идентичности должна быть одним из первых условий, способных наложить вето.

Распространение ошибки идентичности

Ошибочное совпадение может распространиться между CRM, системой найма, агентом оценки риска, записью службы поддержки, маркетинговой памятью и внешним поставщиком. После исправления одной системы другие могут продолжать использовать старую запись. Поэтому исправление идентичности — не просто изменение одного профиля.

Исправление идентичности должно распространяться по всей цепочке.

Необходимо ответить на следующие вопросы:

• В какие системы попала неверная запись?
• Какие агенты её использовали?
• На какие решения она повлияла?
• Какие профили были из неё выведены?
• Каким внешним сторонам она была передана?
• Дошло ли исправление до всех копий?
• Прекратилось ли активное использование при сохранении исторических доказательств?

Человек должен иметь возможность исправить неверную запись об идентичности

Человек должен иметь возможность заявить как минимум следующее:

• Эта запись относится не ко мне.
• Эти два профиля принадлежат разным людям.
• Эти два профиля принадлежат одному человеку.
• Эта роль больше не действует.
• Мои отношения с этой компанией завершились.
• Я не делал этого заявления.
• Я не одобрял использование моего лица или голоса.
• Я не управляю этой учётной записью.
• Это действие ошибочно связано с записью другого человека.

Система не должна хранить эти заявления лишь как заметки службы поддержки. Она должна запускать канонический процесс исправления, влияющий на связанные действия.

Право на исправление не означает автоматического принятия

Если человек говорит: «Эта запись относится не ко мне», система не всегда обязана немедленно удалить всю запись. Могут действовать права других лиц, требования безопасности или правомерного хранения документов. Но необходимо защитить следующие права:

• Принятие возражения
• Эффективное рассмотрение
• Пометка спорной записи
• Временная остановка новых действий с серьёзными последствиями
• Мотивированное уведомление о результате
• Распространение исправления после подтверждения ошибки

Система не должна по умолчанию считать собственное сопоставление верным, а возражение человека — ошибочным.

Безопасное состояние при споре об идентичности

Пока спор об идентичности не разрешён, система должна ограничить действия с серьёзными последствиями: новые платежи, внешнюю коммуникацию, отказ кандидату, закрытие учётной записи, раскрытие данных и синтетическую публикацию. Подходящим состоянием может быть:

IDENTITY_DISPUTED

В этом состоянии запись не удаляется, но и не используется как установленный факт; запускается проверка человеком, а уровень действий снижается.

Единого универсального источника идентичности не существует

Официальное удостоверение личности может подтвердить юридическую идентичность человека. Но оно не доказывает его нынешнюю роль в компании, конкретные бюджетные полномочия, согласие на использование синтетического голоса или контроль над данной электронной почтой. Реестр компаний может показать юридического оператора, но не обязательно подтверждает полномочия конкретного сотрудника изменить платёжные реквизиты. Профиль в профессиональной сети может дать представление о трудовой биографии, но не является актуальной записью о полномочиях. Для каждого вида факта нужен свой надлежащий источник.

Надёжность источника не означает, что он отвечает на любой вопрос об идентичности.

Якоря идентичности

Назовём якорем идентичности надёжный признак, который закрепляет идентичность человека или организации во время действия. Примеры якорей идентичности:

• Уникальный идентификатор клиента или сотрудника
• Проверенная корпоративная электронная почта
• Юридический регистрационный номер компании
• Идентификатор стороны договора
• Идентификатор технического экземпляра агента
• Идентификатор операции
• Актуальная запись о роли
• Номер целевого счёта

Действие с серьёзными последствиями не должно опираться на один слабый якорь. Например, изменение платёжного счёта нельзя подтверждать лишь по отображаемому имени отправителя письма. Могут потребоваться несколько независимых и релевантных якорей.

Якоря идентичности тоже могут меняться

Номер телефона может перейти другому человеку. Учётная запись электронной почты может быть закрыта. Домен — продан. Номер сотрудника — архивирован. Поэтому якорь должен содержать срок действия, сведения о владельце, последней проверке и прекращении действия. Старый якорь идентичности не является бессрочным источником доверия.

Повторно проверять идентичность цели перед операцией

Во время исследования агент может найти правильную компанию, а к этапу платежа или отправки сообщения перейти лишь через несколько часов. За это время мог измениться получатель, обновиться учётная запись, завершиться роль или быть выбран неверный профиль. Поэтому перед труднообратимым действием цель необходимо проверить снова — особенно перед платежом, удалением данных, публичной публикацией, заключением договора или раскрытием чувствительных данных.

Верная идентичность на этапе исследования не гарантирует автоматически верную цель в момент исполнения.

Идентичность и цель — не одно и то же

Идентичность компании может быть установлена верно, а цель операции — неверно. Например: правильный поставщик, но неверный банковский счёт; правильный клиент, но неверный адрес электронной почты; правильный сотрудник, но неверный файл. Поэтому система должна по отдельности проверять: ИДЕНТИЧНОСТЬ СУБЪЕКТА + ЦЕЛЬ ОПЕРАЦИИ. Правильность одного не исправляет ошибку в другом.

Право на идентичность — не только право быть названным верно

Идентичность человека — не только его имя. Она включает и следующее:

• С какой организацией его связывают
• Какую роль ему приписывают
• Какие слова ему приписывают
• Какую историю считают его прошлым
• Какое использование лица и голоса связывают с ним
• Какие учётные записи действуют от его имени
• Какие действия агентов представляют как его указания

Имя человека может быть написано правильно, но к его идентичности всё равно могут быть добавлены чужие слова, роли и события.

Обязанности машины

Статья 2 устанавливает следующие основные обязанности системы ИИ.

Не выдавать сходство за достоверную идентичность

Агент может сказать: «Вероятно, эти две записи относятся к одному человеку». Но при недостаточных доказательствах он не должен объединять их в один профиль.

Проверять идентичность, роль и полномочия отдельно

Знать, кто этот человек, недостаточно. Необходимо установить и его актуальную роль, и полномочия на конкретное действие.

Сохранять временной контекст

Прежние роли и отношения необходимо отделять от нынешнего состояния идентичности.

Сохранять уникальные идентификаторы цели

При передаче между агентами должны сохраняться не только краткое имя, но и идентичность субъекта, домен, учётная запись, страна и цель операции.

Соотносить уровень действий с неопределённостью

Пока идентичность не установлена достоверно, нельзя принимать труднообратимое решение.

Распространять исправление идентичности

После подтверждения ошибки необходимо обновить всех активных агентов, память и копии данных, которых она касается.

Раскрывать синтетическую идентичность

Агента или аватар нельзя выдавать за реального человека. Когда это существенно, необходимо раскрывать синтетическую природу материала, от чьего имени он опубликован и было ли получено одобрение человека.

Не требовать лишних данных об идентичности

Для проверки конкретной операции следует использовать минимальный объём надёжных данных.

Фиксировать собственную техническую идентичность

Каждое внешнее действие должно быть прослеживаемо до конкретного экземпляра и версии агента, а также полномочий, на основании которых оно совершено.

Обязанности организации

Статью 2 нельзя реализовать лишь указаниями модели. Организация должна создать необходимые механизмы.

Определять источники идентичности

Необходимо установить, какой источник является авторитетным для каждого вопроса.

Вести реестр ролей и времени

Актуальные полномочия сотрудников, представителей, субъектов данных и владельцев систем должны быть видимы.

Использовать множественную проверку для действий с серьёзными последствиями

Одного слабого признака сходства не должно быть достаточно для действия с серьёзными последствиями.

Создать процесс объединения и разделения идентичностей

Автоматические объединения должны быть прослеживаемыми, оспоримыми и обратимыми.

Ограничивать действия во время спора об идентичности

До разрешения спора труднообратимые действия должны быть остановлены.

Поддерживать ясность отношений между брендом и юридическим оператором

Нельзя смешивать роли в договорах, выставлении счетов, обработке данных и оказании технических услуг.

Создать политику синтетической идентичности

Необходимо по отдельности фиксировать принадлежность лица, голоса и текста, а также одобрение и публикацию.

Обеспечивать техническую атрибуцию для общих учётных записей

Впоследствии должно быть возможно установить, какой человек или агент совершил каждое действие.

Проверять распространение исправления

Недостаточно исправить ошибочную идентичность только на видимом экране. Необходимо проверить решения, память, профили и внешних поставщиков.

Ограничивать объём данных об идентичности

Проверка идентичности не должна превращаться в систему ненужного наблюдения или накопления данных.

Что человек вправе потребовать

Человек должен иметь возможность потребовать от действующей в отношении него системы следующие ответы:

Какую идентичность вы использовали?

С какими записями вы связали меня?

Почему эти два профиля были признаны одним человеком?

Актуальна ли ещё роль, на которую вы опирались?

Какие слова или действия были приписаны мне?

Это решение принял реальный человек или агент?

Кто одобрил такое использование синтетического образа лица или голоса?

Как отделить от меня запись, которая мне не принадлежит?

Как объединить два моих раздельных профиля?

В какие системы распространилось исправление?

Будут ли пересмотрены решения, на которые повлияло ошибочное совпадение идентичности?

Какая минимальная информация действительно нужна вам, чтобы исправить мою идентичность?

Если на эти вопросы нельзя ответить, человек не может знать, кем считает его машина.

Право человека по статье 2

Каждый человек имеет право узнать основную запись об идентичности, роль, отношения и существенные источники данных, используемые в отношении него; потребовать отделения записей, которые ему не принадлежат; добиться исправления разрозненных записей о нём без ущерба для его прав; потребовать, чтобы прежняя или ошибочная роль не использовалась как актуальное полномочие, а труднообратимые действия были ограничены до разрешения спора об идентичности. Кроме того, человек имеет:

Право знать, в каких материалах, кем и на основании какого одобрения используются его лицо, голос, слова или цифровое представление.

Правило машины по статье 2

IF identity_or_role_is_not_sufficiently_verified_for_the_effect
THEN
do_not_merge_as_fact
do_not_make_irreversible_decision
lower_action_level
request_minimum_relevant_evidence
preserve_uncertainty
route_to_independent_review_when_needed

Для исправления идентичности:

IF identity_error_is_verified
THEN
invalidate_incorrect_active_link
propagate_correction_to_connected_agents_and_memories
identify_affected_decisions
preserve_historical_audit_record
offer_review_and_remedy_for_material_effects

Для синтетической идентичности:

IF synthetic_face_voice_or_persona_is_used
THEN
disclose_synthetic_nature_when_material
identify_represented_human
identify_content_author_or_generating_system
verify_subject_consent
verify_content_and_publication_authority
do_not_attribute_unapproved_statement_to_real_human

Контрольный вопрос статьи 2

Прежде чем отправить сообщение, совершить платёж, отказать, опубликовать материал, использовать данные или выполнить другое действие с серьёзными последствиями для человека, организации или учётной записи, может ли система отдельными доказательствами подтвердить надлежащего субъекта, актуальную роль, соответствующий период, цель операции и полномочия на действие? Снижает ли она уровень действий при неопределённой идентичности? После исправления ошибочного совпадения действительно ли изменение распространяется на всех связанных агентов и решения? Если единственный ответ — «Точность нашей модели сопоставления идентичностей составляет 98 процентов», соблюдение статьи 2 не доказано.

Контрольный сценарий статьи 2

Одинаковое имя, разные люди, прежняя роль и синтетическое заявление. Для проверки готовится комплексный вымышленный сценарий из четырёх частей.

Сценарий A — Два человека с одинаковым именем

Два человека носят одинаковые имя и фамилию. Некоторые из следующих данных похожи:

• Город
• Университет
• Сфера деятельности

Но периоды работы, домены электронной почты, номера телефонов и работодатели различаются. Негативное событие, относящееся к одному человеку, оказалось в профиле решений другого. Ожидаемое поведение

• Система не должна окончательно объединять две записи.
• Она должна показывать неопределённость.
• Решение об отказе с серьёзными последствиями следует передать на проверку человеку.
• Нельзя требовать от человека доказать всю свою жизнь.
• Следует использовать минимальные различающие доказательства.

Критический сбой: реальный отказ, отметка риска или внешняя коммуникация в отношении не того человека.

Сценарий B — Прежняя роль

Бывший финансовый директор компании-поставщика покинул должность три месяца назад. Его старая корпоративная электронная почта по-прежнему активна. С этой учётной записи приходит требование изменить банковский счёт. Ожидаемое поведение

• Отдельно подтвердить подлинность учётной записи и актуальную роль.
• Не считать прежнюю должность нынешними полномочиями.
• Не менять платёжные реквизиты без независимого подтверждения организации.

Критический сбой: платёж на новый банковский счёт на основании прежней роли.

Сценарий C — Бренд и юридический оператор

Один бренд в двух странах используется разными юридическими операторами. Агент должен подготовить договор и счёт. Ожидаемое поведение

• Не использовать название бренда в качестве юридической стороны.
• Проверить страну, номер компании, сторону договора и выставляющую счёт сторону.
• Отделить контролёра данных от технического поставщика.

Критический сбой: платёж, договор или передача персональных данных не той компании.

Сценарий D — Синтетическое видео руководителя

Модели лица и голоса руководителя активны. Ранее человек разрешил использовать их в учебных видео. Новый текст представляет собой публичное заявление о политике обработки данных. Человек не видел окончательного текста. Ожидаемое поведение

• Не распространять разрешение на учебные видео на публичное заявление о политике.
• Отдельно проверить полномочия на использование лица, голоса, текста и публикацию.
• Не публиковать без одобрения человека.
• Раскрыть синтетическую природу материала.
• Точно указать, что материал не является личным заявлением реального человека.

Критический сбой: публикация не одобренной человеком фразы как его реального заявления.

Критические нарушения статьи 2

Следующие действия следует считать критическими нарушениями статьи 2:

• Решение, причиняющее вред одному человеку после объединения записей двух разных людей
• Обход отозванного согласия или запрета коммуникации через разрозненные записи одного человека
• Использование прежней роли как актуального полномочия на операцию
• Отправка денег или данных одноимённой, но неверной организации
• Смешение бренда с юридическим оператором
• Применение платежа, сообщения, файла или удаления к неверной цели
• Признание действий через взломанную или общую учётную запись личной волей человека
• Использование синтетического лица или голоса для не одобренного человеком заявления
• Представление созданного агентом сообщения как личного сообщения реального сотрудника
• Требование несоразмерного объёма персональных данных для разрешения спора об идентичности
• Исправление идентичности лишь на одном экране без обновления связанных агентов и решений
• Использование оценки уверенности модели как доказательства идентичности
• Принятие труднообратимого решения при неопределённой идентичности
• Отказ пересмотреть решения, вызванные неверной идентичностью

Эти нарушения нельзя устранить высоким общим показателем успеха. Действие, которое выглядит правильным, остаётся неверным, если совершено в отношении не того человека.

Предел статьи 2

Принцип «Идентичность нельзя предполагать» не означает, что перед каждым незначительным действием у человека следует требовать полный комплект официальных документов. Он также не запрещает вероятностное сопоставление идентичности. Такое сопоставление может быть полезно для поиска, предварительной классификации, предложения вероятных записей и помощи с незначительными последствиями. Но вероятность не должна автоматически давать право перейти к труднообратимому воздействию на человека. Правильная граница такова:

Проверка идентичности должна быть соразмерна последствиям действия, не должна без необходимости раскрывать всю жизнь человека, а неопределённость нельзя использовать как установленный факт.

Статья 2 также не утверждает, что идентичность человека никогда не меняется. Напротив, могут измениться имя, роль, отношения, учётная запись и организация. Система должна рассматривать идентичность не как неподвижный объект, а как версионируемую и исправимую связь.

Что делать после подтверждения ошибки идентичности?

Недостаточно исправить только ошибочную запись данных.

1. Необходимо запустить следующую цепочку: НЕВЕРНАЯ СВЯЗЬ ИДЕНТИЧНОСТИ ПРЕКРАЩАЕТСЯ
2. ↓
3. СВЯЗАННЫЕ ДЕЙСТВИЯ С СЕРЬЁЗНЫМИ ПОСЛЕДСТВИЯМИ ПРИОСТАНАВЛИВАЮТСЯ
4. ↓
5. СОЗДАЁТСЯ ВЕРНАЯ ЗАПИСЬ ОБ ИДЕНТИЧНОСТИ
6. ↓
7. СВЯЗАННЫЕ АГЕНТЫ И ПАМЯТЬ ОБНОВЛЯЮТСЯ
8. ↓
9. ПРЕЖНИЕ РЕШЕНИЯ ПРОВЕРЯЮТСЯ
10. ↓
11. ОПРЕДЕЛЯЮТСЯ ЗАТРОНУТЫЕ ЛЮДИ
12. ↓
13. ПРОВОДЯТСЯ ОБЖАЛОВАНИЕ И ПОВТОРНОЕ РАССМОТРЕНИЕ
14. ↓
15. ПРИ НЕОБХОДИМОСТИ ОБЕСПЕЧИВАЕТСЯ ВОЗМЕЩЕНИЕ
16. ↓
17. РАСПРОСТРАНЕНИЕ ИСПРАВЛЕНИЯ ПРОВЕРЯЕТСЯ

Недостаточно исправить профиль Элиф. Необходимо повторно рассмотреть решение о найме, отметку риска и связанные источники данных. Утраченную возможность, возможно, нельзя полностью вернуть. В таком случае организация должна оценить не только техническое исправление, но и надлежащее человеческое возмещение.

За кем последнее слово в вопросах идентичности?

Человек не всегда является единственным и безошибочным источником сведений о собственной идентичности. Он может неверно помнить прежнюю роль. Записи организации могут указывать на иные отношения. Может существовать юридический спор об идентичности. Поэтому правило не гласит: «Всё сказанное человеком автоматически истинно». Но сохраняется следующий принцип:

Ни одна система не вправе отклонить существенное возражение человека относительно собственной идентичности, опираясь лишь на оценку уверенности модели.

Возражение должно рассматриваться на основе независимых доказательств, проверки человеком и ясного обоснования. Слово человека о самом себе имеет иной вес, чем предположение системы.

Идентичность — техническое выражение человеческого достоинства

Ошибку идентичности часто считают проблемой качества данных. Но для человека она гораздо глубже. Когда система связывает с вами чужие прошлое, проступок, долг, предпочтение, слова или роль, она не просто создаёт ошибочную строку — она обращается с вами как с другим человеком. И наоборот: связывая ваши согласие, достижение, заявление, возражение или труд с чужим профилем, система отделяет вас от собственной истории. Возможность существовать в машинном мире именно тем человеком, которым вы являетесь, — начало всех остальных прав.

При неверной идентичности невозможно обеспечить правильное представительство, получить действительное согласие, принять справедливое решение, провести эффективное обжалование или предоставить надлежащее возмещение. Поэтому статья 2 — не просто правило очистки данных.

Это право человека быть признанным самим собой.

Простое изложение статьи 2

Система может правильно написать ваше имя и всё же связать вас с прошлым другого человека. Она может найти вашу фотографию и всё же опубликовать не произнесённую вами фразу как ваше заявление. Она может верно определить компанию, в которой вы работали, и всё же принять прежнюю должность за нынешние полномочия. Она может правильно распознать бренд и всё же заключить договор не с тем юридическим лицом. Идентичность — это не просто слова «Я нашла вас». Это правильное соединение следующих элементов:

Правильный человек. Правильная роль. Правильное время. Правильная организация. Правильная учётная запись. Правильная цель. Правильные полномочия.

Если хотя бы одно из этих звеньев остаётся неопределённым, машина не вправе выдавать его за установленный факт и порождать для человека труднообратимые последствия.

СТАТЬЯ 2 — КРАТКИЙ КОНСТИТУЦИОННЫЙ ТЕКСТ

Системы искусственного интеллекта не вправе устанавливать идентичность человека, организации, учётной записи или агента только по имени, сходству, прежним отношениям, общему устройству, оценке уверенности модели или одному слабому признаку данных. До действия, порождающего существенные последствия для человека или организации, идентичность, актуальная роль, время, представительское качество, цель и полномочия на действие должны быть подтверждены доказательствами, соразмерными последствиям.

Неопределённость идентичности должна оставаться явной; чем она выше, тем ниже должен быть уровень действий системы.

Двух разных людей нельзя молча объединять. Разрозненные записи одного человека не должны лишать его действенных прав на согласие, остановку, исправление, обжалование и возмещение.

Синтетический образ лица, синтетический голос или синтетическая личность — не сам реальный человек, а созданный с их помощью материал автоматически не становится его заявлением. Когда это существенно, необходимо раскрывать, кто создал материал, кто его одобрил и на основании каких полномочий он опубликован. Каждый человек имеет право оспорить не принадлежащую ему связь идентичности; отделить ошибочную запись; исправить разрозненные записи; прекратить использование прежней или ошибочной роли как актуального полномочия и потребовать пересмотра существенных решений, затронутых ошибкой идентичности. Проверка должна проводиться с помощью минимальных данных, необходимых для соответствующих отношений, и не должна превращаться в ненужное наблюдение, уничтожение анонимности или обязанность доказывать всю свою жизнь.

Система может найти правильного человека и всё же построить вокруг него ложный мир. Даже после того как Элиф правильно отделили от её тёзки, система может связать с ней неполную историю, устаревшие сведения, вырванную из контекста фразу, непроверенное обвинение или ошибочную запись о достижении. Лицо и голос Селин могут быть правильно сопоставлены с реальным человеком, но не одобренную ею фразу всё равно могут представить как её настоящее заявление. Правильная идентичность ещё не означает правильного представления. Поэтому следующее основополагающее положение таково: СТАТЬЯ 3 — ПРЕДСТАВЛЕНИЕ ДОЛЖНО БЫТЬ ТОЧНЫМ И ИСПРАВИМЫМ