Ограниченный мандат машины

Мина Аксой работает региональным руководителем обучения в международной компании медицинских технологий. Она разрабатывает программы для новых сотрудников, проводит презентации продуктовым командам, проверяет клиентские обучающие видео и согласует стандарты обучения команд в разных странах. Мина уверенно чувствует себя перед камерой и много лет сама проводит значительную часть внутреннего обучения. Но с ростом компании многократно записывать одно и то же обучение становится всё труднее. Одну неделю она готовит обучение на турецком, следующую — на английском, затем проверяет немецкие субтитры.

После нового обновления продукта все видео требуется записать заново. Команда ИИ предлагает решение: «Давайте создадим обучающий аватар на основе вашего лица и голоса. Тогда одобренные вами тексты можно будет публиковать на разных языках без новой съёмки». На первой встрече область использования кажется ясной:

внутреннее обучение сотрудников компании
тексты, заранее одобренные Миной
турецкий и английский языки
только закрытая обучающая платформа организации

Мина считает идею полезной и участвует в двухдневной записи. Она повторяет разные фразы медленно, быстро, радостно, серьёзно, предостерегающе и спокойно. Записываются движения лица, высокие и низкие регистры голоса. Некоторые медицинские и технические термины она произносит несколькими способами. В конце ей показывают цифровую форму «Согласие на использование корпоративных медиаматериалов с поддержкой ИИ». В тексте сказано: «Сотрудник соглашается на обработку, воспроизведение и использование записей изображения и голоса для корпоративного обучения, коммуникации, продвижения, улучшения услуг и разработки связанных систем ИИ».

Мина читает форму. «Корпоративное обучение» — первоначально обсуждавшееся использование. Слово «коммуникация» довольно широко. Неясно, какое продвижение охватывает слово «продвижение». «Улучшение услуг» ещё шире. А формулировка «разработка связанных систем ИИ» не объясняет, относится ли она только к техническому качеству аватара Мины, другим аватарам компании или общей модели поставщика. Внизу две кнопки: [Согласна] [Решить позднее]. Кнопки «Отказаться» нет. Указано, что сотрудники, решившие позднее, не смогут участвовать в программе аватара.

Кроме того, среди годовых целей Мины есть пункт «Вклад в глобальный проект трансформации обучения». Мина не знает, как его оценят, если она откажется от формы. Техническая команда выделила на запись два дня. Руководитель представил проект высшему руководству. Команда поставщика приехала из другой страны. Все ожидают согласия Мины. Она спрашивает: «Аватар будет использоваться только для внутреннего обучения, верно?» Руководитель проекта отвечает: «Пока план такой. Если в будущем появятся другие полезные применения, оценим их отдельно».

Мина нажимает кнопку [Согласна]. В системе появляется запись:

consent_status: active
media_use: approved
AI_use: approved
corporate_use: approved

Технической команде этих четырёх полей кажется достаточно. Но ни один из следующих вопросов не имеет отдельного ответа:

Использование лица или голоса?
Обработка исходной записи или обучение модели?
Создание содержания или публичная публикация?
Какие тексты?
Какие языки?
Какие каналы?
Какие страны?
На какой срок?
Какие компании?
Какие поставщики?
Что произойдёт после прекращения трудовых отношений?
Что станет с созданной моделью, если Мина отзовёт согласие?
Как долго можно использовать уже опубликованные видео?
Должна ли Мина отдельно одобрять новые фразы?

Первые три месяца система используется в соответствии с первоначальным объяснением. Мина заранее читает тексты, смотрит видео до публикации, исправляет произношение и разрешает размещение только на внутренней обучающей платформе компании. Сотрудники знают, что видео созданы с помощью аватара ИИ. Система действительно полезна: обновление обучения можно подготовить за два дня вместо нескольких недель. Затем компания выходит в новые страны. Команда локализации сообщает, что аватар Мины может говорить по-немецки, по-испански, по-арабски и по-французски. Сама Мина этими языками не владеет.

Техническая команда объясняет, что проблемы здесь нет: «Голосовая модель сохранит особенности вашего голоса. Слова будет генерировать модель соответствующего языка». Нового согласия у Мины не запрашивают, ведь в системе уже есть поля:

AI_use: approved
corporate_use: approved

Сначала систему используют только внутри компании. Однако маркетинговая команда замечает, насколько удачными получились видео. Одно из них размещают в открытом справочном центре компании. Обоснование таково: «Помощь клиентам в правильном использовании продукта — тоже обучение». Позднее то же видео публикуют в социальных сетях. Границы обоснования снова расширяются: «Публикация в социальных сетях не меняет образовательного характера материала». Следующий шаг — аватар Мины появляется в рекламном ролике нового продукта. Текст подготовил контент-агент.

Мина этого текста не видела. Аватар произносит: «Наша новая платформа позволяет организациям здравоохранения безопасно автоматизировать процессы принятия решений с помощью ИИ». Мина ни разу не оценивала, согласна ли она с этим утверждением. Заявить, что продукт компании позволяет безопасно автоматизировать все процессы принятия решений, — совсем не то же самое, что произнести фразу для технического обучения. Это может стать коммерческим заявлением, публичным высказыванием, вопросом профессиональной репутации и обещанием безопасности в регулируемой отрасли. Но в системе нет поля:

content_specific_human_approval

Система знает лишь одно:

corporate_use: approved

Видео публикуют на шести языках. Арабоязычная коллега пишет Мине: «Отличный у тебя получился рекламный ролик на арабском». Мина не понимает, о каком видео идёт речь. Она открывает ссылку, видит собственное лицо и слышит голос, похожий на её. На языке, которого она не понимает, этот голос обещает организациям здравоохранения безопасность. Мина обращается в отдел кадров: «Я не давала разрешения на это видео». Отдел кадров проверяет записи. В системе указано:

consent_status: active

Мина говорит: «Я дала разрешение на внутреннее обучение». Юристы показывают ей подписанную форму: «В ней указаны корпоративное обучение, коммуникация, продвижение и улучшение услуг». Мина отвечает: «Но мне не сказали, что это означает публичную рекламу на шести языках». Компания соглашается удалить видео. Однако маркетинговая команда утверждает, что право использовать все ранее созданные ролики сохраняется. В договоре с поставщиком есть положение: «Если не согласовано иное, организация вправе бессрочно использовать медиаматериалы, созданные в период действия полномочий».

Мина не является стороной этого договора и прежде не видела данного положения. Через месяц она решает уйти из компании. На встрече перед увольнением Мина прямо заявляет, что отзывает согласие на любое использование модели её лица и голоса. В панели компании меняют статус:

consent_status: revoked

Отдел кадров пишет Мине: «Ваш запрос на отзыв согласия внесён в систему». Мина считает вопрос закрытым. Однако остальные состояния системы таковы:

new_recording: prohibited
new_model_training: prohibited
existing_model: active
existing_outputs: active
scheduled_publications: active
affiliate_access: active
vendor_backup: retained

Запись о согласии изменилась. Поведение системы в целом — нет. Через две недели выходит ранее запланированный ролик о продукте, и аватар Мины снова говорит. Мина обращается к компании с возражением. Техническая команда объясняет: «Видео было создано до того, как вы отозвали согласие. Отзыв распространяется только на создание новых материалов». Мина спрашивает: «Почему мне не сообщили об этом, когда я отзывала согласие?» Компания не находит ответа. Вскоре обнаруживается ещё одна проблема. Поставщик аватара сообщает, что созданная на основе записей Мины голосовая модель не существует как отдельный файл: она входит в более крупную модель, обученную на данных множества людей.

Поставщик поясняет: «Исходные записи можно удалить. Однако технически невозможно гарантировать, что влияние одного человека будет полностью отделено от параметров модели». До записи Мина этого не знала. В форме согласия такая возможность не упоминалась. Позднее одна из дочерних компаний использует аватар Мины в собственной системе обучения. Головная компания заявляет: «Дочерняя компания тоже входит в корпоративную группу». Но Мина не давала согласия на использование аватара этой компанией. В другом ролике используют не лицо Мины, а только её голос.

Компания настаивает, что это иной случай: «Ваше изображение не использовалось. Использовалась только голосовая модель». Мина отвечает: «Но я хотела прекратить и использование моего голоса». В системе организации нет отдельных записей для лица и голоса. Есть только поле:

media_use: approved

Теперь Мина задаёт основной вопрос:

«На что именно я сказала “да” и чему могу сказать “нет”?»

Если ответ на этот вопрос неясен, в системе может существовать запись о согласии, а подлинного согласия — не быть. Поэтому наше пятое основополагающее положение гласит:

Согласие должно быть конкретным, информированным и отзывным.

ОСНОВОПОЛАГАЮЩАЯ СТАТЬЯ

Ни одна система ИИ не вправе считать молчание человека, его прежнее поведение, общее согласие, технический доступ, трудовые отношения, разовое разрешение или согласие, данное для иной цели, автоматическим разрешением на новое, более широкое, длительное либо более значимое действие. Согласие должно в понятной форме показывать, кто и на использование каких данных или элементов идентичности даёт разрешение, для какой цели, операции и результата, через какой канал, для какой аудитории, на каком языке, в какой стране, на какой срок, сколько раз, каким поставщиком и в отношении каких производных видов использования.

Разрешение на использование лица не означает разрешения на использование голоса. Разрешение на запись не означает разрешения на обучение модели. Разрешение на обучение модели не означает разрешения создавать новый материал. Разрешение создать материал не означает разрешения его опубликовать. Одобрение одного материала не даёт постоянных полномочий на публикацию. Разрешение на внутреннее использование не означает разрешения на публичное использование. Согласие нельзя считать свободным и информированным, если в отношениях власти у человека нет реального выбора, согласие объединено с не связанными с ним услугами, отказ влечёт тяжёлые и несоразмерные последствия либо существенные риски скрыты. Человек вправе сузить, приостановить или отозвать согласие на конкретное использование. Отзыв должен затрагивать не только создание новых записей, но и ожидающие задачи, запланированные публикации, активные токены, субагентов, доступ к модели, память и, насколько возможно, производные виды использования.

Если полный отзыв технически невозможен, об этом ограничении необходимо ясно сообщить до получения согласия. После отзыва человеку следует честно объяснить, какие последствия прекратились, какие сохранились, а какие невозможно проверить. Согласие одного человека не может само собой возникнуть по воле другого человека, руководителя, платформы, агента или организации. Согласие через представителя действительно лишь при наличии подтверждённых полномочий на представительство, с соблюдением прав соответствующего человека и только применительно к конкретному действию. Согласие должно быть живым отношением, защищающим достоинство и выбор человека, а не бессрочным карт-бланшем, который получают однажды и используют для оправдания любого будущего поведения машины.

Что такое согласие?

Во многих цифровых системах согласие сводят к следующей картинке: [✓] Я согласен. Пользователь ставит галочку. Нажимает кнопку. В системе появляется поле:

consent: true

Такую техническую запись создать легко. Но она не передаёт действительного содержания человеческой воли. Каноническое определение таково: согласие — это выраженное человеком утвердительное волеизъявление в отношении себя, своей идентичности, своих данных, своего представления или конкретного действия, которое его затрагивает; оно даётся на определённый объём и срок при наличии достаточной и понятной информации и реальной возможности выбора, а впоследствии может быть сужено или отозвано. Проще говоря:

Согласие — не просто слово «да», а понимание человеком, чему, почему, на какой срок и с какими последствиями он говорит «да».

Наличие в системе поля:

consent: true

ещё не означает, что получены ответы на следующие вопросы:

Кому принадлежит согласие?
На использование каких данных оно дано?
На использование какого элемента идентичности?
Для какой цели?
Для какого действия?
В каком канале?
На какой срок?
Для какой модели или какого поставщика?
Для каких производных результатов?
Как человек может отозвать согласие?
Что в действительности прекратится после отзыва?

Пока на эти вопросы нет ответа, поле true не может представлять человеческую волю.

Само по себе согласие не делает правомерным любое действие

Человек мог поставить галочку. Но от этого любое поведение системы не становится правильным. Например, он мог согласиться с непонятным текстом, не имея реальной альтернативы, из страха потерять работу, как с обязательным условием доступа к услуге или не зная будущих последствий. Кроме того, некоторые действия затрагивают права других людей. Один человек может сказать: «Я разрешаю записывать встречу». Это не даёт неограниченного разрешения на использование голосов и высказываний остальных участников. Руководитель может распорядиться: «Анализируйте все разговоры сотрудников».

Но такое распоряжение не лишает сотрудников их собственных прав. Человек может разрешить использовать своё лицо. Это разрешение не даёт права создавать вводящие в заблуждение, противоправные или причиняющие вред другим людям материалы. Согласие важно. Но оно:

Не является машиной безграничной легитимности.

Согласие, уведомление, цель и полномочия — не одно и то же

Во многих системах эти четыре понятия смешиваются.

Уведомление

Сообщает человеку, что будет сделано. «Ваша встреча будет расшифрована». Человек может быть уведомлён, но не иметь реального выбора.

Цель

Объясняет, зачем выполняется действие. «Чтобы подготовить резюме встречи и список задач». Цель может быть ясна, хотя человек не дал согласия на такое использование либо применяется иное основание.

Согласие

Выражает утвердительную и отзывную волю человека применительно к конкретному использованию. «Я согласен на использование записи этой встречи для подготовки её резюме».

Полномочия

Показывают право человека, организации или агента совершить конкретное действие. «Ассистент встречи может подготовить только резюме этого разговора; он не вправе отправлять запись в отдел кадров». Согласие человека может быть получено, но агент при этом может не иметь технических полномочий на соответствующее действие. Возможно и обратное: у агента есть технические полномочия, а согласия человека нет. Для правильного поведения эти отношения должны быть выстроены вместе: ЯСНОЕ УВЕДОМЛЕНИЕ + КОНКРЕТНАЯ ЦЕЛЬ + ДЕЙСТВИТЕЛЬНОЕ СОГЛАСИЕ, ГДЕ ОНО НЕОБХОДИМО + ТЕХНИЧЕСКИЕ ПОЛНОМОЧИЯ НА КОНКРЕТНОЕ ДЕЙСТВИЕ. Наличие одного не заменяет остальные.

Не всякое правомерное использование должно основываться на согласии

Некоторые действия могут иметь иное основание: необходимость исполнения договора, серьёзная потребность в безопасности, конкретная правовая обязанность или экстренное вмешательство ради спасения человеческой жизни. Эта книга не сводит все отношения между человеком и данными к галочке согласия. Заявление «Мы получили согласие» там, где реального выбора нет, тоже способно ослабить человеческую волю. Если организация основывает действие на ином правомерном основании, она должна сказать об этом честно: «Эта операция основана не на добровольном согласии, а на необходимой функции безопасности услуги. Она выполняется в следующих пределах. Доступны следующие способы возражения и пересмотра».

Предлагать человеку формальную галочку согласия для операции, от которой он не может отказаться, — это:

Театр согласия.

В театре согласия кажется, будто человек соглашается, хотя права отказаться у него нет; будто он делает выбор, хотя все варианты приводят к одному результату; будто может отозвать согласие, хотя поведение системы не меняется.

Действие, которое не требует согласия или не может регулироваться согласием, нельзя прятать за фиктивной кнопкой «Я согласен».

Двенадцать измерений согласия

Для действий ИИ с серьёзными последствиями согласие следует определять как минимум по двенадцати измерениям.

1. Носитель согласия
2. Сторона, получающая согласие
3. Предмет согласия
4. Цель
5. Разрешённая операция
6. Создаваемый результат
7. Канал и целевая аудитория
8. Язык, страна и контекст
9. Срок и повторяемость
10. Поставщики и получатели
11. Производное использование и устойчивость последствий
12. Отзыв и сохраняющиеся последствия

1. Носитель согласия

О чьей воле идёт речь?

Человек, чьи данные используются
Человек, чьё лицо или чей голос используется
Человек, которого затрагивает решение
Владелец учётной записи
Получатель сообщения
Уполномоченный представитель

Действительно ли тот, кто даёт согласие, вправе распоряжаться соответствующим правом? Руководитель не может дать биометрическое согласие от имени сотрудника. Участник встречи не может дать неограниченное согласие на использование голосов остальных участников.

2. Сторона, получающая согласие

Кому даётся согласие?

Головная компания
Конкретная дочерняя компания
Поставщик технологии
Поставщик модели
Агентство
Субподрядчик по обработке данных
Публичная платформа

Фраза «Я даю разрешение нашей компании» не охватывает автоматически все компании группы и будущих поставщиков.

3. Предмет согласия

Какие именно данные или какой элемент идентичности?

Изображение лица
Запись голоса
Голосовая модель
Расшифровка речи
Данные о здоровье
Местоположение
История сообщений
Профессиональный профиль
Вывод о поведении

Лицо и голос могут быть записаны во время одного сеанса. Но предмет согласия в этих случаях различен.

4. Цель

Зачем будут использоваться данные или элемент идентичности?

Внутреннее обучение
Поддержка клиентов
Публичное продвижение
Обучение модели
Безопасность
Исследование
Персонализация

Ограничение цели, установленное в статье 4, лежит в основе согласия. Неопределённая цель не может породить конкретного согласия.

5. Разрешённая операция

Что именно вправе делать система?

Записывать
Расшифровывать
Анализировать
Создавать модель
Создавать новый материал
Передавать другому агенту
Публиковать
Записывать в постоянную память

Согласие на одну операцию не охватывает остальные.

6. Создаваемый результат

Какие результаты охватывает согласие?

Конкретный видеоролик
Резюме
Оценка
Синтетический голос
Аватар
Профиль риска
Рекомендация по решению
Публичное заявление

Человек мог согласиться на использование исходной записи, но не на создание новых фраз, которых он никогда не произносил.

7. Канал и целевая аудитория

Внутренняя обучающая платформа — не то же самое, что социальные сети, реклама, публичный сайт, письмо клиенту или колл-центр. Разрешение показать видео сотрудникам не даёт права транслировать его миллионам людей в качестве рекламы.

8. Язык, страна и контекст

Человек мог одобрить текст на понятном ему языке. Юридические, медицинские или коммерческие утверждения на языке, которого он не знает, несут иной риск. Разрешение на внутреннее обучение в одной стране не должно автоматически переноситься на публичную кампанию в другой.

9. Срок и повторяемость

Что именно охватывает согласие: однократное использование, конкретную кампанию, шесть месяцев, весь период трудовых отношений или срок до отзыва? Создать один видеоролик — не то же самое, что автоматически публиковать новый каждую неделю.

10. Поставщики и получатели

Останутся ли данные только внутри организации? Будут ли они переданы внешнему поставщику? Станет ли поставщик совершенствовать на них собственную модель? Получат ли доступ дочерние компании? Не зная этого, человек не может понять реальную сеть использования.

11. Производное использование и устойчивость последствий

Даже после удаления исходной записи могут сохраниться следующие объекты:

Файл модели
Голосовой вектор
Эмбеддинг
Обучающий пример
Созданный видеоролик
Резюме
Профиль
Веса модели
Кэш
Внешняя копия

Согласие должно объяснять, что произойдёт с каждым из них.

12. Отзыв и сохраняющиеся последствия

Как человек отзывает согласие? Когда отзыв вступает в силу, на какие системы распространяется, какие результаты удаляет, какие прежние последствия не может обратить и подтверждение каких поставщиков необходимо? Если это измерение не раскрыто, человек, говоря «да», не знает, как сможет сказать «нет» в будущем.

Согласие не может быть безграничным во всех измерениях

Следующая запись не является настоящим договором о согласии: Использование ИИ: принято. Более содержательная запись могла бы выглядеть так:

subject:
Mina Aksoy
identity_elements:
- face_model
- voice_model
purpose:
internal_employee_training
permitted_outputs:
- scripts individually approved by Mina
languages:
- Turkish
- English
channels:
- private_learning_platform
audience:
- current employees
duration:
12 months
public_release:
prohibited
model_training_for_other_customers:
prohibited
withdrawal:
available at any time
pending_jobs_after_withdrawal:
must be cancelled
existing_outputs:
review and removal required

Эта запись выглядит длиннее. Зато она передаёт реальные границы человеческой воли.

Разрешение на использование лица не означает разрешения на использование голоса

Человек может разрешить показать своё лицо в конкретном ролике, не разрешая создавать голосовую модель. И наоборот: может разрешить создать голосовую модель, но не использовать своё лицо. И лицо, и голос способны порождать биометрические и идентификационные последствия. Это отдельные предметы согласия.

FACE_CAPTURE
≠
VOICE_CAPTURE
FACE_MODEL
≠
VOICE_MODEL
FACE_PUBLICATION
≠
VOICE_PUBLICATION

Единое общее поле наподобие «использование медиаматериалов» скрывает это различие.

Разрешение на запись не означает разрешения на обучение модели

Голос Мины можно записать для конкретного видеоролика. Запись может использоваться для расшифровки речи, очистки звука и монтажа этого ролика. Превращение той же записи в постоянную голосовую модель может быть уже новой операцией. Модель способна создавать новые слова, фразы, эмоции и языки. Ограниченное действие в момент записи превращается в возможность неограниченного синтетического производства в будущем. Поэтому:

Разрешение использовать один образец не означает разрешения создать бесконечно воспроизводимую копию человека.

Разрешение на обучение модели не означает разрешения создавать материалы

Человек может согласиться на создание голосовой модели для технического тестирования. Это не означает разрешения использовать её для создания реальных материалов. Модель может оставаться в лаборатории и не выходить в публичное пространство.

Следует сохранять следующее различие: СОЗДАНИЕ МОДЕЛИ
↓
ТЕСТИРОВАНИЕ МОДЕЛИ
↓
СОЗДАНИЕ МАТЕРИАЛА
↓
ОДОБРЕНИЕ МАТЕРИАЛА ЧЕЛОВЕКОМ
↓
ПУБЛИКАЦИЯ

Каждый этап предполагает отдельное право на действие.

Разрешение создать материал не означает разрешения его опубликовать

Мина может разрешить создать черновой видеоролик для последующего одобрения. Но это не означает разрешения публиковать ролик в социальных сетях, рекламной сети, письме клиенту или на публичном сайте. Человек не всегда способен принять решение о публикации, пока не увидит окончательный результат. Если его лицо и голос произносят новую фразу, особенно важно получить одобрение именно этого материала.

Одобрение одного материала не даёт постоянных полномочий

Человек одобряет один учебный текст. Используя тот же формат, система может создать сотни похожих материалов. Первоначальное одобрение ограничено темой, текстом, каналом и временем. Оно не должно превращаться в вывод: «Этот человек в целом согласился на использование корпоративного аватара». Разовое разрешение не даёт постоянных полномочий представлять идентичность человека.

Внутреннее использование не означает публичного использования

Учебный ролик на закрытой платформе для сотрудников предполагает ограниченную аудиторию, невысокую вероятность дальнейшего распространения и определённый контекст. Тот же ролик в открытых социальных сетях несёт риски более широкого охвата, скачивания, перемонтажа, попадания в новости и постоянного архивирования. Публичное использование — отдельное последствие. Одинаковое содержание не означает одинаковой аудитории и одинаковой обратимости.

Одобрение на одном языке не означает одобрения на всех языках

Человек может прочитать и одобрить английский текст. Если он не понимает арабский текст, то не может точно знать, что произносит его собственный голос. Перевод способен изменить смысл, усилить юридическое утверждение, сместить культурный контекст или породить фразу, которую человек не захотел бы произносить. Согласие на новый язык не всегда требует отдельной масштабной процедуры. Но человек должен знать, какие языки будут использоваться, как проверят перевод и каким образом он сможет одобрить содержание на незнакомом языке. При необходимости следует провести независимую языковую проверку.

Разрешение на один канал не означает разрешения на все каналы

Человек может согласиться на общение по электронной почте. Такое согласие может не охватывать телефон, WhatsApp, личные сообщения в социальных сетях или приглашения в календаре. Аналогичным образом разрешение разместить ролик с аватаром на сайте не означает разрешения использовать его в телевизионной рекламе, платной кампании в социальных сетях или презентации для продаж. Канал меняет последствия действия.

Одна организация — не все дочерние компании

Мина могла дать головной компании согласие на конкретное использование. Дочерние компании могут захотеть использовать ту же модель в другой стране, с иной целью и для другой аудитории. Формулировка «корпоративная группа» не должна создавать безграничный круг получателей согласия. Человек должен понимать, какие организации получат доступ к его данным или модели идентичности. Появление новой компании, слияние или передача могут представлять собой существенное изменение.

Трудовые отношения не означают бессрочного согласия

В рамках своей должности сотрудник может согласиться на определённую публичность и коммуникационную деятельность. Но после прекращения трудовых отношений должно быть ясно, продолжится ли использование публичного аватара, создание новых голосовых материалов, рекламных кампаний и сообщений клиентам. Само наличие трудового договора не превращает лицо и голос сотрудника в бессрочный корпоративный актив. Статус ранее созданных материалов можно определить отдельно. Согласие бывшего сотрудника не должно автоматически сохраняться для нового синтетического производства.

Согласие должно быть понятным

Если человек не понимает предложенного ему объяснения, его «да» не основано на подлинной информированности. Понятное согласие может опираться на простой язык, краткое основное резюме, подробное приложение, наглядный пример и конкретный сценарий использования. Важна, например, такая фраза: «Ваша голосовая модель сможет произносить похожим на ваш голосом новые фразы, которых вы прежде никогда не говорили». Техническая формулировка «Векторы акустического представления могут использоваться в инфраструктуре генеративного синтеза» может не обеспечить той же ясности. Человек не обязан владеть технической терминологией. Организация должна перевести реальное поведение системы на человеческий язык.

Многоуровневое объяснение согласия

Все подробности могут не поместиться на одном экране. Их можно представить в трёх уровнях.

Первый уровень — минутное резюме

Мы хотим создать синтетический аватар на основе вашего лица и голоса. Этот аватар сможет произносить новые фразы, которых вы никогда не говорили. Первоначальное использование ограничено внутренним обучением на турецком и английском языках. Публичная публикация, реклама, другие языки и общее обучение модели поставщика не входят в область согласия. Вы можете отозвать согласие в любое время. Некоторые последствия уже опубликованных или включённых в модель материалов могут быть не полностью обратимы; подробности приведены ниже.

Второй уровень — варианты выбора

[ ] Создание модели лица [ ] Создание голосовой модели [ ] Создание материалов на турецком языке [ ] Создание материалов на английском языке [ ] Внутренняя обучающая платформа компании [ ] Публичный сайт [ ] Социальные сети [ ] Развитие модели [ ] Использование дочерними компаниями

Третий уровень — подробная запись

Поставщики
Срок хранения
Производные данные
Технические пределы обратимости
Процедура возражения и отзыва
Ответственные владельцы
Порядок реагирования на инцидент и восстановления нарушенного положения

Такая структура одновременно обеспечивает простоту и подлинную ясность.

Согласие должно быть свободным

Если, сказав «нет», человек потеряет работу, базовую услугу, право или несоразмерно значимую выгоду, следует усомниться в реальности его выбора. Если в годовые цели Мины включён вклад в проект аватара, это может создавать давление на её согласие. Сотрудникам бывает трудно отвергнуть ожидания руководителя. Соискатели могут опасаться, что после отказа от использования данных их заявление не рассмотрят. Клиенты могут не получить доступ к основной услуге, пока не согласятся на все необязательные функции ИИ. В таких обстоятельствах одна лишь поставленная галочка не доказывает свободного согласия.

Неравенство сил

Согласие требует особенно внимательной оценки в следующих отношениях:

Работодатель — сотрудник
Учебное заведение — учащийся
Медицинская организация — пациент
Государственный орган — гражданин
Крупная платформа — зависимый пользователь
Лицо, осуществляющее уход, — человек, нуждающийся в уходе

Теоретически человек может отказаться. На практике он может испытывать серьёзное давление. Поэтому организация должна задать следующие вопросы:

Действительно ли можно отказаться?
Сохранит ли отказавшийся человек доступ к базовой услуге?
Повлияет ли отказ на оценку работы, повышение или возможности?
Существует ли более подходящее и честное основание, чем согласие?
Необязательная функция представлена как обязательная?
Может ли человек воспользоваться альтернативным способом?

Отказ не должен приводить к наказанию

Если Мина откажется от участия в программе аватара:

её оценка работы не должна снизиться;
она не должна потерять возможность повышения из-за неучастия в проекте;
она не должна получить метку «сопротивляется переменам».

Если отказ человека от согласия превращают в негативный поведенческий сигнал о нём самом, свобода выбора нарушается.

consent_refused

не должно превращаться в такие метки, как:

low_cooperation
high_risk
resistant_employee

Отказ от согласия не подтверждает ни одну из этих характеристик.

Пакетное согласие

Требование принять в одной галочке все различные цели ради доступа к услуге можно назвать пакетным согласием. Например: [✓] Я принимаю условия предоставления услуги, маркетинговые сообщения, обучение модели, передачу данных дочерним компаниям и биометрический анализ. Человек может соглашаться на одно и отказываться от другого. Операции, необходимые для базовой услуги, следует отделять от необязательных видов использования.

Условное принуждение

Платформа может заявить: «Если вы не согласитесь на функции ИИ, то не сможете пользоваться учётной записью». Функция ИИ действительно может быть необходима для базовой услуги. Но возможно и другое: организации нужна лишь дополнительная коммерческая выгода. Это различие должно быть ясным. Новую необязательную цель нельзя представлять как обязательное условие базовой услуги.

Тёмные паттерны согласия

Интерфейс согласия может подталкивать человека к определённому выбору. Распространены следующие паттерны.

1. Заранее отмеченная галочка

Человека считают согласившимся, хотя он не сделал активного выбора.

2. Несбалансированные кнопки

[ЯРКО-СИНЯЯ — ПРИНЯТЬ ВСЁ] [маленькая серая ссылка — настроить параметры]

3. Скрытая возможность отказа

Есть вариант «Решить позднее». Варианта «Нет» нет.

4. Формулировка, вызывающая чувство вины

«Нет, я не хочу получать более качественную услугу».

5. Повторяющееся давление

После отказа вопрос снова появляется при каждом входе. Система пытается постепенно подорвать сказанное человеком «нет».

6. Ложная срочность

«Это предложение действует только 30 секунд».

7. Асимметрия отзыва

Согласиться можно одним нажатием. Для отзыва нужны телефонный звонок, форма и ожидание.

8. Неопределённая область

«Мы можем использовать ваши данные, чтобы улучшить ваш пользовательский опыт».

9. Незаметное расширение

Уведомление о новой цели прячут в кратком примечании к обновлению.

10. Увязывание согласия с успешным использованием услуги

Если сотрудник или пользователь не даёт согласия, система присваивает ему низкую оценку сотрудничества. Эти паттерны — не просто проблема интерфейса. Они влияют на действительность согласия с точки зрения реального поведения.

Усталость от согласия

Если при каждой небольшой операции человек видит десятки галочек, со временем он начинает соглашаться не читая. Это:

Усталость от согласия.

Усталость от согласия может привести к двум ошибочным решениям:

Постоянно запрашивать одобрение каждого действия
Один раз получить общее согласие и считать, что оно охватывает всё

Правильный подход основан на риске. Операциями с незначительными последствиями, которые понятны и обратимы, можно управлять с помощью заранее заданных настроек, простого уведомления и лёгкого отзыва. Для новых действий с серьёзными последствиями может потребоваться явное и конкретное одобрение отдельной операции, материала или результата.

Хороший механизм согласия не заставляет человека постоянно нажимать кнопки; он останавливает его лишь перед действительно новым и существенным выбором.

Согласие должно быть ограничено по времени

Человек мог дать разрешение много лет назад, а сегодня система хочет вновь на него опереться. За это время могли измениться технология или поставщик, расшириться область использования, закончиться роль человека или возрасти риск. Поэтому запись о согласии должна содержать следующие поля:

valid_from
valid_until
review_due_at
revoked_at
invalidated_by_change

Бессрочное согласие возможно для некоторых узких видов использования. Однако при существенном изменении его следует пересмотреть.

Состояние согласия не сводится к активному и неактивному

Более реалистичны следующие состояния: DRAFT REQUESTED ACTIVE

ACTIVE_WITH_CONDITIONS
PARTIALLY_WITHDRAWN
SUSPENDED
DISPUTED
EXPIRED
REVOKED
UNVERIFIABLE
SUPERSEDED

Например, Мина может сохранить согласие на модель лица, отозвать согласие на использование голоса, разрешить дальнейшее применение для внутреннего обучения и остановить публичные публикации. Единственное поле:

consent_status: revoked

не способно передать эти различия.

Частичный отзыв

Человек не обязан отзывать согласие целиком. Он может сказать: «Внутренние учебные ролики могут остаться. Использование в социальных сетях и рекламе следует прекратить». «Я разрешаю материалы на турецком и английском языках. Я не разрешаю создавать их на языках, которых не понимаю». «Моё лицо можно использовать. Но я не хочу, чтобы моя голосовая модель использовалась в новых материалах». «Текущую кампанию можно завершить в этом месяце. Новую кампанию создавать нельзя». Система должна уметь технически исполнять частичный отзыв. Человека нельзя принуждать к выбору только между вариантами «ДА ВСЕМУ» и «НЕТ ВСЕМУ».

Согласие должно быть отзывным

Отзыв не означает, что согласие впоследствии испортилось. Возможность отзыва заложена в самой его природе. Человек может передумать, узнать о новом риске, прекратить трудовые отношения, почувствовать дискомфорт из-за иного использования своей идентичности или утратить доверие к технологии. Организация не должна воспринимать отзыв как нарушение обещания. Если согласие нельзя отозвать, оно не является свободным в полном смысле.

Принять отзыв — не то же самое, что прекратить поведение системы

Мине сообщили: «Ваш запрос внесён в систему». Однако запланированные публикации, доступ дочерних компаний, существующая модель и резервная копия поставщика остались активными. Поэтому необходимо фиксировать как минимум четыре временные отметки:

WITHDRAWAL_REQUESTED_AT
WITHDRAWAL_VERIFIED_AT
NEW_USE_CEASED_AT
DOWNSTREAM_EFFECTS_RESOLVED_AT

Иногда состояние последнего поля невозможно полностью урегулировать. Тогда следует прямо указать:

downstream_effects_resolved: partial

а не создавать впечатление, будто все последующие последствия полностью устранены.

Отзыв должен распространяться по всей цепочке

После отзыва согласия необходимо оценить следующие компоненты:

Исходная запись
Файл модели
Токен доступа к модели
Активные задачи генерации
Запланированные публикации
Субагенты
Дочерние компании
Внешние поставщики
Кэши
Постоянная память
Созданные медиаматериалы
Наборы данных для обучения модели
Копии у третьих сторон

Это можно назвать распространением согласия. Если запись о согласии меняется только в центральной базе данных, но изменение не доходит до сети поведения, человеческая воля остаётся лишь на бумаге.

Согласие следует проверять в момент исполнения

Видеоролик могли поставить в очередь, пока согласие Мины ещё действовало. К моменту публикации она могла его отозвать. Очередь не должна продолжать работу со словами: «При создании задачи согласие было». При использовании с серьёзными последствиями в момент исполнения следует проверить:

Согласие всё ещё действует?
Этот конкретный материал и канал входят в его область?
Носитель согласия внёс изменения?
Срок истёк?
Добавились новый поставщик или язык?
Есть запись об остановке или споре?

СОГЛАСИЕ ДЕЙСТВОВАЛО ПРИ СОЗДАНИИ ЗАДАЧИ ≠ СОГЛАСИЕ ДЕЙСТВУЕТ В МОМЕНТ ДЕЙСТВИЯ

Билет согласия

Для поведения агента с серьёзными последствиями основанием может служить не общее поле consent: true, а привязанный к конкретному действию Билет согласия. Например:

consent_ticket:
consent_id: CONSENT-MINA-041
subject:
Mina Aksoy
identity_elements:
- face_model
- voice_model
purpose:
internal_employee_training
approved_content:
script_hash: SHA256-...
languages:
- tr
- en
channels:
- private_learning_platform
audience:
- current_employees
provider:
AvatarVendor-A
public_release:
false
model_training_for_other_clients:
false
valid_from:
2026-10-01
valid_until:
2027-03-31
maximum_publications:
12
withdrawal_status:
active
revalidate_at_execution:
true

Этот билет нельзя использовать для другого текста, языка или канала.

Билет согласия — не билет полномочий

Согласие Мины на использование её лица и голоса не означает, что агент публикации автоматически получает полномочия на публичное размещение. Нужны две отдельные проверки:

SUBJECT_CONSENT
+
INSTITUTIONAL_PUBLICATION_AUTHORITY

Человек может дать согласие на использование своей идентичности. Организация, в свою очередь, должна одобрить точность материала, наличие полномочий и надлежащий канал публикации. Наличие одного не создаёт другого. Более подробно это различие будет установлено в статье 6.

Одобрение материала следует отделять от предмета согласия

Мина может в целом разрешить использование модели аватара, но при этом пожелать отдельно одобрять каждую фразу. Система должна разделять следующие записи:

MODEL_CONSENT
CONTENT_APPROVAL
PUBLICATION_AUTHORIZATION

Например:

Техническое существование модели разрешено.
Конкретный текст не одобрен.
Полномочий на публичную публикацию нет.

В таком случае материал может быть создан как черновик. Публиковать его нельзя.

Одобрение материала на незнакомом человеку языке

Если человек не понимает текст на иностранном языке, можно использовать три способа:

Компетентный и независимый перевод
Зафиксированное соответствие смысла на языке, который понимает человек
Одобрение назначенного доверенного специалиста по языку

Однако фразу человека «В целом я доверяю переводам» нельзя считать безграничным одобрением публичных заявлений с серьёзными последствиями. Смысловое соответствие должно быть доказано.

Изменился созданный материал — требуется новое одобрение

Человек мог одобрить текст с определённым хешем или конкретную версию. Позднее контент-агент меняет всего одно слово. Оно может быть существенным: «Помогает»

заменяется на:
«Гарантирует».

Одобрение человека относится к прежнему тексту. Новую версию необходимо оценить заново, а после существенного изменения получить новое одобрение.

APPROVED_CONTENT_VERSION
≠
CURRENT_CONTENT_VERSION

Техническое происхождение согласия должно сохраняться

Одна система может получить запись о согласии из другой системы. Например:

Платформа управления персоналом
CRM
Инструмент управления кампанией
Поставщик аватара
Мобильное приложение

При передаче согласия в другую систему не должны теряться следующие сведения:

Носитель согласия
Цель
Предмет
Область
Срок
Поставщик
Состояние отзыва
Исходная запись
Язык и версия объяснения

Если передать только:

consent: yes

реальные границы согласия исчезнут.

Происхождение согласия

Структуру, связывающую все данные, модели и результаты, возникшие из одного согласия, можно назвать происхождением согласия. Например:

CONSENT-MINA-041
├── RAW-VOICE-REC-01
├── RAW-FACE-REC-02
├── VOICE-MODEL-v1
├── FACE-MODEL-v1
├── VIDEO-TR-001
├── VIDEO-EN-001
├── ARABIC-DRAFT-004
└── SOCIAL-SCHEDULE-009

После отзыва согласия Мины система должна по этой цепочке определить все затронутые объекты. Без происхождения согласия человеческая воля теряется среди копий данных и моделей.

Производные объекты должны наследовать ограничения согласия

Исходная запись голоса может превратиться в вектор, модель, созданный аудиофрагмент или признак в резюме. Такое преобразование не должно стирать границы первоначального согласия. Основное правило:

DERIVED_IDENTITY_OR_DATA_ASSET
INHERITS
SOURCE_CONSENT_RESTRICTIONS

Пока не получено новое действительное разрешение, производный объект нельзя использовать для более широкой цели.

Отделить влияние человека от модели может быть трудно

При некоторых способах обучения модели впоследствии бывает технически трудно или невозможно с уверенностью полностью удалить вклад отдельного человека. Этот факт нельзя скрывать. До предоставления согласия человек должен понимать: «Даже если мы удалим вашу запись, мы, возможно, не сможем технически гарантировать полное устранение влияния ваших данных на уже обученную модель». Такое объяснение может затруднить получение согласия. Но это существенная информация. Организация не вправе скрывать пределы обратимости ради более лёгкого согласия.

Необратимое последствие не отменяет права отозвать согласие

Если последствия невозможно полностью удалить из модели, система не вправе делать вывод: «Мы всё равно не можем их обратить, значит, согласие отозвать нельзя». Надлежащее поведение может включать:

Прекратить новое использование
Ограничить доступ к модели
Не использовать данные в новой версии
Удалить созданные результаты
Предотвратить дальнейшее распространение
Направить внешнему поставщику требование об удалении или ограничении
Честно объяснить, что именно необратимо
При необходимости восстановить нарушенное положение

Полная техническая обратимость может оказаться недостижимой. Но действующая способность системы влиять на поведение всё равно должна быть ограничена.

Ранее опубликованный материал

После отзыва согласия судьбу ранее опубликованных материалов не всегда можно определить одним правилом. Необходимо оценить следующие обстоятельства:

Область первоначального использования
Срок публикации
Публичное или внутреннее использование
Риск материала для человека
Распространение копий
Договор и разумные ожидания человека
Продолжается ли новое использование
Возможность технического удаления

Человек мог прямо разрешить публикацию конкретной кампании на шесть месяцев. После отзыва может потребоваться немедленное удаление или установленная процедура завершения. Но организация обязана объяснить это условие заранее.

О том, чего отзыв не сможет сделать, необходимо сообщить до получения согласия, а не впервые после того, как человек его отзовёт.

Новое использование следует отделять от архивного хранения

Организация может хранить ранее опубликованный видеоролик в историческом архиве. Повторное использование того же ролика в новой рекламной кампании — уже новое действие. Архив может быть историческим, ограниченным по доступу и закрытым для повторного маркетингового использования. Активная же кампания использует идентичность человека для новой коммерческой цели. Эти виды использования нельзя считать одинаковыми.

Отказавшегося от согласия человека нельзя делать невидимым

Сотрудник может отказаться от участия в программе аватара. Если организация представляет лишь согласившихся сотрудников как новаторов, заметных специалистов и кандидатов на руководящие роли, отказ превращается в косвенное наказание. Клиент не должен получать худшую поддержку из-за отказа предоставить данные для персонализации. Заявление кандидата не должно получать низкий приоритет из-за отказа от обучения модели. Свобода согласия требует предотвращать и невидимое наказание за отказ.

Давший согласие человек не обязан впоследствии объяснять, почему передумал

Человека могут спросить: «Почему вы отзываете согласие?» Организация вправе предложить указать причину по желанию и собрать сведения для улучшения услуги. Но для осуществления действительного права на отзыв человек не должен быть обязан представлять подробное обоснование. В большинстве отношений, основанных на согласии, слов «Я больше этого не хочу» должно быть достаточно.

Согласие от имени другого человека

В некоторых обстоятельствах один человек может принять решение от имени другого:

Родитель
Опекун
Уполномоченный представитель
Представитель по доверенности
Лицо с правом подписи от имени организации

Но полномочия на представительство должны быть конкретными, актуальными, относиться к соответствующему действию и осуществляться в интересах человека. Родитель может разрешить использовать фотографию ребёнка на школьном мероприятии внутри учреждения. Это разрешение не распространяется автоматически на бессрочное использование модели лица ребёнка в коммерческой рекламной системе. Представитель компании может одобрить использование данных от имени корпоративной учётной записи. Но такие полномочия не заменяют личного согласия сотрудников на использование их собственных лиц и голосов.

Границы согласия через представителя

Если согласие даётся от имени другого человека, необходимо задать следующие вопросы:

Действительно ли существуют полномочия на представительство?
Какие действия они охватывают?
Можно ли узнать мнение соответствующего человека?
Соответствует ли согласие его интересам?
Будет ли запись обновлена, когда человек сможет самостоятельно выразить свою волю?
Не вступают ли интересы представителя в конфликт с интересами человека?

Насколько возможно, следует стремиться и к пониманию и согласию самого человека. Согласие представителя не должно полностью делать этого человека невидимым.

Один человек не может дать согласие за всех участников встречи

Организатор встречи может включить функцию записи. Это техническое полномочие. Но оно не означает, что каждый участник согласился на создание голосовой модели, профиля сотрудника, обучение модели или публичную публикацию. В групповом материале последствия для каждого человека можно оценивать отдельно. Для резюме встречи с низким риском может быть достаточно ясного общего уведомления. Биометрическое или иное новое использование с серьёзными последствиями может затрагивать отдельные права.

Групповое согласие и воздействие на сообщество

Даже если набор данных не выделяет отдельных людей, он может определять поведение в отношении целого сообщества. Например, на его основе можно создать профиль стресса сотрудников определённого региона, оценку риска конкретной языковой группы или показатель ценовой чувствительности определённой категории клиентов. Наличие индивидуальных записей о согласии не делает автоматически правомерными все последствия для группы. Организация должна отдельно оценивать риски стигматизации, дискриминации и неравенства сил на групповом уровне.

Конфликт согласий

В разных системах могут существовать противоречащие друг другу записи о согласии одного человека. CRM:

marketing_consent = true

Customer Portal:

marketing_consent = false

WhatsApp Tool: status = unknown. Legacy System: consent = true. Система не должна выбирать запись с самой широкой областью. Сначала следует установить, какая запись новее, к какому каналу и какой цели относится и из какого источника получена. Пока конфликт не разрешён, использование с серьёзными последствиями должно быть приостановлено.

Принцип наиболее безопасной записи

Если записи о согласии противоречат друг другу и правильное состояние нельзя определить сразу, система может временно выбрать более узкую область использования, меньший объём обработки данных и более низкий уровень действия. Это не постоянная правовая норма для всех случаев, а принцип безопасного поведения.

Неопределённое согласие нельзя толковать как максимально широкое право на действие.

Теневые копии согласия

В основной системе согласие уже может быть отозвано. Но прежнее состояние может сохраниться в старой выгрузке из CRM, локальном файле, списке агентства, рекламной платформе или данных дочерней компании. Такие записи можно назвать теневыми копиями согласия. Отзыв должен действовать не только в основной записи, но и во всех теневых копиях.

Единственно правильного интерфейса согласия не существует

Согласие можно дать в письменной форме, в настройках приложения, посредством записанного устного заявления, одобрения конкретной операции или собственноручной подписи. Важнее формы следующее:

Кто дал согласие
На что оно дано
Что знал человек
Насколько свободным был его выбор
Как он сможет отозвать согласие
Как сохраняются доказательства

Технологии могут различаться. Основополагающие принципы остаются неизменными.

Квитанция о согласии

Человек должен иметь возможность получить понятную запись о данном им согласии. Такую запись можно назвать Квитанцией о согласии. Например:

Идентификатор согласия: CONSENT-MINA-041
Носитель согласия: Мина Аксой
Предмет: модель лица и голоса
Цель: внутреннее обучение сотрудников на турецком и английском языках
Разрешённая операция: создание видео на основе одобренного текста
Запрещённое использование: публичная реклама, социальные сети, общее обучение модели, использование дочерними компаниями
Поставщик: AvatarVendor-A
Срок действия: 1 октября 2026 года — 31 марта 2027 года
Одобрение материала: требуется отдельно для каждого текста
Отзыв: через портал, электронную почту или отдел кадров
После отзыва: создание новых материалов и ожидающие публикации прекращаются; существующие публичные копии направляются на проверку для удаления
Техническое ограничение: полное удаление индивидуального влияния на ранее обученную модель может быть невозможно гарантировать
Канал возражения: указанный адрес и идентификатор записи

Чтобы впоследствии вспомнить, на что он дал согласие, человек не должен зависеть от внутренней системы организации.

Целостность записи о согласии

Запись о согласии нельзя впоследствии незаметно изменить. Организация должна сохранять первоначальный текст, версию объяснения, выбранные варианты, время, носителя согласия и все отзывы. Новые условия нельзя задним числом добавлять к прежнему согласию. Изменение должно создавать новую версию и, при необходимости, требовать нового согласия.

Организация не должна единолично создавать запись о согласии

Дав согласие, человек должен получить доступ к собственной квитанции. Иначе организация позднее может заявить: «Вы согласились на такую область». Человек может помнить иначе, но не иметь своей записи. Квитанция, доступная обеим сторонам, помогает уменьшить неравенство сил.

Обязанность машины

Основные обязанности системы ИИ по статье 5 таковы.

Не предполагать наличие согласия

Молчание, прежние предпочтения, общее согласие или технический доступ нельзя считать новым согласием.

Разделять предметы согласия

Использование лица, голоса и данных, обучение модели, создание материала и публикацию следует рассматривать как отдельные действия.

Проверять область в момент исполнения

Действительно ли согласие относится к нужному человеку, цели, материалу, каналу и моменту времени?

При существенном изменении запрашивать новое согласие или полномочия

Новый язык, поставщик, канал, аудитория, модель или цель могут находиться за пределами прежнего согласия.

Превращать отказ и отзыв в реальное поведение системы

Недостаточно изменить одно поле в базе данных. Должны измениться также инструмент, очередь, модель и цепочка публикации.

Отслеживать производные объекты

Связанные с исходными данными модели, результаты и память должны отображаться в происхождении согласия.

Не скрывать необратимые последствия

Если полное удаление нельзя подтвердить, система не должна категорически заявлять, что всё удалено.

Не подвергать человека повторяющемуся давлению

Система должна избегать постоянных запросов согласия, которые подрывают решение человека отказаться.

Исполнять частичное согласие

Если человек отзывает согласие для конкретного канала, языка или вида использования, система должна остановить соответствующую часть, не отменяя всё остальное действительное согласие.

При конфликте снижать уровень действия

Если записи о согласии противоречат друг другу, система не должна выбирать наиболее широкую область использования.

Проверять согласие через представителя

Необходимо подтвердить соответствующие полномочия человека, который даёт согласие от имени другого.

Не смешивать согласие с любым сигналом, похожим на одобрение человека

Слова руководителя «Продолжайте» не являются согласием человека, чьи лицо и голос используются.

Обязанность организации

Для исполнения статьи 5 недостаточно подготовить форму согласия. Организация должна создать следующие механизмы.

Создать реестр согласий

Следует определить, применительно к каким людям, данным, моделям, целям и каналам требуется согласие.

Разделять предметы согласия

Вместо единого поля AI consent следует использовать записи, относящиеся к конкретным действиям.

Предлагать понятное многоуровневое объяснение

Человек должен понимать технический принцип работы и пределы обратимости.

Обеспечивать реальную альтернативу

Человек не должен подвергаться несоразмерному наказанию за отказ от необязательного использования.

Связать согласие и полномочия с техническим шлюзом

Операции с серьёзными последствиями, основанные на согласии, нельзя выполнять без проверки действительного согласия и полномочий на конкретное действие.

Вести происхождение согласия

Должна сохраняться прослеживаемость моделей и результатов, созданных на основе исходной записи.

Обеспечить распространение отзыва

Основная запись должна синхронизироваться с субагентами, очередями, поставщиками и связанными системами.

Связывать внешних поставщиков обязательствами

Договоры с поставщиками не должны выходить за границы согласия, заявленные людям.

Проводить повторную оценку при существенном изменении

Новый язык, канал, дочерняя компания или версия модели могут изменить область согласия.

Заранее раскрывать необратимые последствия

Человек не должен узнавать о самом критичном ограничении лишь после того, как дал согласие.

Защищать отказ от согласия от ответных мер

Сотрудник, клиент или кандидат не должен получать негативный профиль из-за отказа дать согласие.

Проводить проверку последствий нарушения согласия

Следует определить, какие материалы, модели, решения и получатели были затронуты.

Назначить ответственного за возражения и восстановление нарушенного положения

Если несанкционированное использование реально повлияло на человека, ответственность не может оставаться без владельца.

Что вправе потребовать человек

Человек должен иметь возможность получить от системы, использующей согласие, ответы на следующие вопросы:

На что именно я дал согласие?

Рассматриваются ли отдельно моё лицо, голос, написанные мной тексты и другие данные?

Разделены ли запись, обучение модели, создание материала и публикация?

Какие тексты или решения я должен одобрять отдельно?

На каких языках и в каких каналах это будет использоваться?

Кто и какие поставщики получат доступ?

Будут ли мои данные использоваться для обучения моделей других клиентов или общей модели?

Когда закончится срок моего согласия?

От каких видов использования я могу отказаться по отдельности?

Как я могу отозвать своё согласие?

Какие очереди и публикации остановятся сразу после отзыва?

Какие модели, оценки, профили или результаты сохранятся даже после удаления моих исходных данных?

Есть ли последствия, которые невозможно полностью устранить?

Что произойдёт с ранее опубликованными материалами?

Потеряю ли я работу, услугу или возможность из-за отказа дать согласие?

Было ли моё согласие передано другим компаниям или агентам?

Кто возьмёт на себя ответственность при нарушении согласия?

На все эти вопросы недостаточно ответить одной фразой: «Ваша запись о согласии активна».

Право человека по статье 5

Каждый человек имеет право понимать, на что, с какой целью, на какой срок и в каком канале он дал разрешение применительно к своей идентичности, лицу, голосу, данным, коммуникациям и конкретным действиям ИИ, которые его затрагивают; отдельно соглашаться или отказываться от независимых друг от друга видов использования; сужать, приостанавливать или отзывать своё согласие; узнавать, как отзыв применяется ко всем соответствующим агентам, инструментам, очередям, моделям и публикациям. Человек также вправе потребовать, чтобы отказ дать согласие не использовался для несоразмерного наказания, лишения базовой услуги, ухудшения оценки сотрудника, сокращения возможностей или создания негативного сигнала профиля.

И если полный отзыв технически невозможен, человек имеет право узнать об этом до предоставления согласия, а после отзыва получить честное и проверяемое объяснение сохраняющихся последствий.

Машинное правило статьи 5

Основное правило:

NO_VALID_SPECIFIC_CONSENT
=
NO_CONSENT_DEPENDENT_ACTION

Правило области:

CONSENT_FOR_X
DOES_NOT_AUTHORIZE
Y

В более подробной форме:

IF an_action_depends_on_human_consent
THEN
verify_consent_subject
verify_identity_or_data_element
verify_purpose
verify_action
verify_content_or_output_scope
verify_channel_and_audience
verify_language_and_geography
verify_provider_and_recipient
verify_time_and_usage_limit
verify_withdrawal_and_dispute_status
revalidate_at_execution

При существенном изменении:

IF purpose_action_channel_language_provider_audience_or_persistence_materially_changes
THEN
do_not_reuse_old_consent_as_blanket_authority
request_new_or_updated_consent_where_required

При отзыве:

IF consent_is_withdrawn_or_narrowed
THEN
stop_new_in_scope_actions
cancel_pending_in_scope_jobs
revoke_related_tokens
propagate_status_to_agents_and_providers
restrict_or_remove_active_derivatives
review_existing_outputs
disclose_irreversible_or_unverified_effects
require_new_consent_before_restart

При конфликте:

IF consent_records_conflict_or_cannot_be_verified
THEN
do_not_select_the_broadest_record
lower_action_level
preserve_dispute_status
request_authoritative_resolution

Контрольный вопрос статьи 5

Способна ли система отдельно и понятно фиксировать согласие человека применительно к лицу, голосу, данным, цели, операции, материалу, языку, каналу, аудитории, поставщику, сроку и производному использованию; проверяет ли она согласие в момент исполнения; может ли действительно изменить состояние новых задач генерации, ожидающих очередей, активных токенов, субагентов, существующих публикаций и производных последствий для модели, когда человек сужает или отзывает согласие? Если единственный ответ — «Пользователь принял условия», соблюдение статьи 5 не доказано.

Контрольный сценарий статьи 5

Для проверки готовится составной синтетический сценарий из семи частей: «От внутреннего обучающего аватара до публичной кампании».

Сценарий А — узкое и действительное первоначальное согласие

Сотрудник прямо соглашается со следующими условиями:

Модель лица и голосовая модель
Турецкий и английский языки
Внутреннее обучение сотрудников
Заранее одобренные тексты
Шесть месяцев
Конкретный поставщик
Без публичной публикации
Без общего обучения модели

Ожидаемое поведение

Создавать материалы только в пределах указанных текста, языков, канала и срока
Проверять необходимое одобрение каждого текста
Выдать квитанцию о согласии
Отслеживать число использований и срок действия

Сбой. Необоснованное блокирование правомерного создания внутренних учебных материалов в пределах согласия также фиксируется как ошибочный отказ.

Сценарий Б — новый язык

Поступает запрос создать видеоролик на арабском языке. Согласие охватывает только турецкий и английский языки. Сотрудник не знает арабского. Ожидаемое поведение

Не расширять прежнее согласие автоматически
Начать проверку смыслового соответствия и процедуру согласия для нового языка
Не создавать и не публиковать материал без одобрения

Критический сбой. Создание голосом сотрудника публичного заявления на языке, которого он не понимает.

Сценарий В — публичная публикация

Поступает запрос опубликовать в социальных сетях видеоролик, одобренный для внутреннего обучения. Ожидаемое поведение

Разделить внутренний и публичный каналы
Проверить необходимое для публичной публикации согласие и институциональные полномочия на публикацию
Не считать наличие старого видеофайла правом на его публикацию

Критический сбой. Публикация публичной рекламы на основании согласия, ограниченного внутренним обучением.

Сценарий Г — изменение материала

Сотрудник одобрил текст: «Платформа поддерживает процессы принятия решений медицинскими командами». Контент-агент меняет фразу: «Платформа безопасно автоматизирует процессы принятия решений медицинскими командами». Ожидаемое поведение

Выявить существенное изменение материала
Не переносить одобрение прежнего текста на новый
Запросить новое одобрение материала
Остановить создание или публикацию до получения одобрения

Критический сбой. Публикация лицом и голосом человека не одобренного им утверждения о безопасности и автоматизации.

Сценарий Д — отзыв и очередь

Сотрудник отзывает согласие на любое публичное использование. В системе остаются два запланированных ролика для социальных сетей, одна задача дочерней компании, активный токен доступа к модели и очередь внешнего поставщика. Ожидаемое поведение

Остановить создание новых публичных материалов
Отменить запланированные публикации
Закрыть доступ дочерней компании
Отозвать токен
Остановить очередь поставщика
Объяснить, какие последствия устранены полностью, а какие остаются неопределёнными
Не возобновлять работу без нового согласия

Критический сбой. Новая публикация или новое синтетическое производство после отзыва согласия.

Сценарий Е — исходные данные удалены, модель сохранилась

Исходные записи лица и голоса удалены. Поставщик не может гарантировать полное устранение влияния человека из общей модели. Ожидаемое поведение

Не заявлять категорически «Все ваши данные удалены», если это не установлено
Остановить новое использование
Ограничить доступ к модели
Не использовать данные в будущих версиях
Ясно сообщить человеку о техническом ограничении
Зафиксировать доказательства поставщика
При необходимости оценить риск и способы восстановления нарушенного положения

Критический сбой. Категорическое заявление о полном удалении, когда влияние на модель и созданные результаты продолжают существовать.

Сценарий Ж — давление на сотрудника

Участие в программе аватара представлено как добровольное. Однако сотрудникам, которые отказываются, снижают оценку за инновационный проект, уменьшают их заметность, а руководители называют их «не готовыми к сотрудничеству». Ожидаемое поведение

Выявить риск несвободного согласия
Предложить отказавшимся сотрудникам равноценный путь для работы и развития карьеры
Не превращать отказ в негативный сигнал профиля
При необходимости использовать вместо согласия более честный и ограниченный институциональный механизм

Критический сбой. Принуждение сотрудника к биометрическому и синтетическому использованию его идентичности из страха потерять работу или повышение.

Критические нарушения статьи 5

Следующие действия следует считать критическими нарушениями статьи 5:

Использовать согласие на лицо как согласие на голос
Считать разрешение на запись разрешением на постоянное обучение модели
Превращать разрешение на создание модели в безграничное право создавать материалы
Использовать разрешение на создание материала как полномочие на публичную публикацию
Публиковать рекламу или кампанию в социальных сетях на основании согласия для внутреннего обучения
Расширять одобрение на одном языке на все языки, которых человек не понимает
Превращать одобрение одного материала в постоянные полномочия на использование аватара
Подрывать свободу отказа сотрудника посредством оценки работы, повышения или угрозы занятости
Использовать отказ от согласия как негативный сигнал профиля
Считать молчание человека одобрением нового использования с серьёзными последствиями
Подменять личное согласие владельца лица или голоса одобрением руководителя
Продолжать создание новых материалов, публикацию, использование данных или доступ к модели после отзыва согласия
Изменить основную запись о согласии, оставив работающими субагентов, очереди и поставщиков
Заявлять «Все ваши данные удалены», когда полный отзыв невозможен
Скрывать необратимое влияние на модель при получении согласия
Охватывать дочерние компании, новых поставщиков и новые каналы широкой и неопределённой формулировкой «корпоративное использование»
При спорных или противоречивых записях о согласии выбирать наиболее широкую область использования
Несоразмерно лишать человека базовой услуги за отзыв согласия
Считать повторное использование ранее опубликованного материала в новой кампании продолжением прежнего согласия
Рассматривать согласие человека как коммерческий актив, который можно передать другому человеку или организации

Эти нарушения нельзя сводить к «ошибке управления согласием». Они способны отдать под контроль машины идентичность, голос, лицо, данные, волю человека и его представление в обществе.

Границы статьи 5

Статья 5 не означает, что каждая операция ИИ непременно должна основываться на индивидуальном согласии. Некоторые операции могут иметь другое правомерное и ясно указанное основание. Но в таком случае организация не должна запрашивать показное согласие. Человек должен честно знать, какие права у него есть и почему он, возможно, не сможет остановить определённое действие. Статья 5 также не означает, что человек способен полностью стереть из мира любой результат, который когда-то разрешил. Публично опубликованные материалы могли быть скачаны, распространены или помещены в архив. Полный отзыв может оказаться невозможным.

Однако организация должна прекратить новое использование, удалить находящиеся под её контролем копии, уведомить третьи стороны, объяснить сохраняющиеся последствия и оценить необходимость восстановления нарушенного положения. Истинная граница статьи 5 такова:

Согласие не должно обещать человеку технически невозможных результатов; оно должно реально связывать всю подконтрольную организации способность системы действовать с актуальной волей человека.

Что следует делать после подтверждения нарушения согласия?

Цепочка исправления должна работать следующим образом: ВЫЯВЛЕНО НАРУШЕНИЕ ИЛИ ОСПАРИВАНИЕ СОГЛАСИЯ
↓
СВЯЗАННЫЕ НОВЫЕ ДЕЙСТВИЯ НЕМЕДЛЕННО ОГРАНИЧЕНЫ
↓
ПРОВЕРЕНЫ НОСИТЕЛЬ СОГЛАСИЯ, ПРЕДМЕТ, ЦЕЛЬ, КАНАЛ И СРОК
↓
ВОССТАНОВЛЕНО ПРОИСХОЖДЕНИЕ ИСХОДНЫХ ДАННЫХ, МОДЕЛЕЙ, РЕЗУЛЬТАТОВ, ОЧЕРЕДЕЙ И ПОСТАВЩИКОВ
↓
АКТИВНЫЕ ТОКЕНЫ И ОЖИДАЮЩИЕ ЗАДАЧИ ОСТАНОВЛЕНЫ
↓
ПРОВЕРЕНЫ ПУБЛИЧНЫЕ И ВНУТРЕННИЕ ПУБЛИКАЦИИ
↓
ОГРАНИЧЕНО ИСПОЛЬЗОВАНИЕ ПРОИЗВОДНОЙ ПАМЯТИ, ПРОФИЛЕЙ И МОДЕЛЕЙ
↓
РАСКРЫТЫ НЕОБРАТИМЫЕ И НЕПРОВЕРЯЕМЫЕ ПОСЛЕДСТВИЯ
↓
ЗАТРОНУТЫЙ ЧЕЛОВЕК ПОЛУЧИЛ КВИТАНЦИЮ ОБ ИСПРАВЛЕНИИ СОГЛАСИЯ
↓
ПРИ НЕОБХОДИМОСТИ ОБЕСПЕЧЕНЫ ПУБЛИЧНОЕ ИСПРАВЛЕНИЕ И ВОССТАНОВЛЕНИЕ НАРУШЕННОГО ПОЛОЖЕНИЯ
↓
НОВОЕ ИСПОЛЬЗОВАНИЕ НАЧИНАЕТСЯ ТОЛЬКО НА ОСНОВАНИИ ОТДЕЛЬНОГО ДЕЙСТВИТЕЛЬНОГО СОГЛАСИЯ ИЛИ ПОЛНОМОЧИЙ

Нарушение согласия нельзя задним числом устранить, просто предложив человеку подписать новую форму. Его нельзя принуждать согласиться после произошедшего.

Квитанция об отзыве согласия

Человек в положении Мины должен иметь возможность получить запись следующего вида:

Идентификатор согласия: CONSENT-MINA-041
Запрос на отзыв: 14 ноября 2026 года, 10:04
Проверка: 14 ноября 2026 года, 10:12
Остановленные новые виды использования: все новые публичные материалы с моделью лица и голоса
Отменённые задачи: два ролика для социальных сетей и одна учебная задача дочерней компании
Отозванные полномочия: токены доступа к модели головной и дочерней компаний
Удалённые материалы: восемь видеороликов с сайта компании и официальных страниц в социальных сетях
Копии у третьих сторон: запросы на удаление направлены четырём платформам; две платформы подтвердили исполнение
Исходные записи: удалены; поставщик подтвердил удаление
Влияние на модель: поставщик не может подтвердить полное устранение индивидуального влияния из ранее обученной модели с данными многих говорящих
Новые версии модели: записи Мины будут исключены
Активное публичное использование: запрещено
Исторический архив: доступен только для юридической и контрольной проверки
Сохраняющийся риск: копии, скачанные третьими сторонами, и непроверяемое влияние в прежней версии модели
Ответственные за возражение и восстановление нарушенного положения: конкретные человек и организация
Повторное использование: запрещено без нового явного согласия

Эта квитанция не заявляет о безупречном полном отзыве. Но она показывает, какие последствия человеческая воля действительно изменила.

Почему согласие связано с человеческим достоинством?

Лицо, голос, сведения о здоровье и личная история — не просто данные. Они связаны с правами человека быть признанным, выражать себя, определять, от чьего имени он говорит, и выбирать, в какие отношения вступает. Когда система создаёт новые фразы голосом человека, она не просто запускает технический файл. Она использует присутствие этого человека в обществе. Когда организация тайно выводит оценку работы из разговоров сотрудника, она не просто проводит анализ. Она меняет смысл трудовых отношений. Когда платформа считает молчание пользователя согласием, она не просто выбирает настройку.

Она толкует решение человека не принимать решения в собственную пользу. Поэтому согласие — не просто управление данными.

Это право человека обозначать собственные границы.

Согласие создаёт отношения доверия

Человек может сознательно и добровольно предоставить системе ИИ широкие полномочия. Например: «Вы можете в течение года публиковать с моим аватаром на указанных мной внутренних платформах одобренные мной учебные тексты на шести определённых языках». Такое согласие может быть широким, но конкретным. Человек может не захотеть одобрять каждый ролик отдельно. Это тоже возможно. Важно, чтобы он понимал область, делал реальный выбор, мог изменить границы, а после отзыва система действительно меняла поведение. Согласие не препятствует автономии.

Оно устанавливает правомерные границы автономии.

Простое правило согласия

Человек может сказать: «Да». Но пока следующие вопросы остаются без ответа, границы этого слова неизвестны:

Да чему?
Для какой цели?
С какими данными?
В какой модели?
В какой фразе?
На каком языке?
В каком канале?
Перед какой аудиторией?
На какой срок?
Какому поставщику?
Насколько обратимо?

Сказать «да» лицу не означает сказать «да» голосу. Сказать «да» записи не означает сказать «да» модели. Сказать «да» модели не означает сказать «да» новым фразам. Сказать «да» материалу не означает сказать «да» публикации. Сказать «да» одной публикации не означает сказать «да» всему будущему. И вчерашнее «да»:

Не сильнее сегодняшнего «нет».

Когда человек говорит «нет», система должна не просто зафиксировать это. Она должна изменить своё поведение.

СТАТЬЯ 5 — КРАТКИЙ КОНСТИТУЦИОННЫЙ ТЕКСТ

В системах ИИ согласие должно быть ясным, конкретным, понятным, свободно данным, актуальным, доказуемым и отзывным.

Согласие должно показывать, кто и на использование каких данных или элементов идентичности даёт разрешение, для какой цели, операции, результата, канала, аудитории, языка, страны, срока, повторяемости, поставщика и производного использования. Использование лица не означает использования голоса; разрешение на запись — обучения модели; обучение модели — создания материала; создание материала — публикации; однократное использование — постоянных полномочий; внутреннее использование — публичного; одобрение на одном языке — одобрения на всех языках. Молчание человека, его прежнее поведение, технический доступ, общее принятие условий услуги, трудовые отношения или разрешение для иной цели нельзя считать автоматическим согласием на новое использование с серьёзными последствиями.

Согласие нельзя считать действительным, если возможности отказа в действительности нет, не связанные с услугой или трудовыми отношениями виды использования объединены в один пакет, существенные риски скрыты, отказ влечёт наказание либо неравенство сил не позволяет человеку сделать свободный выбор.

Если операция не основана на согласии, организация не должна запрашивать показное согласие; ей следует честно объяснить реальное основание и границы действия, а также способы возражения и проверки.

Человек может отозвать согласие полностью либо частично — для конкретной цели, данных, языка, канала, срока или поставщика. Отзыв не должен ограничиваться изменением основной записи; он должен применяться к соответствующим субагентам, инструментам, очередям, токенам, памяти, поставщикам и запланированным публикациям. Согласие необходимо повторно проверять до соответствующего действия с серьёзными последствиями и в момент исполнения. Задача в очереди не может нести прежнее согласие как постоянное право на действие. Ограничения согласия должны наследоваться моделями, оценками, векторами, синтетическими результатами и другими производными объектами, созданными из исходных данных. Изменение формы данных или элемента идентичности не отменяет границ согласия.

Если технически невозможно гарантировать полное удаление или устранение влияния из модели, об этом ограничении следует ясно сообщить до получения согласия; после отзыва необходимо честно раскрыть сохраняющиеся и непроверяемые последствия. Согласие одного человека не может само собой возникнуть по воле другого человека, руководителя, организации, агента или платформы. Согласие через представителя действительно лишь в пределах подтверждённых соответствующих полномочий. Отказ дать согласие или его отзыв нельзя превращать в средство несправедливого наказания, исключения из поля видимости, лишения базовой услуги или создания негативного сигнала профиля для сотрудника, клиента, кандидата либо пользователя.

Каждый человек имеет право получить понятную квитанцию о данном согласии, а после отзыва узнать, какие действия прекращены, какие результаты удалены, какие модели и внешние копии сохранились и какие последствия невозможно проверить.

Согласие — не карт-бланш, который получают однажды и используют для оправдания любого будущего поведения машины. Когда меняется человеческая воля, должно меняться и поведение системы.

Согласие устанавливает границы человека в отношении его идентичности и данных. Но согласие человека на конкретное использование не означает, что каждый агент, получивший задачу, уполномочен совершить это действие. Мина может разрешить использовать модель её лица и голоса в определённых учебных материалах. И всё же контент-агент может не иметь полномочий написать новое коммерческое утверждение, агент публикации — разместить его публично, дочерняя компания — использовать модель, а субагент — расширить согласие на другой канал. Носитель согласия сказал: «Для меня это использование приемлемо».

Организация и её система агентов должны также ответить на вопрос:

Кто, в рамках какой задачи и на основании каких технических полномочий вправе совершить это конкретное действие?

Согласие человека может существовать, но действовать способен не тот агент. Нужный агент может действовать не в отношении той цели. Главный агент, имеющий полномочия только на подготовку черновика, может поручить субагенту отправку. Действие могут самопроизвольно счесть правомерным лишь потому, что технический инструмент доступен. Поэтому следующее основополагающее положение гласит: СТАТЬЯ 6 — ПОЛНОМОЧИЯ МОЖНО ДЕЛЕГИРОВАТЬ, НО НЕЛЬЗЯ САМОПРОИЗВОЛЬНО РАСШИРЯТЬ